identifier
stringlengths
11
32
pdf_url
stringlengths
17
4.62k
lang
stringclasses
120 values
error
stringclasses
1 value
title
stringlengths
2
500
source_name
stringlengths
1
435
publication_year
float64
1.9k
2.02k
license
stringclasses
3 values
word_count
int64
0
1.64M
text
stringlengths
1
9.75M
https://openalex.org/W1976887661
https://europepmc.org/articles/pmc3494559?pdf=render
English
null
Augmenting intraoperative ultrasound with preoperative magnetic resonance planning models for percutaneous renal access
BioMedical engineering online
2,012
cc-by
8,840
Augmenting intraoperative ultrasound with preoperative magnetic resonance planning models for percutaneous renal access Zhi-Cheng Li1*, Kai Li2, Hai-Lun Zhan3, Ken Chen1, Jia Gu1 and Lei Wang1 * Correspondence: zc.li@siat.ac.cn 1Shenzhen Key Laboratory for Low- cost Healthcare, Key Lab for Health Informatics, Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences, Xueyuan Avenue 1068, Shenzhen 518055, China RESEARCH Open Access Li et al. BioMedical Engineering OnLine 2012, 11:60 Li et al. BioMedical Engineering OnLine 2012, 11:60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 © 2012 Li et al.; licensee BioMed Central Ltd. This is an Open Access article distributed under the terms of the Creative Commons Attribution License (http://creativecommons.org/licenses/by/2.0), which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Full list of author information is available at the end of the article Background In minimally invasive urology, optimal outcomes of several interventional surgeries such as Percutaneous Nephrolithotomy (PCNL) and tumor radiofrequency ablation (RFA) highly depend on a successful percutaneous renal access (PRA) [1]. PRA is a difficult pro- cedure, requiring an accurate, safe and rapid needle puncture from skin to an intrarenal target. Intraoperative image guidance is crucial for a successful PRA, because needle puncture without image guidance is imprecise and an injury to vital structure could take place [2]. Traditionally, the PRA is performed under the X-ray guidance [3]. The main disadvantage is the radiation exposure for patient and medical personnel especially. The ultrasound (US) has been proven to be a good alternative, as it is radiation-free, real-time and easy-to-use and [4]. However, the abdominal US is often related to limited anatomy identification and targeting abilities, providing only two-dimensional (2D) anatomical information with poor quality. Furthermore, the US guided PRA may become difficult or even impossible when the target lesion is sonographically obscure or surrounded by confounding tissues [5]. Other imaging modalities for guiding PRA such as C-arm system and intraoperative com- puter tomography (CT) were also reported [3]. The main drawbacks are the harmful radi- ation exposure and high deployment cost. Currently, new image guidance for PRA with explicit anatomy identification and accurate target localization is still on demand. One promising solution is to augment real-time US images with preoperative image mo- dalities such as CT or magnetic resonance (MR) [6]. This technique (1) allows surgeons to calculate an optimal puncture trajectory preoperatively with the 3D reconstructed CT or MR, and (2) provides surgeons with more accurate targeting ability and more intuitive 3D guidance. Urologists have found that a puncture trajectory planning can significantly facili- tate an accurate and safe PRA [7]. A major challenge here is to register the preoperative images and the real time US [6]. After such a registration, the spatial correspondence be- tween pre- and intraoperative image modalities can be known. The preoperative planning models can then be transferred onto the in situ patient in the operating room (OR). When registration technique is used for the purpose of PRA, it requires the registra- tion to be accurate, robust and easy to manipulate, considering the kidney shift and de- formation due to respiratory motion. Abstract Background: Ultrasound (US) is a commonly-used intraoperative imaging modality for guiding percutaneous renal access (PRA). However, the anatomy identification and target localization abilities of the US imaging are limited. This paper evaluates the feasibility and efficiency of a proposed image-guided PRA by augmenting the intraoperative US with preoperative magnetic resonance (MR) planning models. Methods: First, a preoperative surgical planning approach is presented to define an optimal needle trajectory using MR volume data. Then, a MR to US registration is proposed to transfer the preoperative planning into the intraoperative context. The proposed registration makes use of orthogonal US slices to avoid local minima while reduce processing time. During the registration, a respiratory gating method is used to minimize the impact of kidney deformation. By augmenting the intraoperative US with preoperative MR models and a virtual needle, a visual guidance is provided to guarantee the correct execution of the surgical planning. The accuracy, robustness and processing time of the proposed registration were evaluated by four urologists on human data from four volunteers. Furthermore, the PRA experiments were performed by the same four urologists on a kidney phantom. The puncture accuracy in terms of the needle-target distance was measured, while the perceptual quality in using the proposed image guidance was evaluated according to custom scoring method. Full list of author information is available at the end of the article Results: The mean registration accuracy in terms of the root mean square (RMS) target registration error (TRE) is 3.53 mm. The RMS distance from the registered feature points to their average is 0.81 mm. The mean operating time of the registration is 6'4". In the phantom evaluation, the mean needle-target distance is 2.08 mm for the left lesion and 1.85 mm for the right one. The mean duration for all phantom PRA tests was 4'26". According to the custom scoring method, the mean scores of the Intervention Improvement, Workflow Impact, and Clinical Relevance were 4.0, 3.3 and 3.9 respectively. Conclusions: The presented image guidance is feasible and promising for PRA procedure. With careful setup it can be efficient for overcoming the limitation of current US-guided PRA. Page 2 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 2 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 3 of 16 Page 3 of 16 execution of the planning. Finally, the system is evaluated in two stages. First, registration performance in terms of accuracy, precision and processing time are measured on human data from four volunteers. Second, four urologists are asked to perform the image-guided PRA on a kidney phantom. Both puncture accuracy and perceptual quality in using the presented image guidance are evaluated. The rest of the paper is organized as follows. Section 2 presents the image guidance framework in details, including the preoperative planning and the intraoperative guid- ance. Section 3 describes the experimental studies and related evaluation results and discussions. Section 4 concludes this paper. Background Existing feature-based registration methods such as the volume navigation (VNav) method used in commercial ultrasound machine often suffer from inaccuracy, mainly because it uses less efficient registration landmarks and does not take the breathing motion into account [8,9]. On the other hand, the image intensity-based registration methods were reported to be less reliable, as the intensity correlation between different modalities is not that explicit [10,11]. This paper evaluates the feasibility and efficiency of a proposed augmented US-based image guidance framework for PRA. A key consideration in designing this framework is the acceptability and feasibility in clinical environment. The major features of the pro- posed framework are: 1) A preoperative surgical planning approach is presented to define an optimal needle trajectory with 3D kidney surface and vascular structures extracted from the MR volume; 2) An accurate and robust MR to US rigid registration using or- thogonal geometry is proposed to transfer the preoperative planning into the intraopera- tive context, where the breathing motion is tracked to minimize the impact of kidney deformation; 3) A 3D visual guidance is implemented by augmenting the intraoperative US with preoperative MR planning models and a virtual needle, in order to aid the correct Overview of the proposed PRA workflow The proposed augmented ultrasound-based image-guided framework comprises a diag- nostic ultrasound device, an optical tracker with reflective markers, and a main computer. The proposed image-guided surgical workflow is as follows. First, an MR scanning is performed on the patient, where the vessels exhibit high con- trast relative to their background. The kidney, vessels, and skin are then extracted from the MR volume as a 3D model. Then surgeons can preoperatively define a needle trajectory that avoids vital vessels and facilitates an effective treatment. During the surgery, the US slices of the kidney are acquired at the maximum exhalation positions of each respiratory circle. The preoperative data and the surgical planning are then registered to the calibrated US images using two pairs of orthogonal slices, such that the planning can be transferred into the OR. The position of the needle tip is read by the optical tracker in real time. By augmenting the US with the MR models and a virtual needle, a 3D visual guidance is pro- vided to facilitate the hand-eye coordination of the treating surgeon, such that the PRA can be performed accordance with the planning. The overview of the entire framework is shown in Figure 1. Next, we will describe in details the proposed framework. Figure 1 Overview of the proposed image-guided renal intervention. Figure 1 Overview of the proposed image-guided renal intervention. Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 4 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 The MR-based preoperative planning In this subsection, we present a 3D visualized environment that combines convincing virtual representation of the kidney surface and the renal vascular structures from pre- operative MR, allowing surgeons to plan an optimal needle trajectory. Here “optimal” means suitable and safe for the interventional puncture. The precondition of such a planning is to obtain abdominal volumetric MR images with high contrast and high spatial resolution and then to extract the 3D geometric description of the kidney and renal vessels. Thusly, we use the True Fast Image with Steady-state Precession (true- FISP) MR sequence [12] to acquire the volume data, as shown in Figure 2a. Note that other contrast-enhanced imaging modalities such as MRA (Magnetic Resonance Angi- ography) are also suitable for the planning. Due to the high contrast relative to the background, here we segment the vascular struc- tures using a neighbourhood connected region growing algorithm for the sake of less manual interaction. Specifically, the algorithm starts with placing one or two seeds in the vessel region and incrementally segments the vessels by recruiting neighbouring voxels according to an intensity threshold [13]. As the contrast-to-noise ratio of the kidney is not that high, the kidney is segmented in a manual way. After manually segmenting the skin, all segmented models are then smoothed using a 3D Gaussian kernel and converted into triangulated meshes by means of the marching cubes algorithm [14]. Then, the Figure 2 The preoperative surgical planning using MR data. (a) The true-FISP MR abdominal images. The vessels exhibit relatively high contrast. (b) 3D visualization of the extracted kidney and vessels as geometric models. For clarity, the skin is not shown. Figure 2 The preoperative surgical planning using MR data. (a) The true-FISP MR abdominal images. The vessels exhibit relatively high contrast. (b) 3D visualization of the extracted kidney and vessels as geometric models. For clarity, the skin is not shown. Figure 2 The preoperative surgical planning using MR data. (a) The true-FISP MR abdominal images. The vessels exhibit relatively high contrast. (b) 3D visualization of the extracted kidney and vessels as geometric models. For clarity, the skin is not shown. Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 5 of 16 triangulated meshes, including vessels, kidney, and skin, are fused and merged into one geometric model, as shown in Figure 2b. The MR-based preoperative planning Based on such a visualized anatomy, a needle tra- jectory planning that is optimal for the PRA can be defined as an entry point on the skin and a target point in the kidney. Generally, the needle entry on the skin is near the 11th intercostal space, while the trajectory should avoid all large vessels. (i). US calibration The intraoperative processing starts with the US calibration that maps the pixel pos- ition set XUS to the intraoperative space Stra. In particular, we first determine a homoge- neous transformation TC that maps pixel positions from the 2D US slices to the local 3D space defined by the optically-tracked markers mounted on the US probe. Let yUS,i denote the location of pixel xUS,i in the local probe space, then we have yUS;i ¼ TC  xUS;i ð1Þ ð1Þ yUS;i ¼ TC  xUS;i After a further transformation TT from the probe space to the tracker space, all US slices can be localized in the same space Stra as zUS;i ¼ TT  yUS;i ð2Þ ð2Þ zUS;i ¼ TT  yUS;i The calculation of TC and TT will be given later in Section 3. After the calibration, each pixel in all acquired US slices can be positioned in the intraoperative space as ZUS = {zUS,i}. ZUS = {zUS,i}. ZUS = {zUS,i}. The augmented US-based intraoperative guidance We expect to provide intraoperative guidance by transferring the preoperative planning to the intraoperative conditions and augmenting the US with preoperative anatomical models. The critical problem here is to register the MR volume to the US slices consid- ering the patient respiration. This problem can be formulated as follows: Let xUS,i be a pixel position in the intraoperative US plane while xMR,j be a voxel pos- ition within the preoperative MR volume. Given two point sets XUS = {xUS,i} and XMR = {xMR,j}, i = 1,. . ., N, j = 1,. . ., M, we aim to find a transformation TR that represents the spatial correspondence from the preoperative MR volume SMR to the intraoperative space Stra defined by the tracker. Based on TR, the preoperative models such as the planning and the 3D geometric anatomy can be transferred into the intraoperative space. Therefore, the puncture can be guided to be coincident with the planning. Next, we will describe the navigated intervention in detail. Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 6 of 16 plane is approximately parallel to the transverse section of the human body. At this position, we define a cranio-caudal line l0 that is perpendicular to the transverse section of the human body and passes through the central point of the US transducer face. The line l0 is considered as a reference axis. In order to acquire one US slice of interest at the maximum exhalation, the probe is placed at the specified location, and a certain number of slices are acquired and stored at a stable acquiring rate. Meanwhile, the in- stantaneous distance from the centroid of the optically-tracked markers mounted on the probe to the reference axis l0 is calculated. The US slice with the minimum distance is considered as the required maximum exhalation slice, as shown in Figure 3. In such a case, the maximum exhalation serves as a trigger for slice selection, accounting for the breathing motion and ensuring consistency of all used US slices. (ii). Respiratory gating Because of the organ motion due to respiration, inconsistency will occur between the positions of the anatomical features such as vascular structures in different US slices. This will lead to significant registration error. Therefore, we expect to acquire US slices at the same stages of the respiration cycles. It has been shown that for free respiration the kidney assumes the same positions at equivalent lung volumes [15]. Moreover, the end-exhale represents the longest natural pause in a cycle [16]. Thus, we expect to use only US slices at the maximum exhalation positions. This can be achieved by an optical tracking based respiratory gating technique. First, the US probe is placed on the caudal end of the patient’s sternum, where the US slice Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 7 of 16 Page 7 of 16 Page 7 of 16 inefficient and leads to inaccurate registration, mainly because it utilizes insufficient “geometrical information”. In order to overcome these limitations, we propose an orthogonal-slice ICP (OICP) algorithm detailed as follows. First, the US probe is swept near the 11th intercostal space. A few US images are acquired at the maximum exhalation positions based on the respiratory gating described above. Two pairs of almost orthogonal images, U1, U2, U3 and U4 are selected, where U1, U2 are approximately parallel to the transverse section of the body and U3, U4 are acquired with the probe along the midaxillary line. U1, U2 contain clearly visible hilum vein, inferior vena cava (IVC), and a transverse kidney contour while U3, U4 contain a clearly visible longitudinal kidney contour. Note that both the transverse and longitudinal contours should better be complete, or at least represent most of the kidney. The kidney surface and large vessel surface are used as registration features for the best alignment of the US slices and the MR volume. The target features XMR consist of kidney surface denoted as KMR = {kMR,j}, j = 1,. . . K1, and vessels including hilum vein surface and IVC surface denoted as VMR = {vMR,j}, j = 1,. . . V1. All are preoperatively segmented from the MR data, as shown in Figure 2b. The source feature ZUS is a set of manually- picked points, including a subset of point KUS = {kUS,i}, i = 1,. . . K2 selected on kidney contours (including transverse and longitudinal contours) in all used US slices, and a sub- set of points VUS = {vUS,i}, i = 1,. . . V2 on hilum vein and IVC surfaces in U1, U2. Because we only use two pairs of orthogonal slices, the point selection will be completed within reasonable time. The categorized feature data will aid the registration by avoiding local minima and reducing computation time. Let cki and cvi be the closest points to kUS,i and vUS,i, respectively. (iii). MR to US affine registration We aim to transfer the preoperative planning onto the patient in situ by means of MR to US registration. With respect to clinical demand, surgeons prefer an effective image guid- ance that optimizes the surgeon's hand-eye coordination, but are often reluctant to accept over complicated workflow. To this end, we do not use a MR to densely-sampled US vol- ume registration studied by several groups, which requires overlong intraoperative proces- sing time [17]. Meanwhile, we decide not to use the VNav method after careful consideration, which often suffer from less accuracy [8]. Instead, we propose an efficient approach on top of an affine registration based on two pairs of orthogonal US images. The affine registration is equivalent to find a transformation TR that best aligns the target point set XMR with the source point set ZUS. The iterate closest point (ICP) algo- rithm [18] is often used to estimate a transformation that minimizes the mean square distance between two point sets. However, the original ICP is sensitive to the initial pose and could be prone to fall into local minima, especially for noisy feature sets, e. g., a point-cloud selected in US images. Moreover, the free landmark extraction is often Figure 3 The respiratory gating result. The distance from marker centroids to reference axis l0 is shown. The hollow circles denote the US slices acquiring. 87 slices are acquired at a rate of 20 slices per second. As for this group of slices, the 72nd slice that corresponds to the minimum distance is selected as the maximum exhalation US slice, as shown by the red circle. Figure 3 The respiratory gating result. The distance from marker centroids to reference axis l0 is shown. The hollow circles denote the US slices acquiring. 87 slices are acquired at a rate of 20 slices per second. As for this group of slices, the 72nd slice that corresponds to the minimum distance is selected as the maximum exhalation US slice, as shown by the red circle. Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Three pairs of landmark points are selected from the cranial end, caudal end and kidney hilum to initialize the registration. 1. Compute the closest point cki ¼ C Tn1kUS;i; KCT   for i = 1,. . ., K2 and cvi ¼ C Tn1vUS;i; VCT   for i = 1,. . ., V2; 1. Compute the closest point cki ¼ C Tn1kUS;i; KCT   for i = 1,. . ., K2 and cvi ¼ C Tn1vUS;i; VCT   for i = 1,. . ., V2; 2. Compute an update Tn that minimizes the MSE between Tn-1ZUS and {cki}[{cvi} with translation within ± A and rotation within ± α. End the iteration when n = nmax or the decrease of the MSE is below a threshold h. 3. End the iteration when n = nmax or the decrease of the MSE is below a threshold h. With the final estimate of TR, the transformation from the US plane to the MR image space SMR can be given by T ¼ T i RTTTC. Figure 5 shows the corresponding US and MR slices from a healthy volunteer, where the longitudinal kidney contour is well aligned. Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Then, the OICP registration can be estimated as T  reg ¼ arg min 1 K2 X K2 i¼1 TregkUS;i  ck   " # þ 1 V2 X V2 i¼1 TregkUS;i  ck  ; ð3Þ ð3Þ The estimate starts with calculating an initiate transformation T0 by aligning three pairs of landmark points selected from the cranial end, caudal end and kidney hilum on both the US slices and the MR segmentation images, as shown in Figure 4. The initial align- ment can be calculated using the Procrustes analysis [19]. This preprocessing allows quick algorithm convergence without falling into local minima. Assuming a fine initial registra- tion, the following optimization can be constrained within a small translation range ± A and a small rotation angle range ± α, thus reducing the computing time while improving the reliability. The translation and rotation are then further optimized to minimize the mean square error (MSE). The entire optimization is summarized below. Input: KUS and VUS manually picked from orthogonal US slices U1, U2, U3 and U4, KMR, VMR preoperatively segmented from the MR volume; Output: TR; Initiation: The starting registration T0 is obtained by aligning the three pairs of landmark points. Iteration: for n = 1 to nmax or until convergence do Input: KUS and VUS manually picked from orthogonal US slices U1, U2, U3 and U4, KMR, VMR preoperatively segmented from the MR volume; Output: TR; Initiation: The starting registration T0 is obtained by aligning the three pairs of landmark points. Iteration: for n = 1 to nmax or until convergence do Input: KUS and VUS manually picked from orthogonal US slices U1, U2, U3 and U4, KMR, VMR preoperatively segmented from the MR volume; Output: TR; Initiation: The starting registration T0 is obtained by aligning the three pairs of landmark points. Iteration: for n = 1 to nmax or until convergence do Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 8 of 16 Page 8 of 16 Figure 4 The registration initialization. Three pairs of landmark points are selected from the cranial end, caudal end and kidney hilum to initialize the registration. Figure 4 The registration initialization. Three pairs of landmark points are selected from the cranial end, caudal end and kidney hilum to initialize the registration. Figure 4 The registration initialization. (iv). Augmented US-based guidance Based on TR, the planning and MR anatomical models can be transferred from the pre- operative space SMR into intraoperative space Stra. A puncture trestle is mounted to the US probe to restrict the needle trajectory to several given angles within the US plane. The nee- dle position can be precisely measured by the tracker in real time and fused in the guidance Li et al. BioMedical Engineering OnLine 2012, 11:60 Page 9 of 16 Page 9 of 16 http://www.biomedical-engineering-online.com/content/11/1/60 Figure 5 The corresponding US and MR slices from a healthy volunteer. Central: the US slice containing a complete kidney. Left: the corresponding MR slice cut from the MR volume. Right: overlay the US slice onto the corresponding MR slice. Figure 5 The corresponding US and MR slices from a healthy volunteer. Central: the US slice containing a complete kidney. Left: the corresponding MR slice cut from the MR volume. Right: overlay the US slice onto the corresponding MR slice. image as a virtual model. The visual guidance is provided by augmenting the US images with 3D anatomical models, the planning and the virtual needle, as shown in Figure 6. One should notice that the transformation TR is calculated using only US slices at the maximum exhalation positions. Therefore, at the other stages of the respiratory cir- cle, the accuracy of registered needle trajectory cannot be guaranteed because of the organ shift and soft-tissue deformation. In such a case, we expect to perform the punc- ture at maximum exhalation positions. To this end, we make use of the respiratory gat- ing technique proposed above to plot the respiratory curve (as shown in Figure 3) in real time. The maximum exhalation positions can then be detected by visual inspection of the surgeon. Meanwhile, the needle is inserted rapidly into the intrarenal target. Under the presented image guidance, the puncture trajectory can be guided and guar- anteed to be coincident with the planning. (i). Registration evaluation Here, we aim to measure the registration accuracy in terms of the root mean square (RMS) target registration error (TRE) on MR and US data provided by volunteers. Be- cause no gold standard is available, the MR to densely-sampled US volume registration proposed in [17] was used as a bronze standard [20]. The true-FISP MR data was acquired by scanning four healthy volunteers (distinguished by A, B, C, and D) on a Siemens MAGNETOM Trio Tim 3.0 T machine. Written informed consent from all volunteers was obtained. The voxel resolution was set to 1.12× 1.12 × 1.00 mm3 to approximate the isotropy. The US images were acquired using a Mindray DC-7 machine with a 3.5 MHz abdominal probe and then captured using an EDIUX NX video grabber from CANOPUS. A passive Polaris system from Northern Digital Incorporation (NDI) was used for position tracking. The US probes was mounted with optically-tracked reflective markers such that the position of the probe can be tracked. The Mindray US machine provides a built-in calibration application to output the distance from the left bottom of the US slice to the center of the arc-shaped probe surface, such that the transformation TC can be calculated directly. Note that for each imaging depth, the built-in US calibration algorithm only need to run once before the surgery. Then, the output can be stored in a mapping table between transformation TC and im- aging depth for future use. The transformation TT was calculated automatically by means of the tracker’s real time output. Given TC and TT, all US slices can be calibrated and located in the tracker space Stra, as described in section 2. For acquiring one desired US slice at the maximum exhalation via the proposed re- spiratory gating, 50 to 100 slices were acquired at a stable rate of 20 slices per second using the video grabber. For calculating the bronze standard registration, 125 US images were selected at the maximum exhalation positions from each volunteer, cover- ing from transverse to longitudinal views of the kidney. Four urologists with expertise in US-guided renal intervention were asked to individually conduct the proposed regis- trations and the bronze standard registration for each volunteer (denoted as Test 1–4). For calculating the OICP registration, the translation range and the rotation range are set to A = 28 mm and α = 30°, respectively. (i). Registration evaluation The threshold h for terminating the itera- tions was set to 0.1. The accuracy can then be measured as follows. All voxel positions within the kidney model were transformed from SMR into Stra, using both the proposed registration method and the bronze standard. The RMS error between the two corresponding pos- ition sets was then calculated. Thus, the accuracy in terms of RMS TRE was obtained. To evaluate the precision, or repeatability of the proposed method, the RMS distance from the transformed positions to their average, i.e., the standard deviation, was calcu- lated. The processing time for the proposed registration was also recorded, including the Procrustes initial registration and OICP optimization. Experiments and evaluations The proposed image guidance framework is evaluated in two stages: (i) evaluation of the registration performance in terms of the accuracy, precision and processing time measured on human data, (ii) evaluation in terms of puncture accuracy and perceptual quality assessed by four urologists on kidney phantom trials. Figure 6 The US-augmented PRA guidance interface. Left top: preoperative MR models of kidney and skin. Right top: registration features extracted from orthogonal US slices. Right bottom: US slice. Left bottom: augmented US-based intraoperative guidance. Figure 6 The US-augmented PRA guidance interface. Left top: preoperative MR models of kidney and skin. Right top: registration features extracted from orthogonal US slices. Right bottom: US slice. Left bottom: augmented US-based intraoperative guidance. Page 10 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 10 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 (ii). Phantom trials A triple-modality (CT, MR, US) abdominal phantom model 057 from Computerized Imaging Reference Systems (CIRS) was used for the phantom trials. The internal struc- ture of the model 057 includes partial abdominal aorta, partial vena cava, spine and two partial kidneys each with a lesion. The lesions are high contrast relative to the background in MR and can be barely identified in US. Each lesion can be punctured 3– Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 11 of 16 Page 11 of 16 5 times. These features make it a useful tool for evaluating the targeting accuracy of a multimodality image-guided PRA. First, the phantom was scanned with the same Simons MR machine. The MR volume data was then pulled onto the augmented-US based guidance system for surgery plan- ning. With the 3D reconstruction of the segmented kidney, lesions, spine and skin, two planning trajectories were defined, each including an entry point on the skin and a tar- get point within a lesion. The same four interventionists were asked to perform the RFA on the phantom (Test 1–4). Two pairs of orthogonal US slices containing longitudinal and transverse con- tours of the kidney were selected from real time US data for MR-US registration. Be- cause the phantom is approximately rigid, the breathing gate technique was not used here. Three points from the cranial end, the middle, and the caudal end of the kidney were used for the initial alignment. 8 to 15 points from the kidney surface and the vena cava were used for the OICP registration. A rigid plastic needle equipped with four fixed optically-tracked markers was used. A puncture trestle was mounted to the US probe such that the needle trajectory was restricted, as shown in Figure 7. This needle can be located in real time in space Stra and was intended to reach the target lesion. By observing the proposed visualized guidance, each interventionist performed two needle punctures. The environment of the phantom test is shown in Figure 8. After each PRA trial, MR scanning was performed to assess the puncture accuracy. The distance be- tween the needle tip and the lesion center, denoted as needle-target distance (NTD), was measured based on the multiplanar reconstructed images. The perceptual quality of the image guidance system for surgeons is very important, as their satisfaction relates to the therapeutic impact in selecting the system in clinical practice. (ii). Phantom trials The perceptual quality for the proposed PRA was rated in terms of three cri- teria according to a custom scoring system, as follows: Intervention Improvement from 5 to 1 respectively denotes significant, meaningful, moderate, fair, and little localization improvement when the proposed guidance is employed. Workflow Impact indicates the acceptability of the proposed workflow, where 5 to 1 respectively denote positive, acceptable, acceptable after training, accept- able with reluctance, and unacceptable. Clinical Relevance denotes the clinical value of Figure 7 Ultrasound probe mounted with the optically-tracked markers and the puncture trestle. Figure 7 Ultrasound probe mounted with the optically-tracked markers and the puncture trestle. Page 12 of 16 Page 12 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Figure 8 The image-guided intervention trial on an abdominal phantom. Figure 8 The image-guided intervention trial on an abdominal phantom. the proposed framework, where scores 5 to 1 correspond to values of high, moderately high, medium, moderately low to low. The evaluators were allowed to rate x.5 that represents an assessment between x and x + 1. Registration evaluation This problem may be solved by using the real-time 3DUS probes instead of the freehand method [22]. Table 2 Measurement of the registration standard deviation (in millimeters) Volunteers A B C D Mean SD 0.77 0.51 0.81 1.16 0.81 Table 2 Measurement of the registration standard deviation (in millimeters) Volunteers A B C D Table 2 Measurement of the registration standard deviation (in millimeters) based on the vessel probability images. They used similar bronze standard and accuracy criteria to assess the registration performance. The RMS TRE was reported to be 3.6 mm with a relatively high mean failure rate of 5.6%. Furthermore, all these methods in [10,11,21] need to acquire relatively dense US slices intraoperatively. It is difficult to be accepted in clinical use. This problem may be solved by using the real-time 3DUS probes instead of the freehand method [22]. In the study in [9], the spatial accuracy of the commercial registration technique VNav was examined via clinical trials of radiofrequency ablation of liver tumors. The max difference (denoted as Dmax) between the target lesions in both aligned CT and US was measure. The mean Dmax was 6.55 mm when CT was performed immediately before VNav. The authors claimed that it was considered to be clinically accepted for liver tumor ablation. However, a small Dmax meant a small distance between the aligned US and CT but not an accurate registration, because the gold standard of the registration was not available. No literatures on the accuracy of VNav in kidney inter- vention were found. We believe it is a reasonable hypothesis that our method would be superior because the registration landmarks for VNav are insufficient and less efficient in selection, especially in the US images of kidney. The results in Table 1 imply that for different data the proposed registration is rather robust. Specifically, for different surgeons and volunteers (presenting variability of pose initiation, landmark identification and interindividual anatomy) the registration accur- acy does not change largely. In other words, no evident outliers were found. Table 1 also shows the operation can be completed within a reasonable time (on average 6'4"). Note that the bronze standard registration took about 37 minutes on average. The bet- ter accuracy and less operating time validate the high efficiency of the orthogonal slices in MR to US registration of the kidney. Registration evaluation All results are given in Table 1 and Table 2. The results in Table 1 show a good conver- gence to the bronze registration with a mean RMS TRE of 3.53 mm. We believe the proposed approach has benefited from the orthogonal geometry of the used US slices, where local minima can be avoided. A positive factor is the fine initiate registration conducted by the expert urologists. A previous study presented an intensity-based registration of CT and three-dimensional (3D) US kidney images and the average error was 5.36 mm [10]. The bronze standard and accuracy criteria used were similar, so the comparison with our method makes sense. The different results can be explained by the following. This previous work used correlation ratio (CR) between the intensity CT images and the gradient US as similarity measure. We believe the correlation between CT and US is not that explicit and the accuracy will be influenced. On the other hand, this previous work did not take the breathing motion into account. In another prior study on computer-assisted access to the kidney, kidney surface-based registration was used to align CT and freehand 3DUS [21]. They did not re- port the RMS error but found failed examples. A prior work in [11] evaluated the accuracy and precision of their registration between MR and freehand 3DUS for human livers Table 1 Measurement of RMS TRE accuracy (in millimeters) and processing time (in minutes plus seconds) Volunteers Criteria Test 1 Test 2 Test 3 Test 4 Mean A RMS TRE 2.29 1.37 2.95 2.70 2.33 time 302200 1001000 701600 900200 702800 B RMS TRE 3.73 3.11 4.10 3.27 3.55 time 501500 805200 502100 604100 603200 C RMS TRE 3.32 2.93 3.06 3.44 3.19 time 301500 803600 502200 701500 60700 D RMS TRE 4.52 5.24 4.72 5.76 5.06 time 504200 801700 603800 802600 701600 Table 1 Measurement of RMS TRE accuracy (in millimeters) and processing time (in minutes plus seconds) Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 13 of 16 based on the vessel probability images. They used similar bronze standard and accuracy criteria to assess the registration performance. The RMS TRE was reported to be 3.6 mm with a relatively high mean failure rate of 5.6%. Furthermore, all these methods in [10,11,21] need to acquire relatively dense US slices intraoperatively. It is difficult to be accepted in clinical use. Phantom trials The results of the accuracy in terms of NTD are shown in Table 3. The mean NTD over the four tests was 2.08 mm for the left lesion and 1.85 mm for the right one. It can be seen that the distance was smaller than the registration error measured on human data. One major reason is that the phantom is a rigid body with clear registra- tion features. The mean duration for all phantom PRA tests was 4'26". It implies that the accurate RFA can be finished within acceptable time. The difference between the four tests was relatively small, indicating a robust registration for different operators. The previous phantom study on kidney intervention in [21] reported a NTD of 4.7 mm. Our method achieved a better accuracy with less US slices used. The previous study claimed that the main inaccuracy came from symmetrical shape of the phantom which introduced potential indeterminations and from the needle deformation during puncture. In our test, a puncture trestle was used to restrict the needle trajectory. This may reduce the needle deformation, at least to some extent. In previous study in [5], the accuracy of the VNav was evaluated via puncture tests on a customized phantom. The mean NTD was 2.7 mm for the trials performed by an experienced radiologist while 3.1 mm for a medical resident without experience. As the phantom is a rigid body with clear and fixed anatomical landmarks, the accuracy difference on phantom tests for VNav and our proposed method is not significant. Furthermore, real-time 3D US has shown a promising future in guiding PRA proced- ure. In the pioneer study in [23], the authors determined the feasibility and accuracy of 3D US reconstruction of the pelvicaliceal system (PCS) in an in vitro porcine kidney. A further study in [24] has demonstrated that 3D US is more accurate than 2D US for PCS measurements on a customized phantom. The authors in [24] then performed 3D US-guided punctures on that phantom and proved the feasibility. Therefore, it is a na- ture idea that the accuracy and repeatability would be improved further by intruding a 3D US system into our guidance framework. Registration evaluation It should be pointed out that the processing time for intensity-based registration is less due to its property of automatic calculation without manual feature extraction. For example, the prior work in [10] reported a registration time of 80s. Note that this time did not count the freehand 3DUS data ac- quisition duration. Although there is no evident outlier, the results indicate that the registration accuracy is to some extent affected by the volunteers. It is mainly because of the fact that the anatomical features of kidney, hilum vessels, and IVC vary between people, which will lead to different US imaging quality. Similar findings have been reported by others [21]. For example, it is difficult to clearly identify kidney contours and vessels in US images of obese people. That is exactly why the registration for volunteer D was less accurate. It suggests that a patient selection may be required for optimal outcomes. On the other hand, the duration of operation exhibits an observable dependence on the surgeons. For example, among all the tests, the elapsed time for the first surgeon is the shortest while that for the second surgeon is relatively long. Note that the registration feature point selection is the most time-consuming procedure. The results in Table 2 show that the registration is repeatable for the tested volun- teers. In other words, the results are not significantly related to the surgeons Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 14 of 16 Page 14 of 16 performing the registration. A reasonable explanation is that the orthogonal geometry of the US slices reduces the random fluctuation in the initial landmark selection and the feature point selection. All these results in Table 1 and Table 2 suggest that the hilum vessels, IVC and kidney contour together can be used as preferred landmarks. Note that the above evaluation method cannot detect the presence of errors induced by the segmentation and calibration. Considering the pixel per millimeter ratio and the physical size of the MR image, it is reasonable to conclude a less than 1.6 mm (or 1.5 pixels) error for the segmentation. The typical error for the calibration method used is less than 1 mm. Note that the experimental results cannot account for the system error for both tested registration methods. Phantom trials Moreover, to fuse the 3D US images with Table 3 Measurement of the NTD (in millimetres) and the operating time (in minutes plus seconds) for the kidney phantom test Target Criteria Test 1 Test 2 Test 3 Test 4 Mean Left lesion NTD 2.9 1.6 2.1 1.7 2.08 time 501500 304000 305600 500200 402800 Right lesion NTD 2.2 1.7 1.9 1.6 1.85 time 402500 403200 30100 504100 402400 Table 3 Measurement of the NTD (in millimetres) and the operating time (in minutes plus seconds) for the kidney phantom test Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Page 15 of 16 Table 4 Assessment of the perceptual quality on a kidney phantom Criteria Test 1 Test 2 Test 3 Test 4 Mean Intervention Improvement 4 3.5 4.5 4 4.0 Workflow Impact 3.5 3 3.5 3 3.3 Clinical Relevance 4 4 4 3.5 3.9 Table 4 Assessment of the perceptual quality on a kidney phantom preoperative planning such as CT pyelography [25] and MR urography [26] should be more accurate and intuitive for guiding PCNL. On the other hand, in the case of percu- taneous renal ablation where the lesion is invisible in US images, image fusion of 3D US and CT/MR planning should be a more accurate solution compared with the use of 2D US. To this end, further evaluation on in vivo human kidneys should be conducted. The scoring results shown in Table 4 imply that they appreciated the use of the pro- posed image guidance tool in renal intervention due to the accuracy improvement and especially the intuitive 3D guidance, although maybe special training is needed. All sur- geons agreed that careful setups including optimal planning, landmark selection and patient selection were required for satisfactory outcomes. One surgeon suggested im- proving the respiratory gating technique, as the respiratory tracking is less sensitive when the US probe is placed along the midaxillary line. It was also pointed out that one impediment in delivering the presented guidance system in clinical practice is the distance between the preoperative planning workstation (often located at the doctor’s room) and the operating room. In such a case, hospital network that efficiently trans- fers planning data between the planning workstation and the OR is required. Authors' contributions d b d ZCL and KL contributed equally to this work. They together implemented the presented image guided framework, conducted the experimental study, and were responsible for the for the data analysis. HLZ participated in the designing of the experiment, performed the registration test and phantom trials. KC implemented the registration algorithm and the image reconstruction algorithm. JG participated in the registration algorithm design and experimental data analysis. LW provided the experiment infrastructure and contributed to the result discussion. All authors read and approved the final manuscript. Acknowledgements Thi k Acknowledgements This work was supported by the National Basic Research Program 973 (No. 2010CB732606), the National Natural Science Foundation of China (No. 61102086, No. 61103165, No. 81171402), Guangdong Innovation Research Team Fund for Low-cost Healthcare Technologies (GIRTF-LCHT), and the Guangdong Innovative Research Team Program (No. 2011S013), China. Competing interests The authors declare that they have no competing interests. Competing interests The authors declare that they have no competing interests. Conclusions The presented image guidance is feasible and promising for PRA procedure. With care- ful setup, it can be efficient for overcoming the limitation of current US-guided PRA by providing accurate and robust target localization abilities, intuitive guidance inter- face and satisfactory perceptual quality. Received: 29 June 2012 Accepted: 21 August 2012 Published: 24 August 2012 References 1. Troccaz J, Baumann M, Berkelman P, et al: Medical image computing and computer-aided medical interventions applied to soft tissues: work in progress in urology. Proc IEEE 2006, 94(9):1665–1677. 2. Ukimura O: Image-guided surgery in minimally invasive urology. Curr Opin Urol 2010, 20:136–140. 3. Kalogeropoulou C, Kallidonis P, Liatsikos EN: Imaging in percutaneous nephrolithotomy. J Endourol 20 23(10):1571–1577. 4. Hosseini MM, Hassanpour A, Farzan R, Yousefi A, Afrasiabi MA: Ultrasonography-guided percutaneous Nephrolithotomy. J Endourol 2009, 23(4):603–607. 5. Lee JY, Choi BI, Chung YE, Kim MW, Kim SH, Han JK: Clinical value of CT/MR-US fusion imaging for radiofrequency ablation of hepatic nodules. Eur J Radiol 2011, available online. , , g , , , radiofrequency ablation of hepatic nodules. Eur J Radiol 2011, available online. 6. Baumhauer M, Feuerstein M, Meinzer H-P, Rassweiler J: Navigation in endoscopic soft tissue surgery: perspectives and limitations. J Endourol 2008, 22(4):751–766. 6. Baumhauer M, Feuerstein M, Meinzer H-P, Rassweiler J: Naviga perspectives and limitations. J Endourol 2008, 22(4):751–766. 6. Baumhauer M, Feuerstein M, Meinzer H-P, Rassweiler J: Navig perspectives and limitations. J Endourol 2008, 22(4):751–766 7. Sandhu C, Anson KM, Patel U: Urinary tract stones-Part I: role of radiological imaging in diagnosis and treatment planning. Clin Radiol 2003, 58:415–421. p g 8. Jung EM, Friedrich C, Hoffstetter P, Dendl LM, Klebl F, Agha A, Wiggermann P, Stroszcynski C, Schreyer AG: Volume navigation with contrast enhanced ultrasound and image fusion for percutaneous interventio p g 8. Jung EM, Friedrich C, Hoffstetter P, Dendl LM, Klebl F, Agha A, Wiggermann P, Stroszcynski C, Schreyer AG: Volume navigation with contrast enhanced ultrasound and image fusion for percutaneous interventions: first results. PLoS One 2012, 7(3):e33956. 9. Hakime A, Deschamps F, Carvalho EGMD, Teriitehau C, Auperin A, Baere TD: Clinical evaluation of spatial accuracy of a fusion imaging technique combining previously acquired CT and real-time US for imaging of liver metastases. Cardiovasc Intervent Radiol 2011, 34:338–344. 10. Leroy A, Mozer P, Payan Y, Troccaz P: Rigid registration of freehand 3D ultrasound and CT-scan kidney images. Proc Int Conf (MICCAI) 2004, 3216:837–844. ( ) , 11. Penny GP, Blackall JM, Hamady MS, Sabharwal T, Adam A, Hawks DJ: Registration of freehand 3D ultrasound and magnetic resonance liver images. Med Image Anal 2004, 8(1):81–91. 12. Deshpande VS, Shea SM, Laub G, Simonetti OP, Finn JP, Li D: 3D magnetization-prepared True-FISP: A new technique of the MR imaging of coronary arteries. References Magn Reson Med 2001, 46(3):494–502. q g g y g 13. Lesage D, Angelini ED, Bloch I, Funka-Lea G: A review of 3D vessel lumen segmentation techniques: models, features and extraction schemes. Med Image Anal 2009, 13:819–845. 14. Lorensen WE, Cline HE: Marching cubes: a high resolution 3D surface construction algorithm. ACM Siggraph Computer Graphics 1987, 21:163–169. 15. Brandner ED, Wu A, Chen H, Heron D, Kalnicki S, Komanduri K, Gerszten K, Burton S, Ahmed I, Shou Z: Abdominal organ motion measured using 4D CT. Int J Radiat Oncol Biol Phys 2006, 65(2):554–560. 16. Balter JM, Lam KL, McGinn CJ, Lawrence TS, Haken RKT: Improvement of CT-based treatment-planning models of abdominal targets using static exhale imaging. Int J Radiat Oncol Biol Phys 1998, 41(4):939–943. g g g g y 17. Penney GP, Blackall JM, Hayashi D, Sabharwal T, Adam A, Hawkes DJ: Overview of an ultrasound to CT or MR 17. Penney GP, Blackall JM, Hayashi D, Sabharwal T, Adam A, Hawkes DJ: Overview of an ultrasound to CT or MR registration system for use in thermal ablation of liver metastases. Proc Med Image Underst Anal 2001 17. Penney GP, Blackall JM, Hayashi D, Sabharwal T, Adam A, Hawkes DJ: Overview of an ultrasound to CT or MR registration system for use in thermal ablation of liver metastases. Proc Med Image Underst Anal 2001. B l P D h d f f D h P l d h ll y y registration system for use in thermal ablation of liver metastases. Proc Med Image Underst Anal 2001. 18 Besl PJ McKay ND: A method for registration of 3-D shapes IEEE Trans Patt Anal and Mach Intell 1992 registration system for use in thermal ablation of liver metastases. Proc Med Image Underst Anal 2001. 18. Besl PJ, McKay ND: A method for registration of 3-D shapes. IEEE Trans Patt Anal and Mach Intell 1992, 14(2) 239 256 18. Besl PJ, McKay ND: A method for registration of 3-D shapes. IEEE Trans Patt Anal and Mach Intell 1992, 14(2):239–256. 19. Dryden IL, Mardia KV: Statistical shape analysis. New York: Wiley; 1998. 20. Jannin P, Fitzpatrick JM, Hawkes DJ, Pennec X, Shahidi R, Vanniew MW: Validation of medical image processing in image-guided therapy. IEEE Trans Med Imag 2002, 21(12):1445–1449. 21. Mozer P, Leroy A, Payan Y, Troccaz J, Chartier-Kastler E, Richard F: Computer-assisted access to the kidney. doi:10.1186/1475-925X-11-60 Cite this article as: Li et al.: Augmenting intraoperative ultrasound with preoperative magnetic resonance planning models for percutaneous renal access. BioMedical Engineering OnLine 2012 11:60. Author details 1 1Shenzhen Key Laboratory for Low-cost Healthcare, Key Lab for Health Informatics, Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences, Xueyuan Avenue 1068, Shenzhen 518055, China. 2Department of Medical Ultrasonics, The Third Affiliated Hospital of Sun Yat-Sen University, Guangzhou 510630, China. 3Department of Urology, The Third Affiliated Hospital of Sun Yat-sen University, Guangzhou 510630, China. Page 16 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 References Int J Med Robot Comp 2005, 1(4):58–66. 22. John BS, Rowland D, Ratnam L, Walkden M, Nayak S, Patel U, Anson K, Nassiri D: Percutaneous renal 22. John BS, Rowland D, Ratnam L, Walkden M, Nayak S, Patel U, Anson K, Nassiri D: Percutaneous renal intervention: comparison of 2-D and time-resolved 3-D (4-D) ultrasound for minimal calyceal dilatio 22. John BS, Rowland D, Ratnam L, Walkden M, Nayak S, Patel U, Anson K, Nassiri D: Percutaneous renal intervention: comparison of 2-D and time-resolved 3-D (4-D) ultrasound for minimal calyceal dilation us an ultrasound phantom and fluoroscopic control. Ultrasound Med Biol 2008, 34(11):1765–1769. , , , , y , , , intervention: comparison of 2-D and time-resolved 3-D (4-D) ultrasound for minimal calyceal dilation using an ultrasound phantom and fluoroscopic control. Ultrasound Med Biol 2008, 34(11):1765–1769. 23. Ghani KR, Pilcher J, Patel U, Rowland D, Nassiri D, Anson K: Three-dimensional ultrasound reconstruction of the pelvicaliceal system: an in-vitro study. World J Urol 2008, 26(5):493–498. 23. Ghani KR, Pilcher J, Patel U, Rowland D, Nassiri D, Anson K: Three-dimensional ultrasound reconstruction of the pelvicaliceal system: an in-vitro study. World J Urol 2008, 26(5):493–498. y y 24. Rowland D, Patel U, Pilcher J, Anson K, Nassiri D: Evaluation of the accuracy of 3-dimensional ultrasonography of the kidney using an in vitro renal model. J Ultrasound Med 2009, 28(2):155–162. 24. Rowland D, Patel U, Pilcher J, Anson K, Nassiri D: Evaluation of the accuracy of 3-dimensional ultrasonography of the kidney using an in vitro renal model. J Ultrasound Med 2009, 28(2):155–162. 4. Rowland D, Patel U, Pilcher J, Anson K, Nassiri D: Evaluation of the 25. Ghani KR, Patel U, Anson K: Computed tomography for percutaneous renal access. J Endourol 2009, 23(10):1633–1639. 26. Silverman SG, Leyendecker JR, Amis ES Jr: What is the current role of CT urography and MR urography in the evaluation of the urinary tract? Radiology 2009, 250(2):309–323.
https://openalex.org/W1986052049
https://journals.plos.org/plosgenetics/article/file?id=10.1371/journal.pgen.1000669&type=printable
English
null
A Yeast Two-Hybrid Screen for SYP-3 Interactors Identifies SYP-4, a Component Required for Synaptonemal Complex Assembly and Chiasma Formation in Caenorhabditis elegans Meiosis
PLOS genetics
2,009
cc-by
11,511
Abstract Competing Interests: The authors have declared that no competing interests exist nding: This work was supported in part by research grant 5-FY05-1214 from the March of Dimes Birth Defects Foundation and by Natio nt R01GM072551 to MPC. The funders had no role in study design, data collection and analysis, decision to publish, or preparation o Competing Interests: The authors have declared that no competing interests exist. Competing Interests: The authors have declared that no competing interests exist. * E-mail: mcolaiacovo@genetics.med.harvard.edu * E-mail: mcolaiacovo@genetics.med.harvard.edu However, central region components notoriously lack a significant level of sequence conservation throughout species, which has hindered sequence-based efforts in identifying novel components. Remarkably though, the SC is highly conserved at the ultrastruc- tural level. Specifically, studies in mice, flies and yeast suggest that the central region of the SC is comprised of pairs of central region proteins arranged in a head-to-head orientation with their N-termini positioned at the center of the SC [6–8]. Therefore, the assembly of multiple units along the chromosomes results in a zipper-like organization. Since coiled-coil domains show a propensity to dimerize it has been proposed that central region proteins form parallel dimers through their coiled-coil domains [7,9]. Studies of the yeast TF protein Zip1 revealed dimers and high-order multimers forming in vitro [8], further supporting this model. Detailed deletion studies in yeast revealed that TFs span the distance between homologous chromosomes, specifically demonstrating that the coiled-coil domain is the main determinant of the width of the SC [9]. Zip1 is the only TF protein reported thus far for yeast and is therefore the sole component of the central region in this organism [10]. Flies have two central region proteins: C(3)G and CONA, but only C(3)G was proposed to act as the Drosophila TF protein [11,12]. In C. elegans, three central region proteins have already been identified: SYP-1, SYP-2, and SYP-3, but due to their relatively small size it is reasonable to speculate that these proteins act cooperatively as TFs [2,13,14]. Sarit Smolikov, Kristina Schild-Pru¨ fert, Mo´ nica P. Colaia´covo* Sarit Smolikov, Kristina Schild-Pru¨ fert, Mo´ nica P. Colaia´covo* Sarit Smolikov, Kristina Schild-Pru¨ fert, Mo´ nica P. Colaia´covo* Department of Genetics, Harvard Medical School, Boston, Massachusetts, United States of America PLoS Genetics | www.plosgenetics.org Abstract The proper assembly of the synaptonemal complex (SC) between homologs is critical to ensure accurate meiotic chromosome segregation. The SC is a meiotic tripartite structure present from yeast to humans, comprised of proteins assembled along the axes of the chromosomes and central region (CR) proteins that bridge the two chromosome axes. Here we identify SYP-4 as a novel structural component of the SC in Caenorhabditis elegans. SYP-4 interacts in a yeast two-hybrid assay with SYP-3, one of components of the CR of the SC, and is localized at the interface between homologs during meiosis. SYP-4 is essential for the localization of SYP-1, SYP-2, and SYP-3 CR proteins onto chromosomes, thereby playing a crucial role in the stabilization of pairing interactions between homologous chromosomes. In the absence of SYP-4, the levels of recombination intermediates, as indicated by RAD-51 foci, are elevated in mid-prophase nuclei, and crossover recombination events are significantly reduced. The lack of chiasmata observed in syp-4 mutants supports the elevated levels of chromosome nondisjunction manifested in high embryonic lethality. Altogether our findings place SYP-4 as a central player in SC formation and broaden our understanding of the structure of the SC and its assembly. Citation: Smolikov S, Schild-Pru¨fert K, Colaia´covo MP (2009) A Yeast Two-Hybrid Screen for SYP-3 Interactors Identifies SYP-4, a Component Required for Synaptonemal Complex Assembly and Chiasma Formation in Caenorhabditis elegans Meiosis. PLoS Genet 5(10): e1000669. doi:10.1371/journal.pgen.1000669 Editor: Mathilde Grelon, Institut Jean-Pierre Bourgin, INRA de Versailles, France Editor: Mathilde Grelon, Institut Jean-Pierre Bourgin, INRA de Versailles, France Editor: Mathilde Grelon, Institut Jean-Pierre Bourgin, INRA de Versailles, France Received April 24, 2009; Accepted September 1, 2009; Published October 2, 2009 Received April 24, 2009; Accepted September 1, 2009; Published October 2, 2009 Copyright:  2009 Smolikov et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Funding: This work was supported in part by research grant 5-FY05-1214 from the March of Dimes Birth Defects Foundation and by National Institutes of Health grant R01GM072551 to MPC. The funders had no role in study design, data collection and analysis, decision to publish, or preparation of the manuscript. SYP-4 Is Essential for Chromosome Synapsis and Chiasma Formation during C. elegans Meiosis Electron microscopy (EM) analyses performed in various model systems revealed an electron-dense linear structure, called the central element, located along the middle of the central region of the SC [4]. Until recently, it was unclear whether this structure resulted from the overlap between the globular domains of the central region proteins, or was formed by central element-specific proteins localizing only at the middle of the SC. However, studies performed in mice revealed the identity of several proteins specifically localizing to the central element and identified their function in promoting the assembly of the SC as a 3-dimensional structure [15,16]. Central element proteins may therefore not only act as ‘‘clamps’’ holding the transverse filaments of the SC, but may also have a role in promoting SC assembly in a particular direction, determining its height (SYCE1) [16,17] or length (SYCE2 and TEX12) [15,18]. Although a central element has not yet been observed by EM analysis in C. elegans, it is possible that some of the central region proteins in this system perform a similar function to central element proteins from mice (K.P.S. and M.P.C. unpublished data). g g We applied a yeast two-hybrid approach to identify novel proteins functioning in the SC in C. elegans. Specifically, we screened a cDNA library prepared from mixed-stage worms, utilizing SYP-1, SYP-2 and SYP-3 full-length constructs as well as N- and C-terminal truncations as baits (see Materials and Methods). As a result, we identified SYP-4 (encoded by open reading frame H27M09.3) as a protein that interacts with both the full-length and C-terminal truncation constructs of SYP-3. Screens performed with SYP-1 and SYP-2 as baits failed to identify SYP-4 as an interacting protein. In addition, when directly tested for a yeast two-hybrid interaction, SYP-4 failed to interact with the full length, as well as the C- or N-terminal truncation constructs of SYP-1 and SYP-2 (Figure 1, Figure S1). SYP-4 encodes for a 605 amino acid protein. It is predicted to contain three stretches of coiled-coil structure in the region between residues 115 and 410, based on analysis using the COILS program [25]. SYP-4 lacks any other evident structural domains or shared homology with other proteins in C. elegans or other organisms (Figure 2A). To further investigate the role of SYP-4 in meiosis we examined the phenotype of syp-4(tm2713) mutants. SC Structural Protein in C. elegans To further investigate the structure of the SC in C. elegans, we performed a yeast two-hybrid screen utilizing the known SC central region proteins as baits. This has resulted in the identification of SYP-4, a novel component of the central region of the SC, and the first example of the identification of a SC structural protein through the yeast two-hybrid approach. Here, we show that SYP-4 displays all the hallmark features of an SC component. Specifically, SYP-4 is essential for chromosome synapsis, and in its absence, chromosomes initiate pairing interactions that cannot be stabilized. These defects result in increased germ cell apoptosis due to impaired DSB repair progression. In addition, crossover frequencies are severely reduced in syp-4 mutants, resulting in increased chromosome nondisjuction. SYP-4 localizes at the interface between homolo- gous chromosomes during meiosis and this localization requires axis morphogenesis and is interdependent with the SYP-1, SYP-2 and SYP-3 proteins. Moreover, SYP-4 interacts with SYP-3 in a yeast two-hybrid assay, suggesting that the function of SYP-4 is executed through its role as a member of the CR of the SC. Our discovery of SYP-4 therefore sheds new light on the structure of the SC in C. elegans and the roles its proteins play in meiosis. Author Summary Meiosis is a two-part cell division program that ensures the formation of haploid gametes (e.g. eggs and sperm), which can then reconstitute a species’ ploidy through fertiliza- tion. A critical step towards accomplishing this task is the accurate segregation of homologous chromosomes away from each other during meiosis I. This requires the formation of at least one obligatory crossover event (genetic exchange) between each pair of homologous chromosomes. In most organisms, the formation of all crossover events greatly relies on the synaptonemal complex (SC). This ‘‘zipper-like’’ structure holds the pairs of homologous chromosomes together during meiotic prophase I, and crossover recombination is completed in the context of the fully formed SCs. Here, we identify SYP-4 as a novel structural component of the SC in the nematode C. elegans. In its absence, SCs fail to form, resulting in a lack of crossover formation and increased errors in chromo- some segregation. SYP-4 interacts in a yeast two-hybrid assay with SYP-3, one of the SC proteins, and its localization onto chromosomes is interdependent with SYP-1, SYP-2, and SYP-3 proteins. SYP-4 therefore plays a critical role during C. elegans meiosis in generating the ultrastructurally conserved SC that is ubiquitously present from yeast to humans. Results SYP-4 Is Essential for Chromosome Synapsis and Chiasma Formation during C. elegans Meiosis Introduction The synaptonemal complex (SC) is a proteinaceous structure formed between each pair of homologous chromosomes during meiotic prophase I. Meiotic recombination unfolds, and crossover events are completed, in the context of this structure. The formation of these crossover events is a prerequisite for accurate chromosome segregation at the first meiotic division since it ensures that homologous chromosomes will be held together until anaphase I. Subsequently, sister chromatids separate in the second meiotic division resulting in the formation of haploid gametes. Without a functional SC these events are impaired, resulting either in a meiotic arrest or in increased chromosome nondisjunction. The SC is composed of two main parts: the axes and the central region. The axes-associated proteins assemble along the chromo- somes, followed by the central region proteins, which proceed to connect homologous chromosomes axes thereby completing synapsis. This temporal separation in the assembly of these two SC sub-structures is supported by the observation made in various organisms that the lack of axis assembly results in severe defects in the recruitment of central region proteins [1–3]. The central region of the SC is comprised of proteins that form transverse filaments (TF) connecting or bridging homologous chromosomes. These TF proteins share a common structure: a central coiled-coil domain flanked by globular domains [4,5]. October 2009 | Volume 5 | Issue 10 | e1000669 1 PLoS Genetics | www.plosgenetics.org SYP-4 Is Essential for Chromosome Synapsis and Chiasma Formation during C. elegans Meiosis These mutants carry a 213 bp out-of-frame deletion in the N-terminus of syp-4 (Figure 2A), predicted to result in the absence of a fully functional SYP-4 protein in these worms. In addition, genetic analysis indicates that tm2713 is a null allele of syp-4 (see Materials and Methods). syp-4(tm2713) mutants exhibit high levels of embryonic lethality (97.5%, n = 1855) and a high percentage of males (40%) among their surviving progeny compared to wild type (0% and 0.2%, respectively, n = 1798), which are phenotypes suggestive of errors in meiotic chromosome segregation. The formation of the SC is tightly coordinated with the progression of recombination. The SC starts to form at the entry to meiotic prophase I during leptotene. The first meiotic DNA double-strand breaks (DSBs) are observed at this stage, and in some organisms, such as in yeast, plants and mice, DSB formation is essential for SC assembly [19,20]. In contrast, both in D. melanogaster and C. elegans, recombination is dispensable for SC formation [21,22]. Throughout these various organisms, the mature SC is observed at the pachytene stage where crossover recombination is completed. Deletion of genes encoding SC central region proteins results in lack of synapsis and defects in the progression of recombination. In yeast mutants lacking the central region protein Zip1, crossovers are reduced to 25% of the levels observed in wild-type [23], while male mice lacking SYCP1 proteins exhibit a pachytene arrest accompanied by an accumu- lation of mid to late recombination markers [24]. In D. melanogaster and C. elegans, synapsis is also crucial for recombination, given that crossover formation is impaired and chiasmata are not observed in SC-deficient mutants [2,12–14]. Analysis of chromosome morphogenesis in syp-4(tm2713) mutant gonads revealed defects in the progression of meiotic prophase I. As observed in wild type, chromosomes clustered towards one side of the nuclei upon entering into prophase I in syp-4(tm2713) mutants, therefore acquiring the polarized config- uration that is characteristic of transition zone (leptotene/ zygotene) nuclei (Figure 2B, 2C, and 2F). However, in contrast to wild type, chromosomes failed to redisperse throughout the nuclear periphery upon entrance into pachytene in syp-4(tm2713) PLoS Genetics | www.plosgenetics.org PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 PLoS Genetics | www.plosgenetics.org 2 SC Structural Protein in C. elegans were not apparent, and instead, thin DAPI-stained tracks were present suggesting defects in synapsis. SYP-4 Localizes to Chromosomes in a SYP-1–, SYP-2–, and SYP-3–Dependent Manner SYP-4 Is Essential for Chromosome Synapsis and Chiasma Formation during C. elegans Meiosis In addition, transmission electron microscopy (TEM) analysis revealed a lack of SC formation in syp-4(tm2713) mutants, suggesting that the defects in synapsis stem from an inability to form the SC structure in the absence of SYP-4 (Figure S2). As nuclei progressed into diakinesis, a complete lack of chiasmata was observed. Therefore, instead of the 6 DAPI-stained bodies present in wild type diakinesis oocytes, corresponding to the six pairs of attached homologous chromo- somes, 11.9 DAPI-stained bodies (n = 31) were observed in syp-4 mutants (Figure 2E and 2H). Altogether, this analysis implicates SYP-4 in playing a crucial role in chromosome synapsis and chiasma formation. Figure 1. A yeast two-hybrid approach reveals that SYP-4 interacts with SYP-3 through its N-terminal domain. The yeast two-hybrid system was used to test for protein interactions between SYP-1, SYP-2 and SYP-3 full length, N- (DN) and C-terminal (DC) truncations fused to the DNA binding domain (DB) of GAL4, and SYP-4 full length fused to the activation domain (AD) of GAL4. Positive yeast two-hybrid interactions were assessed by b-galactosidase activity. This approach revealed an interaction between SYP-4 and SYP-3. Numbers 1 to 5 represent standard controls: 1, DB and AD without any fusion; 2, DB-pRB and AD-E2F1; 3, DB-Fos and AD-Jun; 4, Gal4p and AD; and 5, DB-DP and AD-E2F1. doi:10.1371/journal.pgen.1000669.g001 SYP-4 Localizes to Chromosomes in a SYP-1–, SYP-2–, and SYP-3–Dependent Manner To examine the immunolocalization of SYP-4 on whole mounted germlines, an a-SYP-4 antibody was raised against the N-terminus (first 27 amino acids) of SYP-4. The specificity of this antibody was confirmed by detecting the presence of SYP-4 signal on meiotic chromosomes in wild type nuclei (Figure 3A–3C) and not in syp-4(tm2713) mutants (Figure 3D). In wild type, SYP-4 was first detected upon entrance into meiosis as foci or short tracks on chromosomes in transition zone nuclei (Figure 3A). SYP-4 remained associated with chromosomes throughout pachytene where it was observed between synapsed chromosomes (Figure 3B) [2,13,14,26,27]. During the transition from late pachytene into diplotene, the SC starts to disassemble and chromosome remodeling unfolds around the crossover site [28–30]. At this transition, SYP-4 signal was greatly reduced throughout most of the length of the chromosomes, becoming mostly concentrated towards one end of each chromosome. This asymmetric localization pattern is similar to that observed for the other SYP proteins during this transition [28]. Given that a single crossover (obligate crossover) is formed between each pair of homologous chromosomes in C. elegans [31] and this crossover is off-center, chromosome remodeling then results in bivalents at diakinesis with a cross-shaped configuration composed of a long and a short axes intersecting at the chiasma [28]. By early diakinesis, SYP-4 localization was restricted to the short axes (short arms; the region distal to the chiasma) (Figure 3C), and by the end of diakinesis it was no longer detectable on chromosomes. This distinct pattern of localization is unique to SC central region proteins, as lateral element proteins remain on both arms of the bivalent through the end of diakinesis [2,13,14,26,27]. PLoS Genetics | www.plosgenetics.org The region deleted in the tm2713 mutant allele Coiled-coil domains, with start and end points identified through the COILS program are shaded in dark gray. T region used for antibody production. (B) Low magnification images of DAPI-stained nuclei of whole-mount gon syp-4(tm2713) adult hermaphrodites. The extended transition zone chromosome configuration is observed Progression from early to mid-prophase is observed from left to right. (C–H) High magnification images of DAPI- pachytene (D,G), and diakinesis (E,G) in wild type (C–E) and syp-4(tm2713) mutants (F–H). Bars, 5 mm (B) and 2 doi:10.1371/journal.pgen.1000669.g002 Figure 2. Extended transition zone chromosome morphology and lack of chiasmata in meiotic prophase I nuclei in syp-4 mutants. (A) Schematic representation of the predicted SYP-4 protein. The region deleted in the tm2713 mutant allele is indicated (codons 28 through 84). Coiled-coil domains, with start and end points identified through the COILS program are shaded in dark gray. The black bar indicates the N-terminal region used for antibody production. (B) Low magnification images of DAPI-stained nuclei of whole-mount gonads from age-matched wild type and syp-4(tm2713) adult hermaphrodites. The extended transition zone chromosome configuration is observed until late pachytene in the latter. Progression from early to mid-prophase is observed from left to right. (C–H) High magnification images of DAPI-stained nuclei at transition zone (C,F), pachytene (D,G), and diakinesis (E,G) in wild type (C–E) and syp-4(tm2713) mutants (F–H). Bars, 5 mm (B) and 2 mm (C–H). doi:10 1371/journal pgen 1000669 g002 Figure 2. Extended transition zone chromosome morphology and lack of chiasmata in meiotic prophase I nuclei in syp-4 mutants. Figure 2. Extended transition zone chromosome morphology and lack of chiasmata in meiotic prophase I nuclei in syp-4 mutants. (A) Schematic representation of the predicted SYP-4 protein. The region deleted in the tm2713 mutant allele is indicated (codons 28 through 84). Coiled-coil domains, with start and end points identified through the COILS program are shaded in dark gray. The black bar indicates the N-terminal region used for antibody production. (B) Low magnification images of DAPI-stained nuclei of whole-mount gonads from age-matched wild type and syp-4(tm2713) adult hermaphrodites. The extended transition zone chromosome configuration is observed until late pachytene in the latter. Progression from early to mid-prophase is observed from left to right. (C–H) High magnification images of DAPI-stained nuclei at transition zone (C,F), pachytene (D,G), and diakinesis (E,G) in wild type (C–E) and syp-4(tm2713) mutants (F–H). Bars, 5 mm (B) and 2 mm (C–H). doi:10.1371/journal.pgen.1000669.g002 (Figure 4E–4L and data not shown). This interdependency of SYP-4 with the other SYP proteins is in agreement with a role for SYP-4 in central region assembly, as all SYP proteins exhibit similar interdependencies [2,13,14]. suggests that SYP-4 depends on normal axis morphogenesis for its assembly onto chromosomes. Central region proteins were also essential for SYP-4 localization, given that SYP-4 localization was not observed in syp-1, syp-2 or syp-3 null mutants (Figure 3I–3K). In contrast, the localization of axis-associated proteins, such as HIM-3 [27] or HTP-3 [34], was not affected in syp-4(tm2713) mutants (Figure 4A–4D and data not shown), suggesting that SYP- 4 acts downstream of axis morphogenesis. However, all three known central region components (SYP-1, SYP-2 and SYP-3) failed to localize to chromosomes in the syp-4(tm2713) mutants PLoS Genetics | www.plosgenetics.org Figure 1. A yeast two-hybrid approach reveals that SYP-4 interacts with SYP-3 through its N-terminal domain. The yeast two-hybrid system was used to test for protein interactions between SYP-1, SYP-2 and SYP-3 full length, N- (DN) and C-terminal (DC) truncations fused to the DNA binding domain (DB) of GAL4, and SYP-4 full length fused to the activation domain (AD) of GAL4. Positive yeast two-hybrid interactions were assessed by b-galactosidase activity. This approach revealed an interaction between SYP-4 and SYP-3. Numbers 1 to 5 represent standard controls: 1, DB and AD without any fusion; 2, DB-pRB and AD-E2F1; 3, DB-Fos and AD-Jun; 4, Gal4p and AD; and 5, DB-DP and AD-E2F1. d i 10 1371/j l 1000669 001 To further examine if SYP-4 acts as a central region protein, we tested whether SYP-4 localizes to unsynapsed chromosomes in a scenario in which lateral element assembly is normal, but the central region is not formed. In him-8 mutants, all autosomes are synapsed and exhibit normal localization of central region proteins, while the X chromosome remains unsynapsed and shows no localization of central region proteins despite normal axis morphogenesis [32]. We did not detect any SYP-4 association with the unsynapsed pair of chromosomes in the him-8 mutants (Figure 3E–3G). These results further support a role for SYP-4 as a central region protein of the SC. doi:10.1371/journal.pgen.1000669.g001 We next examined the requirements for SYP-4 localization. First, we determined whether SYP-4 localization is dependent on the lateral element protein HIM-3 [27] and on the SC central region proteins SYP-1, SYP-2 and SYP-3 [2,13,14]. In the absence of HIM-3, SYP-4 was observed only as a dot or short patch associated with chromosomes in pachytene nuclei (Figure 3H), similarly to the localization of SYP-1, SYP-2 and SYP-3 in him-3(RNAi) or him-3 null mutants [2,13,14,33]. This mutants. Instead, they remained mostly clustered until late pachytene in an ‘‘extended transition zone’’ morphology charac- teristic of null mutants for genes encoding proteins that constitute the central region of the SC [2,13,14] (Figure 2B, 2D, and 2G). Moreover, when chromosomes redispersed in late pachytene nuclei in syp-4(tm2713) mutants, the thick parallel DAPI-stained tracks indicative of synapsed chromosomes observed in wild type October 2009 | Volume 5 | Issue 10 | e1000669 3 SC Structural Protein in C. elegans Figure 2. Extended transition zone chromosome morphology and lack of chiasmata in meiotic pr (A) Schematic representation of the predicted SYP-4 protein. The Stabilization of Homologous Pairing Interactions Requires SYP-4 In C. elegans, synapsis is crucial for the stabilization of chromosome paring interactions [2,13,14]. Since our immunolocalization studies PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 4 SC Structural Protein in C. elegans Figure 3. SYP-4 localizes to chromosomes during prophase I, and its localization requires both axis-associated and CR proteins. (A– C) High magnification images of nuclei stained with DAPI and anti-SYP-4. Wild type nuclei at transition zone (A), late pachytene (B), and diakinesis (C), showing immunolocalization of SYP-4 on chromosomes throughout meiotic prophase I. Arrow in (A) indicates a premeiotic nucleus adjacent to the meiotic transition zone nuclei. Arrow in (C) indicates two superimposed bivalents. Inset in (C) indicates a single bivalent at high magnification, co- immunostained with SYP-4 (red) and HTP-3 (green). SYP-4 localizes to the region distal to the chiasma (short arms of the bivalent). (D) Pachytene nuclei exemplifying the lack of SYP-4 immunolocalization on chromosomes observed in syp-4 mutants. (E–G) SYP-4 is excluded only from unsynapsed chromosomes (arrows) observed in him-8 mutants. (H–K) SYP-4 localization in pachytene nuclei is perturbed in him-3 (H), syp-1 (I), syp-2 (J), and syp-3 (K) mutants, indicating that SYP-4 localization requires both normal axis-morphogenesis and the presence of central region proteins. Bars, 2 mm. doi:10.1371/journal.pgen.1000669.g003 Figure 3. SYP-4 localizes to chromosomes during prophase I, and its localization requires both axis-associated and CR proteins. (A– C) High magnification images of nuclei stained with DAPI and anti-SYP-4. Wild type nuclei at transition zone (A), late pachytene (B), and diakinesis (C), showing immunolocalization of SYP-4 on chromosomes throughout meiotic prophase I. Arrow in (A) indicates a premeiotic nucleus adjacent to the meiotic transition zone nuclei. Arrow in (C) indicates two superimposed bivalents. Inset in (C) indicates a single bivalent at high magnification, co- immunostained with SYP-4 (red) and HTP-3 (green). SYP-4 localizes to the region distal to the chiasma (short arms of the bivalent). (D) Pachytene nuclei exemplifying the lack of SYP-4 immunolocalization on chromosomes observed in syp-4 mutants. (E–G) SYP-4 is excluded only from unsynapsed chromosomes (arrows) observed in him-8 mutants. (H–K) SYP-4 localization in pachytene nuclei is perturbed in him-3 (H), syp-1 (I), syp-2 (J), and syp-3 (K) mutants, indicating that SYP-4 localization requires both normal axis-morphogenesis and the presence of central region proteins. Bars, 2 mm. doi:10.1371/journal.pgen.1000669.g003 p,0.0001 for all loci in zones 6 and 7). PLoS Genetics | www.plosgenetics.org The Stabilization of Homologous Pairing Interactions Requires SYP-4 This inability to stabilize pairing interactions was more pronounced for chromosome I than for the X chromosome, as exemplified by the observation of homologous pairing at the PC end of chromosome I in only 74% of the nuclei examined in zone 4, compared to 94% at the PC end of the X chromosome in the same zone (Figure 5C, p,0.0001). These differences probably reflect the yet unexplained propensity of the X chromosomes to pair more efficiently compared to the autosomes when SC formation is impaired, as seen in other mutants in C. elegans [35–37]. In addition, significantly higher levels of pairing were observed in the PC regions compared to the non-PC regions (Figure 5C). Specifically, pairing levels were 25% and 56% higher at the PC end compared to the non-PC end of chromosomes I and X, respectively (for Chromosome I, zone 3, p = 0.0061; for the X chromosome, zone 4, p,0.0001). The higher levels of pairing observed at the PC ends most likely stem from the fact that the place SYP-4 as a central region protein, we used fluorescence in situ hybridization (FISH) to monitor its role in chromosome pairing throughout prophase. We divided gonads from wild type and syp- 4(tm2713) mutants into 7 zones and analyzed the percentage of nuclei carrying paired chromosomes in each one of these zones (Figure 5A). Specifically, we monitored pairing at opposite ends (the pairing center (PC) and non-PC ends) of chromosomes I and X. Levels of homologous pairing progressively increased in wild type nuclei as they entered meiosis in zones 2 to 3. In early pachytene (zone 4), chromosomes I and X were observed pairing with their homologous partners in approximately 100% of the nuclei examined and this level was maintained throughout late pachytene (zone 7) (Figure 5C). In contrast, although an increase in homologous pairing levels was detected in syp-4(tm2713) mutants initiating at the same time as in wild type, pairing levels failed to reach 100% and decreased as prophase progressed (Figure 5C, and Table S2, PLoS Genetics | www.plosgenetics.org PLoS Genetics | www.plosgenetics.org PLoS G October 2009 | Volume 5 | Issue 10 | e1000669 5 SC Structural Protein in C. elegans Figure 4. Central region proteins, but not axis-associated proteins, localize to chromosomes in a SYP-4-dependent manner. High magnification images of pachytene nuclei in wild type (A,B,E,F,I,J) and syp-4 mutants (C,D,G,H,K,L). The Stabilization of Homologous Pairing Interactions Requires SYP-4 DAPI-stained chromosomes are immunostained with anti-HTP-3 to observe the lateral elements (A–D), and anti-SYP-1 (E–H) or anti-SYP-3 (I–L) to visualize the central region of the SC. In syp-4 mutants, HTP-3 is observed localizing continuously along chromosomes (C,D), indicating that lateral element formation is normal. In contrast, SYP-1 and SYP-3 signals are not observed on chromosomes in syp-4 mutants (G,H,K,L), indicating lack of central region formation. Bars, 2 mm. doi:10.1371/journal.pgen.1000669.g004 Figure 4. Central region proteins, but not axis-associated proteins, localize to chromosomes in a SYP-4-dependent manner. High magnification images of pachytene nuclei in wild type (A,B,E,F,I,J) and syp-4 mutants (C,D,G,H,K,L). DAPI-stained chromosomes are immunostained with anti-HTP-3 to observe the lateral elements (A–D), and anti-SYP-1 (E–H) or anti-SYP-3 (I–L) to visualize the central region of the SC. In syp-4 mutants, HTP-3 is observed localizing continuously along chromosomes (C,D), indicating that lateral element formation is normal. In contrast, SYP-1 and SYP-3 signals are not observed on chromosomes in syp-4 mutants (G,H,K,L), indicating lack of central region formation. Bars, 2 mm. doi:10.1371/journal.pgen.1000669.g004 first observed with a similar timing to wild-type, suggesting that the initiation of meiotic recombination is not dependent on SYP-4 (Figure 6C). However, levels of RAD-51 foci were significantly higher in mid-pachytene in syp-4(tm2713) mutants compared to wild type (Figure 6B and 6C, zone 5, 10.2 foci/nucleus; p,0.0001, two-tailed Mann-Whitney test, 95% C.I.) and remained elevated up to late pachytene (Figure 6C, zone 7, 2.1 foci/nucleus; p,0.0001, two-tailed Mann-Whitney test, 95% C.I.). The defect in DSB repair progression observed in syp-4(tm2713) mutants probably stems from the lack of chromosome synapsis and therefore a lack of close and stable proximity to a homologous template for repair. However, DSB repair is eventually accom- plished in syp-4(tm2713) mutants, as RAD-51 foci were absent in diplotene nuclei and chromosome fragments were not apparent in oocytes at diakinesis (Figure 2H). This delayed repair may proceed in part through recombination with the sister chromatid, as previously demonstrated for syp-2 and syp-3 mutants [13,40]. initiation of homologous pairing events occurs at the PCs in a SYP- independent manner [2,13,14,38]. Taken together, our observations indicate that unlike axis-associated proteins, SYP-4 is dispensable for the initiation of paring interactions, but as meiosis progresses it is crucial for the stabilization of pairing interactions. Our studies, therefore, further support a role for SYP-4 as a central region component of the SC. PLoS Genetics | www.plosgenetics.org Discussion Mann-Whitney test, 95% C.I.), but did not differ significantly from syp-3(ok758) (n = 22) (p = 0.8471). The elevated germ cell apoptosis levels are dependent on meiotically induced DSBs, as in the absence of spo-11, syp-4(RNAi) failed to increase apoptosis to the levels observed for syp-4(RNAi) in the spo-11/nT1 heterozygous back- ground. Taken together, this analysis suggests that the defects in DSB repair progression observed by monitoring the levels of RAD-51 foci throughout prophase, are sufficient to activate a DNA damage checkpoint response, and that such a checkpoint is intact in the syp-4(tm2713) mutants. Normal Progression of Meiotic Recombination Requires SYP-4 (A) Diagram of a C. elegans germline indicating the position of the zones scored in the time-course analysis of homologous pairing. The color codes indicate the genotypes examined in (C). (B) High magnification images of pachytene nuclei from wild type and syp-4 mutants stained with DAPI and hybridized with FISH probes recognizing either the PC end or the non-PC end of chromosome I (green and red, respectively). FISH signals are frequently unpaired in syp-4 mutants. Bars, 2 mm. (C) Graphs depicting the percentage of nuclei carrying paired homologous chromosomes (y-axis) within each zone along the germline (x-axis). The regions being recognized by each of the FISH probes are indicated above the graphs. doi:10.1371/journal.pgen.1000669.g005 Figure 5. SYP-4 is required for the stabilization of homologous pairing interactions. (A) Diagram of a C. elegans germline indicating the position of the zones scored in the time-course analysis of homologous pairing. The color codes indicate the genotypes examined in (C). (B) High magnification images of pachytene nuclei from wild type and syp-4 mutants stained with DAPI and hybridized with FISH probes recognizing either the PC end or the non-PC end of chromosome I (green and red, respectively). FISH signals are frequently unpaired in syp-4 mutants. Bars, 2 mm. (C) Graphs depicting the percentage of nuclei carrying paired homologous chromosomes (y-axis) within each zone along the germline (x-axis). The regions being recognized by each of the FISH probes are indicated above the graphs. doi:10.1371/journal.pgen.1000669.g005 Normal Progression of Meiotic Recombination Requires SYP-4 Interhomolog recombination resulting in crossover events is dependent on chromosome synapsis [2,13,14]. Therefore, we examined the progression of meiotic recombination in the syp-4 (tm2713) mutants by immunostaining whole mounted germlines with an anti-RAD-51 antibody (RAD-51 is required for strand invasion/exchange during double-strand break repair; [39]). Specifically, wild type and syp-4(tm2713) mutant germlines were divided into 7 zones and levels of RAD-51 foci/nucleus were quantitated for all nuclei in each zone (Figure 6A). In wild type gonads, levels of RAD-51 foci started to increase as nuclei entered into meiotic prophase and peaked in early to mid pachytene (Figure 6C, zone 5, 3.7 foci/nucleus), after which they gradually declined (Figure 6C, zone 7, 0.5 foci/nucleus). As nuclei exited pachytene, RAD-51 foci were no longer observed. In syp-4 (tm2713) mutants, the increase in the levels of RAD-51 foci was Unrepaired meiotic DSBs that persist until late pachytene may activate a DNA damage checkpoint, resulting in an increase in germ cell apoptosis at that stage [41]. Therefore, we examined the levels of germ cell apoptosis in syp-4(tm2713) mutants compared to wild type, spo-11 mutants, that lack DSB formation, and syp-3 null mutants, which have significantly impaired DSB repair (Table 1). syp-4(tm2713) mutants (n = 57) showed a significant increase in the levels of apoptosis compared to wild type (n = 42) and spo-11(n = 17) worms (p,0.0001 for both pairwise combinations, two-tailed PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 PLoS Genetics | www.plosgenetics.org 6 SC Structural Protein in C. elegans Figure 5. SYP-4 is required for the stabilization of homologous pairing interactions. (A) Diagram of a C. elegans germline indicating the position of the zones scored in the time-course analysis of homologous pairing. The color codes indicate the genotypes examined in (C). (B) High magnification images of pachytene nuclei from wild type and syp-4 mutants stained with DAPI and hybridized with FISH probes recognizing either the PC end or the non-PC end of chromosome I (green and red, respectively). FISH signals are frequently unpaired in syp-4 mutants. Bars, 2 mm. (C) Graphs depicting the percentage of nuclei carrying paired homologous chromosomes (y-axis) within each zone along the germline (x-axis). The regions being recognized by each of the FISH probes are indicated above the graphs. doi:10.1371/journal.pgen.1000669.g005 Figu posit mag the P Grap regio Figure 5. SYP-4 is required for the stabilization of homologous pairing interactions. PLoS Genetics | www.plosgenetics.org SYP-4 Is a Component of the Central Region of the SC in C. elegans Here we report the first example of the identification of a novel structural protein of the SC through the yeast two-hybrid approach. We succeeded in uncovering SYP-4 through its physical interaction with SYP-3. We provide multiple lines of evidence suggesting that SYP-4 is a novel structural component of the SC participating in central region formation. The localization pattern of SYP-4 is distinct from that of meiosis-specific cohesin or lateral element components. Specifically, SYP-4 is only observed associating onto chromosomes upon entrance into meiosis and not earlier as observed for cohesin. Moreover, in contrast to axis- associated components, SYP-4 remains localized only to the short axes, instead of both long and short axes, of the bivalents following chromosome remodeling in late pachytene, and SYP-4 is no longer chromosome-associated by the end of diakinesis. Further- more, analysis of the syp-4(tm2144) mutants supports a role for SYP-4 downstream of axis formation. First, SYP-4 localization to chromosomes depends on axis-associated proteins and is absent from unsynapsed chromosomes (him-8 mutants), while axis- associated proteins still localize to the unsynapsed chromosomes of the syp-4(tm2144) or him-8 mutants. Second, our analysis of To examine whether SYP-4 is required for crossover recombi- nation we measured crossover frequencies in syp-4(tm2713) mutants for intervals spanning ,80% of the X chromosome (Table 2) and ,70% of chromosome V (Table S3), utilizing genetic markers and single-nucleotide polymorphism (SNP) markers, respectively. As expected, given the lack of chromosome synapsis, the lack of chiasmata, and the defects observed with the progression of meiotic recombination, crossover levels were significantly reduced for the genetic intervals examined on both chromosomes in the syp-4(tm2713) mutants compared to wild type (p,0.0001, respec- tively, by the two-tailed Fisher’s Exact Test, 95% C.I.) (Table 2, Table S3). Altogether, these results suggest that the crucial role that SYP-4 plays in chromosome synapsis is essential for the normal progression of meiotic recombination and crossover formation. PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 7 SC Structural Protein in C. elegans Figure 6. Progression of meiotic recombination is impaired in syp-4 mutants. (A) Diagram of a C. elegans germline depicting the seven zones throughout which RAD-51 foci were scored for all nuclei. Levels of RAD-51 foci are indicated by the color code. (B) High magnification images of pachytene nuclei in wild type and syp-4 mutants stained with DAPI and RAD-51. SYP-4 Is a Component of the Central Region of the SC in C. elegans Elevated levels of RAD-51 foci are observed on pachytene nuclei in syp-4 mutants. Bars, 2 mm. (C) Histograms depict the quantitation of RAD-51 foci in wild type and syp-4 mutant germlines. The percentage of nuclei observed for each category indicated by the color code (y-axis), are depicted for each zone along the germline (x-axis). doi:10.1371/journal.pgen.1000669.g006 Figure 6. Progression of meiotic recombination is impaired in syp-4 mutants. (A) Diagram of a C. elegans germline depicting the seven zones throughout which RAD-51 foci were scored for all nuclei. Levels of RAD-51 foci are indicated by the color code. (B) High magnification images of pachytene nuclei in wild type and syp-4 mutants stained with DAPI and RAD-51. Elevated levels of RAD-51 foci are observed on pachytene nuclei in syp-4 mutants. Bars, 2 mm. (C) Histograms depict the quantitation of RAD-51 foci in wild type and syp-4 mutant germlines. The percentage of nuclei observed for each category indicated by the color code (y-axis), are depicted for each zone along the germline (x-axis). doi:10.1371/journal.pgen.1000669.g006 Figure 6. Progression of meiotic recombination is impaired in syp-4 mutants. (A) Diagram of a C. elegans germline depicting the seven zones throughout which RAD-51 foci were scored for all nuclei. Levels of RAD-51 foci are indicated by the color code. (B) High magnification images of pachytene nuclei in wild type and syp-4 mutants stained with DAPI and RAD-51. Elevated levels of RAD-51 foci are observed on pachytene nuclei in syp-4 mutants. Bars, 2 mm. (C) Histograms depict the quantitation of RAD-51 foci in wild type and syp-4 mutant germlines. The percentage of nuclei observed for each category indicated by the color code (y-axis), are depicted for each zone along the germline (x-axis). doi:10.1371/journal.pgen.1000669.g006 prophase and involved in the crossover-dependent chromosome remodeling process observed in late prophase [36,37], and ZHP-3, the ortholog of budding yeast Zip3 proposed to couple recombination with SC morphogenesis in C. elegans [43] (data not shown). Furthermore, an interaction between SYP-4 and either SYP-1 or SYP-2 was not detected when assessing for these pairwise interactions via the yeast two-hybrid system. These interactions were also not detected when we used SYP-1 and SYP- homologous pairing levels in the syp-4(tm2144) mutants clearly points to SYP-4 acting downstream of the establishment of pairing, which is dependent on axis-associated proteins. SYP-4 Is a Component of the Central Region of the SC in C. elegans Third, syp- 4(tm2713) mutants exhibit several phenotypes observed in null mutants for central region components such as the extended transition zone morphology and the accumulation of high levels of RAD-51 foci accompanied by increased apoptosis in late pachytene nuclei [2,13,14]. These phenotypes are clearly distinct from those of mutants in axis-associated proteins, which show a shortened transition zone and low levels of RAD-51 foci [33,34]. Altogether, these data render strong support for a role of SYP-4 as a central region protein of the SC, and point to its crucial function in promoting stable interactions between homologous chromo- somes leading to crossover formation. Table 1. Germ cell apoptosis is elevated in syp-4 mutants. Table 1. Germ cell apoptosis is elevated in syp-4 mutants. Genotype n Mean Number of Germ Cell Corpses +/- Standard Error wild type 42 2.49+/20.26 spo-11/spo-11 17 1.95+/20.37 spo-11/nT1a 20 1.6+/20.39 spo-11/spo-11a 19 2.26+/20.47 syp-4(tm2713)/syp-4(tm2713) 57 7.89+/20.83 syp-3(ok748)/syp-3(ok748) 22 8.29+/20.35 syp-4(RNAi);spo-11/nT1 51 5.04+/20.47 syp-4(RNAi);spo-11/spo-11 58 3.47+/20.34 acontrol RNAi with empty pL4440 vector. Germ cell corpses were scored in adult hermaphrodites 20 hours post-L4 as in [59]. Statistical comparisons between genotypes were conducted using the two-tailed Mann-Whitney test. syp-4(tm2713) (n = 57; where n = number of gonad arms scored/genotype) differed significantly from wild type (n = 42) (p,0.0001), and from spo-11(n = 17) (p,0.0001), but did not differ significantly from syp-3(ok758) (n = 22) (p = 0.8471). syp-4(RNAi);spo-11/nT1 (n = 51) differed significantly from syp- 4(RNAi);spo-11/spo-11 (n = 58) (p = 0.0122), spo-11/nT1(n = 20) (p,0.0001), and spo-11/spo-11(n = 17) (p = 0.0016). syp-4(RNAi);spo-11/spo-11 and spo-11/spo- 11(n = 17) did not differ significantly from each other (p = 0.0905). doi:10.1371/journal.pgen.1000669.t001 SYP-4 and SYP-3 May Form a Module of the Central Region of the SC g The fact that SYP-4 is interdependent with SYP-1, SYP-2 and SYP-3, suggests that these proteins act in a complex. This is further supported by our identification of SYP-4 via a yeast two- hybrid interaction with SYP-3. Our yeast two-hybrid analysis suggests that SYP-3 may interact with SYP-4 through its N- terminal domain, since a C-terminal truncated SYP-3 can still interact with SYP-4, but a N-terminal truncation cannot. We were unable to detect any interaction between SYP-3 and any truncated version of SYP-4, implying that the full length of the protein is likely required for this interaction. In addition, using the yeast two- hybrid system, we did not observe an interaction between SYP-4 and HIM-3, an axis-associated component and yeast Hop1 homolog [27], HTP-3, an axis-associated component and HIM- 3 paralog proposed to link DSB formation with homologous pairing and synapsis [34,42], HTP-1, a HIM-3 paralog implicated in coordinating the establishment of pairing and synapsis in early acontrol RNAi with empty pL4440 vector. Germ cell corpses were scored in adult hermaphrodites 20 hours post-L4 as in [59]. Statistical comparisons between genotypes were conducted using the two-tailed Mann-Whitney test. syp-4(tm2713) (n = 57; where n = number of gonad arms scored/genotype) differed significantly from wild type (n = 42) (p,0.0001), and from spo-11(n = 17) (p,0.0001), but did not differ significantly from syp-3(ok758) (n = 22) (p = 0.8471). syp-4(RNAi);spo-11/nT1 (n = 51) differed significantly from syp- 4(RNAi);spo-11/spo-11 (n = 58) (p = 0.0122), spo-11/nT1(n = 20) (p,0.0001), and spo-11/spo-11(n = 17) (p = 0.0016). syp-4(RNAi);spo-11/spo-11 and spo-11/spo- 11(n = 17) did not differ significantly from each other (p = 0.0905). doi:10.1371/journal.pgen.1000669.t001 acontrol RNAi with empty pL4440 vector. Germ cell corpses were scored in adult hermaphrodites 20 hours post-L4 as in [59]. Statistical comparisons between genotypes were conducted using the two-tailed Mann-Whitney test. syp-4(tm2713) (n = 57; where n = number of gonad arms scored/genotype) differed significantly from wild type (n = 42) (p,0.0001), and from spo-11(n = 17) (p,0.0001), but did not differ significantly from syp-3(ok758) (n = 22) (p = 0.8471). syp-4(RNAi);spo-11/nT1 (n = 51) differed significantly from syp- 4(RNAi);spo-11/spo-11 (n = 58) (p = 0.0122), spo-11/nT1(n = 20) (p,0.0001), and spo-11/spo-11(n = 17) (p = 0.0016). syp-4(RNAi);spo-11/spo-11 and spo-11/spo- 11(n = 17) did not differ significantly from each other (p = 0.0905). PLoS Genetics | www.plosgenetics.org Possible Roles for the Multiple Central Region Proteins in C. elegans g Studies in various model organisms are revealing the identity of the proteins forming the central region of the SC: C(3)G and CONA in Drosophila [11,12], Zip1 in S. cerevisiae [10], SYCP1, SYCE1, SYCE2 and TEX12 in mouse [15,16,18,24], and the duplicated ZYP1a and ZYP1b proteins in Arabidopsis [45]. In mice, specific functions have been assigned to each one of four known CR proteins based on their distinct mutant phenotypes. A null Sycp1 mutant results in a lack of CE formation and in the absence of any recruitment of CR proteins onto chromosomes, whereas foci for some of the CR components are still observed in Syce2, Syce1 and Tex12 mutants [17,24,46]. This is further supported by the observation of partial CR structures by EM in the case of Syce2 and Tex12 mutants [17,24,46]. In addition, SYCP1 (993 amino acids) is three to four times larger than any other CR protein. Thus, these studies, complemented by a detailed immuno-EM analysis, have led to the conclusion that SYCP1 acts as a transverse filament, contributing to most of the width of the CR structure, while SYCE1, SYCE2 and TEX12 are central element proteins that play an essential role in the assembly of the SC, but do not contribute much to the width of the structure. The Drosophila CR proteins, C(3)G and CONA, are structurally distinct from each other. Specifically, CONA (207 amino acids) is almost a quarter of the size of C(3)G and lacks any coiled-coil domain. Nevertheless, both c(3)G and cona mutants exhibit similar phenotypes [11], [12]. Thus, extrapolating from the mouse data, C(3)G may be the fly TF protein, while CONA may be a non-TF CR protein. The studies In summary, our studies have identified SYP-4 as a novel component of the SC and revealed a key protein-protein interaction required between the central region proteins SYP-4 and SYP-3 to form the mature SC structure in C. elegans. SYP-4 and SYP-3 May Form a Module of the Central Region of the SC cerevisiae (68.16 nm) and SYCP1 in M. musculus (87.76 nm) [12]. However, the width of the SC is conserved across most species (,100 nm), including C. elegans [4,35,47,48]. One possible scenario is that all the SYP proteins assemble into a single complex that can span the width of the SC. Therefore, the shorter lengths predicted for the coiled coils of each central region protein may be compensated by their additive value in C. elegans. This model suggests that in C. elegans multiple proteins may have evolved out of the need to conserve the width of the SC. An alternative, albeit not mutually exclusive model, is that in C. elegans different central region proteins play different roles in the 3- dimensional context of the SC, similarly to what is observed for central element proteins in mice. It is tempting to speculate that SYP-2 (213 amino acids) and SYP-3 (224 amino acids), the smaller proteins of the central region in C. elegans, which are similar in size to the mammalian central element proteins, take over a similar role in SC assembly. However, unlike what is observed in synapsis- defective mutants in mice, syp null mutants do not show a separation of function phenotype. This would be consistent with the notion that instead of each SYP protein loading individually onto chromosomes, the two SYP protein subunits (SYP-1/SYP-2 and SYP-3/SYP-4) preassemble into one complex and then load onto chromosomes as one unit composed of all four SYP proteins. Therefore, loss of either one of the two subunits will lead to defects in loading of the other SYP proteins, consequently leading to a complete perturbation of CR assembly. Either model would explain the interdependency between the various SYP proteins observed by our analysis, and both models predict that, albeit taking the yeast two-hybrid assay limitations into account, a yet non-identified additional component may exist linking SYP-1/ SYP-2 and SYP-3/SYP-4. Possible Roles for the Multiple Central Region Proteins in C. elegans SYP-4 and SYP-3 May Form a Module of the Central Region of the SC doi:10.1371/journal.pgen.1000669.t001 PLoS Genetics | www.plosgenetics.org PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 8 SC Structural Protein in C. elegans Table 2. Crossover recombination is reduced on the X chromosome in syp-4 mutants. Genotype Recombinant progeny Total No. of progeny scored Map distance (cM) +/syp-4; dyp-3 unc-3/++ 656 hermaphrodites 2288 hermaphrodites 34.7 0 males 1 male syp-4/syp-4; dyp-3 unc-3/++ 2 hermaphrodites 323 hermaphrodites 0.6 1 male 154 males Recombination analysis was performed as in [59]. doi:10.1371/journal.pgen.1000669.t002 Recombination analysis was performed as in [59]. doi:10.1371/journal.pgen.1000669.t002 2 as baits in yeast two-hybrid screens of both cDNA and ORFeome libraries [44], nor reported by any other large genomic screen published in the literature. Therefore, these observations suggest that SYP-4 might interact exclusively with SYP-3. However, taking the limitations of the yeast two-hybrid system into account, we cannot exclude the possibility that other interactions were missed by this approach and may be detected using other experimental techniques. In addition, pull-down assays revealed that SYP-1 interacts with SYP-2 (K.S-P. and M.P.C unpublished results), but we were unable to test other pairwise combinations by this approach due to technical limitations. Taken together, these observations lead us to hypothesize that the central region of the SC in C. elegans may be comprised of at least two modules: one consisting of SYP-1 and SYP-2, and the other formed by SYP-3 and SYP-4. However, given that all SYP proteins are interdependent [13,14, this study], these two sub- complexes must be either directly or indirectly interconnected, forming the higher-order structure of the central region of the SC. Alternatively, it is possible that all proteins assemble into a single complex lacking any sub-modules. Future studies are required to conclude which of these models accurately describes the structure of the SC in C. elegans. of the SC structure in C. elegans result in a more complex picture in which it is still hard to distinguish which of the SYP proteins act as bona fide TF proteins and which, if any, are central element-like proteins. In C. elegans, the total length of the coiled coils is predicted to be higher in SYP-1 (34.16 nm) compared to SYP-2 (5.05 nm), SYP-3 (13.51 nm) and SYP-4 (12.92 nm). Interestingly, the total length of the coiled coils in SYP-1 is smaller than that predicted for C(3)G in D. melanogaster (67.86 nm), Zip1 in S. PLoS Genetics | www.plosgenetics.org Characterization of Allele Identical cytological defects to those observed in syp-4(tm2713) homozygotes were observed in syp-4(RNAi) worms, including an extended transition zone phenotype and up to 12 univalents at diakinesis. Moreover, trans-heterozygotes for tm2713 and hDf8, a deficiency encompassing the syp-4 locus, were indistinguishable from tm2713 homozygotes, as determined by examining their DAPI-stained germlines and scoring for the embryonic lethality and the percent of males observed among their surviving progeny (98.6% embryonic lethality, p = 0.2713, and 29% male progeny, p = 0.6006, by the two-tailed Mann-Whitney test, 95% C.I.; n = 1598). Finally, SYP-4 signal was not detected upon immuno- staining syp-4 mutant germlines with an N-terminal anti-SYP-4 antibody. Taken together, these results suggest that syp-4(tm2713) is a null. FISH and Time Course Analysis of Chromosome Pairing FISH probes were generated as in [21] from the following pooled cosmids obtained from the Sanger Center: D1037, ZC535, F21A9 (I, left); F14B11, F32A7 (I, right); F28C10, F57C12, F13C5, M6, M02A10, C02H7, T04G9, F25E2, C03F1, F56F10, ZC13 (X, left); T23E7, F20B4, F15G10, K09G11 (X, right). Cosmids were labeled with either fluorescein-12-dCTP (PerkinEl- mer) or Digoxigenin-11-dUTP (Roche). Homologous pairing was monitored quantitatively as in [57], with FISH signals considered paired when separated by #0.75 mm. The average number of nuclei scored per zone (n) from three gonads each for wild type and syp-4 (tm2713) are as follows: zone 1 (n = 53), zone 2 (n = 67), zone 3 (n = 88), zone 4 (n = 96), zone 5 (n = 104), zone 6 (n = 94), and zone 7 (n = 78). tm2713 is a recessive syp-4 allele. DAPI-stained germlines of syp-4/+ hermaphrodites were identical to wild type germlines. The levels of embryonic lethality and males observed among syp-4/+ progeny were not statistically significant when compared to those observed for wild type (3.9% embryonic lethality, p =0.0789, and 0.08% male progeny, p =0.6439, two-tailed Mann-Whitney test; n=2521). SC Structural Protein in C. elegans SC Structural Protein in C. elegans nucleotide polymorphism (SNP) markers. The following mutations and chromosome rearrangements were used ([2,13,14,27,50–52]; this work): nucleotide polymorphism (SNP) markers. The following mutations and chromosome rearrangements were used ([2,13,14,27,50–52]; this work): Yeast Two-Hybrid Screen The images were acquired using the DeltaVision wide-field fluorescence microscope system (Applied Precision) with Olympus 406/1.35 and 1006/1.40 lenses. Optical sections were collected at 0.20 mm increments with a coolSNAPHQ camera (Photometrics) and SoftWoRx 3.3.6 software (Applied Precision), and decon- volved using SoftWoRx 3.3.6 software. Images are projections halfway through 3D data stacks of whole nuclei (15 to 30 0.2 mm slices/stack), except for diakinesis images, which encompass entire nuclei, prepared using SoftWoRx 3.3.6 and SoftWoRx Explorer 1.3.0 software (Applied Precision). Full-length cDNAs of the syp-1, syp-2 and syp-3 open reading frames, as well as C- and N-terminal truncations that retain the coiled-coil domains, were amplified by PCR. The amplification was performed from a cDNA library generated from mixed-stage C. elegans using primers that contain Gateway compatible sequences and a gene specific sequence as in [55] and indicated in Table S1. Gateway cloning, cDNA and ORFeome library screening, and X-Gal and 3AT assays for examining yeast two- hybrid interactions were performed as in [56]. Electron Microscopy Wild type and syp-4(tm2713) adult hermaphrodites (20–24 hr post-L4) were prepared for high pressure freezing as described in [2]. 100 nm-thick longitudinal sections of three wild type worms and three syp-4 mutant worms were examined for the presence of SC in nuclei at the late pachytene region. Distances between electron-dense chromatin patches arranged in parallel were measured and the presence of an SC was only scored positively when distances were within the range observed in wild type (90 nm–125 nm; [35]) for all points measured along a given pair of patches (between 1 to 4 points were measured for each pair). SC stretches were observed in 64% of the wild type nuclei in late pachytene (n = 70). In contrast, dispersed patches of electron dense chromatin, indicating a lack of SC, were observed in 96.4% of the syp-4(tm2713) nuclei at this stage (n = 83). ) LGI: syp-3(ok758), hDf8, syp-4(tm2713), ccIs4251, hT2[bli-4(e937) qIs48] (I;III) LGIV: him-3(gk149), spo-11(ok79), nT1[unc-?(n754) let-?(m435)] (IV;V) LGV: syp-2(ok307), syp-1(me17) The tm2713 allele was generated by the C. elegans National Bioresource Project in Japan. It contains a 213 base pair out-of- frame deletion including exon 2 and extending halfway into exon 3 of open reading frame H27M09.3. Antibody Preparation, DAPI Analysis, and Immunostaining The rabbit a-SYP-4 N-terminal polyclonal antibody was generated using the following peptide antigen: MSFPTLQ- VRPNEKNPKVLRCHEFLRQS. Animals were immunized and bled by Sigma-Genosys, The Woodlands, TX. Affinity purification of this antibody was performed using SulfoLinkH from Pierce following the manufacturers instructions. Coiled-Coil Analysis The presence of coiled-coil domains within CR proteins was predicted utilizing the COILS program [25]. This program was run using the MTIDK matrix with a 21-residue window and applying an unweighted scan. Protein regions were predicted to adopt a coiled-coil conformation if the amino acids within those regions had scores of 0.5 or higher. To estimate the physical length of the coiled-coil domain in nm, the number of amino acids identified by this analysis was multiplied by 0.1485 nm, the mean axial rise per residue in a coiled-coil [54]. DAPI staining, immunostaining and analysis of stained meiotic nuclei were performed as in [13]. Primary antibodies were used at the following dilutions: rabbit a-SYP-1 (1:100), rabbit a-SYP-2 (1:100), rabbit a-SYP-3 (1:100), rabbit a-RAD-51 (1:100), rabbit a- HIM-3 (1:100), guinea pig a-HTP-3 (1:500), and mouse a-REC-8 (1:100). The secondary antibodies used were: Cy3 anti-rabbit, FITC anti-guinea pig and FITC anti-mouse (Jackson Immunochemicals), each at 1:100. PLoS Genetics | www.plosgenetics.org Genetics All C. elegans strains were cultured at 20uC under standard conditions [49]. Bristol N2 worms were utilized as the wild type background, while Hawaiian CB4856 wild type worms were used for assessing recombination frequencies when utilizing single- PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 October 2009 | Volume 5 | Issue 10 | e1000669 PLoS Genetics | www.plosgenetics.org 9 References 1. Yuan L, Liu JG, Zhao J, Brundell E, Daneholt B, et al. (2000) The murine SCP3 gene is required for synaptonemal complex assembly, chromosome synapsis, and male fertility. Mol Cell 5: 73–83. 16. Costa Y, Speed R, Ollinger R, Alsheimer M, Semple CA, et al. (2005) Two novel proteins recruited by synaptonemal complex protein 1 (SYCP1) are at the centre of meiosis. J Cell Sci 118: 2755–2762. y 2. MacQueen AJ, Colaiacovo MP, McDonald K, Villeneuve AM (2002) Synapsis- dependent and -independent mechanisms stabilize homolog pairing during meiotic prophase in C. elegans. Genes Dev 16: 2428–2442. 17. Bolcun-Filas E, Speed R, Taggart M, Grey C, de Massy B, et al. (2009) Mutation of the mouse Syce1 gene disrupts synapsis and suggests a link between synaptonemal complex structural components and DNA repair. PLoS Genet 5: e1000393. doi:10.1371/journal.pgen.1000393. 3. Smith AV, Roeder GS (1997) The yeast Red1 protein localizes to the cores of meiotic chromosomes. J Cell Biol 136: 957–967. 18. Bolcun-Filas E, Costa Y, Speed R, Taggart M, Benavente R, et al. (2007) SYCE2 is required for synaptonemal complex assembly, double strand break repair, and homologous recombination. J Cell Biol 176: 741–747. 4. Zickler D, Kleckner N (1999) Meiotic chromosomes: integrating structure and function. Annu Rev Genet 33: 603–754. 19. Bhuiyan H, Schmekel K (2004) Meiotic chromosome synapsis in yeast can occur without spo11-induced DNA double-strand breaks. Genetics 168: 775–783. 5. de Boer E, Heyting C (2006) The diverse roles of transverse filaments of synaptonemal complexes in meiosis. Chromosoma 115: 220–234. 20. Romanienko PJ, Camerini-Otero RD (2000) The mouse Spo11 gene is required for meiotic chromosome synapsis. Mol Cell 6: 975–987. 6. Anderson LK, Royer SM, Page SL, McKim KS, Lai A, et al. (2005) Juxtaposition of C(2)M and the transverse filament protein C(3)G within the central region of Drosophila synaptonemal complex. Proc Natl Acad Sci U S A 102: 4482–4487. 21. Dernburg AF, McDonald K, Moulder G, Barstead R, Dresser M, et al. (1998) Meiotic recombination in C. elegans initiates by a conserved mechanism and is dispensable for homologous chromosome synapsis. Cell 94: 387–398. 7. Liu JG, Yuan L, Brundell E, Bjorkroth B, Daneholt B, et al. (1996) Localization of the N-terminus of SCP1 to the central element of the synaptonemal complex and evidence for direct interactions between the N-termini of SCP1 molecules organized head-to-head. Exp Cell Res 226: 11–19. 22. Time Course Analysis for RAD-51 Foci RNAi-mediated depletion of syp-4 was performed at 20uC as described in [53], except that 1 mM IPTG was utilized. SYP-4 cDNA was cloned into the pL4440 feeding vector. Control RNAi was performed by feeding worms with HT115 bacteria carrying the empty pL4440 vector. Quantitation of RAD-51 foci was performed for all seven zones composing the germline as in [13]. The average number of nuclei scored per zone (n) from three gonads each for wild type and syp-4(tm2713) were: zone 1 (n = 172), zone 2 (n = 243), zone 3 October 2009 | Volume 5 | Issue 10 | e1000669 10 SC Structural Protein in C. elegans (n = 238), zone 4 (n = 200), zone 5 (n = 166), zone 6 (n = 131) and zone 7 (n = 119). electron-dense patches of chromatin, which are aligned in wild type nuclei, but are randomly positioned in syp-4 mutants where SC structures are absent. Bars, 500 nm. Found at: doi:10.1371/journal.pgen.1000669.s002 (4.45 MB TIF) electron-dense patches of chromatin, which are aligned in wild type nuclei, but are randomly positioned in syp-4 mutants where SC structures are absent. Bars, 500 nm. Found at: doi:10.1371/journal.pgen.1000669.s002 (4.45 MB TIF) Acknowledgments Some strains and clones were kindly provided by the Japanese National BioResource for C. elegans, the Caenorhabditis Genetics Center, and the Sanger Center. We thank M. Zetka for the HIM-3 and HTP-3 antibodies. We are grateful to S. Hawley, T. Saito, S. Zaaijer, and C. Wang for critical reading of this manuscript. Supporting Information Table S3 Crossover recombination is reduced on chromosome V in syp-4 mutants. Figure S1 A yeast two-hybrid approach reveals that SYP-4 interacts with SYP-3 through its N-terminal domain. Yeast two- hybrid analysis using growth on 20 mM 3-AT plates to identify protein-protein interactions between the SYP proteins. Testing the interactions between SYP-1, SYP-2, and SYP-3 full length, N- (DN) and C-terminal (DC) truncations fused to the DNA binding domain (DB) of GAL4, and SYP-4 full length fused to the activation domain (AD) of GAL4, revealed an interaction between SYP-4 and SYP-3. Numbers 1 to 5 represent standard controls: 1, DB and AD without any fusion; 2, DB-pRB and AD-E2F1; 3, DB- Fos and AD-Jun; 4, Gal4p and AD; and 5, DB-DP and AD-E2F1. Found at: doi:10.1371/journal.pgen.1000669.s001 (0.68 MB TIF) Found at: doi:10.1371/journal.pgen.1000669.s005 (0.02 MB DOC) Author Contributions Figure S2 TEM analysis reveals a lack of SC formation in syp-4 mutants. TEM images of equatorial sections of late pachytene nuclei from wild type (left) and syp-4 (right) germlines. The nucleolus, a large dark body slightly off-center, is surrounded by Conceived and designed the experiments: SS KSP MPC. Performed the experiments: SS KSP. Analyzed the data: SS KSP MPC. Wrote the paper: SS MPC. Conceived and designed the experiments: SS KSP MPC. Performed the experiments: SS KSP. Analyzed the data: SS KSP MPC. Wrote the paper: SS MPC. References McKim KS, Hayashi-Hagihara A (1998) mei-W68 in Drosophila melanogaster encodes a Spo11 homolog: evidence that the mechanism for initiating meiotic recombination is conserved. Genes Dev 12: 2932–2942. 8. Dong H, Roeder GS (2000) Organization of the yeast Zip1 protein within the central region of the synaptonemal complex. J Cell Biol 148: 417–426. 23. Storlazzi A, Xu L, Schwacha A, Kleckner N (1996) Synaptonemal complex (SC) component Zip1 plays a role in meiotic recombination independent of SC polymerization along the chromosomes. Proc Natl Acad Sci U S A 93: 9043–9048. 9. Tung KS, Roeder GS (1998) Meiotic chromosome morphology and behavior in zip1 mutants of Saccharomyces cerevisiae. Genetics 149: 817–832. 24. de Vries FA, de Boer E, van den Bosch M, Baarends WM, Ooms M, et al. (2005) Mouse Sycp1 functions in synaptonemal complex assembly, meiotic recombi- nation, and XY body formation. Genes Dev 19: 1376–1389. 10. Sym M, Engebrecht JA, Roeder GS (1993) ZIP1 is a synaptonemal complex protein required for meiotic chromosome synapsis. Cell 72: 365–378. 11. Page SL, Khetani RS, Lake CM, Nielsen RJ, Jeffress JK, et al. (2008) Corona is required for higher-order assembly of transverse filaments into full-length synaptonemal complex in Drosophila oocytes. PLoS Genet 4: e1000194. doi:10.1371/journal.pgen.1000194. 25. Lupas A, Van Dyke M, Stock J (1991) Predicting coiled coils from protein sequences. Science 252: 1162–1164. 26. Pasierbek P, Jantsch M, Melcher M, Schleiffer A, Schweizer D, et al. (2001) A Caenorhabditis elegans cohesion protein with functions in meiotic chromosome pairing and disjunction. Genes Dev 15: 1349–1360. 12. Page SL, Hawley RS (2001) c(3)G encodes a Drosophila synaptonemal complex protein. Genes Dev 15: 3130–3143. 27. Zetka MC, Kawasaki I, Strome S, Muller F (1999) Synapsis and chiasma formation in Caenorhabditis elegans require HIM-3, a meiotic chromosome core component that functions in chromosome segregation. Genes Dev 13: 2258–2270. 13. Colaiacovo MP, MacQueen AJ, Martinez-Perez E, McDonald K, Adamo A, et al. (2003) Synaptonemal complex assembly in C. elegans is dispensable for loading strand-exchange proteins but critical for proper completion of recombination. Dev Cell 5: 463–474. 28. Nabeshima K, Villeneuve AM, Colaiacovo MP (2005) Crossing over is coupled to late meiotic prophase bivalent differentiation through asymmetric disassembly of the SC. J Cell Biol 168: 683–689. 14. Smolikov S, Eizinger A, Schild-Prufert K, Hurlburt A, McDonald K, et al. (2007) SYP-3 restricts synaptonemal complex assembly to bridge paired chromosome axes during meiosis in C. elegans. Genetics 176: 2015– 2025. Determining Crossover Frequencies Meiotic crossover recombination frequencies for chromosome V were assayed utilizing single-nucleotide polymorphism (SNP) markers, with the pkP5076 and snp_Y17D7B DraI SNP primers as in [58]. syp-4 homozygous cross-progeny were detected by mating to the ccIs4251 strain as described in [42]. Table S1 Primers used for the yeast two-hybrid experiments. Found at: doi:10.1371/journal.pgen.1000669.s003 (0.02 MB DOC) Table S2 Statistical analysis for FISH data. Found at: doi:10.1371/journal.pgen.1000669.s004 (0.04 MB DOC) SC Structural Protein in C. elegans that is linked to two-step loss of sister chromatid cohesion. Genes Dev 22: 2886–2901. 44. Walhout AJ, Boulton SJ, Vidal M (2000) Yeast two-hybrid systems and protein interaction mapping projects for yeast and worm. Yeast 17: 88–94. 31. Albertson DG, Rose AM, Villeneuve AM (1997) Chromosome organization, mitosis, and meiosis. Cold Spring Harbor, NY: Cold Spring Harbor Laboratory Press. pp 47–78. 45. Higgins JD, Sanchez-Moran E, Armstrong SJ, Jones GH, Franklin FC (2005) The Arabidopsis synaptonemal complex protein ZYP1 is required for chromosome synapsis and normal fidelity of crossing over. Genes Dev 19: 2488–2500. pp 32. Phillips CM, Wong C, Bhalla N, Carlton PM, Weiser P, et al. (2005) HIM-8 binds to the X chromosome pairing center and mediates chromosome-specific meiotic synapsis. Cell 123: 1051–1063. 46. Hamer G, Wang H, Bolcun-Filas E, Cooke HJ, Benavente R, et al. (2008) Progression of meiotic recombination requires structural maturation of the central element of the synaptonemal complex. J Cell Sci 121: 2445–2451. y p 33. Couteau F, Nabeshima K, Villeneuve A, Zetka M (2004) A component of C. elegans meiotic chromosome axes at the interface of homolog alignment, synapsis, nuclear reorganization, and recombination. Curr Biol 14: 585–592. 47. Colaiacovo MP (2006) The many facets of SC function during C. elegans meiosis. Chromosoma 115: 195–211. nuclear reorganization, and recombination. Curr Biol 14: 585–592 34. Goodyer W, Kaitna S, Couteau F, Ward JD, Boulton SJ, et al. (2008) HTP-3 links DSB formation with homolog pairing and crossing over during C. elegans meiosis. Dev Cell 14: 263–274. 48. von Wettstein D, Rasmussen SW, Holm PB (1984) The synaptonemal complex in genetic segregation. Annu Rev Genet 18: 331–413. g g g 49. Brenner S (1974) The genetics of Caenorhabditis elegans. Genetics 77: 71–94. 49. Brenner S (1974) The genetics of Caenorhabditis elegans. 35. Smolikov S, Schild-Prufert K, Colaiacovo MP (2008) CRA-1 uncovers a double- strand break-dependent pathway promoting the assembly of central region proteins on chromosome axes during C. elegans meiosis. PLoS Genet 4: e1000088. doi:10.1371/journal.pgen.1000088. 50. McKim KS, Peters K, Rose AM (1993) Two types of sites required for meiotic chromosome pairing in Caenorhabditis elegans. Genetics 134: 749–768. chromosome pairing in Caenorhabditis elegans. Genetics 134: 749–768. 51. McKim KS, Starr T, Rose AM (1992) Genetic and molecular analysis of the dpy- 14 region in Caenorhabditis elegans. Mol Gen Genet 233: 241–251. 14 region in Caenorhabditis elegans. Mol Gen Genet 233: 241–25 j pg 36. SC Structural Protein in C. elegans Martinez-Perez E, Villeneuve AM (2005) HTP-1-dependent constraints coordinate homolog pairing and synapsis and promote chiasma formation during C. elegans meiosis. Genes Dev 19: 2727–2743. 52. Fire A, Xu S, Montgomery MK, Kostas SA, Driver SE, et al. (1998) Potent and specific genetic interference by double-stranded RNA in Caenorhabditis elegans. Nature 391: 806–811. g g 37. Couteau F, Zetka M (2005) HTP-1 coordinates synaptonemal complex assembly with homolog alignment during meiosis in C. elegans. Genes Dev 19: 2744–2756. 53. Timmons L, Court DL, Fire A (2001) Ingestion of bacterially expressed dsRNAs can produce specific and potent genetic interference in Caenorhabditis elegans. Gene 263: 103–112. 38. MacQueen AJ, Phillips CM, Bhalla N, Weiser P, Villeneuve AM, et al. (2005) Chromosome sites play dual roles to establish homologous synapsis during meiosis in C. elegans. Cell 123: 1037–1050. 54. Steinert PM, Marekov LN, Fraser RD, Parry DA (1993) Keratin intermediate filament structure. Crosslinking studies yield quantitative information on molecular dimensions and mechanism of assembly. J Mol Biol 230: 436–452. 39. Sung P (1994) Catalysis of ATP-dependent homologous DNA pairing and strand exchange by yeast RAD51 protein. Science 265: 1241–1243. 55. Boxem M, Maliga Z, Klitgord N, Li N, Lemmens I, et al. (2008) A protein domain-based interactome network for C. elegans early embryogenesis. Cell 134: 534–545. 40. Smolikov S, Eizinger A, Hurlburt A, Rogers E, Villeneuve AM, et al. (2007) Synapsis-defective mutants reveal a correlation between chromosome confor- mation and the mode of double-strand break repair during C. elegans meiosis. Genetics 176: 2027–2033. 56. Walhout AJ, Vidal M (2001) High-throughput yeast two-hybrid assays for large- scale protein interaction mapping. Methods 24: 297–306. 41. Gartner A, Milstein S, Ahmed S, Hodgkin J, Hengartner MO (2000) A conserved checkpoint pathway mediates DNA damage–induced apoptosis and cell cycle arrest in C. elegans. Mol Cell 5: 435–443. 57. MacQueen AJ, Villeneuve AM (2001) Nuclear reorganization and homologous chromosome pairing during meiotic prophase require C. elegans chk-2. Genes Dev 15: 1674–1687. y g 42. Nabeshima K, Villeneuve AM, Hillers KJ (2004) Chromosome-wide regulation of meiotic crossover formation in Caenorhabditis elegans requires properly assembled chromosome axes. Genetics 168: 1275–1292. 58. Davis MW, Hammarlund M, Harrach T, Hullett P, Olsen S, et al. (2005) Rapid single nucleotide polymorphism mapping in C. elegans. BMC Genomics 6: 118. 59. References 29. de Carvalho CE, Zaaijer S, Smolikov S, Gu Y, Schumacher JM, et al. (2008) LAB-1 antagonizes the Aurora B kinase in C. elegans. Genes Dev 22: 2869–2885. 15. Hamer G, Gell K, Kouznetsova A, Novak I, Benavente R, et al. (2006) Characterization of a novel meiosis-specific protein within the central element of the synaptonemal complex. J Cell Sci 119: 4025–4032. 30. Martinez-Perez E, Schvarzstein M, Barroso C, Lightfoot J, Dernburg AF, et al. (2008) Crossovers trigger a remodeling of meiotic chromosome axis composition PLoS Genetics | www.plosgenetics.org 11 October 2009 | Volume 5 | Issue 10 | e1000669 October 2009 | Volume 5 | Issue 10 | e1000669 SC Structural Protein in C. elegans Kelly KO, Dernburg AF, Stanfield GM, Villeneuve AM (2000) Caenorhabditis elegans msh-5 is required for both normal and radiation-induced meiotic crossing over but not for completion of meiosis. Genetics 156: 617–630. 43. Jantsch V, Pasierbek P, Mueller MM, Schweizer D, Jantsch M, et al. (2004) Targeted gene knockout reveals a role in meiotic recombination for ZHP-3, a Zip3-related protein in Caenorhabditis elegans. Mol Cell Biol 24: 7998–8006. PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 PLoS Genetics | www.plosgenetics.org 12
https://openalex.org/W2994943259
http://centreofexcellence.net/J/JBM/pdfs/jbm.2020.8.1.1.19.pdf
English
null
The Effect of Intellectual Capital on Competitive Advantage in the Jordanian Telecommunication Sector
Journal of business & management
2,020
cc-by
7,735
Abstract: This paper sought to examine the effect of intellectual capital on competitive advantage in the Jordanian telecommunication sector. Indeed, intellectual capital is generally assumed to be an important aspect of the organization and one of the most conducive to innovative activity and unrestrained competition. The paper finds that the tripod of intellectual capital, namely, human capital, structural capital, and relational capital has a significant influence on achieving a competitive advantage. Among these three dimensions, relational capital is the most influential component in enhancing the competitive advantage. Considering these results, the research presented many recommendations for future research, the most important ones is implementing this study on other sectors, resort to multi-method of data collection, and the use of probability sampling techniques. Journal of Business & Management (COES&RJ-JBM) ISSN (E): 2306-7179 ISSN (P): 2306-8043 Publisher: Centre of Excellence for Scientific & Research Journalism, COES&RJ LLC Online Publication Date & Issue: 1st Jan. 2020, Vol.8, No.1, January 2020 https://doi.org/10.25255/jbm.2020.8.1.1.19 Journal of Business & Management (COES&RJ-JBM) ISSN (E): 2306-7179 ISSN (P): 2306-8043 Publisher: Centre of Excellence for Scientific & Research Journalism, COES&RJ LLC Online Publication Date & Issue: 1st Jan. 2020, Vol.8, No.1, January 2020 https://doi.org/10.25255/jbm.2020.8.1.1.19 Journal of Business & Management (COES&RJ-JBM) The Effect of Intellectual Capital on Competitive Advantage in the Jordanian Telecommunication Sector Raed Kareem Kanaan Amman Arab University, Jordan, rk@aau.edu.jo Ulya Nawaf Obeidat Department of Business Management, University of Jordan, Amman, Jordan, youlia_obeidat@hotmail.com Bader Yousef Obeidat Faculty of Business and Law, The British University in Dubai, Department of Business Management, The University of Jordan (Unpaid Leave), b.obeidat@ju.edu.jo Mohammad Orsan Al-Zu'bi Department of Business Management, University of Jordan, Amman, Jordan, m.alzoubi@ju.edu.jo Mohammd Abuhashesh E-Marketing and Social Media Department, Princess Sumaya University for Technology (PSUT), Amman, Jordan, m.abuhashesh@psut.edu.jo Abstract: 1. Introduction In the presence of a hyper competitive environment, intellectual capital has been drawing more attention than ever before in recent years. Intellectual capital consisting of human, relational, and structural capital is widely recognized as an important contributor to achieve better economic growth (Wang, et al., 2014). Moreover, it is increasingly being considered by both scholars and practitioners as a major factor to gain a competitive advantage for knowledge organizations (Chahal and Bakshi, 2014; Karajeh and Maqableh, 2014; Maqableh, et al., 2015; Abualoush et al., 2018a,b). Amiri, et al. (2010) postulated that intellectual capital is one of the main organizational capabilities that have a positive impact on competitive advantage. Barney (1991) claims that organizations that possess and exploit resources and capabilities that are valuable, rare, inimitable, and organizational supported will be in a better competitive position. Likewise, Newbert (2008) has linked the organizational resources and capabilities with a competitive advantage. In a narrower business context, resources refer to the basic building block that can be divided into tangible and intangible assets (Masa’deh, et al., 2015; Wheelen, et al., 2015) whereas capabilities mean the organization’s ability to deploy and combine those resources to enhance the productivity and accomplish the strategic goals (Makadok, 2010). Therefore, the combination of intangible resources and capabilities in a way that enhance the ability to exploit market opportunities help an organization to establish and sustain a core competency in the form of competitive advantage (Chahal and Bakshi, 2015). Intellectual capital has become widely acknowledged as knowledge assets within an organization. Competitive advantage will not be sustainable unless an organization uses these assets effectively and efficiently. Accordingly, competitive advantage does not only occur from producing product and services to the customers, but also from the resources to produce them (Porter, 2008; Abuhashesh e al., 2019a, b). Keywords: Intellectual Capital, Competitive Advantage, Telecommunication Sector, Jordan Cit ti Intellectual Capital, Competitive Advantage, Telecommunication Sector, Jordan Citation: Kanaan, Raed Kareem; Obeidat, Ulya Nawaf; Obeidat, Bader Yousef; Al-Zu'bi, Mohammad Orsan; Abuhashesh, Mohammd (2020); The Effect of Intellectual Capital on Competitive Advantage in the Jordanian Telecommunication Sector; Journal of Business & Management (COES&RJ-JBM) Vol.8, No.1, pp.1-19, https://doi.org/10.25255/jbm.2020.8.1.1.19. Kanaan, Raed Kareem; Obeidat, Ulya Nawaf; Obeidat, Bader Yousef; Al-Zu'bi, Mohammad Orsan; Abuhashesh, Mohammd (2020); The Effect of Intellectual Capital on Competitive Advantage in the Jordanian Telecommunication Sector; Journal of Business & Management (COES&RJ-JBM) Vol.8, No.1, pp.1-19, https://doi.org/10.25255/jbm.2020.8.1.1.19. This work is licensed under a Creative Commons Attribution 4.0 International License. Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 2.1 Intellectual Capital Several definitions have been proposed to conceptualize intellectual capital. Hall (1992) posited that intellectual capital is a value driver that transforms production resources into valuable assets. Stewart (1997) referred to intellectual capital as the combination of everything in an organization knows that grants it a competitive advantage. Intellectual capital can be also defined as composed of the human aspect that consists of knowledge, experience, and skills of employees, and the organizational aspect that involves the knowledge resources stored in databases, systems, culture, and philosophy. Marr (2004) viewed intellectual capital as the collection of knowledge resources that are the premise behind giving an organization a competitive edge. Subramaniam and Youndt (2005) claimed that intellectual capital is the combination of knowledge used in firm’s operations to occupy a competitive position. This definition is consistent with another definition developed by Sofian (2004) who stated that intellectual capital is the interrelationship between professional knowledge and skills, goal relationships, and technological capabilities that enhance its competitive position. The European Commission (EC) (2006a) considered intellectual capital as the sum of human, structural, and relational resources that are related to the external ties of an organization such as with customers, suppliers, and other stakeholders. Intellectual capital as a merged of intelligence, wisdom, flexibility, distinctive capabilities, entrepreneurship, and creativity that are needed to succeed in progressively competitive global economy where technology and knowledge lead (Manzaneque, et al., 2017). Indeed, it has been observed that the tradition view toward the intellectual capital has been dramatically changed. These changes occurred due to the presences of such forces like the financial crisis that take place at the end of 2007. As well as, the shortening in the product life cycle the puts organizations on a jeopardy to be driven out of the market. Accordingly, organizations should pay much attention on exploiting the resources especially the tacit resources as intellectual capital and fit with the market demands. In todays’ business environment, the concept of intellectual capital has been much concerned by scholars. Rodrigues and Romero (2015) conceived that intellectual capital is the interconnectedness among human capital (e.g. Skill, experience, competences, and knowledge), structural capital (e.g. organizational processes, software databases, and business processes), and relational capital (e.g. customers, suppliers, creditors, investors, and other stakeholders) that create value for an organization. 2. Literature Review Currently, the quest for a sustainable competitive advantage has received a remarkable attention by scholars at different fields in general, and scholars at strategic management in particular. Moreover, it is necessary for any organization to seek toward building a competitive advantage that is difficult to be imitated by competitors. In fact, obtaining a superior competitive position can be occurred through an effective utilizing of the firm’s tangible and intangible resources. Due to the economic issues in the business environment, intellectual capital was considered as an opportunity for an organization to obtain a competitive edge (Al-Dmour, et al., 2015; Chahal and Bakshi, 2015). 2 2.1 Intellectual Capital Dženopoljac (2016), Shed the light on the nature of intellectual capital since it is considered as an opportunity to affect the firm’s performance if the managers utilize it. Noticeably scholars from different majors focus on conceptualizing intellectual capital as consisting of human, 3 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 relational, and structural capital. In one way or another, these three aspects are interconnected to represent the intellectual capital (Chahal and Bakhshi, 2015). 2.2 Dimensions of Intellectual Capital In fact, it has been asserted that intellectual capital refers to the knowledge capital. Regarding the conceptual dimensions of intellectual capital, this study follows the framework that views intellectual capital as a synergic set of human capital, structural capital, and relational capital. 2.2.1 Human Capital Human capital is considered as a pivotal aspect that drives the other aspect of intellectual capital (Li and Chang, 2010). Human capital is the organizational knowledge owned by employees but does not stay in the organization when they go home. Moreover, human capital is the professional competences, employees’ skills, and leadership abilities that add value to the organizational processes. In this context, human capital is considered a key element to gain a competitive edge (Mehralian, et al., 2013). Human capital refers to the knowledge, experience, and capabilities that employees bring to the organization. According to Alwert (2006) he asserted that human capital covers the knowledge, skills, and motivation of employees that can be taken into home or to the next employer. Rocha (2012) developed a comprehensive description of human capital where it is defined as a combination of skills, competences, talents and know-how, ethics, values, and attitudes of both employees and managers. Human capital is also referred to the implicit knowledge that is deeply rooted in the employees (Kamukama, 2013; Wang, et al., 2014). 2.2.3 Relational Capital At its core, relational capital concerns with the deployment of knowledge and relationships through social structure (Hsu and Wang, 2012). Relational capital revolves around linking the internal intellectual resources with the external stakeholders such as customers and investors, Thus, it enhances the organization’s ability to generate value (Wang, et al., 2014). Indeed, since relational capital stems from such norms as collaboration, communication, and sharing of information, it tends to remain in the organization regardless the changes the individual activities (Putnam, 1995).In addition, , relational capital considered as the knowledge that is utilized by the collaboration among individuals and their external relationships. It is also referred to the knowledge embedded in relationships with the organization’s stakeholders that affect its life (Dahiyat, et al., 2014). The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. databases, information systems, patents, copyrights, and so on (Sharabati, et al., 2013). It is also described as the reflection of organizational knowledge in terms of technologies, patents, work processes, and cultures (Dahiyat, et al., 2014). As a conclusion, structural capital can be referred as knowledge created by an organization (Obeidat, et al., 2017). databases, information systems, patents, copyrights, and so on (Sharabati, et al., 2013). It is also described as the reflection of organizational knowledge in terms of technologies, patents, work processes, and cultures (Dahiyat, et al., 2014). As a conclusion, structural capital can be referred as knowledge created by an organization (Obeidat, et al., 2017). 2.3.1 Competitive Advantage Barney (1991) stated that competitive advantage is the development of a value creating strategy that cannot be implemented by any other competitors simultaneously. He further suggested that organization is said to have a sustainable competitive advantage when it is able to develop a value creating strategy that cannot be implemented, nor duplicated by current or potential competitors. Ma (2004) defined competitive advantage as the set of physical and financial resources that are effectively utilized. According to Grimaldi, et al. (2012) competitive advantage is the result of integration between external opportunities and internal resources and abilities of an organization. Dess, et al. (2014) stated that competitive advantage is the set of resources and capabilities that enable an organization to overcome the competitive forces. Sudrajat (2015) posited that competitive advantage is the successful design and implementation of value creating strategy that competitors cannot use. 2.2.2 Structural Capital Structural capital (also called the organization capital) concerns with the mechanisms and structures of an organization which remarkably enhances its innovative abilities. Hence, making it a vital organizational source. The distinguishing feature of structural capital is that it remains in the organization even when employees leave it (Edvinson, 1997). Moreover, structural capital is considered as the backbone of human capital to improve the employees’ productivity. The premise behind this argument is that structural capital acts as a supportive infrastructure of human capital by providing employees with the necessary skills to invest their capabilities. Regarding its definition, academic scholars have developed several definitions for structural capital. For instance, Bontis (1998) defined structural capital as non-human warehouses that contain the databases, organizational structure, work manuals, strategies, procedures, and any other thing whose value to the organization is greater than its material value. In a similar vein, structural capital is referred to the organizational storehouses that include its culture, policies, 4 2.3.4 Rarity Competencies that are valuable but available for other competitors are unlikely to provide an organization with a competitive advantage (Johnson, et al., 2016). Therefore, organizational competences should be characterized by rarity. Rare competences are those owned uniquely by one organization or by a few other organizations. The premise behind developing rare competencies is that once the competences are become valued by customers, competitors would seek to introduce these competencies by accessing to the same technology (Barney, 1991; Wheelen, et al., 2015). 2.3.3 Value According to Johnson, et al. (2016), competencies are considered valuable when that develop products or services that are of value for customers. Therefore, it can be concluded that valuable competencies include three main components. First, these competencies should be exploited in order to take the advantage of opportunities and avoid threats (Hinterhuber, 2013). Second, the organizational competences should be seen valuable in the eyes of the customers. Third, the competences should allow an organization to obtain a reasonable return while reducing the cost (Hesterly and Barney, 2010). 2.3.5 Inimitability An organization should seek to develop competencies that are imperfectly imitable. Inimitable competences are those that other competitors find complicated and costly to duplicate, acquire, or substitute (Newbert, 2008). Strategically speaking, (Hesterly and Barney, 2010) pointed out that the barriers to duplication are deeply rooted in the organization in relationships between actions, skills and employees. Therefore, these relationships make it difficult for competitors to copy the organizational competencies (Johnson, et al., 2016; Al- dalahmeh, et al., 2018). 2.3.2 Dimensions of Competitive Advantage Drawing on Resource-Based View (RBV) (Barney,1991), this study would suggest that a firm is said to have a competitive advantage once it acquires resources that are valuable, rare, imperfectly imitable, and organizational supported. In a narrower business context, organizations should understand how to differ themselves from other competitors in a way that could be the base for occupying a competitive position (Johnson, et al., 2016). The competitive advantage of an organization is attributed to the distinctiveness of its capabilities. Capabilities 5 5 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 refer to abilities of an organization to enhance its long-term competitive advantage (Winter, 2014). The two main components of strategic capabilities are resources and competences (Wheelen, 2015). Resources are the organizational assets that can call upon, whereas competencies refer to the effective utilization of the organizational resources. When these competencies are considered as superior to current and potential competitors, they are called distinctive competencies. 2.3.6 Organizational Support Creating value to customers and acquiring competencies that are rare and complicated to copy provides a potential for a competitive edge (Johnson, et al., 2016). However, an organization should concentrate on taking a fully competitive advantage. Therefore, it should support its strategic competencies. 6 The Effect of Intellectual Capital on Competitive Advantage in the Jordanian. Teece and Leih (2016) defined the organizational support as the appropriate set processes and formal and informal management control system that are adopted to support the strategic competences in obtaining a competitive advantage. The organization’s formal and informal functions are the backbones to protect its strategic assets. 2.4 Intellectual Capital and Competitive Advantage p p g Scholars and practitioners are concerned with understanding the linkage between intellectual capital and competitive advantage. Accordingly, Chen (2008) conducted a study to investigate the positive effect of intellectual capital on firms’ competitive advantage. The study filled a gap of not examining the intellectual capital about green innovation or environmental management of an organization. In a narrow context, the researcher argued that the continuous changes dramatically increase the industrial competition. These changes put on the shoulders of organizations a remarkable responsibility to find out solutions to enhance the corporate image, reputation, the productivity, sell the know-how and services of environmental protection. Therefore, developing a novel construct of green intellectual capital is necessary in achieving a competitive edge. Green intellectual capital consisting of green human capital, green structural capital, and green relational capital are considered the main drivers behind building a competitive advantage. In words, green human capital as composed of employees’ knowledge, skills, attitudes, ethics, commitments about environmental awareness or green innovation can support an organization to gain a competitive advantage. Regarding the green structural capital, the researcher hypothesized that the organizational capabilities, culture, commitments, and processes can help an organization to occupy a competitive position. On the same hand, the green relational capital in terms of the relationships with the external stakeholders about green innovation and environmental management can lead to a competitive advantage (Duoduand Rowlinson,2016). Scholars have moved further to better understand the nature of the relationship between intellectual capital and competitive advantage using advanced statistical tools. For instance, Kamukama (2013) investigated the linkage among intellectual capital, financial performance, and competitive advantage. The study aims to examine the mediating effect of competitive advantage on the relationship between intellectual capital and firm financial performance in Uganda microfinance institutions. The researcher suggested that intellectual capital can enhance the firms’ financial performance (Abuhashesh et al., 2019c, d). Furthermore, it has been asserted that intellectual capital encompasses resources that are valuable, rare, imperfectly imitable, and non-substitutable (Guthrieand Petty, 2004; Masa'deh, 2012). 7 7 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 Kamukama (2013) examined the relationship between intellectual capital and competitive advantage and argued that intellectual capital is the invisible source toward achieving a competitive advantage. What distinguishes this study is that it aims to analyze the individual contribution of intellectual capital components to competitive advantage. 2.4 Intellectual Capital and Competitive Advantage Therefore, it is hypothesized that intellectual capital through its main aspects has a positive influence on the firm’s competitive advantage. Theoretically, the study has established that the dimensions of intellectual capital work on a synergic approach to influence the firm’s competitive advantage. The study recommended to use different methodological approaches such as the interview to triangulate the data collection methods in this study. Furthermore, adapting a longitudinal approach enhance the reliability of study findings. Clearly, the relationship between intellectual capital and competitive is extensively studied in western business settings. However, Yaseen, et al. (2016) assessed the effect of intellectual capital on competitive advantage in Jordanian telecommunication sector. They stated that organizations owned various resources that enhance their performance. these resources can be tangible or intangible. Intellectual capital as the intangible assets can be exploited to gain a sustainable competitive advantage. Data on this study was collected using a questionnaire distributed to the companies in the telecommunication sector. The multiple regression analysis revealed that the structural capital and relational capital have a positive influence on achieving a competitive advantage. It is somewhat surprising that human capital does not significantly influence the competitive advantage. The researchers proposed that presence of other variables can enhance the influence of human capital on competitive advantage. The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. capital, structural capital, and relational capital enhances the chance of obtaining a competitive advantage. In this chapter, data will be presented, analyzed and interpreted. Data were collected using questionnaire as the main study instrument. 335 employees at all managerial levels in the Jordanian telecommunication sector participated in this research. Moreover, data was statistically analyzed using SPSS and AMOS. Then, descriptive statistics of the main variables and their dimensions will be presented using the arithmetic mean, standard deviation, and the ranking equation. Thereafter, to assure that the independents variables are not strongly correlated; multi co-linearity analysis was established using the variance of inflation and tolerance value (Blumberget al., 2014). 3. Methodology This research used the Statistical Package for social science (SPSS) and the Analysis of Moment Structure (AMOS) to examine the data gathered for this study. Testing study hypotheses requires determining the appropriate statistical methods (Sekaran and Bougie, 2016). Moreover, determining the appropriate statistical methods rely on the number of study variables. Thus, multivariate statistical techniques since it includes more than one independent variable (intellectual capital) to explain the variance in the dependent variable (Competitive Advantage). The population of this study consists of all employees at all managerial levels working in the three major telecommunication companies operating in Jordan (Orange, Zain, Umniah). As per to the annual reports of these companies at the end of 2016, it has been reported that the total number of employees working in the telecommunication companies was 3119 employees. Few studies analyzed the influence of intellectual capital on achieving a competitive advantage. Furthermore, this study aims to introduce additional evidence that intellectual capital through its main dimensions: human 8 The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. 3.1 Descriptive Statistics of the Main Variables Traditionally, the level of significant in the scientific business research is (0.05). Thus, the confidence level is (95%). H01: Intellectual Capital has no statistical effect on Competitive Advantage. H01.1: Human Capital has no statistical effect on Competitive Advantage. H01.2: Structural Capital has no statistical effect on Competitive Advantage. H : Relational Capital has no statistical effect on Competitive Advantage To test these hypotheses, multiple regression analysis was conducted. Traditionally, the level of significant in the scientific business research is (0.05). Thus, the confidence level is (95%). H01: Intellectual Capital has no statistical effect on Competitive Advantage. H01.1: Human Capital has no statistical effect on Competitive Advantage. H01.2: Structural Capital has no statistical effect on Competitive Advantage. H01 3: Relational Capital has no statistical effect on Competitive Advantage. H01: Intellectual Capital has no statistical effect on Competitive Advantage. Table 2. Multiple regression of the first hypotheses R R2 Adjusted R2 F- value Sig t Sig Beta 0.77 0.59 0.59 160.92 0.000 Constant 1.496 0.136 0.260 Human Capital 2.519 0.012 0.192 Structural Capital 4.394 0.000 0.360 Relational Capital 5.325 0.000 0.361 Table 2. Multiple regression of the first hypotheses R R2 Adjusted R2 F- value Sig t Sig Beta 0.77 0.59 0.59 160.92 0.000 Constant 1.496 0.136 0.260 Human Capital 2.519 0.012 0.192 Structural Capital 4.394 0.000 0.360 Relational Capital 5.325 0.000 0.361 Further to the above table, it can be noticed that the multiple correlation coefficient R is (0.770). This indicates a positive correlation between intellectual capital and competitive advantage. The coefficient of determination R2 is (0.593). This value presents that the tripod of intellectual capital explained 59.3% of the variation in competitive advantage. Moreover, it is evident that the adjusted R2 is (.590). If the adjusted R2 is subtracted from R2 (0.593-0.590) = 0.003. This little shrinking (0.003) proves that if the model has been fitted when the whole population participates in the study, the higher possible variance would be (0.003). The probability of F-Value (160.929) refers to the association among human capital, structural capital, and relational capital. This association has a significant effect on competitive advantage at (α ≤ 0.05). Accordingly, the first main hypothesis is rejected. Table 2. 3.1 Descriptive Statistics of the Main Variables The descriptive statistics present the attitudes of respondents toward the main variables in the study and the questions they were asked. To do this, the arithmetic mean, standard deviation, and the relative importance should be calculated. The Likert-scale from (1 to 5) was adapted to allow respondents to express their agreement or disagreement regarding the questions in the instrument. This scale enables the research to transform qualitative data into quantitative data. Therefore, variables can be statistically assessed. According to the study equations, the variable within the range between (1 to 2.33) is considered low important. The variable within the range between (2.34 to 3.67) is considered moderately important, whereas, the variable within the range between (3.68 to 5) is considered highly important. The following table presents the arithmetic mean, standard deviation, the level of importance, and the rank for main variables: Table 1. Means and standard deviations of the main variables Table 1. Means and standard deviations of the main variables Variable Mean Standard Deviation Relative Importance Rank Intellectual Capital 4.05 0.721 High 1 Competitive Advantage 3.96 0.863 High 2 Referring to the above table, it can be observed that the main variables are highly important for the respondents in the telecommunication companies in Jordan. In words, intellectual capital has an arithmetic mean of (4.05). This is an evidence that the majority of respondents “agree” with the questions regarding the intellectual capital. The standard deviation of intellectual capital is (0.721) which is statistically confirmed. Respondents on the competitive advantage exert positive attitude regarding the questions where the arithmetic mean is (3.96) and standard deviation is (0.863) which is relatively above the average. Further to above, the relative importance and ranks have been estimated. Intellectual 9 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 capital has the highest level of importance, followed by competitive advantage and organizational innovation (Liao et al, 2017). 3.2 Inferential Statistics: Hypotheses Testing To test these hypotheses, multiple regression analysis was conducted. Traditionally, the level of significant in the scientific business research is (0.05). Thus, the confidence level is (95%). H01: Intellectual Capital has no statistical effect on Competitive Advantage. H01.1: Human Capital has no statistical effect on Competitive Advantage. H01.2: Structural Capital has no statistical effect on Competitive Advantage. H01.3: Relational Capital has no statistical effect on Competitive Advantage. To test these hypotheses, multiple regression analysis was conducted. The Effect of Intellectual Capital on Competitive Advantage in the Jordanian. As for the structural capital, it can be observed that structural capital has significant value of (0.000) at (α ≤ 0.05). the t-calculated is (4.394) and significantly greater than the value of t-tabulated (1.96). Based on these findings. Accordingly, the null hypothesis is rejected. Indeed, it can be argued that documenting the organizational knowledge and promoting effective culture and work system would enhance the ability to acquire a competitive advantage in the telecommunication companies. In terms of relational capital, the previous table shows that relational capital has significant value of (0.000) at (α ≤ 0.05). The value of t-calculated is (5.325) is greater than (1.96). Building on these finding, the null hypothesis is rejected. In general, enhancing the collaboration among employees to exchange ideas and build two-way communication channels to obtain clients’ feedback would promote the ability of telecommunication companies to occupy a competitive position. The following table presents the decisions that can be made regarding the first null hypotheses: yp Table 3. The results of testing the first null hypotheses H01.1: Human Capital has no statistical effect on Competitive Advantage. Rejected H01.2: Structural Capital has no statistical effect on Competitive Advantage Rejected H01.3: Relational Capital has no statistical effect on Competitive Advantage. Rejected Consequently, the study shows that intellectual capital has a significant influence on competitive advantage where the coefficient value is (.9198). Table 3. The results of testing the first null hypotheses H01.1: Human Capital has no statistical effect on Competitive Advantage. Rejected H01.2: Structural Capital has no statistical effect on Competitive Advantage Rejected H01.3: Relational Capital has no statistical effect on Competitive Advantage. Rejected Consequently, the study shows that intellectual capital has a significant influence on competitive advantage where the coefficient value is (.9198). Consequently, the study shows that intellectual capital has a significant influence on competitive advantage where the coefficient value is (.9198). Consequently, the study shows that intellectual capital has a significant influence on competitive advantage where the coefficient value is (.9198). 3.1 Descriptive Statistics of the Main Variables Multiple regression of the first hypotheses R R2 Adjusted R2 F- value Sig t Sig Beta 0.77 0.59 0.59 160.92 0.000 Constant 1.496 0.136 0.260 Human Capital 2.519 0.012 0.192 Structural Capital 4.394 0.000 0.360 Relational Capital 5.325 0.000 0.361 Table 2. Multiple regression of the first hypotheses Further to the above table, it can be noticed that the multiple correlation coefficient R is (0.770). This indicates a positive correlation between intellectual capital and competitive advantage. The coefficient of determination R2 is (0.593). This value presents that the tripod of intellectual capital explained 59.3% of the variation in competitive advantage. Moreover, it is evident that the adjusted R2 is (.590). If the adjusted R2 is subtracted from R2 (0.593-0.590) = 0.003. This little shrinking (0.003) proves that if the model has been fitted when the whole population participates in the study, the higher possible variance would be (0.003). The probability of F-Value (160.929) refers to the association among human capital, structural capital, and relational capital. This association has a significant effect on competitive advantage at (α ≤ 0.05). Accordingly, the first main hypothesis is rejected. Regarding the effect of human capital on competitive advantage, it is evident from the previous table that significant value of human capital at (α ≤ 0.05) is (0.012). The t-calculated is (2.519) is greater than the value of t-tabulated (1.96). This proves that the human capital has a remarkable effect on competitive advantage. Therefore, the null hypothesis is rejected at (α ≤ 0.05). 10 4. Discussion and Conclusions Analyzing the data collected from 335 employees’ at all managerial levels working in the telecommunication sector reveals that intellectual capital significantly effects on the organizational ability in attaining a competitive advantage at (α ≤ 0.05). This finding supported the conclusions of Yaseen, et al., (2016). Theoretically speaking, drawing on the RBV as suggested by Barney (1991), it has been stated that intellectual capital as a substantial intangible resource within an organization have a direct and indirect impact on enhancing the competitive position of the firm. Intellectual capital is considered as the combination and exchange of intellectual resources that can be presented either in an explicit or implicit knowledge. This knowledge is considered as the fundamental base in building a competitive advantage. Furthermore, RBV stressed that competitive advantage can be achieved through acquiring resources that are valuable, rare, imperfectly imitable, and organizational supported. Therefore, the organizational ability in integrating and creating a 11 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 congruence among the intellectual component can help companies achieve competitive advantage in the telecommunication sector in Jordan. Regarding the tripod of intellectual capital, it has been found that human capital has a significant effect on achieving a competitive advantage at (α ≤ 0.05). Indeed, this finding is supported by somescholars (e.g. Jaradat, et al., 2012; Chahal and Bakshi, 2015). The premise behind this finding is that human capital comprises all business capabilities embedded in the individual and not owned by the organization. It is also the individual stock of an organization as represented by employees. In this context, human capital is associated with the innate ability, intelligence, creation and talent brainpower and considered as a core component of intellectual capital. Therefore, it is the main source in building a competitive advantage. As for the structural capital, it has been found that structural capital has a remarkable effect in enhancing the competitive position at (α ≤ 0.05). This finding is supported the conclusion of Kavida and Sivakoumar (2009) work. Structural capital includes the tacit knowledge or codified knowledge artifacts. It is considered as the pool of knowledge and the supportive infrastructure that facilitates exploiting human and relational capital. Indeed, organizations with effective structural capital can find a better harmonization among the components of intellectual capital. Therefore, it can be postulated that enhancing the structural capital is useful to achieve a sustainable competitive advantage. 4. Discussion and Conclusions it has also been found that relational capital has a significant influence on achieving a competitive advantage at (α ≤ 0.05). This finding is highly consistent with the findings of. Schiuma and Marr,(2001), Chen (2008),and Jaradat et al. (2012) who argued that among the components of intellectual capital, relational capital is considered that most favorable and influential component in achieving a competitive advantage. At its core, relational capital is concerned with the mobilization of resources and knowledge through a social structure. Thus, it can be argued that building strong ties with all stakeholders’ help in achieving a competitive edge. The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. From theoretical perspective, the distinguishing feature of this study is the solid theoretical framework that built on a clear methodology. In other words, intellectual capital has been assessed using the most popular tripod of human, structural, and relational capital as suggested by as (SubramaniamandYoundt, 2005; Seleim and Khalil, 2011; Dahiyat, et al., 2014). This construct achieved a high degree of acceptance among researchers as it covers the concept of intellectual capital and enhances the parsimonies of the study. 4.1 Contribution of the Study This research was built on previous literature regarding the role of intellectual. Indeed, the findings of this study have practical and theoretical contribution in a significant way. From practical perspective, researches were conducted in different countries with different cultures and different work settings. However, this study was conduct in Jordan as one of the developing countries as limited efforts have been exerted to study the nature of this relationship in developing countries. In addition, thispaper highlights the critical role of intellectual capital on competitive advantage in such intensive based-technology as the telecommunication sector. 12 4.2 Limitations and Recommendations Despite the remarkable importance of this study, it holds some limitations. These limitations should be acknowledged to help researchers fill the gaps. First, this study adopts the questionnaire as a major instrument to collect data regarding intellectual capitaland competitive advantage. Indeed, every data collection method has its own built-in biases. As for the questionnaire, respondents may have overemphasized the positive aspect of intellectual capitaland competitive advantage. Therefore, it is recommended resorting to multi-method of data collection that may help researchers to overcome these biases. Second, it has been observed that some respondents provide inconsistent and illogical answers in questionnaire. However, these respondents have been scientifically treated as suggested by Sekaran and Bougie (2016). Third, the current study employed cross-sectional survey design. The purpose of this design is to collect data that would be pertinent to addressing the answer to research question. It is advised to adapt the longitudinal survey design in future studies. A longitudinal study can provide further insight on how individuals perceive intellectual capitaland competitive advantage at more than one time. It may also show other relationships among variable at different points of testing. Fourth, the sampling design chosen in this study may influence the generalizability of the findings. Convince sampling is characterized by quick, and efficiency. However, this sampling design is the least reliable of all sampling designs regarding the generalizability. To overcome this limitation, it is recommended to use other probability sampling techniques as simple random or stratified random sampling to obtain more useful and generalized findings. Finally, this research was conducted in the Jordanian telecommunication sector as one of the most competitive sectors in Jordan (Abuhashesh et al., 2019a). It is recommended to conduct this research in other sectors as the banking or pharmaceutical sectors. Also, it is advisable to represent the importance of this study by conducting this research at the country level. From theoretical point of view, the current study concentrates on the three dimensions of intellectual capital namely, human capital, structural capital, and relational capital. Other intellectual capital dimensions are recommended to be used in measuring the importance of intellectual capital (Ding, 2010). 13 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 From practical point of view, managers in the telecommunication companies should be aware about the importance of exploiting the intellectual resources as they have a crucial influence on attaining a competitive advantage. 4.2 Limitations and Recommendations it is also important for the telecommunication companies to comprehend the vital role of intellectual capital in achieving a sustainable competitive advantage. Therefore, this puts on the shoulders of managers in the telecommunication companies a huge responsibility to improve performance by investing more resources in human capital, relational capital and structural capital (Al-Syaidh et al., 2016; Barney et al,. 2016; Abuhashesh et al., 2019b). Moreover, in a swiftly moving world, the telecommunication companies should encourage employees with the tacit or intangible knowledge that in their heads as it tremendously helps firms to create valuable goods and services. References Abualoush, S., Bataineh, K., & Alrowwad, A. (2018a).The role of knowledge management process and intellectual capital as intermediary variables between knowledge management infrastructure and organization performance. Interdisciplinary Journal of Information, Knowledge, and Management, 13, 279- 309. Abualoush, S., Obeidat, A., & Tarhini, A. (2018b). The role of employees’ empowerment as an intermediary variable between knowledge management and information systems on employees’ performance. VINE Journal of Information and Knowledge Management Systems, 48(2), 217-237. Abualoush, S., Obeidat, A., & Tarhini, A. (2018b). The role of employees’ empowerment as an intermediary variable between knowledge management and information systems on employees’ performance. VINE Journal of Information and Knowledge Management Systems, 48(2), 217-237. Abuhashesh, M., Al-Dmour, R., & Masa'deh, R. (2019a). Factors that affect employees job satisfaction and performance to increase customers’ satisfactions. Journal of Human Resources Management Research, 1-23. Abuhashesh, M., Al-Dmour, R., & Masa'deh, R. (2019b). Factors that impact job satisfaction and performance among employees in the Jordanian industrial sector. Proceedings of the 32nd International Business Information Management Association Conference, IBIMA 2018-Vision 2020: Sustainable Economic Development and Application of Innovation Management from Regional expansion to Global Growth, 4285-4305. Abuhashesh, M., Al-Khasawneh, M., & Al-Dmour, R., (2019c). The impact of Facebook on Jordanian consumers’ decision process in the hotel selection. IBIMA Business Review, 1-16. Abuhashesh, M., Mohammad, S.J., & Al Khasawneh, M. (2019d). The attitude of Jordanian customers towards virtual stores. Int. J. Islamic Marketing and Branding, 4(1), 59-75. 14 14 The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. Al-dalahmeh, M., Khalaf, R., & Obeidat, B. (2018). The effect of employee engagement on organizational performance via the mediating role of job satisfaction: The case of IT employees in Jordanian banking sector. Modern Applied Science, 12(6), 17-43. Al-Dmour, R., Obeidat, B., & Almajali, D. (2015). The practice of HRIS applications in business organizations in Jordan: An empirical study. 4th Scientific & Research Conference on New Trends in Business, Management and Social Sciences (COES&RJ-TK15/1). Al-Syaidh, N., Al- Lozi, M., & AlHarrasi, J. (2016). Transformational leadership and its role on the effectiveness of employees’ behavior: A theoretical study. Journal of Business & Management (COES&RJ-JBM), 4(1), 14-35. Amiri, A.N., Jandghi, G., Alvani, S.M., Hosnavi, R., & Ramezan, M. (2010). Increasing the intellectual capital in organization: Examining the role of organizational learning. European Journal of Social Sciences, 14(1), 98-108. Barney, J. (1991). Firm resources and sustained competitive advantage. Journal of Management, 17(1), 99-120. Barney, J.B., & Turk, T.A. (2016). 5 superior performance from implementing merger and acquisition strategies: A resource-based. The Management of Corporate Acquisitions: International Perspectives, 105. Blumberg, B., Cooper, D.R.,& Schindler, P.S. (2014). Business Research Methods (4th ed). United States: McGraw Hill Higher Education Bontis, N. (1998). Intellectual capital: An exploratory study that develops measures and models. Management Decision, 36(2), 63-76. Chahal, H., & Bakshi, P. (2014). Effect of intellectual capital on competitive advantage and business performance: Role of innovation and learning culture. International Journal of Learning and Intellectual Capital, 11(1), 52-70. Chahal, H., & Bakshi, P. (2015). Examining intellectual capital and competitive advantage relationship: Role of innovation and organizational learning. International Journal of Bank Marketing, 33(3), 376-399. Chen, Y.S. (2008). The positive effect of green intellectual capital on competitive advantages of firms. Journal of Business Ethics, 77(3), 271-286. 15 15 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 Ding, Y. (2010). Study on the management of intellectual capital. International Journal of Business and Management, 5(2), 213. Ding, Y. (2010). Study on the management of intellectual capital. International Journal of Business and Management, 5(2), 213. Duodu, B., & Rowlinson, S. (2016, June). Intellectual capital and innovation in construction organizations: A conceptual framework. In the Engineering Project Organization Conference (EPOC2016). Dženopoljac, V., Janoševic, S., & Bontis, N. (2016). Intellectual capital and financial performance in the Serbian ICT industry. Journal of Intellectual Capital, 17(2), 373-396. Edvinson, L.M. (1997). MS, intellectual capital: Realizing your company’s true value by finding it’s hidden roots. The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. European Commission (2006a). Innovation policy in a knowledge-based economy, Merit Study commissioned by the European Commission Enterprise Directorate General, EUR 17023, available at: www.cordis.lu/innovation- smes/src/studies.html Grimaldi, M., Cricelli, L., & Rogo, F. (2012). A methodology to assess value creation in communities of innovation. Journal of Intellectual Capital, 13(3), 305- 330. Guthrie, J., Petty, R.M., & Ricceri, F. (2004). External intellectual capital reporting: Contemporary evidence from Hong Kong and Australia. Hall, R. (1992). The strategic analysis of intangible resources. Strategic Management Journal, 13(2), 135-144. Hesterly, W., & Barney, J. (2010). Strategic management and competitive advantage. Upper Saddle River, NJ. Hinterhuber, A. (2013). Can competitive advantage be predicted? Towards a predictive definition of competitive advantage in the resource-based view of the firm. Management Decision, 51(4), 795-812. Hsu, L.C., & Wang, C.H. (2012). Clarifying the effect of intellectual capital on performance: The mediating role of dynamic capability. British Journal of Management, 23(2), 179-205. Jaradate, O.M., Al-Samralie, F.A., & Jadallah, N.A. (2012). Intellectual capital and its role in achieving competitive advantage: A field study for the Jordanian income tax service. European Journal of Scientific Research, 69(3), 399-415. 16 The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. Johnson, G., Scholes, K., & Whittington, R. (2016). Exploring corporate strategy: Text and cases. Pearson Education. Kamukama, N. (2013). Intellectual capital: Company's invisible source of competitive advantage. Competitiveness Review: An International Business Journal, 23(3), 260-283. Kavida, V., & Sivakoumar, N. (2009). Intellectual capital: A strategic management perspective. IUPJournal of Knowledge Management, 7(5/6), 55. Karajeh, H., & Maqableh, M. (2014). Security of cloud computing environment. Proceedings the 23rd IBIMA Conference on Vision 2020: Sustainable Growth, Economic Development, and Global Competitiveness, 2202-2215. Li, Q., & Chang, C. (2010). The customer lifetime value in Taiwanese credit card market. African Journal of Business Management, 4(5), 702. Liao, S.S., Chen, C.C., Hu, D.C., Chung, Y.C., & Liu, C.L. (2017). Assessing the influence of leadership style, organizational learning and organizational innovation. Leadership & Organization Development Journal, 38(5). Ma, H. (2004). Toward global competitive advantage: Creation, competition, cooperation, and co-option. Management Decision, 42(7), 907-924. Makadok, R. (2010). The interaction effect of rivalry restraint and competitive advantage on profit: Why the whole is less than the sum of the parts. Management Science, 56(2), 356-372. Manzaneque, M., Ramírez, Y., & Diéguez-Soto, J. (2017). Intellectual capital efficiency, technological innovation and family management. Innovation, 19(2), 167-188. Maqableh, M., Rajab, L., Quteshat, W., & Khatib, T. (2015). The impact of social media networks websites usage on students’ academic performance. Communications and Network, 7(4), 159-171. Marr, B. (2004). Measuring and benchmarking intellectual capital. Benchmarking: An International Journal, 11(6), 559-570. Masa'deh, R. (2012). The impact of management information systems (MIS) on quality assurance (QA): A case study in Jordan. International Journal of Information, Business and Management, 4(2), 93-110. 17 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 Masa’deh, R., Obeidat, B., Zyod, D., & Gharaibeh, A. (2015). The associations among transformational leadership, transactional leadership, knowledge sharing, job performance, and firm performance: A theoretical model. Journal of Social Sciences (COES&RJ-JSS), 4(2), 848-866. Masa’deh, R., Obeidat, B., Zyod, D., & Gharaibeh, A. (2015). The associations among transformational leadership, transactional leadership, knowledge sharing, job performance, and firm performance: A theoretical model. Journal of Social Sciences (COES&RJ-JSS), 4(2), 848-866. Mehralian, G., Rasekh, H.R., Akhavan, P., & Ghatari, A.R. (2013). Prioritization of intellectual capital indicators in knowledge-based industries: Evidence from pharmaceutical industry. International Journal of Information Management, 33(1), 209-216. Mertins, K., Alwert, K., & Will, M. (2006, September). Measuring intellectual capital in European SME. In Proceedings of I-Know (Vol. 6, pp. 6-8). Newbert, S.L. (2008). The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. Value, rareness, competitive advantage, and performance: A conceptual‐level empirical investigation of the resource‐based view of the firm. Strategic Management Journal, 29(7), 745-768. Obeidat, B., Tarhini, A., & Aqqad, N. (2017). The impact of intellectual capital on innovation via the mediating role of knowledge management: A structural equation modelling approach. International Journal of Knowledge Management Studies, 8(3-4), 273-298. Porter, M.E. (2008). Competitive advantage: Creating and sustaining superior performance. Simon and Schuster. Putnam, R.D. (1995). Tuning in, tuning out: The strange disappearance of social capital in America. PS-WASHINGTON-, 28, 664-664. Rocha, E.A. (2012). The impact of the business environment on the size of the micro, small and medium enterprise sector: Preliminary findings from a cross- country comparison. Procedia Economics and Finance, 4, 335-349. Rodrigues, L.L., Tejedo-Romero, F., & Craig, R. (2017). Corporate governance and intellectual capital reporting in a period of financial crisis: Evidence from Portugal. International Journal of Disclosure and Governance, 14(1), 1-29. Schiuma, G., & Marr, B. (2001). Measuring and managing intellectual capital and knowledge assets in new economy organizations. Bourne M., Performance Measurement Handbook, GEE Publishing Ltd. Sekaran, U., & Bougie, R.J. (2016). Research methods for business: A skill building approach. John Wiley and Sons. 18 The Effect of Intellectual Capital on Competitive Advantage in the Jordanian. Seleim, A.A., &Khalil, O.E. (2011). Understanding the knowledge management- intellectual capital relationship: a two-way analysis. Journal of Intellectual Capital, 12(4), 586-614. Sharabati, A.A., Nour, A.N., & Shamari, N.S. (2013). The impact of intellectual capital on Jordanian telecommunication companies' business performance. American Academic & Scholarly Research Journal, 5(3 special issue), 32. Sofian, S., Tayles, M., & Pike, R.H. (2004). Intellectual capital: An evolutionary change in management accounting practices. University of Bradford, School of Management. Stewart, T. (1997). Intellectual capital: The new wealth of organizations. New York: Doubleday Dell Publishing Group. Subramaniam, M., & Youndt, M.A. (2005). The influence of intellectual capital on the types of innovative capabilities. Academy of Management Journal, 48(3), 450-463. Sudrajat, D. (2015). Competitiveness improvement of Indonesian logistics service providers: A conceptual model and future research framework. Advanced Science Letters, 21(4), 1049-1052. Teece, D., Peteraf, M., & Leih, S. (2016). Dynamic capabilities and organizational agility: Risk, uncertainty, and strategy in the innovation economy. California Management Review, 58(4), 13-35. Wang, Z., Wang, N., & Liang, H. (2014). Knowledge sharing, intellectual capital and firm performance. Management Decision, 52(2), 230-258. Wheelen, T.L., Hunger, J.D., Hoffman, A.N., & Bamford, C.E. (2015). Strategic management and business policy: Globalization, innovation, and sustainability, Global Edition. Winter, S.G. (2014). The future of evolutionary economics: Can we break out of the beachhead?. Journal of Institutional Economics, 10(4), 613-644. Yaseen, S.G., Dajani, D., & Hasan, Y. (2016). The impact of intellectual capital on the competitive advantage: Applied study in Jordanian telecommunication companies. Computers in Human Behavior, 62, 168-175. 19
https://openalex.org/W2115362377
https://europepmc.org/articles/pmc4168566?pdf=render
English
null
High and equitable mass vitamin A supplementation coverage in Sierra Leone: a post-event coverage survey
Global health science and practice
2,013
cc-by
5,487
ABSTRACT B k d Background: In Sierra Leone, children ages 6–59 months receive twice-yearly vitamin A supplementation (VAS) through Maternal and Child Health Week (MCHW) events. VAS coverage in 2011 was calculated using government tally sheets of vitamin A capsule distribution and outdated population projections from the 2004 census. We conducted a national post-event coverage (PEC) survey to validate coverage and inform strategies to reach universal coverage of VAS in Sierra Leone. Methodology: Immediately following the November 2011 MCHW event, we conducted a national PEC survey by interviewing caregivers with children ages 6–59 months using a randomized 30X30 cluster design (N5900). We also interviewed one health worker and one community health worker in each cluster to determine their knowledge about VAS (N560). Methodology: Immediately following the November 2011 MCHW event, we conducted a national PEC survey by interviewing caregivers with children ages 6–59 months using a randomized 30X30 cluster design (N5900). We also interviewed one health worker and one community health worker in each cluster to determine their knowledge about VAS (N560). Results: VAS coverage was 91.8% among children ages 6–59 months, which was lower than the 105.1% reported through tally sheets. Coverage was high and equitable among all districts and between age groups (98.5% for infants ages 6–11 months and 90.5% for children ages 12–59 months). Major reasons for not receiving VAS were that the child was out of the area (42.4%), the household was not visited by community health workers (28.0%), and the caretaker was not aware of the event (11.9%). Conclusion: Twice-yearly delivery of VAS through MCHW events achieved consistently high and equitable coverage in Sierra Leone. Universal coverage may be achieved through continued focus on communication and targeted outreach to hard-to-reach areas during the MCHWs. a Helen Keller International, Freetown, Sierra Leone b Ministry of Health and Sanitation, Freetown, Sierra Leone c Helen Keller International, Regional Office for Africa, Nairobi, Kenya Correspondence to Mary Hodges (mhodges@hki.org). Global Health: Science and Practice 2013 | Volume 1 | Number 2 High and equitable mass vitamin A supplementation coverage in Sierra Leone: a post-event coverage survey Mary H Hodges,a Fatmata F Sesay,a Habib I Kamara,a Mohamed Turay,a Aminata S Koroma,b Jessica L Blankenship,c Heather I Katcherc In Sierra Leone, an intensive mass vitamin A supplementation (VAS) campaign to reduce under-5 mortality reached over 90% of children ages 6–59 months, eliminating coverage disparities among districts and between age groups. Delivering VAS with other essential maternal and child health interventions was key to the success. BACKGROUND A study in India carried out in a programmatic setting did not demonstrate such impact, but the study and related expert comments underscore the important of validating VAS coverage data to drive programs.5–6 A study in India carried out in a programmatic setting did not demonstrate such impact, but the study and related expert comments underscore the important of validating VAS coverage data to drive programs.5–6 V itamin A supplementation (VAS) is one of the most cost-effective child survival strategies in areas where vitamin A deficiency (VAD) exists.1–2 Strong evidence shows that in settings where VAD is prevalent, twice-yearly receipt of VAS by at least 80% of children ages 6–59 months reduces risk of mortality from measles by an average of 50%, from diarrhea by an average of 40%, and from all causes by 24%.3–4 V VAS delivery through integrated events, such as Maternal and Child Health Weeks (MCHWs), is the most efficient method for reaching high and equitable coverage. Over the past 15 years, roughly 80 countries have scaled up vitamin A interventions, including 41 of 45 priority countries in sub-Saharan Africa that have high under-5 mortality rates and/or high VAD prevalence.7 In 1999, Sierra Leone had one of the highest under- 5 mortality rates in the world (242 per 1,000 live 172 Vitamin A supplementation in Sierra Leone www.ghspjournal.org Integrating VAS campaigns with other essential maternal and child health interven- tions provides maximum effi- ciency and cover- age. Integrating VAS campaigns with other essential maternal and child health interven- tions provides maximum effi- ciency and cover- age. births)8 and an estimated VAD prevalence of 47% among children ages 6–59 months.9 That year, the Ministry of Health and Sanitation (MoHS) initiated large-scale VAS as part of its strategy to reduce child mortality.10–11 Although locally produced palm oil (rich in carotenes, which are vitamin A precursors) is widely available in Sierra Leone, its use in infant and young children’s diets appears limited. sheets (based on 2004 census projections). BACKGROUND The sustained high coverage of VAS and other essential child survival interventions may have contributed to under-5 mortality reduction in the country, from 214/1,000 live births in 2005 to 200/1,000 in 2008 and to 185/1,000 in 2011.8 These major reductions in child mortality indicate that the measure of VAS coverage by tally sheets—while based on census projections from 2004—is still imprecise as it uses the 2005 child mortality rate of 214/1,000 to determine the projected population. The Ministry estimated VAS coverage from events implemented between 1999 and 2003, but they were based on tally sheets using outdated 1985 census data. To better assess VAS coverage and inform strategies to improve coverage nationally and among hard-to-reach popula- tions, the MoHS, Helen Keller International (HKI), and the United Nations Children’s Fund (UNICEF) implemented a post-event coverage (PEC) survey in 2004. According to the survey, VAS coverage among children 6–59 months of age was 68.2% compared with the reported 83.0% coverage based on tally sheets, with large disparities found among districts.12 Coverage also varied between age groups, with only 41% of infants ages 6–11 months receiving VAS compared with 73% of children ages 12–59 months. To validate VAS coverage and inform strate- gic planning of the MCHWs, the MoHS and HKI conducted a national PEC survey immedi- ately after the November 2011 MCHW. The survey used EpiSurveyor technology (currently called Magpi; https://www.magpi.com/) to collect data through mobile phones on VAS coverage and characterize the children who did not receive VAS during the November 2011 MCHW. The survey also evaluated the level of VAS awareness among caregivers and health care workers, including from where caregivers heard about VAS, to evaluate the quality of MCHW social mobilization activities. Coverage data from the PEC survey was compared with tally sheet data and population projections to determine the reliability of administrative data. As a result of these findings, the MoHS, with technical support from HKI and UNICEF, revised their distribution plan for VAS events at both national and district levels and launched an intensive communication campaign targeting caregivers and health care workers. In addition, the MoHS Nutrition Department and the Expanded Programme on Immunizations (EPI) strengthened their partnership, so that VAS, catch-up vaccinations, and deworming were integrated into twice-yearly MCHWs. The aim of the MCHWs was to deliver a package of child survival interventions with universal coverage among children 6–59 months of age. BACKGROUND This paper discusses the 2011 PEC survey and how the findings will inform VAS program design in Sierra Leone. Global Health: Science and Practice 2013 | Volume 1 | Number 2 PEC Sampling, Sample Size, and Survey Sites PEC Sampling, Sample Size, and Survey Sites Ten enumerators attended a one-day training session on vitamin A, VAS, PEC survey metho- dology, the survey questions, and EpiSurveyor. We paired the enumerators into 5 teams, with 2 teams conducting the PEC survey in the north and one team each conducting the PEC survey in the east, south, and west regions. We adapted the World Health Organization-EPI (WHO-EPI) cluster sampling methodology to determine the sample size for the PEC sur- vey.13–14 Using probability proportional to size sampling (PPS) methodology, we randomly selected 30 enumeration areas (EAs) represent- ing all 14 districts in Sierra Leone, with support from the National Statistics Office using popula- tion data from the 2004 national census.13 Each team of enumerators received 2 Nokia X2-01 mobile phones to enter data, hard copies of the questionnaires, chalk to mark the houses visited, and vitamin A capsules to help mothers recall VAS receipt. Surveyors marked each house with a code: Of the 30 EAs sampled, 11 were in the north, 7 in the east, 6 in the south, and 6 in the west. In each EA, we selected 30 households by going to a central location (for example, a church, mosque, or communal center), spinning a pen, counting the number of houses to the end of the cluster in the direction the pen pointed, and selecting a random house to start. In addition, we randomly sampled and interviewed one HW from the nearest health facility and one CHW in each EA (N560). 3 PECS for a completed house  3 PECS for a house to be revisited N5PECS for a house with no eligible children N PECS for a house with no eligible children The enumerators first recorded the data onto hard copies of the questionnaires and then subsequently entered the data into the mobile phones at the end of each day. We deemed it safer in remote, hard-to-reach sites for enumera- tors to use hard copies rather than to use the mobile phones in public places. The EpiSurveyor account administrator cross-checked the data on the hard copies with the database data before analysis to ensure quality control. Enumerators completed data collection within one week, and we held a debriefing session a day later with them to get feedback on their challenges with conducting the PEC survey and with using EpiSurveyor. Questionnaire Development and Training of Enumerators We developed a standard, coded survey for caregivers and another for both HWs/CHWs and translated both into 3 local languages: Krio, Mende, and Themne. We programmed the Ethical Considerations We did not offer compensation or any other incentive to survey respondents. To protect the confidentiality of respondent information, the enumerators did not record names or addresses. The MoHS responsible for medical research and ethics approved the study monitoring. The enumerators made courtesy calls to traditional village chiefs to explain the purpose of the PEC survey and to obtain their permission to conduct the survey. Because literacy rates are low in Sierra Leone,15–16 we obtained informed verbal consent from caregivers, HWs, and CHWs and interviewed only those who gave their consent to participate in the study. We selected HWs and CHWs based on their availability at the nearest PHU. When there was more than one HW or CHW present, we randomly selected one using the simple ballot system described above. Questionnaire Development and Training of Enumerators We developed a standard, coded survey for caregivers and another for both HWs/CHWs and translated both into 3 local languages: Krio, Mende, and Themne. We programmed the MCHWs and Mass Vitamin A Supplementation pp Mass VAS for the November 2011 MCHW was conducted over 5 days using mixed delivery methods, including fixed distribution points by health workers (HWs) and door-to-door distri- bution by teams of community health workers (CHWs) consisting of one distributor and one record keeper. Other interventions administered concurrently included deworming with albenda- zole of children ages 12–59 months, screening and referral of underweight children using mid- upper arm circumference (MUAC), delivery of tetanus toxoid for women of childbearing age (15–49 years), and testing and management of pregnant women with HIV infection to prevent mother-to-child transmission (PMTCT). HWs and CHWs collected and reported daily tallies of vitamin A capsules distributed to primary health To measure the impact of the refined strategy, the partners implemented a follow-up PEC survey in 2005. National VAS coverage among children 6–59 months of age had increased from 68.2% in 2004 to 95.0% in 2005, with high coverage across districts.12 Additionally, coverage disparities between age groups had declined, with 91.8% of infants ages 6–11 months and 95.5% of children ages 12–59 months receiving VAS. Since 2005, high VAS coverage has been sustained, with over 80% coverage consistently obtained in all districts as measured by tally 173 Vitamin A supplementation in Sierra Leone www.ghspjournal.org units (PHUs), District Health Management Teams (DHMTs), and the EPI Unit of the MoHS. English version of the questionnaire into Nokia X2-01 mobile phones using the EpiSurveyor mobile phone program. PEC Sampling, Sample Size, and Survey Sites Caregivers were eligible to participate in the survey if they had a child who was 6–59 months old in November 2011 (N5900). If there was more than one caregiver in the household, we chose one at random by writing down each eligible caregiver’s name on a slip of paper, putting the paper slips in a hat or basket, and selecting one at random. If the caregivers had multiple children ages 6–59 months, we ran- domly selected one child to be the focus of the interview using the same methodology that we used for randomly selecting caregivers. We verified children’s ages with health cards when- ever possible. When health cards were not available, we estimated children’s ages using a local event calendar. Global Health: Science and Practice 2013 | Volume 1 | Number 2 Caregivers received informa- tion about VAS mostly through health care work- ers and the radio. Statistical Analysis All data were downloaded from mobile phones to the EpiSurveyor program, exported to Microsoft 174 174 Global Health: Science and Practice 2013 | Volume 1 | Number 2 Vitamin A supplementation in Sierra Leone www.ghspjournal.org Excel, and then cleaned by comparing the uploaded data to the responses on the hard copies. Frequencies and percentages were calcu- lated to estimate VAS coverage and chi-squared tests were conducted to test for differences between groups. Proportions for caregiver data were weighted using the inverse of the prob- ability of selecting a household within a cluster. Because the selection and clusters were done using PPS, sample weighting was implemented only at the household level. All data were analyzed using SPSSH Version 20. significantly more Muslim (64%) than Christian caregivers (36%) (P50.001). Caregivers had child health cards in 86% of households. Of the CHWs and HWs interviewed, 23 (38%) were men and 37 (62%) were women. Nearly half had more than 5 years of health work experience, one-third had 3–5 years of experi- ence, and about 18% had 1–2 years of experience. VAS Knowledge Among Caregivers and Health Care Workers When asked about the benefits of VAS, care- givers said that it prevents sickness (42%), prevents blindness (22%), improves growth (9%), and reduces risk of death (6%). Of the caregivers surveyed, 24% correctly stated the first age at which infants should receive VAS (6 months), and 15% correctly stated how often VAS should be received (every 6 months until 59 months or at every MCHW). Major sources of information about VAS included HWs (38%), radio (30%), and CHWs (27%), with TV, posters, and friends and family listed as minor sources. Global Health: Science and Practice 2013 | Volume 1 | Number 2 Demographic Characteristics of Survey Respondents We interviewed a total of 900 caregivers, 26 HWs, and 34 CHWs. Of the 900 caregivers sampled, we could not confirm the exact age for 5 children (0.6%) from the enumerators’ forms. In addition, we determined that 16 children (1.8%) were under 6 months of age at the time of the MCHW based on their birth date or estimation of age by the local calendar of events. Of the 879 children confirmed to be 6–59 months during the November MCHW, 16% were 6–11 months old and 84% were 12–59 months old (see Table). HWs and CHWs responded that VAS prevents sickness and/or improves health (67%), prevents blindness (53%), reduces risk of death (28%), and helps with vision (18%). The majority of HWs/CHWs correctly cited the age of first VAS (93%) and the VAS dosage for children ages 6–11 months and 12–59 months (85% and 83%, respectively). There was no significant difference between the number of boys (50.4%) and girls (49.6%) selected as the focus child of the interviews with caregivers. Of the 879 caregivers interviewed, 80% were mothers of the selected child, 11% were grandmothers, 4% were fathers, 1% were siblings, and 4% were other relatives. There were Of the HWs/CHWs interviewed, 85% could correctly state how often VAS should be received. The major sources of information about VAS among HWs and CHWs were in-service training TABLE. Demographic Characteristics of Sampled Children and Caregivers Characteristics Male Female Total Age, n (%) 6–11 months 81 (57.0%) 61 (43.0%) 142 (16.2%) 12–59 months 362 (49.1%) 375 (50.9%) 737 (83.8%) Religion, n (%) Muslim 277 (49.3%) 285 (50.7%) 562 (63.9%) Christian 164 (52.2%) 150 (47.8%) 314 (35.7%) Prefer not to say 2 (66.7%) 1 (33.3%) 3 (0.3%) Total, n (%) 443 (50.4%) 436 (49.6%) 879 (100%) 175 Vitamin A supplementation in Sierra Leone www.ghspjournal.org Validating admin- istrative data with post-campaign surveys helps to refine planning, supply chain man- agement, and implementation of future VAS cam- paigns. (67%) and job aids (10%). Minor sources of information included radio messages, pre-service training, and policy documents. (2004, 2005, and 2011) were useful to validate VAS coverage through the MCHWs and to refine the planning and strategic development process of VAS events to ensure high coverage. VAS Coverage According to the PEC Survey Overall, 91.6% of caregivers reported that their child received VAS during the last MCHW. VAS Coverage Reported by the Ministry of Health Based upon tallies of capsules utilized (1,266,861) and a target population projection from the 2004 census (1,205,077), VAS coverage reported by the MoHS for the November 2011 MCHW was 105.1%. Demographic Characteristics of Survey Respondents PEC surveys will be necessary to measure future changes in coverage since administrative data is prone to over-reporting.15 Of the 5.9% of caregivers who reported their children did not receive VAS: N 42.4% had been out of the area at the time of the MCHW N 28.0% had homes that were not reached by the teams N 11.9% were not aware of the MCHW N 11.9% were not aware of the MCHW N 17.7% cited other reasons: the child was sick, the head of the family had refused, the family was busy, or VAS supplies had run out Sources of VAS included: N 94.1% via door-to-door N 4.4% via health centers N 0.8% at nursery schools N 0.7% from mobile teams N 11.9% were not aware of the MCHW N 17.7% cited other reasons: the child was sick, the head of the family had refused, the family was busy, or VAS supplies had run out Sources of VAS included: N 94.1% via door-to-door N 4.4% via health centers N 0.8% at nursery schools N 0.7% from mobile teams N 11.9% were not aware of the MCHW N 17.7% cited other reasons: the child was sick, the head of the family had refused, the family was busy, or VAS supplies had run out Sources of VAS included: N 94.1% via door-to-door N 4.4% via health centers N 0.8% at nursery schools N 0.7% from mobile teams Validating admin- istrative data with post-campaign surveys helps to refine planning, supply chain man- agement, and implementation of future VAS cam- paigns. Success Factors to High VAS Coverage Programmatic barriers to receiv- ing VAS include lack of health worker outreach to certain loca- tions and lack of caregiver aware- ness about the campaigns. The high VAS and deworming coverage during the MCHWs in Sierra Leone is likely the result of many factors, including monthly macroplanning meetings at the national level, sufficient funding and distribution of resources to enable VAS distribution in hard-to-reach areas, social mobi- lization involving high-level dignitaries as well as community leaders, and daily debriefings to enable rapid responses to weak performing areas (see Box). Similar to other countries, integration of VAS with other child survival strategies, including measles and polio immunizations, deworming, and MUAC screening, has been successful in increasing VAS coverage.17 These interventions have been consistent over the years in Sierra Leone, making it difficult to single out the intervention that has had the greatest impact on mortality. It is likely that improvements in all child survival services have contributed to the decrease in under-5 mortality observed in Sierra Leone (see Figure). Global Health: Science and Practice 2013 | Volume 1 | Number 2 Demographic Characteristics of Survey Respondents Few caregivers (2.5%) could not remember if their child had received VAS, and 5.9% reported their child did not receive VAS during the last campaign. Coverage for infants 6–11 months old was 98.5% and for children 12–59 months old, 90.5%. While the study did not have enough power to measure coverage in each district, coverage in all selected clusters was considered high, ranging from 86.7% to 97.8%. Using the number of vitamin A capsules distributed as reported from tally sheets and the estimated coverage from the PEC survey, we estimate the actual target population of children 6–59 months of age as 1,369,579. This is 14% higher than the current target population of 1,205,077 used by the MoHS. The modified population estimate is an important adjustment to ensure that the appro- priate number of vitamin A capsules, albenda- zole, and vaccines for measles and polio are ordered for upcoming MCHWs to prevent shortages during the events. This may help to increase coverage, since in the PEC survey, 35% and 17% of HWs/CHWs reported a shortage of 100,000 and 200,000 IU capsules, respectively. DISCUSSION VAS coverage during the November 2011 MCHW event was 91.6% based on results of the PEC survey. This level was not drastically lower than the 105.1% reported through MoHS tally sheets, suggesting that the higher VAS coverage reported through the tally sheets may be due to under- estimation of the target population from inaccu- rate census projections. The 3 PEC survey rounds Across countries, institutional support, lea- dership, and ownership have been crucial to the success of MCHWs.18–19 In Sierra Leone, the MoHS and partners show their support and leadership by mobilizing resources to provide a platform for the campaign. In addition, launch- ing the MCHWs at national, chiefdom, and zonal 176 Global Health: Science and Practice 2013 | Volume 1 | Number 2 Global Health: Science and Practice 2013 | Volume 1 | Number 2 Vitamin A supplementation in Sierra Leone www.ghspjournal.org receipt. These barriers are similar to those found in the 2004 PEC survey, suggesting that addi- tional targeted strategies are needed to deliver the MCHW package of services to these last hard- to-reach populations. BOX. High VAS Coverage in Sierra Leone: Success Factors N Regular planning and coordination meetings by a MCHW taskforce, chaired by the Ministry of Health and starting at least 6 months prior to the MCHW In addition, caregivers’ knowledge of the impact of VAS on mortality needs to be strengthened. Increasing caregivers’ awareness of VAS benefits and ensuring that key informa- tion on the MCHW events is disseminated may increase demand for these services. From the PEC survey, suggested effective forms of com- munication include radio broadcasting and tra- ditional methods, including message dissemination through HWs and CHWs. N Availability and use of microplanning tools N Inclusion of MCHW into national and district workplans N Use of a pre-verification questionnaire that is sent to all District Medical Officers (DMOs) to assess their district’s prepa- redness for the MCHW Experiences With Mobile Phone Data Entry We had a very positive experience using EpiSurveyor for the PEC survey, as it allowed the investigators to view raw data and summary statistics in real time, address questionable data while enumerators were still in the field, and quickly prepare the final report since the time needed for data entry was greatly reduced. Over 99% of the data entered with EpiSurveyor matched data from the paper surveys. N Interactive trainings for supervisors, vac- cinators, and distributors prior to the MCHW N Use of door-to-door and temporary fixed-post strategies to reach target children N Provision of fuel and transportation costs to DHMTs and national supervisors, as well as provision of boat hire for districts with riverine populations N Extensive social mobilization including promotion by the President of Sierra Leone, the First Lady, Minister of Health, jingles, banners, press releases, radio discussions in 4 languages, announce- ments by town announcers, and perfor- mances by music and drama groups Limitations EA selection for the PEC survey was based on the 2004 national census—the most recent compre- hensive population count for Sierra Leone avail- able at the time. But the census data are widely acknowledged to be unrepresentative of the post- conflict situation, which includes rapid urbani- zation, unmonitored settlement of internally displaced people, and recent labor migrations due mostly to the mining sector.20 As a result, random selection of EAs was likely based on imprecise data, potentially leading to the selec- tion of clusters with more populations that have migrated and the selection of fewer clusters in recently urbanized areas. Since 2012, it has become accepted at the national level to use a census conducted for mass drug administration to adjust population projections for VAS cam- paigns. N Supervision at all levels and daily meet- ings at the DHMT level during imple- mentation to identify gaps and solve problems N Post-event reporting of results and shar- ing lessons learned at district and national Task Force levels levels provides the opportunity to solicit the participation of politicians and opinion, tradi- tional, and religious leaders. Global Health: Science and Practice 2013 | Volume 1 | Number 2 Acknowledgments: UNICEF funds the VAS campaigns and MCHWs in Sierra Leone, along with the MoHS and other partners including HKI. This study was funded by the Canadian International Development Agency (CIDA). The funders had no role in study design, data collection and analysis, decision to publish, or preparation of the manuscript. The authors would like to thank HKI staff Mariama Bah, Emmanuel Nyorkor, Anita Kargbo, and Umu Jalloh for data collection in the field. Global Health: Science and Practice 2013 | Volume 1 | Number 2 REFERENCES 1. Horton S, Begin F, Greig A, Lakshman A. Micronutrient supplements for child survival (vitamin A and zinc). Denmark: Copenhagen Consensus Center; 2008. Available from: http:// www.copenhagenconsensus.com/research/best-practice- papers/micronutrient-supplements-for-child-survival 13. World Health Organization (WHO), Department of Immunization, Vaccines and Biologicals, Vaccine Assessment and Monitoring Team. Immunization coverage cluster survey: reference manual. Geneva: WHO; 2005. Available from: http://www.measlesrubellainitiative.org/mi-files/Tools/ Guidelines/WHO/Immunization%20Coverage%20Cluster%20 Survey%20-%20Reference%20Manual.pdf 2. Horton R. Maternal and child undernutrition: an urgent opportunity. Lancet. 2008;371(9608):179. CrossRef. Medline 3. Imdad A, Herzer K, Mayo-Wilson E, Yakoob MY, Bhutta ZA. Vitamin A supplementation for preventing morbidity and mortality in children from 6 months to 5 years of age. Cochrane Database Syst Rev. 2010;(12):CD008524. CrossRef. Medline 14. World Health Organization (WHO), Expanded Programme on Immunization. Training for mid level managers: the EPI coverage survey. Geneva: WHO; 1991. Available from: http://www. who.int/immunization_monitoring/routine/EPI_coverage_ survey.pdf 4. Beaton GH, Martorell R, Aronson KJ, Edmonston B, McCabe G, Ross AC, et al. Effectiveness of vitamin A supplementation in the control of young child morbidity and mortality in developing countries – Nutrition policy discussion paper No. 13. Geneva: United Nations, Administrative Committee on Coordination/ Subcommittee on Nutrition (ACC/SCN); 1993. Available from: http://www.unscn.org/layout/modules/resources/files/Policy_ paper_No_13.pdf 15. Koroma DS, Turay AB, Moigua MB; Statistics Sierra Leone (SSL), United Nations Population Fund, European Union. Republic of Sierra Leone: 2004 population and housing census: analytical report on population projection for Sierra Leone. Freetown, Sierra Leone: SSL; 2006. 16. Statistics Sierra Leone (SSL), ICF Macro. Sierra Leone Demographic and Health Survey 2008. Calverton, MD: SSL and ICF Macro; 2009. Available from: http://www.measuredhs. com/pubs/pdf/FR225/FR225.pdf 5. Awasthi S, Peto R, Read R, Clark S, Pande V, Bundy D. Vitamin A supplementation every 6 months with retinol in 1 million pre- school children in north India: DEVTA, a cluster-randomised trial. Lancet. 2013;381(9876):1469–1477. CrossRef. Medline 17. Murray CJL, Shengelia B, Gupta N, Moussavi S, Tandon A, Thieren M. Validity of reported vaccination coverage in 45 countries. Lancet. 2003;362(9389):1022–1027. CrossRef. Medline 6. Sommer A, West KP Jr, Martorell R. Vitamin A supplementation in Indian children. Lancet. 2013;pii:S0140-6736(13)60645-5. CrossRef. Medline 7. United Nations Children’s Fund (UNICEF). Vitamin A supplementation: a decade of progress. New York: UNICEF; 2007. Available from: http://www.unicef.org/publications/ files/Vitamin_A_Supplementation.pdf 18. Aguayo VM, Garnier D, Baker SK. Drops of life: vitamin A supplementation for child survival: progress and lessons learned in West and Central Africa. Dakar, Senegal: UNICEF Regional Office for West and Central Africa; 2007. Available from: http://www.unicef.org/wcaro/english/WCARO_Pub_ DropsLifeVitA.pdf 8. Barriers to VAS Receipt High VAS coverage has been achieved in Sierra Leone through twice-yearly delivery of VAS through MCHW events. The MCHW events have driven equitable access to VAS and other essential child survival services in Sierra Leone. Only a small number of children in Sierra Leone do not receive VAS services during MCHWs. The 2011 PEC survey identified lack of caregiver awareness of the MCHW event and lack of household visits by CHWs as barriers to VAS 177 Vitamin A supplementation in Sierra Leone www.ghspjournal.org FIGURE. Changes in Under-5 Mortality and Coverage of Major Child Survival Interventions, Sierra Leone, 1999–2011 Abbreviations: VAS, vitamin A supplementation; DPT3, 3rd dose of the diphtheria, pertussis, and tetanus vaccine. FIGURE. Changes in Under-5 Mortality and Coverage of Major Child Survival Interventions, Sierra Leone, 1999–2011 URE. Changes in Under-5 Mortality and Coverage of Major Child Survival Interventions rra Leone, 1999–2011 Abbreviations: VAS, vitamin A supplementation; DPT3, 3rd dose of the diphtheria, pertussis, and tetanus vaccine. Results of the PEC survey indicate that outdated population data have led to higher VAS coverage reported through tally sheets and suggest that population data be reviewed to improve supply procurement estimates and increase the quality of coverage estimates. Results of the PEC survey indicate that outdated population data have led to higher VAS coverage reported through tally sheets and suggest that population data be reviewed to improve supply procurement estimates and increase the quality of coverage estimates. events has most likely contributed to the reduc- tion in child mortality observed in Sierra Leone since 2005. Continuing the trajectory of high and equitable coverage of VAS through the MCHW events may enable Sierra Leone to achieve Millennium Development Goal 4: reducing child mortality by two-thirds to 90/1,000 by 2015.21–22 The 2011 PEC survey confirms the major improvements in VAS coverage recorded between 2004 and 2005. Coverage in all districts was high, which demonstrates consistent quality of MCHW implementation nationally. Efforts to increase coverage among hard-to-reach populations should focus on increasing awareness of MCHW events and the impact of VAS on mortality. High coverage of VAS and other essential child survival interventions through MCHW Competing Interests: None declared. 178 Vitamin A supplementation in Sierra Leone www.ghspjournal.org 2005. p. 42–45. Available from: http://www.givewell.org/ files/Cause1-2/+Helen%20Keller%20International/VAS_ Sierra%20Leone_2005.pdf Peer Reviewed Received: 2012 Nov 8; Accepted: 2013 Feb 14; First published online: 2013 Jun 26 REFERENCES Childinfo: Monitoring the situation of children and women [Internet]. New York: UN Inter-agency Group for Child Mortality Estimation (IGME).1970 - . Under-five mortality dashboard; [cited 2013 Jan 29]. Available from: http://www.childinfo.org/ mortality_underfive_dashboard.html 19. Aguayo VM, Baker SK, Crespin X, Hamani H, Mamadou l, Taı¨bou A. Maintaining high vitamin A supplementation coverage in children: lessons from Niger. Food Nutr Bull. 2005;26(1):26– 31. Medline 9. United Nations Children’s Fund (UNICEF), The Micronutrient Initiative. Vitamin and mineral deficiency: a global progress report. Ottawa, Canada and New York: The Micronutrient Initiative and UNICEF; 2004. Available from: http://www. micronutrient.org/CMFiles/PubLib/VMd-GPR-English1KWW- 3242008-4681.pdf 20. Hodges MH, Sonnie M, Turay H, Conteh A, MacCarthy F, Sesay SS. Maintaining effective mass drug administration for lymphatic filariasis through in-process monitoring in Sierra Leone. Parasit Vectors. 2012;5:232. CrossRef. Medline 10. Donnelly J. How did Sierra Leone provide free health care? Lancet. 2011;377(9775):1393–1396. CrossRef. Medline 21. Lozano R, Wang H, Foreman KJ, Rajaratnam JK, Naghavi M, Marcus JR, et al. Progress towards Millennium Development Goals 4 and 5 on maternal and child mortality: an updated systematic analysis. Lancet. 2011;378(9797):1139–1165. CrossRef. Medline 11. Bhutta ZA, Ahmed T, Black RE, Cousens S, Dewey K, Giugliani E, et al. What works? Interventions for maternal and child undernutrition and survival. Lancet. 2008;371(9610):417–440. CrossRef. Medline 22. UN Inter-agency Group for Child Mortality Estimation (IGME). Levels and trends in child mortality: report 2010. New York: IGME; 2010. Available from: http://www.childinfo.org/files/ Child_Mortality_Report_2010.pdf 12. Ag Bendech M, Baker SK, Cusack G, Scott S, Tucker M, Bangura M. Rapid vitamin A supplementation coverage surveys drive program improvement in Sierra Leone. Sight and Life Newsletter; Peer Reviewed Received: 2012 Nov 8; Accepted: 2013 Feb 14; First published online: 2013 Jun 26 Cite this article as: Hodges M, Sesay F, Kamara H, Turay M, Koroma A, Blankenship J, et al. High and equitable mass vitamin A supplementation coverage in Sierra Leone: a post-event coverage survey. Glob Health Sci Pract. 2013;1(2):172-179. http://dx.doi.org/10.9745/GHSP-D-12- 00005. Cite this article as: Hodges M, Sesay F, Kamara H, Turay M, Koroma A, Blankenship J, et al. High and equitable mass vitamin A supplementation coverage in Sierra Leone: a post-event coverage survey. Glob Health Sci Pract. 2013;1(2):172-179. http://dx.doi.org/10.9745/GHSP-D-12- 00005.  Hodges et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are properly cited. To view a copy of the license, visit http://creativecommons.org/licenses/by/3.0/ 179 Global Health: Science and Practice 2013 | Volume 1 | Number 2
https://openalex.org/W4388707670
http://jurnal.umb.ac.id/index.php/jamekis/article/download/5601/3458
Indonesian
null
DETERMINAN DIVIDEND PAYOUT RATIO PADA PERUSAHAAN MANUFAKTUR YANG TERDAFTAR DI BURSA EFEK INDONESIA
Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam
2,023
cc-by-sa
83,427
J A M – E K I S JURNAL ILMIAH AKUNTANSI. MANAJEMEN, & EKONOMI ISLAM Pelindung : Rektor Universitas Muhammadiyah Bengkulu (UMB) Penanggung Jawab : Dekan Fakultas Ekonomi dan Bisnis UMB Ketua Dewan Redaksi : Dr. Meilaty Finthariasari, M.M Sekretaris Dewan Redaksi : Marini, S.E., M. EK Dewan Redaksi : 1. Prof. Lizar Alfansi, Ph.D 2. Dr. Arfan Ikhsan 3. Karona Cahya Susena, S.E., M.M 4. Dr. Afi Parnawi 5. Dr. Willy Abdilla 6. Dr. Rumanintya Lisaria Putri, S.E., M.M 7. Dr. Mochammad Arif Budiman, S. Ag., M.E.I., CIRR., CIIQA 8. Dr. Sugiyanto. S.Sos. MM 9. Dr. Arfan Ikhsan, M.Si 10. Dr. Asep Risman 11. Dr. Nurlaila, S.E., MA., CMA 12. Dr. Fachruzzaman 13. Dr. Onsardi, M.M 14. Dr. Nizwan Zukri Executive Editors : 1. Dr. Muhammad Kristiawan 2. Berto Usman, Ph.D Dewan Editor : 1. Marliza Ade Fitri, S.E., M.M 2. Yulius Wahyu Setyadi, M.M 3. Diah Khoiriah, M.Acc 4. Tezar Arianto, M.M Secretariat and Administration : 1. Ade Tiara, M.M 2. Merta Kusuma, M.M SEMUA TULISAN YANG ADA DALAM JURNAL PENELITIAN INI BUKAN MERUPAKAN CERMINAN SIKAP ATAU PENDAPAT DEWAN REDAKSI TANGGUNGJAWAB TERHADAP ISI ATAU AKIBAT DARI TULISAN TETAP TERLETAK PADA PENULIS CIRR., CIIQA 11. Dr. Nurlaila, S.E., MA., CMA Secretariat and Administration JAM-EKIS E-ISSN: 2656-436 ISSN: 2655-6359 JURNAL ILMIAH AKUNTANSI, MANAJEMEN, & EKONOMI ISLAM DAFTAR ISI TINJAUAN EKONOMI ISLAM TERHADAP KELAYAKAN BISNIS PERKREDITAN PADA UD. MENTARI KREDIT KOTA BENGKULU 204-215 Maharani Desi Isnaini Badaruddin Nurhab PENGARUH MOTIVASI DAN LINGKUNGAN KERJA TERHADAP KINERJA KARYAWAN PADA PT. CURUP MANDIRI JAYA TV KABEL 216-228 Khairul Bahrun Fauzi Afriansyah ANALYSIS OF THE APPLICATION OF BALANCED SCORECARD TO THE PERFORMANCE OF MICRO SMALL MEDIUM ENTERPRISES ENGGAL FURNITURE INDUSTRY 228-241 Ikbal Mahadi Aziz Ummul Khair PENGARUH SERVICE RECOVERY DAN PRODUCT QUALITY TERHADAP CUSTUMER RETENTION (STUDI KASUS PT. BINTANG MOTOR KOTA BENGKULU) 242-258 Reni Indriani Alvin Nia PENGARUH GAYA HIDUP DAN LABEL HALAL TERHADAP KEPUTUSAN PEMBELIAN 259-268 Ema Yara Meiffa Herfianti PENGARUH MOTIVASI DAN PENGALAMAN KERJA TERHADAP PENGEMBANGAN KARIR KARYAWAN DI PT SANDABI INDAH LESTARI SELUMA 269-278 Marliza Ade Fitri Richy Pranaditya Faiztawali STRATEGI MARKETING SYARIAH DALAM UPAYA MENINGKATKAN PENJUALAN DI TOKO ADZKIA KELURAHAN KEBUN GERAN KOTA BENGKULU 279-286 Sovita Alfioni Idwal Faisal Muttaqin ANALISIS PENILAIAN KINERJA KEUANGAN BANK MENGGUNAKAN TEKNIK DU PONT SYSTEM (STUDI PT. BANK TABUNGAN DAN PENSIUNAN NEGARA (BTPN) SYARIAH PERIODE 2017-2020) 287-296 Febri Syafly Fadhilah Nurul Hak Kustin Hartini STRATEGI DIGITAL BAURAN PEMASARAN 4P TERHADAP KINERJA UMKM KOTA SAMARINDA 297-309 M. Risal Damayanti DAFTAR ISI JULI 2023 JAM-EKIS ISSN: 2655-6359 E-ISSN: 2656-436 REVIEW OF ISLAMIC ECONOMICS ON THE FEASIBILITY OF CREDIT BUSINESS AT UD. MENTARI QREDIT BENGKULU CITY Pagar Dewa Kota Bengkulu Corresponding email: maharaniiainbkl@gmail.com Pagar Dewa Kota Bengkulu Corresponding email: maharaniiainbkl@gmail.com ABSTRACT This study aims to determine the feasibility of credit business at UD. Mentari Qredit Bengkulu City in terms of Islamic Economics. This type of research, namely field research which is descriptive-analytic in nature, uses a qualitative approach, and the sampling technique is carried out purposively. As for the business feasibility aspects analyzed, such as legal aspects, technical/operational aspects, market and marketing aspects, financial aspects, as well as economic, social and environmental aspects. The results of the study show that when viewed from an Islamic economic perspective, UD. Mentari Qredit Bengkulu City is in accordance with the principles of Islamic economics, because it has implemented honesty in every business activity, clear trade goods specifications, transparency of agreements, agreements apply voluntarily (no coercion), set prices transparently and clearly, avoid usury, as well as adhering to the principle of ta'awun (mutual help) in buying and selling activities. Riwayat Artikel: Diterima : 1 Desember 2022 Direvisi : 25 Juni 2023 Disetujui : 30 Juni 2023 Keywords: Business Feasibility, Credit, Islamic Economics. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu JURNAL ILMIAH AKUNTANSI, MANAJEMEN, & EKONOMI ISLAM EFEKTIVITAS PENYALURAN DANA PROGRAM KELUARGA HARAPAN (PKH) DALAM UPAYA PENGENTASAN KEMISKINAN 310-327 Yuli Handika Desi Isnaini Yunida Een Fryanti STRATEGI PEMASARAN SYARIAH PADA AILA FASHION SERBA TIGA PULUH LIMA RIBU KECAMATAN SINGARAN PATI KOTA BENGKULU 328-339 Wahyu Anugraha Jaya Supardi Mursalin Makmur PENERAPAN MAQASHID SYARIAH DALAM EKONOMI ISLAM 340-354 Intan Permata Sari Eka Sri Wahyuni Kustin hartini DETERMINAN DIVIDEND PAYOUT RATIO PADA PERUSAHAAN MANUFAKTUR YANG TERDAFTAR DI BURSA EFEK INDONESIA 355-365 Martihen Supriyadi Fenty Fauziah Fitri Darmayani Manoy ANALISIS PEMBIAYAAN MURABAHAH PADA KOPERASI JASA BERKAH BERSAMA SYARIAH KOTA BENGKULU 366-382 Amir Mukadar Dharma Setiawan Nazar Muhammad Said Romadhon MANAJEMEN PENGELOLAAN KOS-KOSAN DI LINGKUNGAN UINFAS BENGKULU DALAM PERSPEKTIF EKONOMI ISLAM 383-394 Yeni Nurhayati Supardi Mursalin Evan Stiawan JURNAL ILMIAH AKUNTANSI, MANAJEMEN, & EKONOMI ISLAM EFEKTIVITAS PENYALURAN DANA PROGRAM KELUARGA HARAPAN (PKH) DALAM UPAYA PENGENTASAN KEMISKINAN 310-327 Yuli Handika Desi Isnaini Yunida Een Fryanti STRATEGI PEMASARAN SYARIAH PADA AILA FASHION SERBA TIGA PULUH LIMA RIBU KECAMATAN SINGARAN PATI KOTA BENGKULU 328-339 Wahyu Anugraha Jaya Supardi Mursalin Makmur PENERAPAN MAQASHID SYARIAH DALAM EKONOMI ISLAM 340-354 Intan Permata Sari Eka Sri Wahyuni Kustin hartini DETERMINAN DIVIDEND PAYOUT RATIO PADA PERUSAHAAN MANUFAKTUR YANG TERDAFTAR DI BURSA EFEK INDONESIA 355-365 Martihen Supriyadi Fenty Fauziah Fitri Darmayani Manoy ANALISIS PEMBIAYAAN MURABAHAH PADA KOPERASI JASA BERKAH BERSAMA SYARIAH KOTA BENGKULU 366-382 Amir Mukadar Dharma Setiawan Nazar Muhammad Said Romadhon MANAJEMEN PENGELOLAAN KOS-KOSAN DI LINGKUNGAN UINFAS BENGKULU DALAM PERSPEKTIF EKONOMI ISLAM 383-394 Yeni Nurhayati Supardi Mursalin Evan Stiawan JULI 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis ABSTRAK Penelitian ini bertujuan untuk mengetahui kelayakan bisnis perkreditan pada UD. Mentari Qredit Kota Bengkulu ditinjau dari Ekonomi Islam. Jenis penelitian ini, yaitu field research yang bersifat deskriptif-analitik, menggunakan pendekatan kualitatif, dan teknik penentuan sampel dilakukan 204 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis secara sengaja (purposive). Adapun aspek-aspek kelayakan bisnis yang dianalisis, seperti aspek hukum, aspek teknis/operasi, aspek pasar dan pemasaran, aspek keuangan, serta aspek ekonomi, sosial, dan lingkungan. Hasil penelitian menunjukkan bahwa jika dilihat dari tinjauan ekonomi Islam, maka UD. Mentari Qredit Kota Bengkulu telah sesuai dengan prinsip ekonomi Islam, karena sudah menerapkan kejujuran dalam setiap kegiatan usaha, spesifikasi barang dagang jelas, transparansi perjanjian, kesepakatan berlaku atas suka sama suka (tidak ada paksaan), menetapkan harga dengan transparan dan jelas, menghindari riba, serta berpegang teguh pada prinsip ta’awun (tolong-menolong) dalam kegiatan jual beli. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 PENDAHULUAN Mentari Qredit merupakan salah satu contoh bentuk usaha mikro yang bergerak dibidang perdagangan atau penjualan kredit alat-alat kebutuhan rumah tangga/barang elektronik (televisi, mesin cuci, kulkas, handphone, laptop, dan lain-lain), yang dilakukan dengan cara mengirimkan barang yang sesuai dengan orderan yang diterima dari pembeli dengan pembayaran dalam jangka waktu tertentu, sehingga munculnya tagihan tiap bulan kepada pembeli tersebut sesuai kesepakatan. bermuamalah dengan sesama termasuk jual beli kredit. Jual beli kredit diperbolehkan, asalkan tempo atau waktu ditentukan dan jumlah pembayaran telah ditentukan sesuai kesepakatan (Tarmizi, 2017). UD. Mentari Qredit merupakan salah satu contoh bentuk usaha mikro yang bergerak dibidang perdagangan atau penjualan kredit alat-alat kebutuhan rumah tangga/barang elektronik (televisi, mesin cuci, kulkas, handphone, laptop, dan lain-lain), yang dilakukan dengan cara mengirimkan barang yang sesuai dengan orderan yang diterima dari pembeli dengan pembayaran dalam jangka waktu tertentu, sehingga munculnya tagihan tiap bulan kepada pembeli tersebut sesuai kesepakatan. p Dalam perkembangannya, bisnis tersebut juga tidak luput dari yang namanya pasang surut perekonomian. Mulai dari adanya masalah internal, eksternal, untung-rugi, kebangkrutan, dan masalah-masalah lain yang tak terduga, seperti halnya Pandemi Covid- 19. Oleh karena itu, pentingnya setiap pengusaha untuk memperkirakan secara saksama prospek bisnis ke depannya. Dengan demikian, diperlukannya suatu pemahaman dan pengkajian terhadap studi kelayakan bisnis. Studi kelayakan bisnis merupakan langkah awal yang menjadi titik acuan dalam memutuskan pembangunan sebuah usaha, dengan mempelajari secara mendalam usaha yang akan dijalankan untuk menentukan layak atau tidaknya suatu bisnis dijalankan. Tidak seolah hanya melihat dari teori ekonomi saja, melainkan harus menilai dari sudut pandang Islam, bagaimana bisnis tersebut dikatakan halal atau tidak. Studi kelayakan bisnis mempunyai manfaat yang besar dalam memprediksi usaha akan berhasil atau tidak. Jika berhasil dapat diprediksi sampai titik mana keberhasilan itu dicapai dan jika gagal dapat diprediksi dengan berbagai kegagalannya, sehingga dapat dihindari dan dilakukan studi kelayakan bisnis yang lain (Busro, 2017). Oleh karena itu, penulis dalam hal ini tertarik dan ingin mengangkat sebuah penelitian yang berjudul “Tinjauan Ekonomi Islam Terhadap Kelayakan Bisnis Perkreditan Pada UD. Mentari Qredit Kota Bengkulu”, dengan tujuan untuk menganalisis layak atau tidaknya bisnis yang dijalankan oleh UD. Mentari Qredit Kota Bengkulu ditinjau dari segi Ekonomi Islam. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Indonesia merupakan salah satu negara berkembang di dunia, tengah dihadapkan pada masalah pengangguran dan kemiskinan yang jumlahnya semakin bertambah. Dampak dari masalah tersebut tidak hanya menjadi sumber kriminalitas, tetapi berakibat juga pada produktivitas dan daya saing bangsa yang rendah (Fitri et al., 2022; Mukadar et al., 2021). Untuk mengatasi masalah tersebut, pilihan tepat yang dapat diambil adalah menciptakan lapangan kerja dengan memaksimalkan potensi dan keterampilan angkatan kerja (Sulastri, 2016). Diera modernisasi saat ini, sudah sepatutnya bagi bangsa Indonesia untuk mulai menumbuhkan jiwa kewirausahaan agar dapat meminimalkan ketergantungan pada pencarian kerja yang semakin ketat persaingannya. Oleh karena itu, pemerintah menekankan pentingnya penciptaan lapangan kerja baru oleh para pelaku usaha/wirausahawan di Indonesia (Tito et al., 2018). Mencari penghidupan yang layak agar perekonomian membaik dapat dilakukan oleh setiap insan, salah satunya dengan cara berbisnis. Menurut Hughes dan Kapoor, bisnis merupakan suatu kegiatan usaha individu yang terorganisasi untuk menghasilkan serta menjual barang dan jasa guna mendapatkan keuntungan dalam memenuhi kebutuhan masyarakat dan industri (Hughes & Kapoor, 1987). Didukung oleh kondisi Indonesia yang merupakan salah satu negara dengan penduduk yang cukup banyak di dunia ini menjadikannya sebagai kawasan pasar yang sangat potensial dalam usaha. Salah satu jenis usaha/bisnis yang cukup populer, adalah bisnis dibidang perkreditan. Bisnis perkreditan dapat berkembang pesat di Indonesia karena ditunjang dengan keadaan masyarakatnya yang berpenghasilan rendah. Ditambah juga tingkat kebutuhan yang semakin meningkat, serta budaya konsumtif yang semakin meluas ditengah-tengah masyarakat. Tidak jarang untuk memenuhi kebutuhan hidup sering dilakukan pembelian dengan cara kredit (Lubis & Wajdi, 2012). Secara umum, bisnis perkreditan merupakan suatu usaha yang dilakukan dengan penjualan suatu barang yang pembayaran dilakukan tidak secara tunai (diangsur; dicicil; pembayaran ditangguhkan). Dalam Islam juga diajarkan bagaimana tata cara 205 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis bermuamalah dengan sesama termasuk jual beli kredit. Jual beli kredit diperbolehkan, asalkan tempo atau waktu ditentukan dan jumlah pembayaran telah ditentukan sesuai kesepakatan (Tarmizi, 2017). UD. Teori Kredit dalam Islam Dalam fiqh muamalah, kredit berasal dari istilah fiqh al-qardh, yang berarti meminjamkan uang ataupun barang atas dasar kepercayaan (Karim, 2001). Bila ditinjau dari sudut istilah, al-qardh seperti memberikan harta kepada seseorang yang membutuhkan dan bisa diminta kembali dengan jumlah yang sama, atau meminjamkan uang tanpa mengharapkan imbalan apapun (Antonio, 2001). Dengan demikian, al-qardh pada intinya ialah pemberian pinjaman dari seseorang pada pihak lain dengan tujuan untuk menolongnya, sehingga al-qardh bukan akad komersial, melainkan akad sosial. Pada zaman Rasulullah Saw. jual beli dengan cara mengangsur pembayaran dalam kurun waktu tertentu belum ada. Tetapi, pada abad VII M, masyarakat Arab mulai mengenal jual beli tangguh bayar (al-Bai’ila Ajalin), tetapi belum sampai pada cara mengangsur (Khaer & Nurhayati, 2019). Dalam bahasa Arab, penjualan dengan harga tangguh atau penjualan dengan bayaran angsur juga disebut al-Bai Bitsaman Ajil (Direktorat Perbankan Syariah, 2006). al-Bai Bithaman Ajil, yaitu menjual sesuatu dengan disegerakan penyerahan barang yang dijual kepada pembeli dan ditangguhkan pembayarannya hingga ke satu waktu yang ditetapkan atau dengan bayaran berangsur. Tujuan dari penjualan ini ialah untuk memberi kemudahan kepada pembeli yang tidak mampu membayar tunai (Rivai & Dkk., 2011). Jadi, dapat dipahami bahwa al-Bai Bithaman Ajil merupakan transaksi yang berlangsung dimana tidak serentaknya akad dengan pemberian harga atau penyerahan barang, dan tentunya atas kesepakatan bersama (Rusyd, n.d.). Dalam literatur fiqh kontemporer, bisnis perkreditan dikenal dengan istilah Ba’i al- Taqsith. Secara bahasa, al-Taqsith artinya membagi-bagi sesuatu dan memisah- misahkannya menjadi beberapa bagian yang terpisah. Menurut istilah, Bai’ al-Taqsith adalah menjual sesuatu dengan pembayaran yang diangsur dengan cicilan tertentu, pada waktu tertentu dan lebih mahal daripada pembayaran kontan, atau praktik jual beli dengan harga bertempo yang dibayarkan kepada penjual dalam bentuk cicilan yang disepakati (Muhammad, 1998). Penjual menyerahkan barang dagangan yang dijualnya kepada pembeli saat itu juga pada waktu terjadinya akad dan pembeli wajib membayarkan harga untuk barang yang dibeli dalam bentuk cicilan berjangka. Disebut dengan istilah bai’ taqsith, karena memuat sebuah bentuk transaksi jual beli dengan ciri harga yang disepakati, secara umum harga yang berlaku lebih tinggi dibanding harga jual pasar. PERKREDITAN Teori Kredit Konvensional Teori Kredit Konvensional Kredit berasal dari kata credere yang berarti percaya atau to believe/to trust, maksudnya yaitu pihak kreditur mempunyai suatu kepercayaan kepada pihak debitur, bahwa dalam waktu dan syarat-syarat yang telah disetujui bersama, pihak debitur dapat mengembalikan atau membayar kembali kredit yang bersangkutan (Usman, 2001). Kredit sebagai suatu reputasi seseorang, dimana memungkinkan ia bisa memperoleh uang atau barang, dengan jalan menukarkannya dengan suatu janji untuk membayar disuatu masa yang akan datang (Tarmizi, 2017a). Menurut ilmu ekonomi, kredit diartikan sebagai penundaan pembayaran karena pengembalian atas penerimaan uang, dana atau suatu barang tidak dilakukan bersamaan pada saatnya menerima, melainkan pengembaliannya dilakukan pada masa tertentu yang akan datang (Ibrahim, 2004). Dalam UU Nomor 10 Tahun 1998 tentang Perubahan Atas UU Nomor 7 Tahun 1992 tentang Perbankan Pasal 1 angka 11 menjelaskan bahwa kredit adalah penyediaan uang atau tagihan yang dapat 206 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis dipersamakan dengan itu, berdasarkan persetujuan atau kesepakatan pinjam-meminjam antara bank dengan pihak lain yang mewajibkan pihak peminjam untuk melunasi utangnya dengan pemberian bunga (Bank Indonesia, 1998). dipersamakan dengan itu, berdasarkan persetujuan atau kesepakatan pinjam-meminjam antara bank dengan pihak lain yang mewajibkan pihak peminjam untuk melunasi utangnya dengan pemberian bunga (Bank Indonesia, 1998). Hukum Kredit Jual beli kredit telah lama dikenal oleh masyarakat. Secara umum, jual beli kredit sendiri diperbolehkan oleh syariat tergantung bagaimana sistemnya. Apabila terdapat unsur ribawi, gharar, dan maysir, maka haram hukumnya. Sedangkan, jika murni akad kredit yang syar’i, maka hukumnya halal. Jumhur ulama membolehkan jual beli dengan menaikkan harga karena temponya, karena pada asalnya boleh dan tidak ada nash yang mengharamkannya (Abdullah, 2019). Sebagai bagian dari bentuk jual beli, dasar hukum kredit terdapat dalam Al-Qur’an, 207 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 207 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis yaitu Q. S. Al-Baqarah (2): 282. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis yaitu Q. S. Al-Baqarah (2): 282. yaitu Q. S. Al-Baqarah (2): 282. ْيٰٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْٰٓ ا اِذَا تَدَايَنْتُمْ بِدَيْنٍ اِلٰٰٓى اَجَلٍ مُّسَمًّى فَاكْتُبُوْ هُُۗ وَ لْيَكْتُبْ بَّيْنَكُم َ كَاتِبٌٌۢ بِالْعَدْلِِۖ وَ َلَ يَأْبَ كَاتِبٌ اَنْ يَّكْتُب ْْۚكَمَا عَلَّمَهُ ّٰللاه ُ فَلْيَكْتُب Artinya: “Wahai orang-orang yang beriman! Apabila kamu melakukan utang- piutang untuk waktu yang ditentukan, hendaklah kamu menuliskannya. Dan hendaklah seorang penulis di antara kamu menuliskannya dengan benar. Janganlah penulis menolak untuk menuliskannya sebagaimana Allah telah mengajarkan kepadanya, maka hendaklah dia menuliskan.” Ayat di atas dimaksudkan pada orang-orang beriman yang melakukan transaksi tidak tunai yang mensyaratkan beberapa hal, diantaranya harus ditulis/dicatat, dan disertai saksi yang adil. Apabila transaksi bisnis itu terjadi di perjalanan dan tidak ada juru tulis, sebagaimana ayat selanjutnya (283), diperbolehkan menggunakan jaminan sebagai kepercayaan dari pihak orang yang berutang (Nahidloh, 2014). Rasulullah Saw. juga pernah melakukan transaksi kredit dengan memberikan jaminan berupa baju besinya, sebagaimana dalam sebuah hadis yang diriwayatkan ‘Aisyah ra., dikatakan: Artinya: Telah mengabarkan kepada kami (Ahmad bin Harb), ia berkata: Telah menceritakan kepada kami (Abu Mu'awiyah) dari (Al-A'masy) dari (Ibrahim) dari (Al-Aswad) dari (Aisyah), ia berkata: “Rasulullah shallallahu 'alaihi wasallam membeli makanan dengan kredit dari seorang Yahudi, dan beliau memberikan kepadanya baju zirah beliau sebagai gadaian.”(Nasa’i, n.d.). Imam Nawawi menyatakan di dalam kitab Raudlatu al-Thalibin, bahwasannya bisnis perkreditan hukumnya adalah boleh. أما لو قال بعتك بألف نقداً وبألفين نسيئة... فيصح العقد Artinya: “Andai ada seorang penjual berkata kepada seorang pembeli: Aku jual ke kamu (suatu barang), bila kontan dengan 1.000 dirham, dan bila kredit sebesar 2.000 dirham, maka aqad jual beli seperti ini adalah sah.”(Al-Nawawi, n.d.) Kesimpulannya bahwa jual beli kredit adalah diperbolehkan. Hukum Kredit Orang yang menyamakan jual beli kredit dengan riba, kelak mendapat ancaman dari Allah Swt., sebagaimana tertuang di dalam Q. S. Al-Baqarah/2: 275, yaitu kelak akan bangkit dari kubur dalam keadaan seperti orang yang gila, dan tempat kembali orang-orang yang sedemikian itu adalah neraka, dan ia adalah seburuk-buruk tempat kembali (Syamsudin, n.d.). Teori Kelayakan Bisnis Pengertian studi kelayakan bisnis sendiri ada dua, yaitu dari segi konvensional atau secara umum dan dari segi syariah. Secara umum, studi kelayakan (feasibility study) adalah sebuah studi untuk mengkaji secara komprehensif dan mendalam terhadap kelayakan sebuah usaha (Munir et al., 2019). Arti dari studi kelayakan bisnis, yaitu penelitian tentang layak tidaknya suatu proyek yang dilaksanakan. Kriteria berhasil ada dua, yaitu berhasil dalam arti luas dan dalam arti yang terbatas (Gunawan, 2018). Sedangkan, studi kelayakan bisnis syariah adalah peninjauan secara mendalam terhadap berbagai aspek yang menyokong keberadaan suatu usaha sehingga menghasilkan suatu kesimpulan mengenai usaha tersebut layak untuk tetap dilaksanakan atau harus dilakukannya evaluasi kembali agar usaha tersebut bisa berkembang sebagaimana yang diharapkan, bisa meminimalkan risiko, dan sesuai dengan prinsip Islam. Sedangkan, tujuan dari studi kelayakan bisnis syariah adalah sebagai bentuk cross check atau bentuk ikhtiar terhadap kelayakan suatu bisnis yang dijalankan. Sedangkan, manfaat adanya studi kelayakan bisnis adalah memudahkan pengidentifikasian terhadap sisi positif dan negatif yang mungkin timbul dari bisnis yang dijalankan tersebut sehingga pengambilan keputusan akan lebih berkualitas. Secara umum, prioritas aspek-aspek penilaian dalam studi kelayakan ada 6, yaitu (1) Aspek hukum, yaitu menganalisis kelayakan legalitas usaha yang dijalankan, kelengkapan, dan keabsahan dokumen perusahaan. Teori Kelayakan Bisnis Dokumen yang diperlukan meliputi bentuk badan usaha serta keabsahannya, Tanda Daftar Perusahaan (TDP) atau Nomor Induk Berusaha (NIB), Izin domisili, dan Nomor Pokok Wajib Pajak (NPWP) (Kasmir, 2019); (2) Aspek pasar dan pemasaran, yaitu menganalisis potensi pasar (ada tidaknya konsumen dan selera konsumen), intensitas persaingan (bagaimana peta kondisi pesaing terutama untuk produk sejenis sekarang), market share yang dapat dicapai, serta menganalisis strategi pemasaran (strategi produk, harga, promosi, dan distribusi) yang dapat digunakan untuk mencapai market share yang diharapkan; (3) Aspek keuangan, yaitu menganalisis sumber data pemasukan dan pengeluaran dalam bisnis, besar pendapatan yang diterima, dan penilaian investasi dengan menggunakan beberapa analisis, seperti Cash Flow dan Analisis rasio keuangan (Solvabilitas, likuiditas, aktivitas, dan profitabilitas) (Aliefah & Nandasari, 2022); (4) Aspek teknis/operasi, yaitu menganalisis kesiapan teknis dan pelaksanaan bisnis, dalam hal ini seperti, analisis surat perjanjian, jaminan, dan penggunaan sarana dan prasarana yang menunjang untuk menjalankan bisnis; (5) Aspek manajemen/organisasi, yaitu menganalisis kesiapan tenaga kerja, berpedoman pada the right man in right job, artinya suatu jabatan diisi oleh orang yang cocok, sesuai dengan keahlian dan kemampuannya, dengan melakukan analisis terkait jabatan dan penentuan jumlah dan tingkat gaji SDI; Dan (6) Aspek ekonomi sosial lingkungan, yaitu melihat seberapa besar pengaruh yang ditimbulkan jika proyek ini dijalankan, terutama terhadap ekonomi secara luas serta dampak sosialnya terhadap masyarakat dan lingkungan. Studi Kelayakan Bisnis 208 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Bisnis Dalam Ekonomi Islam Kata bisnis dalam Al-Quran biasanya yang digunakan al-tijarah, al-bai’, tadayantum, dan isytara. Tetapi yang seringkali digunakan yaitu al-tijarah, dan dalam bahasa arab tijaraha, berawal dari kata dasar t-j-r, tajara, tajran wa tijarata, yang 209 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis bermakna berdagang atau berniaga. At-tijaratun walmutjar, yaitu perdagangan, perniagaan. Menurut ar-Raghib al-Asfahani, dalam al-mufradat fi gharib al-Qur’an, at- Tijarah bermakna pengelolaan harta benda untuk mencari keuntungan (Harahap, 2018). Bisnis syariah adalah bisnis yang berdasarkan pada Al-Quran dan Hadis dimana terdapat kesesuaian kegiatan bisnis dengan syariah Islam sebagai ibadah kepada Allah Swt., untuk mendapat ridha-Nya. Dari pengertian tersebut, bisnis berbasis syariah merupakan bisnis yang berlandaskan syariah Islam, dimana semua kegiatan bisnis yang dilakukan harus sesuai dengan aturan agama Islam (halal dan haram). Dalam bisnis Islam, semua hasil usaha yang telah dilakukan selalu mengingat dan menyerahkan kepada Allah Swt (Agustin, 2017). Adapun ciri dan karakter dari bisnis syariah, antara lain: (1) Memiliki pemahaman terhadap bisnis yang halal dan haram; (2) Selalu berpijak pada nilai-nilai ruhiyah; (3) Praktik bisnis sesuai syariah yang benar; (4) Berorientasi pada ibadah kepada Allah Swt. METODE PENELITIAN Jenis penelitian ini adalah penelitian field research, ialah penelitian secara langsung di lapangan untuk mengumpulkan data yang diperlukan, melalui kegiatan observasi, wawancara, dan dokumentasi. Sifat penelitian ini adalah deskriptif-analitik, yaitu penelitian ini mendeskripsikan mengenai operasional usaha dan aspek-aspek kelayakan bisnis, kemudian penulis menganalisa tinjauan Ekonomi Islam terhadap kelayakan bisnis perkreditan pada UD. Mentari Qredit Kota Bengkulu. Dalam penelitian ini, penulis juga menggunakan pendekatan secara kualitatif dari perspektif partisipan (informan penelitian). Teknik analisis data dengan Model Miles dan Huberman, yaitu reduksi data, penyajian data, serta penarikan simpulan dan verifikasi. Adapun informan yang memberikan respon, baik dalam kegiatan observasi maupun wawancara pada penelitian ini berjumlah 5 orang informan. Penetapan jumlah informan bersifat fleksibel berdasarkan syarat kecukupan dan kesesuaian, atau dilakukan secara sengaja (purposive), terdiri atas 1 orang pemilik usaha, 2 orang karyawan, dan 2 orang konsumen dari UD. Mentari Qredit Kota Bengkulu. Data yang digunakan dalam penelitian ini, yaitu data primer, yang berasal dari kegiatan wawancara yang dilakukan penulis kepada para informan yang kegiatannya terkait pada UD. Mentari Qredit Kota Bengkulu, serta data sekunder, dengan menggunakan beberapa dokumen resmi-tertulis yang berasal dari UD. Mentari Qredit Kota Bengkulu, serta beberapa sumber referensi yang menunjang penelitian, berasal dari buku ilmiah, jurnal, dan skripsi terdahulu. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu HASIL PENELITIAN DAN PEMBAHASAN Pendirian UD. Mentari Qredit Kota Bengkulu UD. Mentari Qredit adalah suatu jenis usaha perdagangan eceran di bidang perkreditan barang furnitur, peralatan listrik rumah tangga, serta peralatan penerangan dan perlengkapannya. UD adalah singkatan dari Usaha Dagang, artinya UD. Mentari Qredit merupakan usaha keluarga, dan tergolong ke dalam Usaha Mikro Kecil. Meskipun belum berbentuk badan hukum, UD. Mentari Qredit sudah memperoleh izin resmi usaha dari pemerintah daerah setempat melalui Lembaga OSS, berdasarkan ketentuan Pasal 24 210 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis ayat (1) Peraturan Pemerintah Nomor 24 Tahun 2018 tentang Pelayanan Perizinan Berusaha Terintegrasi Secara Elektronik, yaitu menerbitkan Nomor Induk Berusaha (NIB) 0200000912817 per tanggal 21 September 2020. Usaha dagang yang bertempat di tengah-tengah area permukiman padat penduduk ini menggunakan sarana rumah pribadi sebagai tempat usaha (status tempat usaha bukan sewa). Penggunaan rumah pribadi sebagai tempat usaha dipilih karena dalam hal pengoperasiannya, tempat usaha hanya diperuntukan sebagai sarana bagi konsumen (debitur) untuk melakukan teken kontrak perjanjian terhadap kreditur, dan selain itu, lokasi yang berada di area padat penduduk (Perumnas), membuat pengelola tidak kesulitan mencari konsumen dan bisa lebih dekat, dalam hal mengamati para calon konsumen. UD. Mentari Qredit dijalankan oleh 1 pemilik usaha dan beberapa orang karyawan yang bekerja sebagai penagih. Adapun jam kerjanya yaitu fleksibel, menyesuaikan dengan jadwal dan jumlah tagihan. Dikarenakan usaha ini masih tergolong usaha mikro kecil, jadi struktur organisasinya masih bersifat non-formal. Meskipun tanpa struktur organisasi lengkap, UD. Mentari Qredit memiliki pembagian tugas yang jelas. Analisis Aspek Kelayakan Bisnis UD. Mentari Qredit Kota Bengkulu Analisis Aspek Kelayakan Bisnis UD. Mentari Qredit Kota Bengkulu Dari aspek hukum, diketahui bahwa UD. Mentari Qredit Kota Bengkulu telah memiliki kelengkapan legalitas yang memadai, seperti memiliki NIB (Nomor Induk Berusaha) 0200000912817 sebagai izin usaha atau Tanda Daftar Perusahaan yang dikeluarkan oleh penjabat pemerintahan setempat. p j p p Dari aspek teknis/operasi, diketahui bahwa UD. Mentari Qredit Kota Bengkulu melakukan kegiatan operasional di lokasi usaha yang sekaligus rumah pribadi pemilik. Selain itu, di lokasi usaha juga belum terdapat papan nama usaha. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu HASIL PENELITIAN DAN PEMBAHASAN Pendirian UD. Mentari Qredit Kota Bengkulu Dari segi alat penunjang bisnis, pemilik melakukan kegiatan audit internal (sendiri) dengan memerhatikan standar ekonomi, keuangan, dan aturan yang berlaku, seperti pembukuan/akuntansi, perjanjian jual beli maupun kerjasama, persyaratan pemberian kredit, serta pelayanan yang memprioritaskan konsumen sehingga memiliki kualitas operasional yang baik. Dari aspek pasar dan pemasaran, diketahui bahwa UD. Mentari Qredit Kota Bengkulu menawarkan perkreditan (product) berupa barang-barang konsumsi pribadi, seperti alat furnitur, peralatan listrik dan rumah tangga, peralatan penerangan dan perlengkapannya, sebagaimana yang tercantum pada ketentuan Nomor Induk Berusaha (NIB). Mengenai penetapan harga (Price), UD. Mentari Qredit menetapkan besar keuntungan dari jual beli kredit ini sebesar 4% per bulan dari harga barang yang dibeli dari toko. Adapun lama jangka waktu pembayaran kredit ini, yaitu selama 10-12 bulan, atau dikenal dengan metode cost- plus pricing. Mengenai distribusi (Place), UD. Mentari Qredit melakukan pengawasan penuh mulai dari mencari barang yang dibutuhkan, memeriksa keadaan barang sampai barang tersebut sampai ke tangan konsumen, dan biasanya barang yang dibeli langsung diantarkan ke tempat konsumen. Mengenai sarana promosi (Promotion), UD. Mentari Qredit belum memiliki alat atau media khusus untuk memasarkan barang dagang atau untuk memasarkan sistem jual beli kredit. Kegiatan promosi dilakukan secara mulut ke mulut, sehingga masih bisa dikembangkan dengan memanfaatkan beberapa teknologi yang ada, seperti promosi online melalui gadget, termasuk juga pemasangan papan nama. 211 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Dari aspek keuangan, diketahui bahwa usaha perkreditan pada UD. Mentari Qredit Kota Bengkulu ini menguntungkan. Hal ini dapat dilihat dari nilai Cash Ratio 10.4>1 tahun 2020 dan 80.1>1 tahun 2021, menandakan harta yang dimiliki dapat menjamin utang yang ada dengan baik; nilai Debt to Asset Ratio 37.9% tahun 2020, 35.1% tahun 2021, dan 30.4% tahun 2022, menandakan keuangan pemilik yang didanai utang dari tahun ke tahun semakin kecil; Dan nilai keuntungan usaha sebesar Rp79,657,278 tahun 2021 dan Rp55,357,671 tahun 2022. p , , Dari aspek manajemen/organisasi, diketahui bahwa UD. Mentari Qredit Kota Bengkulu dapat dikatakan belum layak atau masih memerlukan pengembangan selanjutnya. Pada aspek ini, pemilik usaha menjalankan dengan jumlah karyawan 2 orang. Hal ini mengindikasikan bahwa usaha dengan spesifikasi pekerjaan yang mengharuskan karyawan untuk melakukan penagihan kepada konsumen masih kurang efisien. Meskipun tanpa struktur organisasi lengkap, UD. Mentari Qredit memiliki pembagian tugas yang jelas. Pemilik perusahaan bertindak sebagai pengawas jalannya kegiatan usaha dan merangkap dalam hal administrasi pembukuan. HASIL PENELITIAN DAN PEMBAHASAN Pendirian UD. Mentari Qredit Kota Bengkulu Sementara itu, karyawannya bertugas mencari konsumen dan penagih. Sedangkan, dari segi pemberian gaji, UD. Mentari Qredit Kota Bengkulu telah sesuai dengan pekerjaan yang dilakukan oleh karyawan dan dilakukan berdasarkan kesepakatan. Dari aspek ekonomi sosial lingkungan, diketahui bahwa UD. Mentari Qredit Kota Bengkulu tidak menimbulkan dampak negatif bagi masyarakat maupun lingkungan, melainkan usaha ini dijalankan dengan memerhatikan konsep ta’awun (tolong- menolong) dan juga jika dikembangkan bisa menambah kesempatan kerja bagi masyarakat sekitar. PEMBAHASAN ْيٰٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْ ا ْلَ تَأْكُلُوْٰٓ ا اَمْوَ الَكُمْ بَيْنَكُمْ بِالْبَاطِلِ اِْلَّ ٰٓ اَنْ تَكُوْ نَ تِجَارَةً عَن َتَرَاضٍ م ِنْكُمْ ۗ وَ ْلَ تَقْتُلُوْٰٓ ا اَنْفُسَكُمْ ۗ اِنَّ َّللاه َ كَان بِكُمْ رَحِ يْمًا Artinya: “Hai orang-orang yang beriman, janganlah kamu saling memakan harta sesamamu dengan jalan yang batil, kecuali dengan jalan perniagaan yang berlaku dengan suka sama suka di antara kamu. Dan janganlah kamu membunuh dirimu. Sungguh, Allah maha penyayang kepadamu.” Barang (product) diperjualbelikan secara kredit pada UD. Mentari Qredit Kota Bengkulu bukan berupa emas, perak atau mata uang. Barang (product) juga terlebih dahulu dimiliki UD. Mentari Qredit Kota Bengkulu sebelum perjanjian jual beli kredit dilangsungkan, barang juga diterima pembeli tunai pada saat akad berlangsung, harga jelas, serta besarnya angsuran dan jangka waktunya juga jelas sesuai perjanjian. Hal ini sesuai dengan Q. S. Asy- Syu’ara/26: 181-183. ْأَوْ فُوا الْكَيْلَ وَ ْلَ تَكُونُوا مِنَ ال ِمُخْسِرِ ينَ. وَ زِ نُوا بِالْقِسْطَاسِ الْمُسْتَقِيمِ. وَ ْلَ تَبْخَسُوا النَّاسَ أَشْيَاءَهُمْ وَ ْلَ تَعْثَوْ ا فِي اْلْ َرْ ض َمُفْسِدِين Artinya: “Sempurnakanlah takaran dan janganlah kamu termasuk orang-orang yang merugikan. Dan timbanglah dengan timbangan yang lurus. Dan janganlah kamu merugikan manusia pada hak-haknya dan janganlah kamu merajalela di muka bumi dengan membuat kerusakan”. ْأَوْ فُوا الْكَيْلَ وَ ْلَ تَكُونُوا مِنَ الِمُخْسِرِ ينَ. وَ زِ نُوا بِالْقِسْطَاسِ الْمُسْتَقِيمِ. وَ ْلَ تَبْخَسُوا النَّاسَ أَشْيَاءَهُمْ وَ ْلَ تَعْثَوْ ا فِي اْلْ َرْ ض َُفْ د ن Artinya: “Sempurnakanlah takaran dan janganlah kamu termasuk orang-orang yang merugikan. Dan timbanglah dengan timbangan yang lurus. Dan janganlah kamu merugikan manusia pada hak-haknya dan janganlah kamu merajalela di muka bumi dengan membuat kerusakan”. Berdasarkan hasil wawancara dengan para informan, UD. Mentari Qredit telah melakukan transaksi dengan akad yang telah sesuai dengan pandangan ekonomi Islam dan menjual barang dengan harga sesuai dengan kualitas barangnya. Sebagaimana kaidah fiqih menjelaskan bahwa “Hukum asal dalam bentuk muamalah adalah boleh dilakukan, kecuali ada dalil yang mengharamkannya”. Maksudnya, kaidah ini dalam setiap muamalah dan transaksi, pada dasarnya boleh, kecuali yang tegas diharamkan, seperti mengakibatkan kemudharatan, tipuan, dan lain-lain. Harus disadari bahwa meskipun memperoleh keuntungan yang melimpah, hasilnya tidak berkah, karena ada pihak yang dirugikan. Oleh sebab itu, UD. Mentrai Qredit Kota Bengkulu selalu membangun hubungan baik di antara berbagai pihak yang terkait. Islam tidak menghendaki dominasi pelaku yang satu di atas yang lain, baik dalam bentuk monopoli maupun bentuk-bentuk lain yang tidak mencerminkan rasa keadilan dan pemerataan pendapatan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PEMBAHASAN Berdasarkan hasil penelitian di atas, diketahui bahwa UD. Mentari Qredit berbentuk usaha dagang yang mengelola urusan jual beli barang peralatan rumah tangga secara kredit. Secara rinci, tujuan ekonomi Islam adalah pertama, mencari kesenangan akhirat yang diridhoi Allah Swt., dengan segala capital yang diberikan-Nya kepada manusia. Kedua, memperjuangkan kebutuhan hidup manusia atau dengan kata lain mencari rezeki. Dan yang ketiga, berbuat baik kepada masyarakat. Adapun analisis tinjauan ekonomi Islam terhadap aspek-aspek kelayakan bisnis pada UD. Mentari Qredit Kota Bengkulu, sebagai berikut. UD. Mentari Qredit Kota Bengkulu dalam mendirikan usahanya sudah memiliki kelengkapan legalitas yang memadai, hal ini untuk meminimalisir risiko yang berkaitan dengan hukum, serta mengindikasikan juga bahwa bidang usaha yang dijalankan jelas dan tidak melanggar hukum perundang-undangan yang berlaku. Sebagaimana sesuai dengan Q. S. An-Nisa/4: 59. ُيٰٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْٰٓ ا اَطِيْع ْوا َّللاه َ وَ اَطِيْعُوا الرَّسُوْ لَ وَ اُولِى اْلْ َمْرِ مِنْكُم يٰٰٓاَيُّهَا Artinya: “Wahai orang-orang yang beriman! Taatilah Allah dan taatilah Rasul (Muhammad), dan ulil amri (pemegang kekuasaan) diantara kamu…” Selain itu, UD. Mentari Qredit Kota Bengkulu dapat dikatakan layak dan sesuai 212 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis syariat pada kegiatan operasional, baik dari transparansi perjanjian dimana kesepakatan berlaku atas dasar suka sama suka, akad jelas, dan tidak melegalkan riba. Islam melarang transaksi perdagangan dengan paksaan, mengambil harta orang lain dengan jalan yang batil (tidak benar), kecuali dengan perniagaan yang berlaku dengan suka sama suka. Kaidah fiqh yang diungkapkan oleh Ibnu Taimiyah bahwa “Dasar dari akad adalah keridhoan kedua belah pihak”. Hal ini sesuai pada Q. S. An-Nisa/4: 29. syariat pada kegiatan operasional, baik dari transparansi perjanjian dimana kesepakatan berlaku atas dasar suka sama suka, akad jelas, dan tidak melegalkan riba. Islam melarang transaksi perdagangan dengan paksaan, mengambil harta orang lain dengan jalan yang batil (tidak benar), kecuali dengan perniagaan yang berlaku dengan suka sama suka. Kaidah fiqh yang diungkapkan oleh Ibnu Taimiyah bahwa “Dasar dari akad adalah keridhoan kedua belah pihak”. Hal ini sesuai pada Q. S. An-Nisa/4: 29. Saran Berdasarkan hasil penelitian dan pembahasan di atas, maka tanpa mengurangi rasa hormat, penulis memberikan saran, yaitu kepada setiap pelaku usaha/bisnis dalam menjalankan kegiatan, terutama kegiatan jual beli, tetaplah berorientasi pada ketaatan kepada Allah Swt., serta berpegang teguh pada prinsip ekonomi Islam, karena ekonomi Islam membantu setiap pelaku usaha untuk mencapai kesejahteraan secara finansial dengan tetap berpegang pada syariat Islam, sehingga mencapai kebahagiaan dunia-akhirat melalui tata kehidupan yang baik dan terhormat. PEMBAHASAN Ajaran Islam menganjurkan bahwa pelaku bisnis dalam berbisnis, mestinya tidak sekedar hanya mengejar keuntungan sebanyak-banyaknya, tetapi juga mesti berorientasi kepada sikap ta’awun, yaitu menolong orang lain, hal ini sebagai implikasi 213 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis sosial kegiatan bisnis. Berdasarkan informasi di atas, penulis menyimpulkan hasil analisa dari kelayakan bisnis UD. Mentari Qredit Kota Bengkulu sudah sesuai dengan ajaran agama Islam. sosial kegiatan bisnis. Berdasarkan informasi di atas, penulis menyimpulkan hasil analisa dari kelayakan bisnis UD. Mentari Qredit Kota Bengkulu sudah sesuai dengan ajaran agama Islam. Kesimpulan Berdasarkan hasil penelitian dan pembahasan di atas, maka dapat ditarik kesimpulan bahwa kelayakan bisnis perkreditan yang dijalankan oleh UD. Mentari Qredit Kota Bengkulu, jika dilihat dari tinjauan ekonomi Islam, maka UD. Mentari Qredit Kota Bengkulu telah sesuai dengan prinsip ekonomi Islam, karena sudah menerapkan kejujuran dalam setiap kegiatan usaha, spesifikasi barang dagang jelas, transparansi perjanjian, kesepakatan berlaku atas suka sama suka (tidak ada paksaan), menetapkan harga dengan transparan dan jelas, menghindari riba, serta berpegang teguh pada prinsip ta’awun (tolong-menolong) dalam kegiatan jual beli. DAFTAR RUJUKAN Abdullah, A. (2019). Pinjaman Kredit dalam Persfektif Pendidikan Islam. J-HES: Jurnal Hukum Ekonomi Syariah, 3(1). Abdullah, A. (2019). Pinjaman Kredit dalam Persfektif Pendidikan Islam. J-HES: Jurnal Hukum Ekonomi Syariah, 3(1). y Agustin, H. (2017). Studi Kelayakan Bisnis Syariah. PT Rajagrafindo Persada. Aliefah, A. N., & Nandasari, E. A. (2022). Analisis Kelayakan Bisnis Ditinjau Dari Aspek Pemasaran dan Keuangan Pada Kedai Olan’ Z Food. LABATILA: Jurnal Ilmu Ekonomi Islam, 5(2), 112–128. https://doi.org/https://doi.org/10.33507/lab.v4i01 Al-Nawawi, A. Y. bin S. (n.d.). Raudlatu al-Thâlibîn Juz. 3. Maktabah. Antonio, M. S. (2001). Bank Syariah: Dari Teori Ke Praktik. Gema Insani. Bank Indonesia. (1998). Undang-Undang Nomor 10 Tahun 1998 tentang Perubahan Atas Undang-Undang Nomor 7 Tahun 1992. g g Busro, M. (2017). Studi Kelayakan Bisnis Cet. Pertama (Pertama). Expert. Direktorat Perbankan Syariah. (2006). Kamus Istilah Keuangan dan Perbankan Syariah. Bank Indonesia. Direktorat Perbankan Syariah. (2006). Kamus Istilah Keuangan dan Perbankan Syariah. Bank Indonesia. Fitri, M. A., Ilhami, M. D., & Herwan, M. (2022). Pengaruh Stres Kerja Dan Komunikasi Terhadap Kinerja Karyawan Pt. Indomaret Kota Manna Kabupaten Bengkulu Selatan. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), Fitri, M. A., Ilhami, M. D., & Herwan, M. (2022). Pengaruh Stres Kerja Dan Komunikasi Terhadap Kinerja Karyawan Pt. Indomaret Kota Manna Kabupaten Bengkulu Selatan. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 214 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Gunawan, K. (2018). Peran Studi Kelayakan Bisnis Dalam Peningkatan UMKM (Studi Kasus UMKM di Kabupaten Kudus). Jurnal Bisnis Dan Manajemen Islam, 6(2), 101–115. Harahap, S. (2018). Studi Kelayakan Bisnis: Pendekatan Integratif. FEBI UIN-SU Press. Hughes & Kapoor (1987) The Additives Guide Jhon Wiley and Sons Chichester Harahap, S. (2018). Studi Kelayakan Bisnis: Pendekatan Integratif. FEBI UIN-SU Pres Hughes, & Kapoor. (1987). The Additives Guide. Jhon Wiley and Sons, Chichester. brahim, J. (2004). Cross Default & Cross Collateral dalam Upaya Penyelesaian Kredit Bermasalah. PT Refika Aditama. Karim, A. A. (2001). Ekonomi Islam: Suatu Kajian Kontemporer. Gemala Insan Press Karim, A. A. (2001). Ekonomi Islam: Suatu Kajian Kontemporer. Gemala Insan Press. Kasmir. (2019). Kewirausahaan (Revisi). Rajawali Pers. Kasmir. (2019). Kewirausahaan (Revisi). Rajawali Pers. Khaer, M., & Nurhayati, R. (2019). Jual Beli Taqsith (Kredit) dalam Perspektif Hukum Ekonomi Islam. Al Maqashidi: Jurnal Hukum Islam Nusantara, 2(1), 99–110. Lubis, S. K., & Wajdi, F. (2012). Hukum Ekonomi Islam. INFORMASI ARTIKEL ABSTRACT This study aims to determine the effect of motivation and work environment on employee performance at Curup Mandiri Jaya Cable TV, either partially or simultaneously. The sample is 50 people. The data were processed using the SPSS test tool version 26. From the results of the multiple linear regression test, the regression equation was as follows: Y = 1.063 + 0.460 ( ) + 0.301 (X2). The results of the t test on the variable Motivation (X1) show tcount> ttable (11.020> 2.01174) and (sig< = 0.000<0.050), Work Environment (X2) shows tcount> ttable (3.160> 2.01174) and (sig< = 0.003<0.050 ). While the F test obtained > that is (108.122> 3.199) and (sig < = 0.000 <0.050). From the results of the tests that have been carried out, it can be concluded that the variables Motivation (X1) and Work Environment (X2) have a partial or simultaneous effect on Employee Performance at Curup Mandiri Jaya Cable TV. Riwayat Artikel: Diterima : 16 Februari 2023 Direvisi : 23 Juni 2023 Disetujui : 21 Juli 2023 Keywords: Motivation, Work Environment and Employee Performance http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu DAFTAR RUJUKAN Sinar Grafika. Lubis, S. K., & Wajdi, F. (2012). Hukum Ekonomi Islam. Sinar Grafika. Muhammad, A.-A. A. al-H. (1998). Hukum Baiy’ bit-Taqsith terj. Ma’ruf Abdul Jalil, Jual Beli Kredit Bagaimana Hukumnya Cet. I. Gema Insani Press. Muhammad, A.-A. A. al-H. (1998). Hukum Baiy’ bit-Taqsith terj. Ma’ruf Abdul Jal Jual Beli Kredit Bagaimana Hukumnya Cet. I. Gema Insani Press. Mukadar, A., Setiorini, H., & Setiawan, D. (2021). Analisis Pembiayaan Murabahah Pada Lembaga Keuangan Mikro Syariah (LKMS) (Studi Kasus Pada LKMS MM Sejahtera Kota Bengkulu). Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 4(1). https://doi.org/10.36085/jam-ekis.v4i1.1274 Munir, M., Saraswati, H, S. F., & Rifa’, Y. (2019). Studi Kelayakan Bisnis dalam Aspek Lingkungan Hidup. LABATILA: Jurnal Ilmu Ekonomi Islam, 3(1), 46–60. Nahidloh, S. (2014). Sistem Kredit dalam Ekonomi Islam Tinjauan Tafsir Ahkam. Jurnal Et-Tijarie, I(1), 1–17. Nasa’i. (n.d.). Kitab Nasa’i Hadist No. 4571. Lidwah Pustaka, Kitab Sembilan Imam. Nasa’i. (n.d.). Kitab Nasa’i Hadist No. 4571. Lidwah Pustaka, Kitab Sembilan Imam. Rivai, V., & Dkk. (2011). Islamic Transaction Law in Business: Teori dan Praktik. PT Bumi Aksara. Rivai, V., & Dkk. (2011). Islamic Transaction Law in Business: Teori dan Praktik. PT Bumi Aksara. Rusyd, I. (n.d.). Bidayah al-Mujtahid wa Nihayah al-Muqtashid Juz II. Dar al-Ihya al- Kutub al-Arabiah. Sulastri, L. (2016). Studi Kelayakan Bisnis Untuk Wirausaha. LGM-LaGood’s Publishing. Syamsudin, M. (n.d.). Jual Beli Kredit: Apakah Sama dengan Riba? https://islam.nu.or.id/ekonomi-syariah/jual-beli-kredit-apakah-sama-dengan-riba- fIIuv Tarmizi. (2017). Analisis Kredit Usaha Terhadap Pertumbuhan Ekonomi Islam dan Konvensional. Jurnal E-KOMBIS, III(1), 32–41. Tarmizi, E. (2017). Harta Haram Muamalat Kontemporer. PT Berkat Mulia Insani. Tito, B. A., Astuti, B., & Fraternesi Fraternesi. (2018). Analisis Penerapan Standar Akuntansi Keuangan Entitas Tanpa Akuntabilitas Publik Pada Laporan Keuangan Koperasi Simpan Pinjam Timur Indah Kencana Kota Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 1(1). Usman, R. (2001). Aspek-Aspek Hukum Perbankan di Indonesia. PT Gramedika Pustaka Utama. 215 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis PENGARUH MOTIVASI DAN LINGKUNGAN KERJA TERHADAP KINERJA KARYAWAN PADA PT. CURUP MANDIRI JAYA TV KABEL Khairul Bahrun1, Fauzi Afriansyah2 1-2Universitas Muhammadiyah Bengkulu bahrun@umb.ac.id1 , fauziafriansyah1709@gmail.com2 Jl. Adam Malik Km. 9 Kota Bengkulu Corresponding email: bahrun@umb.ac.id Jl. Adam Malik Km. 9 Kota Bengkulu Corresponding email: bahrun@umb.ac.id ABSTRAK Penelitian ini bertujuan untuk mengetahui pengaruh motivasi dan lingkungan kerja terhadap kinerja karyawan pada Curup Mandiri Jaya TV Kabel, baik secara parsial maupun simultan. Sampel berjumlah 216 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 216 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis 50 orang. Data diolah menggunakan alat uji SPSS versi 26. Dari hasil uji regresi linier berganda didapat persamaan regresinya adalah sebagai berikut : Y = 1.063 + 0.460 ( ) + 0.301 (X2). Hasil uji t pada variabel Motivasi (X1) menunjukkan thitung> ttabel (11.020>2.01174) dan (sig< = 0,000<0,050), Lingkungan Kerja (X2) menunjukkan thitung> ttabel (3.160>2.01174) dan (sig< = 0,003<0,050). Sedangkan uji F diperoleh > yaitu (108.122>3.199) dan (sig< = 0.000<0,050). Dari hasil pengujian yang telah dilakukan dapat disimpulkan bahwa variabel Motivasi (X1), dan Lingkungan Kerja (X2) berpengaruh secara parsial maupun simultan terhadap Kinerja Karyawan pada Curup Mandiri Jaya TV Kabel. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Perusahaan sebagai organisasi merupakan kumpulan dari berbagai faktor sumber daya, baik itu sumber daya manusia, moral, teknologi maupun keterampilan. Dari faktor-faktor tersebut yang memegang peran paling penting adalah faktor sumber daya manusia. Keberhasilan perusahaan dalam mencapai tujuannya sangat tergantung pada bagaimana perusahaan tersebut mengelola dan mempersiapkan sumber daya manusia yang dimilikinya. Sumber daya manusia merupakan faktor penting penentu kesuksesan perusahaan dalam mencapai tujuannya, karena berhasil atau tidaknya perusahaan dalam mencapai tujuan sangat tergantung pada kemampuan SDM atau karyawan dalam menjalankan tugas tugas yang diberikan. kemapuan karyawan dalam menjalankan tugas-tugasnya dapat dilihat melalui kinerjanya, sehingga kinerja karyawan menjadi hal yang sangat penting bagi keberhasilan perusahaan. Kinerja karyawan adalah keluaran yang dihasilkan oleh fungsi-fungsi atau dimensi pekerjaan atau profesi yang dilaksanakan oleh sumber daya manusia atau pegawai dalam waktu tertentu (Wirawan, 2013). Baik atau buruknya kinerja karyawan ini bisa disebabkan oleh beberapa faktor, diantaranya ialah motivasi, dan lingkungan kerja yang rendah atau masih dalam taraf normal. Dalam organisasi, motivasi sangat diperlukan sebagai salah satu cara untuk mencapai tujuan yang telah ditetapkan perusahaan. Motivasi merupakan salah satu aspek yang sangat penting dalam menentukan perilaku seseorang, termasuk perilaku kerja. Untuk dapat memotivasi seseorang diperlukan adanya pemahaman mengenai bagaimana proses terbentuknya motivasi pada pegawai. (Winardi, 2016) Mengemukakan bahwa motivasi merupakan suatu kekuatan potensial yang ada di dalam diri seorang manusia, yang dapat mempengaruhi hasil kinerjanya secara positif atau negatif. Selain motivasi, faktor lain yang juga bisa sangat berdampak bagi kinerja karyawan dalam perusahaan adalah lingkungan kerja. Lingkungan merupakan segala sesuatu yang ada disekitar tempat kerja baik yang fisik maupun non fisik yang dapat 217 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis mempengaruhi kinerja para karyawan dalam bekerja menjalakan tugasnya (Nitisemito, 2000). Lingkungan kerja yang aman dan nyaman akanmembuat para karyawan merasa lebih betah dan nyaman saat menyelesaikan pekerjaannya. mempengaruhi kinerja para karyawan dalam bekerja menjalakan tugasnya (Nitisemito, 2000). Lingkungan kerja yang aman dan nyaman akanmembuat para karyawan merasa lebih betah dan nyaman saat menyelesaikan pekerjaannya. y y p j y Dari hasil observasi awal yang peneliti lakukan di PT. Curup Mandiri Jaya pada hari selasa tanggal 7 September 2021 yang lalu, mendapati sedikitit permasalahan mengenai kinerja karyawan. Hal dapat dilihat dari pekerjaan yang tidak maksimal, lalu juga produktifitasnya yang menurun. Seperti yang diungkapkan oleh Bapak Aguan, Selaku Kepala Cabang. PENDAHULUAN Beliau mengatakan bahwa ada beberapa faktor yang mengakibatkan menurunnya kinerja karyawan pada PT. Curup Mandiri Jaya, diantaranya ialah menurunnya motivasi kerja dari para karyawan, seperti terlambat datang kekantor dan kurang bersemangat saat bekerja. Lalu menurut andi selaku salah satu karyawan, menyatakan bahwa lingkungan kerja yang yang mulai kurang nyaman, dimana hubungan antar karyawan mengalami sedikit kerenggangan sehingga koordinasi menjadi sulit untuk dilakukan. Tingkat absensi karyawan yang rendah bisa menjadi salah satu penyebab mengapa kinerja seorang karyawan itu tidak maksimal, hal ini dikhawatirkan akan menimbulkan komplain para konsumen tv kabel atas ketidakdisplinan karyawan dari PT. Curup Mandiri Jaya. Berikut ini akan ditampilkan data absensi karyawan periode bulan juni sampai agustus 2021. Tabel berikut memperlihatkan bahwa tingkat absensi yang tinggi menyebabkan masalah pada kinerja karyawan dan menurunnya motivasi kerja itu sendiri. Tabel 1 Ti k t Ab i K di PT C M di i J TV K b l d Tabel 1 Tingkat Absensi Karyawan di PT. Curup Mandiri Jaya TV Kabel pada Bulan Jumlah Karyawan Tidak Masuk Izin* (Orang) % Sakit (Orang) % Terlambat % Bolos % (Orang) (Orang) Juni 50 6 12% 3 6% 8 16% 7 14% Juli 50 10 20% 3 6% 5 10% 6 12% Agustus 50 9 18% 5 10% 7 14% 9 18% Sumber : PT. Curup Mandiri Jaya TV Kabel (2021) Tabel 1 Tingkat Absensi Karyawan di PT. Curup Mandiri Jaya TV Kabel pada Bulan Jumlah Tidak Masuk http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Lingkungan Kerja Lingkungan kerja merupakan segala sesuatu yang mempengaruhi karyawan dalam menjalankan tugas dan pekerjaanya yang dibebankan perusahaan (Nitisemito, 2000:25). Lingkungan kerja yang nyaman akanmembuat karyawan merasa nyaman dalam menyelesaikan tugasnya. (Sunyoto, 2012) mendefinisikan Lingkungan kerja adalah bagian komponen yang sangat penting di dalam karyawan melakukan aktivitas- aktivitas bekerja. Lingkungan kerja merupakan keadaan sekitar tempat kerja baik secara fisik maupun non fisik yang dapat memberikan kesan menyenangkan, mengamankan, menentramkan dan kesan betah bekerja dan lain sebagainya (Sari et al., 2020). Lingkungan kerja merupakan aspek yang penting pada perusahaan,karena lingkungan juga berdampak bagi kinerja yang dilaksanakan oleh karywan. Lingkungan kerja terdiri dari lingkungan fisik dan nonfisik yang melekat dengan karywan sehingga tidak dapat dipisahkan dari usaha peningkatan kinerja karyawan. Menurut (Siagian, 2014) ada beberapa indikator Lingkungan Kerja, yaitu: 1. Hubungan Rekan Kerja 2. Hubungan atasan dengan karyawan 3. Kerja sama antar karyawan Faktor –Faktor yang mempengaruhi Lingkungan Kerja: Faktor –Faktor yang mempengaruhi Lingkungan Kerja: Menurut Sihombing (2010) bahwa lingkungan kerja dipengaruhi oleh faktor-faktor yaitu sebagai berikut: 1. Fasilitas kerja Lingkungan kerja yang kurang mendukung pelaksanaan pekerjaan ikut dapat menyebabkan kinerja yang kurang baik, seperti kurangnya alat kerja, ruang kerja pengap, ventilasi yang kurang, serta prosedur yang tidak jelas. 2. Gaji dan tunjangan Gaji yang kurang sesuai dengan harapan pekerja akan membuat pekerja setiap saat melirik pada lingkungan kerja yang lebih menjamin pencapaian harapan kerja karyawan. 3. Hubungan kerja Kelompok kerja dengan kekompakan dan loyalitas yang tinggi akan meningkatkan kinerja itu sendiri. g j Kelompok kerja dengan kekompakan dan loyalitas yang tinggi akan meningkatkan kinerja itu sendiri. Motivasi Menurut (Hasibuan, 2016) Motivasi mempersoalkan bagaimana cara mengarahkan daya dan potensi agar bekerja mencapai tujuan yang ditentukan. Menurut (Winardi, 2016) Mengemukakan bahwa motivasi merupakan suatu kekuatan potensial yang ada di dalam diri seorang manusia, yang dapat dikembangkannya sendiri atau dikembangkan oleh sejumlah kekuatan luar yang pada intinya berkisar sekitar imbalan moneter dan imbalan non moneter, yang dapat mempengaruhi hasil kinerjanya secara 218 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 218 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis positif atau negatif. Motivasi merupakan sebuah upaya yang dilakukan guna memberikan dorongan kepeda seseorang agar bisa melakukan sesuatu hal dengan lebih baik lagi. Menurut (Robbins, 2008) indikator Motivasi, yaitu: 1 P i k j positif atau negatif. Motivasi merupakan sebuah upaya yang dilakukan guna memberikan dorongan kepeda seseorang agar bisa melakukan sesuatu hal dengan lebih baik lagi. Menurut (Robbins, 2008) indikator Motivasi, yaitu: 1.Prestasi kerja 2.Pengakuan; 3.Pekerjaan itu sendiri; 4.Tanggung jawab; 5.Kemajuan; 6 .Pengembang an potensi individu Kinerja Karyawan Kinerja adalah suatu hasil pencapaian seseorang dalam melakukan tugas-tugas yang didasarkan atas kecakapan dan pengalaman, serta waktu. Kinerja adalah prestasi kerja yang merupakan hasil dari implementasi rencana kerja yang dibuat oleh suatu 219 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis institusi yang dilaksanakan oleh pimpinan dan karyawan (SDM) yang bekerja di institusi itu baik pemerintah maupun perusahaan (bisnis) untuk mencapai tujuan organisasi. (Apriyanti et al., 2020). Menurut (Sedarmayanti, 2011), kinerja merupakan terjemahan dari performance yang berarti hasil kerja seseorang pekerja, sebuah proses manajemen atau suatu organisasi secara keseluruhan, dimana hasil kerja tersebut harus dapat ditunjukkan buktinya secara kongkrit dan dapat diukur dengan standar yang telah ditentukan. Sedangkan Kinerja menurut (Mangkunegara, 2009)) adalah hasil kerja secara kualitas dan kuantitas yang dicapai oleh seorang pegawai dalam melaksanakan tugasnya sesuai dengan tanggung jawab yang diberikan kepadanya. Kinerja karyawan merupakan hasil kerja yang telah dicapai seorang karyawan atas tanggung jawab yang telah diberikan baik secara kualitas maupun kuantitas guna mencapai tujuan strategis organisasi. g Ada beberapa indikator kinerja karyawan menurut (Mangkunegara, 2009), yaitu g Ada beberapa indikator kinerja karyawan menurut (Mangkunegara, 2009), yaitu: 1. Kualitas Ada beberapa indikator kinerja karyawan menurut (Mangkunegara, 2009), yaitu 1. Kualitas 1. Kualitas 2. Kuantitas 3. Pelaksana Tugas 4. Tanggung jawab 4. Tanggung jawab Menurut (Mathis & Jackson, 2016) faktor yang memeprngaruhi kinerja karyawan, yaitu : 1. Motivasi Faktor pendorong penting yang menyebabkan manusia bekerja adalah adanya kebutuhan yang harus dipenuhi.Kebutuhan-kebutuhan ini berhubungan dengan sifat hakiki manusia untuk mendapatkan hasil terbaik dalam kerjanya. 2. Kepuasan kerja Kepuasan kerja mencerminkan perasaan seseorang terhadap pekerjaannya.Hal ini terlihat dari sikap positif karyawan terhadap pekerjaan dan segala sesuatu yang dihadapi di lingkungan kerjanya. 3. Tingkat Stres Stres merupakan suatu kondisi ketegangan yang mempengaruhi emosi, proses berpikir dan kondisi sekarang.Tingkat stres yang terlalu besar dapat mengancam kemampuan seseorang untuk menghadapi lingkungan sehingga dapat mengganggu pelaksanaan pekerjaan mereka. 4. Kondisi pekerjaan Kondisi pekerjaan yang dimaksud dapat mempengaruhi kinerja disini adalah tempat kerja, ventilasi, serta penyinaran dalam ruang kerja. p j Kondisi pekerjaan yang dimaksud dapat mempengaruhi kinerja disini adalah tempat kerja, ventilasi, serta penyinaran dalam ruang kerja. 5. Kinerja Karyawan Sistem kompensasi Kompensasi merupakan tingkat balas jaa yang diterima oleh karyawan atas apa yang telah dilakukannya untuk perusahaan. Jadi, pemberian kompensasi harus benar agar karyawan lebih semangat untuk bekerja. 6. Desain pekerjaan Desain pekerjaan merupakan fungsi penetapan kegiatan-kegiatan kerja seorang individu atau kelompok karyawan secara organisasional. Desain pekerjaan harus jelas supaya karyawan dapat bekerja dengan baik sesuai dengan pekerjaan yang telah diberikan kepadanya. 220 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jenis Penelitian Jenis penelitan ini adalah penelitian kuantitatif, Menurut (Sugiyono, 2013) Metode penelitian kuantitatif merupakan metode penelitian yang berlandaskan pada filsafat positivisme, digunakan untuk meneliti pada populasi atau sampel tertentu. Teknik pengambilan sampel pada umumnya dilakukan secara random, pengumpulan data menggunakan instrumen penelitian, analisis data bersifat kuantitatif / statistik dengan tujuan untuk menguji hipotesis yang telah ditetapkan. Populasi dalam penelitian ini adalah seluruh karyawan pada PT. Curup Mandiri Jaya yang berjumlah 50 orang. Sampel adalah sebagian atau wakil populasi yang diteliti (Arikunto, 2010) Dikarenakan populasi kurang dari 100 maka peneliti menggunakan teknik total sampling dalam peneitian ini, yaitu dengan mengambil seluruh populasi yang ada untuk diteliti, jadi sampel dalam penelitian ini adalah 50 karyawan pada PT. Curup Mandiri Jaya. Dalam teknik pengumpulan data, ada beberapa yang peneliti gunakan yaitu: (1) Observasi, (2) Interview, (3) Kuesioner. Tanggapan responden dinilai untuk mengukur tanggapan mereka dengan skala likert 5 point ( 1= sangat tidak setuju sampai 5 = sangat setuju). HASIL PENELITIAN DAN PEMBAHASAN Hasil Penelitian Tabel 1 Karakteristik Responden (n= 50) Karakteristk Jumlah Persentase Umur 20 – 30 Tahun 24 48 % 31 – 40 Tahun 19 38 % 41 - 50 Tahun 7 14 % > 50 Tahun - - Jenis Kelamin Laki-laki 48 96 % Perempuan 2 4 % Pendidikan Terakhir SMP 1 2 % SMA 44 88 % Perguruan Tinggi 5 10 % Masa Kerja 1 - 3 Tahun 22 44 % >3 Tahun 28 56 % Sumber : Data yang diolah 2022 Hasil Penelitian Analisis data diatas bahwa karakteristik responden dalam penelitian ini terdiri dari karakteristik berdasarkan jenis kelamin didominasi oleh karyawan laki-laki sebanyak 48 orang (96 %) dengan karakteristik usia didominasi oleh karyawan yang berusia 20-30 tahun sebanyak 24 orang (48%), karakteristik pendidikan terakhir yang mendominasi SMA sebanyak 44 orang (88%) dan karakteristik masa kerja yang mendominasi dengan >3 tahun bekerja sebanyak 28 orang (56%). 221 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Tabel 2 Hasil Uji Validitas Variabel Item r tabel r hitung Keterangan Motivasi (X1) Pernyataan 1 0.444 0.467 Valid Pernyataan 2 0.444 0.730 Valid Pernyataan 3 0.444 0.730 Valid Pernyataan 4 0.444 0.484 Valid Pernyataan 5 0.444 0.743 Valid Pernyataan 6 0.444 0.803 Valid Lingkungan Kerja (X2) Pernyataan 1 0.444 0.785 Valid Pernyataan 2 0.444 0.725 Valid Pernyataan 3 0.444 0.606 Valid Variabel Item r tabel r hitung Keterangan Kinerja Karyawan (Y) Pernyataan 1 0.444 0.778 Valid Pernyataan 2 0.444 0.716 Valid Pernyataan 3 0.444 0.755 Valid Pernyataan 4 0.444 0.810 Valid Sumber : Olah Data SPSS Dari tabel di atas dapat disimpulkan bahwa seluruh item pernyataan dinyatakan valid atau layak karena hasil R hitung > R tabel. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. HASIL PENELITIAN DAN PEMBAHASAN 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Tabel 2 Hasil Uji Validitas Variabel Item r tabel r hitung Keterangan Motivasi (X1) Pernyataan 1 0.444 0.467 Valid Pernyataan 2 0.444 0.730 Valid Pernyataan 3 0.444 0.730 Valid Pernyataan 4 0.444 0.484 Valid Pernyataan 5 0.444 0.743 Valid Pernyataan 6 0.444 0.803 Valid Lingkungan Kerja (X2) Pernyataan 1 0.444 0.785 Valid Pernyataan 2 0.444 0.725 Valid Pernyataan 3 0.444 0.606 Valid Variabel Item r tabel r hitung Keterangan Kinerja Karyawan (Y) Pernyataan 1 0.444 0.778 Valid Pernyataan 2 0.444 0.716 Valid Pernyataan 3 0.444 0.755 Valid Pernyataan 4 0.444 0.810 Valid Sumber : Olah Data SPSS Sumber : Olah Data SPSS Dari tabel di atas dapat disimpulkan bahwa seluruh item pernyataan dinyatakan valid atau layak karena hasil R hitung > R tabel. Tabel 3 Hasil Uji Reliabilitas Variabel Cronbach’s Alpha r tabel Keterangan Motivasi (X1) 0.747 0.60 Reliabel Lingkungan Kerja (X2) 0.790 0.60 Reliabel Kinerja Karyawan (Y) 0.762 0.60 Reliabel Sumber : Olah Data SPSS Hasil di atas dapat disimpulkan bahwa semua variable dinyatakan reliable karena memiliki nilai Cronbach alpha> 0.60. Uji Normalitas Gambar di atas mempertegas bahwa model regresi yang diperoleh beristribusi normal, dimana data menyebar di sekitar garis diagonal dan mengikuti arah garis diagonal atau grafik histogramnya menunjukkan pola distribusi normal. Sehingga dapat disimpulkan bahwa data dalam penelitian ini berdistribusi normal. 222 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Gambar 1 Hasil Uji Normalitas Uji Multikolinearitas Tabel 4 Hasil Uji Multikolinearitas Variabel Tolerance VIF Keterangan Motivasi (X1) 0.764 1.309 Bebas Multikolinearitas Lingkungan Kerja (X2) 0.764 1.309 Bebas Multikolinearitas Sumber : olah data SPSS 2021 Dilihat dari tabel di atas, dapat diketahui bahwa semua variabel X (Motivasi dan Lingkungan Kerja) memiliki nilai tolerance > 0,1 dan VIF < 10, maka dapat diartikan bahwa tidak terdapat gangguan multikolinearitas pada penelitian tersebut. Sumber: Olah Data SPSS Versi 16, 2021 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Gambar 1 Hasil Uji Normalitas Sumber: Olah Data SPSS Versi 16, 2021 Gambar 1 Hasil Uji Normalitas Sumber: Olah Data SPSS Versi 16, 2021 Gambar 1 Hasil Uji Normalitas Sumber: Olah Data SPSS Versi 16, 2021 Sumber: Olah Data SPSS Versi 16, 2021 Uji Multikolinearitas Uji Multikolinearitas Uji Multikolinearitas Tabel 4 Hasil Uji Multikolinearitas Variabel Tolerance VIF Keterangan Motivasi (X1) 0.764 1.309 Bebas Multikolinearitas Lingkungan Kerja (X2) 0.764 1.309 Bebas Multikolinearitas Sumber : olah data SPSS 2021 Tabel 4 Hasil Uji Multikolinearitas Dilihat dari tabel di atas, dapat diketahui bahwa semua variabel X (Motivasi dan Lingkungan Kerja) memiliki nilai tolerance > 0,1 dan VIF < 10, maka dapat diartikan bahwa tidak terdapat gangguan multikolinearitas pada penelitian tersebut. Uji Heteroskedastisitas Dari gambar di atas diketahui bahwa scatterplot membentuk titik – titik yang menyebar secara acak dengan tidak membentuk pola yang jelas. Hal ini menunjukkan bahwa tidak ada masalah heterokedastisitas. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 223 Gambar 2 Hasil Uji Heterokedastisitas Sumber : Olah Data SPSS 2021 223 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Analisis Regresi Linear Berganda Analisis Regresi Linear Berganda Dari perhitungan regresi didapatkan persamaan sebagai berikut: Y = 1.063 + 0.460 ( ) + 0.301 (X2) Y = 1.063 + 0.460 ( ) + 0.301 (X2) Berdasarkan persamaan regresi di atas, maka dapat dijelaskan sebagai berikut : 1. Nilai Konstanta 1.063 mempunyai arti bahwa apabila variabel motivasi ( ), lingkungan kerja (X2) terhadap kinerja karyawan (Y) sama dengan nol, maka variabel kinerja karyawan akan tetap yaitu 1.063. 1. Nilai Konstanta 1.063 mempunyai arti bahwa apabila variabel motivasi ( ), lingkungan kerja (X2) terhadap kinerja karyawan (Y) sama dengan nol, maka variabel kinerja karyawan akan tetap yaitu 1.063. j y p y 2. Koefisien regresi , sebesar 0.460 mempunyai makna jika nilai variabel motivasi ( ) naik satu satuan maka nilai kinerja karyawan (Y) akan naik sebesar 0.460 dengan asumsi variabel lingkungan kerja (X2) dianggap tetap. 2. Koefisien regresi , sebesar 0.460 mempunyai makna jika nilai variabel motivasi ( ) naik satu satuan maka nilai kinerja karyawan (Y) akan naik sebesar 0.460 dengan asumsi variabel lingkungan kerja (X2) dianggap tetap. 3. Koefisien regresi , sebesar 0.301 mempunyai makna jika nilai variabel lingkungan kerja ( ) naik satu satuan maka nilai kinerja karyawan (Y) akan naik sebesar 0.301 dengan asumsi variabel motivasi ( ) dianggap tetap. 3. Koefisien regresi , sebesar 0.301 mempunyai makna jika nilai variabel lingkungan kerja ( ) naik satu satuan maka nilai kinerja karyawan (Y) akan naik sebesar 0.301 dengan asumsi variabel motivasi ( ) dianggap tetap. Tabel 5 Hasil Analisis Regresi Linear Berganda Coefficientsa Model Unstandardized Coefficients Standardized Coefficients t Sig. B Std. Error Beta 1 (Constant) Motivasi Lingkungan Kerja 1.063 1.058 1.004 .320 .460 .042 .777 11.020 .000 .301 .095 .223 3.160 .003 a. Dependent Variable: kinerja karyawan Sumber : olah data SPSS 2021 Koefisien Determinan (R2) Tabel 4.12 Nilai Koefisien Determinasi Hasil Penelitian Model Summaryb Model R R Square Adjusted R Square Std. Error of the Estimate Durbin-Watson 1 .906a .821 .814 .96528 2.058 a. Predictors: (Constant), Lingkungan Kerja, Motivasi b. Dependent Variable: Kinerja Karyawan Sumber : olah data SPSS 2021 Tabel 5 Hasil Analisis Regresi Linear Berganda Koefisien Determinan (R2) Koefisien Determinan (R2) Berdasarkan tabel di atas dapat diketahui nilai koefisien determinasi R square( ) diperoleh nilai sebesar 0.821. Nilai ini mempunyai arti bahwa variabel motivasi ( ), Berdasarkan tabel di atas dapat diketahui nilai koefisien determinasi R square( ) diperoleh nilai sebesar 0.821. Nilai ini mempunyai arti bahwa variabel motivasi ( ), 224 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 224 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis lingkungan kerja (X2) terhadap kinerja karyawan (Y). Menunjukkan nilai sebesar 82,1% terhadap kinerja karyawan (Y) karyawan pada PT. Curup Mandiri Jaya, sedangkan sisahnya sebesar 0.179 atau 17,9 % dipengaruhi oleh variabel lain yang tidak masuk dalam penelitian ini. lingkungan kerja (X2) terhadap kinerja karyawan (Y). Menunjukkan nilai sebesar 82,1% terhadap kinerja karyawan (Y) karyawan pada PT. Curup Mandiri Jaya, sedangkan sisahnya sebesar 0.179 atau 17,9 % dipengaruhi oleh variabel lain yang tidak masuk dalam penelitian ini. Uji T Uji T Tabel 4.13 Hasil Pengujian Hipotesis dengan Uji t Coefficientsa Model Unstandardized Coefficients Standardized Coefficients Thitung Ttabel Sig. B Std. Error Beta 1 (Constant) Motivasi Lingkungan Kerja 1.063 1.058 1.004 .320 .460 .042 .777 11.020 2.01174 .000 .301 .095 .223 3.160 2.01174 .003 a. Dependent Variable: Kinerja Karyawan Sumber : olah data SPSS 2021 Tabel 4.13 Hasil Pengujian Hipotesis dengan Uji t Coefficientsa Melalui perhitungan yang dilakukan dengan menggunakan program SPSS, maka perbandingan antara dengan (n-k-1) = 50 - 2 - 1 = 47 (2.01174) setiap variabel sebagai berikut : 1. Motivasi, diperoleh thitung> ttabel (11.020 > 2.01174) dan (sig < = 0,000 < 0,050), hal tersebut menyatakan adanya pengaruh motivasi (X1) secara positif dan signifikan terhadap kinerja karyawan (Y) pada PT. Curup Mandiri Jaya. p j y p p y 2. Lingkungan kerja, diperoleh thitung> ttabel (3.160 > 2.01174) dan (sig < = 0,003 < 0,050), hal tersebut menyatakan adanya pengaruh lingkungan kerja (X2) secara positif dan signifikan terhadap kinerja karyawan (Y) pada PT. Curup Mandiri Jaya. 2. Lingkungan kerja, diperoleh thitung> ttabel (3.160 > 2.01174) dan (sig < = 0,003 < 0,050), hal tersebut menyatakan adanya pengaruh lingkungan kerja (X2) secara positif dan signifikan terhadap kinerja karyawan (Y) pada PT. Curup Mandiri Jaya. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 225 Uji F Tabel 4.14 Hasil Pengujian Hipotesis dengan Uji F ANOVAb Model Sum of Squares df Mean Square F Sig. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Koefisien Determinan (R2) 1 Regression 201.487 2 100.744 108.122 .000a Residual 43.793 47 .932 Total 245.280 49 a. Predictors: (Constant), Lingkungan Kerja, Motivasi b. Dependent Variable: Kinerja Karyawan Sumber : olah data SPSS 2021 Tabel 4.14 Hasil Pengujian Hipotesis dengan Uji F ANOVAb http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 22 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 22 225 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Berdasarkan tabel uji hipotesis dengan uji F di atas diperoleh > yaitu (108.122 > 3.199) dan (sig < = 0.000 < 0,050), maka dengan demikian dapat disimpulkan bahwa secara simultan atau bersama-sama terdapat pengaruh antara variabel motivasi (X1) dan lingkungan kerja (X2) terhadap kinerja karyawan (Y) pada PT. Curup Mandiri Jaya. Pengaruh Motivasi Terhadap Kinerja Karyawan Pengaruh Motivasi Terhadap Kinerja Karyawan Hasil penelitian ini menunjukkan bahwa motivasi memiliki pengaruh yang positif dan signifikan terhadap kinerja karyawan (Y) pada PT. Curup Mandiri Jaya. Dengan adanya motivasi yang baik tujuan organisasi dapat tercapai serta tercapai pula tujuan pribadi. Perwujudan kinerja yang maksimal, dibutuhkan suatu dorongan untuk memunculkan kemauan dan semangat kerja, yaitu dengan motivasi (Yuniarti, et al., (2021). Motivasi mempersoalkan bagaimana cara mengarahkan daya dan potensi agar bekerja mencapai tujuan yang ditentukan Pada dasarnya seorang bekerja karena keinginan memenuhi kebutuhan hidupnya. Dorongan keinginan pada diri seseorang dengan orang yang lain berbeda sehingga perilaku manusia cenderung beragam di dalam bekerja. Dalam penelitian Onsardi, et al., (2021) dan Finthariasari & Saputri (2020) menyebutkan bahwa kinerja salah satunya dipengaruhi oleh motivasi kerja dan lingkungan kerja. Pengaruh Lingkungan Kerja Terhadap Kinerja Karyawan Pengaruh Lingkungan Kerja Terhadap Kinerja Karyawan Hasil penelitian ini menunjukkan bahwa Lingkungan Kerja memiliki pengaruh yang positif dan signifikan terhadap Kinerja Karyawan pada PT. Curup Mandiri Jaya. Artinya bahwa dengan adanya lingkungan kerja yang baik serta positif akan sangat baik dampaknya bagi kinerja para karyawan. Lingkungan kerja yang segar, nyaman, dan memenuhi standart kebutuhan layak akan memberikan kenyamanan bagi karyawan dalam melakukan tugas dan pekerjaanya. Hal ini sesuai dengan teori dari (Nitisemito, 2000). Lingkungan kerja merupakan segala sesuatu yang mempengaruhi karyawan dalam menjalankan tugas dan pekerjaanya yang dibebankan perusahaan. Lingkungan kerja yang nyaman akan membuat karyawan merasa nyaman dalam menyelesaikan tugasnya. Hasil penelitian ini sejalan dengan penelitian Irwanto, et al., (2020) dan Fitri, et al., (2022). Syaiful Bahri (2019) dalam penelitian yang berjudul Pengaruh penempatan, motivasi dan lingkungan kerja terhadap kinerja pegawai. Hasil penelitian ini menunjukkan bahwa penempatan yang tepat dan sesuai dengan kemampuan yang dimiliki akan menimbulkan motivasi yang lebih guna menunjukkan kinerja yang maksimal. Selain itu, lingkungan kerja yang baik dan kondusif juga tidak kalah pentingnya untuk dapat menunjang kinerja yang baik. Pengaruh Motivasi dan Lingkungan Kerja Terhadap Kinerja Karyawan Hasil dari penelitian ini menunjukkan bahwa motivasi yang baik dari para karyawan serta didukung dengan lingkungan kerja yang kondusif serta nyaman akan sangat berdampak baik terhadap peningkatan kinerja para karyawan. Oleh karenanya, pihak perusahaan harus dapat menjaga dan meningkatkan motivasi kerja yang dimiliki oleh setiap karyawannya supaya dapat bekerja secara maksimal sesuai dengan apa yang 226 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis telah ditargetkan perusahaan. Hasil penelitian ini sejalan dengan penelitian Ragil Permanasari (2013) dalam penelitian yang berjudul Pengaruh motivasi dan lingkungan kerja terhadap kinerja karyawan di PT. Anugrah Raharjo Semarang. Penelitian Aurelia putu (2013) dalam penelitian yang berjudul Kepemimpinan, motivasi dan lingkungan kerja terhadap kinerja karyawan pada kanwil ditjen kekayaan Negara suluttenggo dan Maluku utara di manado. Dari hasil uji koefisien determinasi R2 dapat dilihat bahwa semua variabel bebas (x) memiliki pengaruh yang kuat dan dominan terhadap variabel terikat (y) yaitu sebesar 82,1 %. Hal ini berarti bahwa penurunan kinerja karyawan pada PT. Curup Mandiri Jaya dikarenakan oleh Motivasi dan Lingkungan Kerja yang belum begitu baik dan masih harus terus diperbaiki kedepannya agar kinerja karyawan dapat meningkat. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kesimpulan Berdasarkan hasil penelitian yang telah dilakukan tentang “Pengaruh Motivasi dan Lingkungan Kerja terhadap kinerja karyawan pada PT. Curup Mandiri Jaya. Maka dapat disimpulkan sebagai berikut : p g 1. Motivasi berpengaruh positif dan signifikan Terhadap kinerja karyawan pada PT. Curup Mandiri Jaya. Artinya bahwa dengan adanya motivasi yang baik tujuan organisasi dapat tercapai serta tercapai pula tujuan pribadi. 2. Lingkungan Kerja berpengaruh signifikan Terhadap kinerja karyawan pada PT. Curup Mandiri Jaya. Artinya bahwa dengan adanya lingkungan kerja yang baik serta positif akan sangat baik dampaknya bagi kinerja para karyawan. 3. Motivasi dan Lingkungan Kerja berpengaruh signifikan Terhadap kinerja karyawan pada PT. Curup Mandiri Jaya. Artinya bahwa motivasi yang baik dari para karyawan serta didukung dengan lingkungan kerja yang kondusif serta nyaman akan sangat berdampak baik terhadap peningkatan kinerja para karyawan. Saran Wirawan. (2013). Pengaruh motivasi terhadap kinerja pegawai studi kasus pad pegawai puskesmas turen. y Saran Berdasarkan hasil penelitian yang telah dilakukan tentang “Pengaruh Motivasi dan Lingkungan Kerja terhadap kinerja karyawan pada PT. Curup Mandiri Jaya. Maka saran yang dapat diberikan adalah sebagai berikut : 1. Pada Variabel Motivasi, Terdapat nilai tertinggi pada pernyataan (Saya sangat termotivasi dengan tanggung jawab yang diberikan kepada saya) diangka 3,62. Disarankan pada pihak perusahaan untuk terus menumbuhkan motivasi pada diri setiap karyawannya supaya bisa lebih baik lagi kedepannya. Motivasi ini bisa timbul baik dari dalam diri seseorang itu sendiri maupun dari para rekan kerja ataupun pimpinan perusahaan. 2. Pada Variabel Lingkungan Kerja, terdapat nilai tertinggi pada pernyataan (Hubungan yang terjalin antara sesama rekan kerja berjalan baik dan harmonis) diangka 3,72. Disarankan pada pihak perusahaan untuk dapat memperbaiki hubungan yang kurang harmonis ini menjadi kembali baik dan bisa berdampak positif pada kinerja karyawan maupun perusahaan pada umumnya. 3. Pada Variabel Kinerja Karyawan, terdapat nilai tertinggi pada pernyataan (Kuantitas kerja yang saya hasilkan sudah sesuai dengan yang ditargetkan) diangka 3,42. Meskipun secara umum kinerja para karyawan ini terbilang cukup baik, 227 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis namun hal ini masih belum bisa memenuhi target yang telah ditatapkan oleh perusahaan. Hal ini harus menjadi perhatian serius bagi perusahaan guna meningkatkan kinerjanya kedepan. Disarankan pada pihak perusahaan untuk dapat lebih memperketat kembali penerapan SOP dari para karyawan, agar hasilnya nanti bisa sesuai dengan apa yang diharapkan. DAFTAR RUJUKAN Apriyanti, R., Bahrun, K., & Finthariasari, M. (2020). Pengaruh Kepemimpinan , Reward Dan Punishment Terhadap Kinerja Karyawan ( Studi Kasus Pada PT . K3 / SIL Ketahun Begkulu Utara ). Entrepreneur Dan Manajemen Sains, 1(2), 189– 194. DAFTAR RUJUKAN Arikunto, S. (2010). Prosedur Penelitian Suatu Pendekatan Praktik. Rineka Cipta. Finthariasari, M., & Saputri, D. (2020). Analisis Minat, Motivasi, Pekerjaan Yang Diharapkan, & Lingkungan Belajar Terhadap Keputusan Mahasiswa Memilih Program S1 Fakultas Ekonomi (Studi Pada Mahasiswa Ekonomi Di Perguruan Tinggi Kota Bengkulu). Jurnal Manajemen Modal Insani Dan Bisnis (JMMIB), 1(2), 183–191. http://jurnal.imsi.or.id/index.php/jmmib/article/view/21 Hasibuan, M. (2016). Manajemen Sumber Daya Manusia. Bumi Aksara. Mangkunegara, A. A. A. P. (2009). Manajemen sumber daya manusia. Remaja Rosdakarya. Mathis, R. L., & Jackson, J. H. (2016). Human Resource Management (10th ed.). Salemba Empat. Nitisemito, A. S. (2000). Manajemen Personalia: Manajemen Sumber Daya Manusia, Ed. 3. Graha Indonesia. Robbins, S. P. (2008). Perilaku Organisasi (alih bahasa Drs. Benjamin Molan), Edisi Bahasa Indonesia. PT Intan Sejati. Sari, L. P., Islamuddin, & Finthariasari, M. (2020). Pengaruh Etos Kerja dan Lingkungan Kerja Terhadap Produktivitas Kerja Karyawan Pada Industri Kerupuk As-Syifa Kota Bengkulu. Jurnal Entrepreneur Dan Manajemen Sains, 1(2), 216– 221. Sedarmayanti. (2011). Manajemen Sumber Daya Manusia. Reformasi Birokrasi dan Manajemen Pegawai Negeri Sipil. PT Refika Aditama. Siagian. (2014). Manajemen Sumber Daya Manusia. Bumi Aksara. Sugiyono. (2013). Metode Penelitian Kuantitatif, Kualitatif dan R&D. CV. Alfa Sunyoto. (2012). Psikologi Industri dan Organisasi. Universitas Indonesia. Winardi. (2016). Pengaruh motivasi dan disiplin kerja Terhadap kinerja karyawan. INSAN, 8(3). Wirawan. (2013). Pengaruh motivasi terhadap kinerja pegawai studi kasus pada pegawai puskesmas turen. 228 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis ABSTRACT The performance of medium-sized MSMEs is a description of the performance conditions of an MSME which is analyzed by four perspectives of finance, customers, internal business, learning and growth. This study aims to determine the performance of Enggal Furniture using the balance scorecard method. The type of data used in this study is qualitative data while the data sources are primary, secondary. Data collection methods are carried out using documentation, interviews. Data analysis techniques using balance scorecard analysis with four perspectives, namely: financial perspective, customer perspective, internal business process perspective, and growth and learning. The results of the financial perspective research net profit margin performance level is quite good gross profit margin performance level is very good and good. Customer perspective, customer retention performance level is quite good and good while customer acquisition performance level is quite good. Internal business process perspective, Innovation performance level is not good, AETR is at a bad performance level. While the growth and learning perspective for employee performance levels is included in the performance level is not good. Keywords: MSME Performance & Balanced Scorecard http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ANALYSIS OF THE APPLICATION OF BALANCED SCORECARD TO THE PERFORMANCE OF MICRO SMALL MEDIUM ENTERPRISES ENGGAL FURNITURE INDUSTRY Ikbal Mahadi Aziz1 , Ummul Khair2 Universitas Muhammadiyah Bengkulu1-2 ikbalmahadiazizaziz@gmail.com1, ummulkhair@umb.ac.id2 Jl. Adam Malik Km. 9 Kota Bengkulu Corresponding email: ikbalmahadiazizaziz@gmail.com Jl. Adam Malik Km. 9 Kota Bengkulu Corresponding email: ikbalmahadiazizaziz@gmail.com Jl. Adam Malik Km. 9 Kota Bengkulu Corresponding email: ikbalmahadiazizaziz@gmail.com INFORMASI ARTIKEL ABSTRACT Riwayat Artikel: Diterima : 08 Juni 2023 Direvisi : 14 Juli 2023 Disetujui : 24 Juli 2023 The performance of medium-sized MSMEs is a description of the performance conditions of an MSME which is analyzed by four perspectives of finance, customers, internal business, learning and growth. This study aims to determine the performance of Enggal Furniture using the balance scorecard method. The type of data used in this study is qualitative data while the data sources are primary, secondary. Data collection methods are carried out using documentation, interviews. Data analysis techniques using balance scorecard analysis with four perspectives, namely: financial perspective, customer perspective, internal business process perspective, and growth and learning. The results of the financial perspective research net profit margin performance level is quite good gross profit margin performance level is very good and good. Customer perspective, customer retention performance level is quite good and good while customer acquisition performance level is quite good. Internal business process perspective, Innovation performance level is not good, AETR is at a bad performance level. While the growth and learning perspective for employee performance levels is included in the performance level is not good. Keywords: MSME Performance & Balanced Scorecard http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu and customers. Globally, the growth of MSMEs in Indonesia must be able to bring about change and the emergence of a sector. Economic growth and the creation of new jobs are greatly helped by micro, small, and medium enterprises (MSMEs). Small and micro enterprises account for more than 80% of business units in Indonesia. As the number of MSMEs in Indonesia increases significantly to more than 64 million by 2022, they are the backbone of the country's economy. The term "micro, small, and medium enterprises", more commonly abbreviated as "MSMEs", refers to a significant sector of the economy. Micro, Small, and Medium Enterprises are small and medium enterprises of the people that must be protected against unfair competition. MSMEs in Indonesia basically contributed to the emergency period of 1998 to the 2000s. With the establishment of the Ministry of Cooperatives and MSMEs Portfolio, MSMEs in Indonesia received attention and direction from the government (Sains et al., 2022). g The existence of MSMEs in society cannot be avoided or eliminated, as they have the potential to improve how people's income is distributed. On the other hand, it can also preserve local culture while encouraging creativity in the same direction. The justification for why MSMEs can generate and will more often than not increase. The majority of MSMEs do not receive capital from other parties but rather use their own capital (Saputra, 2022). Tambunan Claim (2013) MSMEs are productive independent business units engaged in all economic sectors and run by individuals or business entities. as required by law. The numbers relating to micro, small, and medium enterprises are as follows: a) Miniature business is a useful business owned by an individual or prospective individual business material that meets the miniature business standards as stipulated in the law. a) Miniature business is a useful business owned by an individual or prospective individual business material that meets the miniature business standards as stipulated in the law. b) Small businesses are profitable independent businesses run by individuals or business entities that are not subsidiaries or branches of companies owned, controlled, or part of medium or large businesses that meet business criteria. Small as located in the law. INTRODUCTION The globalization era, significant business in terms of product competition, marketing, resource management (HR), and interpersonal relationships have emerged as a result of the development of an increasingly competitive business environment. This business continues to grow rapidly between commercial entities 228 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis and customers. and customers. As a result, performance measurement tools are needed to determine the extent to which the strategies and objectives they have set can be met. Since it is possible to determine the efficacy of strategy determination by evaluating performance, evaluation plays an important role in the business world. In the business world, performance evaluation can identify weaknesses and shortcomings in a company and show how it can be improved in the future by implementing strategies within a certain period of time (Dewantoro, 2021). The proposed work steps to assess strategy implementation for MSMEs will be the subject of research with reference to the Balanced Scorecard method. Measuring the performance of MSMEs is a very important thing to do by a strategic business sector chosen by MSMEs in business competition. is something that will be looked at and changed in the research to find the best way to measure the performance of MSME organizations. p g Performance measurement allows businesses, particularly MSMEs (Enggal Furniture Industry), to see how well they are performing. Provides data that can be used to assess and improve performance. As is known, until now the presentation estimation used is an execution estimation that focuses on the monetary aspect and pays less attention to the non-monetary aspects of the execution itself. Meanwhile, financial aspects in performance measurement have not been expert in displaying the overall performance of the company (Alimudin et al., 2019). As an exhibition assessment framework for the Enggal Furniture Industry, it has been done very well even though it has only been done by the leader group. The benefits and weaknesses of execution in each viewpoint influence both directly and indirectly the execution in various viewpoints up to the monetary viewpoint. The concept of Balanced Scorecard was developed by Kaplan and Norton in 1992. Balanced Scorecard is a performance assessment method that measures both financial and non-financial aspects of a company with adjustments to the strategies and goals of each company. The performance of the non-financial perspective can be considered quite good, but improvements and improvements are still needed in several aspects.On the other hand, the performance of the financial perspective has decreased although not significantly. From the initial use of the Fair Scorecard in 1992, organizations that took part in the review showed an increase in the organization's financial exhibition. and customers. c) Medium Business is a productive business that stands alone and is run by a person or business that is not a subsidiary or branch of a business that is owned, controlled, or is part of either directly or indirectly with a small business or a large business that has a lot of wealth. net or annual sales figures as required by law (Dzulhadi et al., 2022). c) Medium Business is a productive business that stands alone and is run by a person or business that is not a subsidiary or branch of a business that is owned, controlled, or is part of either directly or indirectly with a small business or a large business that has a lot of wealth. net or annual sales figures as required by law (Dzulhadi et al., 2022). The rapid growth of micro, small, and medium enterprises (MSMEs) has resulted in strategic competition among MSMEs, as well as changes in the relationship between MSMEs and their customers, sales strategies, and English. Furniture Industry Business. In order for businesses to progress in the future, competent MSME leaders are required. Given that the main goal of Enggal Furniture Industry Company is to offer the best service to its clients (Pratiwi, 2021). The development pattern is changed from traditional to professional (using technology) and from relying on conventional performance assessment to data technology-based performance assessment in order to become superior MSMEs. 229 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis The community's need for the Enggal Furniture Industry can help and increase public confidence in the business world. To generate synergy and excellence. The community's need for the Enggal Furniture Industry can help and increase public confidence in the business world. To generate synergy and excellence. So that small businesses in the food industry must use business performance analysis to determine the right strategic steps. SMEs in the industrial sector analyze the balanced scorecard for SMEs. In the industrial sector (Rengganis & Yogaswara, 2017) MSME must choose a management strategy. The head of the business field has agreed on a set of work objectives, so the formulation of the strategy will be a significant reference and foundation for work. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu and customers. According to (Yeremina, 2022) the term "balanced" indicates that there should be continuity between financial and non- financial measurement aspects in this performance measurement. Financial, customer, business process/internal, and growth learning are the four perspectives covered by the Balanced Scorecard performance indicator set. The 230 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis monetary point of view will show whether the preparation and execution of the organization's strategy gives a central increase to the organization's profits, the client point of view to know the number of clients there are and how much consumer loyalty there is with the organization's administration, the internal business point of view enables the board to know how well their business is doing and whether what they give meets the needs of the clients. Conversely, organizational procedures, computer systems, and human resources all contribute to the learning and growth perspective. Businesses use the Balanced Scorecard to achieve a balance between financial and non-financial performance, as well as short-term and long-term performance. The Balanced Scorecard is a fairly comprehensive method of looking at performance from four angles different perspectives so that the financial success it generates can be long-lasting (Saputra, 2022). Research conducted by Arya Adam Dzulhadim on the application of BSC to improve the performance of MSMEs from four different perspectives can make a significant contribution to the performance of a company. This shows that MSMEs always focus on ensuring that customers are satisfied with their products and services by gaining their trust through product quality. With productive and dedicated support, employees will be able to deliver goods and services effectively, consistently, and on time. Research conducted (Dzulhadi et al., 2022) In contrast, the performance of MSME drinking water depots in Gorontalo City, which reached 81.319% in the "achieving minimal targets" category, shows that the drinking water depots' performance has not yet had a significant impact but is still below expectations from financial and non-financial aspects. This minimal financial performance is a response to the number of drinking water depots in Gorontalo City that were closed due to financial and operational problems and had their licenses revoked for not paying attention to hygiene. and customers. The research contrast (Mawuntu & Aotama, 2022) on UMKM Millennium Snack Bintang which experienced an increase in sales in 2020 when compared to the previous year, both customer perspectives at UMKM Bintang Snack experienced an increase in customers and had a significant impact on sales during the same time period. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Balanced Scorecard According to Kaplan & Norton (2000) the Balance Scorecard is a new framework for interacting various measures outlined from the company's strategy. Apart from being seen from financial measures, the Balance Scorecard also introduces performance including: customer perspectives, internal business processes, and learning and growth in research. Meanwhile, according to (Mawuntu & Aotama, 2022) Scorecard is a system approach to coordinate performance measures into an integrated and easy-to- understand framework seen from 4 perspectives that set the goals of the company. There are so many aspects to consider in designing - designing a company's competitive strategy. From internal aspects (such as the company's vision and mission and human resources) to external aspects (such as consumer actors and market trends). A system is needed so that the company is able to process its competitive strategy. Balanced Scorecard The Balanced Scorecard, as defined by Kaplan and Norton (2000) in Sumarlan & Setiadi (2022), is a new framework for integrating the various measures outlined in corporate strategy. The Balance Scorecard not only shows performance based on financial indicators but also includes: customer viewpoints, internal business procedures, and learning and development research. The Balance Scorecard, on the other hand Finthariasari et al., (2020), is a systems approach to coordinating performance measures into an integrated and easy-to-understand framework viewed from four perspectives that define the 231 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis company's goals (Mawuntu & Aotama, 2022). When designing a company's competitive strategy, there are many things to think about, including internal and external factors, such as the company's vision and mission, human resources, and respective consumer actors. In order for a business to process each of its strategies as efficiently as possible, it needs a system that is able to integrate all these aspects. Balance Scorecard is one of the answers. Balanced Scorecard is a measurement and management system that views a business unit from four perspectives: finance, customers, internal business processes, and growth, as explained by (Chairunnisa et al., 2022) Tabel 2.1 Standar hasil pengkuran kinerja. Rasio Nilai Bobot % Skor >70 100 7 7 50 – 70 75 7 5,25 25 – 50 50 7 3,5 < 25 25 7 1,75 Source: Regulation of the Minister of State for Cooperatives and Small and Medium Enterprises of the Republic of Indonesia No. 20/Per/M.KUKM/XI/2008 Tabel 2.1 Standar hasil pengkuran kinerja. Rasio Nilai Bobot % Skor >70 100 7 7 50 – 70 75 7 5,25 25 – 50 50 7 3,5 < 25 25 7 1,75 Source: Regulation of the Minister of State for Cooperatives and Small and Medium Enterprises of the Republic of Indonesia No. 20/Per/M.KUKM/XI/2008 Source: Regulation of the Minister of State for Cooperatives and Small and Medium Enterprises of the Republic of Indonesia No. 20/Per/M.KUKM/XI/2008 Tabel 2.2 keterangan Standar (Nilai) Rate (Nilai) Tingkat Kinerja A Sangat Baik B Baik C Cukup Baik D Tidak Baik http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Financial Perspective The financial perspective is an important financial measure, but it is not enough to direct performance in creating value for the organization. in its system implementation, the balanced scorecard seeks a balance of performance measures, 232 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis both financial and non-financial to direct organizational performance towards success Herlin & Yanti (2021). The goals of the financial perspective are differentiated at each stage in the business cycle, which is divided into three stages, namely the stages of development, survival and harvest. the financial perspective is an important financial measure, but it is not enough to direct performance in creating value for the organization. in the implementation of the system, the balanced scorecard seeks to find a balance of performance measures, both financial and non-financial, to direct organizational performance towards success. Financial perspective goals are differentiated at each stage in the business cycle which is divided into three stages, namely the stages of development, survival and harvest, Financial Perspective Measurement sets short-term and long-term financial performance goals that refer to the global financial consequences of the other three perspectives. Financial performance measurement will show whether the planning and implementation of a company's strategy provides fundamental improvements to the company's profits. Financial performance measurement considers the life cycle of a business, including: MSME growth can be measured through profitability ratios (Chairunnisa et al., 2022). both financial and non-financial to direct organizational performance towards success Herlin & Yanti (2021). The goals of the financial perspective are differentiated at each stage in the business cycle, which is divided into three stages, namely the stages of development, survival and harvest. the financial perspective is an important financial measure, but it is not enough to direct performance in creating value for the organization. in the implementation of the system, the balanced scorecard seeks to find a balance of performance measures, both financial and non-financial, to direct organizational performance towards success. Financial Perspective Financial perspective goals are differentiated at each stage in the business cycle which is divided into three stages, namely the stages of development, survival and harvest, Financial Perspective Measurement sets short-term and long-term financial performance goals that refer to the global financial consequences of the other three perspectives. Financial performance measurement will show whether the planning and implementation of a company's strategy provides fundamental improvements to the company's profits. Financial performance measurement considers the life cycle of a business, including: MSME growth can be measured through profitability ratios (Chairunnisa et al., 2022). Internal Business Process Perspective The company provides a value proposition that will attract and retain customers in the target market segment and meet the expectations of high financial returns for shareholders. done using value-chain analysis where management identifies critical internal business processes that the company should excel at. The scorecard method in this perspective allows management to find out how well their business is running and whether the services they provide match the specifications that customers want (Kurniasari et al., 2017). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Customer Perspective Sustain, and harvest. Each stage has different goals, so the emphasis on measurement is different too. Financial performance measurement for In the customer perspective, managers identify the customers and market segments in which the business unit will compete and the various measures of business unit performance within the target segment. This perspective usually consists of several key or generic measures of the company's success from a well-formulated and executed strategy. The philosophy of company leaders has shown an increase in the importance of customer focus and customer satisfaction. This perspective is a key indicator. If customers are not satisfied they will certainly look for a place that suits their desires. Poor performance from this perspective will certainly reduce the number of customers in the future even though financial performance may look better (Riyana, 2021). RESEARCH METHODS The subject of the research is Mr. Aziz Mustafi who is the Manager of the Enggal Furniture shop. The object of research is the subject matter to be examined to obtain data in a more directed manner. The objects of research include: Profit and loss statements for 3 years, knowing how many customers, knowing how much inventory of goods per year. Data Analysis Technique is make an Interview and documentation. Learning and Growth Perspective Identifies the infrastructure that the company must build in order to create long-term growth and performance improvement. The learning and growth process comes from HR factors, computer systems, and organizational procedures. 233 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS Vol. 6, No. 2 / Juli 202 Online ISSN: 2655-6359, Print ISSN: 2656-436 DOI: https://doi.org/10.36085/jam-ek Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Employee training is included in this perspective as well as corporate culture related to individual and corporate improvement. The organization also creates conditions for easy communication among workers so that they can get help if they encounter a problem. In this perspective there are three categories that companies can use as benchmarks. These include: (Funam Islamidina & Epi Fitriah, 2022) Figure 2.1 Theoretical Framewor Financial Report Enggal Furniture Customer Perspective Internal Business Process Perspective Learning and Growth Perspective Belanced Scorecard Financial Perspective Financial Performance Analysis Financial Report Enggal Furniture Belanced Scorecard Internal Business Process Perspective Financial Perspective Customer Perspective Learning and Growth Perspective Financial Performance Analysis Customer Acquisition Means additional new customers. This means that Enggal Furniture wins or seizes new customers from competitors Customer acquisition can be calculated in a way (Ikhram. 2019) Customer Acquisition = (New Customers)/(Total Customers) x 100% Operation Process p The operations process is the process of creating and delivering services. Performance measurements related to the operations process are grouped into time, quality and cost. This measurement can be done by comparing the administrative costs of Meubel Enggal with total revenue. AETR=(Administrative Costs)/(Total Revenue) x 100% Internal Business Process Perspective Innovation Process Measurement of innovation in Maubel Enggal can be analyzed descriptively through secondary data. The innovation process aims to understand the development of product or service services offered. The more innovation increases, the better. The formula used Customer Retention This measurement is used to see whether Meubel Enggal is able to retain its old customers. The formula for this measurement is as follows Customer Retention = (Old Customers) / (Total Customers) x 100% Gross Profit Margin Gross Profit Margin is gross profit margin, used to analyze financial performance by calculating the amount of money available from sales/revenue. GPM is important because it is the beginning before the achievement of net profit, when the company has a high gross profit margin, the company is in a better position to have a large operating profit and a large profit. The formula is as follows: Gross Profit margin = (Gross Profit)/Sales x 100% Financial perspective Net profit margin Net profit margin is a ratio that serves to compare revenue with the total money generated by the company. By knowing the company's NPM, we can measure the value of the company's effectiveness during operation. The formula is as follows Net Profit Margi=(Net Profit)/Revenue x 100% Net Profit Margi=(Net Profit)/Revenue x 100% 234 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Growth and Learning Perspective Measuring Net income /Employe. The productivity of a company's employee performance can be measured from the net profit generated divided by the number of workers with an increase in this ratio, the performance of employees contributes to increasing revenue for the company. By calculating the net profit after tax or net income divided by the number of employees in the company. y p y p y (Net Income)/(Total Employees) x100% 235 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis RESEARCH RESULTS AND DISCUSSION Tabel 4.3 Net Profit Margin Years Net Profit Income Presentation 2019- 2020 258 .700.000 550 .000.000 47 % 2020- 2021 108. 300.000 400 .000.000 27 % 2021- 2022 146. 3 00.000 450. 000.000 32 % Source: processing data, 2023 Judging from the standard of financial performance shows numbers above 25- 50 Enggal furniture financial performance is quite good. Tabel 4.4 Gross Profit Margin Years Gross Profit Sales Presentation 2019- 2020 425. 900.000 550.000.000 77% 2020- 2021 291. 500.000 400.000.000 72% 2021- 2022 317. 500.000 450.000.000 70% Source: processing data, 2023 Judging from the standard of financial performance shows numbers above > 70 Enggal furniture financial performance is very good and good.. Tabel 4.5 Customer Retention Calculation Years Old Customer Tot. Customer Presentation 2019- 2020 79 295 26% 2020- 2021 99 295 33% 2021- 2022 117 295 39% Source: processing data, 2023 Tabel 4.5 p g Judging from the standard of financial performance, it shows a number above 25-50 The performance level of Enggal furniture customers is quite good. Tabel 4.6 Customer Acquisition Calculation Years New Customer Tot. Customer Presentation 2019- 2020 67 235 28% 2020- 2021 78 235 33% 2021- 2022 90 235 38% Source: processing data, 2023 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 23 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 236 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Judging from the standard of financial performance, it shows a number above 25-50 The performance level of Enggal furniture customers is quite good. Tabel 4.7 Innovation Calculation Years New Products Old Products Presentation 2019-2020 100 5 20% 2020-2021 100 6 16% 2021-2022 100 4 25% Source: processing data, 2023 Tabel 4.7 Innovation Calculation Innovation Calculation Judging from the standard of financial performance shows the number brought < 25 The level of internal business performance of Enggal furniture is not good enough. Tabel 4.8 Calculations AETR Years Admit Fees Tot. Income Presentation 2019- 2020 42 .000.000 550. 000.000 7% 2020- 2021 36 .000.000 400 .000.000 9% 2021- 2022 36 .000.000 450 .000.000 8% Source: processing data, 2023 Tabel 4.8 Calculations AETR Judging from the financial performance standards show the number brought <25 The level of internal business performance of Enggal furniture is not good. Financial Perspective Financial Perspective Net Profit Margin (NPM) is a measure of how well the company's assets work together to generate profits and illustrates how Enggal Furniture's performance is improving. Net Profit Margin (NPM) is used to measure financial performance based on the findings of the research analysis. The percentage of 49% is in the fair performance category for 2019 and 2020. Enggal Furniture still scored in the fair performance category in 2020 and 2021 despite a decrease in the percentage gain rate to 29% and continued inclusion in the fair performance financial performance category. The 35% acquisition in 2021 and 2022 showed a moderately good financial performance, up from 25% the previous year. It can be presumed that Enggal Furniture's ability to use resources to generate profit after duty can be said to be very large. By comparing gross revenue and net revenue, Enggal Furniture's ability to sell goods or services is used to calculate Gross Profit Margin (GPM). In the year 2019 - 2020 of 77% is remembered with an excellent lath performance, then in the year 2020 - 2021 it decreased by 72% and the presentation level is remembered with an admirable classification. Then in 2021 and 2022 the resulting percentage will again decrease from the previous year by 70%. However, even though the Enggal Furniture business has decreased, it is still classified as good because the percentage is still above the performance standard, and the performance results show excellent results. This shows the capacity of Enggal Furniture to grow and generate revenue. In addition, Enggal Furniture is able to manage its operational costs effectively and efficiently, resulting in an annual profit that is even higher than the standard financial performance value. The results from this financial perspective are still stable as the proportion is above the standard. Customer Perspective Client maintenance shows the rate from 2019-2020 of 26% commemorated for the presentation band is quite good, then in 2020-2021 of 33% this is also still commemorated for the exhibition band which is quite good, and in 2021-2022 it rose to 39%, considering that the secure execution is very good. As a result, it is evident that the percentage increased by 7% in 2019-2020. There will be an increase of 6% between 2021 and 2022. This indicates that the number of return customers of Enggal Furniture is still very high and quite satisfactory. This happens because of Enggal Furniture's ability to provide excellent service to customers. Securing Enggal Furniture customers in 2019-2020 got a level of 28% with a fairly good presentation group, in 2020-2021 an increase of 33% was considered very good after that there was another increase in 2021-2022 of 38% which is remembered for a fairly good band performance so that there was a consistent increase. Enggal Furniture because compared to the previous year, Enggal Furniture still provides excellent service to customers. RESEARCH RESULTS AND DISCUSSION From the Table 4.9, Judging from the standard of financial performance shows the number brought < 25 The growth performance level of Enggal furniture is not good. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 237 Tabel 4.9 Net Income Calculation Years Net Income Tot. Employee Presentation 2019- 2020 258 .700.000 12 21% 2020- 2021 108. 300.000 12 9% 2021- 2022 146. 300.000 12 12% Source: processing data, 2023 DISCUSSION http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 237 Tabel 4.9 Net Income Calculation Years Net Income Tot. Employee Presentation 2019- 2020 258 .700.000 12 21% 2020- 2021 108. 300.000 12 9% 2021- 2022 146. 300.000 12 12% Source: processing data, 2023 DISCUSSION Tabel 4.9 Net Income Calculation Years Net Income Tot. Employee Presentation 2019- 2020 258 .700.000 12 21% 2020- 2021 108. 300.000 12 9% 2021- 2022 146. 300.000 12 12% Source: processing data, 2023 Tabel 4.9 237 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Learning and Growth Perspective Considering the rate setting results for 2019-2020 of 22% considering the lackluster display classification, the presentation level of Enggal Furniture depends on the results from the perspective of learning and development which is not good. while in 2020-2021 it has decreased by 9%, and from the rate gain for the level of implementation is delegated poorly. The performance level in 2021-2022 has increased, and employees must continue to maintain and contribute to increasing Enggal Furniture's revenue. Then for 2021-2022 it increased compared to the previous year and reached a percentage of 13%. Internal Business Perspective Based on the table above, the following conclusions can be drawn: in 2019- 2020 it was 20% which was considered poor; in 2020-2021 it was 16% which was 238 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis also classified as poor; and in 2021-2022 it was 25% which was considered to be in a pretty good performance band. So it is suspected that the slat work is not good because so far the rate is still below 25%, so Enggal Furniture must increase product development in its sales. Based on the results of the AETR calculation, the Enggal Furniture industry is rated poorly according to the performance benchmark standard in 2019 and 2020 of 7% which is included in the poor performance band. In 2020 and 2021 it was 9%, which is also included in the poor performance band. In 2021 and 2022 at 8%, it has decreased to 1% caused by Covid-19. Conclusions The conclusions in this study: The financial performance perspective of Net Profit Margin shows quite good results then the results of Gross Profit Margin measurement show that there are very good results and there are good results. This means that in financial terms Enggal Furniture is very good at its financial turnover. 1. Customer perspective, in the calculation of customer Reatansi for the performance batten is quite good, then the calculation of customer acquisition shows quite good results from the measurement results of the performance batten. This means that Enggal Furniture is able to provide the services desired by customers and is able to retain customers who are already owned. 2. The internal business process perspective shows good results on innovation included in the performance batten is not good and some are good because there is a decrease, while the AETR must be further improved because the resulting percentage is still below the average performance batten standard is not good. 3. The learning and growth perspective shows the results of the performance batten is not good. And there continues to be a decline every year. Therefore, employees must contribute to increasing revenue at Enggal Furniture. Suggestions Suggestions in research, discussion and formulating related to this research can then be used as input and consideration in the future. 1. For further researchers who will research using the balanced scorecard concept, it 239 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis is suggested that they add more indicators used, such as financial indicators plus profitability ratios and liquidity ratios. is suggested that they add more indicators used, such as financial indicators plus profitability ratios and liquidity ratios. 2. For the perspective of business growth and learning, it needs to be re-improved because the results of the performance batten get unfavorable results. 2. For the perspective of business growth and learning, it needs to be re-improved because the results of the performance batten get unfavorable results. 3. For future researchers who discuss the balanced scorecard to examine other business sectors and not focus on just one place of business so that the research is broader. 3. For future researchers who discuss the balanced scorecard to examine other business sectors and not focus on just one place of business so that the research is broader. 4. For internal business perspectives and learning and growth perspectives based on the results of the research conducted are included in the performance batten is not good, so that internal business perspectives and learning and growth perspectives need to be improved again. 4. For internal business perspectives and learning and growth perspectives based on the results of the research conducted are included in the performance batten is not good, so that internal business perspectives and learning and growth perspectives need to be improved again. 4. For internal business perspectives and learning and growth perspectives based on the results of the research conducted are included in the performance batten is not good, so that internal business perspectives and learning and growth perspectives need to be improved again. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu REFERENCES Alimudin, A., Falani, A. Z., Mudjanarko, S. W., & Limantara, A. D. (2019). Analisis Pengaruh Penerapan Perspektif Balanced Scorecard Terhadap Peningkatan Kinerja UMKM. Ekonika : Jurnal Ekonomi Universitas Kadiri, 4(1), 1. https://doi.org/10.30737/ekonika.v4i1.337 Chairunnisa, S. M., Salsabila, A., Aziza, A. R., & Rahmah, S. (2022). Implementasi Manajemen Strategi Melalui Balanced Scorecard Pada UMKM Amelia Snack Dan Cookies. Jurnal Bisnis Dan Manajemen, 18(1), 26–41. https://doi.org/10.23960/jbm.v18i0.307 Dewantoro, A. D. (2021). Pengaruh Penggunaan Balance Scorecard Terhadap Kinerja Usaha Mikro Di Surabaya. Jurnal Kewirausahaan Dan Bisnis, 26(1), 55. https://doi.org/10.20961/jkb.v26i1.47530 p g j Dzulhadi, A. A., Wulandari, P., Aziz, N. A., Windani, A., & Pratiwi, R. (2022). Seminar Nasional Akuntansi dan Manajemen Sekolah Tinggi Ilmu Ekonomi AMA Salatiga. 127–136. Finthariasari, M., Febriansyah, E., & Pramadeka, K. (2020). Corporate Social Responsibility Disclosure: A Determinant Analysis (Case Study Manufacturing Companies Listed on the Indonesia Stock Exchange). International Journal of Trends in Accounting Research, 1(1), 22–36. Funam Islamidina, & Epi Fitriah. (2022). Analisis Penerapan Balanced Scorecard dalam Meningkatkan Kinerja Manajerial. Jurnal Riset Akuntansi, 25–32. https://doi.org/10.29313/jra.v2i1.685 Herlin, & Yanti, R. T. (2021). Analisis Kinerja dan Rasio Keuangan pada PT. Pegadaian (Persero) Tahun 2018-2019. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 4(1), 229–240. Kurniasari, V., Bisnis, P. M., Manajemen, P. S., Petra, U. K., & Siwalankerto, J. (2017). Verni Kurniasari dan Gesti Memarista. 5(1). Mawuntu, P. S. T., & Aotama, R. C. (2022). Pengukuran Kinerja UMKM Berdasarkan Key Performance Indicators (KPI) Metode Balanced Scorecard. WACANA EKONOMI (Jurnal Ekonomi, Bisnis Dan Akuntansi), 21(1), 72–83. https://doi.org/10.22225/we.21.1.2022.72-83 240 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Pratiwi, M. A. (2021). No Title. Jurnal Manajerial Dan Bisnis TanjungpinanG, 4(2), 149–158. Rengganis, A. P., & Yogaswara, B. (2017). Perancangan Pengukuran Kinerja Pada Dinas Koperasi Dan Ukm Di Kabupaten Majalengka Menggunakan Pendekatan Balanced Scorecard Design of Performance Measurement System At Cooperation and Sme Building in Majalengka District Using Balanced. E- Proceeding of Engineering, 4(3), 4226–4234. Sains, J., Humaniora, S., Andini, R., Praptono, S., Sulistyawati, D. R., Semarang, U. P., & Jepara, U. (2022). Pengaruh Penerapan Balance Scorecard Pada Kinerja UMKM Di Kota Semarang. 6, 481–486. Saputra, M. U. H. A. (2022). (UMKM) Dengan Menggunakan Metode Balance Scorecard (Studi pada Iloki Salon Kabupaten Gowa). SKRIPSI. THE INFLUENCE OF SERVICE RECOVERY AND PRODUCT QUALITY ON CUSTOMER RETENTION (CASE STUDY OF PT. BINTANG MOTOR, BENGKULU CITY) Reni Indriani1, Alvin Nia2 Universitas Muhammadiyah Bengkulu1-2 reniindriani@umb.ac.id1 , alvinnia250@gmail.com2 Jl. Adam Malik Km. 9 Kota Bengkulu Corresponding email: reniindriani@umb.ac.id http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 242 INFORMASI ARTIKEL ABSTRACT: Riwayat Artikel: Diterima : 15 Juni 2023 Direvisi : 07 Juli 2023 Disetujui : 26 Juli 2023 The purpose of this research is to find out whether lifestyle and the Halal label affect purchasing decisions. The sample of this research was Management Study Program students at the University of Muhammadiyah Bengkulu, totaling 90 respondents. Observation data collection techniques, documentation and questionnaires. The data that has been processed is analyzed using the SPSS 24 Lifestyle formula (X_1) and the Halal Label (X_2) which together significantly influence Purchase Decisions (Y) for Class 2019 Students of the Management Study Program, Faculty of Economics and Business. Based on the correlation coefficient test, it is obtained that the value of R = 0.526 and the coefficient of determination R^2 = 0.277 value means that Lifestyle (X_1) and Halal Label (X_2) contribute an influence of 0.277 or 27.7% to Purchase Decisions (Y) in Students Class of 2019 Management Study Program Students, Faculty of Economics and Business. while the remaining 0.723 or 72.3% is influenced by other variables not included in this study. ABSTRAK: Keywords: Service Recovery, Product Quality, Customer Retention Kata kunci: Pemulihan Layanan, Kualitas Produk, Retensi Pelanggan Penelitian ini bertujuan untuk mengetahui Pengaruh Service Recovery dan Product Quality terhadap Customer Retention (Studi Kasus PT. Bintang Motor Kota Bengkulu). Jenis penelitian yang digunakan REFERENCES Sumarlan, A., & Setiadi, Y. (2022). Pengukuran Kinerja Perusahaan Berdasarkan Balance Scorecard Pada Pt Asuransi Multi Artha Guna Tbk Yang Terdaftar Di Bursa Efek Indonesia. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 5(1), 104–122. Yeremina, B. (2022). Teori Penilaian Pengukuran Kinerja Karyawan. Jurnal Pusdansi, 2 (4)(4), 1–9. 241 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu INFORMASI ARTIKEL ABSTRACT: Riwayat Artikel: Diterima : 15 Juni 2023 Direvisi : 07 Juli 2023 Disetujui : 26 Juli 2023 The purpose of this research is to find out whether lifestyle and the Halal label affect purchasing decisions. The sample of this research was Management Study Program students at the University of Muhammadiyah Bengkulu, totaling 90 respondents. Observation data collection techniques, documentation and questionnaires. The data that has been processed is analyzed using the SPSS 24 Lifestyle formula (X_1) and the Halal Label (X_2) which together significantly influence Purchase Decisions (Y) for Class 2019 Students of the Management Study Program, Faculty of Economics and Business. Based on the correlation coefficient test, it is obtained that the value of R = 0.526 and the coefficient of determination R^2 = 0.277 value means that Lifestyle (X_1) and Halal Label (X_2) contribute an influence of 0.277 or 27.7% to Purchase Decisions (Y) in Students Class of 2019 Management Study Program Students, Faculty of Economics and Business. while the remaining 0.723 or 72.3% is influenced by other variables not included in this study. ABSTRAK: Penelitian ini bertujuan untuk mengetahui Pengaruh Service Recovery dan Product Quality terhadap Customer Retention (Studi Kasus PT. Bintang Motor Kota Bengkulu). Jenis penelitian yang digunakan 242 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis adalah kuantitatif, dengan menggunakan metode non probability sampling atau Accidental sampling. Jumlah sampel dalam penelitian ini adalah 120 orang. Dari hasil penelitian ini dapat disimpulkan bahwa secara parsial variabel Service Recovery berpengaruh signifikan terhadap variabel Customer Retention dengan nilai thitung > ttabel (10,782 > 1,980) dan Sig. (0,000 < 0,05), H1 diterima, Product Quality berpengaruh signifikan terhadap variabel Customer Retention dengan nilai thitung > ttabel (2,715 > 1,980) dan Sig. (0,008 < 0,05), H2 diterima, sedangkan uji f Service Recovery dan Product Quality secara bersama-sama berpengaruh signifikan terhadap Customer Retention dengan nilai thitung > ttabel (171,268 > 3,07) dan Sig. (0,000 < 0,05) sehingga H3 diterima. Tingkat signifikan secara keseluruhan sebesar (Sig. a = 0,000 < 0,05). Serta memiliki persamaan regresi Y = 1.151 + 0,683X1 + 0,110X2 dan koefisien determinasi R2 nilai Adjust R Square adalah 0,652. Dan faktor yang paling dominan dengan nilai koefisien regresi paling besar yaitu variabel Service Recovery (X1) dengan nilai 0,683. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Industri otomotif khususnya sepeda motor sedang mengalami peningkatan yang sangat pesat, ini ditandai dengan terus bertambahnya kuantitas kendaraan yang dimiliki masyarakat dan terlihat pada mobilitas kendaraan yang berada di jalan-jalan kota besar. Serta diikuti dengan lahir dan tumbuhnya perusahaan-perusahaan baru yang senantiasa berupaya semaksimal mungkin untuk mendapatkan dan mempertahankan pangsa pasar yang ada. (Kotler et al., 2017) menjelaskan bahwa dalam meningkatkan daya saing, suatu perusahaan dapat memenangkan persaingan dengan cara menampilkan produk terbaik yang dapat memenuhi selera konsumen. Pada dasarnya semakin tinggi tingkat persaingan yang terjadi, maka semakin akan banyak pula pilihan bagi konsumen untuk dapat memilih produk yang sesuai dengan harapannya, dan sebagai konsekuensi dari perubahan tersebut pelanggan menjadi lebih cermat dan pintar menghadapi setiap produk yang ditawarkan. p g p p p y g PT. Bintang Motor Kota Bengkulu merupakan perusahaan yang bergerak dibidang jasa penjualan sepeda motor honda sejak tahun 2001, selain penjualan kami juga melayani pemeliharaan serta penjualan spare part resmi. Bintang Motor memiliki jaringan penjualan dan pemeliharaan yang tersebar 8 provinsi di Indonesia yaitu Jakarta, Bogor, Depok, Tangerang, Bekasi, Cikarang, Jatiasih, Bandung, Cirebon, Pontianak, Makassar, Balopa, Bandar Lampung, Lampung Timur, Gisting, Bengkulu, Palembang, Lahat, dan Sekayu. PT. Bintang Motore Kota Bengkulu ini beralamat di Jl. PT. Bintang Motor Kota Bengkulu merupakan perusahaan yang bergerak dibidang jasa penjualan sepeda motor honda sejak tahun 2001, selain penjualan kami juga melayani pemeliharaan serta penjualan spare part resmi. Bintang Motor memiliki jaringan penjualan dan pemeliharaan yang tersebar 8 provinsi di Indonesia yaitu Jakarta, Bogor, Depok, Tangerang, Bekasi, Cikarang, Jatiasih, Bandung, Cirebon, Pontianak, Makassar, Balopa, Bandar Lampung, Lampung Timur, Gisting, Bengkulu, Palembang, Lahat, dan Sekayu. PT. Bintang Motore Kota Bengkulu ini beralamat di Jl. 243 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Pangeran Natadirja No.103, Jl. Gedang, Gading Cemp., Kota Bengkulu, Bengkulu 38226. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Pangeran Natadirja No.103, Jl. Gedang, Gading Cemp., Kota Bengkulu, Bengkulu 38226 Pangeran Natadirja No.103, Jl. Gedang, Gading Cemp., Kota Bengkulu, Bengkulu 38226. Custumer retention adalah lamanya hubungan dengan konsumen. Tingkat custumer retention adalah presentase konsumen yang telah memenuhi sejumlah pembelian ulang selama periode waktu yang terbatas. Dinamika retensi memperlihatkan langkah-langkah utama dalam proses menarik dan mempertahankan konsumen, hal ini akan berimplikasi pada membangun hubungan konsumen terhadap perusahaan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Perusahaan membuat berbagai cara untuk mempertahankan konsumennya, salah satu cara tersebut adalah membuat event untuk membangun hubungan dengan konsumen, dalam event tersebut perusahaan mengundang konsumen yang memang bisa dipertahankan seperti pelanggan prioritas, acara tersebut beisi promosi mengenai produk yang akan ditawarkan kepada pelanggannya. Persaingan seperti sekarang ini, perusahaan dituntut untuk menawarkan produk yang berkualitas dan mempunyai nilai lebih, sehingga tampak berbeda dengan produk pesaing. Kualitas produk merupakan salah satu faktor yang menjadi pertimbangan konsumen sebelum membeli suatu produk. Kualitas ditentukan oleh sekumpulan kegunaan dan fungsinya, termasuk di dalamnya daya tahan, ketidaktergantungan pada produk lain atau komponen lain, eksklusifitas, kenyamanan, wujud luar (warna, bentuk, pembungkusan, dan sebagainya) (Kurnianingsih & Sugiyanto, 2020). Dengan kualitas produk yang bagus dan terpercaya, maka produk akan senantiasa tertanam dibenak konsumen, karena konsumen bersedia membayar sejumlah uang untuk membeli produk yang berkualitas. y g Mempertahankan konsumen untuk dijadikan pelanggan lebih susah dari pada mencari konsumen baru, karena perusahaan tidak memerlukan adaptasi kembali, lebih menghemat biaya dan waktu dibandingkan mencari pelanggan baru yang harus membangun hubungan baru, kepercayaan baru dan juga memerlukan banyak biaya pengeluaran seperti untuk promosi. Mengembangkan hubungan jangka panjang, kini memiliki nilai yang lebih baik serta dianggap sebagai metode yang lebih efektif untuk pertumbuhan perusahaan. Customer retention sangat penting dalam mempengaruhi profitabilitas perusahaan (Danesh, S et al., 2012). Menurut (Schiffman & Wisenblit, 2019) customer retention didefinisikan sebagai kecenderungan pelanggan di masa depan untuk tetap bertahan terhadap penyedia layanan. (Kotler & Keller, 2018) mendefinisikan customer retention sebagai tingkat keloyalan pelanggan pada produk sebagai hasil dari kepuasan pelanggan. Service recovery atau perbaikan layanan ini merupakan langkah yang tepat untuk melakukan perbaikan pada layanan yang gagal dan untuk menunjukan rasa kepedulian perusahaan terhadap konsumen. Dengan menangani setiap keluhan konsumen perusahan telah bertanggung jawab terhadap konsumen. Dan dengan cara ini pula perusahaan bisa untuk memberikan rasa puas kepada para konsumennya yang sebelumnya merasa kurang puas terhadap layanan yang diberikan. Karena setiap konsumen berharap jika pelayanan yang diberikan oleh perusahaan sesuai dengan harapan mereka. Dengan kesesuain antara harapan dan kenyataan ini lah yang membuat konsumen puas. Perbaikan layanan atau yang lebih dikenal dengan sebutan service recovery menurut (A., Zeithaml & Berry, 2018) perbaikan layanan atau service recovery 244 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis ini adalah tindakan yang diambil oleh perusahaan ketika mengalami kegagalan jasa atau service failure. PENDAHULUAN Recovery adalah berbagai hal yang akan dilakukan oleh perusahaan setelah terjadinya suatu kegagalan pada jasa pelayanan (service failure). Kegagalan layanan atau service failure terjadi ketika jasa yang diterima dipersepsikan tidak sesuai dengan harapan pelanggan. Service recovery mulai berlaku saat ada masalah dalam proses pengiriman layanan. Semakin meningkatnya persaingan, memberikan perhatian lebih pada kualitas produk bukan lagi menjadi pilihan, melainkan sudah menjadi keharusan bagi setiap perusahaan. Hal ini dikarenakan konsumen yang semakin teliti dan kritis terhadap produk yang mereka terima atau gunakan. Menurut (Kotler & Amstrong, 2018) kualitas produk adalah “the ability of a product to perform its functions, it includes the product’s overall durability, reliability, precision, ease of operation and repair, and other valued attributes” yang artinya, kemampuan sebuah produk untuk menjalankan fungsi yang dimiliki berkaitan dengan daya tarik, kehandalan, dan juga atribut lainnya yang bernilai. Menurut (Kotler et al., 2017) kualitas produk merupakan kemampuan suatu produk dalam melaksanakan fungsi dan kinerjanya yang dapat memenuhi kebutuhan dan keinginan pelanggan. Kualitas produk menjadi hal penting yang harus dimiliki oleh sebuah produk, sehingga produsen dituntut untuk menghasilkan produk yang berkualitas agar dapat menarik perhatiaan konsumen dan memenangkan pasar. Menurut (Kotler & Amstrong, 2018) kualitas produk ialah kemampuan suatu produk dalam melaksnakan fungsinya yang meliputi daya tahan, keandalan, ketepatan, kemudahan operasi dan perbaikan, serta atribut bernilai lainnya. Kualitas produk adalah kondisi dari segala sesuatu yang dapat ditawarkan ke pasar agar mendapat perhatian, dibeli, digunakan, atau dikonsumsi dengan tujuan untuk dapat memuaskan keinginan dan kebutuhan pelanggan Berdasarkan hasil observasi melalui survey dan wawancara yang peneliti lakukan dengan Bapak Sulistio Budiman slaku kepala cabang PT. Bintang Motor Kota Bengkulu masih terdapat beberapa permasalahan menurut salah satu konsumen menjelaskan bahwa masih kurangnya hubungan antara konsumen dengan perusahaan dalam jangka Panjang, hal tersebut dijelaskan dengan masih adanya konsumen yang belum percaya akan kualitas dan pelayanan yang diberikan sehingga tidak terjadi hubungan yang baik. Ada juga menurut Bapak Rudi Setiawan salah satu konsumen PT. Bintang Motor Kota Bengkulu yang mengatakan bahwa service recovery (pemulihan layanan) yang masih kurang di kembangkan sehingga masih terdapat konsumen yang komplain terhadap pelayanan yang telah kami berikan. Adapula menurut Ibu Erna yang menjelaskan tentang product quality (kualitas produk) yang di tawarkan kepada konsumen masih terbilang masih rendah, hal tersebut dibuktikan dengan tidak semua produk dikembangkan ataupun dibenahi untuk memberikan kualitas yang baik terhadap produk yang diberikan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Customer Retention Menurut Sari & Giantari (2020) retensi pelanggan didefinisikan sebagai kecenderungan pelanggan di masa depan untuk tetap bertahan terhadap penyedia layanan. Kotler & Keller (2018) mendefinisikan customer retention sebagai tingkat keloyalan pelanggan pada produk sebagai hasil dari kepuasan pelanggan.. Tingkat customer retention adalah persentase pelanggan yang telah memenuhi sejumlah pembelian ulang selama periode waktu terbatas. customer retention adalah kecenderungan Pelanggan untuk tetap bertahan dalam menggunakan suatu produk atau jasa setelah pelanggan merasakan adanya kepuasan yang diperoleh dalam menggunakan produk tersebut. gg p Menurut As et al., (2017) retensi pelanggan merupakan interaksi antara produsen dan pelanggan yang dapat membawa manfaat sosial dan ekonomi. Indikator yang mempengaruhi retensi pelanggan meliputi adaptasi, manajemen hubungan, dan rekomendasi. Menurut Coussement (2014) customer retention dianggap sebagai kemampuan perusahaan dalam mempertahankan pelanggannya untuk terus mempercayai produk yang mereka hasilkan. Nillie et al. (2013) menegaskan bahwa retensi pelanggan adalah hubungan jangka panjang antara pelanggan dan organisasi yang dapat menghasilkan hubungan yang menguntungkan. Dari beberapa pengertian dari para ahli di atas dapat disimpulkan bahwa customer retention merupakan hubungan seberapa dekat konsumen dengan perusahaan yang dapat menimbulkan hubungan baik dalam jangka panjang. Menurut P Kotler (2019) ada tiga indikator untuk membangun customer retention (retensi pelanggan): 1. Lamanya hubungan dengan perusahaan 2. Selalu menggunakan layanan 3. Seringnya transaksi Pemasaran Menurut Laksana (2019) pemasaran adalah bertemunya penjual dan pembeli untuk melakukan kegiatan transaksi produk barang atau jasa. Sehingga pengertian pasar 245 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis bukan lagi merujuk kepada suatu tempat tapi lebih kepada aktifitas atau kegiatan pertemuan penjual dan pembeli dalam menawarkan suatu produk kepada konsumen. Menurut Phillip Kotler & Keller (2016) marketing is about identifying and meeting human and social needs. One of the shortest good definitions of marketing is meeting needs profitably. Menurut Amstrong & Philip (2012) marketing as the process by which companies create value for customers and build strong customer relationships in order to capture value from customers in return", artinya menyatakan bahwa pemasaran sebagai proses di mana perusahaan menciptakan nilai bagi pelanggan dan membangun hubungan pelanggan yang kuat menangkap nilai dari pelanggan sebagai imbalan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Service Recovery Service recovery atau perbaikan layanan ini merupakan langkah yang tepat untuk melakukan perbaikan pada layanan yang gagal dan untuk menunjukan rasa kepedulian perusahaan terhadap konsumen. Dengan menangani setiap keluhan konsumen perusahan telah bertanggung jawab terhadap konsumen. Dan dengan cara ini pula perusahaan bisa untuk memberikan rasa puas kepada para konsumennya yang sebelumnya merasa kurang puas terhadap layanan yang diberikan. Karena setiap 246 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis konsumen berharap jika pelayanan yang diberikan oleh perusahaan sesuai dengan harapan mereka. Menurut Sajadi & Bohrer (2017) menjelaskan bahwa service recovery adalah keputusan yang diambil perusahaan sebagai reaksi terhadap terjadinya kegagalan layanan dengan tujuan untuk mengubah ketidakpuasan menjadi kepuasan dan akhirnya perusahaan mampu mempertahankan pelanggan tersebut. Dari beberapa pengertian dari para ahli di atas dapat disimpulkan bahwa service recovery merupakan salah satu pelayanan yang harus di utamakan agar konsumen dapat merasakan kenyamanan terhadap perusahaan sehingga perusahaan dapat terus berkembang. Indikator yang digunakan untuk mengukur service recovery menurut Chueh et al., (2014) adalah sebagai berikut: 1. Distributive justice 2. Procedural justice 3. Interactional justice http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Product Quality 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Kerangka Teoritik H1 H2 H3 Service Recorvery (X1) Product Quality (X2) Custumer Retention (Y) Kerangka Teoritik H1 H2 H3 Service Recorvery (X1) Product Quality (X2) Custumer Retention (Y) Kerangka Teoritik Kerangka Teoritik Service Recorvery (X1) Custumer Retention (Y) Product Quality (X2) H2 Keterangan: = Pengaruh Variabel X terhadap Variabel Y (Parsial) = Pengaruh Variabel X1, dan X2 terhadap Variabel Y (Simultan) Product Quality Menurut Philip Kotler & Armstrong (2008), kualitas produk adalah kemampuan sebuah produk dalam memperagakan fungsinya, hal itu termasuk durabilitas, reliabilitas, ketepatan, kemudahan pengoperasian dan reparasi produk juga atribut produk lainnya. Menurut Setiawati (2016), kualitas produk dinyatakan sebagai berikut, kualitas adalah totalitas fitur dan karakteristik dari produk atau jasa yang menanggung pada kemampuannya untuk memuaskan kebutuhan yang dinyatakan atau tersirat. Sebagai ukuran kualitas produk adalah variabel yang terbesar dan kemudian diikuti oleh variabel lain, masing-masing indikator, yaitu: memiliki, kesesuaian, kinerja, gambar (Juhana, 2018). Product quality yaitu kemampuan barang untuk memberikan kinerja atau hasil yang sejalan bahkan lebih dari yang diharapkan konsumen (Phillip Kotler & Keller, 2016). Menurut Chang (2019), Ekowati & Finthariasari (2020), Finthariasari, Ekowati, & Krisna (2020), Finthariasari, Ekowati, Ranidiah, et al., (2020)arti dari kualitas produk adalah the ability of a product to perform its functions, it includes the product’s overall durability, reliability, precision, ease of operatio and repair, and other valued attributes yang artinya kemampuan sebuah produk dalam memperagakan fungsinya, hal itu termasuk keseluruhan durabilitas, reliabilitas, ketepatan, kemudahan pengoperasian dan reparasi produk juga atribut produk lainnya. Dari beberapa pengertian dari para ahli di atas dapat disimpulkan bahwa produk quality merupakan seberapa baiknya kualitas produk yang ditawarkan agar mampu menarik konsumen untuk melakukan pembelian secara berkala. Menurut (Tjiptono, 2018) indikator dari variabel Kualitas Produk dibagi menjadi 6 yaitu: 1. Kinerja (performance) 2. Daya Tahan (Durability) 3. Kesesuaian Dengan Spesifikasi (Conformance to Specification) 4. Keistimewaan tambahan (feature). 5. Reliabilitas (Reliability) 6. Estetika (Aesthetic) 247 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Kerangka Teoritik H1 H2 H3 Keterangan: X1 = Variabel Service Recovery X2 = Variabel Product Quality Y = Variabel Custumer Retention = Pengaruh Variabel X terhadap Variabel Y (Parsial) = Pengaruh Variabel X1, dan X2 terhadap Variabel Y (Simultan) Service Recorvery (X1) Product Quality (X2) Custumer Retention (Y) Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu METODE PENELITIAN Jenis penelitian ini merupakan jenis penelitian deskriptif kuantitatif. Populasi pada penelitian ini bersifat infinite (tidak diketahui). Populasi dari penelian ini adalah seluruh konsumen PT. Bintang Motor Kota Bengkulu. Teknik pengambilan sampel yang digunakan dalam penelitian ini adalah menggunakan metode non probability sampling yaitu accidental sampling. Jumlah populasinya tidak diketahui secara pasti maka untuk menentukan besarnya sampel digunakan rumus dari (Sugiyono, 2018) yang menyatakan bahwa jumlah ideal dalam penarikan sampel yaitu 5-10 untuk setiap indikator yang digunakan dalam seluruh variabel. Jumlah indikator dalam penelitian adalah 12 indikator. Maka, jumlah sampel dalam penelitian ini adalah: j p p Sampel = jumlah indikator x 10 → 12 x 10 = 120 responden. Ada tiga data yang digunakan dalam penelitian yakni: (1) Observasi; (2) Dokumentasi; (3) Kuesioner. Tanggapan responden dinilai untuk mengukur tanggapan mereka dengan skala likert 5 point (1= sangat tidak setuju sampai 5 = sangat setuju). Tahap pengelolaan dengan menguji tingkat validitas untuk menilai sah atau tidaknya setiap item dalam instrumen, dan hal itu diketahui dengan bekerja sama antara skor item dan skor keseluruhan. Kemudian tahap menganalisis reliabilitas untuk menilai ketergantungan kuesioner yang berfungsi sebagai indikasi variabel. Tahap berikutnya adalah analisis regresi linear berganda adalah regresi yang menggambarkan apakah variabel terikat berhubungan dengan variabel bebas, serta uji hipotesis dengan menganalisis nilai t hitung dan dilakukan untuk mengetahui ada tidaknya pengaruh yang signifikan terhadap variabel bebas secara sendiri-sendiri. Selanjutnya menganalisis nilai f hitung dan dilakukan untuk menyatakan signifikansi pengaruh variabel bebas secara bersamasama terhadap variabel terikat. 248 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 24 Karakteristik Responden Analisis data diatas bahwa karakteristik responden dalam penelitian ini terdiri dari karakteristik berdasarkan jenis kelamin didominasi oleh karyawan laki-laki sebanyak 75 orang (62,5%), dengan karakteristik usia didominasi oleh karyawan yang berusia 31-50 tahun sebanyak 78 orang (65%), karakteristik pendidikan terakhir yang mendominasi SMA sebanyak 57 orang (47,5%) dan karakteristik berdasarkan pekerjaan yang mendominasi pada pekerjaan wiraswasta sebanyak 62 oranf (51,7 %). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 249 Tabel 1. Karakteristik Responden (n= 120) Karakteristik Jumlah Persentase Jenis Kelamin Laki-laki 75 62,5 % Perempuan 45 37,5 % Usia 20 – 30 Tahun 42 35 % 31 – 50 Tahun 78 65% Pendidikan Terakhir SMA 57 47,5% S1 42 35% S2 21 17,5% Pekerjaan PNS 31 25,8 % Swasta 27 22,5 % Wiraswasta 62 51,7 % Sumber: Data yang diolah 2022 Uji Validitas dan Uji Reliabilitas Tabel 2 Hasil Uji Validitas Variabel Indikator Item Pernyataan R Hitung R Tabel Ket Customer Retention (Y) Lamanya Hubungan dengan Perusahaan 1 0,719 0,444 Valid Selalu Menggunakan Layanan 2 0,757 0,444 Valid Seringnya Transaksi 3 0,441 0,444 Valid Service Recovery (X1) Distributuve Justice 1 0,833 0,444 Valid Procedural Justice 2 0,485 0,444 Valid Interactional Justice 3 0,761 0,444 Valid Product Kinerja 1 0,584 0,444 Valid http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 249 Tabel 1. Karakteristik Responden (n= 120) Karakteristik Jumlah Persentase Jenis Kelamin Laki-laki 75 62,5 % Perempuan 45 37,5 % Usia 20 – 30 Tahun 42 35 % 31 – 50 Tahun 78 65% Pendidikan Terakhir SMA 57 47,5% S1 42 35% S2 21 17,5% Pekerjaan PNS 31 25,8 % Swasta 27 22,5 % Wiraswasta 62 51,7 % Sumber: Data yang diolah 2022 Uji Validitas dan Uji Reliabilitas Tabel 2 Hasil Uji Validitas Variabel Indikator Item Pernyataan R Hitung R Tabel Ket Customer Retention (Y) Lamanya Hubungan dengan Perusahaan 1 0,719 0,444 Valid Selalu Menggunakan Layanan 2 0,757 0,444 Valid Seringnya Transaksi 3 0,441 0,444 Valid Service Recovery (X1) Distributuve Justice 1 0,833 0,444 Valid Procedural Justice 2 0,485 0,444 Valid Interactional Justice 3 0,761 0,444 Valid Product Kinerja 1 0,584 0,444 Valid Tabel 1. Karakteristik Responden (n= 120) Tabel 1. Tabel 1. Karakteristik Responden Karakteristik Responden (n= 120) Karakteristik Jumlah Persentase Jenis Kelamin Laki-laki 75 62,5 % Perempuan 45 37,5 % Usia 20 – 30 Tahun 42 35 % 31 – 50 Tahun 78 65% Pendidikan Terakhir SMA 57 47,5% S1 42 35% S2 21 17,5% Pekerjaan PNS 31 25,8 % Swasta 27 22,5 % Wiraswasta 62 51,7 % Sumber: Data yang diolah 2022 Tabel 1. Karakteristik Responden (n= 120) Sumber: Data yang diolah 2022 Uji Validitas dan Uji Reliabilitas Tabel 2 Hasil Uji Validitas Variabel Indikator Item Pernyataan R Hitung R Tabel Ket Customer Retention (Y) Lamanya Hubungan dengan Perusahaan 1 0,719 0,444 Valid Selalu Menggunakan Layanan 2 0,757 0,444 Valid Seringnya Transaksi 3 0,441 0,444 Valid Service Recovery (X1) Distributuve Justice 1 0,833 0,444 Valid Procedural Justice 2 0,485 0,444 Valid Interactional Justice 3 0,761 0,444 Valid Product Kinerja 1 0,584 0,444 Valid Uji Validitas dan Uji Reliabilitas 249 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Quality (X2) (Peformance) Daya Tahan (Durability) 2 0,586 0,444 Valid Kesesuaian dengan Spesifikasi (Conformence of Specifikasi) 3 0,697 0,444 Valid Keistimewaan Tambahan (Feature) 4 0,702 0,444 Valid Reliabilitas (Reliability) 5 0,625 0,444 Valid Estetika (Aesthetic) 6 0,585 0,444 Valid Sumber: Data yang diolah 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Dari tabel 2 di atas dapat disimpulkan bahwa butir instrumen yang digunakan untuk mengukur variabel-variabel dalam penelitian ini mempunyai koefisien lebih besar dari r tabel yaitu 0.444 sehingga semua butir instrumen tersebut dinyatakan valid. Tabel 3 Hasil Uji Reabilitas No. Variabel Cronbach’s Alpha Keterangan 1. Customer Retention (Y) 0,789 Reliabel 2. Service Recovery (X1) 0.825 Reliabel 3. Product Quality (X2) 0,847 Reliabel Sumber: Data yang diolah 2023 Dari tabel 3 di atas, terlihat bahwa semua variabel memiliki nilai Cronbach’s Alpha lebih besar dari 0.60. Maka dapat disimpulkan bahwa semua variabel dalam penelitian ini adalah reliabel. Uji Multikolinearitas Pengujian adanya multikolinearitas ini dapat dilakukan dengan melihat nilai toleransi diatas 0,1 dan VIF nya lebih kecil dari 10. Maka tidak ada kecenderungan terjadi gejala multikolinearitas.. Tabel 5 Hasil Uji Multikolinearitas No Variabel Tolerance VIF Keretengan 1. Service Recovery (X1) 0,484 2,067 Non Multikolinearitas 2. Product Quality (X2) 0,484 2,067 Non Multikolinearitas Sumber: Data yang diolah 2023 Berdasarkan Tabel 5 diatas terlihat bahwa semua variabel mempunyai nilai toleransi diatas 0.1 dan nilai VIF dibawah 10, dengan demikian dapat disimpulkan bahwa variabel pada penelitian ini bebas multikolinieritas. Uji Asumsi Klasik Uji Normalitas Uji normalitas ini dilakukan dengan menggunakan uji one sample Kolmogorov- Smirnov dengan bantuan SPSS for Windows versi 24. Data dikatakan terdistribusi normal jika nilai p > 0,05. Berdasarkan tabel output SPSS tersebut, diketahui bahwa nilai Asymp. Sig. (2- tailed) sebesar 0.200 lebih besar dari 0.05. Maka sesuai dengan dasar pengambilan keputusan dalam uji normalitas Kolmogorov-Smirnov diatas dapat disimpulkan bahwa data berdistribusi normal. 250 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Tabel 4 Hasil Uji Normalitas One-Sample Kolmogorov-Smirnov Test Unstandardized Residual N 120 Normal Parametersa,b Mean 0,0000000 Std. Deviation 2,64002435 Most Extreme Differences Absolute 0,114 Positive 0,103 Negative -0,114 Test Statistic 0,114 Asymp. Sig. (2-tailed) ,200c,d a. Test distribution is Normal. b. Calculated from data. c. Lilliefors Significance Correction. d. This is a lower bound of the true significance. Sumber: Data yang diolah 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Tabel 4 Hasil Uji Normalitas One-Sample Kolmogorov-Smirnov Test Unstandardized Residual N 120 Normal Parametersa,b Mean 0,0000000 Std. Deviation 2,64002435 Most Extreme Differences Absolute 0,114 Positive 0,103 Negative -0,114 Test Statistic 0,114 Asymp. Sig. (2-tailed) ,200c,d a. Test distribution is Normal. b. Calculated from data. c. Lilliefors Significance Correction. d. This is a lower bound of the true significance. Sumber: Data yang diolah 2023 Uji Heterokedastistas Adapun hasil uji statistic heterokedastistas yang diperoleh dalam penelitian ini adalah sebagai berikut: Gambar 1 Hasil Uji Heterokedastisitas 251 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Data Analisis Uji Heterokedastisitas dengan grafik plot adalah jika titik dalam grafik tersebar (tidak membentuk pola) maka tidak terjadi Heterokodesitas. Berdasarkan gambar tersebut dapat dilihat bahwa titik-titik yang ada tidak membentuk pola teratur. Sehingga dapat disimpulkan bahwa pada data dalam penelitian ini tidak terjadi Heterokodesitas. Artinya dalam fungsi regresi dipenelitian ini tidak muncul gangguan karena varian yang tidak sama. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Data Analisis Uji Heterokedastisitas dengan grafik plot adalah jika titik dalam grafik tersebar (tidak membentuk pola) maka tidak terjadi Heterokodesitas. Berdasarkan gambar tersebut dapat dilihat bahwa titik-titik yang ada tidak membentuk pola teratur. Sehingga dapat disimpulkan bahwa pada data dalam penelitian ini tidak terjadi Heterokodesitas. Artinya dalam fungsi regresi dipenelitian ini tidak muncul gangguan karena varian yang tidak sama. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Koefisien Determinasi (R2) Berdasarkan tabel 7 berikut, dapat diketahui bahwa nilai Adjusted R square yang diguunakan untuk mengukur seberapa jauh kemampuan model dalam menerangkan variasi variabel dependen 0,741. Hal ini menunjukkan bahwa sebesar 74,1% Customer Retention (Y) pada PT. Bintang Motor Kota Bengkulu dipengaruhi oleh variasi kedua variabel independen, yaitu Service Recovery (X1), dan Product Quality (X2), sedangkan sisanya (100% – 74,1% = 25,9 %) dijelaskan oleh variabel – variabel diluar variabel penelitian ini. Tabel 7 Tabel 7 Nilai Koefisien Determinasi Hasil Penelitian Model Summaryb Model R R Square Adjusted R Square Std. Error of the Estimate 1 ,863a 0,745 0,741 1,144 a. Predictors: (Constant), Product Quality (X2), Service Recovery (X1) b. Dependent Variable: Custumer Retention (Y) Sumber: Output SPSS 24 yang diolah, 2023 Regresi Linier Berganda Ringkasan hasil pengolahan data dengan menggunakan program SPSS tersebut dapat dilihat pada tabel berikut ini: Ringkasan hasil pengolahan data dengan menggunakan program SPSS tersebut apat dilihat pada tabel berikut ini: Tabel 6 Tabel 6 Regresi Linier Berganda Coefficientsa Model Unstandardized Coefficients Standardized Coefficients t Sig. B Std. Error Beta 1 (Constant) 1,151 0,659 1,747 0,083 Service Recovery (X1) 0,683 0,063 0,723 10,782 0,000 Product Quality (X2) 0,110 0,041 0,182 2,715 0,008 a. Dependent Variable: Custumer Retention (Y) Sumber: Data yang diolah 2023 Dari perhitungan menggunakan SPSS versi 24 for Windows didapat persamaan regresinya adalah: Angka tersebut masing-masing secara ekonomis dapat dijelaskan sebagai beriku 1. Nilai konstanta 1,151 mempunyai arti bahwa apabila variabel Service Recovery (X1), dan Product Quality (X2) terhadap Custumer Retention (Y), sama dengan nol maka variabel Kinerja Karyawan akan tetap yaitu 1,151. Apabila variabel Recovery (X1), dan Product Quality (X2) sama denggan nol. 2. Koefisien regresi variabel Service Recovery (X1) sebesar 0,683 mempunyai makna bahwa apabila Recovery (X1) ditingkatkan satu satuan, maka akan meningkatkan Custumoer Retention (Y) pada PT. Bintang Motor Kota Bengkulu sebesar 0,683 dengan asumsi variabel Product Quality (X2) dianggap tetap. 3. Koefisien regresi variabel Product Quality (X2) sebesar 0.110 mempunyai makna bahwa apabila Product Quality (X2) ditingkatkan satu satuan, maka akan meningkatkan Customer Retention (Y) pada PT. Bintang Motor Kota Bengkulu sebesar 0,110 dengan asumsi variabel Service Recovery (X1) dianggap tetap. 252 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 p p p 2. Pengaruh Product Quality (X2) terhadap Customer Retention (Y) Uji T (Parsial) j ( ) Untuk menguji pengaruh variabel bebas secara parsial terhadap variabel terikat digunakan uji t sebagai berikut: Tabel 8 Uji T (Uji Secara Parsial) Coefficientsa Model Unstandardized Coefficients Standardized Coefficients t Sig. B Std. Error Beta 1 (Constant) 1,151 0,659 1,747 0,083 Service Recovery (X1) 0,683 0,063 0,723 10,782 0,000 Product Quality (X2) 0,110 0,041 0,182 2,715 0,008 a. Dependent Variable: Custumer Retention (Y) Sumber: Data yang diolah 2022 Tabel 8 Berdasarkan hasil uji statistik t pada tabel 4.14 di atas dapat diartikan bahwa 1. Pengaruh Service Recovery (X1) terhadap Customer Retention (Y) 1. Pengaruh Service Recovery (X1) terhadap Customer Retention (Y) Tabel di atas menunjukkan hasil uji thitung > ttabel variable Service Recovery (X1) terhadap Customer Retention (Y) yaitu sebesar 10,782 > 1,980. Hal ini berarti bahwa hipotesis pertama dalam penelitian ini diterima. 2. Pengaruh Product Quality (X2) terhadap Customer Retention (Y) Tabel di atas menunjukkan hasil uji thitung > ttabel variable Product Quality (X2) 2. Pengaruh Product Quality (X2) terhadap Customer Retention (Y) Tabel di atas menunjukkan hasil uji thitung > ttabel variable Product Quality (X2) g y p Tabel di atas menunjukkan hasil uji thitung > ttabel variable Product Quality (X 253 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis terhadap Customer Retention (Y) yaitu sebesar 2,715 > 1,980. Hal ini berarti bahwa hipotesis kedua dalam penelitian ini diterima. Uji F (Simultan) Dalam penelitian ini pengujian hipotesis dimaksudkan untuk mengukur besarnya pengaruh Service Recovery (X1), dan Product Quality (X2) terhadap Customer Retention (Y), maka digunakan uji f. Berdasarkan hasil pengujian hipotesis Uji anova atau Uji f terlihat pada tabel sebagai berikut: Tabel 9 Uji F (Uji Secara Similtan) ANOVAa Model Sum of Squares df Mean Square F Sig. 1 Regression 447,977 2 223,988 171,268 ,000b Residual 153,015 117 1,308 Total 600,992 119 a. Dependent Variable: Custumer Retention (Y) b. Predictors: (Constant), Product Quality (X2), Service Recovery (X1) Sumber: Output SPSS 24 yang diolah, 2023 Dari tabel di atas dapat dilihat bahwa nilai signifikansi F yaitu 0,000 < 0,050 dan Fhitung > Ftabel, 171,268 > 3,07, dari hasil pengelolaan data maka dapat disimpulkan bahwa semua variabel independen yaitu variabel (Service Recovery dan Product Quality) secara simultan atau bersama-sama berpengaruh signifikan terhadap variabel dependen yaitu Customer Retention (Y). Hal ini berarti Ho ditolak dan Ha diterima. Maka dapat disimpulkan bahwa hipotesis ketiga dalam penelitian ini diterima. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Pembahasan Pengaruh Service Recovery Terhadap Customer Retention Pengaruh Service Recovery Terhadap Customer Retention Hasil penelitian menyatakan bahwa adanya pengaruh variabel Service Recovery (X1) terhadap Customer Retention (Y) pada PT. Bintang Motor Kota Bengkulu. Hal ini berarti bahwa hipotesis pertama dalam penelitian ini diterima. dengan nilai probability Sig. 0,000 < 0,05. Hal ini berarti bahwa hipotesis pertama dalam penelitian ini diterima. Dengan adanya perbaikan pelayanan yang dilakukan perusahaan secara berkala akan mampu menumbuhkan customer retention yang semakin kuat terhadap perusahaan. p y g p p Hasil penelitian ini sejalan dengan teori menurut (A., Zeithaml & Berry, 2018) perbaikan layanan atau service recovery ini adalah tindakan yang diambil oleh perusahaan ketika mengalami kegagalan jasa atau service failure. Recovery adalah berbagai hal yang akan dilakukan oleh perusahaan setelah terjadinya suatu kegagalan pada jasa pelayanan (service failure). Kegagalan layanan atau service failure terjadi ketika jasa yang diterima dipersepsikan tidak sesuai dengan harapan pelanggan (Bateson & Hoffman, 2017), terdapat lima kategori strategi pemulihan layanan. Kategori pertama 254 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis adalah strategi kompensasi, strategi kompensasi yang dilakukan dengan memberikan kompensasi kepada pelanggan untuk mengkompensasi kerugian pelanggan, biaya emosional, biaya moneter, dan biaya kehilangan waktu yang disebabkan oleh kegagalan layanan. Kategori kedua adalah strategi restorasi, yaitu strategi pemulihan yang ditawarkan kepada pelanggan untuk mengkompensasi kondisi saat ini dengan beberapa cara, yaitu memberikan layanan baru sebagai pengganti layanan yang gagal, memperbaiki layanan yang terputus, dan kemudian menyerahkannya kembali ke pelanggan dan menyediakan substitusi untuk layanan saat ini. Hasil penelitian ini diperkuat dengan penelitian yang dilakukan (Rahwati & Fadila, 2022) hasil penelitian menunjukkan bahwa service recovery berpengaruh positif dan signifikan terhadap customer retention penggunaan Lazada. adalah strategi kompensasi, strategi kompensasi yang dilakukan dengan memberikan kompensasi kepada pelanggan untuk mengkompensasi kerugian pelanggan, biaya emosional, biaya moneter, dan biaya kehilangan waktu yang disebabkan oleh kegagalan layanan. Kategori kedua adalah strategi restorasi, yaitu strategi pemulihan yang ditawarkan kepada pelanggan untuk mengkompensasi kondisi saat ini dengan beberapa cara, yaitu memberikan layanan baru sebagai pengganti layanan yang gagal, memperbaiki layanan yang terputus, dan kemudian menyerahkannya kembali ke pelanggan dan menyediakan substitusi untuk layanan saat ini. Hasil penelitian ini diperkuat dengan penelitian yang dilakukan (Rahwati & Fadila, 2022) hasil penelitian menunjukkan bahwa service recovery berpengaruh positif dan signifikan terhadap customer retention penggunaan Lazada. Pengaruh Product Quality Terhadap Customer Retention Pengaruh Product Quality Terhadap Customer Retention Hasil penelitian menyatakan bahwa adanya pengaruh variabel Product Quality (X2) terhadap Customer Retention (Y) pada PT. Bintang Motor Kota Bengkulu. Hal ini berarti bahwa hipotesis kedua dalam penelitian ini diterima. dengan nilai probability Sig. 0,008 < 0,05. Hal ini berarti bahwa hipotesis kedua dalam penelitian ini diterima. Dengan adanya kualitas produk yang baik akan mampu menarik minat konsumen terhadap setiap produk yang ditawarkan sehingga customer retention dapat meningkat. p p p y g gg p g Hasil penelitian ini sejalan dengan teori menurut (Philip Kotler & Armstrong, 2008), kualitas produk adalah kemampuan sebuah produk dalam memperagakan fungsinya, hal itu termasuk durabilitas, reliabilitas, ketepatan, kemudahan pengoperasian dan reparasi produk juga atribut produk lainnya. Menurut (Setiawati, 2016), kualitas produk dinyatakan sebagai berikut, kualitas adalah totalitas fitur dan karakteristik dari produk atau jasa yang menanggung pada kemampuannya untuk memuaskan kebutuhan yang dinyatakan atau tersirat. y Hasil penelitian ini diperkuat dengan penelitian yang dilakukan (Rahwati & Fadila, 2022) hasil penelitian menunjukkan bahwa product quality berpengaruh positif dan signifikan terhadap customer retention penggunaan Lazada. Menurut Hening P, et.al, (2022) menunjukkan hasil penelitian bahwa kualitas produk mempunyai pengaruh positif terhadap customer retention Pengaruh Service Recovery dan Product Quality Terhadap Customer Retention Hasil penelitian menyatakan bahwa adanya pengaruh variabel Service Recovery (X1) dan Product Quality (X2) Customer Retention (Y) pada PT. Bintang Motor Kota Bengkulu. Hal ini berarti bahwa hipotesis ketiga dalam penelitian ini diterima. Service Recovery dan Product Quality sangat lah penting bagi perusahaan untuk selalu memperhatikan kedua faktor tersebut, sehingga dapat menumbuh kembangkan customer retentio konsumen terhadap kemajuan perusahaan. Hasil penelitian ini sejalan dengan teori menurut (A., Zeithaml & Berry, 2018) perbaikan layanan atau service recovery ini adalah tindakan yang diambil oleh perusahaan ketika mengalami kegagalan jasa atau service failure. Recovery adalah berbagai hal yang akan dilakukan oleh perusahaan setelah terjadinya suatu kegagalan pada jasa pelayanan (service failure). Kegagalan layanan atau service failure terjadi 255 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis ketika jasa yang diterima dipersepsikan tidak sesuai dengan harapan pelanggan. ketika jasa yang diterima dipersepsikan tidak sesuai dengan harapan pelanggan. Menurut (Philip Kotler & Armstrong, 2008), kualitas produk adalah kemampuan sebuah produk dalam memperagakan fungsinya, hal itu termasuk durabilitas, reliabilitas, ketepatan, kemudahan pengoperasian dan reparasi produk juga atribut produk lainnya. Pengaruh Product Quality Terhadap Customer Retention Hasil penelitian ini diperkuat dengan penelitian yang dilakukan (Rahwati & Fadila, 2022) hasil penelitian menunjukkan bahwa service recovery dan product quality berpengaruh positif dan signifikan terhadap customer retention penggunaan Lazada. Kesimpulan Berdasarkan hasil penelitian dan pembahasan tentang Pengaruh Service Recover (X ) d P d Q li (X ) h d C R i (Y) d PT Bi Berdasarkan hasil penelitian dan pembahasan tentang Pengaruh Service Recovery X1) dan Product Quality (X2) terhadap Customer Retention (Y) pada PT. Bintang Berdasarkan hasil penelitian dan pembahasan tentang Pengaruh Service Recovery (X1) dan Product Quality (X2) terhadap Customer Retention (Y) pada PT. Bintang Motor Kota Bengkulu, maka dapat disimpulkan bahwa: Motor Kota Bengkulu, maka dapat disimpulkan bahwa: 1. Service Recovery berpengaruh positif terhadap Customer Retention pada PT Bintang Motor Kota Bengkulu. 2. Insentif berpengaruh psitif terhadap Customer Retention pada PT. Bintang Motor Kota Bengkulu. 3. Hasil penelitian membuktikan bahwa terdapat pengaruh yang positif dan signifikan antara Service Recovery (X1) dan Product Quality (X2) terhadap Customer Retention pada PT. Bintang Motor Kota Bengkulu. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 25 Saran Berdasarkan hasil penelitan, pembahasan dan kesimpulan yang diperoleh, maka saran yang dapat diberikan sebagai berikut: 1. Hasil penelitian menunjukkan adanya pengaruh antara variabel Srvice Recovery (X1) terhadap Customer Retention (Y) pada PT Sinar Mitra Sepadan Finance Kota Bengkulu. Variabel Srvice Recovery yang ada pada PT Bintang Motor Kota Bengkulu sudah pada Kategori baik. Agar lebih baik lagi disarankan kepada PT Bintang Motor Kota Bengkulu agar lebih memperhatikan ketika sedang menghadapi komplain dari konsumen sehingga tidak ada lagi karyawan yang bertindak tidak sopan kepada konsumen. 2. Hasil penelitian terlihat bahwa pada Product Quality (X2) yang diberikan oleh PT Bintang Motor Kota Bengkulu sudah cukup baik. Untuk lebih baiknnya lagi disarankan kepada PT Bintang Motor Kota Bengkulu agar selalu memberikan deskripsi perihal kualitas produk yang sedang ditawarkan sehingga konsumen mudah mengeri dan percaya akan kualitas produk yang ada di PT. Bintang Motor Kota Bengkulu. 3. Hasil penelitian terlihat bahwa variabel Customer Retention (Y) pada PT. Bintang Motor Kota Bengkulu sudah dalam kategori Baik. Akan tetapi agar lebih baik lagi dalam menumbuh kembangkan usahanya, PT PT. Bintang Motor Kota Bengkulu 256 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis harus memperbaiki lagi retensi kepada semua konsumen agar mampu menarik konsumen menjadi pelanggan tetap dan selalu melakukan transaksi pembelian roda dua di PT. Bintang Motor Kota Bengkulu. 4. Disarankan bagi peneliti selanjutnya khususnya penelitian yang sama perlu dipertimbangkan untuk faktor-faktor lain diluar variabel Service Recovery, dan Product Quality terhadap Customer Retention sehingga akan menghasilkan penelitian yang lebih baik. DAFTAR RUJUKAN J A., Zeithaml, V. A., & Berry, L. L. (2018). Servqual: A Multiple Item Scale For Measuring Consumer Perceptions Of Service Quality. Journal of Retaling, 64(1), 12. Amstrong, G., & Philip, K. (2012). Dasar-Dasar Pemasaran. Jilid I, Alih Bahasa Alexander Sindoro dan Benyamin Molan. Prenhalindo. As, P., Cabanela, P., Rüdiger, K., & Lampón, J. F. (2017). Value Cocreation, Dynamic Capabilities and Customer Retention in Industrial Markets. Journal of Business & Industrial Marketing, 32(3). Bateson, & Hoffman, K. D. (2017). Services Marketing: Concepts, Strategies & Cases Fifth Edition. USA Cengage Learnin. Chang, J. (2019). Pengaruh Kualitas Produk Dan Promosi Terhadap Keputusan Pembelian Pada PT Sinar Global Sukses. Manajemen, Jurnal Ekonomi, 5(November), 94–101. Chueh, T. Y., Wang., J. H., & Liao, H. H. (2014). Effects of Service Recovery on Customer Satisfaction and Relationship Retention in Catering Industry. The Anthropologist, 17(3), 857–863. Coussement, K. (2014). Improving Customer Retention Management through Cost- Sensitive Learning. European Journal of Marketing, 48(3/4), 477–478. https://doi.org/10.1108/EJM03-2012-0180 Danesh, S, N., Nasab, S, A., & Choon, K. L. (2012). The Study of Customer Satisfaction, Customer Trust and Switching Barriers on Customer Retention in Malaysia Hypermarkets. International Journal of Business & Manaigement, 7, 141–150. Ekowati, S., & Finthariasari, M. (2020). Pengaruh Harga Dan Promosi Terhadap Keputusan Pembelian Produk Pada Eleven Cafe Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen, Dan Ekonomi Islam, 1(1). http://jurnal.umb.ac.id/index.php/jamekis Finthariasari, M., Ekowati, S., & Krisna, R. (2020). Pengaruh Kualias Produk, Display Layout, Dan Variasi Produk Terhadap Kepuasan Konsumen. Jurnal Ekombis Review: Jurnal Ilmiah Ekonomi Dan Bisnis, 8(2), 149–159. https://journal.stekom.ac.id/index.php/E-Bisnis/article/view/78 Finthariasari, M., Ekowati, S., Ranidiah, F., Yuniarti, R., & Muchlis. (2020). Pengaruh Work-Family Conflict Terhadap Turnover Intention Melalui Komitmen Organisasi. Ekuitas: Jurnal Ekonomi Dan Keuangan, 4(3), 421–438. 257 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis https://doi.org/10.24034/j25485024.y2020.v4.i3.4584 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu THE INFLUENCE OF LIFESTYLE AND HALAL LABEL ON THE PURCHASE DECISION Ema Yara1, Meiffa Herfianti 2 Universitas Muhammadiyah Bengkulu1-2 emayara970@gmail.com1, meiffaherfianti@gmail.com2 Perumahan Raflessia Asri,Betungan Kec. Selebar, Kota Bengkulu Corresponding email: emayara970@gmail.com The purpose of this research is to find out whether lifestyle and the Halal label affect purchasing decisions. The sample of this research was Management Study Program students at the University of Muhammadiyah Bengkulu, totaling 90 respondents. Observation data collection techniques, documentation and questionnaires. The data that has been processed is analyzed using the SPSS 24 Lifestyle formula (X_1) and the Halal Label (X_2) which together significantly influence Purchase Decisions (Y) for Class 2019 Students of the Management Study Program, Faculty of Economics and Business. Based on the correlation coefficient test, it is obtained that the value of R = 0.526 and the coefficient of determination R^2 = 0.277 value means that Lifestyle (X_1) and Halal Label (X_2) contribute an influence of 0.277 or 27.7% to Purchase Decisions (Y) in Students Class of 2019 Management Study Program Students, Faculty of Economics and Business. while the remaining 0.723 or 72.3% is influenced by other variables not included in this study. Riwayat Artikel: Diterima : 13 Juni 2023 Direvisi : 26 Juli 2023 Disetujui : 28 Juli 2023 Keywords: Lifestyle, Halal Label, purchasing decision Keywords: Lifestyle, Halal Label, purchasing decision Kata kunci: Gaya hidup, Label Halal, keputusan pembelian https://doi.org/10.24034/j25485024.y2020.v4.i3.4584 Juhana, D. (2018). Pengaruh Kualitas Produk Dan Promosi Terhadap. Jurnal Ekonom Bisnis & Entrepreneurship, 12(1), 77–88. p p, ( ), Kotler, & Amstrong. (2018). Prinsip-prinsip Marketing (7th ed.). Salemba Empat. Kotler, P. (2019). Manajemen Pemasaran (Milenium). Prenhalindo. Kotler, P. (2019). Manajemen Pemasaran (Milenium). Prenhalindo. Kotler, P., & Keller, K. L. (2016). Manajemen Pemasaran edisi 12 Jilid 1& 2. P Indeks. Kotler, Philip, & Amstrong. (2017). Manajemen Pemasaran. Indeks. Kurnianingsih, W., & Sugiyanto. (2020). Pengaruh Kualitas Produk Dan Promosi Penjualan Terhadap Keputusan Pembelian Pada Pt. Nestle Indonesia. Respositari, 1(1), 510–524. ( ) Laksana, M. F. (2019). Praktis Memahami Manajemen Pemasaran. CV.Al Fath Zuma Rahwati, S., & Fadila, A. (2022). Pengaruh Service Recovery dan Online Customer Review Terhadap Kepuasan Pengguna Lazada Mahasiswa Universitas Singaperbangsa Karawang Dosen Universitas Singaperbangsa Karawang Teknologi dalam aktivitas pada masa ini pertumbuhan pengguna internet yang terus. Jurnal Ilmiah Wahana Pendidikan, 8(12), 613–618. https://doi.org/https://doi.org/10.5281/zenodo.7518834 p g p g Sajadi, R. E., & Bohrer, L. (2017). The impact of service recovery output/process on costumer satisfaction and loyalty: The case of the airlane indstry. Tourism and Hospitality Research. Sari, D. A. T., & Giantari, I. G. A. K. (2020). Role of Consumer Satisfaction in Mediating Effect of Product Quality on Repurchase Intention. International Research Journal of Management, IT and Social Sciences, 7(1), 217–226. Schiffman, L. G., & Wisenblit, J. (2019). Consumer Behavior Global Edition (Global, Ed.; 20th ed.). Pearson. Setiawati, B. (2016a). Pengaruh Kualitas Produk Dan Promosi Terhadap Keputusan Pembelian Kerupuk Rambak “Dwijoyo” Di Desa Penanggulan Kec.Pegandon Kab. Kendal. Fakultas Ekonomi Manajemen, S1. Setiawati, B. (2016b). Pengaruh Kualitas Produk Dan Promosi Terhadap Keputusan Pembelian Kerupuk Rambak “Dwijoyo” Di Desa Penanggulan Kec.Pegandon Kab. Kendal. Fakultas Ekonomi Manajemen, S1. j Sugiyono. (2018). Metode Penelitian Kombinasi (Mixed Methods). Alfabeta. Tjiptono, F. (2018). Pemasaran Jasa, Prinsip, Penerapan,dan Penelitian. And Tjiptono, F. (2018). Pemasaran Jasa, Prinsip, Penerapan,dan Penelitian. Andi. 258 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis ABSTRAK Tujuan dari penelitian ini adalah untuk mengetahui apakah gaya hidup dan label Halal berpengaruh terhadap kerputusan pembelian. Sampel penelitian ini adalah mahasiswa prodi Manajemen Universitas Muhammadiyah Bengkulu berjumlah 90 orang responden. Teknik pengumpulan data observasi, dokumentasi dan kuesioner. Data yang telah diolah 259 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis dianalisis menggunakan rumus SPSS 24 Gaya Hidup (X1) dan Label Halal (X2) secara bersama-sama berpengaruh secara signifikan terhadap Keputusan Pembelian (Y) pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. Berdasarkan uji koefisien korelasi didapat nilai R= 0,526 dan koefisien determinasi R2 = 0,277 nilai mempunyai makna bahwa Gaya Hidup (X1) dan Label Halal (X2) memberikan kontribusi pengaruh sebesar 0,277 atau 27,7% terhadap Keputusan Pembelian (Y) pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. sedangkan sisanya sebesar 0.723 atau 72.3% dipengaruhi oleh variabel-variabel lain yang tidak termasuk dalam penelitian ini. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Di era teknologi dan informasi yang berkembang pesat saat ini, dimana segala sesuatu mulai di tuntut untuk berkreasi dan berinofasi dalam berbagai aspek guna semata-mata untuk memajukan peradaban umat manusia. Hal ini tentunya di latar belakangi dengan berkembangnya ilmu pengetahuan yang implementasi nyatanya menjadi sebuah faktor penting dalam penciptaan teknologi dan informasi itu sendiri. Konsumsi masyarakat terhadap berbagai produk yang dimaksud cenderung terus meningkat, seiring dengan perubahan gaya hidup masyarakat termasuk pola konsumsinya. Sementara itu pengetahuan masyarakat masih belum memadai untuk dapat memilih dan menggunakan produk secara tepat, benar dan aman. Di lain pihak iklan dan promosi secara gencar mendorong konsumen untuk mengkonsumsi secara berlebihan dan seringkali tidak rasional. Keputusan pembelian merupakan suatu konsep dalam perilaku pembelian dimana konsumen memutuskan untuk bertindak atau melakukan sesuatu dan dalam hal ini melakukan pembelian ataupun memanfaatkan produk atau jasa tertentu (Balawera, 2013). Pengambilan keputusan konsumen pada dasarnya merupakan proses pemecahan masalah. Peneliti menggunakan variabel keputusan pembelian ini karena studi tentang keputusan pembelian masih layak untuk diteliti mengingat semakin banyaknya produk yang beredar mengakibatkan perlunya berbagai pertimbangan bagi masyarakat dalam melakukan keputusan pembelian. Kebanyakan konsumen, baik konsumen individu maupun pembeli organisasi melalui proses mental yang hampir sama dalam memutuskan produk dan merek apa yang akan dibeli (Yulindo, 2013). Keputusan pembelian konsumen dapat dilakukan apabila produk tersebut sesuai dengan apa yang diinginkan dan dibutuhkan konsumen. Gaya hidup merupakan bagian dari ciri konsumen yang dapat menentukan perilaku konsumen. Menurut Rizky Hartono (2015), gaya hidup berkaitan dengan bagaimana orang membelanjakan uangnya, dan bagaimana mengalokasikan waktu atas produk yang dikonsumsinya. Menurut Kotler dan Keller, gaya hidup adalah pola hidup seseorang di dunia yang diekspresikan dalam aktifitas, minat dan opininya. Gaya hidup 260 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis menunjukan keseluruhan diri seseorang dalam berinteraksi dengan lingkungannya. Gaya hidup menggambarkan seluruh pola seseorang dalam beraksi dan berinteraksi di dunia (Kotler et al., 2008). Sedangkan menurut Setiadi gaya hidup adalah secara luas diidentifikasikan sebagai cara hidup yang diidentifikasikan oleh bagaimana orang menghabiskan waktu mereka (aktifitas) apa yang mereka anggap penting dalam lingkungannya (ketertarikan), dan apa yang mereka pikirkan tentang diri mereka semdiri dan juga sekitarnya (Setiadi, 2010). menunjukan keseluruhan diri seseorang dalam berinteraksi dengan lingkungannya. PENDAHULUAN Gaya hidup menggambarkan seluruh pola seseorang dalam beraksi dan berinteraksi di dunia (Kotler et al., 2008). Sedangkan menurut Setiadi gaya hidup adalah secara luas diidentifikasikan sebagai cara hidup yang diidentifikasikan oleh bagaimana orang menghabiskan waktu mereka (aktifitas) apa yang mereka anggap penting dalam lingkungannya (ketertarikan), dan apa yang mereka pikirkan tentang diri mereka semdiri dan juga sekitarnya (Setiadi, 2010). j g y ( ) Selain gaya hidup, tren masa kini yang ada pada kalangan penduduk Indonesia dalam melakukan keputusan pembelian adalah Label halal. Menurut sertifikat label halal adalah fatwa tertulis Majelis Ulama Indonesia yang diberikan kepada perusahaan yang mengajukan uji kehalalan produk. Pencantuman label halal bertujuan agar konsumen mendapatkan perlindungan kehalalan dan kenyamanan atas pemakaian produk tersebut (Eka Dewi Setia Tarigan, 2016). Dengan demikian Label Halal dapat diartikan sebagai sebuah gambar atau tampilan yang dicantumkan dalam produk dengan tujuan memberikan informasi yang dibutuhkan oleh konsumen (Yuswohady, 2015). Salah satu produk yang berkualitas, familiar di telinga, dan juga sudah tersebar di segala penjuru di Indonesia yaitu Wardah. merupakan salah satu brand kosmetik dan skincare di Indonesia yang terkenal dengan produknya yang terjamin halal. Produk Wardah sendiri cukup bervariasi dan dapat dipilih berdasarkan kebutuhan. Mulai dari makeup, skincare, parfum, perawatan rambut hingga perawatan tubuh. Harga produk Wardah yang cukup terjangkau juga jadi salah satu alasan lainnya banyak orang menyukainya. Mau beli produk Wardah? Temukan informasi mengenai produk Wardah yang terbaru dan terlengkap beserta daftar harga Wardah yang paling update hanya di iPrice Indonesia. Dari observasi awal yang dilakukan dengan konsumen wardah yang dilakukan pada tanggal 5 November 2022, didapatkan informasi bahwa keputusan pembelian konsumen terhadap produk wardah menurun. Dari informasi yang didapat dari konsumen masih kurang logo halal sehingga menyebabkan pelanggan akan ragu untuk menggunakan. Menggunakan produk yang berkualitas bagus dan harga yang sesuai serta dengan melihat teman –teman yang menggunakan sering kali menjadikanya sebagi tren. Gaya hidup mahasiswi Prodi Manajmen Angkatan 2019 Fakultas Ekonomi dan Bisnis Universitas Muhammadiyah Bengkulu dalam berpenampilan cantik menurut mereka merupakan modal awal dan salah satu faktor yang mendukung kepercayaan diri yang mereka miliki sehingga harus tetap dijaga dan dirawat. Melihat penampilan mahasiswi Manajmen Angkatan 2019 Fakultas Ekonomi dan Bisnis Universitas Muhammadiyah Bengkulu melihat penampilan yang mewah,cantik modern dan modis dibandingkan dengan mahasiswi Prodi yang lain. Terlihat dari tampilan mereka yang pergi ke kampus selalu memakai riasan wajah seperti bedak mascara,pelembab bibir dll. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Gaya Hidup Gaya hidup merupakan bagian dari ciri konsumen yang dapat menentukan perilaku konsumen. Menurut (Mowen J & Minor M, 2002), gaya hidup berkaitan dengan bagaimana orang membelanjakan uangnya, dan bagaimana mengalokasikan waktu atas produk yang dikonsumsinya. Menurut Mowen (2002), psikografik berarti menggambarkan (graph) psikologi konsumen (phyco). Psikografik sering diartikan sebagai pengukuran AIO (activity, interest, opinion) yang menjadi bagian daripada psikologi konsumen. Sedangkan menurut (Sumarwan, 2004; Finthariasari, 2022) gaya hidup merupakan pola hidup seseorang yang dinyatakan dalam kegiatan, minat dan pendapatnya dalam membelanjakan uangnya dan mengalokasikan Bagian ini menyertakan rujukan baik teori maupun penelitian sebelumnya yang diambil dari jurnal jurnal mutakhir. Minimal 10-15 penelitian yang kredibel harus dicantumkan di sini. waktu yang dimilikinya. Peranan dalam penelitian yang dilakukan terhadap gaya hidup adalah terdapat pengaruh yang signifikan terhadap keputusan pembelian, hal ini dari hasil penelitian yang dilakukan bahwa gaya hidup sangat mendukung dalam peningkatan keputusan pembelian bagi konsumen terutama dalam hal peningkatan kualitas produk, sistem pelayanan yang diberikan, ketersedian produk serta kenyamanan dalam penggunaan produk dan didukung gaya hidup yang sesuai oleh meningkatkan keputusan pembelian konsumen. Keputusan Pembelian Keputusan pembelian yaitu sebuah pendekatan penyelesaian masalah pada kegiatan manusia untuk membeli suatu barang atau jasa dalam memenuhi keinginan dan kebutuhannya yang terdiri dari pengenalan kebutuhan dan keinginan, pencarian informasi, evaluasi terhadap alternatif pembelian, keputusan pembelian dan tingkah 261 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis laku setelah pembelian (Swastha Basu, 2008). Keputusan pembelian konsumen membentuk preferensi antar merek dalam kumpulan pilihan, konsumen mungkin juga membentuk maksud untuk membeli merek yang paling disukai (Kotler & Keller, 2009). laku setelah pembelian (Swastha Basu, 2008). Keputusan pembelian konsumen membentuk preferensi antar merek dalam kumpulan pilihan, konsumen mungkin juga membentuk maksud untuk membeli merek yang paling disukai (Kotler & Keller, 2009). Menurut Ekowati & Finthariasari (2020), Rahmawati & Finthariasari (2021), Sumarwan Ujang (2011), mendefinisikan pengertian suatu keputusan sebagai pemilihan suatu tindakan dari dua arah atau lebih alternatif. Menurut (Nurul Yusna Yunus, 2021), penelitian ini bertujuan untuk menguji pengaruh gaya hidup terhadap keputusan pembelian kosmetik may belline pada mahasiswi Fakultas Ekonomi dan Bisnis Islam Insitut Agama Islam Negeri Manado. Metode yang digunakan metode kuantitatif deskriptif. Sumber data penelitian ini adalah mahasiswi Fakultas Ekonomi dan Bisnis Islam Insitut Agama Islam Negeri Manado dengan menggunakan teknik pengumpulan melalui Observasi dan Kuesioner. Teknik analisis data yang digunakana dalah regresi linear sederhana dan data penelitian ini di olah menggunakan SPSS versi 25. Hasil penelitian ini menunjukan bahwa gaya hidup berpengaruh positif terhadap keputusan pembelian, hal ini dibuktikan melalui hasil analisis menggunakan teknik koefisien determinasi (R) 0,128 atau 12,8% hal ini berarti bahwa pengaruh gaya hidup terhadap keputusan pembelian sebesar 12,8% sedangkan sisanya 87,2% pengaruh faktor lain yang tidak diteliti dalam penelitian ini. Selain itu, berdasarkan nilai signifikan dari tabel Coefficients diperoleh nilai signifikansi sebesar 0,001<0,05, maka Ho ditolak dan Ha diterima.Berdasarkan hasil penelitian ini disimpulkan bahwa Gaya Hidup berpengaruh signifikan terhadap Keputusan Pembelian. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Label Halal Labelisasi halal adalah pencantuman tulisan atau pernyataan halal pada kemasan produk untuk menunjukkan bahwa produk yang dimaksud berstatus sebagai produk halal (Rungkuti Freddy, 2012). Label halal sebuah produk dapat dicantumkan pada 262 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis sebuah kemasan apabila produk tersebut telah mendapatkan sertifikat halal oleh BPPOM MUI. Sertifikasi dan labelisasi halal bertujuan untuk memberikan kepastian hukum dan perlindungan terhadap konsumen, serta meningkatkan daya saing produk dalam negeri dalam rangka meningkatkan pendapatan nasional. Seritifikat produk halal adalah surat keputusan fatwa halal yang dikeluarkan Dewan Pimpinan MUI dalam bentuk sertifikat (Fandy Tjiptono, 2002)Peningkatan peranan gaya hidup diiringi dengan peningkatan peranan non fisik hal ini terbukti dari hasil penelitian bahwa pengaruh label halal berpengaruh terhadap keputusan pembelian hal ini berhubungan dengan keputusan pembelian yang secara tidak langsung oleh pemberian label halal dalam dorongan konsumen untuk melakukan keputusan pembelian, arahan yang baik dari perusahaan dalam peningkatan seperti penjualan, seperti layanan, informasi yang tepat bagi konsumen, pada mahasiswa angkatan 2019 Prodi Manajemen Fakultas Ekonomi dan Bisnis. Dalam ini sesuai dengan penelitian yang dilakukan Jihan Nabila Zahra, 2019, Nur Hayati, Linda Nurdayani, 2020 bahwa produk berlebel halal akan memberikan loyalitas dalam keputusan pembelian pelanggan. sebuah kemasan apabila produk tersebut telah mendapatkan sertifikat halal oleh BPPOM MUI. Sertifikasi dan labelisasi halal bertujuan untuk memberikan kepastian hukum dan perlindungan terhadap konsumen, serta meningkatkan daya saing produk dalam negeri dalam rangka meningkatkan pendapatan nasional. Seritifikat produk halal adalah surat keputusan fatwa halal yang dikeluarkan Dewan Pimpinan MUI dalam bentuk sertifikat (Fandy Tjiptono, 2002)Peningkatan peranan gaya hidup diiringi dengan peningkatan peranan non fisik hal ini terbukti dari hasil penelitian bahwa pengaruh label halal berpengaruh terhadap keputusan pembelian hal ini berhubungan dengan keputusan pembelian yang secara tidak langsung oleh pemberian label halal dalam dorongan konsumen untuk melakukan keputusan pembelian, arahan yang baik dari perusahaan dalam peningkatan seperti penjualan, seperti layanan, informasi yang tepat bagi konsumen, pada mahasiswa angkatan 2019 Prodi Manajemen Fakultas Ekonomi dan Bisnis. Dalam ini sesuai dengan penelitian yang dilakukan Jihan Nabila Zahra, 2019, Nur Hayati, Linda Nurdayani, 2020 bahwa produk berlebel halal akan memberikan loyalitas dalam keputusan pembelian pelanggan. METODE PENELITIAN Jenis penelitian yang digunakan dalam penelitian ini adalah penelitian kuantitatif. Metode penelitian kuantitatif merupakan salah satu jenis penelitian yang spesifikasinya adalah sistematis, terencana dan terstruktur dengan jelas sejak awal hingga pembuatan desain penelitiannya. Metode penelitian kuantitatif, sebagaimana dikemukakan oleh (Sugiyono, 2009) yaitu: “Metode penelitian yang berlandaskan pada filsafat positivisme, digunakan untuk meneliti pada populasi atau sampel tertentu, pengumpulan data menggunakan instrumen penelitian, analisis data bersifat kuantitatif/ statistik, dengan tujuan untuk menguji hipotesis yang telah ditetapkan”. g j g j p y g p Responden yang menjadi subjek pada penelitian ini Pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. Dari hasil pengunpulan data melalui koesioner terhadap 90 orang yang dijadikan responden penelitian, maka dapat diketahui karakteristik responden berdasarkan jenis kelamin. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 263 HASIL PENELITIAN DAN PEMBAHASAN Tabel 1 Uji multikolinieritas antara Gaya Hidup (X1) dan Label Halal (X2) dengan variabel Keputusan Pembelian (Y) No Variabel Tolerance VIF Keterangan 1 Gaya Hidup ,536 1,864 Non Multikolinieritas 2 Label Halal ,536 1,864 Non Multikolinieritas Sumber Penelitian 2023 Tabel 1 Uji multikolinieritas antara Gaya Hidup (X1) dan Label Halal (X2) dengan variabel Keputusan Pembelian (Y) Berdasarkan Tabel diatas terlihat bahwa semua variabel mempunyai nilai toleransi diatas 0,1 dan nilai VIF dibawah 10, dengan demikian dapat disimpulkan bahwa variabel pada penelitian ini bebas multikolinieritas. 263 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Analisis Regresi Linear Berganda Tabel 2 Hasil Analisis Regresi Linear Berganda Coefficientsa Model Unstandardized Coefficients Standardize d Coefficients T Sig. B Std. Error Beta 1 (Constant) 3,652 1,991 1,834 ,070 Gaya Hidup ,647 ,202 ,359 3,204 ,002 Label Halal ,530 ,173 ,343 3,056 ,003 a. Dependent Variable: Keputusan Pembelian Sumber: Output SPSS 24,0 Dari perhitungan hasil diatas didapatkan persamaan regresinya adalah sebagai berikut : Y = 3.652 + 0.647 (𝐗𝟏) + 0.530 (𝐗𝟐) Berdasarkan persamaan regresi diatas, maka dapat dijelaskan sebagai berikut : Y = 3.652 + 0.647 (𝐗𝟏) + 0.530 (𝐗𝟐) Berdasarkan persamaan regresi diatas, maka dapat dijelaskan sebagai berikut : Berdasarkan persamaan regresi diatas, maka dapat dijelaskan sebagai berikut : asarkan persamaan regresi diatas, maka dapat dijelaskan sebagai berikut : 1. Nilai Konstanta 3.652 mempunyai arti bahwa apabila variabel Gaya Hidup (X1), Label Halal (X2) terhadap Keputusan Pembelian (Y) sama dengan nol, maka variabel Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis, akan tetap yaitu 3.652. 2. Koefisien Regresi X1, sebesar 0.647 mempunyai makna jika nilai variabel Gaya Hidup (X1) naik satu satuan maka nilai Keputusan Pembelian (Y) akan naik sebesar 0.647 dengan asumsi variabel Label Halal (X2) dianggap tetap. 2. Koefisien Regresi X1, sebesar 0.647 mempunyai makna jika nilai variabel Gaya Hidup (X1) naik satu satuan maka nilai Keputusan Pembelian (Y) akan naik sebesar 0.647 dengan asumsi variabel Label Halal (X2) dianggap tetap. 3. Koefisien Regresi X2, sebesar 0.530 mempunyai makna jika nilai variabel Label Halal (X2) naik satu satuan maka nilai variabel Keputusan Pembelian (Y) pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis akan naik sebesar 0.530 dengan asumsi variabel Gaya Hidup (X1) dianggap tetap. 4. HASIL PENELITIAN DAN PEMBAHASAN Hasil penelitian yang paling dominan mempengaruhi variable Keputusan Pembelian (Y) adalah (X1), Variabel Gaya Hidup (X1) adalah sebesar 0.647 dan Variabel Label Halal (X2) adalah sebesar 0.530. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Pengujian Hipotesis Dengan Uji t Melalui perhitungan yang dilakukan dengan menggunakan program SPSS, maka perbandingan antara thit dengan ta/2 (n-k-1) = 90-2-1 = 87 (1.987) setiap variabel sebagai berikut : 1. Gaya Hidup yaitu thit>tα/2 (3.204 > 1.987) dan (sig 𝛼 = 0,002 < 0,050), hal tersebut menyatakan bahwa adanya pengaruh yang signifikan Gaya Hidup (X1) terhadap Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. 1. Gaya Hidup yaitu thit>tα/2 (3.204 > 1.987) dan (sig 𝛼 = 0,002 < 0,050), hal tersebut menyatakan bahwa adanya pengaruh yang signifikan Gaya Hidup (X1) terhadap Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. 2. Berdasarkan uji thit untuk variabel Label Halal (X2) yaitu thit>tα/2 (3.056 >1.987) dan (sig 𝛼 = 0,003 < 0,050), hal tersebut menyatakan bahwa adanya pengaruh yang 264 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis signifikan Label Halal terhadap Keputusan Pembelian pada Bisnis Ritel Minis o di Kota Bengkulu. Tabel 3 Uji t Coefficientsa Model Unstandardized Coefficients Standardiz ed Coefficient s T Sig. B Std. Error Beta 1 (Constant) 3,652 1,991 1,834 ,070 Gaya Hidup ,647 ,202 ,359 3,204 ,002 Label Halal ,530 ,173 ,343 3,056 ,003 a. Dependent Variable: Keputusan Pembelian Sumber: Output SPSS 24.0 (lampiran 5) Uji F Tabel 4 Uji F ANOVAa Model Sum of Squares Df Mean Square F Sig. 1 Regression 76,628 2 38,314 20,505 ,000b Residual 199,927 107 1,868 Total 276,555 109 a. Dependent Variable: Keputusan Pembelian b. Predictors: (Constant), Label Halal, Gaya Hidup Sumber: Output SPSS 24,0 Berdasarkan tabel uji hipotesis dengan uji F diatas diperoleh Fhitung sebesar 20.505 dengan nilai Ftabel sebesar 3,930 yaitu (20.505 > 3,930) dan (sig α = 0.000 < 0,050), maka dengan demikian dapat disimpulkan bahwa H3 diterima artinya secara simultan variabel Gaya Hidup dan Label Halal berpengaruh yang signifikan terhadap Keputusan Pembelian di Pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Koefisisen Determinasi (𝐑𝟐) Berdasarkan tabel diatas dapat diketahui nilai koefisien determinasi Adjusted (R2) diperoleh nilai sebesar 0.277 (Agus Tri Basuki dan Nano Prawoto, 2016:51). Nilai ini mempunyai arti bahwa variabel Gaya Hidup dan Label Halal terhadap variabel Keputusan Pembelian memberikan sumbangan sebesar 0.277 atau 27,7% terhadap Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen 265 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Fakultas Ekonomi dan Bisnis. Sedangkan sisanya sebesar 0.723 atau 72,3% dipengaruhi oleh variabel lain yang tidak masuk dalam model penelitian ini. Tabel 5 Nilai Koefisien Determinasi (𝐑𝟐) Model Summaryb Model R R Square Adjusted R Square Std. Error of the Estimate 1 ,526a ,277 ,264 1,36692 a. Predictors: (Constant), Label Halal, Gaya Hidup b. Dependent Variable: Keputusan Pembelian Sumber: Output SPSS 24,0 (lampiran 5) Kesimpulan Berdasarkan hasil penelitian yang telah dilakukan tentang pengaruh Gaya Hidup dan Label Halal Terhadap Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis., dapat disimpulkan sebagai berikut: g 1. Gaya Hidup berpengaruh signifikan terhadap Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. 1. Gaya Hidup berpengaruh signifikan terhadap Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. 2. Label Halal berpengaruh signifikan terhadap Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis., Gaya Hidup (X1) dan Label Halal (X2) secara bersama-sama berpengaruh secara signifikan terhadap Keputusan Pembelian (Y) pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. 3. Berdasarkan uji koefisien determinasi didapat nilai R= 0,526 dan koefisien determinasi R2 = 0,277 nilai mempunyai makna bahwa Gaya Hidup (X1) dan Label Halal (X2) memberikan kontribusi pengaruh sebesar 0,277 atau 27,7% terhadap Keputusan Pembelian (Y) pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. sedangkan sisanya sebesar 0.723 atau 72.3% dipengaruhi oleh variabel-variabel lain yang tidak termasuk dalam penelitian ini. Saran Berdasarkan hasil penelitian, pembahasan dan kesimpulan yang diperoleh, maka saran yang dapat diberikan sebagai berikut: 1. Hasil penelitian menunjukan adanya pengaruh yang signifikan antara variabel Gaya Hidup (X1) dan Label Halal (X2) terhadap Keputusan Pembelian (Y) Pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. 266 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis 2. ada pada barkot produk sehingga yang ditawarkan kepada konsumen sehingga dapat memehami arti dari halal pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. 2. ada pada barkot produk sehingga yang ditawarkan kepada konsumen sehingga dapat memehami arti dari halal pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. j 3. Hasil penelitian terlihat bahwa pada variabel Gaya Hidup mahasiswa pada saat ini memiliki suatu pemahaman yang harus diberikaninfomasi akan kegunaan serta manfaat produk itu sebenarnya sehingga tidak tertipu akan produk palsu terutama pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. untuk itu perlu ditingkatkan lagi pernan Gaya Hidup serta pola pemberian potongan Gaya Hidup yang tepat. p p g y p y g p 4. Disarankan bagi peneliti selanjutnya khususnya penelitian yang sama perlu dipertimbangkan untuk faktor-faktor lain diluar variabel penelitian Gaya Hidup dan Label Halal terhadap Keputusan Pembelian serta dapat meningkatkan penjualan pada perusahaan pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. sehingga akan menghasilkan penjualan lebih meningkat serta menjadi suatu refrensi bagi penelitian selanjutnya yang lebih baik. p p g y p y g p 4. Disarankan bagi peneliti selanjutnya khususnya penelitian yang sama perlu dipertimbangkan untuk faktor-faktor lain diluar variabel penelitian Gaya Hidup dan Label Halal terhadap Keputusan Pembelian serta dapat meningkatkan penjualan pada perusahaan pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. sehingga akan menghasilkan penjualan lebih meningkat serta menjadi suatu refrensi bagi penelitian selanjutnya yang lebih baik. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 26 DAFTAR RUJUKAN Balawera. (2013). Green Marketing dan Corporate Responsibility Pengaruhnya terhadap keputusan pembelian konsumen melalui minat membeli produk organik di freshmart kota manado. 1(4), 2129. f Eka Dewi Setia Tarigan. (2016). Pengaruh Label Halal Terhadap Keputusan Pembelian Kosmetik Wardah pada Mahasiswi Program Studi Manajemen Fakultas Ekonomi Universitas Medan. Jurnal Konsep Bisnis Dan Manajemen, 3(1), 49. Ekowati, S., & Finthariasari, M. (2020). Pengaruh Harga Dan Promosi Terhadap Keputusan Pembelian Produk Pada Eleven Cafe Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen, Dan Ekonomi Islam, 1(1). http://jurnal.umb.ac.id/index.php/jamekis Fandy Tjiptono. (2002). Strategi Pemasaran (Cetakan Ke). Andi Offset. Finthariasari, Meilaty., Ratnawili., Halim, Nurman. (2022). Purchasing Decisions: The Analysis Effect Of The Variables Life Style, Celebrity Endorser, And Brand Image. Ekombis Review: Jurnal Ilmiah Ekonomi Dan Bisnis, 10(2). g ( Kotler, & Keller. (2009). Manajemen Pemasaran Edisi 13. Erlangga. Kotler, Philip, Armstrong, & Garry. (2008). Prinsip-prinsip Pemasaran (Jilid 1). Erlangga. Mowen J, & Minor M. (2002). Consumer Behaviour 5th, Upper Saddle River, NJ: Prentice Hall.inc. Nurul Yusna Yunus. (2021). Pengaruh Gaya Hidup Terhadap Keputusan Pembelian Kosmetik Maybelline pada mahasiswi fakultas ekonomi dan bisnis. Jurlan IAIN Manado. Rahmawati, M., & Finthariasari, M. (2021). The Effect of Brand Equity toward Purchasing Decision of HP Laptop in Bengkulu City Pengaruh Brand Equity (Ekuitas Merek) terhadap Keputusan Pembelian Laptop Hp di Kota Bengkulu. Journal Of Indonesian Management (JIM), 1(3), 341–346. Rizky Hartono. (2015). Pengaruh Faktor-Faktor Gaya Hidup Konsumen Terhadap 267 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Keputusan Pembelian Laptop Apple Digest Marketing. 1(1), 67. Rungkuti Freddy. (2012). Analisis SWOT Teknik Membedah Kasus B Keputusan Pembelian Laptop Apple Digest Marketing. 1(1), 67. Rungkuti Freddy. (2012). Analisis SWOT Teknik Membedah Kasus Bisnis. PT Gramedia Pustaka Utama. Setiadi. (2010). Perilaku Konsumen. Kencana. Setiadi. (2010). Perilaku Konsumen. Kencana. Sugiyono. (2009). Metode Penelitian Bisnis (Pendekatan Kuantitatif, Kualitatif, dan R&D). Alfabeta. Sumarwan. (2004). Perilaku Konsumen : Teori dan Penerapannya dalam Pemasaran Edisi 1. Ghalia Indonesia. Sumarwan Ujang. (2011). Perilaku Konsumen: Teori dan Penerapannya dalam Pemasaran. Ghalia Indonesia. Swastha Basu. (2008). Manajemen Pemasaran (Edisi Kedu). Liberty. Yulindo. (2013). Pengaruh Kualitas Produk Terhadap Keputusan Pembelia Konsumen pada 3 AM Cofee Manado. 1(1). Yuswohady. (2015). Marketing to the Middle Class Muslim - Kenali Perubahannya, Pahammi Perilakunya, Petakan Strateginya. THE EFFECT OF MOTIVATION AND WORK EXPERIENCE ON THE CAREER DEVELOPMENT OF EMPLOYEES OF PT. SANDABI INDAH LESTARI SELUMA Marliza Ade Fitri1, Richy Pranaditya Faiztawali2 Universitas Muhammadiyah Bengkulu1-2 marlizafitri@umb.ac.id1, aditbkll3@gmail.com2 Jl. Adam Malik, Km. 6,5 Kota Bengkulu Corresponding email: marlizafitri@umb.ac.id INFORMASI ARTIKEL ABSTRACT This research is initiated by the importance of employee career development in order to produce quality employees. The respondents of this research are all employees of PT. Sandabi Indah Lestari Seluma with the total number 100 people, with the sampling method is simple random sampling. The results of this study indicate that the variables of motivation and work experience simultaneously or together have a significant effect on the career development of PT. Sandabi Indah Lestari Seluma with a probability value (sig) 0.000 <0.05. As well as motivation and work experience partially or individually affect the career development of employees of PT. Sandabi Indah Lestari Seluma with a probability value (sig) of each motivational variable with a probability value (sig) 0.004 <0.05 has a significant effect on employee career development and work experience with a probability value (sig) 0.000 <0.05 has a significant effect on employee development employee career. Kata Kunci: Motivasi, Pengalaman Kerja, Pengembangan Karir Karyawan DAFTAR RUJUKAN Gramedia Pustaka Umum. 268 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ABSTRAK Penelitian ini didasari pentingnya pengembangan karir karyawan guna untuk menghasilkan karyawan yang berkualitas. Responden penelitian ini adalah seluruh karyawan PT. Sandabi Indah Lestari Seluma yang berjumlah 100 orang, dengan metode pengambilan sampel yaitu simple random sampling. 269 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Hasil penelitian ini menunjukkan bahwa variabel motivasi dan pengalaman kerja secara simultan atau bersama-sama berpengaruh signifikan terhadap pengembangan karir karyawan PT. Sandabi Indah Lestari Seluma dengan nilai probabilitas (sig) 0.000 < 0.05. Serta motivasi dan pengalaman kerja secara parsial atau sendiri-sendiri berpengaruh terhadap pengembangan karir karyawan PT. Sandabi Indah Lestari Seluma dengan nilai probabilitas (sig) masing- masing variabel motivasi dengan nilai probabilitas (sig) 0.004 < 0.05 berpengaruh signifikan terhadap pengembangan karir karyawan dan pengalaman kerja dengan nilai probabilitas (sig) 0.000 < 0.05 berpengaruh signifikan terhadap pengembangan karir karyawan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Sumber daya manusia merupakan salah satu faktor yang sangat penting dalam suatuperusahaan disamping faktor yang lain seperti modal, surnberdaya manusia harus dikelola dengan baik untuk meningkatkan efektivitas danefesiensi organisasi (Fitri et al., 2022; Orbandi et al., 2021). Tanpa sumber daya manusia yang rnerniliki kompetensi tinggi dalam bidang pekerjaan dan tanggung jawabnya, organisasi akan gagal untuk mewujudkan eksistensinya. Menurut Bernadin (2013) pengembangan karier merupakan suatu rangkaian atas sikap dan perilaku yang berkaitan dengan aktifitas pekerjaan dan pengalaman sepanjang kehidupan seseorang. Menurut Wahyudi (2011) Dalam pengembangan karier perlu dipahami dua proses, yaitu bagaimana seseorang merencanakan dan mengimplementasikan tujuan kariemya sendiri (careerplaning) dan bagaimana institusi merancang dan mengimplementasikan program pengembangan kariemya (career management). Menurut Candra & Ardana (2016), Finthariasari & Saputri (2020), Onsardi et al., (2021) pembelajaran dan pertambahan perkembangan potensi bertingkah laku baik dari pendidikan formal maupun non formal atau bisa diartikan sebagai suatu proses yang membawa seseorang kepada suatu pola tingkah laku yang lebih baik. Menurut Samsudin (2010) motivasi adalah proses memengaruhi atau mendorong dari luar terhadap seseorang atau kelompok kerja agar mereka mau melaksanakan sesuatu yang telah ditetapkan. Dari hasil observasi yang dilakukan oleh penulis, Penulis menemukan fenornena Kurangnya motivasi yang diberikan oleh atasan terhadap bawahan maupun antara sesama karyawan hal ini dapat dilihat pada saat karyawan mendapatkan masalah dalam bekerja tidak ada rekan ataupun atasan yang membantu karyawan tersebut menyelesaikan masalahnya, Hal tersebut tentu saja mengakibatkan ketidakpuasan bagi karyawan dalam menjalankan tugas, selainitu karyawan mengalami ketidakpuasandalam bekerja disebabkan oleh ketidakpastian perusahaan dalarn menjarnin. Pengembangan karir karyawan atas dedikasi waktu yang telah 270 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis diberikan karyawan selama karyawan bekerja untuk perusahaan, hal tersebut tentu saja menimbulkan ketidakpuasan karyawan dalam bekerja. diberikan karyawan selama karyawan bekerja untuk perusahaan, hal tersebut tentu saja menimbulkan ketidakpuasan karyawan dalam bekerja. Pengalaman Kerja Menurut Candra & Ardana (2016) menjelaskan pengalaman kerja adalah pengalaman kerja merupakan suatu peroses pembelajaran dan pertambahan perkembangan potensi bertingkah laku baik dari pendidikan formal maupun non formal atau bisa diartikan sebagai suatu proses yang membawa seseorang kepada suatu pola tingkah laku yang lebih baik. Sedangkan menurut Candra & Ardana (2016) mengemukakan tentang pengalaman kerja adalah pengetahuan atau keterampilan yang telah di ketahui dan dikuasai seseorang yang akibat dari perbuatan atau pekerjaan yang telah di lakukan selama beberapa waktu tertentu. Menurut Foster (2016) ada beberapa indikator pengalaman kerja adalah sebagai berikut: lama waktu atau masa kerja, tingkat pengetahuan dan keterampilan yang dimiliki dan penguasaaan terhadap pekerjaan dan peralatan. Motivasi Motivasi berasal dari bahasa latin, mavere yang berarti dorongan atau daya penggerak. Motivasi ini hanya dibreikan kepada manusia, khususnya kepada para bawahan atau pengikut (Farhah et al., 2020; Kusuma et al., 2021). Motivasi mempersoalkan bagaiman caranya mendorong gairah kerja bawahan, agar mereka mau bekerja keras dengan memberikan semua kemampuan dan keterampilan untuk mewujudkan tujuan perusahaan. Menurut Samsudin (2010) motivasi adalah proses memengaruhi atau mendorong dari luar terhadap seseorang atau kelompok kerja agar mereka mau melaksanakan sesuatu yang telah ditetapkan. Sedangkan menurut Liang Gie dalam Samsudin, motivasi adalah pekerjaan yang dilakukan oleh manajer dalam memberikan inspirasi, semangat dan dorongan kepada orang lain, dalam hal ini karyawanya, untuk mengambil tindakan-tindakan tertentu. Menurut Maslow dalam buku Mangkunegara (2013), Mengemukakan bahwa hirarki kebutuhan karyawan sebagai berikut: kebutuhan fisiologis, kebutuhan rasa aman, kebutuhan sosial, rasa memiliki dan kebutuhan harga diri. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Pengembangan Karir g g Mrnurut Mangkunegara (2011) mengemukakan pengembangan karir adaalah aktivitas kepegawaian yang membantu pegawai pegawai merencanakan karir masa depan mereka di perusahaan agar perusahaan dan pegawai yang bersangkutan dapat mengembangkan diri secara maksimum. Indikator pengembangan karir menurut Rivai (2011) yaitu terdiri atas beberapa hal : Prestasi kerja, Eksposur, Jaringan kerja (Net Working), Pengunduran diri, Pembimbing dan sponsor dan Pengalaman internasional. METODE PENELITIAN Pada penelitian dilakukan dengan penelitian yang bersifat kuantitatif yang artinya jenis penelitian yang berlandaskan pada filsafat positivisme, digunakan untuk meneliti 271 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis pada populasi atau sampel tertentu. Teknik pengumpulan data menggunakan observasi, wawancara dan kuisioner. Teknik analisis data menggunakan Uji Asumsi Klasik, analisis linear berganda, Diterminasi (R2), Uji T dan Uji F. pada populasi atau sampel tertentu. Teknik pengumpulan data menggunakan observasi, wawancara dan kuisioner. Teknik analisis data menggunakan Uji Asumsi Klasik, analisis linear berganda, Diterminasi (R2), Uji T dan Uji F. Uji Asumsi Klasik Normalitas Uji normalitas dimaksudkan untuk mengetahui apakah residual yang diteliti berdistribusi normal atau tidak. Tujuan uji normalitas adalah untuk menguji apakah dalam sebuah model regresi, variabel dependen, variabel independen atau ketiganya mempunyai distribusi normal atau mendekati normal. Gambar. Hasil Uji Normalitas Berdasarkan gambar diatas output SPSS tersebut dapat dilihat bahwa pada Gambar. Hasil Uji Normalitas Gambar. Hasil Uji Normalitas Berdasarkan gambar diatas output SPSS tersebut, dapat dilihat bahwa pada gambar grafik histogramnya menunjukan pola distribusi normal. Uji Heteroskedastisitas j Uji heteroskedastisitas bertujuan untuk menguji apakah dalam model regresi tidak terjadi ketidak varians. Gambar Hasil Uji Heteroskedasstisitas Sumber: Output SPSS yang diolah, 2023 Sumber: Output SPSS yang diolah, 2023 Sumber: Output SPSS yang diolah, 2023 Data Analisis Uji Heteroskedastisitas dengan grafik plot adalah jika titik dalam grafik tersebar (tidak membentuk pola) maka tidak terjadi Heteroskodesitas. Berdasarkan gambar tersebut dapat dilihat bahwa bahwa titik-titik yang ada tidak membentuk pola teratur. Sehingga dapat disimpulkan bahwa pada data dalam penelitian ini tidak terjadi Heteroskodesitas. Artinya dalam fungsi regresi dipenelitian ini tidak muncul gangguan karena varian yang tidak sama. Uji Asumsi Klasik Multikolinearitas Uji multikolinearitas ini bertujuan untuk mengetahui apakah tiap-tiap variabel bebas yaitu pengaruh antara pengalaman kerja dan motivasi berhubungan secara linier. Pengujian adanya multikolinearitas ini dapat dilakukan dengan melihat nilai toleransi diatas 0,1 dan VIF nya lebih kecil dari 10. Maka tidak ada kecenderungan terjadi gejala multikolinearitas. Tabel. Hasil Uji Multikolinearitas No. Variabel Tolerance Tolerance Keretengan Motivasi Kerja (X1) 0.802 1.246 Non Multikolinearitas Pengalaman Kerja (X2) 0.802 1.246 Non Multikolinearitas Sumber: Output SPSS yang diolah, 2023 Sesuai dengan ketentuan uji multikolinearitas pada Tabel 4.8 uji multikolineritas pada pengalaman kerja dan motivasi terdapat nilai Tolerance 0.802> 0.1 dimana nilai tolerance lebih besar dari 0.1 dan nilai VIF 1.246 < 10 dimana nilai VIF nya lebih kecil dari 10. sehingga dapat disimpulkan bahwa tidak terdapat multikolineritas dalam data penelitian ini. Artinya antara variabel motivasi (X1) dan pengalaman kerja (X2) tidak saling mengganggu atau mempengaruhi. 272 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Analisis Persamaan Regreesi Linier Berganda Analisis persamaan regresi linier berganda digunakan dalam penelitian ini dengan tujuan untuk mengetahui ada tidaknya pengaruh variabel bebas terhadap variabel terikat. Perhitungan statistik dalam analisis regresi linier berganda yang digunakan dalam penelitian ini adalah dengan menggunakan bantuan SPSS for Windows. Ringkasan hasil pengolahan data dengan menggunakan program SPSS tersebut dapat dilihat pada tabel berikut ini: Tabel. Hasil Uji Regresi Linier Berganda Coefficientsa Model Unstandardized Coefficients Standardized Coefficients t Sig. B Std. Error Beta 1 (Constant) 6.693 1.130 5.924 .000 Motivasi .167 .057 .261 2.913 .004 Pengalaman Keja .472 .094 .450 5.025 .000 a. Dependent Variable: Pengembangan Karir Karywan Sumber: Output SPSS yang diolah, 2023 Dari perhitungan menggunakan SPSS for Windows didapat persamaan regresinya adalah: y Y = a+b1X1+b2X2 Y = 6.693+0.167X1+ 0.472X2 273 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 273 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Analisis Koefisien Determinasi (R2) Koefisien determinasi digunakan untuk mengetahui presentase sumbangan pengaruh variabel bebas Motivasi (X1) dan Pengalaman Kerja (X2) terhadap Pengembangan Karir (Y) maka dari perhitungan computer menggunakan SPSS for Windows. Adapun rekapitulasi hasil pengujian koefisien determinasi (R2) dapat dilihat pada tabel berikut ini: Tabel. Hasil Analisis Koefisien Determinasi (R2) Model Summaryb Model R R Square Adjusted R Square Std. Error of the Estimate 1 .613a .375 .362 1.342 a. Predictors: (Constant), Pengalaman Kerja, Motivasi Kerja b. Dependent Variable: Pengembangan Karir Karyawan Sumber: Output SPSS yang diolah, 2023 Tabel. Hasil Analisis Koefisien Determinasi (R2) Berdasarkan table diatas dapat diketahui bahwa nilai koefisienn detterminasi berganda atau Adjusted R square (R2) = 0.375, yang berarti bahwa secara bersama-sama variabel motivasi kerja (X1) dan pengalaman kerja (X2) memberikan sumbangan pengaruh sebesar 37.5% terhadap variabel pengembangan karir karyawan (Y) pada karyawan PT Sandabi Indah Lestari Seluma, sedangkan sisanya sebesar 62.5% dipengaruhi oleh variabel lain diluar penelitian ini. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 274 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Uji F Penelitian ini pengujian hipotesis dimaksudkan untuk mengukur besarnya pengaruh secara simultan (bersama-sama) variabel motivasi (X1) dan pengalaman kerja (X2) berpengaruh terhadap pengembangan karir (Y). Kriteria pengujiannya adalah :Jika probilitas (Sig) <alpha 0.05 maka Ha diterima dan Ho di tolak. p Tabel. Uji Hipotesis Secara Simultan (Uji f) Tabel. Uji Hipotesis Secara Simultan (Uji f) ANOVAb Model Sum of Squares df Mean Square F Sig. 1 Regression 104.940 2 52.470 29.133 .000a Residual 174.700 97 1.801 Total 279.640 99 a. Predictors: (Constant), Pengalaman Kerja, Motivasi Kerja b. Dependent Variable: Pengembangan Karir Karyawan Sumber: Output SPSS yang diolah, 2023 Hasil perhitungan statistik menunjukkan nilai probabilitas sebesar 0.000 < 0.05. Karena nilai signifikansi lebih kecil dari probabilitas (0.05). Maka menunjukkan bahwa secara bersama-sama (simultan) variabel motivasi (X1) dan pengalaman kerja (X2) mempunyai pengaruh yang signifikan terhadap pengembangan karir (Y). Maka berdasarkan hasil uji simultan maka Ha diterima dan Ho ditolak, antara variabel-variabel bebas yaitu motivasi (X1) dan pengalaman kerja (X2) mempunyai pengaruh yang signifikan secara bersama-sama terhadap pengembangan karir (Y). Uji T j Uji t dilakukan untuk mneguji hipotesis variabel bebas dan variabel terikat secara persial (sendiri-sendiri) pengaruh variabel motivasi (X1), dan pengalaman Kerja (X2), terhadap pengembangan karir (Y). Kriteria pengujiannya adalah: Jika probabilitas (Sig) <alpha 0.05 maka Ha diterima dan Ho di tolak, Tabel. Uji Hipotesis Secara Parsial (Uji T) Coefficientsa Model Unstandardized Coefficients Standardized Coefficients t Sig. B Std. Error Beta 1 (Constant) 6.693 1.130 5.924 .000 Motivasi Kerja .167 .057 .261 2.913 .004 Pengalaman Kerja .472 .094 .450 5.025 .000 a. Dependent Variable: Pengembangan Karir Karyawan Sumber: Output SPSS yang diolah, 2023 274 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 27 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Dari hasil pada tabel diatas maka dapat dijelaskan bahwa motivasi (X1) menunjukkan nilai probabilitas sebesar 0.004 < 0.05, karena nilai signifikansi lebih kecil dari 0.05 (probabilitas), maka Ha diterima dan Ho ditolak. Artinya motivasi (X1) memiliki pengaruh yang signifikan terhadap pengembangan karir (Y). Dan hasil pengujian untuk variabel pengalaman kerja (X2) menunjukkan nilai probabilitas sebesar 0.000 < 0.05, karena nilai signifikansi lebih kecil dari probabilitas(0.05), maka Ha diterima dan Ho ditolak. Artinya pengalaman kerja (X2) memiliki pengaruh yang signifikan terhadap pengembangan karir (Y). PEMBAHASAN Berdasarkan hasil penelitian dari pengaruh motivasi kerja dan pengalaman kerja terhadap pengembangan karir karyawan PT. Sandabi Indah Lestari (SIL) Seluma, diketahui bahwa pengembangan karir karyawan dipengaruhi oleh motivasi kerja dan pengalaman kerja itu sendiri. Pengaruh Motivasi Kerja (X1) Terhadap Pengembangan Karir Karyawan (Y) Pengaruh Motivasi Kerja (X1) dan Pengalaman Kerja (X2) Terhadap Pengembangan Karir Karyawan (Y) Pengaruh Motivasi Kerja (X1) dan Pengalaman Kerja (X2) Terhadap Pengembangan Karir Karyawan (Y) Pengembangan Karir diukur menggunakan 4 (empat) item pernyataan atau indikator, hasil penelitian menunjukkan bahwa motivasi kerja (X1) dan pengalaman kerja (X2) secara simultan berpengaruh signifikan terhadap pengembangan karir karyawan (Y) PT. Sandabi Indah Lestari (SIL) Seluma. Menurut Prawironegoro & Utari (2016) pengembangan karir adalah peningkatanpeningkatan yang dilakukan seseorang untuk mencapai suatu rencana karir. Dalam pengembangan karir terdapat beberapa faktor yang mempengaruhi yaitu motivasi dan pengalaman kerja. Berdasarkan hasil penelitian dari Nandy & Donald Walangitan (2015) yang menunjukkan bahwa motivasi kerja danpengalaman kerja secara bersama-sama mempunyai pengaruh yang positif terhadap pengembanagn karir karyawan http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Pengaruh Pengalaman Kerja (X2) Terhadap Pengembangan Karir Karyawan (Y) Pengaruh Pengalaman Kerja (X2) Terhadap Pengembangan Karir Karyawan (Y) Pengalaman kerja di ukur melalui 3 (tiga) item pernyataan atau indikator penelitian, hasil penelitian menunjukkan bahwa pengalaman kerja (X2) berpengaruh signifikan terhadap pengembangan karir karyawan (Y) PT. Sandabi Indah Lestari (SIL) Seluma. Pengalaman merupakan suatu proses pembelajaran dan pertambahan perkembangan potensi bertingkah laku baik dari pendidikan formal maupun non formal atau bisa diartikan sebagai suatu proses yang membawa seseorang kepada suatu pola tingkah laku yang lebih baik (Zainullah, 2017). Bulechek & Butcher (2013) menyatakan bahwa pengalaman merupakan aset untuk mencapai suatu karir yang lebih baik. Berdasarkan hasil penelitian dari Cahya Dewi & Dewi (2019), penelitian ini menemukan bahwa pengalaman kerja berpengaruh positif dan signifikan terhadap pengembangan karier. Karyawan yang ingin mengembangkan kariernya perlu memperhatikan pengalaman kerja mereka Pengaruh Motivasi Kerja (X1) Terhadap Pengembangan Karir Karyawan (Y) Motivasi kerja di ukur melalui 5 (lima) item pernyataan atau indikator penelitian, hasil penelitian menunjukkan bahwa motivasi kerja (X1) berpengaruh signifikan terhadap pengembangan karir karyawan (Y) PT. Sandabi Indah Lestari (SIL) Seluma. Miftahun & Sugiyanto (2016) menyatakan bahwa motivasi kerja adalah suatu usaha yang dapat 275 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis menimbulkan suatu perilaku, mengarahkan perilaku, dan memelihara atau mempertahankan perilaku yang sesuai dengan lingkungan kerja dalam organisasi. Oleh sebab itu, motivasi kerja dalam psikologi kerya biasa disebut pendorong semangat kerja. Kuat dan lemahnya motivasi kerja seorang tenaga kerja ikut menentukan besar kecilnya prestasinya. Adapun hasil penelitian dari Yikwa et al., (2017) Hasil uji hipotesa menyebutkan bahwa Pemberian motivasi menyatakan bahwa hubungan antara variabel Pemberian motivasi dengan Pengembangan karir di kategorikan Kuat dan cukup tinggi. Jelas bahwa nilai koefisien ini bertanda positif, sehingga hal itu memberikan petunjuk adanya hubungan erat antara Pemberian motivasi terhadap Pengembangan karir. Kesimpulan Berdasarkan hasil penelitian dan pembahasan tentang pengaruh motivasi kerja dan pengalaman kerja terhadap pengembangan karir karyawan PT. Sandabi Indah Lestari (SIL) Seluma, maka dapat diambil kesimpulan yakni sebagai berikut: p p y g 1. Motivasi berpengaruh signifikan terhadap pengembangan karir karyawan PT. Sandabi Indah Lestari Seluma. 1. Motivasi berpengaruh signifikan terhadap pengembangan karir karyawan PT Sandabi Indah Lestari Seluma. 276 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis 2. Pengalaman Kerja berpengaruh signifikan terhadap perkembangan karir karyawan PT. Sandabi Indah Letari Seluma. 2. Pengalaman Kerja berpengaruh signifikan terhadap perkembangan karir karyawan PT. Sandabi Indah Letari Seluma. 3. Motivasi dan pemngalaman kerja secara simultan atau bersama-sama berpengaruh signifikan terhadap pengembangan karir karyawan PT. Sandabi Indah Lestari Seluma. Saran 1. Pimpinan PT. Sandabi Indah Lestari (SIL) Seluma lebih memperhatikan dan memberi motivasi berupa apresiasi terhadap kinerja karyawan terbaik baik berupa finansial atau materil maupun promosi jabatan. 1. Pimpinan PT. Sandabi Indah Lestari (SIL) Seluma lebih memperhatikan dan memberi motivasi berupa apresiasi terhadap kinerja karyawan terbaik baik berupa finansial atau materil maupun promosi jabatan. 2. pimpinan atau manager PT. Sandabi Indah Lestari (SIL) Seluma hendaknya memberikan pelatihan dan pengembangan diri yang cukup rutin terhadap karyawannya. 2. pimpinan atau manager PT. Sandabi Indah Lestari (SIL) Seluma hendaknya memberikan pelatihan dan pengembangan diri yang cukup rutin terhadap karyawannya. y y 3. Maka hendaknya pimpinan atau manajer PT. Sandabi Indah Lestari (SIL) Seluma berperan aktif dalam meningkatkan motivasi, melakukan pengembangan karyawan melalui pelatihan dan pendidikan karyawan. Serta lebih proaktif dalam pengembangan karir karyawan y y 3. Maka hendaknya pimpinan atau manajer PT. Sandabi Indah Lestari (SIL) Seluma berperan aktif dalam meningkatkan motivasi, melakukan pengembangan karyawan melalui pelatihan dan pendidikan karyawan. Serta lebih proaktif dalam pengembangan karir karyawan DAFTAR PUSTAKA Bernadin, H. J. (2013). Human Resouerces Management: An Experiental Approach, 3th Edition. Mc Grawa Hill Internasional. Bernadin, H. J. (2013). Human Resouerces Management: An Experiental Approach, 3th Edition. Mc Grawa Hill Internasional. Bulechek, G. M., & Butcher, H. k. (2013). Nursing Interventions Classification (NIC) (keenam). Elsevier. Cahya Dewi, N. P. I., & Dewi, A. A. S. K. (2019). Pengaruh Motivasi, Komunikasi, Dan Lingkungan Kerja Fisik Terhadap Semangat Kerja Karyawan Pt. Ayu Sari Pertiwi. E-Jurnal Manajemen Universitas Udayana, 8(12), 7093. https://doi.org/10.24843/ejmunud.2019.v08.i12.p10 Candra, N., & Ardana, I. (2016). Pengaruh Pengalaman Kerja, Pendidikan Dan Pelatihan Terhadap Pengembangan Karir Di Pt. Pln (Persero) Distribusi Bali. E-Jurnal Manajemen Universitas Udayan, 5(9). Farhah, A., Ahiri, J., & Ilham, M. (2020). Pengaruh Motivasi Kerja Dan Disiplin Kerja Terhadap Kinerja Karyawan. Jurnal Online Program Studi Pendidikan Ekonomi, 5(1), 1. https://doi.org/10.36709/JOPSPE.V5I1.13326 Finthariasari, M., & Saputri, D. (2020). Analisis Minat, Motivasi, Pekerjaan Yang Diharapkan, & Lingkungan Belajar Terhadap Keputusan Mahasiswa Memilih Program S1 Fakultas Ekonomi (Studi Pada Mahasiswa Ekonomi Di Perguruan Tinggi Kota Bengkulu). Jurnal Manajemen Modal Insani Dan Bisnis (JMMIB), 1(2), 183–191. http://jurnal.imsi.or.id/index.php/jmmib/article/view/21 Fitri, M. A., Ilhami, M. D., & Herwan, M. (2022). Pengaruh Stres Kerja Dan Komunikasi Terhadap Kinerja Karyawan Pt. Indomaret Kota Manna Kabupaten Bengkulu Selatan. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 5(1), 96–103. Foster, B. (2016). The Impact of Brand Image on Purchasing Decision on Mineral Water Product Amidis. Journal of Humanities and Social Sciences, 2(11). 277 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Kusuma, M., Arianto, T., & Finthariasari, M. (2021). Analisis Pengaruh Minat dan Motivasi Terhadap Keputusan Memilih Program Studi Dimediasi Variabel Pekerjaan Yang Diharapkan. Jurnal Manajerial, 8(3). Mangkunegara. (2011). Manajemen Sumber Daya Manusia. PT. Remaja Rosdakarya. Mangkunegara, AA. A. P. (2013). Manajemen Sumber Daya Manusia Perusahaan. Remaja Rosdakarya. Miftahun, & Sugiyanto. (2016). Pengaruh Dukungan Social Dan Kepemimpinan Transformasional Terhadap Komitmen Organisasi Dengan Mediator Motivasi Kerja. Jurnal Psikologi, 37(1), 94–109. Nandy, I. I., & Donald Walangitan, M. (2015). Pengaruh Penilaian Prestasi Kerja dan Lama Bekerja Karyawan Terhadap Pengembangan Karir pada PT. Pegadaian Kanwil V Manado. Jurnal EMBA, 3(1), 984–993. Onsardi, O., Finthariasari, M., & Hermawan, D. J. (2021). DAFTAR PUSTAKA The Influence of Human Resource Management Practices on Employee Outcomes in Private and Public Banking in Indonesia. RIGEO (Review Of International Geographical Education, 11(9), 1–8. https://doi.org/10.48047/rigeo.11.09.1 Orbandi, H., Indriasari, N., & Anggriani, I. (2021). Hubungan Disiplin Kerja Dan Kepuasan Kerja Dengan Kinerja Pegawai Pada Dinas Pendidikan Dan Kebudayaan Provinsi Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 4(2). Prawironegoro, D., & Utari, D. (2016). Manajemen SDM Abad 21 (Sumber Daya Manusia). Mitra Wacana Media. Rivai, V. (2011). Manajemen Sumber Daya Manusia Untuk Perusahaan Dari Teori ke Praktik. Rajawali Pers. Samsudin, S. (2010). Manajemen Sumber Daya Manusia.cetakan ke1. Pustaka Setia. Wahyudi, B. (2011). Manajemen Sumber Daya Manusia. Sulita. Yikwa, L., Pio, R. J., & Tumbel, T. M. (2017). Pengaruh motivasi terhadap pengembangan karir karyawan (Studi pada PT Bank Papua Cabang Manado Provinsi Sulawesi Utara). Jurnal Administrasi Bisnis, 5(5), 1–23. Zainullah, A. (2017). Pengaruh Upah, Kemampuan dan Pengalaman Kerja Terhadap Kinerja Pekerja Pelaksanaan Bekisting pada Pekerjaan Beton. Jurnal Rekayasa Sipil, 6(2), 125–133. 278 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu INFORMASI ARTIKEL Traders or entrepreneurs are required to have a good and reliable marketing strategy so that it does not only sell well in the market but is also able to compete. The purpose of this study is to find out what sharia marketing strategies are and what are the obstacles to sharia marketing and their solutions. This research method uses qualitative research with a descriptive approach. The marketing concept at adzkia stores is in accordance with the four characteristics of marketing in Islam, namely: Theistic (rabbaniyyah), Ethical (akhlaqiyyah), realistic (al-waqiyyah), humanistic (insaniyyah). Obstacles and solutions, serving consumers the solution by providing enthusiasm and motivation, closing the shop at prayer times the solution is sticking paper in front of the store as a form of notification, price competition solutions explaining to consumers that price is in accordance with quality, there is still a lack of interest in Muslim fashion the solution is selling contemporary products. Riwayat Artikel: Diterima : 21 Maret 2023 Direvisi : 16 Juni 2023 Disetujui : 28 Juli 2023 Keywords: Sharia Marketing Strategy, Efforts to Increase sales SHARIA MARKETING STRATEGY IN AN EFFORT TO INCREASE SALES AT THE ADZKIA SHOP, KEBUN KEBUN GERAN, BENGKULU CITY Sovita Alfioni1, Idwal2, Faisal Muttaqin3 Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3 sovitaalfioni270702@gmail.com1, idwalkincai@gmail.com2, Faisalmuttaqin@gmail.com3 Jl. Raden Fatah, Kel. Pagar Dewa, Kota Bengkulu (38211) Corresponding email: sovitaalfioni270702@gmail.com Jl. Raden Fatah, Kel. Pagar Dewa, Kota Bengkulu (38211) Corresponding email: sovitaalfioni270702@gmail.com ABSTRAK Para pedagang atau pengusaha dituntut untuk memiliki strategi pemasaran yang baik dan handal sehingga tidak hanya laku dipasaran tetapi juga mampu untuk bersaing, tujuan penelitian ini adalah mengetahui 279 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 27 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis bagaimana strategi marketing syariah dan hal-hal apa saja yang menjadi hambatan marketing syariah dan solusinya. Metode penelitian ini menggunakan penelitian kualitatif dengan pendekatan deskriptif. Konsep pemasaran pada toko adzkia sesuai dengan empat karakteristik pemasaran dalam islam, yaitu: Teistis (rabbaniyyah), Etis (akhlaqiyyah), realistis (al- waqiyyah), humanistis (insaniyyah). Hambatan dan solusinya, melayani konsumen solusinya dengan cara memberikan semangat dan motivasi, menutup toko waktu sholat solusinya menempelkan kertas didepan toko sebagai bentuk pemberitahuan, persaingan harga solusi menjelaskan kepada konsumen bahwa harga sesuai dengan kualitas, masih kurangnya minat busana muslim solusinya menjual produk kekinian. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Sejalan dengan kemajuan zaman yang pesat membuat banyak berdampak kepada kehidupan masyarakat, pesatnya perkembangan ilmu pengetahuan dan teknologi melahirkan berbagai dampak positif dan dampak negatif. Sehingga perkembangan seperti sekarang ini membuat persaingan dalam dunia bisnis semakin ketat sehingga para pebisnis itu tidak hanya bersantai saja dalam menikmati penjualan dan keuntungannya itu, karena adanya persaingan yang mengikuti hal tersebut, oleh sebab itu masalah persaingan mendapatkan perhatian khusus dalam pemasaran pada akhirnya menuntut untuk para pebisnis mulai bersaing dengan menerapkan strateginya masing- masing, tanpa mementingkan aspek-aspek norma dan moral yang ada pada para pebisnis tersebut mulai berlomba-lomba dalam memasarkan produk yang akan dijual guna mencapai sasaran dan keuntungan pada produknya agar laku di pasaran. g p g p p y g p Para pedagang atau pengusaha dituntut untuk memiliki strategi pemasaran yang baik dan handal, sehingga produk-produknya tidak hanya laku dijual dipasaran, akan tetapi juga mampu bersaing dan bertahan dalam persaingan yang ada. Salah satunya pada mode busana khususnya mode busana muslim,untuk memenuhi kebutuhan sehari- hari manusia memerlukan kebutuhan sandang, pangan, papan. Dalam penuhi kebutuhan tersebut manusia membutuhkan kebutuhan sandang, seperti yang kita ketahui bahwa kebutuhan sandang juga berarti pakaian, yang mana pakaian ini adalah salah satu kebutuhan yang sangat dibutuhkan oleh manusia. Kemungkinan para pedagang toko tersebut akan bersaing ketat dengan pedagang lainnya, saat ini ada banyak sekali toko pakain yang membuka serta menyedikan bermacam-macam model dengan harga yang terus menjadi persaingan untuk penjual, oleh karena itu sudah menjadi keharusan bagi suatu pengusaha atau pedagang untuk melaksanakan promosi dengan strategi yang tepat agar dapat memenuhi sasaran yang efektif. Salah satu fenomena yang cukup menarik perhatian banyak orang, yaitu tren berpakaian pada saat ini. Dengan adanya beragam kreatif membuat pakaian untuk kaum 280 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis muslim semakin cantik dan semakin banyak diminati oleh konsumen khususnya kaum hawa, namun terlepas dari alasan dibalik fenomenanya, semakin banyak muslimah yang semakin anggun dan cantik memakai baju muslimah modern. Hal ini juga bisa kita lihat dari semakin maraknya usaha toko-toko pakaian muslim modern baik itu perusahaan maupun pedagang-pedagang, dengan keadaan seperti ini tentu saja tidak menutupi kemungkinan para pedagang toko tersebut akan bersaing ketat dengan pedagang lainnya. Tingkat persaingan dalam dunia bisnis seperti sekarang ini menuntut setiap pemasar untuk mampu melaksanakan kegiatan pemasarannya dengan lebih efektif dan efisien. PENDAHULUAN muslim semakin cantik dan semakin banyak diminati oleh konsumen khususnya kaum hawa, namun terlepas dari alasan dibalik fenomenanya, semakin banyak muslimah yang semakin anggun dan cantik memakai baju muslimah modern. Hal ini juga bisa kita lihat dari semakin maraknya usaha toko-toko pakaian muslim modern baik itu perusahaan maupun pedagang-pedagang, dengan keadaan seperti ini tentu saja tidak menutupi kemungkinan para pedagang toko tersebut akan bersaing ketat dengan pedagang lainnya. Tingkat persaingan dalam dunia bisnis seperti sekarang ini menuntut setiap pemasar untuk mampu melaksanakan kegiatan pemasarannya dengan lebih efektif dan efisien. Pengusaha atau pedagang sudah seharusnya melakukan sesuatu untuk melaksanakan promosi dengan strategi yang tepat agar dapat memenuhi sasaran yang efektif. Kegiatan promosi suatu perusahaan dilakukan sebaik mungkin yaitu dengan direncanakan, diarahkan, dikendalikan dan dianggarkan sesuai dengan kondisi keuangan di suatu perusahaan tersebut. Dengan adanya upaya kegiatan promosi itu berarti ada upaya peningkatan penjualan pada suatu perusahaan. Meningkatnya penjualan itu juga bisa disebut meningkatnya kegiatan Jual–Beli. Kegiatan jual beli ini konsumen ataupun pelanggan dapat saling melengkapi satu sama lain dengan cara tukar menukar barang atau jasa sesuai kesepakatan. Secara umum, pemasaran adalah suatu proses sosial dimana individu dan kelompok mendapatkan apa yang mereka butuhkan dan inginkan dengan menciptakan dan mempertukarkan produk dan nilai dengan individu dan kelompok. Dalam hal ini, pemasaran syariah memiliki posisi yang sangat strategis, karena pemasaran syariah merupakan salah satu strategi pemasaran yang didasarkan pada Al-Qur'an dan Sunah Rasulullah SAW. Pemasaran syariah merupakan sebuah disiplin bisnis strategis yang mengarahkan proses penciptaan, penawaran dan dalam keseluruhan prosesnya sesuai dengan akad serta prinsip-prinsip Islam dan muamalah dalam Islam. Pengertian Marketing Marketing merupakan salah satu dari kegiatan-kegiatan pokok yang dilakukan oleh pengusaha dalam usahanya untuk mempertahankan kelangsungan hidup usahanya dan juga untuk mengembangkan perusahaan serta untuk mendapatkan keuntungan atau laba yang sebesar-besarnya (Zainurossalamia., 2020). Marketing merupakan keseluruhan sistem yang berhubungan dengan tujuan untuk merencanakan dan menentuka harga sampai dengan mempromosikan dan mendistribusikan barang dan jasa (Mubarok, 2017). Menurut Herfianti, et al (2020), Zainal (2018) Marketing/pemasaran adalah suatu hubungan sistematis antara sebuah bisnis dan pasarnnya, dimensi pelaku pasar memasang beberapa ide yang luas,desain, pesan, media, potongan, bentuk, dan warna. Pengertian Strategi Marketing Strategi marketing/pemasaran adalah unit bisnis yang diharapkan untuk mencapai upaya memasarkan suatu produk, baik itu barang ataupun jasa dengan menggunakan pola rencana dan taktik tertentu sehingga jumlah penjualan menjadi lebih tinggi (Fauzi, 2021). Strategi marketing/pemasaran merupakan proses sosial, individu dan kelompok untuk mendapatkan yang mereka butuhkan dengan menciptakan penawaran secara bebas bertukar produk dan jasa yang bernilai dengan pihak lain dapat diharapkan oleh perusahaan untuk mencapai sasaran-sasaran pemasarannya (Rauf, 2021; Nurzam, et al, 2020). Strategi marketing / pemasaran merupakan pedoman dasar dan rencana tujuan, pengalokasian sumber daya, serta interaksi organisasi dengan pasar, pesaing dan lingkungan lain (Noor, 2021). Pengertian Strategi Pada dasarnya strategi adalah cara yang di lakukan untuk membantu dan mempermudah dalam memecahkan masalah, selain itu strategi merupakan langkah- langkah konkrit yang dapat menyelesaikan masalah . Sutojo (2009) Strategi merupakan suatu kesatuan rencana yang menyeluruh, komprehensif, dan terpadu yang diarahkan untuk mencapai tujuan perusahaan. Abdurahman (2018) Strategi juga sering disebut sebagai penetapan misi perusahaan, penetapan sasaran organisasi dengan meningkatkan kekuatan eksternal dan internal, perumusan kebijakan implementasi secara tepat sehingga tujuan dan sasaran utama organisasi tercapai. Humairaa (2021) Strategi rencana yang disatukan dan berintegrasi yang menghubungkan keunggulan strategis perusahaan dengan tantangan lingkungan untuk memastikan bahwa tujuan utama dari perusahaan dapat dicapai melalui pelaksanaan yang tepat oleh organisasi (Yatminiwati, 2019). 281 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Penjualan Penjualan adalah suatu usaha yang terpadu untuk mengembangkan rencana- rencana strategis yang diarahkan pada usaha pemuasan kebutuhan dan keinginan pembeli, guna mendapatkan penjualan yang menghasilkan laba. Jenis-Jenis pada penjualan yaitu penjulan langsung dan penjualan secara tidak langsung. Pengertian Strategi Marketing Syariah Pemasaran syariah atau marketing syariah merupakan disiplin bisnis strategis yang mengarahkan suatu proses penciptaan, penawaran dan perubahan values, seluruh prosesnya sesuai dengan akad dan prinsip muamalah dalam Islam. Maka dapat disimpulkan pula bahwa strategi marketing syariah adalah sebagai disiplin bisnis strategis dalam upaya memasarkan produk tertentu dalam mencapai sebuah tujuan dan sasaran yang sudah ditargetkan dengan cara-cara yang dibenarkan menurut syariat Islam (Kertajaya, 2006). Strategi pemasaran adalah rencana-rencana yang disusun secara sistematis dan menyeluruh yang digunakan sebagai panduan untuk melakukan kegiatan pemasaran agar dapat mencapai tujuan perusahaan yaitu menghasilkan keuntungan. Dalam melakukan berbisnis harus berusaha sebisa mungkin untuk menciptakan kesejahteraan bersama (Putri, 2021). Seperti disebutkan dalam surat An- nisa ayat 29 : 282 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 28 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Artinya: Wahai orang-orang yang beriman Janganlah kamu saling memakan harta sesamamu dengan jalan yang batil (tidak benar), kecuali dalam perdagangan yang berlaku atas dasar suka sama suka di antara kamu dan janganlah kamu membunuh dirimu. Sungguh, Allah Maha Penyayang kepadamu. Karakteristik, Dan Praktik Marketing Rasulullah Saw Kegiatan marketing atau pemasaran seharusnya dikembalikan pada karakteristik yang sesungguhnya, sebagaimana yang dilakukan oleh Rasulullah. Oleh karena itu marketing syariah menjadi penting bagi para tenaga pemasaran untuk melakukan penetrasi pasar. Dalam Islam terdapat sembilan macam etika (akhlaq) yang harus dimiliki oleh seorang tenaga pemasaran, yaitu: Taqwa, shiddiq, al’adl, khitmah, tahfif, al amanah, su’udzon, ghibah, riswah. Etika Bisnis Syariah Etik ekonomi-bisnis syariah mengacu pada dua domain, yaitu domain hukum (syariah) yang terkait dengan benar-salah, dan domain etik (akhlak/adab) yang terkait dengan baik-buruk, salahnya suatu pemikiran/gagasan dan tindakan ekonomi-bisnis. Berikut beberapa ajaran terkait ekonomi-bisnis: Etika bersifat memberdayakan Salah satu ajaran agama terkait ekonomi adalah membantu pihak yang lemah.Al-Qur’an surat An-Baqarah ayat 280. Etika pembayaran upah Dalam hal aqad ijarah, terdapat dua ajaran yang terkait dengan akhlak, yaitu ajaran tentang ta’jil (bersegera) dalam pembayaran upah (ujrah), mu’jir (pengusaha/pengupah) dianjurkan untuk segera membayar upah kepada musta’jir/ajir (kuli/buruh), ajaran tersebut bersumber dari hadits riwayat imam Ibn Majah dan imam al-Baihaqi (Sule, 2016). HASIL PENELITIAN DAN PEMBAHASAN Strategi marketing adalah suatu pencapaian sebuah tujuan untuk meningkatkan penjualan. Maka dari itu strategi marketing sangat penting untuk diterapkan. Adapaun strategi pemasaran yang dilakukan oleh toko adzkia kelurahan kebun geran kota bengkulu adalah sebagai berikut: 1. Melayani konsumen dengan baik ketika konsumen datang membeli produk pelayanan yang diberikan seperti bersikap ramah dan sopan, 2. Mempromosikan tentang produk busana muslim dengan cara seluruh karyawan diberikan baju busana muslim dari toko untuk dipakai saat bekerja bertujuan meningkatkan minat pembeli, 3. Memberikan potongan harga produk seperti pada saat hari besar islam, 4. Menjamin kualitas produk juga harga yang ditetapkan sesuai dengan standar kualitas produk tersebut, 5. Menjamin kepuasan konsumen dengan cara meletakan kotak saran di toko supaya para konsumen dapat memberikan kritikan kepada toko adzkia. Marketing syariah adalah sebuah disiplin bisnis strategis yang mengarahkan proses penciptaan, penawaran, dan perubahan values keseluruhan prosesnya sesuai dengan akad serta prinsip-prinsip al-Qur’an dan hadis. Adapaun hambatan dan solusinya yang dilakukan oleh toko adzkia kelurahan kebun geran kota bengkulu adalah sebagai berikut: a. Melayani konsumen solusinya adalah dengan cara memberikan semangat dan motivasi kepada karyawan untuk menjaga suasana hati para karyawan di toko agar tetap baik, b. Menutup toko ketika waktu sholat solusi yang diberikan yaitu dengan cara menempelkan kertas didepan toko sebagai bentuk pemberitahuan bahwa ketika waktu sholat toko adzkia tutup jadi konsumen tersebut dapat menunggu sebentar sampai toko buka kembali, c. Persaingan harga solusi yang diberikan yaitu menjelaskan kepada konsumen bahwa harga produk yang dijual di toko adzkia sesuai dengan kualitas, d. Masih kurangnya peminat busana muslim syar’i solusinya dengan cara menjual bentuk produk busana syar’i yang kekinian. METODE PENELITIAN Penelitian yang digunakan adalah metode penelitian kualitatif dengan pendekatan deskriptif, dengan melakukan wawancara, dokumentasi dan observasi. Peneliti juga memakai kualitatif deskriptif dari Nana Syaodih Sukmadinata yang mana penelitian deskriptif kualitatif ditujukan untuk mendeskripsikan dan menggambarkan fenomena- fenomena yang ada. Di dalam penelitian ini terdapat 3 informan yaitu: 1 kepada pemilik toko dan 2 dilakukan oleh karyawan, penelitian melakukan penelitian dengan menggambarkan data yang diperoleh dengan kata-kata atau kalimat yang dipisahkan dalam kategori-kategori untuk memperoleh kesimpulan. 283 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kesimpulan p Konsep pemasaran yang ada pada toko adzkia kelurahan kebun geran kota bengkulu sesuai dengan empat karakteristik pemasaran dalam islam, yaitu: 1. Teistis (rabbaniyyah) produk pakaian yang dimiliki toko adzkia memiliki bentuk pakaian yang sesuai dengan anjuran agama islam, sudah menutup aurat, sehingga apa yang diinginkan Allah SWT itu lebih diutamakan oleh toko adzkia 2. Etis (akhlaqiyyah) strategi pemasaran dalam pelayanan terhadap konsumen yang dimiliki para karyawan toko adzkia telah sesuai dengan konsep etis, karena para karyawan dalam melakukan pemasaran produk pakaian busana muslimnya mengutamakan sopan dan santun serta aklak yang baik. 3. Realistis (al-waqiyyah) dengan berpakaian bersih, rapi dan menutup aurat toko adzkia telah sesuai dengan konsep pemasaran islam realistis. Karena apapaun model pakaian yang dikenakan karyawannya, tetap mementingkan nilai-nilai religius. 4. Humanistis (insaniyyah) prinsip yang dimiliki oleh toko busana muslim al- haramain dengan tidak membeda-bedakan konsumen lama dan baru serta konsumen yang membeli sedikit atau banyak telah sesuai dengan konsep humanistis yang dalam 284 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis pemasarannya tidak membeda-bedakan. Hal-Hal Apa Saja Yang Menjadi Hambatan Marketing Syariah Dan Bagaimana Solusinya. Hambatan dan solusinya yang terjadi ketika melayani konsumen yaitu menjaga suasana hati tetap baik dalam bersikap ramah dan sopan kepada konsumen solusinya memberikan semangat dan motivasi kepada karyawan untuk menjaga suasana hati para karyawan di toko agar tetap baik, toko adzkia tutup pada saat waktu sholat, dengan menutup toko terkadang ada saja pelanggan yang merasa keberatan menempelkan kertas didepan toko sebagai bentuk pemberitahuan bahwa ketika waktu sholat toko adzkia tutup jadi konsumen tersebut dapat menunggu sebentar sampai toko buka kembali jadi, banyaknya toko-toko pesaing yang sering melakukan penurunan harga lebih banyak dari toko adzkia untuk menarik perhatian pelanggan solusinya menjelaskan kepada konsumen bahwa harga produk yang dijual di toko adzkia sesuai dengan kualitas produk, minat remaja terhadap pakaian busana muslim syar’i itu masih kurang soluasinya menjual bentuk produk busana syar’i yang kekinian. Saran Menurut penulis saran untuk toko tersebut yaitu untuk meningkatkan strategi marketing seperti mempromosikan produk melalui media sosial karena zaman semakin berkembang dan teknologi semakin maju maka dibutuhkannya promosi melalui media sosial dan juga toko bisa terus menerapkan strategi marketing tersebut walaupun banyak hambatan yang dihadapi oleh toko adzkia. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Yatminiwati, M. (2019). Manajemen Strategi Buku Ajar Perkulihan Bagi Mahasiswa. Widya Gama Press. Zainal, V. R. (2018). Islamic Marketing Management. Bumi Aksara. Zainurossalamia., S. (2020). Manajamen Pemasaran Teori dan Strategi. Forum Pemuda Aswaja. DAFTAR RUJUKAN Abdurahman, N. H. (2018). Manajemen Strategi Pemasaran. CV. Pustaka Setia. Fauzi, M. G. H. (2021). Strategi Pemasaran Konsep Teori dan Implementasi. Pascal Books. Fauzi, M. G. H. (2021). Strategi Pemasaran Konsep Teori dan Implementasi. Pascal Books. Herfianti, Meiffa., Yulihartika, Rika Dwi. (2020). Analisis Pengaruh Experiential Marketing Dan Harga Terhadap Customer Loyalty Smartphone Bersistem Operasi Android Di Kota Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 3(2). Humairaa, U. A. (2021). Apa Sih Strategi Pemasaran Itu. Pustaka Taman Ilmu. Kertajaya, H. (2006). Syariah Marketing. Mizan Pustaka. Mubarok, N. (2017). Strategi Pemasaran Islami Dalam Meningkatkan Penjualan Pada Butik Calista. I-Econimics, 3(1), 73–93. Noor, Z. Z. (2021). Strategi Pemasaran 5.0. Deepublish. Nurzam., Wijaya, Efran Ahmat. (2020). Strategi Pemasaran Cpo (Crude Palm Oil) Pada Pt. Bio Nusantara Teknologi Bengkulu Tengah. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 3(1). Putri, M. A. (2021). Strategi Pemasaran Syariah Dalam Meningkatkan Daya Saing UMKM Kerupuk Desa Tlasih Tulangan Sidoarjo. Jurnal Tabarru’ : Islamic Banking and Finance, 4(2). g Rauf, A. (2021). Digital Marketing:Konsep dan Strategi. Insania. ( ) g g p g Sule, E. T. (2016). Manajeman Bisnis Syariah. Refika Aditama. Sule, E. T. (2016). Manajeman Bisnis Syariah. Refika Aditama. utojo, S. (2009). Manajemen Pemasaran. Damar Mulia Pustaka. Sutojo, S. (2009). Manajemen Pemasaran. Damar Mulia Pustaka. 285 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 285 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Yatminiwati, M. (2019). Manajemen Strategi Buku Ajar Perkulihan Bagi Mahasiswa. Widya Gama Press. Zainal, V. R. (2018). Islamic Marketing Management. Bumi Aksara. Zainurossalamia., S. (2020). Manajamen Pemasaran Teori dan Strategi. Forum Pemuda Aswaja. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis 286 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis FINANCIAL PERFORMANCE ASSESSMENT ANALYSIS OF BANK USING THE DU PONT SYSTEM TECHNIQUE (STUDY OF PT. BANK SAVINGS AND STATE PENSIONS (BTPN) SHARIA 2017- 2020 PERIOD) Febri Syafly Fadhilah1, Nurul Hak2, Kustin Hartini3 Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3 febri.safli43@gmail.com1, nurul_hak@iainbengkulu,ac.id2, kustinhartini@gmail.com3 Febri Syafly Fadhilah1, Nurul Hak2, Kustin Hartini3 Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3 febri.safli43@gmail.com1, nurul_hak@iainbengkulu,ac.id2, kustinhartini@gmail.com3 JI. Raden Fatah Kecamatan Selebar Kota Bengkulu Corresponding email: febri.safli43@gmail.com JI. Raden Fatah Kecamatan Selebar Kota Bengkulu Corresponding email: febri.safli43@gmail.com INFORMASI ARTIKEL This review means to quantify the monetary exhibition of the Sharia Reserve funds and Annuities Bank (BTPN) for the period 2017 to 2020 utilizing the DuPont Framework strategy through NPM, TATO and return on initial capital investment tests.Quantitative descriptive research is used in this study.According to the study's findings, Bank BTPN Syariah's performance fluctuates annually.The lowest NPM for four years was in 2019, when it was 35.63 percent, and the highest NPM was in 2018.In 2019, the largest TATO was 0.256 times, while the smallest was 0.068 times in 2020.Additionally, the lowest ROI was 5.13 percent in 2020, while the highest ROI was 9.12 percent in 2019.Bank BTPN Syariah's ROI is said to be healthy with an average of 7.47%, so even though the DuPont System level has fluctuated, it is still regarded as positive due to the determination of the criteria for the DuPont System level. Riwayat Artikel: Diterima : 22 November 2022 Direvisi : 22 Juni 2023 Disetujui : 14 Juli 2023 Kata kunci: NPM, TATO, ROI, BTPN Syariah ABSTRAK Melalui penggunaan sistem DuPont dan uji NPM, TATO, 287 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis dan ROI, tujuan penelitian ini adalah untuk mengevaluasi kinerja keuangan Bank Tabungan dan Pensiunan Negara (BTPN) Syariah untuk tahun 2017 hingga 2020.Penelitian kuantitatif deskriptif digunakan dalam penelitian ini. Menurut temuan tersebut, kinerja Bank BTPN Syariah bervariasi setiap tahunnya. NPM terendah selama empat tahun adalah pada tahun 2019, ketika itu 35,63 persen, dan NPM tertinggi pada tahun 2018.In 2019, tato terbesar adalah 0,256 kali, sedangkan yang terkecil adalah 0,068 kali pada tahun 2020.Selain itu, ROI terendah adalah 5,13 persen pada tahun 2020, sedangkan ROI tertinggi adalah 9,12 persen pada tahun 2019.ROI Bank BTPN Syariah dikatakan Sehat dengan rata-rata 7,47%, sehingga meskipun level DuPont System di Bank BTPN Syariah mengalami fluktuasi, namun tetap dikatakan positif karena kriteria level DuPont System ditentukan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Perekonomian Indonesia terus berkembang pesat berkat munculnya berbagai bisnis baru di berbagai industri, termasuk bank syariah di sektor keuangan. Sesuai dengan prinsip ekonomi syariah, munculnya bank syariah sebagai pilihan baru untuk memenuhi kebutuhan masyarakat akan jasa keuangan niscaya dapat menimbulkan persaingan bisnis dengan berbagai pesaing yang berorientasi baik secara lokal maupun internationally.so bahwa untuk meningkatkan kapasitas perusahaan dalam menghasilkan keuntungan, maka diperlukan suatu perusahaan untuk beroperasi dengan efektivitas dan efisiensi yang lebih besar. Manajemen keuangan memiliki dampak langsung pada operasi dan eksistensi perusahaan untuk mencapai hal tersebut. Manajer keuangan harus mampu memahami kinerja keuangan perusahaan serta melakukan riset dan analisis yang dapat digunakan untuk mengembangkan rencana, strategi, atau kebijakan kebijakan baru yang berguna untuk menciptakan dan mempertahankan operasional bank syariah yang optimal. Akibatnya, seorang manajer keuangan harus dapat menyajikan analisis keuangan untuk menentukan keadaan bisnis dan perkembangan keuangannya di masa depan (Iska, 2012). Salah satu bisnis yang berkontribusi signifikan terhadap pertumbuhan ekonomi adalah bank. Tanggung jawab utama bank termasuk menerima simpanan, meminjamkan uang, dan menawarkan layanan pengiriman uang di seluruh operasi bisnisnya. Dengan kata lain, bank syariah adalah lembaga keuangan yang fungsi utamanya adalah menyalurkan dana atau menyediakan pembiayaan dan layanan 288 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis lainnya sesuai dengan syariah. Operasi dan produk bank syariah dikembangkan menggunakan metode fiqh dan didasarkan pada hukum Islam (Al-Quran dan Hadits. Undang-Undang Perbankan Syariah No.Menurut Pasal 21 UU Perbankan Tahun 2008, Usaha yang memberikan kredit atau bentuk bantuan keuangan lainnya kepada masyarakat dikenal dengan sebutan bank. Terlepas dari kenyataan bahwa industri perbankan syariah Indonesia telah berkembang agak di belakang negara-negara Muslim lainnya, itu akan terus berkembang.(A.Karim, 2016) y g Statistik dari Statistik Perbankan Syariah (SPS) menunjukkan bahwa pada tahun 2014, 4.268 juta orang menggunakan rekening bank, yang merupakan peningkatan signifikan dari tahun-tahun sebelumnya. Selain itu, laba bank untuk tahun 2015 adalah 3.402 juta dolar, sedangkan laba bank untuk tahun 2016 adalah 3.442 juta dolar lebih tinggi dari tahun sebelumnya. Situasi PT saat ini dapat berasal dari data historis. Selain itu, Total aset PT Bank Panin Dubai Syariah Bank meningkat pada tahun 2015, 2016, dan 2018, tetapi menurun pada tahun 2017, seperti halnya dana dan pendapatan pihak ketiga, yang meningkat pada tahun 2015, 2016, dan 2018, tetapi menurun pada tahun 2016 dan 2018. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Laba bersih setelah pajak juga menurun pada 2015, 2016, dan 2018, tetapi meningkat signifikan pada 2017. Keuntungan yang stabil dapat merusak kinerja perbankan syariah. Oleh karena itu, bank memerlukan analisis untuk menentukan bagaimana suku bunga akan berubah mengikuti kegiatan operasional selama periode waktu yang telah ditentukan. Bank syariah dan bank secara keseluruhan harus disajikan dengan cara yang sama dalam ringkasan keuangan.(Andrianto, 2019) Tabel 1 Data Rasio Keuangan Bank Tabungan Dan Pensiunan Negara (BTPN) Syariah Periode 2017 – 2020 Tahun Total Asset Pendapatan Laba bersih Setelah pajak 2017 Rp9.156.522 Rp908.216 Rp670.182 2018 Rp12.039.275 Rp1.302.549 Rp1.003.747 2019 Rp15.383.038 Rp3.951.507 Rp1.408.218 2020 Rp16.435.005 Rp1.119.640 Rp845.398 Sumber: Website BTPN Syariah (diolah) Tabel 1 Data Rasio Keuangan Bank Tabungan Dan Pensiunan Negara (BTPN) Laporan keuangan yang merinci kinerja bank selama Manajemen bertanggung jawab atas periode waktu yang telah ditentukan. Mereka adalah media informasi yang memberikan gambaran tentang kegiatan perusahaan.(Warsono, 2017) Jika informasi disajikan dengan benar, siapa pun dapat menggunakannya untuk membuat keputusan yang baik tentang perusahaan yang dilaporkan.(P Sirait, 2014) Keadaan aktual keuangan perusahaan akan terlihat setelah laporan keuangan disusun menggunakan 289 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 28 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis metode akuntansi dan penilaian yang sesuai dan berdasarkan data yang relevan. metode akuntansi dan penilaian yang sesuai dan berdasarkan data yang relevan. p y g y g Menganalisis kinerja keuangan perusahaan bertujuan untuk mengetahui seberapa baik perusahaan telah mematuhi kaidah pelaksanaan keuangan, seperti menghasilkan laporan keuangan sesuai dengan GAAP (General Accepted Accounting Principle) atau SAK (Standar Akuntansi Keuangan). Analisis model sistem Du Pont ini mempertimbangkan rasio rasio aktivitas (total assets turnover) dan profit margin, selain untuk menentukan digunakan atau tidaknya rasio rasio untuk menentukan profitabilitas dan pengembalian investasi. Analisis model Du Pont juga dapat digunakan. untuk mengidentifikasi faktor-faktor lain yang mempengaruhi profitabilitas perusahaan. Analisis ini dapat digunakan untuk menentukan efisiensi keseluruhan perusahaan dalam proses peralihan, menghasilkan pengembalian ekuitas yang jauh lebih tinggi daripada nilai rata-rata aset perusahaan pada saat akuisi. Perusahaan akan dapat memperoleh pinjaman atau pembiayaan dengan menggunakan metode ini. Hal ini karena hubungan antara Amerika Serikat dan pelanggannya begitu kuat sehingga jika Amerika Serikat tidak berhasil mengimplementasikan produk atau layanan yang dimaksud, Amerika Serikat akan menderita dalam hal kualitas. layanan pelanggannya serta dalam hal kepuasan pelanggan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Tidaklah mungkin untuk mencapai atau mempertahankan efektivitas operasional suatu perusahaan melalui modus dan kegiatan, tetapi dimungkinkan untuk menggunakan suatu metode dengan tingkat ketelitian yang tinggi untuk memenuhi persyaratan suatu strategi tertentu atau untuk mencapai suatu kebijakan tertentu yang ditentukan. rasional.(Dadang Muljawan, 2020). Karena aspek penjualan, aset yang digunakan, dan laba pendapatan berperan dalam analisis, sistem Du Pont adalah metode untuk menilai efisiensi perusahaan. Net (NPM), Sumber Daya Lengkap (TATO), dan Laba dari Usaha (pengembalian modal yang diinvestasikan) adalah tiga penanda dalam Kerangka Kerja Du Pont. Untuk meningkatkan masa depan perencanaan keuangan, indikator-indikator ini memungkinkan untuk mengidentifikasi Berbagai faktor yang mempengaruhi seberapa baik manajemen sumber daya perusahaan bekerja.Alimuddin Ruslam M, Ideologi Akuntans iIslam, Edisi 1 (Depok: Rajawali Pers, 2019). Menurut penelitian Kartika Dewi tahun 2017 yang mengevaluasi kinerja keuangan PT sebagai subjek penelitian menggunakan Du Pont System Analysis.Tbk.Raya Indo Tambang.(Dewi Kartika, 2017) Rasio ROE, ROA, dan utang dari penelitian ini menunjukkan bahwa situasinya tidak menguntungkan. Penggunaan analisis Du Pont System adalah fitur umum antara penelitian ini dan penulisnya. Sebaliknya, penelitian penulis menggunakan rasio ROI untuk mengevaluasi kinerja keuangan bank, sedangkan Dengan menggabungkan rasio utang dengan ROE, ROA, dan Du Pont System, penelitian ini dilakukan.(A, 2016) Menurut penelitian IIS dari tahun 2010, judul proyek penelitian adalah "Analisis kinerja Bank Syariah Mandiri menggunakan Metode Du Pont." Pameran moneter bank syariah gratis, yang berlangsung dari 2006 hingga 2009, menjadi fokus penyelidikan ini.(Istikomah, 2020) Menurut temuan penelitian, margin laba bersih telah meningkat di setiap tahun yang telah diamati, mencapai tingkat tertinggi dalam leverage 2009, ketika BSM melihat peningkatan 0,01 persen, yang diimbangi oleh peningkatan aset. Analisis Du Pont menunjukkan bahwa bank Mandiri Syariah mampu menghasilkan 290 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis laba bersih selama periode 2006 hingga 2009.In penelitian ini dan lain-lain sejenisnya, data dianalisis menggunakan metode sistem du Pont. Sebaliknya, penelitian ini menggunakan bank BTPN Syariah dari tahun 2017 hingga 2020, sedangkan penelitian sebelumnya menggunakan sampel bank Mandiri Syariah dari tahun 2006 hingga 2009.(Ikatan Bankir Indonesia (IBI), 2018). Kinerja Keuangan Salah satu aspek kinerja bank secara keseluruhan adalah kinerjanya. Kinerja bank secara keseluruhan menunjukkan keberhasilan operasinya, termasuk keuangan, pemasaran, penggalangan dana dan distribusi, teknologi, dan sumber daya manusia. Deskripsi kondisi keuangan bank dari waktu ke waktu dalam hal penggalangan dana dan distribusi disediakan oleh kinerja keuangan bank. Profitabilitas bank, likuiditas, dan kecukupan modal biasanya digunakan sebagai ukuran ini.(Jumingan, 2017) Di sisi lain, Fahmi mengatakan bahwa analisis kinerja keuangan perusahaan dilakukan untuk melihat seberapa baik aturan pelaksanaan keuangan yang telah diterapkan.(Fahmi, 2014) Kinerja manajemen bank dari waktu ke waktu dapat diperoleh dari laporan laba rugi dan neraca keuangan. Organisasi dengan banyak eksekusi adalah organisasi yang hasil kerjanya lebih baik daripada pesaing atau lebih baik dari rata-rata organisasi serupa. Analisis arus kas, analisis likuiditas, analisis rata-rata, analisis profitabilitas, analisis aktivitas, analisis penilaian, analisis pertumbuhan, analisis kesehatan, dan analisis teknis Sistem Du Pont semuanya dapat digunakan untuk menyajikan analisis kinerja keuangan.(Prawironegoro, 2017) Du Pont System Metode Analisis Du Pont dari analisis kinerja perusahaan dikembangkan oleh Du Pont Corporation sekitar tahun 1919.Pendekatan ini menunjukkan bagaimana rasio aktivitas margin keuntungan terhadap penjualan berinteraksi satu sama lain untuk menentukan profitabilitas.(Najamuddin, 2011) " Analisis Sistem Du Pont memeriksa seluruh rasio aktivitas terhadap margin keuntungan pada penjualan untuk menunjukkan bagaimana profitabilitas dipengaruhi oleh rasio ini.," kata J.Ferd Weston dan Fligene Bringham. Sudana menegaskan bahwa ketika menghitung ROI, analisis DuPont menunjukkan hubungan antara utang, total perputaran aset, dan margin keuntungan. Selain itu, laporan keuangan perusahaan dianalisis menggunakan Sistem DuPont untuk menentukan kesehatannya.(Munawir, 2014) Rasio Keuangan DuPont System Rasio Keuangan yang terdapat pada DuPont System : Total Asset Turnover Rasio penjualan perusahaan terhadap total asetnya disebut total perputaran aset. TATO = Pendapatan Total Aktiva 𝑥 1 Kali l Asset Turnover Rasio penjualan perusahaan terhadap total asetnya disebut total perputaran aset. TATO = Pendapatan Total Aktiva 𝑥 1 Kali http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Bank BTPN Syariah BTPN Syariah m BTPN Syariah muncul sebagai hasil merger PT Bank Sahabat Purbadanarta dan Unit Usaha Syariah (UUS) BTPN. Bank umum non-devisa Bank Sahabat Purbadanarta didirikan di Semarang pada bulan Maret 1991. PT Bank Tabungan Pensiunan Nasional, Tbk (BTPN) membeli 70% saham bank pada 20 Januari 2014.In sesuai dengan Surat Keputusan Otoritas Jasa Keuangan (OJK) yang diterbitkan pada 22 Mei 2014, saham ini kemudian dikonversi menjadi BTPN Syariah. Unit Usaha Syariah BTPN telah membantu keluarga kurang beruntung di seluruh Indonesia dan memberdayakannya sejak Maret 2008.In Juli 2014, Bank syariah ke-12 di Indonesia ini terbentuk ketika perseroan melakukan merger dengan BTPN Syariah.BTPN Syariah merupakan anak usaha yang dimiliki oleh BTPN hingga 70%.(Prawira, 2021) Return On Investment/ROI (Pengembalian Investasi) Efisiensi penggunaan aset dalam kaitannya dengan laba bersih dikendalikan oleh determinan ROI. Ini menunjukkan berapa banyak properti yang digunakan atau digunakan untuk menghasilkan uang. Tingkat pengembalian investasi ditunjukkan oleh rasio ini. Investor lain harus mendapatkan pengembalian investasi yang lebih baik daripada yang mereka lakukan sendiri. Gunakan rumus sebagai berikut: ROI = Net Profit Margin X Total Asset Turnover ROI = Net Profit Margin X Total Asset Turnover Net Profit Margin (Laba Bersih) Net Profit Margin (Laba Bersih) Setelah semua biaya dan biaya dipotong, seperti pajak dan bunga, ini adalah persentase dari hasil penjualan yang remains.Net pendapatan adalah tingkat manfaat bersih organisasi dari perjanjian yang dapat dicapai dalam jangka waktu yang telah ditentukan. Dengan membandingkan penjualan dengan laba bersih setelah pajak, rasio ini digunakan untuk menentukan profitabilitas perusahaan. Gunakan rumus sebagai berikut: http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Total Asset Turnover 291 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis METODE PENELITIAN Penelitian kuantitatif deskriptif mencakup penelitian khusus ini. Tujuan penelitian kuantitatif deskriptif adalah untuk mendeskripsikan atau mendefinisikan komponen, metode, dan hasil suatu kegiatan.(Hardani, 2020) Menjelaskan penelitian tidak diharapkan untuk menguji spekulasi namun hanya menggambarkan apa variabel, efek samping dan kondisinya.penelitian yang dapat diukur yang berfokus pada analisis data numerik yang kemudian diproses dengan bantuan teknik statistik tertentu.(Sugiyono, 2019) Laporan keuangan Bank BTPN Syariah periode 2017-2020 menjadi fokus penelitian ini. Sumber data primer Penelitian ini menggunakan data sekunder dari laporan keuangan Bank Tabungan dan Pensiunan Negara (BTPN) periode 2017-2020. Penelitian ini menyelidiki informasi dengan menggunakan strategi Du Pont Framework. Laporan keuangan BTPN Syariah 2017-2020 akan digunakan dalam penelitian ini menggunakan 292 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis analisis metode DuPont System untuk mengetahui kinerja keuangan bank.(Hadari Nawawi, 2017) analisis metode DuPont System untuk mengetahui kinerja keuangan bank.(Hadari Nawawi, 2017) Salah satu metode untuk menilai kinerja perusahaan, yang sebelumnya dikenal sebagai Du Pont Analysis, dikembangkan oleh Du Pont Corporation sebagai metode awal. Strategi ini menunjukkan interaksi antara rasio dalam menentukan profitabilitas dengan menghubungkan rasio aktivitas margin keuntungan dengan penjualan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu HASIL PENELITIAN DAN PEMBAHASAN Analisis Penilaian Kinerja Keuangan Bank BTPN Syariah dengan Metode DuPont System 1). Net Profit Margin (NPM) Rasio margin laba bersih, atau laba bersih per pendapatan setelah memperhitungkan semu pengeluaran dan pajak, disebut sebagai laba bersih. nalisis Penilaian Kinerja Keuangan Bank BTPN Syariah dengan Metode DuPont asio margin laba bersih, atau laba bersih per pendapatan setelah memperhitungkan semu engeluaran dan pajak, disebut sebagai laba bersih. Tabel 2 Hasil Analisis NPM Bank BTPN Syariah 2017-2020 Tahun Net Profit Margin (NPM) 2017 73,78 % 2018 77,06 % 2019 35,63 % 2020 75,50 % Rata-rata 65,49 % Sumber : Diolah peneliti 2022 Menurut hasil penilaian kinerja keuangan Metode Sistem DuPont, kinerja keuangan Bank BTPN Syariah berfluktuasi setiap tahunnya dari tahun 2017 hingga 2020 berdasarkan perhitungan Net Profit Margin. Namun, laba bersih Bank BTPN Syariah diperkirakan akan rendah pada 2019 namun tinggi pada 2017, 2018, dan 2020 Karena tingginya bagi hasil dana yang digunakan oleh pihak ketiga dan beban untuk Syirkah sementara. Di sisi lain, Marjin Laba Bersih tertinggi di industri adalah 77,06% pada tahun 2018, diikuti oleh 75,50% pada tahun 2020 dan 73,78% pada tahun 2017. 2). Total Asset Turnover (TATO) Tingkat perputaran aset, atau potensi pendapatan aset, dapat dijelaskan dengan menggunakan Total Assets Turnover Ratio untuk melihat seberapa efektif investasi (input) digunakan untuk menghasilkan pendapatan (output). 2). Total Asset Turnover (TATO) Tingkat perputaran aset, atau potensi pendapatan aset, dapat dijelaskan dengan menggunakan Total Assets Turnover Ratio untuk melihat seberapa efektif investasi (input) digunakan untuk menghasilkan pendapatan (output). Tabel 3 http://jurnal umb ac id/index php/jamekis || Universitas Muhammadiyah Bengk Tabel 3 Hasil Analisis TATO Bank BTPN Syariah 2017-2020 Tahun Total Asset Turnover 2017 0,099 kali 2018 0,108 kali 2019 0,256 kali 2020 0,068 kali Rata-rata 0,132 kali 293 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Sesuai perhitungan All out Resource Turnover, berfluktuasi setiap tahun, mencapai 0,256 kali pada 2019,0.108 kali dalam waktu normal 2018.In, perputaran aset langsung pada periode 2017 adalah 0,099 kali, dan periode 2020 adalah 0,068 kali. Hal ini mengindikasikan bahwa pada tahun 2019, 2018, dan 2020, Bank BTPN Syariah diperkirakan memiliki kapasitas yang tinggi untuk menghasilkan pendapatan dari total asetnya, sedangkan kapasitas ini diperkirakan akan rendah pada tahun 2017 dan 2020. 3). Return On Invesment (ROI) ) ( ) Rasio Return on Investment menjelaskan kapasitas bank untuk mengelola dana yang diinvestasikan dalam aset yang menghasilkan keuntungan secara keseluruhan. Margin laba bersih dikalikan dengan jumlah total aset yang dijual untuk sampai pada tingkat pengembalian investasi ini. Tabel 4 Tabel 4 Tabel 4 Hasil Analisis ROI Bank BTPN Syariah 2017-2020 Tahun Return On Invesment 2017 7,30 % 2018 8,32 % 2019 9,12 % 2020 5,13 % Rata-rata 7,47 % Sumber : Diolah peneliti 2022 Dari perhitungan Laba dari Bunga pada periode 2017, 2018 dan 2019 sebesar 7,30%, 8,32% dan 9,12% masih di atas normal Laba dari Ventura.Sementara itu, Bank BTPN Syariah mampu menghasilkan banyak uang pada tahun 2019, 2018, dan 2017 berkat Return On Investment sebesar 5,134% pada tahun 2020 yang lebih rendah dari rata-rata Return On Investment.It diperkirakan akan rendah pada tahun 2020.Hal ini menunjukkan buruknya kinerja Bank BTPN Syariah dalam menghasilkan return aset dari pendapatan dan total perputaran aset. Namun, ROI keseluruhan meningkat antara 2017 dan 2020. Berikut hasil analisis berbasis Sistem Du Pont Bank BTPN Syariah berdasarkan perhitungan sebelumnya: http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Tabel 5 Hasil Analisis Bank BTPN Syariah Menggunakan Teknik Du Pont System Periode 2017-2020 Tahun Total Asset Pendapat an Laba Bersih Setelah Pajak NPM TATO ROI 2017 Rp9.156.522 Rp908.261 Rp670.182 73,78% 0,099 kali 7,30% 2018 Rp12.039.275 Rp1.302.549 Rp1.003.747 77,06% 0,108 kali 8,32% 2019 Rp15.383.038 Rp3.951.507 Rp1.408.218 35,63% 0,256 Kali 9,12% 2020 Rp16.435.005 Rp1.119.640 Rp845.398 75,50% 0,068 Kali 5,13% Tabel 5 Hasil Analisis Bank BTPN Syariah Menggunakan Teknik Du Pont System Periode 2017-2020 294 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol: / Desember 2019. Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Kinerja keuangan PT dapat dilihat pada tabel di atas. Rasio ROI yang dihitung menggunakan Sistem Du Pont dalam time series tahun 2019 menggambarkan kinerja keuangan Bank BTPN Syariah, dengan laba sebesar 9,12 persen, untuk tahun 2017 hingga 2020.Mengalikan marjin laba bersih dengan total pemotongan aset menghasilkan perbandingan ROI untuk tahun 2017 dan 2018.Kedua proporsi ini sama-sama telah berkembang. g Korelasi pengembalian investasi modal awal pada 2018 dengan 2019 kembali meningkat dari tahun sebelumnya. Rasio margin laba bersih dikalikan dengan total perputaran aset pada tahun berjalan digunakan untuk menghitung laba atas investasi (ROI). ROI turun 5,134% pada 2020 dibandingkan tahun sebelumnya. Sementara perputaran aset telah menurun, rasio margin laba bersih telah meningkat. 3). Return On Invesment (ROI) Oleh karena itu, penurunan perputaran aset menjadi alasan penurunan ROI pada tahun 2020.Laba bersih bank setelah pajak menurun sementara aset dan pendapatan meningkat dari tahun sebelumnya, sehingga terjadi penurunan perputaran aset (TATO). ROI menurun sebagai akibat dari rugi bersih bisnis sebesar Rp 845,398 miliar pada tahun 2020.Hal ini mengindikasikan bahwa kinerja bisnis terus menurun, bahkan mengalami kerugian yang signifikan dan tidak menghasilkan laba pada tahun 2020. Kesimpulannya, kinerja keuangan PT dapat dilihat pada analisis di atas. Deretan waktu rasio Return On Investment (ROI) Bank BTPN Syariah menggunakan pendekatan Sistem Du Pont mengungkapkan bahwa ROI dikatakan stabil selama empat periode, dari 2017 hingga 2020.ROI 7,30 persen pada 2017, kemudian naik menjadi 8,32 persen pada 2018 dan 9,12 persen pada 2019.In penambahan, bisnis ini mampu membukukan laba sebesar 0,23 persen pada 2020, naik dari rugi bersih Rp 845.398 miliar pada tahun sebelumnya. Rasio net profit margin (NPM) dan total asset turnover ratio/total asset turnover (TATO) yang keduanya fluktuatif berdampak pada angka rasio ROI. Karena mereka berada pada ketentuan 0,50% (standar BI), secara keseluruhan, 2017 dan 2020 menunjukkan kinerja yang cukup baik.pengembalian uang yang diinvestasikan pada tahun 2020 menunjukkan hal yang mengerikan dengan alasan bahwa pengembalian modal yang diinvestasikan selanjutnya berkurang, ini karena tidak adanya kapasitas bank para eksekutif untuk menggunakan sumber dayanya secara efektif atau dalam mengawasi dan menggunakan dukungan menempatkan sumber daya ke dalam semua sumber daya untuk menciptakan keuntungan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ROI Bank BTPN Syariah dikatakan Sehat dengan rata-rata 7,47%, sehingga Kesimpulan p Dari eksplorasi tersebut, konsekuensi dari estimasi pameran moneter Bank Tabungan dan Pensiunan Negara (BTPN) Syariah periode 2017 hingga 2020 dengan menggunakan strategi DuPont Framework melalui NPM, TATO dan return on initial capital investment test. NPM terendah selama empat tahun adalah pada tahun 2019, ketika itu 35,63 persen, dan NPM tertinggi pada tahun 2018.In 2019, tato terbesar adalah 0,256 kali, sedangkan yang terkecil adalah 0,068 kali pada tahun 2020.Selain itu, ROI terendah adalah 5,13 persen pada tahun 2020, sedangkan ROI tertinggi adalah 9,12 persen pada tahun 2019. ROI Bank BTPN Syariah dikatakan Sehat dengan rata-rata 7,47%, sehingga http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengku 295 1 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol: / Desember 2019. Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol: / Desember 2019. Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis meskipun level DuPont System di Bank BTPN Syariah mengalami fluktuasi, namun tetap dikatakan positif karena kriteria level Du Point System ditentukan. meskipun level DuPont System di Bank BTPN Syariah mengalami fluktuasi, namun tetap dikatakan positif karena kriteria level Du Point System ditentukan. meskipun level DuPont System di Bank BTPN Syariah mengalami fluktuasi, namun tetap dikatakan positif karena kriteria level Du Point System ditentukan. DAFTAR RUJUKAN DAFTAR RUJUKAN A, Karim. (2016). Analisis Fiqih Dan Keuangan. PT. Raja Grafindo Andrianto. (2019). Manajemen Bank Syariah (C. P. Q. Media (Ed.). Muljawan, Dadang P. S. (2020). Ekonomi Syariah. Departemen Ekonomi dan Keuangan Syariah. Dewi Kartika. (2017). Analisis Du Pont System Untuk Menilai Kinerja Keuangan Pada PT. Indo Tambang Raya Megah TBK (p. 14). Tambang Raya Megah TBK. Fahmi, I. (2014). Analisis Kinerja Keuangan. CV Alfabeta. Finthariasari, Meilaty., Febriansyah, Erwin., Pramadeka, Katra. (2020). Corporate Social Responsibility Disclosure: A Determinant Analysis (Case Study Manufacturing Companies Listed on the Indonesia Stock Exchange). International Journal of Trends in Accounting Research, 1(1). Furqonti, Ranidiah., Arianto, Tezar. (2020). Analisis Kinerja Keuangan Perbankan Syariah (Studi Empiris Bank Syariah ’’Badan Usaha Milik Negara’’ Di Indonesia Periode 2015-2018). Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 1(1). Herlin., Yanti, Rina Trisna. (2021). Analisis Kinerja dan Rasio Keuangan pada PT. Pegadaian (Persero) Tahun 2018-2019. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 4(1). ( ) ( ) Hadari Nawawi. (2017). Metode Penelitian Sosial. Gaja Mada University. H d i H A (2020) M d l i P li i K li if d K i if (E 1 ( Hadari Nawawi. (2017). Metode Penelitian Sosial. Gaja Mada University. Hardani, H. A. (2020). Metedologi Penelitian Kualitatif dan Kuantitatif (E. 1 (Ed.)) ( ) j y Hardani, H. A. (2020). Metedologi Penelitian Kualitatif dan Kuantitatif (E. 1 (Ed.)). Hardani, H. A. (2020). Metedologi Penelitian Kualitatif dan Kuantitatif (E. 1 (Ed.)). CV. Pustaka Ilmu Group. CV. Pustaka Ilmu Group. Ikatan Bankir Indonesia (IBI). (2018). Bisnis Kredit Perbankan (edisi 2). PT Gramedia Pustaka Utama. Iska, S. (2012). Sistem Perbankan Syariah Di Indonesia. Fajar Media Press. Istikomah, I. (2020). Iis Istikomah, ‘Analisis Kinerja Bank Syariah Mandiri Dengan Metode Du Pont System. Manajemen Ekonomi Dan Bisni. System. Manajemen Ekonomi Dan Bisni. Jumingan. (2017). Analisis Laporan Keuangan. PT Bumi Aksara. Munawir. (2014). Analisa Laporan Keuangan (Edisi 4). Liberty. Najamuddin. (2011). Najmudin, Manajemen Keuangan Dan Akuntansi Syar’iyyah Modern. Andi Offset. P Sirait. (2014). Pelaporan Dan Laporan Keuangan (G. Ilmu (Ed.). Persad. A, A. (2016). Akuntansi Keuangan Syariah : Teori ke Praktik. Deepublish. Prawira, B. (2021). PANDUAN TRANSFORMASI DIGITAL BANK DI INDONESIA (E. 1 (Ed.); Ricky Satr). Media Nusa Creative. 1 (Ed.); Ricky Satr). Media Nusa Creative. Prawironegoro, D. (2017). Manajemen Keuangan. Diadit Media. Ruslam M, A. (2019). Ideologi AkuntansiIslam (Edisi 1). Rajawali Pers. g j Sugiyono. (2019). Metode Penelitian Kuantitatif Kualitatif Dan R&D. Alfabeta. Sugiyono. (2019). DAFTAR RUJUKAN Metode Penelitian Kuantitatif Kualitatif Dan R&D. Alfabeta. Warsono. (2017). Manajemen Keuangan Perusahaan (edisi 3). Bayu Media. Sugiyono. (2019). Metode Penelitian Kuantitatif Kualitatif Dan R&D. Alfabeta. Warsono. (2017). Manajemen Keuangan Perusahaan (edisi 3). Bayu Media. Warsono. (2017). Manajemen Keuangan Perusahaan (edisi 3). Bayu Media. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 295 1 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis STRATEGI DIGITAL BAURAN PEMASARAN 4P TERHADAP KINERJA UMKM KOTA SAMARINDA MARKETING MIX DIGITAL STRATEGY AGAINST PERFORMANCE OF MEMEs IN SAMARINDA CITY M. Risal1, Damayanti2 Universitas Muhammadiyah Kalimantan Timur, Samarinda, Indonesia1 Universitas Muhammadiyah Kota Palopo, Palopo, Indonesia2 m.risal@umkt.ac.id1, damayanti@student.umpalopo.ac.id2 M. Risal1, Damayanti2 Universitas Muhammadiyah Kalimantan Timur, Samarinda, Indonesia1 Universitas Muhammadiyah Kota Palopo, Palopo, Indonesia2 m.risal@umkt.ac.id1, damayanti@student.umpalopo.ac.id2 M. Risal1, Damayanti2 Universitas Muhammadiyah Kalimantan Timur, Samarinda, Indonesia1 Universitas Muhammadiyah Kota Palopo, Palopo, Indonesia2 m.risal@umkt.ac.id1, damayanti@student.umpalopo.ac.id2 Jl. Juanda, Kota Samarinda Kalimantan Timur Corresponding email: m.risal@umkt.ac.id Keywords: Kata kunci: Produk; Harga; Promosi; Tempat. Kinerja UMKM ABSTRACT This study aims to determine the digital strategy of the 4p marketing mix on the performance of MSMEs in Palopo City. This method uses a quantitative method using primary data, the data collection method uses a questionnaire survey to 80 respondents of MSMEs in Palopo City. The analysis in this study uses multiple linear regression analysis, after the data is collected the analysis data uses the SPSS version 23 program. The results of this study are multiple linear regression analysis using the coefficient of determination (R2) and hypothesis testing (T). The results of this study indicate that product (X1), price (X2), promotion (X3), place (X4), have a positive or significant effect on the performance of SMEs. Riwayat Artikel: Diterima : 15 Juni 2023 Direvisi : 28 Juli 2023 Disetujui : 08 Agustus 2023 Keywords: Product; Price; Promotion; Place, MEMEs Performa Keywords: Product; Price; Promotion; Place, MEMEs Performa http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ABSTRAK Penelitian ini bertujuan untuk mengetahui strategi digital Bauran pemasaran 4p terhadap kinerja umkm Kota Samarinda. Metode ini menggunakan metode kuantitatif dengan menggunakan data primer, metode pengambilan data menggunakan survei kuesioner kepada 80 responden UMKM Kota Samarinda. Analisis dalam penelitian ini menggunakan analisis regresi linear berganda, setelah data dikumpulkan data analisis menggunakan program SPSS versi 23. Hasil penelitian ini dengan analisis regresi linear berganda menggunakan pengujian koefisien determinasi (R2) 297 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis dan uji hiotesis uji (T). Hasil penelitian ini menunjukan bahwa product (X1), price (X2), promotion (X3), place (X4), berpengaruh positif atau signifikan terhadap kinerja UMKM. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Strategi Bauran Pemasaran Strategi bauran pemasaran (marketing mix stategy) memiliki kontribusi dalam memengaruhi konsumen untuk memperoleh produk atau jasa yang ditawarkan pasar, oleh karena itu bauran pemasaran (marketing mix) disebutkan suatu perangkat alat yang akan menunjukkan tingkat keberhasilan pemasaran pada bisnis yang dilakukan (Kotler & Keller, 2016). Strategi bauran pemasaran (marketing mix strategy) seperangkat strategi yang dikombinasikan kedalam aktivitas-aktivitas pemasaran, sehingga menghasilkan pelanggan yang dapat menguntungkan perusahaan (Alma, 2016). p gg y g p g g p Strategi bauran pemasaran dibagi menjadi empat bagian yang berorientasi ganda, rasional, emosional dan keterlibatan rendah dengan jenis produk yang berbeda dengan pemasaran yang berbeda strategi, sehingga strategi bauran pemasaran dapat ditambahkan menjadi lima bagian yang merupakan pilihan target pasar, strategi layanan, strategi harga, strategi saluran, dan strategi pemasaran (Adewale et al., 2013;Finthariasari & Zetira, 2022; Ekowati & Finthariasari, 2020). Strategi Produk (Product strategy) Produk adalah segala sesuatu yang memiliki bentuk, kemasan, dan informasi pelabelan, yang dapat mempengaruhi konsumen untuk melihat produk di dalam toko, memeriksanya, dan membelinya (Amzad, Sarker, Aimin, & Begum, 2012). peneliti sebelumnya dengan jelas menyarankan bahwa pengaruh produk memiliki dampak yang signifikan terhadap kinerja bisnis (Kazem, 2006; Kemppainen, Vepsalainen, & Tinnila, 2008; Fitriah et al., 2019; Owomoyela et al., 2013; Oktarini et al., 2022) pembangunan nasional. Kota Samarinda perlu memperkuat perekonomiannya sehingga dapat meningkatkan taraf hidup dan daya saing masyarakat. Diharapkan UMKM mampu memberikan stabilitas dalam meningkatkan prospek usaha yang dijalankannya agar dapat memberikan hasil yang maksimal bagi pelaku UMKM nantinya dan memberikan dampak yang baik bagi koperasi dan perdagangan, pemerintah dan masyarakat itu sendiri. Perkembangan UMKM Kota Samarinda sebagai bisnis yang bertahan ditengan Covid-19, masyarakat diminta stay at home. Dimana UMKM bisa mengubah perilaku ekonomi yang tadinya belanja offline ke online. Efeknya bukan hanya menyerang kesehatan personal, tapi sudah menggerogoti semua hal termasuk sektor industri dan UMKM. Usaha mereka terancam tutup karena pembatasan aktivitas yang menyebabkan kelesuan perekonomian masyarakat. Biarpun kini kita menatap era new normal, namun ancaman virus belum sepenuhnya berakhir. Ada beberapa sektor yang menyebabkan laju pertumbuhan ekonomi di Kota Samarinda ini dapat menjanjikan prospek yang cerah, yakni, sektor pendidikan, kesehatan, dan usaha mikro, kecil dan menengah (UKM), seperti kuliner dan lain-lain. PENDAHULUAN Dunia mengalami sebuah peristiwa besar tepatnya pengujung tahun desember 2019, telah dilanda musibah virus corona (covid-19) dimana banyak masyaraka resah, sakit, dan meninggal dunia. Peristiwa tersebut berawal di Wuhan, Tiongkok (Putri, 2020). Perkembangan informasi dan teknologi saat ini sangat membantu pelaku usaha kecil dan menengah (UMKM) dalam menjalankan kegiatan bisnisnya. Banyaknya pesaing menjadi faktor bagi pengusaha untuk memasuki persaingan yang ketat. Perusahaan yang memiliki kemampuan dalam menghadapi persaingan harus menggunkan strategi pemasaran dan media yang tepat untuk mencapai target pasar, sehingga penjualan akan selalu meningkat dan pendapatan perusahaan juga meningkat. Digital marketing saat ini menjadi salah satu media pemasaran yang sangat populer untuk menunjang berbagai aktivitas. Banyak pelaku usaha secara berlahan-lahan mulai meninggalkan model pemasaran konvesional/tradisional dan beralih ke pemasaran moderen yaitu digital marketing (Hendrawan, Sucahyowati, Cahyandi, Indriyani, & Rayendra, 2019). Nilai pelanggan yang memenuhi kebutuhan pelanggan perlu menjadi kombinasi dari strategi pemasaran yang ada. Di era industri 4.0 atau yang lebih dikenal dengan era digital, mudah untuk mengetahui bagaimana perusahaan sekarang menggunakan layanan untuk memenuhi kebutuhan pelanggan. Melalui layanan digital yang disediakan oleh semua sistem, situasi ini tidak diragukan lagi menjadi bagian dari strategi. Sistem pelayanan juga membantu memperpendek rantai penjualan dan membuat harga lebih terjangkau (Mashuri, 2019). Usaha Mikro Kecil dan Menengah (UMKM) terhadap kegiatan ekonomi memberi kontribusi yang sangat penting. Kegiatan perekonomian pada saat itu dilanda kondisi yang sangat parah (krisis) sehingga mempengaruhi sektor Usaha Mikro Kecil dan Menengah (UMKM) meningkat dengan sangat tajam, hal tersebut menyebabkan Usaha Mikro Kecil dan Menengah (UMKM) mengalami peningkatan sangat tajam, dari sekitar 7.000 pada tahun 1980 menjadi sekitar 40 juta pada tahun 2001 dan naik sekitar 49,840 juta pada tahun 2007. Oleh sebab itu, di Sulawesi Selatan, Usaha Kecil dan Menengah sejak tahun 2017 semakin naik menjadi 916 ribu (Risal & Salju, 2017). Pelaku UMKM telah mendapatkan dukungan dari pemerintah daerah dengan slogan memajukan perekonomian masyarakat. Dukungan keuangan untuk usaha menengah kecil dan mikro juga sama kuatnya, baik melalui dana APBD atau dana perimbangan atau hibah dari pusat, CSR dari perusahaan dan lembaga lainnya. Dengan dukungan kuat tersebut, diharapkan industri mikro, kecil dan menengah dapat menemukan momentum pembangunan yang baik sejalan dengan visi dan misi 298 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu METODE PENELITIAN Pendekatan dalam penelitian ini menggunakan pendekatan kuantitatif. Pendekatan kuantitatif meneliti suatu sampel dengan pengumpulan menggunakan kuesioner, data yang sudah terkumpul diolah dengan menggunakan statistik lalu kemudian dipakai untuk menguji hipotesis (Sugiyono, 2019). Sampel dalam penelitian ini adalah UMKM di Kota Samarinda sebanyak 80. Teknik pengolahan dapat menggunakan regresi linear berganda dengan bantuan software statistk komputer SPSS ver. 22. Strategi Tempat (Place Strategy) Tempat atau distribusi didefenisikan sebagai sarana organisasi yang saling berkontribusi yang terlibat dalam proses pembuatan suatu produk yang tersedia dan dapat digunakan atau dikonsumsi oleh konsumen (Kotler & Armstrong, 2018). Tempat adalah lokasi yang dipilih organisasi untuk menemukan produk atau layanannya sehingga konsumen sasarannya dapat dengan mudah mendapatkan akses ke sana (Cathy H. C. Hsu, 2019). Strategi Promosi (Promotion Strategy) 299 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Promosi merupakan unsur penting dalam bauran pemasaran. Komunikasi pemasaran yang terdiri dari periklanan, penjualan pribadi, promosi penjualan, hubungan masyarakat, yang digunakan perusahaan untuk mendapatkan tujuan periklanan dan pemasarannya (Kotler & Keller, 2016). Promosi yang efektif dilakukan secara teratur dan terukur yang bersumber dari imajinasi yang baik. Promosi harus mendukung produk, baik produk pribadi atau perusahaan harus memiliki merek yang menarik perhatian konsumen (Langat, 2016). Uji statistik Deskriptif Tujuan dari uji statistik deskriptif adalah untuk menguji dan mendeskripsikan karateristik sampel yang diobservasi. Pada penelitian ini uji deskriptif masing-masing variabel diuraikan sebagai berikut: a. Produk (X1) Deskripsi jawaban responden dapat dilihat pada tabel 1. Berdasarkan tabel 1, menunjukkan hasil bahwa dari 80 responden yang diteliti telah memberi jawaban yang beragam atas variabel produk. Sebaran jawaban responden lebih dominan memilih setujuh terhadap produk yang harus memiliki kualitas atas kinerja UMKM di Kota Samarinda. b. Harga (X2) b. Harga (X2) b. Harga (X2) Deskirpsi jawaban responden dapat dilihat pada tabel 2 sebagai berikut: Tabel 2 Deskripsi pernyataan variabel harga (X2) Item Pernyataan Frekuensi dan Persentase Mean STS TS N S SS X2.1 1 4 13 44 18 3,82 9% 3,6% 23,2% 57,1% 15,2 X2.2 1 5 28 46 - 3,68 9% 4,5% 29,5% 56,3% - Sumber: Output SPSS ver. 22. 2023 Deskirpsi jawaban responden dapat dilihat pada tabel 2 sebagai berikut: Tabel 2 Berdasarkan tabel 2, menunjukkan hasil bahwa dari 80 responden yang diteliti telah memberi jawaban yang beragam atas variabel harga. Sebaran jawaban responden yang memilih jawaban netral pada item pernyataan X2.1 dan X2.2 masih cukup tinggi sekitar 52,7% terhadap harga yang melekat pada produk UMKM di Kota Samarinda. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Tabel 1 Deskripsi pernyataan variabel produk (X1) 300 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Item Pernyataan Frekuensi dan Persentase Mean STS TS N S SS X1.1 - - - 112 - 4,00 - - - 100,0% - X1.2 - 2 37 66 7 3,70 - 1,8% 33,0% 58,9% 6,3% X1.3 - 5 45 52 10 3,60 - 4,5% 40,2% 46,4% 8,9% X1.4 - 2 33 69 8 3,74 - 1,8% 29,5% 61,6% 7,1% Sumber: Output SPSS ver. 22. 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Item Pernyataan Frekuensi dan Persentase Mean STS TS N S SS X1.1 - - - 112 - 4,00 - - - 100,0% - X1.2 - 2 37 66 7 3,70 - 1,8% 33,0% 58,9% 6,3% X1.3 - 5 45 52 10 3,60 - 4,5% 40,2% 46,4% 8,9% X1.4 - 2 33 69 8 3,74 - 1,8% 29,5% 61,6% 7,1% Sumber: Output SPSS ver. 22. 2023 b. Harga (X2) Deskirpsi jawaban responden dapat dilihat pada tabel 2 sebagai berikut: Tabel 2 Deskripsi pernyataan variabel harga (X2) Item Pernyataan Frekuensi dan Persentase Mean STS TS N S SS X2.1 1 4 13 44 18 3,82 9% 3,6% 23,2% 57,1% 15,2 X2.2 1 5 28 46 - 3,68 9% 4,5% 29,5% 56,3% - Sumber: Output SPSS ver. 22. 2023 Berdasarkan tabel 2, menunjukkan hasil bahwa dari 80 responden yang diteliti telah memberi jawaban yang beragam atas variabel harga. Sebaran jawaban responden yang memilih jawaban netral pada item pernyataan X2.1 dan X2.2 masih cukup tinggi sekitar 52,7% terhadap harga yang melekat pada produk UMKM di Kota Samarinda. c. Promosi (X3) Deskirpsi jawaban responden dapat dilihat pada tabel 3 sebagai berikut: Tabel 3 Deskripsi pernyataan variabel promosi (X3) Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis d. Tempat (X4) d. Tempat (X4) Deskirpsi jawaban responden dapat dilihat pada tabel 4 sebagai berikut: Tabel 4 Deskripsi pernyataan variabel tempat (X4) Item Pernyataan Frekuensi dan Persentase Mean STS TS N S SS X4.1 3 4 18 36 19 3,79 2,7% 3,6% 25,0% 50,0 18,8% X4.2 1 8 24 34 13 3,66 9% 7,1% 30,4% 48,2% 13,4% X4.3 1 2 25 43 9 3,72 9% 1,8% 31,3% 56,3% 9,8% Sumber: Output SPSS ver. 22. 2023 p Deskirpsi jawaban responden dapat dilihat pada tabel 4 sebagai berikut: Tabel 4 Berdasarkan tabel 4, menunjukkan hasil bahwa dari 80 responden yang diteliti telah memberi jawaban yang beragam atas variabel tempat. Sebaran jawaban responden yang memilih jawaban netral pada item pernyataan X4.1, X4.2 dan X4.3 masih cukup tinggi sekitar 25,0%, 30,4% dan 31,3% terhadap tempat yang melekat pada produk UMKM di Kota Samarinda. c. Promosi (X3) Deskirpsi jawaban responden dapat dilihat pada tabel 3 sebagai berikut: Tabel 3 Deskripsi pernyataan variabel promosi (X3) Berdasarkan tabel 3, menunjukkan hasil bahwa dari 80 responden yang dite skirpsi jawaban responden dapat dilihat pada tabel 3 sebagai berikut: Tabel 3 Deskripsi pernyataan variabel promosi (X3) Deskirpsi jawaban responden dapat dilihat pada tabel 3 sebagai berikut: Tabel 3 Deskirpsi jawaban responden dapat dilihat pada tabel 3 sebagai berikut: Berdasarkan tabel 3, menunjukkan hasil bahwa dari 80 responden yang diteliti telah memberi jawaban yang beragam atas variabel promosi. Sebaran jawaban responden 301 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis yang memilih jawaban netral pada item pernyataan X3.1, X3.2 dan X3.3 masih cukup tinggi sekitar 29,5%, 37,5% dan 33,0% terhadap promosi yang melekat pada produk UMKM di Kota Samarinda. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 302 Uji Validitas Uji validitas dilakukan untuk mengukur tingkat kesahihan suatu pertanyaan pada kuesioner. Suatu kuesioner dikatakan valid apabila pernyataan mampu mengungkapkan sesuatu yang diukur. Kuesioner penelitian dikatan valid jika nilai signifikansinya > 0,05. Tabel 5 Uji Validitas Variabel Item r hitung r tabel Keterangan Produk (X1) X1.1 0.771 0.1875 Valid X1.2 0.708 0.1875 Valid X1.3 0. 774 0.1875 Valid X1.4 0.633 0.1875 Valid Harga (X2) X2.1 0.793 0.1875 Valid X2.2 0.777 0.1875 Valid Promotion (X3) X3.1 0.632 0.1875 Valid X3.2 0.680 0.1875 Valid X3.3 0.673 0.1875 Valid Tempat (X4) X4.1 0.772 0.1875 Valid X4.2 0.861 0.1875 Valid X4.3 0.771 0.1875 Valid Kinerja UMKM (Y) Y1 0.733 0.1875 Valid 302 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Y2 0.774 0.1875 Valid Y3 0.787 0.1875 Valid Sumber: Output SPSS ver. 22. 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Y2 0.774 0.1875 Valid Y3 0.787 0.1875 Valid Sumber: Output SPSS ver. 22. 2023 Berdasarkan uji validitas pada tabel 5 di atas, dapat dilihat bahwa semua variabel dapat dikatakan valid karena semua pernyataan lebih besar dari 0,1875 atau r hitung > r tabel. Uji Reliabilitas Reliabilitas menunjukkan suatu pengertian bahwa sesuatu instrument cukup dapat dipercaya untuk diinginkan sebagai alat pengumpul data karena instrumen tersebut sudah baik. Suatu kuesioner dapat dikatakan reliabel atau handal apabila jawaban dari responden terhadap pernyataan adalah konsisten atau stabil dari waktu ke waktu. Dalam menguji reliabilitas data pada penelitian ini akan menggunakan formula Cronbach’s Alpha. Suatu variabel dikatakan reliabel jika memberikan nilai Cronbach’s Alpha> 0,60. Tabel 6 Uji Reliabilitas Tabel 6 Uji Reliabilitas Variabel Cronbach's Alpha Standar Reabilitas/Kriteria Keterangan Produk (X1) 0.729 0,60 Reliabel Harga (X2) 0.821 0,60 Reliabel Promosi (X3) 0.623 0,60 Reliabel Tempat (X4) 0.826 0,60 Reliabel Kinerja UMKM (Y) 0.809 0,60 Reliabel Sumber: Output SPSS ver. 22. 2023 Dapat dilihat pada tabel 6 bahwa hasil Cronbach's Alpha untuk semua variabel >0,60, sehingga dapat disimpulkan bahwa kuesioner dapat digunakan sebagai alat ukur yang dapat menjelaskan variabel independen yaitu produk (X1), harga (X2), promosi (X3), Tempat (X4), dan juga variabel dependen yaitu kinerja UMKM (Y) dinyatakan reliabel. Regresi Linear Berganda Metode regresi linear berganda dimaksudkan untuk mengetahui besarnya tingkat pengaruh antara variabel produk, harga, promosi dan tempat terhadap kinerja UMKM di Kota Samarinda. Pengujian regresi linear berganda dapat dilihat pada tabel 1 sebagai berikut: Tabel 7 Analisis Regresi Linear Berganda 303 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Model Unstandardized Coefficients Standardized Coefficients t Sig. B Std. Error Beta 1 (Constant) 1,076 1,414 ,761 ,448 TOTAL X1 ,042 ,109 ,031 ,386 ,701 TOTAL X2 -,948 ,236 -,607 -4,011 ,000 TOTAL X3 ,456 ,084 ,924 5,441 ,000 TOTAL X4 ,034 ,084 ,036 ,402 ,689 a. Dependent Variable: TOTAL Y (kinerja UMKM) Sumber: Output SPSS ver. 22. 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Dari tabel 7 di atas diperoleh nilai konstanta sebesar 1,076 dan nilai koefisien untuk variabel produc (X1) 0,042 , Price (X2) -0,948 Promotion (X3) 0,456, Place (X4) 0,034, 0,010 maka persamaan regresi diperoleh sebagai berikut: Y = a + b1X1 + b2X2 + b3X3 + b4X4 + e Y = 1,076+ 0,042X1 + (-0,948X2) + 0,456X3 + 0,034X4 + e Dari tabel 7 di atas diperoleh nilai konstanta sebesar 1,076 dan nilai koefisien untuk variabel produc (X1) 0,042 , Price (X2) -0,948 Promotion (X3) 0,456, Place (X4) 0,034, 0,010 maka persamaan regresi diperoleh sebagai berikut: Y = a + b1X1 + b2X2 + b3X3 + b4X4 + e Y = 1,076+ 0,042X1 + (-0,948X2) + 0,456X3 + 0,034X4 + e Dari persamaan regresi yang tersebut dapat diuraikan sebagai berikut: a. Nilai konstan sebesar 1,076 yang artinya variabel X1, X2, X3, X4, bernilai 0 maka variabel Y terjadi peningkatan penjualan naik sebesar 1,076. a. Nilai konstan sebesar 1,076 yang artinya variabel X1, X2, X3, X4, bernilai 0 maka variabel Y terjadi peningkatan penjualan naik sebesar 1,076. b. Koefisien regresi variabel produk (X1) sebesar 0,042 yang artinya jika variabel lain tidak berubah dan meningkat sebesar 1% maka variabel kinerja UMKM (Y) akan meningkat sebesar 0,042. Koefisien positif menunjukkan bahwa variabel produk berpengaruh positif terhadap kinerja UMKM, semakin tinggi variabel produk maka kinerja UMKM semakin meningkat. c. Koefisien regresi variabel harga (X2) sebesar -0,948 yang artinya jika variabel lain tidak berubah dan meningkat sebesar 1% maka variabel peningkatan kinerja UMKM(Y) akan menurun sebesar 0,948. Regresi Linear Berganda Koefisien negatif menunjukkan bahwa variabel harga tidak berpengaruh positif terhadap kinerja UMKM, semakin rendah variabel harga maka kinerja UMKM menurun. d. Koefisien regresi variabel promosi (X3) sebesar 0,456 yang artinya jika variabel lain tidak berubah dan meningkat sebesar 1% maka variabel kinerja UMKM (Y) akan meningkat sebesar 0,456. Koefisien positif menunjukkan bahwa variabel promosi berpengaruh positif terhadap kinerja UMKM, semakin tinggi variabel promosi maka kinerja UMKM meningkat. f. Koefisien regresi variabel tempat (X4) sebesar 0,034 yang artinya jika variabel lain tidak berubah dan meningkat sebesar 1% maka variabel kinerja UMKM (Y) akan meningkat sebesar 0,034. Koefisien positif menunjukkan bahwa variabel tempat berpengaruh positif terhadap kinerja UMKM, semakin tinggi variabel tempat maka kinerja UMKM meningkat. f. Koefisien regresi variabel tempat (X4) sebesar 0,034 yang artinya jika variabel lain tidak berubah dan meningkat sebesar 1% maka variabel kinerja UMKM (Y) akan meningkat sebesar 0,034. Koefisien positif menunjukkan bahwa variabel tempat berpengaruh positif terhadap kinerja UMKM, semakin tinggi variabel tempat maka kinerja UMKM meningkat. 304 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Uji Koefisien Determinasi (R2) Uji koefisien determinasi mengukur kemampuan model dalam menjelaskan perubahan variabel dependen. Nilai koefisien determinasi merupakan nilai kontribusi variabel independen terhadap variabel dependen. Hasil uji koefisien determinasi (R2) dapat dilihat pada tabel 2 sebagai berikut: Tabel 8 Uji Koefisien Determinasi (R2) Model Summaryb Model R R Square Adjusted R Square Std. Error of the Estimate 1 ,743a ,552 ,522 1,272 a. Predictors: (Constant), TOTAL X4, TOTAL X3, TOTAL X2, TOTAL X1 b. Dependent Variable: TOTAL (Y) KINERJA UMKM Sumber: Output SPSS ver. 22. 2023 Tabel 8 Uji Koefisien Determinasi (R2) Berdasarkan tabel 8 diketahui nilai R Square sebesar 0,552 yang artinya bahwa variabel Produc (X1), Price (X2), Promotion (X3), Place (X4), memiliki pengaruh sebesar 55,2% terhadap peningkatan penjualan sedangkan 44,8% di pengaruh oleh variabel lain yang tidak diteliti. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 305 Uji Signifikan Variabel (Uji T) Uji t merupakan pengujian bertujuan untuk mengetahui apakah veriabel-variabel independen signifikan terhadap variabel dependen yang dipormulasikan dalam model. Hasil uji statistik dapat dilihat pada tabel berikut. Tabel 9 Uji Statistik t Coefficientsa Model Unstandardized Coefficients Standardized Coefficients T Sig. B Std. Error Beta 1 (Constant) 1,076 1,414 ,761 ,448 TOTAL X1 ,042 ,109 ,031 ,386 ,701 TOTAL X2 -,948 ,236 -,607 -4,011 ,000 TOTAL X3 ,456 ,084 ,924 5,441 ,000 TOTAL X4 ,034 ,084 ,036 ,402 ,689 a. Dependent Variable: TOTAL Y Sumber: Output SPSS ver. 22. 2023 Tabel 9 Uji Statistik t 1. Hipotesis yang pertama diketahui untuk variabel produk (X1) t hitung = 0, 386 < t tabel = 1,658 dengan signifikan 0,701 < 0,05 artinya terdapat pengaruh signifikan 305 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis terhadap kinerja UMKM. 2. Hipotesis yang kedua diketahui untuk variabel harga (X2) t hitung = -4,011 > t tabel = 1,658 dengan signifikan 0,000 < 0,05 artinya tidak terdapat pengaruh positif tetapi signifikan terhadap kinerja UMKM. 2. Hipotesis yang kedua diketahui untuk variabel harga (X2) t hitung = -4,011 > t tabel = 1,658 dengan signifikan 0,000 < 0,05 artinya tidak terdapat pengaruh positif tetapi signifikan terhadap kinerja UMKM. 3. Hipotesis yang ketiga di ketahui untuk variabel promosi (X3) t hitung = 5,441 > t tabel = 1,658 dengan signifikan 0,000 < 0,05 artinya terdapat pengaruh signifikan terhadap kinerja UMKM. 4. Hipotesis yang keempat di ketahui untuk variabel tempat (X4) t hitung = 0,402 < t tabel = 1,658 dengan signifikan 0,689 > 0,05 artinya tidak berpengaruh signifikan terhadap peningkatan kinerja UMKM. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PEMBAHASAN a. Pengaruh produk (X1) terhadap kinerja UMKM di Kota Samarinda Hipotesis pertama yang diajukan dalam penelitian ini adalah pengaruh produk terhadap kinerja UMKM di Kota Samarinda, dimana hasil hipotesis menunjukkan bahwa produk (X1) t hitung = 0, 386 < t tabel = 1,658 dengan signifikan 0,701 < 0,05 artinya terdapat pengaruh signifikan terhadap kinerja UMKM di Kota Samarinda. Menurut (Ricky Martjiono, Santoso, Aprilia, & Remiasa, 2014), Hasil penelitian menunjukkan bahwa produk (X1) berpengaruh terhadap keputusan pembelian (Y) pada rumah makan Kakkk Ayam Geprek. b. Pengaruh harga (X2) terhadap kinerja UMKM di Kota Samarinda Hipotesis kedua yang diajukan dalam penelitian ini adalah pengaruh harga terhadap kinerja UMKM di Kota Samarinda, dimana hasil hipotesis menunjukkan bahwa harga (X2) t hitung = -4,011 > t tabel = 1,658 dengan signifikan 0,000 < 0,05 artinya terdapat pengaruh signifikan terhadap kinerja UMKM di Kota Samarinda. Menurut (Amanah, 2015), Hasil penenlitiannya bahwa harga berpengaruh terhadap kinerja usaha mikro kecil dan menengah. c. Pengaruh promosi (X3) terhadap kinerja UMKM di Kota Samarinda Hipotesis ketiga yang diajukan dalam penelitian ini adalah pengaruh promosi terhadap kinerja UMKM di Kota Samarinda, dimana hasil hipotesis menunjukkan bahwa promosi (X3) t hitung = 5,441 > t tabel = 1,658 dengan signifikan 0,000 < 0,05 artinya terdapat pengaruh signifikan terhadap kinerja UMKM di Kota Samarinda. Menurut (Harini & Yulianeu, 2019), Hasil penelitiannya menjelaskan bahwa promosi berpengaruh terhadap kinerja pemasaran UMKM di Kota Semarang. Menurut (Harini & Yulianeu, 2019), Hasil penelitiannya menjelaskan bahwa promosi berpengaruh terhadap kinerja pemasaran UMKM di Kota Semarang. Menurut (Harini & Yulianeu, 2019), Hasil penelitiannya menjelaskan bahwa promosi berpengaruh terhadap kinerja pemasaran UMKM di Kota Semarang. d. Pengaruh tempat (X4) terhadap kinerja UMKM di Kota Samarinda Hipotesis ketiga yang diajukan dalam penelitian ini adalah pengaruh tempat terhadap kinerja UMKM di Kota Samarinda, dimana hasil hipotesis menunjukkan bahwa tempat (X4) t hitung = 0,402 > t tabel = 1,658 dengan signifikan 0,689 < 0,05 artinya 306 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 306 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis tidak terdapat pengaruh signifikan terhadap kinerja UMKM di Kota Samarinda. PEMBAHASAN Menurut (Tiris Sudrartono, 2020), Hasil penelitiannya menunjukkan bahwa perhitungan nilai regresi Linear sederhana yang meramalkan hubungan naik turunya kedua variabel yang terlihat jika variabel strategi bauran pemasaran yang diterapkan dilaksanan dengan baik maka variabel perkembangan UKM maka mengalami peningkatan sebesar 0,448 satu satuan. Dan sebaliknya jika variabel dan sebaliknya jika varibel perkembangan UKM tidak dilaksanakan dengan baik maka variabel strategi bauran pemasaran sebesar 0,448 satu satuan dengan asumsi ceteris paribus. Kesimpulan p Berdasarkan hasil dari analisis data dan pembahasan yang telah diuraikan pada bab sebelumnya mengenai dampak pemasaran digital bauran pemasaran 4p terhadap kinerja umkm Kota Samarinda dapat di simpulkan sebagai berikut: j p p g a. Variabel produk ternyata berpengaruh positif signifikan terhadap kinerja UMKM. j p p g a. Variabel produk ternyata berpengaruh positif signifikan terhadap kinerja UMKM. b. Variabel harga ternyata tidak berpengaruh positif tetapi signifikan terhadap kinerja p y p g p g p j b. Variabel harga ternyata tidak berpengaruh positif tetapi signifikan terhadap kinerja UMKM. c. Variabel promosi ternyata berpengaruh positif signifikan terhadap kinerja UMKM. d. Variabel kualitas tempat ternyata berpengaruh positif tidak signifikan terhadap kinerja UMKM. Saran d. Variabel kualitas tempat ternyata berpengaruh positif tidak signifikan terhadap kiner UMKM. Saran Berdasarkan hasil penelitian, pembahasan dan kesimpulan, maka saran yang diajukan sebagai berikut: a. Variabel produk berpengaruh positif signifikan terhadap kinerja UMKM di Kota Samarinda disebabkan bahwa produk yang dihasilkan memiliki kualitas yang baik karena didukung dengan keterampilan pelaku UMKM yang sudah memiliki keterampilan. b. Variabel harga tidak berpengaruh positif signifikan terhadap kinerja UMKM di Kota Samarinda disebabkan harga yang cukup mahal karena disebabkan bahan baku yang juga mahal, sedangkan daya beli masyarakan terhadap produk UMKM masih sangat rendah. c. Variabel promosi berpengaruh positif signifikan terhadap kinerja UMKM di Kota Samarinda disebabkan bahwa promosi salah satu alat untuk menjangkau konsumen dengan menggunakan iklan baik malalui media online maupun offline, serta pameran UMKM yang setiap tahun dilakukan. d. Variabel tempat berpengaruh positif tapi tidak signifikan terhadap kinerja UMKM di Kota Samarinda, hal tersebut disebabkan bahwa Sebagian besar tempat usaha pelaku UMKM tidak strategis sehingga susah terjangkau oleh konsumen. 307 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis DAFTAR RUJUKAN Adewale, G., Adesola, M. A., & Oyewale.I.O. (2013). Impact of Marketing Strategy on Business Performance A Study of Selected Small and Medium Enterprises ( Smes ) In. Journal of Business and Management, 11(4), 59–66. Alma, B. (2016). Manajemen Pemasaran dan Pemasaran Jasa. Alfabeta. Bandung, 2015, 73–75. Amanah, D. (2015). Pengaruh Bauran Pemasaran Terhadap Kinerja Usaha Kecil Dan Menengah. JURNAL Pengabdian Kepada Masyarakat, 21(81), 15–19. Amzad, M., Sarker, H., Aimin, W., & Begum, S. (2012). Investigating the Impact of Marketing Mix Elements on Tourists ’Satisfaction: An Empirical Study on East Lake. European Journal of Business and Management, 4(7), 2222–2839. p f g Cathy H. C. Hsu, T. P. (2019). Marketing hospitality. In English Today. https://doi.org/10.1017/S0266078419000518 Ekowati, S., & Finthariasari, M. (2020). Pengaruh Harga Dan Promosi Terhadap Keputusan Pembelian Produk Pada Eleven Cafe Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen, Dan Ekonomi Islam, 1(1). http://jurnal.umb.ac.id/index.php/jamekis Finthariasari, M., & Zetira, A. M. (2022). Purchase Intention: Pengaruh Price Discount, Bonus Pack Dan Celebrity Endorser. Jurnal Bisnis Dan Manajemen, 18(1), 16–25. http://jurnal.feb.unila.ac.id/index.php/jbm/article/view/233 Fitriah, A. W., Rosdi, S. N., Rosli, M. M., Mustapha, N., Aziz, Z. A., Ibrahim, W. M. Y. W., Mohd Shahril Nizam Md. Radzi1, N. Z. A., & Yaacob, A. A. (2019). The Effects of Marketing Mix on Small Fish Farming Business Performance. Revista Publicando, 6(19), 16. Harini, C., & Yulianeu. (2019). Meningkatkan Kinerja Pemasaran UMKM Kota Semarang melalui Strategi Penetrasi Pasar Universitas Pandanaran. Ikraith- Ekonomika, 2(1), 59–66. Hendrawan, A., Sucahyowati, H., Cahyandi, K., Indriyani, & Rayendra, A. (2019). Pengaruh Marketing Digital Terhadap Kinerja Penjualan Produk UMKM Asti Gauri di Kecamatan Bantasari Cilacap. Jurnal Administrasi Dan Kesekretarisan, 4(1), 53– 60. Kazem, A. (2006). Exporting Firms’ Strategic Choices: The Case of Egyptian SMEs in teh Food Industry. Kemppainen, K., Vepsalainen, A. P. J., & Tinnila, M. (2008). Mapping the structural properties of production process and product mix. International Journal of Production Economics, 111(2), 713–728. https://doi.org/10.1016/j.ijpe.2007.03.020 Kotler, P., & Armstrong, G. (2018). Principles of Marketing 17th Global Edition. In Pearson Education Limited. Kotler P & Keller K L (2016) Marketing Magement In Pearson Kotler, P., & Keller, K. L. (2016). Marketing Magement. In Pearson. Langat, N. (2016). Influence of Product , Price , Promotion and Place on Enterprise Project Performance : a Case of Safaricom Enterprise Project , Uasin Gishu County , Kenya. Theses. Mashuri, M. (2019). Analisis Strategi Pemasaran UMKM Di Era 4.0. IQTISHADUNA Mashuri, M. (2019). Analisis Strategi Pemasaran UMKM Di Era 4.0. INFORMASI ARTIKEL The purpose of this study was to find out how effective the distribution of the Family Hope Program (PKH) funds was and the obstacles in the process of channeling PKH funds in Muara Tiku Village, Karang Jaya District, North Musi Rawas Regency. In this study the authors used qualitative descriptive research methods through interviews, observation, and documentation with research locations in Muara Tiku Village, Karang Jaya District, North Musi Rawas Regency, totaling 60 informants. The results showed that the Family Hope Program (PKH) in Muara Tiku Village, Karang Jaya District, was not maximally effective. Where only 2 indicators are said to be effective, namely indicators of goal achievement and real change. Meanwhile, the other 3 indicators were not yet effective, namely indicators of program understanding, target accuracy, and timeliness. Then, the obstacles that usually occur in the process of distributing the Family Hope Program (PKH) funds are the lack of meetings between KPM and PKH facilitators, the distance of the post office from the village, and the process of updating data that takes a long time. Riwayat Artikel: Diterima : 26 Juli 2023 Direvisi : 04 Agustus 2023 Disetujui : 06 Agustus 2023 Keywords: Effectiveness of Fund Distribution, Family Hope Program Fund (PKH), Poverty Alleviation Efforts Keywords: Effectiveness of Fund Distribution, Family Hope Program Fund (PKH), Poverty Alleviation Efforts Kata kunci: Efektivitas Penyaluran Dana, Dana Program Keluarga Harapan (PKH), Upaya Pengentasan Kemiskinan http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kata kunci: Efektivitas Penyaluran Dana, Dana Program Keluarga Harapan (PKH), Upaya Pengentasan Kemiskinan THE EFFECTIVENESS OF DISTRIBUTION OF FAMILY HOPE PROGRAM (PKH) FUNDS IN EFFORTS TO ALLEDUATE POVERTY Jl. Raden fatah pagar dewa, Kota Bengkulu, 38211 Corresponding email: yulih248@gmail.com Jl. Raden fatah pagar dewa, Kota Bengkulu, 38211 Corresponding email: yulih248@gmail.com Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis EFEKTIVITAS PENYALURAN DANA PROGRAM KELUARGA HARAPAN (PKH) DALAM UPAYA PENGENTASAN KEMISKINAN THE EFFECTIVENESS OF DISTRIBUTION OF FAMILY HOPE PROGRAM (PKH) FUNDS IN EFFORTS TO ALLEDUATE POVERTY Yuli Handika1, Desi Isnaini2, Yunida Een Fryanti3 Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3 yulih248@gmail.com1, desi_isnaini@mail.uinfasbengkulu.ac.id2, yunidaf.een@gmail.com3 Jl. Raden fatah pagar dewa, Kota Bengkulu, 38211 Corresponding email: yulih248@gmail.com INFORMASI ARTIKEL ABSTRACT: Riwayat Artikel: Diterima : 26 Juli 2023 Direvisi : 04 Agustus 2023 Disetujui : 06 Agustus 2023 The purpose of this study was to find out how effective the distribution of the Family Hope Program (PKH) funds was and the obstacles in the process of channeling PKH funds in Muara Tiku Village, Karang Jaya District, North Musi Rawas Regency. In this study the authors used qualitative descriptive research methods through interviews, observation, and documentation with research locations in Muara Tiku Village, Karang Jaya District, North Musi Rawas Regency, totaling 60 informants. The results showed that the Family Hope Program (PKH) in Muara Tiku Village, Karang Jaya District, was not maximally effective. Where only 2 indicators are said to be effective, namely indicators of goal achievement and real change. Meanwhile, the other 3 indicators were not yet effective, namely indicators of program understanding, target accuracy, and timeliness. Then, the obstacles that usually occur in the process of distributing the Family Hope Program (PKH) funds are the lack of meetings between KPM and PKH facilitators, the distance of the post office from the village, and the process of updating data that takes a long time. ABSTRAK: Keywords: Effectiveness of Fund Distribution, Family Hope Program Fund (PKH), Poverty Alleviation Efforts Kata kunci: Efektivitas Penyaluran Dana, Dana Program Keluarga Harapan (PKH), Upaya Pengentasan Kemiskinan Tujuan penelitian ini adalah untuk mengetahui seberapa efektif penyaluran dana Program Keluarga Harapan Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis DAFTAR RUJUKAN IQTISHADUNA: 308 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Ilmiah Ekonomi Kita, 8(2), 215–224. https://doi.org/10.46367/iqtishaduna.v8i2.175 Oktarini, D., Finthariasari, M., Nuari, T. N. V., Marta, F. R., & Yami, F. M. (2022). Strategi Desain Produk Dan Kualitas Produk Terhadap Minat Beli Konsumen Pada Toko Mebel Sederhana. Proceeding Seminar Nasional Business Corporate, 1(1), 135–146. Owomoyela, S., Ola, O., & Oyeniyi, K. (2013). Investigating TheIimpact of Marketing Mix Elements on Consumer Loyalty: An empirical study on Nigerian Breweries PLC. Interdisciplinary Business Research, 4(11), 485–496. Putri, R. N. (2020). Indonesia dalam Menghadapi Pandemi Covid-19. Jurnal Ilmiah Universitas Batanghari Jambi, 20(2), 705. https://doi.org/10.33087/jiubj.v20i2.1010 Ricky Martjiono, Santoso, S. P., Aprilia, A., & Remiasa, M. (2014). Analisa Pengaruh Bauran Pemasaran ( 7P ) Terhadap Keputusan Pembelian di Rumah Makan Kakkk , Ayam Geprek !!! Journal of Marketing, Surabaya, 484–494. Risal, M., & Salju, S. (2017). Pengaruh Bauran Pemasaran (4Ps) Dalam Meningkatkan Kinerja Pemasaran (Studi Kasus Pada: Industri Kecil Pengolahan Rumput Laut Di Provinsi Sulawesi Selatan). Balance : Business, Management and Accounting Journal, 14(1), 1–18. Sugiyono. (2019). Metode Penelitian Kuantitatif, Kualitatif R&D. Buku, Alfabeta: Bandung. Tiris Sudrartono, D. S. (2020). Pengaruh Strategis Bauran Pemasaran Terhadap Perkembangan UKM Di Dinas Koperasi Usaha Kecil dan Menengah Kabupaten Bandung. Проблемы Современной Экономики, 2(1), 59–74. 309 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 309 ABSTRAK: Tujuan penelitian ini adalah untuk mengetahui seberapa efektif penyaluran dana Program Keluarga Harapan (PKH) dan kendala dalam proses penyaluran dana PKH di Desa Muara Tiku Kecamatan Karang Jaya Kabupaten Musi Rawas Utara. Dalam penelitian ini penulis menggunakan metode penelitian deskriftif kualitatif 310 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis melalui wawancara, observasi, dan dokumentasi dengan lokasi penelitian di Desa Muara Tiku Kecamatan Karang Jaya Kabupaten Musi Rawas Utara berjumlah 60 informan. Hasil penelitian menunjukkan bahwa Program Keluarga Harapan (PKH) Di Desa Muara tiku kecamatan karang jaya belum efektif secara maksimal. Dimana hanya 2 indikator yang dikatakan efektif yaitu indikator tercapainya tujuan dan adanya perubahan nyata. Sedangkan 3 indikator lainnya belum efektif yaitu indikator pemahaman program, ketepatan sasaran, dan ketepatan waktu. Kemudian, kendala yang biasa terjadi dalam proses penyaluran dana Program Keluarga Harapan (PKH) yaitu kurangnya pertemuan antara KPM dan pendamping PKH, jauhnya jarak kantor pos dari desa,dan proses pemutakhiran data yang berlangsung lama. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Penanggulangan Kemiskinan No. 31 /KEP /MENKO /KESRA /IX/2007), yang memiliki tujuan sebagai berikut: 1. Meningkatkan taraf hidup keluarga penerima manfaat melalui akses layanan pendidikan, kesehatan, dan kesejahteraan sosial. 1. Meningkatkan taraf hidup keluarga penerima manfaat melalui akses layanan pendidikan, kesehatan, dan kesejahteraan sosial. 2. Mengurangi beban pengeluaran dan meningkatkan pendapatan keluarga miskin dan rentan. 3. Menciptakan perubahan perilaku dan kemandirian keluarga penerima manfaat dalam akses layanan kesehatan dan pendidikan serta kesejahteraan sosial. 4. Mengurangi kemiskinan dan kesenjangan. 4. Mengurangi kemiskinan dan kesenjangan. 5. Mengenalkan manfaat produk dan jasa keuangan formal kepada keluarga penerima manfaat. 6. Sasaran penerima Program Keluarga Harapan (PKH) ialah keluarga miskin dan rentan yang telah terdaftar dalam daftar data terpadu program penanganan fakir miskin yang memiliki kompenen kesehatan, pendidikan dan kesejahteraan sosial (RI, 2022). ( ) Bantuan yang diberikan kepada keluarga penerima manfaat diberikan secara 4 (empat) tahap dalam satu tahun, selain diberikan bantuan langsung bersyarat Keluarga Penerima Manfaat (KPM) juga diberikan pendamping dalam pelaksanaan program PKH ini. Pendamping bertugas memberikan pendampingan kepada masyarakat agar terciptanya ekonomi kreatif sehingga terlepas dari kemiskinan, sehingga program ini memberikan bantuan sekaligus mendidik masyarakat agar tidak selalu ketergantungan dan mengharapkan uluran tangan dari pemerintah. Dalam hal ini,Program Keluarga Harapan (PKH) diharapkan mampu mengatasi kemiskinan yang terjadi di Indonesia. Terutama pada masa tanggap darurat corona virus disease 2019 (covid- 19) kemarin, ada banyak bantuan sosial (bansos) yang diberikan oleh pemerintah sebagai jaring pengaman sosial bagi keluarga pra-sejahtera yang terdampak pandemi covid -19. Bansos tersebut terdiri dari Bansos Reguler, Bansos Khusus Dan Bantuan Tanggap Darurat. Tiga kompenen PKH terbagi dalam lima kategori, oleh sebab itu nilai bantuan untuk setiap kategori dalam kompenen PKH juga memiliki perbedaan (Nova, 2022). Bantuan yang digulirkan oleh pemerintah termasuk PKH yang di tujukan untuk masyarakat miskin juga dirasakan oleh seluruh masyarakat Desa Muara Tiku Kecamatan Karang Jaya Kabupaten Musi Rawas Utara yang merupakan salah satu desa dengan aliran sungai yang terletak di Kecamatan Karang Jaya Kabupaten Musi Rawas Utara dengan jarak ke kabupaten sekitar ± 45 km. Desa Muara Tiku ini termasuk wilayah kategori miskin, yang hanya sedikit keluarga yang mendapatkan manfaat dari Program Keluarga Harapan (PKH), yaitu sebanyak 60 keluarga yang masih aktif menerima bantuan dari program PKH ini. Hal ini dikarenakan adanya program pemerintah berupa Bantuan Pangan Non- Tunai (BPNT),sehingga yang mendapatkan BPNT tidak akan mendapatkan bantuan PKH supaya masyarakat Desa Muara Tiku bisa mendapatkan manfaat dari masing- masing program. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Indonesia merupakan negara yang memiliki penduduk yang padat dengan jumlah penduduk yang berkisaran 275,8 juta jiwa di pertengahan tahun 2022 yang terbagi dalam 38 provinsi ((Badan Pusat Statistik (Bps) Nasional 2022, n.d.)). Dengan populasi penduduk terbesar ini Indonesia dihadapkan berbagai permasalahan seperti kemiskinan, pengangguran dan lain sebagainya. Dari banyaknya permasalahan yang dihadapi oleh pemerintah, kemiskinan adalah masalah utama yang ada didalam kehidupan masyarakat. karena pola pikir masyarakat yang tidak ingin maju dan berkembang. Masalah kemiskinan sudah menjadi hal yang biasa terjadi di setiap Negara, baik negara maju maupun negara berkembang, seperti indonesia. Menurut Kenneth & Jane (2003) penyebab kemiskinan adalah pertama, teori yang menekankan pada nilai- nilai. Mereka miskin karena mereka bodoh, malas,tidak ulet, tidak memiliki prestasi, dan fatalistik. Kedua, teori yang menekankan pada organisasi ekonomi masyarakat.orang itu miskin karena kurangnya peluang dan kesempatan untuk memperbaiki hidup.ketiga, teori yang menekankan pada pembagian kekuasaan dalam struktur sosial dan tatanan masyarakat. Garis kemiskinan pada maret 2022 adalah sebesar Rp505.469,00 per kapita perbulan, dengan komposisi garis kemiskinan makanan sebesar Rp374.455,00 (74,04 persen) dan garis kemiskinan bukan makanan sebesar Rp131.014, 00 (25,92 persen) dibandingkan september 2021, garis kemiskinan naik sebesar 3,97 persen. Sementara jika dibandingkan maret 2021, terjadi kenaikan sebesar 6,97 persen. (Badan Pusat Statistik (Bps) Nasional 2022). Berbagai upaya telah dilakukan pemerintah indonesia dalam menanggulangi kemiskinan. Upaya tersebut dilakukan untuk memberikan peluang bagi masyarakat miskin untuk meningkatkan kesejahteraan hidupnya. Dan salah satu upaya yang dilakukan pemerintah dalam mengurangi angka kemiskinan adalah dengan membuat kebijakan terkait pemberdayaan keluarga miskin melalui program keluarga harapan (PKH) yang mulai dicanangkan pemerintah sejak tahun 2007. Berdasarkan keputusan Menteri Koordinator Bidang Kesejahteraan Rakyat Selaku Ketua Tim Koordinasi 311 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Penanggulangan Kemiskinan No. 31 /KEP /MENKO /KESRA /IX/2007), yang memiliki tujuan sebagai berikut: Penanggulangan Kemiskinan No. 31 /KEP /MENKO /KESRA /IX/2007), yang memiliki tujuan sebagai berikut: Dari survei yang dilakukan peneliti terhadap penyaluran dana Program Keluarga Harapan (PKH) ditemukan adanya keterlambatan pencairan bantuan, bagi masyarakat pendapatan rendah dikhawatirkan hal ini semakin berdampak buruk bagi perekonomiannya, kemudian ditemukan beberapa KPM yang bisa dikatakan mampu namun, mendapatkan bantuan PKH, ataupun sebaliknya yang layak mendapatkan 312 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis bantuan tidak mendapatkan bantuan PKH, sehingga menyebabkan adanya kecemburuan sosial antara keluarga masyarakat. bantuan tidak mendapatkan bantuan PKH, sehingga menyebabkan adanya kecemburuan sosial antara keluarga masyarakat. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Efektivitas Menurut Nuraida (2019) mengatakan bahwa efektivitas adalah jangkauan usaha suatu program sebagai suatu sistem dengan sumber daya dan sarana tertentu untuk memenuhi tujuan dan sasaranya tanpa melumpuhkan cara dan sumber daya itu sendiri serta tanpa member tekanan yang tidak wajar terhadap pelaksanaannya. Sedangkan, menurut gibson efektifitas adalah pencapaian tujuan dan sasaran yang telah ditentukan untuk mencapai tujuan usaha bersama. Tingkat tujuan dan sasaran itu menunjukkan tingkat efektifitas. Efektifitas yaitu hasil perbandingan antara target dengan hasil yang di capai sesungguhnya, Efektifitas digunakan untuk mengukur pendapatan suatu entitas dengan target yang telah ditetapkan (Perwitasari, 2022). Menurut Nuraida (2019) efektivitas dapat diukur dengan menggunakan beberapa indikator, yaitu sebagai berikut: 1. Pemahaman Program, yaitu untuk mengetahui sejauh mana masyarakat dapat memahami program. Melalui program maka segala bentuk rencana akan lebih terorganisir dan lebih mudah untuk dioperasionalkan. Dengan memperhatikan kelompok sasaran maka suatu program dapat dikatakan efektif atau tidak. 2. Tepat Sasaran, yaitu bagaimana program yang dirancang oleh pengelola kepada kelompok sasaran atau sejauhmana suatu lembaga berhasil merealisasikan sasaran yang hendak dicapai. 3. Tepat Waktu, yaitu untuk penggunaan waktu dalam pelaksanaan program, harus sesuai dengan jadwal yang sudah ditentukan sebelumnya. Dengan waktu yang tepat maka program akan berjalan efektif. 4. Tercapainya Tujuan, yaitu untuk mengetahui apakah tujuan dari dibentuknya program sudah tercapai atau belum. 5. Perubahan Nyata, yaitu untuk mengetahui bagaimana bentuk perubahan nyata sebelum dan sesudah adanya program tersebut. Sehingga dapat diukur melalui sejauh mana program tersebut memberikan suatu efek atau dampak serta perubahan nyata bagi masyarakat. 1) Hak KPM PKH Adapun hak yang didapatkan Keluarga Penerima Manfaat PKH yaitu, mendapatkan bantuan sosial PKH, pendampingan sosial PKH, pelayanan di fasilitas kesehatan, pendidikan, dan kesejahteraan sosial, dan mendapatkan program bantuan komplementer di bidang kesehatan, pendidikan, subsidi energi, ekonomi, perumahan, dan pemenuhan kebutuhan dasar lainnya. 2) Kewajiban KPM PKH 2) Kewajiban KPM PKH 2) Kewajiban KPM PKH Adapun kewajiban KPM PKH ini terbagi kedalam dua kondisi, sebagai berikut: Adapun kewajiban KPM PKH ini terbagi kedalam dua kondisi, sebagai berikut: Adapun kewajiban KPM PKH ini terbagi kedalam dua kondisi, sebagai berikut: Program Keluarga Harapan (PKH) Program Keluarga Harapan atau sering disebut PKH, adalah program pemberian bantuan sosial bersyarat kepada Keluarga Miskin (KM) dan rentan yang terdaftar dalam data terpadu kesejahteraan sosial (DTKS) dan ditetapkan sebagai Kelurga Penerima Manfaat (KPM) PKH. Program Keluarga Harapan (PKH) dibentuk sebagai salah satu upaya pemerintah dalam percepatan penanggulangan kemiskinan. Program perlindungan social ini dikenal di dunia Internasional dengan istilah Conditional Cash Transfers (CCT) (RI, 2021). f Sebagai sebuah program bantuan sosial bersyarat dalam upaya pengentasan kemiskinan, PKH bertujuan membuka akses KPM bagi ibu hamil dan balita dalam memanfaatkan fasilitas/layanan kesehatan (faskes) dan anak sekolah dalam memanfaatkan fasilitas/layanan pendidikan (fasdik) yang tersedia di dekat tempat tinggal mereka. Manfaat PKH saat ini juga diarahan untuk mencakup penyandang 313 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis disabilitas dan lanjut usia dengan tujuan untuk memmpertahankan kesejahteraan sosial. PKH dinilai memiliki peran terhadap peningkatan konsumsi dalam keluarga. Hal tersebut dibuktikan pada penelitian microsave tahun 2019 yang menunjukkan bahwa PKH memberikan dampak terhadap perubahan konsumsi rumah tangga meningkat lebih tinggi 3,8 % dibandingkan konsumsi rumah tangga Non-KPM PKH. disabilitas dan lanjut usia dengan tujuan untuk memmpertahankan kesejahteraan sosial. PKH dinilai memiliki peran terhadap peningkatan konsumsi dalam keluarga. Hal tersebut dibuktikan pada penelitian microsave tahun 2019 yang menunjukkan bahwa PKH memberikan dampak terhadap perubahan konsumsi rumah tangga meningkat lebih tinggi 3,8 % dibandingkan konsumsi rumah tangga Non-KPM PKH. Tujuan Program Keluarga Harapan( PKH ) Adapun tujuan dari Program Keluarga Harapan (PKH) ini adalah sebagai berikut: Adapun tujuan dari Program Keluarga Harapan (PKH) ini adalah sebagai beriku 1. Meningkatkan taraf hidup Keluarga Penerima Manfaat (KPM) melalui akses layanan pendidikan, kesehatan, dan kesejahteraan sosial. 1. Meningkatkan taraf hidup Keluarga Penerima Manfaat (KPM) melalui akses layanan pendidikan, kesehatan, dan kesejahteraan sosial. 2. Mengurangi beban pengeluaran dan meningkatkan pendapatan keluarga miskin dan rentan. 2. Mengurangi beban pengeluaran dan meningkatkan pendapatan keluarga miskin dan rentan. 3. Menciptakan perubahan perilaku dan kemandirian KPM dalam mengakses layanan kesehatan dan pendidikan serta kesejahteraan sosial. 3. Menciptakan perubahan perilaku dan kemandirian KPM dalam mengakses layanan kesehatan dan pendidikan serta kesejahteraan sosial. 4. Mengurangi kemiskinan dan kesenjangan. 4. Mengurangi kemiskinan dan kesenjangan. 5. Mengenalkan manfaat produk dan jasa keuangan formal kepada KPM. Hak dan kewajiban keluarga penerima manfaat PKH Kewajiban KPM PKH pada kondisi normal terdiri dari: a) Komponen kesehatan terdiri dari ibu hamil/nifas/menyusui, anak usia dini (0-6 tahun) yang belum bersekolah wajib memeriksakan kesehatan pada fasilitas atau layanan kesehatan sesuai protokol kesehatan. b) Komponen pendidikan terdiri dari anak usia sekolah wajib berlajar 12 tahun, wajib mengikuti kegiatan belajar dengan tingkat kehadiran paling sedikit 85% dari hari belajar efektif. c) Komponen kesejahteraan sosial terdiri dari lanjut usia dan penyandang disabilitas berat, wajib mengikuti kegiatan dibidang kesejahteraan sosial sesuai kebutuhan yang dilakukan minimal setahun sekali. d) KPM hadir dalam pertemuan kelompok atau pertemuan peningkatan kemampuan keluarga (P2K2) setiap bulan. e) Seluruh anggota KPM harus memenuhi kewajibannya kecuali jika terjadi keadaan kahar (force majeure). f) KPM yang tidak memenuhi kewajibanya akan dikenakan sanksi. Mekanisme sanksi ditetapkan lebih lanjut dalam petunjuk pelaksanaan verfikasi komitmen. 314 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 31 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Kewajiban KPM PKH pada kondisi pandemi covid-19 terdiri dari: a) Komponen kesehatan terdiri dari ibu hamil/nifas/menyusui, anak usia dini (0-6 tahun) yang belum bersekolah wajib memeriksakan kesehatan pada fasilitas atau layanan kesehatan sesuai protokol kesehatan. a) Komponen kesehatan terdiri dari ibu hamil/nifas/menyusui, anak usia dini (0-6 tahun) yang belum bersekolah wajib memeriksakan kesehatan pada fasilitas atau layanan kesehatan sesuai protokol kesehatan. b) Komponen pendidikan terdiri dari anak usia sekolah wajib belajar 12 tahun, wajib mengikuti kegiatan belajar dengan penerapan protokol kesehatan sesuai peraturan yang ditetapkan oleh pemerintah daerah dan gugus tugas covid-19. b) Komponen pendidikan terdiri dari anak usia sekolah wajib belajar 12 tahun, wajib mengikuti kegiatan belajar dengan penerapan protokol kesehatan sesuai peraturan yang ditetapkan oleh pemerintah daerah dan gugus tugas covid-19. c) Komponen kesejahteraan social terdiri dari lanjut usia dan penyandang disabilitas berat, wajib mengikuti kegiatan di bidang kesejahteraan sosial sesuai kebutuhan yang dilakukan minimal setahun sekali dengan menerapkan protokol kesehatan. c) Komponen kesejahteraan social terdiri dari lanjut usia dan penyandang disabilitas berat, wajib mengikuti kegiatan di bidang kesejahteraan sosial sesuai kebutuhan yang dilakukan minimal setahun sekali dengan menerapkan protokol kesehatan. 3) Besaran Bantuan 3) Besaran Bantuan Penyaluran bantuan Program Keluarga Harapan (PKH) kepada Keluarga Penerima Manfaat (KPM) diberikan empat tahap dalam setahun. Adapun bantuan yang diterima setiap perserta PKH adalah sebagai berikut: Besaran bantuan KPM PKH No Kategori Indeks Bantuan(Rp) 1 Kategoriibuhamil/nifas Rp. 3.000.000,- 2 Kategori anak usia dini 0 s.d 6 tahun Rp. 3.000.000,- 3 KategoriPendidikananak SD/Sederajat Rp. 900.000,- 4 KategoriPendidikan SMP/Sederajat Rp. 1.500.000,- 5 KategoriPendidikan SMA/Sederajat Rp. 2.000.000,- 6 Kategoripenyandangdisabilits berat Rp. 2.400.000,- 7 Kategori lanjut usia Rp. 2.400.000,- Konsep Kemiskinan p Menurut Huda (2015) mendefinisikan kemiskinan sebagai ketidakmampuan seseorang dalam memenuhi kebutuhan sendiri.namun, ketidakmampuan untuk memenuhi apa yang tidak dibutuhkan bukanlah kemiskinan. Jika barang yang dibutuhkan tersedia dan terjangkau oleh seseorang, maka dia tidak akan diperlakukan sebagai orang miskin. Menurut Kadji (2018) mengatakan bahwa kemiskinan adalah suatu integrated concept yang memiliki lima dimensi, yaitu 1). Kemiskinan (proper), 2). Ketidak berdayaan(powerless) 3). Kerentanan mengatasi situasi darurat (state of emergency), 4). Ketergantungan (depedance), 5). Keterasingan (isolation) baik secara geografis maupun sosiologis. Binadhi (2017) Menggemukakkan bahwa konsep kemiskinan bersifat banyak sisi dan kompleks, oleh karena itu para ahli mengklasifikasikannya dalam tiga jenis kemiskinan: 1) Kemiskinan alamiah, merupakan kemiskinan yang disebabkan oleh kualitas sumber daya alam dan sumber daya manusia yang rendah. 2) Kemiskinan kultural, merupakan kemiskinan yang terkait erat dengan sikap seseorang atau kelompok dalam masyarakat yang tidak mau berusaha memperbaiki tingkat hidupnya. 3) Kemiskinan struktural, merupakan kemiskinan yang secara langsung maupun tidak disebabkan oleh tatanan kelembagan atau struktur sosial dalam masyarakat. Sasaran Penerima PKH Sasaran Penerima PKH Sasaran Penerima PKH 1) Kompenen Kesehatan Komponen kesehatan ini terbagi dalam dua kategori yaitu kategori ibu hamil dan anak usia dini. Kategori ibu hamil; maksimal 2 kali kehamilan dan kategori anak usia dini; yaitu anak usia 0 s/d 6 tahun maksimal 2 anak. 1) Kompenen Kesehatan Komponen kesehatan ini terbagi dalam dua kategori yaitu kategori ibu hamil dan anak usia dini. Kategori ibu hamil; maksimal 2 kali kehamilan dan kategori anak usia dini; yaitu anak usia 0 s/d 6 tahun maksimal 2 anak. y 2) Kompenen Pendidikan Komponen Pendidikan ini terbagi dalam 3 kategori yaitu kategori anak SD/MI Sederajat, SMP/MTs Sederajat dan SMA/Sederajat yang merupakan anak usia 6 s/d 21 tahun yang belum menyelesaikan wajib belajar 12 tahun. 3) Kompenen Kesejahteraan Masyarakat Komponen Kesejahteraan ini terbagi dalam 2 kategori, yaitu ketegori Lanjut Usia yang maksimal 1 orang dan berada dalam keluarga, dan kategori Penyandang Disabilitas berat yaitu penyandang disabilitas fisik dan disabilitas mental yang maksimal 1 orang dan berada dalam keluarga . 315 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 31 Program Pengentasan Kemiskinan c) Klaster III Klaster III adalah kebijakan berbasis pemberdayaan usaha mikro yang memberikan akses seluas-luasnya kepada masyarakat miskin untuk dapat berusaha dan meningkatkan kualitas hidupnya dengan memberikan modal atau pembiyayaan dalam skala mikro. Program pada klaster III ini adalah Kredit Usaha Rakyat (KUR). Dari penjelasan diatas dapat diketahui bahwa adanya keseriusan pemerintah dalam menganggulangi kemiskinan. Hal ini terbukti dengan adanya program-program penanggulangan kemiskinan yang diberikan pemerintah salah satunya adalah PKH yang berupa bantuan tunai bersayarat yang diberikan pemerintah kepada masyarakat miskin. METODE PENELITIAN Jenis penelitian ini adalah studi kasus, yaitu penelitian tentang suatu kesatuan sistem yang dapat berupa program, kegiatan, peristiwa, atau sekelompok individu yang berkaitan dengan tempat, waktu atau ikatan tertentu. Karena Penelitian ini menggunakan pendekatan kualitatif dan termasuk studi kasus maka hasil penelitian ini bersifat deskriptif. Sumber Data dan Teknik Pengumpulan Data berupa, data primer dan data sekunder. Teknik pengumpulan data yaitu, wawancara, observasi dan dokumentasi. Dalam penelitian ini, penyajian data diawali dengan memberikan deskripsi hasil penelitian, yaitu data yang didapatkan peneliti melalui proses reduksi data, sehingga peneliti dapat melihat apa yang terjadi dan menarik kesimpulan serta pengambilan tindakan. Program Pengentasan Kemiskinan Pengentasan adalah mengakat keatas, jadi pengentasan dapat diartikan sebagai sesuatu yang membawa kearah yang lebih baik atau membawa perubahan positif. Kemiskinan merupakan ketidaksanggupan seseorang untuk memenuhi kebutuhan dasar hidupnya untuk mencapai hidup yang lebih layak sesuai standar minimal. Pengentasan kemiskinan merupakan suatu upaya membantu seseorang atau masyarakat yang kurang mampu dalam memenuhi kebutuhan dasar (Kadji, 2016). Untuk meningkatkan koordinasi penanggulangan kemiskinan, pemerintah menerbitkan peaturan presiden nomor 15 tahun 2010, tentang percepatan penanggulangan kemiskinan. Yang mengamanatkan untuk membentuk tim nasional percepatan penanggulangan kemiskinan (TKPK) provinsi dan kabupaten/kota. Dan telah mengklasifikasikan kebijakan dalam tiga kelompok (klaster) sebagai berikut: Untuk meningkatkan koordinasi penanggulangan kemiskinan, pemerintah menerbitkan peaturan presiden nomor 15 tahun 2010, tentang percepatan penanggulangan kemiskinan. Yang mengamanatkan untuk membentuk tim nasional percepatan penanggulangan kemiskinan (TKPK) provinsi dan kabupaten/kota. Dan telah mengklasifikasikan kebijakan dalam tiga kelompok (klaster) sebagai berikut: a) Klaster I Klaster I adalah kelompok kebijakan penanggulangan kemiskinan berbasis bantuan dan perlindungan sosial. Fokus utama kebijakan ini adalah untuk pemenuhan hak dasar yang ditujukan untuk memperbaiki kualitas kehidupan masyarakat miskin untuk kehidupan yang lebih baik. Mekanisme pelaksanaan program bersifat langsung dan klasifikasi program ini meliputi program Jaminan Kesehatan Masyarakat (JAMKESMAS), Beras untuk Keluarga Miskin (RASKIN), Bantuan Siswa Miskin (BSM) dan Program Keluarga Harapan (PKH). b) Klaster II Klaster II adalah kelompok kebijakan berbasis pemberdayaan masyarakat. Fokus utama program ini adalah untuk memperbaiki kualitas kehidupan 316 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis masyarakat miskin melalui pendekatan pemberdayaan yang dimaksudkan agar masyarakat keluar dari kemiskinan dengan menggunakan potensi dan sumberdaya yang dimiliki. Jenis program klaster II ini adalah PNPM Mandiri. masyarakat miskin melalui pendekatan pemberdayaan yang dimaksudkan agar masyarakat keluar dari kemiskinan dengan menggunakan potensi dan sumberdaya yang dimiliki. Jenis program klaster II ini adalah PNPM Mandiri. y y g p g c) Klaster III Klaster III adalah kebijakan berbasis pemberdayaan usaha mikro yang memberikan akses seluas-luasnya kepada masyarakat miskin untuk dapat berusaha dan meningkatkan kualitas hidupnya dengan memberikan modal atau pembiyayaan dalam skala mikro. Program pada klaster III ini adalah Kredit Usaha Rakyat (KUR). Dari penjelasan diatas dapat diketahui bahwa adanya keseriusan pemerintah dalam menganggulangi kemiskinan. Hal ini terbukti dengan adanya program-program penanggulangan kemiskinan yang diberikan pemerintah salah satunya adalah PKH yang berupa bantuan tunai bersayarat yang diberikan pemerintah kepada masyarakat miskin. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Efektifitas Program Keluarga Harapan ( PKH ) di Desa Muara Tiku Kecamatan Karang Jaya Efektifitas diartikan sebagai pengukuran keberhasilan dalam pencapaian tujuan- tujuan. Efektifitas berarti tujuan yang telah direncanakan sebelumnya dapat tercapai karena adanya proses kegiatan. Efektifitas program keluarga harapan (PKH) didefinisikan sebagai mengukur terhadap sejauh mana pelaksanaan Program Keluarga Harapan (PKH) dalam memberikan kontribusi untuk membantu Rumah Tangga Miskin dan rentan (RTM). Dalam mengukur tingkat efektivitas program dapat dilihat menggunakan 5 (lima) indikator: HASIL PENELITIAN DAN PEMBAHASAN Penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku Kecamatan Karang Jaya sudah berjalan sejak tahun 2011 hingga sekarang dan ditandai dengan adanya masyarakat yang mendapatkan bantuan PKH. Tabel. 1 Jumlah KPM PKH No Jumlah keluarga penerima manfaat PKH Desa Kecamatan Kabupaten 1 60 Muara Tiku Karang Jaya Musi Rawas Utara Sumber : data diolah ( data primer ) Menurut, wawancara mengenai jumlah KPM PKH terhadap Bapak Nata selaku sekretaris desa, beliau mengatakan bahwa: “untuk yang mendapatkan bantuan PKH di 5 tahun terakhir ini memang sedikit,tidak sampai 200 orang. Hal ini dikarekan masyarakat desa banyak yang mendapatkan bantuan lain contohnya BPNT,BLT. kemudian sebab lain yaitu perubahan status ekonomi masyarakat juga menentukan layak atau tidak menerima bantuan PKH ini”. Tabel. 1 Jumlah KPM PKH No Jumlah keluarga penerima manfaat PKH Desa Kecamatan Kabupaten 1 60 Muara Tiku Karang Jaya Musi Rawas Utara Sumber : data diolah ( data primer ) g j p p sekretaris desa, beliau mengatakan bahwa: “untuk yang mendapatkan bantuan PKH di 5 tahun terakhir ini memang sedikit,tidak sampai 200 orang. Hal ini dikarekan masyarakat desa banyak yang mendapatkan bantuan lain contohnya BPNT,BLT. kemudian sebab lain yaitu perubahan status ekonomi masyarakat juga menentukan layak atau tidak menerima bantuan PKH ini”. “untuk yang mendapatkan bantuan PKH di 5 tahun terakhir ini memang sedikit,tidak sampai 200 orang. Hal ini dikarekan masyarakat desa banyak yang mendapatkan bantuan lain contohnya BPNT,BLT. kemudian sebab lain yaitu perubahan status ekonomi masyarakat juga menentukan layak atau tidak menerima bantuan PKH ini”. 317 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Berdasarkan hasil wawancara tersebut, dapat diketahui bahwa masyarakat yang sudah mendapatkan bantuan lain seperti Bantuan Pangan Non Tunai (BPNT) tidak akan mendapatkan bantuan PKH berupa uang tunai supaya setiap masyarakat menerima bantuan sosial yang diberikan oleh pemerintah. Berdasarkan penelitian yang telah dilakukan oleh peneliti,efektifitas penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku sudah berjalan yang ditandai dengan adanya keluarga penerima manfaat (KPM) PKH, sehingga peningkatan taraf hidup masyarakat melalui akses kesehatan, pendidikan, dan kesejahteraan sosial dalam membantu mengentaskan kemiskinan sudah bisa dirasakan oleh peserta PKH Desa Muara Tiku. Pemahaman Program Pemahaman program terhadap masyarakat dapat dilakukan melalui kegiatan sosialisasi, diskusi atau sharing dan mengadakan pertemuan rutin. Berdasarkan wawancara terhadap 60 peserta PKH 39 responden menjawab belum paham.Hal ini dikarenakan kurangnya sosialisasi ataupun informasi yang diberikan antara pendamping. Seperti yang diungkapkan oleh Ibu Nirdawana selaku peserta PKH kompenen pendidikan, ia mengatakan bahwa: “Sebelum adanya pandemi itu diadakan pertemuan kelompok ataupun pertemuan rutin sebulan sekali, tapi setelah adanya pandemi sudah jarang dilakukan hingga sekarang. Biasanya kalau uangnya dicairkan baru kami kumpul” “Sebelum adanya pandemi itu diadakan pertemuan kelompok ataupun pertemuan rutin sebulan sekali, tapi setelah adanya pandemi sudah jarang dilakukan hingga sekarang. Biasanya kalau uangnya dicairkan baru kami kumpul” Hal serupa juga diungkapkan oleh ibu petil selaku peserta PKH Desa Muara Tiku. Ia mengatakan bahwa: “Jarang diadakan pertemuan rutin, jadi kami bingung kapan dana tersebut dicairkan ataupun diberikan”. Selain itu, peneliti juga menanyakan tentang pemahaman mengenai hak dan kewajiban sebagai KPM PKH, yaitu kepada Ibu Lusi yang merupakan peserta PKH kompenen pendidikan, ia mengatakan bahwa : “saya belum paham dek, hak dan kewajiban saya sebagai peserta PKH, tiba- tiba saja saya di panggil katanya dapat bantuan PKH, saya belum sempat nanya – nanya juga”. Sedangkan menurut Ibu Salmia selaku ketua PKH, ia mengatakan bahwa: 318 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis “alasan saya jarang mengadakan pertemuan rutin yaitu kurangnya partisipasi peserta dalam menghadiri pertemuan, alasannya itu karena pulang dari kebun sudah sore, dan kalau malam harinya itu sudah capek. Jadi, saya adakan pertemuan pada saat pencairan dana saja”. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis “alasan saya jarang mengadakan pertemuan rutin yaitu kurangnya partisipasi peserta dalam menghadiri pertemuan, alasannya itu karena pulang dari kebun sudah sore, dan kalau malam harinya itu sudah capek. Jadi, saya adakan pertemuan pada saat pencairan dana saja”. Namun, pemahaman program ini tidak hanya dilihat dari komunikasi atau diskusi saja melainkan juga melalui monitoring dan evaluasi yang dilakukan oleh pendamping PKH. Berikut hasil wawancara dengan ibu tatik selaku peserta PKH : Namun, pemahaman program ini tidak hanya dilihat dari komunikasi atau diskusi saja melainkan juga melalui monitoring dan evaluasi yang dilakukan oleh pendamping PKH. Pemahaman Program Berikut hasil wawancara dengan ibu tatik selaku peserta PKH : “kalau untuk pemantauan ataupun kunjungan berkala ke rumah- rumah itu belum pernah, kalau ada apa – apa atau ingin disampaikan biasanya kami hanya disuruh kumpul di rumah pendamping ataupun kantor desa”. g p “kalau untuk pemantauan ataupun kunjungan berkala ke rumah- rumah itu belum pernah, kalau ada apa – apa atau ingin disampaikan biasanya kami hanya disuruh kumpul di rumah pendamping ataupun kantor desa”. Berdasarkan hasil penelitian yang dilakukan peneliti terhadap peserta PKH pada indikator pemahaman program itu belum efektif. hal ini dikarenakan kurangnya sosialisasi yang dilakukan oleh pendamping PKH dan kurangnya partisipasi peserta PKH dalam menghadiri pertemuan rutin. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Tepat Sasaran Sasaran penerima bantuan PKH ini adalah masyarakat miskin dan rentan yang diperoleh dari hasil basisi data terpadu (BDT) yang mempunyai kompenen pendidikan dengan kriteria; anak SD/MI atau sederajat; anak SMP/MTS atau sederajat,dan SMA/MA atau sederajat;kesehatan dengan kriteria ibu menyusui/hamil; anak usia 0-6 tahun dan kesejahteraan sosial dengan kriteria; lansia dan penyandang disabilitas. Berdasarkan wawancara terhadap 60 peserta PKH sebanyak 52 responden menjawab penyaluran dana PKH ini belum tepat sasaran. Hal ini dikarenakan masih ada masyarakat yang dikategorikan mampu namun mendapatkan manfaat dari PKH ini. Berikut hasil wawancara dengan Ibu Nurmi selaku peserta PKH Desa Muara Tiku, ia mengatakan bahwa: g “belum semua, masih ada masyarakat yang dikatakan mampu atau memiliki usaha sendiri dan sawah, namun mendapatkan manfaat dari bantuan ini”. Berdasarkan hasil observasi yang dilakukan Program Keluarga Harapan (PKH) di Desa Muara Tiku Kecamatan Karang Jaya belum tepat sasaran berdasarkan karakteristik Badan Pusat Statistik, karena ada yang sebagian keluarga penerima manfaat PKH sudah tergolong mampu secara ekonomi contohnya Ibu Sis Palul, Ibu, Diana Bakri, Ibu Wiwin,dan Ibu Nurhayati. Berdasarkan tabel 2, dapat diketahui bahwa ketiga peserta PKH tersebut sudah masuk dalam kategori keluarga sejahtera karena pada dasarnya sudah mampu secara ekonomi dalam memenuhi kebutuhan dasar, pendidikan dan kesehatan, Keluarga tersebut seharusnya tidak lagi mendapatkan bantuan PKH. Berdasarkan hasil penelitian yang dilakukan oleh peneliti terhadap peserta PKH pada indikator ketepatan sasaran ini belum efektif. Hal ini dikarenakan perubahan kondisi perekonomian masyarakat. 319 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Tabel 2. Peserta PKH yang tidak termasuk Rumah Tangga Miskin No Nama peserta Kriteria yang terpenuhi 1 Sis Palul Luas bangunan lebih 8 M², lantai rumah semen kualitas sedang, memiliki sumber air bersih, memiliki fasilitas MCK, memiliki aset tetap yaitu mobil, kebun sawit 2 ha, pekerjaan sebagai anggota BPD desa muara tiku.penghasilan lebih dari Rp.2.000.000. 2 Diana Bakri Luas bangunan lebih 8 M², lantai rumah keramik. Memiliki sumber air bersih, memiliki fasilitas MCK, memiliki aset tetap yaitu kebun, pekerjaan sebagai buruh dan penghasilan lebih dari Rp. 2.000.000 3 Wiwin Luas bangunan lebih 8 M², lantai rumah semen kualitas sedang, memiliki sumber air bersih, memiliki fasilitas MCK, memiliki aset tetap yaitu mobil, kebun karet 2 ha, pekerjaan sebagai wiraswasta, penghasilan lebih dari Rp.2.000.000. Tepat Sasaran 4 Nurhayati Luas bangunan lebih 8 M², lantai rumah semen kualitas sedang, memiliki sumber air bersih, memiliki fasilitas MCK, memiliki aset tetap yaitu mobil, kebun sawit 2 ha, pekerjaan sebagai buruh, penghasilan lebih dari Rp.2.000.000. Sumber: hasil observasi dan wawancara responden Sumber: hasil observasi dan wawancara responden Tepat Waktu Berdasarkan hasil penelitian dan pengamatan yang di lakukan peneliti sebanyak 42 responden menjawab penyaluran dana PKH ini belum tepat waktu. Berikut hasil wawancara dengan Ibu Meti selaku peserta PKH Desa Muara Tiku, ia mengatakan bahwa: “penyaluran dana PKH ini belum tepat waktu, karena masih sering terlambat dari jadwal yang ditentukan, biasanya terlambat hingga 1 – 2 bulan”. “penyaluran dana PKH ini belum tepat waktu, karena masih sering terlambat dari jadwal yang ditentukan, biasanya terlambat hingga 1 – 2 bulan”. Hal serupa juga diungkapkan oleh Ibu Rusni selaku peserta PKH kompenen kesejahteraan sosial, ia mengatakan bahwa: Hal serupa juga diungkapkan oleh Ibu Rusni selaku peserta PKH kompenen kesejahteraan sosial, ia mengatakan bahwa: j g “Belum tepat waktu, kadang pas di cek saldonya kosong”. j g “Belum tepat waktu, kadang pas di cek saldonya kosong”. Berdasarkan hasil penelitian yang dilakukan oleh peneliti terhadap peserta PKH Berdasarkan hasil penelitian yang dilakukan oleh peneliti terhadap peserta PKH 320 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 32 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 320 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Desa Muara Tiku pada indikator ketepatan waktu belum efektif. hal ini dikarenakan penyaluran dana yang terlambat dari yang telah dijadwalkan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Tercapainya Tujuan 1. Meningkatkan taraf hidup keluarga penerima manfaat melalui akses layana pendidikan, kesehatan dan kesejahteraan sosial. Berdasarkan wawancara terhadap 60 peserta PKH Desa Muara Tiku Kecamatan Karang Jaya sebanyak 31 responden menjawab bahwa PKH INI sudah mampu meningkatkan taraf hidup KPM melalui akses pendidikan, kesehatan dan kesejahteraan sosial yang ditandai dengan anak – anak bisa melanjutkan pendidikan ke jenjang yang lebih tinggi dan tidak ada anak yang putus sekolah karena kekurangan biaya. Berikut wawancara dengan Ibu Cik Yub selaku peserta PKH kompenen pendidikan, ia mengatakan bahwa : “alhamdulillah, anak – anak bisa melanjutkan sekolah ke jenjang smp. Uangnya untuk beli baju sekolah anak”. Berdasarkan wawancara diatas, dapat diketahui bahwa PKH sudah bisa membantu KPM dalam meningkatkan taraf hidup keluarga penerima manfaat melalui pendidikan. 2. Mengurangi beban pengeluaran dan meningkatkan pendapatan keluarga miskin dan rentan 2. Mengurangi beban pengeluaran dan meningkatkan pendapatan keluarga miskin dan rentan Berdasarkan wawancara terhadap 60 peserta PKH sebanyak 42 responden menyatakan bahwa program ini sudah cukup membantu dalam mengurangi beban pengeluaran masyarakat dan meningkatkan pendapatan masyarakat dalam jangka pendek. Sedangkan Seperti yang di ungkapkan oleh Ibu Wiwin selaku peserta PKH D M Tik k didik i k b h Desa Muara Tiku kompenen pendidikan, ia mengatakan bahwa: “dana yang saya terima itu saya gunakan untuk membeli buku anak, sepatu, dan kalau ada lebihnya saya tabung. Alhamduillah dengan adanya program ini pengeluaran untuk keperluan anak itu berkurang. Apalagi pada saat kenaikan kelas itukan banyak yang harus dibeli”. Desa Muara Tiku kompenen pendidikan, ia mengatakan bahwa: “dana yang saya terima itu saya gunakan untuk membeli buku anak, sepatu, dan kalau ada lebihnya saya tabung. Alhamduillah dengan adanya program ini pengeluaran untuk keperluan anak itu berkurang. Apalagi pada saat kenaikan kelas itukan banyak yang harus dibeli”. Hal serupa juga dikatakan oleh Ibu Heni Pirnita, beliau mengatakan bahwa: “program PKH ini sangat membantu perekonomian jangka pendek keluarga saya, degan adanya program ini saya bisa berobat di puskesmas secara gratis”. a se upa juga d ata a o e bu e ta, be au e gata a ba wa: “program PKH ini sangat membantu perekonomian jangka pendek keluarga saya, degan adanya program ini saya bisa berobat di puskesmas secara gratis”. Berdasarkan wawancara diatas, dapat diketahui bahwa Program Keluarga Harapan (PKH) ini sudah mampu mengurangi beban pengeluaran keluarga penerima manfat. 3. Menciptakan perubahan perilaku dan kemandirian keluarga penerima manfaat dalam akses layanan kesehatan dan pendidikan serta kesejahteraan sosial. 3. Tercapainya Tujuan Menciptakan perubahan perilaku dan kemandirian keluarga penerima manfaat dalam akses layanan kesehatan dan pendidikan serta kesejahteraan sosial. Berdasarkan hasil penelitian, peserta PKH sudah mengalami perubahan perilaku walapun belum sepenuhnya, hal ini ditandai dengan mereka yang mempunyai balita, ibu hamil sudah rutin memeriksakan kesehatannya di posyandu. Walaupun sudah mampu meningkatkan taraf hidup dan mengurangi pengeluaran, akan tetapi program ini 321 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis belum bisa menciptakan perubahan perilaku dan kemandirian KPM sepenuhnya. Bahkan program ini membuat KPM PKH ini menunggu uluran tangan dari pemerintah. belum bisa menciptakan perubahan perilaku dan kemandirian KPM sepenuhnya. Bahkan program ini membuat KPM PKH ini menunggu uluran tangan dari pemerintah. belum bisa menciptakan perubahan perilaku dan kemandirian KPM sepenuhnya. Bahkan program ini membuat KPM PKH ini menunggu uluran tangan dari pemerintah. Seperti yang di ungkapkan oleh Ibu Sadar selaku KPM PKH, ia mengatakan bahwa : p p p p y Bahkan program ini membuat KPM PKH ini menunggu uluran tangan dari pemerintah. Seperti yang di ungkapkan oleh Ibu Sadar selaku KPM PKH, ia mengatakan bahwa : “jumlah dana yang saya terima itu sangat sedikit sedangkan anak saya empat dan semuanya masih sekolah, harapan saya semoga untuk kedepannya dana yang diberikan bisa mencukupi kebutuhan saya”. p g gg g p Seperti yang di ungkapkan oleh Ibu Sadar selaku KPM PKH, ia mengatakan bahwa : Seperti yang di ungkapkan oleh Ibu Sadar selaku KPM PKH, ia mengatakan bahwa : “jumlah dana yang saya terima itu sangat sedikit sedangkan anak saya empat dan semuanya masih sekolah, harapan saya semoga untuk kedepannya dana yang diberikan bisa mencukupi kebutuhan saya”. Seperti yang di ungkapkan oleh Ibu Sadar selaku KPM PKH, ia mengatakan bahwa : “jumlah dana yang saya terima itu sangat sedikit sedangkan anak saya empat dan semuanya masih sekolah, harapan saya semoga untuk kedepannya dana yang diberikan bisa mencukupi kebutuhan saya”. Berdasarkan hasil penelitian dan wawancara terhadap peserta PKH di Desa Muara Tiku, indikator tercapainya tujuan ini sudah cukup efektif terutama dalam mengurangi beban pengeluaran dan meningkatkan taraf hidup KPM PKH, walaupun belum sepenuhnya bisa merubah perilaku /pola pikir penerima PKH. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Perubahan Nyata 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Sedangkan indikator pemahaman program, ketepatan sasaran, dan ketepatan waktu belum berjalan secara efektif. Sesuai hasil penelitian dan pembahasan di atas dapat diketahui bahwa penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku Kecamatan Karang Jaya belum efektif secara maksimal. Sedangkan indikator pemahaman program, ketepatan sasaran, dan ketepatan waktu belum berjalan secara efektif. Sesuai hasil penelitian dan pembahasan di atas dapat diketahui bahwa penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku Kecamatan Karang Jaya belum efektif secara maksimal. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Perubahan Nyata Berdasarkan wawancara yang dilakukan terhadap 60 peserta PKH sebanyak 50 responden menyatakan adanya perubahan nyata yang dirasakan setelah mendapatkan bantuan PKH ini.terutama dari segi pendidikan dan kesehatan Berikut hasil wawancara dengan Ibu Mila selaku peserta PKH. Ia mengatakan bahwa: “Alhamdulillah, manfaat nyata yang saya rasakan setelah menjadi KPM PKH yaitu pengeluaran untuk pemenuhan kebutuhan anak itu berkurang. apalagi dimasa sulit pandemi kemarin, pkh ini mampu meningkatkan perekonomian keluarga saya. Semoga program”. “Alhamdulillah, manfaat nyata yang saya rasakan setelah menjadi KPM PKH yaitu pengeluaran untuk pemenuhan kebutuhan anak itu berkurang. apalagi dimasa sulit pandemi kemarin, pkh ini mampu meningkatkan perekonomian keluarga saya. Semoga program”. Hal serupa juga diungkapkan oleh ibu salmia, selaku ketua koordinator PKH: “alhamdulillah dengan adanya program ini ada banyak anak yang bisa melanjutkan sekolahnya ke jenjang yang lebih tinggi, kemudian bisa membantu untuk membeli keperluan dan berobat secara gratis di puskesmas”. “alhamdulillah dengan adanya program ini ada banyak anak yang bisa melanjutkan sekolahnya ke jenjang yang lebih tinggi, kemudian bisa membantu untuk membeli keperluan dan berobat secara gratis di puskesmas”. Sedangkan 10 responden menyatakan tidak ada perubahan yang dirasakan. Hal ini dikarenakan jumlah dana yang diterima belum mampu dalam meningkatkan taraf hidup dan mengurangi beban pengeluaran mereka. Seperti yang diungkapkan oleh Ibu Sadar selaku peserta PKH kompenen pendidikan, ia mengatakan bahwa: “belum ada perubahan yang saya rasakan, karena jumlah dana yang saya terima itu sangat sedikit sedangkan anak saya 4 dan semuanya masih sekolah, harapan saya semoga untuk kedepannya dana yang diberikan itu bisa mencukupi kebutuhan saya”. Berdasarkan hasil penelitian yang dilakukan oleh peneliti terhadap peserta PKH Desa Muara Tiku indikator perubahan nyata ini sudah cukup efektif. dengan adanya program ini penerima manfaat bisa meringankan beban pengeluaran terutama untuk biaya pendidikan, kesehatan, meskipun perubahan yang terjadi hanya untuk jangka pendek karena keterbatasan besaran bantuan yang diberikan. Berdasarkan 5 indikator diatas dapat dikatakan bahwa pelaksanaan dan penyaluran dana PKH dalam upaya mengentaskan kemiskinan belum berjalan dengan baik. Sebagaimana yang telah diuraikan diatas bahwa dari ke lima indikator hanya 2 yang bersifat efektif, yaitu indikator ketepatan tujuan, dan adanya perubahan nyata. 322 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. data yang berlangsung lama karena ketidaksinkronan data NIK. data yang berlangsung lama karena ketidaksinkronan data NIK. Pembahasan Program Keluarga Harapan (PKH) yang diselenggarakan pemerintah sejak tahun 2007 dan baru terlaksana di Desa Muara Tiku Kecamatan Karang Jaya pada tahun 2011 hingga sekarang, dengan tujuan utamanya ialah mengatasi masalah kemiskinan melalui peningkatan kualitas pendidikan, kesehatan dan kesejahteraan sosial, yang diperuntukkan kepada rumah tangga miskin yang memiliki kompenen pendidikan, kesehatan, dan kesejahteraan sosial. Hasil penelitian yang dilakukan terhadap 60 informan yaitu Keluarga Penerima Manfaat PKH dengan karaterisktik informan yang telah di tentukan yang dilaksanakan di desa muara tikus Kecamatan karang jaya menunjukkan bahwa Rumah tangga miskin yang menerima bantuan ini menyatakan bahwa Program Keluarga Harapan (PKH) sangat membantu dan mengurangi beban dalam menenuhi kebutuhan kehidupan sehari-hari dan kebutuhan pendidikan, kesehatan serta pemenuhan kebutuhan lansia dan disabilitas. Pada dasarnya, efektivitas Program Keluarga Harapan (PKH) dapat diukur menggunakan variabel-variabel pengukuran efektivitas seperti pemahaman program,ketepatan sasaran program, tujuan program, ketepatan waktu dan adanya perubahan nyata. Selain menggunakan variabel-variabel tersebut tingkat efektivitas dapat diukur melalui indikator keberhasilan pelaksanaan program bantuan dalam upaya pengentasan kemiskinan. p g Dalam penelitian yang dilakukan terhadap 60 informan dapat di ketahui efektivitas Program KeluargaHarapan (PKH) terhadappengentasankemiskinandi desa muara tiku kecamatan karang jaya dapat diukur dengan 5 (lima) indikator yaitu pemahaman program, ketepatan sasaran, ketepatan waktu, ketepatan tujuan, dan adanya perubahan nyata. Pemahaman Program Berdasarkan hasil penelitian dan pengamatan yang dilakukan terhadap peserta PKH di Desa Muara Tiku indikator pemahaman program belum efektif, yang terjadi dilapangan pendamping tidak melakukan tugasnya dengan baik dan bertanggung jawab. pendamping PKH hanya memberikan pemahaman mengenai kewajiban,tujuan dan hak mereka sebagai KPM pada saat sosialisasi pertama dan jarang melakukan pertemuan rutin, serta tidak melakukan monitoring dan evaluasi seperti yang dijelaskan dalam buku pedoman PKH. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kendala- kendala dalam penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku 6, Online ISSN: 2655-6359, Print DOI: https://doi.org/ data yang berlangsung lama karena ketidaksinkronan data NIK. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Kendala- kendala dalam penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku Untuk itu KPM diharapkan mengambil dana tersebut dikantor pos terdekat.akan tetapi, kondisi ini malah justru menjadi kendala bagi masyarakat Desa Muara Tiku karena jarak antara kantor pos dan desa itu cukup jauh atau ± 1 jam dari desa. Seperti yang di ungkapkan oleh ibu evi selaku selaku peserta PKH kompenen pendidikan, beliau mengatakan bahwa : “kendala nya itu ketika proses pendistribusian/ penyaluran dilakukan di kantor pos. Karena jarak antara kantor pos dan desa itu kn lumayan jauh dan harus mengeluarkan uang tambahan untuk ongkos. Belum lagi antrian yang panjang, tapi kalau dana nya itu didistribusikan melalui atm kami bisa ngambilnya di agen brilink terdekat dan biaya nya lumayan sedikit”. Selain kendala tersebut, peneliti juga menemukan kendala- kendala lain yang seharusnya diperhatikan oleh pendamping PKH. Seperti kurangnya pertemuan antara KPM dan pendamping PKH atau bisa juga dikatakan kurangnya partisipasi KPM untuk mengikuti pertemuan kelompok. Berikut wawancara yang diakukan terhadap ibu sumarni dan 37 responden lainnya selaku peserta PKH desa muara tiku kompenen kesehatan, ia mengatakan bahwa : “saya jarang mengikuti pertemuan kelompok karena sehari- hari harus bekerja dikebun, pulangnya sudah sore”. Kemudian, peneliti juga mewawancarai ibu reni selaku peserta PKH desa muara tiku, ia k b h Kemudian, peneliti juga mewawancarai ibu reni selaku peserta PKH desa muara tiku, ia mengatakan bahwa : mengatakan bahwa : “pendamping jarang mengadakan pertemuan kelompok, jadi kami bingung kapan dana tersebut di cairkan / didistribusikan” Hal ini dibenarkan oleh ibu salmia selaku ketua pelaksana PKH desa muara tiku, ia mengatakan bahwa : Hal ini dibenarkan oleh ibu salmia selaku ketua pelaksana PKH desa muara tiku, ia mengatakan bahwa : ia mengatakan bahwa : g “iya, mangkanya saya jarang mengadakan pertemuan rutin karena hanya sedikit yang hadir, alasannya sehari- hari bekerja dan tidak sempat ikut kegiatan kelompok” “iya, mangkanya saya jarang mengadakan pertemuan rutin karena hanya sedikit yang hadir, alasannya sehari- hari bekerja dan tidak sempat ikut kegiatan kelompok” Selain itu, menurut bu salmia selaku ketua pelaksana PKH kendala yang biasanya terjadi adalah proses pemutakhiran data yang berlangsung lama karena ketidaksinkronan data NIK dari KPM. Dari hasil wawancara terhadap beberapa responden, dapat diketahui kendala- kendala yang biasanya terjadi dalam penyaluran dana PKH adalah kendala pada saat penyaluran dana dilakukan melalui kantor pos karena KPM harus mengeluarkan uang tambahan yang lumayan besar untuk bisa mengambil uangnya. Kemudian, kurangnya pertemuan / komunikasi antara pendamping dan KPM PKH, dan proses pemutakhiran 323 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam Vol. Perubahan Nyata Untuk bisa mengetahui dan mengukur indikator ini, peneliti memfokuskan pada berbagai persepsi dan pandangan masyarakat penerima bantuan PKH, pendamping PKH dan peserta PKH yang mengetahui tentang sejauh mana bantuan tersebut dapat membantu kebutuhan peserta PKH sehingga program PKH dapat berdampak dalam meningkatkan perekonomian masyarakat. Selain itu, untuk mengukur indikator ini juga bisa dilihat dari tingkat kemiskinan di desa muara tiku kecamatan karang jaya. Berdasarkan hasil penelitian dan pengamatan Program Keluarga Harapan (PKH) di Desa Muara Tiku Kecamatan Karang Jaya memberikan perubahan yang nyata terhadap perekonomian peserta PKH walapun dalam jangka waktu pendek terutama dalam mengurangi beban pengeluaran, dan meningkatkan taraf pendidikan, kesehatan, serta kesejahteraan sosial peserta PKH. Untuk itu, peserta PKH Desa Muara Tiku berharap program yang diberikan oleh pemerintah ini dapat terus dilanjutkan. Ketepatan Waktu Berdasarkan hasil penelitian dan pengamatan yang dilakukan peneliti terhadap program keluarga harapan (PKH) di Desa Muara TikuKecamatan Karang Jaya dengan indikator ketepatan waktu belum efektif. Yang terjadi dilapangan penyaluran sering terlambat bisa 1 sampai 2 bulan dari jadwal. Hal ini dikerenakan adanya kendala antara bank dan penyaluran pemerintah. Dan kendala lainnya yaitu sering terdapat saldo kosong pada waktu pencairan dana. Hal ini disebabkan karena permasalahan pada administrasi peserta PKH mengenai NIK KTP yang sering tidak valid sehingga bantuan yang diterima terlambat dan dana di terima pada 3 bulan berikutnya. Ketepatan Sasaran Berdasarkan hasil penelitian dan pengamatan yang dilakukan peneliti terhadap Program Keluarga Harapan di Desa Muara Tiku Kecamatan Karang Jaya terkait dengan penetapan keluarga miskin belum efektif, hal ini dilihat dari kondisi perumahan rumah tangga miskin, sarana yang dimiliki, dan kondisi ekonomi, jika dikaitkan dengan kriteria kemiskinan yang di tetapkan oleh Badan Pusat Statistik maka belum sesuai dengan kenyataan dilapangan. Dalam hal ini sasaran yang terjadi dilapangan belum sesuai secara maksimal dengan teori BPS yang mengatakan bahwa keluarga atau Rumah tangga dapat dikateorikan miskin jika memiliki luas tempat tinggal kurang dari 8M2, lantai dan 324 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis dinding tempat tinggal terbuat dari kayu yang berkualitas rendah, tidak memiliki dasilitas buang air besar, dan berpendapatan rendah. Adapun yang menjadi sasaran penerima Program Keluarga Harapan (PKH) ini sesuai dengan ketentuan yang telah ditetapkan ialah keluarga miskin dan rentan yang sudah terdaftar dalam data terpadu program penanganan fakir miskin yang memiliki komponen Pendidikan, Komponen Kesehatan dan Komponen Kesejahteran Sosial. Tercapainya Tujuan Berdasarkan hasil penelitian dan pengamatan yang dilakukan terhadap peserta PKH Desa Muara Tiku Kecamatan Karang Jaya sudah efektif, yang terjadi dilapangan penyaluran dana yang diberikan oleh pemerintah dalam bentuk uang tunai ini sudah mampu mengurangi beban pengeluaran dan meningkatkan pendapatan masyarakat miskin dan rentan. Walaupun dana tersebut juga digunakan untuk kebutuhan sehari- hari. Akan tetapi, mereka tidak melupakan hak dan kewajiban mereka sebagai peserta PKH dengan menggunakan dana tersebut untuk kebutuhan pendidikan, kesehatan dan kesejahteraan sosial bagi lansia dan penyandang disabilitas. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kendala Dalam Penyaluran Dana Program Keluarga Harapan (PKH) Di Desa Muara Tiku Berdasarkan hasil penelitian, maka peneliti menemukan adanya kendala dalam penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku : p y g g p a. Kurangnya pertemuan antara KPM dan pendamping PKH 325 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Antara pendamping dan keluarga penerima manfaat (KPM) pertemuannya belum berjalan dengan baik. Karena KPM sehari – hari bekerja di kebun dan pendamping tidak pernah mengadakan pertemuan kelompok secara rutin. Hal ini menyebabkan KPM bingung kapan dana Program Keluarga Harapan (PKH) di cairkan. Antara pendamping dan keluarga penerima manfaat (KPM) pertemuannya belum berjalan dengan baik. Karena KPM sehari – hari bekerja di kebun dan pendamping tidak pernah mengadakan pertemuan kelompok secara rutin. Hal ini menyebabkan KPM bingung kapan dana Program Keluarga Harapan (PKH) di cairkan. b. Jaunya jarak kantor pos dari desa Untuk peserta yang belum memiliki kartu ATM ketika proses penyaluran dana, peserta PKH harus mengambil uangnya di kantor pos. Sedangkan, jarak antara kantor pos ±2 jam dari desa membuat peserta PKH harus mengeluarkan uang tambahan untuk ongkos.Selain itu, kerap terjadi antrian yang padat saat pembagian dana dilakukan menyebabkan KPM PKH harus menunggu lama. c. Proses pemutakhiran data yang berlangsung lama Berdasarkan hasil observasi lapangan dilakukan, yang menjadi penyebab pemutakhiran data ini berlangsung lama adalah karena ketidaksinkronan data nik dari KPM yang bersangkutan dengan data yang ada di data terpadu kesejahteraan sosial (DTKS) biasanya karena terlalu sering diganti, sehingga tidak terbaca dan menyebabkan bantuan yang diterima menjadi tidak bisa dicairkan (pending), perlu dilakukan pembenahan terlebih dahulu dengan DISDUKCAPIL terlebih dahulu. PENUTUP Kesimpulan 1. Berdasarkan hasil penelitian dan pembahasan diatas, dapat disimpulkan bahwa efektifitas penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku Kecamatan Karang Jaya yang diukur menggunakan 5 (lima) indikator yaitu, pemahaman program, ketepatan sasaran, ketepatan waktu, ketepatan tujuan, dan adanya perubahan nyata belum berjalan efektif secara maksimal. Dimana hanya 2 (dua) indikator yang bersifat efektif, yaitu indikator tercapainya tujuan dan adanya perubahan nyata. Sedangkan indikator pemahaman program, ketepatan sasaran, dan ketepatan waktun belum berjalan efektif. 2. Dalam prosesnya terdapat kendala- kendala dalam penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku Kecamatan Karang Jaya, antara lain kurangnya pertemuan antara KPM dan pendamping PKH, kendala dalam penyaluran dana dilakukan dikantor pos dan proses pemutakhiran data yang berlangsung lama. Saran Berdasarkan penelitian yang dilakukan dan hasil kesimpulan yang telah dilakukan oleh peneliti mengenai efektifitas penyaluran dana Program Keluarga Berdasarkan penelitian yang dilakukan dan hasil kesimpulan yang telah dilakukan oleh peneliti mengenai efektifitas penyaluran dana Program Keluarga Harapan (PKH) dalam upaya pengentasan kemiskinan di Desa Muara Tiku K K J k li i d b ik b i b ik p g p y g g Harapan (PKH) dalam upaya pengentasan kemiskinan di Desa Muara Tiku Kecamatan Karang Jaya, maka peneliti dapat memberikan saran sebagai berikut : Harapan (PKH) dalam upaya pengentasan kemiskinan di Desa Muara Tiku Kecamatan Karang Jaya, maka peneliti dapat memberikan saran sebagai berikut : 1. Bagi keluarga penerima manfaat, terjadi keterlambatan pencairan dana bantuan yang diterima oleh Keluarga Peneria Manfaat (KPM), diharapkan KPM melakukan koordinasi dengan pendamping agar pendamping bisa 1. Bagi keluarga penerima manfaat, terjadi keterlambatan pencairan dana bantuan yang diterima oleh Keluarga Peneria Manfaat (KPM), diharapkan KPM melakukan koordinasi dengan pendamping agar pendamping bisa 326 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis mengkoordinasi dan menyampaikan ke pusat, agar permasalahan waktu pencairan dana tidak terjadi lagi. mengkoordinasi dan menyampaikan ke pusat, agar permasalahan waktu pencairan dana tidak terjadi lagi. 2. Bagi instansi pemerintah agar memperbaiki data penerima bantuan program keluarga harapan (PKH) dengan data yang terbaru, sehingga yang berhak mendapatkan bantuan ini adalah orang yang benar- benar membutuhkan manfaat dari PKH ini. 3. Bagi pendamping PKH yang mendapatkan amanah dari pemerintah agar lebih memaksimalkan baik dari segi pertemuan kelompok, monitoring, dan evaluasi rutin yang diadakan setiap bulan harus dilaksanakan dengan baik dan transparansi. Keywords: Kata kunci: Strategi, Pemasaran Syariah SHARIA MARKETING STRATEGY IN THIRTY-FIVE THOUSAND AILA FASHION IN SINGARAN PATI SUB-DISTRICT, BENGKULU CITY Wahyu Anugraha Jaya 1, Supardi Mursalin2, Makmur3 Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3 wahyuanugraha@mail.uinfasbengkulu.ac.id1, supardi@mail.uinfasbengkulu.ac.id2, makmurreza11@gmail.com3 Jl. Raden Fatah, Kel. Pagar Dewa, Kota Bengkulu (38211) Corresponding email: wahyuanugraha@mail.uinfasbengkulu.ac.id http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu INFORMASI ARTIKEL The purpose of this study was to determine the implementation of sharia marketing strategies at Aila Fashion Thirty-Five Thousand All-round Fashion in Bengkulu City. To test this, researchers used quantitative methods with primary data collection techniques in the form of interviews with 6 informants. The results showed that the implementation of the sharia marketing strategy at the Aila Fashion All-round Rp35.000 Store in Bengkulu City was by creating attractive and reliable offers, providing excellent service, providing memorable value, offering an up to date business model, and building synergy with stakeholders. However, the implementation has not been fully implemented properly, because the Aila Fashion All- round Rp35.000 Shop in Bengkulu City has not been able to provide maximum excellent service and the products offered seem old-fashioned and not the latest or up to date, while creating attractive offers provides impressive value. , and building synergy with stakeholders The Aila Fashion All-round Rp35.000 Shop, Bengkulu City, has done well. Riwayat Artikel: Diterima : 20 Mei 2023 Direvisi : 01 Agustus 2023 Disetujui : 08 Agustus 2023 DAFTAR RUJUKAN Badan Pusat Statistik (Bps) Nasional 2022. (n.d.-a). Badan Pusat Statistik (Bps) Nasional 2022. (n.d.-b). Badan Pusat Statistik (Bps) Nasional 2022. (n.d.-a). adan Pusat Statistik (Bps) Nasional 2022. (n.d.-b Binadhi, A. (2017). Kemiskinan Dan Pemberdayaan Masyarakat. Pustak Binadhi, A. (2017). Kemiskinan Dan Pemberdayaan Masyarakat. Pustaka Huda, N. (2015). Ekonomi Pembangunan Islam. Prenada Media Group. Huda, N. (2015). Ekonomi Pembangunan Islam. Prenada Media Group. Kadji, Y. (2016). Kemiskinan Dan Konsep Teoritisnya. PT Dinamika Cahaya Pustaka. Kadji, Y. (2018). Kemiskinan Dan Konsep Teoritisnya. CV Budi Utama. Kenneth, & Jane. (2003). Essentials of Management Information System (5th ed.). Prentice- Hall. Nova, A. (2022). Efektivitas Program Keluarga Harapan (Pkh) Terhadap Kesejahteraan Masyarakat Pada Masa Pandemi Covid-19. Ekonomi Dan Bisnis. Nuraida. (2019). Efektivitas Pelaksanaan Program Keluarga Harapan (Pkh) Di Kecamatan Cisalak Kabupaten Subang. Jurnal Unsub, 1(2), 152. Perwitasari, D. A. (2022). Analisis Efektivitas Dan Efisiensi Penyerapan Anggaran Keuangan Pada Dinas Pertanian, Ketahanan Pangan Dan Perikanan. Jurnal Ilmu Ekonomi, 15(2). RI, K. (2021). Pedoman Pelaksanaan Program Keluarga Harapan. RI, K. (2022). Pedoman Pelaksanaan Program Keluarga Harapan (PKH). https://pkh.kemensos.go.id 327 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis PENDAHULUAN Islam adalah agama yang sempurna (komprehensif) yang mengatur aspek kehidupan manusia, baik akidah, ibadah, akhlak, maupun muamalah. Ibadah diperlukan untuk menjaga ketaatan dan keharmonisan hubungan manusia dengan Khaliq-Nya. Ibadah juga merupakan sarana untuk mengingatkan secara kontinu tugas manusia sebagai khalifah-Nya di muka bumi ini. Adapun muamalah diturunkan untuk sebagai rules of the game atau aturan main manusia dalam kehidupan sosial. Islam memandang bumi dengan segala isinya merupakan amanah Allah kepada sang khalifah agar dipergunakan dengan sebaik-baiknya bagi kesejahteraan bersama. Untuk mencapai tujuan suci ini, Allah memberikan petunjuk melalui para Rasul-Nya. Petunjuk tersebut meliputi segala sesuatu yang dibutuhkan manusia baik akidah, akhlak, maupun syari’ah. Jual beli merupakan salah satu bukti bahwa manusia sebagai makhluk sosial karena di dalam akad jual beli menunjukkan bahwa manusia dalam memenuhi kebutuhannya tidak dapat terlepas dari manusia yang lain (Herawan, 2021). Berkembangnya kegiatan ekonomi syariah akan berpengaruh terhadap sektor layanan jasa (Akbar, et al., 2022; Herlin, 2020). yang menerapkan prinsip syariah dalam menjalankan usahanya seperti travel Islami, kuliner dengan konsep Islami, serta terdapat usaha di bidang pariwisata dengan konsep syariah. Pariwisata syariah memfokuskan kepada produk halal, yang mengandung prinsip prinsip syariah sebagaimana yang telah diatur oleh Majelis Ulama Indonesia (MUI) (Sofyan, 2018). Dalam hal ini, pemasaran Islami memiliki posisi yang sangat strategis, karena pemasaran Islami merupakan salah satu strategi pemasaran yang didasarkan pada Islam adalah agama yang sempurna (komprehensif) yang mengatur aspek kehidupan manusia, baik akidah, ibadah, akhlak, maupun muamalah. Ibadah diperlukan untuk menjaga ketaatan dan keharmonisan hubungan manusia dengan Khaliq-Nya. Ibadah juga merupakan sarana untuk mengingatkan secara kontinu tugas manusia sebagai khalifah-Nya di muka bumi ini. Adapun muamalah diturunkan untuk sebagai rules of the game atau aturan main manusia dalam kehidupan sosial. Islam memandang bumi dengan segala isinya merupakan amanah Allah kepada sang khalifah agar dipergunakan dengan sebaik-baiknya bagi kesejahteraan bersama. Untuk mencapai tujuan suci ini, Allah memberikan petunjuk melalui para Rasul-Nya. Petunjuk tersebut meliputi segala sesuatu yang dibutuhkan manusia baik akidah, akhlak, maupun syari’ah. Jual beli merupakan salah satu bukti bahwa manusia sebagai makhluk sosial karena di dalam akad jual beli menunjukkan bahwa manusia dalam memenuhi kebutuhannya tidak dapat terlepas dari manusia yang lain (Herawan, 2021). Berkembangnya kegiatan ekonomi syariah akan berpengaruh terhadap sektor layanan jasa (Akbar, et al., 2022; Herlin, 2020). yang menerapkan prinsip syariah dalam menjalankan usahanya seperti travel Islami, kuliner dengan konsep Islami, serta terdapat usaha di bidang pariwisata dengan konsep syariah. ABSTRAK Penelitian ini bertujuan untuk mengetahui pelaksanaan strategi pemasaran syariah pada Aila Fashion Serba Tiga Puluh Lima Ribu Kota Bengkulu. 328 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 328 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Untuk menguji hal ini, peneliti menggunakan metode kuantitatif dengan teknik pengumpulan data primer berupa wawancara dengan 6 orang informan. Hasil penelitian menunjukkan bahwa Pelaksanaan Strategi Pemasaran Syariah Pada Toko Aila Fashion Serba Rp35.000 Kota Bengkulu yaitu dengan menciptakan penawaran menarik dan terpercaya, memberikan pelayanan yang prima, memberikan nilai yang berkesan, menawarkan model yang up to date, dan membangun sinergitas dengan stakehoders. Namun Pelaksanaannya belum sepenuhnya dilaksanakan dengan baik, pasalnya Toko Aila Fashion Serba Rp35.000 Kota Bengkulu belum bisa memberikan pelayanan yang prima dengan maksimal, belum bisa memberikan nilai yang berkesan pada konsumen dan produk yang ditawarkan terkesan model lama dan bukan yang terbaru atau up to date, sedangkan dalam menciptakan penawaran menarik dan terpercaya, dan membangun sinergitas dengan stakehoders Toko Aila Fashion Serba Rp35.000 Kota Bengkulu sudah melakukannya dengan baik. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Pariwisata syariah memfokuskan kepada produk halal, yang mengandung prinsip prinsip syariah sebagaimana yang telah diatur oleh Majelis Ulama Indonesia (MUI) (Sofyan, 2018). Dalam hal ini, pemasaran Islami memiliki posisi yang sangat strategis, karena pemasaran Islami merupakan salah satu strategi pemasaran yang didasarkan pada 329 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis AlQur'an dan Sunah Rasulullah SAW. Pemasaran Islami merupakan sebuah disiplin bisnis strategis yang mengarahkan proses penciptaan, penawaran, dan perubahan nilai dari satu pemrakarsa kepada stakeholders-nya, yang dalam keseluruhan prosesnya sesuai dengan akad serta prinsip-prinsip Islam dan muamalah dalam Islam (Nurcholifah, 2014). Dengan demikian, penerapan sistem pemasaran syariah dengan perpegang teguh pada nilai-nilai Al-Quran dan As-Sunnah, Nabi Muhammad SAW sebagai teladan telah melakukan bisnis secara professional. Landasan dan nilai-nilai tersebut yang menjadi suatu syariah dan hukum dalam melakukan bisnis yang adil, benar dan berkembang di kalangan masyarakat. Pelaksanaan transaksi mumalah sesuai prinsip syariah harus berdasarkan pada prinsip-prinsip keadilan, kejujuran, transparansi, etika, dan moralitas, sebagaimana dalam firman Allah surat An-Nahl ayat 90. َ۞ اِنَّ ّٰللاه ِيَأْمُرُ بِالْعَدْلِ وَ اْلْ ِحْسَانِ وَ اِيْتَاۤئِ ذِى الْقُرْ بٰى وَ يَنْهٰ ى عَنِ الْفَحْشَاۤءِ وَ الْمُنْكَرِ وَ الْبَغْي َيَعِظُكُمْ لَعَلَّكُمْ تَذَكَّرُوْ ن Artinya : “Sesungguhnya Allah menyuruh (kamu) berlaku adil dan berbuat kebajikan, memberi kepada kaum kerabat, dan Allah melarang dari perbuatan keji, kemungkaran dan permusuhan. Dia memberi pengajaran kepadamu agar kamu dapat mengambil pelajaran” (Q.S An-Nahl: 90). Dalam melakukan kegiatan pemasaran suatu perusahaan mempunyai strategi pemasaran sendiri yang dapat menarik perhatian konsumen atau calon pelanggan misalnya toko Aila Fashion Serba Tiga Puluh Lima Ribu yang terletak di Jl.Damai 1, Timur Indah Kota Bengkulu. Strategi pemarasan yang digunakan dalam meningkatkan penjualan yaitu dengan mempromosikan barang dengan promo harga serba Rp35.000, dan terbukti toko Aila Fashion mengalami perkembangan yang pesat hingga saat ini dengan bukti sudah membuka cabang di luar kota Bengkulu dan selalu dikunjungi calon konsumen yang cukup ramai. Pasar Pasar dalam bahasa Arab disebut souq (bentuk jamak: aswaq atau aswak) yang berarti tempat menjual sesuatu dan proses jual beli berlangsung. Souq sebagai sebuah konsep telah ditetapkan selama masa Rasulullah SAW. sebagai tempat penjualan terjadi, namun terkait dengan transaksi sendiri tidak pada tempat tersebut. Dengan demikian, pasar Islam dijalankan di mana pun dan kapan pun ketika terjadi suatu transaksi antara penjual dan pembeli di bawah kesepakatan bersama dengan syarat dan ketentuan yang berlaku (Handayani & Fathoni, 2019). وَ اَحَلَّ ّٰللاه ُ الْبَيْعَ وَ حَرَّمَ الر ِ بٰوا Artinya: “Padahal, Allah telah menghalalkan jual beli dan mengharamkan riba” (QS. Al-Baqarah 275). 330 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Pasar menurut Zainal (2018) merupakan ruang terbuka bagi setiap orang untuk melakukan perdagangan dan aktivitas jual beli. Dalam pasar terbuka tidak ada yang mendapat perlakukan istimewa dari yang lain. Makna pasar dalam Islam adalah berakhirnya sistem monopoli, kehadiran pasar yang islami membuat monopoli menjadi tidak dikenal. Pemasaran Pemasaran memiliki peranan yang penting dalam masyarakat sebab pemasaran menyangkut berbagai aspek kehidupan, termasuk bidang ekonomi dan sosial. Pemasaran berarti mengalirkan produk asal produsen ke konsumen, maka pemasaran akan membentuk lapangan kerja yang penting bagi warga (Handayani & Fathoni, 2019). Pemasaran adalah suatu proses dan manajerial yang membuat individu atau kelompok mendapatkan apa yang mereka butuhkan dan inginkan dengan menciptakan, menawarkan dan mempertukarkan produk yang bernilai kepada pihak lain atau segala kegiatan yang menyangkut penyampaian produk atau jasa mulai dari produsen sampai konsumen (Mardia et al., 2021). Menurut Tjiptono (2008) pemasaran merupakan fungsi yang memiliki kontak paling besar dengan lingkungan eksternal, padahal perusahaan hanya memiliki kendali yang terbatas terhadap lingkungan eksternal. Pemasaran bertujuan untuk menarik perhatian pembeli dalam mengkonsumsi produk yang ditawarkan. Jadi pemasaran adalah bagaimana memuaskan kebutuhan pelanggan (Nurzam, et al., 2020). Jika pemasar memahami kebutuhan pelanggan dengan baik, mengembangkan produk yang mempunyai nilai superior dan menetapkan harga, mendistribusikan dan mempromosikan produknya secara efektif, maka produk-produk tersebut akan terjual dengan mudah. Strategi Pemasaran Syariah Strategi pemasaran syariah merupakan elemen terpenting dalam menentukan pangsa pasar. Perusahaan dapat menentukan strategi pemasaran yang paling tepat untuk memperoleh keuntungan terbaik dalam jangka pendek dan panjang. Strategi pemasaran yang baik akan mendorong banyak konsumen untuk membeli barang atau jasa tersebut (Mardia et al., 2021). Ada beberapa strategi pemasaran syariah, sebagai berikut: Ada beberapa strategi pemasaran syariah, sebagai berikut: 1. Menciptakan Penawaran Menarik dan Terpercaya 2. Memberikan Pelayanan Prima 3. Memberikan Nilai-Nilai yang Berkesan 4. Menawarkan Model Bisnis yang Up to Date 5. Membangun Sinergitas dengan Stakeholders Strategi Menurut Ismail Solihin, kata strategi berasal dari bahasa Yunani "strategos" yang berasal dari "stratus" yang berarti militer dan "ag" yang berarti meminpin. Strategi dalam kontek awalnya diartikan sebagai generalship atau sesuatu yang dikerjakan oleh para jendral dalam membuat rencana untuk menaklukan dan memenangkan perang. Sementara Nanang Fatah berpendapat bahwa strategi adalah langkah-langkah yang sistematis dan sistemis dalam melakukan rencana secara menyeluruh (makro) dan berjangka panjang dalam pencapaian tujuan. Ada dua pendekatan untuk mendefinisikan strategi, yang dikenal sebagai pendekatan tradisional dan pendekatan baru. Dalam pendekatan tradisional strategi difahami sebagai suatu rencana kedepan, bersifat antisipatif (forward looking), Sedangkan dalam pendekatan yang baru, strategi lebih difahami sebagai suatu pola dan bersifat reflektif (backward-looking). Strategi dapat diartikan sebagai a plan, method, or series of aktivities designet to achives a particular educational goal, dengan kata lain strategi pembelajaran dapat diartikan sebagai perencanaan yang berisi tentang rangkaian kegiatan yang didesain untuk mencapai tujuan pendidikan tertentu. Strategi dapat diartikan pula sebagai suatu garis-garis besar haluan untuk bertindak dalam rangka mencapai sasaran yang telah ditentukan (Ahmad, 2020) 331 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Pemasaran Syariah y Pemasaran syariah merupakan suatu proses bisnis yang keseluruhan prosesnya menerapkan nilai-nilai Islam. Suatu cara bagaimana memasarkan suatu proses bisnis yang mengedepankan nilai-nilai syariah. Pemasaran syariah adalah suatu disiplin bisnis strategis yang mengarahkan proses penciptaan, penawaran, dan perubahan value dari suatu insiator kepada. stakeholder-nya, yang dalam keseluruhan prosesnya sesuai dengan akad dan prinsip-prinsip muamalah (bisnis) dalam Islam (Kalimah & Fadilah, 2017). Menurut Kartajaya & Sula (2006) mendefinisikan Pemasaran syariah adalah sebuah disiplin bisnis strategis yang mengarahkan proses penciptaan, penawaran dan perubahan values dari suatu inisiator kepada stakeholders-nya, yang dalam keseluruhan prosesnya sesuai dengan akad dan prinsip muamalah dalam Islam. Karena itu Allah mengingatkan kepada para pebisnis, para marketer dan para pengusahan muslim: َّيٰٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْٰٓ ا اَوْ فُوْ ا بِالْعُقُوْ دِ اُحِ لِتْ لَكُمْ بَهِيْمَةُ اْلْ َنْعَامِ اِْلَّ مَا يُتْلٰى عَلَيْكُمْ غَيْرَ مُحِ ل ِى الصَّيْد ُوَ اَنْتُمْ حُرُم اِنَّ ّٰللاه َ يَحْكُمُ مَا يُرِ يْد Artinya: Hai orang-orang yang beriman, penuhilah agad-agad itu. dihalalkan bagimu binatang ternak, kecuali yang akan dibacakan kepadamu. (yang demikian itu) dengan tidak menghalalkan berburu ketika kamu sedang mengerjakan haji. Sesungguhnya Allah menetapkan hukum-hukum menurut yang dikehendaki-Nya (QS. Al-Maidah: 1). Prinsip Pemasaran Syariah p y Prinsip dasar perdagangan menurut Islam adalah seperti yang dijelaskan pada QS. an- Nisaa‟: 29 sebagai berikut: ُّيٰٰٓاَي ٍهَا الَّذِيْنَ اٰمَنُوْ ا ْلَ تَأْكُلُوْٰٓ ا اَمْوَ الَكُمْ بَيْنَكُمْ بِالْبَاطِلِ اِْلَّ ٰٓ اَنْ تَكُوْ نَ تِجَارَةً عَنْ تَرَاض م ِنْكُمْ وَ ْلَ تَقْتُلُوْٰٓ ا اَنْفُسَكُمْ اِنَّ ّٰللاه َ كَانَ بِكُمْ رَحِ يْمًا ٩٢ Artinya: “Wahai orang-orang yang beriman, janganlah kamu memakan harta sesamamu dengan cara yang batil (tidak benar), kecuali berupa perniagaan atas dasar suka sama suka di antara kamu. Janganlah kamu membunuh dirimu. Sesungguhnya Allah adalah Maha Penyayang kepadamu.” Artinya: “Wahai orang-orang yang beriman, janganlah kamu memakan harta sesamamu dengan cara yang batil (tidak benar), kecuali berupa perniagaan atas dasar suka sama suka di antara kamu. Janganlah kamu membunuh dirimu. Sesungguhnya Allah adalah Maha Penyayang kepadamu.” Prinsip dasar perdagangan menurut Islam adalah adanya unsur kebebasan dalam melakukan transaksi tukar-menukar, tetapi kegiatan tersebut tetap disertai dengan harapan diperolehnya keridhaan Allah SWT dan melarang terjadinya pemaksaan. Dengan berpegang teguh pada nilai-nilai yang terdapat pada al-Quran dan Al-Hadist, Nabi Muhammad melakukan bisnis secara profesional. Nilai-nilai tersebut menjadi suatu landasan yang dapat mengarahkan untuk tetap dalam koridor yang adil dan benar. Landasan atau aturan-aturan inilah yang menjadi suatu syariah atau hukum dalam melakukan suatu bisnis (Kartajaya & Sula, 2006). j y Berikut ini adalah uraian pada masing-masing prinsip tersebut: Berikut ini adalah uraian pada masing-masing prinsip tersebut: 1. Prinsip Kesatuan (Tauhid) 2. Prinsip Kebolehan (Ibahak) 3. Prinsip Keadilan (al-'Adf) 4. Prinsip Kehendak Bebas (al-Hurriyah) 5. Prinsip Pertanggungjawaban 6. Prinsip Kebajikan dan Kejujuran 7. Prinsip Kerelaan (ar-Ridha), 8. Prinsip Kemanfaatan Tujuan Pemasaran Syariah Tujuan pemasaran syariah adalah bagaimana pelanggan, produsen, dan perusahaan mendapatkan pertumbuhan, kesejahteraan, keadilan serta keberkahan dunia dan akhirat (falah). Selain itu ada beberapa tujuan pemasaran syariah antara lain sebagai berikut: 1. Memberi Informasi (Promosi) yang Benar 2. Memahami Keadaan Pasar dan Konsumen 3. Menggapai Citra Yang Ingin Dibentuk 4. Kepuasan Konsumen 5. Peningkatan Nilai Spiritual 332 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Karakteristik Marketing Syariah Karakteristik adalah mengacu kepada karakter dan gaya hidup seseorang serta nilai-nilai yang berkembang secara teratur sehingga tingkah laku menjadi lebih konsisten dan mudah di perhatikan. Sedangkan marketing syariah adalah pemasaran sebagai sebuah disiplin bisnis strategis yang mengarah pada proses penciptaan, penawaran, dan perubahan nilai dari satu indikator kepada para pemegang sahamnya, yang dalam keseluruhan prosesnya sesuai dengan akad dan prinsip-prinsip muamalat (bisnis) dalam Islam. Artinya dalam marketing syariah, seluruh proses penciptaan, proses penawaran, maupun proses perubahan nilai tidak boleh ada yang bertentangan dengan prinsip-prinsip syariah (Kartajaya & Sula, 2006). Ada beberapa sifat yang harus dimiliki oleh seorang pemasar (marketer) yang dicontohkan oleh Rasulullah Saw dalam memberikan pelayanan kepada pelanggan antara lain berikut ini: 1. Shiddiq. Yaitu sifat kejujuran, dan selalu melandasi ucapan, keyakinan da perbuatan berdasarkan ajaran Islam. 1. Shiddiq. Yaitu sifat kejujuran, dan selalu melandasi ucapan, keyakinan dan perbuatan berdasarkan ajaran Islam. 333 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis 2. Istiqamah. Yaitu konsisten dalam iman dan nilai-nilai yang baik meskipun menghadapi berbagai godaan dan tantangan. 2. Istiqamah. Yaitu konsisten dalam iman dan nilai-nilai yang baik meskipun menghadapi berbagai godaan dan tantangan. 3. Fathanah. Yaitu mengerti, memahami, dan menaati secara mendalam segala hal yang menjadi tugas dan kewajibannya. 4. Tabligh. Yaitu mampu berkomunikasi dengan baik, mengajak sekaligus memberikan contoh kepada pihak lain untuk melaksanakan ketentuan ketentuan ajaran islam. j 5. Benar. Berdusta dalam bedagang sangat dikecam dalam islam, terlebih lagi jika disertai dengan sumpah palsu atas nama Allah. 6. Amanah. Yaitu memiliki rasa tanggung jawab dalam melaksanakan setiap tugas dan kewajiban. METODE PENELITIAN Jenis penelitian yang dilakukan adalah penelitian lapangan (field research) yaitu penelitian yang terjadi secara alamiah tetapi didahului oleh semacam intervensi (campur tangan) peneliti (Azwar, 1998). Dalam penelitian ini menggunakan pendekatan kualitatif. Penelitian kualitatif berbeda dari penelitian kuantitatif karena memiliki sejumlah ciri khas dan karakteristik. Pada penelitian ini penulis mennggunakan dua jenis sumber yaitu Data primer dan Data sekunder atau data tangan kedua. Dalam penelitian ini menggunakan tiga teknik yang sudah sering digunakan dalam penelitian deskriptif kualitatif, yaitu observasi, wawancara dan dokumentasi. Analisis data dalam penelitian ini menggunakan model analisis Miles dan Huberman dapat dilakukan melalui langkah-langkah sebagai berikut, Reduksi data, Penyajian data, dan Penarikan kesimpulan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 HASIL PENELITIAN DAN PEMBAHASAN Strategi Pemasaran Syariah Toko Aila Fashion Serba Rp35.000 Kota Bengkulu 1. Menciptakan Penawaran Menarik dan Terpercaya Strategi Pemasaran Syariah Toko Aila Fashion Serba Rp35.000 Kota Bengkulu 1. Menciptakan Penawaran Menarik dan Terpercaya Strategi Pemasaran Syariah Toko Aila Fashion Serb 1. Menciptakan Penawaran Menarik dan Terpercaya Dalam hal ini Toko Aila Fashion Serba Rp35.000 sudah menciptakan penawaran yang menarik dan terpercaya dengan memberikan label harga yang murah serba Rp35.000 dan dapat dipercaya tidak ada harga diatas dari Rp35.000, memberikan jaminan kepada pelanggan seperti penukaran produk jika memiliki kesalahan. Diharapkan dengan penawaran yang menarik dan terpercaya ini secara tidak langsung dapat menjadi strategi promosi bagi Toko Aila Fashion Serba Rp35.000 yaitu informasi dari mulut ke mulut (world of mounth). Informasi dari mulut ke mulut ini terjadi karena konsumen berbicara kepada konsumen lain yang berpotensial tentang pengalamannya dalam menerima barang/jasa tertentu. Dari Asep Romel selaku kepala toko Aila Fashion Serba Rp35.000 mengatakan: Secara spesifik tidak begitu ada stretegi, karena dengan harganya terbilang murah konsumen akan datang dengan sendirinya. Tetapi walaupun harganya murah, rata- rata kualitas barang tetap bagus karena sebagian juga adalah barang import (china). Jadi intinya menyediakan barang dengan kualitas yang bagus. Kalau strategi iklan, sesekali juga kita masuk di sosial media, seperti menggunakan akun-akun hits di 334 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis instagram (berbayar), salah satunya iklan di instagram bengkuluinfo. (Romel, 2023) Informan lainnya memberikan keterangan sebagai berikut: Iya karena harganya yang terjangkau sesuai dengan mereknya semua harganya Rp35.000 tidak ada yang lebih dari itu tetapi ada beberapa produk yang harga dibawah Rp35.000 membuat saya tertarik untuk berbelanja di toko Aila Fashion Kota Bengkulu (Sari, 2023). Iya karena harganya yang terjangkau sesuai dengan mereknya semua harganya Rp35.000 tidak ada yang lebih dari itu tetapi ada beberapa produk yang harga dibawah Rp35.000 membuat saya tertarik untuk berbelanja di toko Aila Fashion Kota Bengkulu (Sari, 2023). Didukung juga oleh informan lainnya sebagai berikut: “Karena harganya murah semua serba Rp35.000 membuat ketertarikan saya untuk berbelanja, tetapi walaupun harga murah kualitas tetap terjaga” (Merita, 2023). Dari Sinta seorang mahasiswa juga mengatakan : “Iya selain harganya yang murah dan banyak variasi tapi produk yang dijual semuanya juga dapat bersaing kualitasnya, makanya saya tertarik dan suka belanja disini” (Febriani, 2023). Informan lainnya juga sependapat, Rosalinda memberikan keterangan sebagai berikut: Tentu saja saya tertarik karena yang pertama soal harga terjangkau di kantong dan kedua bukan hanya produk pakaian yang dijual, ada juga perlengkapan lainnya seperti tas, sepatu, sandal, jam tangan dan lainnya, ya.. Strategi Pemasaran Syariah Toko Aila Fashion Serba Rp35.000 Kota Bengkulu 1. Menciptakan Penawaran Menarik dan Terpercaya walaupun kita tahu kualitasnya tapi menurut saya sangat menarik (Rosalinda, 2023). Tentu saja saya tertarik karena yang pertama soal harga terjangkau di kantong dan kedua bukan hanya produk pakaian yang dijual, ada juga perlengkapan lainnya seperti tas, sepatu, sandal, jam tangan dan lainnya, ya.. walaupun kita tahu kualitasnya tapi menurut saya sangat menarik (Rosalinda, 2023). Ditambah juga keterangan dari Rangga yang mengatakan: “Ya.. Jelas tertariklah, karena toko aila fashion ini menawarkan barang dengan harga yang sangat bersahabat dengan kantong kami apa lagi buat orang-orang yang ekonomi rendah pasti sangat membantu juga.” (Anugrah, 2023). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3. Memberikan Nilai-Nilai yang Berkesan. 3. Memberikan Nilai-Nilai yang Berkesan. Selanjutanya mengenai apakah toko Aila Fashion sudah memberikan nilai-nilai yang berkesan. Dalam hal ini Toko Aila Fashion Serba Rp35.000 beberapa sudah ada memberikan nilai yang berkesan seperti selalu menawarkan promo tertentu, menyediakan berbagai produk bervariasi dan tentunya dengan harga yang terjangkau dan ada yang belum memberikan nilai yang berkesan seperti, belum bisa menyikapi keluhan pelanggan dengan baik,belum bisa memberikan dan menciptakan suasana yang nyaman saat berbelanja karena kinerja pelayanannya yang masih kurang baik. Dalam memasarkan produk senantiasa mengutamakan kepuasan pelanggan (customer satisfaction), menjaga jejaring/ukhuwah (networking), memiliki kecakapan dalam berkomunikasi dan bernegosiasi (tabligh) serta tidak melakukan penimbunan (ihtikar) serta tidak mengambil untung yang berlebihan (ghaban). Dari Asep Romel selaku kepala toko Aila Fashion Serba Rp35.000 mengatakan: p p g Iya kami sudah memberikan nilai berkesan dengan meminta umpan balik secara berkala, tetaplah kompetitif, menawarkan promosi lainnya dan selalu sikapi keluhan pelanggan dengan ramah. Selain kualitas yang bagus, menyediakan pilihan produk/barang yang banyak juga memberikan kepuasan kepada pelanggan ketika belanja. Dan juga seperti pelayanan yang baik dan menciptakan suasana yang nyaman saat belanja (seperti pemutaran musik/lagu dan penerangan/lampu yang maksimal/terang) juga menjadi hal yang diprioritaskan (Romel, 2023). p p g Iya kami sudah memberikan nilai berkesan dengan meminta umpan balik secara berkala, tetaplah kompetitif, menawarkan promosi lainnya dan selalu sikapi keluhan pelanggan dengan ramah. Selain kualitas yang bagus, menyediakan pilihan produk/barang yang banyak juga memberikan kepuasan kepada pelanggan ketika belanja. Dan juga seperti pelayanan yang baik dan menciptakan suasana yang nyaman saat belanja (seperti pemutaran musik/lagu dan penerangan/lampu yang maksimal/terang) juga menjadi hal yang diprioritaskan (Romel, 2023). Ibu Yeti memberikan keterangan sebagai berikut: “Seperti yang saya jelaskan tadi untuk sekarang kinerja dari toko tersebut belum menciptakan nilai yang berkesan karena pelayanan yang diberikan kurang ramah, malahan kesan yang dibuat malah jadi kesan kurang baik.” (Merita, 2023). Didukung juga oleh Indah yang mengatakan: “Untuk saat ini toko tersebut belum menciptakan nilai yang berkesan karena walaupun produk yang bagus tapi pelayanan tidak ramah sama sekali.” (Sari, 2023). toko” (Sari, 2023). Sedangkan Sinta berbeda pendapat dari informan sebelumnya, Sinta mengatakan: “Alhamdulillah pelayanannya sudah memberikan perilaku yang ramah, jadi tidak hanya dengan harga yang terjangkau tetapi pelayanan juga bagus” (Febriani, 2023). Rosalinda juga mengatakan hal yang sama: “Untuk pelayanannya cukup ramah, ya..seperti pelayanan toko pakaian biasanyalah cukup baik,sopan dan ramah” (Rosalinda, 2023). Sedangkan Rangga mengatakan sebaliknya: “Untuk pelayanannya menurut saya masih kurang tanggap, suka lama kalo diminta tolong lebih terlihat bertele-tele menurut saya” (Anugrah, 2023). 2. Memberikan Pelayanan Prima 2. Memberikan Pelayanan Prima Selanjutnya mengenai bagaimana cara toko Aila Fashion Serba Rp35.000 memberikan pelayanan prima. Dalam strategi ini bahwa pelayanan prima yang dilakukan Toko Aila Fashion Serba Rp35.000 belum sepenuhnya sesuai yang diharapkan pelanggan walaupun pihak toko mengaku telah mengedepankan kesopanan dan keramahan dalam memberikan pelayanan, karena pelayanan yang dirasakan konsumen malah terkesan kurang ramah dan suka mengeluh dihadapan pelanggan yang bisa membuat kehilangan konsumen. Jadi walapupun dengan harga yang murah harus lebih diperhatikan lagi pelayanan prima supaya membuat semakin banyak pelanggan di Toko Aila Fashion. Dari Asep Romel selaku kepala toko Aila Fashion Serba Rp35.000 mengatakan: Toko kami menerapkan sikap dan penampilan dengan memberikan kesopanan dan keramahan dalam memberikan pelayanan, dengan perilaku orang-orang yang berinteraksi langsung kepada layanan eksternal. Tanggung jawab, dengan penerimaan pesanan dan penanganan keluhan pelanggan dari pelanggan eksternal (masyarakat). Kemudahan mendapatkan layanan dengan banyaknya petugas yang melayani dan fasilitas pendukung (Romel, 2023). Ibu Yeti juga memberikan keterangan sebagai berikut: “Harga murah, tapi sayang pelayanannya tidak ramah. Diminta tolong suka ngeluh depan pelanggan, jadinya niat mau belanja, malah tidak jadi karena kelakuan pegawainya” (Merita, 2023). Informan lainnya juga sependapat memberikan tanggapan sebagai berikut: “Pelayanan sama sekali tidak ramah! harga produk ramah di kantong, tapi kalo pelayanan tidak ramah ya sama saja. Mood belanja jadi hilang, itukan sama saja merugikan konsumen dan pihak 335 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis toko” (Sari, 2023). 3. Memberikan Nilai-Nilai yang Berkesan. Sedangkan Sinta berbeda pendapat yang mengatakan: “Menurut saya kinerjanya sudah menciptakan nilai yang berkesan selain produk yang bagus pelayanannya juga ramah-ramah saja.” (Febriani, 2023) Didukung informan lainnya yang mengatakan: “Menurut saya cukup berkesan dari kelengkapan produk yang menyediakan banyak variasi sampai harga yang murah meriah tapi kualitas dapat bersaing.” (Rosalinda, 2023) Sedangkan informan lainnya mengatakan: “Menurut saya belum sepenuhnya menciptakan nilai yang berkesan sih, emang kalo soal harga bisa diadu tapi kalo pelayanannya kurang judes gitu pasti yang ingat itu kesan kurang baik.” (Anugrah, 2023) 336 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis 4. Menawarkan Model yang Up to Date 4. Menawarkan Model yang Up to Date Selanjutnya mengenai apakah model yang disediakan selalu up to date. Dalam hal ini toko serba Rp35.000 ini tidak sepenuhnya produk yang dipasarkan itu selalu up to date karena masih ada beberapa produk lama atau model lama yang dipasarkan. Tetapi pihak toko berusaha untuk selalu memberikan update model terbaru setiap minggunya, dengan begitu dapat menjadi keuntungan tersendiri bagi pihak Toko Serba 35.000, karena akan banyak masyarakat yang tertarik untuk membeli setiap produk terbarunya. Berikut penuturan dari Asep selaku kepala toko Aila Fashion: Iya toko kami selalu mengupdate produk-produk sesuai perkembangan zaman. Karena dengan mengikuti tren dan minat pelanggan. Salah satu cara menentukan produk yang akan dijual adalah dengan riset. Selalu memastikan ketersediaan produk. Selalu menjaga kualitas produk yang dijual (Romel, 2023). Iya toko kami selalu mengupdate produk-produk sesuai perkembangan zaman. Karena dengan mengikuti tren dan minat pelanggan. Salah satu cara menentukan produk yang akan dijual adalah dengan riset. Selalu memastikan ketersediaan produk. Selalu menjaga kualitas produk yang dijual (Romel, 2023). Informan lainnya memberikan keterangan sebagai berikut: “Belum sepenuhnya mengikuti tren, walaupun produk lengkap tetapi masih ada sebagian produk-produk yang model pakaian yang belum kekinian” (Merita, 2023). Didukung juga dengan informan lainnya yang mengatakan sebagai berikut: “Menurut saya mungkin belum ya, karena saya lihat masih cukup banyak pakaian model-model lama seperti pakaian batik yang cocok dipakai orang tua” (Sari, 2023). Sinta juga sependapat dengan informan sebelumnya, yang mengatakan: “Menurut saya masih ada beberapa produk yang belum mengikuti tren, walaupun produk lengkap tetapi masih ada sebagian produk-produk yang model pakaian yang belum mengikuti zaman kini” (Febriani, 2023). Rosalinda juga sependapat yang mengatakan: “Masih banyak produk-produk yang terpajang pakaian yang model-model lama. Jadi sebaiknya pihak toko selalu memperhatikan produk yang tersedia dan diminati konsumen” (Rosalinda, 2023). Sedangkan Rangga kurang setuju, dia mengatakan: “Menurut saya mengikuti zaman kok, dan model yang ditawarkan selalu terbaru setiap saya kesini, mungkin orang banyak yang tidak tahu model zaman kini” (Anugrah, 2023). 5. Membangun Sinergitas dengan Stakeholders. Selanjutnya mengenai bagaimana toko Aila fashion membangun sinergitas dengan stakeholders. Dalam hal ini toko Aila Fashion serba Rp35.000 sudah cukup baik dalam memenuhi semua kinerjanya dan sudah berkerja sama dan saling tolong menolong satu sama lain. Cara manajer toko dalam meningkatkan sinergitas dengan stakeholders dan membangun semangat kerja staf penjualan dengan memberikan reward bagi karyawan yang bekerja dengan tekun dan semangat. Sedangkan kepada konsumen pihak toko selalu memberikan promo dan diskon produk pada setiap waktu tertentu. Diharapkan kerja sama tersebut akan memberikan kemanfaatan dan keuntungan yang lebih dibandingkan dengan dilakukan secara sendirian. Networking dan marketing akan bisa ditumbuhkan secara lebih luas, lebih menyeluruh, dan lebih efisien. Dari Asep selaku kepala toko Aila Fashion serba Rp35.000 mengatakan: efisien. Dari Asep selaku kepala toko Aila Fashion serba Rp35.000 mengatakan: Selalu memberikan semangat kerja satu sama lain, saling tolong menolong dalam melakukan pekerjaan dapat memberikan sinegritas. Dengan memberikan reward bagi karyawan yang bekerja dengan tekun dan semangat dan selalu mengadakan promo atau diskon kepada konsumen Aila Fashion setiap waktu tertentu (Romel, 2023). e s e . a sep se a u epa a to o a as o se ba p35.000 e gata a : Selalu memberikan semangat kerja satu sama lain, saling tolong menolong dalam melakukan pekerjaan dapat memberikan sinegritas. Dengan memberikan reward bagi karyawan yang bekerja dengan tekun dan semangat dan selalu mengadakan promo atau diskon kepada konsumen Aila Fashion setiap waktu tertentu (Romel, 2023). 337 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Informan lainnya juga mengatakan: “Kalo untuk promo sih Alhamdulillah selalu ada kalo saya belanja disini seperti potongan harga dan lainnya.” (Merita, 2023) Didukung juga oleh informan lainnya sebagai berikut: “Promo kalo setiap saya kesini pasti ada sih kayak didepan itukan banyak banting harga menjadi 15rb-20rb walaupun produk diskon yang ditawarkan kualitas menengah.” (Sari, 2023) Rangga juga mengatakan hal yang sama: “Kalo promo selalu ada, mungkin itu strategi dari pihak toko untuk menarik pelanggan dengan mengadakan diskon dan promo,apa lagi baju, sandal, dan produk diskon lainnya diletakan di etalase depan”. (Anugrah, 2023) Saran Adapun saran yang dapat diberikan peneliti berdasarkan informasi dan hasil penelitian yang didapatkan sebagai berikut: Adapun saran yang dapat diberikan peneliti berdasarkan informasi dan hasil penelitian yang didapatkan sebagai berikut: 1. Bagi kepala toko atau pemilik toko agar dapat terus meningkatkan kualitas produk yang ditawarkan, selalu mengikuti tren, juga senantiasa menjaga profesionalitas dalam melayani dan memenuhi kebutuhan konsumen. 2. Bagi konsumen toko aila fashion agar dapat dengan bijak memberikan kritik dan saran kepada pengelola toko aila fashion serba Rp35.000 agar dapat menjadi perhatian untuk dapat meningkatkan pelayanannya kepada konsumen. j p p g p y y p 3. Peneliti mengharapkan agar penelitian ini dapat dijadikan rujukan bagi penelitian selanjutnya dalam meneliti hal terkait atau memperdalam substansi penelitian dengan melihat dari sudut pandang yang berbeda. Kesimpulan p Pelaksanaan Strategi Pemasaran Syariah Pada Toko Aila Fashion Serba Rp35.000 Kota Bengkulu yaitu dengan menciptakan penawaran menarik dan terpercaya, memberikan pelayanan yang prima, memberikan nilai yang berkesan, menawarkan model yang up to date, dan membangun sinergitas dengan stakehoders. Namun Pelaksanaannya belum sepenuhnya dilaksanakan dengan baik, pasalnya Toko Aila Fashion Serba Rp35.000 Kota Bengkulu belum bisa memberikan pelayanan yang prima dengan maksimal, belum bisa memberikan nilai yang berkesan pada konsumen dan produk yang ditawarkan terkesan model lama dan bukan yang terbaru atau up to date, sedangkan dalam menciptakan penawaran menarik dan terpercaya, dan membangun sinergitas dengan stakehoders Toko Aila Fashion Serba Rp35.000 Kota Bengkulu sudah melakukannya dengan baik. DAFTAR RUJUKAN Ahmad. (2020). Manajemen Strategis. Cv Nas Media Pustaka. ( ) j g Akbar, Tgk Faathir Muhammad., Wahyuni, Sri., Wardani, Erna., Munawara. (2022). Memperkokoh Kesiapan Indonesia Dalam Menghadapi Era Disrupsi Sektor Energi. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 5(1). Akbar, Tgk Faathir Muhammad., Wahyuni, Sri., Wardani, Erna., Munawara. (2022). Memperkokoh Kesiapan Indonesia Dalam Menghadapi Era Disrupsi Sektor Energi. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 5(1). 338 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Kata kunci: Maqashid Syariah, Ekonomi Islam, bisnis. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Azwar, S. (1998). Metode Penelitian. Pustaka Belajar. Handayani, T., & Fathoni, M. A. (2019). Manajemen Pemasaran Islam. Deepublish. Handayani, T., & Fathoni, M. A. (2019). Manajemen Pemas Herawan, Y. (2021). Strategi Pemasaran Syariah Serba Tiga Puluh Lima Ribu Di Toko Zahra Collection. Iain Bengkulu. Herlin., Anggraini, Yesi Noti., Yanti, Rina Trisna. (2020). Analisis Swot Dalam Menentukan Strategi Pemasaran Kosmetik Wardah Di Kota Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 3(2). Kalimah, S., & Fadilah, N. (2017). Marketing Syariah Hubungan Antara Agama Da Ekonomi. LPPM IAIN. Ekonomi. LPPM IAIN. Kartajaya, H., & Sula, M. S. (2006). Syariah Marketing. PT Mizan Pustaka. Kartajaya, H., & Sula, M. S. (2006). Syariah Marketing. PT Mizan Pustaka. Mardia, Hutabarat, M. L. P., Simanjuntak, M., Sipayung, R., Saragih, L., & Simarmata, H. M. P. (2021). Strategi Pemasaran. Yayasan Kita Menulis. Nurcholifah, I. (2014). Strategi Marketing Mix Dalam Perspektif Syari’ah. Jurnal Khatulistiwa, 1. Nurzam., & Wijaya, Ahmat. (2020). Strategi Pemasaran Cpo (Crude Palm Oil) Pada Pt. Bio Nusantara Teknologi Bengkulu Tengah. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 3(1). ( ) ( ) Sofyan, J. H. (2018). Implementasi Strategi Pemasaran Pada Simply Homy Guest House Yogyakarta. Universitas Islam Indonesia Yogyakarta. Tjiptono, F. (2008). Strategi Pemasaran, Edisi III. CV. Andi Offset. Zainal, V. R. (2018). Islamic Marketing Management. Bumi Aksara. 339 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis PENERAPAN MAQASHID SYARIAH DALAM EKONOMI ISLAM IMPLEMENTATION OF MAQASHID SHARIA IN ISLAMIC ECONOMY Intan Permata Sari1, Eka Sri Wahyuni2, Kustin hartini3 Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3 intanpermatasaripga@gmail.com1, ekasricurup@gmail.com2, kustinhartini@gmail.com3 Jl. Raden Fatah, Kel. Pagar Dewa, Kota Bengkulu (38211) Corresponding email: intanpermatasaripga@gmail.com http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ABSTRACT This study aims to determine the urgency of maqashid sharia in Islamic economics and to determine the application of maqashid sharia based on its business aspects. This type of research, namely library research relating to library data collection methods, uses a qualitative approach. The results of the study show that maqashid sharia has a dual role, namely: as a control tool as well as a social engineering tool to realize human benefit. It provides a rational philosophical foundation of economic activity. Without maqashid sharia, the understanding and practice of Islamic economics will become narrow, rigid, static and slow. Islamic economics will lose the spirit and substance of its shari'ah. In the application of maqashid business in the Islamic economy, it can be seen that every agreement must be clear, the obligation to work and produce, Al-Kharraj bi adh-Dhaman (Balance between Profits and Risks), maqashid prohibits gharar and maqashid prohibits wasting wealth. Riwayat Artikel: Diterima : 21 Maret 2023 Direvisi : 15 Juli 2023 Disetujui : 14 Agustus 2023 Keywords: Maqashid Sharia, Islamic Economics, Business. Keywords: Maqashid Sharia, Islamic Economics, Business. Kata kunci: Maqashid Syariah, Ekonomi Islam, bisnis. ABSTRAK Penelitian ini bertujuan untuk mengetahui urgensi maqashid syariah dalam ekonomi islam dan untuk mengetahui penerapan maqashid syariah berdasarkan aspek bisnisnya. Jenis penelitian ini, yaitu library research yang berkenaan dengan metode pengumpulan data pustaka, menggunakan pendekatan kualitatif. Hasil penelitian menunjukkan bahwa maqashid syariah memiliki peran ganda, 340 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis yaitu: sebagai alat kontrol sekaligus alat perekayasa sosial untuk mewujudkan kemaslahatan manusia. Ia memberikan landasan filosofis yang rasional dari aktivitas ekonomi. Tanpa maqashid syariah, pemahaman dan praktik ekonomi Islam akan menjadi sempit, kaku, statis, dan lambat. Ekonomi Islam akan kehilangan spirit dan substansi syariʻahnya. Dalam penerapan maqashid bisnisnya di ekonomi syariah tampak pada setiap kesepakatan harus jelas, kewajiban bekerja dan berproduksi, Al- Kharraj bi adh-Dhaman (Keseimbangan antara Keuntungan dan Risiko), maqashid larangan gharar dan maqashid larangan menghambur-hamburkan harta. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Meskipun pada waktu itu belum menyebut secara jelas tema maqashid syariah, tetapi setidaknya maqashid syariah telah memberikan warna dan kontribusi dalam legislasi hukum islam sesuai dengan tujuan ditetapkannya hukum islam, yaitu mewujudkan kemaslahatan dan menolak kemudaratan (dar’u al-mafasid wa jalbu al-manafi’) (Mu’alim, 2022). masa Rasullullah Saw. Meskipun pada waktu itu belum menyebut secara jelas tema maqashid syariah, tetapi setidaknya maqashid syariah telah memberikan warna dan kontribusi dalam legislasi hukum islam sesuai dengan tujuan ditetapkannya hukum islam, yaitu mewujudkan kemaslahatan dan menolak kemudaratan (dar’u al-mafasid wa jalbu al-manafi’) (Mu’alim, 2022). Ilmu maqashid al-syariah pada dasarnya merupakan sebuah ilmu yang sudah memenuhi kriteria keilmuan dilihat dari tinjauan filsafat, yaitu sudah mempunyai ontologi yang jelas, epistemologi yang dapat dipertanggungjawabkan, serta aksiologi yang terukur. Walaupun demikian pada umumnya ulama tidak sepakat untuk menjadikannya sebagai sebuah ilmu yang berdiri sendiri. Artinya, walaupun eksistensinya sangat penting dalam mengistibatkan hukum islam, tetapi teori maqashid al-syariah masih diposisikan untuk membantu ilmu ushul fiqh (Helim, 2019). y p q Semakin meluasnya permasalahan ekonomi dan bisnis syariah pada saat ini, maka semakin perlu untuk dilakukan ijtihad sehingga setiap perkembangan dan inovasi transaksi tetap sejalan dengan prinsip-prinsip syariah. Karena itu, keterlibatan ulama ekonomi syariah menjadi penting, seperti berijtihad memberikan solusi bagi permasalahan ekonomi keuangan yang muncul, baik skala mikro maupun makro, mendisain akad-akad syariah untuk kebutuhan produk-produk bisnis di berbagai lembaga keuangan syariah, mengawal dan menjamin seluruh produk perbankan dan keuangan syariah dijalankan sesuai syariah. Oleh sebab itu, menurut hemat penulis bahwa konsep maqashid al-syariah yang dikembangkan oleh al-Syatibi, penting sekali untuk digunakan sebagai teori kajian dalam merespon perkembangan ekonomi dan bisnis syariah masakini dan mendatang, sehingga roda perekonomian di tengah-tengah masyarakat benar-benar berputar sesuai dengan kehendak Allah dan Rasul-Nya serta mampu memenuhirasa keadilan umat manusia. PENDAHULUAN Ekonomi Islam merupakan bagian dari syariat Islam. Di mana aturannya fleksibel sehingga dapat menyahuti setiap perubahan, perkembangan ekonomi, dan bisnis manusia. Sejatinya sistem ekonomi ini telah lahir seiring dengan kelahiran syariat Islam yang dibawa Nabi Muhammad Saw. ke jagad raya ini. Kemudian ia dipraktikkan dan dicontohkan secara langsung dalam kehidupan bermasyarakat dan bernegara. Setelah mencapai masa keemasan seiring dengan puncak kejayaan daulah-daulah islamiyah, sistem ekonomi ini akhirnya terkubur di saat melemahnya kekuasaan daulah islam dengan konsep deislamisasi yang dilakukan negara-negara barat (Rozalinda, 2014). g p y g g g Bidang ekonomi islam pada dasarnya merupakan bagian cabang dari salah satu aspek inti ajaran islam yang terdiri dari aqidah, syariah, dan akhlak. Dalam hal ini, ekonomi islam merupakan turunan dari aspek syariah. Sedang dalam bahasan syariah (hukum Islam), tidak bisa dilepaskan dari tujuan hukum islam (maqashid syariah). Teori maqashid syariah ini telah berkembang sejak awal turunnya wahyu, dalam arti tujuan dan maksud dari adanya syariah (agama islam) telah menyatu dengan berbagai aturan yang ada di dalam wahyu tersebut, baik wahyu tersebut dalam bentuk Al-quran maupun Hadis Nabi Muhammad saw. Maqashid syariah berarti tujuan Allah dan Rasul-Nya dalam menetapkan hukum-hukum Islam (Sahroni & Karim, 2015) y p Perkembangan ekonomi islam begitu pesatnya menjadi tantangan tersendiri bagi umat islam yaitu bagaimana membangun ekonominya yang berbasis pada ideologinya. Mengingat kaum muslim menjadi agama dan ajaranya sebagai variabel utama dalam berprilaku. Islam sebagai agama pengatur kehidupan yang berperan dalam membimbing dan mengarahkan manusia dalam mengelola sumber daya ekonomi untuk mencapai kemaslahatan umatnya didunia dan akhirat (Mubayyinah, 2019). Secara mendalam yang ingin dituju dalam sistem ekonomi islam adalah islam yang kaffah dalam aspek ekonomi, yaitu tercapainya mashlahah atau falah (kesejahteraan) bagi umat manusia. Untuk mencapai itu perlu menggunakan konsep maqashid syariah yang merupakan tujuan dari syariat islam untuk melindungi umat manusia (Adzkiya’, 2020) p j y g ( y ) Konsep Maqashid syariah jika ditelusuri dari perkembangannya, sudah ada sej 341 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis masa Rasullullah Saw. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Maqashid Syariah Menurut terminologi, maqashid syariah berarti sebuah tujuan yang memiliki nilai dan makna yang ingin di wujudkan oleh pembuat syariah (Allah SWT) di sebagai nilai dan makna yang dijadikan tujuan dan hendak direalisasikan oleh pembuat syariah (Allah SWT) yang tujuan ini di gunakan oleh para ulama mujtahid sebagai landasan dalam pembuatan syariah dan juga hukum (Toriquddin, 2014). َثُمَّ جَعَلْنٰكَ عَلٰى شَرِ يْعَةٍ م ِنَ اْلْ َمْرِ فَاتَّبِعْهَا وَْلَ تَتَّبِعْ اَهْوَاۤءَ الَّذِيْنَ ْلَ يَعْلَمُوْ ن ٨١ “Kemudian Kami jadikan engkau (Muhammad) mengikuti syariat (peraturan) dari agama itu, maka ikutilah (syariat itu) dan janganlah engkau ikuti keinginan orang- orang yang tidak mengetahui.” (QS. Al-Jatsiyah : 18) َثُمَّ جَعَلْنٰكَ عَلٰى شَرِ يْعَةٍ م ِنَ اْلْ َمْرِ فَاتَّبِعْهَا وَْلَ تَتَّبِعْ اَهْوَاۤءَ الَّذِيْنَ ْلَ يَعْلَمُوْ ن ٨١ “Kemudian Kami jadikan engkau (Muhammad) mengikuti syariat (peraturan) dari agama itu, maka ikutilah (syariat itu) dan janganlah engkau ikuti keinginan orang- orang yang tidak mengetahui.” (QS. Al-Jatsiyah : 18) Konsep maqashid syariah sebenarnya sudah ada sejak zaman Imam Haramain (guru al-Ghazali dan direktur Ma’had Nizamiyah wafat 478 H.) dan diteruskan oleh al- Ghazali (w.505H), konsep tersebut kemudian dikembangkan oleh seorang ulama bermazhab maliki di Cordova Andalusia yang bernama as-Syatibi (w. 790 H.) yang terkenal dengan kitabnya AlMuwafaqat Fi ushul Syariah. Perkembangan paling besar 342 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis tentang maqashid syariah di kembangkan oleh Abu ishaq al-Syathibi. Asl-Syathibi berpendapat bahwa seluruh syariat yang ditetapkan Allah pasti mempunyai maslahah untuk hamba-Nya dan tidak ada satu pun hukum Allah yang tidak mempunyai tujuan baik itu di dunia (masa sekarang) ataupun di akhirat kelak (masa akan datang) (Munandar, 2021). Jadi tujuan yang terkandung didalam maqashid syariah adalah untuk memelihara kemaslahatan manusia, baik didunia maupun di akhirat sekaligus untuk menghindari mafsadat, baik di dunia maupun di akhirat. Kemaslahatan yang terkandung itu bukan hanya dilihat dalam arti teknik, namun dalam upaya dinamika pengembangan hukum dilihat sebagai sesuatu yang mengandung nilai filosofis dari hukum-hukum yang disyariatkan Tuhan terhadap manusia. y p Dalam rangka mewujudkan kemaslahatan dan menjauhi kerusakan di dunia dan akhirat, para ahli usul fikih meneliti dan menetapkan ada lima unsur pokok yang harus diperhatikan. Kelima pokok tersebut bersumber dari Al-Qur'an dan merupakan tujuan syariah (maqashid al-syariah). Untuk mengetahui lebih jelas lagi tentang kelima hal tersebut, lebih jelas lagi al-Syathibi membagi maqashid al-syariah menjadi dharuriyah, hajiyah, dan tahsiniyah (Fauzia & Riyadi, 2018). 3. Tahsiniyat (تحسنيت) 1. Dharuriyah (ضروريت) 1. Dharuriyah (روري) Dharuriyah adalah penegakan kemaslahatan agama dan dunia. Artinya, ketika dharuriyah itu hilang maka kemaslahatan dunia dan bahkan-akhirat juga akan hilang. Dan, yang akan muncul adalah justru kerusakan dan bahkan musnahnya kehidupan. Dharuriyah juga merupakan keadaan di mana suatu kebutuhan wajib untuk dipenuhi dengan segera, jika diabaikan maka akan menimbulkan suatu bahaya yang berisiko pada rusaknya kehidupan manusia. Selanjutnya, dharuriyah terbagi menjadi lima poin yang biasa dikenal dengan sebutan al-kulliyat al-khamsah (الكلية الخمسة), yaitu: memelihara agama (Hifz al- Din); jiwa (Hifz al-Nafs); akal (Hifz al-'Aql); keturunan (Hifz al-Nash); dan harta benda (Hifz al-Mal) Apabila kelima hal di atas dapat terwujud, maka akan tercapai suatu kehidupan yang mulia dan sejahtera di dunia dan akhirat, atau dalam ekonomi Islam biasa dikenal dengan falih tercukupinya kebutuhan masyarakat akan memberikan dampak yang disebut dengan maslahah, karena kelima hal tersebut merupakan kebutuhan dasar yang harus dipenuhi oleh masing-masing individu dalam masyarakat. Apabila salah satu dari kelima hal tersebut tidak terpenuhi dengan baik, maka kehidupan di dunia juga tidak akan bisa berjalan dengan sempurna dan terlebih lagi akan berdampak negatif bagi kelangsungan hidup seseorang. ( ) 2. Hajjiyat (حجيت) Jenis maqashid ini dimaksudkan untuk memudahkan kehidupan, menghilangkan kesulitan atau menjadikan pemeliharaan yang lebih baik terhadap lima unsur pokok kehidupan manusia. Hajiyah juga dimaknai dengan keadaan di mana jika suatu kebutuhan dapat terpenuhi, maka akan bisa menambah value kehidupan manusia. Hal tersebut bisa menambah efisiensi, efektivitas dan value added (nilai tambah) bagi aktivitas manusia. Hajiyat juga dimaknai dengan pemenuhan kebutuhan sekunder ataupun sebagai pelengkap dan penunjang kehidupan manusia. 2. Hajjiyat (حجيت) Jenis maqashid ini dimaksudkan untuk memudahkan kehidupan, menghilangkan kesulitan atau menjadikan pemeliharaan yang lebih baik terhadap lima unsur pokok kehidupan manusia. Hajiyah juga dimaknai dengan keadaan di mana jika suatu kebutuhan dapat terpenuhi, maka akan bisa menambah value kehidupan manusia. Hal tersebut bisa menambah efisiensi, efektivitas dan value added (nilai tambah) bagi aktivitas manusia. Hajiyat juga dimaknai dengan pemenuhan kebutuhan sekunder ataupun sebagai pelengkap dan penunjang kehidupan manusia. 343 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Tahapan terakhir maqashid al-syariah adalah tahsiniyah, yang artinya melakukan kebiasaan-kebiasaan yang baik dan menghindari yang buruk sesuai dengan apa telah diketahui oleh akal sehat. Meskipun kemungkinan besar tidak menambah efisiensi, efektivitas, dan nilai tambah bagi aktivitas manusia. 1. Dharuriyah (ضروريت) Tahsiniyah juga biasa dikenali dengan kebutuhan tersier, atau identik dengan kebutuhan yang bersifat mendekati kemewahan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Ekonomi Islam Kata ekonomi berasal dari kata Yunani, yaitu oikos dan nomos. Kata oikos berarti rumah tangga (house-hold), sedangkan kata nomos memiliki arti mengatur. Maka secara garis besar ekonomi diartikan sebagai aturan rumah tangga, atau manajemen rumah tangga. Kenyataannya, ekonomi bukan hanya berarti rumah tangga suatu keluarga, melainkan bisa berarti ekonomi suatu desa, kota, dan bahkan suatu negara (Fauzia & Riyadi, 2018). Ekonomi Islam dalam bahasa Arab diistilahkan dengan al-iqtishad al-Islami. Al- iqtishad secara bahasa berarti al-qashdu yaitu pertengahan dan berkeadilan. Pengertian pertengahan dan berkeadilan ini banyak ditemukan dalam Al-Qur'an di antaranya "Dan sederhanalah kamu dalam berjalan." (Luqman: 19) dan "Di antara mereka ada golongan yang pertengahan." (al-Maidah: 66). Maksudnya, orang yang berlaku jujur, lurus, dan tidak menyimpang dari kebenaran (Rozalinda, 2014). Ekonomi Islam dibangun atas dasar agama Islam, karenanya ia merupakan bagian tak terpisahkan (integral) dari agama Islam. Sebagai derivasi dari agama Islam, ekonomi Islam akan mengikuti agama Islam dalam berbagai aspeknya. Islam adalah sistem kehidupan (way of life), di mana Islam telah menyediakan berbagai perangkat aturan yang lengkap bagi kehidupan manusia, termasuk dalam bidang ekonomi. Beberapa aturan ini bersifat pasti dan berlaku permanen, sementara beberapa yang bersifat kontekstual sesuai dengan situasi dan kondisi. Penggunaan agama sebagai dasar ilmu pengetahuan telah menimbulkan diskusi panjang di kalangan ilmuwan, meskipun sejarah telah membuktikan bahwa hal ini adalah sebuah keniscayaan (Amirus, 2015). Jadi ekonomi syariah adalah bagian dari aktivitas manusia dalam rangka memenuhi kebutuhannya dengan memanfaatkan berbagai sumber daya yang ada dengan berpedoman pada syariat yang bersumber dari Al-Qur'an dan Sunnah. Di dalam ajaran Islam, bekerja mencari nafkah atau melakukan kegiatan ekonomi merupakan kewajiban yang diperintahkan oleh Allah Swt, karena tidak ada sesuatu yang bisa didapat langsung tanpa harus melakukan kegiatan, hal ini senada dengan firman Allah dalam surat at-Taubah ayat 105: للّٰ ُ َُ ٰ ُ َۗ ُ y َوَقُلِ اعْمَلُوْ ا فَسَيَرَى ّٰللاه ُ عَم ْلَكُمْ وَرَسُوْ لُهٗ وَالْمُؤْمِنُوْ نََۗ وَسَتُرَدُّوْ نَ اِلٰى عٰلِمِ الْغَيْبِ وَالشَّهَادَةِ فَيُنَب ِئُكُمْ بِمَا كُنْتُم ََۚتَعْمَلُوْ ن ٥٠١ y َلِ اعْمَلُوْ ا فَسَيَرَى ّٰللاه ُ عَم ْلَكُمْ وَرَسُوْ لُهٗ وَالْمُؤْمِنُوْ نََۗ وَسَتُرَدُّوْ نَ اِلٰى عٰلِمِ الْغَيْبِ وَالشَّهَادَةِ فَيُنَب ِئُكُمْ بِمَا كُنْتُم ََۚلُ ْ ٥ ١ Artinya: Dan katakanlah, “Bekerjalah kamu, maka Allah akan melihat pekerjaanmu, begitu juga Rasul-Nya dan orang-orang mukmin, dan kamu akan dikembalikan kepada (Allah) Yang Mengetahui yang gaib dan yang nyata, lalu diberitakan-Nya kepada kamu apa yang telah kamu kerjakan.” Tujuan ekonomi Islam adalah mashlahah (kemaslahatan) bagi umat manusia. Yaitu dengan mengusahakan segala akti- vitas demi tercapainya hal-hal yang berakibat 344 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis pada adanya kemaslahatan bagi manusia, atau dengan mengusahakan aktivitas yang secara langsung dapat merealisasikan kemaslahatan itu sendiri. Aktivitas lainnya demi menggapai kemaslahatan adalah dengan menghindarkan diri dari segala hal yang membawa mafsadah (kerusakan) bagi manusia (Fauzia & Riyadi, 2018). f g y Ekonomi Islam memiliki prinsip-prinsip dasar, sebagai berikut: f g y Ekonomi Islam memiliki prinsip-prinsip dasar, sebagai berikut: 1. Prinsip Tauhid Sumber utama etik Islam adalah kepercayaan penuh dan murni terhadap keesaan Tuhan dan ini secara khusus menunjukkan dimensi vertikal Islam, hubungan ini dipengaruhi penyerahan manusia tanpa syarat di hadapan-Nya. Ketundukan manusia pada Tuhan membantu manusia merealisasikan potensi teomorfiknya. 2. Prinsip Keadilan Keadilan merupakan nilai paling asasi dalam ajaran Islam, yaitu menegakkan keadilan dan memberantas kezaliman adalah tujuan utama dari risalah para rasul- Nya. Keadilan sering kali diletakkan sederajat dengan kebajikan dan ketakwaan. 3. Konsep Islam Mengenai Kebajikan Kebajikan adalah tingkah laku yang baik, jujur, simpatik, bekerja sama, pendekatan dan ber perikemanusiaan dan ikhlas, mementingkan orang lain dan menjaga hak orang lain. 4. Prinsip Kemanusiaan Prinsip kemanusiaan, yang tidak lain merujuk pada urgensi eksistensi manusia dalam Islam adalah sebagai hamba Allah dan khalifah di muka bumi ini. Identitas manusia menjadi penting karena kehidupan di dunia diperuntukkan bagi manusia sebagai ajang untuk menguji tingkat keimanan dan ketakwaannya kepada sang pencipta. 5. Prinsip Kehendak Bebas Dalam pandangan Islam, manusia terlahir memiliki kehendak bebas, yakni dengan potensi menentukan pilihan di antara pilihan-pilihan yang beragam. Karena kebebasan manusia tidak dibatasi dan bersifat voluntaris, maka ia juga memiliki kebebasan untuk memilih yang salah. 6. Prinsip Tanggung Jawab Aksioma ini sangat erat kaitannya dengan prinsip kehendak bebas, keduanya merupakan pasangan yang alamiah, tapi bukan berarti baik secara logis maupun praktis keduanya saling terkait. y َوَقُلِ اعْمَلُوْ ا فَسَيَرَى ّٰللاه ُ عَم ْلَكُمْ وَرَسُوْ لُهٗ وَالْمُؤْمِنُوْ نََۗ وَسَتُرَدُّوْ نَ اِلٰى عٰلِمِ الْغَيْبِ وَالشَّهَادَةِ فَيُنَب ِئُكُمْ بِمَا كُنْتُم ََۚتَعْمَلُوْ ن ٥٠١ Islam menaruh penekanan pada konsep tanggung jawab, Islam menetapkan keseimbangan yang tepat di antara keduanya, dengan ini peradaban modern akan ditentukan berdasarkan langkah pembatasan kebebasan individu secara tepat, sehingga konflik inheren antara maksimalisasi kepentingan sendiri akan seimbang dengan kebutuhan maksimalisasi kesejahteraan sosial. 6. Prinsip Tanggung Jawab Aksioma ini sangat erat kaitannya dengan prinsip kehendak bebas, keduanya merupakan pasangan yang alamiah, tapi bukan berarti baik secara logis maupun praktis keduanya saling terkait. Islam menaruh penekanan pada konsep tanggung jawab, Islam menetapkan keseimbangan yang tepat di antara keduanya, dengan ini peradaban modern akan ditentukan berdasarkan langkah pembatasan kebebasan individu secara tepat, sehingga konflik inheren antara maksimalisasi kepentingan sendiri akan seimbang dengan kebutuhan maksimalisasi kesejahteraan sosial. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu METODE PENELITIAN Jenis penelitian yang digunakan dalam enelitian ini adalah penelitian kepustakaan (Library Research). Penelitian kepustakaan merupakan serangkaian kegiatan yang berkenaan dengan metode pengumpulan data pustaka, membaca dan mencatat serta mengolah bahan penelitian. Penelitian ini menggunakan pendekatan kualitatif. Pendekatan kualitatif adalah penelitian yang menggunakan latar alamiah, dengan 345 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis maksud menafsirkan fenomena yang terjadi dan dilakukan dengan jalan melibatkan berbagai metode yang ada. maksud menafsirkan fenomena yang terjadi dan dilakukan dengan jalan melibatkan berbagai metode yang ada. Dalam mengumpulkan dan memperoleh data menggunakan teknik book survey, yaitu buku-buku, dokumen, artikel website atau literature lain yang memiliki kaitannya dengan rencana dari penelitian ini. Analisis data pada penelitian ini menggunakan analisis isi (content analisys) yaitu suatu teknik penelitian yang dimanfaatkan untuk menarik kesimpulan yang replikatif dan shahih dari data atas dasar konteksnya. Menurut Smith dalam buku karangan Nanang Murtono berpendapat bahwa : “Analisis isi merupakan sebuah teknik yang digunakan untuk mendapat informasi yang dibutuhkan dari materi secara sistematis dan obyektif dengan mengidentifikasi karakter tertentu dari suatu materi. Adapun langkah-langkah analisis data yaitu sebagai berikut : a. Memilih dan menetapkan pokok bahasan yang akan di kaji. a. Memilih dan menetapkan pokok bahasan yang akan di kaji. b. Mengumpulkan data-data yang sesuai dengan pokok bahasan melalui pokok bahasan melalui buku-buku maupun sumber lainnya. b. Mengumpulkan data-data yang sesuai dengan pokok bahasan melalui pokok bahasan melalui buku-buku maupun sumber lainnya. c. Menganalisis dan mengklarifikasi. d. Mengkomunikasikannya dengan kerangka teori yang di gunakan. Konsep Maqashid Syariah Menurut Al-Syatibi Konsep Maqashid Syariah Menurut Al-Syatibi p q y y Sebelum Syathibi, maqashid syariah banyak dipahami dengan istilah 'illah dan mashlahah (Fauzia & Riyadi, 2018). Dalam karyanya al-Muwafaqat, al-Syatibi mempergunakan kata yang berbeda-beda berkaitan dengan maqashid al-syariah. Kata- kata itu ialah maqashid al-syariah, al-maqashid al-syar'iyyah fi al-syariah, dan maqashid min syar'i al-hukum. Walau dengan kata-kata yang berbeda, mengandung pengertian yang sama yakni tujuan hukum yang diturunkan oleh Allah SWT. Menurut al-Syatibi memahami maqashid al-syariah adalah suatu keharusan di dalam berijtihad, pemahaman akan maqashid al-syariah tidak akan tercapai sebelum seseorang memahami bahasa Arab, Al- Qur'an dan Hadis (Bakri, 1996). Menurut Syathibi sesungguhnya syariah bertujuan untuk mewujudkan kemaslahatan manusia sebagai hamba Allah di dunia dan akhirat. Maka dari itu, ketika hamba-Nya dibebani kewajiban (al-taklif), tak lain untuk merealisasikan kemaslahatan. Sehingga dalam pandangannya, tidak ada satu hukum pun yang tidak mempunyai suatu tujuan. Menurut al-Syatibi sebagai yang dikutip dari ungkapannya sendiri: (Bakri, 1996): هذه الش ريعة ... وضعت لتحقيق مقاصد الشارع في قيام مصالحهم في الدين والدنيا معا "Sesungguhnya syariat itu bertujuan mewujudkan kemaslahatan manusia di dunia dan di akhirat". Dalam ungkapan yang lain dikatakan oleh al-Syatibi "Hukum-hukum disyariatkan untuk kemaslahatan hamba". "Hukum-hukum disyariatkan untuk kemaslahatan hamba". Dalam memaparkan hakikat maqashid syariah dari segi substansi, maqashid al- syariah adalah kemaslahatan. Kemaslahatan dalam taklif Tuhan dapat berwujud dalam 346 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 34 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis dua bentuk: pertama dalam bentuk hakiki, yakni manfaat langsung dalam arti kausalitas. Kedua, dalam bentuk majazi yakni bentuk yang merupakan sebab yang membawa kepada kemaslahatan. Kemaslahatan itu, oleh al-Syatibi dilihat pula dari 2 (dua) sudut pandang itu adalah: dua bentuk: pertama dalam bentuk hakiki, yakni manfaat langsung dalam arti kausalitas. Kedua, dalam bentuk majazi yakni bentuk yang merupakan sebab yang membawa kepada kemaslahatan. Kemaslahatan itu, oleh al-Syatibi dilihat pula dari 2 (dua) sudut pandang itu adalah: a. Maqashid al-Syari' (Tujuan Tuhan) Maqashid al-Syari', mengandung empat aspek. Keempat aspek itu adalah: q g g p p p p 1) Tujuan awal dari syariat yakni kemaslahatan manusia di dunia dan di akhirat. 2) Syariat sebagai sesuatu yang harus dipahami. 3) Syariat sebagai suatu hukum takflif yang harus dilakukan, dan 4) Tujuan syariat adalah membawa manusia ke bawah naungan hukum. b. Maqashid al-Mukallaf (Tujuan Mukallaf). Konsep Maqashid Syariah Menurut Al-Syatibi Maqaṣid al-Mukallaf adalah maksud-maksud yang diinginkan oleh pelaku hukum (manusia; mukallaf) dalam setiap hal di kehidupannya baik terkait dengan itikad, perkataan atau perbuatan. Dari semua itu dapat dibedakan antara perbuatan yang baik dan buruk, antara kehidupan ibadah dengan sosialnya, baik dalam kehidupan beragama atau pun dalam bernegara yang semuanya dilihat apakah bersesuaian atau bertentangan dengan maqaṣid syariah (Helim, 2019). Konsep Maqashid Syariah Menurut Izzuddin Bin Abdussalaam 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis yang baik, akhlaq yang baik, perasaan yang sehat, sehingga umat islam menjadi umat yang disenangi dan lingkungannya enak untuk ditunggu. Maka termasuk ke dalamnya adalah menjauhi sifat berlebihan (al-Israf), sifat pelit (al-Bukhl), menetapkan sekufu dalam pernikahan, adab makan dan lainnya yang merupakan akhlaq yang terpuji. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Urgensi Maqashid Syariah Dalam Ekonomi Islam Berbicara tentang ekonomi islam sangat erat kaitannya dengan maqashid yaitu menjaga harta. Dengan demikian transaksi muamalat memiliki landasan epistemologinya yang bersumber pada penalaran maqashid asy-syariah. Tujuan syariah dalam transaksi muamalah adalah menciptakan kesejahteraan umat manusia dengan menyeimbangkan harta benda antara kaum kaya dan kaum miskin secara berkeadilan dan seimbang (Mubayyinah, 2019). Terkait dengan urgensi maqashid tidak dapat dipisahkan dari ushul fiqh, mayoritas ulama sepakat bahwa ushul fiqh menduduki posisi yang sangat penting dalam ilmu-ilmu syariah, tema terpenting dalam ushul fiqh adalah maqashid asy-syariah. Maqashid asy-syariah adalah jantung dalam kajian ushul fiqh, karena itu maqashid asy- syariah menduduki posisi yang sangat penting dalam merumuskan ekonomi islam, menciptakan produk-produk perbankan dan keuangan syariah. Para ulama telah sepakat bahwa pengetahuan maqashid asy-syariah menjadi syarat utama dalam berijtihad untuk menjawab berbagai problematika kehidupan ekonomi dan keuangan yang terus berkembang. Maqashid asy-syariah tidak hanya diperlukan untuk merumuskan kebijakan-kebijakan ekonomi makro (moneter, fiscal, public finance), tetapi juga untuk menciptakan produk-produk perbankan dan keuangan syariah serta teori-teori ekonomi mikro lainnya (Mufid, 2016). Maqashid syariah tidak saja menjadi faktor yang paling menentukan dalam melahirkan produk-produk ekonomi syariah yang dapat berperan ganda (alat sosial kontrol dan rekayasa sosioeconomy) untuk mewujudkan kemaslahatan manusia, tetapi lebih dari itu, maqashid syariah dapat memberikan dimensi filosofis dan rasional terhadap produk-produk hukum ekonomi Islam yang dilahirkan dalam aktivitas ijtihad tentang ekonomi syariah kontemporer. Maqashid syariah akan memberikan pola pemikiran yang rasional dan substansial dalam memandang akad-akad dan produk- produk perbankan syariah. Pemikiran fikih semata akan menimbulkan pola pemikiran yang formalistik dan tekstualis. Hanya dengan pendekatan maqashid syariah, produk perbankan dan keuangan syariah dapat berkembang dengan baik dan dapat merespons kemajuan bisnis yang terus berubah dengan cepat (Andiko et al., 2018). Konsep Maqashid Syariah Menurut Izzuddin Bin Abdussalaam Konsep Maqashid Syariah Menurut Izzuddin Bin Abdussalaam Maqashid syariah menurut Syekh Izzuddin merupakan makna dan hikmah yang diulas syariat dalam setiap bentuk penetapan hukum atau sebagian besarnya sehingga tidak terbatas ulasannya pada satu bentuk hukum saja. Sehingga masuk juga perihal sifat-sifat syariat, tujuannya yang umum serta makna yang tidak mungkin lepas dari suatu syariat. Dan masuk juga hal terkait dengan hikmah yang mungkin tidak semuah diulas dalam setiap hukum syariat, namun dalam sebagian besarnya. Sebagaimana diketahui dalam maqashid syariat dibatasi agar menjaga lima hal (dharuriyyah al-khamsah) yaitu agama, jiwa, akal, keturunan dan harta. Untuk menopang kelima hal tersebut, Beliau membagi tingkat kebutuhan manusia ke dalam tiga tingkatan yaitu dharuriyyah, haajiyah dan tahsiiniyah. 1. Dharuriyah Dharuriyah menurutnya adalah tingkatan kebutuhan yang harus ada dalam sebuah syariat yaitu menjaga agama (hifzh ad-diin), menjaga jiwa (hifzh an-nafs), menjaga akal (hifzh al-aql), menjaga keturunan (hifzh an-nasl) dan menjaga harta (hifzh al-maal). Sebagai contoh rukun Islam disyariatkan untuk menjaga agama, penetapan diyat merupakan upaya untuk mejaga jiwa, penetapan keharaman khamr dan sejenisnya merupakan upaya menjaga akal, penetapan hukum keluarga merupakan upaya menjaga keturunan dan penetapan hukuman (jinayah) bagi semisal pencurian merupakan upaya untuk menjaga harta. 1. Dharuriyah Dharuriyah menurutnya adalah tingkatan kebutuhan yang harus ada dalam sebuah syariat yaitu menjaga agama (hifzh ad-diin), menjaga jiwa (hifzh an-nafs), menjaga akal (hifzh al-aql), menjaga keturunan (hifzh an-nasl) dan menjaga harta (hifzh al-maal). Sebagai contoh rukun Islam disyariatkan untuk menjaga agama, penetapan diyat merupakan upaya untuk mejaga jiwa, penetapan keharaman khamr dan sejenisnya merupakan upaya menjaga akal, penetapan hukum keluarga merupakan upaya menjaga keturunan dan penetapan hukuman (jinayah) bagi semisal pencurian merupakan upaya untuk menjaga harta. 2. Haajiyah Haajiyah merupakan kebutuhan (hajah) yang harus ada dalam memenuhi suatu kebutuhan yang menopang dharuriyyah. Sebagai contoh penetapan syariat nikah bertujuan untuk menjaga keturunan (hifzh an-nasl) dan syariat jual beli maupun sewa-upah bertujuan untuk menjaga harta (hifzh al-maal). 2. Haajiyah Haajiyah merupakan kebutuhan (hajah) yang harus ada dalam memenuhi suatu kebutuhan yang menopang dharuriyyah. Sebagai contoh penetapan syariat nikah bertujuan untuk menjaga keturunan (hifzh an-nasl) dan syariat jual beli maupun sewa-upah bertujuan untuk menjaga harta (hifzh al-maal). 3. Tahsiniyah Tahsiniyah merupakan kebutuhan (hajah) yang dikembalikan kepada kebiasaan 3. Tahsiniyah Tahsiniyah merupakan kebutuhan (hajah) yang dikembalikan kepada kebiasaan 347 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. Penerapan Maqashid Syariah Berdasarkan Aspek Bisnis Penerapan maqashid syariah ini merupakan penjabaran dari maqashid (tujuan) besarnya yaitu hifdzul mal (menjaga dan memenuhi hajat dan maslahat akan harta). Menjaga dan memenuhi hajat akan harta tersebut adakalanya dari sisi bagaimana mendapatkannya (min janibi al-wujud) atau dari sisi memelihara harta yang sudah dimiliki (mi janibi al-'adam). Hifdzul mal tersebut juga menjadi rumpun kaidah dalam bidang muamalah, kaidah ini dijabarkan dengan maqashid 'ammah (tujuan-tujuan umum) dan maqashid khassah (tujuan khusus) yang sangat banyak dan tidak terhitung 348 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis jumlahnya (Sahroni & Karim, 2015). j y 1. Setiap Kesepakatan Harus Jelas Setiap kesepakatan bisnis harus jelas diketahui oleh para pihak akad agar tidak menimbulkan perselisihan di antara mereka. Untuk mencapai target ini, syariat Islam memberlakukan ketentuan tautsiq (pengikatan) dalam akad muamalah maliah, seperti ketentuan bahwa setiap transaksi harus tercatat (kitabah), disaksikan (isyhad) dan boleh bergaransi. g Ibnu Asyur menguatkan makna ini, ia menjelaskan: menjaga kepercayaan muktasib (orang yang bekerja) itu dengan cara melindungi hartanya sebagaimana firman Allah Swt.: ٓ ََّٓ َْ ُ ٰ َُّٓللَّٰٓ َُ ْيٰٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْ ا َلَ تَأْكُلُوْٰٓ ا اَمْوَ الَكُمْ بَيْنَكُمْ بِالْبَاطِلِ اَِلَّ ٰٓ اَنْ تَكُوْ نَ تِجَارَةً عَنَتَرَاضٍ م ِنْكُمْ ۗ وَ َلَ تَقْتُلُوْٰٓ ا اَنْفُسَكُمْ ۗ اِنَّ ّٰللاه َ كَان بِكُمْ رَحِ يْمًا ٩٢ Artinya: “Wahai orang-orang yang beriman! Janganlah kamu saling memakan harta sesamamu dengan jalan yang batil (tidak benar), kecuali dalam perdagangan yang berlaku atas dasar suka sama suka di antara kamu. Dan janganlah kamu membunuh dirimu. Sungguh, Allah Maha Penyayang kepadamu.” (QS An-Nisa: 29) Ayat ini menjadi dalil legalitas tujuan hifdzil-mal yang harus diterapkan dalam setiap praktik bisnis. Hifdzul mal yang dimaksud diimplementasikan dengan ketentuan tautsiq (pengikatan) dalam akad muamalah maliah, seperti ketentuan bahwa setiap transaksi harus tercatat (kitabah), disaksikan (isyhad) dan boleh bergaransi agar setiap pihak akad rela sama rela. Maqashid tersebut sesuai juga dengan prinsip dalam perdagangan harus dilakukan atas dasar suka sama suka (kerelaan). Prinsip ini memiliki implikasi yang luas karena perdagangan melibatkan lebih dari satu pihak, sehingga kegiatan jual beli harus dilakukan secara sukarela, tanpa paksaan. Perdagangan tidak boleh dilakukan dengan memanfaatkan ketergantungan karena tidak ada pilihan. Praktik monopoli berisiko melanggar prinsip ini, kecuali pada situasi tertentu. Keterbatasan pengetahuan mengenai dimensi teknis barang dapat dibantu dengan meyakini ketentuan standar tertentu yang ditetapkan oleh suatu otoritas. Penerapan Maqashid Syariah Berdasarkan Aspek Bisnis Standar suatu barang menjadi sarana untuk membangun kesetaraan antara penjual dan pembeli http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3. Al-Kharraj bi adh-Dhaman (Keseimbangan antara Keuntungan dan Risiko) Kharraj bi adh-Dhaman (Keseimbangan antara Keuntungan dan Risiko) Kaidah al-kharraj bi adh-dhaman ini adalah prinsip dalam muamalat Islam yang bersumber kepada dalil istiqra' terhadap nash-nash syariat dan menghasilkan maqashid yang berstatus gath'i. Berdasarkan kaidah ini, para ulama melakukan istinbat hukum, fatwa dan ijtihad atas banyak sekali hukum fikih. Rasulullah Saw. melarang untuk menjual barang yang belum menjadi milik atau tanggung jawabnya. Ia juga melarang menjual makanan yang belum diserahterimakan (taqabudh). Rasulullah Saw, berkata kepada orang yang bertanya kepadanya tentang hukum menjual barang yang belum dibelinya (belum dimilikinya). Rasulullah menjawab: َل تبغ ماليس عندك http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2. Kewajiban Bekerja dan Memproduksi Di antara maqashid syariah adalah kewajiban bekerja dan memproduksi. Kewajiban ini berdasarkan istiqra' terhadap dalil-dalil yang memberikan dilalah qath'iah (makna yang pasti) bahwa berkerja dan produksi itu hukumnya wajib sesuai dengan firman Allah Swt.: ُّ ۗ َُ َُ َّ ُ الَّذِيْ جَعَلَ لَكُمُ اَلْ َرْ ضَ ذَلُوْ َلً فَامْشُوْ ا فِيْ مَنَاكِبِهَا وَ كُلُوْ ا مِنْ ر ِ زْ قِه ۗ وَ اِلَيْهِ النُّشُوْ ر ٥١ ُلُوْ َلً فَامْشُوْ ا فِيْ مَنَاكِبِهَا وَ كُلُوْ ا مِنْ ر ِ زْ قِه ۗ وَ اِلَيْهِ النُّشُوْ ر ٥١ ُ ِ ِ يََ م ي Artinya: “Dialah yang menjadikan bumi untuk kamu yang mudah dijelajahi, maka jelajahilah di segala penjurunya dan makanlah sebagian dari rezeki-Nya. Dan hanya kepada-Nyalah kamu (kembali setelah) dibangkitkan.” (QS Al-Mulk: 15) Dalam ayat ini Allah Swt. memerintahkan untuk berjalan di muka bumi ini untuk mencari rezeki Allah Swt. Dalam konteks maqashid, mencari rezeki menjadi wajib untuk menyediakan kebutuhan harta dari aspek wujud karena tanpa bekerja, tidak 349 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 34 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis mungkin ada uang dan harta. Merealisasikan hifdzul mal dari sisi bagaimana mendapatkannya (min janibi al wujud) sama halnya dengan merealisasikan harta yang sudah dimiliki (mi janibi al- adam). Di antara ketentuan dalam syariat ini yang merealisasikan maqashid kewajiban bekerja ini di antaranya adalah bahwa syariat ini memberikan hak kepada pengelola usaha dalam bagi hasil untuk mendapatkan keuntungan atas usahanya. Dan sebaliknya, ketentuan yang melarang pengelola usaha untuk mendapatkan haknya tersebut itu bertentangan tujuan (maqashid) ini. Di antaranya juga, syariat ini melindungi kepemilikan seseorang selama harta tersebut dihasilkan dengan cara-cara yang halal. Syariat ini telah memberikan kewenangan dan hak kepada setiap pemilik barang/jasa untuk memanfaatkannya dan menggunakannya dengan cara-cara yang dibolehkan syariat ini. Dan sebaliknya, syariat ini melarang setiap perilaku yang merampas hak kepemilikan ini seperti pencurian, perampasan dan pengrusakan terhadap hak orang lain. Oleh karena itu, dilarang menghalangi dan mempersulit pemilik barang untuk mengelolanya dan memanfaatkannya karena bertentangan maqashid syariah dalam melindungi hak kepemilikan setiap orang karena itu hasil kerjanya yang legal (masyru). "Jangan menjual barang yang belum ada di sisimu". Sesuai dengan prinsip ini, maka keuntungan (ghurm/ribh) atas modal itu sah didapatkan jika pemilik modal telah menghadapi risiko (ghurm/mukhatarah) atas modalnya juga. Karena modal telah dijamin oleh pihak yang menerimanya seperti dalam akad qardh, maka yang bersangkutan wajib mengembalikan pinjaman tersebut dalam kondisi apa pun: ia harus menggantinya jika rugi, rusak atau berkurang, walaupun karena sebab-sebab yang di luar keinginannya. Penerapan prinsip al-kharraj bi adh-dhaman dalam kasus-kasus di atas itu sangat logis dan jelas. Kharraj itu maknanya adalah keuntungan, sedangkan dhaman adalah tanggung jawab atas kerugian/kerusakan. Syariat Islam telah menjadikan kedua hal tersebut menjadi dua hal yang selalu beriringan. Bahwa kharraj tidak bisa didapatkan kecuali dengan dhaman. Yang dimaksud dengan dhaman di sini adalah kemungkinan dhaman karena dhaman belum terjadi. Realitanya, harta itu tidak rusak atau usahanya tidak rugi, tetapi karakter usaha itu menghadapi risiko kerugian yang mungkin terjadi, maka atas dasar tersebut, jika ia menjual barang tersebut, ia berhak atas marginnya. Dalam transaksi ribawi, pihak yang meminjam itu harus bertanggung jawab. Ia harus 350 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis mengembalikan pinjaman beserta bunganya kepada pihak yang meminjam, baik usaha yang dijalankan dengan modal pinjaman tersebut menghasilkan ataupun tidak. Praktik ini bertentangan dengan Islam karena pihak yang memberikan pinjaman tidak boleh memberikan syarat bunga atas pinjamannya, juga karena dhaman dan ghunm tidak terjadi sekaligus dalam akad tabarru (sosial) tersebut (Sahroni & Karim, 2015). Maka dalam akad gardh di atas itu hanya ada dua pilihan: mengembalikan pinjaman beserta bunganya kepada pihak yang meminjam, baik usaha yang dijalankan dengan modal pinjaman tersebut menghasilkan ataupun tidak. Praktik ini bertentangan dengan Islam karena pihak yang memberikan pinjaman tidak boleh memberikan syarat bunga atas pinjamannya, juga karena dhaman dan ghunm tidak terjadi sekaligus dalam akad tabarru (sosial) tersebut (Sahroni & Karim, 2015). Maka dalam akad gardh di atas itu hanya ada dua pilihan: a. Memilih dhaman dengan cara memberikan pinjaman qardh al-hasan tanpa bunga b. Memilih kharraj dengan cara menyerahkan dana tersebut sebagai modal usaha, maka ia berhak atas keuntungan dan menanggung risiko kerugian jika terjadi. 4. Maqashid Larangan Gharar Menurut ahli fikih, gharar adalah sifat dalam muamalah yang menyebabkan sebagian rukunnya tidak pasti (mastur al-'agibah). Secara operasional, gharar bisa diartikan; kedua belah pihak dalam transaksi tidak memiliki kepastian terhadap barang yang menjadi objek transaksi baik terkait kualitas, kuantitas, harga dan waktu penyerahan barang, sehingga pihak kedua dirugikan Gharar ini terjadi bila mengubah sesuatu yang pasti menjadi tidak pasti. Di antara contoh praktik gharar adalah sebagai berikut: (Karim, 2008) a. Gharar dalam kualitas, seperti penjual yang menjual anak sapi yang masih dalam kandungan. a. Gharar dalam kualitas, seperti penjual yang menjual anak sapi yang masih dalam kandungan. b. Gharar dalam kuantitas, seperti dalam kasus ijon. b. Gharar dalam kuantitas, seperti dalam kasus ijon. c. Gharar dalam harga (gabn), seperti murabahah rumah 1 tahun dengan margin 20% atau murabahah rumah 2 tahun dengan margin 40%. d. Gharar dalam waktu penyerahan, seperti menjual barang yang hilang. Gharar dalam waktu penyerahan, seperti menjual barang yang hilang. Gharar hukumnya dilarang dalam syariat Islam, oleh karena itu melakukan transaksi atau memberikan syarat dalam akad yang ada unsur ghararnya itu hukumnya tidak boleh sebagaimana hadis Rasulullah Saw.: ال ل هللا ل ل ُ لُ هللا تهى رَسُولُ هللاِ صلى هللا عليه وسلم عن بيع الغزير "Rasulullah Saw melarang jual beli yang mengandung gharar" http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ع ملله "Rasulullah Saw melarang jual beli yang mengandung gharar" "Rasulullah Saw melarang jual beli yang mengandung gharar" Larangan gharar memiliki tujuan (maqshad) sebagaimana dijelaskan dalam substansi gharar di atas, bahwa keempat transaksi dalam contoh di atas itu termasuk gharar, karena objek akadnya tidak pasti ada dan tidak pasti diterima pembeli atau harga dan uang tidak pasti diterima penjual sehingga tujuan pelaku akad melakukan transaksi menjadi tidak tercapai. keempat bentuk gharar di atas, keadaan sama-sama rela yang dicapai bersifat Sesungguhnya, setiap transaksi dalam Islam harus didasarkan pada prinsip kerelaan antara kedua belah pihak (sama-sama ridha). Mereka harus mempunyai informasi yang sama (complete information) sehingga tidak ada pihak yang merasa dicurangi (ditipu) karena ada suatu yang unknown to one party. Dalam sementara, yaitu sementara keadaannya masih tidak jelas bagi kedua belah pihak. Di kemudian hari, yaitu ketika keadaannya telah jelas, salah satu pihak (penjual/pembeli) akan merasa terzalimi, walaupun pada awalnya tidak demikian. 351 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Inilah maqshad (tujuan) dilarangnya gharar, agar tidak ada pihak-pihak akad dirugikan karena tidak mendapatkan haknya dan agar tidak tidak terjadi perselisihan dan permusuhan di antara mereka. Maqashid di atas sesuai dengan teori ekonomi. Misalkan, dalam sebuah transaksi perdagangan memang tercipta sebuah kesepakatan namun kesepakatan tersebut tidak menjamin terpenuhinya rasa keadilan bagi para pihak yang bertransaksi Matthew Rabin dalam risetnya berjudul "Incorporating Fairness into Game Theory and Economics" menyebutkan bahwa dalam setiap transaksi ada dua kesepakatan yang harus terpenuhi, yaitu kesepakatan pasar (market equilibria) dan kesepakatan rasa keadilan (fairness equilibria). p f q Dalan perspektif ekonomi, pilihan terbaik bagi penjual adalah jujur. Sedangkan apabila pembeli menaruh curiga kepada penjual, maka pembeli tersebut akan memperoleh utility negatif Sebaliknya apabila pembeli tidak menaruh curiga terhadap penjual maka pembeli akan memperoleh utility positif. Pilihan terbaik bagi pembeli adalah tidak curiga. Dari kedua kesimpulan ini dapat diketahui hasil akhir adalah penjual jujur dan pembeli tidak curiga (kanan atas). Perlakuan penjual untuk tidak jujur itu di samping merugikan pihak penjual juga merugikan pihak pembeli. Apa pun tindakan pembeli, penjual yang tidak jujur akan mengalami penurunan utility, begitu pula dengan pembeli yang mengalami penurunan utility. 5. Maqashid Larangan Menghambur-hamburkan Harta Allah Swt. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ع ملله "Rasulullah Saw melarang jual beli yang mengandung gharar" berfirman: وَ اٰتِ ذَا الْقُرْ بٰى حَقَّهٗ وَ الْمِسْكِيْنَ وَ ابْنَ السَّبِيْلِ وَ َلَ تُبَذ ِرْ تَبْذِيْرًا ٦٢ َاِنَّ الْمُبَذ ِرِ يْنَ كَانُوْٰٓ ا اِخْوَ انَ الشَّيٰطِيْنِ ۗوَ كَان ْالشَّي طٰنُ لرَب ه كَفُوْ رًا ٧٢ 5. Maqashid Larangan Menghambur-hamburkan Harta Allah Swt. berfirman: نَ السَّبِيْلِ وَ َلَ تُبَذ ِرْ تَبْذِيْرًا ٦٢ َاِنَّ الْمُبَذ ِرِ يْنَ كَانُوْٰٓ ا اِخْوَ انَ الشَّيٰطِيْنِ ۗوَ كَان Artinya: “Dan berikanlah haknya kepada kerabat dekat, juga kepada orang miskin dan orang yang dalam perjalanan; dan janganlah kamu menghambur- hamburkan (hartamu) secara boros. Sesungguhnya orang-orang yang pemboros itu adalah saudara setan dan setan itu sangat ingkar kepada Tuhannya.” (QS Al-Isra' [17]: 26-27) Ayat larangan tabdzir ini berkaitan dengan ayat sebelumnya yaitu perintah untuk bersedekah untuk kerabat, orang miskin dan ibnu sabil. Maka, maksud larangan tabdzir dalam ayat ini adalah dengan tidak menghambur-hamburkan harta, maka keberadaan harta terlindungi dan bisa disalurkan sesuai anjuran di atas. Inilah maksud Allah Swt. melarang tabdzir. Maqashid tersebut sesuai juga dengan prinsip dalam ekonomi Islam yaitu membelanjakan pendapatan secara wajar. Hal ini menjadi panduan pertama untuk mendorong terbentuknya konsumen cerdas. Konsumen perlu cerdas dalam konsumsinya, yaitu tetap melakukan konsumsi tetapi cermat dalam memilih apa yang dikonsumsi, berapa banyak, dan pada harga berapa. Konsumsi dilakukan untuk memenuhi kebutuhan bukan keinginan. Konsumsi juga tidak dimaksud untuk menimbun-nimbun barang, atau dilakukan secara tergesa-gesa (panic-buying) karena isu tertentu atau membeli yang tidak perlu karena terpengaruh iklan dan tawaran. Prinsip di atas juga menekankan bahwa pembelanjaan sebagai dari harta juga perlu dilakukan dalam bentuk infak di jalan Allah (Karim, 2021). 352 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Saran Tanpa mengorbankan rasa hormat, penulis memberikan saran berdasarkan temuan penelitian dan pembahasan di atas kepada kalangan akademisi ekonomi Islam, kiranya tidak berhenti pada kajian maqashid syariah al-`amah, tapi juga mencakup maqashid syariah al-khasshah yang bisa terus diperbarui sesuai dengan dinamika transaksi bisnis dan macam-macamnya di era modern. Sekaligus kajian penelitian ini dapat dijadikan bahan referensi untuk penyelesaian problematika praktik ekonomi Islam di masyarakat dan pengembangannya lebih lanjut. Sehingga diharapkan ekonomi Islam bisa diterima dalam tataran teoritisnya dan dapat diimplementasikan dalam tataran praktisnya. Kesimpulan Dalam konteks ekonomi, maqashid syariah memiliki peran ganda, yaitu: sebagai alat kontrol sekaligus alat perekayasa sosial untuk mewujudkan kemaslahatan manusia. Ia memberikan landasan filosofis yang rasional dari aktivitas ekonomi. Tanpa maqashid syariah, pemahaman dan praktik ekonomi Islam akan menjadi sempit, kaku, statis, dan lambat. Ekonomi Islam akan kehilangan spirit dan substansi syariʻahnya. Tetapi sebaliknya, dengan maqashid syariah ekonomi Islam berkembang elastis, dinamis, sesuai dengan karakter syariah Islam yang bersifat universal dan relevan untuk segala ruang dan waktu. Dalam penerapan maqashid bisnisnya di ekonomi syariah tampak pada setiap kesepakatan harus jelas : memberlakukan tausiq (pengikatan), sepertiketentuan bahwa setiap transaksi harus tercatat (kitabah), disaksikan dan boleh bergaransi. Pada kewajiban bekerja dan berproduksi : Melindungi kepemilikan seseorang selama harta tersebut dihasilkan dengan cara-cara yang halal. Memberikan kewenangan dan hak kepada setiap pemilik barang/jasa untuk memanfaatkannya dan menggunakannya dengan cara-cara yang dibolehkan syariat ini, melarang setiap perilaku yang merampas hak kepemilikan ini seperti pencurian, perampasan, pengrusakan dan lain-lain. Pada Al- Kharraj bi adh-Dhaman (Keseimbangan antara Keuntungan dan Risiko) : Keuntungan (ghuam/ribh) atas modal itu sah didapatkan jika pemilik modal telah menghadapi risiko (ghurm/mukhatarah) modalnya. Karena modal telah dijamin oleh pihak yang menerimanya. Pada larangan gharar : maqshad (tujuan) dilarangnya gharar, agar tidak ada pihak-pihak akad dirugikan karena tidak mendapatkan haknya dan agar tidak tidak terjadi perselisihan dan permusuhan di antara mereka. Maqashid larangan menghambur-hamburkan harta : larangan tabdzir dengan tidak menghambur- hamburkan harta, maka keberadaan harta terlindungi dan bisa disalurkan sesuai anjuran di atas. Maqashid tersebut sesuai juga dengan prinsip dalam ekonomi Islam yaitu membelanjakan pendapatan secara wajar. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu DAFTAR RUJUKAN Adzkiya’, U. (2020). Analisis Maqashid Al-Syariah dalam Sistem Ekonomi Islam dan Pancasila. Jurnal Ekonomi Syariah Indonesia, 10(1). Akbar, Tgk Faathir Muhammad., Wahyuni, Sri., Wardani, Erna., Munawara. (2022). Memperkokoh Kesiapan Indonesia Dalam Menghadapi Era Disrupsi Sektor Adzkiya’, U. (2020). Analisis Maqashid Al-Syariah dalam Sistem Ekonomi Islam dan Pancasila. Jurnal Ekonomi Syariah Indonesia, 10(1). Akbar, Tgk Faathir Muhammad., Wahyuni, Sri., Wardani, Erna., Munawara. (2022). Memperkokoh Kesiapan Indonesia Dalam Menghadapi Era Disrupsi Sektor 353 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No.2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Energi. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 5(1). Amirus, S. (2015). Konsep Kesejahteraan Dalam Islam. Equilibrium, 3(2). Andiko, T., Khatib, S., & Setiawan, R. A. (2018). Maqashid Syariah dalam Ekonom Islam. Samudera Biru. Bakri, A. J. (1996). Konsep Mawasid Syari’ah Menurut Al-Syatibi. Grafindo Persada. p y y Fauzia, I. Y., & Riyadi, A. K. (2018). Prinsip Dasar Ekonomi Islam Perspektif Maqashid Syariah. Prenadamedia Grup. Helim, A. (2019). Maqashid Al-Shariah versus Usul Al-Fiqh (Konsep dan Posisinya dalam Metodologi Hukum Islam). Pustaka Belajar. Herlin., Anggraini, Yesi Noti., Yanti, Rina Trisna. (2020). Analisis Swot Dalam Menentukan Strategi Pemasaran Kosmetik Wardah Di Kota Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 3(2). Karim. (2021). Kajian Pengembangan Ekonomi dan Keuangan Syariah. KARIM Consulting Indonesia. Karim, A. (2008). Bank Syariah: Analisis fikih dan Keuangan. Rajawali. Mu’alim, A. N. (2022). Potret Maqasid Syariah Persepektif Abu Hamid Muhammad Bin Muhammad Al-Ghazali At-Thusi As-Syafi’i. Jurnal Syariah Dan Hukum, 4(2). Mubayyinah, F. (2019). Ekonomi Islam Dalam Perspektif Maqashid Syariah. Journal of Sharia Economics, 1(1). Mufid, M. (2016). Ushul Fiqh Ekonomi dan Keuangan Kontemporer dari Teori ke Aplikasi (1st ed.). Prenadamedia Grup. Munandar, A. (2021). Perkembangan Penelitian Maqashid Syariah Pada Bidang Perbankan Syariah Di Indonesia. UIN Ar-Rainy Banda Aceh. Nurzam., & Wijaya, Ahmat. (2020). Strategi Pemasaran Cpo (Crude Palm Oil) Pada Pt. Bio Nusantara Teknologi Bengkulu Tengah. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 3(1). Rozalinda. (2014). Ekonomi Islam: Teori dan Aplikasinya pada Aktivitas Ekonomi (1st ed.). Raja Grafindo Persada. Sahroni, O., & Karim, A. (2015). Maqashid Bisnis dan Keuangan Islam Sintesis fikih dan Ekonomi. Raja Grafindo Persada. Toriquddin, M. (2014). Teori Maqashid Syariah Perspektif Al-Syatibi. Jurnal Syariah Dan Hukum, 6(1). INFORMASI ARTIKEL The aim of this study is to determine and analyze the effect of Net Profit Margin and Tax Rate partially and simultaneously on the Dividend Payout Ratio in manufacturing companies listed on the Indonesia Stock Exchange. This research uses secondary data that can be accessed through the official website of the Indonesia Stock Exchange and the official website of the company selected as the research sample. With the sample selection technique using purposive sampling, analysis of research data using panel data processed using Eviews computational software. Partially, Net Profit Margin has a significant negative effect on the Dividend Payout Ratio and the Tax Rate has a significant negative effect on the Dividend Payout Ratio. Simultaneously Net Profit Margin and Tax Rate have a significant influence on the Dividend Payout Ratio. Research conducted can be useful for researchers and readers to add insight and knowledge. Likewise, investors who wish to invest in the manufacturing sector can consider the Net Profit Margin and Tax Rate factors because they have a significant influence on the Dividend Payout ratio. Riwayat Artikel: Diterima : 24 Juli 2023 Direvisi : 02 Agustus 2023 Disetujui : 05 Agustus 2023 Keywords: Dividend Payout Ratio; Net Profit Margin; Tax Rate Kata kunci: Dividend Payout Ratio; Net Profit Margin; Tax Rate Keywords: Dividend Payout Ratio; Net Profit Margin; Tax Rate Keywords: Dividend Payout Ratio; Net Profit Margin; Tax Rate Kata kunci: Dividend Payout Ratio; Net Profit Margin; Tax Rate Dividend Payout Ratio; Net Profit Margin; Tax Rate DAFTAR RUJUKAN 354 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 35 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis DIVIDEND PAYOUT RATIO DETERMINANTS IN MANUFACTURING COMPANIES LISTED ON THE INDONESIA STOCK Martihen Supriyadi 1, Fenty Fauziah2, Fitri Darmayani Manoy3 Universitas Muhammadiyah Kalimantan Timur11-3 1811102431139@umkt.ac.id1, ff230@umkt.ac.id2, 1911102431534@umkt.ac.id3 Jl. Ir. H. Juanda No.15, Sidodadi, Kec. Samarinda Ulu, Kota Samarinda, Kalimantan Timur Corresponding email: ff230@umkt.ac.id http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ABSTRAK Penelitian bertujuan mengetahui dan menganalisa 355 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis pengaruh Net Profit Margin dan Tax Rate secara parsial dan secara simultan terhadap Dividend Payout Ratio pada perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia. Penelitian menggunakan data sekunder yang dapat diakses melalui situs resmi Bursa Efek Indonesia dan situs resmi perusahaan yang dipilih sebagai sampel penelitian. Dengan teknik pemilihan sampel menggunakan purposive sampling, Analisis data penelitian menggunakan data panel yang diolah menggunakan software komputasi Eviews. Secara parsial Net Profit Margin mempunyai pengaruh negatif signifikan terhadap Dividend Payout Ratio dan Tax Rate mempunyai pengaruh negatif signifikan terhadap Dividend Payout Ratio. Secara simultan Net Profit Margin dan Tax Rate mempunyai pengaruh signifikan terhadap Dividend Payout Ratio. Penelitian yang dilakukan bisa bermanfaat bagi para peneliti dan pembaca untuk menambah wawasan dan pengetahuan. Begitupun dengan para investor yang ingin berinvestasi pada sektor manufaktur dapat mempertimbangkan faktor Net Profit Margin dan Tax Rate karena memiliki pengaruh yang signifikan terhadap Dividend Payout ratio. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Pandemi Covid 19 yang berlangsung beberapa waktu ini menjadi salah satu permasalahan yang harus dihadapi oleh para pelaku bisnis di seluruh dunia, termasuk di Indonesia. Sejumlah sektor usaha terkena dampak berat akibat pandemi Covid 19 yang terjadi, dan sektor manufaktur menjadi salah satu sektor usaha yang terkena dampak parah. Hal ini berdampak pada tujuan penting yang ingin dicapai oleh bisnis, yaitu memaksimalkan laba sehingga dapat terus beroperasi secara berkelanjutan dan membagikan dividen kepada pemegang saham atau investor. Investor harus mempertimbangkan keadaan ini ketika membeli saham di perusahaan. Kebijakan dividen setiap perusahaan memiliki tingkat distribusi yang bervariasi, dan dianggap sebagai salah satu pilihan keuangan yang paling penting karena dapat mempengaruhi harga saham, profitabilitas, atau kemampuan untuk membiayai proyek- proyek investasi yang dapat meningkatkan nilai perusahaan. Jumlah persentase dividen yang dibayarkan kepada pemegang saham menjadi keputusan dari korporasi. Kenaikan pembayaran dividen kepada pemegang saham mengirimkan pesan ke pasar dan investor tentang keadaan atau potensi kinerja bisnis. Dalam iklim ekonomi saat ini, dan lebih khusus lagi ketika menilai kinerja perusahaan, pertanyaan tentang rasio pembayaran dividen menjadi sangat penting (Enekwe et al., 2015). Baik investor maupun perusahaan yang akan membayar dividen sang 356 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis dipengaruhi oleh kebijakan dividen dan praktik pembayaran dividen perusahaan. Tujuan utama investor seringkali adalah untuk meningkatkan kesejahteraannya, yaitu melalui antisipasi pengembalian berupa dividen dan capital gain (Hardiatmo & Daljono, 2013). Di sisi lain untuk mempertahankan kelangsungan hidupnya, perusahaan juga mengantisipasi ekspansi yang konstan, dan pada saat yang sama juga harus meningkatkan kekayaan pemegang saham. Hal ini tentu unik karena di satu sisi, kebijakan dividen sangat penting untuk memenuhi harapan pemegang saham atas pembayaran dividen dan di sisi lain, bagaimana kebijakan dividen ini dapat dilakukan tanpa perlu menghambat ekspansi perusahaan. Para investor dalam melakukan kegiatan investasinya selalu berusaha untuk menghindari risiko (risk aversion) yang terlalu tinggi meskipun terdapat gagasan bahwa jumlah risiko perusahaan menentukan berapa banyak keuntungan yang dapat diharapkan sebagai akibat dari atau sebagai kompensasi atas risiko itu. Dividen yang diberikan kepada pemegang saham sangat tergantung pada kebijakan masing-masing perusahaan, sehingga manajemen harus mempertimbangkan masalah ini lebih serius. PENDAHULUAN Tujuan utama dari kebijakan atau keputusan dividen adalah untuk memilih laba mana yang akan dibagikan kepada pemegang saham dan mana yang akan disimpan sebagai bagian dari laba ditahan (Lucyanda & Lilyana, 2012). TINJAUAN PUSTAKA 1. Dampak Net Profit Margin terhadap Dividend Payout Ratio Semakin tinggi net profit margin maka semakin tinggi pula laba bersih yang dihasilkan dari penjualan bersih. Hal ini disebabkan karena tingginya laba sebelum pajak penghasilan. Sebaliknya, semakin rendah dari rasio ini maka semakin rendah pula laba bersih yang dihasilkan dari penjualan bersih. Hal ini disebabkan karena rendahnya laba sebelum pajak penghasilan. Hasil penelitian yang dilakukan Labhane & Das (2015) menyatakan net profit margin memiliki pengaruh terhadap dividend payout ratio. Tetapi hasil penelitian Novyarni & Permana (2020) dan Adeiza., et al (2020). menunjukkan variabel net profit margin tidak berpengaruh pada dividend payout ratio. Ini juga didukung oleh Mamaro & Tjano (2019) yang juga melakukan penelitian terhadap perusahaan manufaktur menyatakan bahwa net profit margin tidak berpengaruh secara parsial terhadap dividend payout ratio. H1: Net profit margin berpengaruh signifikan terhadap dividend payout ratio pada perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3. Dampak Net Profit Margin dan Tax Rate terhadap Dividend Payout Ratio Semakin tingginya net profit margin dan tingginya tax rate yang dikenakan ke perusahaan maka akan berpengaruh signifikan secara simultan terhadap dividen yang dibagikan. Hal ini sejalan dengan penelitian yang dilakukan oleh Mawardani & Djawato (2018). Fauziah (2010) dan Winarko (2017) yang menyatakan bahwa cash ratio, debt to equity ratio, net profit margin, return on investment, dan tax rate secara simultan mempunyai pengaruh yang signifikan terhadap dividend payout ratio perusahaan manufaktur di Bursa Efek Indonesia. H3: Net profit margin dan tax rate berpengaruh secara simultan terhadap dividend payout ratio pada perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia. 2. Dampak Tax Rate terhadap Dividend Payout Ratio Semakin tinggi pajak yang ditetapkan oleh pemerintah maka akan mengurangi minat dari emiten untuk membagikan keuntungan dari perusahaan dalam bentuk dividen. Dengan pajak yang ditetapkan oleh Pemerintah, emiten harus menanggung beban pajak atas dividen yang telah dibagikan kepada para pemegang saham. Sebaliknya jika pajak yang ditetapkan pemerintah tidak terlalu tinggi maka akan membuat emiten lebih ringan membayar pajak atas dividennya sehingga jumlah dividen 357 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis yang dibayarkan emiten kepada para pemegang saham akan semakin besar (Hadiwidjaja, 2007) yang dibayarkan emiten kepada para pemegang saham akan semakin besar (Hadiwidjaja, 2007). Hasil penelitian yang dilakukan oleh Gill et al. (2010) dan Labhane & Das (2015) menyatakan tax rate memiliki pengaruh terhadap dividend payout ratio. Tetapi hasil penelitian Mamaro & Tjano (2019). menunjukkan variabel tax rate tidak berpengaruh terhadap dividend payout ratio. Ini juga didukung oleh Fauziah (2010) yang juga melakukan penelitian terhadap perusahaan manufaktur menyatakan bahwa tax rate tidak berpengaruh secara parsial terhadap dividend payout ratio. H2: Tax rate berpengaruh signifikan terhadap dividend payout ratio pada perusahaan p g p p p y H2: Tax rate berpengaruh signifikan terhadap dividend payout ratio pada perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu METODE PENELITIAN Jenis penelitian yang digunakan adalah pendekatan kuantitatif untuk menguji dampak net profit margin dan tax rate terhadap dividend payout ratio perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia. Populasi dari penelitian ini adalah semua perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia dan menerbitkan laporan keuangan tahunan yang dipublikasikan di Bursa Efek Indonesia (BEI) untuk periode tahun 2016 hingga 2020. Jumlah populasi pada penelitian ini adalah 192 perusahaan. Jenis data dalam penelitian ini adalah data sekunder yaitu data yang bersumber dari website resmi Bursa Efek Indonesia yang diakses melalui www.idx.com. Data diambil dari annual report atau laporan tahunan keuangan perusahaan manufaktur periode 2016 – 2020. Dalam menganalisis permasalahan data penulis menggunakan metode regresi data panel dengan menggunakan program pengolahan data statistik Eviews 11. Data panel adalah bentuk penggabungan antara data silang (cross section) dengan data runtun waktu (time series). Oleh karenanya, data panel mempunyai penggabungan dari karakter data dengan berbagai objek dan periode atau waktu (Winarno, 2011). Biasanya dugaan parameter pada analisis regresi dengan data cross section dibuat dengan memakai penduga kuadrat terkecil (Ordinary Least Square). Uji regresi data panel dipakai guna mengetahui bagaimana korelasi antar variab 358 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Net Profit Margin dan Tax Rate terhadap Dividend Payout Ratio pada perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia. Net Profit Margin dan Tax Rate terhadap Dividend Payout Ratio pada perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia. HASIL PENELITIAN DAN PEMBAHASAN Hasil Penelitian 1. Analisis Deskriptif Tabel 1 Analisis Deskriptif Y X1 X2 Mean 0.685838 0.085514 0.237986 Median 0.399232 0.078343 0.250000 Maximum 33.27419 0.280030 0.251379 Minimum -1.683502 -0.044366 0.190000 Std. Dev. 2.541891 0.057395 0.019165 Skewness 12.17557 0.697907 -1.240434 Kurtosis 156.2192 3.792675 3.017793 Jarque-Bera 175503.9 18.78794 44.88041 Probability 0.000000 0.000083 0.000000 Sum 120.0216 14.96490 41.64753 Sum Sq. Dev. 1124.250 0.573198 0.063913 Observations 175 175 175 Sumber: Pengolahan Data Berdasarkan hasil pengujian statistik deskriptif pada tabel 1 di atas menunjukan jumlah data observasi yang digunakan pada penelitian sebanyak 175 yang merupakan jumlah sampel perusahaan manufaktur selama periode 2016 – 2020. 2. Uji Asumsi Klasik 2. Uji Asumsi Klasik http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 359 Gambar 1 Histogram Uji Normalitas 0 4 8 12 16 20 24 -0.010 -0.005 0.000 0.005 0.010 Series: Standardized Residuals Sample 2016 2020 Observations 175 Mean -6.64e-19 Median 0.000790 Maximum 0.012082 Minimum -0.011312 Std. Dev. 0.005631 Skewness -0.192030 Kurtosis 2.453904 Jarque-Bera 3.250064 Probability 0.196905 Sumber: Pengolahan Data Histogram Uji Normalitas 359 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 35 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Langkah awal yang dilakukan adalah uji normalitas dengan menggunakan data hasil olahan pada histogram pada Gambar 1. Pada Gambar 1 jarque-bera memiliki nilai probabilitas 0,196905 atau > 0,05 maka dapat diambil kesimpulan bahwa data sudah terdistribusi normal. Berdasarkan Tabel 2 Uji Multikolinearitas X1 X2 1 0.03710 0.03710 1 Sumber: Pengolahan Data Tabel 2 Uji Multikolinearitas X1 X2 1 0.03710 0.03710 1 Sumber: Pengolahan Data Tabel 2 Uji Multikolinearitas X1 X2 1 0.03710 0.03710 1 Sumber: Pengolahan Data Tabel 2 didapatkan hasil dari uji multikolinieritas menunjukan dari dua variabel independen memiliki nilai koefisien korelasi < 0,9, yang artinya tidak mengalami masalah multikolinearitas. Tabel 3 Uji Heteroskedastisitas Tabel 3 Uji Heteroskedastisitas Variable Coefficient Std. Error t-Statistic Prob. C -0.007336 0.011914 -0.615771 0.5391 X1 0.048021 0.037029 1.296845 0.1968 X2 -0.012005 0.019610 -0.612195 0.5414 Sumber: Pengolahan Data Tabel 3 Uji Heteroskedastisitas Berdasarkan Tabel 3 hasil uji heteroskedastisitas menunjukan nilai probability untuk X1 yaitu 0,1968 atau > 0,05 yang berarti tidak terdapat masalah heteroskedastisitas dan untuk X2 yaitu 0,5414 atau > 0,05 yang artinya juga tidak terdapat masalah heteroskedastisitas. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Hasil Penelitian Tabel 4 Uji Autokorelasi Sumber: Pengolahan Data Weighted Statistics R-squared 0.986851 Mean dependent var 11.61402 Adjusted R-squared 0.983421 S.D. dependent var 12.46395 S.E. of regression 0.006323 Sum squared resid 0.005518 F-statistic 287.6984 Durbin-Watson stat 2.055849 Prob(F-statistic) 0.000000 Tabel 4 Uji Autokorelasi Sumber: Pengolahan Data Sumber: Pengolahan Data Mengenai area tersebut ditentukan dengan bantuan tabel DW. Dengan k=2 dan sampel data n=175 maka dL=1,7296 dan dU =1,7758. Berdasarkan Tabel 4 sesuai dengan estimasi model yang dipilih yaitu fixed effect model yang menunjukan nilai 360 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis durbin watson 2,055849 > dL yakni, 1.7296 < (4-d) 4-2.0558 = 1.9442 > dU yang berarti dL<(4-d)>dU (1.7296<1.9442>1.7758) maka dapat disimpulkan tidak terjadi autokorelasi. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Tabel 5 Tabel 5 Tabel 5 Fixed Effect Model Variable Coefficient Std. Error t-Statistic Prob. C 1.526803 0.000864 1767.243 0.0000 X1 -0.005277 0.001812 -2.912404 0.0042 X2 -0.003490 0.001262 -2.765891 0.0065 Effects Specification Cross-section fixed (dummy variables) Weighted Statistics R-squared 0.986851 Mean dependent var 11.61402 Adjusted R-squared 0.983421 S.D. dependent var 12.46395 S.E. of regression 0.006323 Sum squared resid 0.005518 F-statistic 287.6984 Durbin-Watson stat 2.055849 Prob(F-statistic) 0.000000 Sumber: Pengolahan Data Fixed Effect Model Sumber: Pengolahan Data Berdasarkan Tabel 5 maka diperoleh persamaan regresinya adalah: Y = 1.526803 – 0.005277 net profit margin – 0.003490 tax rate + e 3. Uji Hipotesis Langkah selanjutnya yaitu melakukan pengujian hipotesis secara parsial dan secara simultan untuk mengetahui hubungan antara variabel independen dan variabel dependen. Langkah pengujian yang dilakukan yaitu uji t dan uji F. Adapun persamaan regresi menggunakan hasil dari fixed effect model untuk dilakukan pengujian hipotesis yang hasilnya adalah sebagai berikut: Y = 1.526803 – 0.005277 net profit margin – 0.003490 tax rate + e Dari persamaan regresi yang telah dibuat di atas maka dapat disimpulkan: Konstanta (α) senilai 1.526803 berarti jika X1 (net profit margin) dan X2 (tax rate) sebesar 0 maka Y (dividend payout ratio) senilai 1.526803. Koefisien regresi variabel independen net profit margin sebesar -0.005277 yang memiliki pengaruh negatif terhadap dividend payout ratio yang berarti tidak searah, artinya dari setiap peningkatan sebesar 1% pada X1 (net profit margin) maka akan berdampak menurunnya Y (dividend payout ratio) senilai -0.005277. Koefisien regresi tax rate senilai -0.003490 yang mempunyai pengaruh negatif terhadap dividend payout ratio yang berarti tidak searah, jadi dengan setiap peningkatan 1% pada X2 (tax rate) maka akan berdampak menurunnya Y (dividend payout ratio) senilai -0.003490. Dengan menggunakan tingkat signifikansi 0.05 atau (α) 5%, maka apabila nilai signifikansi < 0.05 artinya terdapat pengaruh signifikan secara parsial begitupun 361 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis sebaliknya. Berdasarkan hasil dari uji t (parsial) didapatkan bahwa pengaruh net profit margin terhadap dividend payout ratio menunjukkan nilai probabilitasnya yaitu senilai 0.0042 < 0,05 yang berarti bahwa net profit margin memiliki pengaruh signifikan terhadap dividend payout ratio. Pengaruh tax rate terhadap dividend payout ratio dilihat dari probabilitasnya yaitu senilai 0.0065 < 0,05 yang berarti berarti bahwa tax rate memiliki pengaruh signifikan terhadap dividend payout ratio. Dari hasil uji F (simultan) nilai probabilitas dari estimasi fixed effect model adalah senilai 0,0000 < 0,05 yang berarti hasil tersebut memperlihatkan bahwasanya net profit margin dan tax rate secara simultan atau bersama-sama memiliki pengaruh signifikan terhadap dividend payout ratio. Pengujian koefisien determinasi memperlihatkan dari nilai dari Adjusted R-Square adalah senilai 0.983421, artinya 98,34% variasi dari dividend payout ratio dijelaskan oleh net profit margin dan tax rate. Adapun sisanya 1,66% dijelaskan oleh variabel lain di luar penelitian, seperti current ratio, DER, ROA, sales growth, ROI, cash ratio, ROE, size dan kondisi makro lainnya seperti terjadinya Pandemi Covid-19 yang menyebabkan kondisi usaha dari perusahaan manufaktur banyak yang terganggu. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Pembahasan Penelitian yang dilakukan menunjukkan hasil bahwa net profit margin memiliki pengaruh signifikan terhadap dividend payout ratio. Hasil ini menjelaskan bahwa net profit margin merupakan variabel yang memiliki pengaruh terhadap dividend payout ratio. Hubungan antara laba bersih dan penjualan, yang dikenal sebagai net profit margin, menunjukkan kapasitas manajemen untuk mengarahkan bisnis hingga mencapai sukses besar dalam menerapkan atau mengatur biaya produk atau layanan, biaya operasional, biaya penyusutan, bunga kredit, dan pajak (Kasmir, 2012). Hanafi & Halim (2018) menyatakan bahwa salah satu ukuran profitabilitas yang digunakan untuk menentukan kapasitas perusahaan dalam menghasilkan laba bersih pada tingkat penjualan tertentu adalah net profit margin. Rasio ini memberikan nilai keuntungan bagi pemegang saham sebagai persentase dari penjualan. Berdasarkan laporan keuangan yang telah dipublikasikan oleh IDX, kemampuan perusahaan untuk menghasilkan laba bersih meningkat seiring dengan nilai net profit margin. Rasio pembayaran dividen dipengaruhi secara negatif oleh net profit margin. Akibatnya, rasio pembayaran dividen akan menurun seiring dengan kenaikan net profit margin. Bahkan jika net profit margin perusahaan stabil, perusahaan tidak dapat membagikan dividen kepada pemegang saham. Hal ini karena margin keuntungan perusahaan terlalu kecil untuk digunakan membayar dividen karena margin laba bersih yang rendah. Hal ini juga diperkuat dengan Dividend Irrelevance Theory dalam bukunya Sudana (2011) yang dikemukakan oleh Merton Miller dan Franco Modigliani menyatakan bahwa nilai perusahaan tidak akan terpengaruh oleh cara perusahaan membagikan dividen dan menentukan laba ditahan. Pendapatan yang diperoleh akan dibelanjakan jika perusahaan memiliki investasi yang dapat membantu perusahaan itu sendiri. Dividen tunai kemudian akan dibagikan kepada pemegang saham jika ada sisa keuntungan setelah semua proyek investasi selesai. Hasil penelitian ini sejalan dengan yang dilakukan oleh Ganar (2018) yang membuktikan bahwasanya net profit margin 362 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis memiliki pengaruh signifikan negatif terhadap dividend payout ratio. Hasil dari penelitian yang dilakukan menunjukkan tax rate memiliki pengaruh signifikan terhadap tax rate. Hal tersebut menunjukan jika terjadi perubahan dari tax rate maka akan mempengaruhi dividend payout ratio. Hal ini berarti semakin besar nilai tax rate akan signifikan juga menurunkan nilai dividend payout ratio atau semakin kecil nilai tax rate maka akan signifikan meningkatkan nilai dividend payout ratio. Menerima dividen atau capital gain dianggap sebagai pendapatan bagi pemegang saham. Pajak akan dipotong dari semua pendapatan yang diterima, meskipun dividen dan capital gain dikenakan pajak pada berbagai tingkat. Pembahasan Pemegang saham lebih memilih menerima dividen jika pajak dividen lebih rendah daripada pajak capital gain. Namun sebaliknya, pemegang saham lebih memilih mendapatkan keuntungan dari capital gain jika tarif pajaknya lebih rendah dari dividen (Hardiatmo & Daljono, 2013). Besaran tax rate ini juga dipengaruhi oleh Peraturan Pemerintah Pengganti Undang-Undang (PERPU) No.1/2020 tanggal 31 Maret 2020 tentang “Kebijakan Keuangan Negara dan Stabilitas Sistem Keuangan untuk Penanganan Pandemi Corona Virus Disease (Covid-19) dan/atau Dalam Rangka Menghadapi Ancaman yang Membahayakan Perekonomian Nasional dan/atau Stabilitas Sistem Keuangan” yang ditandatangani oleh Presiden Republik Indonesia yang mengatur penyesuaian tarif PPh Badan sebagai berikut: a. Sebesar 22% yang berlaku pada Tahun Pajak 2020 dan 2021. b. Sebesar 20% yang mulai berlaku pada Tahun Pajak 2022. c. Perusahaan Terbuka dalam negeri dengan jumlah keseluruhan saham yang disetor diperdagangkan pada bursa efek di Indonesia paling sedikit 40% dan memenuhi persyaratan tertentu sesuai dengan peraturan pemerintah, dapat memperoleh tarif sebesar 3% lebih rendah dari tarif pada butir a dan b di atas. c. Perusahaan Terbuka dalam negeri dengan jumlah keseluruhan saham yang disetor diperdagangkan pada bursa efek di Indonesia paling sedikit 40% dan memenuhi persyaratan tertentu sesuai dengan peraturan pemerintah, dapat memperoleh tarif sebesar 3% lebih rendah dari tarif pada butir a dan b di atas. Maka dapat diambil kesimpulan pembagian dividen dipengaruhi oleh jumlah pajak penghasilan. Hal ini sejalan dengan penelitian yang dilakukan oleh Hadiwidjaja (2007) yang menyatakan bahwa tax rate berpengaruh signifikan secara parsial terhadap dividend payout ratio. Hasil dari penelitian yang dilakukan menunjukkan variabel net profit margin dan tax rate secara simultan memiliki pengaruh signifikan terhadap dividend payout ratio. Hal ini menjelaskan jika perubahan secara bersamaan dari variabel tersebut maka dividend payout ratio juga akan mengalami perubahan signifikan berdasarkan perubahan dari nilai kedua variabel bebas tersebut yakni net profit margin dan tax rate. Adapun investor dalam menentukan keputusan investasi menjadi keharusan untuk melihat pengaruh dari beberapa variabel sekaligus dalam memutuskan keputusan untuk melakukan investasi. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENUTUP Variabel net profit margin mempunyai pengaruh signifikan negatif terhadap dividend payout ratio. Pengaruh net profit margin pada dividend payout ratio 363 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis menunjukkan jika net profit margin mengalami peningkatan maka dividend payout ratio akan mengalami penurunan. Begitu pula jika net profit margin menurun maka dividend payout ratio mengalami peningkatan. Untuk variabel tax rate juga berpengaruh signifikan negatif terhadap variabel dividend payout ratio. Hal ini bisa terjadi karena kecilnya margin laba bersih sehingga profit margin yang dimiliki perusahaan manufaktur belum bisa untuk digunakan untuk membayar dividen perusahaan. Meskipun margin laba bersih perusahaan semakin stabil namun perusahaan tidak bisa membayarkan dividen kepada pemegang saham. Ini juga dapat terjadi jika perusahaan melakukan investasi yang akan membantunya tumbuh; dalam hal ini, laba yang telah dihasilkan akan dibelanjakan untuk keperluan investasi. Kemudian, jika ada sisa keuntungan setelah membayar semua inisiatif investasi, maka dividen tunai akan dibagikan kepada pemegang saham.. Hasil penelitian secara simultan menunjukan bahwa net profit margin dan tax rate mempunyai pengaruh signifikan terhadap dividend payout ratio. menunjukkan jika net profit margin mengalami peningkatan maka dividend payout ratio akan mengalami penurunan. Begitu pula jika net profit margin menurun maka dividend payout ratio mengalami peningkatan. Untuk variabel tax rate juga berpengaruh signifikan negatif terhadap variabel dividend payout ratio. Hal ini bisa terjadi karena kecilnya margin laba bersih sehingga profit margin yang dimiliki perusahaan manufaktur belum bisa untuk digunakan untuk membayar dividen perusahaan. Meskipun margin laba bersih perusahaan semakin stabil namun perusahaan tidak bisa membayarkan dividen kepada pemegang saham. Ini juga dapat terjadi jika perusahaan melakukan investasi yang akan membantunya tumbuh; dalam hal ini, laba yang telah dihasilkan akan dibelanjakan untuk keperluan investasi. Kemudian, jika ada sisa keuntungan setelah membayar semua inisiatif investasi, maka dividen tunai akan dibagikan kepada pemegang saham.. Hasil penelitian secara simultan menunjukan bahwa net profit margin dan tax rate mempunyai pengaruh signifikan terhadap dividend payout ratio. Unsur net profit margin dan tax rate harus diperhitungkan oleh investor yang ingin melakukan investasi di sektor manufaktur karena memiliki dampak yang cukup besar terhadap keputusan mengenai rasio pembayaran dividen pada bisnis manufaktur yang terdaftar di Bursa Efek Indonesia. Selain itu, peneliti selanjutnya sebaiknya menambah periode penelitian, mengambil sampel perusahaan yang lebih banyak, dan meneliti lebih banyak perusahaan yang terdaftar di Bursa Efek Indonesia. PENUTUP Karena kualitas penelitian dan hasilnya akan meningkat dengan menggunakan lebih banyak sampel dan populasi dalam penelitian. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu DAFTAR RUJUKAN Adeiza, M. O., Sabo, A., & Abiola, M. A. (2020). Dividend Payout Effects on Firm Performance in Nigerian Oil and Gas Sector. Open Journal of Social Sciences, 08(07), 370–385. https://doi.org/10.4236/jss.2020.87030 Enekwe, C. I., Nweze, A. U., & Agu, C. I. (2015). The Effect of Dividend Payout on Performance Evaluation: Evidence of Quoted Cement Companies in Nigeria. European Journal of Accounting, Auditing and Finance Research, 3(11), 2053– 4094. Fauziah, F. (2010). Analisis Faktor-Faktor yang Mempengaruhi Dividend Payout Ratio pada Perusahaan Manufaktur yang Go Public di Bursa Efek Indonesia. Tesis. Universitas Sumatera Utara. Ganar, Y. B. (2018). Pengaruh Current Ratio, Net Profit Margin, Return On Equity dan Earning Per Share Terhadap Dividend Payout Ratio Pada Perusahaan Yang Terdaftar Di Bursa Efek Indonesia Periode 2013-2016. Jurnal Disrupsi Bisnis, 1(1), 17–35. Gill, A., Biger, N., & Tibrewala, R. (2010). Determinants of Dividend Payout Ratios: Evidence from United States. The Open Business Journal, 3(1), 8–14. https://doi.org/10.2174/1874915101003010008 p g Hadiwidjaja, R. D. (2007). Analisis Faktor-Faktor yang Mempengaruhi Dividend Payout Ratio pada Perusahaan Manufaktur di Indonesia. Tesis. Universitas 364 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Sumatera Utara. Hardiatmo, B., & Daljono. (2013). Analisis Faktor-Faktor yang Mempengaruhi Kebijakan Dividen (Studi Empiris Perusahaan Manufaktur yang listing di Bursa Efek Indonesia Periode 2008-2010). Diponegoro Journal of Accounting, 2(1), 1– 13. Kasmir. (2012). Analisis Laporan Keuangan. Jakarta: Raja Grafindo Persada. Kasmir. (2012). Analisis Laporan Keuangan. Jakarta: Raja Grafindo Persada. Labhane, N. B., & Das, R. C. (2015). Determinants of Dividend Payout Ratio: Evidence from Indian Companies. Business and Economic Research, 8(2), 217– 241. https://doi.org/10.5296/ber.v5i2.8154 Lucyanda, J., & Lilyana. (2012). Pengaruh Free Cash Flow, Profitabilitas, Likuiditas, dan Leverage Terhadap Kebijakan Dividen. Jurnal Dinamika Akuntansi, 4(2), 129–138. Mamaro, L. P., & Tjano, R. N. T. (2019). The Relationship between Dividend Payout and Financial Performance: Evidence from Top40 JSE Firms. Journal of Accounting and Management, 9(2), 5–19. Mawardani, N. P., & Djawato. (2018). Pengaruh Profitabilitas, Likuiditas, dan Cash Flow Terhadap Kebijakan Dividen pada Perusahaan Food and Beverages. Jurnal Ilmu Dan Riset Manajemen, 7(2), 1–16. Murhadi, W. R. (2013). Analisis Laporan Keuangan : Proyeksi dan Valuasi Saham. Jakarta: Salemba Empat. Novyarni, N., & Permana, R. Y. (2020). INFORMASI ARTIKEL This research is a field research that uses a qualitative descriptive method. Where the data sources are primary and secondary obtained by interviews, observation and documentation. Data processing begins with correcting data, followed by rearranging data and analyzing existing data in order to find results as answers to the problem formulation. regulate the terms of murabahah financing, such as making riba-free contracts, buying goods on behalf of the cooperative, and conveying information related to purchases to members. Riwayat Artikel: Diterima : 24 Juli 2023 Direvisi : 01 Agustus 2023 Disetujui : 05 Agustus 2023 Keywords: Murabahah Financing, Berkah Services Cooperation, Bengkulu City Kata kunci: Pembiayaan Murabahah, Koperasi Jasa Berkah, Bengkulu Keywords: Murabahah Financing, Berkah Services Cooperation, Bengkulu City ANALISIS PEMBIAYAAN MURABAHAH PADA KOPERASI JASA BERKAH BERSAMA SYARIAH KOTA BENGKULU ANALYSIS OF MURABAHAH FINANCING IN BERKAH JOINT SHARIA SERVICES COOPERATIVES IN BENGKULU CITY Amir Mukadar1, Dharma Setiawan2,Nazar 3,Muhammad Said Romadhon4 Universitas Muhammadiyah Bengkulu1-4 amirmukadar@umb.ac.id1, dharmasetiawan09@gmail.com2 , nzraran123@gmail.com3, msaidromadhon56@gmail.com4 Jl. Adam Malik Km. 9 Kota Bengkulu Corresponding email: amirmukadar@umb.ac.id Jl. Adam Malik Km. 9 Kota Bengkulu Corresponding email: amirmukadar@umb.ac.id DAFTAR RUJUKAN Effect of Current Ratio, Return on Asset, Net Profit Margin and Debt to Equity Ratio on Dividend Pay Out Ratio (For company listed in the LQ45 on Indonesian Stock Exchange). Advances in Economics, Business and Management Research, 127 (Aicar 2019), 41–45. https://doi.org/10.2991/aebmr.k.200309.010 Sudana, I. M. (2011). Manajemen Keuangan Perusahaan : Teori & Praktik (N. I. Sallama, Ed.). Jakarta: Erlangga. 365 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis ABSTRAK Penelitian ini merupakan penelitian lapangan yang menggunakan metode deskriptif kualitatif. Dimana sumber data adalah primer dan sekunder yang diperoleh dengan wawancara, observasi dan dokumentasi. Pengolahan data dimulai dengan mengoreksi data, dilanjutkan dengan penyusunan kembali data dan menganalisis data yang ada guna menemukan hasil sebagai jawaban dari rumusan masalah.Berdasarkan hasil penelitian, koperasi Jasa Berkah Bersama Syariah Kota Bengkulu melakukan pembiayaan akad murabahah kepada anggotanya sesuai dengan Fatwa DSN-MUI yang mengatur syarat-syarat pembiayaan murabahah, seperti melakukan akad yang bebas riba, membeli barang atas nama koperasi, dan menyampaikan informasi terkait pembelian kepada anggota. Kata kunci: 366 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Umat Islam memang memiliki tantangan yang cukup berat dalam menjalani kehidupan modern yang semakin kompleks. Di satu sisi harus terus mengikuti lingkungan global yang terus berkembang pesat terkhusus di sektor ekonomi dan tekonologi, namun di sisi lain juga harus tetap menjaga semua perkembangan itu dalam koridor nilai-nilai syariah. Perkembangan global di bidang ekonomi salah satunya dengan adanya koperasi syariah, dengan adanya koperasi syariah umat Islam memiliki pilihan untuk tetap berpegang pada nilai-nilai syariah dan menghindari hal-hal yang dianggap haram dalam agama Islam, seperti riba (Defitri et al., 2022). gg p g p Namun, meskipun koperasi syariah telah memberikan solusi dalam hal simpan pinjam dan keuangan, umat Islam masih dihadapkan pada tantangan yang lebih besar dalam menghadapi modernisasi dan globalisasi. Salah satunya adalah “bagaimana mengintegrasikan nilai-nilai syariah dalam dunia bisnis dan teknologi yang semakin maju” (Nugraha et al., 2022). Untuk mengatasi tantangan tersebut, “umat Islam harus terus mempelajari dan memahami nilai-nilai syariah yang sejalan dengan perkembangan zaman” (Bauty et al., 2020). Selain itu, mereka juga “harus mampu beradaptasi dengan perubahan yang terjadi dan memanfaatkan teknologi dengan bijak sesuai dengan nilai-nilai Islam” (Anwar & Edward, 2016). Dalam hal ini, pendidikan agama dan keuangan menjadi sangat penting untuk memperkuat pemahaman umat Islam tentang nilai-nilai syariah dan menghindari hal-hal yang dianggap haram dalam agama Islam. Dengan demikian, umat Islam dapat tetap berpegang pada nilai-nilai syariah dan tetap bertahan di era modern yang semakin kompleks. Islam dalam tegas melarang praktik riba, sehingga mau tidak mau maka orang- orang islam harus mencari jalan lain untuk menghindarinya salahsatunyadengan cara menggunakan mekanisme bebas bunga yang ada di koperasi syariah. Sesuai pada kitab suci Al-Qur’andalam surat Al-Baqarah ayat 275 yang berbunyi: Artinya: “orang-orang yang makan (mengambil) riba tidak dapat berdiri melainkan seperti berdirinya orang yang kemasukan syaitan lantaran (tekanan) penyakit gila. Keadaan mereka yang demikian itu, adalah disebabkan mereka berkata (berpendapat) sesungguhnya jual beli itu sama dengan riba, padahal Allah telah menghalalkan jual beli dan mengharamkan riba. Barang siapa mendapatperingatan dari tuhannya, lalu dia berhenti, maka apa yang telah diperolehnya dahulu menjadi miliknya dan urusannya (terserah) kepada Allah. Barang siapa mengulangi, maka mereka itu penghuni neraka, mereka kekal didalamnya” (Q.S. Al- Baqarah: 275). Artinya: “orang-orang yang makan (mengambil) riba tidak dapat berdiri melainkan seperti berdirinya orang yang kemasukan syaitan lantaran (tekanan) penyakit gila. Keadaan mereka yang demikian itu, adalah disebabkan mereka berkata (berpendapat) sesungguhnya jual beli itu sama dengan riba, padahal Allah telah menghalalkan jual beli dan mengharamkan riba. PENDAHULUAN Barang siapa mendapatperingatan dari tuhannya, lalu dia berhenti, maka apa yang telah diperolehnya dahulu menjadi miliknya dan urusannya (terserah) kepada Allah. Barang siapa mengulangi, maka mereka itu penghuni neraka, mereka kekal didalamnya” (Q.S. Al- Baqarah: 275). Penggunaan koperasi syariah sebagai alternatif bagi umat Islam dalam menghindari praktik riba memang menjadi solusi yang tepat dan sejalan dengan ajaran Islam. Praktik riba yang dilarang dalam agama Islam tidak hanya berlaku pada dunia koperasi, tetapi juga dalam segala aspek kehidupan, termasuk dalam transaksi jual beli. 367 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Namun, penghindaran praktik riba bukan berarti menghambat kemajuan ekonomi dan teknologi umat Islam. Sebaliknya, koperasi syariah dan mekanisme keuangan bebas riba dapat membuka peluang baru bagi umat Islam dalam berpartisipasi dalam ekonomi global. Selain itu, koperasi syariah juga menawarkan nilai tambah yang berbeda dari koperasi konvensional, yaitu dalam bentuk pemberian keuntungan yang bersifat halal dan adil bagi semua pihak yang terlibat dalam transaksi. Namun, penghindaran praktik riba bukan berarti menghambat kemajuan ekonomi dan teknologi umat Islam. Sebaliknya, koperasi syariah dan mekanisme keuangan bebas riba dapat membuka peluang baru bagi umat Islam dalam berpartisipasi dalam ekonomi global. Selain itu, koperasi syariah juga menawarkan nilai tambah yang berbeda dari koperasi konvensional, yaitu dalam bentuk pemberian keuntungan yang bersifat halal dan adil bagi semua pihak yang terlibat dalam transaksi. Dalam ajaran Islam, penghindaran praktik riba bukan hanya sekedar melaksanakan kewajiban agama, tetapi juga sebagai bentuk kepedulian terhadap sesama dan keadilan social (Triharyati & Nursita, 2020). Dalam hal ini, koperasi syariah dan mekanisme keuangan bebas riba menjadi alat yang efektif dalam mewujudkan nilai-nilai tersebut. Namun, penting bagi umat Islam untuk terus memperkuat pemahaman dan kesadaran akan nilai-nilai syariah dalam berbagai aspek kehidupan, termasuk dalam hal penggunaan koperasi syariah. Dengan begitu, umat Islam dapat terus berkembang dan berkontribusi dalam pembangunan ekonomi dengan tetap berpegang pada nilai-nilai agama yang telah diwariskan. Koperasi syariah sendiri telah berkembang pesat dalam beberapa tahun terakhir, bahkan telah menjadi alternatif yang populer bagi masyarakat muslim di kota Bengkulu yang ingin melakukan kegiatan simpan pinjam tanpa harus menggunakan sistem bunga yang dianggap haram. Hal ini dapat dilihat dari jumlah total keseluruhan koperasi yang ada di kota Bengkulu yang berjumlah 768 koperasi yang mana di antaranya terindikasi dari nama merupakan koperasi syariah yang berjumlah 19 koperasi (Koperasi & UKM, 2023). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 PENDAHULUAN Koperasi syariah bukan hanya memberikan solusi bagi umat Islam dalam hal keuangan, tetapi juga memberikan kontribusi besar dalam pembangunan ekonomi daerah khususnya kota Bengkulu. Perkembangan koperasi syariah di kota Bengkulu masih perlu terus ditingkatkan agar dapat bersaing dengan koperasi konvensional. Salah satu hal yang perlu diperhatikan adalah bagaimana prosedur pembiayaan pada koperasi syariah. Selain itu, juga perlu dilakukan pengecekan terhadap sistem yang berlaku di koperasi syariah apakah sudah sesuai dengan Fatwa DSN - MUI tentang akad Murabahah No. 04/DSN-MUI/IV/2000 yang berlaku (DEWAN SYARI’AH NASIONAL 2000). Dengan upaya-upaya tersebut, diharapkan koperasi syariah dapat terus berkembang dan memberikan kontribusi yang lebih besar dalam pengembangan ekonomi terkhususnya masyarakat kota Bengkulu. y y g Disisi lain, koperasi syariah juga memiliki peran yang sangat penting dalam meningkatkan produksi dan penghasilan masyarakat serta memberikan kontribusi nilai tambah dalam ekonomi dan pembangunan wilayah khususnya kota Bengkulu. Melalui koperasi, masyarakat dapat memperoleh akses keuangan yang lebih mudah dan terjangkau, serta mendapatkan bantuan dalam menjalankan usaha. Dalam rangka meningkatkan pemberdayaan ekonomi rakyat, pemerintah baik pusat maupun daerah terus mendorong adanya koperasi syariah. Koperasi syariah menjadi gerakan ekonomi rakyat yang dapat memenuhi harapan tersebut. Oleh karena itu, pembiayaan murabahah yang ditawarkan oleh koperasi syariah merupakan salah satu solusi bagi masyarakat yang ingin memperoleh akses keuangan yang mudah dan terjangkau dalam menjalankan usaha. Namun pada pelaksanaannya akad Murabahah ini belum sepenuhnya diaplikasikan dengan mengacu kepada Fatwa DSN - MUI tentang akad Murabahah No. 04/DSN-MUI/IV/2000. Hal ini merujuk sumber data 368 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis dari penelitian sebelumnya yang membahas pada topik yang hampir sama dalam lembaga keuangan syariah yang ada. Dimana “dalam paraktek pembiayaan dan teori Fatwa DSN - MUI tentang akad Murabahah No. 04/DSN-MUI/IV/2000 masih terdapat perbedaan yang terjadi” (Mukadar et al., 2021). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Produk-produk Koperasi Syari’ah Produk-produk Koperasi syariah merupakan Koperasi dengan prinsip dasar bagi hasil yang merupakan landasan utama dalam segala operasinya, baik dalam pengerahan dananya maupun dalam penyaluran dananya. secara garis besar jenis kegiatan usaha Koperasi syariah dapat dibagi kedalam tiga kategori utama yaitu penghimpunan dan (funding), penyaluran dana (lending), dan pelayanan jasa (Mukadar et al., 2021b; Ranidiah & Arianto, 2020) . 1. Produk penghimpunan dana (funding) Penghimpunan dana di Koperasi syariah dapat berbentuk simpanan dengan yaitu simpanan Pokok, simpanan wajib dan simpanan sukarela yang bisa dikemas dalam bentuk tabungan, dan deposito. prinsip operasional syariah yang diterapkan dalam penghimpunan dana masyarakat adalah prinsip wadi’ah dan mudharabah. a. Prinsip wadi’ah secara bahasa adalah berasal dari akar kata wada’a berarti meninggalkan atau titipan. wadi’ah adalah akad penitipan barang/uang antara pihak yang mempunyai barang uang dengan pihak yang di beri kepercayaan dengan tujuan untuk menjaga keselamatan, keamanan, serta keutuhan barang/uang. dalam perkembangannya, wadi’ah terbagi atas dua macam, yaitu wadi’ah yad amanah dan wadi’ah yad dhamanah. Wadi’ah yad amanah adalah akad penitipan barang/uang dimana pihak penerima tidak diperkenakan menggunakan barang/uang yang dititipkan dan tidak bertanggung jawab atas kerusakan dan kehilangan barang titipan yang bukan diakibatkan perbuatan atau kelalian penerima titipan, sedangkan wadi’ah yad dhamanah adalah titipan barang atau uang dimana pihak penerima titipan dengan atau tanpa izin pemilik barang/uang dapat bertanggung jawab terhadap kehilangan atau kerusakan barang/uang titipan b. Prinsip Mudharabah, berasal dari bahasa arab dharb yang berarti perjalanan di atas atau bepergian di muka bumi. sekedar menurut istilah mudharabah adalah suatu kontak kemitraan (partnship) yang berlandaskan pada prinsip pembagin hasil dengan cara seseorang memberikan modalnya kepada orang lain untuk melakukan bisnis dan kedua belah pihak membagi keuntungan atau memikul beban kerugian berdasarkan isi perjanjian bersama. Secara teknis, mudharabah adalah akad kerjasama antara dua pihak yaitu pemilik modal (shahibul maal) dengan pengelola (mudharib), dimana pemilik modal menyediakan seluruh modal sedangkan pihak lain menjadi pengelolah dengan tujuan memperoleh pendapatan atau keuntungan. pendapatan atau keuntungan tersebut dibagi berdasarkan nisbah yang telah disepakati di awal akad. Aplikasinya dalam perKoperasi an syariah yaitu pada deposito dan tabungan b. Prinsip Mudharabah, berasal dari bahasa arab dharb yang berarti perjalanan di atas atau bepergian di muka bumi. sekedar menurut istilah mudharabah adalah suatu kontak kemitraan (partnship) yang berlandaskan pada prinsip pembagin hasil dengan cara seseorang memberikan modalnya kepada orang lain untuk melakukan bisnis dan kedua belah pihak membagi keuntungan atau memikul beban kerugian berdasarkan isi perjanjian bersama. Al-musyarakah Al-musyarakah adalah kerjasama antara kedua pihak atau lebih untuk suatu usaha tertentu dimana masing-masing pihak memberikan kontribusi dana dengan keuntungan dan resiko akan ditanggung bersama sesuai dengan kesepakatan. b. Prinsip bagihasil (syirkah). b. Prinsip bagihasil (syirkah). Murabahah Murabahah Murabahah berasal dari kata ribhu (keuntungan), adalah akad jual beli barang antara dua belah pihak, dengan menyatakan harga perolehan dan keuntungan (margin) yang disepakati oleh penjual dan pembeli. dimana Koperasi bertindak sebagai penjual, sebagai Anggotasebagai pembeli. kedua pihak harus menyepakati harga jual dan jangka waktu pembayaran. harga jual dicantumkan dalam akad jual beli dan jika telah disepakati tidak dapat berubah selama berlakunya akad. Salam Salam adalah transaksi jual beli dimana barang diperjual belikan belum ada. oleh karna itu, barang di serahkan secara tangguh sementara pembayaran dilakukan tunai. Koperasi bertindak sebagai pembeli, sebagai Anggotasebagai penjual. dalam transaksi ini kualitas, kuantitas, harga, dan waktu penyerahan barang harus ditentukan secara pasti. Istisna’ Salam adalah transaksi jual beli dimana barang diperjual belikan belum ada. oleh karna itu, barang di serahkan secara tangguh sementara pembayaran dilakukan tunai. Koperasi bertindak sebagai pembeli, sebagai Anggotasebagai penjual. dalam transaksi ini kualitas, kuantitas, harga, dan waktu penyerahan barang harus ditentukan secara pasti. Istisna’ Istisna’ adalah pembelian barang melalui pesanan dan diperlukan proses pembuatanya sesuai dengan pesanan pembeli dan pembayaran dilakukan di muka sekaligus atau secara bertahap atau cicilan Istisna’ adalah pembelian barang melalui pesanan dan diperlukan proses pembuatanya sesuai dengan pesanan pembeli dan pembayaran dilakukan di muka sekaligus atau secara bertahap atau cicilan. Produk-produk Koperasi Syari’ah Secara teknis, mudharabah adalah akad kerjasama antara dua pihak yaitu pemilik modal (shahibul maal) dengan pengelola (mudharib), dimana pemilik modal menyediakan seluruh modal sedangkan pihak lain menjadi pengelolah dengan tujuan memperoleh pendapatan atau keuntungan. pendapatan atau keuntungan tersebut dibagi berdasarkan nisbah yang telah disepakati di awal akad. Aplikasinya dalam perKoperasi an syariah yaitu pada deposito dan tabungan 369 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Dalam perKoperasi an syariah, mudharabah dibagi menjadi dua yaitu mudharabah mutlaqah dan mudharabah muqayyadah. mudharabah mutlakah adalah bentuk kerjasama antara pemilik dana (shahibul maal) dengan pengelola (mudharib) yang cakupanya sangat luas dan tidak dibatasi oleh spesifikasi jenis usaha, waktu dan daerah bisnis. penyedia dana melimpahkan kekuasaan yang sebesar-besarnya kepada mudharib untuk mengelola dananya. sedangkan mudharabah muqayyada adalah bentuk kerjasama antara pemilik dana (shahibul maal) dengan pengelola (mudharib) yang dibatasi oleh spesifikasi jenis usaha, waktu, dan daerah bisnis. p j 2. Produk Penyaluran Dana (Lending) Dalam menyalurkan dana, Koperasi syariah dapat memberikan berbagai bentuk pembiayaan yang diberikan oleh Koperasi syariah yaitu mudharabah dan musyarakah (dengan pola sewa operasional maupun financial). a. Prinsip jual beli (Ba’i) Murabahah Murabahah berasal dari kata ribhu (keuntungan), adalah akad jual beli barang antara dua belah pihak, dengan menyatakan harga perolehan dan keuntungan (margin) yang disepakati oleh penjual dan pembeli. dimana Koperasi bertindak sebagai penjual, sebagai Anggotasebagai pembeli. kedua pihak harus menyepakati harga jual dan jangka waktu pembayaran. harga jual dicantumkan dalam akad jual beli dan jika telah disepakati tidak dapat berubah selama berlakunya akad. 2. Produk Penyaluran Dana (Lending) Dalam menyalurkan dana, Koperasi syariah dapat memberikan berbagai bentuk pembiayaan yang diberikan oleh Koperasi syariah yaitu mudharabah dan musyarakah (dengan pola sewa operasional maupun financial). 2. Produk Penyaluran Dana (Lending) Dalam menyalurkan dana, Koperasi syariah dapat memberikan berbagai bentuk pembiayaan yang diberikan oleh Koperasi syariah yaitu mudharabah dan musyarakah (dengan pola sewa operasional maupun financial). Al-mudharabah Al-mudharabah adalah akad kerjasama usaha antara dua pihak dimana pihak pertama (shahibul maal) menyediakan seluruh modal, sedangkan pihak lainya menjadi pengelola. keuntungan usaha dibagi menurut kesepakatan yang dituangkan dalam kontak, sedangkan apabila rugi ditanggung oleh pemilik modal selama kerugian itu bukan akibat kelalaian sipengelolah c. Prinsip sewa-penyewa Ijarah c. Prinsip sewa-penyewa Ijarah c. Prinsip sewa-penyewa Ijarah c. Prinsip sewa-penyewa Ijarah 370 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Ijarah adalah pembiayaan berupa talangan dana yang dibutuhkan Anggotauntuk memiliki suatu barang/jasa dengan kewajiban menyewa barang tersebut sampai jangka waktu tertentu sesuai dengan kesepakatan. Ijarah muntahiya bittamlik (IMBT) Ijarah mutahiyah bitamlik (IMBT) adalah akad sewa menyewa barang antara (muajir) dengan penyewa (mustajir) yang diikuti janji, bahwa saat yang ditentukan kepemilikan barang sewaan akan berpindah kepada mustajir. adapun fatwa yang mengatur tentang ijarah muntahiyah bittamlik yaitu fatwa DSN No. 27/DSN MUI/III/2002. Ijarah adalah pembiayaan berupa talangan dana yang dibutuhkan Anggotauntuk memiliki suatu barang/jasa dengan kewajiban menyewa barang tersebut sampai jangka waktu tertentu sesuai dengan kesepakatan. Ijarah adalah pembiayaan berupa talangan dana yang dibutuhkan Anggotauntuk memiliki suatu barang/jasa dengan kewajiban menyewa barang tersebut sampai jangka waktu tertentu sesuai dengan kesepakatan. Ijarah muntahiya bittamlik (IMBT) Ijarah muntahiya bittamlik (IMBT) Ijarah mutahiyah bitamlik (IMBT) adalah akad sewa menyewa barang antara (muajir) dengan penyewa (mustajir) yang diikuti janji, bahwa saat yang ditentukan kepemilikan barang sewaan akan berpindah kepada mustajir. adapun fatwa yang mengatur tentang ijarah muntahiyah bittamlik yaitu fatwa DSN No. 27/DSN MUI/III/2002. 3. Produk Jasa Selain menjalankan teransaksi untuk mencari keuntungan, Koperasi syariah juga melakukan transaksi yang tidak untuk mencari keuntungan. transaksi ini tercakup dalam jasa pelayanan (fee based income). adapun yang termasuk dalam produk jasa yaitu: a. Kafalah (garansi Koperasi ) Kafalah adalah transaksi dimana pihak pertama bersedia menjadi penanggung atas kegiatan yang dilakukan oleh pihak kedua, sepanjang sesuai yang di perjanjikan dimana pihak pertama menerima imbalan berupa fee atau komisi (garansi). kafalah dapat diberikan dengan tujuan untuk menjamin pembayaran suatu kewajiban pembayaran. Koperasi dapat mensyaratkan Anggotauntuk menepatkan sejumlah dana untuk fasilitas ini sebagai rahn. Koperasi dapat pula menerima danaa tersebut dengan prinsip wadi’ah. b. Hiwalah (Alih utang piutang) Hiwalah adalah transaksi pengalihan utang-piutang atau pengalihan piutang Anggotakepada Koperasi syariah. adapun tujuan fasilitas hiwalah adalah untuk membantu supplier mendapatkan modal tunai agar dapat melanjutkan produksinya. Koperasi mendapat ganti biaya atas jasa pemindahan piutang. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Al-mudharabah untuk mengantisipasi resiko kerugian yang akan timbul, Koperasi perlu melakukan penelitian atas kemampuan pihak yang berutang dan kebenaran transaksi antara yang memindahkan piutang dengan yang berutang. c. Wakalah (perwakilan) Wakalah adalah transaksi dimana pihak pertama memberikan kuasa kepada pihak kedua (sebagai wakil) untuk urusan tertentu dimana pihak kedua mendapat imbalan berupa fee atau komisi. wakalah dalam aplikasi perKoperasi an terjadi apabila Anggotamemberikan kuasa kepada Koperasi untuk mewakili dirinya melakukan pekerjaan jasa tertentu, seperti pembukaan L/C, inkaso dan transfer uang. Koperasi dan Anggotayang dicantumkan dalam akad pemberian kuasa harus cukup hukum. kelalaian dalam menjalankan kuasa menjadi tanggung jawab Koperasi , kecuali kegagalan karna force majeure menjadi tanggung jawab nasabah. apabila Koperasi yang ditunjuk lebih dari satu, maka masing-masing Koperasi tidak boleh bertindak sendiri-sendiri tanpa musyawarah dengan Koperasi yang lain, kecuali dengan seizing nasabah. tugas, wewenang dan 371 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 371 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis tanggung jawab Koperasi harus jelas sesuai kehendak AnggotaKoperasi . setiap tugas yang dilakukan harus mengatasnamakan Anggotadan harus dilaksanakan oleh Koperasi. d. Rahn (Gadai) Rahn dalam bahasa umum lebih dikenal dengan gadai. Rahn (gadai) adalah transaksi gadai dimana seseorang yang membutuhkan dana dapat menggadaikan barang yang dimilikinya kepada Koperasi syariah dan atas izin Koperasi syariah, orang tersebut dapat menggunakan barang yang digadaikan tersebut, dengan syarat harus dipelihara dengan baik. adapun tujuan dari akad rahn adalah untuk memberikan jaminan pembayaran kembali kepada Koperasi dalam memberikan pembiayaan. Barang yang digadaikan wajib memenuhi criteria: 1) Milik Anggotasendiri 2) Jelas ukuran, dan nilainya ditentukan berdasarkan nilai riil pasar 3) Tidak di kuasai namun tidak boleh dimanfaatkan oleh Koperasi Atas izin Koperasi , Anggotadapat menggunakan barang tertentu yang digadaikan dengan tidak mengurangi nilai dan merusak barang yang digadaikan. apabila barang yang digadaikan rusak atau cacat, Anggotaharus bertanggung jawab, apabila Anggotawanprestasi, Koperasi dapat melakukan penjualan barang yang digadaikan atas perintah hakim. Anggotamempunyai hak untuk menjual barang tersebut dengan seizin Koperasi . apabila hasil penjualan melebihi kewajibanya, kelebihan tersebut menjadi milik nasabah. dalam hal hasil penjualan tersebut lebih kecil dari kewajibanya, maka Anggotaharus menutupi kekurangannya. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 METODE PENELITIAN Dalam penulisan ini penulis menggunakan metode penelitian kualitatif.Lokasi penelitian yang dilakukan bertempat di Kantor Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu yang beralamat di Jl. Dempo Raya, Sawah Lebar, Kec. Ratu Agung, Kota Bengkulu, Bengkulu.Metode penelitian kualitatif yang digunakan dalam penelitian ini bertujuan untuk mengumpulkan data yang deskriptif dan memahami secara mendalam tentang fenomena yang diamati. Metode pengambilan data yang digunakan antara lain observasi, wawancara, dan dokumentasi. Observasi dilakukan untuk memperoleh informasi mengenai kegiatan operasional di koperasi, seperti proses peminjaman dana, proses pengembalian dana, dan proses keuangan lainnya. Wawancara dilakukan dengan pengurus koperasi dan anggota koperasi untuk memperoleh informasi yang lebih rinci mengenai motivasi dan tujuan mereka bergabung di koperasi. Sedangkan dokumentasi dilakukan dengan mengumpulkan dokumen-dokumen yang terkait dengan kegiatan operasional koperasi, seperti laporan keuangan, rencana kerja, dan regulasi internal. g j g Dalam penggunaan metode penelitian kualitatif, analisis data dilakukan secara induktif dan interpretatif. Data yang terkumpul dianalisis secara mendalam untuk 372 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis memahami fenomena yang diamati. Hasil analisis kemudian disusun dalam bentuk narasi atau laporan untuk menjelaskan temuan yang ditemukan. Dengan memilih metode penelitian kualitatif ini, penulis berusaha untuk menggambarkan secara jelas segala hal yang terjadi dilapangan dan kemudian dianalisa untuk mendapatkan hasil berdasarkan tujuan penelitian. Pendekatan kualitatif ini menitik beratkan pada data-data penelitian yang dihasilkan berupa kata- kata melalui wawancara dan pengamatan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu HASIL PENELITIAN DAN PEMBAHASAN Keuntungan dari bisnis atau usaha koperasi akan dibagi berdasarkan kesepakatan antara anggota koperasi sebagai pemilik modal dan pengelola koperasi sebagai pengelola modal, dengan pembagian yang dapat ditentukan sebelumnya dalam akad mudharabah. usaha koperasi. Keuntungan dari bisnis atau usaha koperasi akan dibagi berdasarkan kesepakatan antara anggota koperasi sebagai pemilik modal dan pengelola koperasi sebagai pengelola modal, dengan pembagian yang dapat ditentukan sebelumnya dalam akad mudharabah. HASIL PENELITIAN DAN PEMBAHASAN Produk-Produk Koperasi Jasa Berkah Bersama Syariah p J y Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu memiliki beberapa produk yang di gunakan dalam pembiayaan yaitu Murabahah adalah pembiayaan akad jual beli yang diajukan oleh anggota untuk membeli barang pesanan dengan mengajukannya ke koperasi, kemudian koperasi membelikan barang tersebut dan menjualnya kepada anggota dengan menegaskan harga belinya kepada anggota dan anggota membayarnya dengan harga yang lebih sebagai keuntungan yang telah disepakati antara koperasi dan anggota (Tito et al., 2018). Ijarah adalah pemindahan hak guna dan jasa. Anggota dan koperasi jasa berkah bersam syariah kota bengkulu melakukan kontrak ijarah dalam bentuk sewa jasa seperti, jasa pendidikan, kesehatan, dan lain-lain. Koperasi mendapat upah dari anggota yang mengacu pada kesepakatan kontrak ijarah yang dilakukan. Akad Qardul Hasan adalah konsep dalam hukum keuangan Islam yang merujuk pada perjanjian pinjaman yang diberikan oleh seorang pemberi pinjaman kepada peminjam tanpa adanya bunga atau imbalan tambahan yang harus dibayarkan oleh peminjam. Dalam akad Qardul Hasan, pemberi pinjaman memberikan pinjaman dengan tujuan kemurahan hati atau kebaikan (Hasan) kepada peminjam yang membutuhkan dana. Dalam konteks ini, peminjam berkewajiban untuk mengembalikan jumlah pinjaman yang diterima dalam jumlah yang sama persis (tanpa ada tambahan atau imbalan tambahan), sesuai dengan perjanjian yang telah disepakati. Tidak ada keuntungan yang diperoleh oleh pemberi pinjaman dalam bentuk bunga atau tambahan apapun. Akad Qardul Hasan didasarkan pada prinsip-prinsip ekonomi Islam yang melarang riba (bunga) dan mendorong keadilan dan kemanusiaan dalam transaksi keuangan. Akad ini dapat digunakan dalam konteks pinjaman antarindividu, pinjaman antara koperasi dan anggotanya, atau dalam konteks lainnya.Penting untuk dicatat bahwa dalam akad Qardul Hasan, peminjam masih berkewajiban untuk mengembalikan pinjaman sesuai dengan kesepakatan, namun tanpa imbalan tambahan dalam bentuk bunga. Hal ini membedakan akad Qardul Hasan dengan konsep riba yang dilarang dalam hukum keuangan Islam. Akad mudharabah dapat digunakan sebagai dasar perjanjian antara anggota koperasi sebagai pemilik modal (shahibul maal) dan pengelola koperasi sebagai pengelola modal (mudharib). Dalam akad mudharabah, anggota koperasi yang menyediakan modal akan menjadi pemilik modal dan bertanggung jawab atas kerugian yang mungkin timbul, sedangkan pengelola koperasi akan menjadi pengelola modal dan bertanggung jawab atas pengelolaan bisnis atau 373 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis usaha koperasi. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Mekanisme Penerapan Akad Murabahah di Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu Pembiayaan murabahah juga dapat didukung dengan jaminan seperti BPKB motor/mobil atau sertifikat tanah. Mekanisme Penerapan Akad Murabahah di Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis jika ada, termasuk margin yang dikenakan dan harga beli yang telah ditentukan. Maksimal pengembalian pembiayaan adalah 2 tahun jika jumlah pembiayaan di atas 5 juta, sedangkan untuk pembiayaan di bawah 5 juta, pelunasan dilakukan dalam waktu 1 tahun dengan margin 20% atau 1,8% per bulan. jika ada, termasuk margin yang dikenakan dan harga beli yang telah ditentukan. Maksimal pengembalian pembiayaan adalah 2 tahun jika jumlah pembiayaan di atas 5 juta, sedangkan untuk pembiayaan di bawah 5 juta, pelunasan dilakukan dalam waktu 1 tahun dengan margin 20% atau 1,8% per bulan. ALUR PEMBIAYAAN ( AKAD JUAL BELI) KOPERASI JASA BERKAH BERSAMA SYARIAH PENGAJUAN PEMBIAYAAN : 1. AKAD JUAL BELI (MURABAHAH) 2. AKAD KHARDUL HASAN 3. PENDIDIKAN (AL-IJARAH) SYARAT PEMBIAYAAN : 1. FC KTP S/I 2. FC KK 3. FC SK YAF 4. SLIP GAJI TERAKHIR 5. ADM 50.000,- 6. ISI AKAD MENGISI AKAD JUAL BELI KOPERASI MEMBELIKAN BARANG PENYERAHAN BARANG Gambar 2. Alur dan Syarat Pembiayaan Murabahah. Dokumen-dokumen yang diperlukan untuk mengajukan pembiayaan murabahah antara lain mengisi akad, fotokopi KTP suami-istri, fotokopi KK, fotokopi SK yayasan, serta slip gaji. Selain itu, ada juga biaya administrasi sebesar 50 ribu yang harus dibayarkan. Pembiayaan murabahah juga dapat didukung dengan jaminan seperti BPKB motor/mobil atau sertifikat tanah. Gambar 2. ALUR PEMBIAYAAN ( AKAD JUAL BELI) KOPERASI JASA BERKAH BERSAMA SYARIAH PENGAJUAN PEMBIAYAAN : 1. AKAD JUAL BELI (MURABAHAH) 2. AKAD KHARDUL HASAN 3. PENDIDIKAN (AL-IJARAH) SYARAT PEMBIAYAAN : 1. FC KTP S/I 2. FC KK 3. FC SK YAF 4. SLIP GAJI TERAKHIR 5. ADM 50.000,- 6. ISI AKAD MENGISI AKAD JUAL BELI KOPERASI MEMBELIKAN BARANG PENYERAHAN BARANG Alur dan Syarat Pembiayaan Murabahah. Alur dan Syarat Pembiayaan Murabahah. Alur dan Syarat Pembiayaan Murabahah. Alur dan Syarat Pembiayaan Murabahah. ALUR PEMBIAYAAN ( AKAD JUAL BELI) KOPERASI JASA BERKAH BERSAMA SYARIAH Dokumen-dokumen yang diperlukan untuk mengajukan pembiayaan murabahah antara lain mengisi akad, fotokopi KTP suami-istri, fotokopi KK, fotokopi SK yayasan, serta slip gaji. Selain itu, ada juga biaya administrasi sebesar 50 ribu yang harus dibayarkan. Pembiayaan murabahah juga dapat didukung dengan jaminan seperti BPKB motor/mobil atau sertifikat tanah. Dokumen-dokumen yang diperlukan untuk mengajukan pembiayaan murabahah antara lain mengisi akad, fotokopi KTP suami-istri, fotokopi KK, fotokopi SK yayasan, serta slip gaji. Selain itu, ada juga biaya administrasi sebesar 50 ribu yang harus dibayarkan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Mekanisme Penerapan Akad Murabahah di Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu Koperasi Jasa Berkah Bersama Syariah merupakan sebuah koperasi yang berbasis syariah di Kota Bengkulu. Salah satu produk yang mereka tawarkan kepada anggotanya adalah pembiayaan murabahah. Dalam akad murabahah, koperasi membeli barang atau aset yang diinginkan oleh anggota koperasi, kemudian menjual kembali barang atau aset tersebut kepada anggota dengan harga jual yang telah ditetapkan sebelumnya. Harga jual yang ditetapkan tersebut termasuk keuntungan atau marjin yang telah disepakati sebelumnya antara koperasi dan anggota koperasi. Anggota koperasi biasanya membayar harga jual tersebut dalam bentuk angsuran atau cicilan sesuai dengan kesepakatan yang telah ditetapkan sebelumnya. Dalam wawancara yang dilakukan oleh penulis kepada bapak trismawanto selaku penangung jawab dalam hal unit usaha pembiayaan simpan pinjam di Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu, beberapa informasi penting mengenai mekanisme pembiayaan murabahah di koperasi tersebut terungkap. PRODUK PEMBIAYAAN POLA JUAL BELI Bagan Proses Pembiayaan Murabahah 1. Negosiasi dan Persyaratan 3a. Akad KOPERASI 3b. Serah Terima Barang NASABAH 4. Bayar kewajiban SUPLIER PENJUAL 3c. Kirim Barang 2. Beli Barang Tunai Gambar 1. Skema Proses Akad PRODUK PEMBIAYAAN POLA JUAL BELI Bagan Proses Pembiayaan Murabahah 1. Negosiasi dan Persyaratan 3a. Akad KOPERASI 3b. Serah Terima Barang NASABAH 4. Bayar kewajiban SUPLIER PENJUAL 3c. Kirim Barang 2. Beli Barang Tunai Gambar 1. Skema Proses Akad Anggota Koperasi Berkah Bersama Syariah dapat mengajukan pembiayaan murabahah dengan mengikuti beberapa prosedur yang telah ditetapkan. Pertama, mereka mengajukan permohonan pembiayaan ke koperasi dan menunggu pada daftar antrian yang ada. Koperasi akan melakukan pemilahan terhadap permohonan tersebut berdasarkan prioritas dan kepentingan anggota. S l h h di i k di hk k i i k d PRODUK PEMBIAYAAN POLA JUAL BELI Bagan Proses Pembiayaan Murabahah 1. Negosiasi dan Persyaratan 3a. Akad KOPERASI 3b. Serah Terima Barang NASABAH 4. Bayar kewajiban SUPLIER PENJUAL 3c. Kirim Barang 2. Beli Barang Tunai Gambar 1. Skema Proses Akad Gambar 1. Skema Proses Akad Anggota Koperasi Berkah Bersama Syariah dapat mengajukan pembiayaan murabahah dengan mengikuti beberapa prosedur yang telah ditetapkan. Pertama, mereka mengajukan permohonan pembiayaan ke koperasi dan menunggu pada daftar antrian yang ada. Koperasi akan melakukan pemilahan terhadap permohonan tersebut berdasarkan prioritas dan kepentingan anggota. Setelah permohonan diterima, anggota akan diarahkan untuk mengisi akad pembiayaan tentunya dalam hal ini akad murabahah. Koperasi memberikan penjelasan mengenai barang yang akan dibeli atas nama koperasi,discount barang yang didapatkan 374 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. Pertimbangan Pemberian Akad Murabahah di Koperasi Jasa Berkah Bersama Syariah y Ketika memberikan pembiayaan murabahah, Koperasi Berkah Bersama Syariah berupaya menilai risiko dengan memperhatikan potongan Slip gaji dari anggota Koperasi Jasa Berkah Bersama Syariah. Sebagaimana yang telah di jabarkan pada bagian hasil sebelumnya berdasarkan hasil wawancara dengan bapak rahmad widodo selaku ketua koperasi didapatkan informasi bahwasanya seluruh anggota dari Kopersai Jasa Berkah Bersama Syariah merupalkan Guru dan karyawan dilingkungan Yayasan Al-Fida Kota Bengkulu. Maka dari itu koperasi mampu mendapatkan data dari potongan slip gaji dari karyawan dan guru sebagai bahan pertimbangan untuk memberikan pembiayaan dengan akad murabahah di Koperasi Jasa Berkah Bersama Syariah Oleh karena itu jika terdapat potongan di tempat lain yang tidak melebihi 50% dari slip gaji, maka pembiayaan dapat dipertimbangkan, karena itu pula risiko pembiayaan murabahah tergolong minim berada pada angka hampir mendekati 0% atau 375 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis jika di hitung dalam kasus hanya terjadi 1 kasus semenjak Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu berdiri, hal ini terjadi karena pembayaran angsuran dilakukan melalui potongan gaji anggota yang bekerja di yayasan Al-Fida. jika di hitung dalam kasus hanya terjadi 1 kasus semenjak Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu berdiri, hal ini terjadi karena pembayaran angsuran dilakukan melalui potongan gaji anggota yang bekerja di yayasan Al-Fida. p g g j gg y g j y y Berdasarkan wawancara denga pengurus Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu, dapat diidentifikasi beberapa pertimbangan yang dipertimbangkan oleh Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu dalam memberikan pembiayaan murabahah. Beberapa pertimbangan tersebut antara lain: Status Kepegawaian: Koperasi mempertimbangkan status kepegawaian calon peminjam, yaitu Calon Guru Tetap Yayasan (CGTY) atau Calon Pegawai Tetap Yayasan (CPTY). Status ini menunjukkan kestabilan dan kepercayaan dalam memberikan pembiayaan.Waiting List: Terdapat waiting list yang digunakan untuk memprioritaskan pembiayaan kepada anggota. Hal ini menunjukkan bahwa pembiayaan diberikan berdasarkan urutan kebutuhan dan ketersediaan dana.Jenis Pembiayaan: Koperasi memiliki sasaran khusus dalam memberikan pembiayaan murabahah, seperti pembiayaan Qordul Hasan untuk keperluan urgensi keluarga yang sakit. Selain itu, juga terdapat pembiayaan untuk barang elektronik, furnitur, kendaraan, dan material bangunan.Risiko Pembiayaan: Koperasi melakukan evaluasi risiko dalam memberikan pembiayaan murabahah dengan mempertimbangkan potongan gaji langsung dari yayasan sebagai pembayaran. Hal ini mengurangi risiko pembayaran yang macet. Pertimbangan Pemberian Akad Murabahah di Koperasi Jasa Berkah Bersama Syariah Selain itu, pihak koperasi juga memeriksa potongan gaji apakah melebihi batas maksimal dari slip gaji yang diajukan.Dengan mempertimbangkan faktor-faktor di atas, Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu dapat menentukan pemberian pembiayaan murabahah secara bijak dan meminimalkan risiko dalam operasional dan keuangan jangka panjang. Kesesuaian Penerapan Akad Murabahah di Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu dengan Fatwa DSN-MUI http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kesesuaian Penerapan Akad Murabahah di Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu dengan Fatwa DSN-MUI Masyarakat banyak membutuhkan mekanisme pembiayaan yang berprinsip syariah Dalam rangka memenuhi kebutuhan masyarakat, Koperasi Syariah perlu menyediakan fasilitas pembiayaan murabahah bagi anggotanya. Koperasi Jasa Berkah Bersama Syariah di Kota Bengkulu menjalankan aktivitasnya dengan mengikuti pedoman yang tercantum dalam Fatwa DSN-MUI NO.04/DSN-MUI/IV/2000 Fatwa tersebut mengatur syarat-syarat yang harus dipenuhi agar pembiayaan murabahah dapat dilakukan dengan sah, antara lain: Ketentuan Umum Murabahah dalam koperasi Syariah : Koperasi dan anggota harus melakukan akad murabahah yang bebas riba. Barang yang diperjual belikan tidak diharamkan oleh syariah Islam. Koperasi membiayai sebagian atau seluruh harga pembelian barang yang telah disepakati kualifikasinya.Koperasi membeli barang yang diperlukan anggota atas nama koperasi sendiri, dan pembelian ini harus sah dan bebas riba.Koperasi harus menyampaikan semua hal yang berkaitan dengan pembelian, misalnya jika pembelian dilakukan secara utang.Koperasi kemudian menjual barang tersebut kepada anggota (pemesan) dengan harga jual senilai harga beli plus keuntungannya. Dalam kaitan ini koperasi harus memberitahu secara jujur harga pokok barang kepada anggota berikut biaya yang diperlukan.Anggotamembayar harga barang yang telah disepakati tersebut pada jangka 376 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis waktu tertentu yang telah disepakati.Untuk mencegah terjadinya penyalahgunaan atau kerusakan akad tersebut, pihak koperasi dapat mengadakan perjanjian khusus dengan anggota.Jika koperasi hendak mewakilkan kepada anggota untuk membeli barang dari pihak ketiga, akad jual beli murabahah harus dilakukan setelah barang, secara prinsip, menjadi milik koperasi. Ketentuan Murabahah kepada Anggota: Anggota mengajukan permohonan dan janji pembelian suatu barang atau aset kepada koperasi.Jika koperasi menerima permohonan tersebut, ia harus membeli terlebih dahulu aset yang dipesannya secara sah dengan pedagang.koperasi kemudian menawarkan aset tersebut kepada anggota dan anggota harus menerima (membeli)-nya sesuai dengan janji yang telah disepakatinya, karena secara hukum janji tersebut mengikat; kemudian kedua belah pihak harus membuat kontrak jual beli.Dalam jual beli ini koperasi dibolehkan meminta anggota untuk membayar uang muka saat menandatangani kesepakatan awal pemesanan.Jika anggota kemudian menolak membeli barang tersebut, biaya riil koperasi harus dibayar dari uang muka tersebut.Jika nilai uang muka kurang dari kerugian yang harus ditanggung oleh koperasi, koperasi dapat meminta kembali sisa kerugiannya kepada anggota.Jika uang muka memakai kontrak ‘urbun sebagai alternatif dari uang muka, maka apabila anggota memutuskan untuk membeli barang tersebut, ia tinggal membayar sisa harga.jika anggota batal membeli, uang muka menjadi milik koperasi maksimal sebesar kerugian yang ditanggung oleh koperasi akibat pembatalan tersebut; dan jika uang muka tidak mencukupi, anggota wajib melunasi kekurangannya. Jaminan dalam Murabahah: Jaminan dalam murabahah dibolehkan, agar anggota serius dengan pesanannya. koperasi dapat meminta anggota untuk menyediakan jaminan yang dapat dipegang. Utang dalam Murabahah: Secara prinsip, penyelesaian utang anggota dalam transaksi murabahah tidak ada kaitannya dengan transaksi lain yang dilakukan anggota dengan pihak ketiga atas barang tersebut. Jika anggota menjual kembali barang tersebut dengan keuntungan atau kerugian, ia tetap berkewajiban untuk menyelesaikan utangnya kepada koperasi. Jika anggota menjual barang tersebut sebelum masa angsuran berakhir, ia tidak wajib segera melunasi seluruh angsurannya.Jika penjualan barang tersebut menyebabkan kerugian, anggota tetap harus menyelesaikan utangnya sesuai kesepakatan awal. Ia tidak boleh memperlambat pembayaran angsuran atau meminta kerugian itu diperhitungkan. Penundaan Pembayaran dalam Murabahah: Anggotayang memiliki kemampuan tidak dibenarkan menunda penyelesaian utangnya. Jika anggota menunda-nunda pembayaran dengan sengaja, atau jika salah satu pihak tidak menunaikan kewajibannya, maka penyelesaiannya dilakukan melalui Badan Arbitrasi Syari’ah setelah tidak tercapai kesepakatan melalui musyawarah. Bangkrut dalam Murabahah: 377 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jika anggota telah dinyatakan tidak mampu membayar dan gagal menyelesaikan utangnya, koperasi harus menunda tagihan utang sampai ia menjadi sanggup kembali, atau berdasarkan kesepakatan. Analisa untuk mengetahui apakah pembiayaan murabahah di Koperasi Jasa Berkah Bersama Syariah sudah sesuai atau tidak dengan FATWA DSN-MUI NO.04/DSN-MUI/IV/2000 tentang murabahah dapat dilakukan dengan mengacu pada syarat-syarat yang tercantum dalam fatwa tersebut. Berikut adalah analisa perbandingan antara implementasi pembiayaan murabahah di koperasi dengan syarat-syarat dalam FATWA DSN-MUI NO.04/DSN-MUI/IV/2000: Ketentuan Umum Murabahah dalam Koperasi Syariah. Koperasi Jasa Berkah Bersama Syariah menjalankan akad murabahah yang bebas dari riba.Barang yang diperjual belikan tidak diharamkan oleh syariah Islam.Koperasi membiayai sebagian atau seluruh harga pembelian barang yang telah disepakati kualifikasinya.Koperasi membeli barang atas nama koperasi sendiri dan melakukan pembelian secara sah dan bebas dari riba.Koperasi memberikan informasi yang jujur mengenai harga pokok barang kepada anggota.Ketentuan Murabahah kepada Anggota:Anggota mengajukan permohonan dan janji pembelian barang atau aset kepada koperasi.Koperasi membeli barang yang dipesan secara sah dari pedagang.Koperasi menawarkan barang tersebut kepada anggota, dan anggota harus menerima (membeli) sesuai dengan janji yang telah disepakati. p Jaminan dalam murabahah koperasi dapat meminta anggota untuk menyediakan jaminan yang dapat dipegang.Tidak disebutkan secara jelas mengenai penyelesaian utang dalam transaksi murabahah yang tidak terkait dengan transaksi lain anggota dengan pihak ketiga. Sedangkan syarat FATWA DSN-MUI NO.04/DSN-MUI/IV/2000 Penyelesaian utang anggota dalam transaksi murabahah tidak ada kaitannya dengan transaksi lain yang dilakukan anggota dengan pihak ketiga atas barang tersebut.Penundaan Pembayaran dalam Murabahah tidak disebutkan mengenai penundaan pembayaran utang oleh anggota. adapun syarat FATWA DSN-MUI NO.04/DSN-MUI/IV/2000 anggota yang memiliki kemampuan tidak dibenarkan menunda penyelesaian utangnya.Tidak disebutkan mengenai penanganan pembiayaan murabahah jika anggota dinyatakan tidak mampu membayar. Adapun syarat FATWA DSN-MUI NO.04/DSN-MUI/IV/2000 Koperasi harus menunda tagihan utang sampai anggota menjadi sanggup kembali atau berdasarkan kesepakatan. TABEL 1. Table Kesesuaian Antara FATWA DSN-MUI NO.04/DSN-MUI/IV/2000 Dengan Praktek Di Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu Syarat dalam FATWA DSN-MUI NO.04/DSN-MUI/IV/20004/DSN sKoperasi Jasa Berkah Bersama Syariahsyariah Koperasi dan anggota melakukan akad murabahah yang bebas riba Sesuai Barang yang diperjual belikan tidak diharamkan oleh syariah Islam Sesuai TABEL 1. Bangkrut dalam Murabahah: Table Kesesuaian Antara FATWA DSN-MUI NO.04/DSN-MUI/IV/2000 Dengan Praktek Di Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu Syarat dalam FATWA DSN-MUI NO.04/DSN-MUI/IV/20004/DSN sKoperasi Jasa Berkah Bersama Syariahsyariah Koperasi dan anggota melakukan akad murabahah yang bebas riba Sesuai Barang yang diperjual belikan tidak diharamkan oleh syariah Islam Sesuai sKoperasi Jasa Berkah Bersama Syariahsyariah 378 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 378 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Koperasi membiayai sebagian atau seluruh harga pembelian barang yang telah disepakati kualifikasinya Sesuai Koperasi membeli barang atas nama koperasi sendiri, dan pembelian ini harus sah dan bebas riba Sesuai Koperasi kemudian menjual barang tersebut kepadaanggota (pemesan) dengan harga jual senilai harga beli plus keuntungannya. Dalam kaitan ini, koperasi harus memberitahu secara jujur harga pokok barang kepada anggota berikut biaya yang diperlukan Sesuai penyelesaian utang anggota dalam transaksi murabahah tidak ada kaitannya dengan transaksi lain yang dilakukan anggota dengan pihak ketiga atas barang tersebut. Tidak disebutkan anggota yang memiliki kemampuan tidak boleh menunda penyelesaian utang. Oleh karena itu, koperasi perlu mengatur kebijakan yang jelas terkait dengan penundaan pembayaran utang. Tidak disebutkan Koperasi harus menunda tagihan utang sampai anggota menjadi sanggup kembali atau berdasarkan kesepakatan. Oleh karena itu, koperasi perlu memiliki kebijakan yang mengatur penanganan pembiayaan murabahah dalam situasi anggota yang dinyatakan tidak mampu membayar. Tidak disebutkan Anggota mengajukan permohonan dan janji pembelian suatu barang atau aset kepada koperasi Sesuai Jika koperasi menerima permohonan tersebut, ia harus membeli terlebih dahulu aset yang dipesannya secara sah dengan pedagang Sesuai Koperasi kemudian menawarkan aset tersebut kepada anggota dan anggota harus menerima (membeli)-nya sesuai dengan janji yang telah disepakatinya, karena secara hukum janji tersebut mengikat; kemudian kedua belah pihak harus membuat kontrak jual beli Sesuai Dalam jual beli ini koperasi dibolehkan meminta anggota untuk membayar uang muka saat menandatangani kesepakatan awal pemesanan Sesuai Jika anggota kemudian menolak membeli barang tersebut, biaya riil koperasi harus dibayar dari uang muka tersebut Sesuai Koperasi kemudian menjual barang tersebut kepadaanggota (pemesan) dengan harga jual senilai harga beli plus keuntungannya. Dalam kaitan ini, koperasi harus memberitahu secara jujur harga pokok barang kepada anggota berikut biaya yang diperlukan Koperasi harus menunda tagihan utang sampai anggota menjadi sanggup kembali atau berdasarkan kesepakatan. Sesuai Secara umum, Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu telah mengikuti ketentuan-ketentuan umum dalam pembiayaan murabahah yang ditetapkan dalam FATWA DSN-MUI NO.04/DSN-MUI/IV/2000. Mereka menjalankan akad murabahah yang bebas dari riba, membeli barang atas nama koperasi sendiri, dan memberikan informasi yang jujur mengenai harga pokok barang kepada anggota. Akan tetapi terdapat beberapa kekurangan yang perlu diperhatikan oleh Koperasi Jasa Berkah Bersama Syariah dan diperbaiki agar sesuai dengan FATWA DSN-MUI NO.04/DSN- MUI/IV/2000. Salah satu kekurangan yang perlu diperhatikan adalah kurangnya penjelasan mengenai penyelesaian utang dalam transaksi murabahah yang tidak terkait dengan transaksi lain. Sesuai dengan FATWA DSN-MUI NO.04/DSN-MUI/IV/2000, penyelesaian utang anggota dalam transaksi murabahah tidak ada kaitannya dengan transaksi lain yang dilakukan anggota dengan pihak ketiga atas barang tersebut. Oleh karena itu, koperasi perlu memperjelas prosedur penyelesaian utang agar sesuai dengan ketentuan ini. Selain itu, tidak ada ketentuan yang mengatur penundaan pembayaran utang oleh anggota dalam konteks murabahah. FATWA DSN-MUI NO.04/DSN- MUI/IV/2000 menegaskan bahwa anggota yang memiliki kemampuan tidak boleh menunda penyelesaian utang. Oleh karena itu, koperasi perlu mengatur kebijakan yang jelas terkait dengan penundaan pembayaran utang agar sesuai dengan ketentuan fatwa tersebut. Tidak disebutkan juga mengenai penanganan pembiayaan murabahah jika anggota dinyatakan tidak mampu membayar. FATWA DSN-MUI NO.04/DSN- MUI/IV/2000, Koperasi harus menunda tagihan utang sampai anggota menjadi sanggup kembali atau berdasarkan kesepakatan. Oleh karena itu, koperasi perlu memiliki kebijakan yang mengatur penanganan pembiayaan murabahah dalam situasi anggota yang dinyatakan tidak mampu membayar. Bangkrut dalam Murabahah: Oleh karena itu, koperasi perlu memiliki kebijakan yang mengatur penanganan pembiayaan murabahah dalam situasi anggota yang dinyatakan tidak mampu membayar. 379 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jika nilai uang muka kurang dari kerugian yang harus ditanggung oleh koperasi, koperasi dapat meminta kembali sisa kerugiannya kepada anggota http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kesimpulan Berdasarkan penelitian yang penulis lakukan, maka akhirnya penulis dapat mengambil kesimpulan bahwa, Secara umum Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu telah mengikuti ketentuan-ketentuan umum dalam pembiayaan murabahah yang ditetapkan dalam FATWA DSN-MUI NO.04/DSN-MUI/IV/2000. Mereka menjalankan akad murabahah yang bebas dari riba, membeli barang atas nama koperasi sendiri, dan memberikan informasi yang jujur mengenai harga pokok barang kepada anggota. Namun, terdapat beberapa kekurangan yang perlu diperhatikan dan diperbaiki oleh koperasi yakni sebagai berikut. Terdapat ketidakjelasan mengenai penyelesaian utang dalam transaksi murabahah yang tidak terkait dengan transaksi lain anggota 380 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis dengan pihak ketiga. Hal ini bertentangan dengan FATWA DSN-MUI NO.04/DSN- MUI/IV/2000 yang menyatakan bahwa penyelesaian utang anggota dalam transaksi murabahah tidak ada kaitannya dengan transaksi lain yang dilakukan anggota dengan pihak ketiga atas barang tersebut.Tidak ada ketentuan yang mengatur penundaan pembayaran utang oleh anggota dalam konteks murabahah. Sesuai dengan FATWA DSN-MUI NO.04/DSN-MUI/IV/2000, anggota yang memiliki kemampuan tidak boleh menunda penyelesaian utang. Oleh karena itu, koperasi perlu mengatur kebijakan yang jelas terkait dengan penundaan pembayaran utang agar sesuai dengan ketentuan fatwa tersebut. Tidak disebutkan mengenai penanganan pembiayaan murabahah jika anggota dinyatakan tidak mampu membayar. Menurut Fatwa DSN-MUI, koperasi harus menunda tagihan utang sampai anggota menjadi sanggup kembali atau berdasarkan kesepakatan. Oleh karena itu, koperasi perlu memiliki kebijakan yang mengatur penanganan pembiayaan murabahah dalam situasi anggota yang dinyatakan tidak mampu membayar. dengan pihak ketiga. Hal ini bertentangan dengan FATWA DSN-MUI NO.04/DSN- MUI/IV/2000 yang menyatakan bahwa penyelesaian utang anggota dalam transaksi murabahah tidak ada kaitannya dengan transaksi lain yang dilakukan anggota dengan pihak ketiga atas barang tersebut.Tidak ada ketentuan yang mengatur penundaan pembayaran utang oleh anggota dalam konteks murabahah. Sesuai dengan FATWA DSN-MUI NO.04/DSN-MUI/IV/2000, anggota yang memiliki kemampuan tidak boleh menunda penyelesaian utang. Oleh karena itu, koperasi perlu mengatur kebijakan yang jelas terkait dengan penundaan pembayaran utang agar sesuai dengan ketentuan fatwa tersebut. Tidak disebutkan mengenai penanganan pembiayaan murabahah jika anggota dinyatakan tidak mampu membayar. Menurut Fatwa DSN-MUI, koperasi harus menunda tagihan utang sampai anggota menjadi sanggup kembali atau berdasarkan kesepakatan. Oleh karena itu, koperasi perlu memiliki kebijakan yang mengatur penanganan pembiayaan murabahah dalam situasi anggota yang dinyatakan tidak mampu membayar. Saran Dalam rangka menjalankan prinsip-prinsip syariah dengan baik, koperasi Jasa Berkah Bersama Syariah Kota Bengkulu perlu memperbaiki kekurangan-kekurangan tersebut dan memastikan kepatuhan terhadap FATWA DSN-MUI NO.04/DSN- MUI/IV/2000 dan ketentuan yang berlaku. Dengan melakukan perbaikan dan memperkuat kelebihan yang dimiliki, kedepannya koperasi Jasa Berkah Bersama Syariah Kota Bengkulu dapat memberikan layanan yang lebih baik kepada anggota dan menjalankan operasional mereka dengan lebih efektif sesuai dengan prinsip-prinsip syariah http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu DAFTAR RUJUKAN Anwar, A. Z., & Edward, M. Y. (2016). Analisis Syariah Compliance Pembiayaan Murabahah Pada Gabungan Koperasi BMT Mitra Se-Kabupaten Jepara. The 3rd University Research Colloquium (URECOL). Bauty, L. A., Eprianti, N., & Maryandi, Y. (2020). Analisis 5C Pada Pembiayaan Murabahah Di Koperasi Syariah BMT Itqan Di Sektor Riil Umkm Kota Bandung. Prosiding Hukum Ekonomi Syariah, 6(2). Defitri, S. Y., Sukraini, J., & Irawani, Y. (2022). Pengaruh Independensi, Integritas Dan Profesionalisme Terhadap Kualitas Audit. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 5(1), 15–25. Koperasi, K., & UKM. (2023). Jumlah Koperasi Aktif Menurut Kota (Unit Mukadar, A., Setiorini, H., & Setiawan, D. (2021a). Analisis Pembiayaan Murabahah Pada Lembaga Keuangan Mikro Syariah ( Lkms) ( Studi Kasus Pada Lkms Mm Sejahtera Kota Bengkulu). 4(1). Mukadar, A., Setiorini, H., & Setiawan, D. (2021b). Analisis Pembiayaan Murabahah Pada Lembaga Keuangan Mikro Syariah ( LKMS) ( Studi Kasus Pada LKMS MM Sejahtera Kota Bengkulu). Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 4(1). https://doi.org/10.36085/jam-ekis.v4i1.1274 Nugraha, Z., Putra1, T., & Thamrin, H. (2022). Problematika Dan Dinamika Perkoperasi An Syariah Di Era Globalisasi. Jurnal Tabarru : Islamic Koperasi Ing 381 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 381 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis and Finance, 5(1). Ranidiah, F., & Arianto, T. (2020). Analisis Kinerja Keuangan Perbankan Syariah (Studi Empiris Bank Syariah ’’ Badan Usaha Milik Negara ’’ Di Indonesia Periode 2015-2018)’’. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 3(1). https://doi.org/10.36085/jam-ekis.v3i1.541 Ranidiah, F., & Arianto, T. (2020). Analisis Kinerja Keuangan Perbankan Syariah (Studi Empiris Bank Syariah ’’ Badan Usaha Milik Negara ’’ Di Indonesia Periode 2015-2018)’’. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 3(1). https://doi.org/10.36085/jam-ekis.v3i1.541 Tito, B. A., Astuti, B., & Fraternesi Fraternesi. (2018). Analisis Penerapan Standar Akuntansi Keuangan Entitas Tanpa Akuntabilitas Publik Pada Laporan Keuangan Koperasi Simpan Pinjam Timur Indah Kencana Kota Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 1(1). Tito, B. A., Astuti, B., & Fraternesi Fraternesi. (2018). Analisis Penerapan Standar Akuntansi Keuangan Entitas Tanpa Akuntabilitas Publik Pada Laporan Keuangan Koperasi Simpan Pinjam Timur Indah Kencana Kota Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 1(1). Triharyati, E., & Nursita, E. (2020). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu INFORMASI ARTIKEL ABSTRACT The purpose of this research is to understand how to manage boarding houses near UINFAS Bengkulu and to be able to understand how to manage boarding houses from an Islamic economic perspective. This research method uses applied methods in order to obtain accurate information needed by researchers. The results obtained in this study are that most of the boarding houses near UINFAS Bengkulu have carried out management functions, namely organizing and controlling the boarding environment. Riwayat Artikel: Diterima : 07 Juli 2023 Direvisi : 05 Agustus 2023 Disetujui : 10 Agustus 2023 Keywords: Management Management, Economic Perspective Keywords: Management Management, Economic Perspective ABSTRAK Tujuan penelitian ini yaitu agar dapat memahami cara mengelola kos-kosan yang berada di dekat UINFAS Bengkulu dan agar bisa memahami cara manajemen kos- kosan menurut pandangan ekonomi islam. Metode penelitian ini menggunakan metode terapan agar bisa memperoleh informasi secara akurat yang dibutuhkan oleh peneliti. Hasil yang didapatkan pada penelitian ini yaitu sebagian besar kostan yang berada di dekat UINFAS Bengkulu sudah melaksanakan fungsi dalam manajemen yaitu melakukan pengorganisasian dan mengontrol lingkungan kos. Kata kunci: Manajemen Pengelolaan, Perspektif Ekonomi Kata kunci: Manajemen Pengelolaan, Perspektif Ekonomi MANAJEMEN PENGELOLAAN KOS-KOSAN DI LINGKUNGAN UINFAS BENGKULU DALAM PERSPEKTIF EKONOMI ISLAM MANAGEMENT OF BOARDING HOUSES IN THE UINFAS BENGKULU ENVIRONMENT IN AN ISLAMIC ECONOMIC PERSPECTIVE Yeni Nurhayati1, Supardi Mursalin2, Evan Stiawan3 Universitas Islam Negeri Fatmawati Sukarno Bengkulu1-3 yeninurhayatiyn234@gmail.com1, supardi@mail.uinfasbengkulu.ac.id2, evan@iainbengkulu.ac.id3 Jl. Raden Fatah Kel. Pagar Dewa Kec. Selebar Kota Bengkulu Corresponding email: yeninurhayatiyn234@gmail.com http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu DAFTAR RUJUKAN Kajian Penerapan Akuntansi Sumber Daya Manusia Terhadap Laporan Laba Rugi Dan Neraca Di Pt. Bpr Sindang Binaharta Kota Lubuklinggau. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 3(1). 382 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 382 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis PENDAHULUAN Bisnis kontrakan adalah salah satu bisnis yang banyak ditemui di kota yang cukup padat penduduk hingga kota padat penduduk. Bisnis ini dapat dijadikan investasi dimasa yang akan datang karena saat ini banyaknya remaja yang berada di pedesaan 383 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis datang ke kota bertujuan untuk mencari ilmu atau bekerja karena kurangnya akses pendidikan dan lowongan pekerjaan di desa. Oleh karena itu, saat ini bisnis hunian sangat bagus didirikan untuk investasi dimasa yang akan datang. Untuk mendirikan bisnis ini bisa mengubah rumah yang tidak dipakai lagi atau rumah kosong direnovasi menjadi kamar-kamar kecil untuk disewakan. Bukan hanya itu, bisnis didirikan dengan membuat bangunan khusus disewakan dengan memanfaatkan lahan kosong. Keuntungan mendirikan bisnis ini yaitu pemilik mendapatkan penghasilan bulanan dalam jangka waktu yang panjang dan sebagai simpanan dimasa yang akan datang. Mengelola bisnis kos-kosan ini juga tidak begitu rumit dan sulit. Untuk membangun bisnis ini dikalangan masyarakat yang pendapatannya sederhana bisa dijadikan cara menambah penghasilan bagi yang memiliki dana yaitu mempunyai tanah kosong dapat digunakan sebagai lahan pembuatan kos-kosan. datang ke kota bertujuan untuk mencari ilmu atau bekerja karena kurangnya akses pendidikan dan lowongan pekerjaan di desa. Oleh karena itu, saat ini bisnis hunian sangat bagus didirikan untuk investasi dimasa yang akan datang. Untuk mendirikan bisnis ini bisa mengubah rumah yang tidak dipakai lagi atau rumah kosong direnovasi menjadi kamar-kamar kecil untuk disewakan. Bukan hanya itu, bisnis didirikan dengan membuat bangunan khusus disewakan dengan memanfaatkan lahan kosong. Keuntungan mendirikan bisnis ini yaitu pemilik mendapatkan penghasilan bulanan dalam jangka waktu yang panjang dan sebagai simpanan dimasa yang akan datang. Mengelola bisnis kos-kosan ini juga tidak begitu rumit dan sulit. Untuk membangun bisnis ini dikalangan masyarakat yang pendapatannya sederhana bisa dijadikan cara menambah penghasilan bagi yang memiliki dana yaitu mempunyai tanah kosong dapat digunakan sebagai lahan pembuatan kos-kosan. g g p Sebelum mendirikan bisnis ini perlu adanya analisa lapangan untuk melihat peluang tempat berdirinya bisnis ini. Lokasi menjadi hal utama keberlangsungan bisnis dimasa yang akan datang. Lokasi yang strategis berada di dekat kota, perkantoran atau kampus yang sering dijangkau oleh masyarakat. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Artinya setiap yang dilakukan manusia bertujuan untuk mendapatkan penghasilan digunakan untuk memenuhi kebutuhan hidup manusia merupakan hal yang dianjurkan dalam islam dan mendapatkan izin dari Allah SWT (Asnaw, 2017). Hal tersebut sudah dijelaskan dalam Al-Qur’an bahwa kegiatan ekonomi merupakan aktivitas yang dianjurkan untuk dilaksanakan bagi setiap manusia terdapat dalam Al- Qur’an surah At-Taubah (9):105 yang berbunyi: وَقُلِ ٱع ۡمَلُواْ فَسََيََى ٱَّللهُ عَمَلَكُم ۡ ُوَرَسُولُه ۥ وَٱل ۡمُؤ ۡ َمِنُون ۡ وَسَُتَُدُّونَ إَِلَٰ عَٰلِمِ ٱل ۡغَي ۡ بِ وَٱلشههَٰدَةِ ف َي ُن َب ِئُكُم ِبَِا كُنتُم ۡ تَع ۡ َمَلُون Artinya: “Dan Katakanlah Bekerjalah kamu, maka Allah dan Rasul-Nya serta orang-orang mukmin akan melihat pekerjaanmu itu, dan setiap manusia akan kembali kepada sang Pencipta yang memahami sesuatu yang dilakukan, lalu diberitakan-Nya kepada kamu apa yang telah kamu kerjakan”. (Q.S At-Taubah (9):105) Artinya: “Dan Katakanlah Bekerjalah kamu, maka Allah dan Rasul-Nya serta orang-orang mukmin akan melihat pekerjaanmu itu, dan setiap manusia akan kembali kepada sang Pencipta yang memahami sesuatu yang dilakukan, lalu diberitakan-Nya kepada kamu apa yang telah kamu kerjakan”. (Q.S At-Taubah (9):105) Berdasarkan ayat di atas menjelaskan bahwa, Nabi Muhammad mengatakan kepada semua umatnya untuk dianjurkan bekerja dan bertujuan memperoleh tujuan yang diharapkan. Allah SWT akan memberikan balasan bagi orang yang bekerja yaitu berupa kekayaan, kemampuan, kemegahan, keluasan dan diberikan rezeki yang tiada tara. Jika manusia melakukan pekerjaan yang halal akan memperoleh keberkahan dari Allah SWT berupa rezeki yang berlipat ganda. Jika manusia melakukan pekerjaan yang haram akan mendapatkan hukuman dari Allah SWT berupa azab yang didapatkan karena melanggar perintah. Oleh karena itu, setiap pekerjaan yang dilakukan manusia harus sesuai dengan aturan dalam syariat islam. Manusia terkadang lupa akan larangan tersebut dan hanya memikirkan keuntungan diri sendiri (Suma, 2013). y g Bagi penghuni kos beranggapan bahwa ekonomi islam adalah aturan yang mengikat dan tidak sesuai dengan budaya yang sering dilakukan yaitu bebas melakukan sesuai kehendaknya. Padahal dalam menjalankan kehidupan di dunia terdapat aturan yang harus dipatuhi oleh setiap manusia. Menurut pandangan penghuni kost bahwa ekonomi islam merupakan tidak adil karena merupakan prinsip yang tidak sesuai dengan yang dijalankan. Aturan yang dibuat bersumber pada Al-Qur’an dan Hadis yang mengatur setiap tingkah laku manusia yang menggunakan prinsip keseimbangan dan adil. Prinsip adil yang dimaksud dalam ekonomi yaitu menetapkan harga, memilih bahan berkualitas bagus, memilih tenaga kerja dan membuat kebijakan. Setiap pekerjaan harus dilakukan dengan rapi, teratur dan bersih karena islam mewajibkan seluruh manusia melakukan pekerjaan sesuai dengan syariat islam. PENDAHULUAN Biasanya kebanyakan anak remaja menyewa berasal dari pedesaan yang ingin mencari ilmu atau bekerja di kota (Rivaldi, 2021). Agar bisnis dapat berlangsung lama dan terus berkembang perlu adanya pengelolaan yang baik dari segi eksternal maupun internal. Seorang manajer sangat diperlukan dalam mengelola bisnis baik bisnis kecil maupun besar. Manajer harus pandai cara mempertahankan bisnis dan melakukan perencanaan jika terjadi yang tidak diinginkan dimasa yang akan datang akan berdampak pada keberlangsungan bisnis tersebut. Oleh karena itu, pengelolalan yang baik dan benar menjadi penentu berhasilnya suatu bisnis. Terdapat beberapa fungsi dalam manajemen yaitu perencanaan, pengorganisasian, penggerakan, dan pengaturan operasi. Fungsi tersebut bertujuan untuk membuat rencana agar tujuan dapat tercapai secara optimal melalui pertolongan orang lain atau sumber daya yang digunakan saat melakukan proses manajemen (Firdaus, 2009). Terdapat beberapa kendala saat melakukan pengelolan kostan salah satunya terhambat pada sistem pembayaran misalnya pembayaran kamar, listrik, air, parkir dan pengeluaran yang lain. Melakukan pengelolaan kos merupakan hal yang sangat penting dilakukan agar semua berhasil sesuai dengan apa yang telah direncanakan dan tentunya berdasarkan aturan yang ada di lingkungan masyarakat. Manajemen merupakan hal utama agar target yang telah direncanakan tercapai dan tentunya mendapatkan keuntungan bagi semua pihak. Manajemen pengelolaan sangat penting dilakukan dalam mengelola suatu bisnis. Banyak sekali kesalahan dalam melakukan pengelolaan yang mengakibatakn kesalahan yang tidak diinginkan terjadi (Achmad Nizar Assholikin, 2020). Jika manajemen dilakukan dengan baik dan sesuai rencana akan menghasilkan pengaruh positif bagi penghuni kos dengan adanya aturan yang mengubah penguni terutama anak kuliah menjadi lebih disiplin dalam perkuliahannya. Manajemen pengelolaan kos efektif akan memberikan dampak positif bagi sikap setiap individu karena terdapat aturan yang sesuai dengan syariat islam. Jika pengelolaan dilakukan dengan optimal akan menciptakan sikap disiplin yang tinggi dari mahasiswa kos menjadi suatu kondisi yang sangat diharapkan didalam menciptakan 384 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis kenyamanan dan keamanan bagi mereka yang tinggal jauh dari orang tuanya. Saat mengatur sistem dalam bisnis kost maka pemilik harus bisa membuat aturan agar bisa mengawasi semua aspek yang digunakan pengelolaan inventaris, perawatan fasilitas, penagihan pembayaran dan penanganan keluhan. Dalam islam menjelaskan bahwa manusia dianjurkan untuk bekerja untuk memenuho kebutuhan hidupnya agar bisa mencapai tujuan tercapai. Tujuan bekerja agar bisa memperoleh kebutuhan hidup manusia. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Setiap tahapan wajib diikuti sesuai dengan aturan yang dibuat dan tidak diperbolehkan melakukan dengan cara yang buruk mulai dari membuat rencana sampai dengan pelaksanaannya 385 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis sesuai dengan aturan islam (Jerlin, 2020). Bengkulu merupakan salah satu kota yang berada di pulau Sumatera. Saat ini kota Bengkulu menjadi salah satu kota tujuan dilakukannya pendidikan karena kualitas pendidikan yang bagus. Kebanyakan remaja yang berada di pedesaan menempuh pendidikan di Kota Bengkulu karena merupakan kota yang banyak menghasilkan lulusan terbaik. Salah satu perguruan tinggi yang mencetak lulusan terbaik adalah Universitas Islam Fatmawati Sukarno Bengkulu yang dahulunya bernama IAIN Bengkulu. Setiap tahunnya selalu menerima mahasiswa diberbagai daerah. Untuk menjadi mahasiswa UIN Fatmawati Sukarno perlu adanya berbagai tahapan tes yang dilalui. Tidak semua calon mahasiswa lulus setiap tahapan tes. Oleh karena itu, hanya orang-orang tertentu dapat menjadi mahasiswa perguruan tinggi tersebut. UIN Fatmwati Sukarno merupakan salah satu perguruan tinggi terbaik negeri yang berada di provinsi Bengkulu dengan berbagai macam program studi. Disekitar lingkungan kampus UIN Fatmawati Sukarno Bengkulu banyak terdapat bisnis yang didirikan karena ramai dan sangat banyak mahasiswa berinteraksi di sekitar kampus. Bisnis yang didirikan mulai dari rumah makan, kedai, fotocopy, kos-kosan dan berbagai bisnis lainnya. Lokasi kampus merupakan lokasi yang sangat strategis dapat dijadikan peluang melakukan berwirabisnis karena banyak mahasiswa yang melakukan jual beli disekitar kampus. Salah satu bisnis yang banyak diserbu oleh mahasiswa yaitu bisnis kosan yang berada dilingkungan UIN Fatmawati Sukarno. Berbagai macam jenis kosan yang didirikan di lingkungan kampus dengan harga dan fasilitas berbeda-beda. Biasanya fasilitas yang disediakan berupa kamar tidur, kamar mandi, ruang pengunjung, tempat parkiran, listrik, serta sarana ekstra seperti wifi dan lain-lain. Terdapat salah satu kos yang berada dilingkungan UIN Fatmawati Sukarno Bengkulu. Keadaan bangunan kost berbeda-beda mulai dari satu dengan yang lainnya. Mulai dari perbedaan fasilitas terdapat kekurangan fasilitas dan rusaknya bangunan. Perbedaan kondisi bangunan yang bocor dan fasilitas rusak akan berdampak pada penghuni merasa tidak nyaman karena kondisi tersebut. Oleh karena itu, penghuni akan memilih kos yang memiliki fasilitas memadai karena biaya yang dibayarkan harus sesuai dengan kondisi kosan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Pengertian Manajemen Manajemen merupakan cara mengelola suatu sumber daya agar bisa menghasilkan dan mencapai target yang ditetapkan (Finthariasari, 2015, 2019; yuniarti et al., 2021). Manajemen dilaksanakan dalam suatu bisnis jika dilakukan lebih mengutamakan sikap sesuai dengan yang dianjurkan dalam agama islam yaitu tauhid. Pembahasan dalam manajemen syariah yaitu mengenai sikap pelaku manajemen yang sesuai dengan aturan yang tekah dibuat dengan sebaik mungkin dan menghasilkan sistem yang dapat membantu tercapainya target yang diinginkan. Sejak islam masuk pertama kali bahwa manajemen merupakan sebuah ilmu atau cara yang digunakan mengatur sebuah organisasi. Sejak itu Allah SWT menurukan wahyu kepada kepada Nabi Muhammad maka kemudian adanya beberapa penjelasan mengenai manajemen dalam Islam (Sinn, 2012). Dasar Hukum Manajemen Dalam manajemen syariah merupakan sebuah aturan yang harus dilakukan disertai tanggung jawab dan dijalankan dengan amanah memenuhi kewajiban yang telah dibuat (Finthariasari & Rahmayanti, 2015). Firman Allah SWT QS. An-Nisa’ ayat 58 berbunyi: ٰاِنه اَّلل َٰ َيَْمُرُكُمْ اَنْ ت ُؤَدُّوا اْلَْمٰنٰتِ اِل ٓ ى اَهْلِهَا ٓ ِوَاِذَا حَكَمْتُمْ بَْيَْ النهاسِ اَنْ َتَْكُمُوْا ِبِلْعَدْل ٓانه اَّلل َٰ نعمها يَعظُكُمْ بهٓ ٓانه اَّلل َٰكَانَ َسَي ْعًا ٓبَصَيًْا Dalam manajemen syariah merupakan sebuah aturan yang harus dilakukan disertai tanggung jawab dan dijalankan dengan amanah memenuhi kewajiban yang telah dibuat (Finthariasari & Rahmayanti, 2015). Firman Allah SWT QS. An-Nisa’ ayat 58 berbunyi: ٰاِنه اَّلل َٰ َيَْمُرُكُمْ اَنْ ت ُؤَدُّوا اْلَْمٰنٰتِ اِل ٓ ى اَهْلِهَا ٓ ِوَاِذَا حَكَمْتُمْ بَْيَْ النهاسِ اَنْ َتَْكُمُوْا ِبِلْعَدْل ٓ اِنه اَّلل َٰ نِعِمها يَعِظُكُمْ بِه ٓ ٓ اِنه اَّلل َٰ كَانَ َسَِي ْعًا ٓ بَصَِيًْا Artinya: “Sesungguhnya Allah memerintahkan kepada manusia untuk melaksanakan amanahnya sesuai dengan yang berhak menerimanya dan memerintahkan kepada manusia melaksanakan aktivitas dijalankan secara adil”. (QS. An-Nisa’ ayat 58). Artinya: “Sesungguhnya Allah memerintahkan kepada manusia untuk melaksanakan amanahnya sesuai dengan yang berhak menerimanya dan memerintahkan kepada manusia melaksanakan aktivitas dijalankan secara adil”. (QS. An-Nisa’ ayat 58). PENDAHULUAN Setelah melakukan penelitian terlebih dahulu bahwa terdapat perbedaan biaya dan cara membayar yang dijalankan oleh pemilik kosan yang berada di lingkungan kampus UIN Fatmawati Sukarno Bengkulu.Untuk menjaga tata tertib maka pemilik kosan harus mempunyai aturan yang harus dipatuhi penghuni kos agar bisa teratur dan melindungi kost dari kejadian yang tidak diinginkan. Biasanya peraturan tersebut diletakan di bagian depan pintu kos agar bisa dibaca oleh penghuni. Aturan tersebut dibuat untuk mengatur penghuni dan orang luar agar bisa menjaga keamanan dan kenyamanan penghuni kos. Namun seiring berjalannya waktu peraturan tersebut banyak dilanggar oleh penghuni. Oleh karena itu, perlu adanya pengawasan oleh pemilik kos agar penghuni tidak lagi melanggar peraturan yang telah dibuat. Pengawasan adalah aktivitas yang dilakukan untuk mengontrol setiap pelaksanaan suatu rencana kegiatan agar dapat berjalan sesuai apa yang telah direncanakan. Dalam bisnis kostan harus bisa menjalankan sikap amanah dan tanggungjawab agar bisa memberikan pelayanan yang terbaik bagi konsumen. 386 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Fungsi-Fungsi Manajemen Menurut Pandangan Islam Fungsi-Fungsi Manajemen Menurut Pandangan Islam 1. Fungsi Perencanaan Dalam Islam (Orbandi et al., 2021). 1. Fungsi Perencanaan Dalam Islam (Orbandi et al., 2021). a. Perencanaan Bidang Sumber Daya Manusia (SDM). Sumber daya manusia merupakan seseorang yang bekerja di sebuah perbisnisan yang berguna untuk membantu setiap kegiatan di perbisnisan. Untuk menghasilkan sumber daya manusia yang baik perlu adanya perencanaan yang matang. Cara yang dilakukan yaitu melalakukan penyeleksian sumber daya manusia dengan syarat dan kriteria sesuai dengan yang diharapkan perbisnisan. b. Perencanaan Bidang Keuangan Bidang keuangan merupakan bidang terpenting karena mengatur pemasukan dan pengeluaran suatu perbisnisan. Uang yang digunakan untuk keberlangsungan perbisnisan perlu dikelola dengan baik agar bisa mengetahui keuntungan atau kerugian yang dialami perbisnisan. c. Perencanaan Bidang Produksi Bidang produksi merupakan proses melakukan produksi barang. Sebelum melakukan produski perlu adanya perencanaan dalam memilih bahanbaku yang digunakan pada proses produksi. Bahan yang digunakan harus berasal dari bahan yang aman dan halal dalam islam. 387 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis d. Perencanaan bidang pemasaran. Pemasaran merupakan tahap akhir dalam kegiatan perbisnisan. Setelah barang diproduksi langkah selanjutnya memasarkan kepada orang yang membutuhkan. Pemasaran dilakukan harus memenuhi syarat dalam islam dengan mementingkan kepuasan pelanggan. 2. Fungsi Pengorganisasian Dalam Pandangan Islam. 2. Fungsi Pengorganisasian Dalam Pandangan Islam. a. Aspek Struktur Struktur merupakan pembagian tugas berdasarkan bidang dan jenis pekerjaan yang dilakukan. Struktur kerja penting dibuat agar bisa mengetahui tugas yang harus dikerjakan agar berhasilnya suatu pekerjaan. b. Aspek Tugas dan Wewenang Setelah struktur dibuat sesuai dengan tugas dan masing-masing pekerja harus dilaksanakan sesuai dengan tugasnya masing-masing. 3. Peran Syariah dalam Pengontrolan Pengontrolan dalam islam merupakan proses pengecekan suatu pekerjaan agar mengetahui apakah berhasil atau tidak. Tahapan ini dilaksanakan agar tidak akan ada kejadian yang tidak diinginkan. 4. Peran Syariah dalam Pengawasan Pengawasan dalam islam merupakan proses melakukan penilaian dan pengoreksian suatu pekerjaan agar dapat mencapai tujuan yang diharapkan. Perlu adanya pengawasan dalam suatu perbisnisan berguna untuk perkembangan perbisnisan itu sendiri. Terdapat beberapa hal yang harus diterapkan dalam proses pengawasan yaitu: a) Ketaqwaan b) Individu c) Kontrol anggota. d) Penerapan aturan (Tanjung, 2005). 5. Peran Syariah dalam mengatur Membuat aturan dalam sebuah organisasi penting dilakukan agar organisasi dapat terarah untuk mencapai tujuan yang diinginkan. Oleh karena itu, mengatur sebuah organisasi harus dilakukan dengan kebutuhan yang diharapkan. 5. Peran Syariah dalam mengatur 6. Fungsi-Fungsi Manajemen Menurut Pandangan Islam Pengevaluasian (evaluating) Setelah semua sudah dilaksanakan maka langkah selanjutnya melakukan evaluasi jika terdapat kesalahan. Semua yang dilakukan dalam bisnis pasti ada kesalahan yang terjadi yang akan memberikan dampak bagi keberlangsungan bisnis kedepannya. Oleh karena itu, untuk mengantisipasi kesalahan yang terjadi maka perlu adanya pengevaluasian (Zainarti, 2014). Fungsi Pengelolaan Menurut pendapat John D Millet fungsi manajemen merupakan suatu tahapan yang dilakukan untuk memberikan arahan dan fasilitas yang digunakan dalam organisasi untuk memenuhi tujuan yang dicapai. Terdapat lima peran dalam manajemen yaitu perencanaan, pengorganisasian, komando, koordinasi dan pengendalian. Sistem Pengelolaan Sistem merupakan bagian yang harus dilakukan bertujuan untuk mencapai tujuan yang diinginkan. Sistem dibuat agar memudahkan dalam melakukan kegiatan dalam menjalankan bisnis. Sistem biasanya merangkum semua aktivitas yang dijalankan dalam bisnis (Moekijat, 1996). Menurut Kamus Besar Bahasa Indonesia bahwa manajemen merupakan proses yang dilakukan seorang pemimpin dengan mengatur dan mengendalikan perkerjaan supaya bisa berjalan dengan lancar sesuai dengan rencana yang telah ditetapkan sebelumnya (Salim, 2002). 388 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Tujuan Pengelolaan 1. Agar tujuan suatu organisasi dapat dicapai maka perlu adanya manajemen bertujuan agar pekerja melakukan tugasnya dengan baik agar bisa mencapai visi dan misi yang diharapkan. Oleh karena itu, visi dan misi dapat tercapai dengan optimal. 1. Agar tujuan suatu organisasi dapat dicapai maka perlu adanya manajemen bertujuan agar pekerja melakukan tugasnya dengan baik agar bisa mencapai visi dan misi yang diharapkan. Oleh karena itu, visi dan misi dapat tercapai dengan optimal. g p 2. Setiap kegiatan dalam organisasi harus diukur menggunakan cara yang biasa digunakan agar bisa menghasilkan secara efesien (Usman, 2006). Berikut adalah langkah-langkah dalam melakukan manajemen yaitu: 2. Setiap kegiatan dalam organisasi harus diukur menggunakan cara yang biasa digunakan agar bisa menghasilkan secara efesien (Usman, 2006). Berikut adalah langkah-langkah dalam melakukan manajemen yaitu: a. Membuat strategi terlebih dahulu b. Menentukan alat dan bahan yang digunakan c. Membuat target agar dapat tercapai sesuai waktu yang telah direncanakan d. Menentukan tugas sesuai dengan keahliannya e. Membuat standar kerja yang mencakup efektivitas dan efisiensi f. Menentukan ukuran untuk menilai g. Melakukan musyawarah h. Melaksanakan semua kegitan i. Menilai semua aktivitas yang dikerjakan j. Mengadakan review secara berkala k. Pelaksanaan tahap berikutnya, berlangsung secara berulang-ulang (Wijayanti, 2008). a. Membuat strategi terlebih dahulu b. Menentukan alat dan bahan yang digunakan c. Membuat target agar dapat tercapai sesuai waktu yang telah direncanakan d. Menentukan tugas sesuai dengan keahliannya g g y e. Membuat standar kerja yang mencakup efektivitas dan efisiensi f. Menentukan ukuran untuk menilai g. Melakukan musyawarah h. Melaksanakan semua kegitan i. Menilai semua aktivitas yang dikerjakan j. Mengadakan review secara berkala k. Pelaksanaan tahap berikutnya, berlangsung secara berulang-ulang (Wijayanti, 2008). k. Pelaksanaan tahap berikutnya, berlangsung secara berulang-ulang (Wijayanti, 2008). Indikator Pengelolaan yang Baik Menurut pendapat George R. Terry bahwa manajemen yang sangat baik mengandung unsur-unsur berikut: 1. Persiapan 2. Pengorganisasian 3. Perencanaan dan pola organisasi 4. Jika diperlukan tindakan korektif dapat dilakukan pada kegiatan implementasi yang dapat dilanjutkan sesuai dengan rencana (Terry, 2019). 4. Jika diperlukan tindakan korektif dapat dilakukan pada kegiatan implementasi yang dapat dilanjutkan sesuai dengan rencana (Terry, 2019). Tujuan Ekonomi Islam Islam adalah agama yang bersifat universal artinya bermanfaat bagi semua manusia. Tujuan ekonomi islam yaitu memberikan aturan agar manusia melakukan kegiatan ekonomi sesuai dengan yang diajarkan dalam agama islam. Oleh karena itu, perlu adanya pemahaman tentang islam agar setiap kegiatan ekonomi bermanfaat dan tidak merugikan orang lain (Riyadi, 2014). Pengertian Ekonomi Islam Ekonomi islam merupakan aturan yang mengatur kegiatan perekonomian yang mencangkup seluruh aspek kehidupan. Setiap transaksi jual beli harus sesuai dengan prinsip ekonomi islam yang berpedoman pada Al-Qur’an dan Hadis (Fauzia, 2014). Muhammad bin Abdullah Al Arabi Tariqi berpendapat bahwa ekonomi Islam merupakan prinsip yang dijalankan kegiatan ekonomi pada umumnya yang bersumber pada Al-Qur’an dan Hadis.Menurut pendapat Muhammad Abdul Manan bahwa ekonomi islam merupakan ilmu yang membahas mengenai persoalan ekonomi yang dijalankan dalam masyarakat sesuai dengan prinsip-prinsip islam (Hakim, 2012). Kegunaan Kos Bagi Kalangan Remaja 1. Digunakan untuk tempat tinggal sementara untuk mahasiswa yang berasal dari luar kota atau biasanya berasal dari pedesaan yang mencari ilmu ke kota. 1. Digunakan untuk tempat tinggal sementara untuk mahasiswa yang berasal dari luar kota atau biasanya berasal dari pedesaan yang mencari ilmu ke kota. y p y g 2. Untuk tempat tempat tinggal sementara untuk masyarakat umum yang sedang bekerja yang tidak memiliki rumah di tempat kerjanya. 2. Untuk tempat tempat tinggal sementara untuk masyarakat umum yang sedang bekerja yang tidak memiliki rumah di tempat kerjanya. 3. Sebagai tempat bagi mahasiswa untuk melatih pribadi masing-masing untuk terus berjiwa mandiri, bertanggungjawab dan disiplin mengatur tata kelola yang ada di kos (Wibowo, 2020). Dasar Ekonomi Islam Manusia merupakan makhluk yang diciptakan Allah SWT. Semua tindakan atau aktivitas manusia harus dilakuka sesuai dengan perintah Allah SWT. Aqidah, hukum dan moralitas merupakan dasar dari ajaran Islam. Ketiga dasar harus dipatuhi agar mengahasilkan sistem yang sesuai dengan ajaran islam. Agar bisa mengerti mengenai ekonomi islam perlu adanya pembelajaran secara mendalam mengenai islam itu sendiri dan larangan yang tidak boleh dilakukan oleh manusia. Kosan Istilah kos merupakan kamar yang disewa sebagai tempat untuk berteduh sementara (Poerwadarminta, 2003). Kamar kost atau yang sering juga disebut dengan kos-kosan merupakan tempat tinggal sementara bagi pelajar, mahasiswa, pekerja atau yang melakukan perjalanan jauh. Kos dapat dijadikan tempat teduh semntara bagi para remaja yang sedang menempuh pendidikan di luar kota. Untuk remaja kalangan atas biasanya tinggal di apartemen atau hotel karena memiliki dan lebih dari orang tuanya. Untuk kalangan menengah kebawah biasanya tempat tinggal pilihan berada di kos yang 389 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis berbentuk bangunan dengan beberapa ruang kecil atau seriong disebut kamar kecil (Andriawan, 2016). berbentuk bangunan dengan beberapa ruang kecil atau seriong disebut kamar kecil (Andriawan, 2016). Prinsip-Prinsip Ekonomi Islam a. Kerja Setiap manusia menjalani kehidupan di dunia untuk melakukan pekerjaan agar bisa mendapatkan penghasilan berguna untuk memenuhi kebutuhan hidupnya. Setiap manusia menjalani kehidupan di dunia untuk melakukan pekerjaan agar bisa mendapatkan penghasilan berguna untuk memenuhi kebutuhan hidupnya. b. Kompensasi Kompensasi merupakan bentuk hadiah atau balasan karena telah melakukan pekerjaan sesuai dengan targetnya. b. Kompensasi Kompensasi merupakan bentuk hadiah atau balasan karena telah melakukan pekerjaan sesuai dengan targetnya. c Kerja sama p j g g y c. Kerja sama c. Kerja sama 390 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Dalam sebuh organisasi pasti terdapat tim kerja yang berfungsi untuk membantu setiap pelaksanaan kerja (Karim, 2014). d. Kebebasan bertindak Bebas melakukan apa saja dengan syarat tidak melanggaran ajaran islam. Semua manusia bebas berkreasi sesuai dengan kehendaknya tapi harus sesuai dengan prinsip islam. (Aziz, 2013). METODE PENELITIAN Penelitian ini menggunakan salah satu jenis penelitian yaitu penelitian terapan agar mendapatkan daya secara akurat. Pada penelitian deskriptif yang digunakan oleh peneliti betujuan untuk menjelaskan secara detail mengenai manajemen yang dilakukan oleh pemilik bisnis kos-kosan di lingkungan UINFAS Bengkulu menurut padangan ekonomi Islam. Pengumpulan data menggunakan cara tanya jawab dengan mempersiapkan hal yang ingin ditanyakan. Informan yang dipilih pada penelitian ini yaitu pemilik kosan sebanyak 3 orang dan penghuni kosan sebanyak 6 orang yang berada di kawasan Universitas Islam Negeri Fatmawati Sukarno Bengkulu. Sumber data yang digunakan yaitu data primer dan sekunder. Data primer didapatkan pada pemilik kosan sebanyak 3 orang dan penghuni kosan sebanyak 6 orang. Informasi berupa data didapatkan berasal dari beberapa sumber tambahan. Contohnya didapat dari seseorang berupa jurnal, buku, atau arsip di lokasi penelitian. Teknik pengumpulan data yang digunakan dalam penelitian ini adalah observasi, wawancara dan dokumentasi. Analisis data yang dugunakan penelitian ini yaitu reduksi data, penyajian data dan penarikan kesimpulan verifikasi. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu HASIL PENELITIAN DAN PEMBAHASAN Peraturan Terdapat beberapa peraturan yang diterapkan oleh seluruh kosan yang berada di lingkungan Universitas Islam Negeri Fatmawati Sukarno Bengkulu yaitu sebagai berikut: berikut: a. Tidak boleh menerima tamu yang bukan muhrim b. Selalu mengutamakan kebersihan lingkungan c. Selalu menghemat baik listrik maupun air d. Menerima tamu harus dibawah jam 10 malam e. Selalu menjaga fasilitas yang telah disediakan oleh pemilik kos agar terjaga dengan rapi. Peraturan yang ada pada kamar kost yang ada di lingkungan Universitas Islam Negeri Fatmawati Sukarno Bengkulu belum sesuai dengan syariat islam karena masih banyak penyewa yang melanggar peraturan yang telah dibuat oleh pemilik a. Tidak boleh menerima tamu yang bukan muhrim b. Selalu mengutamakan kebersihan lingkungan c. Selalu menghemat baik listrik maupun air d. Menerima tamu harus dibawah jam 10 malam e. Selalu menjaga fasilitas yang telah disediakan oleh pemilik kos agar terjaga dengan rapi. Peraturan yang ada pada kamar kost yang ada di lingkungan Universitas Islam Negeri Fatmawati Sukarno Bengkulu belum sesuai dengan syariat islam karena masih banyak penyewa yang melanggar peraturan yang telah dibuat oleh pemilik kamar kost yang ada di lingkungan Universitas Islam Negeri Fatmawati Sukarno Bengkulu. Berdasarkan peraturan yang telah dibuat maka para penyewa belum sepenuhnya mematuhi peraturan yang telah dibuat. HASIL PENELITIAN DAN PEMBAHASAN Berdasarkan penelitian yang telah dilakukan pada pemilik kos yang berada di kawasan Universitas Islam Negeri Fatmawati Sukarno Bengkulu bahwa manajemen pengelolaan kos-kosan yang ada di lingkungan uinfas bengkulu terdapat beberapa manajemen yaitu: 1. Harga sewa Saat melakukan sewa menyewa dilaksanakan oleh pemilik kosan dengan calon penghuni dengan peraturan yang sudah dijelaskan sebelumnya. Jika penghuni merasa cocok maka mengikrarkan perjanjian tersebut secara lisan. Perjanjian yang dilakukan oleh pemilik kos dan penyewa menjelaskan mengenai kesepakatan harga yang dikelurkan untuk menyewa disertai waktu atau masa yang dihabiskan oleh penyewa kos. Untuk setiap pemilik kos yang berada di kawasan Universitas Islam Negeri Fatmawati Sukarno Bengkulu dan sewa menyewa dilakukan dengan lisan terhadap penghuni kamar sewa. Perjanjian yang telah disepakati oleh penyewa dan pemilik sewa yang berada di lingkungan Universitas Islam Negeri Fatmawati Sukarno Bengkulu ini sudah sesuai dengan etika bisnis Islam karena perjanjian yang terlah dibuat tertera mengenai jumlah biaya yang harus dibayarkan oleh pihak penyewa bagi penyewa kos. Kesepakatan yang dijelaskan saat sewa menyewa yaitu sebagai berikut: 391 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis a. Menjelaskan mengenai biaya sewa yang dikeluarkan oleh penyewa yang dihitung berdasarkan jumlah kamar yang disewa. Harga ditetapkan berdasarkan kondisi kamar yang ditawarkan oleh pemilik kos yang berada di kawasan Universitas Islam Negeri Fatmawati Sukarno Bengkulu. a. Menjelaskan mengenai biaya sewa yang dikeluarkan oleh penyewa yang dihitung berdasarkan jumlah kamar yang disewa. Harga ditetapkan berdasarkan kondisi kamar yang ditawarkan oleh pemilik kos yang berada di kawasan Universitas Islam Negeri Fatmawati Sukarno Bengkulu. b. Jangka waktu yang ditetapkan pemilik kos Pemilik kos menjelaskan mengenai waktu yan dibutuhkan untuk menyewa kosan. Jika waktu yang dibutuhkan lebih lama maka biaya yang dikeluarkan juga lebih besar. Penyewa dan pemilik sudah menyepakati biaya disertai jangka waktu yang telah ditetapkan. Selain itu biaya lain juga dijelaskan pemilik misalnya biaya listrik dan air yang digunakan penyewa selama masa sewanya berlangsung. Untuk pembayaran kos biasanya sebulan atau setahun tergantung pemilik sewa menawarkan. Biasanya dibayar dengan jangka waktu satu tahun. p y y g j g 2. Fasilitas Fasilitas yang diberikan oleh pemilik kos yang berada di lingkungan Universitas Islam Negeri Fatmawati Sukarno Bengkulu sudah sesuai dengan etika bisnis Islam karena fasilitas yang diberikan sudah lengkap yang dapat dimanfaatkan penyewa dalam menjalankan aktivitasnya.Terbukti fasilitas yang diberikan berupa ruang tamu, lemari, tempat tidur, bak mandi dan lainnya. 3. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENUTUP Berdasarkan hasil penelitian yang telah dilakukan dapat diambil kesimpulan bahwa manajemen kosan yang berada di kawasan Universitas Islam Negeri Fatmawati Sukarno Bengkulu sudah melaksanakan fungsi organizing yaitu telah memberikan fasilitas yang penting misalnya kamar tidur, kamar mandi umum, kamar mandi dalam kamar, dapur umum, tempat cuci piring, tempat jemur pakaian, ruang tamu, tempat parkiran, karpet, ranjang. Untuk fasilitas tambahan yaitu berupa wifi. Untuk fungsi actuating sudah dilaksanakan oleh pemilik kos yaitu menjelaskan mengenai biaya yang wajib dibayar penyewa yang telah dijelaskan oleh pemilik kepada penyewa biaya kamar kos perbulan dengan fasilitas yang disediakan. Bagi penyewa yang melakukan 392 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis keterlambatan bayar akan diberikan keringanan. Untuk fungsi controlling tidak dijalankan dengan benar karena masih banyak yang melakukan pelanggaran peraturan yang sudah ditetapakan. Menurut pandangan ekonomi islam bahwa setiap prinsip yang dilakukan pihak pemilik sewa telah menjelasakan mengenai biaya dan peraturan yang harus dipatuhi agar calon penyewa mengetahui dengan jelas kosan yang ingin ditempati. keterlambatan bayar akan diberikan keringanan. Untuk fungsi controlling tidak dijalankan dengan benar karena masih banyak yang melakukan pelanggaran peraturan yang sudah ditetapakan. Menurut pandangan ekonomi islam bahwa setiap prinsip yang dilakukan pihak pemilik sewa telah menjelasakan mengenai biaya dan peraturan yang harus dipatuhi agar calon penyewa mengetahui dengan jelas kosan yang ingin ditempati. Bagi pemilik bisnis kos harus menggunakan bahan bagunan yang memiliki kualitas yang bagus agar kondisi bangunan tetap awet bisa digunakan dalam jangka waktu yang panjang. Bagi pemilik bisnis kos harus melakukan proses transaksi sesuai dengan syariat islam. Bagi penghuni kos untuk terus mematuhi peraturan yang telah dibuat pemilik. karena aturan tersebut dibuat bertujuan untuk memeberikan kenyamanan bagi penghuni kos. Oleh sebab itu, perlu adanya pengontrolan bagi penyewa karena aturan yang dilanggara akan memberikan dampak negatif bagi penyewa itu sendiri. Cara mengontrol misalnya pemilik kosan harus menggunakan cara seperti memantau penghuni kos setiap malam, melakukan pengecekan secara rutin, mengawasi, melihat dan berkeliling di perkarangan kos setiap malam. Apabila cara ini dilakukan, maka dapat mengurangi pelangaran. DAFTAR RUJUKAN Achmad Nizar Assholikin. (2020). Perancangan Manajemen Pengelolaan Rumah Kos Berbasis Web. Jurnal Teknologi Informatika Dan Komputer, Vol.6 No.1, 23. f Andriawan, D. R. dan F. O. (2016). Aplikasi Sistem Informasi Pencarian Tempat Kos Dikota Bandung Berbasis Android. Jurnal Computech & Bisnis., Edisi 10 N, 50. g Asnaw, N. (2017). Pemasaran Syariah. Rajawali Pers. Aziz, A. (2013). Etika Bisnis Perspektif Islam. Alfabeta. Aziz, A. (2013). Etika Bisnis Perspektif Islam. Alfabeta. Fauzia, I. Y. (2014). Prinsip Dasar Ekonomi Islam. Kencana. Finthariasari, M. (2015). The Effect Transformational Leadership, Financial Incentives, Power Of Leadership, and Empowerment Climate On Intrinsic Motivation. Proceeding: Transforming Business in Emerging Markets 4 Th AIMI International Conference, 1, 978–602. Finthariasari, M. (2019). Variable Employee Engagement, Organizational Commitment, Job Embeddedness, OCB, & Turnover Intention In Conventional Banks Employees At Bengkulu City [Disertasi]. Universitas Bengkulu. Finthariasari, M., & Rahmayanti, D. (2015). Peranan Pemimpin Terhadap Disiplin Pegawai Kementerian Agama Provinsi Bengkulu Kelompok Jabatan Fungsional. In AUB" Surakarta (Issue November). Firdaus, M. (2009). Manajemen Agribisnis. Bumi Aksara. Hakim, L. (2012). Prinsip-prinsip Ekonomi Islam. Erlangga. Jerlin, L. O. (2020). Sistem Pengelolaan Kos-Kosan di Kompleks IAIN Ambon dalam Perspektif Ekonomi Islam. IAIN Ambon. Karim, A. (2014). Ekonomi Mikro Islam. Raja Wali Press. Moekijat. (1996). Pengantar Sistem Informasi Manajemen. Remaja Rosdakarya. Orbandi, H., Indriasari, N., & Anggriani, I. (2021). Hubungan Disiplin Kerja Dan Finthariasari, M., & Rahmayanti, D. (2015). Peranan Pemimpin Terhadap Disiplin Pegawai Kementerian Agama Provinsi Bengkulu Kelompok Jabatan Fungsional. In AUB" Surakarta (Issue November). Finthariasari, M., & Rahmayanti, D. (2015). Peranan Pemimpin Terhadap Disiplin Pegawai Kementerian Agama Provinsi Bengkulu Kelompok Jabatan Fungsional. In AUB" Surakarta (Issue November). Firdaus, M. (2009). Manajemen Agribisnis. Bumi Aksara. Firdaus, M. (2009). Manajemen Agribisnis. Bumi Aksara. Hakim, L. (2012). Prinsip-prinsip Ekonomi Islam. Erlangga. , ( ) p p p gg Jerlin, L. O. (2020). Sistem Pengelolaan Kos-Kosan di Kompleks IAIN Ambon dalam Perspektif Ekonomi Islam. IAIN Ambon. Karim, A. (2014). Ekonomi Mikro Islam. Raja Wali Press. Moekijat. (1996). Pengantar Sistem Informasi Manajemen. Remaja Rosdakarya. Orbandi, H., Indriasari, N., & Anggriani, I. (2021). Hubungan Disiplin Kerja Dan erlin, L. O. (2020). Sistem Pengelolaan Kos-Kosan di Kompleks IAIN Ambon dalam Perspektif Ekonomi Islam. IAIN Ambon. Jerlin, L. O. (2020). Sistem Pengelolaan Kos-Kosan di Kompleks IAIN Ambon dalam Perspektif Ekonomi Islam. IAIN Ambon. Karim, A. (2014). Ekonomi Mikro Islam. Raja Wali Press. Moekijat. (1996). Pengantar Sistem Informasi Manajemen. Remaja Rosdakarya. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 39 DAFTAR RUJUKAN O b di H I d i i N & A i i I (2021) H b Di i li K j D Jerlin, L. O. (2020). Sistem Pengelolaan Kos-Kosan di Kompleks IAIN Ambon dalam Perspektif Ekonomi Islam. IAIN Ambon. Karim, A. (2014). Ekonomi Mikro Islam. Raja Wali Press. p f Karim, A. (2014). Ekonomi Mikro Islam. Raja Wali Press. j Moekijat. (1996). Pengantar Sistem Informasi Manajemen. Remaja Rosdakarya. Moekijat. (1996). Pengantar Sistem Informasi Manajemen. Remaja Rosdakarya. Orbandi, H., Indriasari, N., & Anggriani, I. (2021). Hubungan Disiplin Kerja Dan Orbandi, H., Indriasari, N., & Anggriani, I. (2021). Hubungan Disiplin Kerja D 393 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS) Vol. 6, No. 2 / Juli 2023 Online ISSN: 2655-6359, Print ISSN: 2656-436X DOI: https://doi.org/10.36085/jam-ekis Kepuasan Kerja Dengan Kinerja Pegawai Pada Dinas Pendidikan Dan Kebudayaan Provinsi Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 4(2). Kepuasan Kerja Dengan Kinerja Pegawai Pada Dinas Pendidikan Dan Kebudayaan Provinsi Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen Dan Poerwadarminta, W. J. S. (2003). Kamus Umum Bahasa Indonesia. Balai Pustaka. Rivaldi, A. (2021). Sistem Manajemen Penyewaan Kamar Kos Berbasis Web Web- Based Boarding House Rental Management System. Jurnal Script. Riyadi, I. yunia fauzia dan abdul kadir. (2014). Prinsip Dasar Ekonomi Islam Perspektif Maasbid Al-Syari’ah. Kencana Prenada Media Group. Salim, P. S. dan Y. (2002). Kamus Bahasa Indonesia Kontempore. Modern English Press. Sinn, A. I. A. (2012). Manajemen Syariah. PT Raja Grafindo Persada. Suma, M. A. (2013). Tafsir Ayat Ekonomi. Amzah. Tanjung, D. H. dan H. (2005). Manajemen Syariah Dalam Praktik. Gema Insani. Tanjung, D. H. dan H. (2005). Manajemen Syariah Dalam Praktik. Gema Insani. Terry, G. R. (2019). Dasar-Dasar Manajemen. Tanjung, D. H. dan H. (2005). Manajemen Syariah Dalam Praktik. Gema Insani. Terry, G. R. (2019). Dasar-Dasar Manajemen. y j Usman, H. (2006). Manajemen Teori, Praktik, dan Riset Pendidikan. PT Bumi Aksara. Usman, H. (2006). Manajemen Teori, Praktik, dan Riset Pendidikan. PT Bumi Aksara. Wibowo, R. (2020). Praktik Bisnis Kamar Kost di Lingkungan IAIN Parepare (Analisis Etika Bisnis Islam). IAIN Parepare. Wibowo, R. (2020). Praktik Bisnis Kamar Kost di Lingkungan IAIN Parepare (Analisis Etika Bisnis Islam). DAFTAR RUJUKAN IAIN Parepare. Wijayanti, I. D. (2008). Manajemen. Mitra Cendikia Press. yuniarti, R., Irwansyah, R., Hasyim, M. A. N., Riswandi, P., Septania, S., Rochmi, A., Febrianty, F., Wijaya, I. G. B., Handayani, F. S., Bambang, B., Setiorini, A., Finthariasari, M., & Bahrun, K. (2021). Kinerja Karyawan (Tinjauan Teori dan Praktis). In E. Jaelani (Ed.), Book Chapter (1st ed., pp. 1–62). Widina Bhakti Persada Bandung. Zainarti. (2014). Manajemen islami Perspektif Al-qur’an. Jurnal Iqra’, Volume 08. Zainarti. (2014). Manajemen islami Perspektif Al-qur’an. Jurnal Iqra’, Volume 08. 394 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 39
https://openalex.org/W2499106476
https://www.frontiersin.org/articles/10.3389/frma.2016.00003/pdf
English
null
A Comparative Study of the Citation Impact of Chinese Journals with Government Priority Support
Frontiers in research metrics and analytics
2,016
cc-by
6,277
A Ping Zhou1* and Loet Leydesdorff2 1 Department of Information Resources Management, School of Public Affairs, Zhejiang University, Hangzhou, China, 2 Amsterdam School of Communication Research (ASCoR), University of Amsterdam, Amsterdam, Netherlands In order to improve the citation impact of Chinese journals, relevant Chinese government agencies have launched a program entitled Citation Impact Upgrading Plan (CIUP) with financial support. Only a few journals that perform better have been screened out for CIUP support. This study tries to figure out if the screening results reflect the bibliometric status of the journals. We compare journals being supported by CIUP with unsupported ones. Journals supported by the CIUP have made progress in raising their journal impact factor (JIF) values and perform better in terms of JIF values. Journals citing CIUP journals have a spectrum of higher JIF values. Journals in a cited network of a CIUP journal are better integrated with one another. However, wide gaps still exist between Chinese and leading international journals. A network visualization of being-cited patterns can be used to measure a journal’s citation impact in relation to the JIF values of journals in the network. Policy suggestions on improving citation impact of Chinese journals will be proposed. Edited by: Keywords: Chinese journal, citation impact, cited network, international visibility, government support Edited by: Henk F. Moed, Sapienza University of Rome, Italy Keywords: Chinese journal, citation impact, cited network, international visibility, government support Reviewed by: Reviewed by: Saeed-Ul Hassan, Information Technology University, Pakistan Thed Van Leeuwen, Leiden University, Netherlands *Correspondence: Ping Zhou pingzhou@zju.edu.cn Received: 05 February 2016 Accepted: 07 July 2016 Published: 02 August 2016 Citation: Zhou P and Leydesdorff L (2016) A Comparative Study of the Citation Impact of Chinese Journals with Government Priority Support. Front. Res. Metr. Anal. 1:3. doi: 10.3389/frma.2016.00003 Reviewed by: Saeed-Ul Hassan, Information Technology University, Pakistan Thed Van Leeuwen, Leiden University, Netherlands *Correspondence: Ping Zhou pingzhou@zju.edu.cn Received: 05 February 2016 Accepted: 07 July 2016 Published: 02 August 2016 Right after the United States, China has been the second largest producer of scientific publications since 2006 (Zhou and Leydesdorff, 2008; ISTIC, 2013). With citation impacts rising continuously, China jumped to the fifth position in 2013 in terms of national total citations from the eighth in 2010 (ISTIC, 2013). This position was reached 2 years earlier than targeted by the Ministry of Science and Technology (MOST) of China in the 12th National Plan for the Development of Science and Technology (NPDST). In terms of total citations received by journals in specific disciplines, however, significant variation exists with journals in chemistry, materials science, engineering technology, mathematics, computer science, and physics receiving the most citations, and thus taking the second position in the shares of total world (ISTIC, 2013). Information Technology University, Pakistan Thed Van Leeuwen, Leiden University, Netherlands *Correspondence: Ping Zhou pingzhou@zju.edu.cn In addition to being a second largest producer of academic papers, China is also the second largest publishing nation of academic journals. Of the 9,884 Chinese journals, approximately 5,300 are in science and technology (Liu, 2012; Yao et al., 2014). International visibility of Chinese journals is still low but improving (Jin and Rousseau, 2004; Leydesdorff and Jin, 2005; Zhou and Leydesdorff, 2007a,b; ISTIC, 2013): in addition to a growing number of journals being included in Science Citation Index – Expanded (SCIE), the number of journals in the first and second quartiles of the journal impact factors (JIFs) have also increased. Original Research published: 02 August 2016 doi: 10.3389/frma.2016.00003 Citation: Zhou P and Leydesdorff L (2016) A Comparative Study of the Citation Impact of Chinese Journals with Government Priority Support. Front. Res. Metr. Anal. 1:3. doi: 10.3389/frma.2016.00003 August 2016  |  Volume 1  |  Article 3 Frontiers in Research Metrics and Analytics  |  www.frontiersin.org 1 Cited Networks of Chinese Journals Zhou and Leydesdorff In 2014, 173 Chinese journals were included in the Journal Citation Reports (JCR), of which 22 (12.5%) in the first quartile and 42 (23.9%) in the second quartile, whereas the corresponding figures were, respectively, 160, 11 (6.9%), 40 (25.0%) in 2013.1 The number of journals in the first quartile doubled within 1 year. Nevertheless, international visibility of Chinese journals is still low in terms of both inclusion ratios in WoS and JIF values: only around 3% of China’s 5,300 S&T journals are indexed in the SCIE, and JIF values of most of these journals (63.6% in 2014) are in the lowest (third and fourth) quartiles of the JCR (see text footnote 1). example, national-level projects include the Journal Phalanx of China of State APPRFT, the Development Strategy Research for Competitive S&T Journals of the MOST, and the Key Academic Specific Foundation of the National Natural Science Foundation of China (NSFC). Years have passed since the launch of the above projects, and the original targets of raising journal impact and international visibility have remained beyond reach.i In order to improve the situation, another financial support project – the International Impact Upgrading Plan for Chinese S&T Journals (abbreviated as CIUP)  –  was jointly launched, in November 2013, by six government agencies, including the State APPRFT, the China Association for Science and Technology (CAST), the Ministry of Finance, the Ministry of Education (MOE), the Chinese Academy of Sciences (CAS), and the Chinese Academy of Engineering (CAE). The CIUP is carried out in two steps. The first step was to raise JIF values of a selected set of journals to quartiles 1 and 2 in JCR by the end of the 12th 5-Year Plan (2011–2015) and to establish a journal set that can represent research frontiers or dominant fields of China, or in fields in which China does not have its own journals yet. The second step is to form a world-top-journal set in which China has independent intellectual property rights by the year 2020. Citation: q In order to raise international visibility and especially the citation impact of Chinese journals, relevant government agen- cies of China have launched a series of supporting projects. Different government agencies provide incentives with different objectives. Before moving further, it is necessary to explain the complex administrative structure of Chinese journals (Figure 1). At the national level, administration is carried out by State Administration of Press, Publication, Radio, Film and Television (state APPRFT) after integration with other government agen- cies. The APPRFT is under the direct control of the State Council of China and has branches at each province and municipality. In addition to making regulations and policies relevant to journal publishing and development, State APPRFT has the power of authorizing establishment of new journals and carries out routine censorship, whereas provincial APPRFTs are responsible for administration and control (including censorship) of local journals. Candidate journals for CIUP support must be published in English and under the management of one of the above six government agencies. To ensure high-quality journals to be sup- ported, the selection scheme combines bibliometric indicators, expert reviews, and an assessment of editorial boards. In total, 76 S&T journals have been selected for CIUP support. Compared with the 5,300 scholarly journals in science and technology, the 76 supported journals may seem few, but these are almost half (47%) of the Chinese journals indexed in the SCIE in 2013.hi Routine management of Chinese academic journals is car- ried out by editorial boards affiliated with research institutes, universities, and academic associations/societies. The institu- tions are also affiliated with respective government agencies. Different governmental agencies are responsible for different sets of journals with different policies aiming at quality improve- ment, but with a common focus on international visibility. For The supported journals are classified into four categories, namely A, B, C, and D, and receive annual support of 2 million RMB (322,092 US$), 1 million RMB (161,046 US$), 0.5 million RMB (85,230 US$), and only once with 0.5 million RMB (85,230 US$), respectively. Basic conditions for journals in categories A, B, and C are two – published in English and indexed in SCIE or Environment International (EI) or MedLine. Journals in category D are not required to be in English but will have an English version in the future. Financial support for journals in category D last for 3 years, and 10 journals are selected each year. 1 https://jcr.incites.thomsonreuters.com/JCRJournalHomeAction.action?SID=A2- uBT1Q0j5w0vJ6KAtJkx2BYatx2BlbTBnOasF-18x2dDERVkILV0BdTPTpUU0 DGKQx3Dx3DmUK7LrcuxxAJgHcx2FVlEhO0wx3Dx3D-9vvmzcndpRgQC GPd1c2qPQx3Dx3D-wx2BJQh9GKVmtdJw3700KssQx3Dx3D&SrcApp=IC2LS &Init=Yes MATERIALS AND METHODS We apply routines developed by Leydesdorff and Cozzens (1993) with aggregated journal–journal citation matrices are harvested from JCR data from the perspective of a seed journal. A seed journal is the one under investigation and acts as a starter to run the routines. Any journal indexed in Science Citation Index (SCI) or Social Science Citation (SSCI) can be used as a seed. The result- ing ego-network is composed of journals citing or cited by a seed journal. Journals citing a seed journal form a citing network and those cited by a seed journal constitute a cited network. A cita- tion network includes all journals that cite or are cited by a seed journal to the extent of a contribution of, for example, 1% of the seed journal’s total citation rate (He and Pao, 1986; Leydesdorff, 1986). By default, the threshold is 1% in the routines, but this can be changed so as to include an appropriate number of journals in a local citation network. For a network with too many journals, one can raise the threshold in order to reduce the size of the network, and vice versa. j g y To select journals supported by the CIUP, two criteria are applied. First, a journal must be listed in categories A or B of the CIUP, because journals in these two categories are supposed of relatively higher quality than those in categories C and D accord- ing to the support conditions of CIUP. Second, a journal must have been indexed in SCIE for at least 10 years (Slyder et al., 2011; Finardi, 2014) so as to ensure an equal or at least similar length of the citation window. To investigate possible disciplinary/field variation, journals in different disciplines/fields are included for comparative analysis. Journals with title changes were not included because of a possible discontinuity of citation data. For example, under the title Science in China, there were series A to E representing different fields until 2011 and then the journal titles were changed to Science China plus field names such as Science China-Mathematics, Science China-Chemistry, and so on. The citation data of such title-changed journals in JCR have not been fully integrated yet. Citation: The number of journals supported by the CIUP is 6, 30, 30, and 10 in categories A, B, C, and D, respectively. Journals in category A are all indexed in the SCIE, whereas some in the other three categories (i.e., B, C, and D), however, are not included in SCIE in 2013. FIGURE 1 | The administrative structure of Chinese journals. In this paper, we investigate if the CIUP scheme corresponds with citation impact in terms of cited patterns of a target JIF and country of origin of journals in its cited environment. Is a journal in a higher rank of a supporting category more influential internationally or domestically (i.e., cited by more international or Chinese journals) or cited by more journals with higher JIF values? Does disciplinary/field variation exist in the above issues? The investigation will be done by comparing between CIUP sup- ported and unsupported Chinese S&T journals indexed in the SCIE. Furthermore, cited patterns of leading international jour- nals in the same subject category of the JCR will also be included FIGURE 1 | The administrative structure of Chinese journals. Frontiers in Research Metrics and Analytics  |  www.frontiersin.org August 2016  |  Volume 1  |  Article 3 Frontiers in Research Metrics and Analytics  |  www.frontiersin.org 2 Cited Networks of Chinese Journals Zhou and Leydesdorff in the comparison so as to figure out the gap between Chinese and leading international journals. in the comparison so as to figure out the gap between Chinese and leading international journals. In a citation environment, a journal’s node size is determined by the logarithm of its contribution to the total number of cita- tions in a local environment during the year under investigation. Citation counts are based on total citations to a journal during the current year and are combined for both the SCI and SSCI. In fact, comparative studies between Chinese and interna- tional journals have been carried out before (Jin and Leydesdorff, 2005; Li, 2006; Zhou and Leydesdorff, 2007a,b; Zhou et al., 2010). For example, based on data of the JCR of Thomson Reuters and the China Scientific and Technical Papers and Citations Database (CSTPCD) of the Institute of Scientific and Technological Information of China (ISTIC; Zhou and Leydesdorff, 2007a,b), compared journal–journal citation relations from different perspectives, and found that international visibility of high- quality Chinese journals was low. 2 Pajek is a routine for the analysis and visualization of large networks, freely avail- able at http://mrvar.fdv.uni-lj.si/pajek/ Citation: Years have passed since the previous studies, and the situation has changed with China’s rapid development in science and technology and its increasing R&D investment during the past 10 years (MOST, 2012; NBS, 2013). The launch of CIUP ignites our interests of mapping an updated picture of Chinese journals by focusing on the supported versus unsupported Chinese journals in terms of their respective posi- tions in the international scholarly community and to assess the rationality of CIUP in selecting journals of better performance in the international community. Many programs, such as VOSviewer, Pajek, or Gephi, can be used to visualize journal citation networks. In this study, we use Pajek because it serves the purpose of illustrating the relative cited size of individual journals in local environments. Data of a citation environment can be imported into Pajek after being generated by the routines. The cosine between two vectors (Salton and McGill, 1983) is used to measure the similarity between the distributions of various journals included in a citation network (Leydesdorff, 2007). A visualized citation network showing strength of citation relations between journals in a local environment can thus be obtained. To display citation impact of a seed journal, cited relations are generated from the 2013 version of the JCR of Thomson Reuters. Comparison is carried out between three types of journals, namely supported and unsupported Chinese journals, as well as leading international journals. Cited counts of a journal are all citations to items published in the journal in the past 10 years of 2013 including the year 2013. Such calculation may result in a bias to journals included in the SCIE in different years: a journal indexed earlier may have more chances of being cited in the cur- rent year. To avoid or reduce this possible bias, we select journals indexed in the same year or journals at least 10 years (i.e., in or before 2004) in the SCIE in the same subject category. RESULTS The study focuses on the cited patterns of the selected journals in 2013. When visualizing a cited network of a seed journal, the threshold was set at 1%. In other words, journals appearing in a cited network contribute at least 1% to the total citations of a seed journal. The maps are based on cosine ≥0.2. With already much higher JIF (3.516) value than JESC (0.720) in 2008, the Environment International (EI) outperforms JESC in raising JIF value, which widens the gap between the two. This implies a harder task for JESC to catch up with leading international journals such as EI. Scope of citation impact of EI is wider with 15 journals contributing at least 1% to its total citations. JIF values of journals in the cited network of EI range from 1.679 of Environmental Monitoring and Assessment to 5.323 of Water Research. Average JIF value (3.607) of journals citing EI is higher than that of JESC (2.941). Journals except Plos One in the cited network of EI are completely integrated with each other (Figure 2C). In other words, journals in the cited network of EI integrate better than those in the two Chinese journals. MATERIALS AND METHODS of the total citations of JESC is significantly more than that of journals citing BES, which may imply a wider scope of impact of JESC. In a visualized cited network, a journal is considered as well integrated into the scholarly communication of a specific field if most journals in the network cite one another. With limited time and specific research interests, authors, especially those publishing in high-impact journals, may not read all publications in their fields. Instead, they focus on publications in journals of high-impact and/or of specific interests, which may result in stable citations to high-impact journals. Furthermore, authors being able to publish in high-impact journals are more likely to cite papers in high-impact journals, and thus resulting in a well- integrated citation network. Journals with fewer citation relations and at the edge of a citation network are less frequently accessed by scholars in a specific scholarly community, and thus have fewer chances of being cited. High-impact journals in a specific field are more likely to generate a well-integrated citation network, whereas multidisciplinary journals and journals of low impact are less likely to have an integrated citation network because of being less frequently accessed by scholars. Journal impact factor values of journals contributing at least 1% of the total citations of JESC range from 0.527 of Fresenius Environmental Bulletin to 5.323 of Water Research, and JIFs of those citing BES range from 1.257 of BES to 3.534 of Plos One. In other words, JESC has impact on journals with much higher JIF values. In terms of being cited by foreign journals, both JESC and BES receive citations from foreign journals (Figures 2A,B). Nevertheless, international visibility of JESC is clearly higher than that of BES because of significantly more journals citing JESC. i Regarding structure of cited networks (Figure  2A), JESC is surrounded by journals in environmental sciences except Plos One – a multidisciplinary journal. Most journals cite one another in addition to citing JESC. Nevertheless, holes exist in the network. Journals, such as Fresenius Environmental Bulletin, Desalination and Water Treatment, and Ecological Engineering, do not link with other journals in the network. In other words, not all journals in the cited network of JESC have established citation relations with each other. In terms of integration in its own network (Figure 2B), BES performs worse: the only four journals in its cited network do not cite each other. MATERIALS AND METHODS Each journal in a network is represented by a node which can be a circle or an ellipse in a Pajek picture.2 The size of an ellipse is determined by the corresponding journal’s contribution to the citing or cited environment in the year under investigation. The distinction of the vertical and horizontal size of the ellipse informs the reader about the extent to which within-journal (self-)cita- tions participate in the citation impact (Leydesdorff, 2007; Zhou and Leydesdorff, 2008). Note that within-journal citations can be author self-citations or citations among authors publishing in the same journal. Citations excluding journal self-citations can be considered as a measure of inter-journal communication. Based on the above criteria, a few journals in categories A and B of CIUP can be selected (Table 1). The EI and Communications on Pure and Applied Mathematics (CPAM) were added for illustrating the gap between Chinese and leading international journals. The citation impact of a seed journal is positively related to its JIF and also JIFs of journals in the seed journal’s cited network. In addition, the academic reputation of the editor and editorial board members plays a role. Editorial board members of lead- ing international journals are from all over the world with high academic impact, whereas those of Chinese journals are less so. Therefore, assessing international visibility should also consider Frontiers in Research Metrics and Analytics  |  www.frontiersin.org August 2016  |  Volume 1  |  Article 3 3 Cited Networks of Chinese Journals Zhou and Leydesdorff TABLE 1 | Journals being analyzed. Subject category Journal title JIF All year citations CIUP category Initial year in JCR Country origin 2008 2013 Growth Growth (%) Environmental Sciences Journal of Environmental Sciences – China (JESC) 0.720 1.922 1.202 166.9 4,774 A 2003 China Biomedical and Environmental Sciences (BES) 0.675 1.257 0.582 86.2 1,343 Not applicable 1998 Environment International (EI) 3.516 5.664 2.148 61.1 10,171 Not applicable 1997 USA Mathematics Journal of Computational Mathematics (JCM) 0.765 1.049 0.284 37.1 815 B 1997 China Acta Mathematica Scientia (AMS) 0.222 0.620 0.398 179 593 Not applicable 1997 Communications on Pure and Applied Mathematics (CPAM) 3.806 3.080 −0.726 −19.1 6,904 Not applicable 1997 USA the country of origin of journals citing a seed journal, in addition to JIF values. In a cited network, the more journals from foreign countries, the higher the international visibility a journal is. MATERIALS AND METHODS This situation may lead to unstable citation relations of BES, and thus affect the increase of citation impact (e.g., JIF value). Compared with journals in the cited network of JESC, such as Water Research, Journal of Hazardous Materials, and Chemosphere, JESC has received much fewer citations, but the reception of BES is even worse. Citation Impact of Journals in Environmental Sciences In environmental sciences, Journal of Environmental Sciences – China (JESC) is supported under category A by the CIUP, whereas Biomedical and Environmental Sciences (BES) is not. In 5 years from 2008 to 2013, JIF of JESC has increased by 166.9% from 0.720 to 1.922, and that of BES has also increased but with a lower ratio (86.2%) from 0.675 to 1.257 (Table 1). JESC outperforms BES in terms of both absolute value and growth rate of JIF, resulting in an enlarged gap between the two journals because of increased JIF difference from 0.045 (in 2008) to 0.565 (in 2013). The number of journals contributing more than 1% August 2016  |  Volume 1  |  Article 3 Frontiers in Research Metrics and Analytics  |  www.frontiersin.org 4 Cited Networks of Chinese Journals Zhou and Leydesdorff FIGURE 2 | Cited patterns of journals in environmental sciences in 2013 (threshold = 1%, cosine ≥ 0.2). (A) Journal of Environmental Sciences – China (JESC), (B) Biomedical and Environmental Sciences (BES), and (C) Environment International. FIGURE 2 | Cited patterns of journals in environmental sciences in 2013 (threshold = 1%, cosine ≥ 0.2). (A) Journal of Environmental Sciences – China (JESC), (B) Biomedical and Environmental Sciences (BES), and (C) Environment International. Citation Impact of Journals in Mathematics Modelling to 2.485 of Journal of Computational Physics, whereas those in the cited network of AMS range from 0.620 of AMS to 2.486 of Fixed Point Theory and Applications. Thus, the two journals have similar impact on a journal set of similar JIF values. With most citing journals originated from foreign coun- tries, the international visibilities of both journals are similar (Figures 3A,B). Of the three journals in mathematics in Table  1, Journal of Computational Mathematics (JCM) and Acta Mathematica Scientia (AMS) are from China and CPAM is from USA. JCM is supported under category B of CIUP, whereas AMS in not sup- ported by the CIUP. Both journals are under the subject category of mathematics and have been indexed in SCIE since 1997. CPAM is a top journal in mathematics in terms of JIF value and is selected for international comparison for the two Chinese journals. In its cited network (Figure  3A), JCM is surrounded by journals in mathematics, indicating a good integration of JCM in the scholarly community of mathematics. In fact, all journals in the cited network of JCM are in mathematics and mostly link (cite) each other forming an integrated unity. Nevertheless, some journals, such as Linear Algebra and Applications, Science China-Mathematics, Computer Physics Communications, and Mathematical Problems in Engineering, do not have links with other journals in the network. Journal of Computational Mathematics performs better than AMS in absolute JIF value, but not in relative growth rate. The JIF value of JCM has been increased by 37.1% from 0.765 to 1.049 in the 5 years, whereas that of AMS increased by 179.0% from 0.222 to 0.620. JIF difference between the two journals has been reduced slightly from 0.543 to 0.429 (Table 1). By 2013, the cited networks of JCM and AMS cover, respectively, 25 and 16 journals, which implies a wider impact scope of JCM compared with that of AMS.h Located at the edge of its own cited network (Figure 3B), AMS is less integrated into the cited network compared with JCM. Frontiers in Research Metrics and Analytics  |  www.frontiersin.org DISCUSSION AND CONCLUSION Differential Equations, are partly isolated from the network. With smallest node size in their cited networks, both JCM and AMS receive much fewer citations than journals with large node size. In other words, the overall citation impact (i.e., total citations in all years) of the two Chinese journals is very low compared with those in their cited network, such as Journal of Computational Physics, Applied Mathematics and Computation, Journal of Mathematical Analysis and Application, and Applied Mathematics and Computation. Differential Equations, are partly isolated from the network. With smallest node size in their cited networks, both JCM and AMS receive much fewer citations than journals with large node size. In other words, the overall citation impact (i.e., total citations in all years) of the two Chinese journals is very low compared with those in their cited network, such as Journal of Computational Physics, Applied Mathematics and Computation, Journal of Mathematical Analysis and Application, and Applied Mathematics and Computation. We compared the citation impacts of Chinese journals supported or not supported by the CIUP so as to assess the selection ration- ality of the Plan, namely, whether supported journals perform better than those not supported, and those receive more financial support (i.e., rank higher with the CIUP) perform better than those receiving less. With limited options of journal samples defined by the CIUP, two sets of journals in environmental sciences and mathematics were selected. The results show that journals included in the CIUP perform better than those not included. p Undoubtedly, the JIF value (3.080 in 2013) of the selected international journal – CPAM is significantly higher than those of the two Chinese journals, although decreased by 19.1% from that in 2008 (3.806) when there was no significant change in the number of citable items (respectively, 53 in 2008 and 48 in 2013). The JIF difference between CPAM and the two Chinese journals (JCM and AMS) is wide though narrowed from 3.041 in 2008 to 2.031 in 2013, respectively. Journal impact factor values of the two Chinese journals in the environmental sciences (JESC supported by CIUP and BES not supported by CIUP) have increased from 2008 to 2013. JESC outperforms BES in overall citation impact, growth of absolute or relative ratio of JIF value, scope of citation impact in terms of the number of journals citing JESC, as well as JIF values of journals in JESC’s cited network. Citation Impact of Journals in Mathematics In addition to Scientific World Journal which is completely isolated from the network, journals, such as Frontiers in Mathematics in China, Fixed Point Theory and Applications, and Journal of The JIF values of journals in the cited network of JCM range from 0.673 of International Journal of Numerical Analysis and August 2016  |  Volume 1  |  Article 3 Frontiers in Research Metrics and Analytics  |  www.frontiersin.org 5 Cited Networks of Chinese Journals Zhou and Leydesdorff FIGURE 3 | Cited patterns of journals in mathematics in 2013 (threshold = 1%, cosine ≥ 0.2). (A) Journal of Computational Mathematics (JCM), (B) Acta Mathematica Scientia (AMS), and (C) Communications on Pure and Applies Mathematics (CPAM). FIGURE 3 | Cited patterns of journals in mathematics in 2013 (threshold = 1%, cosine ≥ 0.2). (A) Journal of Computational Mathematics (JCM), (B) Acta Mathematica Scientia (AMS), and (C) Communications on Pure and Applies Mathematics (CPAM). Frontiers in Research Metrics and Analytics  |  www.frontiersin.org DISCUSSION AND CONCLUSION JIF growth of JESC is higher than that of BES. With significantly more foreign journals and surrounded by journals in the same field, JESC’s citation impact is wider and holes in its cited network are fewer. JESC is better integrated in the scholarly community in the environmental sciences. With 14 journals contributing to at least 1% of its total cita- tions (Figure 3C), CPAM has wide-scope impact. The JIF values of journals in the cited network of CPAM range from 0.708 of CPAM to 3.080 of CPAM itself – CPAM outperforms the two Chinese journals in this regard. Journals in the cited network of CPAM are well integrated with each other, including those at the edge of the network. Surrounded by other journals in its cited network, CPAM has recognition in mathematics. Chinese journals in mathematics display another picture. Similar to the situation in the environmental sciences, CIUP August 2016  |  Volume 1  |  Article 3 Frontiers in Research Metrics and Analytics  |  www.frontiersin.org August 2016  |  Volume 1  |  Article 3 6 Cited Networks of Chinese Journals Zhou and Leydesdorff supported journal (i.e., JCM) outperforms the one not supported (i.e., AMS) in terms of absolute JIF values. Nevertheless, AMS has progressed slightly faster in raising JIF value, and thus nar- rowing the gap with JCM. Both journals have similar impact in a journal set of similar JIF value scope and with high international visibilities. Compared with AMS, JCM is better integrated in the scholarly community and with fewer holes in its cited network. paper in a higher quartile is scored higher. With so few Chinese journals being indexed in the WoS and most of them having low JIF values, attracting high-quality papers of Chinese authors is still a hard task for Chinese journals, let alone attracting high- quality papers of international authors. Visualization of the citation network helps assess journal impact in terms of integration into a scholarly community and overall citation impact (cited counts) or citation contribution (citing counts). Holes in a network most likely happen to mul- tidisciplinary journals because of variable citation relations with journals of different fields: citations to multidisciplinary journals rely on citation practices in different fields. Low-impact journals may be less frequently read and thus difficult to receive sufficient attention for citations. The Chinese government may consider making all Chinese journals Open Access. ACKNOWLEDGMENTS The first author is supported by the National Natural Science Foundation of China (NSFC) with Grant Number 71473219 and the Planning Office of Philosophy and Social Sciences of Hangzhou City, Zhejiang Province, with Grant Number B14TD02. We thank Xianzan Lv and Xiaojing Cai for downloading data. We are grate- ful to Thomson Reuters for access to the JCR data. In addition to intrinsic management challenges, the current research evaluation schemes in Chinese academic institutions put most Chinese journals in a disadvantageous situation: only publications in journals indexed by the Web of Science (WoS) are included in performance evaluation. Some leading Chinese universities assess papers based on journal Quartiles in JCR: a AUTHOR CONTRIBUTIONS PZ writes the paper and does most of the analysis. LL provides routines for harvesting journal citation networks, as well as com- ments and revision suggestions for the paper. DISCUSSION AND CONCLUSION This policy may be more effective than trying to change the behavior of authors, editors, and universities. As we have argued, accessibility is a pre- condition for being read and then cited (Harnad and Brody, 2004; Davis et al., 2008; Gargouri et al., 2010). A move to Open Access of Chinese journals across the board may change publication and marketing strategies of all parties involved. In reducing gaps between Chinese journals indexed in the SCIE in terms of JIF values and structure of citation networks, those in mathematics perform better than those in the environmental sciences. Nevertheless, the gaps between Chinese and leading international journals are still wide in JIF value, the structure of the citation network, and overall citation impact. In general, it seems not an easy task to realize the goals set by the CIUP. Financial support does help in infrastructure establishment or improvement as well as attracting talents to improve capacity of an editorial board. Money, however, is not almighty. In the Internet era, journal impact depends highly on paper quality and online accessibility. The most important issue to journal impact is quality of publications, expertise and dedication of editorial board members, editors, and reviewers. In the current adminis- trative context of Chinese journals, it is common that editorial boards are mainly composed of administrative officials. Some members do have high academic honors but do not perform duties. Having an administrative title, regardless of one’s educa- tional background, is sometimes a condition for being included in a journal board. Furthermore, chief editors of many Chinese journals do not always have PhD degrees, let alone editors. For journals operationalized in this way, money can do little, if noth- ing, in raising citation impact. REFERENCES research, In: H. F. Moed, W. Glanzel, and U. Schmoch (eds). (Dordrecht: Kluwer Academic), 497–514.f Davis, P. M., Lewenstein, B. V., Simon, D. H., Booth, J. G., and Connolly, M. J. (2008). Open access publishing, article downloads, and citations: randomized controlled trial. BMJ 337, a568. doi:10.1136/bmj.a568 Jin, B. H., Leydesdorff, L., Sun, H. R., Zhang, W., and Cen, Z. B. (2005). ୰ᅜ⛉ᢏᮇหᘬᩥ⨒㔌: ഭ䱵ᖡ૽઼ഭ޵ᖡ૽࠶᷀ (Citation networks of Chinese S&T journals: analysis on international and domestic impact). ୰ᅜ⛉ᢏᮇห◊✲ (Chinese Journal of Scientific and Technical Periodicals) 16, 141–146. Finardi, U. (2014). On the time evolution of received citations, in different sci- entific fields: an empirical study. J. Inform. 8, 13–14. doi:10.1016/j.joi.2013. 10.003 Leydesdorff, L. (1986). The development of frames of references. Scientometrics 9, 103–125. doi:10.1007/BF02017235 fi Gargouri, Y., Hajjem, C., Larivière, V., Gingras, Y., Carr, L., Brody, T., et al. (2010). Self-selected or mandated, open access increases citation impact for higher quality research. PLoS ONE 5:e13636. doi:10.1371/journal.pone.0013636 Leydesdorff, L. (2007). Visualization of the citation environments of scientific journals: an online mapping exercise. J. Am. Soc. Inf. Sci. Technol. 58, 25–38. doi:10.1002/asi.20406 fh Harnad, S., and Brody, T. (2004). Comparing the impact of open access (OA) vs. non-OA articles in the same journals. Dlib Mag. 10, 6. Available at: http://www. dlib.org/dlib/june04/harnad/06harnad.htmli Leydesdorff, L., and Cozzens, S. E. (1993). The delineation of specialties in terms of journals using the dynamic journal set of the science citation index. Scientometrics 26, 133–154. doi:10.1007/BF02016797 He, C., and Pao, M. L. (1986). A discipline-specific journal selection algorithm. Inf. Process. Manage. 22, 405–416. doi:10.1016/0306-4573(86)90075-0 He, C., and Pao, M. L. (1986). A discipline-speci Leydesdorff, L., and Jin, B. H. (2005). Mapping the Chinese science citation data- base in terms of aggregated journal-journal citation relations. J. Am. Soc. Inf. Sci. Technol. 56, 1469–1479. doi:10.1002/asi.20209 ISTIC. (2013). ୰ᅜ⛉ᢏ䇪᮷㔏䇑㔃᷌ 2013 (Statistical Data of Chinese S&T Papers). Beijing: Institute of Scientific and Technical Information of China. f Papers). Beijing: Institute of Scientific and Technical Information of China. Jin, B.H., and Rousseau, R. (2004). Evaluation of research performance and scien- tometric indicators in China. Handbook of quantitative science and technology Li, Z. X. (2006). How to establish a first-class international scientific journal in China? World J. Gastroenterol. 12, 6905–6908. doi:10.3748/wjg.v12.i43.6905 Jin, B.H., and Rousseau, R. (2004). Evaluation of research performance and scien- tometric indicators in China. REFERENCES Handbook of quantitative science and technology August 2016  |  Volume 1  |  Article 3 Frontiers in Research Metrics and Analytics  |  www.frontiersin.org Zhou and Leydesdorff Cited Networks of Chinese Journals terms of journal hierarchies and inter-journal citation relations. J. Am. Soc. Inf. Sci. Technol. 58, 223–236. doi:10.1002/asi.20475 Liu, L. (2012). ゎ䈫“⛉ᢏᮇหᅜ䱵ᖡ૽࣋ᨀॷ䇑ࡂ” (Understanding the international impact upgrading plan for journals in science and technology). ⛉ᢏ᪥ᣕ (Science and Technology Daily) 3. Zhou, P., and Leydesdorff, L. (2007b). The citation impacts and citation networks of Chinese journals in mathematics. Scientometrics 72, 185–200. doi:10.1007/ s11192-007-1713-0 fi gy y MOST. (2012). China Science & Technology Statistics Database. Available at: http:// www.sts.org.cn/sjkl/kjtjdt/index.htm Zhou, P., and Leydesdorff, L. (2008). China ranks second in scientific publications since 2006. ISSI Newslett. 4, 7–9. f NBS. (2013). “Expenditure on R&D (100 million Yuan),” in China Statistical Year Book. Ren, S. L. (2005). Editing scientific journals in Mainland China. Eur. Sci. Edit. 31, 8–9. Available at: http://data.stats.gov.cn/english/easyquery.htm?cn=C01 Zhou, P., Xinning, S., and Leydesdorff, L. (2010). A comparative study on commu- nication structures of Chinese journals in the social sciences. J. Am. Soc. Inf. Sci. Technol. 61, 1360–1376. doi:10.1002/asi.21343 Salton, G., and McGill, M. J. (1983). Introduction to Modern Information Retrieval. Auckland: McGraw-Hill. Slyder, J. B., Stein, B. R., Sams, B. S., Walker, D. M., Beale, B. J., Feldhaus, J. J., et al. (2011). Citation pattern and lifespan: a comparison of discipline, insti- tution, and individual. Scientometrics 89, 955–966. doi:10.1007/s11192-011- 0467-x Conflict of Interest Statement: The authors declare that the research was con- ducted in the absence of any commercial or financial relationships that could be construed as a potential conflict of interest. Yao, Z. C., Luo, Z. F., Jin, X. Y., and Duan, R. Y. (2014). ᯠ䎧⛩·ᯠԫ࣑·ᯠਁኅ*— ࠓ୰ᅜ⛉ᢏᮇหᅜ䱵ᖡ૽࣋ᨀॷ䇑ࡂNJ䍴ࣙᮇหⓗศᯒ୚ᒎᮃ (New start, new task, new development: analysis and expectation on journals funded by the International Impact Upgrading Plan for China’s S&T journals) (in Chinese). 㕆䗁ᆖᣕ (Acta Editologica) 26, 342–346. fi Copyright © 2016 Zhou and Leydesdorff. This is an open-access article distributed under the terms of the Creative Commons Attribution License (CC BY). The use, distribution or reproduction in other forums is permitted, provided the original author(s) or licensor are credited and that the original publication in this journal is cited, in accordance with accepted academic practice. No use, distribution or reproduction is permitted which does not comply with these terms. Zhou, P., and Leydesdorff, L. (2007a). Frontiers in Research Metrics and Analytics  |  www.frontiersin.org REFERENCES A comparison between the china scientific and technical papers and citations database and the science citation index in August 2016  |  Volume 1  |  Article 3 Frontiers in Research Metrics and Analytics  |  www.frontiersin.org 8
https://openalex.org/W3013176746
https://europepmc.org/articles/pmc6954517?pdf=render
English
null
Childhood cancer incidence and survival trends in Estonia (1970–2016): a nationwide population-based study
BMC cancer
2,020
cc-by
9,442
Paapsi et al. BMC Cancer (2020) 20:30 https://doi.org/10.1186/s12885-019-6510-7 Paapsi et al. BMC Cancer (2020) 20:30 https://doi.org/10.1186/s12885-019-6510-7 Open Access © The Author(s). 2020 Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0 International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Abstract Background: Childhood cancers represent a small proportion of all cancers but are still a major public health problem. The study analysed long-term trends in childhood cancer incidence and survival in Estonia in relation to societal and health care transition. Methods: Data on all malignant tumours, diagnosed in children aged 0–14 during 1970–2016, were derived from the Estonian Cancer Registry. Age-standardised (World standard) incidence rates were calculated by ICCC-3 site groups and joinpoint regression was used to estimate annual percentage change (APC) for incidence trends. Cohort and period approach were used to estimate 5-year survival. Internal age standardisation was applied. Results: A total of 1628 incident cancer cases were diagnosed during the study period and overall incidence increased significantly at a rate of 0.5% per year. Significant increases were seen for neuroblastoma and germ cell tumours, for lymphoid leukemias and some CNS sub-sites. At the same time, decline in incidence was seen in almost all subgroups of unspecified neoplasms. The overall 5-year survival improved from 24% in 1970–1979 to 73% in 2010–2016, with the largest changes occurring in the 1990s and 2000s. For many sites, survival increase thereafter has been marginal. Conclusion: In this first comprehensive population-based study of childhood cancer incidence and survival in Estonia, long-term trends are shown in the context of societal and health care changes. Even though the increasing incidence of some sites may, at least partially, be explained by improved diagnostics reflected in the decreased incidence of unspecified neoplasms, the overall cancer incidence in children seems to be rising. Rapid progress in diagnosis and care have improved childhood cancer survival immensely, but deficit in Estonia persists compared to other European countries. Results of the study accentuate the need for a more in-depth analysis of clinical data, but also for the prioritization of childhood cancer in Estonia, to ensure access to standard care and innovative treatments. Keywords: Childhood cancer, Incidence, Survival, Population-based, Cancer registry, ICCC-3 Childhood cancer incidence and survival trends in Estonia (1970–2016): a nationwide population-based study iu Paapsi1* , Aleksei Baburin1, Sirje Mikkel2, Margit Mägi3, Kadri Saks4 and Kaire Innos1 Keiu Paapsi1* , Aleksei Baburin1, Sirje Mikkel2, Margit Mägi3, Kadri Saks4 and Kaire Innos Background tremendous changes in childhood cancer management. No studies, to this date, have been conducted in Estonia to analyse long-term time-trends of childhood cancer incidence and survival nor the impact of the above- mentioned changes. But the increasing number of pa- tients [1] and better outcomes seen in clinical practice, and inferior survival compared to other countries seen in international studies [2, 3], clearly indicated the need for it. Furthermore, as more and more children survive and remain at risk of developing secondary malignancies, chronic diseases and many other treatment emergent In Estonia, childhood cancer is the third leading cause and the main disease-related cause of death in children under the age of 15. Estonia has witnessed societal and political transition during the past decades and has moved from the Soviet health care system into a more modern and centralised system that has brought along * Correspondence: keiu.paapsi@tai.ee 1Department of Epidemiology and Biostatistics, National Institute for Health Development, Hiiu 42, 11619 Tallinn, Estonia Full list of author information is available at the end of the article * Correspondence: keiu.paapsi@tai.ee 1Department of Epidemiology and Biostatistics, National Institute for Health Development, Hiiu 42, 11619 Tallinn, Estonia Full list of author information is available at the end of the article Paapsi et al. BMC Cancer (2020) 20:30 Paapsi et al. BMC Cancer (2020) 20:30 Page 2 of 12 Page 2 of 12 the whole study period by ICCC-3 site groups is presented in the main table. Joinpoints for subsites or age groups are shown in the text. Additional sensitivity analysis was carried out for leukemias starting from 1985 onwards (to investigate incidence trends after it became possible to distinguish between ALL and AML). late effects, new challenges are imposed on health care. Therefore, monitoring incidence and survival trends is crucial to inform public health policy and health services. The aim of the study was a) to analyse long-term childhood cancer incidence and survival trends in Estonia by sex, age and site group, b) to examine these trends in the context of the advances in cancer treat- ment through changes in the political order and in the health care system. For survival analysis, the study period was divided into five periods: 1970–1979, 1980–1989, 1990–1999, 2000– 2009, 2010–2016. 5-year observed survival with 95% CI were calculated by ICCC-3 site groups and time periods using the Kaplan-Meier method. We used cohort ap- proach for the first four periods and period approach for the latest, as this allows the prediction of survival for children with yet incomplete follow-up [6]. Internal age standardisation (to the latest period) was applied. DCO and autopsy cases were excluded from the survival analysis. Methods The population-based, nation-wide Estonian Cancer Registry (ECR) holds data on all incident cancer cases diagnosed in Estonia since 1968 (population 1.3 million according to the 2011 census). All malignant, in situ, benign tumours and tumours of uncertain or unknown behaviour of brain and central nervous system as well as of the endocrine organs, located in the area of the brain and other tumours of lymphoid, haematopoietic and re- lated tissues, are registered. ICD-O-3 coding is used for all cases registered in the ECR. Statistical analysis was performed with STATA 14.2 (StataCorp, College Station, Texas, USA). The study protocol was approved by the Tallinn Medical Research Ethics Committee. Data on all primary malignant tumours diagnosed be- tween 1970 and 2016 in children aged 0–14 years were de- rived from the ECR. As non-malignant CNS tumours are registered only starting from 1998, these cases were not in- cluded in this study. Age at diagnosis was grouped into three categories: 0–4, 5–9, 10–14 years. Cancer sites were grouped as defined by the third edition of the International Classification of Childhood Cancer (ICCC-3) on the basis of the ICD-O-3 topography and morphology [4]. Follow-up for vital status from the date of diagnosis until date of death, emigration or December 31, 2016 was performed by the ECR using unique personal identification numbers or name and date of birth during earlier periods. Cases are first linked with the Estonian Causes of Death Registry to identify deaths, followed by linkage of alive cases to the Estonian Population Registry to identify emigration. Per- centage of microscopically verified cases, percentage of death certificate only cases (%DCO) and percentage of cases discovered at autopsy were used as data quality indicators. Abbreviations: MV microscopically verified, DCO death certificate only Survival Table 3 shows the 5-year survival estimates by ICCC-3 site groups and time periods. Survival increased most mark- edly from 1980 to 1989 to 1990–1999 and continued to rise through the following decades at a slower pace. For all malignant neoplasms combined, survival rates increased from 23.8% in 1970–1979 to 73.0% by 2010–2016. In- crease has been most substantial for leukemias and renal tumors (from below 10% to over 80%). Acute lymphoid leukemia (ALL) survival increased the most from 1985 to 1989 (32.9, 95% CI 18.0–48.7) to 1990–1994 (53.6, 95% CI 39.2–66.1) and from 2000 to 2004 (67.0, 95% CI 49.0– 79.8) to 2005–2009 (86.0, 95% CI 70.2–93.7). Acute mye- loid leukemia (AML) survival increased the most from 1985 to 1989 (0%) to 1990–1994 (40, 95% CI 5.0–75.3), 1995–1999 (42.9, 95% CI (9.8–73.4) to 2000–2004 (55.4, 95% CI 14.9–83.3) and from 2000 to 2004 to 2005–2009 (73.1, 95% CI 39.5–90.0). Leukemias showed a stable trend overall (APC 0.2%), with a significant increase for lymphoid leukemias (APC 2.1%) and significant decrease for unspecified leukemias (APC −11.5%). By age groups, a significant increase was seen in lymphoid leukemias in age group 5–9. The increase was steeper in 1970–1985 (APC 7.9, 95% CI 3.2–12.8), followed by a steadier pace (APC 1.8, 95% CI 1.2–2.5). Leu- kemias increased overall for girls, but not for boys. Girls aged 10–14 have experienced a fluctuating trend – a de- crease in 1970–1985 and 2000–2010 (APC -6.0, 95% CI − 7.4 to −4.5; and −3.3, 95% CI −5.9 to −0.6) and an in- crease of 10.0% (95% CI 7.1–13.1) in 1985–2000. ( ) The incidence of lymphomas remained unchanged (APC −0.1%), but there was a significant increase in the incidence of Burkitt lymphoma, based on a very small number of cases. Overall, there was no increase in the incidence of CNS tumours, but a significant increase was seen for boys (APC 1.5, 95% CI 0.2–2.8). The significant trend seen for ependymomas and choroid plexus tumors was due to a sig- nificant rise by 7.2% (95% CI 4.7–9.7) in the youngest age group. At the same time, the incidence of unspecified intra- cranial and intraspinal neoplasms decreased significantly. Neuroblastoma and other peripheral nervous cell tumors (group IV) incidence increased significantly by 2.3%. The latter increase can be attributed to age group 0–4 (APC 3.1%, Additional file 1: Table S1). Results In total, 1628 incident cases of childhood cancer were diagnosed in Estonia during 1970–2016 (Table 1). Boys were diagnosed more frequently, giving a male to female ratio of 1.2 and nearly half of the cases were diagnosed in the youngest age group. Data quality in the ECR Table 1 Malignant childhood cancer cases diagnosed in Estonia, 1970–2016 Table 1 Malignant childhood cancer cases diagnosed in Estonia, 1970–2016 Cases (%) MV (%) DCO (%) Autopsy (%) Total 1628 100 91.8 0.4 4.4 Sex Boys 891 54.7 91.6 0.5 4.5 Girls 737 45.3 92.1 0.3 4.2 Age (years) 0–4 714 46.3 92.0 0.3 6.1 5–9 415 25.5 91.8 0.7 3.4 10–14 460 28.3 91.5 0.2 2.4 Period of diagnosis 1970–1974 184 11.3 76.6 0.5 12.0 1975–1979 162 10.0 87.0 0.6 8.0 1980–1984 209 12.8 87.1 0.0 8.6 1985–1989 199 12.2 91.0 0.0 5.5 1990–1994 212 13.0 95.8 1.4 1.9 1995–1999 180 11.1 96.7 0.0 1.1 2000–2004 152 9.3 98.0 0.7 0.0 2005–2009 124 7.6 98.4 0.0 0.8 2010–2016 206 12.7 98.1 0.0 0.0 Abbreviations: MV microscopically verified, DCO death certificate only Incidence rates were calculated as the number of new cases per million persons per calendar year. Population data were derived from Statistics Estonia. In order to have sufficient number of cases, the study period was divided into two intervals – 1970 to 1994 and 1995 to 2016. Age- standardised rates were calculated using the weights of the World standard population [5]. Incidence trends were cal- culated by sex, age group (0–4, 5–9, 10–14) and cancer site, using Joinpoint Regression Program 4.6.0.0 (April 2018; Statistical Methodology and Applications Branch, Surveillance Research Program, National Cancer Institute) and presented as annual percentage change (APC) and corresponding 95% confidence intervals (CI). APC over Page 3 of 12 Paapsi et al. BMC Cancer (2020) 20:30 Paapsi et al. BMC Cancer (2020) 20:30 95% CI −5.3 to −0.3). The incidence of hepatoblastoma, the main malignancy among hepatic tumors increased rap- idly from 1985 to 2000 (APC 14.1, 95% CI 2.3–27.3). Among malignant bone tumours, a significant decrease was seen for unspecified tumours. Incidence of soft tissue and other extraosseous sarcomas increased in boys (APC 2.4, 95% CI 1.1–3.8). Significant increase in germ cell and go- nadal tumors by 2.5% was caused by a rise in 0–4-year olds (APC 2.7%, Additional file 1: Table S1). The number of un- specified neoplasms has decreased significantly. Survival Within this age group, in- cidence increased for boys (APC 2.9, 95% CI 0.6–5.2), and for subsite neuroblastomas and ganglioneuroblastomas (APC 3.3, 95% CI 1.4–5.1). The increase was more pro- nounced in age group < 1 year compared to age group 1–4 (APC 4.0, 95% CI 1.4–6.6 vs 2.9, 95% CI −0.3–6.1, respect- ively). Incidence of retinoblastomas, which were mainly di- agnosed in the youngest age group of 0–4, remained stable over the study period (APC −0.2%, Table 2), but an upward trend was seen for boys aged 0–4 (APC 2.7, 95% CI 0.1– 5.5). For renal tumors, the overall steady incidence (APC − 0.8%) has shown a decrease in boys since 1990 (APC 2.9, Survival has increased for both sexes (Fig. 2), being ini- tially higher for boys, but increasing more rapidly for girls since 1980. First two decades did not see any changes in the 5-year survival in boys, whereas the 5- year survival in girls already improved from 19.8% (95% CI 13.7–26.7) to 34.6% (95% CI 27.3–42.0). Increase was most substantial in boys from 26.4% in 1980–1989 (95% CI 20.6–32.6) to 50.8% in 1990–1999 (95% CI 43.3– 57.8). Improvements in 5-year survival in girls occurred through the first three decades, but after a considerable increase, has now been stable for the last two decades (74.1 and 74.8%, accordingly). Survival in boys has con- tinued to increase, reaching 71.6% in the latest period (95% CI 62.3–79.0). The site distribution differed signifi- cantly between boys and girls (p = 0.001). Incidence The number of cases, incidence rates, trends described by APC are presented in Table 2 by ICCC-3 site groups. No joinpoints were found for the main ICCC-3 site groups, therefore APC over the whole study period is presented in the table. The age-standardised incidence of all sites for 1970–2016 was 122.8 per million and the rate increased significantly over the study period (APC 0.5%). Leukemias were diagnosed most frequently, followed by CNS tumours and lymphomas (ASIR 40.6, 24.0, 16.9 per million, respectively). Incidence rate was the lowest for other and unspecified malignant neoplasms (1.7 per million). For both sexes all sites combined, age-specific inci- dence increased in all age groups, but significant rise was seen only for the age group 10–14 (APC 0.6, 95% CI 0.1–1.2) (Fig. 1). Results improved significantly over the study period. The pro- portion of cases verified microscopically increased and only 0.4% of the cases were reported via death certificate only. Since 2007, all cases have been diagnosed in life. Discussion This population-based study spanning nearly 50 years showed increasing incidence and survival of childhood cancer in Estonia. Survival improvements varied by can- cer site and were most substantial before the 2000s. Page 4 of 12 Paapsi et al. BMC Cancer (2020) 20:30 Table 2 Age-standardised incidence rates of childhood cancer by ICCC3 site-groups (malignant only), Estonia 1970–2016 Total cases % Average annual cases ASIR/million 1970–1994 ASIR/million 1995–2016 APC (%) (1970–2016) 95% CI All sites 1628 100 35 122.2 138.1 0.5 0.1–0.9 I Leukemias, myeloproliferative diseases, and myelodysplastic diseases 506 31.1 11 39.5 42.1 0.2 −0.7–1.0 a. Lymphoid leukemias 302 18.6 6 20.0 31.4 2.1 0.1–4.0 b. Acute myeloid leukemias 72 4.4 2 4.3 7.4 1.8 −1.2–5.0 c. Chronic myeloproliferative diseases 6 0.4 0 0.3 0.9 NC NC d. Myelodysplastic syndrome and other myeloproliferative diseases 7 0.4 0 0 1.6 NC NC e. Unspecified and other specified leukemias 119 7.3 3 15.0 0.7 −11.5 −13.4;-9.6 II. Lymphomas and reticuloendothelial neoplasms 232 14.3 5 16.8 17.2 −0.1 −1.2–1.0 a. Hodgkin lymphomas 95 5.8 2 7.7 5.1 −1.5 −3.6–0.7 b. Non-Hodgkin lymphomas (except Burkitt lymphoma) 93 5.7 2 7.4 6.0 −1.0 −2.8–0.9 c. Burkitt lymphoma 17 1.0 0 0 3.3 8.8 7.4–10.2 d. Miscellaneous lymphoreticular neoplasms 15 0.9 0 0.5 2.4 NC NC e. Unspecified lymphomas 12 0.7 0 1.2 0.4 −2.0 −5.4–1.5 III. CNS and miscellaneous intracranial and intraspinal neoplasms (malignant only) 312 19.2 7 22.0 27.5 0.9 −0.5–2.3 a. Ependymomas and choroid plexus tumors 43 2.6 1 1.9 6.2 3.3 1.5–5.1 b. Astrocytomas 110 6.8 2 7.7 9.0 1.1 −2.7–5.0 c. Intracranial and intraspinal embryonal tumors 78 4.8 2 4.9 8.1 2.4 −0.2–5.1 d. Other gliomas 16 1.0 0 0.7 2.0 3.5 1.2–5.8 f. Unspecified intracranial and intraspinal neoplasms 64 3.9 1 6.7 1.9 −5.1 −8.4;-1.7 IV. Neuroblastoma and other peripheral nervous cell tumors 91 5.6 2 6.3 10.4 2.3 0.0–4.7 a. Neuroblastoma and ganglioneuroblastoma 89 5.5 2 6.1 10.4 2.5 0.3–4.7 V. Retinoblastoma 41 2.5 1 3.4 4.0 −0.2 −3.4–3.2 VI. Renal tumors 132 8.1 3 12.6 9.1 −0.8 −3.0–1.4 a. Nephroblastoma and other nonepithelial renal tumors 127 7.8 3 11.9 9.1 −0.6 −2.7–1.5 VII. Hepatic tumors 26 1.6 1 1.9 2.9 1.1 −1.7–4.1 a. Hepatoblastoma 18 1.1 0 1.0 2.7 NC NC VIII. Malignant bone tumors 71 4.4 2 4.6 5.5 0.3 −2.6–3.2 a. Osteosarcomas 27 1.7 1 1.7 2.2 −0.6 −3.6–2.5 c. Discussion Ewing tumor and related sarcomas of bone 25 1.5 1 1.1 2.6 3.2 −0.6–7.1 e. Unspecified malignant bone tumors 12 0.7 0 1.1 0.3 −3.3 −4.8;-1.7 IX. Soft tissue and other extraosseous sarcomas 81 5.0 2 5.8 7.2 1.3 −0.0–2.6 a. Rhabdomyosarcomas 32 2.0 1 1.8 3.9 3.0 −0.5–6.7 b. Fibrosarcomas. peripheral nerve sheath tumors. and other fibrous neoplasms 12 0.7 0 1.1 0.6 0.4 −2.1–2.9 d. Other specified soft tissue sarcomas 26 1.6 1 1.6 2.5 1.5 −1.4–4.4 CCC3 site-groups (malignant only), Estonia 1970–2016 Paapsi et al. BMC Cancer (2020) 20:30 Page 5 of 12 Table 2 Age-standardised incidence rates of childhood cancer by ICCC3 site-groups (malignant only), Estonia 1970–2016 (Continued) Total cases % Average annual cases ASIR/million 1970–1994 ASIR/million 1995–2016 APC (%) (1970–2016) 95% CI e. Unspecified soft tissue sarcomas 10 0.6 0 1.2 0.3 −2.0 −4.9–1.0 X. Germ cell tumors, trophoblastic tumors, and neoplasms of gonads 75 4.6 2 4.7 8.3 2.5 0.2–4.9 a. Intracranial and intraspinal germ cell tumors 8 0.5 0 0.1 1.3 5.1 2.1–8.1 b. Malignant extracranial and extragonadal germ cell tumors 34 2.1 1 2.0 4.6 3.4 1.1–5.7 c. Malignant gonadal germ cell tumors 26 1.6 1 1.9 2.2 0.7 −2.2–3.7 XI. Other malignant epithelial neoplasms and malignant melanomas 41 2.5 1 2.3 3.5 1.4 −0.8–3.7 b. Thyroid carcinomas 10 0.6 0 0.2 1.3 3.7 −0.9–8.7 d. Malignant melanomas 12 0.7 0 0.8 0.8 −0.2 −2.8–2.5 f. Other and unspecified carcinomas 12 0.7 0 0.9 0.8 0.3 −2.2–2.8 XII. Other and unspecified malignant neoplasms 20 1.2 0 2.3 0.6 −2.4 −3.9;-0.9 b. Other unspecified malignant tumors 17 1.0 0 2.0 0.4 −3.4 −4.5;-2.3 Abbreviations: ICCC-3 international classification of childhood cancer, third edition; ASIR age-standardised incidence rate, APC annual percentage change, CI confidence intervals, NC not calculated Table shows all diagnostic groups with > 5 patients diagnosed over the study period. Values that are statistically significant are marked in bold Table 2 Age-standardised incidence rates of childhood cancer by ICCC3 site-groups (malignant only), Estonia 1970–2016 (Continued) Total cases % Average annual cases ASIR/million 1970–1994 ASIR/million 1995–2016 APC (%) (1970–2016) 95% CI Table 2 Age-standardised incidence rates of childhood cancer by ICCC3 site-groups (malignant only), Estonia 1970–2016 (Continued) Total cases % Average ASIR/million ASIR/million APC (%) 95% CI Table 2 Age-standardised incidence rates of childhood cancer by ICCC3 site-groups (malignant only), Estonia 1970–2016 (Continued) Cancer registration began in the Soviet Union in 1953. Discussion At the very early stages of cancer registration no stand- ard disease classification nor age groups were used, data was published annually, but never corrected. The ECR dates back to 1968. This nation-wide population-based registry holds data for adult and childhood cancer cases, including benign CNS tumours since 1998. Reporting to the registry is mandatory for all physicians who diagnose or treat reportable tumours. Case registration according to international rules was implemented step-by-step starting with the introduction of ICD-O morphology section in 1978 and the topography section in 1983. The 3rd edition of TNM classification of Malignant Tumors was translated into Estonian in 1980. ECR data was first included in the Cancer Incidence in Five Continents vol- ume 6, published in 1992. All cases have been retroactively coded to ICD-O-3. Currently, the ECR follows inter- national definitions and rules, including those for multiple Fig. 1 Age-specific childhood cancer incidence rates (all sites combined, per million) in Estonia by period of diagnosis. (*The APC is significantly different from zero at alpha = 0.05) Fig. 1 Age-specific childhood cancer incidence rates (all sites combined, per million) in Estonia by period of diagnosis. (*The APC is significantly different from zero at alpha = 0.05) Fig. 1 Age-specific childhood cancer incidence rates (all sites combined, per million) in Estonia by period of diagnosis. (*The APC is significantly different from zero at alpha = 0.05) Paapsi et al. BMC Cancer (2020) 20:30 Page 6 of 12 Table 3 Childhood cancer survival by ICCC3 site groups and time periods, Estonia 1970–2016 ICCC3 1970–1979 1980–1989 1990–1999 2000–2009 2010–2016 5-year survival 95% CI 5-year survival 95% CI 5-year survival 95% CI 5-year survival 95% CI 5-year survival 95% CI Low High Low High Low High Low High Low High All sites (malignant) 23.8 19.2 28.6 30.0 25.4 34.8 52.5 47.2 57.5 69.4 63.3 74.7 73.0 66.2 78.7 I. Leukemias, myeloproliferative diseases, and myelodysplastic diseases 7.5 3.5 13.4 19.6 12.6 27.6 51.9 42.0 61.0 71.6 61.4 79.5 83.8 72.0 90.9 Ia. Lymphoid leukemias 7.4a 1.3 21.0 21.8 13.0 32.1 56.4 45.3 66.1 75.0 62.9 83.6 83.3 69.4 91.3 Ib. Acute myeloid leukemias 0a – – 5.8a 0.4 23.2 41.7a 15.3 66.5 60.3 34.7 78.5 81.0 43.0 94.9 II. Lymphomas and reticuloendothelial neoplasms 44.8 27.5 60.6 44.4 25.0 62.1 60.0 40.4 74.9 83.9 51.0 95.5 90.2 72.6 96.7 IIa. Discussion Hodgkin lymphomas 82.7 69.8 90.4 57.8 15.8 85.0 92.6 83.5 96.8 100 – – 100 – – IIb. Non-Hodgkin lymphomas (except Burkitt lymphoma) 28.7 11.8 48.3 38.2 14.4 62.0 40.5 16.5 63.5 73.0 20.1 94.0 100 – – III. CNS and miscellaneous intracranial and intraspinal neoplasms (malignant only) 25.4 12.7 40.2 22.4 12.9 33.6 49.6 38.4 59.8 59.8 44.6 72.0 49.5 32.4 64.5 IV. Neuroblastoma and other peripheral nervous cell tumors 12.5a 0.7 42.3 47.4a 24.4 67.3 32.3a 16.9 48.6 40.0a 16.5 62.8 54.4 24.4 76.9 0–4 yearsb 16.7 2.4 42.3 42.9 23.9 60.6 42.9 27.3 57.6 46.2 25.9 64.2 54.2 24.3 76.7 V. Retinoblastoma 74.1a 39.1 90.9 70.0a 32.9 89.2 100a – – 66.7a 5.4 94.5 100 – – VI. Renal tumors 9.2a 1.7 25.0 27.3a 14.3 42.1 55.6a 38.1 69.9 80.0a 50.0 93.1 90.0 47.3 98.5 VII. Hepatic tumors 0a – – 16.7a 0.8 51.7 40.0a 5.2 75.3 0a – – 100a – – VIII. Malignant bone tumors 15.4a 2.5 38.8 18.2a 5.7 36.3 50.0a 25.9 70.1 80.0a 40.9 94.6 64.3 25.3 86.8 IX. Soft tissue and other extraosseous sarcomas 50.0a 18.4 75.3 19.6a 6.0 38.9 35.3a 14.5 57.0 73.3a 43.6 89.1 58.9 27.7 80.4 X. Germ cell tumors, trophoblastic tumors, and neoplasms of gonads 25.0a 6.0 50.5 37.5a 15.4 59.8 45.5a 16.7 70.7 76.2a 51.9 89.3 37.0 11.3 63.6 XI. Other malignant epithelial neoplasms and malignant melanomas 75.0a 31.5 93.1 55.6a 20.4 80.5 87.5a 38.7 98.1 100a – – 100 – – XII. Other and unspecified malignant neoplasms 14.3a 0.7 46.5 0a – – 0a – – 0a – – 100 – – Abbreviations: ICCC-3 international classification of childhood cancer, third edition, CI confidence intervals. a Not age standardised, due to small number of cases. b as neuroblastomas are mainly diagnosed in age group 0–4, survival for this age group is presented in table for international comparisons Paapsi et al. BMC Cancer (2020) 20:30 Page 7 of 12 Fig. 2 5-year childhood cancer survival in Estonia by sex and time period earlier periods that might have caused some misclassifica- tion of cases. earlier periods that might have caused some misclassifica- tion of cases. primaries, issued by the European Network of Cancer Registries and the International Association of Cancer Registries [7], for reporting incidence and survival. Good data quality has been shown for adult cancers [8]. Discussion According to a previous study [9], the estimated complete- ness of reporting of childhood cancer cases was 89.5% (81.2% for hematologic malignancies and 95.3% for solid tu- mors). As a result of the data quality study, all missing cases starting from 2000 were added to the cancer registry and regular linkage with all treating hospitals was established. Thus, we believe that the disruption of registry practices in the 2000s [10] has no further impact on case registration and the estimated completeness of childhood cancer is now close to 100%. The validity of childhood cancer data has improved markedly over time – there were only two aut- opsy cases and no DCO cases since 2003. The proportion of microscopically verified cases has increased throughout the study period, now reaching 98%. ECR data has been in- cluded in major childhood cancer studies in Europe [2, 11], being a good indication of the data quality. Incidence Thus, increase in incidence seen in our data could be caused by the changes in classification. soft tissue sarcomas etc) and all sites combined, indicates an actual rise probably due to the risk factors mentioned above. The same applies for competing risk theory, as in- fant and child mortality have decreased since the 1970s. Likewise, the incidence of unspecified neoplasms of CNS decreased significantly, while the overall trend remained relatively stable. Therefore, the observed in- crease in the incidence of ependymomas (IIIa) and other gliomas (IIId) needs to be interpreted with caution. In the earlier periods, the incidence rates for ependymomas and gliomas were lower in Estonia compared to Eastern- Europe (1.9 per million in Estonia compared to 3.3 per million in Eastern-Europe for ependymomas and 0.7 vs 2.2 per million for gliomas, respectively) [23]. More re- cent incidence rates for ependymomas are now higher in Estonia than in the Nordic countries and France (6.2 vs 4.2 vs 3.8, per million, respectively), whereas incidence rate for other gliomas has remained lower – 2.0, 3.5 and 4.9 per million, respectively [24, 25]. The absence of overall trend in incidence is most probably due to the changes in tumor classification and the tendency in earl- ier years to record benign cases as malignant. y Leukemias, the most commonly diagnosed malignan- cies, showed a slight increase in incidence. ASIR in Estonia was lower in both periods than shown for Eur- ope in ACCIS studies, for the periods 1970–1999 and 1991–2010 (39.5 vs 44.8 and 42.1 vs 46.9 per million). Rate for Europe has increased steadily by 0.6% per year in both periods [14, 15], whereas Estonian average in- crease of 0.2% per year for the whole period is more characteristic to Eastern-European trend (increase of 0.3% per year for 1978–1997 [16] and 1% in 1991–2010) [14]. Since there was a substantial decrease in unspeci- fied leukemias a restricted analysis was done starting from 1985 onwards when the proportion of unspecified cases became negligible to control whether the increase was solely due to improved diagnostics. Even though non significant, incidence increased from 1985 onwards for ALL (APC 1.4, 95% CI -0.6–3.5), AML (APC 2.4, 95% CI −3.4–8.5) and leukemias combined (APC 1.4, 95% CI -0.2–3.0), referring to other underlying causes (data not shown). Incidence Several environmental and parental lifestyle, residential and occupational exposures have been associated with pediatric leukemias [16] but among known risk factors, high birth weight and increased ma- ternal age [17] could be possible reasons here [18]. Some studies show that early day-care attendance is protective against leukemia [19, 20] due to exposure to infections. Starting from early 2000s, children in Estonia attend day-care less and start at a later age, as mothers now have the option for prolonged and paid leave. Neuroblastoma incidence in Estonia increased signifi- cantly over the study period at a rate of 2.3% per year due to a significant increase in the 0–4 age group (APC 3.1%) and subsite IVa (AAPC 2.5%). Incidence of subsite IVa increased more for age group < 1 (APC 4.0, 95% CI 1.4–6.6) compared to ages 1–4 (APC 2.7, 95% CI -0.3– 6.1) (data not shown). A similar overall trend was seen for Eastern-Europe in 1978–1997 (AAPC 2.7%) [26]. For other countries, the incidence seems to increase at a slower pace, for example in Canada (APC 0.74% in 1992–2010) [22]. Since we do not see a distinct leap in the incidence in any of the time periods, we can not conclude that the increase is solely attributable to im- provements in diagnostics, e.g. wider use of ultrasound (1990s), MRI (2000s) or molecular pathology (2010), which has been shown to improve the differentiation of neuroblastomas from other small round cell tumors like rhabdomyosarcoma and Ewing’s sarcoma [27], but the latter two also show an increasing trend in Estonia. Sev- eral risk factors, such as maternal oral contraceptives or sex hormones use during pregnancy, a shorter gesta- tional duration, and maternal alcohol consumption dur- ing pregnancy [28], have been debated as possible causes, but need to be analysed further. Incidence of lymphomas is high in Estonia (16.9 per million for 1970–2016), as has been described also for other Eastern-European countries [14]. Rate is increasing in Europe by 0.26% per year, but stable in Estonia and declining in Eastern-Europe (APC −0.1% and −1.32%, respectively) [14]. Even though the overall rate is rela- tively stable, an immense increase by 8.8% was seen for Burkitt lymphomas, which generally contribute propor- tionally lower to lymphoid malignancies [16]. Incidence The aetiology of childhood cancers is still in large part unknown. Many hypotheses have been made about dif- ferent environmental, parental and gestational factors and some genetic causes have been established, but the scarcity of data and studies make it difficult to draw def- inite conclusions [12]. Childhood cancer incidence in Estonia increased during 1970–2016 at a rate of 0.48% per year, comparable to rates in Europe and Eastern- Europe in 1991–2010 (0.54 and 0.50% respectively). Even though hypothesised that studies, where data was analysed starting from the 1970s, may see increase in rates in large part due to the rise in the earlier decades [13] (caused by improved diagnostics, decreased overall child mortality), we saw the opposite. The overall age-standardised incidence of childhood cancers in Estonia for the first half of the study period was notably lower than the European average (122.2 vs 140.0 per million) but reached the European rate for 1991–2010 in the second half (138.1 vs 137.5 per million). Regarding the fact that our study dates back to 1970, we can assume that in some part the increase in incidence can be explained by improvements in diagnosing and registra- tion. Diagnostic drift must also be taken into consideration, especially for cancer sites where overall incidence for the site group remains stable through time but changes occur among subsites. Other possible explanation for incidence increase, especially in an atypical age group may be a delay in diagnosis, highly probable for that time period. On the other hand, not all can be attributed to improved diagnos- tics. Rise in incidence for some sites (e.g neuroblastomas, Methods for diagnosing improved during the study period. Ultrasound became available for prenatal screen- ing since the early 1990s (first ever used in 1984), MRI in the 2000s. Most recent changes in histology were in- troduced in 2010 (molecular pathology). The main strengths of the study were nation-wide population-based cancer registry coverage with complete follow-up and high data quality, enabling the evaluation of incidence and survival trends over a 47-year period, with the most recent data for patients diagnosed in 2016. The main limitations of this study were the scarcity of cases (causing a fluctuation in trends and instability of survival estimates) and the quality of morphological verification in Paapsi et al. BMC Cancer (2020) 20:30 Page 8 of 12 Page 8 of 12 codes for both malignant and uncertain disease. Incidence Similar trend, but at a much slower rate of 1.4% per year, was seen for Spain in 1983–2007 [21], while a decreasing trend was shown in Canada (APC −2.54% for 1992– 2010) [22]. As lymphomas tend to be more frequent in less developed countries and of infectious origin, our finding is difficult to reason. Since the rise has been more recent, it could partly be explained by improved diagnostics and misclassification, as the incidence of all other subgroups have declined. Classification has chan- ged for miscellaneous lymphoreticular neoplasms (IId). In previous ICD-O classifications Langerhans cell histio- cytosis was not a reportable disease. ICD-O-3 includes Hepatic tumors show an increasing trend in Estonia and elsewhere [22, 26]. Even though non-significant, the rise was noticeable in the youngest age group, with al- most half of the cases diagnosed in infants less than 1 year of age (data not shown). In these cases, perinatal exposures and decreased premature infant mortality could be postulated causes [29]. Almost 90% of the cases diagnosed in age group 0–4 were hepatoblastomas, which is associated with low birth weight [30]. The Paapsi et al. BMC Cancer (2020) 20:30 Page 9 of 12 Page 9 of 12 adults until 1979, when it was partly moved to the surgi- cal department of Tallinn Children’s Hospital. Radiation was the main treatment and chemotherapy was used scarcely at that time. Even though the centralisation of childhood cancer care began in 1992 when the first pediatric oncology wards were opened, children were still treated together with adults for a long time. CNS treatment was gradually brought to pediatric oncology departments in 1995–2000, whereas low grade tumors are still partly managed at adult centres. The arrival of first European treatment protocols in 1991 for solid tu- mors (SIOP, Société internationale d’oncologie pédiatri- que) and 1992 for hematologic malignancies (NOPHO, Nordic Society for Pediatric Hematology and Oncology) set the base for twinning with European oncology orga- nisations, enabling Estonia to reach new information and treatment protocols faster (Fig. 3). NOPHO proto- cols for ALL and AML were at first hand used partially in 1992–2005. More advances followed with the intro- duction of high dose methodrexate treatment (HDMTX) and bone marrow transplant from sibling donors in 1995. In 2000, when CNS treatment was transferred to children’s oncology department, modern protocols and chemotherapy became available. Incidence Starting from 2008 for ALL and 2012 for AML Estonian patients are included in NOPHO clinical trials. Even though Estonia has never participated in clinical trials for solid tumors, standard treatment protocols are used according to guidelines. Over time, the main issues of managing childhood cancer, have been the avail- ability of drugs (more pronounced during regaining of independence), reaching new protocols and twin- ning for diagnosing rarer types of cancer. proportion of low birth weight babies has remained the same in Estonia, but their survival has increased over time [18]. The incidence of both intracranial and extracranial germ cell tumors increased significantly. The incidence of intracranial germ cell tumors is in accordance with the rate in Europe (about 1.0 per million) [31] and in Germany (1.2 per million, and also increasing), but the incidence of extracranial germ cell tumors is higher in Estonia and showing a reversed trend compared to Germany (decreasing at 0.1%) [32]. We see two peaks in incidence, first one falls to the mid 1980s, when certain biochemical methods and computer tomography were introduced [33], and another spike more recently, which could refer to changes in clinical and treatment practices for childhood ovarian tumors [32]. A more detailed ana- lysis of clinical data by subsite is warranted. Survival Estonia regained its independence in 1991, at midpoint of the study period. The latter resulted in major reforms, where solidarity-based health insurance was established and the health care was changed from the state-run Semashko [34] system to a more Western one. Integrated and hierarchically organised system, which was commu- nicable diseases and primary care oriented, was replaced by decentralized model funded through social insurance. Childhood cancer treatment in Estonia in 1970s to 1990s was scattered between departments and institu- tions. At that time, hematologic malignancies were treated in the general pediatric departments of two major hospitals in Tallinn and Tartu. Solid tumors were operated in the surgical departments together with Fig. 3 Time-line of treatment and health care organisation in Estonia from 1970 to 2016. Year 1991 marks the regaining of independence f treatment and health care organisation in Estonia from 1970 to 2016. Year 1991 marks the regaining of independence Page 10 of 12 Page 10 of 12 Paapsi et al. BMC Cancer (2020) 20:30 Paapsi et al. BMC Cancer (2020) 20:30 All these improvements in diagnosing and treatment and changes in the health care organisation are reflected in survival outcomes. Starting from 23.8% in the 1970s, overall 5-year survival reached 73.0% by the latest period, which is not far below the European average for 2000–2007 (77.9, 95% CI 77.4–78.3) [2]. Survival in- crease has been relatively steady over time, but the big- gest rise occurred in the 1990s. It has been shown that the rate of unspecified cases was high for Estonia in earlier years [41]. The recent drop in survival could also be explained by changes in classifica- tion – pilocytic astrocytoma was downgraded to uncer- tain behaviour in ICD-O-3. As proposed by Stiller et al. [42] some cases of pilocytic astrocytoma could have been recorded as astrocytoma, NOS in earlier years, thus in- cluded in the analysis and causing a higher survival esti- mate. Our data shows a higher number of annual cases of astrocytoma, NOS in the first half of the study period and a higher number of pilocytic astrocytoma for the second. g The survival change in leukemias (from 7.5 to 83.8%) has been even more remarkable, being now equal to the rate observed in Finland for 2001–2010 [35]. Two leaps could be seen in leukemia survival. Survival First from 1985 to 1989 (25.4%) to 1990–1994 (51.3%), coinciding with the introduction of first treatment protocols and the second from 1995 to 1999 (52.0%) to 2000–2004 (65.2%), when HDMTX treatment and ABMT became available. Last increase in survival rates can be associated with the ac- cess to registry donors for ABMT, which seemed to have a stronger impact primarily on AML survival. But look- ing at the two latest periods, 2005–2009 and 2010–2016, we can see that survival is plateauing (from 81.6 to 83.8%) (seen for other sites and overall survival as well, data not shown), indicating that the current treatment methods are depleting and new biology-driven ap- proaches are needed [36]. The gap in survival between ALL and AML has narrowed over the study period, a trend that has also been shown in Switzerland and Finland [35, 37]. Biggest increments in 5-year survival increase for lymphomas were seen from 1990 to 1994 (49.9%) to 1995–1999 (70.3%) (data not shown), most likely due to the addition of HDMTX which has been shown to decrease relapse rate, especially for advanced disease [38]. Survival outcome dependency on metho- trexate dose has been described for non-Hodgkin lymphomas [39, 40], which showed the biggest improve- ments in Estonia. Opposite to that shown for Northern-England [43], no significant changes in 5-year survival trends for neuro- blastomas were observed in Estonia. Increase from 12.5% in the first decade to 47.4% in 1980–1989 marked the only substantial change in 5-year survival, which has stayed stable since. Even though the same pattern was shown for Finland [35], rates in Estonia have remained lower than those in Finland and Europe (for 2000–2010 40.0% in Estonia and 68.2% in Finland; for 2000–2002 72.0% in Europe) [35, 44]. Age > 18 months, male sex, metastasis at diagnosis and amplification of MYC-N are associated with poorer disease outcome [45]. Almost 60% of the cases diagnosed in Estonia were older than 18 months and with a M:F ratio of 1.3. Unfortunately, stage and tumor biology info was not available in regis- try data. A recent pilot study for the application of To- ronto Staging confirmed the disease being diagnosed rather late, but not advanced, as majority of the cases were classified as stage L1 (local), giving a 3-year survival of 75% [46]. As for several other sites, low number of cases annually may also influence the result. Survival y y The huge gap in the survival of renal and malignant bone tumors between Estonian and Finnish patients in the 1980s has closed due to rapid improvements in Estonia throughout the 1990s and 2000s [35]. Hepatic tumors, the site group with one of the worst prognosis, is more prevalent in Eastern than in Western countries and seems to present a less favourable survival outcome for our region [15]. In Estonia, survival for hepatic neo- plasms fluctuates greatly. Most of the cases were diag- nosed in infants and specific symptoms generally develop late, but without data on stage, we can not con- clude, whether this is the case. More detailed analysis could help to draw attention to possible prenatal paren- tal exposures or shortcomings in treatment. Survival of 100% that could be seen from our data, for the period of 2010–2016, is most probably a random finding due to the small number of cases and does not reflect the current situation for hepatic malignancies. Germ cell tumors are a heterogenous group of tumors, presenting different rates of survival, depending on age and hist- ology. Survival in Estonia reached 76.2% for 2000–2009, The largest improvements for CNS malignant tumors occurred from the 1980s to the 1990s, coinciding with the newly available treatment options and continued into the 2000s, reflecting treatment centralization. How- ever, there has been a recent decline in CNS tumour survival as the latest estimate of 49.5% is well below the European rate of 57.5% for 2000–2007 [2] and Finnish rate of 59.5% in 2001–2010 [35]. As shown in previous analysis, the survival of all CNS tumour patients (includ- ing benign and borderline tumors) was 70.9% in Estonia in 2010–2014 [9], compared to 79.1% in Finland in 2001–2010 [35]. The survival estimates for CNS tu- mours may be somewhat affected by the use of different diagnostic methods and the classification of tumour be- haviour [23]. As the number of unspecified cases has de- creased, it is possible that some benign cases were previously recorded as malignant, thus included in the survival analysis and causing a higher survival estimate. Paapsi et al. BMC Cancer (2020) 20:30 Page 11 of 12 Paapsi et al. BMC Cancer (2020) 20:30 Page 11 of 12 but then dropped to 37.0% in the latest period. Funding This work was supported by Estonian Research Council (grant number IUT5– 1). The funder had no role in designing the study, collecting, analysing or interpreting the data, nor in the writing of the manuscript. Abbreviations AAPC: Average annual percentage change; APC: Annual percentage change; DCO: Death certificate only; ECR: Estonian Cancer registry; ICCC- 3: International Classification of Childhood Cancer, third edition; MV: Microscopically verified 6. Brenner H, Gefeller O, Hakulinen T. Period analysis for up-to-date cancer survival data: theory, empirical evaluation, computational realisation and applications. Eur J Cancer Oxf Engl. 2004;40(3):326–35. Acknowledgements 7. International Agency for Research on Cancer, World Health Organization, International Association of Cancer Registries, European Network of Cancer Registries. International rules for multiple primary cancers (ICD-O Third Edition). Lyon: International Agency for Research on Cancer, 2004. The authors thank Pille Härmaorg from the Estonian Cancer Registry for providing the data and Dr. Piret Veerus for comments. We would also like to thank the reviewers for their thoughtful comments and efforts towards improving our manuscript. 8. Innos K, Baburin A, Aareleid T. Cancer patient survival in Estonia 1995-2009: time trends and data quality. Cancer Epidemiol. 2014;38(3):253–8. Survival The drop seen here is most probably random as low number of cases are more prone to cause a fluctuation in survival. critically revised the manuscript for intellectual content and approved the final manuscript. All authors read and approved the final manuscript. critically revised the manuscript for intellectual content and approved the final manuscript. All authors read and approved the final manuscript. Availability of data and materials b d l bl Data can be made available upon reasonable request from the authors. Additional information 9. Paapsi K, Mägi M, Mikkel S, Saks K, Aareleid T, Innos K. The impact of under- reporting of cases on the estimates of childhood cancer incidence and survival in Estonia. Eur J Cancer Prev Off J Eur Cancer Prev Organ ECP. 2017; 26 Joining forces for better cancer registration in Europe:S147–S152. This work, presented at the IACR annual conference of 2018 in Arequipa, Peru, was awarded the “Enrico Anglesio” Prize, offered by the “Anglesio Moroni Foundation,” Turin, Italy. This work, presented at the IACR annual conference of 2018 in Arequipa, Peru, was awarded the “Enrico Anglesio” Prize, offered by the “Anglesio Moroni Foundation,” Turin, Italy. 10. Rahu M, McKee M. Epidemiological research labelled as a violation of privacy: the case of Estonia. Int J Epidemiol. 2008;37(3):678–82. 10. Rahu M, McKee M. Epidemiological research labelled as a violation of privacy: the case of Estonia. Int J Epidemiol. 2008;37(3):678–82. Supplementary information 3. Allemani C, Matsuda T, Di Carlo V, Harewood R, Matz M, Nikšić M, et al. Global surveillance of trends in cancer survival 2000–14 (CONCORD-3): analysis of individual records for 37 513 025 patients diagnosed with one of 18 cancers from 322 population-based registries in 71 countries. Lancet. 2018;391(10125):1023–75. pp y Supplementary information accompanies this paper at https://doi.org/10. 1186/s12885-019-6510-7. pp y Supplementary information accompanies this paper at https://doi.org/10. 1186/s12885-019-6510-7. Additional file 1: Table S1. Annual percentage change in incidence by age groups and ICCC3 site-groups (malignant only), Estonia 1970–2016. 4. Steliarova-Foucher E, Stiller C, Lacour B, Kaatsch P. International classification of childhood Cancer, third edition. Cancer. 2005;103(7):1457–67. 5. Doll R, Payne P, Waterhouse J, toimetajad. Cancer Incidence in Five Continents: A Technical Report [Internet]. Berlin Heidelberg: Springer-Verlag (UICC International Union Against Cancer). 1966. https://www.springer.com/ gp/book/9783540034759. . References 1. Health statistics and health research database. http://pxweb.tai.ee/PXWeb2 015/index_en.html. Accessed 27 May 2019. 1. Health statistics and health research database. http://pxweb.tai.ee/PXWeb2 015/index_en.html. Accessed 27 May 2019. 2. Gatta G, Botta L, Rossi S, Aareleid T, Bielska-Lasota M, Clavel J, et al. Childhood cancer survival in Europe 1999–2007: results of EUROCARE-5—a population-based study. Lancet Oncol. 2014;15(1):35–47. Conclusion Even though the societal and health care transition during the past decades have brought along major improvements in survival, childhood cancer patients in Estonia remain at a disadvantage. For some cancer sites, survival rates are still lower compared to many other European countries, and for others survival rates are plateauing. The small number of cases creates further challenges for diagnosis and care. Whereas the increasing incidence of some can- cer sites may at least partly be due to improvements in diagnostic procedures and corresponding decreases in the incidence of unspecified neoplasms, overall cancer inci- dence in children is increasing. Thus, prioritization of childhood cancer by decision-makers to ensure access to standard care in both diagnosis and treatment, but also to innovative treatments is required to improve the out- comes of childhood cancer in terms of survival as well as the quality of survivorship. Continuous collection of high- quality data is crucial for monitoring progress, and the availability of more detailed clinical data would help to identify further possibilities for improvements in child- hood cancer management in Estonia. Implementation of childhood cancer Toronto staging [47] system would also broaden the possibilities for more in depth survival ana- lysis. The results are likely to be relevant for other coun- tries in epidemiological and healthcare transition. Competing interests The authors declare that they have no competing interests. Author details 1 1Department of Epidemiology and Biostatistics, National Institute for Health Development, Hiiu 42, 11619 Tallinn, Estonia. 2Clinic of Haematology and Oncology, Tartu University Hospital, Tartu, Estonia. 3Estonian Cancer Registry, National Institute for Health Development, Tallin, Estonia. 4Department of Oncology and Haematology, Clinic of Paediatrics, Tallinn Children’s Hospital, Tallinn, Estonia. 1Department of Epidemiology and Biostatistics, National Institute for Health Development, Hiiu 42, 11619 Tallinn, Estonia. 2Clinic of Haematology and Oncology, Tartu University Hospital, Tartu, Estonia. 3Estonian Cancer Registry, Received: 20 August 2019 Accepted: 30 December 2019 Received: 20 August 2019 Accepted: 30 December 2019 Ethics approval and consent to participate The study protocol was approved by the Tallinn Medical Research Ethics Committee. The study was performed in accordance with the Declaration of Helsinki. Consent to participate was not required as registry data with no personal identifiers was used and no subjects were contacted in person. All data were were either public or available for research upon request without permission. Authors’ contributions d d d h 11. Bonaventure A, Harewood R, Stiller CA, Gatta G, Clavel J, Stefan DC, et al. Worldwide comparison of survival from childhood leukaemia for 1995-2009, by subtype, age, and sex (CONCORD-2): a population-based study of 11. Bonaventure A, Harewood R, Stiller CA, Gatta G, Clavel J, Stefan DC, et al. Worldwide comparison of survival from childhood leukaemia for 1995-2009, by subtype, age, and sex (CONCORD-2): a population-based study of KP and KI designed the study; MM provided the data; KP and AB performed statistical analysis; KP drafted the manuscript; SM and KS provided information on historical treatment data; all authors interpreted the results, Page 12 of 12 Page 12 of 12 Page 12 of 12 Paapsi et al. BMC Cancer (2020) 20:30 Paapsi et al. BMC Cancer (2020) 20:30 individual data for 89 828 children from 198 registries in 53 countries. Lancet Haematol. 2017;4(5):e202–17. individual data for 89 828 children from 198 registries in 53 countr individual data for 89 828 children from 198 registries in 53 countries. Lancet Haematol 2017;4(5):e202–17 32. Kaatsch P, Häfner C, Calaminus G, Blettner M, Tulla M. Pediatric germ cell tumors from 1987 to 2011: incidence rates, time trends, and survival. Pediatr. 2015;135(1):e136–43. individual data for 89 828 children from 198 registries in 53 countries. Lancet Haematol. 2017;4(5):e202–17. 12. Spector LG, Pankratz N, Marcotte EL. Genetic and nongenetic risk factors for childhood cancer. Pediatr Clin N Am. 2015;62(1):11–25. 33. Kroll ME, Carpenter LM, Murphy MFG, Stiller CA. Effects of changes in diagnosis and registration on time trends in recorded childhood cancer incidence in Great Britain. Br J Cancer. 2012;107(7):1159–62. childhood cancer. Pediatr Clin N Am. 2015;62(1):11–25. 13. Linabery AM, Ross JA. Trends in childhood cancer incidence in the U.S. (1992–2004). Cancer. 2008;112(2):416–32. 34. Sheiman I, Shishkin S, Shevsky V. The evolving Semashko model of primary health care: the case of the Russian Federation. Risk Manag Healthc Policy. 2018;11:209–20. 14. Steliarova-Foucher E, Fidler MM, Colombet M, Lacour B, Kaatsch P, Piñeros M, et al. Changing geographical patterns and trends in cancer incidence in children and adolescents in Europe, 1991–2010 (automated childhood Cancer information system): a population-based study. Lancet Oncol. 2018; 19(9):1159–69. 35. Madanat-Harjuoja LM, Pokhrel A, Kivivuori SM, Saarinen-Pihkala UM. Childhood cancer survival in Finland (1953–2010): a nation-wide population-based study. Int J Cancer. 2014;9(135):2129–34. 15. Steliarova-Foucher E, Stiller C, Kaatsch P, Berrino F, Coebergh J-W, Lacour B, et al. Authors’ contributions d d d h Day care in infancy and risk of childhood acute lymphoblastic leukaemia: findings from UK case-control study. BMJ. 2005;330(7503):1294. 41. Gatta G, Peris-Bonet R, Visser O, Stiller C, Marcos-Gragera R, Sánchez M-J, et al. Geographical variability in survival of European children with central nervous system tumours. Eur J Cancer. 2017;82:137–48. 21. Marcos-Gragera R, Solans M, Galceran J, Fernández-Delgado R, Fernández- Teijeiro A, Mateos A, et al. Childhood and adolescent lymphoma in Spain: incidence and survival trends over 20 years. Clin Transl Oncol Off Publ Fed Span Oncol Soc Natl Cancer Inst Mex. 2018;20(10):1289–301. 42. Stiller CA, Bayne AM, Chakrabarty A, Kenny T, Chumas P. Incidence of childhood CNS tumours in Britain and variation in rates by definition of malignant behaviour: population-based study. BMC Cancer. 2019;19(1):139. 43. Basta NO, James PW, Gomez-Pozo B, Craft AW, McNally RJQ. Survival from childhood cancer in northern England, 1968–2005. Br J Cancer. 2011;105: 1402–8. 22. Xie L, Onysko J, Morrison H. Childhood cancer incidence in Canada: demographic and geographic variation of temporal trends (1992-2010). Health Promot Chronic Dis Prev Can Res Policy Pract. 2018;38(3):79–115. 44. Gatta G, Zigon G, Capocaccia R, Coebergh JW, Desandes E, Kaatsch P, et al. Survival of European children and young adults with cancer diagnosed 1995–2002. Eur J Cancer. 2009;45(6):992–1005. 23. Peris-Bonet R, Martínez-García C, Lacour B, Petrovich S, Giner-Ripoll B, Navajas A, et al. Childhood central nervous system tumours--incidence and survival in Europe (1978–1997): report from Automated Childhood Cancer Information System project. Eur J Cancer Oxf Engl 1990. 2006;42(13):2064–80. 45. Panagopoulou P, Georgakis MK, Baka M, Moschovi M, Papadakis V, Polychronopoulou S, et al. Persisting inequalities in survival patterns of childhood neuroblastoma in southern and Eastern Europe and the effect of socio-economic development compared with those of the US. Eur J Cancer. 2018;96:44–53. 24. Schmidt LS, Schüz J, Lähteenmäki P, Träger C, Stockland T, Gustafson G, et al. Fetal growth, preterm birth, neonatal stress and risk for Cns tumors in children: a Nordic population and register-based case- control study. Cancer Epidemiol Biomark Prev. 2010;19(4):1042–52. 46. Gatta, G. (2019). The stage for childhood cancers: the JARC pilot study. ENCR Scientific Meeting 2018 Copenhagen. https://encr.eu/sites/default/ files/2018-ENCR-Conference/GGatta%20presentation%20JRC%20ENCR%2 0Copenhagen.pdf. . 25. Desandes E, Guissou S, Chastagner P, Lacour B. Incidence and survival of children with central nervous system primitive tumors in the French National Registry of childhood solid tumors. Neuro-Oncol. 2014;16(7):975–83. 26. Kaatsch P, Steliarova-Foucher E, Crocetti E, Magnani C, Spix C, Zambon P. Authors’ contributions d d d h Time trends of cancer incidence in European children (1978–1997): report from the automated childhood Cancer information system project. Eur J Cancer. 2006;42(13):1961–71. 47. Gupta S, Aitken JF, Bartels U, Brierley J, Dolendo M, Friedrich P, et al. Paediatric cancer stage in population-based cancer registries: the Toronto consensus principles and guidelines. Lancet Oncol. 2016;17(4):e163–72. 27. McMANUS AP, GUSTERSON BA, Pinkerton CR, SHIPLEY JM. The molecular pathology of small round-cell tumours—relevance to diagnosis, prognosis, and classification. J Pathol. 1996;178(2):116–21. Authors’ contributions d d d h Geographical patterns and time trends of cancer incidence and survival among children and adolescents in Europe since the 1970s (the ACCIS project): an epidemiological study. Lancet. 2004;364(9451):2097–105. 36. Pritchard-Jones K, Pieters R, Reaman GH, Hjorth L, Downie P, Calaminus G, et al. Sustaining innovation and improvement in the treatment of childhood cancer: lessons from high-income countries. Lancet Oncol. 2013; 14(3):e95–103. 16. Linet MS, Brown LM, Mbulaiteye SM, Check D, Ostroumova E, Landgren A, et al. International long-term trends and recent patterns in the incidence of leukemias and lymphomas among children and adolescents ages 0-19 years. Int J Cancer. 2016;138(8):1862–74. 37. Schindler M, Belle FN, Grotzer MA, von der Weid NX, Kuehni CE. Childhood cancer survival in Switzerland (1976-2013): time-trends and predictors. Int J Cancer. 2017;140(1):62–74. 38. Woessmann W. The impact of the methotrexate administration schedule and dose in the treatment of children and adolescents with B-cell neoplasms: a report of the BFM group study NHL-BFM95. Blood. 2004; 105(3):948–58. 17. Petridou ET, Georgakis MK, Erdmann F, Ma X, Heck JE, Auvinen A, et al. Advanced parental age as risk factor for childhood acute lymphoblastic leukemia: results from studies of the childhood leukemia international consortium. Eur J Epidemiol. 2018;33(10):965–76. 39. Patte C. The Societe Francaise d’Oncologie Pediatrique LMB89 protocol: highly effective multiagent chemotherapy tailored to the tumor burden and initial response in 561 unselected children with B-cell lymphomas and L3 leukemia. Blood. 2001;97(11):3370–9. 18. Allvee K, Karro H. Estonian Medical Birth Registry 1992-2016; Estonian abortion Registry 1996-2016. Atlex AS. Tallinn, Estonia: National Institute for Health Development; 2017. https://intra.tai.ee/images/prints/ documents/151264879040_Kogumik%202017%20(EMSR%201992-2016 ,%20%20AR%201996-2016)%20TAI.pdf. . 40. Reiter A, Schrappe M, Tiemann M, Ludwig WD, Yakisan E, Zimmermann M, et al. Improved treatment results in childhood B-cell neoplasms with tailored intensification of therapy: a report of the Berlin-Frankfurt-Münster group trial NHL-BFM 90. Blood. 1999;94(10):3294–306. 19. Infante-Rivard C, Fortier I, Olson E. Markers of infection, breast-feeding and childhood acute lymphoblastic leukaemia. Br J Cancer. 2000;83(11):1559–64. 19. Infante-Rivard C, Fortier I, Olson E. Markers of infection, breast-feeding and childhood acute lymphoblastic leukaemia. Br J Cancer. 2000;83(11):1559–64. 20. Gilham C, Peto J, Simpson J, Roman E, Eden TOB, Greaves MF, et al. Day care in infancy and risk of childhood acute lymphoblastic leukaemia: findings from UK case-control study. BMJ. 2005;330(7503):1294. 20. Gilham C, Peto J, Simpson J, Roman E, Eden TOB, Greaves MF, et al. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations. 28. Schüz J, Kaletsch U, Meinert R, Kaatsch P, Spix C, Michaelis J. Risk factors for neuroblastoma at different stages of disease. Results from a population- based case-control study in Germany. J Clin Epidemiol. 2001;54(7):702–9. 29. Litten JB, Tomlinson GE. Liver tumors in children. Oncologist. 2008;13(7): 812–20. 30. Moschovi MA, Nikolaou M, Zampogiannis A, Stefanaki K, Antoniou EA. Low birth weight is a predisposing factor for the liver tumors. Ann Pediatr Child Health. 2015;3(5):1067. 31. Murray MJ, Horan G, Lowis S, Nicholson JC. Highlights from the Third International Central Nervous System Germ Cell Tumour symposium: laying the foundations for future consensus. Ecancermedicalscience. 2013;7:333.
https://openalex.org/W3128910025
https://jurnal.umt.ac.id/index.php/senamu/article/download/3263/2318
Indonesian
null
HUBUNGAN BUDAYA ORGANISASI DENGAN PERILAKU CARING PERAWAT PELAKSANA DI RSUP. DR. SITANALA TANGERANG
Prosiding Simposium Nasional Multidisiplin
2,021
cc-by-sa
5,102
Abstrak Budaya organisasi merupakan sarana terbaik bagi rumah sakit untuk dapat memahami sumber daya manusia dari berbagai profesi didalam rumah sakit. Kunci dalam meningkatkan kualitas pelayanan keperawatan adalah dengan menekankan perilaku caring. Penelitian ini bertujuan untuk mengetahui Hubungan Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang. Desain penelitian yang digunakan korelasional kuantitatif dengan pendekatan cross sectional. Sampel dalam penelitian ini adalah perawat pelaksana di ruang rawat inap RSUP. Dr. Sitanala Tangerang menggunakan teknik total sampling dengan jumlah 74 responden. Penelitian ini menunjukan bahwa 64,9% responden dengan budaya organisasi baik, sedangkan 79,7% responden dengan caring baik. Teknik analisa menggunakan uji Chi Square didapatkan hasil bahwa terdapat hubungan Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana (p.value= 0,048) yang artinya α<0,05. Diharapkan penelitian ini dapat dijadikan bahan evaluasi rumah sakit terkait budaya organisasi dan caring perawat pelaksana untuk dapat mempertahankan maupun meningkatkan pelayanan perawat dalam memberikan asuhan keperawatan. Kata Kunci: Budaya Organisasi, Perilaku Caring, Perawat Kata Kunci: Budaya Organisasi, Perilaku Caring, Perawat Abstract Organizational culture is the best means for the hospital to able to understand human resources from various professions within the hospital. The key to improving the quality nursing services is emphasizing caring behavior. This study aims to find the relationship between Organizational Culture and Caring Behavior of Implementing Nurses in the Inpatient Room of Dr. Sitanala Hospital, Tangerang. The research design used quantitative correlations with cross-sectional approach. The sample in this study was nurses in the inpatient room of Dr. Sitanala Tangerang Hospital using a total sampling technique with a total of 74 respondents. This study shows that 64.9% of respondents with good organizational culture, while 79.7% of respondents with good caring. The analysis technique using the Chi Square test shows that there is a relationship between Organizational Culture and Caring Behavior of Caring Nurses (p.value = 0.048), which means α <0.05. This research used as material for hospital evaluations related to organizational culture and caring for implementing nurses to able to support and improve nurse services in providing nursing care. Keywords: Organizational Culture, Caring Behavior, Nurses Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 Hubungan Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di RSUP. Dr. Sitanala Tangerang 1Shieva Nur Azizah Ahmad, 2Putri Dwi Pangestu, 3Fauzan Hakim 1,2,3FIKes, Universitas Muhammadiyah Tangerang, Tangerang Indonesia e-mail: shifa.ahmad14@gmail.com 1Shieva Nur Azizah Ahmad, 2Putri Dwi Pangestu, 3Fauzan Hakim 1,2,3FIKes, Universitas Muhammadiyah Tangerang, Tangerang Indonesia e-mail: shifa.ahmad14@gmail.com Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 dalam peningkatkan kualitas pelayanan rumah sakit khususnya pelayanan keperawatan (Sumijatun, 2010). Besarnya jumlah perawat di rumah sakit (55- 60%), menjadikan perawat sebagai profesi yang memiliki peran yang dominan dalam memberikan pelayanan kepada pasien secara konstan dan terus-menerus dalam 24 jam setiap harinya (Yusuf, 2013). dalam peningkatkan kualitas pelayanan rumah sakit khususnya pelayanan keperawatan (Sumijatun, 2010). Besarnya jumlah perawat di rumah sakit (55- 60%), menjadikan perawat sebagai profesi yang memiliki peran yang dominan dalam memberikan pelayanan kepada pasien secara konstan dan terus-menerus dalam 24 jam setiap harinya (Yusuf, 2013). Survei Kepuasan Masyarakat (SKM) terhadap Pelayanan Kesehatan dengan Aspek/Indikator “Perilaku Pelaksana” Rumah Sakit Umum Pusat Dr. Sitanala Tangerang Triwulan 1 Tahun 2020 dengan nilai Interval yaitu 3,28 (Baik) dengan menggunakan Instrumen pengukuran yang digunakan adalah Kuesioner SKM Unit Pelayanan Instansi Pemerintah nomor : 14 Tahun 2017 dan berdasarkan Kamus Indikator Utama RSUP. Dr. Sitanala Tangerang terhadap 300 Responden dari 829 pelanggan Rawat Inap. Kunci dalam meningkatkan kualitas pelayanan keperawatan adalah dengan menekankan perilaku caring. Menurut Chusnawiyah (2015), caring merupakan pemberian perawatan secara totalitas dan dengan sepenuh hati, menjadi kunci mutlak bagi layanan keperawatan yang akan berefek terhadap kualitasnya suatu institusi kesehatan. Caring sebagai roh bagi profesi keperawatan merupakan salah satu perilaku yang assistif, suportif dan fasilitatif terhadap atau bagi orang atau kelompok lain dengan kebutuhan tertentu yang dapat dipraktikkan dan didemonstrasikan secara efektif secara interpersonal (Kozier, et.all., 2014). Menurut Morison dan Burnand (2009), perilaku caring inilah yang menjadi esensi dari keperawatan yang membedakan perawat dengan profesi lain. Menurut Greenfield (2008) mengungkapkan bahwa perilaku caring yang diharapkan oleh pasien terhadap perawat mencakup kepribadian yang ramah, dedikasi terhadap tugas, empati terhadap pasien dan respon cepat terhadap kebutuhan pasien. Kenyataan yang dihadapi bahwa masih banyak rumah sakit pemerintah maupun swasta yang memusatkan diri pada pengobatan pasien saja. Keberhasilan ilmu pengetahuan dan teknologi menyebabkan perawat hanya memberikan perhatian pada tugas-tugas mengobati daripada merawat. Tidak banyak waktu bagi perawat mendengarkan keluhan pasien, memberi dukungan, hal ini disebabkan karena delegasi lebih diberikan untuk tugas-tugas dokter (Tomey, 2006). Penelitian yang dilakukan oleh Fahriani (2011) mendapatkan hasil bahwa level perilaku caring perawat pelaksana di Rumah Sakit Umum Daerah Klaten 62% masuk katagori rendah. Sejalan dengan penelitian yang dilakukan oleh Eva Supriatin (2015) menunjukan hasil perilaku caring perawat kurang baik sebesar 58,1% dan caring perawat baik sebesar 41,9%. PENDAHULUAN Rumah sakit merupakan salah satu bentuk sarana kesehatan, baik yang diselenggarakan oleh pemerintah dan atau masyarakat yang berfungsi untuk melakukan upaya pelayanan kesehatan, salah satu pelayanan yang ada dirumah sakit adalah Pelayanan Keperawatan.. Pelayanan keperawatan adalah suatu bentuk pelayanan yang bersifat professional dalam memenuhi kebutuhan dasar manusia meliputi bio-psiko-sosio-kultural dan spiritual yang dapat ditunjuk pada individu dan masyarakat dalam rentang sehat dan sakit (Martini, 2007). Pelayanan keperawatan professional dapat terwujud apabila dilaksanakan oleh tenaga keperawatan yang profesional sehingga dapat berkontribusi E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 156 E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 pengendalian dalam membentuk perilaku untuk meningkatkan prestasi organisasi yang berdampak pada kinerja anggota organisasi (Kreitner & Kinicki, 2010). Budaya organisasi yang baik, akan mendorong perawat untuk bekerja lebih produktif dan memiliki sikap positif (Nur Aini, et.al., 2018). pengendalian dalam membentuk perilaku untuk meningkatkan prestasi organisasi yang berdampak pada kinerja anggota organisasi (Kreitner & Kinicki, 2010). Budaya organisasi yang baik, akan mendorong perawat untuk bekerja lebih produktif dan memiliki sikap positif (Nur Aini, et.al., 2018). Carlis (2009) melihat fenomena yang ada di rumah sakit di Kabupaten Aceh ternyata dijumpai bahwa nilai-nilai budaya yang pernah ada sedikit demi sedikit mulai hilang. Hal ini dapat dilihat nilai senioritas yaitu pemahaman staf terhadap budaya organisasi dalam hubungan saling menghormati antara staf. Berdasarkan fenomena tersebut pembentukan budaya organisasi yang baik akan memberikan implikasi pada kepemimpinan di rumah sakit, pengelolaan potensi-potensi dari berbagai kelompok agar dapat dimanfaatkan untuk mencapai tujuan organisasi. Penelitian yang dilakukan oleh Yunita Hairina (2018) menunjukkan bahwa budaya organisasi kurang sebesar 53,8% serta hasil uji menunjukan ada hubungan yang signifikan antara dimensi budaya organisasi dengan perilaku caring perawat (p-value 0,002). Hasil penelitian lainnya yang dilakukan oleh Rini Fahriani (2011), menyebutkan bahwa budaya organisasi kurang 61,1% dengan (p=0,036) menunjukan bahwa ada hubungan bermakna antara budaya organisasi dengan perilaku caring perawat. Hasil wawancara kepada 2 orang pasien di Rumah Sakit, pasien mengatakan bahwa masih ada perawat jutek dan cuek pada saat melakukan pelayanan kepada pasien. Pihak Rumah Sakit juga mengatakan bahwa budaya organisasi di rumah sakit berjalan secara efektif walaupun terkadang ada beberapa kendala yang sering terjadi tetapi bisa diatasi dengan adanya komunikasi dan kerja sama antar pegawai Rumah Sakit. Penelitian ini bertujuan untuk untuk mengetahui hubungan budaya organisasi dengan perilaku caring perawat pelaksana di ruang rawat inap RSUP. Dr. Sitanala Tangerang. Terbentuknya perilaku caring sangat dipengaruhi oleh sistem nilai bersama yang dianut oleh para perawat yang tercermin dalam visi, misi, dan tujuan rumah sakit yang ingin dicapai mencerminkan budaya suatu organisasi (Yunita Hairina,et,al.,2018). Budaya organisasi merupakan sarana terbaik bagi rumah sakit untuk dapat memahami sumber daya manusia dari berbagai profesi didalam rumah sakit. Karena budaya organisasi merupakan ketentuan aturan dan norma yang tidak tertulis yang menjadi standar perilaku yang dapat di terima dengan baik oleh anggota organisasi (Sunarto, 2004). Menurut Muhammad Iqbal (2017) ada korelasi yang kuat dan signifikan antara budaya organisasi yang kuat dengan kinerja perawat didapatkan sig (p < 0,05). Budaya organisasi yang kuat dapat menciptakan kesamaan tujuan, motivasi karyawan dan struktur E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 157 E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 Etik pada tanggal 27 Juli 2020 di Fakultas Kedokteran dan Kesehatan Universitas Muhammadiyah Jakarta dengan No. Etik: 024/PE/KE/FKK-UMJ/VII/2020. HASIL DAN PEMBAHASAN Sitanala Tangerang hasil sebagian besar responden berada pada rentang usia Dewasa Awal (26-35) 43 responden (58,1%), sebagian besar responden adalah perempuan sebanyak 54 responden (73,0%), sebagian besar berpendidikan DIII/Akper sebanyak 40 (54,1%), Responden bekerja > 3 bulan sebanyak 74 responden (100%). HASIL DAN PEMBAHASAN Analisa Data Univariat Pada analisa univariat ini disajikan distribusi frekuensi tentang karakteristik responden meliputi: usia, jenis kelamin, pendidikan, lama kerja, budaya organisasi dan caring perawat pelaksana. Tabel 1. Frekuensi Data Demografi, Budaya Organisasi dan Caring Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang Berdasarkan hasil Tabel 1 Frekuensi Data Demografi Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang hasil sebagian besar responden berada pada rentang usia Dewasa Awal (26-35) 43 responden (58,1%), sebagian besar responden adalah perempuan sebanyak 54 responden (73,0%), sebagian besar berpendidikan DIII/Akper sebanyak 40 (54,1%), Responden bekerja > 3 bulan sebanyak 74 responden (100%). Variabel Independen (Budaya Organisasi) Setelah mengumpulkan data dari kuesioner mengenai pernyataan Variabel Independen terkait Budaya Organisasi yang digunakan di ruang rawat inap RSUP. Dr. Sitanala Tangerang didapatkan hasil pada Tabel 2. Tabel 2. Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74) No Variabel Frekuensi Presentasi (%) 1. Usia - Remaja Akhir (17-25) - Dewasa Awal (26-35) - Dewasa Akhir (36-45) - Lansia Awal (46-55) 6 43 19 6 8,1 58,1 25,7 8,1 Jumlah 74 100% 2. Jenis Kelamin - Laki-Laki - Perempuan 20 54 27,0 73,0 Jumlah 74 100% 3. Pendidikan - SPK - DIII/Akper - D4/S1 - S1+Ners 0 40 1 33 0 54,1 1,4 44,6 Jumlah 74 100% 4. Lama Kerja - 3 Bulan - >3 Bulan 0 74 0 100 Jumlah 74 100% Tabel 1. Frekuensi Data Demografi, Budaya Organisasi dan Caring Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang No Variabel Frekuensi Presentasi (%) 1. Usia - Remaja Akhir (17-25) - Dewasa Awal (26-35) - Dewasa Akhir (36-45) - Lansia Awal (46-55) 6 43 19 6 8,1 58,1 25,7 8,1 Jumlah 74 100% 2. Jenis Kelamin - Laki-Laki - Perempuan 20 54 27,0 73,0 Jumlah 74 100% 3. Pendidikan - SPK - DIII/Akper - D4/S1 - S1+Ners 0 40 1 33 0 54,1 1,4 44,6 Jumlah 74 100% 4. Lama Kerja - 3 Bulan - >3 Bulan 0 74 0 100 Jumlah 74 100% Tabel 1. Frekuensi Data Demografi, Budaya Organisasi dan Caring Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang Tabel 1. Frekuensi Data Demografi, Budaya Organisasi dan Caring Peraw Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang Berdasarkan hasil Tabel 1 Frekuensi Data Demografi Perawat Pelaksana di Ruang Rawat Berdasarkan hasil Tabel 1 Frekuensi Data Demografi Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. METODE PENELITIAN Jenis penelitian ini merupakan penelitian korelasional kuantitatif dengan desain cross sectional. Populasi dalam penelitian ini adalah seluruh perawat pelaksana yang ada di RSUP. Dr. Sitanala Tangerang sebanyak 74 orang. Teknik pengambilan sampel pada penelitian ini menggunakan total sampling dimana jumlah sampel sama dengan populasi. Data penelitian ini didapatkan dengan menggunakan kuesioner Budaya Organisasi dan Caring Perawat. Dalam penelitian ini Budaya Organisasi diukur dengan menilai keterlibatan dan persepsi mini. Sedangkan untuk Caring Perawat dinilai dari tindakan/perlakuan perawat dalam memberikan asuhan keperawatan kepada klien di ruang rawat inap rumah sakit. Nilai validitas kuesioner Budaya Organisasi (X) 30 pernyataan dikatakan valid dengan rentang nilai rxy 0,389 – 0,809, hasil tersebut lebih besar dari rtabel (0,361) sedangkan Caring Perawat Pelaksana (Y) didapatkan hasil bahwa seluruh pernyataan berjumlah 26 dari 30 pernyataan dikatakan valid dengan rentang nilai 0,368 - 0,651, hasil tersebut lebih besar dari rtabel (0,361). Nilai reabilitas kuesioner budaya organisasi 0,948, sedangkan nilai reabilitas kuesioner caring perawat di dapatkan hasil 0,745. Analisa univariate dalam penelitian menjelaskan distribusi frekuensi berdasarkan karakteristik demografi dari setiap variabel. Sedangkan analisis bivariat, diukur menggunakan chi-square untuk mengidentifikasi hubungan antara budaya organisasi dengan caring perawat pelaksana. Pada penelitian ini sudah dilakukan Uji Etik oleh Komite E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 158 Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 Variabel Dependen (Caring Perawat Pelaksana) Setelah mengumpulkan data dari kuesioner mengenai pernyataan Variabel Ddependen terkait Caring Perawat yang digunakan di ruang rawat inap RSUP. Dr. Sitanala Tangerang didapatkan hasil pada Tabel 3. Tabel 3. Caring Perawat di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74) Sumber: Pengolahan Data Kuesioner, Agustus 2020 No Caring Perawat Frekuensi Presentasi (%) 1. Cukup 15 20,3 2. Baik 59 79,7 Total 74 100% Tabel 3. Caring Perawat di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74) Sumber: Pengolahan Data Kuesioner, Agustus 2020 Berdasarkan Tabel 3 Caring Perawat di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang didapatkan hasil budaya organisasi pada kategori kategori cukup sebanyak 15 (20,3%) dan pada kategori baik sebanyak 69 (79,7%). Berdasarkan Tabel 3 Caring Perawat di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang didapatkan hasil budaya organisasi pada kategori kategori cukup sebanyak 15 (20,3%) dan pada kategori baik sebanyak 69 (79,7%). Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 Berdasarkan Tabel 2 Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang didapatkan hasil budaya organisasi pada kategori kategori cukup sebanyak 35 (57,8%) dan pada kategori baik sebanyak 48 (64,9%). Variabel Independen (Budaya Organisasi) Setelah mengumpulkan data dari kuesioner mengenai pernyataan Variabel Independen terkait Budaya Organisasi yang digunakan di ruang rawat inap RSUP. Dr. Sitanala Tangerang didapatkan hasil pada Tabel 2. 159 E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index Tabel 2. Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74) No Budaya Organisasi Frekuensi Presentasi (%) 1. Cukup 26 35,1 2. Baik 48 64,9 Total 74 100% Tabel 2. Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74) No Budaya Organisasi Frekuensi Presentasi (%) Tabel 2. Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74) 159 Analisa Data Bivariat Dalam penelitian ini, analisis bivariat dilakukan untuk mengetahui hubungan budaya organisasi dengan perilaku caring perawat pelaksana di ruang rawat inap RSUP. Dr. Sitanala Tangerang. Uji statistik yang digunakan adalah Chi Square dengan menggunakan α=0,05. Tabel 4. Hubungan Budaya Organisasi dengan perilaku caring perawat pelaksana di ruang rawat inap RSUP. Dr. Sitanala Tangerang (n=74) Tabel 4. Hubungan Budaya Organisasi dengan perilaku caring perawat pelaksana di ruang rawat inap RSUP. Dr. Sitanala Tangerang (n=74) Budaya Organisasi Caing Perawat Total OR 0.224 P.Value 0,048 Baik Cukup Baik 24 12 26 40,7% 48% 35,1% Cukup 35 13 48 59,3% 52% 64,9% Jumlah 59 25 74 100% 100% 100% Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 ketenagajerjaan dan ikut andil dalam kegiatan yang sedang berjalan. Karena Menurut Wahyudi (2010) dalam Darmayanti (2015) Usia dapat mempengaruhi kinerja ketika usia terus bertambah, hal ini berdampak pada kecepatan, kecekatan, kekuatan dan koordinasi akan terjadi penurunan. Hal ini sesuai dengan penelitian yang dilakukan oleh Eva Supriatin (2015) didapatkan hasil sebagian besar berada pada rentang usia 28,7 Tahun. Hal ini sejalan dengan penelitian yang dilakukan oleh Tutu April Ariani, et al (2018) dengan hasil bahwa dari 15 Orang rata-rata usia 29,7 tahun. Di dukung oleh penelitian yang dilakukan Rini Fahriani Zees (2011) didapatkan hasil dari 120 responden rata-rata usia 25-45 tahun sebanyak 98 (81,7%). Penelitian menurut Yunita Hairina (2018) juga menyebutkan kategori responden rata-rata dengan rentang usia dewasa awal (20-35 tahun) sebanyak 88,4%. Usia Penelitian ini menggunakan kategori umur menurut Depkes RI (2009) yaitu: masa remaja akhir 17-25 tahun, masa dewasa awal 26-35 tahun, masa dewasa akhir 36-45 tahun, masa lansia awal 46-55 tahun. Berdasarkan hasil penelitian yang didapatkan hasil bahwa sebagian besar responden berada pada rentang usia Dewasa Awal (26-35) adalah 47 responden (58,1%). Hal ini sangat bisa terjadi karena usia Dewasa Awal (26 – 35) tahun karena usia tersebut adalah usia produktif dianggap sudah mampu dalam proses E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 160 Jenis kelamin Berdasarkan hasil penelitian didapatkan hasil bahwa dari 74 responden mayoritas berjenis kelamin perempuan sebanyak 54 (73%). Menurut Peneliti banyaknya perawat wanita yang bekerja karena di Indonesia keperawatan identik dengan feminisme dimana sifat tersebut sangat membantu dalam memberikan asuhan keperawatan di ruang perawatan karena berhubungan dengan penerapan konsep caring dan komunikasi pada pasien. Hal ini sesuai dengan hasil penelitian yang dilakukan oleh Rini Fahriani Zees (2011) di Kota Gorontalo didapatkan hasil rata rata responden jenis kelamin perempuan sebanyak 109 (90,8%). Penelitian lain dari Yunita Hairina (2018) didapatkan hasil bahwa responden dengan jenis kelamin perempuan sebanyak 85 (75,9%). Sejalan dengan penelitian Sherlyna Prihandhani dari (2014) didapatkan hasil bahwa responden dengan jenis kelamin perempuan sebanyak 37 (77,1%). Lalu penelitian menurut Umi Kalsum, et.al (2017) didapatkan hasil bahwa responden jenis kelamin perempuan dari pada jenis kelamin laki laki sebanyak 58 (78,4%). Pendidikan terakhir Berdasarkan hasil penelitian didapatkan hasil pendidikan perawat di ruang rawat inap RSUP. Dr. Sitanala Tangerang terbanyak adalah DIII/Akper sebanyak 40 orang (54,1%). Menurut Peneliti perawat yang bekerja lebih dominan DIII karna jenjang pendidikan keperawatan DIII lebih cepat (3 Tahun) sehingga lebih banyak yang memilih DIII keperawatan untuk jenjang pendidikan sebelum melanjutkan ke tahap selanjutnya. Hal ini sejalan dengan penelitian Rini Fahriani Zees (2011) Kota Gorontalo didapatkan hasil rata rata responden pendidikan terakhir DIII/Akper sebanyak 88 (73,3%). Kemudian didukung penelitian dari Sherlyna Prihandhani, et al (2014) didapatkan hasi pendidikan terakhir DIII/Akper sebanyak 26 (54,2%) dari 48 responden. Lalu didukung penelitian menurut Tutu April Ariani, et al (2018) didapatkan hasil bahwa dari 15 responden pendidikan DIII/Akper sebanyak 12 (80%). Sejalan dengan penelitian Yunita dari (2018) didapatkan hasil bahwa rata-rata pendidikan terakhir responden DIII/Akper yaitu sebanyak 77 (68,8%). Didukung oleh penelitian dari Eva Supriatin (2015) didapatkan hasil bahwa sebagian besar responden dengan pendidikan terakhir DIII/Akper sebanyak 39 (90,7%). Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 aktivitas pekerjaanya. Lama kerja selalu dihubungkan dengan pengalaman seseorang dalam bidangnya walaupun tidak selalu mencerminkan baik. Berdasarkan hasil penelitian yang dilakukan di ruang rawat inap RSUP. Dr. Sitanala Tangerang kepada 74 responden menunjukkan bahwa mayoritas responden sudah bekerja lebih dari 3 bulan (> 3 bulan) sebanyak 74 (100%). Menurut peneliti alasan mengapa perawat bekerja diketagorikan lebih dari 3 bulan adalah karena semua perawat di RSUP. Dr. Sitanala Tangerang sudah melewati masa training. Hal ini sejalan dengan penelitian yang dilakukan oleh Yunita Hairina (2018) didapatkan Hasil Bahwa Dari Responden, 53 Responden Sudah Bekerja > 3 Bulan (64,5%). Penelitian lain yang dilakukan oleh Irin Fahrunisyah (2016) menyebutkan mendapatkan hasil masa kerja perawat >3 bulan sebanyak 43 (100%). aktivitas pekerjaanya. Lama kerja selalu dihubungkan dengan pengalaman seseorang dalam bidangnya walaupun tidak selalu mencerminkan baik. Berdasarkan hasil penelitian yang dilakukan di ruang rawat inap RSUP. Dr. Sitanala Tangerang kepada 74 responden menunjukkan bahwa mayoritas responden sudah bekerja lebih dari 3 bulan (> 3 bulan) sebanyak 74 (100%). Menurut peneliti alasan mengapa perawat bekerja diketagorikan lebih dari 3 bulan adalah karena semua perawat di RSUP. Dr. Sitanala Tangerang sudah melewati masa training. Hal ini sejalan dengan penelitian yang dilakukan oleh Yunita Hairina (2018) didapatkan Hasil Bahwa Dari Responden, 53 Responden Sudah Bekerja > 3 Bulan (64,5%). Penelitian lain yang dilakukan oleh Irin Fahrunisyah (2016) menyebutkan mendapatkan hasil masa kerja perawat >3 bulan sebanyak 43 (100%). Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang Berdasarkan penelitian yang dilakukan di ruang rawat inap RSUP. Dr. Sitanala Tangerang kepada 74 responden didapatkan hasil bahwa Budaya Organisasi dalam kategori baik yaitu 48 (64,9%) dan Budaya Organisasi dalam kategori cukup yaitu 26 (35,1%). Menurut peneliti budaya organisasi sudah dikategorikan baik karena perawat sebagai anggota organisasi memiliki nilai dan keyakinan bersama yang mendasari identitas organisasi yang berfungsi sebagai pemberi rasa identitas kepada anggota organisasi, meningkatkan komitmen terhadap organisasi, dan menjalin kehidupan sosial yang baik, serta mengendalikan perilaku para anggota organisasi agar dapat mencapai tujuan organisasi. Hal ini sejalan dengan penelitian yang dilakukan oleh Rini Fahriani Zees (2011) didapatkan hasil Budaya Organisasi baik sebanyak 72 (60%) dan budaya organisasi kurang berjumlah 48 (40%). Hal ini didukung oleh penelitian yang dilakukukan oleh Prodalima (2018) Di RSUD Gayo Lues didapatkan hasil budaya organisasi 72 (62%) dan budaya organisasi cukup sebanyak 44 (38%). Caring Perawat di Ruang Rawat Inap RSUP. Dr. Lama Bekerja Lama Bekerja Menurut Wahyudi (2010) dalam Darmayanti (2015), Lama kerja merupakan rentang waktu yang telah dilewati oleh seorang pekerja atau karyawan didalam menjalankan E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 161 Hubungan Budaya Organisasi dengan Perilaku Caring Perawat di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang Berdasarkan Hubungan Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang didapatkan hasil bahwa Budaya Organisasi pada kategori baik menghasilkan Caring Perawat perawat dalam kategori baik sebanyak 24 responden (40,7%). Hasil analisa bivariat dengan menggunakan uji Chi-Square didapatkan hasil p.value=0,048 yang artinya α<0,05. Maka dapat diketaui H0 ditolak yaitu adanya hubungan antara budaya organisasi dengan perilaku caring perawat pelaksana di ruang rawat inap RSUP. Dr, Sitanala Tangerang. Menurut Peneliti budaya organisasi baik menghasilkan perilaku caring perawat baik karena perawat sudah memiliki organisasi kerja dan sistem manajemen yang baik sehingga dapat menciptakan budaya kerja yang baik membentuk pola perilaku perawat untuk dapat berperilaku caring, Hal ini sesuai dengan hasil penelitian yang dilakukan oleh Nur Aini (2017) dengan hasil uji statistik, dimana didapatkan sig (p value) 0,018 < α=0,05 sehingga dapat disimpulkan ada hubungan antara tipe kepribadian dengan perilaku caring perawat. Dengan nilai korelasi 0,60 dan arah hubungan positif, artinya kekuatan hubungan sedang dan semakin baik budaya organisasi maka perilaku caring juga semakin baik. Didukung juga oleh penelitian Yunita Hairina (2018) dapat disimpulkan ada hubungan yang signifikan antara dimensi budaya organisasi dengan perilaku caring perawat (p-value 0,002). Penelitian lain dari Rini Fahriani Zees (2011) didapatkan hasil uji statistik menunjukkan budaya organisasi berhubungan dengan perilaku caring perawat (p=0,036; α=0,05) maka terdapat huhungan antara budaya organisasi dengan perilaku caring perawat. Menurut Yunita Hairina (2018) Dalam suatu organisasi kerja, sistem manajemen yang baik merupakan pondasi dasar yang dapat menciptakan budaya kerja yang baik, selain membentuk pola perilaku perawat untuk dapat berperilaku caring, pembenahan dan juga dukungan manajemen sangat berpengaruh dalam memberntuk karakter perawat. Sitanala Tangerang Berdasarkan penelitian yang dilakukan di ruang rawat inap RSUP. Dr. Sitanala Tangerang kepada 74 responden didapatkan hasil bahwa Caring Perawat dalam kategori baik sebanyak 59 (79,7%) dan Caring Perawat dalam kategori cukup yaitu sebanyak 15 (20,3%). Menurut Peneliti caring perawat pelaksana baik karena sudah banyak perawat yang sudah memahami tentang arti, tujuan, dan mafaat berperilaku secara caring baik kepada pasien, keluarga maupun terhadap rekan sejawat. Didukung oleh penelitian yang dilakukan oleh Diah Fitri (2016) mendapatkan hasil bahwa Perilaku Caring Perawat dalam kategori Baik sebanyak 11 Responden dari 19 Responden (57,9%). Didukung oleh penelitian dari Madya Sulisno (2016) dengan hasil Caring Perawat dalam kategori baik sebanyak 19 Responden (76,0%). Menurut Donny Sahensolar (2017) diketahui bahwa penilaian caring perawat dalam kategori baik sebanyak 23 orang (48.9%). Penelitian lain yang dilakukan oleh Rianja Ikhwan Ardhyatama (2018) di jombang didapatkan hasil bahwa perilaku Caring kategori baik sebanyak 14 responden (60,9%) dan kategori cukup sebanyak (26,1%). Hal ini sesuai dengan Hasil penelitian yang dilakukan oleh Gurusinga dkk (2013) kepada 136 pasien di Rumah Sakit Grand Medistra Lubuk Pakam tentang perilaku caring perawat mengatakan bahwa rata-rata perilaku caring perawat terhadap pasien berada dalam kategori baik (52,9%) atau sebanyak 72 perawat, cukup (36,1%) atau sebanyak 49 perawat, kurang E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 162 Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 (10,3%) atau sebanyak 14 perawat dan buruk (0,7%) atau sebanyak 1 perawat. Begitu juga dengan yang dilakukan oleh Setiyawan (2013) di ruang rawat inap anak RSUD Ambarawa Kabupaten Semarang untuk variabel perilaku caring perawat yang dipersepsikan menunjukkan bahwa proporsi perawat yang dinilai sudah memiliki perilaku caring yang baik yaitu sebanyak 49,1%. Hal ini didukung oleh penelitian yang dilakukan oleh Noyumala (2013) terhadap 75 perawat di Rumah Sakit Umum Daerah Kota Makassar ditemukan hasilnya sebagian besar perawat memiliki perilaku caring yang tinggi yaitu 54,7% atau sebanyak 41 orang. (10,3%) atau sebanyak 14 perawat dan buruk (0,7%) atau sebanyak 1 perawat. Begitu juga dengan yang dilakukan oleh Setiyawan (2013) di ruang rawat inap anak RSUD Ambarawa Kabupaten Semarang untuk variabel perilaku caring perawat yang dipersepsikan menunjukkan bahwa proporsi perawat yang dinilai sudah memiliki perilaku caring yang baik yaitu sebanyak 49,1%. Hal ini didukung oleh penelitian yang dilakukan oleh Noyumala (2013) terhadap 75 perawat di Rumah Sakit Umum Daerah Kota Makassar ditemukan hasilnya sebagian besar perawat memiliki perilaku caring yang tinggi yaitu 54,7% atau sebanyak 41 orang. Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 adanya hubungan antara Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang. adanya hubungan antara Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang. Hasil penelitian ini diharapkan dapat dijadikan bahan pertimbangan rumah sakit untuk lebih memperhatikan budaya organisasi tentang keterlibatan pegawai dalam mengambil kebijakan, mengembangkan kapasitas sumber daya manusia di semua level organisasi dari pihak manager keperawatan sampai perawat pelaksana dan memberikan proses belajar seperti pelatihan kepada perawat serta motivasi dari atasan yang di dapatkan oleh perawat baik dari faktor intrinsik dan ekstrinsik tentu memberikan dorongan dari diri perawat untuk terus melakukan caring yang baik ke pasien. SIMPULAN DAN SARAN Berdasarkan hasil penelitian dan analisa dengan menggunakan uji Chi-Square menggunakan program komputerisasi tentang gambaran variabel independen budaya organisasi, gambaran variabel dependen tentang caring perawat, didapatkan kesimpulan bahwa budaya organisasi didapatkan hasil budaya organisasi pada kategori baik dan caring perawat pada kategori baik. Hasil penelitian pada Hubungan Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang didapatkan hasil p.value=0,048 yang artinya α<0,05. Maka dapat diketahui H0 ditolak yaitu E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 163 Gurusinga, R., Sulistyaningsih, W., Tarigan, M. (2013). Perilaku Caring Perawat Dan Kepuasan Pasien Rawat Inap. Indonesian Nursing Research Journal (INA-NRJ). Vol. 1 (2). Gurusinga, R., Sulistyaningsih, W., Tarigan, M. (2013). Perilaku Caring Perawat Dan Kepuasan Pasien Rawat Inap. Indonesian Nursing Research Journal (INA-NRJ). Vol. 1 (2). Greenfield, B.H. (2008). Meaning of caring during their first year of clinical practice. Journal of Nursing Research 88 (2008) 10-14. doi: ly05631000/ c5460045 Hairina, Y., Putra, A., Kunci, K., & Ambrose, O. (2018). Dimensi Budaya Organisasi Dengan Perilaku Caring Perawat Cultural Dimension Organization With The Caring Behavior Of Nurses Kuala melalui : content validity , uji validitas, III(3). Iqbal, M., & Agritubella, S. M. (2017). Hubungan Budaya Organisasi Dengan Kinerja Perawat Pelaksana Di Rawat Inap Rs Pmc. Jurnal Endurance, 2(3), 285. https://doi.org/10.22216/jen.v2i3.1355 Kozier, B., Berman, A., dan Snyder, S.J. (2014). Kozier’s and Erb’s Fundamental of Nursing: Australian Edition. Melbourne : Pearson AustraliKreitner, R. dan Kinicki. (2010). Organizational Behavior. New York: Mc Graw-Hill Higher education. Morrison, P. dan Burnard, P. (2009). Caring and communicating: hubungan interpersonal dalam keperawatan. Edisi kedua. Profil dan data medical record RSAS Kota Gorontalo tahun 2010. Muhammad Rijali Rahman. (2019). Hubungan Gaya Kepemimpinan Kepala Ruangan dengan Kepuasan Kerja Perawat di Ruang Rawat Inap RSD Idaman Kota Banjarbaru. Noyumala (2013). Nurse Commitment Relationship With The Professional Caring Behaviors Through Implementation Of Patient Safety In The General Hospital Of Makassar City. Jurnal FKep. Unhas Makassar,Vol. 2 (2). Prihandhani, I. G. A. A. S., Sri Nopiyani, N. M., Duarsa, D. P., Tinggi, S., Kesehatan Bina, I., & Bali, U. (2015). Public Health and Preventive Medicine Archive 54 │ Juli. 3(1), 54–59. Prodalima, Thesis, & Utara, U. S. (2018). Hubungan Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di RSUD Gayo Lues Tahun 2017. Ikhwan Rianja., (2018). Hubungan Caring Perawat dengan Kesiapan Keluarga Menerima Informasi Kesehatan. Skripsi Strata 1 Keperawatan STIK: Insan Cendekia Medika Jombang. Sahensola, D. (2017). Hubungan Perilaku Caring Perawat Dengan Tingkat Kepuasan Pasien Di IRINA C2 RSUP PROF DR R. D Kandau Manado. Journal Of Community & Emergency, 5, 42–49. Setiyawan, D. (2013). Hubungan Perilaku Caring Perawat Dengan Tingkat Kecemasan Ibu Akibat Hospitalisasi Anak (Usia 0- 12 Tahun) Di Ruang Rawat Inap Anak RSUD Ambarawa Kabupaten Semarang. Jurnal PSIK Sekolah Tinggi Ilmu Kesehatan Ngudi Waluyo Ungaran, Vol. 2 (1). Supriatin, (2009). Hubungan faktor individu dan faktor organisasi dengan perilaku caring perawat di Instalasi Rawat Inap Rumah Sakit Umum Daerah Kota Bandung. Tesis. DAFTAR PUSTAKA Adam, R. A. (2013). Pengembangan Budaya Organisasi Keperawatan untuk Meningkatkan Kinerja dan Kepuasan Perawat dalam Penerapan Metode Asuhan Keperawatan Profesional Di Rumah Sakit. https://doi.org/10.1007/s12033-007-0046-9.Dinnen Ali, S., Rose Alinda, A., Syed Norris, H., Marlia, P., Siti Hamisah, T., Cotet, G. B., Balgiu, B. A., Zaleschi (Negrea), V. – C., Matusevych, T., Abu Ahmad, I., Teknologi, U., Bandar, M., Abdul, T., Pahang, R., Pendidikan, F., National Education Association (NEA), Information Management Department, HASSAN, C. N. B., Luthfi, A., … Othman, A. (2018). perilaku caring perawat pelaksana di ruang rawat inap. Jurnal Ilmiah Kesehatan, (2), 61–67. https://doi.org/10.1051/matecconf/201712107005 Ardhyatama Ikhwan Riandja, (2018). Hubungan Caring Perawat Dengan Kesiapan Keluarga Menerima Informasi Kesehatan Tentang Terapi Lanjutan. Skripsi Program Studi S1 Ilmu Keperawatan. Jombang: Stikes Insan Cendekia Medika. Chusnawiyah. (2015). Hubungan beban kerja dengan perilaku caring perawat di ruaUYHng rawat inap kelas 3 RSD Balung. Program Studi Keperawatan Fakultas Ilmu Kesehatan Universitas Muhammadiyah Jember. Diakses dari http://digilib.unmuhjember.ac.id (1 Desember 2017) Darmayanti, R. 2015. Hubungan Motivasi Kerja dengan Kinerja Perawat Rawat Inap di RS Sultan Syarif Muhamad Alkadrie Pontianak. Skripsi. Program Studi Keperawatan Universitas Tanjungpura. Pointianak. Fahriani Zees, R. (2012). Analisis Faktor Budaya Organisasi yang Berhubungan dengan Perilaku Caring Perawat Pelaksana di Ruang Rawat Inap RSUD. Prof. Dr. H. Aloei Saboe KOta Gorontalo. Jurnal Health and Sport, 5(1). Retrieved from http://ejurnal.ung.ac.id/index.php/JHS/article/view/927/867 Fahrunisyah, I., Sandra, C., Witcahyo, E., Administrasi, B., & Masyarakat, F. K. (2016). Analisis Hubungan Budaya Organisasi melalui Pendekatan Competing Values Fra mework terhadap Kinerja Tenaga Perawat ( Studi di Instalasi Rawat Inap RSD Kalisat Kabupaten Jember ) ( Analysis of Correlation of Organizational Culture to the Nurse ’ s Performan. Giyanti Ummi., (2019). Hubungan Gaya Kepemimpinan Kepala Ruangan Dan Motivasi Kerja Dengan Kinerja Perawat Di Ruang Rawat Inap Rs An-Nisa Tangerang. Skripsi Strata 1 Keperawatan FK Ilmu Kesehatan: Universitas Muhammadiyah Tangerang (Tidak di publikasi) E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 164 Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 Tutu April, A., & Nur, A. (2018). Perilaku Caring Perawat Terhadap Kepuasan Pasien Rawat Inap Pada Pelayanan Keperawatan Nurse Caring Behavior and Satisfaction of Inpatient Patients on Nursing Services Tutu April Ariani *, Nur Aini, 9, 58–64. https://doi.org/2443-0900 Yusuf, M. (2016). Hubungan Manajemen Waktu Perawat Pelaksana Dengan Pendokumentasian Asuhan Keperawatan Di Ruang Rawat Inap Kelas Iii Rumah Sakit Umum Daerah Dr. Zainoel Abidin Tahun 2013. Jurnal Ilmu Keperawatan, 1(1). Program Magister Ilmu Keperawatan Kepemimpinan dan Manajemen Keperawatan. Fakultas Keperawatan Universitas Indonesia. Depok. Diakses dari http://lib.ui.ac.id Supriatin, E. (2015). Perilaku Caring Perawat Berdasarkan Faktor Individu dan Organisasi. Jurnal Keperawatan Indonesia, 18(3), 192–198. https://doi.org/10.7454/jki.v18i3.425 E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 165 Prosiding Simposium Nasional Multidisiplin Universitas Muhammadiyah Tangerang Volume 2, 2020 E ISSN 2714-5603 Home Page: http://jurnal.umt.ac.id/index.php/senamu/index UCAPAN TERIMAKASIH Terimakasih kepada RSUP. Dr. Sitanala yang sudah memfasilitasi untuk pelaksanaan penelitian. Terimakasih kepada Fakultas Ilmu Kesehatan Universitas Muhammadiyah Tangerang atas dukungan, motivasi dan semangatnya agar pemelitian ini selesai tepat pada waktunya. 166
https://openalex.org/W2917317845
https://europepmc.org/articles/pmc6399419?pdf=render
English
null
Resolvin D2 Induces Resolution of Periapical Inflammation and Promotes Healing of Periapical Lesions in Rat Periapical Periodontitis
Frontiers in immunology
2,019
cc-by
12,217
ORIGINAL RESEARCH published: 26 February 2019 doi: 10.3389/fimmu.2019.00307 Citation: Citation: Siddiqui YD, Omori K, Ito T, Yamashiro K, Nakamura S, Okamoto K, Ono M, Yamamoto T, Van Dyke TE and Takashiba S (2019) Resolvin D2 Induces Resolution of Periapical Inflammation and Promotes Healing of Periapical Lesions in Rat Periapical Periodontitis. Front. Immunol. 10:307. doi: 10.3389/fimmu.2019.00307 Citation: Siddiqui YD, Omori K, Ito T, Yamashiro K, Nakamura S, Okamoto K, Ono M, Yamamoto T, Van Dyke TE and Takashiba S (2019) Resolvin D2 Induces Resolution of Periapical Inflammation and Promotes Healing of Periapical Lesions in Rat Periapical Periodontitis. Front. Immunol. 10:307. doi: 10.3389/fimmu.2019.00307 Resolvin D2 Induces Resolution of Periapical Inflammation and Promotes Healing of Periapical Lesions in Rat Periapical Periodontitis Yasir Dilshad Siddiqui 1, Kazuhiro Omori 2, Takashi Ito 3†, Keisuke Yamashiro 1, Shin Nakamura 1, Kentaro Okamoto 1, Mitsuaki Ono 4, Tadashi Yamamoto 2, Thomas E. Van Dyke 5 and Shogo Takashiba 1* Yasir Dilshad Siddiqui 1, Kazuhiro Omori 2, Takashi Ito 3†, Keisuke Yamashiro 1, Shin Nakamura 1, Kentaro Okamoto 1, Mitsuaki Ono 4, Tadashi Yamamoto 2, Thomas E. Van Dyke 5 and Shogo Takashiba 1* Keywords: resolvin D2, resolution of periapical inflammation, periapical periodontitis, periapical lesion, DMP1, calcification Citation: Siddiqui YD, Omori K, Ito T, Yamashiro K, Nakamura S, Okamoto K, Ono M, Yamamoto T, Van Dyke TE and Takashiba S (2019) Resolvin D2 Induces Resolution of Periapical Inflammation and Promotes Healing of Periapical Lesions in Rat Periapical Periodontitis. Front. Immunol. 10:307. doi: 10.3389/fimmu.2019.00307 †Present Address: Takashi Ito, †Present Address: Takashi Ito, Economic Affairs Division, Health Service Bureau, Ministry of Health, Labour and Welfare, Tokyo, Japan , Economic Affairs Division, Health Service Bureau, Ministry of Health, Labour and Welfare, Tokyo, Japan Specialty section: This article was submitted to Inflammation, a section of the journal Frontiers in Immunology Received: 06 November 2018 Accepted: 06 February 2019 Published: 26 February 2019 Specialty section: This article was submitted to Inflammation, a section of the journal Frontiers in Immunology Received: 06 November 2018 Accepted: 06 February 2019 Published: 26 February 2019 Edited by: Philippe Saas, INSERM U1098 Interactions Hôte-Greffon-Tumeur & Ingénierie Cellulaire et Génique, France 1 Department of Pathophysiology-Periodontal Science, Okayama University Graduate School of Medicine, Dentistry and Pharmaceutical Sciences, Okayama, Japan, 2 Department of Periodontics and Endodontics, Okayama University Hospital, Okayama, Japan, 3 Center for Innovative Clinical Medicine, Okayama University Hospital, Okayama, Japan, 4 Department of Molecular Biology and Biochemistry, Okayama University Graduate School of Medicine, Dentistry and Pharmaceutical Sciences, Okayama, Japan, 5 Center for Clinical and Translational Research, The Forsyth Institute, Cambridge, MA, United States Reviewed by: Janos G. Filep, Université de Montréal, Canada Maria Balta, University of Oslo, Norway Chun-Teh Lee, University of Texas Health Science Center at Houston, United States Reviewed by: Janos G. Filep, Université de Montréal, Canada Maria Balta, University of Oslo, Norway Chun-Teh Lee, University of Texas Health Science Center at Houston, United States Periapical periodontitis results from pulpal infection leading to pulpal necrosis and resorption of periapical bone. The current treatment is root canal therapy, which attempts to eliminate infection and necrotic tissue. But, in some cases periapical inflammation doesn’t resolve even after treatment. Resolvins belongs to a large family of specialized pro-resolving lipid mediators that actively resolves inflammation signaling via specific receptors. Resolvin D2 (RvD2), a metabolite of docosahexaenoic acid (DHA), was tested as an intracanal medicament in rats in vivo. Mechanism was evaluated in rat primary dental pulp cells (DPCs) in vitro. The results demonstrate that RvD2 reduces inflammatory cell infiltrate, periapical lesion size, and fosters pulp like tissue regeneration and healing of periapical lesion. RvD2 enhanced expression of its receptor, GPR18, dentin matrix acidic phosphoprotein 1 (DMP1) and mineralization in vivo and in vitro. Moreover, RvD2 induces phosphorylation of Stat3 transcription factor in dental pulp cells. We conclude that intracanal treatment with RvD2 resolves inflammation and promoting calcification around root apex and healing of periapical bone lesions. The data suggest that RvD2 induces active resolution of inflammation with pulp-like tissue regeneration after root canal infection and thus maybe suitable for treating periapical lesions. *Correspondence: Shogo Takashiba stakashi@okayama-u.ac.jp INTRODUCTION Periapical periodontitis is an inflammatory disease that occurs around the tooth root apex. It is caused by infection of the dental pulp tissue subsequent to carious lesions and leads to resorption of root dentin and bone (1). It is believed that presence of microorganisms in the root canal system are associated with the development and progression of periapical periodontitis (2, 3). Conventional root canal treatment goals to eliminate bacteria from the root canal system as completely February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. as possible by physically removing the pulp soft tissue and irrigating the root canal system with potent antiseptic solutions (e.g., sodium hypochlorite), as well as mechanically removing infected dentin in the root canal (4). The disinfected root canals are then filled with an inert material, typically gutta percha, to obturate the endodontic space to prevent bacterial recolonization. The overall success rates for primary endodontic, secondary endodontics, and surgical treatment reported by Elimam et al. were 86.02, 78.2, and 63.4%, respectively, based on criteria of the retention of a functional tooth over a 4 years period. (5). Most failures occur because of ineffective microbial clearance, which leads to continued periapical inflammation (6, 7). Root canal therapy also desiccates the tooth leading to the potential for subsequent fracture. Considering the course which pulpal inflammation initiates tissue destruction, it is obvious that an important step in supporting the regeneration of pulp-like tissue is the attenuation of inflammation. resolution phase of inflammation. In periodontitis and other infectious/inflammatory diseases, resolvins promote clearance of bacteria, and tissue regeneration (15, 16). The lipid mediator resolvin D2 (RvD2) promotes bacterial clearance and improves animal survival in a cecal ligation and puncture model of sepsis (16). RvD2 is defensive against P. gingivalis provoked periodontal bone loss and has been shown to regulate the RANKL/OPG ratio (17). RvD2 enhances post-ischemic limb revascularization during ischemia by promoting arteriogenesis (18), controlling bacterial sepsis and resolving inflammation by promoting polymorphonuclear neutrophil (PMN) apoptosis, and enhancing macrophage efferocytosis (16, 19). RvD2 is also known to reduce postoperative pain by inhibiting transient receptor potential channels in sensory neurons (20). Animals Eighteen 10-week old male Wistar rats (CLEA Japan, Inc., Tokyo, Japan) were maintained in the animal facility of Department of Animal Resources, Advanced Science Research Center, Okayama University with a 12-h light/12-h dark cycle. Food and water were provided ad libitum. Frontiers in Immunology | www.frontiersin.org INTRODUCTION Considering the demonstrated regeneration of periodontal tissues with resolvin treatment and the demonstrated actions of RvD2 in a variety of infectious / inflammatory disease systems, it is reasonable to expect that the active proresolving actions of RvD2 and its demonstrated enhancement of bacterial clearance will be beneficial in healing of periapical lesions. We examined whether RvD2 can be used as an intracanal medication to promote periapical healing and investigated potential mechanism of action. Regeneration of pulp tissue after infection is limited, and attempts have repeatedly failed, because current methods cannot control inflammation and eliminate the bacterial infection (8). The primary goal in regenerative procedure is to eliminate clinical symptoms and resolve apical periodontitis as defined by the American Association of Endodontists in Clinical Considerations for a Regenerative Procedure (9). Thickening of canal walls and constant root maturation characterized by continued odontoblast activity, which produces calcified tissues, is the secondary goal. Currently, non-surgical root canal therapy replaces infected vital and necrotic tissue with biocompatible foreign materials in disinfected root canals. The goal of regenerative therapy is to fill formerly infected canals with the host’s own vital tissue (9). Earlier, it was believed that successful regeneration cannot be achieved once tooth has become infected. However, recent studies suggest that regenerative endodontics may in fact be possible in teeth with pulpal necrosis and periapical pathology. Maintaining patency of the root apex opening is thought to be a critical component for regeneration as multiple studies in experimental animal models have revealed the regeneration of dental pulp-like tissue after evoked bleeding by instrumentation (10, 11). Induction of Periapical Periodontitis p The experimental design is shown in Figure 1. Rats were administered general anesthesia by intraperitoneal injection of sodium pentobarbital (50 mg/kg IP). After 15–20 min to ensure complete anesthesia, all surgical procedures were performed under a microscope (Nikon Smz-645, Tokyo, Japan). Periapical lesions were induced by exposing the pulp of the mandibular right and left first molars using a #1/2 8ISO 006 round bur (Dentsply Maillefer, Ballaigues, Switzerland) in an electric handpiece (VIVAMATE G5; NSK, Tochigi, Japan). The exposed pulps were left open to the oral environment for 3 weeks to ensure bacterial contamination. Opposing maxillary first molars in contact with the experimental teeth were removed at the same time as pulp exposure of the mandibular first molars to prevent tooth fracture (1). Dental pulp cells (DPCs) are progenitor cells with the ability for self-renewal and multilineage differentiation. In response to trauma or injury, DPCs differentiate into odontoblast- like cells and initiate dentin mineralization by expressing extracellular acidic proteins that participate in dentin repair and mineralization (12). Dentin matrix protein-1 (DMP1) plays a key role in odontoblast differentiation, formation of the dentin tubular system, and mineralization. DMP1 is expressed by both pulp progenitor cells and odontoblasts and its deletion leads to defects in odontogenesis and mineralization (13). It has been suggested that DPCs can be transplanted or expanded in a sterile root canal to differentiate and induce mineralization and promote periapical healing (12, 14). The clinical limitation to this approach is the difficulty in controlling infection and inflammation. After 3 weeks, the right and left mandibular first molars were endodontically treated by cleaning the test tooth with 70% ethanol. A #1/2 round bur was used to open the pulp chamber and remove the necrotic coronal pulp, and a micro- excavator (OK Micro-exca; Seto, Ibaraki, Japan) was used to remove the infected tooth substance from the pulpal floor and the orifice of the root canals. K-files #6–20 (Dentsply Maillefer) were placed up to 2.5 mm in depth into the mesial Resolvins belongs to a family of lipid mediators biosynthesized from omega-3 polyunsaturated fatty acids (eicosapentaenoic acid, EPA and docosahexaenoic acid, DHA) that promote the February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 2 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. FIGURE 1 | Experimental protocol of rat periapical periodontitis model. In vivo Imaging Treated canals were dried using sterilized paper points (VDW, Munich, Germany) and filled with 20 µL RvD2 (1 µg/mL, Cayman Chemical, Ann Arbor, MI, USA) delivered with a mixture of propylene glycol (Nacalai Tesque) and Macrogol (Meiji Yakuhin, Toyama, Japan) as a carrier with 30-gauge needles (21, 22). K file #15 was used in a clockwise motion to facilitate RvD2 delivery inside the canal and beyond the apex, until RvD2 changed from colorless to reddish color due to blood. This was followed by drying of the coronal chamber using sterile cotton. Untreated mandibular molars, sealed only (SO group; same treatment without any administration) and with vehicle only (VO group; a mixture of propylene glycol and Macrogol) served as controls. Finally, pulp chambers were lined with apatite liner (Dentsply-Sirona, Tokyo, Japan) followed by filling with flowable composite resin (MI FLOW, GC, Tokyo, Japan). In this study. 13 rats were used for the test with control group (Group #1); RvD2 (right side) and SO (left side) sides for each rat. On the other hand, 3 rats were used for control only group (VO group; Group #2). Two rats were used for the baseline group; Group #3. For in vivo imaging analysis, 3 rats used were from Group #1. For micro-CT analysis, 4 rats were used from Group #1. For histology, Gram staining, and immunohistochemistry, 5 rats were used from group #1, 3 from Group #2, and 2 from Group #3. In addition, for q-PCR analysis for bacteria (Figure S3), 1 rat was used from Group #1. After 4 weeks of treatment, in vivo imaging was performed to measure myeloperoxidase (MPO) activity of activated phagocytes. Dose of XenoLight RediJect inflammation probe (PerkinElmer, Waltham, MA) was calculated and administered intraperitoneally at 150 µL/30-g weight, and sacrificed immediately. To eliminate errors in measurement due to positional effects of the specimen, the dissected mandibles were trimmed to the same size and thickness. After verifying that the wavelengths from specimens positioned on a plate and from the emission filters of the device were almost the same across all samples, luminescent images were taken using a charge-coupled- device (CCD) camera within 20 min of injection. Luminescence intensity was measured using IVIS Spectrum (PerkinElmer), and a circular region of interest (ROI) was defined as a region which exhibited more than 50% of maximum luminescence in the inflammatory site of each rat. Induction of Periapical Periodontitis (A) Root canal treatment was performed 3 weeks after pulp exposure and rats were sacrificed and evaluated 4 weeks after treatment. (B) Cavity preparations of first molar, root canal treatment, and final restoration under microscope guidance. otocol of rat periapical periodontitis model. (A) Root canal treatment was performed 3 weeks after pulp exposure and rats were s treatment. (B) Cavity preparations of first molar, root canal treatment, and final restoration under microscope guidance. FIGURE 1 | Experimental protocol of rat periapical periodontitis model. (A) Root canal treatment was performed 3 weeks after pu and evaluated 4 weeks after treatment. (B) Cavity preparations of first molar, root canal treatment, and final restoration under mic In vivo Imaging and distal root canals to mechanically debride the root canals, followed by irrigation with 0.5 mL of 2.5% sodium hypochlorite (Neo Dental Chemical Products, Tokyo, Japan) using 30-gauge needles (NaviTip, Ultradent Products, Tokyo, Japan) at a flow rate of 1 mL/min (1). In order to facilitate bleeding from periapical lesion into the canals, we breached the apical foramen using # 20 K file. Treated canals were dried using sterilized paper points (VDW, Munich, Germany) and filled with 20 µL RvD2 (1 µg/mL, Cayman Chemical, Ann Arbor, MI, USA) delivered with a mixture of propylene glycol (Nacalai Tesque) and Macrogol (Meiji Yakuhin, Toyama, Japan) as a carrier with 30-gauge needles (21, 22). K file #15 was used in a clockwise motion to facilitate RvD2 delivery inside the canal and beyond the apex, until RvD2 changed from colorless to reddish color due to blood. This was followed by drying of the coronal chamber using sterile cotton. Untreated mandibular molars, sealed only (SO group; same treatment without any administration) and with vehicle only (VO group; a mixture of propylene glycol and Macrogol) served as controls. Finally, pulp chambers were lined with apatite liner (Dentsply-Sirona, Tokyo, Japan) followed by filling with flowable composite resin (MI FLOW, GC, Tokyo, Japan). In this study. 13 rats were used for the test with control group (Group #1); RvD2 (right side) and SO (left side) sides for each rat. On the other hand, 3 rats were used for control only group (VO group; Group #2). Two rats were used for the baseline group; Group #3. For in vivo imaging analysis, 3 rats used were from Group #1. For micro-CT analysis, 4 rats were used from Group #1. For histology, Gram staining, and immunohistochemistry, 5 rats were used from group #1, 3 from Group #2, and 2 from Group #3. In addition, for q-PCR analysis for bacteria (Figure S3), 1 rat was used from Group #1. and distal root canals to mechanically debride the root canals, followed by irrigation with 0.5 mL of 2.5% sodium hypochlorite (Neo Dental Chemical Products, Tokyo, Japan) using 30-gauge needles (NaviTip, Ultradent Products, Tokyo, Japan) at a flow rate of 1 mL/min (1). In order to facilitate bleeding from periapical lesion into the canals, we breached the apical foramen using # 20 K file. Immunohistochemistry Immunohistochemistry was performed using a streptavidin- biotin complex method. Rabbit anti-GPR18 polyclonal antibody (Abcam, Cambridge, UK) at a 1:100 dilution and rabbit anti- DMP1 polyclonal antibody (Takara Bio, Shiga, Japan) at 1:200 dilutions were used as primary antibodies as previously described (26). Secondary antibodies were goat anti-rabbit conjugated with biotin antibody (Vectastain ABC kit; Vector Laboratories, Burlingame, CA, USA) at 1:200 dilution. Immunoreactivity was visualized using the DAB Substrate Kit (Vector Laboratories) and counterstained with Mayer’s hematoxylin solution. Negative control staining was performed in parallel by incubating the sections with phosphate-buffered saline (PBS) rather than with primary antibody. Real-Time Reverse Transcription Polymerase Chain Reaction (Real-Time RT-PCR) DPCs were cultured in 12-well plates until 80% confluence, treated with 0–100 nM doses of RvD2, and incubated at 37◦C for 7 and 14 days. Every 72 h, the media containing RvD2 doses were changed. For real-time RT-PCR, the cells were lysed to extract total RNA using the RNeasy Mini Kit (Qiagen GmbH, Hilden, Germany). Concentrations of mRNA were measured spectrophotometrically using a NanoDrop 2000 spectrophotometer (Thermo Fisher Scientific, Waltham, MA, USA). One microgram of each RNA sample was subjected to RT using the SuperScript IV VILO cDNA synthesis kit (Invitrogen, Carlsbad, CA, USA). Quantitative RT-PCR was performed using an ABI 7300 system (Applied Biosystems, Foster City, CA) under conditions of 95◦C for 10 min followed by 40 cycles at 95◦C for 15 s and 60◦C for 1 min in 96-well plates in a final volume of 20 µL containing SYBR green PCR master mix (Applied Biosystems) (23). The primers used for detection are listed in Table 1. Measured mRNA levels were normalized to the mRNA copies of β-actin. We performed these experiments using three different cell samples and quantification of mRNA was confirmed using the same cell sample in triplicate. Histology Rats were sacrificed 4 weeks after treatment. Mandibular samples containing the first molars were dissected, fixed in 4% paraformaldehyde, and decalcified in 10% formic acid for 10 days at room temperature. After preparation of 4-µm serial sections, some sections were stained with hematoxylin and eosin (HE) to observe cellular composition, while others were stained using a modified Brown and Brenn method (25), to observe microorganisms (Gram-positive or Gram-negative) under a DP70 light microscope (Olympus, Tokyo, Japan). with phosphate-buffered formalin and then stained with 250 µL alizarin red, ARD-A1 (ARD-SET, PG Research, Tokyo, Japan) for 30 min. After washing the wells with pure water, the plates were photographed. After staining, quantitative analysis of mineralization was carried out using 250 µL ARD-E1 (ARD-SET, PG Research, Tokyo, Japan) and plates were stirred for 10 min to elute the dye, and then 100 µL of solution was transferred into 96-well plates and absorbance measurement was recorded at 450 nm using microplate reader (iMark TM Microplate Absorbance Reader, Bio-Rad, Hercules, CA, USA) (28). Western Blot Analysis Western blotting was performed as described previously (29). DPCs were treated with or without RvD2 (1–100 nM) for 14 days, washed with cold PBS twice, lysed using cell lysis buffer containing 50 mM sodium chloride, 10 mM, Tris-HCl (pH 7.2), 1% sodium dodecyl sulfate (SDS), 1% Nonidet P-40, and 5 mM sodium ethylenediamine tetraacetate, and collected in a In vivo Imaging The total flux (measured in photons per second) in the ROI were quantified using Living Image Software V4.4 (PerkinElmer) according to the manufacturer’s instructions (23). y Periapical lesions were scanned with a µCT scanner (SkyScan1174v2; Bruker-µCT, Billerica, MA, USA) 4 weeks after treatment. After scanning, the image data were reconstructed using the Nrecon system (Nrecon Bruker-µCT). For visualization, samples were digitally reconstructed so that a two-dimensional slice showing a patent mesial and distal canal in the first molar could be obtained. Periapical lesion sizes in the cross sectional area from the apical third of the canals were measured using ImageJ software (NIH, Bethesda, MD, USA), and values in square millimeters were compared between the February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 3 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. TABLE 1 | Primers used in the study. GPR18 Forward AAATGATCACCCTGAACAATCAAGA Reverse ATTCATAACATTTCACTGTTTATATTGCTTAG DMP1 Forward ACCTTTGGAGACGAAGACAATGGC Reverse ACACCACACAGTCCAGTGAAGACA BETA ACTIN Forward TGTTGCCCTAGACTTCGAGCA Reverse GGACCCAGGAAGGAAGGCT TABLE 1 | Primers used in the study. RvD2 and control groups (24). To obtain the precise periapical lesion size, the periodontal ligament space around the apical third of the mesial and distal root canals in healthy teeth were measured, and their values were subtracted from the periapical lesion size values of the RvD2 and control groups. DPC Isolation and Culture After sacrifice, the incisors from animals were carefully separated from the jawbones. Dental pulps were gently isolated using a sterile dental explorer and the apical third of the tooth was cut offto obtain the apical epithelial buds as previously described (27). The remaining pulp tissue was minced into small pieces and treated with solution containing 3 mg/mL collagenase type 1 (Sigma-Aldrich, St. Louis, MO, USA) and 4 mg/mL dispase (Sigma-Aldrich) for 60 min at 37◦C. The single-cell suspension was cultured in alpha minimum essential medium (α-MEM; Gibco, Life Technologies, Grand Island, NY, USA) supplemented with 20% fetal bovine serum (Hyclone, Logan, UT, USA), 1% 100 U/mL penicillin, 100 µg/mL streptomycin, 0.25 µg/mL amphotericin B, and 1% L-glutamine at 37◦C in 5% CO2. The cells were routinely observed under a TS100-F phase-contrast inverted microscope (Nikon, Tokyo, Japan). Cells at passage four were used in subsequent experiments. To treat DPCs with RvD2, osteogenic medium containing 200 µM ascorbic acid, 10 mM, ß-glycerophosphate, and 100 nM dexamethasone was prepared. Alizarin Red S Staining Cells were cultured on 48-well plates, and the five different groups (0, 1, 10, 100, and 200 nM) were established. Media with and without RvD2 were replaced twice per week with freshly-prepared osteogenic media. On day 21, cells were fixed February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 4 Siddiqui et al. Resolvin D2 Resolutes Periapical Periodontitis 1-mL centrifuge tube. After centrifugation of the cell lysate, supernatants containing total protein were transferred to new tubes, and protein concentration was determined with the BCA protein assay (Thermo Fisher Scientific). Thirty micrograms of each sample were subjected to 12% SDS-PAGE and transferred to a polyvinylidene fluoride membrane (Bio-Rad). Membranes were incubated overnight at 4◦C with a polyclonal rabbit anti-DMP1 antibody (Takara Bio) at a dilution of 1:2,000. Subsequently, the membrane was incubated with anti-rabbit IgG polyclonal antibody (GE Healthcare Life Sciences, Little Chalfont, UK) at a dilution of 1:2,000, and then washed with PBS containing Tween (PBST) buffer to remove unbound antibody. The membrane was developed with enhanced chemiluminescence detection reagents (SuperSignal West Pico; Thermo Fisher Scientific). Anti-GAPDH antibody (Cell Signaling Technology, Danvers, MA, USA) was used as an internal control at a dilution of 1:1,000). Each experiment was performed in triplicate and data values were normalized to the corresponding GAPDH values. Densitometric analysis was performed using ImageJ software. FIGURE 2 | Molecular imaging analysis examining the effects of RvD2 on periapical inflammation. Images of the signal intensity of MPO activity around RvD2 treated and non-treated tooth are shown (A). Results of comparisons of the levels of signal intensity with respect to total flux are shown (B). Data represent the means of three independent rats (SO on left side and RvD2 on right side for each rat), with error bars indicating standard deviations. *P < 0.05 indicates significant differences compared to the control group, Mann–Whitney test. y p g g To determine the expression levels of pSTAT3 protein, only α- MEM containing 100 nM RvD2 was used. Cells were treated with α-MEM with/without 100 nM RvD2 and incubated for 0, 1, 5, 15, and 30 min at 37◦C in 5% CO2, followed by washing with cold PBS twice and lysis using cell lysis buffer. The lysate was added to 500-µL tubes that were transferred to ice to stop the reaction. Alizarin Red S Staining Protein concentration was determined with the BCA protein assay and 10 µg of each sample was subjected to 12% SDS- PAGE and transferred onto a polyvinylidene fluoride membrane, followed by overnight incubation at 4◦C with a polyclonal rabbit anti-pSTAT3 (Cell Signaling Technology) at a dilution of 1:1,000. Subsequently, the membrane was incubated with anti- rabbit IgG polyclonal antibody (GE Healthcare Life Science) at a dilution of 1:2,000, and then washed with PBST buffer to remove unbound antibody. Anti-STAT3 antibody (Cell Signaling Technology) was used as an internal control at a dilution of 1:1,000. Each experiment was performed in triplicate and data values were normalized to the corresponding total STAT3 values. Densitometric analysis was performed using ImageJ software. FIGURE 2 | Molecular imaging analysis examining the effects of RvD2 on periapical inflammation. Images of the signal intensity of MPO activity around RvD2 treated and non-treated tooth are shown (A). Results of comparisons of the levels of signal intensity with respect to total flux are shown (B). Data represent the means of three independent rats (SO on left side and RvD2 on right side for each rat), with error bars indicating standard deviations. *P < 0.05 indicates significant differences compared to the control group, Mann–Whitney test. anti-inflammatory effects of the RvD2. Data revealed that level of periapical inflammation was significantly reduced in RvD2-treated molars. In the SO group, periapical inflammation was higher (Figure 2A). The average level of total flux was in RvD2 treated teeth was 42.34% ± 16.78 and for control samples set value in percentage was 100% ± 0 (∗P < 0.05, Figure 2B). RvD2 Reduced Periapical Lesion Size For in vivo imaging and micro-CT analysis, Mann-Whitney test was used to determine statistically significant changes in the level of periapical inflammation and periapical lesion area between the treatment and control groups. For Alizarin red staining for mineralization, qPCR and Western blotting analysis for DMP1 mRNA and protein expression, one-way ANOVA and post hoc Tukey-Kramer test was used. For pSTAT3 analysis, Mann-Whitney test was used to determine statistically significant difference between RvD2 and control groups. In all cases, P < 0.05 was considered statistically significant (∗). p Infected root canals were cleaned and sealed after administration of RvD2. Micro-computed tomography (µCT) analysis was used to quantify the area of mineralized tissue and showed that the periapical lesion size was greatly reduced, and root canal apices were calcified in RvD2-treated molars. In the SO group, root apices were open with large periapical lesions (Figure 3A). The mean periapical lesion size in RvD2 treated teeth (apex of mesial canal) was 0.149 ± 0.146 mm2, and non-treated teeth was 0.391 ± 0.119 mm2. The mean periapical lesion size in RvD2 treated distal canals was 0.059 ± 0.103 mm2, and non-treated distal canals was measured 0.292 ± 0.082 mm2 (∗P < 0.05, Figures 3B,C). Histology Histological examination of samples revealed that RvD2 induced root apex closure and reduced inflammatory cell accumulation in periapical tissues (Figures 4A,E). The control Molecular imaging analysis was performed to measure myeloperoxidase (MPO) activity to examine the February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 5 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. FIGURE 3 | Micro-CT analysis of periapical lesions after root canal treatment in rats. (A) Representative image of teeth in the treatment group and SO group. The x-axis (white line) passes through the apical third of the mesial and distal root canal, denoted as the coronal limit of periapical lesion. The y-axis (green line) passes through the center of the mesial and distal root canals of the mandibular first molars. (B,C) Comparison of changes in the size of periapical lesions in mesial and distal canals (*P < 0.05 indicates significant differences compared to the SO group, Mann–Whitney test). Data represent the means of four independent rats (SO on left side and RvD2 on right side for each rat), with error bars indicating standard deviations. The volume of the periapical lesions of the mesial and distal roots for the treatment group were significantly lower than that of the control group after 4 weeks following pulp exposure. FIGURE 3 | Micro-CT analysis of periapical lesions after root canal treatment in rats. (A) Representative image of teeth in the treatment group and SO group. The x-axis (white line) passes through the apical third of the mesial and distal root canal, denoted as the coronal limit of periapical lesion. The y-axis (green line) passes through the center of the mesial and distal root canals of the mandibular first molars. (B,C) Comparison of changes in the size of periapical lesions in mesial and distal canals (*P < 0.05 indicates significant differences compared to the SO group, Mann–Whitney test). Data represent the means of four independent rats (SO on left side and RvD2 on right side for each rat), with error bars indicating standard deviations. The volume of the periapical lesions of the mesial and distal roots for the treatment group were significantly lower than that of the control group after 4 weeks following pulp exposure. FIGURE 4 | Histological analysis of periapical lesions after root canal treatment in rats. (A) Periapical area of treatment group stained with HE. (B,C) Periapical area of control groups stained with HE. Histology (D) Periapical area of baseline group stained with HE. (E,F,G,H). High magnification views of the solid inset in (A–D), respectively. (I–L). High magnification views of the solid insets in (A–D), stained with a modified Brown and Brenn method. Images are representative for 5 experiments from Group #1 (RvD2 and SO); 3 experiments from Group #2 (VO), and 2 experiments Group #3 (baseline). RC, root canal; CA, closed apex; OA, open apex; AF, apical foramen. The asterisk denotes inflammatory cells and the black arrows specifying some of Gram negative bacteria stain red color and blue arrow specifying some of blue/purple stain Gram positive bacterial cells in canals. Outlined circular images with blue and black colors are higher magnification of specified areas coming from colored dotted circles corresponds to the identifications of Gram positive and negative bacteria. FIGURE 4 | Histological analysis of periapical lesions after root canal treatment in rats. (A) Periapical area of treatment group stained with HE. (B,C) Periapical area of control groups stained with HE. (D) Periapical area of baseline group stained with HE. (E,F,G,H). High magnification views of the solid inset in (A–D), respectively. (I–L). High magnification views of the solid insets in (A–D), stained with a modified Brown and Brenn method. Images are representative for 5 experiments from Group #1 (RvD2 and SO); 3 experiments from Group #2 (VO), and 2 experiments Group #3 (baseline). RC, root canal; CA, closed apex; OA, open apex; AF, apical foramen. The asterisk denotes inflammatory cells and the black arrows specifying some of Gram negative bacteria stain red color and blue arrow specifying some of blue/purple stain Gram positive bacterial cells in canals. Outlined circular images with blue and black colors are higher magnification of specified areas coming from colored dotted circles corresponds to the identifications of Gram positive and negative bacteria. lymphocytes, and monocytes (Figures 4B,C,F,G). Baseline data (0 week) shows development of periapical periodontitis (Figures 4D,H). Modified Brown and Brenn staining revealed groups SO and VO did not exhibit root apex closure, and the periapical lesion contained inflammatory granulation tissue with marked inflammatory cell infiltration and numerous PMNs, February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 6 Siddiqui et al. Resolvin D2 Resolutes Periapical Periodontitis FIGURE 5 | Immunohistochemical analysis. (A) GPR18 protein expression in the root canal of the treatment group. Histology (B,C) GPR18 protein expression in the root canal of the control groups. (D–F) High magnification views of the solid inset in the panels (A–C), respectively. (G) DMP1 protein was abundantly expressed in the root canals of the treatment group. (H,I) Whereas, DMP1 protein expression was lower in the root canal of the control groups as compared to RvD2 group. (J–L) High magnification views of the solid inset in the panels (G–I), respectively. Images are representative for 5 experiments from Group #1 and 3 experiments from Group #2. (M) Negative control without primary antibody GPR18. (N) Negative control without primary antibody DMP1. RC, root canal; C, cementum. The arrow head indicates GPR18 and DMP1 positive expression. FIGURE 5 | Immunohistochemical analysis. (A) GPR18 protein expression in the root canal of the treatment group. (B,C) GPR18 protein expression in the root canal of the control groups. (D–F) High magnification views of the solid inset in the panels (A–C), respectively. (G) DMP1 protein was abundantly expressed in the root canals of the treatment group. (H,I) Whereas, DMP1 protein expression was lower in the root canal of the control groups as compared to RvD2 group. (J–L) High magnification views of the solid inset in the panels (G–I), respectively. Images are representative for 5 experiments from Group #1 and 3 experiments from Group #2. (M) Negative control without primary antibody GPR18. (N) Negative control without primary antibody DMP1. RC, root canal; C, cementum. The arrow head indicates GPR18 and DMP1 positive expression. few residual bacteria in RvD2-treated canals compared to the abundant bacteria in control root canals (Figures 4I–L). the amounts of mineralization among the groups (Figure 6A). Among treatment groups, 100 nM and 200 nM had significantly increased amount of mineralized nodules as compared with control (0 nM) (Figure 6B). Whereas, 1 and 10 nM doses showed slight tendency to induce mineralization in DPCs. Immunohistochemical Detection of GPR18 and DMP1 in Root Canal Tissues Immunohistochemistry revealed strong GPR18 protein expression inside and around the root canals in the RvD2- treated group compared to the controls SO, and VO, suggesting the upregulation of the receptor by RvD2 treatment. Expressions were observed inside root canals and in the periodontal ligament space region (Figures 5A–F). DMP1, a key phosphoprotein for dentin mineralization and odontoblast differentiation, was highly expressed in RvD2-treated root canals scattered near the root dentin and mid-root and in the apical region (Figures 5G,J). In the control groups, SO and VO, DMP1 protein was expressed only in the root dentin (Figures 5H–L). Negative controls, without GPR18 and DMP1 antibodies (Figures 5M,N). Expression of DMP1 mRNA in DPCs p After stimulation of DPCs with RvD2 in culture at doses of 1–100 nM for 7 and 14 days, quantitative real-time PCR analysis revealed that DMP1 mRNA expression was significantly enhanced at each dose at 7 days compared to that in the control (P < 0.05, Figure 7A). After 14 days of culture, DMP1 mRNA was significantly enhanced at 100 nM compared to that in the control (P < 0.05, Figure 7B). Expression of DMP1 and Phosphorylated Signal Transducer and Activator of Transcription 3 (STAT3) Protein in DPCs Western blotting data confirmed that RvD2 induced DMP1 protein expression in DPCs stimulated with RvD2 for 7 and 14 days. After 7 days, RvD2 induced DMP1 protein expression at Alizarin Red Staining Transcription 3 (STAT3) Protein in DPCs Western blotting data confirmed that RvD2 induced DMP1 protein expression in DPCs stimulated with RvD2 for 7 and 14 days. After 7 days, RvD2 induced DMP1 protein expression at After stimulation of DPCs with RvD2 in culture at doses of 1–200 nM for 21 days, there were obvious differences in February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 7 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. FIGURE 6 | Alizarin red staining of DPCs stimulated with and without RvD2 (1-200 nM) for 21 days. (A) Obvious differences in the amounts of mineralization among the groups. (B) Quantitative analysis showed that 100 and 200 nM had significantly increased mineralized nodules as compared with control 0 nM (P < 0.05; Tukey-Kramer). *P < 0.05 indicates significant differences compared to the control, post hoc Tukey-Kramer test. Representative data of four independent samples. all doses of 1 to 100 nM (Figure 8A). Whereas, after 14 days DMP1 protein expression was significantly enhanced at the doses of 10 and 100 nM (P < 0.05, Figure 8B). Phosphorylated STAT3 protein expression was significantly induced after DPCs were FIGURE 7 | Quantification of DMP-1 mRNA from DPCs stimulated with RvD2 (1–100 nM) for 7 and 14 days using real-time RT-PCR. (A) RvD2 induced significant DMP1 mRNA expression at all doses after 7 days culture compared to the control (0 nM) (P < 0.05; Tukey-Kramer). (B) RvD2 induced significant DMP1 mRNA expression at 100 nM (P < 0.05; Tukey-Kramer) after 14 days culture compared to the control (0 nM). *P < 0.05 indicates significant differences compared to the control, post hoc Tukey-Kramer test. Representative data of three to four independent cases. FIGURE 7 | Quantification of DMP-1 mRNA from DPCs stimulated with RvD2 (1–100 nM) for 7 and 14 days using real-time RT-PCR. (A) RvD2 induced significant DMP1 mRNA expression at all doses after 7 days culture compared to the control (0 nM) (P < 0.05; Tukey-Kramer). (B) RvD2 induced significant DMP1 mRNA expression at 100 nM (P < 0.05; Tukey-Kramer) after 14 days culture compared to the control (0 nM). *P < 0.05 indicates significant differences compared to the control, post hoc Tukey-Kramer test. Representative data of three to four independent cases. FIGURE 6 | Alizarin red staining of DPCs stimulated with and without RvD2 (1-200 nM) for 21 days. Frontiers in Immunology | www.frontiersin.org Alizarin Red Staining It sharply decreased excessive cytokine production, neutrophil recruitment, both local and systemic bacterial burden, while increasing peritoneal mononuclear cells, macrophage phagocytosis and intracellular generation of phagosomal reactive oxygen species for microbial killing in the mice suffered from microbial sepsis initiated by cecal ligation and puncture (16). Moreover, RvD2 promote resolution by preventing the generation of activated Th1 and Th17 cells and enhancing the differentiation of regulatory T-cells (19). In addition, resolvins are protective against P. gingivalis induced periodontal bone loss and reverses periodontal bone loss by enhancing bacterial clearance and regulating the RANKL/OPG ratio in murine periodontitis model (17, 34). Overall, RvD2 is an effective endogenous controller of excessive inflammatory responses that actions on multiple cellular targets to stimulate resolution, preserve and (33). Resolvin D2 biosynthesis involves 17-lipoxygenation of DHA to 17S-hydroperoxy-DHA, which then further transformed enzymatically to a 7(8) epoxide-containing intermediate in leukocytes via 5-lipoxygenase, followed by enzymatic hydrolysis to form RvD2. Endogenous RvD2 production has been documented in human serum, plasma, adipose tissue, placenta, lung, breast milk, and in the plasma of sepsis patients. RvD2 is a potent immunoresolvent that stereoselectively reduces excessive PMN trafficking in peritonitis and improves survival in sepsis. It sharply decreased excessive cytokine production, neutrophil recruitment, both local and systemic bacterial burden, while increasing peritoneal mononuclear cells, macrophage phagocytosis and intracellular generation of phagosomal reactive oxygen species for microbial killing in the mice suffered from microbial sepsis initiated by cecal ligation and puncture (16). Moreover, RvD2 promote resolution by preventing the generation of activated Th1 and Th17 cells and enhancing the differentiation of regulatory T-cells (19). In addition, resolvins are protective against P. gingivalis induced periodontal bone loss and reverses periodontal bone loss by enhancing bacterial clearance and regulating the RANKL/OPG ratio in murine periodontitis model (17, 34). Overall, RvD2 is an effective endogenous controller of excessive inflammatory responses that actions on multiple cellular targets to stimulate resolution, preserve and Alizarin Red Staining (A) Obvious differences in the amounts of mineralization among the groups. (B) Quantitative analysis showed that 100 and 200 nM had significantly increased mineralized nodules as compared with control 0 nM (P < 0.05; Tukey-Kramer). *P < 0.05 indicates significant differences compared to the control, post hoc Tukey-Kramer test. Representative data of four independent samples. FIGURE 6 | Alizarin red staining of DPCs stimulated with and without RvD2 (1-200 nM) for 21 days. (A) Obvious differences in the amounts of mineralization among the groups. (B) Quantitative analysis showed that 100 and 200 nM had significantly increased mineralized nodules as compared with control 0 nM (P < 0.05; Tukey-Kramer). *P < 0.05 indicates significant differences compared to the control, post hoc Tukey-Kramer test. Representative data of four independent samples. FIGURE 7 | Quantification of DMP-1 mRNA from DPCs stimulated with RvD2 (1–100 nM) for 7 and 14 days using real-time RT-PCR. (A) RvD2 induced significant DMP1 mRNA expression at all doses after 7 days culture compared to the control (0 nM) (P < 0.05; Tukey-Kramer). (B) RvD2 induced significant DMP1 mRNA expression at 100 nM (P < 0.05; Tukey-Kramer) after 14 days culture compared to the control (0 nM). *P < 0.05 indicates significant differences compared to the control, post hoc Tukey-Kramer test. Representative data of three to four independent cases. all doses of 1 to 100 nM (Figure 8A). Whereas, after 14 days DMP1 protein expression was significantly enhanced at the doses of 10 and 100 nM (P < 0.05, Figure 8B). Phosphorylated STAT3 protein expression was significantly induced after DPCs were stimulated with 100 nM of RvD2 for 1 min compared to that in the control. Additionally, phosphorylation of STAT3 was notably higher than that in non-treated DPCs after stimulation for 5 and 15 min (P < 0.05, Figure 8C). (33). Resolvin D2 biosynthesis involves 17-lipoxygenation of DHA to 17S-hydroperoxy-DHA, which then further transformed enzymatically to a 7(8) epoxide-containing intermediate in leukocytes via 5-lipoxygenase, followed by enzymatic hydrolysis to form RvD2. Endogenous RvD2 production has been documented in human serum, plasma, adipose tissue, placenta, lung, breast milk, and in the plasma of sepsis patients. RvD2 is a potent immunoresolvent that stereoselectively reduces excessive PMN trafficking in peritonitis and improves survival in sepsis. DISCUSSION Cells were stimulated with RvD2 (100 nM) for 0, 1, 5, 15, and 30 min. Western blotting revealed that RvD2 significantly induced phosphorylation of STAT3 after 1-min stimulation compared to non-treated DPCs. In addition, phosphorylation of STAT3 was much higher than in non-treated DPCs after stimulation for 5 and 15 min (*P < 0.05 indicates significant differences compared to the control group, Mann–Whitney test). Representative data of three independent experiments. M, molecular weight marker. activity is in accordance with the normal innate immune response. Myeloperoxidase (MPO) activity has been used as an inflammatory marker of both acute and chronic conditions. In PMNs, amount of MPO is 3 times higher than in monocytes, and used as an indicator of PMN presence in inflamed tissues (39). In this study, we visualized in vivo monitoring of low MPO activity in RvD2 treated tooth as compared to non-treated tooth. RvD2 limits excessive neutrophil trafficking to site of inflammation and resolve inflammation whereas, unresolved inflammation and tissue destruction are linked to dysregulated PMN functions (16). Further, RvD2 reduced inflammatory cell infiltrates that could be seen histologically (Figures 4A,E). Moreover, RvD2 induced root apex closure and remarkably reduced periapical lesion size with recalcification of bone at 4 weeks after root canal treatment compared to the control group, where large periapical lesions were observed (Figure 3; Figure S2). improve immune vigilance (16, 35). Importantly, in many disease systems, it has been shown that resolvins can be administered in an active infectious/inflammatory lesion without negative effects. Bacteria are more efficiently cleared and there is no increase of disease activity. The collective data indicate that for all RvD2 actions, such as pro-resolution, anti-inflammation, and the ability to promote bacterial clearance (16), RvD2 appears to be suitable as an intracanal medication for endodontic treatment. Periapical periodontitis is characterized by inflammation and destruction of periapical tissues caused by etiological bacteria of endodontic origin. It is considered to be the consequence of a dynamic encounter between root canal microbes and host defense. The latter involves cells, specifically PMNs and macrophages, intercellular mediators, metabolites, effector molecules, and humoral antibodies (36). Principally, macrophages play key role in clearance of bacteria, cellular debris and apoptotic PMNs to facilitate inflammation-resolution (16). If dying cells are not cleared, their intracellular contents are expelled, creating an unfavorable environment that may be favorable for bacteria to grow (37). DISCUSSION In this study, we demonstrate that active control of excess inflammation in an infected root canal is permissive for the healing of periapical lesions. In addition, there was suggestive of successful vital pulp-like tissue regeneration and bacterial load reduction in contaminated root canals following topical RvD2 treatment. Vital pulp-like tissue was regenerated with significant increases in DMP1 expression and mineralization. RvD2 signals, at least in part, through STAT3. The net outcome of RvD2- augmented root canal therapy was continued calcification around root apex, prevention and reversal of periapical periodontitis. Resolvins are specialized pro-resolving mediators derived from the polyunsaturated omega-3 fatty acids, EPA and DHA, which yield E-Series resolvins and D series resolvins, respectively (30). Resolvins actively foster catabasis through potent pro- resolving and anti-inflammatory actions (31, 32). Specialized pro-resolving mediators derived from DHA, including RvD2, were first noticed and isolated during the resolution phase of self- limited acute inflammation from murine self-resolving exudates February 2019 | Volume 10 | Article 307 8 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. FIGURE 8 | Western blot analysis. (A) RvD2-induced DMP1 protein expression in 7 days DPC culture at all doses of 1 to 100 nM. (B). RvD2-induced DMP1 protein expression in 14 days DPC culture. DMP1 expression was significantly enhanced at 10 and 100 nM doses compared to at 1 and 0 nM as the control groups (P < 0.05; Tukey-Kramer). Representative data of three independent cases. (C) RvD2 induced phosphorylation of STAT3 in DPCs. Cells were stimulated with RvD2 (100 nM) for 0, 1, 5, 15, and 30 min. Western blotting revealed that RvD2 significantly induced phosphorylation of STAT3 after 1-min stimulation compared to non-treated DPCs. In addition, phosphorylation of STAT3 was much higher than in non-treated DPCs after stimulation for 5 and 15 min (*P < 0.05 indicates significant differences compared to the control group, Mann–Whitney test). Representative data of three independent experiments. M, molecular weight marker. FIGURE 8 | Western blot analysis. (A) RvD2-induced DMP1 protein expression in 7 days DPC culture at all doses of 1 to 100 nM. (B). RvD2-induced DMP1 protein expression in 14 days DPC culture. DMP1 expression was significantly enhanced at 10 and 100 nM doses compared to at 1 and 0 nM as the control groups (P < 0.05; Tukey-Kramer). Representative data of three independent cases. (C) RvD2 induced phosphorylation of STAT3 in DPCs. Frontiers in Immunology | www.frontiersin.org DISCUSSION We observed that bacterial cell counts were low in RvD2 treated teeth as compared to control (SO) (Figures S3, S4). There are many published case reports and series related to the deposition of hard tissue within the canal walls of teeth with necrotic pulps and apical lesions, elucidating the obvious continuation of root development of teeth (57, 58). Other multiple studies in experimental animal models have shown the regeneration of dental pulp-like tissue after evoked bleeding (10, 11), considering cells source from outside the tooth root apex, likely including alveolar bone stem/progenitor cells and periodontal ligament stem/progenitor cells (59). Consequently, vital pulp-like tissue inside RvD2 treated canals and calcified tissues around the root apex (Figures 4A, 5G) presumably derived from alveolar bone stem/progenitor cells and periodontal ligament stem/progenitor cells (60). Sustained vitality of migrated pulp-like cells is likely because RvD2 treatment limits the excess local inflammatory response, controls bacterial sepsis, stimulates stem cells and induces angiogenesis (16, 18). Disease severity and chronicity involve a constant phase of inflammation due to improper resolution of the initial pro-inflammatory response that impacts on the resident stem cells behavior (61), thus preventing tissue regeneration while promoting pathogenesis of periapical lesion caused by excessive influx of PMNs and pro-inflammatory mediators (6, 62). RvD2 actions, could promote resolution of inflammation and reverse tissue destruction caused by excessive PMN influx (16), consequently, facilitate stem cells activations presumably alveolar bone stem/progenitor cells and periodontal ligament stem/progenitor cells (46), and induce regeneration of pulp-like cells and promote calcification of periapical lesion. In this rat model, there was some slight ingrowth of pulp tissue in the control, which is not often seen in humans. Nonetheless, the robust ingrowth and large difference between RvD2 treatment and control demonstrate significant impact of control of inflammation in elimination of infection and promotion of pulp regeneration. Our histological findings are consistent with those of previous studies, which used Resolvin E1 (RvE1) as an intracanal medicament in necrotic immature pulps of teeth of 4-week- old rats and demonstrated reductions in inflammatory cell infiltration (22). Both resolvin types (E1 and D2) bind to distinct cell receptors and elicit distinct responses. RvE1 binds to chemokine-like receptor 1 (ChemR23) or BLT1 receptors on monocyte, PMNs, osteoblasts, and osteoclasts (45). In addition to the anti-inflammatory and pro-resolution actions mediated by RvE1, osteoblasts mediate bone preservation via ChemR23 receptors (45). DISCUSSION RvD2 binds to the GPR18 receptor, which is expressed on human leukocytes, including PMNs, monocytes, and macrophages, and elicits potent anti-inflammatory and anti-bacterial responses (16, 35). In this study, we found high expression of GPR18 receptors inside and outside of RvD2- treated root canals as compared to the controls (Figures 5A–F), which was further confirmed by the increased level of GPR18 mRNA expressed by DPCs treated with 10 nM RvD2 for 3 days (Figure S1). These findings are consistent with previous reports that demonstrate stem cells and macrophages express lipoxin and resolvin receptors and respond to exogenous addition of mediators (46, 47). The data expand our understanding of root canal biology beyond the possible anti-inflammatory actions of RvD2 on PMNs and macrophages located inside and outside the root canal, revealing possible reasons for root apex calcification. For regenerative endodontic therapy, the most commonly used intracanal medication for canal disinfection and tissue repair is triple antibiotic paste, which contains metronidazole, ciprofloxacin, and minocycline (48). Local antibiotic medication has many limitations, including the development of bacterial resistance (49), allergic reactions (50), inhibition of angiogenesis (51), and staining or discoloration of teeth (52). We used 2.5% sodium hypochlorite for root canal irrigation, which has been shown to have an essential role in reducing microbial load (48). It has been studied that lipopolysaccharide (LPS/endotoxin) from bacterial cell walls stimulates an inflammatory response from a variety of cells resident in the tissue (53). Once immune cells become activated by LPS, they mediate the destruction of the pulpal tissues by secreting a range of pro-inflammatory cytokines, prime examples being IL-1β and TNFα, and tissue degrading enzymes such as matrix metalloproteinases (MMPs) (54). Treatment with RvD2 may have further contributed to the control of bacterial infection in the root canal by enhancing phagocyte-dependent bacterial clearance (35). Very low levels of residual bacteria were found in RvD2-treated root canals as compared to control and baseline groups (Figures 4I–L). Gram-negative bacteria predominate in root canals of teeth In addition to the known actions of RvD2, it also induced strong DMP1 expression throughout the root canal and around the root apex including in cementum and bone. Moreover, in vitro mineralization in primary DPCs was enhanced with RvD2 treatments at 100 and 200 nM doses at 21 days. (Figure 6). 21- day DPC culture was chosen, since osteogenic differentiation and mineralization is optimum at this time (63). DISCUSSION In current clinical practice, there are many materials that do not actively stimulate an immune response such as gutta-percha used inside root canals which has little bioactivity and few innate anti-inflammatory properties. These materials lack active anti-inflammatory and regenerative properties and significantly limits treatment options favorable to reverse periapical periodontitis and to drive pulpal regeneration (38). In the present study, maintaining root apex patency was considered an important step of the regeneration process, as it has been previously reported by others that the periapical tissues contain a higher concentration of stem cells compared with the blood from the systemic circulation (40, 41). Thus, we instrumented beyond the apex inducing bleeding inside canals. Formation of blood clot creates a 3-D fibrin scaffold that may contain stem cells derived from peripheral blood, periodontal ligament, bone marrow, granulation tissue, or periapical lesions (42). Further, it is likely that the presence of RvD2 restricts excessive innate inflammatory responses in periapical lesions to stimulate periapical repair (16, 17, 19). Intracanal treatment with RvD2 reduced overall inflammation by decreasing MPO activity of phagocytes as compared to control (Figures 2A,B). We believe this change in MPO Ten-week-old rats were used in this study, because their roots are completely developed at this age. In older rats, it is difficult February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 9 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. to use files inside root canals due to continued calcification that makes canals rigid and narrow (1). We measured the periapical lesion size from the apical third of the root canal because of the presence of accessory canals in this area (43). In rats, induced periapical lesions develop rapidly between days 0 and 15 (active phase) and more slowly thereafter (chronic phase). On days 15 to 90, lymphocytes are the predominant cell type (50 to 60%) followed by polymorphonuclear leukocytes (25 to 40%), macrophage-monocytes, plasma cells, and blasts. The cell infiltrate in these lesions was similar to that found in chronic human periapical tissues (44). with pulp necrosis and periapical lesions. LPS is considered an important virulence factor of Gram negative bacteria (55). Moreover, after 4 weeks of root canal treatment, we quantified bacterial cells derived from the mesial root along with apical region, using real-time PCR, as described by Maeda et al. (56). Frontiers in Immunology | www.frontiersin.org FUNDING This study was supported by a Grant-in-Aid for Scientific Research (C) (No. 16K11549) from the Japan Society for the Promotion of Science. ACKNOWLEDGMENTS We thank Drs. Kimito Hirai, Zulema Rosalia Arias Martinez, and Emilio Satoshi Hara for providing valuable suggestions and Drs. Saki Nakagawa and Mari Kawamura for technical support. AUTHOR CONTRIBUTIONS YS contributed to the conception, design, analysis, and interpretation of the study and wrote the manuscript. KaO, TI, and KY contributed to the conception, design, analysis, and interpretation of the study and drafted the manuscript. SN and KeO contributed to in vivo experiments. MO contributed to data analysis. TY contributed to interpretation of the study. TV contributed to the conception, interpretation of the study, and drafted and critically revised the manuscript. ST contributed to the conception, design, analysis, and interpretation of the study and drafted and critically revised the manuscript. Finally, we identified a signaling pathway in DPCs involved in the induction of DMP1 over-expression and odontoblast differentiation. We observed that phosphorylation of STAT3 was enhanced after DPCs were treated with RvD2 (Figure 8C; Figure S5C). The differences in STAT3 phosphorylation were small; however, in normal cells, the duration of STAT3 activation is short. Usually after exposure, phosphorylation takes peaks within minutes (68). In our study, we found that DPCs expressed phosphorylated STAT3 protein 1 min after exposure. While expression was also higher after 5 and 15 min, we assume that RvD2 activates STAT3 signaling in DPCs as early as in 1 min after exposure, and may persist until RvD2-receptor interactions are saturated. STAT3 stimulates embryonic and somatic stem cell self-renewal (69, 70). STAT3 also activates DPCs and promotes their exit from the G0 phase of the cell cycle toward self-renewal and differentiation (71). RvD2-GPR18 receptor interactions on macrophage leads to the phosphorylation of STAT3 that contributes in macrophage phagocytosis to promote resolution of inflammation (35). Hence, in DPCs, RvD2-GPR18 receptor interactions phosphorylates STAT3 to further propagate DPC differentiation into odontoblast-like cells. STAT3 is a positive regulator of β-catenin (72, 73), and initiates DPC differentiation and upregulates DMP1 expression. Further studies are needed to explore the signaling pathways responsible for DPCs differentiation, DMP1 upregulation and the mechanisms involving mineralization. DISCUSSION We further confirmed that DMP1 mRNA and protein levels were increased in primary DPCs after treatment with RvD2 for 7 and 14 days (Figure 7, 8; Figures S5A,B). DMP1 mRNA expression was significantly enhanced after 7 days treatment with RvD2 at all doses as compared to control (no RvD2). Whereas, at 14 days, the 100 nM dose showed a significant increase in DMP1 expression. The difference in dose/response time could be due to high cellular confluency in culture dishes incubated for longer periods. It could be suggested that for the induction of mineralization, persistent DMP1 expressions are needed. This February 2019 | Volume 10 | Article 307 10 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. time 10 to 100 nM dose induced DMP1 protein expression at 14 days (Figure 8B). We hypothesize that high concentration of RvD2 is needed to keep DMP1 production and induce periapical calcification. DMP1 is an extracellular acidic phosphoprotein that belongs to the small integrin ligand N-linked glycoprotein family 1, which has multiple functions in mineralized tissues. It is also expressed in the cementum that coats the tooth root surface (64). It plays a key role in odontoblast differentiation and formation of the dentin tubular system. In response to pulp injury, newly differentiated odontoblast-like cells from DPCs play a role in dentin repair and mineralization by secreting DMP1 as a key protein that induces odontogenesis. Overexpression of DMP1 by pluripotent cells acts as signal for differentiation (14). In this case, differentiated odontoblast-like cells may have shifted from the end of dentinal tubules toward the root apex as dentin formation progressed (Figures 5G,J). Narrowing of the root canal space was observed in some RvD2-treated molars, likely in response to increased DMP1 protein. DMP1 is highly acidic in nature and attracts calcium and promotes the nucleation and growth of hydroxyapatite crystals (65). Localization of DMP1 in dentin and cementum is related to mineralization and its deletion leads to increased susceptibility to periodontal diseases in mice, suggesting that DMP1 is essential for the formation and maintenance of a healthy periodontium (66, 67). In conclusion, RvD2 efficiently reduces periapical inflammation and promotes pulp-like tissue regeneration and calcification around root apex. The positive healing response could be associated with reduction of bacteria load. RvD2 enhances DMP1 expression by DPCs. RvD2 may be useful as a novel intracanal medication for inducing pulpal regeneration in endodontically compromised teeth. ETHICS STATEMENT This study was approved by the Animal Care and Use Committees, Okayama University (Permit no: OKU-2017062). All animal experiments were carried out in accordance with the Guidelines for Animal Experiments of Okayama University, surgical procedures were performed under sodium pentobarbital anesthesia, and all efforts were made to minimize animal suffering. SUPPLEMENTARY MATERIAL The Supplementary Material for this article can be found online at: https://www.frontiersin.org/articles/10.3389/fimmu. 2019.00307/full#supplementary-material 2. Kakehashi S, Stanley H, Fitzgerald, R. The effects of surgical exposures of dental pulps in germ-free and conventional laboratory rats. Oral Surg Oral Med Oral Pathol. (1965) 20:340–9. doi: 10.1016/0030-4220(65)90166-0 3. Sundqvist, G. Bacteriological Studies of Necrotic Dental Pulps. PhD Dissertation, Department of Oral Microbiology, Umea University, Sweden (1976). 2. Kakehashi S, Stanley H, Fitzgerald, R. The effects of surgical exposures of dental pulps in germ-free and conventional laboratory rats. Oral Surg Oral Med Oral Pathol. (1965) 20:340–9. doi: 10.1016/0030-4220(65)90166-0 3. Sundqvist, G. Bacteriological Studies of Necrotic Dental Pulps. PhD Dissertation, Department of Oral Microbiology, Umea University, Sweden (1976). Frontiers in Immunology | www.frontiersin.org REFERENCES Resolvins: a family of bioactive products of omega-3 fatty acid transformation circuits initiated by aspirin treatment that counter proinflammation signals. J Exp Med. (2002) 196:1025–37. doi: 10.1084/jem.20020760 15. Hasturk H, Kantarci A, Goguet-Surmenian E, Blackwood A, Andry C, Serhan CN, et al. Resolvin E1 regulates inflammation at the cellular and tissue level and restores tissue homeostasis in vivo. J Immunol. (2007) 179:7021–9. doi: 10.4049/jimmunol.179.10.7021 34. Lee CT, Teles R, Kantarci A, Chen T, McCafferty J, Starr JR, et al. Resolvin E1 reverses experimental periodontitis and dysbiosis. J Immunol. (2016) 197:2796–806. doi: 10.4049/jimmunol.1600859 16. Spite M, Norling LV, Summers L, Yang R, Cooper D, Petasis NA, et al. Resolvin D2 is a potent regulator of leukocytes and controls microbial sepsis. Nature (2009) 461:1287–91. doi: 10.1038/nature08541 35. Chiang N, De la Rosa X, Libreros S, Serhan, CN. D2 receptor axis in infectious inflammation. J Immunol. (2017) 198:842–51. doi: 10.4049/jimmunol.1601650 17. Mizraji G, Heyman O, Van Dyke TE, and Wilensky, A. Resolvin D2 restrains Th1 immunity and prevents alveolar bone loss in murine periodontitis. Front Immunol. (2018) 9:785. doi: 10.3389/fimmu.2018.00785 36. Nair, P. Apical periodontitis: a dynamic encounter between root canal infection and host response. Periodontol 2000 (1997) 13:121–48. doi: 10.1111/j.1600-0757.1997.tb00098.x 18. Zhang MJ, Sansbury BE, Hellmann J, Baker JF, Guo L, Parmer CM, et al. Resolvin D2 enhances post-ischemic revascularization while resolving inflammation. Circulation (2016) 134:666–80. doi: 10.1161/circulationaha.116.021894 37. McCauley LK, Dalli J, Koh AJ, Chiang N, Serhan, CN. Cutting edge: parathyroid hormone facilitates macrophage efferocytosis in bone marrow via proresolving mediators resolvin D1 and resolvin D2. J Immunol. (2014) 2:1301945. doi: 10.4049/jimmunol.1301945 19. Chiurchiu V, Leuti A, Dalli J, Jacobsson A, Battistini L, Maccarrone M, et al. Proresolving lipid mediators resolvin D1, resolvin D2, and maresin 1 are critical in modulating T cell responses. Sci Transl Med. (2016) 8:353ra111. doi: 10.1126/scitranslmed.aaf7483 38. Colombo JS, Moore AN, Hartgerink JD, D’Souza, RN. Scaffolds to control inflammation and facilitate dental pulp regeneration. J Endod. (2014) 1:S6–12. doi: 10.1016/j.joen.2014.01.019 20. Park, C.-K, Xu, Z.-Z, Liu T, Lü N, Serhan CN, Ji, RR. Resolvin D2 is a potent endogenous inhibitor for transient receptor potential subtype V1/A1, inflammatory pain, and spinal cord synaptic plasticity in mice: distinct roles of resolvin D1, D2, and E1. J Neurosci. (2011) 31:18433–8. doi: 10.1523/jneurosci.4192-11.2011 39. Queiroz-Junior CM, Pacheco CM, Fonseca AH, Klein A, Caliari MV, de Francischi JN. REFERENCES Saoud TMA, Ricucci D, Lin LM, Gaengler, P. Regeneration and repair in endodontics -a special issue of the regenerative endodontics- a new era in clinical endodontics. Dent J. (2016) 4:3. doi: 10.3390/dj4010003 28. Miyazaki T, Miyauchi S, Tawada A, Anada T, Matsuzaka S, Suzuki, O. Oversulfated chondroitin sulfate-E binds to BMP-4 and enhances osteoblast differentiation. J Cell Physiol. (2008) 217:769–77. doi: 10.1002/jcp.21557 10. Zhu W, Zhu X, Huang GJ, Cheung G, Dissanayaka W, Zhang, C. Regeneration of dental pulp tissue in immature teeth with apical periodontitis using platelet-rich plasma and dental pulp cells. Int Endod. (2013) 46:962–70. doi: 10.1111/iej.12087 29. Omori K, Naruishi K, Nishimura F, Yamada H, Takashiba, S. High glucose enhances interleukin-6-induced vascular endothelial growth factor 165 expression via activation of gp130-mediated p44/42 MAPK- CCAAT/enhancer binding protein signaling in gingival fibroblasts. J Biol Chem. (2004) 279:6643–9. doi: 10.1074/jbc.M311688200 11. Zhang DD, Chen X, Bao ZF, Chen M, Ding ZJ, Zhong, M. Histologic comparison between platelet-rich plasma and blood clot in regenerative endodontic treatment: an animal study. J Endod. (2014) 40:1388–93. doi: 10.1016/j.joen.2014.03.020 30. Serhan, C.N. Pro-resolving lipid mediators are leads for resolution physiology. Nature (2014) 510:92–101. doi: 10.1038/nature13479 12. Gronthos S, Mankani M, Brahim J, Robey PG, Shi, S. Postnatal human dental pulp stem cells (DPSCs) in vitro and in vivo. Proc Natl Acad Sci USA. (2000) 97:13625–30. doi: 10.1073/pnas.240309797 31. Serhan CN, Clish CB, Brannon J, Colgan SP, Chiang N, Gronert, K. Novel functional sets of lipid-derived mediators with antiinflammatory actions generated from omega-3 fatty acids via cyclooxygenase 2–nonsteroidal antiinflammatory drugs and transcellular processing. J Exp Med. (2000) 192:1197–204. doi: 10.1084/jem.192.8.1197 13. Lu Y, Ye L, Yu S, Zhang S, Xie Y, McKee MD, et al. Rescue of odontogenesis in Dmp1-deficient mice by targeted re-expression of DMP1 reveals roles for DMP1 in early odontogenesis and dentin apposition in vivo. Dev Biol. (2007) 303:191–201. doi: 10.1016/j.ydbio.2006.11.001 32. Serhan CN, Chiang N, Van Dyke TE. Resolving inflammation: dual anti- inflammatory and pro-resolution lipid mediators. Nat Rev Immunol. (2008) 8:349. doi: 10.1038/nri2294 14. Narayanan K, Srinivas R, Ramachandran A, Hao J, Quinn B, George, A. Differentiation of embryonic mesenchymal cells to odontoblast-like cells by overexpression of dentin matrix protein 1. Proc Natl Acad Sci USA. (2001) 98:4516–21. doi: 10.1073/pnas.081075198 33. Serhan CN, Hong S, Gronert K, Colgan SP, Devchand PR, Mirick G, et al. REFERENCES 1. Yoneda N, Noiri Y, Matsui S, Kuremoto K, Maezono H, Ishimoto T, et al. Development of a root canal treatment model in the rat. Sci Rep. (2017) 7:3315. doi: 10.1038/s41598-017- 03628-6 February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 11 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. periodontal inflammation and bone resorption in a murine periodontitis model. Infect Immune (2018) 86:e00111–18. doi: 10.1128/IAI.00111-18 4. Ricucci D, and Langeland, K. Apical limit of root canal instrumentation and obturation, part 2. A histological study. Int Endod J. (1998) 31:394–409. doi: 10.1046/j.1365-2591.1998.00183.x periodontal inflammation and bone resorption in a murine periodontitis model. Infect Immune (2018) 86:e00111–18. doi: 10.1128/IAI.00111-18 4. Ricucci D, and Langeland, K. Apical limit of root canal instrumentation and obturation, part 2. A histological study. Int Endod J. (1998) 31:394–409. doi: 10.1046/j.1365-2591.1998.00183.x 24. Wan C, Yuan G, Yang J, Sun Q, Zhang L, Zhang J, et al. MMP9 deficiency increased the size of experimentally induced apical periodontitis. J Endod. (2014) 40:658–64. doi: 10.1016/j.joen.2014.01.003 j 5. Elemam RF, Pretty, I. Comparison of the success rate of endodontic treatment and implant treatment. ISRN Dent. (2011) 2011:640509. doi: 10.5402/2011/640509 5. Elemam RF, Pretty, I. Comparison of the success rate of endodontic treatment and implant treatment. ISRN Dent. (2011) 2011:640509. doi: 10.5402/2011/640509 25. Dee Taylor, R. Modification of the Brown and Brenn gram stain for the differential staining of gram-positive and gram-negative bacteria in tissue sections. Am J Clin Pathol. (1966) 46:472–4. doi: 10.1093/ajcp/46.4.472 6. Nair, P. Pathogenesis of apical periodontitis and the causes of endodontic failures. Crit Rev Oral Biol Med. (2004) 15:348–81. doi: 10.1177/154411130401500604 6. Nair, P. Pathogenesis of apical periodontitis and the causes of endodontic failures. Crit Rev Oral Biol Med. (2004) 15:348–81. doi: 10.1177/154411130401500604 26. Yamanaka Y, Shigetani Y, Yoshiba K, Yoshiba, N, Okiji, T. Immunohistochemical analysis of subcutaneous tissue reactions to methacrylate resin-based root canal sealers. Int Endod J. (2011) 44:669–75. doi: 10.1111/j.1365-2591.2011.01874.x 7. Geurtsen W, Leyhausen, G. Biological aspects of root canal filling materials histocompatibility, cytotoxicity, and mutagenicity. Clin Oral Invest (1997) 1:5–11. doi: 10.1007/s007840050002 8. Trope, M. Regenerative potential of dental pulp. J Endod. (2008) 30:206–210. doi: 10.1016/j.joen.2008.04.001 27. Bertassoli BM, Costa ES, Sousa CA, Albergaria JD, Maltos KL, Goes AM, et al. Rat dental pulp stem cells: isolation and phenotypic characterization method aiming bone tissue bioengineering. Braz Arch Biol Technol. (2016) 59:e16150613. doi: 10.1590/1678-4324-2016150613 9. REFERENCES Expression of mineralization markers in dental pulp cells. J Endod. (2007) 33:703–8. doi: 10.1016/j.joen.2007.02.009 64. Baba O, Qin C, Brunn JC, Wygant JN, McIntyre BW, Butler, WT. Colocalization of dentin matrix protein 1 and dentin sialoprotein at late stages of rat molar development. Matrix Biol. (2004) 23:371–9. doi: 10.1016/j.matbio.2004.07.008 46. Cianci E, Recchiuti A, Trubiani O, Diomede F, Marchisio M, Miscia S, et al. Human periodontal stem cells release specialized proresolving mediators and carry immunomodulatory and prohealing properties regulated by lipoxins. Stem Cells Transl Med. (2016) 5:20–32. doi: 10.5966/sctm.2015-0163 65. Tartaix PH, Doulaverakis M, George A, Fisher LW, Butler WT, Qin C, et al. In vitro effects of dentin matrix protein-1 on hydroxyapatite formation provide insights into in vivo functions. J Biol Chem. (2004) 279:18115–20 doi: 10.1074/jbc.M314114200 47. Chiang N, Dalli J, Colas RA, Serhan, C.N. Identification of resolvin D2 receptor mediating resolution of infections and organ protection. J Exp Med. (2015) 212:1203–17. doi: 10.1084/jem.20150225 66. Ye L, Zhang S, Ke H, Bonewald L, and Feng, J. Periodontal breakdown in the Dmp1 null mouse model of hypophosphatemic rickets. J Dent Res. (2008) 87:624–9. doi: 10.1177/154405910808700708 48. Sato I, Ando-Kurihara N, Kota K, Iwaku M, Hoshino, E. Sterilization of infected root-canal dentine by topical application of a mixture of ciprofloxacin, metronidazole and minocycline in situ. Int Endod. (1996) 29:118–124. doi: 10.1111/j.1365-2591.1996.tb01172.x 67. Toyosawa S, Okabayashi K, Komori T, and Ijuhin, N. mRNA expression and protein localization of dentin matrix protein 1 during dental root formation. Bone (2004) 34:124–33. doi: 10.1016/j.bone.2003.08.010 49. Slots, J. Selection of antimicrobial agents in periodontal therapy. J Periodontal Res. (2002) 37:389–98. doi: 10.1034/j.1600-0765.2002.00004.x 68. Bromberg J, Chen X. STAT3 proteins: signal tranducers and activators of transcription. Methods Enzymol. (2001) 333:138–151. doi: 10.1016/S0076-6879(01)33052-5 50. Hausermann P, Scherer K, Weber M, Bircher, A. Ciprofloxacin-induced acute generalized exanthematous pustulosis mimicking bullous drug eruption confirmed by a positive patch test. Dermatology (2005) 211:277–80. doi: 10.1159/000087024 69. Zong CS, Chan J, Levy DE, Horvath C, Sadowski HB, Wang LH. Mechanism of STAT3 activation by insulin-like growth factor I receptor. J Biol Chem. (2000) 275:15099–105. doi: 10.1074/jbc.M000089200 51. Tamargo RJ, Bok RA, and Brem, H. Angiogenesis inhibition by minocycline. Cancer Res. (1991) 51:672–5. 70. Li, YQ. Master stem cell transcription factors and signaling regulation. Cell Reprogram (2010) 12:3–13. doi: 10.1089/cell.2009.0033 52. Lenherr P, Allgayer N, Weiger R, Filippi A, Attin T, Krastl, G. Tooth discoloration induced by endodontic materials: a laboratory study. REFERENCES Myeloperoxidase content is a marker of systemic inflammation in a chronic condition: the example given by the periodontal disease in rats. Mediators Inflamm. (2009) 2009:760837. doi: 10.1155/2009/ 760837 21. Cruz E, Kota K, Huque J, Iwaku, M. Hoshino, E. Penetration of propylene glycol into dentine. Int Endontic J. (2002) 35:330–36. doi: 10.1046/j.1365-2591.2002.00482.x 40. Thibodeau B, Teixeira F, Yamauchi M, Caplan DJ, Trope, M. Pulp revascularization of immature dog teeth with apical periodontitis. J Endod. (2007) 33:680–9. doi: 10.1016/j.joen.2007.03.001 22. Scarparo RK, Dondoni L, Bottcher DE, Grecca FS, Figueiredo JAP, Kantarci A, et al. Intracanal delivery of Resolvin E1 controls inflammation in necrotic immature rat teeth. J Endod. (2014) 40, 678–82. doi: 10.1016/j.joen.2013.12.037 41. Lovelace TW, Henry MA, Hargreaves KM, Diogenes, A. Evaluation of the delivery of mesenchymal stem cells into the root canal space of necrotic immature teeth after clinical regenerative endodontic procedure. J Endod. (2011) 37:133–8. doi: 10.1016/j.joen.2010.10.009 23. Yoshihara-Hirata C, Yamashiro K, Yamamoto T, Aoyagi H, Ideguchi H, Kawamura M, et al. Anti-HMGB1 neutralizing antibody attenuates 42. Dokic J, Tomic S, Cerovic S, Todorovic V, Rudolf R, and Colic, M. Characterization and immunosuppressive properties of mesenchymal February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 12 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. stem cells from periapical lesions. J Clin Periodontol. (2012) 39:807–16. doi: 10.1111/j.1600-051X.2012.01917.x stem cells from periapical lesions. J Clin Periodontol. (2012) 39:807–16. doi: 10.1111/j.1600-051X.2012.01917.x 60. Paryani K, and Kim SG. Regenerative endodontic treatment of permanent teeth after completion of root development: a report of 2 cases. J Endod. (2013) 39:929–34. doi: 10.1016/j.joen.2013.04.029 43. Vertucci, FJ. Root canal morphology and its relationship to endodontic procedures. Endod Topics (2005) 10:3–29. doi: 10.1111/j.1601-1546.2005.00129.x 61. Kizil C, Kyritsis N, Brand M. Effects of inflammation on stem cells: together they strive? EMBO Rep. (2015) 16:416–26. doi: 10.15252/embr.201439702 44. Stashenko P, Wang CY, Tani-Ishii N, Yu, SM. Pathogenesis of induced rat periapical lesions. Oral Surg Oral Med Oral Path (1994) 78:494–502. doi: 10.1016/0030-4220(94)90044-2 62. Yamasaki M, Kumazawa M, Kohsaka T, Nakamura H. Effect of methotrexate- induced neutropenia on rat periapical lesion. Oral Surg Oral Med Oral Pathol, Oral Radiol. (1994) 77:655–61. doi: 10.1016/0030-4220(94)90330-1 45. Gao L, Faibish D, Fredman G, Herrera BS, Chiang N, Serhan CN, et al. Resolvin E1 and chemokine-like receptor 1 mediate bone preservation. J Immunol. (2013) 190:689–94. doi: 10.4049/jimmunol.1103688 63. Wei X, Ling J, Wu L, Liu L, Xiao, Y. REFERENCES Int Endod J. (2012) 45:942–949. doi: 10.1111/j.1365-2591.2012.02053.x 71. Vandomme J, Touil Y, Ostyn P, Olejnik C, Flamenco P, El Machhour R, et al. Insulin-like growth factor 1 receptor and p38 mitogen-activated protein kinase signals inversely regulate signal transducer and activator of transcription 3 activity to control human dental pulp stem cell quiescence, propagation, and differentiation. Stem Cells Dev. (2013) 23, 839–51. doi: 10.1089/scd.2013.0400 53. Bergenholtz, G. Inflammatory response of the dental pulp to bacterial irritation. J Endod. (1981) 7:100–4. doi: 10.1016/S0099-2399(81)80122-7 54. Cooper PR, Takahashi Y, Graham LW, Simon S, Imazato S, Smith, AJ. Inflammation-regeneration interplay in the dentine-pulp complex. J Dent. (2010) 38:687–97. doi: 10.1016/j.jdent.2010.05.016 55. Gomes BP, Herrera, DR. Etiologic role of root canal infection in apical periodontitis and its relationship with clinical symptomatology. Braz Oral Res. (2018) 32(suppl. 1):e69. doi: 10.1590/1807-3107bor-2018.vol32. 0069 72. Ibrahem S, Al-Ghamdi S, Baloch K, Muhammad B, Fadhil W, Jackson D, et al. STAT3 paradoxically stimulates ß-catenin expression but inhibits ß-catenin function. Int J Exp Pathol. (2014) 95:392–400. doi: 10.1111/iep.12102 73. Fragoso MA, Patel AK, Nakamura RE, Yi H, Surapaneni K, Hackam AS. The Wnt/ ß-catenin pathway cross-talks with STAT3 signaling to regulate survival of retinal pigment epithelium cells. PLoS ONE (2012) 7:e46892. doi: 10.1371/journal.pone.0046892 56. Maeda H, Fujimoto C, Haruki Y, Maeda T, Kokeguchi S, Petelin, et al. Quantitative real-time PCR using TaqMan and SYBR Green for Actinobacillus actinomycetemcomitans, Porphyromonas gingivalis, Prevotella intermedia, tetQ gene and total bacteria. FEMS Immunol Med Microbiol. (2003) 39:81–6. doi: 10.1016/S0928-8244(03)00224-4 Conflict of Interest Statement: The authors declare that the research was conducted in the absence of any commercial or financial relationships that could be construed as a potential conflict of interest. Conflict of Interest Statement: The authors declare that the research was conducted in the absence of any commercial or financial relationships that could be construed as a potential conflict of interest. 57. Rule D, Winter G. Root growth and apical repair subsequent to pulpal necrosis in children. Br Dent J. (1966) 120:586–90 58. Torabinejad M, and Faras H. (2012). A clinical and histological report of a tooth with an open apex treated with regenerative endodontics using platelet-rich plasma. J Endod. (2012) 38:864–8. doi: 10.1016/j.joen.2012. 03.006 Copyright © 2019 Siddiqui, Omori, Ito, Yamashiro, Nakamura, Okamoto, Ono, Yamamoto, Van Dyke and Takashiba. This is an open-access article distributed under the terms of the Creative Commons Attribution License (CC BY). Frontiers in Immunology | www.frontiersin.org REFERENCES The use, distribution or reproduction in other forums is permitted, provided the original author(s) and the copyright owner(s) are credited and that the original publication in this journal is cited, in accordance with accepted academic practice. No use, distribution or reproduction is permitted which does not comply with these terms. 59. Shimizu E, Ricucci D, Albert J, Alobaid AS, Gibbs JL, Huang GT, et al. Clinical, radiographic, and histological observation of a human immature permanent tooth with chronic apical abscess after revitalization treatment. J Endod. (2013) 39:1078–83. doi: 10.1016/j.joen.2013.04.032 February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 13
https://openalex.org/W4213416966
https://www.nature.com/articles/s41413-022-00194-0.pdf
English
null
RIOX1-demethylated cGAS regulates ionizing radiation-elicited DNA repair
Bone Research
2,022
cc-by
13,329
1State Key Laboratory of Oral Diseases, National Clinical Research Center for Oral Diseases, Chinese Academy of Medical Sciences Research Unit of Oral Carcinogenesis and Management, West China Hospital of Stomatology, Sichuan University, Chengdu, Sichuan 610041, China; 2The Second Affiliated Hospital of Chengdu Medical College, China National Nuclear Corporation 416 Hospital, Chengdu, Sichuan 610051, China; 3School of Biological Sciences and Technology, Chengdu Medical College, Chengdu 610599, China; 4Department of Cardio-thoracic Surgery, the Second Affiliated Hospital of Chengdu Medical College, China National Nuclear Corporation 416 Hospital, Chengdu, Sichuan 610051, China; 5Key Laboratory of Animal Models and Human Disease Mechanisms of Chinese Academy of Sciences Yunnan Province, Kunming Institute of Zoology, Kunming, Yunnan 650223, China; 6Department of Health Sciences, The Graduate School of Dong-A University, Busan 49315, Republic of Korea; 7Department of Biological Sciences, Dong-A University, Busan 49315, Republic of Korea and 8Center for Excellence in Animal Evolution and Genetics, Chinese Academy of Sciences, Kunming, Yunnan 650223, China Correspondence: Rui Liu (liurui_scu@hotmail.com) or Qianming Chen (qmchen@scu.edu.cn) These authors contributed equally: Yanxuan Xiao, Jingyi Li ; https://doi.org/10.1038/s41413-022-00194-0 ; https://doi.org/10.1038/s41413-022-00194-0 Bone Research (2022) 10:19 regulating DNA repair.6–8 Ribosomal oxygenase 1 (RIOX1) removes mono- or trimethylation from histone 3 lysine 4 (H3K4me1 or H3K4me3, respectively), while it has weaker activity toward methylated H3K36.9 However, whether RIOX1 is involved in DNA repair upon ionizing radiation-induced damage is largely undefined. In the current study, we report a novel RIOX1- mediated mechanism that modulates the efficiency of HR repair. We show that depletion of RIOX1 in mouse bone marrow cells restores cell viability and decreases cell death upon exposure to ionizing radiation. Loss of RIOX1 enhances HR repair but not NHEJ repair in irradiated cells. Furthermore, we demonstrate that RIOX1 abolishes the monomethylation of K491 in cyclic GMP- AMP synthase (cGAS) (corresponding to K506 in human cGAS), which disrupts the interaction between cGAS and the methylly- sine reader protein SAGA complex-associated factor 29 (SGF29). cGAS without K491me binds to poly(ADP-ribosyl)ated poly(ADP- ribose) polymerase 1 and abrogates the recruitment of Timeless to DNA break sites, thereby blocking HR repair. RIOX1 is highly expressed in bone marrow cells with a relatively low level of cGAS K491me, consistent with the high radiosensitivity of bone marrow cells. Received: 24 April 2021 Accepted: 10 August 2021 ARTICLE OPEN RIOX1-demethylated cGAS regulates ionizing radiation-elicited DNA repair Yanxuan Xiao1, Jingyi Li2,3, Xiaoyu Liao1, Yumin He1, Tao He4, Cuiping Yang5, Lu Jiang1, So Mi Jeon6, Jong-Ho Lee6,7, Yongbin Chen5,8, Rui Liu1✉and Qianming Chen1✉ Exposure to radiation causes DNA damage; hence, continuous surveillance and timely DNA repair are important for genome stability. Epigenetic modifications alter the chromatin architecture, thereby affecting the efficiency of DNA repair. However, how epigenetic modifiers coordinate with the DNA repair machinery to modulate cellular radiosensitivity is relatively unknown. Here, we report that loss of the demethylase ribosomal oxygenase 1 (RIOX1) restores cell proliferation and reduces cell death after exposure to ionizing radiation. Furthermore, RIOX1 depletion enhances homologous recombination (HR) repair but not nonhomologous end- joining (NHEJ) repair in irradiated bone marrow cells and oral mucosal epithelial cells. Mechanistic study demonstrates that RIOX1 removes monomethylation at K491 of cyclic GMP-AMP synthase (cGAS) to release cGAS from its interaction with the methyl-lysine reader protein SAGA complex-associated factor 29 (SGF29), which subsequently enables cGAS to interact with poly(ADP-ribosyl) ated poly(ADP-ribose) polymerase 1 (PARP1) at DNA break sites, thereby blocking PARP1-mediated recruitment of Timeless. High expression of RIOX1 maintains cGAS K491me at a low level, which impedes HR repair and reduces cellular tolerance to ionizing radiation. This study highlights a novel RIOX1-dependent mechanism involved in the non-immune function of cGAS that is essential for the regulation of ionizing radiation-elicited HR repair. Bone Research Bone Research www.nature.com/boneres RESULTS Consistent with the above findings, knockdown of endogenous RIOX1 in 32D Cl3 cells by two distinct shRNAs substantially attenuated the irradiation-induced cell viability suppression and cell death (Fig. 1b and c). Similar results were obtained in the CD34- and Thy-1-expressing mouse bone marrow myeloid cell line FDC-P111 (Figs. 1b, c and S1E). RIOX1 decreases cell viability and inhibits HR repair in bone marrow cells after ionizing radiation RIOX1 decreases cell viability and inhibits HR repair in bone marrow cells after ionizing radiation g To evaluate the effects of RIOX1 on bone marrow cells after ionizing radiation, RIOX1 knockout mice were examined. Adult RIOX1 knockout mice were viable and fertile. We noted an increased body weight and length at birth and at 8 weeks of age (Fig. S1A and S1B). Loss of RIOX1 resulted in prolonged survival (Fig. S1C) and attenuated symptoms of diarrhea (Fig. S1D) after irradiation. We further obtained bone marrow cells from the tibiae of the irradiated mice and ultimately isolated B cells, hematopoietic progenitor cells (HPCs) and neutrophils. As expected, ionizing radiation largely decreased the viability of total bone marrow cells and all three cell subsets tested (Fig. 1a). Notably, the irradiation-induced decrease in cell viability was substantially reversed in bone marrow cells isolated from RIOX1 knockout mice compared to those isolated from their wild-type (WT) counterparts (Fig. 1a). Furthermore, we treated the mouse bone marrow myeloid 32D Cl3 cell line, which expresses CD11a and CD11b10 but not the fibroblast marker vimentin or epithelial cell marker E-Cad (Fig. S1E), with 10 Gy ionizing radiation. g Effective DNA repair is important to fix DNA damage.12 Strikingly, knockout of RIOX1 largely eliminated the irradiation- induced DNA fragments in bone marrow cells, as revealed by the shortened tail-like smear in the comet assay (Fig. S1F), suggesting that RIOX1 is likely involved in modulating irradiation-elicited DNA damage. To determine the impact of RIOX1 on HR and NHEJ repair, the endonuclease I-SceI was expressed to generate a DSB site in an exogenously introduced DR-GFP locus. DNA repair through HR removed the I-SceI cut site and generated a BcgI cut site, leading to the expression of DR-GFP; in contrast, NHEJ repair resulted in a 0.65-kb PCR product that was resistant to both I-SceI and BcgI digestion (Fig. INTRODUCTION Exposure to ionizing radiation may cause both acute symptoms and long-term health effects.1 Among mammalian organs, the bone marrow is the most vulnerable to ionizing radiation-induced damage due to the rapid turnover of immature hematopoietic cells. While suppression of mature blood cells is a common consequence in patients who receive radiotherapy, mortality is believed to be caused by the exhaustion of both hematopoietic progenitor cells and primitive hematopoietic stem cells in the bone marrow.2 Ionizing radiation results in various lesions in both genomic and mitochondrial DNA, among which double-strand breaks (DSBs) are arguably the most harmful.3 DSBs are repaired via two main pathways, homologous recombination (HR) and nonhomologous end-joining (NHEJ).4 HR repair of damaged sites involves template-guided DNA extension, which guarantees error-free repair by restoring sequence information from the templates. In contrast, in NHEJ repair, the two broken ends of chromosomes are directly ligated in an error-prone manner.5 y g p Jumonji C domain (JMJD)-containing demethylase family, which includes over 30 members, plays an important role in © The Author(s) 2022 RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. 2 Total bone marrow cells IR IR+ 1.2 0.8 0.4 0 a Cell viability *** Riox1 WT -/- 32D CI3 ** ** IR− IR+ 1.2 0.8 0.4 0 1.2 0.8 0.4 0 Cell viability Riox1 shRNA 1.2 0.8 0.4 0 ** WT -/- 1.2 0.8 0.4 0 ** WT -/- 1.2 0.8 0.4 0 ** WT -/- B cells HPCs Neutrophils b c e d #1 #2 FDC-P1 ** *** #1 #2 32D CI3 *** ** IR− IR+ 30 20 10 0 25 20 15 10 0 5 Cell death/% Cell viability Cell viability Cell viability Riox1 shRNA Riox1 shRNA I-Scel 0.65 kb 0.5 kb #1 #2 FDC-P1 ** ** #1 #2 − Riox1 shRNA #1 Riox1 shRNA #2 32D FDC-P1 CI3 32 24 8 16 0 32 24 8 16 0 GFP-positive cell/% I-Scel + + + + + + *** ** *** *** 32D CI3 FDC-P1 + + + #1 #2 #1 #2 Riox1 shRNA I-Scel + + + #1 #2 #1 #2 PCR product after I-Scel/Bcgl digestion PCR product after I-Scel/Bcgl digestion 0.65 kb 0.5 kb − − − −−− −−− − − − − − − − − − − − − Fig. 1 RIOX1 decreases cell viability and inhibits HR repair in bone marrow cells after ionizing radiation. INTRODUCTION NHEJ repair was examined 1 h after irradiation (e) Total bone marrow cells IR IR+ 1.2 0.8 0.4 0 a Cell viability *** Riox1 WT -/- 1.2 0.8 0.4 0 ** WT -/- 1.2 0.8 0.4 0 ** WT -/- 1.2 0.8 0.4 0 ** WT -/- B cells HPCs Neutrophils Cell viability Cell viability Cell viability − bone w cells *** -/- 1.2 0.8 0.4 0 ** WT -/- 1.2 0.8 0.4 0 ** WT -/- 1.2 0.8 0.4 0 ** WT -/- B cells HPCs Neutrophils Cell viability Cell viability Cell viability Total bone marrow cells IR IR+ 1.2 0.8 0.4 0 a Cell viability *** Riox1 WT -/- − 32D CI3 ** ** IR− IR+ 1.2 0.8 0.4 0 1.2 0.8 0.4 0 Cell viability Riox1 shRNA b #1 #2 FDC-P1 ** *** #1 #2 − − c 32D CI3 *** ** IR− IR+ 30 20 10 0 25 20 15 10 0 5 Cell death/% Riox1 shRNA #1 #2 FDC-P1 ** ** #1 #2 − − b c e Riox1 shRNA I-Scel 0.65 kb 0.5 kb 32D CI3 FDC-P1 + + + #1 #2 #1 #2 Riox1 shRNA I-Scel + + + #1 #2 #1 #2 PCR product after I-Scel/Bcgl digestion PCR product after I-Scel/Bcgl digestion 0.65 kb 0.5 kb − − − − − − − − − − e d Riox1 shRNA I-Scel 0.65 kb 0.5 kb − Riox1 shRNA #1 Riox1 shRNA #2 32D FDC-P1 CI3 32 24 8 16 0 32 24 8 16 0 GFP-positive cell/% I-Scel + + + + + + *** ** *** *** 32D CI3 FDC-P1 + + + #1 #2 #1 #2 Riox1 shRNA I-Scel + + + #1 #2 #1 #2 PCR product after I-Scel/Bcgl digestion PCR product after I-Scel/Bcgl digestion 0.65 kb 0.5 kb −−− −−− − − − − − − − − − − Fi 1 RIOX1 d ll i bilit d i hibit HR i i b ll ft i i i di ti Th d t h th ± SD d − Riox1 shRNA #1 Riox1 shRNA #2 32D FDC-P1 CI3 32 24 8 16 0 32 24 8 16 0 GFP-positive cell/% I-Scel + + + + + + *** ** *** *** −−− −−− e Fig. 1 RIOX1 decreases cell viability and inhibits HR repair in bone marrow cells after ionizing radiation. INTRODUCTION The data are shown as the mean ± SD of three independent assays. **P < 0.01; ***P < 0.001. a WT or Riox1-/- mice were treated with 9 Gy ionizing radiation. The indicated bone marrow cells were isolated 16 h after irradiation, and cell viability was measured. b, c 32D Cl3 and FDC-P1 cells expressing Riox1 shRNAs were treated with 10 Gy ionizing radiation. Cell viability (b) and cell death (c) were evaluated 48 h after irradiation. Cell viability data were normalized to the untreated group. 32D Cl3 and FDC-P1 cells expressing Riox1 shRNAs were transfected with an I-SceI expression vector. HR repair was tested 72 h after transfection (d). NHEJ repair was examined 1 h after irradiation (e) INTRODUCTION The data are shown as the mean ± SD of three independent assays. **P < 0.01; ***P < 0.001. a WT or Riox1-/- mice were treated with 9 Gy ionizing radiation. The indicated bone marrow cells were isolated 16 h after irradiation, and cell viability was measured. b, c 32D Cl3 and FDC-P1 cells expressing Riox1 shRNAs were treated with 10 Gy ionizing radiation. Cell viability (b) and cell death (c) were evaluated 48 h after irradiation. Cell viability data were normalized to the untreated group. 32D Cl3 and FDC-P1 cells expressing Riox1 shRNAs were transfected with an I-SceI expression vector. HR repair was tested 72 h after transfection (d). RESULTS S1G).13 We found that expression of I-SceI induced GFP expression in approximately 5% of 32D Cl3 and FDC- P1 cells, and this GFP expression was appreciably enhanced upon RIOX1 knockdown (Figs. 1d and S1H). The different amounts of Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. 3 H3K36me, did not affect the level of cGAS K491me in 32D Cl3 cells (Fig. S3D), suggesting that these enzymes are not responsible for cGAS K491me demethylation. Immunoblotting showed that this modification was abolished by incubation with an excess of the cGAS K491me peptide, suggesting the good specificity of the anti- cGAS K491me antibody (Fig. S3E). Consistent with this finding, overexpression of RIOX1 or the cGAS K491R mutant abrogated this modification (Figs. 2g and h). However, ionizing radiation had minor effects on the level of cGAS K491me in both RIOX1- expressing and RIOX1-depleted cells (Fig. S3F). H3K36me, did not affect the level of cGAS K491me in 32D Cl3 cells (Fig. S3D), suggesting that these enzymes are not responsible for cGAS K491me demethylation. Immunoblotting showed that this modification was abolished by incubation with an excess of the cGAS K491me peptide, suggesting the good specificity of the anti- cGAS K491me antibody (Fig. S3E). Consistent with this finding, overexpression of RIOX1 or the cGAS K491R mutant abrogated this modification (Figs. 2g and h). However, ionizing radiation had minor effects on the level of cGAS K491me in both RIOX1- expressing and RIOX1-depleted cells (Fig. S3F). GFP-expressing cells were presumed to reflect the different HR repair efficiencies, since a similar I-SceI cleavage efficiency was detected in Riox1 shRNA-treated and untreated cells before DNA repair was initiated (Fig. S1I). However, loss of RIOX1 minimally affected NHEJ repair, as revealed by the comparable amounts of the 0.65-kb PCR product (Fig. 1e). These results suggest that RIOX1 decreases cell viability and inhibits HR repair in bone marrow cells after ionizing radiation. GFP-expressing cells were presumed to reflect the different HR repair efficiencies, since a similar I-SceI cleavage efficiency was detected in Riox1 shRNA-treated and untreated cells before DNA repair was initiated (Fig. S1I). However, loss of RIOX1 minimally affected NHEJ repair, as revealed by the comparable amounts of the 0.65-kb PCR product (Fig. 1e). These results suggest that RIOX1 decreases cell viability and inhibits HR repair in bone marrow cells after ionizing radiation. RESULTS RIOX1 binds to cGAS and demethylates cGAS K491me To explore the mechanisms underlying the RIOX1-mediated repression of HR repair, we depleted RIOX1 activity in 32D Cl3 cells by replacing endogenous WT RIOX1 with the shRNA-resistant Flag-RIOX1 H302 A/H367A mutant (corresponding to human RIOX1 H339A/H404A), which lacks lysine demethylase activity (Fig. S2A).9 Loss of RIOX1 activity induced an increase in HR repair efficiency similar to that caused by RIOX1 knockdown (Fig. S2A), suggesting that demethylase activity is required for RIOX1- mediated repression of HR repair. Surprisingly, reconstitution of RIOX1 expression with this mutant only evoked limited accumula- tion of H3K4me, H3K4me3 and H3K36me3 (Fig. S2B), which might be interpreted in the context of previous reports showing that methylation of these sites can also be removed by a couple of other lysine demethylases.14 Furthermore, human histone H3 is encoded by several genes and expressed as multiple variants, which are highly conserved with only a few nonconserved residues.15 In line with previous reports,16,17 targeting H3.3B mRNA (gene symbol: H3f3b) reduced total H3 expression by approximately 80% in 32D Cl3 cells, as revealed by analysis with an antibody that recognizes all H3 variants, suggesting that H3.3B is the major histone H3 isoform (Fig. S2C). Strikingly, reconstitution of H3.3B expression with the shRNA-resistant H3.3B K4R or K36R mutant failed to abolish the increased HR repair in RIOX1-depleted 32D Cl3 cells (Fig. S2C). Together, these results suggest that a nonhistone substrate is likely involved in RIOX1-mediated regula- tion of HR repair. To verify whether RIOX1 directly catalyzes the demethylation of cGAS K491me, Flag-cGAS protein was purified from RIOX1- depleted 32D Cl3 cells and was then subjected to an in vitro demethylation assay. The K491me modification was clearly detected in the purified cGAS protein (Fig. 2i). Moreover, incubation with bacterially purified WT RIOX1 protein but not the purified RIOX1 H302A/H367A mutant or the RIOX2 protein resulted in erasure of cGAS K491me (Fig. 2i). These results suggest that RIOX1 binds to and demethylates cGAS K491me. RIOX1 overrides SET7-mediated methylation and governs cGAS K491me We sought to identify the potential methyltransferases respon- sible for cGAS K491me by screening a set of reported enzymes. Knockdown of only SET domain-containing lysine methyltransfer- ase 7 (SET7) reduced the cellular level of cGAS K491me (Fig. 3a). This observation was confirmed by treating 32D Cl3 and FDC-P1 cells with two distinct Set7 shRNAs (Fig. 3b). RESULTS SET7 protein was found in the cGAS immunoprecipitates, indicating the interaction between endogenous SET7 and cGAS (Fig. 3c). Furthermore, an in vitro protein methylation assay revealed that incubation with bacterially purified His-SET7 protein induced K491me of GST- cGAS, while this methylation was blocked when the methylatable lysine-substituted cGAS K491R mutant or the catalytically dead SET7 H297A mutant was used in the reaction system (Fig. 3d, e). These results suggest that SET7 methylates cGAS at K491. gg y To determine how RIOX1 and SET7 mutually regulate cGAS K491me in cells, we compared the level of cGAS K491me and the expression of RIOX1 and SET7 among various mouse organs. We found that, compared to other organs, the bone marrow showed an increased expression level of RIOX1 and a reduced level of cGAS K491me (Fig. 3f). However, SET7 was ubiquitously expressed in different organs, with minor changes (Fig. 3f). Consistent with this finding, RIOX1 expression was enriched in 32D Cl3 cells, FDC- P1 cells and mouse bone marrow-derived B cells and neutrophils with a decreased level of cGAS K491me; in contrast, lower RIOX1 expression level and a correspondingly increased cGAS K491me level were found in the normal mouse liver cell line AML12, lung epithelial cell line MLE 12, myoblast line C2C12 and fibroblast line NIH/3T3 (Fig. 3g). These results suggest that RIOX1 expression governs the level of cGAS K491me. p Next, we pulled down Flag-tagged RIOX1 protein from 32D Cl3 cells, and cGAS was detected in the RIOX1 immunoprecipitates by mass spectrometry (Fig. S3A). cGAS was previously found to translocate into the nucleus upon ionizing radiation and block HR repair.18 The interaction between endogenous RIOX1 and cGAS was confirmed by coimmunoprecipitation in both 32D Cl3 and FDC-P1 cells (Fig. 2a). An in vitro protein binding assay showed that bacterially purified cGAS protein could be pulled down by purified GST-RIOX1 protein, suggesting that these two proteins directly interact with each other (Fig. 2b). However, no interaction between cGAS and RIOX2, which shares 40% homology with RIOX1, was detected (Fig. 2a). Furthermore, reconstitution of cGAS expression with the cGAS Y201E mutant (corresponding to human cGAS Y215E), which is resistant to ionizing radiation-induced transloca- tion into the nucleus,18 enhanced HR repair in 32D Cl3 cells, and HR repair could not be further increased by RIOX1 knockdown (Fig. 2c). In contrast, overexpression of cGAS substantially reduced RIOX1 depletion-induced HR repair (Fig. 2d). RESULTS The data are shown as the mean ± SD of three independent assays. **P < 0.01. e 32D and FDC-P1 cells were transduced with Riox1 shRNAs. f 32D Cl3 cells were transduced with Riox1 shRNA, WT Flag-Riox1 or Flag-Riox1 H30 H367A. The Riox1 shRNA targeted the noncoding region. g 32D Cl3 and FDC-P1 cells were transduced with a Riox1 overexpression vec h 32D Cl3 cells were transfected with Riox1 shRNA, WT Flag-Cgas, or Flag-Cgas K491R. Immunoprecipitation was performed. i Flag-cG protein was purified from Riox1-depleted 32D Cl3 cells and incubated with bacterially purified WT His-RIOX1, His-RIOX1 H302A/H367A, or His-RIOX2 protein for an in vitro demethylation assay RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. RESULTS RIOX1-mediated demethylation of cGAS K491me facilitates cGAS binding to PARP1 g To determine whether RIOX1 affects the methylation status of cGAS, we analyzed cGAS protein extracted from RIOX1-depleted 32D Cl3 cells and identified monomethylation of cGAS K491, which is evolutionarily conserved among species (corresponding to human cGAS K506, Fig. S3B). Additionally, the residues adjacent to K491 are analogous to those adjacent to H3K4 or and H3K36 (Fig. S3B). To quantify this methylation, we produced an antibody that specifically recognizes the mouse cGAS K491me peptide but not the unmodified K491, K491me2 or K491me3 peptide (Fig. S3C). By using this antibody, we found that cGAS K491me highly accumulated in cells with depletion of RIOX1 expression or activity (Fig. 2e and f), although the expression level of endogenous cGAS was unchanged (Fig. 2e and f). In contrast, knockdown of JMJD1A, JMJD1B, or LSD1, all of which are capable of removing H3K4me or cGAS recognizes double-stranded DNA, including endogenous genomic DNA fragments, to activate innate immune responses.19 However, loss of RIOX1 has limited impact on ionizing radiation- induced phosphorylation of TANK-binding kinase 1 (TBK1) at S172 (Fig. S4A), a hallmark of cGAS activation20. This finding was further supported by the observation that herring testis (HT)-DNA equally elicited the catalytic activity of purified cGAS protein with or without SET7-mediated K491me (Fig. S4B). Furthermore, the cellular fractionation assay showed a similar subcellular distribu- tion of cGAS in untreated and Riox1 shRNA-treated cells (Fig. S4C), suggesting that RIOX1 does not regulate the cytoplasmic-nuclear shuttling of cGAS. Ionizing radiation-induced nuclear cGAS interacts with PARP1 by binding with poly(ADP ribose) (PAR) chains and hinders Bone Research (2022) 10:19 PARP1-mediated recruitment of Timeless, thereby inhibiting HR repair. PAR can bind to proteins through a two-section motif that contains a basic amino acid-enriched N-terminus and a cluster of hydrophobic amino acids interspersed with basic residues at the C-terminus.21 Analyses of the cGAS protein seque revealed four potential PAR binding sites: 238KFKRIPRGNPLSHFL 265KFRKIIKEEVKEIKDI280, 391KCCRKECLKLMKYLL405 483RKSKEFLSKKIEYER497. RESULTS Replacement of the basic residues in 32D Cl3 FDC-P1 lgG lgG a b c e f i h g d IP: cGAS WB: RIOX2 WB: RIOX1 WB: cGAS WB: RIOX1 WB: RIOX2 WB: Tubulin WCL pcDNA3-Cgas Riox1 shRNA I-Scel + + + + + + + WB: cGAS WB: RIOX1 WB: Tubulin cGAS lgG GST-RIOX1 GST His-cGAS + + + + + GST pulldown Input WB: cGAS WB: GST (RIOX1) WB: cGAS Flag-Cgas Cgas shRNA Riox1 shRNA I-Scel WT Y201E + + + + + + + + WB: cGAS WB: RIOX1 WB: Tubulin Exo Endo 40 30 10 20 0 GFP-positive cell/% GFP-positive cell/% ns ns I-Scel Riox1 shRNA Cgas shRNA Flag-Cgas + + + + + + + + WT Y201E 30 20 10 0 ** I-Scel Riox1 shRNA pcDNA3-Cgas + + + + + + + Riox1 shRNA 32D CI3 FDC-P1 #1 #2 #1 #2 WB: cGAS K491me WB: cGAS WB: RIOX1 WB: Tubulin WB: cGAS K491me WB: cGAS WB: RIOX1 WB: Tubulin WB: cGAS K491me WB: Flag (cGAS) WB: RIOX1 WB: Tubulin WB: cGAS K491me WB: cGAS WB: RIOX1 WB: Tubulin Flag-Riox1 Riox1 shRNA + + + Exo Endo WT H302A/H367A WB: cGAS K491me WB: Flag (cGAS) WB: cGAS K491me WB: Flag (cGAS) WB: RIOX1 WB: RIOX2 His-RIOX1 His-RIOX2 Flag-cGAS + + + + + WT H302A/H367A 32D CI3 FDC-P1 pcDNA3- Riox1 + + Flag-Cgas Riox1 shRNA IP: Flag WCL WT K491R + + Input IP: Flag after in vitro demethylation IP: Flag before in vitro demethylation − − − − − − − − − − − − − − − − − − − − − − − − − − − − Fig. 2 RIOX1 binds to and demethylates cGAS K491me. a–i Immunoblot analysis was performed. a Coimmunoprecipitation was perform using 32D Cl3 and FDC-P1 cell samples. b Bacterially purified GST-RIOX1 or GST protein was mixed with purified His-cGAS protein. A pulldown assay was performed. c 32D Cl3 cells expressing Riox1 shRNA, Cgas shRNA, WT Flag-Cgas, or Flag-Cgas Y201E were transfected w an I-SceI expression vector. HR pathway activity was measured. The Cgas shRNA targeted the noncoding region. The data are shown as mean ± SD of three independent assays. ns, not significant. d 32D Cl3 cells expressing Riox1 shRNA or Cgas were transfected with an I- expression vector. HR pathway activity was measured. RESULTS 4 32D Cl3 FDC-P1 lgG lgG a IP: cGAS WB: RIOX2 WB: RIOX1 WB: cGAS WB: RIOX1 WB: RIOX2 WB: Tubulin WCL cGAS lgG b GST-RIOX1 GST His-cGAS + + + + + GST pulldown Input WB: cGAS WB: GST (RIOX1) WB: cGAS − − − − c Flag-Cgas Cgas shRNA Riox1 shRNA I-Scel WT Y201E + + + + + + + + WB: cGAS WB: RIOX1 WB: Tubulin Exo Endo 40 30 10 20 0 GFP-positive cell/% ns ns I-Scel Riox1 shRNA Cgas shRNA Flag-Cgas + + + + + + + + WT Y201E − − − − a c Flag-Cgas Cgas shRNA Riox1 shRNA I-Scel WT Y201E + + + + + + + + WB: cGAS WB: RIOX1 WB: Tubulin Exo Endo R C − − b c o 40 30 10 20 0 GFP-positive cell/% ns ns I-Scel Riox1 shRNA Cgas shRNA Flag-Cgas + + + + + + + + WT Y201E − − f WB: cGAS K491me WB: cGAS WB: RIOX1 WB: Tubulin Flag-Riox1 Riox1 shRNA + + + Exo Endo WT H302A/H367A − − − e Riox1 shRNA 32D CI3 FDC-P1 #1 #2 #1 #2 WB: cGAS K491me WB: cGAS WB: RIOX1 WB: Tubulin − − e f d WB: Tubulin pcDNA3-Cgas Riox1 shRNA I-Scel + + + + + + + WB: cGAS WB: RIOX1 WB: Tubulin GFP-positive cell/% 30 20 10 0 ** I-Scel Riox1 shRNA pcDNA3-Cgas + + + + + + + Riox1 shRNA 32D CI3 FDC-P1 #1 #2 #1 #2 WB: cGAS K491me WB: cGAS WB: RIOX1 WB: Tubulin Flag-R Riox1 sh − − − − − − − − f f d e i WB: cGAS K491me WB: Flag (cGAS) WB: cGAS K491me WB: Flag (cGAS) WB: RIOX1 WB: RIOX2 His-RIOX1 His-RIOX2 Flag-cGAS + + + + + WT H302A/H367A Input IP: Flag after in vitro demethylation IP: Flag before in vitro demethylation − − − − − h WB: cGAS K491me WB: Flag (cGAS) WB: RIOX1 WB: Tubulin Flag-Cgas Riox1 shRNA IP: Flag WCL WT K491R + + − − g WB: cGAS K491me WB: cGAS WB: RIOX1 WB: Tubulin 32D CI3 FDC-P1 pcDNA3- Riox1 + + − − i g h WB: RIOX2 WB: RIOX2 Fig. 2 RIOX1 binds to and demethylates cGAS K491me. a–i Immunoblot analysis was performed. a Coimmunoprecipitation was performed using 32D Cl3 and FDC-P1 cell samples. RESULTS b Bacterially purified GST-RIOX1 or GST protein was mixed with purified His-cGAS protein. A GST pulldown assay was performed. c 32D Cl3 cells expressing Riox1 shRNA, Cgas shRNA, WT Flag-Cgas, or Flag-Cgas Y201E were transfected with an I-SceI expression vector. HR pathway activity was measured. The Cgas shRNA targeted the noncoding region. The data are shown as the mean ± SD of three independent assays. ns, not significant. d 32D Cl3 cells expressing Riox1 shRNA or Cgas were transfected with an I-SceI expression vector. HR pathway activity was measured. The data are shown as the mean ± SD of three independent assays. **P < 0.01. e 32D Cl3 and FDC-P1 cells were transduced with Riox1 shRNAs. f 32D Cl3 cells were transduced with Riox1 shRNA, WT Flag-Riox1 or Flag-Riox1 H302A/ H367A. The Riox1 shRNA targeted the noncoding region. g 32D Cl3 and FDC-P1 cells were transduced with a Riox1 overexpression vector. h 32D Cl3 cells were transfected with Riox1 shRNA, WT Flag-Cgas, or Flag-Cgas K491R. Immunoprecipitation was performed. i Flag-cGAS protein was purified from Riox1-depleted 32D Cl3 cells and incubated with bacterially purified WT His-RIOX1, His-RIOX1 H302A/H367A, or WT His-RIOX2 protein for an in vitro demethylation assay Fig. 2 RIOX1 binds to and demethylates cGAS K491me. a–i Immunoblot analysis was performed. a Coimmunoprecipitation was performed using 32D Cl3 and FDC-P1 cell samples. b Bacterially purified GST-RIOX1 or GST protein was mixed with purified His-cGAS protein. A GST pulldown assay was performed. c 32D Cl3 cells expressing Riox1 shRNA, Cgas shRNA, WT Flag-Cgas, or Flag-Cgas Y201E were transfected with an I-SceI expression vector. HR pathway activity was measured. The Cgas shRNA targeted the noncoding region. The data are shown as the mean ± SD of three independent assays. ns, not significant. d 32D Cl3 cells expressing Riox1 shRNA or Cgas were transfected with an I-SceI expression vector. HR pathway activity was measured. The data are shown as the mean ± SD of three independent assays. **P < 0.01. e 32D Cl3 and FDC-P1 cells were transduced with Riox1 shRNAs. f 32D Cl3 cells were transduced with Riox1 shRNA, WT Flag-Riox1 or Flag-Riox1 H302A/ H367A. The Riox1 shRNA targeted the noncoding region. g 32D Cl3 and FDC-P1 cells were transduced with a Riox1 overexpression vector. h 32D Cl3 cells were transfected with Riox1 shRNA, WT Flag-Cgas, or Flag-Cgas K491R. Immunoprecipitation was performed. RESULTS i Flag-cGAS protein was purified from Riox1-depleted 32D Cl3 cells and incubated with bacterially purified WT His-RIOX1, His-RIOX1 H302A/H367A, or WT His-RIOX2 protein for an in vitro demethylation assay PARP1-mediated recruitment of Timeless, thereby inhibiting HR repair. PAR can bind to proteins through a two-section motif that contains a basic amino acid-enriched N-terminus and a cluster of hydrophobic amino acids interspersed with basic residues at the C-terminus.21 Analyses of the cGAS protein sequence revealed four potential PAR binding sites: 238KFKRIPRGNPLSHFL252, 265KFRKIIKEEVKEIKDI280, 391KCCRKECLKLMKYLL405 and 483RKSKEFLSKKIEYER497. Replacement of the basic residues in the Bone Research (2022) 10:19 Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. 5 b c WB: cGAS K491me WB: cGAS WB: SET7 WB: Tubulin 32D CI3 FDC-P1 32D CI3 FDC-P1 Set7 shRNA #1 #2 #1 #2 IP: cGAS WCL lgG lgG WB: cGAS WB: SET7 WB: SET7 WB: cGAS WB: Tubulin cGAS lgG − − shRNA a d e f g b c Set7 Ash1l Mll1 Mll2 Mll3 − − WB: cGAS K491me WB: cGAS WB: SET7 WB: ASH1L WB: MLL1 WB: MLL2 WB: MLL3 WB: Tubulin Set1a Set1b Nsd1 Nsd2 Smyd2 WB: cGAS K491me WB: cGAS K491me WB: cGAS WB: cGAS WB: SET7 WB: Tubulin WB: SET1A WB: SET1B WB: NSD1 WB: NSD2 WB: SMYD2 WB: Tubulin 32D CI3 FDC-P1 32D CI3 FDC-P1 Set7 shRNA #1 #2 #1 #2 IP: cGAS WCL lgG lgG WB: cGAS WB: SET7 WB: SET7 WB: cGAS WB: Tubulin cGAS lgG GST-cGAS His-SET7 GST pulldown Input WT K491R + + WB: cGAS K491me WB: cGAS WB: cGAS WB: SET7 WB: cGAS K491me WB: cGAS WB: cGAS WB: SET7 WB: cGAS K491me WB: cGAS WB: RIOX1 WB: SET7 WB: Tubulin WB: cGAS K491me WB: cGAS WB: RIOX1 WB: SET7 WB: Tubulin His-SET7 GST-cGAS GST pulldown Input + + + WT H297A IP: cGAS WCL IP: cGAS WCL bone marrow thyroid liver intestine lung stomach muscle kidney B cells Neutrophils 32D Cl3 FDC-P1 AML12 MLE 12 C2C12 NIH/3T3 − − − − − Fig. 3 RIOX1 overrides SET7-mediated methylation and governs cGAS K491me. a–g Immunoblot analysis was performed. a 32D Cl3 cells were transduced with shRNA targeting Set7, Ash1I, MII1, MII2, MII3, Set1a, Set1b, Nsd1, Nsd2, or Smyd2. b 32D Cl3 and FDC-P1 cells were transduced with Set7 shRNAs. c Coimmunoprecipitation was performed using 32D Cl3 and FDC-P1 cell samples. RESULTS f, g Immunoprecipitation was performed using lysates of the indicated mouse tissues or cells C-termini of these motifs with alanines revealed that only the mutations in the 483–497 aa region reduced the amount of cGAS pulled down by biotin-labeled PAR (Fig. 4a). Furthermore, the 483–497 aa region (corresponding to the 498–512 aa region in humans) did not overlap with the DNA binding region or the catalytic domain of cGAS (Fig. 4b), in line with the observation that the activity of K491-methylated cGAS was inducible by HT-DNA (Fig. S4B). cGAS K491R mutant (Fig. 4g−i). Accordingly, the cGAS K491R mutation also abolished the reinforcement of HR repair in RIOX1- depleted cells (Fig. 4j). These results suggest that RIOX1-mediated demethylation of cGAS K491me facilitates cGAS binding to PAR and impedes HR repair. SGF29 binds to K491me-bearing cGAS and prevents cGAS from binding to PAR SGF29 binds to K491me-bearing cGAS and prevents cGAS from binding to PAR y y ( g ) cGAS K491 is located within the 483–497 aa region, leading to the hypothesis that RIOX1-mediated cGAS K491me may affect cGAS binding with PAR. We performed an in vitro biotin-PAR pulldown assay using the lysates of untreated or RIOX1-depleted 32D Cl3 cells that contained equal amounts of cGAS protein. Indeed, equal amounts of biotin-PAR pulled down much less cGAS protein from the lysates of RIOX1-depleted 32D Cl3 cells than from those of untreated 32D Cl3 cells (Fig. 4c), suggesting that RIOX1 facilitates the interaction between cGAS and PAR. A similar result was obtained in the comparison between AML12 and 32D Cl3 cells, which have different endogenous RIOX1 expression and cGAS K491me levels (Figs. 3g and 4c). Furthermore, loss of RIOX1 reduced the amount of cGAS that was either associated with PARP1 in irradiated 32D Cl3 cells or recruited to I-Scel-induced DNA break sites (Figs. 4d, e and S4D). RIOX1 knockdown also promoted the irradiation-elicited translocation of Timeless to DNA break sites and the formation of the PARP1/Timeless complex (Fig. 4e, f). However, these Riox1 shRNA-mediated effects were largely obliterated by reconstitution of cGAS expression with the Lysine methylation frequently modulates protein functions via modulating the recruitment of binding partners.22 We found that SET7-mediated K491me on the bacterially purified cGAS protein failed to disrupt the interaction between cGAS and PAR, suggesting that other factors are likely involved in this process (Fig. 5a). RESULTS d Purified WT GST-cGAS or GST-cGAS K491R protein was incubated with purified His-SET7 protein for an in vitro methylation assay. A GST pulldown assay was performed. e Purified GST-cGAS protein was incubated with purified WT His-SET7 or His-SET7 H297A protein for an in vitro methylation assay. A GST pulldown assay was performed. f, g Immunoprecipitation was performed using lysates of the indicated mouse tissues or cells b WB: cGAS K491me WB: cGAS WB: SET7 WB: Tubulin 32D CI3 FDC-P1 Set7 shRNA #1 #2 #1 #2 − − c 32D CI3 FDC-P1 IP: cGAS WCL lgG lgG WB: cGAS WB: SET7 WB: SET7 WB: cGAS WB: Tubulin cGAS lgG c shRNA a Set7 Ash1l Mll1 Mll2 Mll3 − − WB: cGAS K491me WB: cGAS WB: SET7 WB: ASH1L WB: MLL1 WB: MLL2 WB: MLL3 WB: Tubulin Set1a Set1b Nsd1 Nsd2 Smyd2 WB: cGAS K491me WB: cGAS WB: SET1A WB: SET1B WB: NSD1 WB: NSD2 WB: SMYD2 WB: Tubulin b a IP: cGAS f g WB: cGAS K491me WB: cGAS WB: RIOX1 WB: SET7 WB: Tubulin IP: cGAS WCL IP bone marrow thyroid liver intestine lung stomach muscle kidney g WB: cGAS K491me WB: cGAS WB: RIOX1 WB: SET7 WB: Tubulin IP: cGAS WCL B cells Neutrophils 32D Cl3 FDC-P1 AML12 MLE 12 C2C12 NIH/3T3 e WB: Tubulin WB: cGAS K491me WB: cGAS WB: cGAS WB: SET7 His-SET7 GST-cGAS GST pulldown Input + + + WT H297A − f g d GST-cGAS His-SET7 GST pulldown Input WT K491R + + WB: cGAS K491me WB: cGAS WB: cGAS WB: SET7 − − d e WB: Tubulin Fig. 3 RIOX1 overrides SET7-mediated methylation and governs cGAS K491me. a–g Immunoblot analysis was performed. a 32D Cl3 cells were transduced with shRNA targeting Set7, Ash1I, MII1, MII2, MII3, Set1a, Set1b, Nsd1, Nsd2, or Smyd2. b 32D Cl3 and FDC-P1 cells were transduced with Set7 shRNAs. c Coimmunoprecipitation was performed using 32D Cl3 and FDC-P1 cell samples. d Purified WT GST-cGAS or GST-cGAS K491R protein was incubated with purified His-SET7 protein for an in vitro methylation assay. A GST pulldown assay was performed. e Purified GST-cGAS protein was incubated with purified WT His-SET7 or His-SET7 H297A protein for an in vitro methylation assay. A GST pulldown assay was performed. RESULTS 6 6 /R497A b DNA binding site DNA 120o WB: PARP1 WB: Flag (cGAS) WB: PARP1 WB: RIOX1 WB: H2A.X WB: H2A.X WB: cGAS K491me Flag-Cgas Riox1 shRNA IR WCL + + #1 #2 IP: Flag d + − − − + − His-cGAS Biotin Biotin-PAR Streptavidin pulldown Input WB: cGAS WB: cGAS WT WT R244A/H250A K275A/K278A K399A/K402A K491A/K492A/R49 + + + + + + −−−−− − a R497A b DNA binding site DNA 120o Catalytic site 60o ATP a hK506 (mK491) Putative PAR binding site Catalytic site DNA binding site DNA binding site WB: PARP1 WB: Flag (cGAS) WB: PARP1 WB: RIOX1 WB: H2A.X WB: H2A.X WB: Tubulin WB: cGAS K491me Flag-Cgas Riox1 shRNA IR WCL + + #1 #2 IP: Flag d + − − − + − c Biotin Biotin- PAR + + Riox1 shRNA Streptavidin pulldown WB: cGAS WB: cGAS WB: cGAS K491me Input Biotin Biotin- PAR + + + + 32D CI3 lysate AML12 lysate Streptavidin pulldown WB: cGAS WB: cGAS WB: cGAS K491me Input − − − − − − Riox1 shRNA I-Scel #1 #2 DSB primer Control primer Input lgG H2A.X cGAS Input lgG H2A.X cGAS Timeless Timeless e + + − − − + − WB: PARP1 WB: PARP1 WB: cGAS K491me WB: cGAS WB: RIOX1 WB: Tubulin WB: His (Timeless) His-Timeless Riox1 shRNA + #1 #2 pulldown WCL IR Ni-NTA f + + − − − + − f e c d WB: H2A.X WB: H2A.X WB: PARP1 WB: Tubulin + + Flag-Cgas Riox1 shRNA IR WB: PARP1 WB: Flag (cGAS) WB: cGAS K491me IP: Flag WB: RIOX1 WCL DSB prime Contro prime WT K491R R C g h + + − − − − + − + − IP: Flag His-Timeless Riox1 shRNA + + + + + IR pulldown WCL Ni-NTA WB: RIOX1 WB: PARP1 WB: cGAS WB: Tubulin Flag-Cgas WB: PARP1 WB: cGAS K491me WB: His (Timeless) WB: Flag (cGAS) WT K491R Cgas shRNA Riox1 shRNA Flag-Cgas Cgas shRNA Exo Endo 30 20 10 0 GFP-positive cell/% *** *** I-Scel WT K491R i j + + + + − − − − + − + − + + + + − − − − + − + − WB: Tubulin DSB primer Control primer Input lgG H2A.X Input lgG H2A.X Timeless Timeless + + Flag-Cgas Riox1 shRNA I-Scel WT K491R Cgas shRNA Flag (cGAS) Flag (cGAS) h + + + + − − − − + − + − i h g + + Riox1 shRNA Flag-Cgas Cgas shRNA o 30 20 10 0 GFP-positive cell/% *** *** I-Scel WT K491R j + + + + − − − − + − + − j WB: Tubulin Fig. RESULTS SGF29, a methyllysine reader protein that can recognize methylated H3K4,23 was found when we revisited the aforemen- tioned proteomic analyses to search for cGAS-associated proteins (Fig. S3A). Loss of RIOX1 increased cGAS K491me and accordingly promoted the interaction of endogenous SGF29 with cGAS in both 32D Cl3 and FDC-P1 cells (Fig. 5b). However, the interaction between these two proteins was abrogated by the cGAS K491R mutation (Fig. 5c) and the SGF29 D194A/D196A mutation, which conferred defective binding to methylated H3K4 (Fig. 5d).24 g y g Since cGAS K491 is located within the PAR-binding motif, we reasoned that SGF29 may mask this motif when associated with cGAS, thereby preventing cGAS from binding to PAR. As expected, preincubation with purified His-SGF29 protein markedly abolished Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. RESULTS the biotin-PAR-mediated pulldown of purified K491me-bearing the formation of the PARP1/Timeless complex, blocked th His-cGAS Biotin Biotin-PAR Streptavidin pulldown Input WB: cGAS WB: cGAS WT WT R244A/H250A K275A/K278A K399A/K402A K491A/K492A/R497A + + + + + + −−−−− − a c b DNA binding site Catalytic site DNA 120o 60o ATP hK506 (mK491) Putative PAR binding site Biotin Biotin- PAR + + Riox1 shRNA Streptavidin pulldown WB: cGAS WB: cGAS WB: cGAS K491me WB: PARP1 WB: Flag (cGAS) WB: PARP1 WB: RIOX1 WB: H2A.X WB: H2A.X WB: Tubulin WB: H2A.X WB: H2A.X WB: PARP1 WB: Tubulin WB: cGAS K491me WB: PARP1 WB: PARP1 WB: cGAS K491me WB: cGAS WB: RIOX1 WB: Tubulin WB: His (Timeless) Input Biotin Biotin- PAR + + + + 32D CI3 lysate AML12 lysate Streptavidin pulldown WB: cGAS WB: cGAS WB: cGAS K491me Input + + Flag-Cgas Riox1 shRNA IR WB: PARP1 WB: Flag (cGAS) WB: cGAS K491me IP: Flag IP: Flag WB: RIOX1 WCL Flag-Cgas Riox1 shRNA IR WCL + + #1 #2 Riox1 shRNA I-Scel #1 #2 IP: Flag DSB primer Control primer Input lgG H2A.X cGAS Input lgG H2A.X cGAS Timeless Timeless DSB primer Control primer Input lgG H2A.X Input lgG H2A.X Timeless Timeless His-Timeless Riox1 shRNA + #1 #2 pulldown WCL IR His-Timeless Riox1 shRNA + + + + + IR Ni-NTA pulldown WCL Ni-NTA WT K491R WB: RIOX1 WB: PARP1 WB: cGAS WB: Tubulin + + Flag-Cgas Flag-Cgas Riox1 shRNA I-Scel WB: PARP1 WB: cGAS K491me WB: His (Timeless) WB: Flag (cGAS) WT K491R WT K491R Cgas shRNA Cgas shRNA Riox1 shRNA Flag-Cgas Cgas shRNA Flag (cGAS) Flag (cGAS) Exo Endo 30 20 10 0 GFP-positive cell/% *** *** I-Scel WT K491R d e f g h i j − − − − − − + − − − + − + + − − − + − + + − − − + − + + − − − − + − + − + + + + − − − − + − + − + + + + − − − − + − + − + + + + − − − − + − + − Fig. 4 RIOX1-mediated demethylation of cGAS K491me facilitates cGAS binding to PAR. RESULTS 4 RIOX1-mediated demethylation of cGAS K491me facilitates cGAS binding to PAR. a–d, f, g, i Immunoblot analysis was performed. a Equal amounts of biotin-PAR were incubated with bacterially purified WT His-cGAS or the indicated mutant protein, and a streptavidin pulldown assay was performed. b The DNA binding site, catalytic domain and putative PAR binding motif in the human cGAS structure (PDB ID: 6CTA) are shown. The basic and hydrophobic residues in the putative PAR binding motif are shown in yellow. c Equal amounts of biotin- PAR were incubated with lysates of untreated or Riox1-depleted 32D Cl3 cells (upper panel). Equal amounts of biotin-PAR were incubated with lysates of AML12 or 32D Cl3 cells (bottom panel). The cell lysate input was used for normalization of the cGAS expression level. A streptavidin pulldown assay was performed. d 32D Cl3 cells expressing Riox1 shRNA or Flag-Cgas were treated with 10 Gy ionizing radiation. Immunoprecipitation was performed. The immunoprecipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. e 32D Cl3 cells expressing Riox1 shRNA were transfected with an I-SceI expression vector. ChIP-PCR was performed. f 32D Cl3 cells expressing Riox1 shRNA or His-Timeless were treated with 10 Gy ionizing radiation. A Ni-NTA pulldown assay was performed. The precipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. g 32D Cl3 cells expressing Riox1 shRNA, WT Flag-Cgas or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Immunoprecipitation was performed. The immunoprecipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. 32D Cl3 cells expressing Riox1 shRNA, WT Flag-Cgas or Flag-Cgas K491R were transfected with an I-SceI expression vector. ChIP-PCR was performed 30 h after transfection h. HR pathway activity was measured 72 h after transfection j. The data are shown as the mean ± SD of three independent assays. ***P < 0.001. i 32D Cl3 cells expressing Riox1 shRNA, WT Flag-Cgas, Flag-Cgas K491R, or His-Timeless were treated with 10 Gy ionizing radiation. A Ni-NTA pulldown assay and immunoprecipitation were performed. The immunoprecipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis the formation of the PARP1/Timeless complex, blocked the recruitment of Timeless to DNA break sites, and limited HR repair to a low level even in RIOX1-depleted cells (Fig. 5f-h). RESULTS a–d, f, g, i Immunoblot analysis was performe a Equal amounts of biotin-PAR were incubated with bacterially purified WT His-cGAS or the indicated mutant protein, and a streptavid pulldown assay was performed. b The DNA binding site, catalytic domain and putative PAR binding motif in the human cGAS structure (PD ID: 6CTA) are shown. The basic and hydrophobic residues in the putative PAR binding motif are shown in yellow. c Equal amounts of bioti PAR were incubated with lysates of untreated or Riox1-depleted 32D Cl3 cells (upper panel). Equal amounts of biotin-PAR were incubated wit lysates of AML12 or 32D Cl3 cells (bottom panel). The cell lysate input was used for normalization of the cGAS expression level. A streptavid pulldown assay was performed. d 32D Cl3 cells expressing Riox1 shRNA or Flag-Cgas were treated with 10 Gy ionizing radiatio Immunoprecipitation was performed. The immunoprecipitates were treated with an excess of purified PARG protein before being subjecte to immunoblot analysis. e 32D Cl3 cells expressing Riox1 shRNA were transfected with an I-SceI expression vector. ChIP-PCR was performe f 32D Cl3 cells expressing Riox1 shRNA or His-Timeless were treated with 10 Gy ionizing radiation. A Ni-NTA pulldown assay was performed. Th precipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. g 32D Cl3 cells expressin Riox1 shRNA, WT Flag-Cgas or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Immunoprecipitation was performed. Th immunoprecipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. 32D Cl3 ce expressing Riox1 shRNA, WT Flag-Cgas or Flag-Cgas K491R were transfected with an I-SceI expression vector. ChIP-PCR was performed 30 after transfection h. HR pathway activity was measured 72 h after transfection j. The data are shown as the mean ± SD of three independen assays. ***P < 0.001. i 32D Cl3 cells expressing Riox1 shRNA, WT Flag-Cgas, Flag-Cgas K491R, or His-Timeless were treated with 10 Gy ionizin radiation. A Ni-NTA pulldown assay and immunoprecipitation were performed. The immunoprecipitates were treated with an excess purified PARG protein before being subjected to immunoblot analysis Y Xiao et al. RESULTS a cGAS protein was incubated with purified His-SET7 protein for an in vitro methylation assay and was then incubated with a nt of biotin-PAR. A streptavidin pulldown assay was performed. b 32D Cl3 and FDC-P1 cells were transduced with Riox1 s munoprecipitation was performed using 32D Cl3 and FDC-P1 cell lysates. c 32D Cl3 cells were transduced with Riox1 shRNA, W or Flag-Cgas K491R. Immunoprecipitation was performed. d 32D Cl3 cells were transduced with Riox1 shRNA, Flag-Cgas, WT HA-S f29 D194A/D196A. Immunoprecipitation was performed. e Purified Flag-cGAS protein was incubated with purified His-SET7 pro vitro methylation assay, incubated with purified WT or the indicated mutant SGF29 protein, and then incubated with an equal am -PAR. A streptavidin pulldown assay was performed. f 32D Cl3 cells expressing Riox1 shRNA, Flag-Cgas, His-Timeless, Sgf29 shRNA, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. A Ni-NTA pulldown assay and immunoprecipitatio rmed. The immunoprecipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analy shRNA targeted the noncoding region. g, h 32D Cl3 cells expressing Riox1 shRNA, Sgf29 shRNA, WT HA-Sgf29, or HA-Sgf29 D194A transfected with an I-SceI expression vector. ChIP-PCR was performed 30 h after transfection g. HR pathway activity was measur transfection h The data are shown as the mean ± SD of three independent assays **P < 0 01 RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. RESULTS 7 Biotin Biotin- PAR Flag-cGAS His-SET7 Streptavidin pulldown + + + + WB: cGAS WB: cGAS k491me WB: cGAS Input a + + − − lgG FDC-P1 #1 #1 #2 WB: SGF29 WB: cGAS WB: SGF29 WB: RIOX1 WB: Tubulin WB: cGAS K491me cGAS lgG − − Flag-Cgas Riox1 shRNA WT WB: SGF29 WB: cGAS K491me WB: Flag (cGAS) WB: SGF29 WB: RIOX1 WB: Tubulin K491R + + IP: Flag WCL c − − 7 Riox1 shRNA IP: cGAS WCL lgG 32D CI3 #1 #1 #2 WB: SGF29 WB: cGAS WB: SGF29 WB: RIOX1 WB: Tubulin WB: cGAS K491me b − − Flag-Cgas Riox1 shRNA WT WB: SGF29 WB: cGAS K491me WB: Flag (cGAS) WB: SGF29 WB: RIOX1 WB: Tubulin K491R + + IP: Flag WCL c − − b a HA-Sgf29 Flag-Cgas Riox1 shRNA WT WB: HA (SGF29) WB: cGAS K491me WB: Flag (cGAS) WB: HA (SGF29) WB: RIOX1 WB: Tubulin D194A/ D196A + + IP: Flag WCL d + + − − HA-Sgf29 Flag-Cgas Riox1 shRNA Sgf29 shRNA His-Timeless WB: PARP1 WB: cGAS K491me WB: Flag (cGAS) WB: PARP1 WB: His (Timeless) IP: Flag Ni-NTA IR pulldown WT D194A/D196A + + + + + + + + f + + − − − − + + − − f WT D194A/D196A + + + + + + WCL WB: RIOX1 WB: PARP1 WB: H2A.X WB: H2A.X Exo Endo WB: SGF29 WB: Tubulin + + + + − − − − + + − − d Sgf Rio Biotin Biotin- PAR Flag-cGAS His-SET7 D194A/D196A WT His-SGF29 Streptavidin pulldown + + + + + + + + - Input WB: cGAS WB: cGAS WB: SGF29 WB: cGAS K491me DSB primer Control primer e g − − − − − − − His-SGF29 HA-Sgf29 Sgf29 shRNA Sg Riox1 shRNA Rio WT D194A/D196A + + Biotin Biotin- PAR Flag-cGAS His-SET7 D194A/D196A WT His-SGF29 Streptavidin pulldown + + + + + + + + - Input WB: cGAS WB: cGAS WB: SGF29 WB: cGAS K491me I-Scel Input lgG DSB primer Control primer H2A.X cGAS Timeless H2A.X cGAS Timeless Input lgG e g h + + + + − − − − + + − − − − − − − − − His-SGF29 HA-Sgf29 Sgf29 shRNA Riox1 shRNA WT D194A/D196A + + I-Scel Input lgG DSB primer Control primer H2A.X cGAS Timeless H2A.X cGAS Timeless Input lgG g + + + + − − − − + + − − g e HA-Sgf29 Sgf29 shRNA Riox1 shRNA WT D194A/D196A + + I-Scel 30 20 10 0 GFP-positive cell/% ** ** h + + + + − − − − + + − − h Fig. RESULTS These results suggest that SGF29 is involved in RIOX1-modulated HR repair by the biotin-PAR-mediated pulldown of purified K491me-bearing cGAS proteins (Fig. 5e). Consistent with this finding, reconstitution of SGF29 expression with the SGF29 D194A/D196A mutant restored the formation of the PARP1/cGAS complex, disrupted Bone Research (2022) 10:19 Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. Biotin Biotin- PAR Flag-cGAS His-SET7 Streptavidin pulldown + + + + WB: cGAS WB: cGAS k491me WB: cGAS Input Riox1 shRNA IP: cGAS WCL lgG 32D CI3 #1 #1 #2 lgG FDC-P1 #1 #1 #2 WB: SGF29 WB: cGAS WB: SGF29 WB: RIOX1 WB: Tubulin WB: cGAS K491me WB: SGF29 WB: cGAS WB: SGF29 WB: RIOX1 WB: Tubulin WB: cGAS K491me cGAS lgG Flag-Cgas Riox1 shRNA WT WB: SGF29 WB: cGAS K491me WB: Flag (cGAS) WB: SGF29 WB: RIOX1 WB: Tubulin K491R + + IP: Flag WCL HA-Sgf29 Flag-Cgas Riox1 shRNA HA-Sgf29 Flag-Cgas Riox1 shRNA Sgf29 shRNA HA-Sgf29 HA-Sgf29 Sgf29 shRNA Sgf29 shRNA Riox1 shRNA Riox1 shRNA His-Timeless WT WB: HA (SGF29) WB: cGAS K491me WB: Flag (cGAS) WB: HA (SGF29) WB: RIOX1 WB: Tubulin WB: PARP1 WB: cGAS K491me WB: Flag (cGAS) WB: PARP1 WB: His (Timeless) D194A/ D196A + + IP: Flag WCL IP: Flag Ni-NTA IR pulldown WT D194A/D196A + + + + + + + + WT D194A/D196A WT D194A/D196A + + WT D194A/D196A + + + + + + + + WCL WB: RIOX1 WB: PARP1 WB: H2A.X WB: H2A.X Exo Endo WB: SGF29 WB: Tubulin Biotin Biotin- PAR Flag-cGAS His-SET7 D194A/D196A WT His-SGF29 Streptavidin pulldown + + + + + + + + - Input WB: cGAS WB: cGAS WB: SGF29 WB: cGAS K491me I-Scel I-Scel Input lgG DSB primer Control primer H2A.X cGAS Timeless H2A.X cGAS Timeless Input lgG 30 20 10 0 GFP-positive cell/% ** ** a b c d f e g h − − − − − − + + − − + + − − + + − − − − + + − − + + + + − − − − + + − − + + + + − − − − + + − − + + + + − − − − + + − − − − − − − − − His-SGF29 SGF29 binds to K491me-bearing cGAS and prevents cGAS from binding to PAR. a–f Immunoblot analysis was performed. RESULTS S5D), we found that loss of RIOX1 largely increased the level of cGAS K506me and induced the association between cGAS and SGF29 in HOKs (Fig. S5E and S5F). In contrast, the basal cGAS K506me was totally abolished by knockdown of SET7 (Fig. S5G). Furthermore, the cGAS K506R or SGF29 D194A/D196 A mutation promoted the binding of cGAS with PARP1 and abrogated the interaction between PARP1 and Timeless (Fig. S5H–S5J). These results suggest that the RIOX1-guided regulation of HR repair is conserved between human and mouse cells. RIOX1-modulated cGAS K491me regulates the radiosensitivity of bone marrow cells To determine the biological impact of cGAS K491me and the cGAS/SGF29 interaction on bone marrow cells, we knocked down endogenous cGAS or SGF29 in RIOX1-intact or RIOX1-depleted 32D Cl3 and FDC-P1 cells and exogenously expressed the cGAS K491R or SGF29 D194A/D196A mutant. Although loss of RIOX1 substantially increased cell viability and reduced cell death after irradiation, these effects were largely abolished by the cGAS K491R or SGF29 D194A/D196A mutation (Fig. 6a-d). Together, these results suggest that RIOX1-modulated cGAS K491me regulates the radiosensitivity of bone marrow cells. DISCUSSION Ionizing radiation-induced DNA damage is cytotoxic and becomes lethal when it is not repaired properly and effectively.25 RIOX1 was previously identified in a proteomic screen as a binding partner of interacting with K491me-bearing cGAS to prevent cGAS from binding to PAR. nucleus in response to ionizing radiation. Independent of its nucleotidyltransferase activity, nuclear cGAS binds to the PAR chain of PARP1 and competitively inhibits PARP1-mediated recruitment of Timeless to DNA damage sites, retarding the process of HR repair18. In this study, we further deciphered how the interaction between cGAS and PAR is regulated by protein methylation. We found that the 483–497 aa region at the C-terminus of the cGAS protein, which contains the K491 methylation site, is responsible for cGAS binding with PAR. The methyllysine reader protein SGF29 binds to K491me-bearing cGAS and masks, at least partially, the PAR binding motif, thereby sequestering cGAS and preventing it from interacting with PAR (Fig. 6e). Therefore, our current data add to the current knowledge of the nonimmune function of cGAS in DNA repair. Human RIOX1 modulates HR repair by regulating the methylation of the corresponding human cGAS K506 Human cGAS contains a conserved K506 site corresponding to K491 in mouse cGAS (Fig. S3B). DISCUSSION Ionizing radiation-induced DNA damage is cytotoxic and becomes lethal when it is not repaired properly and effectively.25 RIOX1 was previously identified in a proteomic screen as a binding partner of the transcription factor Osterix.9 Ablation of RIOX1 promoted bone formation in mice, leading to increased bone mass and density.26 In the present study, we demonstrated that both bone marrow cells isolated from RIOX1 knockout mice and Riox1 shRNA-treated bone marrow-derived cell lines showed increased viability after exposure to ionizing radiation. Accordingly, the efficiency of HR repair, rather than NHEJ repair, was markedly enhanced in RIOX1- depleted cells. Therefore, our data highlight a novel role of RIOX1 in regulating the radiosensitivity of bone marrow cells. Antibodies recognizing cGAS, Tubulin, GST, His, SET1A, SET1B, SET7, MLL1, MLL3, γH2A.X and SMYD3 were obtained from Cell Signaling Technology. Antibodies recognizing RIOX2 were purchased from Atlas Antibodies. Antibodies recognizing RIOX1, ASH1L, PARP1, MLL2, SGF29, Timeless, NSD1, NSD2, H2A.X, CD11b, CD11a, CD34, Thy-1, and SMYD2 were purchased from Abcam. The antibody against Flag, anti- Flag M2 agarose beads, streptavidin-conjugated agarose beads, biotin, bovine serum albumin and poly(ADP-ribose) glycohydrolase (PARG) recombinant protein were purchased from Sigma. Horse- radish peroxidase-conjugated goat anti-mouse and anti-rabbit secondary antibodies were purchased from Thermo Fisher Scientific. Biotin (terminal)-PAR Polymer was purchased from Trevigen. g g y Lysine methylation and demethylation are dynamic cyclical processes, and a well-balanced protein lysine methylation status is a prerequisite for diverse biological processes, including DNA repair.22 In this study, by using in vitro methylation/demethylation assays, we demonstrated that cGAS K491 can be monomethylated by SET7 and that this methylation is removed by RIOX1. Although SET7 can catalyze the methylation of multiple nonhistone proteins,27 to the best of our knowledge, cGAS is the first nonhistone demethylation substrate discovered for RIOX1. More importantly, we demonstrated that RIOX1 is highly expressed in bone marrow tissues and bone marrow-derived cell lines, accompanied by a low cGAS K491me level. In contrast, the expression level of SET7 fluctuates only minimally among different tissues and organs. Therefore, the present data suggest that the expression of RIOX1 is the dominant factor controlling the cGAS K491me level. 28 DNA constructs and mutagenesis DNA constructs and mutagenesis The PCR-amplified mouse Cgas, Riox1, Riox2, Set7, Timeless and Sgf29 and human cGAS, SET7, Timeless and SGF29 sequences were subcloned into the indicated vectors. Materials The rabbit polyclonal anti-cGAS K491me antibody was produced by Boer Biotechnology (Chengdu, China). The mouse cGAS K491me peptide was synthesized and injected into rabbits. An affinity column with bound nonmodified peptide was used to collect and purify rabbit serum, excluding antibodies targeting nonmethylated cGAS. The antibody was then purified using an affinity column linked with bound cGAS K491me peptide. A rabbit polyclonal antibody recognizing human cGAS K506me was produced following the same protocol. RESULTS To further investigate whether the RIOX1- mediated mechanism is species- or cell type-specific, we validated our aforementioned findings in human oral keratinocytes (HOKs). As expected, knockdown of RIOX1 by shRNAs enhanced HR repair after exposure to ionizing radiation (Fig. S5A). Human cGAS was capable of interacting with RIOX1 and SET7 (Fig. S5B and S5C). By using a validated antibody recognizing human cGAS K506me (Fig. S5D), we found that loss of RIOX1 largely increased the level of cGAS K506me and induced the association between cGAS and SGF29 in HOKs (Fig. S5E and S5F). In contrast, the basal cGAS K506me was totally abolished by knockdown of SET7 (Fig. S5G). Furthermore, the cGAS K506R or SGF29 D194A/D196 A mutation promoted the binding of cGAS with PARP1 and abrogated the interaction between PARP1 and Timeless (Fig. S5H–S5J). These results suggest that the RIOX1-guided regulation of HR repair is conserved between human and mouse cells. As previously reported, JMJD-containing demethylases, such as JMJD1A, JHDM2A and JMJD5, modulate DNA repair efficiency through genome-wide histone modifications.6–8 The present study demon- strates a novel RIOX1-mediated mechanism in which RIOX1 acts as a nonhistone demethylase to govern cGAS K491me and consequently modulates the HR repair machinery at DNA break sites. Furthermore, the correlation of high RIOX1 expression and low cGAS K491me and the increased survival rate of RIOX1-depleted bone marrow cells underscore the critical role of RIOX1 in the regulation of cellular radiosensitivity. The present data suggest that RIOX1 inhibitors might be potential bone marrow-protective agents during radiotherapy. RIOX1-modulated cGAS K491me regulates the radiosensitivity of bone marrow cells To determine the biological impact of cGAS K491me and the cGAS/SGF29 interaction on bone marrow cells, we knocked down endogenous cGAS or SGF29 in RIOX1-intact or RIOX1-depleted 32D Cl3 and FDC-P1 cells and exogenously expressed the cGAS K491R or SGF29 D194A/D196A mutant. Although loss of RIOX1 substantially increased cell viability and reduced cell death after irradiation, these effects were largely abolished by the cGAS K491R or SGF29 D194A/D196A mutation (Fig. 6a-d). Together, these results suggest that RIOX1-modulated cGAS K491me regulates the radiosensitivity of bone marrow cells. RESULTS 5 SGF29 binds to K491me-bearing cGAS and prevents cGAS from binding to PAR. a–f Immunoblot analysis was performed. a Purified Flag-cGAS protein was incubated with purified His-SET7 protein for an in vitro methylation assay and was then incubated with an equal amount of biotin-PAR. A streptavidin pulldown assay was performed. b 32D Cl3 and FDC-P1 cells were transduced with Riox1 shRNAs. Coimmunoprecipitation was performed using 32D Cl3 and FDC-P1 cell lysates. c 32D Cl3 cells were transduced with Riox1 shRNA, WT Flag- Cgas, or Flag-Cgas K491R. Immunoprecipitation was performed. d 32D Cl3 cells were transduced with Riox1 shRNA, Flag-Cgas, WT HA-Sgf29 or HA-Sgf29 D194A/D196A. Immunoprecipitation was performed. e Purified Flag-cGAS protein was incubated with purified His-SET7 protein for an in vitro methylation assay, incubated with purified WT or the indicated mutant SGF29 protein, and then incubated with an equal amount of biotin-PAR. A streptavidin pulldown assay was performed. f 32D Cl3 cells expressing Riox1 shRNA, Flag-Cgas, His-Timeless, Sgf29 shRNA, WT HA- Sgf29, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. A Ni-NTA pulldown assay and immunoprecipitation were performed. The immunoprecipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. The Sgf29 shRNA targeted the noncoding region. g, h 32D Cl3 cells expressing Riox1 shRNA, Sgf29 shRNA, WT HA-Sgf29, or HA-Sgf29 D194A/D196A were transfected with an I-SceI expression vector. ChIP-PCR was performed 30 h after transfection g. HR pathway activity was measured 72 h after transfection h. The data are shown as the mean ± SD of three independent assays. **P < 0.01 Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. 8 interacting with K491me-bearing cGAS to prevent cGAS from binding to PAR. Human RIOX1 modulates HR repair by regulating the methylation of the corresponding human cGAS K506 Human cGAS contains a conserved K506 site corresponding to K491 in mouse cGAS (Fig. S3B). To further investigate whether the RIOX1- mediated mechanism is species- or cell type-specific, we validated our aforementioned findings in human oral keratinocytes (HOKs). As expected, knockdown of RIOX1 by shRNAs enhanced HR repair after exposure to ionizing radiation (Fig. S5A). Human cGAS was capable of interacting with RIOX1 and SET7 (Fig. S5B and S5C). By using a validated antibody recognizing human cGAS K506me (Fig. DISCUSSION Cell viability a and cell death b were evaluated 48 h after irradiation. Cell viability data were normalized to the untreated group. c, d 32D Cl3 or FDC-P1 cells expressing Riox1 shRNA, Sgf29 shRNA, WT HA-Sgf29, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. Cell viability c and cell death d were evaluated 48 h after irradiation. Cell viability data were normalized to the untreated group. e Schematic of RIOX1-mediated repression of HR repair Fig. 6 RIOX1-mediated cGAS K491me and the cGAS/SGF29 interaction regulate the radiosensitivity of bone marrow cells. a−d The data are shown as the mean ± SD of three independent assays. *P < 0.05; **P < 0.01; ***P < 0.001. a, b 32D Cl3 and FDC-P1 cells expressing Riox1 shRNA, Cgas shRNA, WT Flag-Cgas, or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Cell viability a and cell death b were evaluated 48 h after irradiation. Cell viability data were normalized to the untreated group. c, d 32D Cl3 or FDC-P1 cells expressing Riox1 shRNA, Sgf29 shRNA, WT HA-Sgf29, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. Cell viability c and cell death d were evaluated 48 h after irradiation. Cell viability data were normalized to the untreated group. e Schematic of RIOX1-mediated repression of HR repair Fig. 6 RIOX1-mediated cGAS K491me and the cGAS/SGF29 interaction regulate the radiosensitivity of bone marrow cells. a−d The data are shown as the mean ± SD of three independent assays. *P < 0.05; **P < 0.01; ***P < 0.001. a, b 32D Cl3 and FDC-P1 cells expressing Riox1 shRNA, Cgas shRNA, WT Flag-Cgas, or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Cell viability a and cell death b were evaluated 48 h after irradiation. Cell viability data were normalized to the untreated group. c, d 32D Cl3 or FDC-P1 cells expressing Riox1 shRNA, Sgf29 shRNA, WT HA-Sgf29, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. Cell viability c and cell death d were evaluated 48 h after irradiation. Cell viability data were normalized to the untreated group. e Schematic of RIOX1-mediated repression of HR repair To generate stable cell lines with depletion of gene expression, cells were transfected with lentiviral vectors carrying shRNAs and subsequently selected with puromycin. DISCUSSION A QuikChange Site- Directed Mutagenesis Kit (Stratagene, La Jolla, CA) was used to generate the mutant constructs. The following shRNAs were used in this study: scrambled shRNA, GCTTCTAACACCGGAGGT CTT; mouse Riox1 shRNA-1, TTTTTAA- TAAATCTGACGT (recognizing a noncoding sequence); mouse Riox1 shRNA-2, TATCATATAACATGGTTGC; mouse Cgas shRNA, TTTCAGAAG GCAATGTCAG (recognizing a noncoding sequence); mouse Set7 shRNA-1, AACAGTATTAGGTCCAACT; mouse Set7 shRNA-2, AATCCGT- CATCGTCCAGGT; mouse Sgf29 shRNA, TATTTGATCATAGGAACTC (recognizing a noncoding sequence); mouse H3f3b shRNA, ACAAATGCAGTCTAGTCAG (recognizing a noncoding sequence); human cGAS shRNA, AGTTCTTACTGAAAAACAG (recognizing a noncoding sequence); and human SGF29 shRNA, ACGCAGG cGAS is a cytosolic DNA sensor.28 Either exogenous or endogenous DNA can trigger cGAS-dependent production of cGAMP, which in turn activates STING to elicit innate immune responses.19 Recently, cGAS was found to translocate into the Bone Research (2022) 10:19 Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. GTGATCATC (recognizing a noncoding sequence). Other shRNAs in this study were obtained from Sigma. To generate stable cell lines with depletion of gene expressio cells were transfected with lentiviral vectors carrying shRNAs a subsequently selected with puromycin. To generate stable cell lin RIOX1-mediated cGAS K491me and the cGAS/SGF29 interaction regulate the radiosensitivity of bone marrow cells. a−d The data a wn as the mean ± SD of three independent assays. *P < 0.05; **P < 0.01; ***P < 0.001. a, b 32D Cl3 and FDC-P1 cells expressing Riox1 shRN shRNA, WT Flag-Cgas, or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Cell viability a and cell death b were evaluated 48 irradiation. Cell viability data were normalized to the untreated group. c, d 32D Cl3 or FDC-P1 cells expressing Riox1 shRNA, Sgf29 shRN HA-Sgf29, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. Cell viability c and cell death d were evaluated 48 h aft iation. Cell viability data were normalized to the untreated group. e Schematic of RIOX1-mediated repression of HR repair RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. 9 Fig. 6 RIOX1-mediated cGAS K491me and the cGAS/SGF29 interaction regulate the radiosensitivity of bone marrow cells. a−d The data are shown as the mean ± SD of three independent assays. *P < 0.05; **P < 0.01; ***P < 0.001. a, b 32D Cl3 and FDC-P1 cells expressing Riox1 shRNA, Cgas shRNA, WT Flag-Cgas, or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Comet assay Total bone marrow cells were isolated from Riox1 knockout mice or WT mice and subjected to 10 Gy ionizing radiation. The comet assay was performed using a Single Cell Gel Electrophoresis Assay/ Comet Assay (R&D Systems) following the manufacturer’s protocol. Cell viability assay A Cell Counting Kit 8 (WST-8/CCK-8) was purchased from Abcam, and the assay was performed following the manufacturer’s protocol. In vitro methylation assay Purified SET7 protein (500 ng) and purified cGAS protein (200 ng) were incubated in 100 μL of methylation buffer at 30 °C for 1 h according to a previously reported method.31 SDS loading buffer was added to stop the reaction, and immunoblot analysis was then conducted. Cell death assay Cell death was assessed by trypan blue staining as reported previously.29 In vitro demethylation assay Purified RIOX1 protein (500 ng) and purified cGAS protein (200 ng) were incubated with demethylase reaction buffer at 37 °C for 1 h, as mentioned previously.32 SDS loading buffer was added to stop the reaction, and immunoblot analysis was then conducted. In vitro demethylation assay Generation of RIOX1 knockout mice RIOX1 knockout mice were generated via CRISPR/Cas9 gene editing by GemPharmatech. RIOX1 knockout mice were generated via CRISPR/Cas9 gene editing by GemPharmatech. Protein expression in bacteria and protein purification BL21(DE3) cells expressing cGAS, cGAS, cGAS, RIOX1, SET7, SGF29 and the corresponding mutant proteins were maintained in LB medium and induced with isopropyl β-D-1-thiogalactopyranoside (IPTG) for 16 h at 30 °C before lysis via sonication. Purification of the tagged proteins was performed as reported previously.30 cGAS activity assay cGAS activity was detected by using a Transcreener cGAMP cGAS TR-FRET Assay Kit (BellBrook Labs) following the manufacturer’s instructions. cGAS activity assay Diarrhea severity assessment Animals were subjected to irradiation for 5 days, and diarrhea severity was recorded according to a previously defined grading system33. Diarrhea severity assessment y Animals were subjected to irradiation for 5 days, and diarrhea severity was recorded according to a previously defined grading system33. Analyses of DNA repair efficiency y p y NHEJ and HR repair were analyzed based on previously reported methods13, and a schematic of this assay is shown in Fig. S1G. In brief, 32D Cl3 or FDC-P1 cells were transfected with the DR-GFP plasmid, which was unable to express DR-GFP because of the I-SceI site. Expression of I-SceI induced a DSB in the DR-GFP locus. Comet assay The PCR products were amplified with primers targeting the sequences flanking the I-SceI site and were then double digested with the enzymes I-SceI and BcgI. NHEJ repair caused loss of the I-SceI site and made the PCR product resistant to double digestion with I-SceI and BcgI, producing a 0.65-kb PCR band. HR repair caused the I-SceI-digested sequence to be replaced with a BcgI cut site, restoring the expression of GFP. Statistical analysis Unless specifically indicated, significant differences were analyzed by two-tailed unpaired Student’s t test. Unless otherwise specified, all data are presented as the mean ± SD of three independent experiments/samples. DISCUSSION To generate stable cell lines with gene overexpression, cells with silencing of endogenous gene expression were transduced with lentiviral vectors carrying the indicated gene sequence and were then selected with hygromycin. TCTGTGATCATC (recognizing a noncoding sequence). Other shRNAs used in this study were obtained from Sigma. TCTGTGATCATC (recognizing a noncoding sequence). Other shRNAs used in this study were obtained from Sigma. Cell culture and stable cell line establishment 32D Cl3 and FDC-P1 cells were maintained in RPMI 1640 medium containing 10% fetal bovine serum (FBS). C2C12 and NIH/3T3 cells were cultured in Dulbecco’s modified Eagle’s medium (DMEM) containing 10% FBS. AML12 cells were grown in DMEM:F12 medium supplemented with 10% FBS. MLE 12 cells were maintained in HITES medium supplemented with 2% FBS. HOKs were obtained from ScienCell (Carlsbad, CA) and were maintained in Oral Keratinocyte Medium (Carlsbad, CA) supplemented with 10% fetal bovine serum. Mice irradiation and bone marrow cell isolation Mice irradiation and bone marrow cell isolation Irradiation of six-week-old C57BL/6 mice was performed with a 137Cs gamma-ray source. A single dose of radiation was administered at 1 Gy per min. Mice were then sacrificed, and tibiae were harvested. An EasySep™ Mouse Hematopoietic Bone Research (2022) 10:19 Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. RIOX1 regulates cGAS and BM cell radiosensitivity 10 Progenitor Cell Isolation Kit (STEMCELL Technologies) was used to isolate hematopoietic progenitor cells; Dynabeads™Mouse Pan B (Thermo Fisher Scientific) was utilized to isolate B cells; and an EasySep™Mouse Neutrophil Enrichment Kit (STEMCELL Technol- ogies) was utilized to isolate neutrophils. Animals were treated according to the relevant institutional and national guidelines and regulations. The use of animals was approved by the institutional review board of West China Hospital of Stomatology. induced DSBs: 5-GATCAGGCAGAGCAGGAACC-3 (forward) and 5-GAACAGCTCCTCGCC CTTGC-3 (reverse). REFERENCES 1. Dubois, A. & Walker, R. Prospects for management of gastrointestinal injury associated with the acute radiation syndrome. Gastroenterology 95, 500–507 (1988). ACKNOWLEDGEMENTS This work was supported by the National Natural Science Foundation of China (Grants 81872218 (R.L.) and 81772692 (J.L.)); CAMS Innovation Fund for Medical Sciences (CIFMS, 2019-I2M-5-004 (Q.C.)); Sichuan Science & Technology Program (2020YFSY0009 (Q.C.)); Research Fund from West China School/Hospital of Stomatology Sichuan University (RCDWJS2020-8 (R.L.)); the Scientific Research Program for Young Talents of China National Nuclear Corporation (2020CNNC74 (J.L.)); Research Fund from the Science & Technology Department of Sichuan Province (2019YJ0371 (J.L.)); Research Fund from Chengdu Medical College (CYTD18-02 (J.L.)); Research Fund from Suzhou University (KJS1962 (J.L.)); and a National Research Foundation of Korea (NRF) grant funded by the Korean government (MSIT) (2020R1C1C1011350). g p DR-GFP-expressing cells were immediately cotransfected with a vector expressing I-SceI. After transfection for 36 h, to inhibit DNA repair and promote the accumulation of I-SceI-mediated DSBs, the cells were treated with NU7441 (1 μmol·L−1) and KU55933 (10 μmol·L−1) for 12 h and were then exposed to ionizing radiation. To measure the NHEJ repair efficiency, cells were synchronized in G1 phase by double thymidine block, and genomic DNA was extracted 1 h after ionizing radiation to quantify the 0.65-kb PCR product. To measure the HR repair efficiency, cells were stained with Hoechst 72 h after ionizing radiation. The numbers of GFP-expressing and Hoechst-positive cells were counted under a fluorescence microscope to calculate the ratio of GFP-positive cells to total cells. At least 10 fields, each containing more than 100 cells, were counted. To measure the efficiency of I-SceI cleavage, genomic DNA was extracted immediately after irradiation. The amount of 0.65-kb PCR product generated from the naive, I-SceI-uncut DNA was used as an indirect reference value for I-SceI-induced DSBs. β-Actin was used as the internal control. The primer sequences were as follows: DR- GFP-F, 5-CTGCTAACCATGTTCATGCC-3; DR-GFP-R, 5-AAGTCGTGCT GCTTCATGTG-3; β-actin-F, 5- GACAGGATGCAGAAGGAGATT ACTG; β-actin-R, CTCAGGAGGAGCAATGATCTTGAT. ADDITIONAL INFORMATION Supplementary information The online version contains supplementary material available at https://doi.org/10.1038/s41413-022-00194-0. Supplementary information The online version contains supplementary material available at https://doi.org/10.1038/s41413-022-00194-0. Supplementary information The online version contains supplementary material available at https://doi.org/10.1038/s41413-022-00194-0. Competing interests: The authors declare no competing interests. AUTHOR CONTRIBUTIONS Y.C., Q.C., and R.L. conceived and designed the study; Y.X., J.L., T.H., X.L., C.Y., Y.H., L.J., Y.C., S.M.J., and J-H.L. performed the experiments; Y.C., C.Y. and R.L. drafted the manuscript. ChIP-PCR assay As reported previously, an Upstate Biotechnology kit was used to perform the ChIP-PCR assay.30 The specific primers used for PCR were designed to target the sequence 0.2 kb away from the I-SceI- 2. Kim, Y., Barshishat-Kupper, M., McCart, E., Mueller, G. & Day, R. Bone marrow protein oxidation in response to ionizing radiation in C57BL/6J mice. Proteomes 2, 291–302 (2014). 2. Kim, Y., Barshishat-Kupper, M., McCart, E., Mueller, G. & Day, R. Bone marrow protein oxidation in response to ionizing radiation in C57BL/6J mice. Proteomes 2, 291–302 (2014). Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity Y Xiao et al. RIOX1 regulates cGAS and BM cell radiosensitivity 11 23. Huang, L.-Y., Hsu, D.-W. & Pears, C.J. Methylation-directed acetylation of histone H3 regulates developmental sensitivity to histone deacetylase inhibition. Nucleic Acids Res. 49, 3781–3795 (2021). 3. Nickoloff, J. A., Sharma, N. & Taylor, L. Clustered DNA double-strand breaks: biological effects and relevance to cancer radiotherapy. Genes 11, 99 (2020). 4. Cann, K. L. & Hicks, G. G. Regulation of the cellular DNA double-strand break response. Biochem. Cell Biol. 85, 663–674 (2007). 24. Bian, C. et al. Sgf29 binds histone H3K4me2/3 and is required for SAGA complex recruitment and histone H3 acetylation. EMBO J. 30, 2829–2842 (2011). 5. Zhao, X. et al. Cell cycle-dependent control of homologous recombination. Acta Biochim. Biophys. Sin. 49, 655–668 (2017). 25. Santivasi, W. & Xia, F. Ionizing radiation-induced DNA damage, response, and repair. Antioxid. Redox Signal. 21, 251–259 (2014). 6. Oh, S., Shin, S. & Janknecht, R. The small members of the JMJD protein family: enzymatic jewels or jinxes? Biochimica et. Biophysica Acta Rev. Cancer 1871, 406–418 (2019). 26. Chen, Q. et al. Mesenchymal deletion of histone demethylase NO66 in mice promotes bone formation. J. Bone Miner. Res.: Off. J. Am. Soc. Bone Miner. Res. 30, 1608–1617 (2015). 7. Zhang, A. L. et al. Histone demethylase JHDM2A regulates H3K9 dimethylation in response to arsenic-induced DNA damage and repair in normal human liver cells. J. Appl. Toxicol.: JAT 41, 650 (2021). 27. Pradhan, S., Chin, H., Estève, P. & Jacobsen, S. SET7/9 mediated methylation of non-histone proteins in mammalian cells. Epigenetics 4, 383–387 (2009). 8. Amendola, P. G. et al. JMJD-5/KDM8 regulates H3K36me2 and is required for late steps of homologous recombination and genome integrity. PLoS Genet. 13, e1006632 (2017). 28. Sun, L., Wu, J., Du, F., Chen, X. & Chen, Z. J. ChIP-PCR assay Cyclic GMP-AMP synthase is a cytosolic DNA sensor that activates the type I interferon pathway. Science 339, 786–791 (2013). 9. Sinha, K., Yasuda, H., Coombes, M., Dent, S. & de Crombrugghe, B. Regulation of the osteoblast-specific transcription factor Osterix by NO66, a Jumonji family histone demethylase. EMBO J. 29, 68–79 (2010). 29. Crowley, L., Marfell, B., Christensen, M. & Waterhouse, N. Measuring cell death by trypan blue uptake and light microscopy. Cold Spring Harb. Protoc. 2016, 7 (2016). 10. Guchhait, P., Tosi, M. F., Smith, C. W. & Chakaraborty, A. The murine myeloid cell line 32Dcl3 as a model system for studying neutrophil functions. J. immunological methods 283, 195–204 (2003). 30. Xia, Y. et al. c-Jun downregulation by HDAC3-dependent transcriptional repres- sion promotes osmotic stress-induced cell apoptosis. Mol. Cell 25, 219–232 (2007). 11. Allen, J. D. & Adams, J. M. Enforced expression of Hlx homeobox gene prompts myeloid cell maturation and altered adherence properties of T cells. Blood 81, 3242–3251 (1993). 31. Amente, S. et al. Identification of proteins interacting with the RNAPII FCP1 phosphatase: FCP1 forms a complex with arginine methyltransferase PRMT5 and it is a substrate for PRMT5-mediated methylation. FEBS Lett. 579, 683–689 (2005). 12. Kockler, Z., Osia, B., Lee, R., Musmaker, K. & Malkova, A. Repair of DNA breaks by break-induced replication. Annu. Rev. Biochem. 90, 165–191 (2021). 32. Whetstine, J. R. et al. Reversal of histone lysine trimethylation by the JMJD2 family of histone demethylases. Cell 125, 467–481 (2006). 13. Jiang, Y. et al. Local generation of fumarate promotes DNA repair through inhi- bition of histone H3 demethylation. Nat. Cell Biol. 17, 1158–1168 (2015). 33. Gibson, R. J., Bowen, J. M. & Keefe, D. M. Palifermin reduces diarrhea and increases survival following irinotecan treatment in tumor-bearing DA rats. Int. J. Cancer 116, 464–470 (2005). 14. Hou, H. & Yu, H. Structural insights into histone lysine demethylation. Curr. Opin. Struct. Biol. 20, 739–748 (2010). 15. Hamiche, A. & Shuaib, M. Chaperoning the histone H3 family. Biochim. Biophys. Acta 1819, 230–237 (2013). 16. Xia, Y. et al. RNF8 mediates histone H3 ubiquitylation and promotes glycolysis and tumorigenesis. J. Exp. Med. 214, 1843–1855 (2017). © The Author(s) 2022 ChIP-PCR assay Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons license, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Commons license, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Commons license and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this license, visit http://creativecommons. org/licenses/by/4.0/. 17. Yang, W. et al. PKM2 phosphorylates histone H3 and promotes gene transcription and tumorigenesis. Cell 150, 685–696 (2012). 18. Liu, H. et al. Nuclear cGAS suppresses DNA repair and promotes tumorigenesis. Nature 563, 131–136 (2018). 19. Mackenzie, K. et al. cGAS surveillance of micronuclei links genome instability to innate immunity. Nature 548, 461–465 (2017). 20. Chen, Q., Sun, L. & Chen, Z. J. Regulation and function of the cGAS-STING pathway of cytosolic DNA sensing. Nat. Immunol. 17, 1142–1149 (2016). 21. Pleschke, J. M., Kleczkowska, H. E., Strohm, M. & Althaus, F. R. Poly(ADP-ribose) binds to specific domains in DNA damage checkpoint proteins. J. Biol. Chem. 275, 40974–40980 (2000). 22. Völkel, P. & Angrand, P.-O. The control of histone lysine methylation in epigenetic regulation. Biochimie 89, 1–20 (2007). Bone Research (2022) 10:19 Bone Research (2022) 10:19
https://openalex.org/W3118395059
https://link.springer.com/content/pdf/10.1007/s40820-020-00556-5.pdf
English
null
Metallic Graphene Nanoribbons
Nano-micro letters
2,021
cc-by
1,381
Metallic Graphene Nanoribbons Cite as Nano-Micro Lett. (2021) 13:53 Sheng‑Yi Xie1, Xian‑Bin Li2   * Received: 12 October 2020 Accepted: 9 November 2020 Published online: 5 January 2021 © The Author(s) 2021 ABSTRACT  Isolated graphene nanoribbons (GNRs) usually have energy gaps, which scale with their widths, owing to the lateral quantum confinement effect of GNRs. The absence of metallic GNRs limits their applications in device interconnects or being one-dimensional physics platform to research amazing properties based on metallicity. A recent study published in Science provided a novel method to produce metallic GNRs by inserting a symmetric superlattice into other semiconductive GNRs. This finding will broader the applications of GNRs both in nanoelectronics and fundamental science. KEYWORDS  Graphene; Nanoribbons; Quantum confinement effect; Supperlattice Unlike the gapless semimetal of graphene [1], the graphene nanoribbons (GNRs) [2], whether armchair or zigzag type, usually own an energy gap scaling inversely with their widths due to the lateral quantum confinement effect of GNRs [3]. The raised energy gap, which is absent in gra‑ phene, enables the production of transistor [4], yet the robust semicondutivity of GNRs limits the applications in such as device interconnects or being one-dimensional physics plat‑ form to explore superconductivity [5], Luttinger liquid [6], charge density waves [7] or spintronics [8]. Recently, one paper published in Science reported an ingenious method to produce metallic GNRs [9] based on the atomically precise bottom-up synthesis. spectroscopy and density functional theory (DFT) calcula‑ tions. The experimental dI/dV point spectrum of a sGNR is shown in Fig. 1b, and the sharp peak states as well as their projection in real space (Fig. 1c) at the zero bias clearly show the metallic density of states (DOS), which agrees well with the DFT results (Fig. 1d, e). In their further experiment, the DOS of 5-sGNRs spans a broader energy range around the Fermi level, inducing the robust metallicity with a 20-fold increase of the metallic bandwidth, as shown in Fig. 1. This work provides a smart strategy for realizing the metallicity in GNRs to act as a candidate used in logic devices. In future, as a direct measurement of metallicity, variable temperature conductivity experiments can be fur‑ ther considered. Additionally, the performance comparison between these metallic GNRs and traditional metals like copper used in interconnect technology is also meaningful for the applications in nanoelectronics. * Xian‑Bin Li, lixianbin@jlu.edu.cn 1 School of Physics and Electronics, Hunan University, 410082 Changsha, People’s Republic of China 2 State Key Laboratory of Integrated Optoelectronics, College of Electronic Science and Engineering, Jilin University, 130012 Changchun, People’s Republic of China ISSN 2311-6706 e-ISSN 2150-5551 CN 31-2103/TB ISSN 2311-6706 e-ISSN 2150-5551 CN 31-2103/TB HIGHLIGHT Cite as Nano-Micro Lett. (2021) 13:53 * Xian‑Bin Li, lixianbin@jlu.edu.cn Metallic Graphene Nanoribbons Finally, considering the possible formation of junctions between these metal‑ lic GNRs and ordinary semiconductive GNRs, whether Ohmic contact or Schottky contact can be formed should also deserve extra efforts. In this work, Rizzo et al. in University of California at Berkeley used the precursor molecule 1 (Fig. 1a) to construct the GNRs with the symmetrical insertion of methyl groups to form the superlattice, which are named as the sawtooth GNR (sGNR). Upon annealing over 350 ℃, the sGNRs transformed to the called five sawtooth sGNRs (5-sGNRs) with minor chemical bond rearrangements to form a five- membered ring along their edges, as also shown in Fig. 1a. Electronic structures of sGNRs and 5-sGNRs were further determined both by scanning tunneling microscope (STM) 1 3 Nano-Micro Lett. (2021) 13:53 53  Page 2 of 3 Fig. 1   a Schematic bottom-up growth of sGNRs and 5-sCNRs from molecular precursor 1 on Au (111), and the inset at the top right corner shows STM topograph of two isolated monomers of precursor 1. b-e Electronic structure of sGNRs. b experimental dI/dV point spectroscopy, c related constant-height dI/dV maps in real space, d DFT-LDA calculated DOS, and e related local DOS maps of a sGNR. f-i Electronic structure of 5-sCNRs. f experimental dI/dV point spectroscopy, g related constant-height dI/dV maps, h DFT-LDA calculated DOS, and i related local DOS maps of a 5-sCNR. Reproduced from Ref. [9]. Copyright 2020 American Association for the Advancement of Science. Fig. 1   a Schematic bottom-up growth of sGNRs and 5-sCNRs from molecular precursor 1 on Au (111), and the inset at the top right corner shows STM topograph of two isolated monomers of precursor 1. b-e Electronic structure of sGNRs. b experimental dI/dV point spectroscopy, c related constant-height dI/dV maps in real space, d DFT-LDA calculated DOS, and e related local DOS maps of a sGNR. f-i Electronic structure of 5-sCNRs. f experimental dI/dV point spectroscopy, g related constant-height dI/dV maps, h DFT-LDA calculated DOS, and i related local DOS maps of a 5-sCNR. Reproduced from Ref. [9]. Copyright 2020 American Association for the Advancement of Science. 3. Y.W. Son, M.L. Cohen, S.G. Louie, Energy gaps in graphene nanoribbons. Phys. Rev. Lett. 97(21), 216803 (2006). https​:// doi.org/10.1103/PhysR​evLet​t.97.21680​3 2. J.M. Cai, P. Ruffieux, R. Jaafar, M. Bieri, T. Braun et al., Atomically precise bottom-up fabrication of graphene nanor‑ ibbons. Nature 466(7305), 470–473 (2010). https​://doi. org/10.1038/natur​e0921​1 References Open Access  This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Com‑ mons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Com‑ mons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creat​iveco​mmons​.org/licen​ses/by/4.0/. 1. K.S. Novoselov, A.K. Geim, S.V. Morozov, D. Jiang, M.I. Katsnelson et al., Two-dimensional gas of massless dirac fer‑ mions in graphene. Nature 438(7065), 197–200 (2005). https​ ://doi.org/10.1038/natur​e0423​3 2. J.M. Cai, P. Ruffieux, R. Jaafar, M. Bieri, T. Braun et al., Atomically precise bottom-up fabrication of graphene nanor‑ ibbons. Nature 466(7305), 470–473 (2010). https​://doi. org/10.1038/natur​e0921​1 2. J.M. Cai, P. Ruffieux, R. Jaafar, M. Bieri, T. Braun et al., Atomically precise bottom-up fabrication of graphene nanor‑ ibbons. Nature 466(7305), 470–473 (2010). https​://doi. org/10.1038/natur​e0921​1 3. Y.W. Son, M.L. Cohen, S.G. Louie, Energy gaps in graphene nanoribbons. Phys. Rev. Lett. 97(21), 216803 (2006). https​:// doi.org/10.1103/PhysR​evLet​t.97.21680​3 3. Y.W. Son, M.L. Cohen, S.G. Louie, Energy gaps in graphene nanoribbons. Phys. Rev. Lett. 97(21), 216803 (2006). https​:// doi.org/10.1103/PhysR​evLet​t.97.21680​3 3. Y.W. Son, M.L. Cohen, S.G. Louie, Energy gaps in graphene nanoribbons. Phys. Rev. Lett. 97(21), 216803 (2006). https​:// doi.org/10.1103/PhysR​evLet​t.97.21680​3 © The authors https://doi.org/10.1007/s40820-020-00556-5 Nano-Micro Lett. (2021) 13:53 Page 3 of 3  53 53 Page 3 of 3  53 7. G. Grüner, A. Zawadowski, P.M. Chaikin, Nonlinear con‑ ductivity and noise due to charge-density-wave depinning in ­NbSe3. Phys Rev Lett. 46(7), 511–515 (1981). https​://doi. org/10.1103/PhysR​evLet​t.46.511 8. Y. Liu, C. Zeng, J. Zhong, J. Ding, Z.M. Wang et al., Spintron‑ ics in two-dimensional materials. Nano-Micro. Lett. 12(1), 93 (2020). https​://doi.org/10.1007/s4082​0-020-00424​-2 5. I. Takesue, J. Haruyama, N. Kobayashi, S. Chiashi, S. Maruy‑ ama et al., Superconductivity in entirely end-bonded multi‑ walled carbon nanotubes. Phys. Rev. Lett. 96(5), 057001 (2006). https​://doi.org/10.1103/PhysR​evLet​t.96.05700​1 5. I. Takesue, J. Haruyama, N. Kobayashi, S. Chiashi, S. Maruy‑ ama et al., Superconductivity in entirely end-bonded multi‑ walled carbon nanotubes. Phys. Rev. Lett. 96(5), 057001 (2006). 4. B. Obradovic, R. Kotlyar, F. Heinz, P. Matagne, T. Rakshit et al., Analysis of graphene nanoribbons as a channel material for field-effect transistors. Appl. Phys. Lett. 88(14), 142102 (2006). https​://doi.org/10.1063/1.21914​20 5. I. Takesue, J. Haruyama, N. Kobayashi, S. Chiashi, S. Maruy‑ ama et al., Superconductivity in entirely end-bonded multi‑ walled carbon nanotubes. Phys. Rev. Lett. 96(5), 057001 (2006). https​://doi.org/10.1103/PhysR​evLet​t.96.05700​1 6. M. Bockrath, D.H. Cobden, J. Lu, A.G. Rinzler, R.E. Smalley et al., Luttinger-liquid behaviour in carbon nanotubes. Nature 397(6720), 598–601 (1999). https​://doi.org/10.1038/17569​ References https​://doi.org/10.1103/PhysR​evLet​t.96.05700​1 9. D.J. Rizzo, G. Veber, J. Jiang, R. McCurdy, T. Cao et al., Inducing metallicity in graphene nanoribbons via zero-mode superlattices. Science 369(6511), 1597–1603 (2020). https​:// doi.org/10.1126/scien​ce.aay35​88 6. M. Bockrath, D.H. Cobden, J. Lu, A.G. Rinzler, R.E. Smalley et al., Luttinger-liquid behaviour in carbon nanotubes. Nature 397(6720), 598–601 (1999). https​://doi.org/10.1038/17569​ 1 3
https://openalex.org/W4319074024
https://www.researchsquare.com/article/rs-2500709/latest.pdf
English
null
Detection of Exon 10 Mutation (rs6020) in Factor V Gene in Sudanese patients with Deep Vein Thrombosis
Research Square (Research Square)
2,023
cc-by
3,347
Detection of Exon 10 Mutation (rs6020) in Factor V Gene in Sudanese patients with Deep Vein Thrombosis Amel I. Bkheit  Sudan University of Science and Technology Abdalla M. Abdalla  Sudan University of Science and Technology Mohieldin Elsayid  King Saud bin Abdulaziz University for Health Sciences Hisham N. Altayeb  King Abdulaziz University Ahmed Bakheet Abd Alla  (  ahmed.hassanab@gmail.com ) Sudan University of Science and Technology Short Report Keywords: Deep vein thrombosis, factor V Leiden, activated protein C resistant, rs6020 Sudanese patient Posted Date: February 3rd, 2023 DOI: https://doi.org/10.21203/rs.3.rs-2500709/v1 License:   This work is licensed under a Creative Commons Attribution 4.0 International License.   Read Full License Additional Declarations: No competing interests reported. Detection of Exon 10 Mutation (rs6020) in Factor V Gene in Sudanese patients with Deep Vein Thrombosis Amel I. Bkheit  Sudan University of Science and Technology Abdalla M. Abdalla  Sudan University of Science and Technology Mohieldin Elsayid  King Saud bin Abdulaziz University for Health Sciences Hisham N. Altayeb  King Abdulaziz University Ahmed Bakheet Abd Alla  (  ahmed.hassanab@gmail.com ) Sudan University of Science and Technology Short Report Keywords: Deep vein thrombosis, factor V Leiden, activated protein C resistant, rs6020 Sudanese patient Posted Date: February 3rd, 2023 DOI: https://doi.org/10.21203/rs.3.rs-2500709/v1 License:   This work is licensed under a Creative Commons Attribution 4.0 International License. Read Full License Additional Declarations: No competing interests reported. Short Report Additional Declarations: No competing interests reported. Additional Declarations: No competing interests reported. Page 1/10 Page 1/10 Page 1/10 Result: The presence of a missense mutation (rs6020) in the factor V Leiden gene was discovered in 40% (6/15) of the patients in this investigation. In five cases, this mutation was heterozygous, whereas in one patient, it was homozygous. In the other nine cases, no mutations were found. Conclusion: rs6020 is more prevalent in the Sudanese population than other types of mutations. rs6020 polymorphism has a strong association with deep vein thrombosis in the Sudanese population. Further investigation of this mutation amongst larger Sudanese population is required in order to support this finding as well as to understand its clinical significance. rs6020 is more prevalent in the Sudanese population than other types of mutations. rs6020 Background: Deep vein thrombosis (DVT), a subgroup of venous thromboembolism (VTE), is one of the leading causes of morbidity and mortality globally, accounting for 60,000-100,000 fatalities per year. It affects around 0.1 percent of the population each year. In Sudanese patients with DVT, this study looked for probable harmful single nucleotide polymorphisms in exon 10 of the factor V gene. Method: Thirty blood samples were obtained from previously diagnosed DVT patients at Omdurman teaching hospital throughout the period of 16 August to 25 October 2018, as part of a descriptive cross-sectional research in Khartoum state. Exon 10 was amplified by PCR using sequence-specific primers after DNA was extracted using the guanidine chloride procedure. The fifteen best bands' PCR products were sequenced in both directions (BGI Company). Bioinformatics techniques were used to examine the sequences (Finch TV, BLAST, and Codon Code alignment). Introduction Venous thrombosis is a frequent condition that can be caused by a variety of reasons[1]. Some factors, including factor V Leiden, prothrombin gene mutations, and antithrombin deficiency, are inherited, whereas others, like obesity, pregnancy, and cancer, are acquired. Hyperhomocysteinemia, for example, can be a combination of genetic and acquired causes [2]. Because of a mutation in the human factor V gene, Factor V Leiden is a main hypercoagulable condition. It is named after the city of Leiden in the Netherlands [3]. In 1993, Dahlbäck and his research team found Page 2/10 Page 2/10 an uncommon coagulation system phenomena known as activated protein c resistance, or "APC resistant," and hypothesized that it was caused by a lack of an unknown protein that aids APC in inactivating FV. After a year, another group of researchers led by R.M. Bertina discovered a missense point mutation in which adenine (A) replaced guanine (G) at nucleotide position 1691 of exon 10 of the factor V gene, resulting in a new codon (CAA), which stands for glutamine, rather than the normal codon arginine (CGA) at position 506 of the gene [4, 5]. Factor V Leiden (FVL) inactivation is 10 times slower with this mutation than in the wildtype, which might explain why more than 90% of clinical APC resistance phenotypes are caused by this mutation [6]. Exon 10 of the FVL gene has a missense mutation (rs6020) at position 1628, where guanine is changed to adenine, altering arginine to lysine at position 455 of the polypeptide chain. This polymorphism has been linked to coagulopathy and femoral head osteonecrosis in one Chinese research [7, 8]. Activated protein C resistance is a common genetic risk factor for venous thrombosis, with 3 percent of healthy persons, 20% of patients with deep vein thrombosis, and 50% of patients with familial thrombophilia having it [9, 10]. APC resistance is thought to be caused by Factor V Leiden (FVL) [11], and was the first to discover a prothrombotic polymorphism [12]. People who carry factor FVL have a greater than usual (about 90%) risk of deep vein thrombosis [11]. It's also linked to a 2–3 times higher chance of miscarriage and other obstetric issues like preeclampsia, placental abruption, and fetal development restriction [9, 10]. Introduction In the general population, 1 in 1,000 individuals is at risk of acquiring an abnormal blood clot each year; this number rises to 3–8 in 1,000 in heterozygote FVL mutation carriers and 80 in 1,000 in homozygote carriers. [13]. FVL mutations have been found in up to 65% of Caucasian individuals with venous thromboembolism, as well as in Lebanon (14%), Syria (13%), and Jordan (12, 3% ) [4, 5, 14]. FVL mutations are extremely rare in Africa, with the exception of Zairian Cameroonians and Zulu-speaking South Africans [15, 16]. In Sudan, a study done by Ibrahim et al. (2018) found FVL mutation absent from all subjects of their study [17]. The purpose of this study was to use DNA sequencing to look for mutations in the Factor V Gene exon 10 in Sudanese patients with Deep Vein Thrombosis. Sampling A total of 3 ml of venous blood samples were obtained from 15 Sudanese patients hospitalized to Omdurman teaching hospital with DV during August and October 2018. Blood samples were collected in an EDTA anticoagulant tube and kept at -20°C until DNA was needed for the next stage. Dna Extraction And Pcr Amplicon Page 3/10 Dna Sequencing: Samples were sent for Sanger sequencing at BGI company (China). Page 3/10 Page 3/10 The guanidine chloride technique was used to extract DNA from thirty people. In a nutshell, 10ml of red cell lysis buffer was added. After that, the mixture was centrifuged at 6000 rpm for 5 minutes to pellet the white blood cells. Following that, 2ml of white blood cell lysis buffer, 25l of proteinase k, 1ml of guanidine chloride, and 300l of NH4 acetate were added. After an overnight incubation, the mixture was cooled to room temperature before being added to 2ml of pre-chilled chloroform. The mixture was combined and centrifuged for 5 minutes at 2500 rpm. Then, 20 minutes later, 100% ethanol was added, stirred, and centrifuged. After that, 4 mL of 70% ethanol was added and centrifuged for 15 minutes at 3000 rpm. The supernatant was removed, and the pellet containing the DNA was air dried for 10 minutes before being resuspended in 100l Tris EDTA buffer. The collected DNA was kept in a safe place until it was needed [18]. The NCBI primer tool (http://www.ncbi.Nlm.Nih.govltools/) was used to build primers for PCR (Table 1). The Maxime PCR premix kit was used to amplify DNA (iNtRON, Korea). The Maxime PCR premix kit was used to amplify DNA (iNtRON, Korea). In a total volume of 20 ml, the PCR experiment was performed with 1 ml of each reverse and forward primer, 4 ml of template DNA, and 14 ml of water for injection. Heating at 94°C for 7 minutes, 30 seconds, annealing at 60°C for 30 seconds, and extension at 72°C for 30 seconds (35 cycles), with a final extension at 72°C for 10 minutes [19]. On a 2% agarose gel, the PCR results were examined. Table 1 Primer used to amplify factor V Leiden gene (NCBI primer blast). Primer name Primer sequence Amplicon F5 forward 5-TGGTTCCAGCGAAAGGTTATT-3 388 F5 reverse 5-TGCCCCATTATTTAGCCAGGA-3 Table 1 Primer used to amplify factor V Leiden gene (NCBI primer blast). Primer name Primer sequence Amplicon F5 forward 5-TGGTTCCAGCGAAAGGTTATT-3 388 F5 reverse 5-TGCCCCATTATTTAGCCAGGA-3 Statistical analysis: A statistical pakage for social science (SPSS; version 20) software was used to analyze all data. The results are organized in tables and then loaded into SPSS according to the program's instructions, where they are analyzed using correlation. For the relationship between the variables, a P-value of less than 0.05 was considered significant. The Results Page 4/10 Conventional PCR technique was done for 15 DVT patients in order to amplify F5 gene, using a specific primer (Fig. 1). Conventional PCR technique was done for 15 DVT patients in order to amplify F5 gene, using a specific primer (Fig. 1). Discussion The most common hereditary cause of venous thrombosis is Factor V Leiden. According to ethnicity and geographic dispersion, the prevalence rate in the general population ranges from 0 to 15% [20, 21]. In Asian, African, and indigenous Australian people, the mutation is exceedingly rare, while it is rather common in white Americans (5.2%) [10], and high in Mediterranean populations, Syria, Jordon and Greece (13.6%, 12.3% and, 13.4%) respectively [14]. Lebanon has one of the highest rates of FVL mutation in the Eastern Mediterranean and the globe, with a frequency of 14.4 percent in the general population [14]. Factor V Leiden is the most frequent genetic risk factor for VTE, occurring in 20–25% of VTE patients and 50% of individuals with familial thrombophilia.[10]. Heterozygote carriers have a 7-fold greater risk of venous thrombosis, whereas homozygote carriers have an 80-fold increased risk [22]. Factor V Leiden (FVL) testing is currently one of the most used molecular genetic diagnostics. Using a small number of samples, this study indicates the existence of a shared genetic frequency for thrombosis in the Sudanese community of DVT patients. First, the findings demonstrate that the most frequent venous thromboembolism (VTE) genetic risk factor in Caucasians, factor V Leiden (FVL), is absent in the study's data. This research supported the finding of Ibrahim et al. [17], Franco et al. [23], Stefano et al. [24], and Hira et al. [25]. Second, this research shows that exon 10 of coagulation factor has a missense mutation (rs6020) A/G. Present in five cases, causing arginine to be replaced by lysine at position 455, due to a shift in the coding amino acid (adenine-A) to (guanine-G) as (GGAC/GGGC) at position 1628. In Chinese people, this mutation causes coagulation abnormalities and femoral head osteonecrosis. This mutation is found in less than 1% of Caucasians, 30% of Africans, and 70% of Chinese and Japanese people on average. To estimate the prevalence of mutation among Sudanese patients, more research on a larger number of Sudanese patients is needed. Dna Sequencing The genetic variable related with thrombosis in Sudanese deep vein thrombosis patients is explained by DNA sequencing. BGI Company received a total of fifteen patient samples for sequencing. This investigation found no indication of the presence of factor V Leiden in the individuals. In these individuals, a single nucleotide polymorphism in exon 10 of coagulation factor V (rs6020) was discovered. Although this mutation has a substantial relationship with illness, its specific involvement in the pathogenesis of DVT in Sudanese remains unknown. The rs6020 (A/G) mutation was found in 40% (6/15) of the patients, with 5 individuals heterozygous and just one homozygous mutant (Table 2) (Figs. 2 and 3). Table 2 Show the number and heterozygosity found in case and control. ID Polymorphism 7 GG 8 GG 9 GA 11 GG 13 GA 14 GA 28 GA 29 AA 106 GG 107 GG 110 GA 111 GG 114 GA 116 GG 118 GA Table 2 Show the number and heterozygosity found in case and control. ID Polymorphism 7 GG 8 GG 9 GA 11 GG 13 GA 14 GA 28 GA 29 AA 106 GG 107 GG 110 GA 111 GG 114 GA 116 GG 118 GA Page 5/10 Ethical consideration In compliance with the Helsinki declaration, ethical permission to perform this study was acquired from the college of medical laboratory science research committee at Sudan University of science and technology. Wriiten informed conscent for data collection and publication were obtained from participant. All methods were carried out in accordance with relevant guidelines and regulations. All methods were carried out in accordance with relevant guidelines and regu Authorship Contributions Concept: H.N.A; Design: A.M.A; Data Collection or Processing: A.I.B; Analysis or Interpretation: M.E, H.N.A; Literature Search: A.B.A;Writing: A.B.A Concept: H.N.A; Design: A.M.A; Data Collection or Processing: A.I.B; Analysis or Interpretation: M.E, H.N.A; Literature Search: A.B.A;Writing: A.B.A Page 6/10 Page 6/10 Conflict of Interest: No conflict of interest was declared by the Author. Data Availability: Data available in crosponding auther when needed. Data Availability: Data available in crosponding auther when needed. Consent for publication: Wriiten informed conscent for publication were obtained from the college of medical laboratory science research committee at Sudan University of science and technology and also from participant in study. References Effectiveness of factor V Leiden and prothrombin mutation testing in patients presenting with a first unprovoked venous thromboembolic episode: a systematic review and economic analysis [Internet]. Ottawa: The Agency; 2015 (CADTH Optimal Use Report vol. 4, no. 1a). 2015. 14. Kreidy, R. Factor V-Leiden mutation: a common risk factor for venous thrombosis among Lebanese patients. Thrombosis 2012, 2012. 14. Kreidy, R. Factor V-Leiden mutation: a common risk factor for venous thrombosis among Lebanese patients. Thrombosis 2012, 2012. 14. Kreidy, R. Factor V-Leiden mutation: a common risk factor for venous thrombosis among Lebanese patients. Thrombosis 2012, 2012. 15. Tranquilli, A. Thrombophilia; BoD–Books on Demand: 2011. 15. Tranquilli, A. Thrombophilia; BoD–Books on Demand: 2011. 16. Herrmann, F.H.; Salazar‐Sánchez, L.; Schuster, G.; Jiménez‐Arce, G.; Grimm, R.; Gomez, X.; Chavez, M.; Wulff, K.; Schröder, W. Prevalence of eight molecular markers associated with thrombotic diseases in six Amerindian tribes and two African groups of Costa Rica. American Journal of Human Biology 2004, 16, 82-86. 17. Ibrahim, N.A.; Hassan, F.M.; Elgari, M.M.; Abdalla, S.E. Risk factors for deep vein thrombosis of lower extremities in Sudanese women. Vascular health and risk management 2018, 14, 157. 17. Ibrahim, N.A.; Hassan, F.M.; Elgari, M.M.; Abdalla, S.E. Risk factors for deep vein thrombosis of lower extremities in Sudanese women. Vascular health and risk management 2018, 14, 157. 18. Merezhko, M. Cellular fates and secretion ofAlzheimer’s disease-related proteins APP and tau. Dissertationes Scholae Doctoralis Ad Sanitatem Investigandam Universitatis Helsinkiensis’ 2020. 19. Huber, S.; McMaster, K.J.; Voelkerding, K.V. Analytical evaluation of primer engineered multiplex polymerase chain reaction–Restriction fragment length polymorphism for detection of factor V Leiden and prothrombin G20210A. The Journal of Molecular Diagnostics 2000, 2, 153-157. 20. Roberts, L.N.; Patel, R.K.; Arya, R. Venous thromboembolism and ethnicity. British journal of haematology 2009, 146, 369-383. 21. Montagnana, M.; Favaloro, E.J.; Franchini, M.; Guidi, G.C.; Lippi, G. The role of ethnicity, age and gender in venous thromboembolism. Journal of thrombosis and thrombolysis 2010, 29, 489-496. 22. Rosendaal, F.; Koster, T.; Vandenbroucke, J.; Reitsma, P. High risk of thrombosis in patients homozygous for factor V Leiden (activated protein C resistance)[see comments]. 1995. 23. Franco, R.F.; Elion, J.; Santos, S.E.; Araújo, A.G.; Tavella, M.H.; Zago, M.A. Heterogeneous ethnic distribution of the factor V Leiden mutation. Genetics and molecular biology 1999, 22, 143-145. 23. Franco, R.F.; Elion, J.; Santos, S.E.; Araújo, A.G.; Tavella, M.H.; Zago, M.A. Heterogeneous ethnic distribution of the factor V Leiden mutation. References 1. Morange, P.-E.; Suchon, P.; Trégouët, D.-A. Genetics of Venous Thrombosis: update in 2015. Thrombosis and haemostasis 2015, 114, 910-919. 2. Anderson, J.A.; Weitz, J.I. Hypercoagulable states. Clinics in chest medicine 2010, 31, 659-673, doi:10.1016/j.ccm.2010.07.004. 3. Sharma, A.; Bhakuni, T.; Biswas, A.; Ranjan, R.; Kumar, R.; Kishore, K.; Mahapatra, M.; Jairajpuri, M.A.; Saxena, R. Prevalence of factor V genetic variants associated With Indian APCR contributing to thrombotic risk. Clinical and Applied Thrombosis/Hemostasis 2017, 23, 596-600. 4. Jadaon, M.M. Epidemiology of activated protein C resistance and factor v leiden mutation in the mediterranean region. Mediterranean journal of hematology and infectious diseases 2011, 3, e2011037, doi:10.4084/mjhid.2011.037. 5. Sampram, E. Arterial Thrombosis in Factor V Leiden or Activated Protein C Resistance. Clinical and Experimental Studies; Lund University: 2012; Vol. 2012. 6. Michel, C.A.; Rocha, J.B.; Costa, D.C.; Lima, C.A.; Batschauer, A.P.B. Prevalence of factor V Leiden in patients with venous thrombosis. Jornal Brasileiro de Patologia e Medicina Laboratorial 2016, 52, 227-232. 7. Lu, M.-L.; Sung, P.-H.; Huang, T.-W.; Chen, S.-C.; Lin, R.; Yip, H.-K.; Lee, M.S. Risks of factor V rs6020 or methylenetetrahydrofolate reductase rs12121543 polymorphism with hyperhomocysteinemia in the development of osteonecrosis of the femoral head. The Journal of Hip Surgery 2017, 1, 061-066. 8. Peng, K.-T.; Huang, K.-C.; Huang, T.-W.; Lee, Y.-S.; Hsu, W.-H.; Hsu, R.W.; Ueng, S.W.; Lee, M.S. Single nucleotide polymorphisms other than factor V Leiden are associated with coagulopathy and osteonecrosis of the femoral head in Chinese patients. PloS one 2014, 9. 9. Ehab, M.E.; Purushothaman, A. Recurrent Venous Thrombo-Embolism in a Young Adult Female: Case Report with Review of Literature. EC Cardiology 2015, 2, 134-140. 10. Kujovich, J.L. Factor v Leiden thrombophilia. Genetics in Medicine 2011, 13, 1-16. 11. Rennert, H.; DeSimone, R.A. Molecular Testing for Factor V Leiden and Prothrombin Gene Mutations in Inherited Thrombophilia. In Transfusion Medicine and Hemostasis, Elsevier: 2019; pp. 903-906. Page 7/10 Page 7/10 12. Corral, J.; Roldán, V.; Vicente, V. Deep venous thrombosis or pulmonary embolism and factor V Leiden: enigma or paradox. Haematologica: 2010. 13. Drugs, C.A.f.; Health, T.i. Effectiveness of factor V Leiden and prothrombin mutation testing in patients presenting with a first unprovoked venous thromboembolic episode: a systematic review and economic analysis [Internet]. Ottawa: The Agency; 2015 (CADTH Optimal Use Report vol. 4, no. 1a). 2015. 13. Drugs, C.A.f.; Health, T.i. References Genetics and molecular biology 1999, 22, 143-145. 24. de Stefano, V.; Chiusolo, P.; Paciaroni, K.; Leone, G. Epidemiology of factor V Leiden: clinical implications. In Proceedings of Seminars in thrombosis and hemostasis; pp. 367-379. 24. de Stefano, V.; Chiusolo, P.; Paciaroni, K.; Leone, G. Epidemiology of factor V Leiden: clinical implications. In Proceedings of Seminars in thrombosis and hemostasis; pp. 367-379. 25. Hira, B.; Pegoraro, R.; Rom, L.; Moodley, J. Absence of Factor V Leiden, thrombomodulin and prothrombin gene variants in Black South African women with pre‐eclampsia and eclampsia. BJOG: An International Journal of Obstetrics & Gynaecology 2003, 110, 327-328. 25. Hira, B.; Pegoraro, R.; Rom, L.; Moodley, J. Absence of Factor V Leiden, thrombomodulin and prothrombin gene variants in Black South African women with pre‐eclampsia and eclampsia. BJOG An International Journal of Obstetrics & Gynaecology 2003, 110, 327-328. Figures Page 8/10 Figure 1 Amplification of factor V gene. Length of band :( 388). Lane 1-3 and 6-9 are bands of exon 10, lane 4 is DNA ladder (50) bp. 5, 7 and 10 are negative bands. Amplification of factor V gene. Length of band :( 388). Lane 1-3 and 6-9 are bands of exon 10, lane 4 is DNA ladder (50) bp. 5, 7 and 10 are negative bands. Figure 2 Multiple sequence alignment of exon 10 of FV Leiden, showing SNP G/A (rs6020C>T). Figure 2 Multiple sequence alignment of exon 10 of FV Leiden, showing SNP G/A (rs6020C>T). Multiple sequence alignment of exon 10 of FV Leiden, showing SNP G/A (rs6020C>T). Multiple sequence alignment of exon 10 of FV Leiden, showing SNP G/A (rs6020C>T). Multiple sequence alignment of exon 10 of FV Leiden, showing SNP G/A (rs6020C>T). Page 9/10 Page 9/10 Figure 3 Figure 3 Chromatogram of exon 10 of FV Leiden, showing polymorphism of G/A (rs6020C>T homozygous (GG), B. Heterozygous (GA), C. homozygous mutant Figure 3 Chromatogram of exon 10 of FV Leiden, showing polymorphism of G/A (rs6020C>T). A. Figure 3 Chromatogram of exon 10 of FV Leiden, showing polymorphism of G/A (rs6020C>T). A. Normal homozygous (GG), B. Heterozygous (GA), C. homozygous mutant Page 10/10
https://openalex.org/W4385207989
https://jurnal.unimed.ac.id/2012/index.php/handayani/article/download/6503/7432
Indonesian
null
PEMBINAAN MENULIS PUISI DENGAN TEKNIK PEMODELAN
Jurnal handayani
2,017
cc-by-sa
2,203
Jurnal Handayani Vol. 5 (1) Juni 2016 Jurnal Handayani Vol. 5 (1) Juni 2016 Kata kunci : Menulis Puisi, Teknik Pemodelan Kata kunci : Menulis Puisi, Teknik Pemodelan PEMBINAAN MENULIS PUISI DENGAN TEKNIK PEMODELAN Marataon Nasution Guru SMA Negeri 1 Tambangan Surel: marataonnst@yahoo.co.id ABSTRAK Tujuan menulis puisi dengan teknik pemodelan ini agar siswa memiliki kemampuan menulis puisi dengan baik dan berkualitas. Dalam menulis puisi siswa diarahkan dengan melihat, mencontoh, dan berpedoman pada teknik pemodelan puisi yang telah ditentukan. Dengan teknik yang digunakan tersebut siswa menjadi lebih terampil menulis puisi, menghasilkan puisi berkualitas imajinatif, aktual kontekstual. Selanjutnya dalam kurikulum tingkat satuan pendidikan yang disempurnakan dengan kurikulum 2013 dijelaskan bahwa salah satu hal bersastra yang harus diajarkan dan mesti dikuasai siswa adalah menulis puisi. Banyak teknik pembelajaran yang dapat disodorkan, salah satunya teknik pemodelan. Teknik ini dikenal sejak tahun 2004 dalam kurikulum berbasis kompetensi. Jurnal Handayani Vol. 5 (1) Juni 2016 Jurnal Handayani Vol. 5 (1) Juni 2016 Dalam tubuh organisasi osis di sekolah menengah jarang pula ditemukan, kelompok yang ditetapkan sebagai pengurus yang membidangi kreativitas siswa dalam tulis menulis ini termasuk menulis puisi. Berdasarkan berbagai asumsi dan penjelasan itu semua pengajaran menulis puisi sering gagal di sekolah menengah disebabkan dua hal. Pertama lemahnya pengajaran menulis puisi secara teoretis dalam pembelajaran, kedua kurangnya latihan serta fasilitas yang mendukung kegiatan tersebut di setiap sekolah menengah sebagai mana tersebut pada penjelsan di atas. mendapat tanggapan paling sulit dilakukan siswa bila dibandingakan dengan aspek sastra yang lain seperti membaca puisi, cerpen, dan menulis cerpen. Padahal sebagaimana penjelasan di atas, bahwa semua kehidupan itu dapat dijadikan sebagai sumber ide dalam menulis puisi. Baik pengalaman yang langsung maupun tidak. Kesulitan- kesulitan siswa ini diduga selain disebabkan pandangan dan pemahaman yang dangkal tentang teori sastra-puisi-dan menulis puisi juga disebabkan oleh lemahnya pengajaran menulis puisi. Lemahnya pengajaran menulis puisi juga disebabkan berbagai hal. Pertama lemahnya teori yang di sodorkan kepada siswa, fasilitas yang minimal, frekuensi latihan yang minimal, dan tidak adanya ruang publikasi tulisan di sekolah menengah. Ruang tulisan yang dimaksud adalah mading sekolah. Madding sekolah tidak bisa dianggap remeh karena dengan adanya madding sekolah merupakan ruang untuk mempublikasikan tulisan secara sederhana di sekolah. Sejalan dengan itu, penulis mencoba mengupas bagaimana pembinaan menulis puisi dengan teknik pemodelan di sekolah menengah yang dibatasi pada sekolah menengah tingkat atas SMAN 1 Tambangan Kab. Mandailing Natal sehingga pengajaran menulis puisi dapat mencapai apa yang diharapkan dalam kurikulum bersastra di sekolah menengah. Ini sebuah teori dan model yang dapat dicontoh siswa dalam menulis puisi. Selain itu pula, Mading (majalah dinding) sekolah tersedia tetapi tidak berfungsi. Ini diduga karena kelalaian sekolah. Pertama kepala sekolah tidak menyediakan dana sekolah untuk pengoperasian mading sekolah dan yang kedua kurangnya kompetensi guru atau fasilitas mading yang belum ada di sekolah. Hampir di seluruh sekolah ditemukan mading yang tidak berfungsi karena berbagai penyebab tersebut di atas. PENDAHULUAN menawarkan dua hal utama yaitu kesenagan dan pemahaman. Sastra merupakan hal yang dapat memeberi kesenangan dan pemahaman itu. Membawa setiap manusia kepada hal yang penuh daya baik melalui menikmati atau pun mencipta karya sastra. Salah satu hal yang menyenangkan adalah menulis puisi di kalangan siswa menengah untuk memahami kehidupan mereka apabila pembelajaran menulis puisi itu menarik dan disenangi Kegiatan mencipta puisi dapat memanjakan fantasi, menanjamkan pikiran dan emosi yang penuh imajinasi yang pada akhirya menghaluskan jiwa. Sastra mengandung kebenaran tentang kehidupan. Pada hakikatnya sastra adalah citra kehidupan, gambaran kehidupan. Sebagaimana manusia dewasa, siswa pun membutuhkan informasi tentang dunia, tentang segala sesuatu dan yang terjadi di sekelilingnya. Siswa memiliki rasa ingin tahu tentang segala sesuatu yang dapat dijangkau pikirannya. Siswa juga butuh pengakuan, perhatian, dan penghargaan. Semua itu sudah tentu merupakan pemenuhan kebutuhan dan apresiasi terhadap siswa. Karena siswa pada sekolah tingkat menengah sedang berada dalam masa peka untuk memperoleh, memupuk, dan mengembangkan berbagai aspek kehidupan dalam pergaulannya di lingkungan yang variatif. Hal tersebut dapat dilakukan lewat bentuk kreativitas yaitu menulis puisi sebagai mana yang tercantum dalam kurikulum pendidikan menengah. Dalam kehidupan remaja ini Likens dalam Burhan Nurgiyantoro (108; 2004), Berdasarkan pengamatan penulis dalam sebuah pembelajaran di sekolah menengah, menulis puisi termasuk aspek yang selalu p-ISSN: 2355 - 1739 e-ISSN: 2407 - 6295 171 TEKNIK PEMODELAN Pemodelan adalah salah satu komponen pendekatan kontekstual. Kontekstual berasal dari bahasa Latin (conwopen) yang maksudnya mengikuti konteks atau kedaan. Sejalan dengan pendapat ini Umaedi(2002;1) mengemukakan,”Pendekatan kontekstual merupakan konsep mengemukakan,”Pendekatan kontekstual merupakan konsep p-ISSN: 2355 - 1739 e-ISSN: 2407 - 6295 172 Jurnal Handayani Vol. 5 (1) Juni 2016 bisa ditiru. Model bisa cara mengoperasikan sesuatu, cara melempar bola dalam olahraga, contoh karya tulis,cara melafalkan bahasa Inggris dan sebagainya. belajar yang membantu guru mengaitkan antara materi yang diajarkannya dengan situasi dunia nyata siswa dan mendorong siswa membuat hubungan antara pengetahuan yang dimilikinya dengan penerapannya dalam kehidupan mereka sebagai anggota keluarga dan masyarakat. Dengan konsep itu, hasil pembelajar diharapkan lebih bermakna bagi siswa. Proses pembelajar berlangsung alamiah dalam bentuk kegiatan siswa bekerja dan mengalami, bukan mentransper pengetahuan dari guru kepada siswa. Strategi pembelajaran lebih dipentingkan daripada manfaatnya, dalam status apa mereka dan bagaimana mencapainya. Mereka sadar apa yang dipelajarinya berguna bagi hidupnya nanti. Dengan begitu, mereka memposisikan diri sebagai diri sendiri yang memerlukan bekal untuk hidupnya nanti. Mereka mempelajari apa yang bermanfaat bagi dirinya dan berupaya menggapainya. Dalam upaya itu mereka memerlukan guru sebagai pengarah dan pembimbing”. Dengan demikian dapat dikatakan bahwa dalam proses belajar mengajar ada model yang bisa ditiru dan diamati siswa baik dalam bentuk apapun yang secara langsung dapat menjadi acuan untuk ditiru oleh siswa. Inilah yang dinamakan pembelajaran dengan pemodelan. Dalam menulis puisi dikenal dengan empat teknik pemodelan, yaitu : mendeskripsikan objek konkret, mengurai nama diri, menulis puisi berdasarkan tokoh, dan menulis puisi berdasarkan pengalaman. Perhatikan penjelasan berikut ini, Mendeskrifsikan Objek Konkret Mendeskrifsikan adalah menulis puisi berdasarkan objek yang dapat diamati. Misalnya pesawat terbang, kapal laut, dan lain lain. Contoh : Bulan Pemodelan sebagai bagian dari pembelajaran kontekstual memiliki pengertian sebagai suatu yang dibuat dengan ukuran tiga dimensi, sehingga menyerupai benda aslinya untuk menjelaskan hal-hal yang tidak mungkin kita peroleh dari benda sebenarnya. Mufidah Kuraih cita-cita dalam kesulitan Menjalani krikil tajam Menuai keceriaan Atas Segala penderitaan Yang telah berlalu Mulai ku bersujud Untuk memujimu Faedah hidup Ilmu yang berkah Dalam amalanku Aku selalu bersyukur Hanya Pada-Mu Mulai ku bersujud Untuk memujimu Faedah hidup Ilmu yang berkah Dalam amalanku Aku selalu bersyukur Hanya Pada-Mu p-ISSN: 2355 - 1739 e-ISSN: 2407 - 6295 Bulan yang bercahaya Jangan engkau redup Menerangi malam Yang kelam Kau adalah semangat Di kala malam menuju larut Mengurai Nama Diri Bulan yang bercahaya Jangan engkau redup Menerangi malam Yang kelam Kau adalah semangat Di kala malam menuju larut Dalam pembelajaran CTL Nurhadi mengatakan,”Sebuah pembelajaran keterampilan atau pengetahuan tentu ada model yang Mengurai Nama Diri p-ISSN: 2355 - 1739 e-ISSN: 2407 - 6295 173 Jurnal Handayani Vol. 5 (1) Juni 2016 Jurnal Handayani Vol. 5 (1) Juni 2016 Menulis puisi berdasarkan pengalaman adalah menuangkan pengalaman yang dialami secara langsung maupun tidak. Perhatiakan contoh ini. Mengurai nama diri maksudnya adalah menuliskan nama kita menjadi puisi. Artinya nama kita diurutkan secara vertikal dan awal nama tersebut menjadil awal kata dalam puisi. Perhatikan contoh berikut ini. Realisme Uji Coba Teknik Pemodelan dalam Menulis Puisi Metode yang dipakai dalam tulisan ini adalah deskriptif yaitu hanya menguraikan dengan singkat fakta-fakta yang didapatkan dalam pembelajaran menulis puisi selama satu semester tepatnya semester genap tahun pembelajran 2015-2016. Uji coba yang dimaksud dilakukan di SMAN 1 Tambangan Mandailing Natal pada kelas XII dan kelas VII MTsN panyabungan. Menulis Puisi Berdasarkan Tokoh Menulis puisi berdasarkan tokoh sejarah adalah mengemukakan kelebihan tokoh yang dimaksud tersebut. Perhatikan contoh berikut ini. Menulis Puisi Berdasarkan Tokoh Menulis puisi berdasarkan tokoh sejarah adalah mengemukakan kelebihan tokoh yang dimaksud tersebut. Perhatikan contoh berikut ini. p-ISSN: 2355 - 1739 e-ISSN: 2407 - 6295 SBY Kau sangat gagah Hatimu kuat Pikiranmu terang Melihat masa depan bangsa SBY Kau adalah harapan kami Harapan bumi pertiwi Dalam setiap kata dan suasana Tuk mencipta Kemakmuran Indonesia Menulis puisi berdasarkan Pengalaman Dalam menulis puisi ini siswa diberikan model pembelajaran menulis puisi sebagai mana tersebut di atas secara terus menerus selama satu semester dimaksud dalam setiap jam belajar sastra Indonesia di sekolah. Kemudian dari puisi yang diciptakan siswa di dapat data sebagai berikut. Di tingkat sekolah menengah atas (SMAN 1 Tambangan) 174 Jurnal Handayani Vol. 5 (1) Juni 2016 Beberapa Contoh Karya Siswa dalam Uji Coba Menulis Puisi dengan Teknik Pemodelan Karya Aziz R/ SMAN 1 Tambangan Aku Ingin Kita Bersama Aku ingin kita bersama dalam suka duka Dalam indahnya kehidupan masa depan Bagai air mengalir bersuara bergetar mengalun Memanjakan anganku seluas samudera Kau ucapkan pada ku sayang dan cinta Dalam rona kedaulatan kebersamaan pada Persahabatan yang selama ini terbungkus Dengan kasih dan ikhlasnya belaian Kata-kata cinta mu Karya Rinanda / SMAN 1 Tambangan Cinta Kita Takkan Hilang Takkan hilang Takkan lekang cinta kita Walau ditengah badai yang tajam Menghantam nilai sukma Rasa sayangku masih Tetap untukmu walau jauh Cinta kita takkan hilang Seperti hanyutnya air di lautan Jurnal Handayani Vol. 5 (1) Juni 2016 Jurnal Handayani Vol. 5 (1) Juni 2016 Berdasarkan uji coba yang dilakukan di atas dapat dijelaskan pada jenjang sekolah menengah atas tema yang didapatkan dari hasil karya siswa lebih kepada dunia remaja. Dunia remaja adalah dunia yang begitu indah. Pada usia ini mereka sudah mulai ingin memiliki, ingin disayangi, ingin dipuji, ingin berhasil, ingin dihormati, walaupun belum sepenuhnya. Ini menandakan bahwa usia dan variatif model yang disodorkan sejalan dengan pengalaman mereka sehari-hari. Siswa menjadi termotivasi, pembelajaran menulis puisi lebih hidup, dan dinamis. Hidup berarti siswa lebih termotivasi menulis puisi berdasarkan konteks kehidupan pembelajaran yang diberikan dalam setiap pembelajaran sastra di kelas dan dinamis siswa lebih bebas memilih tema serta model pembelajaran menulis puisi. Dinilai 1. Tema Lebih mendominasi pada kehidupan remaja misalnya tema persahabatan, cinta, dan perpisahaan antara sahabat. 2. Diksi Selalu mengerucut pada pilihan kata yang sifatnya meremaja, tersa indah, penuh khayal, dan pengharapan 3 Gaya bahasa Selalu membandingkan keadaan yang mereka rasakan 4. Penggu- naan Model Lebih cenderung menulis puisi berdasarkan pengalaman Di tingkat sekolah menengah pertama (MTsN Panyabungan) Pada sekolah tingkat menengah pertama tema yang muncul lebih variatif, diksi dan gaya bahasa lebih variatif mengacu kepada kehidupan religius dan sosial serta semua model yang disodorkan hampir semua diminati siswa. Ini menandakan bahwa siswa di sekolah menengah pertama masih menginjak pada masa remaja seiring dengan usia mereka dan kehidupan mereka sehari-hari. No. Aspek yang Dinilai Deskripsi 1. Tema Lebih variatif 2. Diksi Selalu mengerucut pada pilihan kata yang sifatnya variatif , religius, sosial. 3 Gaya bahasa Lebih variatif 4. Penggu- naan Model Tidak ada yang mendominasi, semua model hampir digunakan dalam menulis puisi. Menulis puisi berdasarkan model yang diberikan baik pada tingkat sekolah menengah atas maupun pada sekolah tingkat menengah pertama dapat mewakili p-ISSN: 2355 - 1739 e-ISSN: 2407 - 6295 175 Jurnal Handayani Vol. 5 (1) Juni 2016 minat dan sekaligus menarik bakat mereka dalam menulis puisi. Ini kisah kita yang harus dibingkai Dengan kekuatan cinta kita Yang mekar mewangi 1 minat dan sekaligus menarik bakat mereka dalam menulis puisi. Beberapa Contoh Karya Siswa dalam Uji Coba Menulis Puisi dengan Teknik Pemodelan Karya Rahma Liana / MTsN Panyabungan Karisma yang Hilang Karya Rahma Liana / MTsN Panyabungan Karisma yang Hilang Karya Aziz R/ SMAN 1 Tambangan Aku Ingin Kita Bersama Semua dosa diambilnya Tuk direbus buat senja Toh pak Tahta tak sampai Pada petang, ia pergi entah Kemana bak Berkelana mencari yang tiada Memikul dosa-dosanya DAFTAR RUJUKAN Depdikbud. 1986. Sanggar Sastra. Jakarta. Depdikbud. Depdikbud. 1986. Sanggar Sastra. Jakarta. Depdikbud. Nurgiayantoro, Burhan. 2004. Sastra Anak. Humaniora. Vol. 16. No. Nurgiayantoro, Burhan. 2004. Sastra Anak. Humaniora. Vol. 16. No. 2 2 Purba, Antilan. 2002 . Sastra Kontemporer. Usu Press: Medan. Kucintai Muhammadku Umaedi. 2002. KBK. Depdiknas. Jakarta. Karya Dian R / MTsN Panyabungan Kemarau Kemarau datang terang Tanah kering kerontang Hati kering keras bagai batu Daunpun gugur tak henti Hidup ini merindu akan Hujan penengah kehidupan Yang semuanya kering Karena kemarau datang Berpetualang panjang p-ISSN: 2355 - 1739 e-ISSN: 2407 - 6295 176 Jurnal Handayani Vol. 5 (1) Juni 2016 Jurnal Handayani Vol. 5 (1) Juni 2016 Karya Fikri / MTsN Panyabungan Antara Ada Dan Tiada Hidup ini Antara ada dan tiada Antara dosa dan pahala Antara roda yang berputar Kadang di bawah dan terkawah Kadang di atas dan tak waras Hidup ini Antara ada dan tiada yang Merajalela mengejar yang Takkan dibawa ke alam sana Karya Mutia Adilla P. / MTsN Panyabungan Cermin Hidupku Dalam kisah berseri Dalam hidupku Dalam anganku Dalam kasih sayang Dalam ketulusan Dalam segala kata Dalam segala tawa Engkaulah cerminku Wahai orang yang Kucintai Muhammadku KESIMPULAN 2. Salah satu cara membantu siswa dalam menulis puisi di sekolah menengah adalah dengan teknik pemodelan yang diterapkan dalam setiap pembelajaran di kelas, 3. Teknik pemodelan sebagaimana dalam tulisan ini untuk menulis puisi dapat memotivasi siswa lebih dinamis sesuai dengan usia pendidikan mereka, 4. Deengan teknik pemodelan ini puisi yang dihasilkan oleh siswa lebih variatif sehingga hasil yang diharapkan dalam mencipta puisi lebih maksimal. 4. Deengan teknik pemodelan ini puisi yang dihasilkan oleh siswa lebih variatif sehingga hasil yang diharapkan dalam mencipta puisi lebih maksimal. KESIMPULAN Berdasarkan teori dan realisme teknik pemodelan dalam menulis puisi di atas dapat disimpulkan bahwa, 1. Menulis puisi salah satu pembelajaran sastra di sekolah menengah yang yang harus dibina dan dikembangkan dengan cara yang menarik, variatif, dan modern, p-ISSN: 2355 - 1739 e-ISSN: 2407 - 6295 177
https://openalex.org/W2952440522
https://bib-pubdb1.desy.de/record/418374/files/Aaij2018_Article_MeasurementOfTheCKMAngle%CE%93Using.pdf
English
null
Measurement of the CKM angle γ using B± → DK± with D → K0Sπ+π−, K0SK+K− decays
˜The œJournal of high energy physics/˜The œjournal of high energy physics
2,018
cc-by
21,403
Open Access, Copyright CERN, for the benefit of the LHCb Collaboration. Published for SISSA by Springer Received: June 5, 2018 Accepted: August 14, 2018 Published: August 28, 2018 Received: June 5, 2018 Accepted: August 14, 2018 Published: August 28, 2018 Received: June 5, 2018 Accepted: August 14, 2018 Published: August 28, 2018 Measurement of the CKM angle γ using B± →DK± with D →K0 Sπ+π−, K0 SK+K−decays JHEP08(2018)176 The LHCb collaboration Keywords: B physics, CKM angle gamma, CP violation, Flavor physics, Hadron-Hadron scattering (experiments) Keywords: B physics, CKM angle gamma, CP violation, Flavor physics, Hadron-Hadron scattering (experiments) ArXiv ePrint: 1806.01202 ArXiv ePrint: 1806.01202 ArXiv ePrint: 1806.01202 ArXiv ePrint: 1806.01202 https://doi.org/10.1007/JHEP08(2018)176 Contents 1 Introduction 1 2 Overview of the analysis 2 3 Detector and simulation 5 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays 5 5 Event selection and yield determination for ( ) B →D∗±µ∓( ) νµ decays 12 6 Dalitz plot fit to determine the CP -violating parameters x± and y± 15 7 Systematic uncertainties 18 8 Results and interpretation 22 9 Conclusions 26 The LHCb collaboration 31 Contents 1 Introduction 1 2 Overview of the analysis 2 3 Detector and simulation 5 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays 5 5 Event selection and yield determination for ( ) B →D∗±µ∓( ) νµ decays 12 6 Dalitz plot fit to determine the CP -violating parameters x± and y± 15 7 Systematic uncertainties 18 8 Results and interpretation 22 9 Conclusions 26 The LHCb collaboration 31 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays JHEP08(2018)176 5 Event selection and yield determination for ( ) B →D∗±µ∓( ) νµ decays 1 The LHCb collaboration 31 The LHCb collaboration E-mail: mikkel.bjoern@physics.ox.ac.uk Abstract: A binned Dalitz plot analysis of B± →DK± decays, with D →K0 Sπ+π−and D →K0 SK+K−, is used to perform a measurement of the CP-violating observables x± and y±, which are sensitive to the Cabibbo-Kobayashi-Maskawa angle γ. The analysis is performed without assuming any D decay model, through the use of information on the strong-phase variation over the Dalitz plot from the CLEO collaboration. Using a sample of proton-proton collision data collected with the LHCb experiment in 2015 and 2016, and corresponding to an integrated luminosity of 2.0 fb−1, the values of the CP violation parameters are found to be x−= (9.0±1.7±0.7±0.4)×10−2, y−= (2.1±2.2±0.5±1.1)× 10−2, x+ = (−7.7±1.9±0.7±0.4)×10−2, and y+ = (−1.0±1.9±0.4±0.9)×10−2. The first uncertainty is statistical, the second is systematic, and the third is due to the uncertainty on the strong-phase measurements. These values are used to obtain γ = 87 +11 −12 ◦, rB = 0.086+0.013 −0.014, and δB = (101±11)◦, where rB is the ratio between the suppressed and favoured B-decay amplitudes and δB is the corresponding strong-interaction phase difference. This measurement is combined with the result obtained using 2011 and 2012 data collected with the LHCb experiment, to give γ = 80 +10 −9 ◦, rB = 0.080 ± 0.011, and δB = (110 ± 10)◦. 1 Introduction JHEP08(2018)176 The separation of data into binned regions of the Dalitz plot leads to a loss of statistical sensitivity in comparison to using an amplitude model [16, 17]. However, the advantage of using the direct strong-phase measurements resides in the model-independent nature of the systematic uncertainties. Where the direct strong-phase measurements are used, there is only a systematic uncertainty associated with the finite precision of such measurements. Conversely, systematic uncertainties associated with determining a phase from an ampli- tude model are difficult to evaluate, as common approaches to amplitude-model building break the optical theorem [29]. Therefore, the loss in statistical precision is compensated by reliability in the evaluation of the systematic uncertainty, which is increasingly important as the overall precision on the CKM angle γ improves. 1 Introduction The strong phase can be directly accessed by exploiting the quantum correlation of D0D0 pairs from ψ(3770) decays. Such measurements have been performed by the CLEO collaboration [18] and have been used by the LHCb [9] and Belle [19] collaborations to measure γ in B± →DK± decays, and have also been used to study B0 →DK∗0 decays [20, 21]. An alternative method relies on amplitude models of D →K0 Sh+h− decays, determined from flavour-tagged D →K0 Sh+h−decays, to predict the strong-phase variation over the Dalitz plot. This method has been used for a variety of B decays [22–28]. The separation of data into binned regions of the Dalitz plot leads to a loss of statistical sensitivity in comparison to using an amplitude model [16, 17]. However, the advantage of using the direct strong-phase measurements resides in the model-independent nature of the systematic uncertainties. Where the direct strong-phase measurements are used, there is only a systematic uncertainty associated with the finite precision of such measurements. Conversely, systematic uncertainties associated with determining a phase from an ampli- tude model are difficult to evaluate, as common approaches to amplitude-model building break the optical theorem [29]. Therefore, the loss in statistical precision is compensated by reliability in the evaluation of the systematic uncertainty, which is increasingly important as the overall precision on the CKM angle γ improves. The sensitivity to γ is obtained by comparing the distributions in the Dalitz plots of D →K0 Sh+h−decays from reconstructed B+ and B−mesons [6, 7]. For this comparison, the variation of the strong-phase difference between D0 and D0 decay amplitudes within the Dalitz plot needs to be known. An attractive, model-independent, approach makes use of direct measurements of the strong-phase variation over bins of the Dalitz plot [6, 16, 17]. The strong phase can be directly accessed by exploiting the quantum correlation of D0D0 pairs from ψ(3770) decays. Such measurements have been performed by the CLEO collaboration [18] and have been used by the LHCb [9] and Belle [19] collaborations to measure γ in B± →DK± decays, and have also been used to study B0 →DK∗0 decays [20, 21]. An alternative method relies on amplitude models of D →K0 Sh+h− decays, determined from flavour-tagged D →K0 Sh+h−decays, to predict the strong-phase variation over the Dalitz plot. This method has been used for a variety of B decays [22–28]. 1 Introduction The Standard Model (SM) description of CP violation [1, 2] can be tested by overcon- straining the angles of the Unitarity Triangle. The Cabibbo-Kobayashi-Maskawa (CKM) angle γ ≡arg(−VudV ∗ ub/VcdV ∗ cb) is experimentally accessible through the interference be- tween ¯b →¯cu¯s and ¯b →¯uc¯s transitions. It is the only CKM angle easily accessible in tree-level processes and it can be measured with negligible uncertainty from theory [3]. Hence, in the absence of new physics effects at tree level, a precision measurement of γ provides a SM benchmark that can be compared with other CKM-matrix observables more likely to be affected by physics beyond the SM. Such comparisons are currently limited by the uncertainty on direct measurements of γ, which is about 5◦[4] and is driven by the LHCb average. The effects of interference between ¯b →¯cu¯s and ¯b →¯uc¯s transitions can be probed by studying CP-violating observables in B± →DK± decays, where D represents a D0 or a D0 meson reconstructed in a final state that is common to both [5–7]. This decay mode has been studied at LHCb with a wide range of D-meson final states to measure observables with sensitivity to γ [8–11]. In addition to these studies, other B decays have also been used with a variety of techniques to determine γ [12–15]. – 1 – This paper presents a model-independent study of the decay mode B± →DK±, using D →K0 Sπ+π−and D →K0 SK+K−decays (denoted D →K0 Sh+h−decays). The analysis utilises pp collision data accumulated with LHCb in 2015 and 2016 at a centre-of-mass energy of √s = 13 TeVand corresponding to a total integrated luminosity of 2.0 fb−1. The result is combined with the result obtained by LHCb with the same analysis technique, using data collected in 2011 and 2012 (Run 1) at centre-of-mass energies of √s = 7 TeVand √s = 8 TeV [9]. √ [ ] The sensitivity to γ is obtained by comparing the distributions in the Dalitz plots of D →K0 Sh+h−decays from reconstructed B+ and B−mesons [6, 7]. For this comparison, the variation of the strong-phase difference between D0 and D0 decay amplitudes within the Dalitz plot needs to be known. An attractive, model-independent, approach makes use of direct measurements of the strong-phase variation over bins of the Dalitz plot [6, 16, 17]. 2 Overview of the analysis The amplitude of the decay B−→DK−, D →K0 Sh+h−can be written as a sum of the favoured B−→D0K−and suppressed B−→D0K−contributions as The amplitude of the decay B−→DK−, D →K0 Sh+h−can be written as a sum of the favoured B−→D0K−and suppressed B−→D0K−contributions as AB(m2 −, m2 +) ∝AD(m2 −, m2 +) + rBei(δB−γ)AD(m2 −, m2 +), (2.1) (2.1) where m2 −and m2 + are the squared invariant masses of the K0 Sh−and K0 Sh+ particle combi- nations, respectively, that define the position of the decay in the Dalitz plot, AD(m2 −, m2 +) is the D0 →K0 Sh+h−decay amplitude, and AD(m2 −, m2 +) the D0 →K0 Sh+h−decay amplitude. The parameter rB is the ratio of the magnitudes of the B−→D0K−and B−→D0K−amplitudes, while δB is their strong-phase difference. The equivalent expres- sion for the charge-conjugated decay B+ →DK+ is obtained by making the substitutions – 2 – γ →−γ and AD(m2 −, m2 +) ↔AD(m2 −, m2 +). Neglecting CP violation in charm decays, the charge-conjugated amplitudes satisfy the relation AD(m2 −, m2 +) = AD(m2 +, m2 −). The D-decay Dalitz plot is partitioned into 2 × N bins labelled from i = −N to i = +N (excluding zero), symmetric around m2 −= m2 + such that if (m2 −, m2 +) is in bin i then (m2 +, m2 −) is in bin −i. By convention, the positive values of i correspond to bins for which m2 −> m2 +. The strong-phase difference between the D0 and D0-decay amplitudes at a given point on the Dalitz plot is denoted as δD(m2 −, m2 +). The cosine of δD(m2 −, m2 +) weighted by the D-decay amplitude and averaged over bin i is written as ci [6], and is given by ci ≡ R i dm2 −dm2 + |AD(m2 −, m2 +)||AD(m2 +, m2 −)| cos[δD(m2 −, m2 +) −δD(m2 +, m2 −)] qR i dm2 −dm2 + |AD(m2 −, m2 +)|2 R i dm2 −dm2 + |AD(m2 +, m2 −)|2 , (2.2) JHEP08(2018)176 (2.2) where the integrals are evaluated over the phase space of bin i. An analogous expression can be written for si, which is the sine of the strong-phase difference weighted by the decay amplitude and averaged over the bin phase space. The values of ci and si have been directly measured by the CLEO collaboration, exploiting quantum-correlated D0D0 pairs produced at the ψ(3770) resonance [18]. 2 Overview of the analysis The measurements of ci and si are available in four different 2 × 8 binning schemes for the D →K0 Sπ+π−decay. This analysis uses the ‘optimal binning’ scheme where the bins have been chosen to optimise the statistical sensitivity to γ, as described in ref. [18]. The optimisation was performed assuming a strong-phase difference distribution as predicted by the BaBar model presented in ref. [23]. For the K0 SK+K−final state, three choices of binning schemes are available, containing 2 × 2, 2 × 3, and 2 × 4 bins. The guiding model used to determine the bin boundaries is taken from the BaBar study described in ref. [24]. The 2 × 2 binning scheme is chosen, due to the low signal yields in the D →K0 SK+K− mode. The same choice of bins was used in the LHCb Run 1 analysis [9]. The measurements of ci and si are not biased by the use of a specific amplitude model in defining the bin boundaries. The choice of the model only affects this analysis to the extent that a poor model description of the underlying decay would result in a reduced statistical sensitivity of the γ measurement. The binning choices for the two decay modes are shown in figure 1. The physics parameters of interest, rB, δB, and γ, are translated into four CP obser- vables [22] that are measured in this analysis. These observables are defined as x± ≡rB cos(δB ± γ) and y± ≡rB sin(δB ± γ). (2.3) (2.3) It follows from eq. (2.1) that the expected numbers of B+ and B−decays in bin i, N+ i and N− i , are given by N+ ±i = hB+ h F∓i + (x2 + + y2 +)F±i + 2 p FiF−i(x+c±i −y+s±i) i , N− ±i = hB− h F±i + (x2 −+ y2 −)F∓i + 2 p FiF−i(x−c±i + y−s±i) i , (2.4) (2.4) where Fi are the fractions of decays in bin i of the D0 →K0 Sh+h−Dalitz plot, and hB± are normalisation factors, which can be different for B+ and B−due to production, detection, – 3 – Figure 1. Binning schemes for (left) D →K0 Sπ+π−decays and (right) D →K0 SK+K−decays. The diagonal line separates the positive and negative bins, where the positive bins are in the region in which m2 −> m2 + is satisfied. JHEP08(2018)176 Figure 1. 2 Overview of the analysis Binning schemes for (left) D →K0 Sπ+π−decays and (right) D →K0 SK+K−decays. The diagonal line separates the positive and negative bins, where the positive bins are in the region in which m2 −> m2 + is satisfied. and CP asymmetries. In this measurement, the integrated yields are not used to provide information on x± and y±, and so the analysis is insensitive to such effects. From eq. (2.4) it is seen that studying the distribution of candidates over the D →K0 Sh+h−Dalitz plot gives access to the x± and y± observables. The detector and selection requirements placed on the data lead to a non-uniform efficiency over the Dalitz plot, which affects the Fi parameters. The efficiency profile for the signal candidates is denoted as η(m2 −, m2 +). + The parameters Fi can then be expressed as The parameters Fi can then be expressed as Fi = R i dm2 −dm2 +|AD(m2 −, m2 +)|2 η(m2 −, m2 +) P j R j dm2 −dm2 +|AD(m2 −, m2 +)|2 η(m2 −, m2 +) . (2.5) (2.5) The values of Fi are determined from the control decay mode ( ) B →D∗±µ∓( ) νµX, where the D∗−meson decays to D0π−and the D0 meson decays to either the K0 Sπ+π−or K0 SK+K− final state. The symbol X indicates other particles which may be produced in the decay but are not reconstructed. Samples of simulated events are used to correct for the small differ- ences in efficiency arising through unavoidable differences in selecting ( ) B →D∗±µ∓( ) νµX and B± →DK± decays, as discussed further in section 5. In addition to B± →DK± and ( ) B →D∗±µ∓( ) νµX candidates, B± →Dπ± decays are selected. These provide an important control sample that is used to constrain the invariant-mass shape of the B± →DK± signal, as well as to determine the yield of B± →Dπ± decays misidentified as B± →DK± candidates. Note that this channel is not optimal for determining the values of Fi as the small level of CP violation in the decay leads to a significant systematic uncertainty, as was reported in ref. [30]. This uncertainty is eliminated when using the flavour-specific semileptonic decay, in favour of a smaller systematic uncertainty associated with efficiency differences. The effect of D0–D0 mixing was ignored in the above discussion. 3 Detector and simulation The LHCb detector [32, 33] is a single-arm forward spectrometer covering the pseudorapidity range 2 < η < 5, designed for the study of particles containing b or c quarks. The detector includes a high-precision tracking system consisting of a silicon-strip vertex detector surrounding the pp interaction region, a large-area silicon-strip detector located upstream of a dipole magnet with a bending power of about 4 Tm, and three sta- tions of silicon-strip detectors and straw drift tubes placed downstream of the magnet. The polarity of the dipole magnet is reversed periodically throughout data-taking. The tracking system provides a measurement of momentum, p, of charged particles with relative uncertainty that varies from 0.5% at low momentum to 1.0% at 200 GeV/c. The minimum distance of a track to a primary vertex (PV), the impact parameter (IP), is measured with a resolution of (15+29/pT) µm, where pT is the component of the momentum transverse to the beam, in GeV/c. Different types of charged hadrons are distinguished using information from two ring-imaging Cherenkov detectors. Photons, electrons, and hadrons are identi- fied by a calorimeter system consisting of scintillating-pad and preshower detectors, an electromagnetic calorimeter and a hadronic calorimeter. Muons are identified by a system composed of alternating layers of iron and multiwire proportional chambers. JHEP08(2018)176 The online event selection is performed by a trigger, which consists of a hardware stage based on information from the calorimeter and muon systems, followed by a software stage, which applies a full event reconstruction. At the hardware trigger stage, events are required to have a muon with high pT or a hadron, photon or electron with high transverse energy in the calorimeters. For hadrons, the transverse energy threshold is 3.5 GeV. The software trigger requires a two-, three- or four-track secondary vertex with a significant displacement from any primary pp interaction vertex. At least one charged particle must have transverse momentum pT > 1.6 GeV/c and be inconsistent with originating from a PV. A multivariate algorithm [34] is used for the identification of secondary vertices consistent with the decay of a b hadron. Small changes in the trigger thresholds were made throughout both years of data taking. In the simulation, pp collisions are generated using Pythia 8 [35, 36] with a specific LHCb configuration [37]. Decays of hadronic particles are described by EvtGen [38], in which final-state radiation is generated using Photos [39]. 2 Overview of the analysis If the parameters Fi are obtained from ( ) B →D∗±µ∓( ) νµX, where the D∗−decays to D0π−, D0–D0 mixing has been shown to lead to a bias of approximately 0.2◦in the γ determination [31], which is – 4 – negligible for the current analysis. The effects of CP violation in the neutral kaon system and of the different nuclear interaction cross-sections for K0 and K0 mesons are discussed in section 7, where a systematic uncertainty is assigned. 3 Detector and simulation The interaction of the generated particles with the detector, and its response, are implemented using the Geant4 toolkit [40, 41] as described in ref. [42]. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays Decays of K0 S mesons to the π+π−final state are reconstructed in two categories, the first containing K0 S mesons that decay early enough for the pions to be reconstructed – 5 – in the vertex detector and the second containing K0 S mesons that decay later such that track segments of the pions cannot be formed in the vertex detector. These categories are referred to as long and downstream, respectively. The candidates in the long category have better mass, momentum and vertex resolution than those in the downstream category. Hereinafter, B± candidates are denoted long or downstream depending on which category of K0 S candidate they contain. For many of the quantities used in the selection and analysis of the data, a kinematic fit [43] is imposed on the full B± decay chain. Depending on the quantity being calculated, the D and K0 S candidates may be constrained to have their known masses [44], as described below. The fit also constrains the B± candidate momentum vector to point towards the associated PV, defined as the PV for which the candidate has the smallest IP significance. These constraints improve the resolution of the calculated quantities, and thus help improve separation between signal and background decays. Furthermore, it improves the resolution on the Dalitz plot coordinates and ensures that all candidates lie within the kinematically allowed D →K0 Sh+h−phase space. JHEP08(2018)176 The D (K0 S) candidates are required to be within 25 MeV/c2 (15 MeV/c2) of their known mass [44]. These requirements are placed on masses obtained using kinematic fits in which all constraints are applied except for that on the mass under consideration. Combinatorial background is primarily suppressed through the use of a boosted decision tree (BDT) mul- tivariate classifier [45, 46]. The BDT is trained on simulated signal events and background taken from the high B± mass sideband (5800–7000 MeV/c2). Separate BDTs are trained for the long and downstream categories. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays Each BDT uses the same set of variables: the χ2 of the kinematic fit of the whole decay chain; p and pT of the companion, D, and B± after the kinematic refit (here and in the following, companion refers to the final state π± or K± meson produced in the B± →Dh± decay); the vertex quality of the K0 S, D, and B± candidates; the distance of closest approach between tracks forming the D and B± vertices; the cosine of the angle between the momentum vector and the vector between the production and decay vertices of a given particle, for each of the K0 S, D, and B± candidates; the minimum and maximum values of the χ2 IP of the pions from both the D and K0 S decays, where χ2 IP is defined as the difference in χ2 of the PV fit with and without the considered particle; the χ2 IP for the companion, K0 S, D, and B± candidates; the B± flight-distance significance; the radial distance from the beamline to the D and B±-candidate vertices; and a B± isolation variable, which is designed to ensure the B± candidate is well isolated from other tracks in the event. The B± isolation variable is the asymmetry between the pT of the signal candidate and the sum of the pT of other tracks in the event that lie within a distance of 1.5 in η–φ space, where φ is the azimuthal angle measured in radians. Candidates in the data samples that have a BDT output value below a threshold are rejected. An optimal threshold value is determined for each of the two BDTs, using a series of pseudoexperiments to obtain the values that provide the best sensitivity to x± and y±. Across all B± →DK± channels this requirement is found to reject 99.1 % of the combinatorial background in the high B mass sideband that survives all other requirements, while having an efficiency of 92.4 % on simulated B± →DK± signal samples. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays – 6 – ] 4 /c 2 ) [GeV + π 0 S K ( 2 m 1 2 3 ] 4 /c 2 ) [GeV − π 0 S K ( 2 m 1 2 3 LHCb ] 4 /c 2 ) [GeV − π 0 S K ( 2 m 1 2 3 ] 4 /c 2 ) [GeV + π 0 S K ( 2 m 1 2 3 LHCb ] 4 /c 2 ) [GeV + K 0 S K ( 2 m 1 1.5 ] 4 /c 2 ) [GeV − K 0 S K ( 2 m 1 1.5 LHCb ] 4 /c 2 ) [GeV − K 0 S K ( 2 m 1 1.5 ] 4 /c 2 ) [GeV + K 0 S K ( 2 m 1 1.5 LHCb Figure 2. Dalitz plots of long and downstream (left) B+ →DK+ and (right) B−→DK− candidates for (top) D →K0 Sπ+π−and (bottom) D →K0 SK+K−decays in which the reconstructed invariant mass of the B± candidate is in a region of ±25 MeV/c2 around the B± mass. The narrow region is chosen to obtain high purity, as no background subtraction has been made. The Dalitz coordinates are calculated using the results of a kinematic fit in which the D and K0 S masses are constrained to their known values. The blue lines show the kinematic boundaries of the decays. ] 4 /c 2 ) [GeV + π 0 S K ( 2 m 1 2 3 ] 4 /c 2 ) [GeV − π 0 S K ( 2 m 1 2 3 LHCb ] 4 /c 2 ) [GeV − π 0 S K ( 2 m 1 2 3 ] 4 /c 2 ) [GeV + π 0 S K ( 2 m 1 2 3 LHCb JHEP08(2018)176 ] 4 /c 2 ) [GeV + K 0 S K ( 2 m 1 1.5 ] 4 /c 2 ) [GeV − K 0 S K ( 2 m 1 1.5 LHCb ] 4 /c 2 ) [GeV − K 0 S K ( 2 m 1 1.5 ] 4 /c 2 ) [GeV + K 0 S K ( 2 m 1 1.5 LHCb ] 4 /c 2 ) [GeV + K 0 S K ( 2 m 1.5 Figure 2. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays Dalitz plots of long and downstream (left) B+ →DK+ and (right) B−→DK− candidates for (top) D →K0 Sπ+π−and (bottom) D →K0 SK+K−decays in which the reconstructed invariant mass of the B± candidate is in a region of ±25 MeV/c2 around the B± mass. The narrow region is chosen to obtain high purity, as no background subtraction has been made. The Dalitz coordinates are calculated using the results of a kinematic fit in which the D and K0 S masses are constrained to their known values. The blue lines show the kinematic boundaries of the decays. Particle identification (PID) requirements are placed on the companion to separate B± →DK± and B± →Dπ± candidates, and on the charged decay products of the D meson to remove cross-feed between different D →K0 Sh+h−decays. To ensure good control of the PID performance it is required that information from the RICH detectors is present. To remove background from D →π+π−π+π−or D →π+π−K+K−decays, long K0 S candidates are required to have travelled a significant distance from the D vertex. This requirement is not necessary for downstream candidates. Similarly, the D decay vertex is required be significantly displaced from the B± decay vertex in order to remove charmless B± decays. The Dalitz plots for B± →DK± candidates in a narrow region of ±25 MeV/c2 around the B± mass are shown in figure 2, for both D →K0 Sh+h−final states samples. Separate – 7 – ] 2 c ) [MeV/ ± K D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 100 200 300 ± K D → ± B ± π D → ± B Combinatorial Part. reco. LHCb ] 2 c ) [MeV/ ± π D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 1000 2000 3000 ± K D → ± B ± π D → ± B Combinatorial Part. reco. LHCb ] 2 c ) [MeV/ ± K D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 200 400 600 ± K D → ± B ± π D → ± B Combinatorial Part. reco. LHCb ] 2 c ) [MeV/ ± π D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 2000 4000 6000 8000 ± K D → ± B ± π D → ± B Combinatorial Part. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays reco. LHCb Figure 3. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates, with D →K0 Sπ+π−, shown separately for the (top) long and (bottom) downstream K0 S categories. Fit results, including the signal component and background components due to misidentified com- panions, partially reconstructed decays and combinatorial background, are also shown. JHEP08(2018)176 ] ) [ ( ] 2 c ) [MeV/ ± K D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 200 400 600 ± K D → ± B ± π D → ± B Combinatorial Part. reco. LHCb ] 2 c ) [MeV/ ± π D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 2000 4000 6000 8000 ± K D → ± B ± π D → ± B Combinatorial Part. reco. LHCb Figure 3. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates, with D →K0 Sπ+π−, shown separately for the (top) long and (bottom) downstream K0 S categories. Fit results, including the signal component and background components due to misidentified com- panions, partially reconstructed decays and combinatorial background, are also shown. plots are shown for B+ and B−decays. The Dalitz coordinates are calculated from the kinematic fit with all mass constraints applied. In order to determine the parameterisation of the signal and background components that are used in the fit of partitioned regions of the Dalitz plot described in section 6, an extended maximum likelihood fit to the invariant-mass distributions of the B± candidates is performed, in which the B+ and B−candidates in all of the Dalitz bins are combined. The invariant mass of each B± candidate is calculated using the results of a kinematic fit in which the D and K0 S masses are constrained to their known values. The sample is split into B± →DK± and B± →Dπ± candidates, by D decay mode and by K0 S category. In order to allow sharing of some parameters, the fit is performed simultaneously for all of the above categories. The projections of the fit and the invariant-mass distributions of the selected B± candidates are shown in figures 3 and 4 for D →K0 Sπ+π−and D →K0 SK+K− candidates, respectively. The fit range is between 5080 MeV/c2 and 5800 MeV/c2 in the B± candidate invariant mass. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays – 8 – ] 2 c ) [MeV/ ± K D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 20 40 ± K D → ± B ± π D → ± B Combinatorial Part. reco. LHCb ] 2 c ) [MeV/ ± π D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 200 400 ± K D → ± B ± π D → ± B Combinatorial Part. reco. LHCb ] 2 c ) [MeV/ ± K D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 50 100 ± K D → ± B ± π D → ± B Combinatorial Part. reco. LHCb ] 2 c ) [MeV/ ± π D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 500 1000 ± K D → ± B ± π D → ± B Combinatorial Part. reco. LHCb Figure 4. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates, with D →K0 SK+K−, shown separately for the (top) long and (bottom) downstream K0 S categories. Fit results, including the signal component and background components due to misidentified com- panions, partially reconstructed decays and combinatorial background, are also shown. JHEP08(2018)176 ] 2 c ) [MeV/ ± K D ( m ] 2 c ) [MeV/ ± K D ( m 5200 5400 5600 5800 ) 2 c Candidates / (7.5 MeV/ 0 50 100 ± K D → ± B ± π D → ± B Combinatorial Part. reco. LHCb Figure 4. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates, with D →K0 SK+K−, shown separately for the (top) long and (bottom) downstream K0 S categories. Fit results, including the signal component and background components due to misidentified com- panions, partially reconstructed decays and combinatorial background, are also shown. Figure 4. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates, with D →K0 SK+K−, shown separately for the (top) long and (bottom) downstream K0 S categories. Fit results, including the signal component and background components due to misidentified com- panions, partially reconstructed decays and combinatorial background, are also shown. Figure 4. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates, with D →K0 SK+K−, shown separately for the (top) long and (bottom) downstream K0 S categories. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays Different widths are used for the B± →DK± and B± →Dπ± channels, with their ratio rσ = σDK/σDπ shared between all categories. The mean is shared among all categories. The yield of B± →Dπ± decays in each K0 S and D-meson decay category, Ncat(B± →Dπ±), is determined in the fit. Instead of fitting the yield of B± →DK± decays directly in each category, it is determined from the B± →Dπ± yield in the corresponding category and the ratio JHEP08(2018)176 R ≡Ncat(B± →DK±) εcat PID(B± →DK±) Ncat(B± →Dπ±) εcat PID(B± →Dπ±) , (4.5) (4.5) which is a free parameter in the fit. The category-dependent PID efficiencies, εcat PID(B± → Dh±), are taken into account, so that a single R parameter can be shared between all categories in the fit. How these efficiencies are obtained is described below. As the pa- rameter R is efficiency corrected, it is equal to the ratio of branching fractions between the B± →DK± and B± →Dπ± decay modes. The measured ratio is found to be R = (7.66 ± 0.14) %, where the uncertainty is statistical only, and this is consistent with the expected value of (7.8 ± 0.4) % [44]. The background consists of random track combinations, partially reconstructed B de- cays, and B± →Dh± decays in which the companion has been misidentified. The random track combinations are modelled by an exponential PDF. The slopes of the exponentials are free parameters in the fit to the data. These slopes are independent for each of the B± →Dπ± categories, while they are shared for the B± →DK± categories to improve the stability of the fit. When these slopes are allowed to be independent, the fit returns results that are statistically compatible. In the B± →DK± sample there is a clear contribution from B± →Dπ± decays in which the companion particle is misidentified as a kaon by the RICH system. The rate for B± →DK± decays to be misidentified and placed in the B± →Dπ± sample is much lower due to the reduced branching fraction. Nevertheless, this contribution is still accounted for in the fit. The yields of these backgrounds are fixed in the fit, using knowledge of misidentification efficiencies and the fitted yields of reconstructed decays with the correct particle hypothesis. The misidentification efficiencies are obtained from large samples of D∗± → ( ) D 0π±, ( ) D 0 →K∓π± decays. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays Fit results, including the signal component and background components due to misidentified com- panions, partially reconstructed decays and combinatorial background, are also shown. The peaks corresponding to actual B± →DK± and B± →Dπ± candidates are fitted with a sum of two Crystal Ball [47] functions, which are parameterised as CB(m, µ, σ, α, n) ∝            exp " −1 2 m −µ σ 2# if (m −µ)/σ > −α A  B −m −µ σ −n otherwise, (4.1) (4.1) where α > 0, and A = n α n exp[−α2/2] , (4.2) B = n α −α . (4.3) (4.2) A =  α  exp[−α /2] , (4.2) B = n α −α . (4.3) (4.3) The sum is implemented such that the Crystal Ball functions have tails pointing in either direction. They share a common width, σ, and mean, µ. In practice, the signal probability The sum is implemented such that the Crystal Ball functions have tails pointing in either direction. They share a common width, σ, and mean, µ. In practice, the signal probability – 9 – density function (PDF) is defined as density function (PDF) is defined as fsignal(m, µ, σ, αL, nL, αR, nR, fCB) fsignal(m, µ, σ, αL, nL, αR, nR, fCB) (4.4) = fCB · CB(m, µ, σ, αL, nL) + (1 −fCB) · CB(m, µ, −σ, αR, nR). (4.4) The tail parameters, nL,R and αL,R, are fixed from simulation, while the other parameters are left as free parameters in the fit. Separate tail parameters, fCB, and σ are used for long and downstream candidates. Different widths are used for the B± →DK± and B± →Dπ± channels, with their ratio rσ = σDK/σDπ shared between all categories. The mean is shared among all categories. The yield of B± →Dπ± decays in each K0 S and D-meson decay category, Ncat(B± →Dπ±), is determined in the fit. Instead of fitting the yield of B± →DK± decays directly in each category, it is determined from the B± →Dπ± yield in the corresponding category and the ratio The tail parameters, nL,R and αL,R, are fixed from simulation, while the other parameters are left as free parameters in the fit. Separate tail parameters, fCB, and σ are used for long and downstream candidates. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays These decays are selected using only kinematic variables in order to provide pure samples of K∓and π± that are unbiased in the PID variables. The PID efficiency is parameterised as a function of the companion momentum and pseudorapidity, and the charged-particle multiplicity in the event. The calibration sample is weighted so that the distribution of these variables matches that of the candidates in the signal region of the B± sample, thereby ensuring that the measured PID performance – 10 – is representative for the samples used in this measurement. The efficiency to identify a kaon correctly is found to be approximately 86 %, while that for a pion is approximately 97 %. The PDFs of the backgrounds due to misidentified companion particles are determined using data. As an example, consider the case of true B± →Dπ± decays misidentified as B± →DK± candidates. The sPlot method [48] is used on the B± →Dπ± sample in order to isolate the contribution from the signal decays. The B± invariant mass is then calculated using the kaon mass hypothesis for the companion pion, and weighting by PID efficiencies in order to properly reproduce the kinematic properties of pions misidentified as kaons in the signal B± →DK± sample. The weighted distribution is fitted with a sum of two Crystal Ball shapes. The fitted parameters are subsequently fixed in the fit to the B± invariant-mass spectrum, with the procedure applied separately for long and downstream candidates. An analogous approach is used to determine the shape of the misidentified B± →DK± contribution in the B± →Dπ± sample. JHEP08(2018)176 Partially reconstructed b-hadron decays contaminate the sample predominantly at in- variant masses smaller than that of the signal peak. These decays contain an unrecon- structed pion or photon, which predominantly comes from an intermediate resonance. There are contributions from B0 →D∗±h∓and B± →D∗0h± decays in all channels (denoted as B →D∗h± decays), while B± →Dρ± and B± →DK∗± decays contribute to the B± →Dπ± and B± →DK± channels, respectively. In the B± →DK± channels there is also a contribution from B0 s →D0π+K−(B0 s →D0π−K+) decays where the charged pion is not reconstructed. The invariant-mass distributions of these backgrounds depend on the spin and mass of the missing particle, as described in ref. [49]. The shape of the background from B0 s decays is based on the results of ref. [50]. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays Additionally, each of the above backgrounds of B± →Dπ± decays can contribute in the B± →DK± channels if the pion is misidentified. The inverse contribution is negligible and is neglected. The shapes for the decays in which a pion is misidentified as a kaon are parameterised with semi-empirical PDFs formed from sums of Gaussian and error functions. The parameters of these backgrounds are fixed to the results of fits to data from two-body D decays [49], where they were obtained with a much larger data sample. However, the width of the reso- lution function and a shift along the B± mass are allowed to differ in order to accommodate small differences between the D decay modes. In each of the B± →Dπ± channels, the total yield of the partially reconstructed background is fitted independently. The relative amount of each B →D∗π∓mode is fixed from efficiencies obtained from simulation and known branching fractions, while the fraction of B± →Dρ± decays is left free. In the B± →DK± channels, the yield of the B0 s →D0π+K−background is fixed relative to the corresponding B± →Dπ± yield, using efficiencies from simulation and the known branching fraction. The total yield of the remaining partially reconstructed backgrounds is expressed via a single fraction, Rlow DK/Dπ, relative the B± →Dπ± yields. It is free in the fit, and common to all channels after taking into account the different particle-identification efficiencies. The relative amount of each B →D∗K∓mode is fixed using efficiencies from simulation and known branching fractions, while the fraction of B± →DK∗± decays is fixed using the results of ref. [49]. The yields of the partially reconstructed modes with a companion pion misidentified as – 11 – a kaon are fixed via the known PID efficiencies, based on the fitted yield of the partially reconstructed backgrounds in the corresponding B± →Dπ± channel. In the B± →Dπ± channels, a total signal yield of approximately 56 100 (7750) is found in the signal region 5249–5319 MeV/c2 of the D →K0 Sπ+π−(D →K0 SK+K−) channel, 31 % (32 %) of which is in the long K0 S category. The purity in the signal region is found to be 98.4 % (97.7 %), with the dominant background being combinatorial. 4 Event selection and fit to the invariant-mass spectrum for B± →DK± and B± →Dπ± decays In the B± →DK± channels, a total signal yield of approximately 3900 (530) is found in the signal region of the D →K0 Sπ+π−(D →K0 SK+K−) channel, again finding 31 % (32 %) of the candidates in the long K0 S category. The purity in the signal region is found to be 81 %. The dominant background is from misidentified B± →Dπ± decays, which accounts for 66 % of the background in the signal region. Equal amounts of combinatorial background and partially reconstructed decays, predominantly including a misidentified companion pion, make up the remaining background. JHEP08(2018)176 5 Event selection and yield determination for ( ) B →D∗±µ∓( ) νµ decays The fit is performed simultaneously for the two D0 final states and the two K0 S categories with some – 12 – 140 145 150 ] 2c [MeV/ m ∆ 0 2000 4000 6000 8000 ) 2c Candidates / (0.1 MeV/ Signal Combinatorial pion Random soft LHCb 1840 1860 1880 1900 ] 2c [MeV/ )- π + π 0 S m(K 0 1000 2000 3000 4000 ) 2c Candidates / (1 MeV/ Signal Combinatorial pion Random soft LHCb 140 145 150 ] 2c [MeV/ m ∆ 0 2000 4000 6000 8000 ) 2c Candidates / (0.1 MeV/ Signal Combinatorial pion Random soft LHCb Figure 5. Result of the simultaneous fit to ( ) B →D∗±µ∓( ) ν µ, D∗± → ( ) D 0(→K0 Sπ+π−)π± decays with downstream K0 S candidates, in 2016 data. The projections of the fit result are shown for (left) m(K0 Sπ+π−) and (right) ∆m. The (blue) total fit PDF is the sum of components describing (solid red) signal, (dashed black) combinatorial background and (dotted green) random soft pion background. 1840 1860 1880 1900 ] 2c [MeV/ )- π + π 0 S m(K 0 1000 2000 3000 4000 ) 2c Candidates / (1 MeV/ Signal Combinatorial pion Random soft LHCb Figure 5. Result of the simultaneous fit to ( ) B →D∗±µ∓( ) ν µ, D∗± → ( ) D 0(→K0 Sπ+π−)π± decays with downstream K0 S candidates, in 2016 data. The projections of the fit result are shown for (left) m(K0 Sπ+π−) and (right) ∆m. The (blue) total fit PDF is the sum of components describing (solid red) signal, (dashed black) combinatorial background and (dotted green) random soft pion background. JHEP08(2018)176 parameters allowed to be independent between categories. Candidates selected from data recorded in 2015 and 2016 are fitted separately, in order to accommodate different trigger threshold settings that result in slightly different Dalitz plot efficiency profiles. The fit region is defined by 1830 < m(K0 Sh+h−) < 1910 MeV/c2 and 139.5 < ∆m < 153.0 MeV/c2. Within this m(K0 Sh+h−) range, the ∆m resolution does not vary significantly. The signal is parameterised in ∆m with a sum of two Crystal Ball functions, as for the B± →Dh± signal. The mean, µ, is shared between all categories, while the other parameters are different for long and downstream candidates. The tail parameters are fixed from simulation. 5 Event selection and yield determination for ( ) B →D∗±µ∓( ) νµ decays A sample of ( ) B →D∗±µ∓( ) νµX, D∗± → ( ) D π±, ( ) D →K0 Sh+h−decays is used to deter- mine the quantities Fi, defined in eq. (2.5), as the expected fractions of D0 decays falling into the ith Dalitz plot bin, taking into account the efficiency profile of the signal decay. The semileptonic decay of the B meson and the strong-interaction decay of the D∗± meson allow the flavour of the D0 meson to be determined from the charges of the muon and the soft pion from the D∗± decay. This particular decay chain, involving a flavour-tagged D0 decay, is chosen due to its high yield, low background level, and low mistag probability. The selection requirements are chosen to minimise changes to the efficiency profile with respect to those associated with the B± →DK± channels. The selection is identical to that applied in ref. [9], except for a tighter requirement on the significance of the D0 flight distance that helps to suppress backgrounds from charmless B decays. To improve the resolution of the distribution of candidates across the Daltiz plot, the B-decay chain is refitted [43] with the D0 and K0 S candidates constrained to their known masses. An additional fit, in which only the K0 S mass is constrained, is performed to improve the D0 and D∗± mass resolution in the invariant-mass fit used to determine signal yields. The invariant mass of the D0 candidate, m(K0 Sh+h−), and the invariant-mass dif- ference, ∆m ≡m(K0 Sh+h−π±) −m(K0 Sh+h−), are fitted simultaneously to determine the signal yields. This two-dimensional parameterisation allows the yield of selected candidates to be measured in three categories: true D∗± candidates (signal), candidates containing a true D0 meson but random soft pion (RSP) and candidates formed from random track combinations that fall within the fit range (combinatorial background). Background con- tributions from real D∗± decays paired with a random µ are determined to be negligible by selecting pairs of D∗± mesons and µ± with the same charge. An example projection of m(K0 Sπ+π−) and ∆m is shown in figure 5. The result of a two-dimensional extended, unbinned, maximum likelihood fit is superimposed. 5 Event selection and yield determination for ( ) B →D∗±µ∓( ) νµ decays The combinatorial and RSP backgrounds are both parameterised with an empirical model given by f(∆m; ∆m0, x, p1, p2) =  1 −exp  −∆m −∆m0 x   ∆m ∆m0 p1 + p2  ∆m ∆m0 −1  (5.1) (5.1) for ∆m−∆m0 > 0 and f(∆m) = 0 otherwise, where ∆m0, x, p1, and p2 are free parameters. The parameter ∆m0, which describes the kinematic threshold for a D∗± → ( ) D 0π± decay, is shared in all data categories and for both the combinatorial and RSP shapes. The remaining parameters are determined separately for D →K0 Sπ+π−and D →K0 SK+K−candidates. In the m(K0 Sh+h−) fit, all of the parameters in the signal and RSP PDFs are con- strained to be the same as both describe a true D0 candidate. These are also fitted with a sum of two Crystal Ball functions, with the tail parameters fixed from simulation. The parameters are fitted separately for the D →K0 Sπ+π−and D →K0 SK+K−shapes, due to the different phase space available in the D0 decay. The combinatorial background is parameterised by an exponential function in m(K0 Sh+h−). A total signal yield of approximately 113 000 (15 000) D →K0 Sπ+π−(D →K0 SK+K−) decays is obtained. This is approximately 25 times larger than the B± →DK± yield. In the range surrounding the signal peaks, defined as 1840–1890 (1850–1880) MeV/c2 in m(K0 Sπ+π−) (m(K0 SK+K−)) and 143.9–146.9 MeV/c2 in ∆m, the background components account for 2–5 % of the yield depending on the category. – 13 – Figure 6. Example efficiency profiles of (left) B± →Dπ± and (right) ( ) B →D∗±µ∓( ) ν µX decays in the simulation. The top (bottom) plots are for D →K0 Sπ+π−(D →K0 SK+K−) decays. These plots refer to downstream K0 S candidates under 2016 data taking conditions. The normalisation is chosen so that the average over the Dalitz plot is unity. JHEP08(2018)176 Figure 6. Example efficiency profiles of (left) B± →Dπ± and (right) ( ) B →D∗±µ∓( ) ν µX decays in the simulation. The top (bottom) plots are for D →K0 Sπ+π−(D →K0 SK+K−) decays. These plots refer to downstream K0 S candidates under 2016 data taking conditions. The normalisation is chosen so that the average over the Dalitz plot is unity. 5 Event selection and yield determination for ( ) B →D∗±µ∓( ) νµ decays This method of determining the Fi parameters is preferable to using solely the amplitude models and B± →Dπ± simulated events, since the method is data-driven. The amplitude models and simulation data enter the correction factor as a ratio, and thus imperfections in the simulation and the model cancel at first order. The average correction factor over all bins is approximately 2 % from unity and the largest correction factor is within 7 %. Uncertainties on these correction factors are driven by the size of the simulation samples and are of a similar size as the corrections themselves. JHEP08(2018)176 5 Event selection and yield determination for ( ) B →D∗±µ∓( ) νµ decays The two-dimensional fit in m(K0 Sh+h−) and ∆m of the ( ) B →D∗±µ∓( ) νµX decay is repeated in each Dalitz plot bin with all of the PDF parameters fixed, resulting in a raw control-mode yield, Ri, for each bin i. The measured Ri are not equivalent to the Fi fractions required to determine the CP parameters due to unavoidable differences from selection criteria in the efficiency profiles of the signal and control modes. Examples of the efficiency profiles from simulation of the downstream candidates in 2016 data are shown in figure 6. For each Dalitz plot bin i a correction factor ξi is determined to account for these efficiency differences, defined as ξi ≡ R i dm2 −dm2 + |AD(m2 −, m2 +)|2 η(m2 −, m2 +)Dπ R i dm2 −dm2 + |AD(m2 −, m2 +)|2 η(m2 −, m2 +)D∗µ , (5.2) (5.2) where η(m2 −, m2 +)Dπ and η(m2 −, m2 +)D∗µ are the efficiency profiles of the B± →Dπ± and ( ) B →D∗±µ∓( ) νµX decays, respectively, and are determined from simulation. The B± → – 14 – Dπ± decay mode is used rather than B± →DK± as the simulation is more easily compared to the data, due to the larger decay rate and the smaller interference between B± →D0π± and B± →D0π± decays, compared to in the B± →DK± decay mode. It is verified using simulation that the efficiency profiles of the B± →Dπ± and B± →DK± decays are the same. The simulated events are generated with a flat distribution across the D →K0 Sh+h− phase space; hence the distribution of simulated events after triggering, reconstruction and selection is directly proportional to the efficiency profile. The amplitude models used to determine the Dalitz plot intensity for the correction factor are those from ref. [23] and ref. [24] for the D →K0 Sπ+π−and D →K0 SK+K−decays, respectively. The amplitude models provide a description of the intensity distribution over the Dalitz plot and introduce no significant model dependence into the analysis. The Fi values can be determined via the relation Fi = h′ξiRi, where h′ is a normalisation factor such that the sum of all Fi is unity. The Fi values are determined separately for each year of data taking and K0 S category and are then combined in the fractions observed in the B± →Dπ± signal region in data. 6 Dalitz plot fit to determine the CP -violating parameters x± and y± The Dalitz plot fit is used to measure the CP-violating parameters x± and y±, as introduced in section 2. Following eq. (2.4), these parameters are determined from the populations of the B+ and B−Dalitz plot bins, given the external information of the ci and si parame- ters from CLEO-c data and the values of Fi from the semileptonic control decay modes. Although the absolute numbers of B+ and B−decays integrated over the D Dalitz plot have some dependence on x± and y±, the sensitivity gained compared to using just the relations in eq. (2.4) is negligible [51] given the available sample size. Consequently, as stated previously, the integrated yields are not used to provide information on x± and y± and the analysis is insensitive to B meson production and detection asymmetries. A simultaneous fit is performed on the B± →Dh± data, split into the two B charges, the two K0 S categories, the B± →DK± and B± →Dπ± candidates, and the two D → K0 Sh+h−final states. The invariant mass of each B± candidate is calculated using the results of a kinematic fit in which the D and K0 S masses are constrained to their known values. Each category is then divided into the Dalitz plot bins shown in figure 1, where there are 16 bins for D →K0 Sπ+π−and 4 bins for D →K0 SK+K−. The B± →DK± and B± →Dπ± samples are fitted simultaneously because the yield of B± →Dπ± signal in each Dalitz plot bin is used to determine the yield of misidentified candidates in the corresponding B± →DK± Dalitz plot bin. The PDF parameters for both the signal and background invariant-mass distributions are fixed to the values determined in the invariant- – 15 – mass fit described in section 4. The B± mass range is reduced to 5150–5800 GeV/c2 to avoid the need of a detailed description of the shape of the partially reconstructed background. The yields of signal candidates for each bin in the B± →Dπ± sample are free parameters. In each of the B± →DK± channels, the total yield integrated over the Dalitz plot is a free parameter. The fractional yields in each bin are defined using the expressions for the Dalitz plot distribution in terms of x±, y±, Fi, ci, and si in eq. (2.4), where the x± and y± parameters are free and the values of Fi are Gaussian-constrained within their uncertainties. 6 Dalitz plot fit to determine the CP -violating parameters x± and y± The values of ci and si are fixed to their central values, which is taken into account as a source of systematic uncertainty. The yields of the component due to B± →Dπ± decays, where the companion has been misidentified as a kaon, are fixed in each B± →DK± bin, relative to the yield in the corresponding B± →Dπ± bin, using the known PID efficiencies. A component for misidentified B± →DK± decays in the B± →Dπ± channels is not included, as it is found to contribute less than 0.5% of the yield in the signal region in the global fit described in section 4. The total yield of the partially reconstructed B± and B0 backgrounds is fitted in each bin, using the same shape in all bins, with the fractions of each component taken from the global fit. The total yield of the B0 s →D0π+K−(B0 s →D0π−K+) background is fixed in each channel, using the results of the global fit. The yield in each bin is then fixed from the Fi parameters, using the known Dalitz distribution of D0(D0) →K0 Sh+h−decays. The separate treatment of the partially reconstructed background from B0 s decays is necessary due to the significantly different Dalitz distribution, arising because only a D0 meson is produced along with a K− meson, while for the remaining modes, the D meson is either a D0 meson or an admixture where the D0 component is rB-suppressed. The yield of the combinatorial background in each bin is a free parameter. In bins in which an auxiliary fit determines the yield of the partially reconstructed or combinatorial background to be negligible, the corresponding yields are set to zero to facilitate the calculation of the covariance matrix [52, 53]. JHEP08(2018)176 A large ensemble of pseudoexperiments is performed to validate the fit procedure. In each pseudoexperiment the numbers and distributions of signal and background candidates are generated according to the expected distribution in data, and the full fit procedure is then executed. The input values for x± and y± correspond to γ = 70◦, rB = 0.1, and δB = 130◦. The uncertainties determined by the fit to data are consistent with the size of the uncertainties determined by the pseudoexperiments. Small biases are observed in the central values and are due to the low event yields in some of the bins. 6 Dalitz plot fit to determine the CP -violating parameters x± and y± These biases are observed to decrease in simulated experiments of larger size. The central values are corrected for the biases and a systematic uncertainty is assigned, as described in section 7. The CP parameters obtained from the fit are The CP parameters obtained from the fit are x−= ( 9.0 ± 1.7) × 10−2 , y−= ( 2.1 ± 2.2) × 10−2 , x+ = (−7.7 ± 1.9) × 10−2 , y+ = (−1.0 ± 1.9) × 10−2 , where the uncertainties are statistical only. The correlation matrix is shown in table 1. The total B± →DK± yields in the signal region, where the invariant mass of the B candidate where the uncertainties are statistical only. The correlation matrix is shown in table 1. The total B± →DK± yields in the signal region, where the invariant mass of the B candidate – 16 – x− y− x+ y+ x− 1 −0.21 0.05 0.00 y− 1 −0.01 0.02 x+ 1 0.02 y+ 1 Table 1. Statistical correlation matrix for the fit to data. x− y− x+ y+ x− 1 −0.21 0.05 0.00 y− 1 −0.01 0.02 x+ 1 0.02 y+ 1 Table 1. Statistical correlation matrix for the fit to data. Table 1. Statistical correlation matrix for the fit to data. Table 1. Statistical correlation matrix for the fit to data. B−→DK− B+ →DK+ Long Downstream Long Downstream D →K0 Sπ+π− 602 ± 26 1 315 ± 39 606 ± 26 1 334 ± 39 D →K0 SK+K− 92 ± 10 189 ± 15 82 ± 10 193 ± 15 Table 2. Fit results for the total B± →DK± yields in the signal region, where the invariant mass of the B candidate is in the interval 5249–5319 MeV/c2, integrated over the Dalitz plots. JHEP08(2018)176 Table 2. Fit results for the total B± →DK± yields in the signal region, where the invariant ma of the B candidate is in the interval 5249–5319 MeV/c2, integrated over the Dalitz plots. Table 2. Fit results for the total B± →DK± yields in the signal region, where the invariant mass of the B candidate is in the interval 5249–5319 MeV/c2, integrated over the Dalitz plots. Figure 7. Confidence levels at 68.2%, 95.5% and 99.7% probability for (x+, y+) and (x−, y−) as measured in B± →DK± decays (statistical uncertainties only). The parameters (x+, y+) relate to B+ decays and (x−, y−) refer to B−decays. 6 Dalitz plot fit to determine the CP -violating parameters x± and y± (Right) Comparison of the difference between the B+ and B−yield obtained in the direct fit for each effective bin (points), the prediction from the central values of x± and y± (solid line), and the prediction assuming no CP violation (dotted line). Effective bin number -8 -7 -6 -5 -4 -3 -2 -1 1 2 3 4 5 6 7 8 -2 -1 1 2 − B i- N - + B i N 80 − 60 − 40 − 20 − 0 20 40 60 LHCb − π + π S 0 K − K + K S 0 K Effective bin number -8 -7 -6 -5 -4 -3 -2 -1 1 2 3 4 5 6 7 8 -2 -1 1 2 − B i- N + + B i N 0 100 200 300 400 500 600 700 LHCb − π + π S 0 K − K + K S 0 K Effective bin number JHEP08(2018)176 Figure 8. (Left) Comparison of total signal yields from the direct fit (points) to those calculated from the central values of x± and y± (solid line). The yields are given for the effective bin: +i for B+ and −i for B−, and summed over B charge and K0 S decay category. (Right) Comparison of the difference between the B+ and B−yield obtained in the direct fit for each effective bin (points), the prediction from the central values of x± and y± (solid line), and the prediction assuming no CP violation (dotted line). fit. The yields from the direct fit agree with the prediction with a p-value of 0.33. In figure 8 (right) the difference Ni B+ −N−i B−in each bin is calculated using the results of the direct fit of the B± →DK± yields. This distribution is compared to that predicted by the central (x±, y±) values. The measured yield differences are compatible with the prediction with a p-value of 0.58. In addition, data are fitted with the assumption of no CP violation by enforcing x+ = x−≡x0 and y+ = y−≡y0. The obtained x0 and y0 values are used to determine the predicted values of Ni B+ −N−i B−, which are also shown in figure 8 (right). This prediction is not zero because the B meson production and various detection effects can induce a global asymmetry in the measured yields. 6 Dalitz plot fit to determine the CP -violating parameters x± and y± The black dots show the central values obtained in the fit. Figure 7. Confidence levels at 68.2%, 95.5% and 99.7% probability for (x+, y+) and (x−, y−) as measured in B± →DK± decays (statistical uncertainties only). The parameters (x+, y+) relate to B+ decays and (x−, y−) refer to B−decays. The black dots show the central values obtained in the fit. is in the interval 5249–5319 MeV/c2, are shown in table 2. The measured values of (x±, y±) from the fit to data are displayed in figure 7, along with their likelihood contours, corresponding to statistical uncertainties only. The systematic uncertainties are discussed in the next section. The two vectors defined by the coordinates (x−, y−) and (x+, y+) are not consistent with zero magnitude and they have a non-zero opening angle. Therefore the data sample exhibits the expected features of CP violation. The opening angle is equal to 2γ, as illustrated in figure 7. In order to assess the goodness of fit, and to demonstrate that the equations in (x±, y±) provide a good description of data, an alternative fit is performed where the B± →DK± yields are measured independently in each bin. In figure 8 (left) the obtained yields are compared with the yields predicted from the values of (x±, y±) obtained in the default – 17 – Effective bin number -8 -7 -6 -5 -4 -3 -2 -1 1 2 3 4 5 6 7 8 -2 -1 1 2 − B i- N + + B i N 0 100 200 300 400 500 600 700 LHCb − π + π S 0 K − K + K S 0 K Effective bin number -8 -7 -6 -5 -4 -3 -2 -1 1 2 3 4 5 6 7 8 -2 -1 1 2 − B i- N - + B i N 80 − 60 − 40 − 20 − 0 20 40 60 LHCb − π + π S 0 K − K + K S 0 K Figure 8. (Left) Comparison of total signal yields from the direct fit (points) to those calculated from the central values of x± and y± (solid line). The yields are given for the effective bin: +i for B+ and −i for B−, and summed over B charge and K0 S decay category. 6 Dalitz plot fit to determine the CP -violating parameters x± and y± The comparison of the data to this hypothesis yields a p-value of 1 × 10−6, which strongly disfavours the CP-conserving hypothesis. 7 Systematic uncertainties Systematic uncertainties on the measurements of the x± and y± parameters are evaluated and are presented in table 3. The source of each systematic uncertainty is described below. The systematic uncertainties are generally determined from an ensemble of pseudoexper- iments where the simulated data are generated in an alternative configuration and fitted with the default method. The mean shifts in the fitted values of x± and y± in comparison to their input values are taken as the systematic uncertainty. The limited precision on (ci, si) coming from the CLEO measurement induces uncer- tainties on x± and y± [18]. These uncertainties are evaluated by fitting the data multiple times, each with different (ci, si) values sampled according to their experimental uncertain- ties and correlations. The resulting widths in the distributions of x± and y± values are assigned as the systematic uncertainties. Values of (0.4–1.1) × 10−2 are found for the fit to the full sample. The uncertainties are similar to, but different from, those reported in – 18 – Source x− y− x+ y+ Statistical 1.7 2.2 1.9 1.9 Strong phase measurements 0.4 1.1 0.4 0.9 Efficiency corrections 0.6 0.2 0.6 0.1 Mass fit PDFs 0.2 0.3 0.2 0.3 Different mis-ID shape over Dalitz plot 0.2 0.1 0.1 0.1 Different low mass shape over Dalitz plot 0.1 0.2 0.1 0.1 Uncertainty on B0 s →D0π+K−yield 0.1 0.1 0.1 0.1 Bias correction 0.1 0.1 0.1 0.1 Bin migration 0.1 0.1 0.1 0.1 K0 CP violation and material interaction 0.1 0.2 0.1 0.1 Total experimental systematic uncertainty 0.7 0.5 0.7 0.4 Table 3. Summary of uncertainties for the parameters x± and y±. The various sources of systematic uncertainties are described in the main text. All entries are given in multiples of 10−2. JHEP08(2018)176 Table 3. Summary of uncertainties for the parameters x± and y±. The various sources of systematic uncertainties are described in the main text. All entries are given in multiples of 10−2. Table 3. Summary of uncertainties for the parameters x± and y±. The various sources of systemat uncertainties are described in the main text. All entries are given in multiples of 10−2. ref. [9]. This is as expected since it is found from simulation studies that the (ci, si)-related uncertainty depends on the particular sample under study. It is found that the uncertain- ties do become constant when simulated samples with very high signal yields are studied. 7 Systematic uncertainties The uncertainties arising from the CLEO measurements are kept separate from the other experimental uncertainties. ref. [9]. This is as expected since it is found from simulation studies that the (ci, si)-related uncertainty depends on the particular sample under study. It is found that the uncertain- ties do become constant when simulated samples with very high signal yields are studied. The uncertainties arising from the CLEO measurements are kept separate from the other experimental uncertainties. A systematic uncertainty arises from imperfect modelling in the simulation used to derive the efficiency correction for the determination of the Fi parameters. As the sim- ulation enters the correction in a ratio, it is expected that imperfections cancel to first order. To determine the residual systematic uncertainty associated with this correction, an additional set of correction factors is calculated and used to evaluate an alternative set of Fi parameters. To determine this additional factor, a new rectangular binning scheme is used, which is shown in figure 9. The bin-to-bin efficiency variation in this rectangu- lar scheme is significantly larger than for the default partitioning and is more sensitive to imperfections in the simulated data efficiency profile. The yields of the B± →Dπ± and ( ) B →D∗±µ∓( ) νµX decays in each bin of the rectangular scheme are compared to the pre- dictions from the amplitude model and the simulated data efficiency profile. The usage of the rectangular binning also helps to dilute the small level of CP violation in B± →Dπ± such that differences from this comparison will come primarily from efficiency effects. The alternative correction factors ξalt i are calculated as ξalt i = R i dm2 −dm2 +η(m2 −, m2 +)Dπ |AD(m2 −, m2 +)|2 CDπ(m2 −, m2 +) R i dm2 −dm2 +η(m2 −, m2 +)D∗µ |AD(m2 −, m2 +)|2 CD∗µ(m2 −, m2 +) , (7.1) (7.1) where the C(m2 −, m2 +) terms are the ratios between the predicted and observed data yields in the rectangular bins. Many pseudoexperiments are performed, in which the data are generated according to the alternative Fi parameters and then fitted with the default Fi parameters. The overall shift in the fitted values of the CP parameters in comparison to – 19 – Figure 9. Rectangular binning schemes for (left) D →K0 Sπ+π−decays and (right) D →K0 SK+K− decays. 7 Systematic uncertainties The diagonal line separates the positive and negative bins, where the positive bins are in the region in which m2 −> m2 + is satisfied. JHEP08(2018)176 Figure 9. Rectangular binning schemes for (left) D →K0 Sπ+π−decays and (right) D →K0 SK+K− decays. The diagonal line separates the positive and negative bins, where the positive bins are in the region in which m2 −> m2 + is satisfied. their input values is taken as the systematic uncertainty, yielding 0.6 × 10−2 for x± and 0.1(0.2) × 10−2 for y+ (y−). Various effects are considered to assign an uncertainty for the imperfections in the description of the invariant-mass spectrum. For the PDF used to fit the signal, the param- eters of the PDF used in the binned fit are varied according to the uncertainties obtained in the global fit. An alternative shape is also tested. The global fit is repeated with the mean and width of the shape used to describe the background due to misidentified compan- ions allowed to vary freely. The results are used to generate data sets with an alternative PDF, and fit them using the default setup. The description of the partially reconstructed background is changed to a shape obtained from a fit of the PDF to simulated decays. The slope of the exponential used to fit the combinatorial background is also fluctuated according to the uncertainty obtained in the global fit. The contributions from each change are summed in quadrature and are 0.2×10−2 for each of the x± parameters and 0.3×10−2 for each of the y± parameters. Two systematic uncertainties associated with the misidentified B± →Dπ± background in the B± →DK± sample are considered. First, the uncertainties on the particle misiden- tification probabilities are found to have a negligible effect on the measured values of x± and y±. Second, it is possible that the invariant-mass distribution of the misidentified background (the mis-ID shape) is not uniform over the Dalitz plot, as assumed in the fit. This can occur through kinematic correlations between the reconstruction efficiency across the Dalitz plot of the D decay and the momentum of the companion pion from the B± decay. Alternative mass shapes are constructed by repeating the procedure used to obtain the default shape for each Dalitz bin individually. 7 Systematic uncertainties The alternative shapes are used when generating data sets for pseudoexperiments, and the fits then performed assuming a single shape, as in the fit to data. The resulting uncertainty is at most 0.2 × 10−2 for all CP parameters. In the fit to the data, the relative contributions of the partially reconstructed B± – 20 – and B0 backgrounds are kept the same in each Dalitz bin. This is a simplification as some partially reconstructed backgrounds will be distributed as D0(D0) →K0 Sh+h−for reconstructed B−(B+) candidates, while partially reconstructed B± →D(∗)K(∗)± de- cays will be distributed as a D0 −D0 admixture depending on the relevant CP violation parameters. Pseudoexperiments are generated, where the D-decay Dalitz plot distribu- tion for B± →D∗K+ is based on the CP parameters reported in ref. [54] and those for B± →DK∗+ are taken from ref. [55]. The generated samples are fitted with the standard method. The resulting uncertainty is at most 0.2 × 10−2 for all CP parameters. The total yield of the B0 s →D0π+K−background in the B± →DK± channels is fixed relative to the corresponding B± →Dπ± yield. The systematic uncertainty due to the uncertainty on the relative rate is estimated via pseudoexperiments, where data sets are generated with the rate varied by ±1σ and fitted using the default value. The maximal mean bias for each parameter is taken as the uncertainty. The resulting uncertainty is 0.1 × 10−2 for all CP parameters. JHEP08(2018)176 An uncertainty is assigned to each CP parameter to accompany the correction that is applied for the small bias observed in the fit procedure. These uncertainties are determined by performing sets of pseudoexperiments, each generated with different values of x± and y± throughout a range around the values predicted by the world averages. The spread in observed bias is combined in quadrature with the uncertainty in the precision of the pseudoexperiments. This is taken as the systematic uncertainty and is 0.1 × 10−2 for all CP parameters. The systematic uncertainty from the effect of candidates being assigned the wrong Dalitz bin number is considered. The resolution in m2 + and m2 −is approximately 0.006 GeV2/c4 for candidates with long K0 S decays and 0.007 GeV2/c4 for candidates with downstream K0 S decays. 7 Systematic uncertainties While this is small compared to the typical width of a bin, net mi- gration can occur in regions where the presence of resonances cause the density to change rapidly. To first order this effect is accounted for by use of the control channel. How- ever, differences in the distributions of the Dalitz plots due to efficiency differences or the nonzero value of rB in the signal decay may cause residual effects. The uncertainty from this is determined via pseudoexperiments, in which different input Fi values are used to reflect the residual migration. The size of any possible bias is found to be 0.1 × 10−2 for all CP parameters. There is a systematic uncertainty related to CP violation in the neutral kaon system due to the fact that the K0 S state is not an exact CP eigenstate and, separately, due to different nuclear interaction cross-sections of the K0 and K0 mesons. The measurement is insensitive to global asymmetries, but is affected by the different Dalitz distributions of D →K0 Sh−h+ and D →K0 Lh−h+ decays, as well as any correlations between Dalitz coordinates and the net material interaction. The potential bias on x± and y± is assessed using a series of pseudoexperiments, where data are generated taking the effects into account and fitted using the default fit. The D →K0 Lh−h+ Dalitz distribution is estimated by transforming an amplitude model of D →K0 Sh−h+ [22], following arguments and assumptions laid out in ref. [18]. The effect of material interaction is treated using the formalism described in ref. [56]. The size of the potential bias is found to be ≤0.2 × 10−2 for all CP parameters, corresponding to a bias on γ of approximately 0.8◦, which is within expected limits [57]. – 21 – x− y− x+ y+ x− 1 −0.25 0.43 −0.09 y− 1 −0.20 −0.05 x+ 1 0.14 y+ 1 Table 4. Correlation matrix of the experimental and strong-phase related systematic uncertainties. Table 4. Correlation matrix of the experimental and strong-phase related systematic uncertaintie able 4. Correlation matrix of the experimental and strong-phase related systematic uncertainties. JHEP08(2018)176 The nonuniform efficiency profile over the Dalitz plot means that the values of (ci, si) appropriate for this analysis can differ from those measured by the CLEO collaboration, which correspond to the constant-efficiency case. 7 Systematic uncertainties Amplitude models are used to calculate the values of ci and si both with and without the efficiency profiles determined from simulation. The models are taken from ref. [23] for D →K0 Sπ+π−decays and from ref. [24] for D →K0 SK+K−decays. The difference is taken as an estimate of the size of this effect. Pseudoexperiments are generated in which the values have been shifted by this difference, and then fitted with the default (ci, si) values. The resulting bias on x± and y± is found to be negligible. The effect that a detection asymmetry between hadrons of opposite charge can have on the symmetry of the efficiency across the Dalitz plot is found to be negligible. Changes in the mass model used to describe the semileptonic control sample are also found to have a negligible effect on the Fi values. Finally, several checks are conducted to assess the stability of the results. These include repeating the fits separately for both K0 S categories, for each data-taking year, and by splitting the candidates depending on whether the hardware trigger decision was due to particles in the signal-candidate decay chain or other particles produced in the pp collision. No anomalies are found and no additional systematic uncertainties are assigned. In total the systematic uncertainties are less than half of the corresponding statistical uncertainties. The correlation matrix obtained for the combined effect of the sources of experimental and strong-phase related systematic uncertainties is given in table 4. The CP observables are measured to be The CP observables are measured to be x−= ( 9.0 ± 1.7 ± 0.7 ± 0.4) × 10−2, y−= ( 2.1 ± 2.2 ± 0.5 ± 1.1) × 10−2, x+ = (−7.7 ± 1.9 ± 0.7 ± 0.4) × 10−2, y+ = (−1.0 ± 1.9 ± 0.4 ± 0.9) × 10−2, where the first uncertainty is statistical, the second is the total experimental systematic uncertainty and the third is that arising from the precision of the CLEO measurements. where the first uncertainty is statistical, the second is the total experimental systematic uncertainty and the third is that arising from the precision of the CLEO measurements. – 22 – ± x ± y 0.2 − 0.1 − 0 0.1 0.2 0.2 − 0.1 − 0 0.1 0.2 2015 & 2016 data LHCb Combination LHCb + B − B Figure 10. Two-dimensional 68.3 %, 95.5 % and 99.7 % confidence regions for (x±, y±) obtained in this measurement, as well as for the LHCb combination in ref. [54], taking statistical and systematic uncertainties, as well as their correlations, into account. JHEP08(2018)176 Figure 10. Two-dimensional 68.3 %, 95.5 % and 99.7 % confidence regions for (x±, y±) obtained in this measurement, as well as for the LHCb combination in ref. [54], taking statistical and systematic uncertainties, as well as their correlations, into account. The signature for CP violation is that (x+, y+) ̸= (x−, y−). The distance between (x+, y+) and (x−, y−) is calculated, taking all uncertainties and correlations into account, and found to be |(x+, y+)−(x−, y−)| = (17.0±2.7)×10−2, which is different from zero by 6.4 standard deviations. This constitutes the first observation of CP violation in B± →DK± decays for the D →K0 Sh+h−final states. These results are compared to the expected central values of x± and y± that can be computed from rB, δB, and γ as determined in the LHCb combination in ref. [54], and the results are shown in figure 10 (the later LHCb combination in ref. [58] includes the results of this measurement and is therefore unsuitable for comparison). The two sets of (x+, y+) are in agreement within 1.6 standard deviations when the uncertainties and correlations of both the LHCb combination and this measurement are taken into account. There is a 2.7 standard deviation tension between the measured values of (x−, y−) and the values calculated from the LHCb combination. The CP observables are measured to be This tension will be investigated further when this measurement and the LHCb combination are updated using data taken in 2017 and 2018. The results for x± and y± are interpreted in terms of the underlying physics parameters γ, rB and δB. The interpretation is done via a maximum likelihood fit using a frequentist treatment as described in ref. [59]. The solution for the physics parameters has a two-fold ambiguity as the equations are invariant under the simultaneous substitutions γ →γ+180◦ and δB →δB +180◦. The solution that satisfies 0 < γ < 180◦is chosen. The central values and 68% (95%) confidence intervals, calculated with the PLUGIN [60] method, are γ = 87◦+11◦ −12◦  +22◦ −23◦  , rB = 0.086 +0.013 −0.014 +0.025 −0.027  , δB = 101◦+11◦ −11◦  +22◦ −23◦  . γ = 87◦+11◦ −12◦  +22◦ −23◦  , – 23 – The values for γ and rB are consistent with those presented in ref. [54]. This is the most precise measurement of γ from a single analysis. The value of δB shows some disagreement with ref. [54], where the angle is determined to be 139.9 +4.8 −5.2 ◦. The values of x±, y± measured in this analysis can be combined with those from the corresponding analysis of Run 1 data [9]. This procedure is done via a maximum likelihood fit, as implemented in the gammacombo package [59]. The previous measurements are iden- tified by the index I, and the results within this paper are identified by the index II. When combining the two results, the fit determines the (ˆx±, ˆy±) parameters that maximize the multivariate Gaussian likelihood function JHEP08(2018)176 L(z|ˆz) = ((2π)8|Σ|)−1/2 exp  −1 2(z −ˆz)T Σ−1(z −ˆz)  , (8.1) (8.1) where z = (xI ±, yI ±, xII ±, yII ±)T and ˆz = (ˆx±, ˆy±, ˆx±, ˆy±)T are 8 × 1 vectors and Σ is the 8 × 8 covariance matrix where z = (xI ±, yI ±, xII ±, yII ±)T and ˆz = (ˆx±, ˆy±, ˆx±, ˆy±)T are 8 × 1 vectors and Σ is the 8 × covariance matrix where z = (xI ±, yI ±, xII ±, yII ±)T and ˆz = (ˆx±, ˆy±, ˆx±, ˆy±)T are 8 × 1 vectors and Σ is the 8 × 8 covariance matrix Σ = ΣI ΣI–II ΣII–I ΣII ! . The CP observables are measured to be (8.2) (8.2) The covariance matrix is expressed in terms of the covariance matrices obtained for the individual measurements, ΣI and ΣII, and the cross-covariance matrix ΣI–II describing correlations between the measurements. The covariance matrix for this measurement, ΣII, is calculated using the total statistical and systematic uncertainties, and the correlation matrices in tables 1 and 4. The covariance matrix for the Run 1 measurement, ΣI, is taken from ref. [9], where it was calculated taking strong-phase-related correlations into account, but treating the experimental systematic uncertainties as uncorrelated. The impact of using the correlation matrix in table 4 for these instead is found to be negligible. The dominant uncertainty in both measurements is the statistical uncertainty. As the measurements use independent data sets, the statistical uncertainties are uncorrelated. The cross-correlations of the systematic errors between measurements due to the strong phase inputs are obtained from the results of a series of fits to the two data sets in which the strong phases are varied identically. This mirrors the procedure used to evaluate the uncertainties within a single data set. The obtained cross-correlations between the fit results are given in table 5. The elements on the diagonal do not have unit value because the obtained correlations depend on the specific data sets for the two measurements. The combination is performed assuming full correlation between the non-strong-phase related experimental systematic uncertainties in Run 1 and this measurement. The cor- relation matrix for the experimental uncertainties of this analysis is used as the cross-run correlation of the experimental systematic uncertainties. The complete correlation matrix for the experimental and strong-phase-related systematic uncertainties is given in table 6. The impact on the combination due to different assumptions on the cross-correlations of the systematic uncertainties is found to be negligible. This is unsurprising as both mea- surements remain limited in precision by their statistical uncertainties. The central values, – 24 – CLEO cross-run correlation matrix xII − yII − xII + yII + xI − 0.02 0.35 −0.32 −0.21 yI − 0.45 −0.23 0.03 −0.28 xI + −0.19 0.01 0.55 −0.22 yI + −0.30 −0.28 0.13 0.48 Table 5. Correlation matrix between Run 1 results (I) and the results presented in this paper (II), when fitting data while varying the inputs from the CLEO collaboration in a correlated way. Table 5. The CP observables are measured to be Correlation matrix between Run 1 results (I) and the results presented in this paper (II when fitting data while varying the inputs from the CLEO collaboration in a correlated way. JHEP08(2018)176 Total systematic cross-run correlation matrix xII − yII − xII + yII + xI − 0.76 0.04 0.55 0.02 yI − 0.14 −0.06 −0.13 −0.25 xI + 0.58 −0.19 0.91 0.05 yI + −0.05 −0.24 0.17 0.55 Table 6. Total correlation matrix for the systematic uncertainties of the Run 1 results (I) and the results presented in this paper (II), including experimental and strong phase related systematic uncertainties. Table 6. Total correlation matrix for the systematic uncertainties of the Run 1 results (I) and the results presented in this paper (II), including experimental and strong phase related systematic uncertainties. ong with the combined statistical and systematic uncertainties for this combination are along with the combined statistical and systematic uncertainties for this combination ar < x−> = ( 7.0 ± 1.7) × 10−2, < y−> = ( 4.1 ± 2.0) × 10−2, < x+ > = (−7.8 ± 1.7) × 10−2, < y+ > = (−1.4 ± 1.7) × 10−2. < x−> = ( 7.0 ± 1.7) × 10−2, < y−> = ( 4.1 ± 2.0) × 10−2, < x+ > = (−7.8 ± 1.7) × 10−2, < y+ > = (−1.4 ± 1.7) × 10−2. The interpretation in terms of the underlying physics parameters is performed on the combined values of x± and y± and the central values and their 68% (95%) confidence intervals are γ = 80◦+10◦ −9◦  +19◦ −18◦  , rB = 0.080 +0.011 −0.011 +0.022 −0.023  , δB = 110◦+10◦ −10◦  +19◦ −20◦  . The results of the interpretation for both the combined and individual data sets are shown in figure 11, where the projections of the three-dimensional surfaces bounding the one and two standard deviation volumes on the (γ, rB) and (γ, δB) planes are shown. The uncertainty on γ is inversely proportional to rB. Therefore the lower central value of rB in the combined results lead to a larger than naively expected uncertainty on γ when both data sets are used. 9 Conclusions Approximately 4100 (560) B± →DK± decays with the D meson decaying to K0 Sπ+π− (K0 SK+K−) are selected from data corresponding to an integrated luminosity of 2.0 fb−1 collected with the LHCb detector in 2015 and 2016. These samples are analysed to deter- mine the CP-violating parameters x± ≡rB cos(δB ± γ) and y± ≡rB sin(δB ± γ), where rB is the ratio of the absolute values of the B+ →D0K−and B+ →D0K−amplitudes, δB is their strong-phase differences, and γ is an angle of the Unitarity Triangle. The analysis is performed in bins of the D-decay Dalitz plot and existing measurements performed by the CLEO collaboration [18] are used to provide input on the D-decay strong-phase parameters (ci, si). Such an approach allows the analysis to be free from model-dependent assumptions on the strong-phase variation across the Dalitz plot. This paper also gives the combination with the results obtained with an earlier data set, thereby allowing further improvements in the precision on γ. Considering only the data collected in 2015 and 2016 and choosing the solution that satisfies 0 < γ < 180◦yields rB = 0.086+0.013 −0.014, δB = (101 ± 11)◦, and γ = (87+11 −12)◦. The values of rB and γ are consistent with world averages, while there is some tension in the determined value of δB. This could be resolved by future analyses of the B →DK mode in a variety of D decays, including those analysed here, utilising the data set that is being collected with LHCb in 2017 and 2018. The measurement reported in this paper represents the most precise determination of γ from a single analysis. The CP observables are measured to be The contribution of each source of uncertainty are estimated by The results of the interpretation for both the combined and individual data sets are shown in figure 11, where the projections of the three-dimensional surfaces bounding the one and two standard deviation volumes on the (γ, rB) and (γ, δB) planes are shown. The uncertainty on γ is inversely proportional to rB. Therefore the lower central value of rB in the combined results lead to a larger than naively expected uncertainty on γ when both data sets are used. The contribution of each source of uncertainty are estimated by – 25 – ]° [ γ B r 0 60 120 180 0.05 0.1 0.15 0.2 Run 1 2015 & 2016 data Combined result LHCb ]° [ γ ]° [ B δ 0 60 120 180 0 60 120 180 Run 1 2015 & 2016 data Combined result LHCb Figure 11. Two-dimensional 68.3 % and 95.5 % confidence regions for (γ, rB, δB) for the x±, y± parameters obtained in the fit to 2015 and 2016 data, the fit to Run 1 data, and their combinations. ]° [ γ B r 0 60 120 180 0.05 0.1 0.15 0.2 Run 1 2015 & 2016 data Combined result LHCb ]° [ γ ]° [ B δ 0 60 120 180 0 60 120 180 Run 1 2015 & 2016 data Combined result LHCb JHEP08(2018)176 Figure 11. Two-dimensional 68.3 % and 95.5 % confidence regions for (γ, rB, δB) for the x±, y± parameters obtained in the fit to 2015 and 2016 data, the fit to Run 1 data, and their combinations. performing the combination while taking only subsets of the uncertainties into account. It is found that the statistical uncertainty on γ is 8.5◦, the uncertainty due to strong-phase inputs is 4◦, and the uncertainty due to experimental systematic effects is 2◦. Acknowledgments This article is distributed under the terms of the Creative Commons Attribution License (CC-BY 4.0), which permits any use, distribution and reproduction in any medium, provided the original author(s) and source are credited. Acknowledgments We express our gratitude to our colleagues in the CERN accelerator departments for the excellent performance of the LHC. We thank the technical and administrative staffat the LHCb institutes. We acknowledge support from CERN and from the national agencies: – 26 – CAPES, CNPq, FAPERJ and FINEP (Brazil); MOST and NSFC (China); CNRS/IN2P3 (France); BMBF, DFG and MPG (Germany); INFN (Italy); NWO (Netherlands); MNiSW and NCN (Poland); MEN/IFA (Romania); MinES and FASO (Russia); MinECo (Spain); SNSF and SER (Switzerland); NASU (Ukraine); STFC (United Kingdom); NSF (U.S.A.). We acknowledge the computing resources that are provided by CERN, IN2P3 (France), KIT and DESY (Germany), INFN (Italy), SURF (Netherlands), PIC (Spain), GridPP (United Kingdom), RRCKI and Yandex LLC (Russia), CSCS (Switzerland), IFIN-HH (Romania), CBPF (Brazil), PL-GRID (Poland) and OSC (U.S.A.). We are indebted to the communities behind the multiple open-source software packages on which we depend. Individual groups or members have received support from AvH Foundation (Germany), EPLANET, Marie Sk lodowska-Curie Actions and ERC (European Union), ANR, Labex P2IO and OCEVU, and R´egion Auvergne-Rhˆone-Alpes (France), Key Research Program of Frontier Sciences of CAS, CAS PIFI, and the Thousand Talents Program (China), RFBR, RSF and Yandex LLC (Russia), GVA, XuntaGal and GENCAT (Spain), Herchel Smith Fund, the Royal Society, the English-Speaking Union and the Leverhulme Trust (United Kingdom). CAPES, CNPq, FAPERJ and FINEP (Brazil); MOST and NSFC (China); CNRS/IN2P3 (France); BMBF, DFG and MPG (Germany); INFN (Italy); NWO (Netherlands); MNiSW and NCN (Poland); MEN/IFA (Romania); MinES and FASO (Russia); MinECo (Spain); SNSF and SER (Switzerland); NASU (Ukraine); STFC (United Kingdom); NSF (U.S.A.). We acknowledge the computing resources that are provided by CERN, IN2P3 (France), KIT and DESY (Germany), INFN (Italy), SURF (Netherlands), PIC (Spain), GridPP (United Kingdom), RRCKI and Yandex LLC (Russia), CSCS (Switzerland), IFIN-HH (Romania), CBPF (Brazil), PL-GRID (Poland) and OSC (U.S.A.). We are indebted to the communities behind the multiple open-source software packages on which we depend. Individual groups or members have received support from AvH Foundation (Germany), EPLANET, Marie Sk lodowska-Curie Actions and ERC (European Union), ANR, Labex P2IO and OCEVU, and R´egion Auvergne-Rhˆone-Alpes (France), Key Research Program of Frontier Sciences of CAS, CAS PIFI, and the Thousand Talents Program (China), RFBR, RSF and Yandex LLC (Russia), GVA, XuntaGal and GENCAT (Spain), Herchel Smith Fund, the Royal Society, the English-Speaking Union and the Leverhulme Trust (United Kingdom). JHEP08(2018)176 Open Access. References [1] N. Cabibbo, Unitary symmetry and leptonic decays, Phys. Rev. Lett. 10 (1963) 531 [INSPIRE]. [2] M. Kobayashi and T. Maskawa, CP violation in the renormalizable theory of weak interaction, Prog. Theor. Phys. 49 (1973) 652 [INSPIRE]. [3] J. Brod and J. Zupan, The ultimate theoretical error on γ from B →DK decays, JHEP 01 (2014) 051 [arXiv:1308.5663] [INSPIRE]. [4] HFLAV collaboration, Y. Amhis et al., Averages of b-hadron, c-hadron and τ-lepton properties as of summer 2016, Eur. Phys. J. C 77 (2017) 895 [arXiv:1612.07233] [INSPIRE]. [5] D. Atwood, I. Dunietz and A. Soni, Improved methods for observing CP-violation in B± →KD and measuring the CKM phase gamma, Phys. Rev. D 63 (2001) 036005 [hep-ph/0008090] [INSPIRE]. [6] A. Giri, Y. Grossman, A. Soffer and J. Zupan, Determining gamma using B± →DK± with multibody D decays, Phys. Rev. D 68 (2003) 054018 [hep-ph/0303187] [INSPIRE]. [7] A. Bondar, Proceedings of BINP special analysis meeting on Dalitz analysis, September 24–26 (2002), unpublished. [8] LHCb collaboration, A study of CP-violation in B± →DK± and B± →Dπ± decays with D →K0 SK±π∓final states, Phys. Lett. B 733 (2014) 36 [arXiv:1402.2982] [INSPIRE]. [9] LHCb collaboration, Measurement of the CKM angle γ using B± →DK± with D →K0 Sπ+π−, K0 SK+K−decays, JHEP 10 (2014) 097 [arXiv:1408.2748] [INSPIRE]. [10] LHCb collaboration, A study of CP violation in B∓→Dh∓(h = K, π) with the modes D →K∓π±π0, D →π+π−π0 and D →K+K−π0, Phys. Rev. D 91 (2015) 112014 [arXiv:1504.05442] [INSPIRE]. – 27 – [11] LHCb collaboration, Measurement of CP observables in B± →DK± and B± →Dπ± with two- and four-body D decays, Phys. Lett. B 760 (2016) 117 [arXiv:1603.08993] [INSPIRE]. [12] LHCb collaboration, Measurement of CP-violation parameters in B0 →DK∗0 decays, Phys. Rev. D 90 (2014) 112002 [arXiv:1407.8136] [INSPIRE]. [13] LHCb collaboration, Measurement of CP asymmetry in B0 s →D∓ s K± decays, JHEP 11 (2014) 060 [arXiv:1407.6127] [INSPIRE]. [14] LHCb collaboration, Study of B−→DK−π+π−and B−→Dπ−π+π−decays and determination of the CKM angle γ, Phys. Rev. D 92 (2015) 112005 [arXiv:1505.07044] [INSPIRE]. JHEP08(2018)176 JHEP08(2018)176 [15] LHCb collaboration, Constraints on the unitarity triangle angle γ from Dalitz plot analysis of B0 →DK+π−decays, Phys. Rev. D 93 (2016) 112018 [arXiv:1602.03455] [INSPIRE]. [16] A. Bondar and A. Poluektov, Feasibility study of model-independent approach to φ3 measurement using Dalitz plot analysis, Eur. Phys. J. C 47 (2006) 347 [hep-ph/0510246] [INSPIRE]. [17] A. Bondar and A. References Poluektov, The Use of quantum-correlated D0 decays for φ3 measurement, Eur. Phys. J. C 55 (2008) 51 [arXiv:0801.0840] [INSPIRE]. [18] CLEO collaboration, J. Libby et al., Model-independent determination of the strong-phase difference between D0 and ¯D0 →K0 S,Lh+h−(h = π, K) and its impact on the measurement of the CKM angle γ/φ3, Phys. Rev. D 82 (2010) 112006 [arXiv:1010.2817] [INSPIRE]. [19] Belle collaboration, H. Aihara et al., First Measurement of φ3 with a model-independent Dalitz plot analysis of B →DK, D →K0 Sπ+π−decay, Phys. Rev. D 85 (2012) 112014 [arXiv:1204.6561] [INSPIRE]. [20] Belle collaboration, K. Negishi et al., First model-independent Dalitz analysis of B0 →DK∗0, D →K0 Sπ+π−decay, PTEP 2016 (2016) 043C01 [arXiv:1509.01098] [INSPIRE]. [21] LHCb collaboration, Model-independent measurement of the CKM angle γ using B0 →DK∗0 decays with D →K0 Sπ+π−and K0 SK+K−, JHEP 06 (2016) 131 [arXiv:1604.01525] [INSPIRE]. [22] BaBar collaboration, B. Aubert et al., Measurement of γ in B∓→D(∗)K∓decays with a Dalitz analysis of D →K0 Sπ−π+, Phys. Rev. Lett. 95 (2005) 121802 [hep-ex/0504039] [INSPIRE]. [23] BaBar collaboration, B. Aubert et al., Improved measurement of the CKM angle γ in B∓→D(∗)K(∗∓) decays with a Dalitz plot analysis of D decays to K0 Sπ+π−and K0 SK+K−, Phys. Rev. D 78 (2008) 034023 [arXiv:0804.2089] [INSPIRE]. [24] BaBar collaboration, P. del Amo Sanchez et al., Evidence for direct CP-violation in the measurement of the Cabibbo-Kobayashi-Maskawa angle gamma with B± →D(∗)K(∗)∓ decays, Phys. Rev. Lett. 105 (2010) 121801 [arXiv:1005.1096] [INSPIRE]. [25] Belle collaboration, A. Poluektov et al., Measurement of φ3 with Dalitz plot analysis of B± →D(∗)K± decay, Phys. Rev. D 70 (2004) 072003 [hep-ex/0406067] [INSPIRE]. [26] Belle collaboration, A. Poluektov et al., Measurement of φ3 with Dalitz plot analysis of B+ →D(∗)K(∗)+ decay, Phys. Rev. D 73 (2006) 112009 [hep-ex/0604054] [INSPIRE]. – 28 – [27] Belle collaboration, A. Poluektov et al., Evidence for direct CP-violation in the decay B →D(∗)K±, D →K0 Sπ+π−and measurement of the CKM phase φ3, Phys. Rev. D 81 (2010) 112002 [arXiv:1003.3360] [INSPIRE]. [28] LHCb collaboration, Measurement of CP violation and constraints on the CKM angle γ in B± →DK± with D →K0 Sπ+π−decays, Nucl. Phys. B 888 (2014) 169 [arXiv:1407.6211] [INSPIRE]. [29] M. Battaglieri et al., Analysis tools for next-generation hadron spectroscopy experiments, Acta Phys. Polon. B 46 (2015) 257 [arXiv:1412.6393] [INSPIRE]. References [30] LHCb collaboration, A model-independent Dalitz plot analysis of B± →DK± with D →K0 Sh+h−(h = π, K) decays and constraints on the CKM angle γ, Phys. Lett. B 718 (2012) 43 [arXiv:1209.5869] [INSPIRE]. JHEP08(2018)176 [31] A. Bondar, A. Poluektov and V. Vorobiev, Charm mixing in the model-independent analysis of correlated D0 ¯D0 decays, Phys. Rev. D 82 (2010) 034033 [arXiv:1004.2350] [INSPIRE]. [32] LHCb collaboration, The LHCb detector at the LHC, 2008 JINST 3 S08005 [INSPIRE]. [33] LHCb collaboration, LHCb detector performance, Int. J. Mod. Phys. A 30 (2015) 1530022 [arXiv:1412.6352] [INSPIRE]. [34] V.V. Gligorov and M. Williams, Efficient, reliable and fast high-level triggering using a bonsai boosted decision tree, 2013 JINST 8 P02013 [arXiv:1210.6861] [INSPIRE]. [35] T. Sj¨ostrand, S. Mrenna and P.Z. Skands, A brief introduction to PYTHIA 8.1, Comput. Phys. Commun. 178 (2008) 852 [arXiv:0710.3820] [INSPIRE]. [36] T. Sj¨ostrand, S. Mrenna and P.Z. Skands, PYTHIA 6.4 physics and manual, JHEP 05 (2006) 026 [hep-ph/0603175] [INSPIRE]. [37] I. Belyaev et al., Handling of the generation of primary events in Gauss, the LHCb simulation framework, J. Phys. Conf. Ser. 331 (2011) 032047 [INSPIRE]. [38] D.J. Lange, The EvtGen particle decay simulation package, Nucl. Instrum. Meth. A 462 (2001) 152 [INSPIRE]. [39] P. Golonka and Z. Was, PHOTOS Monte Carlo: a precision tool for QED corrections in Z and W decays, Eur. Phys. J. C 45 (2006) 97 [hep-ph/0506026] [INSPIRE]. [40] Geant4 collaboration, J. Allison et al., GEANT4 developments and applications, IEEE Trans. Nucl. Sci. 53 (2006) 270. [41] GEANT4 collaboration, S. Agostinelli et al., GEANT4 — a simulation toolkit, Nucl. Instrum. Meth. A 506 (2003) 250 [INSPIRE]. [42] M. Clemencic et al., The LHCb simulation application, Gauss: design, evolution and experience, J. Phys. Conf. Ser. 331 (2011) 032023 [INSPIRE]. [43] W.D. Hulsbergen, Decay chain fitting with a Kalman filter, Nucl. Instrum. Meth. A 552 (2005) 566 [physics/0503191] [INSPIRE]. [44] Particle Data Group collaboration, C. Patrignani et al., Review of particle physics, Chin. Phys. C 40 (2016) 100001 [INSPIRE]. [45] L. Breiman et al., Classification and regression trees, Wadsworth international group, Belmont, California U.S.A. (1984). – 29 – [46] Y. Freund and R. E. Schapire, A decision-theoretic generalization of on-line learning and an application to boosting, J. Comput. Syst. Sci. 55 (1997) 119. [47] T. Skwarnicki, A study of the radiative cascade transitions between the Υ′ and Υ resonances, Ph.D. thesis, Institute of Nuclear Physics, Krakow, Poland (1986) [DESY-F31-86-02]. [48] M. References Pivk and F.R. Le Diberder, SPlot: a statistical tool to unfold data distributions, Nucl. Instrum. Meth. A 555 (2005) 356 [physics/0402083] [INSPIRE]. [49] LHCb collaboration, Measurement of CP observables in B± →D(∗)K± and B± →D(∗)π± decays, Phys. Lett. B 777 (2018) 16 [arXiv:1708.06370] [INSPIRE]. [50] LHCb collaboration, Dalitz plot analysis of B0 s →¯D0K−π+ decays, Phys. Rev. D 90 (2014) 072003 [arXiv:1407.7712] [INSPIRE]. JHEP08(2018)176 JHEP08(2018)176 [51] T. Gershon, J. Libby and G. Wilkinson, Contributions to the width difference in the neutral D system from hadronic decays, Phys. Lett. B 750 (2015) 338 [arXiv:1506.08594] [INSPIRE]. [52] F. James and M. Winkler, Minuit user’s guide (2004). [52] F. James and M. Winkler, Minuit user’s guide (2004). [53] F. James and M. Roos, Minuit: a system for function minimization and analysis of the parameter errors and correlations, Comput. Phys. Commun. 10 (1975) 343 [INSPIRE]. [54] LHCb collaboration, Update of the LHCb combination of the CKM angle γ using B →DK decays, LHCb-CONF-2017-004 (2017). [55] LHCb collaboration, Measurement of CP observables in B± →DK∗± decays using two- and four-body D final states, JHEP 11 (2017) 156 [Erratum ibid. 05 (2018) 067] [arXiv:1709.05855] [INSPIRE]. [56] LHCb collaboration, Measurement of CP asymmetry in D0 →K−K+ and D0 →π−π+ decays, JHEP 07 (2014) 041 [arXiv:1405.2797] [INSPIRE]. [57] Y. Grossman and M. Savastio, Effects of K0 −¯K0 mixing on determining γ from B± →DK±, JHEP 03 (2014) 008 [arXiv:1311.3575] [INSPIRE]. [58] LHCb collaboration, Update of the LHCb combination of the CKM angle γ, LHCb-CONF-2018-002 (2018). [59] LHCb collaboration, Measurement of the CKM angle γ from a combination of LHCb results, JHEP 12 (2016) 087 [arXiv:1611.03076] [INSPIRE]. [60] B. Sen, M. Walker and M. Woodroofe, On the unified method with nuisance parameters, Stat. Sinica 19 (2009) 301. 0] B. Sen, M. Walker and M. Woodroofe, On the unified method with nuisance parameters, Stat. Sinica 19 (2009) 301. – 30 – The LHCb collaboration R. Aaij27, B. Adeva41, M. Adinolfi48, C.A. Aidala73, Z. Ajaltouni5, S. Akar59, P. Albicocco18, j , , , , j , , J. Albrecht10, F. Alessio42, M. Alexander53, A. Alfonso Albero40, S. Ali27, G. Alkhazov33, P. Alvarez Cartelle55, A.A. Alves Jr59, S. Amato2, S. Amerio23, Y. Amhis7, L. An3, L. Anderlini17, G. Andreassi43, M. Andreotti16,g, J.E. Andrews60, R.B. Appleby56, F. Archilli2 P. d’Argent12, J. Arnau Romeu6, A. Artamonov39, M. Artuso61, K. Arzymatov37, E. Aslanides P. d’Argent12, J. Arnau Romeu6, A. Artamonov39, M. Artuso61, K. Arzymatov37, E. Aslanides6, M. Atzeni44, S. Bachmann12, J.J. Back50, S. Baker55, V. Balagura7,b, W. Baldini16, A. Baranov Atzeni44, S. Bachmann12, J.J. Back50, S. Baker55, V. Balagura7,b, W. Baldini16, A. Baranov37, J. Barlow56, S. Barsuk7, W. Barter56, F. Baryshnikov70, V. Batozskaya31, B. Batsukh61, R.J. Barlow56, S. Barsuk7, W. Barter56, F. Baryshnikov70, V. Batozskaya31, B. Batsukh6 V. Battista43, A. Bay43, J. Beddow53, F. Bedeschi24, I. Bediaga1, A. Beiter61, L.J. Bel27, Battista43, A. Bay43, J. Beddow53, F. Bedeschi24, I. Bediaga1, A. Beiter61, L.J. Bel27, JHEP08(2018)176 N. Beliy63, V. Bellee43, N. Belloli20,i, K. Belous39, I. Belyaev34,42, E. Ben-Haim8, G. Benc Beliy63, V. Bellee43, N. Belloli20,i, K. Belous39, I. Belyaev34,42, E. Ben-Haim8, G. Bencivenni18, S. Benson27, S. Beranek9, A. Berezhnoy35, R. Bernet44, D. Berninghoff12, E. Bertholet8, Benson27, S. Beranek9, A. Berezhnoy35, R. Bernet44, D. Berninghoff12, E. Bertholet8, A. Bertolin23, C. Betancourt44, F. Betti15,42, M.O. Bettler49, M. van Beuzekom27, A. Bertolin23, C. Betancourt44, F. Betti15,42, M.O. Bettler49, M. van Beuzekom27, Ia. Bezshyiko44, S. Bhasin48, J. Bhom29, S. Bifani47, P. Billoir8, A. Birnkraut10, A. Bizzeti17 Bezshyiko44, S. Bhasin48, J. Bhom29, S. Bifani47, P. Billoir8, A. Birnkraut10, A. Bizzeti17,u, M. Bjørn57, M.P. Blago42, T. Blake50, F. Blanc43, S. Blusk61, D. Bobulska53, V. Bocci26, Bjørn57, M.P. Blago42, T. Blake50, F. Blanc43, S. Blusk61, D. Bobulska53, V. Bocci26, O. Boente Garcia41, T. Boettcher58, A. Bondar38,w, N. Bondar33, S. Borghi56,42, M. Borisya O. Boente Garcia41, T. Boettcher58, A. Bondar38,w, N. Bondar33, S. Borghi56,42, M. Borisya M. Borsato41,42, F. Bossu7, M. Boubdir9, T.J.V. Bowcock54, C. Bozzi16,42, S. Braun12, M. Brodski42, J. Brodzicka29, D. Brundu22, E. Buchanan48, A. Buonaura44, C. Burr56, M. Brodski42, J. Brodzicka29, D. Brundu22, E. Buchanan48, A. Buonaura44, C. Burr56, R. Calladine47, M. Calvi20,i, M. Calvo Gomez40,m, A. Camboni40,m, P. Campana18, R. Calladine47, M. Calvi20,i, M. Calvo Gomez40,m, A. Camboni40,m, P. Campana18, D.H. Campora Perez42, L. Capriotti56, A. Carbone15,e, G. Carboni25, R. Cardinale19,h Campora Perez42, L. Capriotti56, A. Carbone15,e, G. Carboni25, R. Cardinale19,h, A. Cardini22, P. The LHCb collaboration Carniti20,i, L. Carson52, K. Carvalho Akiba2, G. Casse54, L. Cassina20, rdini22, P. Carniti20,i, L. Carson52, K. Carvalho Akiba2, G. Casse54, L. Cassina20, Cattaneo42, G. Cavallero19,h, R. Cenci24,p, D. Chamont7, M.G. Chapman48, M. Charles8, M. Cattaneo42, G. Cavallero19,h, R. Cenci24,p, D. Chamont7, M.G. Chapman48, M. Charles8 Ph. Charpentier42, G. Chatzikonstantinidis47, M. Chefdeville4, V. Chekalina37, C. Chen3, Ph. Charpentier42, G. Chatzikonstantinidis47, M. Chefdeville4, V. Chekalina37, C. Chen3, Chen22, S.-G. Chitic42, V. Chobanova41, M. Chrzaszcz42, A. Chubykin33, P. Ciambrone18, S. Chen22, S.-G. Chitic42, V. Chobanova41, M. Chrzaszcz42, A. Chubykin33, P. Ciambrone18 Cid Vidal41, G. Ciezarek42, P.E.L. Clarke52, M. Clemencic42, H.V. Cliff49, J. Closier42, X. Cid Vidal41, G. Ciezarek42, P.E.L. Clarke52, M. Clemencic42, H.V. Cliff49, J. Closier42 V. Coco42, J. Cogan6, E. Cogneras5, L. Cojocariu32, P. Collins42, T. Colombo42, Coco42, J. Cogan6, E. Cogneras5, L. Cojocariu32, P. Collins42, T. Colombo42, Comerma-Montells12, A. Contu22, G. Coombs42, S. Coquereau40, G. Corti42, M. Corvo16,g, A. Comerma-Montells12, A. Contu22, G. Coombs42, S. Coquereau40, G. Corti42, M. Cor C.M. Costa Sobral50, B. Couturier42, G.A. Cowan52, D.C. Craik58, A. Crocombe50, M. Costa Sobral50, B. Couturier42, G.A. Cowan52, D.C. Craik58, A. Crocombe50, M. Cruz Torres1, R. Currie52, C. D’Ambrosio42, F. Da Cunha Marinho2, C.L. Da Silva74, Cruz Torres1, R. Currie52, C. D’Ambrosio42, F. Da Cunha Marinho2, C.L. Da Silva74, E. Dall’Occo27, J. Dalseno48, A. Danilina34, A. Davis3, O. De Aguiar Francisco42, K. De Bruyn42 Dall’Occo27, J. Dalseno48, A. Danilina34, A. Davis3, O. De Aguiar Francisco42, K. De Bruyn42, S. De Capua56, M. De Cian43, J.M. De Miranda1, L. De Paula2, M. De Serio14,d, P. De Simone De Capua56, M. De Cian43, J.M. De Miranda1, L. De Paula2, M. De Serio14,d, P. De Simone18, C.T. Dean53, D. Decamp4, L. Del Buono8, B. Delaney49, H.-P. Dembinski11, M. Demmer10, C.T. Dean53, D. Decamp4, L. Del Buono8, B. Delaney49, H.-P. Dembinski11, M. Demmer10, P. Di Nezza18, S. Didenko70, H. Dijkstra42, F. Dordei42, M. Dorigo42,y, A. Dosil Su´arez41, P. Di Nezza18, S. Didenko70, H. Dijkstra42, F. Dordei42, M. Dorigo42,y, A. Dosil Su´arez41, L. Douglas53, A. Dovbnya45, K. Dreimanis54, L. Dufour27, G. Dujany8, P. Durante42, Douglas53, A. Dovbnya45, K. Dreimanis54, L. Dufour27, G. Dujany8, P. Durante42, J.M. Durham74, D. Dutta56, R. Dzhelyadin39, M. Dziewiecki12, A. Dziurda29, A. Dzyuba33 J.M. Durham74, D. Dutta56, R. Dzhelyadin39, M. Dziewiecki12, A. Dziurda29, A. Dzyuba33, S. Easo51, U. Egede55, V. Egorychev34, S. Eidelman38,w, S. Eisenhardt52, U. Eitschberger10, R. Ekelhof10, L. Eklund53, S. Ely61, A. Ene32, S. Escher9, S. Esen27, T. Evans59, A. The LHCb collaboration Kirn9, S. Klaver18, K. Klimaszewski31, T. Klimkovich11 ewathanakul43, K.E. Kim61, T. Kirn9, S. Klaver18, K. Klimaszewski31, T. Klimkovich11, S. Koliiev46, M. Kolpin12, R. Kopecna12, P. Koppenburg27, I. Kostiuk27, S. Kotriakhova33, v46, M. Kolpin12, R. Kopecna12, P. Koppenburg27, I. Kostiuk27, S. Kotriakhova33, ozeiha5, L. Kravchuk36, M. Kreps50, F. Kress55, P. Krokovny38,w, W. Krupa30, M. Kozeiha5, L. Kravchuk36, M. Kreps50, F. Kress55, P. Krokovny38,w, W. Krupa30, W. Krzemien31, W. Kucewicz29,l, M. Kucharczyk29, V. Kudryavtsev38,w, A.K. Kuonen43, rzemien31, W. Kucewicz29,l, M. Kucharczyk29, V. Kudryavtsev38,w, A.K. Kuonen43, T. Kvaratskheliya34,42, D. Lacarrere42, G. Lafferty56, A. Lai22, D. Lancierini44, G. Lanfran C. Langenbruch9, T. Latham50, C. Lazzeroni47, R. Le Gac6, A. Leflat35, J. Lefran¸cois7, R. Lef`evre5, F. Lemaitre42, O. Leroy6, T. Lesiak29, B. Leverington12, P.-R. Li63, T. Li3, Z. L R. Lef`evre5, F. Lemaitre42, O. Leroy6, T. Lesiak29, B. Leverington12, P.-R. Li63, T. Li3, Z. Li61, X. Liang61, T. Likhomanenko69, R. Lindner42, F. Lionetto44, V. Lisovskyi7, X. Liu3, D. Loh A. Loi22, I. Longstaff53, J.H. Lopes2, G.H. Lovell49, D. Lucchesi23,o, M. Lucio Martinez41, A. Loi22, I. Longstaff53, J.H. Lopes2, G.H. Lovell49, D. Lucchesi23,o, M. Lucio Martinez A. Lupato23, E. Luppi16,g, O. Lupton42, A. Lusiani24, X. Lyu63, F. Machefert7, F. Maciuc32 Lupato23, E. Luppi16,g, O. Lupton42, A. Lusiani24, X. Lyu63, F. Machefert7, F. Maciuc32, V. Macko43, P. Mackowiak10, S. Maddrell-Mander48, O. Maev33,42, K. Maguire56, V. Macko43, P. Mackowiak10, S. Maddrell-Mander48, O. Maev33,42, K. Maguire56, G. Manca22,f, G. Mancinelli6, D. Marangotto21,q, J. Maratas5,v, J.F. Marchand4, U. Marconi15 G. Manca22,f, G. Mancinelli6, D. Marangotto21,q, J. Maratas5,v, J.F. Marchand4, U. Marconi15, C. Marin Benito40, M. Marinangeli43, P. Marino43, J. Marks12, G. Martellotti26, M. Martin6 arin Benito40, M. Marinangeli43, P. Marino43, J. Marks12, G. Martellotti26, M. Martin6, M. Martinelli42, D. Martinez Santos41, F. Martinez Vidal72, A. Massafferri1, R. Matev42, M. Martinelli42, D. Martinez Santos41, F. Martinez Vidal72, A. Massafferri1, R. Matev42, A. Mathad50, Z. Mathe42, C. Matteuzzi20, A. Mauri44, E. Maurice7,b, B. Maurin43, A. Maz athad50, Z. Mathe42, C. Matteuzzi20, A. Mauri44, E. Maurice7,b, B. Maurin43, A. Mazurov47, M. McCann55,42, A. McNab56, R. McNulty13, J.V. Mead54, B. Meadows59, C. Meaux6, ann55,42, A. McNab56, R. McNulty13, J.V. Mead54, B. Meadows59, C. Meaux6, F. Meier10, N. Meinert67, D. Melnychuk31, M. Merk27, A. Merli21,q, E. Michielin23, Meier10, N. Meinert67, D. Melnychuk31, M. Merk27, A. Merli21,q, E. Michielin23, D.A. Milanes66, E. Millard50, M.-N. Minard4, L. Minzoni16,g, D.S. Mitzel12, A. Mogini8, A. Milanes66, E. Millard50, M.-N. Minard4, L. Minzoni16,g, D.S. Mitzel12, A. Mogini8, J. The LHCb collaboration Falabella15, Ekelhof10, L. Eklund53, S. Ely61, A. Ene32, S. Escher9, S. Esen27, T. Evans59, A. Falabella15, N. Farley47, S. Farry54, D. Fazzini20,42,i, L. Federici25, G. Fernandez40, P. Fernandez Declara rley47, S. Farry54, D. Fazzini20,42,i, L. Federici25, G. Fernandez40, P. Fernandez Declara42, A. Fernandez Prieto41, F. Ferrari15, L. Ferreira Lopes43, F. Ferreira Rodrigues2, M. Ferro A. Fernandez Prieto41, F. Ferrari15, L. Ferreira Lopes43, F. Ferreira Rodrigues2, M. Ferro-Luz 36 14 16 30 43 30 S. Filippov36, R.A. Fini14, M. Fiorini16,g, M. Firlej30, C. Fitzpatrick43, T. Fiutowski30, 6, R.A. Fini14, M. Fiorini16,g, M. Firlej30, C. Fitzpatrick43, T. Fiutowski30, F. Fleuret7,b, M. Fontana22,42, F. Fontanelli19,h, R. Forty42, V. Franco Lima54, M. Frank42, , M. Fontana22,42, F. Fontanelli19,h, R. Forty42, V. Franco Lima54, M. Frank42, C. Frei42, J. Fu21,q, W. Funk42, C. F¨arber42, M. F´eo Pereira Rivello Carvalho27, E. Gabriel5 A. Gallas Torreira41, D. Galli15,e, S. Gallorini23, S. Gambetta52, M. Gandelman2, P. Gandini2 Y. Gao3, L.M. Garcia Martin72, B. Garcia Plana41, J. Garc´ıa Pardi˜nas44, J. Garra Tico49, L. Garrido40, D. Gascon40, C. Gaspar42, L. Gavardi10, G. Gazzoni5, D. Gerick12, E. Gersabeck5 M. Gersabeck56, T. Gershon50, D. Gerstel6, Ph. Ghez4, S. Gian`ı43, V. Gibson49, O.G. Girard43, – 31 – Giubega32, K. Gizdov52, V.V. Gligorov8, D. Golubkov34, A. Golutvin55,70, A. Gomes1,a, L. Giubega32, K. Gizdov52, V.V. Gligorov8, D. Golubkov34, A. Golutvin55,70, A. Gomes1,a, I.V. Gorelov35, C. Gotti20,i, E. Govorkova27, J.P. Grabowski12, R. Graciani Diaz40, L.A. Granado Cardoso42, E. Graug´es40, E. Graverini44, G. Graziani17, A. Grecu32, R. Greim P. Griffith22, L. Grillo56, L. Gruber42, B.R. Gruberg Cazon57, O. Gr¨unberg67, C. Gu3, E. Gushchin36, Yu. Guz39,42, T. Gys42, C. G¨obel62, T. Hadavizadeh57, C. Hadjivasiliou5, G. Haefeli43, C. Haen42, S.C. Haines49, B. Hamilton60, X. Han12, T.H. Hancock57, S. Hansmann-Menzemer12, N. Harnew57, S.T. Harnew48, T. Harrison54, C. Hasse42, M. Hatc J. He63, M. Hecker55, K. Heinicke10, A. Heister9, K. Hennessy54, L. Henry72, E. van Herwijnen42, Z.C. Huard59, W. Hulsbergen27, T. Humair55, M. Hushchyn37, D. Hutchcroft54, D. Hynds27, , g , , y , , y P. Ibis10, M. Idzik30, P. Ilten47, K. Ivshin33, R. Jacobsson42, J. Jalocha57, E. Jans27, JHEP08(2018)176 JHEP08(2018)176 A. Jawahery60, F. Jiang3, M. John57, D. Johnson42, C.R. Jones49, C. Joram42, B. Jost42, N. Jurik57, S. Kandybei45, M. Karacson42, J.M. Kariuki48, S. Karodia53, N. Kazeev37, M. Kecke12, F. Keizer49, M. Kelsey61, M. Kenzie49, T. Ketel28, E. Khairullin37, B. Khanji12 e12, F. Keizer49, M. Kelsey61, M. Kenzie49, T. Ketel28, E. Khairullin37, B. Khanji12, C. Khurewathanakul43, K.E. Kim61, T. M. Poli Lener18, A. Poluektov50, N. Polukhina70,c, I. Polyakov61, E. Polycarpo2, G.J. Pomery48 F. Pisani42, A. Piucci12, V. Placinta32, S. Playfer52, J. Plews47, M. Plo Casasus41, F. Polci8, The LHCb collaboration Puig Navarro44, H. Pullen57, G. Punzi24,p, W. Qian63, J. Qin6 , g , g , , , Q , Q , Quagliani8, B. Quintana5, B. Rachwal30, J.H. Rademacker48, M. Rama24, M. Ramos Pernas41, S. Rangel2, F. Ratnikov37,x, G. Raven28, M. Ravonel Salzgeber42, M. Reboud4, F. Redi43, M.S. Rangel2, F. Ratnikov37,x, G. Raven28, M. Ravonel Salzgeber42, M. Reboud4, F. Redi43, S. Reichert10, A.C. dos Reis1, F. Reiss8, C. Remon Alepuz72, Z. Ren3, V. Renaudin7, Reichert10, A.C. dos Reis1, F. Reiss8, C. Remon Alepuz72, Z. Ren3, V. Renaudin7, S. Ricciardi51, S. Richards48, K. Rinnert54, P. Robbe7, A. Robert8, A.B. Rodrigues43, E. Rodrigues59, J.A. Rodriguez Lopez66, M. Roehrken42, A. Rogozhnikov37, S. Roiser42, A. Rollings57, V. Romanovskiy39, A. Romero Vidal41, M. Rotondo18, M.S. Rudolph61, T. Ruf42, A. Rollings57, V. Romanovskiy39, A. Romero Vidal41, M. Rotondo18, M.S. Rudolph61, T. R C. Sanchez Gras27, C. Sanchez Mayordomo72, B. Sanmartin Sedes41, R. Santacesaria26, C. Sanchez Gras27, C. Sanchez Mayordomo72, B. Sanmartin Sedes41, R. Santacesaria26, C. Santamarina Rios41, M. Santimaria18, E. Santovetti25,j, G. Sarpis56, A. Sarti18,k, JHEP08(2018)176 JHEP08(2018)176 C. Satriano26,s, A. Satta25, M. Saur63, D. Savrina34,35, S. Schael9, M. Schellenberg10, C. Satriano26,s, A. Satta25, M. Saur63, D. Savrina34,35, S. Schael9, M. Schellenberg10, Schiller53, H. Schindler42, M. Schmelling11, T. Schmelzer10, B. Schmidt42, O. Schneider43, A. Schopper42, H.F. Schreiner59, M. Schubiger43, M.H. Schune7, R. Schwemmer42, B. Sciascia Schopper42, H.F. Schreiner59, M. Schubiger43, M.H. Schune7, R. Schwemmer42, B. Sciascia18, A. Sciubba26,k, A. Semennikov34, E.S. Sepulveda8, A. Sergi47,42, N. Serra44, J. Serrano6, Sciubba26,k, A. Semennikov34, E.S. Sepulveda8, A. Sergi47,42, N. Serra44, J. Serrano6, Sestini23, P. Seyfert42, M. Shapkin39, Y. Shcheglov33,†, T. Shears54, L. Shekhtman38,w, L. Sestini23, P. Seyfert42, M. Shapkin39, Y. Shcheglov33,†, T. Shears54, L. Shekhtman38,w, V. Shevchenko69, E. Shmanin70, B.G. Siddi16, R. Silva Coutinho44, L. Silva de Oliveira2, Shevchenko69, E. Shmanin70, B.G. Siddi16, R. Silva Coutinho44, L. Silva de Oliveira2, G. Simi23,o, S. Simone14,d, N. Skidmore12, T. Skwarnicki61, J.G. Smeaton49, E. Smith9, G. Simi23,o, S. Simone14,d, N. Skidmore12, T. Skwarnicki61, J.G. Smeaton49, E. Smith9, T. Smith52, M. Smith55, M. Soares15, l. Soares Lavra1, M.D. Sokoloff59, F.J.P. Soler53, I.T. Smith52, M. Smith55, M. Soares15, l. Soares Lavra1, M.D. Sokoloff59, F.J.P. Soler53, Souza De Paula2, B. Spaan10, P. Spradlin53, F. Stagni42, M. Stahl12, S. Stahl42, P. Stefko43, B. Souza De Paula2, B. Spaan10, P. Spradlin53, F. Stagni42, M. Stahl12, S. Stahl42, P. Ste S. Stefkova55, O. Steinkamp44, S. Stemmle12, O. Stenyakin39, M. Stepanova33, H. Stevens10, Stefkova55, O. Steinkamp44, S. Stemmle12, O. Stenyakin39, M. 8 LPNHE, Sorbonne Universit´e, Paris Diderot Sorbonne Paris Cit´e, CNRS/IN2P3, Paris, France 1 Centro Brasileiro de Pesquisas F´ısicas (CBPF), Rio de Janeiro, Brazil 2 Universidade Federal do Rio de Janeiro (UFRJ), Rio de Janeiro, Brazil 3 Center for High Energy Physics, Tsinghua University, Beijing, China 4 Univ. Grenoble Alpes, Univ. Savoie Mont Blanc, CNRS, IN2P3-LAPP, Annecy, France 5 Clermont Universit´e, Universit´e Blaise Pascal, CNRS/IN2P3, LPC, Clermont-Ferrand, France 6 Aix Marseille Univ, CNRS/IN2P3, CPPM, Marseille, France 7 LAL, Univ. Paris-Sud, CNRS/IN2P3, Universit´e Paris-Saclay, Orsay, France 8 LPNHE, Sorbonne Universit´e, Paris Diderot Sorbonne Paris Cit´e, CNRS/IN2P3, Paris, France / 7 LAL, Univ. Paris-Sud, CNRS/IN2P3, Universit´e Paris-Saclay, Orsay, France The LHCb collaboration Molina Rodriguez1,z, T. Momb¨acher10, I.A. Monroy66, S. Monteil5, M. Morandin23, Molina Rodriguez1,z, T. Momb¨acher10, I.A. Monroy66, S. Monteil5, M. Morandin23, Morello18, M.J. Morello24,t, O. Morgunova69, J. Moron30, A.B. Morris6, R. Mountain61, G. Morello18, M.J. Morello24,t, O. Morgunova69, J. Moron30, A.B. Morris6, R. Mountain61, F. Muheim52, M. Mulder27, C.H. Murphy57, D. Murray56, D. M¨uller42, J. M¨uller10, K. M¨ulle Muheim52, M. Mulder27, C.H. Murphy57, D. Murray56, D. M¨uller42, J. M¨uller10, K. M¨uller44, V. M¨uller10, P. Naik48, T. Nakada43, R. Nandakumar51, A. Nandi57, T. Nanut43, I. Nasteva2 M¨uller10, P. Naik48, T. Nakada43, R. Nandakumar51, A. Nandi57, T. Nanut43, I. Nasteva2, Needham52, N. Neri21, S. Neubert12, N. Neufeld42, M. Neuner12, T.D. Nguyen43, M. Needham52, N. Neri21, S. Neubert12, N. Neufeld42, M. Neuner12, T.D. Nguyen43, Nguyen-Mau43,n, S. Nieswand9, R. Niet10, N. Nikitin35, A. Nogay69, D.P. O’Hanlon15, C. Nguyen-Mau43,n, S. Nieswand9, R. Niet10, N. Nikitin35, A. Nogay69, D.P. O’Hanlon15, A. Oblakowska-Mucha30, V. Obraztsov39, S. Ogilvy18, R. Oldeman22,f, C.J.G. Onderwater68, A. Oblakowska-Mucha30, V. Obraztsov39, S. Ogilvy18, R. Oldeman22,f, C.J.G. Onderwater68 M. Palutan18,42, G. Panshin71, A. Papanestis51, M. Pappagallo52, L.L. Pappalardo16,g, M. Palutan18,42, G. Panshin71, A. Papanestis51, M. Pappagallo52, L.L. Pappalardo16,g, Papanestis51, M. Pappagallo52, L.L. Pappalardo16 W. Parker60, C. Parkes56, G. Passaleva17,42, A. Pastore14, M. Patel55, C. Patrignani15,e, . Parker60, C. Parkes56, G. Passaleva17,42, A. Pastore14, M. Patel55, C. Patrignani15,e, Pearce42, A. Pellegrino27, G. Penso26, M. Pepe Altarelli42, S. Perazzini42, D. Pereima34, A. Pearce42, A. Pellegrino27, G. Penso26, M. Pepe Altarelli42, S. Perazzini42, D. Pereima Perret5, L. Pescatore43, K. Petridis48, A. Petrolini19,h, A. Petrov69, S. Petrucci52, P. Perret5, L. Pescatore43, K. Petridis48, A. Petrolini19,h, A. Petrov69, S. Petrucci52, Petruzzo21,q, B. Pietrzyk4, G. Pietrzyk43, M. Pikies29, M. Pili57, D. Pinci26, J. Pinzino42, M. Petruzzo21,q, B. Pietrzyk4, G. Pietrzyk43, M. Pikies29, M. Pili57, D. Pinci26, J. Pinzin F. Pisani42, A. Piucci12, V. Placinta32, S. Playfer52, J. Plews47, M. Plo Casasus41, F. Polci8, Pisani42, A. Piucci12, V. Placinta32, S. Playfer52, J. Plews47, M. Plo Casasus41, F. Polci8, M. Poli Lener18, A. Poluektov50, N. Polukhina70,c, I. Polyakov61, E. Polycarpo2, G.J. Pomery48, M. Poli Lener18, A. Poluektov50, N. Polukhina70,c, I. Polyakov61, E. Polycarpo2, G.J. Pomery48, – 32 – S. Ponce42, A. Popov39, D. Popov47,11, S. Poslavskii39, C. Potterat2, E. Price48, J. Prisciandaro4 nce42, A. Popov39, D. Popov47,11, S. Poslavskii39, C. Potterat2, E. Price48, J. Prisciandaro41, , p , p , , , , , Prouve48, V. Pugatch46, A. Puig Navarro44, H. Pullen57, G. Punzi24,p, W. Qian63, J. Qin63, C. Prouve48, V. Pugatch46, A. The LHCb collaboration Stepanova33, H. Stevens10, S. Stone61, B. Storaci44, S. Stracka24,p, M.E. Stramaglia43, M. Straticiuc32, U. Straumann44 Stone61, B. Storaci44, S. Stracka24,p, M.E. Stramaglia43, M. Straticiuc32, U. Straumann44, S. Strokov71, J. Sun3, L. Sun64, K. Swientek30, V. Syropoulos28, T. Szumlak30, M. Szymanski63 S. Strokov71, J. Sun3, L. Sun64, K. Swientek30, V. Syropoulos28, T. Szumlak30, M. Szymanski63 S. T’Jampens4, Z. Tang3, A. Tayduganov6, T. Tekampe10, G. Tellarini16, F. Teubert42, E. Thomas42, J. van Tilburg27, M.J. Tilley55, V. Tisserand5, S. Tolk42, L. Tomassetti16,g, E. Thomas42, J. van Tilburg27, M.J. Tilley55, V. Tisserand5, S. Tolk42, L. Tomassetti16,g, y Vorobyev33, V. Vorobyev38,w, J.A. de Vries27, C. V´azquez Sierra27, R. Waldi67, J. Walsh24, Wang61, M. Wang3, Y. Wang65, Z. Wang44, D.R. Ward49, H.M. Wark54, N.K. Watson47, Websdale55, A. Weiden44, C. Weisser58, M. Whitehead9, J. Wicht50, G. Wilkinson57, Wilkinson61, I. Williams49, M.R.J. Williams56, M. Williams58, T. Williams47, F.F. Wilson51,42, J. Wimberley60, M. Winn7, J. Wishahi10, W. Wislicki31, M. Witek29, G. Wormser7, S.A. Wotton49, K. Wyllie42, D. Xiao65, Y. Xie65, A. Xu3, M. Xu65, Q. Xu63, Z. Xu3, Z. Xu4, Z. Yang3, Z. Yang60, Y. Yao61, L.E. Yeomans54, H. Yin65, J. Yu65,ab, X. Yuan61, O. Yushchenko39, K.A. Zarebski47, M. Zavertyaev11,c, D. Zhang65, L. Zhang3, W.C. Zhang3,aa, Y. Zhang7, A. Zhelezov12, Y. Zheng63, X. Zhu3, V. Zhukov9,35, J.B. Zonneveld52, S. Zucchelli15 5 Clermont Universit´e, Universit´e Blaise Pascal, CNRS/IN2P3, LPC, Clermont-Ferrand, France 6 Aix Marseille Univ, CNRS/IN2P3, CPPM, Marseille, France / 7 LAL, Univ. Paris-Sud, CNRS/IN2P3, Universit´e Paris-Saclay, Orsay, France – 33 – 9 I. Physikalisches Institut, RWTH Aachen University, Aachen, Germany 9 I. The LHCb collaboration Physikalisches Institut, RWTH Aachen University, Aachen, Germany 10 Fakult¨at Physik, Technische Universit¨at Dortmund, Dortmund, Germany 10 Fakult¨at Physik, Technische Universit¨at Dortmund, Dortmund, Germany 11 Max-Planck-Institut f¨ur Kernphysik (MPIK), Heidelberg, Germany 11 Max-Planck-Institut f¨ur Kernphysik (MPIK), Heidelberg, Germany 12 Physikalisches Institut, Ruprecht-Karls-Universit¨at Heidelberg, Heidelberg, Germany 12 Physikalisches Institut, Ruprecht-Karls-Universit¨at Heidelberg, Heidelberg, Germany Physikalisches Institut, Ruprecht-Karls-Universit¨at H 12 Physikalisches Institut, Ruprecht-Karls-Universit¨at Heidelberg, H School of Physics, University College Dublin, Dublin, 14 INFN Sezione di Bari, Bari, Italy 15 INFN Sezione di Bologna, Bologna, Italy 16 INFN Sezione di Ferrara, Ferrara, Italy 17 INFN Sezione di Firenze, Firenze, Italy 18 INFN Laboratori Nazionali di Frascati, Frascati, Italy 19 INFN Sezione di Genova, Genova, Italy 20 INFN Sezione di Milano-Bicocca, Milano, Italy JHEP08(2018)176 21 INFN Sezione di Milano, Milano, Italy 22 INFN Sezione di Cagliari, Monserrato, Italy 23 INFN Sezione di Padova, Padova, Italy 24 INFN Sezione di Pisa, Pisa, Italy 25 INFN Sezione di Roma Tor Vergata, Roma, Italy 26 INFN Sezione di Roma La Sapienza, Roma, Italy 27 Nikhef National Institute for Subatomic Physics, Amsterdam, Netherlands Nikhef National Institute for Subatomic Physics, A 28 Nikhef National Institute for Subatomic Physics and VU University Amsterdam, Amsterdam, Netherlands 29 Henryk Niewodniczanski Institute of Nuclear Physics Polish Academy of Sciences, Krak´ow, Poland 29 Henryk Niewodniczanski Institute of Nuclear Physics Polish Academy of Sciences, Krak´ow, Poland 30 AGH — University of Science and Technology, Faculty of Physics and Applied Computer Science, Krak´ow, Poland 29 Henryk Niewodniczanski Institute of Nuclear Physics Polish Academy of Sciences, Krak´ow, Poland 30 AGH — University of Science and Technology, Faculty of Physics and Applied Computer Science, 30 AGH — University of Science and Technology, Faculty of Physics and Applied Computer Science, Krak´ow, Poland 31 National Center for Nuclear Research (NCBJ), Warsaw, Poland 32 Horia Hulubei National Institute of Physics and Nuclear Engineering, Bucharest-Magurele, Romania 33 Petersburg Nuclear Physics Institute (PNPI), Gatchina, Russia 34 Institute of Theoretical and Experimental Physics (ITEP), Moscow, Russia 35 Institute of Nuclear Physics, Moscow State University (SINP MSU), Moscow, Russia 36 Institute for Nuclear Research of the Russian Academy of Sciences (INR RAS), Moscow, Russia 36 Institute for Nuclear Research of the Russian Academy of Sciences (INR RAS), Moscow, Russia 37 Yandex School of Data Analysis, Moscow, Russia 37 Yandex School of Data Analysis, Moscow, Russia 37 Yandex School of Data Analysis, Moscow, Russia 38 Budker Institute of Nuclear Physics (SB RAS), N 39 Institute for High Energy Physics (IHEP), Protvino, Russia stitute for High Energy Physics (IHEP), Protvino, R 40 ICCUB, Universitat de Barcelona, Barcelona, Spain 41 Instituto Galego de F´ısica de Altas Enerx´ıas (IGFAE), Universidade de Santiago de Compostela, Santiago de Compostela, Spain 42 European Organization for Nuclear Research (CERN), Geneva, Switzerland 42 European Organization for Nuclear Research (CERN), Geneva, Switzerland 43 Institute of Physics, Ecole Polytechnique F´ed´erale de Lausanne (EPFL), Lausanne, Switzerland 44 43 Institute of Physics, Ecole Polytechnique F´ed´erale de Lausanne (EPFL), Lausanne, Switzerland 44 Physik Institut Universit¨at Z¨urich Z¨urich Switzerland 43 Institute of Physics, Ecole Polytechnique F´ed´erale de Lausanne (EPFL), Lausann Physik-Institut, Universit¨at Z¨urich, Z¨urich, Switzer 45 NSC Kharkiv Institute of Physics and Technology (NSC KIPT), Kharkiv, Uk 45 NSC Kharkiv Institute of Physics and Technology (NSC KIPT), Kharkiv, Ukrai SC Kharkiv Institute of Physics and Technology (NS 46 Institute for Nuclear Research of the National Academy of Sciences (KINR), Kyiv 46 Institute for Nuclear Research of the National Academy of Sciences (KINR), Kyiv, Ukraine f f y f ( ), y , 47 University of Birmingham, Birmingham, United Kingdom 47 University of Birmingham, Birmingham, United Kingdom 48 H.H. The LHCb collaboration Wills Physics Laboratory, University of Bristol, Bristol, United Kingdom 48 H.H. The LHCb collaboration Wills Physics Laboratory, University of Bristol, Bristol, United Kingdom 49 Cavendish Laboratory, University of Cambridge, Cambridge, United Kingdom 49 Cavendish Laboratory, University of Cambridge, Cambridge, United Kingdom University of Cambridge, Cambridge, United Kingdo 50 Department of Physics, University of Warwick, Coventry, United Kingdom 50 Department of Physics, University of Warwick, Coventry, United Kingdom 51 STFC Rutherford Appleton Laboratory, Didcot, United Kingdom 52 School of Physics and Astronomy, University of Edinburgh, Edinburgh, United Kingdom 52 School of Physics and Astronomy, University of Edinburgh, Edinburgh, United Kingdom Physics and Astronomy, University of Edinburgh, E School of Physics and Astronomy, University of Edin School of Physics and Astronomy, University of Glasgow, Glasgow, United Kingdom 53 School of Physics and Astronomy, University of Glasgow, Glasgow, United King Oliver Lodge Laboratory, University of Liverpool, Liverpool, United Kingdom 54 Oliver Lodge Laboratory, University of Liverpool, Liverpool, United Kingdom 55 Imperial College London, London, United Kingdom 56 School of Physics and Astronomy, University of Manchester, Manchester, United Kingdom 56 School of Physics and Astronomy, University of Manchester, Manchester, United Kingdom – 34 – 57 Department of Physics, University of Oxford, Oxford, United Kingdom 58 Massachusetts Institute of Technology, Cambridge, MA, United States 59 University of Cincinnati, Cincinnati, OH, United States 60 University of Maryland, College Park, MD, United States 61 Syracuse University, Syracuse, NY, United States 62 Pontif´ıcia Universidade Cat´olica do Rio de Janeiro (PUC-Rio), Rio de Janeiro, Brazil, associated to2 63 University of Chinese Academy of Sciences, Beijing, China, associated to3 64 School of Physics and Technology, Wuhan University, Wuhan, China, associated to3 65 65 Institute of Particle Physics, Central China Normal University, Wuhan, Hubei, China, associated to3 Departamento de Fisica , Universidad Nacional de C JHEP08(2018)176 JHEP08(2018)176 Departamento de Fisica , Universidad Nacional de Colombia, Bogota, Colombia, associated to 67 Institut f¨ur Physik, Universit¨at Rostock, Rostock, Germany, associated to12 67 Institut f¨ur Physik, Universit¨at Rostock, Rostock, Germany, associated to12 68 Van Swinderen Institute, University of Groningen, Groningen, Netherlands, associated to27 69 National Research Centre Kurchatov Institute, Moscow, Russia, associated to34 70 National University of Science and Technology “MISIS”, Moscow, Russia, associated to34 National Research Tomsk Polytechnic University, Tomsk, Russia, associated to34 71 National Research Tomsk Polytechnic University, Tomsk, Russia, associated to34 72 Instituto de Fisica Corpuscular, Centro Mixto Universidad de Valencia — CSIC, Valencia, Spain associated to40 73 University of Michigan, Ann Arbor, United States, associated to61 74 74 Los Alamos National Laboratory (LANL), Los Alamos, United States, associated to61 74 Los Alamos National Laboratory (LANL), Los Alamos, United States, associated to61 a Universidade Federal do Triˆangulo Mineiro (UFTM), Uberaba-MG, Brazil Universidade Federal do Triˆangulo Mineiro (UFTM b Laboratoire Leprince-Ringuet, Palaiseau, France c P.N. The LHCb collaboration Lebedev Physical Institute, Russian Academy of Science (LPI RAS), Moscow, Russia d c P.N. Lebedev Physical Institute, Russian Academy of Science (LPI RAS) d Universit`a di Bari, Bari, Italy e Universit`a di Bologna, Bologna, Italy f e Universit`a di Bologna, Bologna, Italy f Universit`a di Cagliari, Cagliari, Italy g Universit`a di Ferrara, Ferrara, Italy h Universit`a di Genova, Genova, Italy i Universit`a di Milano Bicocca, Milano, Italy j Universit`a di Roma Tor Vergata, Roma, Italy j Universit`a di Roma Tor Vergata, Roma, Italy k Universit`a di Roma La Sapienza, Roma, Italy l AGH — University of Science and Technology, Faculty of Computer Science, Electronics and l AGH — University of Science and Technology, Faculty of Computer Science, Electronics and l AGH — University of Science and Technology, Telecommunications, Krak´ow, Poland m LIFAELS, La Salle, Universitat Ramon Llull, Barcelona, Spain m LIFAELS, La Salle, Universitat Ramon Llull, Barcelona, Spain n Hanoi University of Science, Hanoi, Vietnam n Hanoi University of Science, Hanoi, Vietnam o Universit`a di Padova, Padova, Italy o Universit`a di Padova, Padova, Italy p Universit`a di Pisa, Pisa, Italy p Universit`a di Pisa, Pisa, Italy q Universit`a degli Studi di Milano, Milano, Italy r Universit`a di Urbino, Urbino, Italy r Universit`a di Urbino, Urbino, Italy s Universit`a della Basilicata, Potenza, Italy s Universit`a della Basilicata, Potenza, Italy t Scuola Normale Superiore, Pisa, Italy t Scuola Normale Superiore, Pisa, Italy u Universit`a di Modena e Reggio Emilia, Modena, Italy u Universit`a di Modena e Reggio Emilia, Modena, Italy v MSU — Iligan Institute of Technology (MSU-IIT), Iligan, Philippines v MSU — Iligan Institute of Technology (MSU-IIT), Iligan, Philippines w Novosibirsk State University, Novosibirsk, Russia w Novosibirsk State University, Novosibirsk, Russia x National Research University Higher School of Economics, Moscow, Russia x National Research University Higher School o x National Research University Higher School of Economics, Moscow, Ru y Sezione INFN di Trieste, Trieste, Italy y Sezione INFN di Trieste, Trieste, Italy z Escuela Agr´ıcola Panamericana, San Antonio de Oriente, Honduras z Escuela Agr´ıcola Panamericana, San Antonio de Oriente, Honduras aa School of Physics and Information Technology, Shaanxi Normal University (SNNU), Xi’an, China aa School of Physics and Information Technology, Shaanxi Normal Univer ab Physics and Micro Electronic College, Hunan University, Changsha City, China ab Physics and Micro Electronic College, Hunan University, Changsha City, China † – 35 –
https://openalex.org/W3198708495
https://journals.pnu.edu.ua/index.php/pcss/article/download/5068/5621
Russian
null
Electrochemical and electrical properties of nickel molybdate / carbon material composites
Fìzika ì hìmìâ tverdogo tìla
2,021
cc-by
3,473
Vasyl Stefanyk Precarpathian National University, Ivano-Frankivsk, Ukraine, khemiiolha@gmail.com The aim of this paper is to establish the optimal content of carbon material in composites with nanocrystal hydrate nickel molybdate. To achieve this, NiMoO4 / C composites with a carbon material content of 1, 5 and 10% by weight (with and without ultrasonic irradiation) were obtained by hydrothermal method. As a result of electrochemical studies, it was found that the maximum specific capacitance of 628 F/g is reached by a composite with a carbon content of 1% after ultrasonic exposure, while this composite shows excellent electrical conductivity, which is 0.47 S/m. Keywords: nickel molybdate, carbon material, composite, specific capacitance, electrical conductivity, hybrid capacitor. Received 17 June 2021; Accepted 20 August 2021. Received 17 June 2021; Accepted 20 August 2021. Introduction dispersion of oxides, sulfides of transition metals and composites based on them leads to a decrease in the particle size of materials and the formation on their surface of uncompensated chemical bonds capable of interacting with electrolyte ions [4]. In addition, NiMoO4 is an inexpensive, chemically stable and environmentally friendly material with good electron transport characteristics (electrical conductivity varies in the range from 10-13 to 10-6 S/m) combined with the electrochemical activity of nickel ions [5]. Mixed oxides of transition metals such as metal molybdates MMoO4 (M - Ni, Co, Mn) due to their multiple valence states and high electrical conductivity are considered the best materials for electrodes of electrical energy storage devices compared to single oxides of transition metals [1]. Nickel, cobalt and manganese molybdates are widely used in hybrid capacitors [2] however they have a number of disadvantages, which limits their ability to achieve theoretical capacitance (theoretical capacitance of NiMoO4 is 735 F/g). Thus, the electrochemical charge/discharge testing the binary transition metal oxides are subjected to degradation, swelling of the material and the phase transition. One way to solve this problem is to form composites based on binary oxides of molybdates with carbon material, which allows us to increase the electrical conductivity of the material and the number of active centers for ion adsorption [3]. Another effective way to improve the specific energy characteristics of materials for the electrodes of hybrid capacitors is ultrasonic modification. Because ultrasonic In this paper, hydrate nickel molybdate / carbon material composites (NiMoO4/C) with a percentage of carbon material of 1, 5 and 10 % by weight (with and without ultrasonic irradiation) obtained by hydrothermal method [6]. We performed electrochemical studies and measured the specific conductivity of materials to determine the optimal content of carbon material in composites. PACS: 81.05.U−, 82.45.Yz PACS: 81.05.U−, 82.45.Yz PHYSICS AND CHEMISTRY OF SOLID STATE V. 22, No. 3 (2021) pp. 481-486 Section: Physics PHYSICS AND CHEMISTRY OF SOLID STATE V. 22, No. 3 (2021) pp. 481-486 Section: Physics DOI: 10.15330/pcss.22.3.481-486 Electrochemical and electrical properties of nickel molybdate / carbon material composites Stefanyk Precarpathian National University, Ivano-Frankivsk, Ukraine, khemiiolha@gmail.com Received 17 June 2021; Accepted 20 August 2021. I. Materials and methods Modification of the carbon material was carried out 481 O.M. Popovych, I. M. Budzulyak, V.O. Kotsyubynsky, L.S. Yablon, O.V. Popovych for 1 h in distilled water using an ultrasonic dispersant operating frequency range 20 - 25 kHz. Electrochemical studies were performed using an 8-channel charge / discharge stand "Tionid" in a three-electrode cell by cyclic voltammetry and galvanostatic charges / discharge testing. The working electrodes were formed from composites, the auxiliary was a platinum electrode, and the reference electrode was a chlorine-silver electrode. A 33 % aqueous solution of potassium hydroxide was used as the electrolyte. The working electrode was formed from a mixture of: 80% composite and 20 % conductive additive (acetylene carbon black), which was mixed with alcohol and pressed into a nickel mesh with an area of 25 мм2. The mass of active material in each electrode was approximately 15 mg. Specific discharge capacitances of materials were calculated from cyclic voltammograms by the formula: С = 𝑄 𝑚∆𝑈, where Q – the charge is given (accumulated) by the electrochemical system during cathode (anode) scanning, m - mass of material, ΔU – potential range. Specific capacitances from discharge curves were calculated by the formula: С = 𝐼∆𝑡 𝑚∆𝑈, I – current, Δt – discharge time. Electrical conductivity at room temperature was studied using a measuring complex AUTOLAB PGSTAT12 in the frequency range 10-2 –105 Hz at a voltage of 0 V. The real part of conductivity defined by the formula: 𝜎= ℎ 𝑍′𝑆, where h - the thickness of the sample, Z’ - the real part of the resistivity, S - surface area of the test sample (diameter was 14 mm). evolution takes place at a potential of 0.4 V and leads to a significant increase in specific current and, accordingly, the destruction of the material. Therefore, we limited the potential scanning range to 0.4 V. The specific discharge capacitances of NiMoO4 hydrate were 575, 486, 347 and 242 F/g at scan rates of 1, 2, 5 і 10 mV/s. The carbon material has a specific capacitances of 90, 80 and 76 F/g at scan rates of 1, 5 and 10 mV/s, respectively, in the range of -1 to 0 V using a three- electrode cell (Fig. 1b). I. Materials and methods The specific capacitance of the carbon material is mainly provided by the charge / discharge of the electric double layer at the electrode / electrolyte interface, which is facilitated by the large specific surface area of the carbon material ⁓ 1200 m2 / g with a large number of micro pores [8]. In NiMoO4 / C composites, the content of carbon material was 1, 5 and 10 % by weight, as it was found [9] that in the mechano-chemical synthesis of materials, the highest specific capacitance is achieved by a composite based on nickel hydroxide with a carbon content of 10 %. Therefore, we formed four NiMoO4 / C composites with carbon content: 1 and 10% (without ultrasonic exposure) and 1 and 5 % (carbon material was subjected to ultrasonic dispersion (denoted as С us)). The monoclinic crystal structure of nickel molybdate hydrate is constructed of pairs of NiO6 and NiO5(OH2) octahedrons that share common edges connected by MoO4 tetrahedrons, thus forming a network structure with open channels [10]. NiMoO4 hydrate contains coordinated water bound by a hydrogen bond to the crystal lattice, as well as lattice water. Coordinated water molecules can be removed by thermal desorption of hydrate at a temperature of 280 - 400 ℃, , followed by the formation of a triclinic crystal structure α-NiMoO4, while lattice water can be easily removed by heating to lower temperatures, namely 120 – 160 ℃ [11]. The migration of protons through the oxide lattices is significantly enhanced by the presence of molecules of coordinated water [12]. Solid-state diffusion of protons leads to increased electrochemical activity of nickel molybdate hydrate and therefore higher specific capacitance. II. Results and discussions Cyclic voltammograms (CVs) of nanocrystal NiMoO4 hydrate were taken in the potential range of -0.2 to 0.4 V at a scan rate of 1 - 10 mV / s are presented in Fig. 1a. During the anodic scanning of the electrode based on NiMoO4 hydrate in the KOH electrolyte the reaction of splitting water molecules takes place, followed by the release of oxygen molecules: 2H2O → O2 + 2H2 [7]. In our case, the reaction of oxygen Redox peaks on the CVs of composites (Fig. 2 a, b) Redox peaks on the CVs of composites (Fig. 2 a, b) a) a) b) Fig. 1. Cyclic voltammograms of the electrode based on nanocrystal NiMoO4 hydrate (а) and the electrode based on carbon material (b) using three electrode cells. b) b) a) a) b) Fig. 1. Cyclic voltammograms of the electrode based on nanocrystal NiMoO4 hydrate (а) and the electrode based on carbon material (b) using three electrode cells. 482 Electrochemical and electrical properties of nickel molybdate / carbon material composites are the result of the interaction of nickel ions from the structure of molybdate with OH- ions from the electrolyte, followed by the formation of Ni(OH)2. Oxidation of nickel hydroxide to nickel oxyhydroxide occurs under charge (positive current). During the discharge (negative current), nickel ions are reduced: Ni3+ + e-→ Ni2+. It should also be noted that along with the intercalation of protons in the crystal structure of nickel hydroxide, there is an intercalation of K+ ions from the electrolyte into the layered structure of NiOOH, which explains the asymmetry of the redox peaks of the materials. Fig. 2a shows that the area of CV, and accordingly the charge accumulated / given at a scan rate of 1 mV/s, a composite with a carbon content of 1 % is much higher than a composite with a content of C – 10 %. For a 1 % C us composite, the area of the discharge curve is higher than for a 5 % C us composite. reaches a composite with a carbon material content of 1 % pre-dispersed by ultrasound, whereas the specific capacitance of pure hydrate of nickel molybdate was 575 F/g. Ultrasonic treatment of carbon material increases the average range of diameters of micro- and mesopores and accordingly increases the capacitive characteristics of composites [8]. II. Results and discussions However, as the carbon content increases to 10 %, the specific capacitance decreases to 260 F/g, which is probably due to a decrease in the redox activity of nickel ions. Charge / discharge tests were performed in the potential range of -0.15 to 0.35 V at specific currents of 0.2, 0.5 and 1 A/g. The nonlinear discharge curves are confirmed by the Faraday type of charge accumulation due to the intercalation of electrolyte ions into the material structure and redox reactions, and agree well with the available peaks on the CVs curves of these composites. The specific capacitance at a discharge current of 0.2 A/g was 558 F/g for the NiMoO4 hydrate, 520 F/g - NiMoO4/С (1 % С), 576 F/g – NiMoO4/С (1 % С us), 133 F/g - NiMoO4/С (5%С us) and 95 F/g – NiMoO4/С (10 % С) composites. The dependences of the specific capacitances of composites with different content of carbon material on the scan rate are presented in Fig. 3. It is established that the maximum specific capacitance of 628 F/g at a scan rate of 1 mV/s in the potential range of -0.15 - 0.4 V p g ( ) p a) b) Fig. 2. Cyclic voltammograms of NiMoO4 / C composites at scan rate of 1 mV/s. The content of carbon material was by weight 1 and 10% (a) and 1 and 5% (carbon material was pre-dispersed by ultrasound (us) for 1 h) (b). a) b) Fig. 3. Dependence of the specific capacitance on the scan rate of NiMoO4 hydrate and NiMoO4 / С composites with 1 - 10 % carbon material content (a). Discharge curves at a current of 0.2 A/g of NiMoO4 hydrate and composites with different carbon material content (b). b) a) b) Fig. 2. Cyclic voltammograms of NiMoO4 / C composites at scan rate of 1 mV/s. The content of carbon material was by weight 1 and 10% (a) and 1 and 5% (carbon material was pre-dispersed by ultrasound (us) for 1 h) (b). a) a) b) Fig. 2. Cyclic voltammograms of NiMoO4 / C composites at scan rate of 1 mV/s. The content of carbon material was by weight 1 and 10% (a) and 1 and 5% (carbon material was pre-dispersed by ultrasound (us) for 1 h) (b). b) Fig. 2. Cyclic voltammograms of NiMoO4 / C composites at scan rate of 1 mV/s. II. Results and discussions The content of carbon material was by weight 1 and 10% (a) and 1 and 5% (carbon material was pre-dispersed by ultrasound (us) for 1 h) (b). y g p p y for 1 h) (b). a) b) Fig. 3. Dependence of the specific capacitance on the scan rate of NiMoO4 hydrate and NiMoO4 / С composites with 1 - 10 % carbon material content (a). Discharge curves at a current of 0.2 A/g of NiMoO4 hydrate and composites with different carbon material content (b). a) b) Fig. 3. Dependence of the specific capacitance on the scan rate of NiMoO4 hydrate and NiMoO4 / С composites with 1 - 10 % carbon material content (a). Discharge curves at a current of 0.2 A/g of NiMoO4 hydrate and composites with different carbon material content (b). a) b) a) b) a) Fig. 3. Dependence of the specific capacitance on the scan rate of NiMoO4 hydrate and NiMoO4 / С composites with 1 - 10 % carbon material content (a). Discharge curves at a current of 0.2 A/g of NiMoO4 hydrate and composites with different carbon material content (b). 483 O.M. Popovych, I. M. Budzulyak, V.O. Kotsyubynsky, L.S. Yablon, O.V. Popovych O.M. Popovych, I. M. Budzulyak, V.O. Kotsyubynsky, L.S. Yablon, O.V. Popovych a) b) c) Fig. 4. Frequency dependences of electrical conductivity of nickel molybdate hydrate (a), carbon material (b) and composites with a carbon material content of 1 - 10 % (c). b) Fig. 4. Frequency dependences of electrical conductivity of nickel molybdate hydrate (a), carbon material (b) and composites with a carbon material content of 1 - 10 % (c). To determine the optimal ratio between the content of carbon material in the composites and the electrical properties of the materials we measured the frequency dependence of the specific conductivity (Fig.4). It is established that the specific electrical conductivity of NiMoO4 hydrate is 1.07·10-4 S/m and is 100 times higher than the conductivity of pure nickel hydroxide determined in [4]. Such high electrical conductivity is mainly provided by molybdenum atoms, while nickel atoms are responsible for redox reactions. The higher electrical conductivity of molybdate can also be explained by the presence of oxygen vacancies in MoO4 tetrahedrons, which act as active centers for redox reactions and provide dissociation of water molecules into OH- groups. Oxygen vacancies contribute to better charge accumulation kinetics and, accordingly, increase the capacitive characteristics of molybdate [13]. II. Results and discussions Nanocrystal NiMoO4 shows a plateau in the low- frequency region with a subsequent increase in conductivity with increasing frequency (Fig. 4a). The frequency independence of the conductivity is related to the orientation polarization of the induced dipoles along the direction of the applied electric field. With increasing frequency, the relaxation time for orientation polarization is significantly reduced, resulting in a sharp increase in conductivity on alternating current [14]. As a result of the formation of composites with carbon material, the electrical conductivity of materials increases significantly (Fig. 4c). Carbon material with an electrical conductivity of 29 S/m (Fig. 4b) and a large number of micro- and mesopores is an ideal matrix for the deposition of nanocrystal NiMoO4, avoids agglomeration of nanoparticles and at the same time forms an interconnected conductive network that increases electron tunneling. At 1% carbon content, the specific electrical conductivity of composites is 1.22 S/m and 0.47 S/m with ultrasonic irradiation and increases with increasing carbon content. From the results of electrochemical and electrical studies it was found that NiMoO4 hydrate and composites based on it show the electrochemical behavior characteristic of battery-type materials and are promising materials as cathodes of hybrid capacitors. The optimal ratio between electrical conductivity and specific capacitance has a composite with a carbon material content of 1 % (Fig. 5), for which the specific 484 Electrochemical and electrical properties of nickel molybdate / carbon material composites Electrochemical and electrical properties of nickel molybdate / carbon material composites Fig. 5. Specific capacitance and electrical conductivity of hydrate NiMoO4 and NiMoO4 / C composites. Fig. 5. Specific capacitance and electrical conductivity of hydrate NiMoO4 and NiMoO4 / C composites. the specific capacitance is 628 F/g, while the specific conductivity is 0.47 S/m. the specific capacitance is 628 F/g, while the specific conductivity is 0.47 S/m. capacitance calculated from CV at a scan rate of 1mV/s reaches a maximum value of 628 F/g, while this composite has a conductivity of 0.47 S/m. [1] H. Chen, S. Chen, Y. Zhu, C. Li, M. Fan, D. Chen, G. Tian, K. Shu, Electrochimica Acta 190, 57 (2016); https://doi.org/10.1016/j.electacta.2015.12.212. [2] D. Cai, D. Wang, B. Liu, Y. Wang, Y. Liu, L. Wang, H. Li, H. Huang, Q. Li, T. Wang, ACS applied materials & interfaces 5(24), 12905 (2013); https://doi.org/10.1021/am403444v. [3] Y. Hao, H. Huang, Q. Wang, Q. Wang, G. Zhou, Chemical Physics Letters 728, 215 (2019); https://doi.org/10.1016/j.cplett.2019.05.010. [4] O. Khemii, I. Budzulyak, L. Yablon, D. Popovych, O. Morushko, R. Lisovskiy, Materials Today: Proceedings 35, 595 (2019); https://doi.org/10.1016/j.matpr.2019.11.207. [5] B. Moreno, E. Chinarro, M. T. Colomer, and J. R. Jurado, J. Phys. Chem. C 114 (10), 4251 (2010); https://doi.org/10.1021/jp907870a. [6] O M Popovych I M Budzulyak V O Yukhymchuk S I Budzulyak & D I Popovych Fullerenes Nanotubes [6] O.M. Popovych, I.M. Budzulyak, V.O. Yukhymchuk, S.I. Budzulyak & D.I. Popovych, Fullerenes, Nanotubes and Carbon Nanostructures 1 (2021); https://doi.org/10.1080/1536383X.2021.1925253. [7] O Rabbani S Ghasemi S R Hosseini Journal of Alloys and Compounds 840 155665 (2020); [8] B.I. Rachiy, M.O. Nykoliuk, I.M. Budzulyak, & A.I. Kachmar, Nanoscale Research Letters 12(1), 79 (2017); https://doi.org/10.1186/s11671-017-1842-1. Conclusions 8 (4), 04074 (2016); https://doi.org/10.21272/jnep.8(4(2)).04074). [10] K. Eda, Y. Kato, Y. Ohshiro, T. Sugitani, & M.S. Whittingham, Journal of Solid State Chemistry 183(6), 1334 (2010); https://doi.org/10.1016/j.jssc.2010.04.009. [11] J.A. Rodriguez, S. Chaturvedi, J.C. Hanson, A. Albornoz, J.L. Brito, The Journal of Physical C 102(8), 1347 (1998); https://doi.org/10.1021/jp972137q. [12] S. Deabate, F. Henn, S. Devautour, J.C. Giuntini, Journal of the Electrochemical Society 150(6), https://doi.org/10.1149/1.1573203. g [13] C. Qing, C. Yang, M. Chen, W. Li, S. Wang, Y. Tang, Chemical Engineering Journal 354, 182 (2018); https://doi.org/10.1016/j.cej.2018.08.005. p g j j [14] S. Maiti, B.B. Khatua, RSC advances 3(31), 12874 (2013); https://doi.org/10.1039/C3RA41617H. M. Попович, I. M. Будзуляк, В.О. Коцюбинський, Л.С. Яблонь, О.В. Попови Conclusions This research was supported by the National Research Foundations of Ukraine (Project No.2020.02/0043). The results of electrochemical and electrical studies of nickel molybdate hydrate and composites based on it demonstrate that these materials are promising as cathodes of hybrid capacitors. Namely, the crystal structure of NiMoO4 hydrate promotes the redox reactions and intercalation of electrolyte ions, while the formation of composites with carbon material provides active sites for the deposition of nanocrystal NiMoO4 and increases electron tunneling. It was found that the specific capacitance of NiMoO4 / C composites decreases with increasing carbon content. The composite with 1% carbon content after ultrasonication has an optimal ratio between capacitive and electrical characteristics, namely Popovych O.M. - Doctoral student; Budzulyak I.M. - Professor, Doctor of Physical and Mathematical Sciences; Kotsyubynsky V.O. - Professor, Doctor of Physical and Mathematical Sciences; Yablon L.S. - Professor, Doctor of Physical and Mathematical Sciences; Popovych O.V. – PhD student. Popovych O.M. - Doctoral student; Budzulyak I.M. - Professor, Doctor of Physical and Mathematical Sciences; Kotsyubynsky V.O. - Professor, Doctor of Physical and Mathematical Sciences; Yablon L.S. - Professor, Doctor of Physical and Mathematical Sciences; Popovych O.V. – PhD student. Kotsyubynsky V.O. - Professor, Doctor of Physical and Mathematical Sciences; Yablon L.S. - Professor, Doctor of Physical and Mathematical Sciences; Popovych O.V. – PhD student. [1] H. Chen, S. Chen, Y. Zhu, C. Li, M. Fan, D. Chen, G. Tian, K. Shu, Electrochimica Acta 190, 57 (2016); https://doi.org/10.1016/j.electacta.2015.12.212. [2] D. Cai, D. Wang, B. Liu, Y. Wang, Y. Liu, L. Wang, H. Li, H. Huang, Q. Li, T. Wang, ACS applied materials & interfaces 5(24), 12905 (2013); https://doi.org/10.1021/am403444v. [3] Y. Hao, H. Huang, Q. Wang, Q. Wang, G. Zhou, Chemical Physics Letters 728, 215 (2019); https://doi.org/10.1016/j.cplett.2019.05.010. [4] O. Khemii, I. Budzulyak, L. Yablon, D. Popovych, O. Morushko, R. Lisovskiy, Materials Today: Proceedings 35, 595 (2019); https://doi.org/10.1016/j.matpr.2019.11.207. [5] B. Moreno, E. Chinarro, M. T. Colomer, and J. R. Jurado, J. Phys. Chem. C 114 (10), 4251 (2010); https://doi.org/10.1021/jp907870a. [6] O.M. Popovych, I.M. Budzulyak, V.O. Yukhymchuk, S.I. Budzulyak & D.I. Popovych, Fullerenes, Nanotubes and Carbon Nanostructures 1 (2021); https://doi.org/10.1080/1536383X.2021.1925253. 485 O.M. Popovych, I. M. Budzulyak, V.O. Kotsyubynsky, L.S. Yablon, O.V. Popovych [9] O.M. Hemiy, L.S. Yablon, I.M. Budzulyak, S.I. Budzulyak, O.V. Morushko, A.I. Kachmar, J. Nano- Electron. Phys. 8 (4), 04074 (2016); https://doi.org/10.21272/jnep.8(4(2)).04074). M. Hemiy, L.S. Yablon, I.M. Budzulyak, S.I. Budzulyak, O.V. Morushko, A.I. Kachmar, J. Nano- Electro s. Електрохімічні та електричні властивості композитів молібдат нікелю / вуглецевий матеріал рикарпатський національний університет ім.В.Стефаника, Івано-Франківськ, Україна, khemiiolha@gmail.com Основною метою дослідження є встановлення оптимального вмісту вуглецевого матеріалу у композитах з нанокристалічним гідратом молібдату нікелю. Для цього гідротермальним методом отримали композити NiMoO4/C з відсотковим вмістом вуглецевого матеріалу 1, 5 та 10 % по масі (з та без ультразвукового опромінення). В результаті проведення електрохімічних дослідження встановлено, що максимальної питомої ємності 628 Ф/г досягає композит з вмістом вуглецевого матеріалу 1 % після ультразвукового диспергування, водночас даний композит демонструє чудову електропровідність, яка становить 0,47 См/м. Ключові слова: молібдат нікелю, вуглецевий матеріал, композит, питома ємність, електропровідність, гібридний конденсатор. Ключові слова: молібдат нікелю, вуглецевий матеріал, композит, питома ємність, електропровідність, гібридний конденсатор. 486
https://openalex.org/W3206399031
https://www.frontiersin.org/articles/10.3389/fpsyg.2021.628342/pdf
English
null
Similarity Effect and Purchase Behavior of Organic Food Under the Mediating Role of Perceived Values in the Context of COVID-19
Frontiers in psychology
2,021
cc-by
12,551
Similarity Effect and Purchase Behavior of Organic Food Under the Mediating Role of Perceived Values in the Context of COVID-19 Chunnian Liu 1, Yan Zheng 1 and Dayu Cao 2* 1 School of Management, Nanchang University, Nanchang, China, 2 School of Economics and Management, Jiangxi Agricultural University, Nanchang, China, 3 School of Economics and Management/Jiangxi Rural Revitalization Strategy Research Institute, Jiangxi Agricultural University, Nanchang, China Chunnian Liu 1, Yan Zheng 1 and Dayu Cao 2* 1 School of Management, Nanchang University, Nanchang, China, 2 School of Economics and Management, Jiangxi Agricultural University, Nanchang, China, 3 School of Economics and Management/Jiangxi Rural Revitalization Strategy Research Institute, Jiangxi Agricultural University, Nanchang, China 1 School of Management, Nanchang University, Nanchang, China, 2 School of Economics and Management, Jiangxi Agricultural University, Nanchang, China, 3 School of Economics and Management/Jiangxi Rural Revitalization Strategy Research Institute, Jiangxi Agricultural University, Nanchang, China Due to the influence of COVID-19, people pay more attention to the balance between human and nature and pursue more healthy, environmental and nutritional sustainable products (such as organic food). However, the mainstream consumption of organic food is far less, especially in developing countries like China. Therefore, it is urgent to take effective measures to promote the development of China’s organic food market. This current study investigated the relationships between consumers’ similarity (i.e., information anxiety, uncertainty, and sustainable consumption attitude), perceived values (i.e., functional value, health value, and environmental value) and organic purchasing behavior based on the Stimulus-Organism-Response (S-O-R) theoretical model and information similarity effect. And considering gender differences in consumers’ similarity, perceived values and organic purchasing behavior. Meanwhile, the mediating effects of perceived values on the relationship between consumers’ similarity and purchasing behavior were also discussed, considering the background of COVID-19. Data were collected using structured questionnaire survey in first-tier cities in China. A total of 344 consumers of organic foods participated in the study. Structural equation modeling was employed for data analysis. The results indicated the significant association of information anxiety, uncertainty and sustainable consumption attitude with perceived values. And perceived values and sustainable consumption attitude had a positively significant influence on purchase behavior. In addition, environmental value played mediating effects in the relationships between organic purchasing behavior and information anxiety, uncertainty and sustainable consumption attitude. And the impact of sustainable consumption attitude and environmental value on organic purchasing behavior differed in gender. Similarity Effect and Purchase Behavior of Organic Food Under the Mediating Role of Perceived Values in the Context of COVID-19 The research not only provides novel insights for understanding organic consumption, but also provides reference for organic sellers to develop sales strategies and policy makers to formulate policies to guide organic consumption, which are conducive to promoting China’s organic food industry. Edited by: Felix Tinoziva Mavondo, Monash University, Australia Reviewed by: George Lazaroiu, Spiru Haret University, Romania Norazah Mohd Suki, Universiti Utara Malaysia, Malaysia Laura Trinchera, NEOMA Business School, France *Correspondence: Dayu Cao caodayu2004@163.com *Correspondence: Dayu Cao caodayu2004@163.com Specialty section: This article was submitted to Environmental Psychology, a section of the journal Frontiers in Psychology Received: 11 November 2020 Accepted: 13 September 2021 Published: 13 October 2021 Citation: Liu C, Zheng Y and Cao D (2021) Similarity Effect and Purchase Behavior of Organic Food Under the Mediating Role of Perceived Values in the Context of COVID-19. Front. Psychol. 12:628342. doi: 10.3389/fpsyg.2021.628342 Specialty section: This article was submitted to Environmental Psychology, a section of the journal Frontiers in Psychology Received: 11 November 2020 Accepted: 13 September 2021 Published: 13 October 2021 Keywords: SOR model, organic food, perceived values, sustainable consumption, information similarity effect Edited by: Felix Tinoziva Mavondo, Monash University, Australia ORIGINAL RESEARCH published: 13 October 2021 doi: 10.3389/fpsyg.2021.628342 INTRODUCTION However, due to the great differences of information about organic food obtained by consumers from different information sources, the increase of information sources may hinder consumers’ organic purchase. Fu et al. (2018) believed that consumers’ information similarity can affect their perception and purchase behavior. Similarity generally includes genetic, social, cultural, physical, and psychological factors (Thøgersen, 2004; Hitsch et al., 2010). In addition, Guéguen et al. (2011) proved that similarity can affect people’s internal perception. Therefore, it is not the number of information sources, but the information similarity of different information sources that is important to consumers’ purchasing behavior. Global food safety and environmental problems have attracted more and more attention. Thøgersen (2017) believed that promoting sustainable food consumption would be the key to alleviate and improve a series of environmental and health problems. As organic food is healthier and more environmentally friendly than traditional food and can support the local economy (Strassner et al., 2015; Verain et al., 2015; De-Magistris and Gracia, 2016), the consumption of organic food is considered as an important form of sustainable consumption (Strassner et al., 2015; Seconda et al., 2017). The organic market has grown rapidly as the public pays more attention to healthy, safe, nutritious and environmentally friendly organic foods (Kareklas et al., 2014; Basha and Lal, 2019). In 2018, the total global market value of organic food was estimated to be 96.7 billion euros, and global per capita consumption was approximately 12.8 euros (Willer and Lernoud, 2020). By 2018, China had already become the world’s third-largest organic food market (8.1 billion euros, 8.3% of the global market) (Willer and Lernoud, 2020). However, China’s per capita consumption is only approximately 5.8 euros, less than half the level of global per capita consumption. In particular, its organic food consumption is far from that of top- ranked Switzerland (per capita consumption of approximately 312 euros) (Willer and Lernoud, 2020). In addition, China’s organic food market started late, the organic food market is still relatively small in size at present, and consumer groups are mainly concentrated in large cities (Xu, 2017), which hinders the development of China’s organic industry. p g With the outbreak of COVID-19 in China and the rest of the world, the epidemic has spread quickly, and the situation is serious (Jia et al., 2020). INTRODUCTION Consumers can get the similar information through various media every day, so how does the information similarity affect the organic purchase behavior? Therefore, based on the Stimulus-Organism-Response (S-O- R) theoretical model and information similarity effect, the current study explored the relationships between consumers’ similarity, perceived values and organic purchasing behavior. And considering gender differences in consumers’ similarity, perceived values and organic purchasing behavior. Meanwhile, the mediating effects of perceived values on the relationship between consumers’ similarity and purchasing behavior were also discussed, considering the background of COVID-19. This paper intends to make three contributions to the literature. First, previous studies rarely focused on the relationship between consumer information similarity and organic purchasing behavior. In order to fill this gap, this paper explored the relationship between consumer information similarity and the organic purchasing behavior in the context of COVID-19, which may enrich the research of organic consumption. Second, based on the SOR model and information similarity effect, this paper divided stimulus (S) factors into external similarity and internal similarity. In addition, this paper divided external similarity into information anxiety and uncertainty from the perspective of consumers’ access to information, which not only considered the similarity of information anxiety, but also considered consumers’ similarity to the uncertainty of organic information. This may provide a new perspective for the study of organic consumption, and may provide valuable suggestions for organic sellers. Third, this paper focused on the role of consumer perceived values after the COVID-19 outbreak, divided perceived values into three dimensions of functional value, health value, and environmental value in combination with the realistic background, and explored the relationship between perceived values and organic purchasing behavior. At the same time, the mediating effects of perceived values on the relationship between information anxiety, uncertainty, sustainable consumption attitude, and purchasing behavior were also discussed. The conclusions may provide valuable suggestions for organic retailers, policy makers and even organic producers. Understanding organic purchasing behavior is the key to predicting organic food consumption (Rana and Paul, 2017). Many scholars have done a lot of research on the influencing factors of organic consumption behavior. Some studies believed that consumer perceived values play important roles in promoting the purchase of organic food (Suki and Suki, 2015a,b,c; Suki, 2016; Akbar et al., 2019; Kushwah et al., 2019a; Shamsi et al., 2020). Citation: Liu C, Zheng Y and Cao D (2021) Similarity Effect and Purchase Behavior of Organic Food Under the Mediating Role of Perceived Values in the Context of COVID-19. Front. Psychol. 12:628342. doi: 10.3389/fpsyg.2021.628342 October 2021 | Volume 12 | Article 628342 1 Frontiers in Psychology | www.frontiersin.org Similarity Effect of Buying Organic Food Liu et al. The Similarity Effect The SOR model is applicable to the present study for the following two reasons. Firstly, the SOR model has been extensively used in prior studies consumers’ behaviors (Parboteeah et al., 2009; Wang et al., 2011; Luqman et al., 2017; Fu et al., 2018; Li and Yuan, 2018). For example, Luqman et al. (2017) applied the SOR model to social media to identify the user’s behavior and its consequences. Fu et al. (2018) studied whether environmental stimulation can improve users’ willingness to buy movie tickets online based on SOR model. Secondly, in view of the important role of environmental factors in influencing consumer behavior, the SOR model provides a concise and structured way to test the impact of environmental stimulus on consumer psychological factors (e.g., emotion, perception, and cognition), and then test the impact of consumers on organic purchasing behavior. Therefore, the current study applies this model to consumer behavior. In sociology, we describe the similarity effect as people’s strong preference for people with similar characteristics. The concept of similarity has been widely studied in psychology and consumer behavior. Based on the hypothesis that similarity causes changes in internal perception (Byrne, 1971), many scholars have studied the similarity of different personal attributes, such as demographic information (Hitsch et al., 2010), wearing the same clothes (Buckley and Roach, 1981), and the same attitude (Thøgersen, 2004). Fu et al. (2018) believed that similarity includes genetic, social, cultural, physiological and psychological factors. Meanwhile, Guéguen et al. (2011) proved that similarity can affect people’s internal perception. Fu et al. (2018) divided the similarity into external similarity and internal similarity. External similarity includes demographic information and various media information, while internal similarity includes interest, attitude or opinion, preference, etc. In this study, we divided external similarity into two dimensions of information anxiety and uncertainty from the perspective of consumers’ access to information. This is mainly because on the one hand, under the severe influence of COVID-19 in China (Jia et al., 2020), consumers can obtain a lot of information about COVID-19 through media every day. Therefore, we believed that consumers may generally have information anxiety factors. On the other hand, China’s organic market is in the initial stage of development, and there is information asymmetry in the market (Xu, 2017). The Similarity Effect Therefore, we divided external similarity into two dimensions of information anxiety and uncertainty, which may not only provide a new perspective for organic consumption research, but also provide valuable suggestions for organic sellers. Response (R) Response is the final result and decision of consumers based on internal perception, including approach or avoidance behavior (Sherman et al., 1997). In essence, consumers’ organic purchase behavior can be regarded as the approach behavior made by consumers based on internal perception. Therefore, the present paper considered the impact of consumer perceived values on consumers’ organic purchasing behavior. The Stimuli-Organism-Response Model (SOR) According to the SOR model from the field of environmental psychology, all aspects of the environment play a stimulating role (S), affecting people’s internal states (O), which drives their behavioral responses (R) (Mehrabian and Russell, 1974). The model shows that external environmental factors affect the psychological changes of organisms, thus prompting them to adopt behavioral responses. Meanwhile, it also explains the change of people’s internal state strengthened by the stimulation of external elements (Eroglu et al., 2001). Previous studies have shown that people’s inner state has both positive and negative effects (Verhagen and van Dolen, 2011). Finally, People make the final choice according to the internal state and take corresponding behavioral responses (Mehrabian and Russell, 1974). Stimuli (S) Stimulus refers to all kinds of environmental factors encountered by individuals (Jacoby, 2002). Previous studies on consumer behavior showed that consumers obtain information through various news media and interact with others through social media (Hajli, 2014). Over time, consumers may discover factors that they are similar to each other (e.g., interest, attitude, and preference), thus stimulating their internal perception and ultimately generating behavioral response (Fu et al., 2018). Therefore, the similarity of consumers is an important stimulus factor affecting consumers’ internal perception and behavior. INTRODUCTION In particular, health value, functional value and environmental value were identified as important factors in predicting organic purchasing behavior (Mohammed, 2020). Chekima et al. (2017) found that consumers’ attitudes toward organic food can play a positive role in organic consumption. At the same time, Lockie et al. (2004) and Stobbelaar et al. (2007) showed that there are gender differences in organic purchasing. Stevens (2020) and Newburn (2020) pointed out that, especially in the context of COVID-19, the impact of consumer’s gender differences on behavior and attitude is more and more obvious. In addition, asymmetric information in organic market, uncertainty and insufficient marketing were identified as the key factors hindering consumers to buy organic food (Teng and Lu, 2016; Hidalgo-Baz et al., 2017; Liu and Zheng, 2019; Kongtip et al., 2020; Wang et al., 2020; Xie et al., 2020). With the development of new media, consumers get more and more information from various media. Some studies believed that the more organic information consumers get from the media, the more they tend to buy organic food, which can improve the information asymmetry in the organic market (De-Magistris and Gracia, 2016; Liu et al., 2021). The rest of the paper is organized as follows. In Sections Theoretical Background and Hypothesis Development, we review the background literature and develop our hypotheses. October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 2 Similarity Effect of Buying Organic Food Liu et al. Sections Research Methodology and Results provide a detailed introduction of our research methodology and analysis and present our research results. Finally, we discuss some conclusions, significance and limitations of this study, as well as ideas for further research. to choose a certain product and an important indicator to predict consumers’ purchasing behavior (Fu et al., 2018). Sheth et al. (1991) put forward the theoretical framework of perceived values. They believed that perceived values include five dimensions: functional value, social value, emotional value, epistemic value, and conditional value. Rahnama (2016) predicted consumers’ organic purchasing behavior through seven dimensions of perceived values: functional value, health value, environmental value, epistemic value, social value, emotional value and conditional value. Referring to the above research, according to the theme of the current study, we constructed three dimensions of perceived values: functional value, health value and environmental value to explore organic consumption behavior. Organism (O) f In addition, this study took sustainable consumption attitude as an internal similarity. This is because existing studies have shown that COVID-19 is caused by ecological imbalance (Lvov Organism refers to the internal perception of consumers (Eroglu et al., 2001). Perceived values are important parts of internal perception. They are the internal driving force for consumers October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 3 Liu et al. Similarity Effect of Buying Organic Food FIGURE 1 | Research framework. FIGURE 1 | Research framework. FIGURE 1 | Research framework. FIGURE 1 | Research framework. studies on perceived values have divided it into different dimensions according to different research topics. For example, Rahnama (2016) divided perceived values into seven dimensions: functional value, health value, environmental value, epistemic value, social value, emotional value and conditional value. Gonçalves et al. (2016) divided perceived values into five dimensions: functional value, social value, emotional value, conditional value and epistemic value. Referring to the above research, according to the theme of this paper, we construct three dimensions of perceived values: functional value, health value, and environmental value. Therefore, this study proposes the following hypothesis: and Alkhovsky, 2020), which urges people to pay more attention to ecological balance and pursue healthy and environmentally sustainable consumption. HYPOTHESIS DEVELOPMENT This study aims to examine the impact of similarity on consumers’ organic purchasing behavior from the perspective of consumer perceived values based on SOR model. Figure 1 depicts the research framework, which reflects the influence of external similarity (i.e., information anxiety and uncertainty) and internal similarity (i.e., sustainable consumption attitude) on organic purchase behavior, as well as the role of perceived values (i.e., functional value, health value and environmental value). In this section, we explain the primary constructs and interrelationships in the research model. H1a. Information anxiety (IA) has a positive effect on functional value (FV). H1a. Information anxiety (IA) has a positive effect on functional value (FV). H1b. Information anxiety (IA) has a positive effect on health value (HV). H1c. Information anxiety (IA) has a positive effect on environmental value (EV). The Effect of Information Anxiety on Perceived Values and Purchase Behavior H1d. Information anxiety (IA) has a positive effect on purchase behavior (PB). With the outbreak of COVID-19 in China and the rest of the world, the epidemic has spread quickly, and the situation is serious (Jia et al., 2020; Xie et al., 2020). Consumers can get a lot of information about COVID-19 through media every day. As time goes on, consumers may have information anxiety in common. And Shweta et al. (2017) confirmed that people often contact with massive certain information, and over time, people would find that they have common information anxiety characteristics. Ruiz Mafé and Sanz Blas (2006) found that the information that consumers are exposed to through various information channels can affect their perceived values and behavior. Previous Mediating Effect of Perceived Values Mediating Effect of Perceived Values Perceived values are considered important predictors of consumer decision-making (Sheth et al., 1991). If the attribute of a product is related to the individual’s consumption motivation, the individual experience will be stimulated by a certain degree of cognitive or emotional arousal, which will trigger the individual’s perception of the product and make it related to him or her (Frieze, 1997). Lin and Huang (2012) found that organic purchasing behavior is not only directly affected by consumption motivation, but also affected by one’s perceived values of organic food. Previous studies have shown that perceived values and belief mediate the relationship between consumer motivation and organic buying (Çabuk et al., 2014; Pagiaslis and Krontalis, 2014; Wang et al., 2019). As COVID-19 has been for a period of time around the world, consumers’ information anxiety about COVID-19 may indirectly affect organic purchasing behavior through perceived values. In addition, Lvov and Alkhovsky (2020) found that COVID-19 is caused by the destruction of ecological balance, so people’s attitude toward sustainable consumption may also indirectly affect organic purchasing behavior through perceived values. Therefore, it can be postulated that perceived values are mediators linking the relationship between organic purchasing behavior and information anxiety, uncertainty and sustainable consumption attitude. Accordingly, the hypotheses are proposed as follows: H2b. Uncertainty (UNC) has a negative effect on health value (HV). H2c. Uncertainty (UNC) has a negative effect on environmental value (EV). H2d. Uncertainty (UNC) has a negative effect on purchase behavior (PB). Behavior Attitude plays an important role in influencing consumers’ perceived values and behavior (Follows and Jobber, 2000; Hidalgo-Baz et al., 2017). Understanding consumer attitudes can help policy makers, marketers and producers promote sustainable consumption habits and encourage consumers to consume or use green products (Lin and Huang, 2012). In addition, Marchand and Walker (2008) pointed out that consumers’ attitude toward sustainable consumption can promote the change of their perceived values, so as to seek a more sustainable lifestyle. Therefore, we propose the following hypothesis: H3a.Sustainable consumption attitude (SCA) has a positive effect on functional value. H3b. Sustainable consumption attitude (SCA) has a positive effect on health value. H7a-c. Functional value mediates the effect of information anxiety, uncertainty, and sustainable consumption attitude on purchase behavior respectively. H3c. Sustainable consumption attitude (SCA) has a positive effect on environmental value. H8a-c. Heath value mediates the effect of information anxiety, uncertainty, and sustainable consumption attitude on purchase behavior respectively. H3d. Sustainable consumption attitude (SCA) has a positive effect on purchase behavior (PB). H9a-c. Environmental value mediates the effect of information anxiety, uncertainty, and sustainable consumption attitude on purchase behavior respectively. The Effect of Perceived Values on Purchase Behavior Perceived values refer to consumers’ overall evaluation of the usefulness of relevant products (Zeithaml, 1988). Perceived values are considered important predictors of consumer decision-making (Sheth et al., 1991). Moreover, perceived values can explain the internal reasons for consumers to choose specific products (Sheth et al., 1991). According to different research topics, scholars divided perceived values into different dimensions. For example, Rahnama (2016) divided perceived values into seven dimensions: functional value, health value, environmental value, epistemic value, social value, emotional value, and conditional value. Therefore, according to the research theme of this paper, we construct the perceived values of three dimensions: functional value, health value, and environmental value. As such, we propose the following hypothesis: Frontiers in Psychology | www.frontiersin.org Values and Purchase Behavior Uncertainty is a state of holding incomplete information about something (Vieira, 2008), and it is considered to have a negative impact on consumers’ perceived values and purchase intention (Shiu et al., 2011). Previous studies have shown that the lack of relevant information and understanding of organic labels would increase the difficulty for consumers to distinguish the credence attributes and standards from that of traditional October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 4 Similarity Effect of Buying Organic Food Liu et al. Liu et al. H4. Functional value has a positive effect on purchase behavior (PB). foods (Magistris and Gracia, 2008; Janssen and Hamm, 2011). Moreover, some studies argued that uncertainty toward the real attributes of organic food has a negative influence on consumers’ perceived values and purchase intention (Yiridoe et al., 2005; Nuttavuthisit and Thogersen, 2017). Thus, we propose the following hypothesis: H5. Health value has a positive effect on purchase behavior (PB). H6. Environmental value has a positive effect on purchase behavior (PB). H2a. Uncertainty (UNC) has a negative effect on functional value (FV). H2b. Uncertainty (UNC) has a negative effect on health value (HV). H2c. Uncertainty (UNC) has a negative effect on environmental value (EV). H2d. Uncertainty (UNC) has a negative effect on purchase behavior (PB). H2a. Uncertainty (UNC) has a negative effect on functional value (FV). Measures All constructs in the proposed model were measured with multiple-item scales that were validated in previous studies. A few minor modifications were made to the measures to ensure that they had face validity in the current research context. The items used a 5-point Likert scale ranging from “1 = strongly disagree” to “5 = strongly agree” (see Appendix A). Five items of information anxiety were adapted from Zung (1971) and Shweta et al. (2017); four items of uncertainty were adapted from Kushwah et al. (2019b); four items of sustainable consumption attitude were adapted from Arvola et al. (2008) and Dean et al. (2012); seven items of functional value were adapted Kushwah et al. (2019a) and Akbar et al. (2019); three items of health value were adapted from Rahnama (2016); four items of environmental value were adapted from Biswas and Roy (2015); and the three items of purchase behavior were adapted from Michaelidou and Hassan (2008) and Singh and Verma (2017). Analytical Method To test the proposed model, we adopted the two-stage approach of “structural equation modelling” (SEM) recommended by Anderson and Gerbing (1988). AMOS 24.0 was used for assessing the model fit as well as for hypothesis testing. In addition, to assure construct validity, we also compute Confidence Interval for Cronbach’s alpha according to Trinchera et al. (2018) suggestions using R 3.5.1. Data Sources Data collection was conducted through the commission of a professional online questionnaire service company, Wenjuanxing (https://www.wjx.cn). And in the present study, respondents from Beijing, Shanghai, Guangzhou and Shenzhen were selected as the research objects. There are two main reasons for using online surveys to collect respondents from these cities in the current study. First, face-to-face interviews should be avoided to reduce social distance after the COVID-19 outbreak. Second, the price of organic food is usually 2–4 times higher than that of traditional agricultural products, and China’s organic consumers are mainly concentrated in big cities at present (Xu, 2017). According to the China Statistical Yearbook 2020 (http://www.stats.gov.cn/tjsj/ndsj/), these cities were the top-four-ranked cities for per capita disposable income in China. Therefore, the samples from Beijing, Shanghai, Guangzhou, and Shenzhen are more representative. Moreover, 30 questionnaires were distributed online prior to the formal survey as a presurvey to ensure the comprehensibility of the items in the survey and the appropriateness of data collection procedures. After the preliminary survey, the questionnaire was modified appropriately. Gender and Purchase Behavior Previous studies have shown that gender influences the organic purchasing behavior. Lockie et al. (2004) found that women hold a higher proportion of positive attitudes toward organic food than do men. Stobbelaar et al. (2007) found that adolescent girls show a higher preference for organic products than do boys. Stevens (2020) and Newburn (2020) pointed out that, especially in the context of COVID-19, the impact of consumer’s gender differences on behavior and attitude is more and more obvious. Thus, we propose the following: H10. The organic purchase behavior of consumers differs according to consumer gender. October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org Frontiers in Psychology | www.frontiersin.org 5 Similarity Effect of Buying Organic Food Liu et al. Liu et al. TABLE 1 | Demographic profile of the sample (N = 344). n % 1. Gender Male 189 54.9 Female 155 45.1 2. Age 18–30 144 41.9 31–40 151 43.9 41–50 42 12.2 >50 7 2 3. Education Junior high school and below 2 0.6 High school or technical secondary school 16 4.7 Junior college or undergraduate 293 85.2 Postgraduate and above 33 9.6 4. Per capita monthly income < ¥3,000 2 0.6 ¥3,001–¥5,000 34 9.9 ¥5,001–¥8,000 79 23 ¥8,001–¥12,000 115 33.4 > ¥12,000 114 33.1 5. Distribution area of respondents Beijing 113 32.8 Shanghai 138 40.1 Guangdong Province (including only Guangzhou and Shenzhen) 93 27 current study was about consumers’ organic purchasing behavior, 16 respondents were excluded. Thus, we ultimately obtained 344 usable responses out of the 360 initial responses. As shown in Table 1, there were 189 male (54.9%) and 155 female (45.1%) respondents in the collected sample. There were 293 respondents (85.2%) with a junior college or an undergraduate education in the sample. The respondents aged between 18 and 40 accounted for 41.9% of the total sample. Respondents with a per capita monthly income of more than ¥5,000 accounted for 89.5% of the sample. Frontiers in Psychology | www.frontiersin.org RESULTS and King, 2010). According to a Bollen–Stine bootstrap with 2000-times correction, the resultant fit statistics (χ2 = 451.73; df = 387; χ2/df = 1.17; CFI = 0.99; GFI = 0.93; TLI = 0.99; RMSEA = 0.02) were all acceptable. Common Method Bias factor CR AVE Loadings Information anxiety IA1 1.000 — — 0.773 0.901 0.646 IA2 1.078 0.066 16.453*** 0.841 IA3 0.994 0.062 16.114*** 0.826 IA4 1.005 0.063 15.832*** 0.814 IA5 0.907 0.062 14.633*** 0.761 Uncertainty UNC1 1.000 — — 0.693 0.819 0.531 UNC2 1.093 0.095 11.517*** 0.722 UNC3 1.187 0.096 12.373*** 0.796 UNC4 0.977 0.087 11.214*** 0.699 Sustainable SCA1 1.000 — — 0.677 0.837 0.563 consumption attitude SCA2 1.114 0.095 11.677*** 0.735 SCA3 1.278 0.101 12.622*** 0.815 SCA4 1.126 0.093 12.085*** 0.767 Functional value FV1 1.000 — — 0.613 0.859 0.501 FV2 1.140 0.117 9.746*** 0.639 FV3 1.118 0.115 9.717*** 0.637 FV4 1.049 0.108 9.691*** 0.634 FV5 1.289 0.125 10.354*** 0.693 FV6 1.451 0.129 11.243*** 0.780 FV7 1.564 0.140 11.186*** 0.774 Health value HV1 1.000 — — 0.808 0.851 0.656 HV2 0.935 0.063 14.775*** 0.772 HV3 1.040 0.065 16.062*** 0.848 Environmental value EV1 1.000 — — 0.868 0.894 0.680 EV2 1.013 0.052 19.335*** 0.837 EV3 0.828 0.054 15.215*** 0.715 EV4 1.021 0.050 20.415*** 0.868 Purchase behavior PB1 1.000 — — 0.760 0.819 0.602 PB2 1.292 0.097 13.336*** 0.791 PB3 1.261 0.096 13.176*** 0.776 TABLE 2 | Coefficients for the measurement model. Common Method Bias As with all self-reported data, there is a potential for common method variance resulting from multiple sources, such as consistency motif and social desirability (Podsakoffet al., 2003). Several techniques can be used to detect and control common method bias, such as measured marker variables (correlation- based, regression-based, and CFA-based) and unmeasured latent method factors (Podsakoffet al., 2003, 2012). We took Harman’s single-factor test, as suggested by Podsakoffet al. (2003), to address concerns regarding common method bias. All measurement items were subjected to exploratory factor analysis using SPSS 23.0. The unrotated factor solutions revealed that the single factor explained only 29.26% of the variance in the variables. Therefore, we can conclude that common method bias is unlikely to be a serious concern for this study. In addition, we included the following question in the questionnaire: “Have you ever bought organic food before?” In answering this question, 16 respondents chose “no.” Because the The seven constructs of IA, UNC, SCA, FV, HV, EV, and PB were measured by the concept of reflective indicators. October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 6 Similarity Effect of Buying Organic Food Liu et al. Liu et al. TABLE 2 | Coefficients for the measurement model. Construct Variable Unstd. Estimates S.E. T-value Std. mposite Reliability; AVE, Average Variance Extracted. 51.73; df = 387; χ2/df = 1.17; CFI = 0.99; GFI = 0.93; TLI = 0.99; RMSEA = 0.02. Validity of Measurement Model Validity of Measurement Model Confirmatory factor analysis (CFA) assesses the fit of the measurement model based on various fit indices. According to the guidelines suggested by Jackson et al. (2009), the chi-square (χ2) value, degrees of freedom (df), value of χ2/df, comparative fit index (CFI), root mean square error of approximation (RMSEA), goodness-of-fit index (GFI), and Tucker-Lewis index (TLI) were used to assess model fit. The model fit is good when χ2/df < 3.0, with RMSEA ≤0.08, TLI and CFI ≥0.90 (Hu and Bentler, 1999), and GFI ≥0.80 (Chau and Hu, 2001). However, a few model fit statistics were not greater than their minimum acceptable level in the study, which is due to the expansion of the chi-square value caused by nonmultivariate normality (Enders, 2005). Thus, the Bollen–Stine bootstrap was used to correct for bias in the model fit statistic (Bollen and Stine, 1992; Fisher To measure the internal consistency reliability, convergent validity and discriminant validity of the constructs in our proposed model, we performed CFA analysis on the eight constructs of IA, UNC, SCA, FV, HV, EV, and PB (see Tables 2, 3). The results revealed that the values for both Cronbach’s alpha and composite reliability (CR) were over 0.7, and thus internal consistency reliability was acceptable (Nunnally, 1978). In addition, the factor loadings of the individual items in the eight-construct model were all significant (all p < 0.001), indicating preliminary evidence for the convergent validity of the measurement model (Diamantopoulos et al., 2008). Meanwhile, the average variance extracted (AVE) of all constructs exceeded the 0.5 AVE threshold value (Fornell and Larcker, 1981; Bagozzi October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 7 Similarity Effect of Buying Organic Food Liu et al. TABLE 3 | Point estimate and Confidence Interval for Cronbach’s alpha. Point estimate S.E. T-value 95% CI Low Up IA 0.901 0.091 9.953 0.724 1.079 UNC 0.828 0.163 5.071 0.508 1.148 SCA 0.844 0.116 7.283 0.617 1.071 FV 0.861 0.034 25.064 0.794 0.929 HV 0.850 0.248 3.422 0.363 1.336 EV 0.892 0.142 6.282 0.614 1.170 PB 0.819 0.239 3.426 0.351 1.288 TABLE 4 | Means, standard deviations and correlations of variables. Validity of Measurement Model Model description χ2 df TLI IFI RMSEA 1χ2 1df p-value Model 1: Combined baseline models (males and females) 1,587.629 768 0.863 0.865 0.056 Model 2: Factor loadings constrained equal 1,614.296 791 0.862 0.864 0.055 Model 3: Factor loadings and intercepts constrained equal 1,646.106 821 0.862 0.863 0.054 Model 4: Factor loadings, intercepts and covariances constrained equal 1,685.342 849 0.860 0.860 0.054 Model 5: Factor loadings, intercepts, covariances, and residuals constrained equal 1,723.871 879 0.858 0.858 0.053 Model 6: Factor loadings invariant (Model 2 - Model 1) 26.67 23 0.270 Model 7: Measurement intercepts invariant (Model 3 – Model 2) 31.81 30 0.376 Model 8: Covariances invariant (Model 4 – Model 3) 39.24 28 0.077 Model 9: Measurement residuals invariant (Model 5 – Model 4) 38.53 30 0.137 1χ2 = difference in chi-square values; 1df = difference in degrees of freedom. difference in chi-square values; 1df = difference in degrees of freedom across males and females were equivalent. In addition, the χ2 difference of 31.81 for 30 degrees of freedom was non-significant (p = 0.376) in the model 7, the χ2 difference of 39.24 for 28 degrees of freedom was non-significant (p = 0.077) in the model 8 and the χ2 difference of 38.53 for 30 degrees of freedom was non-significant (p = 0.137) in the model 9, suggesting that measurement intercepts, covariances and measurement residuals across males and females were all equivalent. and Yi, 1989), and thus the convergent validity was acceptable. Moreover, Table 4 shows that the estimated intercorrelations among all constructs were less than the square roots of the AVE in each construct, and this provides support for discriminant validity (Fornell and Larcker, 1981). In order to test the measurement invariance across males and females, according to the suggestions of Van De Schoot et al. (2015) and Deng et al. (2008), we conducted an invariance analysis of two subgroups, male and female. As shown in Table 5, in the factor loadings invariant model (model 6), the χ2 difference of 26.67 for 23 degrees of freedom was non- significant (p = 0.270), suggesting that item-factor loadings Validity of Measurement Model Mean SD IA UNC SCA FV HV EV PB IA 2.606 1.040 0.804 UNC 3.436 0.932 0.183 0.729 SCA 4.048 0.668 0.064 −0.051 0.750 FV 3.586 0.747 0.202 −0.331 0.362 0.708 HV 3.391 1.012 0.243 −0.245 0.376 0.628 0.810 EV 3.023 0.997 0.320 −0.179 0.292 0.521 0.638 0.825 PB 3.270 0.897 0.055 −0.247 0.424 0.476 0.486 0.439 0.776 The square root of AVE for discriminant validity is illustrated in bold font. TABLE 5 | Invariance analysis across males and females in the measurement model. Model description χ2 df TLI IFI RMSEA 1χ2 1df p-value Model 1: Combined baseline models (males and females) 1,587.629 768 0.863 0.865 0.056 Model 2: Factor loadings constrained equal 1,614.296 791 0.862 0.864 0.055 Model 3: Factor loadings and intercepts constrained equal 1,646.106 821 0.862 0.863 0.054 Model 4: Factor loadings, intercepts and covariances constrained equal 1,685.342 849 0.860 0.860 0.054 Model 5: Factor loadings, intercepts, covariances, and residuals constrained equal 1,723.871 879 0.858 0.858 0.053 Model 6: Factor loadings invariant (Model 2 - Model 1) 26.67 23 0.270 Model 7: Measurement intercepts invariant (Model 3 – Model 2) 31.81 30 0.376 Model 8: Covariances invariant (Model 4 – Model 3) 39.24 28 0.077 Model 9: Measurement residuals invariant (Model 5 – Model 4) 38.53 30 0.137 1χ2 = difference in chi-square values; 1df = difference in degrees of freedom. TABLE 3 | Point estimate and Confidence Interval for Cronbach’s alpha. Point estimate S E TABLE 3 | Point estimate and Confidence Interval for Cronbach’s alpha. BLE 4 | Means, standard deviations and correlations of variables. TABLE 5 | Invariance analysis across males and females in the measurement model. Frontiers in Psychology | www.frontiersin.org Structural Model This study used SEM to test the relationships between variables, including control variables (i.e., age, income, and education). October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 8 Liu et al. Similarity Effect of Buying Organic Food FIGURE 2 | Tested model. (1) *p < 0.05; **p < 0.01; ***p < 0.001. (2) χ2 = 583.87; df = 509; χ2/df = 1.15; CFI = 0.99; GFI = 0.91; TLI = 0.99; RMSEA = 0.02. FIGURE 2 | Tested model. (1) *p < 0.05; **p < 0.01; ***p < 0.001. (2) χ2 = 583.87; df = 509; χ2/df = 1.15; CFI = 0.99; GFI = 0.91; TLI = 0.99; RMSEA = 0.02. TABLE 6 | Confirmation of the hypotheses. Hypothesis Path β S.E. t-value p-value Supported H1a IA→FV 0.178 0.032 5.489 *** Yes H1b IA→HV 0.337 0.053 6.360 *** Yes H1c IA→EV 0.409 0.056 7.274 *** Yes H1d IA→PB −0.041 0.053 −0.782 0.434 No H2a UNC→FV −0.355 0.050 −7.102 *** Yes H2b UNC→HV −0.505 0.073 −6.878 *** Yes H2c UNC→EV −0.414 0.073 −5.669 *** Yes H2d UNC→PB −0.085 0.078 −1.094 0.274 No H3a SCA→FV 0.456 0.068 6.700 *** Yes H3b SCA→HV 0.810 0.107 7.541 *** Yes H3c SCA→EV 0.616 0.104 5.923 *** Yes H3d SCA→PB 0.343 0.111 3.077 ** Yes H4 FV→PB 0.228 0.102 2.234 * Yes H5 HV→PB 0.118 0.059 1.993 * Yes H6 EV→PB 0.125 0.047 2.643 ** Yes H10 Gender→PB −0.008 0.065 -0.128 0.898 No *p < 0.05; **p < 0.01; ***p < 0.001. *p < 0.05; **p < 0.01; ***p < 0.001. FV, HV, and EV respectively, supporting H1a, H1b, and H1c. And UNC (H2a: β = −0.355, p < 0.001; H2b: β = −0.505, p < 0.001; H2c: β = −0.414, p < 0.001) showed a significant impact on FV, HV and EV respectively, supporting H2a, H2b, and H2c. Meanwhile, SCA had a significant influence on FV, HV and EV respectively. Thus, H3a-H3c were supported. In addition, SCA, FV, HV, and EV had a significant impact on PB at a significant level of 1, 5, 5, 1% respectively, supporting H3d, H4, H5, and H6. However, IA, UNC and Gender had no significant effects on PB. Therefore, H1d, H2d, and H10 were not supported. FV, HV, and EV respectively, supporting H1a, H1b, and H1c. Structural Model And UNC (H2a: β = −0.355, p < 0.001; H2b: β = −0.505, p < 0.001; H2c: β = −0.414, p < 0.001) showed a significant impact on FV, HV and EV respectively, supporting H2a, H2b, and H2c. Meanwhile, SCA had a significant influence on FV, HV and EV respectively. Thus, H3a-H3c were supported. In addition, SCA, FV, HV, and EV had a significant impact on PB at a significant level of 1, 5, 5, 1% respectively, supporting H3d, H4, H5, and H6. However, IA, UNC and Gender had no significant effects on PB. Therefore, H1d, H2d, and H10 were not supported. According to the Bollen–Stine bootstrap to correct for bias in the model fit statistic, the resulting fit indices (χ2 = 583.87; df = 509; χ2/df = 1.15; CFI = 0.99; GFI = 0.91; TLI = 0.99; RMSEA = 0.02) were all acceptable. The structural model elucidated 44.6% of the variance of purchase behavior (see Figure 2). As shown in Figure 2 and Table 6, the result of the hypothesis testing results indicates that 13 hypotheses were supported (H1a-H1c, H2a-H2c, H3a-H3d, H4, H5, and H6). Notably, IA (H1a: β = 0.178, p < 0.001; H1b: β = 0.337, p < 0.001; H1c: β = 0.409, p < 0.001) showed a significant influence on October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 9 Similarity Effect of Buying Organic Food Liu et al. TABLE 7 | Invariance analysis across males and females in the structural model. Model description χ2 df TLI IFI RMSEA 1χ2 1df p-value Model 1: Combined baseline models (males and females) 1,746.941 774 0.817 0.840 0.061 Model 2: Path coefficients constrained equal 1,770.749 789 0.819 0.838 0.06 Model 3: Path coefficients and covariances constrained equal 1,789.658 795 0.818 0.835 0.06 Model 4: Path coefficients, covariances and residuals constrained equal 1,793.774 799 0.818 0.835 0.06 Model 5: Path coefficients invariant (Model 2 - Model 1) 23.808 15 0.068 Model 6: Structural covariances invariant (Model 3 – Model 2) 18.909 6 0.004 Model 7: Structural residuals invariant (Model 4 – Model 3) 4.116 4 0.391 1χ2 = difference in chi-square values; 1df = difference in degrees of freedom. TABLE 8 | Coefficient of group analysis. Hypothesis Path Gender Male Female β S.E. p-value β S.E. Structural Model p-value H1a IA→FV 0.149 0.039 *** 0.214 0.055 *** H1b IA→HV 0.237 0.060 *** 0.490 0.096 *** H1c IA→EV 0.343 0.067 *** 0.538 0.097 *** H1d IA→PB −0.017 0.062 0.788 −0.104 0.099 0.292 H2a UNC→FV −0.312 0.071 *** −0.407 0.070 *** H2b UNC→HV −0.372 0.099 *** −0.650 0.106 *** H2c UNC→EV −0.224 0.101 * −0.572 0.102 *** H2d UNC→PB −0.136 0.099 0.170 0.010 0.129 0.936 H3a SCA→FV 0.536 0.133 *** 0.437 0.078 *** H3b SCA→HV 1.095 0.225 *** 0.649 0.118 *** H3c SCA→EV 1.151 0.237 *** 0.343 0.111 ** H3d SCA→PB 0.632 0.240 ** 0.169 0.128 0.187 H4 FV→PB 0.196 0.139 0.158 0.270 0.159 0.090 H5 HV→PB 0.138 0.087 0.114 0.147 0.083 0.076 H6 EV→PB 0.061 0.069 0.377 0.144 0.070 * *p < 0.05; **p < 0.01; ***p < 0.001. TABLE 7 | Invariance analysis across males and females in the structural model. effects on PB in female group. Meanwhile, EV (β = 0.144, p < 0.05) showed a significant impact on PB in female group. However, EV had no significant effects on PB in male group. In order to test the structural invariance across males and females, according to the suggestions of Van De Schoot et al. (2015), we conducted an invariance analysis of two subgroups, male and female. As shown in Table 7, the χ2 difference of 23.808 for 15 degrees of freedom was non-significant (p = 0.068) in the model 5 and the χ2 difference of 4.116 for 4 degrees of freedom was non-significant (p = 0.391) in the model 7, suggesting that path coefficients and structural residuals across males and females were all equivalent. However, the χ2 difference of 18.909 for 6 degrees of freedom was significant (p = 0.004) in the model 6, thus the structural covariances was not equivalent. Frontiers in Psychology | www.frontiersin.org The Mediating Effect of Perceived Values The Mediating Effect of Perceived Values In order to investigate the indirect effects of the independent variable through the mediator, bias-corrected percentile bootstrapping and percentile bootstrapping were performed at a 95% confidence interval with 5,000 bootstrap samples (Taylor et al., 2007). Following the suggestions of Preacher and Hayes (2008), the confidence interval of the lower and upper bounds was calculated to test whether the indirect effects were significant. As shown in Table 9, the results of the bootstrap test showed that the total effect (total effect = 0.09, p< 0.05) and indirect effect (indirect effect = 0.051, p < 0.01) of IA on PB, and the total effect (total effect = −0.277, p < 0.001) and indirect effect In order to further test the difference of consumers’ gender on organic purchasing behavior, we conducted a group analysis of two subgroups, male and female. As shown in Table 8, SCA (β = 0.632, p < 0.01) showed a significant impact on PB in the male group. However, SCA had no significant October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 10 Similarity Effect of Buying Organic Food Liu et al. Liu et al. TABLE 9 | Total effects, indirect effects, and direct effects of the model. Point estimate Product of coefficients Booststrapping Bias-corrected percentile 95% CI Percentile 95% CI S.E. The Mediating Effect of Perceived Values Z Lower Upper Two-tailed significance Lower Upper Two-tailed significance Total effect IA→PB 0.090 0.044 2.045 0.007 0.176 * 0.004 0.175 * UNC→PB −0.277 0.064 −4.328 −0.420 −0.167 *** −0.416 −0.163 *** SCA→PB 0.619 0.126 4.913 0.414 0.908 *** 0.415 0.909 *** Indirect effect IA→FV→PB 0.041 0.023 1.783 0.005 0.103 * −0.004 0.089 0.072 IA→HV→PB 0.040 0.027 1.481 −0.006 0.101 0.098 −0.006 0.101 0.097 IA→EV→PB 0.051 0.025 2.040 0.010 0.114 ** 0.004 0.106 ** UNC→FV→PB −0.081 0.045 −1.800 −0.183 −0.003 * −0.172 0.008 0.072 UNC→HV→PB −0.059 0.040 −1.475 −0.148 0.012 0.104 −0.150 0.010 0.097 UNC→EV→PB 0.077 0.038 2.026 0.015 0.169 ** 0.007 0.155 ** SCA→FV→PB 0.104 0.058 1.793 0.006 0.243 * −0.010 0.222 0.072 SCA→HV→PB 0.095 0.061 1.557 −0.021 0.219 0.110 −0.017 0.222 0.097 SCA→EV→PB 0.077 0.038 2.026 0.015 0.169 ** 0.007 0.155 ** Direct effect IA→PB −0.041 0.056 −0.732 −0.158 0.061 0.423 −0.156 0.064 0.450 UNC→PB −0.085 0.075 −1.133 −0.234 0.062 0.257 −0.240 0.056 0.231 SCA→PB 0.343 0.125 2.744 0.129 0.623 *** 0.136 0.639 *** Estimation of 5,000 bootstrap sample; *p < 0.05; **p < 0.01; ***p < 0.001. Mediators: FV, HV, and EV. | Total effects, indirect effects, and direct effects of the model. health value, and environmental value). Our findings are consistent with previous literature. Namely, Ruiz Mafé and Sanz Blas (2006) argued that information anxiety had a positive influence on consumers’ perceived values and Nuttavuthisit and Thogersen (2017) argued that uncertainty toward the real attributes of organic food has a negative influence on consumers’ perceived values. In addition, regarding consumers’ internal similarity, the study results found that sustainable consumption attitude had significant and positive influences on perceived values and purchase behavior, which is in line with the results of prior literature (Follows and Jobber, 2000; Marchand and Walker, 2008; Lin and Huang, 2012). In other words, consumers with higher sustainable consumption attitude have higher perceived values of organic food. And they are more likely to buy organic food. However, information anxiety and uncertainty had no effects on organic purchasing, which is inconsistent with previous research results (Ruiz Mafé and Sanz Blas, 2006; Shiu et al., 2011). Two possible reasons are that, on the one hand, although consumers are eager to seek safe and high-quality food under the influence of COVID-19, many consumers do not trust organic food because the organic market in China is in its infancy (Xu, 2017). Moreover, Suki (2015) and Vega-Zamora et al. The Mediating Effect of Perceived Values (2019) pointed out that trust is the basis of establishing exchange relationships between organic food buyers and sellers. This may explain why information anxiety did not have a significant effect on organic purchasing. On the other hand, although many (indirect = 0.077, p < 0.01) of UNC on PB were all significant, while the direct effects of those were no longer significant. The above findings indicated that EV played a completely mediating role in the relationships between IA and PB (H9a), and between UNC and PB (H9b). Thus, both H9a and H9b were supported. In addition, the total effect (total effect = 0.619, p < 0.001), indirect effect (indirect = 0.077, p < 0.01) and direct effect (direct effect = 0.343, p < 0.001) of SCA on PB were all significant. The above findings indicated that EV played a partially mediating role in the relationships between SCA and PB (H9c). Thus, H9c was supported. However, FV and HV had no mediating effects on the relationships between IA and PB, between UNC and PB, and between SCA and PB. Thus, H7a-H7c and H8a-H8c were not supported. CONCLUSION One possible reason is that some studies pointed out that COVID-19 is caused by ecological imbalance (Lvov and Alkhovsky, 2020), which prompts people to pay more attention to ecological balance and to pursue more environmentally friendly consumption. However, as the organic market in China is in its infancy, many consumers do not fully understand the benefits of organic food, especially its functional value and health value. The results provide valuable findings for the sustainable development of the organic food industry and may enrich the research in this field. The following insights can be obtained from the research results of this paper. First, Perceived values (i.e., functional value, health value, and environmental value) are important factors affecting consumers’ organic purchasing behavior. Therefore, organic sellers and public policy makers can formulate corresponding strategies to drive consumers’ organic consumption demand. That is to say, organic sellers should pay attention to specific consumer groups and improve consumers’ perceived values of organic food products by maintaining customer satisfaction and pleasure. At the same time, the public policy makers should establish the concept of organic cultivation and breeding which is conducive to ecological civilization and human health through education and publicity, and enhance the correct values of consumers, so as to promote the development of organic industry. Second, the results showed that consumers’ uncertainty about organic food hinders consumers’ perceived values of organic food, thus hindering organic consumption. Therefore, organic producers, organic sellers, and public policy makers should formulate corresponding strategies to promote consumers’ understanding of organic information. Organic producers can show more production details to consumers through media and social platforms, and organic sellers can vigorously promote organic food through media and social platforms. At the same time, public policy makers can also provide more authoritative organic information to consumers through media and social platforms, so as to achieve the goal of promoting organic consumption and sustainable development. Finally, the results showed that gender had no significant relationship with purchase behavior. This is inconsistent with prior studies (Stobbelaar et al., 2007). Namely, Stobbelaar et al. (2007) believed that women prefer organic products more than men do. One possible reason is that due to environmental problems, the public is increasingly concerned about more environmentally friendly organic food (Basha and Lal, 2019). Therefore, consumers with different genders may all attach great importance to environmental protection. CONCLUSION Chinese consumers are uncertain about the information of organic food, the price of organic food is 2–4 times that of traditional food. Moreover, Xu (2017) believed that, to a large extent, the price of food represents the quality of food. Therefore, although some consumers are uncertain about the information of organic food, they may buy organic food according to the price of organic food. Thus, this may explain why uncertainty did not have a significant and negative effect on organic purchasing. This current study investigated the relationships between consumers’ similarity (i.e., information anxiety, uncertainty, and sustainable consumption attitude), perceived values (i.e., functional value, health value, and environmental value) and organic purchasing behavior based on the SOR theoretical model and information similarity effect. And considering gender differences in consumers’ similarity, perceived values, and organic purchasing behavior. Meanwhile, the mediating effects of perceived values on the relationship between consumers’ similarity and purchasing behavior were also discussed, considering the background of COVID-19. The results indicated the significant association of information anxiety, uncertainty and sustainable consumption attitude with perceived values. And perceived values and sustainable consumption attitude had a positively significant influence on purchase behavior. In addition, environmental value played mediating effects in the relationships between organic purchasing behavior and information anxiety, uncertainty and sustainable consumption attitude. And the impact of sustainable consumption attitude and environmental value on organic purchasing behavior differed in gender. Secondly, regarding perceived values, the study results found that functional value, health value and environmental value had significant and positive influences on purchase behavior. Our findings are in line with the results of prior literature, which argued perceived values are considered important predictors of consumer decision-making (Sheth et al., 1991). It is worth noting that in the context of COVID-19, functional value, health value and environmental value all play an important role in organic purchase, which implies that consumers are more inclined to buy environmental and healthy organic food. Thirdly, environmental value played mediating effects in the relationships between organic purchasing behavior and consumers’ similarity (i.e., information anxiety, uncertainty, and sustainable consumption attitude). As we expected, there is a potential relationship among consumers’ similarity, environmental value and purchase behavior. However, functional value and health value did not play mediating effects in the relationships between organic purchasing behavior and consumers’ similarity (i.e., information anxiety, uncertainty and sustainable consumption attitude). This is not in line with our prediction. DISCUSSION Using the SOR theoretical model and information similarity effect, we studied the relationships between information anxiety, uncertainty, sustainable consumption attitude, and organic purchasing behavior under the mediating role of their perceived values. And we used SEM to verify the research hypotheses. The main findings of the current study are as follows. Firstly, regarding consumers’ external similarity, the study results found that information anxiety and uncertainty had significant influences on perceived value (i.e., functional value, October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 11 Similarity Effect of Buying Organic Food Liu et al. Liu et al. REFERENCES Chau, P. Y. K., and Hu, P. J. H. (2001). Information technology acceptance by individual professionals: a model comparison approach. Decis. Sci. 32, 699–719. doi: 10.1111/j.1540-5915.2001.tb0 0978.x Akbar, A., Ali, S., Ahmad, M. A., Akbar, M., and Danish, M. (2019). Understanding the antecedents of organic food consumption in Pakistan: moderating role of food neophobia. Int. J. Environ. Res. Public Health 16:4043. doi: 10.3390/ijerph16204043 Chekima, B., Oswald, A. I., Wafa, S. A. W. S., and Chekima, K. (2017). Narrowing the gap: factors driving organic food consumption. J. Clean. Prod. 166, 1438–1447. doi: 10.1016/j.jclepro.2017. 08.086 Anderson, J. C., and Gerbing, D. W. (1988). Structural equation modeling in practice: a review and recommended two-step approach. Psychol. Bullet. 103, 411–423. doi: 10.1037/0033-2909.103.3.411 Dean, M., Raats, M. M., and Shepherd, R. (2012). The role of self-identity, past behavior, and their interaction in predicting intention to purchase fresh and processed organic food. J. Appl. Soc. Psychol. 42, 669–688. doi: 10.1111/j.1559-1816.2011.00796.x Arvola, A., Vassallo, M., Dean, M., Lampila, P., Saba, A., Lähteenmäki, L., et al. (2008). Predicting intentions to purchase organic food: the role of affective and moral attitudes in the Theory of Planned Behaviour. Appetite 50, 443–454. doi: 10.1016/j.appet.2007.09.010 De-Magistris, T., and Gracia, A. (2016). Consumers’ willingness-to-pay for sustainable food products: the case of organically and locally grown almonds in Spain. J. Clean. Prod. 118, 97–104. doi: 10.1016/j.jclepro.2016. 01.050 Bagozzi, R. P., and Yi, Y. (1989). On the use of structural equation models in experimental designs. J. Mark. Res. 26, 271–284. doi: 10.1177/002224378902600302 Basha, M. B., and Lal, D. (2019). Indian consumers’ attitudes towards purchasing organically produced foods: an empirical study. J. Clean. Prod. 215, 99–111. doi: 10.1016/j.jclepro.2018.12.098 Deng, X., Doll, W. J., Al-Gahtani, S. S., Larsen, T. J., Pearson, J. M., and Raghunathan, T. S. (2008). A cross-cultural analysis of the end-user computing satisfaction instrument: a multi-group invariance analysis. Inform. Manag. 45, 211–220. doi: 10.1016/j.im.2008.02.002 Biswas, A., and Roy, M. (2015). Green products: an exploratory study on the consumer behaviour in emerging economies of the East. J. Clean. Prod. 87, 463–468. doi: 10.1016/j.jclepro.2014.09.075 Diamantopoulos, A., Riefler, P., and Roth, K. P. (2008). Advancing formative measurement models. J. Bus. Res. 61, 1203–1218. doi: 10.1016/j.jbusres.2008.01.009 Bollen, K. A., and Stine, R. A. (1992). Bootstrapping goodness-of-fit measures in structural equation models. Sociol. Methods Res. 21, 205–229. doi: 10.1177/0049124192021002004 Enders, C. K. (2005). ETHICS STATEMENT affects organic buying behavior through environmental values. Therefore, in order to promote the consumption of organic food, the government needs to strengthen the publicity and education of environmental values, so as to promote the people to form values of protecting the environment. Ethical review and approval was not required for the study on human participants in accordance with the local legislation and institutional requirements. Written informed consent for participation was not required for this study in accordance with the national legislation and the institutional requirements. LIMITATIONS AND FURTHER RESEARCH Some limitations of this study suggest directions for further research. First, the survey data were collected from organic consumers in China’s first-tier cities, which may limit the generalizability of the study findings to other contexts. Future studies may be extended to other cities in China, which might help deepen the understanding of organic purchasing behavior and may further improve the generalizability of the study findings. Secondly, this paper only considered the similarity factors of information anxiety, uncertainty and sustainable consumption attitude, and may ignore other similarity factors (such as preference and personality characteristics), especially in the context of COVID-19. Future studies may consider more other similarity factors and may further enrich the results. SUPPLEMENTARY MATERIAL The Supplementary Material for this article can be found online at: https://www.frontiersin.org/articles/10.3389/fpsyg. 2021.628342/full#supplementary-material The original contributions presented in the study are included in the article/Supplementary Material, further inquiries can be directed to the corresponding author/s. FUNDING This paper was supported by the National Natural Science Foundation of China (NSFC, Grant Number: 71663038, 72064027). CONCLUSION In addition, the results showed that there were gender differences in the impact of sustainable consumption attitude and environmental value on organic purchasing behavior. Our findings are in line with the results of prior literature, which argued the impact of consumer’s gender differences on behavior and attitude is more and more obvious in the context of COVID-19 (Newburn, 2020; Stevens, 2020). Third, the results showed that information anxiety, uncertainty and sustainable consumption attitude have significant effects on organic purchasing behavior through environmental value. In particular, uncertainty positively October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 12 Similarity Effect of Buying Organic Food Liu et al. AUTHOR CONTRIBUTIONS CL shaped the theoretical design. YZ was responsible for the statistical analysis. DC was responsible for the final composition. All authors contributed to the article and approved the submitted version. REFERENCES Educ. Res. J. 5:83 Nuttavuthisit, K., and Thogersen, J. (2017). The importance of consumer trust for the emergence of a market for green products: the case of organic food. J. Bus. Ethics 140, 1–15. doi: 10.1007/s10551-015-2690-5 Janssen, M., and Hamm, U. (2011). Consumer perception of different organic certification schemes in five European countries. Organ. Agri. 1, 31–43. doi: 10.1007/s13165-010-0003-y Pagiaslis, A., and Krontalis, A. K. (2014). Green consumption behavior antecedents: environmental concern, knowledge, and beliefs. Psychol. Market. 31, 335–348. doi: 10.1002/mar.20698 Jia, J. S., Lu, X., Yuan, Y., Xu, G., Jia, J., and Christakis, N. A. (2020). Population flow drives spatio-temporal distribution of COVID-19 in China. Nature. 582, 389–394. doi: 10.1038/s41586-020-2284-y Parboteeah, D. V., Valacich, J. S., and Wells, J. D. (2009). The influence of website characteristics on a consumer’s urge to buy impulsively. Inform. Syst. Res. 20, 60–78. doi: 10.1287/isre.1070.0157 Kareklas, I., Carlson, J. R., and Muehling, D. D. (2014). “I eat organic for my benefit and yours”: egoistic and altruistic considerations for purchasing organic food and their implications for advertising strategists. J. Advertising 43, 18–32. doi: 10.1080/00913367.2013.799450 Podsakoff, P. M., MacKenzie, S. B., Lee, J., and Podsakoff, N. P. (2003). Common method biases in behavioral research: a critical review of the literature and recommended remedies. J. Appl. Psychol. 88, 879–903. doi: 10.1037/0021-9010.88.5.879 Kongtip, P., Nankongnab, N., Kallayanatham, N., Pundee, R., Yimsabai, J., and Woskie, S. (2020). Longitudinal study of metabolic biomarkers among conventional and organic farmers in Thailand. Int. J. Environ. Res. Publ. Health 17:4178. doi: 10.3390/ijerph17114178 Podsakoff, P. M., MacKenzie, S. B., and Podsakoff, N. P. (2012). Sources of method bias in social science research and recommendations on how to control it. Ann. Rev. Psychol. 63, 539–569. doi: 10.1146/annurev-psych-120710-100452 Kushwah, S., Dhir, A., and Sagar, M. (2019a). Ethical consumption intentions and choice behavior towards organic food. Moderation role of buying and environmental concerns. J. Clean. Prod. 236:117519. doi: 10.1016/j.jclepro.2019.06.350 Preacher, K. J., and Hayes, A. F. (2008). Asymptotic and resampling strategies for assessing and comparing indirect effects in multiple mediator models. Behav. Res. Method. 3:879. doi: 10.3758/BRM.40.3.879 Rahnama, H. (2016). Effect of consumption values on women’s choice behavior toward organic foods: the case of organic yogurt in Iran. J. Food Prod. Market. 23, 144–166. doi: 10.1080/10454446.2017.1244790 Kushwah, S., Dhir, A., and Sagar, M. (2019b). Understanding consumer resistance to the consumption of organic food. A study of ethical consumption, purchasing, and choice behaviour. Food Qual. Preference 77, 1–14. REFERENCES An SAS macro for implementing the modified bollen-stine bootstrap for missing data: implementing the bootstrap using existing structural equation modeling software. Struct. Equ. Model. Multidiscip. J. 12, 620–641. doi: 10.1207/s15328007sem 1204_6 Buckley, H. M., and Roach, M. E. (1981). Attraction as a function of attitudes and dress. Home Econ. Res. J. 10, 88–97. doi: 10.1177/1077727X8101000111 Byrne, D. (1971). The ubiquitous relationship: attitude similarity and attraction: a cross-cultural study. Human Relations, 24:201-207. doi: 10.1177/001872677102400302 Eroglu, S. A., Machleit, K. A., and Davis, L. M. (2001). Atmospheric qualities of online retailing. J. Bus. Res. 54, 177–184. doi: 10.1016/S0148-2963(99)00087-9 Çabuk, S., Tanrikulu, C., and Gelibolu, L. (2014). Understanding organic food consumption: attitude as a mediator. Int. J. Consum. Stud. 38, 337–345. doi: 10.1111/ijcs.12094 Fisher, M. J., and King, J. (2010). The self-directed learning readiness scale for nursing education revisited: a confirmatory factor analysis. Nurse Educ. Today 30, 44–48. doi: 10.1016/j.nedt.2009.05.020 October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 13 Liu et al. Similarity Effect of Buying Organic Food Liu et al. theory within an stimulus-organism-response model. Front. Psychol. 10:2512. doi: 10.3389/fpsyg.2019.02512 Follows, S. B., and Jobber, D. (2000). Environmentally responsible purchase behaviour: a test of a consumer model. Eur. J. Market. 34, 723–746. doi: 10.1108/03090560010322009 theory within an stimulus-organism-response model. Front. Psychol. 10:2512. doi: 10.3389/fpsyg.2019.02512 Liu, C., Zheng, Y., and Cao, D. (2021). An analysis of factors affecting selection of organic food: perception of consumers in China regarding weak signals. Appetite 161:105145. doi: 10.1016/j.appet.2021. 105145 Fornell, C., and Larcker, D. F. (1981). Structural equation models with unobservable variables and measurement error: algebra and statistics. J. Market. Res. 18, 382–388. doi: 10.1177/002224378101800313 Lockie, S., Lyons, K., Lawrence, G., and Grice, J. (2004). Choosing organics: a path analysis of factors underlying the selection of organic food among Australian consumers. Appetite 43, 135–146. doi: 10.1016/j.appet.2004. 02.004 Frieze, S. I. H. (1997). A mediational model of power, affiliation and achievement motives and product involvement. J. Bus. Psychol. 11, 425–446. doi: 10.1007/BF02195890 Fu, S., Yan, Q., and Feng, G. C. (2018). Who will attract you? Similarity effect among users on online purchase intention of movie tickets in the social shopping context. Int. J. Inform. Manag. 40, 88–102. doi: 10.1016/j.ijinfomgt.2018.01.013 Luqman, A., Cao, X., Ali, A., Masood, A., and Yu, L. (2017). Empirical investigation of Facebook discontinues usage intentions based on SOR paradigm. Comput. Hum. Behav. 70, 544–555. doi: 10.1016/j.chb.2017.01.020 Gonçalves, H. REFERENCES M., Lourenço, T. F., and Silva, G. M. (2016). Green buying behavior and the theory of consumption values: a fuzzy-set approach. J. Bus. Res. 69, 1484–1491. doi: 10.1016/j.jbusres.2015.10.129 Lvov, D. K., and Alkhovsky, S. V. (2020). Source of the COVID-19 pandemic: ecology and genetics of coronaviruses (Betacoronavirus: Coronaviridae) SARS-CoV, SARS-CoV-2 (subgenus Sarbecovirus), and MERS-CoV (subgenus Merbecovirus). Probl. Virol. Russian J. 65, 62–70. doi: 10.36233/0507-4088-2020-65-2-62-70 Guéguen, N., Martin, A., and Meineri, S. (2011). Mimicry and helping behavior: an evaluation of mimicry on explicit helping request. J. Soc. Psychol. 151, 1–4. doi: 10.1080/00224540903366701 Magistris, T. D., and Gracia, A. (2008). The decision to buy organic food products in Southern Italy. Br. Food J. 110, 929–947. doi: 10.1108/00070700810900620 Hajli, M. N. (2014). The role of social support on relationship quality and social commerce. Technol. Forecast. Soc. Change 87, 17–27. doi: 10.1016/j.techfore.2014.05.012 Marchand, A., and Walker, S. (2008). Product development and responsible consumption: designing alternatives for sustainable lifestyles. J. Clean. Prod. 16, 1163–1169. doi: 10.1016/j.jclepro.2007.08.012 Hidalgo-Baz, M., Martos-Partal, M., and González-Benito, Ó. (2017). Attitudes vs. purchase behaviors as experienced dissonance: the roles of knowledge and consumer orientations in organic market. Front. Psychol. 8:248. doi: 10.3389/fpsyg.2017.00248 Mehrabian, A., and Russell, J. A. (1974). An Approach to Environmental Psychology. Cambridge, MA: MIT. Michaelidou, N., and Hassan, L. M. (2008). The role of health consciousness, food safety concern and ethical identity on attitudes and intentions towards organic food. Int. J. Consum. Stud. 32, 163–170. doi: 10.1111/j.1470-6431.2007.00619.x Hitsch, G. J., Hortaçsu, A., and Ariely, D. (2010). Matching and sorting in online dating. Am. Econ. Rev. 100, 130–163. doi: 10.1257/aer.100.1.130 Hu, L. T., and Bentler, P. M. (1999). Cutoffcriteria for fit indexes in covariance structure analysis: conventional criteria versus new alternatives. Struct. Equ. Model. Multidiscip. J. 6, 1–55. doi: 10.1080/10705519909540118 Mohammed, A. A. (2020). What motivates consumers to purchase organic food in an emerging market? An empirical study from Saudi Arabia. Br. Food J. 2020:599. doi: 10.1108/BFJ-07-2020-0599 Newburn, F. (2020). Gender differences in behavior and attitudes toward COVID-19: perceived risk of infection, negative cognitive emotions, and sleep disturbances. J. Res. Gender Stud. 10, 117–127. doi: 10.22381/JRGS10220207 Jackson, D. L., Gillaspy, J. A., and Purc-Stephenson, R. (2009). Reporting practices in confirmatory factor analysis: an overview and some recommendations. Psychol. Methods 14, 6–23. doi: 10.1037/a0014694 Jacoby, J. (2002). Stimulus-organism-response reconsidered: an evolutionary step in modeling (consumer) behavior. J. Consum. Psychol. 12, 51–57. doi: 10.1207/S15327663JCP1201_05 Nunnally, J. C. (1978). Psychometric theory. Am. REFERENCES doi: 10.1016/j.foodqual.2019.04.003 Rana, J., and Paul, J. (2017). Consumer behavior and purchase intention for organic food: a review and research agenda. J. Retail. Consum. Servic. 38, 157–165. doi: 10.1016/j.jretconser.2017.06.004 Li, W., and Yuan, Y. (2018). Purchase experience and involvement for risk perception in online group buying. Nankai Bus. Rev. Int. 2017:64. doi: 10.1108/NBRI-11-2017-0064 Ruiz Mafé, C., and Sanz Blas, S. (2006). Explaining Internet dependency: an exploratory study of future purchase intention of Spanish Internet users. Internet Res. 16, 380–397. doi: 10.1108/10662240610690016 Lin, P., and Huang, Y. (2012). The influence factors on choice behavior regarding green products based on the theory of consumption values. J. Clean. Prod. 22, 11–18. doi: 10.1016/j.jclepro.2011.10.002 Seconda, L., Baudry, J., Allès, B., Hamza, O., Boizot-Szantai, C., Soler, L., et al. (2017). Assessment of the sustainability of the mediterranean diet combined with organic food consumption: an individual behaviour approach. Nutrients 9:61. doi: 10.3390/nu9010061 Liu, C., and Zheng, Y. (2019). The predictors of consumer behavior in relation to organic food in the context of food safety incidents: advancing hyper attention October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 14 Similarity Effect of Buying Organic Food Liu et al. Liu et al. Shamsi, R. H., Omidi Najafabadi, M., and Hosseini, S. J. F. (2020). Designing a three-phase pattern of organic product consumption behaviour. Food Qual. Pref. 79:103743. doi: 10.1016/j.foodqual.2019.103743 Vega-Zamora, M., Torres-Ruiz, F. J., and Parras-Rosa, M. (2019). Towards sustainable consumption: keys to communication for improving trust in organic foods. J. Clean. Prod. 216, 511–519. doi: 10.1016/j.jclepro.2018. 12.129 Sherman, E., Mathur, A., and Smith, R. B. (1997). Store environment and consumer purchase behavior: mediating role of consumer emotions. Psychol. Market. 14, 361–378. doi: 10.1002/(SICI)1520-6793(199707)14:4<361::AID-MAR4>3.0. CO;2-7 Verain, M. C. D., Dagevos, H., and Antonides, G. (2015). Sustainable food consumption. Product choice or curtailment? Appetite 91, 375–384. doi: 10.1016/j.appet.2015.04.055 Sheth, J. N., Newman, B. I., and Gross, B. L. (1991). Why we buy what we buy: a theory of consumption values. J. Bus. Res. 22, 159–170. doi: 10.1016/0148-2963(91)90050-8 Verhagen, T., and van Dolen, W. (2011). The influence of online store beliefs on consumer online impulse buying: a model and empirical application. Inform. Manag. 48, 320–327. doi: 10.1016/j.im.2011.08.001 Shiu, E. M. K., Walsh, G., Hassan, L. M., and Shaw, D. (2011). Consumer uncertainty, revisited. Psychol. Market. 28, 584–607. doi: 10.1002/mar.20402 Vieira, L. M. (2008). REFERENCES The applicability of transaction costs economics to vertical integration decision: evidences from a Brazilian beef processor. Organizações Rurais e Agroindustriais/Rural and Agro-Industrial Organizations. 10, 1489–1500. doi: 10.22004/ag.econ.61471 Shweta, B., Harshali, P., and Sujit, S. (2017). Role of information anxiety and information load on processing of prescription drug information leaflets. Pharmacy 5:57. doi: 10.3390/pharmacy5040057 Wang, J., Pham, T. L., and Dang, V. T. (2020). Environmental consciousness and organic food purchase intention: a moderated mediation model of perceived food quality and price sensitivity. Int. J. Environ. Res. Public Health 17:850. doi: 10.3390/ijerph17030850 Singh, A., and Verma, P. (2017). Factors influencing Indian consumers’ actual buying behaviour towards organic food products. J. Clean. Prod. 167, 473–483. doi: 10.1016/j.jclepro.2017.08.106 j j Stevens, A. (2020). Gender differences in COVID-19 sentiments, attitudes, habits, and behaviors: an empirical research. J. Res. Gender Stud. 10, 95–105. doi: 10.22381/JRGS10220205 Wang, X., Pacho, F., Liu, J., and Kajungiro, R. (2019). Factors influencing organic food purchase intention in developing countries and the moderating role of knowledge. Sustainability 11:10209. doi: 10.3390/ su11010209 Stobbelaar, D. J., Casimir, G., Borghuis, J., Marks, I., Meijer, L., and Zebeda, S. (2007). Adolescents? attitudes towards organic food: a survey of 15- to 16-year old school children. Int. J. Consum. Stud. 31, 349–356. doi: 10.1111/j.1470-6431.2006.00560.x Wang, Y. J., Minor, M. S., and Wei, J. (2011). Aesthetics and the online shopping environment: understanding consumer responses. J. Retail. 87, 46–58. doi: 10.1016/j.jretai.2010.09.002 Willer, H., and Lernoud, J. (2020). The World of Organic Agriculture Statistics and Emerging Trends 2020. Available online at: http://www.organic-world.net/ yearbook/yearbook-2020.html (accessed Nov 8, 2020). Strassner, C., Cavoski, I., Di Cagno, R., Kahl, J., Kesse-Guyot, E., Lairon, D., et al. (2015). How the organic food system supports sustainable diets and translates these into practice. Front. Nutr. 2:19. doi: 10.3389/fnut.2015.00019 Suki, N. M. (2015). Customer environmental satisfaction and loyalty in the consumption of green products. Int. J. Sustain. Dev. World Ecol. 22, 292–301. doi: 10.1080/13504509.2015.1054328 Xie, X., Huang, L., Li, J. J., and Zhu, H. (2020). Generational differences in perceptions of food health/risk and attitudes toward organic food and game meat: the case of the COVID-19 crisis in China. Int. J. Environ. Res. Public Health 17:3148. doi: 10.3390/ijerph17093148 Suki, N. M. (2016). Consumer environmental concern and green product purchase in Malaysia: structural effects of consumption values. J. Clean. Prod. 132, 204–214. doi: 10.1016/j.jclepro.2015.09.087 Xu, W. (2017). Study on the Consumption Behavior of Organic Food. REFERENCES (unpublished dissertation), Northwest A&F University, Xianyang, China. Suki, N. M., and Suki, N. M. (2015a). Impact of consumption values on consumer environmental concern regarding green products: comparing light, average, and heavy users’. J. Econ. Surv. 28, 551–572. doi: 10.1111/joes.12040 Yiridoe, E. K., Bonti-Ankomah, S., and Martin, R. C. (2005). Comparison of consumer perceptions and preference toward organic versus conventionally produced foods: a review and update of the literature. Renew. Agri. Food Syst. 20:5113. doi: 10.1079/RAF2005113 Suki, N. M., and Suki, N. M. (2015b). Consumption values and consumer environmental concern regarding green products. Int. J. Sustain. Dev. World Ecol. 22, 269–278. doi: 10.1080/13504509.2015.1013074 Zeithaml, V. A. (1988). Consumer perceptions of price, quality, and value: a means-end model and synthesis of evidence. J. Market. 52, 2–22. doi: 10.1177/002224298805200302 Suki, N. M., and Suki, N. M. (2015c). Does religion influence consumers’ green food consumption? Some insights from Malaysia. J. Consum. Market. 32, 551–563. doi: 10.1108/JCM-02-2014-0877 Zung, W. W. K. (1971). A rating instrument for anxiety disorders. Psychosomatics 12, 371–379. doi: 10.1016/S0033-3182(71)71479-0 Taylor, A. B., Mackinnon, D. P., and Tein, J. Y. (2007). Tests of the three-path mediated effect. Org. Res. Method. 11, 241–269. doi: 10.1177/1094428107300344 Conflict of Interest: The authors declare that the research was conducted in the absence of any commercial or financial relationships that could be construed as a potential conflict of interest. Teng, C., and Lu, C. (2016). Organic food consumption in Taiwan: motives, involvement, and purchase intention under the moderating role of uncertainty. Appetite 105, 95–105. doi: 10.1016/j.appet.2016.05.006 Publisher’s Note: All claims expressed in this article are solely those of the authors and do not necessarily represent those of their affiliated organizations, or those of the publisher, the editors and the reviewers. Any product that may be evaluated in this article, or claim that may be made by its manufacturer, is not guaranteed or endorsed by the publisher. Thøgersen, J. (2004). A cognitive dissonance interpretation of consistencies and inconsistencies in environmentally responsible behavior. J. Environ. Psychol. 24, 93–103. doi: 10.1016/S0272-4944(03)00039-2 Thøgersen, J. (2004). A cognitive dissonance interpretation of consistencies and inconsistencies in environmentally responsible behavior. J. Environ. Psychol. 24, 93–103. doi: 10.1016/S0272-4944(03)00039-2 Thøgersen, J. (2017). Sustainable food consumption in the nexus between national context and private lifestyle: a multi-level study. Food Qual. Pref. 55, 16–25. doi: 10.1016/j.foodqual.2016.08.006 Trinchera, L., Marie, N., and Marcoulides, G. A. (2018). A distribution free interval estimate for coefficient alpha. Struct. Eq. Model. Multidiscipl. J. Copyright © 2021 Liu, Zheng and Cao. This is an open-access article distributed under the terms of the Creative Commons Attribution License (CC BY). The use, distribution or reproduction in other forums is permitted, provided the original author(s) and the copyright owner(s) are credited and that the original publication in this journal is cited, in accordance with accepted academic practice. No use, distribution or reproduction is permitted which does not comply with these terms. REFERENCES 25, 876–887. doi: 10.1080/10705511.2018.1431544 Van De Schoot, R., Schmidt, P., De Beuckelaer, A., Lek, K., and Zondervan- Zwijnenburg, M. (2015). Editorial: measurement invariance. Front. Psychol. 6:1064. doi: 10.3389/fpsyg.2015.01064 October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 15 Similarity Effect of Buying Organic Food Liu et al. Appendix A.2. Uncertainty Appendix A.2. Uncertainty UNC1: I’m not sure about the authenticity of organic food labels. UNC2: I’m worried that some of the claimed organic foods are not actually organic foods. UNC3: I am worried that I may have spent more money on organic food. UNC4: I don’t have much confidence in the organic food on the market at present. Appendix A.6. Environmental Value EV1: The presence of resource shortage and environmental pollution has threatened life on earth. EV2: The balance of nature is very delicate and easily upset. EV3: We are approaching the limit the earth can sustain. EV4: If things continue is the present course, the sustainability of the environment and future generations are highly threatened. Appendix A.1. Information Anxiety Appendix A.4. Functional Value FV1: Organic food has consistent quality. FV2: Organic food is well made. FV3: Organic food has an acceptable standard of quality. FV4: Organic food would perform consistently. FV5: Organic food is reasonably priced. FV6: Organic food offers value for money. FV7: Organic food is a good product for the price. IA1: After the COVID-19 outbreak, I often feel fear in the face of information about massive COVID-19. p y IA3: After the COVID-19 outbreak, I sometimes feel like I’m falling apart and going to pieces in the face of information about massive COVID-19. FV4: Organic food would perform consistently. FV5: Organic food is reasonably priced. FV6: Organic food offers value for money. IA4: After the COVID-19 outbreak, I often feel anxious in the face of information about massive COVID-19. Appendix A.5. Health Value HV1: Organic food keeps my healthy. HV2: Organic food is nutritious. HV3: Organic food is high in protein. IA5: After the COVID-19 outbreak, I can sometimes feel my heart beating fast in the face of information about massive COVID-19. Frontiers in Psychology | www.frontiersin.org APPENDIX A Appendix A.1. Information Anxiety IA1: After the COVID-19 outbreak, I often feel fear in the face of information about massive COVID-19. IA2: After the COVID-19 outbreak, I get upset easily or feel panicky in the face of information about massive COVID-19. IA3: After the COVID-19 outbreak, I sometimes feel like I’m falling apart and going to pieces in the face of information about massive COVID-19. IA4: After the COVID-19 outbreak, I often feel anxious in the face of information about massive COVID-19. IA5: After the COVID-19 outbreak, I can sometimes feel my heart beating fast in the face of information about massive COVID-19. October 2021 | Volume 12 | Article 628342 Appendix A.3. Sustainable Consumption Attitude Appendix A.7. Purchase Behavior PB1: How often do you buy organic food in the organic food store or supermarket? PB2: How often do you buy organic food online? PB3: How often do you buy organic food on the community- group buying platform? SCA1: I think sustainable consumption is very important. SCA2: I am very interested in sustainable consumption. SCA3: I am very keen to search and read information about sustainable consumption. October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 16
https://openalex.org/W2346181352
https://europepmc.org/articles/pmc4858305?pdf=render
English
null
Damage Control Orthopedics Management as Vital Procedure in Elderly Patients with Femoral Neck Fractures Complicated with Chronic Renal Failure: A Retrospective Cohort Study
PloS one
2,016
cc-by
6,212
RESEARCH ARTICLE Methods In 32 patients with femoral neck fractures complicated with CRF, we evaluated how the tim- ing of the surgery determines the mortality rates if the DCO approach is applied. Preopera- tive ASA grading, POSSUM score, P-POSSUM score and DCO were carried out. Based on the assessment, timing of the surgery was ascertained. Copyright: © 2016 Dong et al. This is an open access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Editor: Chunfeng Zhao, Mayo Clinic Minnesota, UNITED STATES Editor: Chunfeng Zhao, Mayo Clinic Minnesota, UNITED STATES Received: March 7, 2016 Accepted: April 20, 2016 Published: May 5, 2016 Copyright: © 2016 Dong et al. This is an open access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. OPEN ACCESS Citation: Dong C, Wang Y, Wang Z, Wang Y, Wu S, Du Q, et al. (2016) Damage Control Orthopedics Management as Vital Procedure in Elderly Patients with Femoral Neck Fractures Complicated with Chronic Renal Failure: A Retrospective Cohort Study. PLoS ONE 11(5): e0154906. doi:10.1371/journal. pone.0154906 Damage Control Orthopedics Management as Vital Procedure in Elderly Patients with Femoral Neck Fractures Complicated with Chronic Renal Failure: A Retrospective Cohort Study a11111 Chenhui Dong, Yunjiao Wang, Ziming Wang, Yu Wang, Siyu Wu, Quanyin Du, Aimin Wang* Department of Orthopedics, Institute of Surgery Research, Daping Hospital, Third Military Medical University, Chongqing, 400042, China * trauma2@163.com * trauma2@163.com Background Chronic renal failure (CRF) predisposes to hip fractures in elderly patients, with high subse- quent mortality. Selection and timing of the surgical procedure of such patients is a serious challenge. Many clinicians believe in earlier surgery as preferable and providing better out- comes. Damage control orthopedics (DCO) aids to adjust and optimize the overall condition of patients. Femoral Neck Fractures Surgery in Elderly Patients with CRF Conclusion DCO, damage control orthopedics; ICU, intensive care unit. In patients with femoral neck fracture complicated with CRF, delaying the surgery for sev- eral days does not increase the incidence of postoperative adverse events. Results Of a total of 32 patients, twenty-nine patients were accepted for either early (< 48 hours; n = 18) or delayed (3–10 days; n = 10) surgery. Hip arthroplasty (total hip arthroplasty and hemi- arthroplasty) was the principal surgery option. All patients survived operation and were fol- lowed up postoperatively with the average time of 30 days. Postoperative complications tended to occur at higher rates in the early vs. delayed surgery group (7/18 vs. 5/10). During follow up, a total of 3 patients died in both groups (2/18 in the early surgery and 1/10 in the delayed surgery group), mostly from multi-organ failures and acute respiratory distress syn- drome. There was no significant difference in complication rates and Harris hip score between both groups. Data Availability Statement: Due to potentially identifying information, the data are available upon request from the authors. Funding: The authors have no support or funding to report. Competing Interests: The authors have declared that no competing interests exist. Competing Interests: The authors have declared that no competing interests exist. Abbreviations: ASA, American Society of Anesthesiologists; CKD, chronic kidney disease; Abbreviations: ASA, American Society of Anesthesiologists; CKD, chronic kidney disease; 1 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 Introduction Frailty and osteoporosis predispose the elderly patients to minor traumatic falls and hip frac- tures [1]. These fractures are especially frequent in patients with concomitant chronic organ failure [2–4], such as chronic renal failure, a chronic kidney disease (CKD) with diminished glomerular filtration rate. The decompensated period of chronic renal failure is accompanied by electrolyte and metabolic disorders, and multiple organ system dysfunctions [4]. Renal- related osteodystrophy predisposes to osteoporosis, osteomalacia and spontaneous fractures [5, 6]. Most hip fractures associated with chronic renal failure occur in the elderly. About one- third of these patients die within a year after the surgery, and about 75% of the deaths is related to comorbidities [7, 8]. The damage control theory was first proposed by Rotondo in 1993 [9] and was later applied to patients with serious multiple trauma. The objective of damage control orthopedics (DCO) is to avoid deterioration of patient’s clinical condition caused by the “second hit” of the surgical procedure. This is achieved by adjusting and optimizing the overall condition of patients, and, ultimately, selecting the appropriate timing of the surgery [10]. When patients with serious organ failures undergo trauma, systemic inflammatory responses response is instigated [11]. This response negatively affects the patient prognosis because of coagulation disorders, fluid and electrolyte disturbances, hypothermia, acidosis and shock. Therefore, there was no standardized treatment for elderly patients with femoral neck fracture accompanied with the end-stage CKD, and potential beneficial effect of DCO on patient prognosis were not well understood [12, 13]. Selection and timing of the surgical proce- dure and perioperative management of patients suffering from femoral neck fracture compli- cated with chronic renal failure poses a serious challenge to the surgeons. In this study, we treated 32 patients with femoral neck fractures complicated with chronic renal failure and evaluated how the timing of the surgery determines the mortality rates if DCO approach is applied. PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 Patient recuperation Patients in the CKD4 or higher stage underwent preparatory treatment before dialysis. Patients in exacerbation received hemodialysis therapy. Dialysis indications for patients with diabetic nephropathy can be relaxed [15]. All patients with dialysis indications underwent preoperative dialysis. An important criterion was that blood pressure before the first dialysis should be less than 130/80 mm Hg. Apart from the CKD treatment, other coexistent underlying diseases and metabolic disor- ders were also actively treated. Patients This study was approved by the Ethics Committee of Daping Hospital, Third Military Medical University. Each participants in the study provided written informed consent. All patients had femoral neck fractures and concomitant chronic renal failure. The study enrolment proceeded from January 2008 through December 2014. The inclusion criteria were the following: (i) hip fracture, (ii) chronic renal failure and renal dysfunction, (iii) complete medical records. The exclusion criteria were the following: (i) multiple (injury) fracture or open hip fracture, and (ii) incomplete medical records. Thirty-two patients were selected according to inclusion criteria. Thirty-two patients were selected according to inclusion criteria. Patient data were obtained in the Electronic Medical Records system of the Daping Hospital and Institute of Field Surgery. The surgery outcome was established by the outpatient follow-up. 2 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF Selection of optimal time for surgery and anesthesia We determined the surgery timing based on the following considerations. Early surgery was considered feasible in patients in good general condition and assessed preoperatively as at “low risk”. In contrast, the surgery was to be delayed in patients with multiple underlying diseases, and those in poor general condition and assessed to be at “high risk”. The latter patients were recommended to continue receiving recuperating treatment in order to increase the surgery tolerance. Specifically, based on published evidence [16–20] and own experience, the pre-surgery eval- uation was set as follows. If patient’s risk assessment yielded ASA grading of < III, POSSUM predicted morbidity rate of < 60%, and P-POSSUM predicted mortality rate of < 20%, then perioperative physical condition of the patient was assumed as sufficiently well, and early (i.e., within 48 hours) surgery was considered. If, however, the risk assessment yielded the levels higher than those above, the patients were thoroughly nursed and recuperated for 1 to 3 days. Following this, the patients underwent the second risk assessment. If the risk assessment fell under the aforementioned criteria (ASA < III, POSSUM < 60%, and P-POSSUM < 20%), the surgery was to be performed immediately. But if the risk was still higher than these criteria, the patients were to be nursed and recuperated for another 1 to 3 days. After the third risk assess- ment, the decision was made as to whether to continue with the surgical treatment or use con- servative treatment instead. Thereby, treatment and evaluation were implemented until the surgical risk was deemed acceptable. Furthermore, anesthesia methods were personalized and selected according to the physiological index of patients. Surgical risk evaluation integrating DCO Renal function was ascertained according to the CKD staging criteria [14]. Number, category and severity of underlying diseases were ascertained according to patient history, and physical and laboratory examinations. Furthermore, ASA grading, POSSUM and P-POSSUM score were utilized to assess the likelihood of postoperative complications (both the incidence and the risk of mortality thereof). Postoperative general treatment Patients who did not require dialysis could still be sent to the ICU for monitoring and potential treatments based on their intraoperative condition. Renal function and electrolytes were moni- tored, and fluid volume was strictly controlled after the surgery to prevent water and electrolyte disturbance. The patients were treated with regular analgesia, and ECG and other vital signs were monitored. The component transfusion could be done if required, according to the condi- tion of patients. Postoperative functional training Individualized rehabilitation exercise program was carried out after the surgery. Generally, active hip flexion and extension movement were practiced 3–5 days after the surgery but not too vigorously to prevent dislocation. The patients began to stand beside the bed with protec- tion and gradually practice walking with a rollator walker (or walking frame) 5–7 days after the surgery. Squatting was practiced with assistance starting from 3 months after the surgery. Fur- thermore, patients were instructed to be attentive and to prevent falls. Surgical procedure We selected the hip arthroplasty (i.e., total hip arthroplasty and hemiarthroplasty) as the prin- cipal surgery option. The rationale for this choice was the following. Our patients were senile, aged more than 60 years old, and mostly presented with hip osteoarthritis. Furthermore, they all had varying degrees of chronic renal failure. With the background of coexisting diseases, internal fixation might have led to complications (e.g., bone ununion, pressure sores, worsen- ing of renal function after the surgery). In addition, we wanted to avoid having to remove the internal fixation plate. In patients with chronic renal failure, the second surgical procedure for 3 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF removal the internal fixation plate might have been extremely dangerous, both because of sur- gery and anesthesia. Efficacy assessment Postoperative surgical efficacy of patients was evaluated as follows. The parameters included operative time, blood loss, hospital stay, perioperative complications, and mortality. Regular follow-up was implemented after discharge. The hip joint function was assessed using the Har- ris hip score, with the score of 90–100 assessed as “superior”, 80–90 as “good”, 70–79 as “toler- able”, and < 70 as “poor”. Postoperative dialysis treatment Patients with preoperative dialysis indications were sent to the ICU after the surgery for moni- toring and dialysis. Early and continuous dialysis treatment was implemented according to hemoglobin, albumin, electrolytes, urine output and nephrology statuses after the surgery. If patients had concomitant diabetes, dialysis could be advanced. The dialysis channel was pro- tected to prevent local hematoma and infection. Statistical analysis The SPSS version 19.0 (Chicago, IL, USA) was used for statistical analysis. Qualitative data were presented as rates and compared using either the chi-square or the Fisher exact test. Quantitative data were presented as mean ± SD and compared using the t test. The Kaplan- Meier curve analysis was used to compare survival rates in patients with different surgical tim- ing. The factors with the p < 0.05 were selected for the multivariate logistic regression analysis. Statistical significances were considered at the p < 0.05. Results We included 32 patients with hip fracture and concomitant chronic renal failure (Table 1). As described in the Materials and Methods, the patients underwent 1 to 3 risk assessments. Thereby, the number of patients who could tolerate the surgery reached 28. The other 4 patients had continuing signs of deterioration. Therefore, it was decided to replace the surgery 4 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF Table 1. Demographic and clinical characteristics of study patients. Characteristics Data Total number of patients 32 Age (years; mean ± SD) 72.38 ± 7.16 Female patients, number 15 Causes of injuries Slight fall, number 27 Pathologic fracture, number 5 CKD staging Stage 2, number 4 Stage 3, number 2 Stage 4, number 11 Stage 5, number 15 History of dialysis treatment Dialysis treatment applied, number 27 Without dialysis, number 5 Footnote: CKD, chronic kidney disease. doi:10.1371/journal.pone.0154906.t001 Table 1. Demographic and clinical characteristics of study patients. Characteristics Data Total number of patients 32 Age (years; mean ± SD) 72.38 ± 7.16 Female patients, number 15 Causes of injuries Slight fall, number 27 Pathologic fracture, number 5 CKD staging Stage 2, number 4 Stage 3, number 2 Stage 4, number 11 Stage 5, number 15 History of dialysis treatment Dialysis treatment applied, number 27 Without dialysis, number 5 Footnote: CKD, chronic kidney disease. doi:10.1371/journal.pone.0154906.t001 Table 1. Demographic and clinical characteristics of study patients. with non-surgical symptomatic and supportive treatment due to uncontrollable surgical risk. All 4 patients died within 30 days. As repeated risk assessment revealed, the surgical risk of patients who needed continuing recuperation was significantly higher than that of patients that could undergo the surgery with- out delays (p < 0.05, Table 2). Among 28 patients who underwent the surgery, there were 18 patients in whom the surgery was done within 48 hours. These patients comprised the early surgery group. Another 10 patients received the surgery in 3 to 10 days, and these patients comprised the delayed surgery group. There was no significant difference in age and gender between these two groups (Table 3). Table 2. Preoperative risk assessments. Table 2. Preoperative risk assessments. doi:10.1371/journal.pone.0154906.t002 Femoral Neck Fractures Surgery in Elderly Patients with CRF Table 3. First preoperative risk assessments. Table 3. First preoperative risk assessments. Table 3. First preoperative risk assessments. Early surgery group Delayed surgery group p Age (years, mean ± SD) 71.24± 6.52 73.8 ± 7.31 0.186 Female patients, number 10 5 0.174 Femoral neck fracture classification (number) Intra-capsular 15 8 0.875 Extra-capsular 3 2 0.886 CKD staging (mean ± SD) 3.67 ± 1.05 4.8 ± 0.4 0.002 Number of concomitant chronic diseases (mean ± SD) 4.82 ± 1.11 6.4± 1.96 0.038 POSSUM complication rate (%, mean ± SD) 62.09 ± 11.18 77.51 ± 8.85 0.001 P-POSSUM mortality rate (%, mean ± SD) 20.01 ± 9.03 30.26 ± 4.06 0.001 ASA grading, number grade I & II 5 2 0.768 grade III & IV 13 8 0.41 Footnote: CKD, chronic kidney disease doi:10.1371/journal.pone.0154906.t003 With regard to the femoral neck fracture classification, most patients in both groups had intra-capsular fractures. The number of concomitant diseases did not differ between groups. With regard to CKD staging, patient condition in the delayed surgery group was more severe than in the early surgery group (p < 0.05, Table 3). The surgical risk at the first assessment was also significantly higher in the former group (p = 0.002, Table 3). However, there was no signif- icant difference in the ASA grading (Table 3). The utilized surgical approaches were hemiarthroplasty (Fig 1) and total hip arthroplasty (Fig 2). The anesthesia approach was mainly nerve block anesthesia, used to a comparable extent in both groups. Furthermore, both groups were comparable with regard to operative time, intraoperative bleeding volume, and hospitalization time. The hospitalization time, the operative time and the intraoperative bleeding volume were no significantly difference between those two groups (Table 4). In both groups combined, 12 patients (37.5%) presented with postoperative morbidity. Specif- ically, in the early surgery group complications were in observed in 7/18 patients: 1 patients with gastrointestinal hemorrhages, 3 patients with respiratory failure, 2 patients with cardiovascular Fig 1. X-ray images of the right femoral neck fracture in a 72-year old male patient with chronic renal failure before and after hemiarthroplasty. (A) Preoperative imaging shows compression fractures on the femoral neck of the right hip and shortening deformity of the femoral neck. (B) Representative images taken 6 months after right femoral head arthroplasty. Results Assessment Number of patients POSSUM complication rate (%) P-POSSUM mortality rate (%) First assessment 32 Ready for surgery 8 51.01 ± 6.72** 11.61 ± 2.86* Continued to recuperate 24 78.07 ± 10.98 35.36 ± 16.57 Second assessment 24 Ready for surgery 17 58.2 ± 4.19** 17.04 ± 1.73** Continued to recuperate 7 83.65 ± 6.76 48.84 ± 12.87 Third assessment 7 Ready for surgery 3 61.77 ± 1.59* 18.73 ± 1.37** Conservative treatment 4 93.78 ± 1.91 63.59 ± 8.34 Footnote: Data are presented as mean ± SD. * p < 0.05; ** p < 0.01. The comparisons were between patients who underwent the first assessment vs patients who underwent the second assessment, and patients who underwent the third assessment vs patients who received non-surgical treatment. doi:10.1371/journal.pone.0154906.t002 Table 2. Preoperative risk assessments. Assessment Number of patients POSSUM complication rate (%) P-POSSUM mortality rate (%) First assessment 32 Ready for surgery 8 51.01 ± 6.72** 11.61 ± 2.86* Continued to recuperate 24 78.07 ± 10.98 35.36 ± 16.57 Second assessment 24 Ready for surgery 17 58.2 ± 4.19** 17.04 ± 1.73** Continued to recuperate 7 83.65 ± 6.76 48.84 ± 12.87 Third assessment 7 Ready for surgery 3 61.77 ± 1.59* 18.73 ± 1.37** Conservative treatment 4 93.78 ± 1.91 63.59 ± 8.34 Footnote: Data are presented as mean ± SD. * p < 0.05; ** p < 0.01. ** p < 0.01. The comparisons were between patients who underwent the first assessment vs patients who underwent the second assessment, and patients who underwent the third assessment vs patients who received non-surgical treatment. p < 0.01. The comparisons were between patients who underwent the first assessment vs patients who underwent the second assessment, and patients who underwent the third assessment vs patients who received non-surgical treatment. p The comparisons were between patients who underwent the first assessment vs patients who underwent the second assessment, and patients who underwent the third assessment vs patients who received non-surgical treatment. PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 5 / 12 doi:10.1371/journal.pone.0154906.g001 (C) At 24 months of follow-up, the prosthesis was in the correct position. On subsequent X-ray images, there were no further changes. Fig 1. X-ray images of the right femoral neck fracture in a 72-year old male patient with chronic renal failure before and after hemiarthroplasty. (A) Preoperative imaging shows compression fractures on the femoral neck of the right hip and shortening deformity of the femoral neck. (B) Representative images taken 6 months after right femoral head arthroplasty. (C) At 24 months of follow-up, the prosthesis was in the correct position. On subsequent X-ray images, there were no further changes. doi:10.1371/journal.pone.0154906.g001 6 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF Fig 2. X-ray images of the right femoral neck fracture in a 65-year-old male patient with chronic renal failure before and after total hip arthroplasty. (A) Preoperative imaging shows compression fractures on the femoral neck of the right hip. (B) Representative images of the right femoral head fracture in lateral projection. (C) Representative images taken 3 days after total hip arthroplasty. doi:10.1371/journal.pone.0154906.g002 Fig 2. X-ray images of the right femoral neck fracture in a 65-year-old male patient with chronic renal failure before and after total hip arthroplasty. (A) Preoperative imaging shows compression fractures on the femoral neck of the right hip. (B) Representative images of the right femoral head fracture in lateral projection. (C) Representative images taken 3 days after total hip arthroplasty. doi:10.1371/journal.pone.0154906.g002 doi:10.1371/journal.pone.0154906.g002 complication, and 1 patients with postoperatively congnitive deficit. In the delayed surgery group, there were complications in 5/10 patients: 1 patient with respiratory complication, 1 patient with arrhythmia, 1 patient with postoperatively congnitive deficit, and 2 patients with gastrointestinal hemorrhages. Within 30 days of follow up, 2/18 patients (11.12%) in the early surgery group died of seri- ous morbidity. Specifically, one patient died of multi-organ failures and 1 of acute respiratory distress syndrome. The delayed surgery group had two deaths (1/10; 10%) of multi-organs failures. There was no significant difference in complication rates and Harris hip score between both groups in the last follow up. The survival rates (Kaplan-Meier survival curves) in patients with or without surgical treatment are shown in Fig 3. Interestingly, postoperative morbidity and mortality rates in all patients were significantly lower than the rates predicted preoperatively by POSSUM and P-POSSUM scoring (p < 0.01). Discussion In this study, using DCO management, we evaluated how the timing of the surgery determines the mortality rates in patients with femoral neck fractures complicated with chronic renal failure. In this study, using DCO management, we evaluated how the timing of the surgery determines the mortality rates in patients with femoral neck fractures complicated with chronic renal failure. Based on laboratory examinations, combined POSSUM and P-POSSUM scores, and ASA classification, detailed preoperative risk assessment was conducted. Underlying diseases and Based on laboratory examinations, combined POSSUM and P-POSSUM scores, and ASA classification, detailed preoperative risk assessment was conducted. Underlying diseases and Table 4. Surgery parameters. Table 4. Surgery parameters. Early surgery group Delayed surgery group p Surgery procedures (number) 18 10 Femoral head arthroplasty 11 9 0.986 Total hip arthroplasty 7 1 0.976 Bleeding volume (ml, mean ± SD) 463.89 ± 270.7 435 ± 251.05 0.396 Type of anesthesia (number) General 3 2 0.381 Spinal 3 2 0.084 Nerve block 12 6 0.093 Length of surgery (min, mean ± SD) 104.45 ± 11.65 110.5 ± 14.91 0.131 Length of hospital stays (days, mean ± SD) 20.83 ± 5.08 22.3 ± 5.66 0.252 Harris hip score (last follow-up) 89.06± 5.12 87.7 ± 5.18 0.262 d i 10 1371/j l 0154906 t004 Table 4. Surgery parameters. Early surgery group Delayed surgery group p Surgery procedures (number) 18 10 Femoral head arthroplasty 11 9 0.986 Total hip arthroplasty 7 1 0.976 Bleeding volume (ml, mean ± SD) 463.89 ± 270.7 435 ± 251.05 0.396 Type of anesthesia (number) General 3 2 0.381 Spinal 3 2 0.084 Nerve block 12 6 0.093 Length of surgery (min, mean ± SD) 104.45 ± 11.65 110.5 ± 14.91 0.131 Length of hospital stays (days, mean ± SD) 20.83 ± 5.08 22.3 ± 5.66 0.252 Harris hip score (last follow-up) 89.06± 5.12 87.7 ± 5.18 0.262 doi:10.1371/journal.pone.0154906.t004 PLOS ONE | DOI 10 1371/jo rnal pone 0154906 Ma 5 2016 7 / 12 p PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 7 / 12 Femoral Neck Fractures Surgery in Elderly Patients with CRF Fig 3. The Kaplan-Meier survival curves analysis in patients with or without surgical treatment. Survival curves in 32 study patients. Based on surgical risk assessment, 28 patients were selected for surgical treatment. The remaining 4 patients could not undergo the surgery and dead within 30 days. PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 Discussion Furthermore, mortality rates in the early surgery group were equal with the delayed surgery group. doi:10.1371/journal.pone.0154906.g003 Fig 3. The Kaplan-Meier survival curves analysis in patients with or without surgical treatment. Survival curves in 32 study patients. Based on surgical risk assessment, 28 patients were selected for surgical treatment. The remaining 4 patients could not undergo the surgery and dead within 30 days. Furthermore, mortality rates in the early surgery group were equal with the delayed surgery group. doi:10.1371/journal.pone.0154906.g003 doi:10.1371/journal.pone.0154906.g003 doi:10.1371/journal.pone.0154906.g003 physiological disorders were addressed. Individual operation program development was car- ried out simultaneously with the step-by-step assessment. Surgical timing was determined based on assessment results. Patients suffering from CKD at the Stage 2 and 3 were treated with conventional perioperative management. Patients suffering from CKD at the Stage 4 and above were treated with dialysis prior to and postoperatively to reduce the risk of perioperative complications. In the past, earlier surgery was considered as preferable and providing better outcomes. This was because of reports showing that delaying the surgery by more than 48 hours in the elderly hip fracture patients led to increase in post-surgery mortality rates [21]. Thus, Uzoigwe et al. [22] reported that delaying surgery increased mortality in hospitalized patients, whereas mor- tality of patients treated with early surgery was less. However, this was disputed by Leung et al. [23] who did not confirm that early surgery reduces mortality rates. Others even found that early surgery may increase postoperative mortality in patients in adverse physical condition [24]. Postponing surgery has a minor impact on postoperative mortality, but may increase the incidence of postoperative morbidity and complication [25, 26]. It is thus important to find a balance between patient’s physical condition and surgery timing. This requires a comprehensive preoperative risk assessment, damage control surgery and an experienced clinical team [27, 28]. Importantly the DCO approach diminishes the complication and mortality rates to the Importantly, the DCO approach diminishes the complication and mortality rates to the rates significantly lower than preoperatively expected. Furthermore, using the DCO approach, delaying the surgery to up to 10 days did not adversely affect the outcome. 8 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF Fig 4. Chest X-ray images of a 72-year old male patient with femoral neck fracture complicated with chronic renal failure. (A) Frontal projection. (B) Lateral projection. doi:10.1371/journal.pone.0154906.g004 Fig 4. PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 Discussion Chest X-ray images of a 72-year old male patient with femoral neck fracture complicated with chronic renal failure. (A) Frontal projection. (B) Lateral projection. doi:10.1371/journal.pone.0154906.g004 doi:10.1371/journal.pone.0154906.g004 In our patients, we mostly used continuous epidural anesthesia. Greater volatility of hemo- dynamics may easily be caused during anesthesia in elderly patients. Furthermore, since antic- oagulation therapy is required perioperatively, the risk of postoperative epidural hematomas will rise. It has been reported that in patients received postoperative nerve block anesthesia, the 30-day deep vein thrombosis, postoperative delirium incidence and mortality rates were lower compared with other anesthesia methods [29, 30]. In our patients, the nerve block anesthesia was the first choice. To check for complications of anesthesia, we used a standard neutral posi- tion of chest X-ray images (Fig 4). Potential surgical procedures for femoral neck fracture include total hip arthroplasty, hemi- arthroplasty and internal fixation. Geiger et al. [31] demonstrated that in elderly patients, the hemiarthroplasty had more pronounced positive effect than internal fixation. Although there are few reports on bone cement prosthesis leading to a higher occurrence of cardiovascular complications, there have been more studies reporting that the cemented prosthesis had more advantages compared with the uncemented prosthesis [32–34]. Compared with total hip arthroplasty and hemiarthroplasty, hemiarthroplasty has shorter surgical time, less blood loss, and smaller surgical stress and stimulation to patients. Our experience was as follows. For patients older than 65 years old and femoral neck fractures, the hip arthroplasty was the first choice. For patients in good physical condition and with extensive pre-injury activity, total hip arthroplasty should be used. In physically weak patients with poor pre-injury activity of daily living, hemiarthroplasty was a viable option. For intertrochanteric fracture, internal fixation treatment was the preferred selection. In case of hip osteoarthritis, organ failures, or hard to tolerate second surgical procedure, joint arthroplasty could be considered instead. Limitations of this study were the following. The first limitation is the retrospective nature of the study. Second, patient numbers were low, and there was some patient heterogeneity due to treatment of underlying diseases, physiological disorders, surgical approaches to different fractures, and some variation in anesthesia approaches. These confounders could not be PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 9 / 12 Femoral Neck Fractures Surgery in Elderly Patients with CRF eliminated. References 1. Liu LK, Lee WJ, Chen LY, Hwang AC, Lin MH, Peng LN, et al. Association between frailty, osteoporo- sis, falls and hip fractures among community-dwelling people aged 50 years and older in Taiwan: results from I-Lan longitudinal aging study. PLoS One. 2015; 10(9):e0136968. doi: 10.1371/journal. pone.0136968 PMID: 26348034; PubMed Central PMCID: PMC4562637. 1. Liu LK, Lee WJ, Chen LY, Hwang AC, Lin MH, Peng LN, et al. Association between frailty, osteoporo- sis, falls and hip fractures among community-dwelling people aged 50 years and older in Taiwan: results from I-Lan longitudinal aging study. PLoS One. 2015; 10(9):e0136968. doi: 10.1371/journal. pone.0136968 PMID: 26348034; PubMed Central PMCID: PMC4562637. 2. Giannoudis PV, Harwood PJ, Court-Brown C, Pape HC. Severe and multiple trauma in older patients; incidence and mortality. Injury. 2009; 40(4):362–7. doi: 10.1016/j.injury.2008.10.016 PMID: 19217104. 2. Giannoudis PV, Harwood PJ, Court-Brown C, Pape HC. Severe and multiple trauma in older patients; incidence and mortality. Injury. 2009; 40(4):362–7. doi: 10.1016/j.injury.2008.10.016 PMID: 19217104. 3. Lizaur-Utrilla A, Serna-Berna R, Lopez-Prats FA, Gil-Guillen V. Early rehospitalization after hip fracture in elderly patients: risk factors and prognosis. Arch Orthop Trauma Surg. 2015; 135(12):1663–7. doi: 10.1007/s00402-015-2328-1 PMID: 26377732. 3. Lizaur-Utrilla A, Serna-Berna R, Lopez-Prats FA, Gil-Guillen V. Early rehospitalization after hip fracture in elderly patients: risk factors and prognosis. Arch Orthop Trauma Surg. 2015; 135(12):1663–7. doi: 10.1007/s00402-015-2328-1 PMID: 26377732. 4. Leonard MB. A structural approach to skeletal fragility in chronic kidney disease. Semin Nephrol. 2009; 29(2):133–43. doi: 10.1016/j.semnephrol.2009.01.006 PMID: 19371804; PubMed Central PMCID: PMC2705768. 4. Leonard MB. A structural approach to skeletal fragility in chronic kidney disease. Semin Nephrol. 2009; 29(2):133–43. doi: 10.1016/j.semnephrol.2009.01.006 PMID: 19371804; PubMed Central PMCID: PMC2705768. 5. Garcia FL, Dalio RB, Sugo AT, Picado CH. Bilateral spontaneous fracturing of the femoral neck in a patient with renal osteodystrophy. Rev Bras Ortop. 2014; 49(5):540–2. doi: 10.1016/j.rboe.2014.07.004 PMID: 26229859; PubMed Central PMCID: PMC4487429. 6. Lin CJ, Wu V, Wu PC, Wu CJ. Meta-analysis of the associations of p-cresyl sulfate (PCS) and indoxyl sulfate (IS) with cardiovascular events and all-cause mortality in patients with chronic renal failure. PLoS One. 2015; 10(7):e0132589. doi: 10.1371/journal.pone.0132589 PMID: 26173073; PubMed Central PMCID: PMC4501756. 7. Katz AI, Hampers CL, Merrill JP. Secondary hyperparathyroidism and renal osteodystrophy in chronic renal failure. Analysis of 195 patients, with observations on the effects of chronic dialysis, kidney trans- plantation and subtotal parathyroidectomy. Medicine (Baltimore). 1969; 48(5):333–74. PMID: 4909606. 8. Casey M, Walsh B. Discussion Third, the usefulness of the DCO approach to treat the femoral neck fracture in patients with concomitant chronic renal failure were proved only by postoperative complica- tion rates, mortality rates, and Harris scores. Fourth, the long-term effect of the suggested sur- gical approach requires further verification. Author Contributions Conceived and designed the experiments: CD SW YuW AW. Performed the experiments: CD ZW QD. Analyzed the data: CD YjW SW YuW. Contributed reagents/materials/analysis tools: CD ZW QD. Wrote the paper: CD AW. Manuscript revision review: CD AW. Conclusions In summary, using the DCO approach, the surgical treatment for femoral neck fracture in patients complicated with chronic renal failure is an effective and relatively safe treatment option. Increased POSSUM predicted morbidity rate, P-POSSUM predicted mortality rate and serious co-morbidities are associated with adverse outcomes. Following sequential assessment of surgical risk, postoperative mortality rates are significantly reduced. Delaying the surgery for several days, if needed, does not increase the incidence of postoperative adverse events. PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 References Michel JP, Klopfenstein C, Hoffmeyer P, Stern R, Grab B. Hip fracture surgery: is the pre-operative American Society of Anesthesiologists (ASA) score a predictor of functional outcome? Aging Clin Exp Res. 2002; 14(5):389–94. Epub 2003/02/27. PMID: 12602574. 20. Wang TJ, Zhang BH, Gu GS. Evaluation of POSSUM scoring system in the treatment of osteoporotic frac- ture of the hip in elder patients. Chin J Traumatol. 2008; 11(2):89–93. Epub 2008/04/02. PMID: 18377711. 21. Vidal E, Moreira-Filho D, Pinheiro R, Souza RC, Almeida L, Camargo K Jr., et al. Delay from fracture to hospital admission: a new risk factor for hip fracture mortality? Osteoporos Int. 2012; 23(12):2847–53. doi: 10.1007/s00198-012-1917-x PMID: 22297734. 22. Uzoigwe CE, Burnand HG, Cheesman CL, Aghedo DO, Faizi M, Middleton RG. Early and ultra-early surgery in hip fracture patients improves survival. Injury. 2013; 44(6):726–9. doi: 10.1016/j.injury.2012. 08.025 PMID: 23010072. 23. Leung F, Lau TW, Kwan K, Chow SP, Kung AW. Does timing of surgery matter in fragility hip fractures? Osteoporos Int. 2010; 21(Suppl 4):S529–34. doi: 10.1007/s00198-010-1391-2 PMID: 21057992; PubMed Central PMCID: PMC2974918. 24. Kim SM, Moon YW, Lim SJ, Yoon BK, Min YK, Lee DY, et al. Prediction of survival, second fracture, and functional recovery following the first hip fracture surgery in elderly patients. Bone. 2012; 50 (6):1343–50. doi: 10.1016/j.bone.2012.02.633 PMID: 22421579. 25. Simunovic N, Devereaux PJ, Sprague S, Guyatt GH, Schemitsch E, Debeer J, et al. Effect of early sur- gery after hip fracture on mortality and complications: systematic review and meta-analysis. CMAJ. 2010; 182(15):1609–16. doi: 10.1503/cmaj.092220 PMID: 20837683; PubMed Central PMCID: PMC2952007. 26. Pedersen SJ, Borgbjerg FM, Schousboe B, Pedersen BD, Jorgensen HL, Duus BR, et al. A compre- hensive hip fracture program reduces complication rates and mortality. J Am Geriatr Soc. 2008; 56 (10):1831–8. doi: 10.1111/j.1532-5415.2008.01945.x PMID: 19054201. 27. Roche JJ, Wenn RT, Sahota O, Moran CG. Effect of comorbidities and postoperative complications on mortality after hip fracture in elderly people: prospective observational cohort study. BMJ. 2005; 331(7529):1374. doi: 10.1136/bmj.38643.663843.55 PMID: 16299013; PubMed Central PMCID: PMC1309645. 28. Weller I, Wai EK, Jaglal S, Kreder HJ. The effect of hospital type and surgical delay on mortality after surgery for hip fracture. J Bone Joint Surg Br. 2005; 87(3):361–6. PMID: 15773647. 29. Parker MJ, Handoll HH, Griffiths R. Anaesthesia for hip fracture surgery in adults. Cochrane Database Syst Rev. 2004; (4):CD000521. doi: 10.1002/14651858.CD000521.pub2 PMID: 15494999. 30. Liu SS, Wu CL. References Chronic renal failure in hip fracture patients. Osteoporos Int. 2004; 15(5):420; author reply 1. doi: 10.1007/s00198-003-1575-0 PMID: 15052378. 9. Rotondo MF, Schwab CW, McGonigal MD, Phillips GR 3rd, Fruchterman TM, Kauder DR, et al. 'Dam- age control': an approach for improved survival in exsanguinating penetrating abdominal injury. J Trauma. 1993; 35(3):375–82; discussion 82–3. Epub 1993/09/01. PMID: 8371295. 10. Roberts CS, Pape HC, Jones AL, Malkani AL, Rodriguez JL, Giannoudis PV. Damage control ortho- paedics: evolving concepts in the treatment of patients who have sustained orthopaedic trauma. Instr Course Lect. 2005; 54:447–62. PMID: 15948472. 11. Papathanasopoulos A, Nikolaou V, Petsatodis G, Giannoudis PV. Multiple trauma: an ongoing evolu- tion of treatment modalities? Injury. 2009; 40(2):115–9. doi: 10.1016/j.injury.2008.09.002 PMID: 19128800. 10 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF 12. Tseng CH, Huang WS, Li TC, Chen HJ, Muo CH, Kao CH. Increased risk of end-stage renal disease among hip fracture patients. Eur J Intern Med. 2014; 25(10):956–61. doi: 10.1016/j.ejim.2014.10.017 PMID: 25468738. 13. Waibel BH, Rotondo MM. Damage control surgery: it's evolution over the last 20 years. Rev Col Bras Cir. 2012; 39(4):314–21. PMID: 22936231. 14. Nickolas TL, Stein E, Cohen A, Thomas V, Staron RB, McMahon DJ, et al. Bone mass and microarchi- tecture in CKD patients with fracture. J Am Soc Nephrol. 2010; 21(8):1371–80. Epub 2010/04/17. doi: 10.1681/asn.2009121208 PMID: 20395370; PubMed Central PMCID: PMCPMC2938588. 15. Zafeiropoulou K, Bita T, Polykratis A, Karabina S, Vlachojannis J, Katsoris P. Hemodialysis removes uremic toxins that alter the biological actions of endothelial cells. PLoS One. 2012; 7(2):e30975. doi: 10.1371/journal.pone.0030975 PMID: 22383985; PubMed Central PMCID: PMC3284471. 16. Bonicoli E, Parchi P, Piolanti N, Andreani L, Niccolai F, Lisanti M. Comparison of the POSSUM score and P-POSSUM score in patients with femoral neck fracture. Musculoskelet Surg. 2014; 98(3):201–4. Epub 2013/07/31. doi: 10.1007/s12306-013-0294-8 PMID: 23893526. 17. Liu Y, Peng M, Lin L, Liu X, Qin Y, Hou X. Relationship between American Society of Anesthesiologists (ASA) grade and 1-year mortality in nonagenarians undergoing hip fracture surgery. Osteoporos Int. 2015; 26(3):1029–33. Epub 2014/10/11. doi: 10.1007/s00198-014-2931-y PMID: 25300530. 18. Messina A, Frassanito L, Colombo D, Vergari A, Draisci G, Della Corte F, et al. Hemodynamic changes associated with spinal and general anesthesia for hip fracture surgery in severe ASA III elderly popula- tion: a pilot trial. Minerva Anestesiol. 2013; 79(9):1021–9. Epub 2013/05/03. PMID: 23635998. 19. PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 32. Takakura Y, Tanaka Y, Sugimoto K, Tamai S, Masuhara K. Ankle arthroplasty. A comparative study of cemented metal and uncemented ceramic prostheses. Clin Orthop Relat Res. 1990; (252):209–16. PMID: 2302887. 33. Kim KJ, Rubash HE, Wilson SC, D'Antonio JA, McClain EJ. A histologic and biochemical comparison of the interface tissues in cementless and cemented hip prostheses. Clin Orthop Relat Res. 1993; (287):142–52. PMID: 8448933. 34. Gjertsen JE, Lie SA, Vinje T, Engesaeter LB, Hallan G, Matre K, et al. More re-operations after unce- mented than cemented hemiarthroplasty used in the treatment of displaced fractures of the femoral neck: an observational study of 11,116 hemiarthroplasties from a national register. J Bone Joint Surg Br. 2012; 94(8):1113–9. doi: 10.1302/0301-620X.94B8.29155 PMID: 22844055. PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 References Effect of postoperative analgesia on major postoperative complications: a systematic update of the evidence. Anesth Analg. 2007; 104(3):689–702. doi: 10.1213/01.ane.0000255040. 71600.41 PMID: 17312231. 31. Geiger F, Zimmermann-Stenzel M, Heisel C, Lehner B, Daecke W. Trochanteric fractures in the elderly: the influence of primary hip arthroplasty on 1-year mortality. Arch Orthop Trauma Surg. 2007; 127 (10):959–66. doi: 10.1007/s00402-007-0423-7 PMID: 17899138; PubMed Central PMCID: PMC2111040. PLOS ONE | DOI:10.1371/journal.pone.0154906 May 5, 2016 11 / 12 Femoral Neck Fractures Surgery in Elderly Patients with CRF 12 / 12
https://openalex.org/W4200045405
https://www.researchsquare.com/article/rs-1049518/latest.pdf
English
null
Melatonin and its-Remodeled Fecal Microbiota Improve Gut Health Through Inhibiting Oxidative Stress, Autophagy and Inflammation
Research Square (Research Square)
2,021
cc-by
12,502
Melatonin and its-Remodeled Fecal Microbiota Improve Gut Health Through Inhibiting Oxidative Stress, Autophagy and Inflammation Wenlong Yong  Northwest A&F University Chenyang Wang  Northwest A&F University License:   This work is licensed under a Creative Commons Attribution 4.0 International License.   Read Full License License:   This work is licensed under a Creative Commons Attribution 4.0 International License. Results Here, compared with the control group, melatonin and FMT increased intestinal villus height/crypt depth (V/C), inhibited gut oxidative stress, autophagy and inflammation in antenatal and perinatal rats. Likewise, not only melatonin and FMT, but also FC enhanced intestinal V/C through above parallel ways with decreasing intestinal permeability in early weaned rats. Mechanically, melatonin directly strengthened antioxidation, attenuated autophagy and apoptosis in H2O2-induced IEC6 intestinal epithelial cells. Furthermore, melatonin, FMT and FC reprogrammed intestinal microbiota in which more beneficial microbiota, including Allobaculum, Bifidobacterium and Faecalibaculum produced more metabolic short-chain fatty acids (SCFAs) including acetic acid and butyric acid to protect gut health. Most interestingly, compared with the control group, early weaned rats may get above probiotics via eating or licking the dung of the co-cage rats treated with melatonin in the FC group. Research Page 1/30 License:   This work is licensed under a Creative Commons Attribution 4.0 International License. Read Full License License:   This work is licensed under a Creative Commons Attribution 4.0 International License. Read Full License Page 2/30 Background Gut health is involved in the nutrition absorption, reproduction and lactation in antenatal, perinatal and early weaned mammals. Recent literatures have demonstrated that melatonin functions in aging, cancer and obesity, but to date, few investigations toward exploring whether melatonin-reprogrammed fecal microbiota transplantation (FMT) and foster care (FC) affect gut health have been performed. Conclusions Overall, melatonin, FMT and FC improved gut health and the potential regulatory mechanism was associated with strengthening antioxidation, suppressing autophagy, inflammatory and apoptosis, as well as producing more SCFAs from reprogrammed gut microbiota. These findings suggest that melatonin, FMT and FC may be novel and effective methods to ameliorate gut health in antenatal, perinatal and weaned mammals. Background The gut health which directly determines nutrition absorption is vital to animal growth and development [1]. There is a high incidence of intestinal diseases worldwide, because characteristics of these diseases are long course chronicity and recurrent attacks which make them more difficult to treat. Therefore, intestinal diseases have been surpassing some chronic diseases, including diabetes and cardiovascular diseases, and has become the most important global public health concern today. Gut microbiota plays a central role in the pathogenesis of these diseases as it mediates environmental changes to the intestinal immune system [2]. Further exploration of the composition and function of the gut microbiota and the potential for its manipulation to cure disease is an area of rapid growth and great promise. Therefore, gut Page 3/30 microbiota is implicated in mammalian gut health and remodeling healthy intestinal microbiota is beneficial to sick animal in gut microbiota dysbiosis. The mammalian gut microbiota is composed of trillions of microbes that especially facilitate host gut health and prevent diarrhea, inflammatory bowel disease and irritable bowel syndrome [3, 4]. The gut microbiota is now considered an important partner of human and animal cells, interacting with virtually all cells [2]. In fact, there are numerous metabolites including short-chain fatty acids (SCFAs), secondary bile acids, indoleacrylic acid, skatole, tryptamine and histamine produced by gut microbiome that can influence mammal metabolism [5–9]. Increasing literatures indicates that the changes in gut microbiota composition are associated with intestinal diseases, obesity and its associated metabolic disorders [10– 12]. Both baseline microbiota and microbial richness were inversely associated with insulin resistance and diarrhea [3, 13]. Interestingly, fecal microbiota transplantation (FMT) is an important method for establishing or remodeling functional gut microbiota to improve gut health or cure diseases, such as diarrhea and obesity [3, 14]. Moreover, the early weaned animals maintained intestinal health possibly through reprogrammed gut microbiota via eating or licking the dung from healthy adult animals. Therefore, foster care (FC) or co-cage feeding may be a novel promising method for establishing or reprogramming functional gut microbiota to ameliorate intestinal health. The use of probiotics and prebiotics which can replace antibotics is increasing in popularity for both the prevention and treatment of a variety of gut diseases [15]. Within this space, there is much to learn, and novel gut microbial therapeutics are likely to rapidly evolve over the next decade. Background Based on above analysis, finding probiotics and prebiotics alternatives to prevent gastrointestinal disorders is crucial for gut health in animal and human. Melatonin, as a high effective antioxidant, is the most versatile and ubiquitous hormonal molecule produced not only in the pineal gland, but also in various other tissues of mammal, particularly in the gastrointestinal tract [16]. Moreover, it plays a vital role in the regulation of other hormones to maintain the circadian rhythm, and prevent obesity, neurodegenerative diseases and viral infection [17–20]. Recently, increasing literatures have shown that melatonin is implicated in antioxidation, autophagy and inflammation which drives the gut microbiota [14, 21, 22]. However, few clinical or experimental studies evaluated the effects and regulatory mechanism of melatonin, its- remodeled FMT and FC on gut health in antenatal, perinatal and early weaned animals. Herein, we investigated the effect and underlying mechanism of melatonin, FMT and FC on gut health in antenatal, perinatal female rats and early weaned rats. Our results indicated that melatonin, FMT and FC ameliorated gut health and revealed that the potential regulatory mechanism was associated with enhancing antioxidation and suppressing autophagy, inflammatory and apoptosis, as well as producing more SCFAs from reprogramming gut microbiota. These findings suggested that not only melatonin and its-remodeled FMT, but also FC could be new effective methods for gut disorders caused by oxidative stress to improve mammalian intestinal health. Melatonin and FMT improve gut health by increasing intestinal villus height/crypt depth and enhancing antioxidation in antenatal and perinatal rats Melatonin and FMT improve gut health by increasing intestinal villus height/crypt depth and enhancing antioxidation in antenatal and perinatal rats Gut health in antenatal and perinatal animals, which is affected by intestinal oxidative stress and microbiota, is implicated in their nutrition absorption, reproduction and lactation. To investigate the effects of melatonin and melatonin-remodeled FMT on guts, antenatal and perinatal female rats were treated with melatonin and FMT, respectively. The timeline of treatments and sample collection in this study (Fig. 1A). The results showed that the villus height/crypt depth (V/C) of duodenum, jejunum and ileum apparently increased, but colon V/C did not change on antenatal day 5 (A5) and perinatal day 3 (P3) rats (Fig. 1B-F). It was similar to that of the villus height (Supplementary Fig. 1A-D). Additionally, crypt depths of duodenum, jejunum, ileum and colon tended to increase, but not reach statistical significance (Supplementary Fig. 1E-H). Melatonin actions in reducing ulcer formation seemingly to directly scavenge toxic oxygen-based reactants and possibly to promote antioxidative enzyme activities. Here, we found that both melatonin and FMT markedly decreased ROS production of intestinal tissue on A5 and P3 rats (Fig. 1G and H), meanwhile reduced the levels of T-AOC and MDA (Fig. 1I and J). Compared with control group, melatonin upregulated the protein levels of GPx5, SOD1, SOD2 and CAT in intestinal tissues of A5 and P3 rats, and FMT increased the levels of above proteins in gut tissues of P3 rats (Fig. 1K-O). Interestingly, FMT added the protein levels of SOD1 and SOD2 (Fig. 1M and N), but did not change that of GPx5 and CAT in intestinal tissues of A5 rats (Fig. 1L and O). Taken together, melatonin and FMT improved gut health by increasing the intestinal V/C and enhancing antioxidation in antenatal and perinatal rats. Results Page 4/30 The intestinal health of antenatal and perinatal animals and their cubs is implicated in reproduction, lactation and mortality rate. However, few clinical or experimental studies evaluated the effects and regulatory mechanism of melatonin, its-remodeled fecal microbiota and FC or co-cage feeding on mammalian gut health. For this reason, we systematically investigated the effect and underlying mechanism of melatonin, FMT and FC on gut health in antenatal, perinatal female rats and early weaned rats. In this study, the results were divided into four parts: (1) melatonin and its-remodeled FMT improve gut health in antenatal and perinatal rats; (2) melatonin, FMT and FC ameliorate gut health in early weaned rats; (3) melatonin attenuates oxidative stress, autophagy and apoptosis in H2O2-induced rat intestinal epithelial cell 6 (IEC-6); (4) melatonin, FMT and FC improve gut health by increasing short‐chain fatty acids (SCFAs) produced by remodel gut microbiota mainly including Allobaculum, Bifidobacterium and Faecalibaculum. Part 1. Melatonin and FMT improve gut health in antenatal and perinatal rats Melatonin and FMT inhibit intestinal autophagy and inflammation Melatonin and FMT markedly restrained gut autophagy through reducing cellular autophagic vacuoles (Fig. 2A and B), downregulated the protein levels of LC3B-I, LC3B-II, ATG7 and BECN1, whereas upregulated the protein levels of P62 (Fig. 2C-I). Additionally, the intestinal epithelial monolayer plays an Page 5/30 Page 5/30 Page 5/30 important role in the development of inflammatory bowel disease, particularly as a target and producer o TNF [27]. Our results indicated that melatonin and FMT significantly inhibited gut inflammatory (Fig. 2J), decreased the contents of TNFα, IL-1β, IL-6 and IL-10 (Fig. 2K-N). Likewise, melatonin and FMT upregulated the protein levels of HSP72, but downregulated the protein levels of NF-κB (Fig. 2O-Q). Therefore, melatonin and FMT attenuate autophagy and inflammation to protect gut in antenatal and perinatal rats. Part 2. Melatonin, FMT and FC ameliorate gut health in early weaned rats Melatonin, FMT and FC increase intestinal V/C to ameliorate gut health by enhancing antioxidation in early weaned rats Melatonin, FMT and FC increase intestinal V/C to ameliorate gut health by enhancing antioxidation in early weaned rats Gut health of early weaned animals is beneficial to absorb nutrition for adapting new food condition and decreasing mortality. To detect the effect of melatonin, FMT and FC on intestine of early weaned rats, rats were treated with melatonin, FMT and FC, respectively. In this study, the timeline of treatments and sample collection (Fig. 1A). The results showed that the V/C were increased on the day 3 after weaning (Fig. 3B-F). Likewise, the villus heights of duodenum, jejunum, ileum and colon significantly increased (Supplementary Fig. 2A-D), whereas the crypt depths did not change (Supplementary Fig. 2E-H). Moreover, melatonin, FMT and FC apparently decreased ROS production of intestinal tissues on day 3 after weaning (Fig. 3G and H), meanwhile reduced the contents of TAOC and MDA (Fig. 3I and J), and upregulated the protein levels of GPX5, SOD1, SOD2 and CAT in gut tissues (Fig. 3K-O). Although FC also ameliorated gut antioxidation, its effect was not well as that of melatonin and FMT. Herein, melatonin, FMT and FC increased intestinal V/C to ameliorate gut health by inhibiting oxidative stress in early weaned rats. Melatonin, FMT and FC suppress autophagy and inflammation and reduce intestinal permeability To further reveal the regulatory mechanism of melatonin, FMT and FC in gut health in early weaned rats, we investigated inflammation, autophagy and permeability of gut tissue. The results showed that melatonin, FMT and FC markedly restrained gut autophagy (Fig. 4A and B), downregulated the protein levels of LC3B-I, LC3B-II, ATG7 and BECN1, whereas upregulated the protein levels of P62 (Fig. 4C-I). Furthermore, melatonin, FMT and FC significantly inhibited gut inflammatory (Fig. 4J), decreased the contents of TNFα, IL-1β IL-6 and IL-10 (Fig. 4K-N). Meanwhile, melatonin, FMT and FC upregulated the protein levels of HSP72 (Fig. 4O and P), but downregulated the protein levels of NF-κB (Fig. 4O and Q). Interestingly, melatonin, FMT and FC reduced intestinal permeability (Fig. 5A) through increasing tight junction protein (Fig. 5B) and the protein levels of ZO-1, Occludin and Claudin in gut tissue (Fig. 5C-F). In summary, melatonin, FMT and FC attenuated inflammation and autophagy, and reduced intestinal permeability to improve gut health in early weaned rats. Part 3. Melatonin directly enhances antioxidation and attenuates autophagy and apoptosis in H2O2- induced IEC6 Page 6/30 Oxidative stress damages intestinal epithelial cells and causes cell autophagy [28]. IEC6 treated with H2O2 can well mimic impairment of intestinal epithelial cells. To uncover how melatonin regulates antioxidation and autophagy, we performed the experiments of IEC6 treated with H2O2 and melatonin. The experiment was performed to reveal the effect of Mel on anti-oxidation, anti-autophagy and anti- apoptosis in IEC6 cells (Fig. 6A). The results showed that H2O2 induced oxidation and autophagy in a dose- and time-dependent manner in IEC6 (Fig. 6B; Supplementary Fig. 3A and B), downregulated the protein expression levels of SOD1, SOD2, GPX5, CAT and P62, but upregulated the protein expression levels of LC3B-I, LC3B-II, BECN1 and ATG7 (Supplementary Fig. 3C-L). Moreover, melatonin apparently suppressed ROS production and strengthened antioxidation in H2O2-induced IEC6 (Fig. 6B), meanwhile restored the protein expression levels of P62, SOD1, SOD2, GPX5 and CAT (Fig. 6C-G). Interestingly, melatonin inhibited autophagy and rescued cell viability in H2O2-induced IEC6 (Fig. 6H-J). Meanwhile, melatonin decreased the LC3B-II/ LC3B-I and upregulated the protein expression level of P62 in H2O2- induced IEC6 (Fig. 6K-M). Based on the results, melatonin attenuated autophagy caused by H2O2 throug a reduction in an excessive oxidative stress. Oxidative stress damages intestinal epithelial cells and causes cell autophagy [28]. IEC6 treated with H2O2 can well mimic impairment of intestinal epithelial cells. To uncover how melatonin regulates antioxidation and autophagy, we performed the experiments of IEC6 treated with H2O2 and melatonin. Apoptosis of intestinal epithelial cells following oxidative stress is involved in the pathogenesis of various gastrointestinal diseases [29]. We therefore investigated the mechanism on melatonin modulating apoptosis of IEC6. The results indicated that H2O2 distinctly caused apoptosis, but melatonin inhibited apoptosis induced by H2O2 in IEC6 (Fig. 6N), rescued mitochondria dysfunction through reducing the number of apoptotic body (Fig. 6O). Moreover, melatonin partially restored the protein levels of Cleaved-caspase-3, Bcl-2, Bcl-XL, full length/cleaved PARP (Fig. 6P-T), and inhibited upregulation of the protein levels of both mitochondria-Cytochrome C-1 and cytoplasm-Cytochrome C-1 by H2O2 in IEC6 (Fig. 6U, V). Taken together, melatonin inhibited apoptosis of intestinal epithelial cells following oxidative stress, possibly causing a decrease of intestinal villus height. Part 4. Melatonin, FMT and FC improve gut health by reprogramming gut microbiota Melatonin, FMT and FC improve gut health by increasing gut microbiota produced SCFAs SCFAs including acetic, propionic and butyric acids are the main metabolic products of anaerobic bacteria fermentation in the intestine [30]. These fatty acids have been recognized as potential mediators involved in the effects of gut microbiota on intestinal antioxidation, autophagy and immune function. Hence the fecal SCFAs concentrates were detected in this study. The results indicated that both Mel and FMT increased the concentrations of total SCFAs, acetic and butyric acid in 5P and 3A rats (Fig. 8A, B, D), whereas did not change the concentrations of propionic acid (Fig. 8C). For early weaned rats, the results were in accord with those of 5P and 3A rats (Fig. 8F-H). On the basis of the data, SCFAs, especially acetic and butyric acids produced by remodeling gut microbiota, might serve as a potential effect of melatonin- mediated gut health improvement. Here, we cannot exclude that the other factors caused by altered microbiota affect gut health, such as some antioxidants, toxins and other metabolites. Furthermore, the abundance change of Lactoaccillus was not affected fecal acetic acid concentration (Fig. 8I), but those of Allobaculum, Bifidobacterium and Faecalibaculum were related to fecal acetic acid concentration (Fig. 8J-L). The abundance changes of Lactoaccillus and Allobaculum were not changed fecal butyric acid concentrations (Fig. 8M), whereas those of Bifidobacterium and Faecalibaculum were related to fecal butyric acid concentrations (Fig. 8N-P). These results showed that Furthermore, the abundance change of Lactoaccillus was not affected fecal acetic acid concentration (Fig. 8I), but those of Allobaculum, Bifidobacterium and Faecalibaculum were related to fecal acetic acid concentration (Fig. 8J-L). The abundance changes of Lactoaccillus and Allobaculum were not changed fecal butyric acid concentrations (Fig. 8M), whereas those of Bifidobacterium and Faecalibaculum were related to fecal butyric acid concentrations (Fig. 8N-P). These results showed that Allobaculum, Bifidobacterium and Faecalibaculum contributed to acetic and butyric acid production to protect gut health. Overall, our results suggested that melatonin, FMT and FC increased the gut microbiota strains which produced more SCFAs to ameliorate gut health through increasing intestinal V/C and inhibiting oxidative stress, autophagy, inflammatory and apoptosis (Fig. 9). y ( g ) Allobaculum, Bifidobacterium and Faecalibaculum contributed to acetic and butyric acid production to protect gut health. Overall, our results suggested that melatonin, FMT and FC increased the gut microbiota strains which produced more SCFAs to ameliorate gut health through increasing intestinal V/C and inhibiting oxidative stress, autophagy, inflammatory and apoptosis (Fig. 9). Melatonin, FMT and FC remodel gut microbiota Gut microbiota is highly associated with intestinal health, so we further detected fecal microbiota compositions by sequencing the fecal bacterial 16S rRNA in A5 and P3 rats, and rats on the day 3 after weaning. Experiment design for feces bacterial 16S rDNA gene amplicon sequencing analysis was as shown in Fig. 7A. In this study, total tags of 64 734 raw reads were generated from each sample (Supplementary Fig. S4A). After removing the low‐quality sequences, more than 50 000 clean tags were clustered into OTUs (Supplementary Fig. S4B and C). Antenatal and perinatal rats, as well as early weaned rats treated with melatonin, FMT and FC exhibited a greater diversity of microbiota evidenced by the increased Shannon and Simpson indexes compared to controls (Fig. 7B and C). We analyzed overall differences in β‐diversity using PCoA plot, weighted and unweighted UniFrac distance. Controls and treatments showed a distinct clustering of microbial community, structure, while the FMT and FC groups had a similar structure to that of the Mel groups (Fig. 7D and E; Supplementary Fig. S4D-G). The overall Page 7/30 Page 7/30 microbial composition in 10 groups differed at the phylum, order and genus species levels (Fig. 7F and G). At the genus level, compared with control groups, the relative abundances of Allobaculum and Faecalibaculum were increased in the treatment groups, and the relative abundances of Bifidobacterium were augmented in AMel, AFMT, WMel WFMT and WFC groups (Fig. 7H). Based on the analysis presented above, the abundance changes of these intestinal microbiota which produced SCFAs may be involved in gut health. Discussion Gut health is vital important for mammal to not only improve nutrient absorption, but also resist pathogen, toxin and allergic compound. For antenatal, perinatal and early weaned animals, intestinal health is also implicated in reproduction, lactation and mortality rate after weaning. Melatonin is a high effective antioxidant which protects essential cell elements such as nucleus, mitochondria, and endoplasmic reticulum [31–33]. Additionally, it is now known to be present in the gastrointestinal tract, and its functions in the gut generally seem to be protective of the mucosa from erosion and ulcer formation [34]. In the present study, melatonin directly ameliorated intestinal tissue antioxidation, inhibited inflammation and autophagy in antenatal, perinatal and early weaned rats. Likewise, in vitro experiments further revealed that melatonin enhanced antioxidation to attenuate autophagy and Page 8/30 Page 8/30 apoptosis in H2O2-induced IEC6. Therefore, melatonin increased intestinal V/C to improve gut health by suppressing oxidative stress, inflammation, autophagy and apoptosis via downregulating the levels of ROS and inflammatory factor, reducing autophagic vacuole and apoptotic body. Interestingly, melatonin not only increases autophagy, but also blocks autophagy [35, 36]. In this study, melatonin blocked autophagy through decreasing autophagic vacuole to exert its gut-protective role against intestinal oxidative damage. On the basis of data discussed herein, our results confirm and extend previous findings that intestinal melatonin is highly effective protector against oxidative stress-induced lesions [37, 38]. Next, we investigated how melatonin-reprogrammed FMT function on the gut in antenatal and perinatal rats. FMT is the infusion of liquid filtrate feces from a healthy donor into the gut of a recipient to cure a specific disease, including Parkinson’s disease, fibromyalgia, chronic fatigue syndrome, multiple sclerosis, obesity and insulin resistance [39, 40]. In fact, FMT is the transfer of minimally manipulated, prescreened donor stool into the gastro-intestinal tract of a patient, with the aim of ameliorating the dysbiotic state by increasing overall diversity and restoring the functionality of the microbiota [41]. Increasing literatures showed that gut microbiota was sensitive to melatonin exposure and melatonin treatment markedly shapes or reverses gut microbiota in healthy or sick animal models [42–45]. The variation of specific bacteria in melatonin-reprogrammed gut microbiota effect obesity and insulin resistance [46, 47]. Decrease of Firmicutes-to-Bacteroidetes ratio and increase of abundance of mucin-degrading bacteria Akkermansia were associated with healthy mucosa [14]. Discussion In this study, the composition and abundance of gut microbiota was different among AMel, AFMT, PMel and PFMT groups, and more Allobaculum, Bifidobacterium and Faecalibaculum were implicated in gut health because they produced acetic and butyric acid. Here, we need point out that the gastrointestinal tract responds with increment of melatonin to feeding, but pineal gland production of melatonin remains unaffected by feeding [48]. Moreover, pineal gland and small bowel are highly effective in the synthesis and secretion of melatonin [49], but it need be further explored whether exogenous melatonin affects synthesis of endogenous melatonin. Overall, we suggested that melatonin targeted reconstitution of the gut microbiota against intestinal oxidative stress. Although the majority of the results are consistent between studies, some potential taxa and metabolites may appear discrepant and even contrasting, thereby supporting the need for appropriate studies to ascertain the role of one or several specific bacteria as potential beneficial bacteria to provide protection against specific intestinal diseases. Developments in high-throughput microbial genomic sequencing have given novel insight into the potential contribution of the gut microbiota to health. Moreover, restoration of the gut microbiota to a premorbid state is a key novel therapeutic approach, and FMT is gaining increasing importance in both the clinical and research settings. To date, although a large number of trials are ongoing worldwide exploring FMT potential therapeutic indications, it is only recommended in the treatment of recurrent Clostridioides difficile infection [50]. On the basement of our findings, we might someday be able to mine for melatonin-reprogrammed gut bacterial strains that can be used in the diagnosis or treatment of intestinal diseases, such as Allobaculum, Bifidobacterium and Faecalibaculum in this study. Page 9/30 In general, mammalian weaning resulted in reduction of intestinal V/C and damaged intestinal integrity [51]. In this study, our findings revealed that melatonin and melatonin-remodeled FMT could increase intestinal V/C, ameliorate gut antioxidation, inhibit autophagy and inflammation, and decrease intestinal permeability in early weaned rats. Interestingly, FC also functioned above effects, but why? Animals subjected to oxidative stress exhibited significant loss of crypt architecture, severe villous epithelial atrophy and degeneration, and shortening of villi [52–54]. Here, melatonin and FMT were beneficial to gut health through inhibiting oxidative stress in early weaned rats. Discussion Therefore, we thought that the early weaned rats in FC group could get beneficial microbiota via eating or licking the dung of their mothers treated with melatonin to improve gut health. Furthermore, abundance of Allobaculum, Bifidobacterium and Faecalibaculum markedly increased in FC group, hinting that these important changes which caused differences in intestinal microbial products including total SCFAs, acetic and butyric acid in early weaned rats. Interestingly, Faecalibaculum produced butyric acid which protect gut health [55–57]. In addition, Bifidobacterium also produced moderate H2O2 to activates the body’s production of catalase which kills gram negative bacteria such as Shigella and Salmonella [58]. Although we still do not exclude the possibility that altered microbiota did not produce these bacteriocins or changed them might be caused by other factors, metabolic SCFAs from remodeled intestinal microbiota ameliorated gut antioxidation, inhibited autophagy and inflammation in early weaned rats in FC group. However, more experimental studies need to be performed to further uncover the composition and function of the reprogrammed microbiota and their bacteriocins in the future. In the current study, our findings suggested that FC improved gut health of the foster rats through remodeled microbiota, especially more Allobaculum, Bifidobacterium and Faecalibaculum. Additionally, lower levels of melatonin and SCFA concentration correlated with increased intestinal permeability [59, 60]. In accord with these studies, intestinal permeability decreased by adding exogenous melatonin or increasing levels of SCFAs. Here, we need point out that early weaned rats ate or licked the dung from female rats treated with melatonin, in which might contain undetected infinitesimal melatonin. Overall, although the regulation and effect the gut microbiota were affected by many factors and were very complex, the potential for FC manipulation to ameliorate gut health is a novel area of rapid growth and great promise. In conclusion, melatonin, FMT and FC increased gut microbiota which produced SCFAs to improve gut health through enhancing antioxidation, inhibiting autophagy, inflammatory and apoptosis. We suggest that precise manipulating intestinal microbiota via melatonin, its-reprogrammed FTM and FC will become promising strategies for therapy of intestinal disorders caused by oxidative stress in antenatal, perinatal and weaned mammals. Experiment design For the pregnant and lactation rat experiments (Fig. 1A), a total of 30 pregnant rats were randomly divide into 3 groups, including control, melatonin (Mel) and FMT group. Control and FMT groups: rats received a basal diet and normal drinking water; Mel group: a basal diet and drinking water containing melatonin (0.2 g/L; M5250, Sigma, MO, USA). After 3 days of melatonin supplementation, the fecal contents of rats were collected and diluted with phosphate buffer saline (PBS) through modified procedure according to precious method [3,23,24]. Briefly, fresh fecal samples were collected from Mel group in sterile PBS (100 mg/mL). The suspension was homogenized by vortex for 1 min and centrifuged at 1000 g for 3 min. The resulting supernatant was collected into new sterile tubes and used for oral gavage. The fecal contents dilution (0.1mL/rat) was feed into rats in FMT group each day until the day 5 before delivery and the day 3 after delivery, respectively. Five rats were sacrificed to collect duodenum, jejunum, ileum and colon in each group. These intestinal tissues were fixed in 2.5% glutaraldehyde solution and 2.5% paraformaldehyde solution and saved at -80°C. The 30 fresh fecal samples on the day 5 before delivery and the day 3 after delivery were used for bacterial 16S rDNA gene amplicon sequencing analysis were stored at -80°C before genomic DNA extraction. araformaldehyde solution and saved at -80°C. The 30 fresh fecal samples on the day 5 before delivery nd the day 3 after delivery were used for bacterial 16S rDNA gene amplicon sequencing analysis were tored at -80°C before genomic DNA extraction. For the weaned rat experiments (Fig. 3A), a total of 80 suckling rats at 11 days of age (weaned at 21 days of age) were randomly selected for four groups including control, Mel, FMT and FC group. Control and FMT groups: suckling rats fed a basal diet and normal drinking water; Mel group: suckling rats fed a basal diet and drinking water containing melatonin (0.2 g/L); FC group: lactating rats received a basal diet and drinking water containing melatonin (0.2 g/L). After 3 days of melatonin supplementation, the fecal contents dilution (0.1mL/rat) was feed into suckling rats in FMT group each day until 24 days of age. Similarly, five rats were sacrificed to collect serum, duodenum, jejunum, ileum and colon in each group. Animals The male Sprague-Dawley rats (10–12 weeks) were purchased from The Fourth Military Medical University (Xian, Shaanxi, China). The rats were housed in a pathogen‐free rat colony (temperature, 25 ± 2°C; relative humidity, 45%‐60%; lighting cycle, 12 h/day, 08:00‐20:00 for light) and had free access to Page 10/30 food and drinking water. The normal chow diet was purchased from Beijing HFK Bioscience Co. Ltd. (Beijing, China). After superovulation of rats by an intraperitoneal injection of 10 IU PMSG (Sigma, St Louis, MO, USA), the female rats were mated. The pregnant rats were selected for experiments. The animal experiments were all approved by the Research Ethics Committee of Northwest A&F University (2011-31101684). Experiment design The 20 fresh fecal samples on the day 3 after weaning were used for bacterial sequencing analysis. Hematoxylin and eosin staining Hematoxylin and eosin (H&E) staining was performed as previously described [25]. Briefly, the rat intestinal tissue, including duodenum, jejunum, ileum and colon, were fixed with 4% paraformaldehyde- PBS overnight, and then dehydrated and embedded in paraffin blocks. The 5 μm sections were deparaffinized, hydrated and stained with H&E. Intestinal villus height and crypt depth were measured using ImageJ software. ELISA assay The levels of IL-6, IL-1β, IL-10 and TNF-α were determined using ELISA kits (Raybiotech, GA, USA) according to the manufacturer’s instructions. ROS generation assay The fresh intestinal tissues were collected and frozen at -80°C. The samples were sliced into 5-10 μm pieces and stained with DHE at 37°C for 30 min. The sections were washed on time with PBS for 10 minutes and stained with DAPI. Likewise, intestinal epithelial cells were washed 3 times with PBS and incubated with 10 μM DCFH-DA (Invitrogen, Eugene, OR, USA) for 30 min, and then washed with PBS and stained with DAPI. The sections and cells were captured with a Zeiss 710 laser scanning confocal microscope. The ROS assay kit (Beyotime Institute of Biotechnology, Shanghai, China) were used to measure ROS concentration according to the manufacturer’s instructions. Briefly, the crushed intestinal tissues were incubated with 10 μM DCFH-DA for 30 min, and then were measured by UV/visible spectrophotometer (UV-2450, Shimadzu, Kyoto, Japan). Immunohistochemistry Immunohistochemistry stains were detected using IHC kit (MaiXin, China). Briefly, the tissues were cut into 3-10 μm long pieces and blocked with 1% w/v BSA for 1 h, and then anti-NF-κB antibody were incubated overnight at 4°C. Next, the samples were dehydrated in an ethanol (30-100%) gradient and treated with xylene to increase the transparency of slides. Intestinal antioxidant capacity Page 11/30 Page 11/30 The levels of malondialdehyde (MDA) and total antioxidant capacity (TAOC) in intestinal tissues were measured by spectrophotometric methods according to manufacturer instructions of assay kits (Nanjing Jiancheng, Nanjing, China). All samples were measured by a UV/visible spectrophotometer (UV-2450, Shimadzu, Kyoto, Japan). Transmission electron microscopy The fresh ileum tissues or the rat intestinal epithelial cell line IEC6 cells were fixed in 2.5% glutaraldehyde solution at 4°C overnight and incubated with PBS containing 2% OsO4 for 4 h. The ileum tissues then were dehydrated in a graded series of ethanol (30%, 50%, 70%, 80%, 90%, 95% and 100%) for 10 min at each step for 2 times and then transferred into mixture of alcohol and spurr resin (v:v = 1:1, v:v = 1:2, v:v =  1:3) for 12 h and spurr resin for 24 h for 2 times. Ultrathin sections were obtained using a diamond knife and stained with uranyl acetate, and then specimens were observed by TEM (JEM-1011, JEOL, Japan). Intestinal permeability analysis Intestinal permeability was assessed using the FITC-dextran (4-kDa) permeability assay. On 24 days of age, the weaned rats were starved for 12 h, then feed with FITC-dextran (4.4 mg/kg BW) by oral gavage. Page 12/30 After 5 h, whole blood was collected and serum was isolated. Serum was diluted with equal volume of PBS and tested in duplicate. The pictures of FITC-dextran were captured with fluorometer. After 5 h, whole blood was collected and serum was isolated. Serum was diluted with equal volume of PBS and tested in duplicate. The pictures of FITC-dextran were captured with fluorometer. Cell culture and treatment The rat intestinal epithelial cell line IEC-6 were purchased from the American Type Culture Collection (ATCC, USA). The cells were cultured in DMEM-F12 medium supplemented with 10% FBS (Life Technologies) in a humidified 5% CO2 incubator at 37°C. For H2O2 and melatonin treatments, cells were pretreated with melatonin (10 μM) for 24 h, followed by H2O2 (200 μM) stimulation for 2 h before they were used for the next assay. Cell viability assay IEC-6 viability was measured using Cell Counting Kit-8 (Beyotime Institute of Biotechnology, Shanghai, China) according to the manufacturer’s instructions. Western blotting analysis Total protein was isolated from intestinal tissues and cells by incubating in RIPA buffer containing protease inhibitor cocktail for 30 min and then centrifuged at 12,000 ×g for 10 min at 4°C to remove the precipitate. The total protein content was determined using the BCA Protein Assay Kit (Pierce), and 30 μg proteins were separated by a reducing SDS-PAGE electrophoresis on 10% or 15% Bis-Tris gels, transblotted onto nitrocellulose membranes and probed with different primary antibodies: GPx5 (18731-1- AP, 1 : 1000, Proteintech), SOD1 (10269-1-AP, 1 : 1000, Proteintech), SOD2 (13194S, 1 : 1000, CST), CAT (14097S, 1 : 1000, CST), HSP72, NF-κB (8242S, 1 : 1000, CST), LC3B (3868S, 1 : 1000, CST), P62 (23214S, 1 : 1000, CST), ATG7 (2631S, 1 : 1000, CST), Beclin1 (11306-1-AP, 1 : 1000, Proteintech), ZO- 1 (ab221547, 1 : 1000, Abcam), Occludin (27260-1-AP, 1 : 1000, Proteintech), Claudin-1 (13050-1-AP, 1 :  1000, Proteintech), Bcl-2 (ab194583, 1 : 1000, Abcam), Bcl-XL (26967-1-AP, 1 : 500, Proteintech), Cleaved capsase-3 (ab49822, 1 : 1000, Abcam), PARP (13371-1-AP, 1 : 1000, Proteintech), Cytochrome C (10993-1- AP, 1 : 1000, Proteintech), β-actin (4967S, 1 : 1000, CST) and COX IV (ab202554, 1 : 500, Abcam). The gray values of the bands were measured by ImageJ software and then normalized to β-actin or COX IV content. Evaluation of autophagosome IEC-6 were seeded in 24-well plates with 1 cm coverslips, and the cells grown to 80% confluence prior to transient transfection with the GFP-MAP1LC3B (Beyotime Institute of Biotechnology, Shanghai, China). After 24 h cultured, the cells were treated with 10 μM melatonin and 200 μM H2O2. Finally, the cells were washed with PBS for 3 times, and observed under a laser-scanning confocal microscope (Zeiss LSM 710 META, Oberkochen, Germany). Gut microbiota analysis Total genomic bacterial DNA of fecal mixture of the duodenum, jejunum, ileum and colon was extracted using an E.Z.N.A.® Stool DNA Kit (Omega Bio-Tek, Norcross, GA, USA) following the manufacturer’s instructions. PCR amplification of bacteria DNA in the present study was performed. Briefly, the V3‐V4 regions of the bacteria 16S ribosomal RNA gene were amplified by PCR as following: 95°C for 2 min, followed by 25 cycles at 95°C for 30 s, 55°C for 30 s, and 72°C for 30 s, and a final extension at 72°C for 5 min. The primers used are 338F 5′‐ACTCCTACGGGAGGCAGCA‐3′ and 806R 5′‐ GGACTACHVGGGTWTCTAAT‐3′. PCRs were performed in triplicate 20 μL mixture containing 4 μL of 5 × FastPfu Buffer, 2 μL of 2.5 mM dNTPs, 0.8 μL of each primer 5 μM, 0.4 μL of FastPfu DNA polymerase, and 10 ng of template DNA instructions. PCR amplification of bacteria DNA in the present study was performed. Briefly, the V3 V4 regions of the bacteria 16S ribosomal RNA gene were amplified by PCR as following: 95°C for 2 min, followed by 25 cycles at 95°C for 30 s, 55°C for 30 s, and 72°C for 30 s, and a final extension at 72°C for 5 min. The primers used are 338F 5′‐ACTCCTACGGGAGGCAGCA‐3′ and 806R 5′‐ GGACTACHVGGGTWTCTAAT‐3′. PCRs were performed in triplicate 20 μL mixture containing 4 μL of 5 × FastPfu Buffer, 2 μL of 2.5 mM dNTPs, 0.8 μL of each primer 5 μM, 0.4 μL of FastPfu DNA polymerase, and 10 ng of template DNA. followed by 25 cycles at 95°C for 30 s, 55°C for 30 s, and 72°C for 30 s, and a final extension at 72°C for 5 min. The primers used are 338F 5′‐ACTCCTACGGGAGGCAGCA‐3′ and 806R 5′‐ GGACTACHVGGGTWTCTAAT‐3′. PCRs were performed in triplicate 20 μL mixture containing 4 μL of 5 × FastPfu Buffer, 2 μL of 2.5 mM dNTPs, 0.8 μL of each primer 5 μM, 0.4 μL of FastPfu DNA polymerase, and 10 ng of template DNA. GGACTACHVGGGTWTCTAAT‐3′. PCRs were performed in triplicate 20 μL mixture containing 4 μL of 5 × FastPfu Buffer, 2 μL of 2.5 mM dNTPs, 0.8 μL of each primer 5 μM, 0.4 μL of FastPfu DNA polymerase, and 10 ng of template DNA. Immunofluorescence Page 13/30 Page 13/30 For immunofluorescence analysis, IEC6 were fixed in 4% paraformaldehyde for 10 min and were permeabilized in 0.5% Triton X-100 for 20 min at room temperature and blocked in 1% BSA for 30 min. Next, the cells were incubated with primary antibodies against Cleaved caspase-3 overnight at 4℃. After that, the samples were washed three times with PBS for 10 min each time and incubated with secondary antibodies for 2 h. The nuclei were stained with DAPI for 10 min and then washed one time with PBS for 15 min. Immunofluorescent images were captured with a Zeiss 710 laser scanning confocal microscope. For immunofluorescence analysis, IEC6 were fixed in 4% paraformaldehyde for 10 min and were permeabilized in 0.5% Triton X-100 for 20 min at room temperature and blocked in 1% BSA for 30 min. Next, the cells were incubated with primary antibodies against Cleaved caspase-3 overnight at 4℃. After that, the samples were washed three times with PBS for 10 min each time and incubated with secondary antibodies for 2 h. The nuclei were stained with DAPI for 10 min and then washed one time with PBS for 15 min. Immunofluorescent images were captured with a Zeiss 710 laser scanning confocal microscope. Gut microbiota analysis Amplicons were extracted from 2% agarose gel, purified by the AxyPrep DNA gel extraction kit (Axygen Biosciences, Union City, CA, USA), and quantified by QuantiFluorTM-ST (Promega, Madison, WI, USA) according to the manufacturer’s protocols. Then purified amplicons were pooled in equimolar amounts and paired-end sequenced on an Illumina MiSeq platform according to the standard protocols by a commercial company (Novogene, Beijing, China). The raw reads were deposited into the NCBI Sequence Read Archive (SRA) database (Accession Number: SUB2623584). aw data were firstly conjuncted by using the FLASH analysis tool (V1.2.7, Raw data were firstly conjuncted by using the FLASH analysis tool (V1.2.7, http://ccb.jhu.edu/software/FLASH/), and then filtered with the Quality Control software package (V1.7.0, http://qiime.org/scripts/split_libraries_fastq.html). To obtain the effective tags, the UCHIME algorithm (http://www.drive5.com/usearch/manual/uchime_algo.html) was used to remove the chimera sequences. The reads were picked to form distinct OTUs using Uparse software (http://drive5.com/uparse/) at 97% of sequence similarity, and then were classified to different levels by comparing to GreenGenes database using PyNAST software (V1.2). Raw data were firstly conjuncted by using the FLASH analysis tool (V1.2.7, http://ccb.jhu.edu/software/FLASH/), and then filtered with the Quality Control software package (V1.7.0, http://qiime.org/scripts/split_libraries_fastq.html). To obtain the effective tags, the UCHIME algorithm (http://www.drive5.com/usearch/manual/uchime_algo.html) was used to remove the chimera sequences. The reads were picked to form distinct OTUs using Uparse software (http://drive5.com/uparse/) at 97% of sequence similarity, and then were classified to different levels by comparing to GreenGenes database using PyNAST software (V1.2). Statistical analysis Statistical analyses were performed using the SPSS 23.0 statistical software package (SPSS Inc, Chicago, IL, USA). The variables were first tested for normality (Shapiro–Wilk test) and homoscedasticity (Levene’s test) and followed with Student’s t test. The data were compared by analysis of variance (ANOVA) and differences located with Duncan’s multiple range test. Correlation analysis between microbiota and SCFAs was conducted by Pearson correlation analysis. All data of each group were presented as mean ± SEM and statistical significance was set at P < 0.05. SCFAs For detection of SCFAs, fecal samples were measured using the previous method [22,26]. Briefly, the fecal mixture samples were treated as follows: 0.3 g of feces was added to 1.2 mL sterile saline, evenly dispersed by stirring with a glass rod, and left to stand for 5 min; 600 μL 50% sulfuric acid (Sigma Aldrich) and 1.2 mL ether were added, standing for 10 min with intermittent shaking. The supernatant was obtained by centrifugation at 5000 rpm for 30 min and used for chromatographic analysis. The content of SCFA were measured by GC‐MS (Agilent, USA). For detection of SCFAs, fecal samples were measured using the previous method [22,26]. Briefly, the fecal mixture samples were treated as follows: 0.3 g of feces was added to 1.2 mL sterile saline, evenly dispersed by stirring with a glass rod, and left to stand for 5 min; 600 μL 50% sulfuric acid (Sigma Aldrich) and 1.2 mL ether were added, standing for 10 min with intermittent shaking. The supernatant was obtained by centrifugation at 5000 rpm for 30 min and used for chromatographic analysis. The content of SCFA were measured by GC‐MS (Agilent, USA). Page 14/30 Page 14/30 Page 14/30 Acknowledgements Not applicable. Abbreviations Mel: Melatonin; FMT: Fecal microbiota transplantation; FC: Foster care; V/C: Intestinal villus height/crypt depth; SCFAs: Short‐chain fatty acids; MDA: Malondialdehyde; TAOC: Total antioxidant capacity; TEM: Transmission electron microscopy; H&E: Hematoxylin and eosin; PBS: phosphate buffer saline; GPx5: Glutathione peroxidase-5; SOD1: Superoxide dismutase 1; SOD2: Superoxide dismutase 5; CAT: Chloramphenicol acetyltransferase; A5: Antenatal day 5; P3: Perinatal day 3; TNFα: Tumour necrosis factor alpha; IL-1β: Interleukin-1beta; IL-6: Interleukin-6; IL-10: Interleukin-10; HSP72: Heat shock protein 72; NF-κB: Nuclear factor-kappaB; LC3B-I: Light chain 3B-I; LC3B-II: Light chain 3B-II; ATG7: Autophagy- related gene 7; BECN1: Beclin1; P62: Sequestosome 1; ZO-1: Zonula occludens-1; IEC6: Rat intestinal epithelial cells 6; Bcl-2: B cell lymphoma-2; Bcl-xL: B-cell lymphoma-extra large; PARP: Poly(ADP-ribose) polymerase. Funding This work was supported by the National Natural Science Foundation of China (No. 31872979) and China Agriculture Research System of MOF and MARA (CARS-35). Authors′ contributions WP provided financial support and conceived the study. YW, WS, RC and XY performed most of the experiments, wrote the manuscript. WP, JW, GC and LG revised the manuscript. JW, GC, LG, WY, CW and ZK conducted the animal experimentation, histological analysis and biochemical analysis. All authors read and approved the final manuscript. Author details Key Laboratory of Animal Genetics, Breeding and Reproduction of Shaanxi Province, College of Animal Science and Technology, Northwest A&F University, Yangling, Shaanxi, 712100, China. Availability of data and materials Page 15/30 The 16S rRNA gene sequencing data of the discovery cohort were submitted to the SRA database in NCBI with the accession number PRJNA778474 on antenatal and perinatal rats and PRJNA778499 on weaned rats, respectively. Moreover, the data supporting the findings of this study are available from the corresponding author upon request. Competing interests All authors have no competing interests. Consent for publication Not applicable. Ethics approval and consent to participate This study does not involve the use of human subjects. The ethical statements regarding animal experimentation are included in the “Materials and methods” section. References 1. 1. P.D. Cani, Human gut microbiome: hopes, threats and promises, Gut 67 (2018) 1716-1725. https://doi: 10.1136/gutjnl-2018-316723. 1. 1. P.D. Cani, Human gut microbiome: hopes, threats and promises, Gut 67 (2018) 1716-1725. https://doi: 10.1136/gutjnl-2018-316723. 2. 2. T. Hrncir, L. Hrncirova, M. Kverka, H. Tlaskalova-Hogenova, The role of gut microbiota in intestinal and liver diseases, Lab. Anim. 53 (3) (2019) 271-280. https://doi: 10.1177/0023677218818605. 2. 2. T. Hrncir, L. Hrncirova, M. Kverka, H. Tlaskalova-Hogenova, The role of gut microbiota in intestinal and liver diseases, Lab. Anim. 53 (3) (2019) 271-280. https://doi: 10.1177/0023677218818605. 3. 3. J. Hu, L. Ma, Y. Nie, J. Chen, W. Zheng, X. Wang, et al., A microbiota-derived bacteriocin targets the host to confer diarrhea resistance in early-weaned piglets, Cell Host Microbe 24 (6) (2018) 817-832. https://doi: 10.1016/j.chom.2018.11.006. 3. 3. J. Hu, L. Ma, Y. Nie, J. Chen, W. Zheng, X. Wang, et al., A microbiota-derived bacteriocin targets the host to confer diarrhea resistance in early-weaned piglets, Cell Host Microbe 24 (6) (2018) 817-832. https://doi: 10.1016/j.chom.2018.11.006. 4. 4. L.P. Smits, K.E. Bouter, W.M. de Vos, T.J. Borody, M. Nieuwdorp, Therapeutic potential of fecal microbiota transplantation, Gastroenterology 145 (2013) 946-953. https://doi: 10.1053/j.gastro.2013.08.058. 4. 4. L.P. Smits, K.E. Bouter, W.M. de Vos, T.J. Borody, M. Nieuwdorp, Therapeutic potential of fecal microbiota transplantation, Gastroenterology 145 (2013) 946-953. https://doi: 10.1053/j.gastro.2013.08.058. 5. 5. S. Lukovac, C. Belzer, L. Pellis, B.J. Keijser, W.M. de Vos, R.C. Montijn, et al., Differential modulation by Akkermansia muciniphila and Faecalibacterium prausnitzii of host peripheral lipid metabolism and histone acetylation in mouse gut organoids, mBio. 5 (4) (2014) e01438-14. https://doi: 10.1128/mBio.01438-14. 6. 6. W. Jia, G. Xie, W. Jia, Bile acid–microbiota crosstalk in gastrointestinal inflammation and carcinogenesis, Nat. Rev. Gastroenterol. Hepatol. 15 (2) (2018) 111-128. https://doi: 10.1038/nrgastro.2017.119. Page 16/30 Page 16/30 7. 7. Wlodarska M, Luo C, Kolde R, d'Hennezel E, Annand JW, Heim CE, et al., Indoleacrylic Acid Produced by Commensal Peptostreptococcus Species Suppresses Inflammation, Cell Host Microbe 22 (1) (2017) 25-37. https://doi: 10.1016/j.chom.2017.06.007. 8. 8. T.R. Whitehead, N.P. Price, H.L. Drake, M.A. Cotta, Catabolic pathway for the production of skatole and indoleacetic acid by the acetogen Clostridium drakei, Clostridium scatologenes, and swine manure, Appl. Environ. Microbiol. 74 (6) (2008) 1950-1953. https://doi: 10.1128/AEM.02458-07. 8. 8. T.R. Whitehead, N.P. Price, H.L. Drake, M.A. Cotta, Catabolic pathway for the production of skatole and indoleacetic acid by the acetogen Clostridium drakei, Clostridium scatologenes, and swine manure, Appl. Environ. Microbiol. 74 (6) (2008) 1950-1953. References https://doi: 10.1128/AEM.02458-07. 9. 9. B.B. Williams, A.H. Van Benschoten, P. Cimermancic, M.S. Donia, M. Zimmermann, M. Taketani, et al., Discovery and characterization of gut microbiota decarboxylases that can produce the neurotransmitter tryptamine, Cell Host Microbe 16 (4) (2014) 495-503. https://doi: 10.1016/j.chom.2014.09.001. 10. 10. P.J. Turnbaugh, R.E. Ley, M.A. Mahowald, C.M. Fraser-Liggett, R. Knight, J.I. Gordon, An obesity- associated gut microbiome with increased capacity for energy harvest, Nature 444 (7122) (2006) 1027-1031. https://doi: 10.1038/nature05414. 11. 11. F. Söderquist, I. Sundberg, M. Ramklint, R. Widerström, P.M. Hellström, J.L. Cunningham, The relationship between daytime salivary melatonin and gastrointestinal symptoms in young adults seeking psychiatric care, Psychosom. Med. 81 (1) (2019) 51-56. https://doi: 10.1097/PSY.0000000000000644. 12. 12. R.K. Wong, C. Yang, G.H. Song, J. Wong, K.Y. Ho, Melatonin regulation as a possible mechanism for probiotic (VSL#3) in irritable bowel syndrome: a randomized double-blinded placebo study, Dig. Dis. Sci. 60 (1) (2015)186-194. https://doi: 10.1007/s10620-014-3299-8. 13. 13. M.C. Dao, A. Everard, J. Aron-Wisnewsky, N. Sokolovska, E. Prifti, E.O. Verger, et al., Akkermansia muciniphila and improved metabolic health during a dietary intervention in obesity: relationship with gut microbiome richness and ecology, Gut 65 (3) (2016) 426-436. https://doi: 10.1136/gutjnl-2014- 308778. 14. 14. G. Mannino, F. Caradonna, I. Cruciata, A. Lauria, A. Perrone, C. Gentile, Melatonin reduces inflammatory response in human intestinal epithelial cells stimulated by interleukin-1β, J. Pineal Res. 67 (3) (2019) e12598. https://doi: 10.1111/jpi.12598. 15. 15. Gareau MG, Sherman PM, Walker WA. Probiotics and the gut microbiota in intestinal health and disease. Nat. Rev. Gastroenterol. Hepatol. 7 (9) (2010) 503-514. https://doi: 10.1038/nrgastro.2010.117. 16. 16. S.J. Konturek, P.C. Konturek, I. Brzozowska, M. Pawlik, Z. Sliwowski, M. Cześnikiewicz-Guzik, et al., Localization and biological activities of melatonin in intact and diseased gastrointestinal tract (GIT), J. Physiol. Pharmacol. 58 (3) (2007) 381-405. http://www.jpp.krakow.pl/journal/archive/09_07/articles/01_article.html 17. 17. L. Pham, L. Baiocchi, L. Kennedy, K. Sato, V. Meadows, F. Meng, et al., The interplay between mast cells, pineal gland and circadian rhythm: Links between histamine, melatonin and inflammatory mediators, J. Pineal Res. 70(2) (2021) e12699. https://doi: 10.1111/jpi.12699. Page 17/30 Page 17/30 18. 18. B. de Luxan‐Delgado, B. Caballero, Y. Potes, A. Rubio-González, I. Rodríguez, J. Gutiérrez- Rodríguez, et al., Melatonin administration decreases adipogenesis in the liver of ob/ob mice through autophagy modulation, J. Pineal Res. 56 (2) (2014) 126-133. https://doi: 10.1111/jpi.12104. 19. 19. S. Carloni, G. Riparini, G. Buonocore, W. References Balduini, Rapid modulation of the silent information regulator 1 by melatonin after hypoxia‐ischemia in the neonatal rat brain, J. Pineal Res. 63 (3) (2017) e12434. https://doi: 10.1111/jpi.12434. 20. 20. B. San‐Miguel, I. Crespo, D. Vallejo, M. Álvarez, J. Prieto, J. González-Gallego, et al., Melatonin modulates the autophagic response in acute liver failure induced by the rabbit hemorrhagic disease virus, J. Pineal Res. 56 (3) (2014) 313-321. https://doi: 10.1111/jpi.12124. 21. 21. P. Xu, J. Wang, F. Hong, S. Wang, X. Jin, T. Xue, et al., Melatonin prevents obesity through modulation of gut microbiota in mice, J. Pineal Res. 62 (4) (2017) e12399. https://doi: 10.1111/jpi.12399. 22. 22. J. Yin, Y. Li, H. Han, S. Chen, J. Gao, G. Liu, et al., Melatonin reprogramming of gut microbiota improves lipid dysmetabolism in high-fat diet-fed mice, J. Pineal Res. 65 (4) (2018) e12524. https://doi: 10.1111/jpi.12524. 23. 23. M.J. Hamilton, A.R. Weingarden, M.J. Sadowsky, A. Khoruts, Standardized frozen preparation for transplantation of fecal microbiota for recurrent Clostridium difficile infection, Am. J. Gastroenterol. 107 (5) (2012) 761-767. https://doi: 10.1038/ajg.2011.482. 24. 24. Toral M, Robles‐Vera I, de la Visitación N, Romero M, Sánchez M, Gómez-Guzmán M, et al. Role of the immune system in vascular function and blood pressure control induced by faecal microbiota transplantation in rats, Acta. Physiol. 227 (1) (2019) e13285. https://doi: 10.1111/apha.13285. 24. 24. Toral M, Robles‐Vera I, de la Visitación N, Romero M, Sánchez M, Gómez-Guzmán M, et al. Role of the immune system in vascular function and blood pressure control induced by faecal microbiota transplantation in rats, Acta. Physiol. 227 (1) (2019) e13285. https://doi: 10.1111/apha.13285. 25. 25. H. Wu, L. Ye, X. Lu, S. Xie, Q. Yang, Q. Yu, Lactobacillus acidophilus alleviated salmonella‐induced goblet cells loss and colitis by Notch pathway, Mol. Nutr. Food Res. 62 (22) (2018) 1800552. https://doi: 10.1002/mnfr.201800552. 26. 26. Zhao G, M. Nyman, J.A. Jönsson, Rapid determination of short‐chain fatty acids in colonic contents and faeces of humans and rats by acidified water‐extraction and direct‐injection gas chromatography, Biomed. Chromatogr. 20 (8) (2006) 674-682. https://doi: 10.1002/bmc.580. 27. 27. A. Parker, L. Vaux, A.M. Patterson, A. Modasia, D. Muraro, A.G. Fletcher, et al., Elevated apoptosis impairs epithelial cell turnover and shortens villi in TNF-driven intestinal inflammation, Cell Death Dis. 10 (2) (2019) 108. https://doi: 10.1038/s41419-018-1275-5. 28. 28. References Liang D, Zhuo Y, Guo Z, He L, Wang X, He Y, et al., SIRT1/PGC-1 pathway activation triggers autophagy/mitophagy and attenuates oxidative damage in intestinal epithelial cells, Biochimie 170 (2020) 10-20. https://doi: 10.1016/j.biochi.2019.12.001. 28. 28. Liang D, Zhuo Y, Guo Z, He L, Wang X, He Y, et al., SIRT1/PGC-1 pathway activation triggers autophagy/mitophagy and attenuates oxidative damage in intestinal epithelial cells, Biochimie 170 (2020) 10-20. https://doi: 10.1016/j.biochi.2019.12.001. 29. 29. Liang H, Liu N, Wang R, Zhang Y, Chen J, Dai Z, et al., N-Acetyl serotonin alleviates oxidative damage by activating nuclear factor erythroid 2-related factor 2 signaling in porcine enterocytes, Antioxidants 9 (2020) (4) 303. https://doi: 10.3390/antiox9040303. 29. 29. Liang H, Liu N, Wang R, Zhang Y, Chen J, Dai Z, et al., N-Acetyl serotonin alleviates oxidative damage by activating nuclear factor erythroid 2-related factor 2 signaling in porcine enterocytes, Antioxidants 9 (2020) (4) 303. https://doi: 10.3390/antiox9040303. 30. 30. H. Zeng, S.K. Hamlin, B.D. Safratowich, W.H. Cheng, L.K. Johnson, Superior inhibitory efficacy of butyrate over propionate and acetate against human colon cancer cell proliferation via cell cycle 30. 30. H. Zeng, S.K. Hamlin, B.D. Safratowich, W.H. Cheng, L.K. Johnson, Superior inhibitory efficacy of butyrate over propionate and acetate against human colon cancer cell proliferation via cell cycle Page 18/30 Page 18/30 arrest and apoptosis: linking dietary fiber to cancer prevention, Nutr. Res. 83 (2020) 63-72. https://doi: 10.1016/j.nutres.2020.08.009. arrest and apoptosis: linking dietary fiber to cancer prevention, Nutr. Res. 83 (2020) 63-72. https://doi: 10.1016/j.nutres.2020.08.009. 31. 31. A. Galano, D.X. Tan, R.J. Reiter, Melatonin: a versatile protector against oxidative DNA damage, Molecules 23 (2018) 530. https://doi: 10.3390/molecules23030530. 32. 32. J.C. Mayo, R.M. Sainz, P. Gonzalez‐Menendez, D. Hevia, R. Cernuda, Melatonin transport into mitochondria, Cell Mol. Life Sci. 74 (2017) 3927‐3940. https://doi: 10.1007/s00018-017-2616-8. 33. 33. Y.W. Lin, T.Y. Chen, C.Y. Hung, S.H. Tai, S.Y. Huang, C.C. Chang, et al., Melatonin protects brain against ischemia/reperfusion injury by attenuating endoplasmic reticulum stress, Int. J. Mol. Med. 42 (1) (2018) 182-192. https://doi: 10.3892/ijmm.2018.3607. 34. 34. R.J. Reiter, D.X. Tan, J.C. Mayo, R.M. Sainz, J. Leon, D. Bandyopadhyay, Neurally-mediated and neurally-independent beneficial actions of melatonin in the gastrointestinal tract, J. Physiol. Pharmacol. 54 (Suppl 4) (2003) 113- 125.http://www.jpp.krakow.pl/journal/archive/12_03_s4/articles/10_article.html 35. 35. B. San‐Miguel, I. Crespo, D.I. Sanchez, B. González-Fernández, J.J. Ortiz de Urbina, M.J. Tuñón, et al., Melatonin inhibits autophagy and endoplasmic reticulum stress in mice with carbon tetrachloride‐induced fibrosis, J. Pineal Res. 59 (2) (2015) 151-162. References https://doi: 10.1111/jpi.12247. 36. 36. J. Chen, L. Wang, C. Wu, Q. Hu, C. Gu, F. Yan, et al., Melatonin-enhanced autophagy protects against neural apoptosis via a mitochondrial pathway in early brain injury following a subarachnoid hemorrhage, J. Pineal Res. 56 (1) (2014) 12-19. https://doi: 10.1111/jpi.12086. 37. 37. T. Brzozowski, P.C. Konturek, S.J. Konturek, R. Pajdo, W. Bielanski, I. Brzozowska, et al., The role of melatonin and L-tryptophan in prevention of acute gastric lesions induced by stress, ethanol, ischemia and aspirin, J. Pineal Res. 23 (2) (1997) 79-89. https://doi: 10.1111/j.1600- 079x.1997.tb00339.x. 38. 38. C.A. De La Lastra, J. Cabeza, V. Motilva, M.J. Martin, Melatonin protects against gastric ischemiareperfusion injury in rats, J. Pineal Res. 23 (2) (1997) 47-52. https://doi: 10.1111/j.1600- 079x.1997.tb00334.x. 39. 39. T.J. Borody, A. Khoruts, Fecal microbiota transplantation and emerging applications, Nat. Rev. Gastroenterol. Hepatol. 9 (2) (2011) 88-96. https://doi: 10.1038/nrgastro.2011.244. 40. 40. L.P. Smits, K.E. Bouter, W.M. de Vos, T.J. Borody, M. Nieuwdorp, Therapeutic potential of fecal microbiota transplantation, Gastroenterology 145 (5) (2013) 946-953. https://doi: 10.1053/j.gastro.2013.08.058. 41. 41. J.R. Allegretti, Z. Kassam, M. Osman, S. Budree, M. Fischer, C.R. Kelly, The 5D framework: a clinical primer for fecal microbiota transplantation to treat Clostridium difficile infection, Gastrointest. Endosc. 87 (1) (2018) 18-29. https://doi: 10.1016/j.gie.2017.05.036. 42. 42. M. Ghareghani, R.J. Reiter, K. Zibara, N. Farhadi, Latitude, vitamin D, melatonin, and gut microbiota act in concert to initiate multiple sclerosis: A new mechanistic pathway, Front. Immunol. 9 (2018) 2484. https://doi: 10.3389/fimmu.2018.02484. Page 19/30 Page 19/30 43. 43. Y. Jing, D. Yang, F. Bai, C. Zhang, C. Qin, D. Li, et al., Melatonin treatment alleviates spinal cord injury-induced gut dysbiosis in mice, J. Neurotrauma 36 (18) (2019) 2646-2664. https://doi: 10.1089/neu.2018.6012. 44. 44. J. Yin, Y. Li, H. Han, J. Ma, G. Liu, X. Wu, et al., Administration of exogenous melatonin improves the diurnal rhythms of the gut microbiota in mice fed a high-fat diet, mSystems 5 (3) (2020) e00002- 20. https://doi: 10.1128/mSystems.00002-20. 45. 45. A. Yildirim, S. Arabacı Tamer, D. Sahin, F. Bagriacik, M.M. Kahraman, N.D. Onur, et al., The effects of antibiotics and melatonin on hepato-intestinal inflammation and gut microbial dysbiosis induced by a short-term high-fat diet consumption in rats, Br. J. Nutr. 122 (8) (2019) 841-855. https://doi: 10.1017/S0007114519001466. 46. 46. F. Hong, S. Pan, P. Xu, T. Xue, J. Wang, Y. References Guo, et al., Melatonin orchestrates lipid homeostasis through the hepatointestinal circadian clock and microbiota during constant light exposure, Cells 9 (2) (2020) 489. https://doi: 10.3390/cells9020489. 47. 47. S. Yue, D. Zhao, C. Peng, C. Tan, Q. Wang, J. Gong, Effects of theabrownin on serum metabolites and gut microbiome in rats with a high-sugar diet, Food Funct. 10 (11) (2019) 7063-7080. https://doi: 10.1039/c9fo01334b. 48. 48. Bubenik GA, Pang SF, Cockshut JR, Smith PS, Grovum LW, Friendship RM, et al. Circadian variation of portent arterial and venous blood levels of melatonion in pigs and its relationship to food intake and sleep, J. Pineal Research. 28 (1) (2000) 9-15. https://doi: 10.1034/j.1600- 079x.2000.280102.x. 49. 49. M. Kvietkauskas, V. Zitkute, B. Leber, K. Strupas, P. Stiegler, P. Schemmer, The role of melatonin in colorectal cancer treatment: a comprehensive review, Ther. Adv. Med. Oncol. 12 (2020) 1758835920931714. https://doi: 10.1177/1758835920931714. 50. 50. J.R. Allegretti, B.H. Mullish, C. Kelly, M. Fischer, The evolution of the use of faecal microbiota transplantation and emerging therapeutic indications, Lancet 394 (10196) (2019) 420-431. https://doi: 10.1016/S0140-6736(19)31266-8. 51. 51. S. Kanwal, T.P. Joseph, L. Owusu, R. Xiaomeng, L. Meiqi, X. Yi A, polysaccharide isolated from Dictyophora indusiata promotes recovery from antibiotic-driven intestinal dysbiosis and improves gut epithelial barrier function in a mouse model, Nutrients 10 (8) (2018) 1003. https://doi: 10.3390/nu10081003. 52. 52. S.R. Sammi, J.K. Rawat, N. Raghav, A. Kumar, S. Roy, M. Singh, et al., Galantamine attenuates N,N-dimethyl hydrazine induced neoplastic colon damage by inhibiting acetylcholinesterase and bimodal regulation of nicotinic cholinergic neurotransmission, Eur. J. Pharmacol. 818 (2018) 174- 183. https://doi: 10.1016/j.ejphar.2017.10.036. 53. 53. M. Tachikawa, K. Amano, K. Nishiyama, A. Urano, K. Kato, K. Yamanaka, Methylamine dichloramine may play a role in the process of colorectal disease through architectural and oxidative changes in crypts in mice, Life Sci. 84 (25-26) (2009) 923-928. https://doi: 10.1016/j.lfs.2009.04.007. Page 20/30 54. 54. T. Xia, J. Zhang, L. Han, Z. Jin, J. Wang, X. Li, et al., Protective effect of magnolol on oxaliplatin- induced intestinal injury in mice, Phytother. Res. 33 (4) (2019) 1161-1172. https://doi: 10.1002/ptr.6311. 55. 55. H. Kim, Y. Jeong, S. Kang, H.J. You, G.E. Ji, Co-culture with Bifidobacterium catenulatum improves the growth, gut colonization, and butyrate production of Faecalibacterium prausnitzii: in vitro and in vivo studies, Microorganisms 8(5) (2020) 788. https://doi: 10.3390/microorganisms8050788. 55. 55. H. Kim, Y. Jeong, S. Kang, H.J. You, G.E. References Ji, Co-culture with Bifidobacterium catenulatum improves the growth, gut colonization, and butyrate production of Faecalibacterium prausnitzii: in vitro and in vivo studies, Microorganisms 8(5) (2020) 788. https://doi: 10.3390/microorganisms8050788. 56. 56. E. Zagato, C. Pozzi, A. Bertocchi, T. Schioppa, F. Saccheri, S. Guglietta, et al., Endogenous murine microbiota member Faecalibaculum rodentium and its human homologue protect from intestinal tumour growth, Nat. Microbiol. 5 (3) (2020) 511-524. https://doi: 10.1038/s41564-019-0649-5. 57. 57. E.C. Soto-Martin, I. Warnke, F.M. Farquharson, M. Christodoulou, G. Horgan, M. Derrien, et al., Vitamin biosynthesis by human gut butyrate-producing bacteria and cross-feeding in synthetic microbial communities, mBio. 11(4) (2020) e00886-20. https://doi: 10.1128/mBio.00886-20. 57. 57. E.C. Soto-Martin, I. Warnke, F.M. Farquharson, M. Christodoulou, G. Horgan, M. Derrien, et al., Vitamin biosynthesis by human gut butyrate-producing bacteria and cross-feeding in synthetic microbial communities, mBio. 11(4) (2020) e00886-20. https://doi: 10.1128/mBio.00886-20. 58. 58. T. Satoh, M. Todoroki, K. Kobayashi, Y. Niimura, S. Kawasaki, Purified thioredoxin reductase from O2-sensitive Bifidobacterium bifidum degrades H2O2 by interacting with alkyl hydroperoxide reductase, Anaerobe 57 (2019) 45-54. https://doi: 10.1016/j.anaerobe.2019.03.012. 58. 58. T. Satoh, M. Todoroki, K. Kobayashi, Y. Niimura, S. Kawasaki, Purified thioredoxin reductase from O2-sensitive Bifidobacterium bifidum degrades H2O2 by interacting with alkyl hydroperoxide reductase, Anaerobe 57 (2019) 45-54. https://doi: 10.1016/j.anaerobe.2019.03.012. 59. 59. G.R. Swanson, A. Gorenz, M. Shaikh, V. Desai, C. Forsyth, L. Fogg, et al. Decreased melatonin secretion is associated with increased intestinal permeability and marker of endotoxemia in alcoholics, Am. J. Physiol. Gastrointest. Liver Physiol. 308 (12) (2015) G1004-G1011. https://doi: 10.1152/ajpgi.00002.2015. 60. 60. G.R. Swanson, J. Siskin, A. Gorenz, M. Shaikh, S. Raeisi, L. Fogg, et al., Disrupted diurnal oscillation of gut-derived short chain fatty acids in shift workers drinking alcohol: Possible mechanism for loss of resiliency of intestinal barrier in disrupted circadian host, Transl. Res. 221 (2020) 97-109. https://doi: 10.1016/j.trsl.2020.04.004. Figures Figures Page 21/30 Figure 1 Melatonin and its-remodeled FMT increase intestinal villus height/crypt depth (V/C) by enhancing antioxidation in antenatal and perinatal female rats. The timeline of treatments and sample collection in this study (A). Intestinal histological morphology indicated by H&E staining in A5 and P3 rats (n = 5 rats/group) (B). The ratio of intestinal villus height/crypt depth of duodenum (C), jejunum (D), ileum (E) and colon (F). A minimum of 10 tissue sections were cut from each sample. Five longest villi in each tissue section and a total of 250 longest villi were analyzed in each group. Ileum histological immunofluorescent imagines showed ROS level after treated with melatonin and FMT in A5 and P3 rats (G). The detections of ROS (H), T-AOC (I) and MDA in intestinal serum (J). Intestinal tissue expression of GPX5, SOD1, SOD2 and CAT proteins (n = 3) (K). The protein level analysis of GPX5 (L), SOD1 (M), SOD2 (N) and CAT (O). Mel, melatonin; FMT, fecal microbiota transplantation; A5, antenatal female rat on the day 5. P3, perinatal female rat on the day 3. *P < 0.05, **P < 0.01. gure 1 Figure 1 Melatonin and its-remodeled FMT increase intestinal villus height/crypt depth (V/C) by enhancing antioxidation in antenatal and perinatal female rats. The timeline of treatments and sample collection in this study (A). Intestinal histological morphology indicated by H&E staining in A5 and P3 rats (n = 5 rats/group) (B). The ratio of intestinal villus height/crypt depth of duodenum (C), jejunum (D), ileum (E) and colon (F). A minimum of 10 tissue sections were cut from each sample. Five longest villi in each tissue section and a total of 250 longest villi were analyzed in each group. Ileum histological immunofluorescent imagines showed ROS level after treated with melatonin and FMT in A5 and P3 rats (G). The detections of ROS (H), T-AOC (I) and MDA in intestinal serum (J). Intestinal tissue expression of GPX5, SOD1, SOD2 and CAT proteins (n = 3) (K). The protein level analysis of GPX5 (L), SOD1 (M), SOD2 (N) and CAT (O). Mel, melatonin; FMT, fecal microbiota transplantation; A5, antenatal female rat on the day 5. P3, perinatal female rat on the day 3. *P < 0.05, **P < 0.01. Page 22/30 Page 22/30 Page 23/30 Figure 2 Melatonin and FMT inhibit gut autophagy and inflammation in antenatal and perinatal female ra Intestinal histological images using transmission electron microscopy (TEM) in A5 and P3 rats. arrows indicate autophagic vacuole, and M indicates mitochondrion (A). Analysis of autophagic in the intestinal epithelial cells. For counting autophagic vacuoles including autophagosomes an autolysosomes, 10 randomly selected images in each sample and data from 5 rats in each grou Page 23/30 Figure 2 Melatonin and FMT inhibit gut autophagy and inflammation in antenatal and perinatal female rats. Intestinal histological images using transmission electron microscopy (TEM) in A5 and P3 rats. Red arrows indicate autophagic vacuole, and M indicates mitochondrion (A). Analysis of autophagic vacuo in the intestinal epithelial cells. For counting autophagic vacuoles including autophagosomes and autolysosomes, 10 randomly selected images in each sample and data from 5 rats in each group were Figure 2 Figure 2 Melatonin and FMT inhibit gut autophagy and inflammation in antenatal and perinatal female rats. Intestinal histological images using transmission electron microscopy (TEM) in A5 and P3 rats. Red arrows indicate autophagic vacuole, and M indicates mitochondrion (A). Analysis of autophagic vacuoles in the intestinal epithelial cells. For counting autophagic vacuoles including autophagosomes and autolysosomes, 10 randomly selected images in each sample and data from 5 rats in each group were Page 23/30 compared (B). Intestinal tissue expression of LC3B-I, LC3B-II, P62, ATG7 and BECN1 proteins (n = 3) (C). The protein level analysis of LC3B-II/LC3B-I (D), LC3B-I (E), LC3B-II (F), P62 (G), ATG7 (H) and BECN1 (I). Intestinal immunohistochemical images using antibody NF-κB (J). Detections of TNF-α (K), IL-1β (L), IL-6 (M) and IL-10 (N) in serum (n = 5). intestinal tissue expression of HSP72 and NF-κB proteins (n = 3) (O). The protein levels of HSP72 (P) and NF-Kb (Q). *P < 0.05, **P < 0.01. Intestinal immunohistochemical images using antibody NF-κB (J). Detections of TNF-α (K), IL-1β (L), IL-6 (M) and IL-10 (N) in serum (n = 5). intestinal tissue expression of HSP72 and NF-κB proteins (n = 3) (O). The protein levels of HSP72 (P) and NF-Kb (Q). *P < 0.05, **P < 0.01. Figure 3 Melatonin, FMT and FC improve intestinal V/C through inhibiting oxidative stress in early weaned rat. The timeline of treatments and sample collection (A). Intestinal histological morphology indicated by H&E staining in early weaned rats on the day 3 after weaning (n = 20 rats/group) (B). The V/C ratio of duodenum (C), jejunum (D), ileum (E) and colon (F). A minimum of 10 tissue sections were cut from each sample (randomly selected 10 rats/group). Five longest villi in each tissue section and a total of 500 longest villi were analyzed in each group. Ileum histological immunofluorescent imagines showed ROS level after treated with melatonin, FMT and FC in early weaned rats (G). The detections of ROS (H), T-AOC (I) and MDA (J) in intestinal tissue or serum (n = 10). Intestinal tissue expression of GPX5, SOD1, SOD2 and CAT proteins (n = 3) (K). The protein levels of GPX5(L), SOD1(M), SOD2(N) and CAT (O). FC, foster care. *P < 0.05, **P < 0.01. Figure 3 Figure 3 Melatonin, FMT and FC improve intestinal V/C through inhibiting oxidative stress in early weaned rat. The timeline of treatments and sample collection (A). Intestinal histological morphology indicated by H&E staining in early weaned rats on the day 3 after weaning (n = 20 rats/group) (B). The V/C ratio of duodenum (C), jejunum (D), ileum (E) and colon (F). A minimum of 10 tissue sections were cut from each sample (randomly selected 10 rats/group). Five longest villi in each tissue section and a total of 500 longest villi were analyzed in each group. Ileum histological immunofluorescent imagines showed ROS level after treated with melatonin, FMT and FC in early weaned rats (G). The detections of ROS (H), T-AOC (I) and MDA (J) in intestinal tissue or serum (n = 10). Intestinal tissue expression of GPX5, SOD1, SOD2 and CAT proteins (n = 3) (K). The protein levels of GPX5(L), SOD1(M), SOD2(N) and CAT (O). FC, foster care. *P < 0.05, **P < 0.01. Page 24/30 Figure 4 Melatonin, FMT and FC suppress gut autophagy and inflammation in early weaned rats. Intestinal histological images using TEM and red arrows indicate autophagic vacuoles (A). Analysis of autoph vacuoles in intestinal cells. For counting autophagic vacuoles, 5 randomly selected images in each sample and data from 10 rats in each group were compared (B) Intestinal tissue expression of LC3B Figure 4 Melatonin, FMT and FC suppress gut autophagy and inflammation in early weaned rats. Intestinal histological images using TEM and red arrows indicate autophagic vacuoles (A). Analysis of autoph vacuoles in intestinal cells. For counting autophagic vacuoles, 5 randomly selected images in each sample and data from 10 rats in each group were compared (B). Intestinal tissue expression of LC3B LC3B-II, P62, ATG7 and BECN1 proteins (n = 3) (C). The protein levels of LC3B-II/LC3B-I (D), LC3B-I (E Figure 4 Page 25/30 Melatonin, FMT and FC suppress gut autophagy and inflammation in early weaned rats. Intestinal histological images using TEM and red arrows indicate autophagic vacuoles (A). Analysis of autophagic vacuoles in intestinal cells. For counting autophagic vacuoles, 5 randomly selected images in each sample and data from 10 rats in each group were compared (B). Intestinal tissue expression of LC3B-I, LC3B-II, P62, ATG7 and BECN1 proteins (n = 3) (C). The protein levels of LC3B-II/LC3B-I (D), LC3B-I (E), Page 25/30 LC3B-II (F), P62 (G), ATG7 (H) and BECN1 (I). (J) Intestinal immunohistochemical images using antibody NF-κB. The detections of TNF-α (K), IL-1β (L), IL-6 (M) and IL-10 (N) in serum. (n = 10). Intestinal tissue expression of HSP72 and NF-κB proteins (n = 3) (O). The protein levels of HSP72 (P) and NF-κB (Q), *P < 0.05, **P < 0.01. LC3B-II (F), P62 (G), ATG7 (H) and BECN1 (I). (J) Intestinal immunohistochemical images using antibody NF-κB. The detections of TNF-α (K), IL-1β (L), IL-6 (M) and IL-10 (N) in serum. (n = 10). Intestinal tissue expression of HSP72 and NF-κB proteins (n = 3) (O). The protein levels of HSP72 (P) and NF-κB (Q), *P < 0.05, **P < 0.01. Figure 5 Melatonin, FMT and FC decrease intestinal permeability in early weaned rats. Serum FITC staining (n = 10) (A). Intestinal histological images using TEM. The red arrow indicates tight junction protein. M, mitochondrion (B). Intestinal tissue expression of ZO-1, Occludin and Claudin proteins (n = 3) (C). The protein levels of ZO-1 (D), Occludin (E) and Claudin (F). *P < 0.05, **P < 0.01. Figure 5 Melatonin, FMT and FC decrease intestinal permeability in early weaned rats. Serum FITC staining (n = 10) (A). Intestinal histological images using TEM. The red arrow indicates tight junction protein. M, mitochondrion (B). Intestinal tissue expression of ZO-1, Occludin and Claudin proteins (n = 3) (C). The protein levels of ZO-1 (D), Occludin (E) and Claudin (F). *P < 0.05, **P < 0.01. Page 26/30 Figure 6 Melatonin enhances antioxidation to attenuate autophagy and apoptosis in IEC6 treated with H2O2. The cells were pretreated with 10 μM melatonin for 24 hours, followed by 200 μM H2O2 stimulation for 1 or 2 hours before they were used for the next assay. Experiment design for the effect of Mel on anti-oxidation, anti-autophagy and anti-apoptosis in IEC6 cells (A). Melatonin was against oxidation in IEC6 treated with H2O2 (B). Cell expression of LC3B-I, LC3B-II, P62, ATG7, BECN1, GPX5, SOD1, SOD2 and CAT proteins (n = 3) (C). The protein levels of above proteins (D-G). Melatonin attenuates autophagy in IEC6 treated with H2O2 (H). Cell viability analysis (n = 6) (I). Analysis of GFP-LC3B dots per cells (J). Cell expression of LC3B-I, LC3B-II and P62 proteins (n = 3) (K). The protein levels of LC3B-II/LC3B-I (L) and P62 (M). Relative fluorescence intensity of Cleaved-caspase 3 in the treatment of melatonin with or without H2O2 (N). TEM images of cell ultrastructure of IEC-6 cells treated with Mel, H2O2 and Mel plus H2O2. The red arrow indicates apoptotic body. N, cell nucleus (O). Cell expression of Cleaved-caspase-3, Bcl-2, Bcl-XL, full length PARP, cleaved PARP, mitochrome-Cytochrome C-1 and cytoplasm-Cytochrome C-1 proteins (n = 3) (P). (Q-V) The protein levels of above genes. *P < 0.05, **P < 0.01. Figure 6 Figure 6 Figure 6 Melatonin enhances antioxidation to attenuate autophagy and apoptosis in IEC6 treated with H2O2. The cells were pretreated with 10 μM melatonin for 24 hours, followed by 200 μM H2O2 stimulation for 1 or 2 hours before they were used for the next assay. Experiment design for the effect of Mel on anti-oxidation, anti-autophagy and anti-apoptosis in IEC6 cells (A). Melatonin was against oxidation in IEC6 treated with H2O2 (B). Cell expression of LC3B-I, LC3B-II, P62, ATG7, BECN1, GPX5, SOD1, SOD2 and CAT proteins (n = 3) (C). The protein levels of above proteins (D-G). Melatonin attenuates autophagy in IEC6 treated with H2O2 (H). Cell viability analysis (n = 6) (I). Analysis of GFP-LC3B dots per cells (J). Cell expression of LC3B-I, LC3B-II and P62 proteins (n = 3) (K). The protein levels of LC3B-II/LC3B-I (L) and P62 (M). Relative fluorescence intensity of Cleaved-caspase 3 in the treatment of melatonin with or without H2O2 (N). TEM images of cell ultrastructure of IEC-6 cells treated with Mel, H2O2 and Mel plus H2O2. The red arrow indicates apoptotic body. N, cell nucleus (O). Cell expression of Cleaved-caspase-3, Bcl-2, Bcl-XL, full length PARP, cleaved PARP, mitochrome-Cytochrome C-1 and cytoplasm-Cytochrome C-1 proteins (n = 3) (P). (Q-V) The protein levels of above genes. *P < 0.05, **P < 0.01. Melatonin enhances antioxidation to attenuate autophagy and apoptosis in IEC6 treated with H2O2. The cells were pretreated with 10 μM melatonin for 24 hours, followed by 200 μM H2O2 stimulation for 1 or 2 hours before they were used for the next assay. Experiment design for the effect of Mel on anti-oxidation, anti-autophagy and anti-apoptosis in IEC6 cells (A). Melatonin was against oxidation in IEC6 treated with H2O2 (B). Cell expression of LC3B-I, LC3B-II, P62, ATG7, BECN1, GPX5, SOD1, SOD2 and CAT proteins (n = 3) (C). The protein levels of above proteins (D-G). Melatonin attenuates autophagy in IEC6 treated with H2O2 (H). Cell viability analysis (n = 6) (I). Analysis of GFP-LC3B dots per cells (J). Cell expression of LC3B-I, LC3B-II and P62 proteins (n = 3) (K). The protein levels of LC3B-II/LC3B-I (L) and P62 (M). Relative fluorescence intensity of Cleaved-caspase 3 in the treatment of melatonin with or without H2O2 (N). TEM images of cell ultrastructure of IEC-6 cells treated with Mel, H2O2 and Mel plus H2O2. The red arrow indicates apoptotic body. N, cell nucleus (O). Figure 6 Cell expression of Cleaved-caspase-3, Bcl-2, Bcl-XL, full length PARP, cleaved PARP, mitochrome-Cytochrome C-1 and cytoplasm-Cytochrome C-1 proteins (n = 3) (P). (Q-V) The protein levels of above genes. *P < 0.05, **P < 0.01. Page 27/30 Figure 7 Melatonin, FMT and FC increase the abundances of Allobaculum, Bifidobacterium and Faec by remodeling gut microbiota in rats. Experiment design for feces bacterial 16S rDNA gene a ( ) ( ) Figure 7 Melatonin, FMT and FC increase the abundances of Allobaculum, Bifidobacterium and Faecaliba by remodeling gut microbiota in rats. Experiment design for feces bacterial 16S rDNA gene ampli sequencing analysis (A). Shannon index in α‐diversity analysis (B). Simpson index in α‐diversity a (C). PCoA plot analysis from each sample (n = 5) (D). weighted UniFrac distance in each sample Figure 7 Melatonin, FMT and FC increase the abundances of Allobaculum, Bifidobacterium and Faecalibaculum by remodeling gut microbiota in rats. Experiment design for feces bacterial 16S rDNA gene amplicon sequencing analysis (A). Shannon index in α‐diversity analysis (B). Simpson index in α‐diversity analysis (C). PCoA plot analysis from each sample (n = 5) (D). weighted UniFrac distance in each sample (E). Microbiota compositions and abundances at the phylum (F), order (G) and genus (H) levels, respectively. Page 28/30 Page 28/30 ACont, antenatal control. AMel, antenatal melatonin. AFMT, antenatal FMT. PCont, perinatal control. PMel, perinatal melatonin. PFMT, perinatal FMT. WCont, weaned control. WMel, weaned melatonin. WFMT weaned FMT. WFC, weaned foster care. *P < 0.05, **P < 0.01. ACont, antenatal control. AMel, antenatal melatonin. AFMT, antenatal FMT. PCont, perinatal control. PMel, perinatal melatonin. PFMT, perinatal FMT. WCont, weaned control. WMel, weaned melatonin. WFMT weaned FMT. WFC, weaned foster care. *P < 0.05, **P < 0.01. perinatal melatonin. PFMT, perinatal FMT. WCont, weaned control. WMel, weaned melatonin. WFMT weaned FMT. WFC, weaned foster care. *P < 0.05, **P < 0.01. Figure 8 Figure 9 Schematic diagram for melatonin, FMT and FC improving gut health through increasing intestinal V/C, enhancing antioxidation, and inhibiting autophagy, inflammatory and apoptosis. Schematic diagram for melatonin, FMT and FC improving gut health through increasing intestinal V/C, enhancing antioxidation, and inhibiting autophagy, inflammatory and apoptosis. Figure 8 Melatonin, FMT and FC protect intestinal health through more SCFAs produced by reprogrammed gut microbiota. The concentrations of fecal total SCFAs (A), acetic acid (B), propionate (C), and butyrate (D) in antenatal and perinatal female rats. The concentrations of fecal total SCFAs (E), acetic acid (F), propanoic acid (G) and butyric acid (H) in early weaned rats. Correlation analyses between acetic acid and Lactobacillus (I). Correlation analyses between acetic acid and Allobaculum (J). Correlation analyses between acetic acid and Bifidobacterium (K). Correlation analyses between propanoic acid and Faecalibaculum (L). Correlation analyses between butyric acid and Lactobacillus (M). Correlation analyses between butyric acid and Allobaculum (N). Correlation analyses between butyric acid and Bifidobacterium (O). Correlation analyses between butyric acid and Faecalibaculum; Fecal SCFAs were determined by gas chromatography. Differences were assessed by Student’s t test, *P < 0.05. Correlation analysis between microbiota and acetic acid was conducted by Pearson correlation analysis (P). Melatonin, FMT and FC protect intestinal health through more SCFAs produced by reprogrammed gut microbiota. The concentrations of fecal total SCFAs (A), acetic acid (B), propionate (C), and butyrate (D) in antenatal and perinatal female rats. The concentrations of fecal total SCFAs (E), acetic acid (F), propanoic acid (G) and butyric acid (H) in early weaned rats. Correlation analyses between acetic acid and Lactobacillus (I). Correlation analyses between acetic acid and Allobaculum (J). Correlation analyses between acetic acid and Bifidobacterium (K). Correlation analyses between propanoic acid and Faecalibaculum (L). Correlation analyses between butyric acid and Lactobacillus (M). Correlation analyses between butyric acid and Allobaculum (N). Correlation analyses between butyric acid and Bifidobacterium (O). Correlation analyses between butyric acid and Faecalibaculum; Fecal SCFAs were determined by gas chromatography. Differences were assessed by Student’s t test, *P < 0.05. Correlation analysis between microbiota and acetic acid was conducted by Pearson correlation analysis (P). Page 29/30 Supplementary Files This is a list of supplementary files associated with this preprint. Click to download. Page 30/30
https://openalex.org/W4387151947
https://zenodo.org/record/8385249/files/02%20Technological%20Advancements%20Driving%20Agricultural%20Transformation%20.pdf
English
null
Technological advancements driving agricultural trans-formation
Zenodo (CERN European Organization for Nuclear Research)
2,023
cc-by
3,292
OPEN ACCESS OPEN ACCESS CITATION Yadav, R.; Kumar, R.; Kumar, U. technological advancements driving agricultural transformation. AgriSustain-an International Journal, 2023, 01(2), 05-11. ARTICLE INFORMATION Received: May 2023 Revised: June 2023 Accepted: June 2023 COPYRIGHT © 2023 by the authors. Submitted for possible open access publication under the terms and conditions of the Creative Commons Attribution license (CC BY). TECHNOLOGICAL ADVANCEMENTS DRIVING AGRICULTURAL TRANSFORMATION Rishikesh Yadav1, Robin Kumar2, Umesh Kumar3 1Soil Science & Agricultural Chemistry, Chandra Shekhar Azad University of Agriculture & Technology, Kanpur U.P. (208002) 2Soil Science & Agricultural Chemistry, Acharya Narendra Deva University of Agriculture and Technology Kumarganj Ayodhya U.P. (224229) 3Soil Science & Agricultural Chemistry, Sardar Vallabh Bhai Patel University of Agriculture & Technology, Meerut U.P. (250110) *Corresponding Author: rishiy156@gmail.com 1Soil Science & Agricultural Chemistry, Chandra Shekhar Azad University of Agriculture & Technology, Kanpur U.P. (208002) 2Soil Science & Agricultural Chemistry, Acharya Narendra Deva University of Agriculture and Technology Kumarganj Ayodhya U.P. (224229) 3Soil Science & Agricultural Chemistry, Sardar Vallabh Bhai Patel University of Agriculture & Technology, Meerut U.P. (250110) *Corresponding Author: rishiy156@gmail.com 1Soil Science & Agricultural Chemistry, Chandra Shekhar Azad University of Agriculture & Technology, Kanpur U.P. (208002) 1Soil Science & Agricultural Chemistry, Chandra Shekhar Azad University of Agriculture & Technology, Kanpur U.P. (208002) 2Soil Science & Agricultural Chemistry, Acharya Narendra Deva University of Agriculture and Technology Kumarganj Ayodhya U.P. (224229) 3Soil Science & Agricultural Chemistry, Sardar Vallabh Bhai Patel University of Agriculture & Technology, Meerut U.P. (250110) *Corresponding Author: rishiy156@gmail com ARTICLE INFORMATION Received: May 2023 Revised: June 2023 Accepted: June 2023 Received: May 2023 Revised: June 2023 Accepted: June 2023 CITATION Yadav, R.; Kumar, R.; Kumar, U. technological advancements driving agricultural transformation. AgriSustain-an International Journal, 2023, 01(2), 05-11. Introduction Agriculture has always been a fundamental aspect of human civilization, providing sustenance and nourishment throughout history. However, as the global population continues to grow, agricultural practices face increasing pressure to meet the rising demand for food while minimizing environmental impact. In response to these challenges, technological advancements have emerged as key drivers of agricultural transformation. This article explores the transformative role of technology in modern agriculture. It delves into various technological innovations that have revolutionized farming practices, from precision agriculture and smart farming to genetic engineering and automation. By harnessing the power of technology, farmers can enhance productivity, optimize resource utilization, promote sustainability, and address critical global food security concerns. Numerous studies indicate that during the early phases of economic development, the agricultural sector is remarkably effective at reducing poverty, often two to three times more effective than comparable growth in other industries [1]. Additionally, at these initial developmental stages, agricultural growth tends to have a disproportionately positive impact on the poorest segments of the population [2]. Furthermore, it plays a crucial role in addressing malnutrition concerns [3]. Research has consistently shown that agriculture's contribution to the value added per worker directly contributes to an increase in GDP per capita, effectively acting as an engine for overall economic AgriSustain AgriSustain AgriSustain Abstract The article discusses the pivotal role of technology in modern agriculture, highlighting its transformative impact on farming practices. It explores various technological innovations such as precision agriculture, smart farming, genetic engineering, and automation, which have enabled farmers to boost productivity, optimize resource use, promote sustainability, and address global food security challenges. Additionally, the article emphasizes the significance of agriculture in poverty reduction, particularly during early stages of economic development, where it proves more effective than other industries. It also underscores agriculture's contribution to GDP per capita growth, citing examples of its positive economic impact. Furthermore, the article acknowledges agriculture's role in stabilizing food production, enhancing food security, and preventing food crises, crucial for maintaining societal well-being and economic stability. Keywords: Precision agriculture, and transformation, smart farming, genetic engineering COPYRIGHT © 2023 by the authors. Submitted for possible open access publication under the terms and conditions of the Creative Commons Attribution license (CC BY). https://journals.rdagriculture.in AgriSustain-An International Journal 2023, 01(2), 05-11. AgriSustain-An International Journal 2023, 01(2), 05-11. Yadav et.al., 2023 6 growth [4]. For instance, a study by the FAO in 2002 found that a 500 kcal per day increase in dietary energy supply, which can be achieved through investments in agriculture, resulted in a 2 percent growth in GDP per capita in East and Southeast Asia [5], demonstrating that agriculture can be viewed as an investment in human capital [6]. Moreover, the agricultural sector has a proven track record in stabilizing domestic food production, enhancing food security, and mitigating the occurrence of food crises, which can otherwise lead to political and social instability, negatively impacting investment and efficiency [7&8]. This multifaceted role of agriculture is essential for maintaining economic stability and overall societal well-being. Smart Farming: Connectivity and Automation Revolutionizing Agriculture The advent of the Internet of Things (IoT) has revolutionized farming through the concept of smart farming. Smart farming involves the interconnectivity of various devices and sensors that gather real-time data and enable automation in agricultural operations. This technology enables farmers to remotely monitor and control farming systems, resulting in enhanced efficiency and productivity. Sensors embedded in the fields and on farm equipment provide valuable information about soil moisture, temperature, humidity, and plant health. This data can be wirelessly transmitted to farmers’ devices, allowing them to make informed decisions in real-time. Automated systems, such as robotic harvesters and milking machines, streamline labor-intensive tasks, reducing the dependency on manual labor and improving overall productivity. Moreover, smart farming facilitates the implementation of autonomous vehicles for tasks like planting, spraying, and harvesting. These vehicles leverage advanced navigation and artificial intelligence algorithms to operate independently, reducing human error and optimizing time and resource utilization. Additionally, smart farming practices enable the integration of vertical farming and hydroponics, where crops are grown indoors under controlled environments, maximizing yields and minimizing water and land requirements. Precision Agriculture: The Power of Data-Driven Farming Precision agriculture involves the use of advanced technologies to gather and analyze data, enabling farmers to make informed decisions and optimize their farming practices. Geographic Information Systems (GIS), Global Positioning Systems (GPS), and remote sensing technologies play a pivotal role in precision agriculture. These tools provide valuable insights into soil conditions, moisture levels, crop health, and nutrient deficiencies, among other parameters. By precisely mapping these variables, farmers can implement targeted interventions, such as variable-rate fertilization and irrigation, thereby optimizing resource allocation and reducing waste. Real-time monitoring and predictive analytics further enhance decision-making by identifying potential issues and enabling prompt action. Furthermore, the integration of drones and satellites allows for efficient and cost-effective data collection over large agricultural areas. RD Agriculture Genetic Engineering: Enhancing Crop Traits for Improved Agriculture Genetic engineering has emerged as a powerful tool for enhancing crop traits and addressing agricultural challenges. Through the manipulation of an organism’s DNA, scientists can introduce specific genes that confer desirable traits such as resistance to pests, diseases, and environmental stressors, improved nutritional content, and enhanced yield potential. Genetically modified (GM) crops, such as insect-resistant Bt cotton and herbicide-tolerant soybeans, have gained widespread adoption due to their ability RD Agriculture https://journals.rdagriculture.in https://journals.rdagriculture.in AgriSustain-An International Journal 2023, 01(2), 05-11. 7 Yadav et.al., 2023 to increase crop yields and reduce the use of chemical inputs. Furthermore, gene- editing technologies like CRISPR-Cas9 have revolutionized genetic engineering by enabling precise modifications with greater ease and efficiency. Genetic engineering also offers the potential for developing crops with increased nutritional value, such as bio-fortified crops enriched with essential vitamins and minerals. Additionally, research is underway to create climate-resilient crops that can withstand adverse weather conditions, including drought, extreme temperatures, and salinity. Public Expenditure in Agriculture Public Expenditure in Agriculture In Asia, key strategies and government actions have revolved around utilizing price incentives, investing in agricultural research and development (R&D), enhancing rural infrastructure, boosting education and healthcare services, and overhauling rural institutions related to land tenure security, credit accessibility, and savings mechanisms. Agricultural institutions hold a pivotal position in the process of agricultural transformation, and when they are reformed efficiently and promptly, they contribute to establishing a dynamic environment that is vital for achieving successful transformation. Significant levels of public spending in the agricultural sector have historically been linked to the initial phases of agricultural transformation in Asia. This funding is typically directed towards critical areas such as infrastructure development (including irrigation, rural roads, and electrification), the promotion of agricultural mechanization, and the provision of subsidies for modern inputs like seeds and fertilizers. Across Asia, achieving self-sufficiency in rice production has consistently been a central goal of public policy and investment, and this objective remains a priority in several countries today. It is worth noting that the RD Agriculture RD Agriculture https://journals.rdagriculture.in https://journals.rdagriculture.in AgriSustain-An International Journal 2023, 01(2), 05-11. Yadav et.al., 2023 8 prolonged or occasionally heightened allocation of agricultural subsidies in Asia may not always be justified by economic reasoning. For instance, in China, the annual average public spending on agriculture saw a substantial rise of 240 percent between 1996 and 2010. Genetic Engineering: Enhancing Crop Traits for Improved Agriculture When combined with other governmental policies, this increase has led to a significant reduction in poverty levels, measured at USD 1.90 per day, plummeting from 88.1 percent in 1981 to a mere 0.3 percent in 2018, as reported by the World Bank and the Development Research Center in 2022. In Indonesia, during the 1970s, there was an annual increase of approximately 10 percent in public investment in agriculture. This boost in funding served as a catalyst for agricultural transformation, which began gaining momentum in the 1980s. Additionally, investments made in primary education and vocational training have played a pivotal role in promoting inclusive agricultural transformation in countries like Vietnam, Thailand, the Philippines, China, and South Korea. FAO Making Trade Work for Improved Food Security and Nutrition. Trade impacts directly on food volumes and prices in national markets and hence affects each dimension of food security (availability, access, utilization and stability). FAO supports members in multiple ways, providing: information and in-depth analysis on the possible consequences of trade policies; capacity development to improve understanding of international trade rules and their implications; neutral forums for dialogue between trade and agriculture stakeholders; support to regional trade integration; and assistance in preparing for trade negotiations and in implementing agreements. RD Agriculture Key policy messages 1. Trade policy has a critical role to play in eradicating global hunger by 2030, but trade alone cannot address all of the socio-economic and political challenges that influence food security and nutrition. 2. Multilateral trade rules, which take into account the specific needs of developing countries, are needed to ensure that the expansion of agricultural trade is conducive to the eradication of hunger, food insecurity and malnutrition. This is particularly pertinent in times of crisis. COVID-19 is a reminder of the importance of international trade in mitigating the impacts of shocks and protecting livelihoods while ensuring food security. 3. Trade policies must consider the different needs and roles of both large-scale agricultural producers and those of smallholder and family farms. 3. Trade policies must consider the different needs and roles of both large-scale agricultural producers and those of smallholder and family farms. 4. Sound policies for food security and nutrition balance a reliance on trade with domestic production to ensure stable food availability and accessibility. At the same time, policies should raise income levels for the rural poor and improve nutritional value in food chains. 5. FAO assists Members in strengthening their capacities related to international trade agreements and the promotion of export opportunities. The focus is on the development of evidence-based analyses, knowledge sharing, technical assistance and dialogue on key issues related to food and agricultural trade, including regional and multilateral trade negotiations. 6. Trade and governance are tightly interrelated and both carry cross-sectoral relevance within FAO. It’s crucial to develop an ever-improving framework for trade-related policy-making processes in accordance with standards and regulations set in place by the WTO. FAO aims to make trading systems as free, fair, predictable and inclusive as possible on local, national, regional and global levels. RD Agriculture RD Agriculture https://journals.rdagriculture.in https://journals.rdagriculture.in AgriSustain-An International Journal 2023, 01(2), 05-11. Yadav et.al., 2023 9 Rural Finance In the Asian context, rural financial services are typically provided by two main categories of suppliers: formal and informal. Informal financial service providers encompass private individuals, including professional moneylenders, traders, commission agents, landlords, as well as friends and relatives. Over the past few decades, civil society organizations like the Grameen Bank in Bangladesh have also started to play a more prominent role in this domain. On the other hand, the formal sector consists of entities like commercial banks and other financial intermediaries that operate under national banking regulations and are subject to supervision, as outlined in the FAO 2005 report. According to Mellor [9], extending loans to small-scale commercial farmers leads to increased investments, which, in turn, make a significant contribution to the growth of the agricultural sector. Both formal and informal rural financial intermediaries have crucial roles to play, but formal institutions have been a primary source of credit for small commercial farmers, as highlighted in FAO's report from 2021. FAO and Mellor [9&10] argue that the establishment of a specialized lending agency tailored to the unique needs of small commercial farmers is a vital step in ensuring access to rural financing for agricultural-based livelihoods. Initially, this specialized agency may need to be a public-sector organization during the early stages of agricultural transformation. However, it's important to carefully consider this option to avoid displacing private sector and civil society organizations. Nonetheless, since the late 1990s, there has been a growing emphasis on implementing a more decentralized rural finance system to enhance the effectiveness of rural financial services. A recent study on food system transformation by the Philippine government [11] with support from the Asian Development Bank and FAO, suggests the adoption of a "centrally supported decentralized service delivery" approach. Rural and Agrarian transformation in India The rural economy has undergone a transformation, shifting from subsistence farming to a cash-based system. Farmers have transitioned to cultivating cash crops such as sugarcane and cotton, which they sell in external markets. They have increased their productivity by adopting new agricultural techniques. The government plays a more active role in the village agricultural economy through various development programs and personnel. Village cooperatives strive to support farmers by providing essential agricultural inputs. Despite the enactment of land legislations, there has been little change in the land ownership pattern. Tenant farmers have not seen significant improvements in their conditions, and agricultural laborers continue to live in poverty, even though agricultural production has increased. Given that agricultural production operates within a capitalist and market-oriented framework, the farming community does not reap the benefits of increased production. Instead, industrialists and traders, who wield influence in national politics, tend to capture the profits from agricultural yields. Consequently, farmers often find themselves compelled to sell their produce due to immediate financial needs. https://journals.rdagriculture.in RD Agriculture RD Agriculture h Yadav et.al., 2023 AgriSustain-An International Journal 2023, 01(2), 05-11. 10 Agricultural Automation: Optimizing Efficiency and Labor Automation technologies are transforming traditional agricultural practices by reducing the reliance on manual labor, optimizing efficiency, and improving overall productivity. Automated systems are being employed in various stages of agricultural operations, from planting and irrigation to harvesting and post- harvest processing. Automated planting systems accurately place seeds at optimized depths and spacing, ensuring uniform plant growth and maximizing yield potential. Intelligent irrigation systems utilize real-time data to deliver precise amounts of water to crops, minimizing water wastage and reducing the risk of over-irrigation. In the realm of harvesting, automated machinery and robotics have significantly reduced the labor required for tasks such as fruit picking, sorting, and packing. These technologies improve the speed and accuracy of harvesting operations, reducing post-harvest losses and ensuring product quality. • Furthermore, automated post-harvest processing systems streamline activities such as sorting, grading, and packaging, reducing human error and enhancing efficiency. Advanced storage and preservation techniques, including controlled atmospheres and smart warehouses, help maintain the quality and extend the shelf life of agricultural produce. Conclusion Technological advancements have the potential to revolutionize agriculture and address critical challenges faced by the global food system. Precision agriculture, smart farming, genetic engineering, and agricultural automation are among the key drivers of this agricultural transformation. By harnessing data- driven insights and leveraging automation, farmers can optimize resource utilization, increase productivity, and reduce environmental impact. Genetic engineering offers the potential to enhance crop traits and develop varieties that are resilient to pests, diseases, and changing climate conditions. However, the adoption of these technologies must be accompanied by considerations of ethical, environmental, and socio-economic factors. Proper regulations, training programs, and infrastructure development are crucial to ensure that technological advancements in agriculture are accessible and beneficial to all farmers, including those in resource-constrained regions. As we move forward, continued research and development in agricultural technology, along with collaborative efforts between farmers, scientists, policymakers, and technology providers, will be essential for a sustainable and resilient agricultural sector capable of feeding a growing global population while minimizing its environmental footprint. AgriSustain-An International Journal 2023, 01(2), 05-11. RD Agriculture References https://journals.rdagriculture.in https://journals.rdagriculture.in RD Agriculture RD Agriculture RD Agriculture AgriSustain-An International Journal 2023, 01(2), 05-11. Yadav et.al., 2023 11 1. Christiaensen, L., and W. Martin. Agriculture, Structural Transformation and Poverty Reduction: Eight new insights. World Development, 2018, 109, 413-416 [google scholar] [DOI] 1. Christiaensen, L., and W. Martin. Agriculture, Structural Transformation and Poverty Reduction: Eight new insights. World Development, 2018, 109, 413-416 [google scholar] [DOI] 2. Ligon, E.; Sadoulet, E. Estimating the Relative Benefits of Agricultural Growth on the Distribution of Expenditures. World Development, 2018, 109: 417-428. [google scholar] [DOI] 2. Ligon, E.; Sadoulet, E. Estimating the Relative Benefits of Agricultural Growth on the Distribution of Expenditures. World Development, 2018, 109: 417-428. [google scholar] [DOI] 3. Headey, D.D. Developmental Drivers of Nutritional Change: A Cross-Country Analysis. World Development, 2013, 42: 76-88. [google scholar] [DOI] 3. Headey, D.D. Developmental Drivers of Nutritional Change: A Cross-Country Analysis. World Development, 2013, 42: 76-88. [google scholar] [DOI] 4. Tiffin, R.; X. Irz. Is Agriculture the Engine of Growth? Agricultural Economics, 2006, 35: 79-89. [google scholar] [DOI] 5. FAO (Food and Agriculture Organization). Does Better Nutrition Cause Economic Growth? The Efficiency Cost of Hunger Revisited." ESA Working Paper 2002, 02-11. Rome, Italy: FAO. [google scholar] [DOI] 6. Fogel, R.W. Economic Growth, Population Theory, and Physiology: The Bearing of Long- Term Processes on the Making of Economic Policy" Nobel Prize Lecture. American Economic Review, 1994, 84(3): 369-95. [google scholar] [DOI] 7. Timmer. Food Price Policy: The Rationale for Government Intervention. Food Policy, 1989, 14(1) 17- 27. [google scholar] [DOI] 7. Timmer. Food Price Policy: The Rationale for Government Intervention. Food Policy, 1989, 14(1) 17- 27. [google scholar] [DOI] g g 8. Dawe, D. 1996. "A New Look on the Effects of Export Instability on Investment and Growth." World Development 24(12): 1905-15. [google scholar] [DOI] 8. Dawe, D. 1996. "A New Look on the Effects of Export Instability on Investment and Growth." World Development 24(12): 1905-15. [google scholar] [DOI] 8. Dawe, D. 1996. "A New Look on the Effects of Export Development 24(12): 1905-15. [google scholar] [DOI] 9. Mellor, W.J. Agricultural Development and Economic Transformation: Promoting Growth with Poverty Reduction." Palgrave Studies in Agricultural Economics and Food Policy (AEFP). Palgrave Macmillan Cham. 2017, ISBN:978-3-319-65259-7. [google scholar] [DOI] 9. Mellor, W.J. Agricultural Development and Economic Transformation: Promoting Growth with Poverty Reduction." Palgrave Studies in Agricultural Economics and Food Policy (AEFP). Palgrave Macmillan Cham. 2017, ISBN:978-3-319-65259-7. [google scholar] [DOI] 10. References FAO. Decentralization of Agricultural Services: Decentralization of Rural Financial Services. FAO 2005, EASYPol, Module 014. [google scholar] [DOI] 11. DA (Department of Agriculture, Philippines). 2022. National Agriculture and Fisheries Modernization and Industrialization Plan 2021-2030: Transforming the Philippine Food System Together. Philippines: DA. RD Agriculture RD Agriculture https://journals.rdagriculture.in https://journals.rdagriculture.in
https://openalex.org/W4220983274
https://link.springer.com/content/pdf/10.1007/s13304-022-01271-z.pdf
English
null
A prospective study comparing two methods of pre-hospital triage for trauma
Updates in surgery
2,022
cc-by
6,658
1  Trauma prevention, pre-hospital care, acute in-hospital trauma care, post-hospital care, research activities and education. Abstract We conducted a prospective study comparing two different pre-hospital triage tools for trauma: the American College of Surgeons Committee on Trauma (ACS-COT) field triage decision scheme and the TRENAU score. The main objective was to evaluate which triage tool was more appropriate in the setting of Lombardy's trauma system. Data were collected from the population of trauma patients admitted to Niguarda hospital in Milan from January to June 2021. RStudio and Excel were used for data analysis. For each triage tool performance measures, Receiver Operating Characteristics (ROC) curves, and overtriage and undertriage rates were obtained. A total of 1439 injured patients admitted through 118 pre-hospital Emergency Medical Services (EMS) were included in the study. The ACS-COT triage tool showed a good accuracy but an excessive overtriage rate (59%). The TRENAU triage tool had a moderately good accuracy and a low overtriage rate (23%) while maintaining an acceptable undertriage rate (3.9%). The TRENAU triage tool proved to be efficient in optimizing the use of resources dedicated to trauma care while resulting safe for the injured patient. In a modern trauma system such as Lombardy's it would be more appropriate to adopt the TRENAU score over the ACS-COT field triage decision scheme. Keywords  Triage · ACS-COT · TRENAU · Inclusive trauma system · Exclusive trauma system A prospective study comparing two methods of pre‑hospital triage for trauma C. Bagnato1 · K. Ranzato1 · A. Giarraca2 · P. Restelli2 · S. Saronni2 · G. Gadda2 · O. Chiara3 · S. C Received: 31 October 2021 / Accepted: 3 March 2022 / Published online: 20 March 2022 © The Author(s) 2022 C. Bagnato and O. Chiara contributed equally to this work. Updates in Surgery (2022) 74:1739–1747 https://doi.org/10.1007/s13304-022-01271-z Updates in Surgery (2022) 74:1739–1747 https://doi.org/10.1007/s13304-022-01271-z ORIGINAL ARTICLE ORIGINAL ARTICLE C. Bagnato and O. Chiara contributed equally to this work. * S. Cimbanassi stefania.cimbanassi@unimi.it C. Bagnato clara.bagnato55@gmail.com O. Chiara osvaldo.chiara@unimi.it 1 Acute Care Surgery‑Trauma Team, ASST GOM Niguarda, 20162 Milan, Italy 2 Emergency Department, ASST GOM Niguarda, 20162 Milan, Italy 3 Department of Medical‑Surgical Physiopathology and Transplantation, AcuteCareSurgery‑TraumaTeam, ASST GOM Niguarda, 20162 Milan, Italy Data collection Data were collected from pre-hospital EMS’ reports, dis- patch on major trauma papers, emergency room reports and medical charts and were organized in a spreadsheet file. i The following information was included in the database: age, gender, EMS type (basic life support, intermediate life support, advanced life support or helicopter rescue), notice by the 118 dispatch center based on the ACS-COT triage cri- teria, trauma type (closed vs open/piercing), event type (sin- gle or multiple, self-inflicted or inflicted by a third party), trauma mechanism (road accident, fall, assault, sport injury, animal related injury or other), ACS-COT triage criteria, risk factors and comorbidities, physiologic parameters on the scene, outcome (discharge by the ED, admission to the oper- ating theater, admission to the intensive care unit, damage control maneuvers performed in the emergency room, death in the ED, hospitalization), Injury Severity Score (ISS), TT activation, TRENAU score, New Trauma Score for Triage (T-NTS). To optimize the pre-hospital phase of trauma care, a trauma system should adopt triage tools that better adapt to the local environment. In the U.S.A. paramedics implement the American College of Surgeons Committee on Trauma (ACS-COT) field triage decision scheme: four successive steps, each consisting of a specific set of criteria, are fol- lowed to evaluate the injured patient [5, 6]. Italy has also been adopting the ACS-COT triage tool to evaluate the trauma patient on the scene of the event. The new 2020 guidelines however suggest the use of the triage score devel- oped in the context of the Northern French Alps (TRENAU) trauma system. An effort is thus being made to promote the transition from the ACS-COT triage tool to the TRENAU triage tool where appropriate. The parameters assessed by the TRENAU criteria are similar to those assessed by the ACS-COT field triage decision scheme, with the addition of the response of the patient to treatment. Response to treat- ment can be evaluated during the pre-hospital phase since in France, as well as in Italy, the EMS personnel is also composed of nurses and physicians [7, 8]. The TRENAU grading system establishes three levels of clinical severity: class A (unstable patient despite treatment), B (stabilized after treatment or anatomic criteria) or C (stable with high energy MOI, age and comorbidities) [1]. In this study EMS personnel assessed injured patients on the scene using the ACS-COT field triage decision scheme. Introduction (MOI) are road accidents (29%), followed by falls (12.6%) and assault (9.16%) [2]. Trauma is a complex and still largely neglected disease, responsible for about 5.8 million deaths annually around the world [1]. Trauma has also a high social impact, being the major cause of death and disability among the population under 35 years old. The most frequent mechanism of injury To optimize trauma care and thus minimize the number of preventable deaths, trauma related disability and resource wasting, Western Countries have developed Trauma Systems within their national health systems. Within the Trauma System various phases of trauma care1 are organized and embedded according to a well-structured protocol. Injured patients are treated in trauma centers, which can supply different level of trauma care. In Italy there are three types of trauma centers: Centro Trauma ad Alta Specializzazi- one (CTS, a highly specialized trauma center), Centro Trauma di Zona (CTZ, a local trauma center) and Presidio di Stabiliz- zazione per Traumi (PST, a hospital unit for trauma stabili- zation). A CTS manages the most severely injured patients, providing the highest level of care. A CTS is equivalent to a level 1 trauma center and has a catchment area of about 2 million inhabitants. A CTZ, which corresponds to a level 2 trauma center, manages major trauma except for cases that require high level of professional expertise. A PST, similarly to a level 3 trauma center, takes care of minor trauma or stabilizes C. Bagnato and O. Chiara contributed equally to this work. * S. Cimbanassi stefania.cimbanassi@unimi.it C. Bagnato clara.bagnato55@gmail.com O. Chiara osvaldo.chiara@unimi.it 1 Acute Care Surgery‑Trauma Team, ASST GOM Niguarda, 20162 Milan, Italy 2 Emergency Department, ASST GOM Niguarda, 20162 Milan, Italy 3 Department of Medical‑Surgical Physiopathology and Transplantation, AcuteCareSurgery‑TraumaTeam, ASST GOM Niguarda, 20162 Milan, Italy C. Bagnato and O. Chiara contributed equally to this work. * S. Cimbanassi stefania.cimbanassi@unimi.it C. Bagnato clara.bagnato55@gmail.com O. Chiara osvaldo.chiara@unimi.it 1 Acute Care Surgery‑Trauma Team, ASST GOM Niguarda, 20162 Milan, Italy 2 Emergency Department, ASST GOM Niguarda, 20162 Milan, Italy 3 Department of Medical‑Surgical Physiopathology and Transplantation, AcuteCareSurgery‑TraumaTeam, ASST GOM Niguarda, 20162 Milan, Italy C. Bagnato and O. Chiara contributed equally to this work. Methods Afterward, each patient was graded using the TRENAU score based on the information received by the EMS. The correct activation of the TT was assessed simulating a situ- ation in which the EMS implemented the TRENAU triage tool instead of the ACS-COT field triage decision scheme Data collection If the ACS-COT criteria for major trauma were met the 118 dispatch center notified the ED where the TT was activated in advance and the triage nurse filled in the dispatch on major trauma papers with information regarding the trau- matic event and the patient's characteristics. The TT was considered as correctly activated when the triage criteria effectively identified major trauma. Major trauma was defined by having an ISS higher than 15 and/or the Need For Trauma Intervention (NFTI+). The ISS was calculated considering the Abbreviated Injury Score (AIS) 2015 catalogue [10, 11]. The NFTI indirectly describes the impact of the traumatic event on the patient through the intensity of the therapeutic maneuvers needed to replenish the body's physiological reserves. The therapeutic maneu- vers considered in the study were: damage control resusci- tation in the ED, direct discharge to the operating room or the intensive care unit from the ED, death of the patient in the ED [12]. The present study aims to compare the triage tool devel- oped by the ACS-COT and the TRENAU score to establish which one is better suited to the regional setting of Lom- bardy’s trauma system. Introduction 2 Emergency Department, ASST GOM Niguarda, 20162 Milan, Italy 3 Department of Medical‑Surgical Physiopathology and Transplantation, AcuteCareSurgery‑TraumaTeam, ASST GOM Niguarda, 20162 Milan, Italy (0121 3456789) 3 3456789) 3 1740 Updates in Surgery (2022) 74:1739–1747 critically injured patients before transferring them to a higher level trauma center [3]. Trauma patients were admitted to the Emergency Depart- ment (ED) of ASST Grande Ospedale Metropolitano Niguarda, a CTS for the metropolitan area of Milan. For all suspected major trauma patients a multidisciplinary Trauma Team (TT) was activated at the EMS’ notice. Niguarda’s TT consists of general surgeons, anesthesiologists, radiologists, trauma nurses, radiology’s technicians and orderlies [9]. Regarding the distribution of trauma centers on the terri- tory, two models of trauma systems can be distinguished: an exclusive trauma system and an inclusive trauma system. In an exclusive trauma system acute care facilities and trauma cent- ers are two separated entities. In this type of system the Emer- gency Medical Services (EMS) should therefore centralize all trauma patients to trauma centers. In an inclusive system the territory is served by several acute care facilities, the majority of which is also equipped with a trauma center. Each trauma center can offer different levels of care depending on the neces- sities of every geographical area. In such a model, the task of the EMS’ personnel is to estimate the severity of injured patients based on pre-determined triage criteria. Patients are thus transported to the hospital capable of providing the ade- quate level of care in a timely fashion [4]. A prospective observational cohort study was conducted between January 23rd and June 24th 2021. Results The ACS-COT triage tool and the TRENAU triage tool were compared through performance measures with 95% Confidence Intervals (CIs). In particular, the focus was on sensitivity and specificity which express the capability of the triage tool to discriminate between major and minor trauma. A total of 4909 trauma patients (excluding those who pre- sented burns as the only MOI) were admitted to Niguarda’s ED during the period of the study. Only the 1439 patients who were transported by EMS were included in the study. The study population characteristics are summarized in Table 1. g j Receiver Operating Characteristics (ROC) curves with 95% confidence bands were plotted for each triage tool. The Area Under the Curve (AUC) of the ROC curve depicts the accuracy of the triage tool and can range from 0.5 to 1. The ideal triage tool which can perfectly differentiate major trauma from minor trauma would have an AUC of one. An AUC lower than 0.7 defines a poor triage tool, between 0.71 and 0.8 defines a moderately good triage tool and higher than 0.81 defines a good triage tool. Plotting ROC curves allows to immediately visualize performance information about the ACS-COT field triage decision scheme and the TRENAU score and promptly compare their accuracy. Of all the 1439 patients included in the study, 143 met the criteria for major trauma (ISS greater than 15 and/ or NFTI+). The ED was notified by the EMS in 22.51% (324/1439) of cases, 41.04% of whom (133/324) were confirmed being major trauma (Table 2). Employing the TRENAU grading system, 118 patients (of which 91 were major traumas) were classified as grade A or grade B, 488 (of which 43 were major traumas) as grade C and 833 (of which 9 were major traumas) as "not included" (Table 3). The performance measures of the ACS-COT triage tool and the TRENAU score were compared (Tables 4 and 5) and statistically significant differences were found. In particular, the sensitivity of the TRENAU triage tool was notably lower than that of the ACS-COT criteria: 61% (95%CI of 52–69%) against 93% (95%CI of 87–97%). This resulted however in a specificity of almost 100% (98% with a 95%CI of 97–99%) against that of the ACS-COT triage tool which amounted only up to 85% (95%CI of 83–87%). Statistical analysis Data were analyzed using Excel© version 16.43, RCRAN© version 4.1.1 and RStudio Desktop© version 1.4.1717. Study design and setting A prospective observational cohort study was conducted between January 23rd and June 24th 2021. 1 3 Updates in Surgery (2022) 74:1739–1747 1741 In particular the undertriage rate should be kept to a mini- mum since missing to identify major trauma can jeopardize the patient's safety resulting in higher rates of preventable deaths and worsening prognosis. A high overtriage rate does not endanger the patient’s life in the near future, however it should be contained as it entails a waste of human and finan- cial resources that could lead to the system’s collapse in the long term. The ACS-COT suggests maintaining the undertri- age rate at less than 5% and the overtriage rate between 25 and 35% [6]. This aspect should be considered to determine which triage tool is more appropriate in a specific trauma system. on the scene of the traumatic event. A patient who met the criteria for class A and B was considered in need of a TT activation at a CTS. The TRENAU score was considered appropriate if it would have resulted in the activation of the TT for major trauma patients (ISS higher than 15 and/or NFTI+). Patients who met the criteria for class C would have been transported to a CTZ had the TRENAU grading system been used on the scene of the event instead of the ACS-COT triage tool. Patients who did not meet any criteria would have been considered mildly injured and thus trans- ported at the nearest hospital. Results Overtriage and undertriage rates (referred to the cen- tralization of major trauma at a CTS) with 95% CIs were obtained using the Cribari Matrix method. 95% CIs were calculated as: p ± 1.96 × √ p × (1 −p) n p ± 1.96 × √ p × (1 −p) n p ± 1.96 × √ p × (1 −p) n n where p is the proportion of patients that were undertriaged or overtriaged while n is the total number of patients with major trauma or who matched with at least one of the triage criteria considered for major trauma. Overtriage is defined as the rate of mild injuries misidentified as major trauma by the triage tool. Undertriage is defined as the rate of severely injured patients that the triage tool missed to identify and were thus transported to an under-qualified trauma center or received late treatment. When designing a triage tool it is important to control the rates of overtriage and undertriage. The AUC of the ROC curves depicted two different levels of accuracy for the ACS-COT triage tool and the TRENAU triage tool (Figs. 1 and 2). The difference between the ACS- COT triage criteria and the TRENAU criteria’s accuracy is statistically significant: the former is more accurate (AUC of 0.892 with CI of 0.869–0.915), however the latter can be still considered a moderately good test (AUC of 0.790 with CI of 0.750–0.831).if There was a statistically significant difference also in overtriage and under- triage rates as shown in Table 6. 1 3 Updates in Surgery (2022) 74:1739–1747 1742 Values marked with a * are statistically significant. Values marked with a * are statistically significant. A level of significance of 0.05 was applied for all tests IQR   Interquartile Range, BLS Basic Life Support, ILS Intermediate Life Support, ALS Advanced Life Sup- port, NI = Not Included Discussion Considering the results as a whole and referring them to the setting in which they were obtained, it can be observed how the ACS-COT field triage decision scheme is characteris- tic of a trauma system in its early stage. A triage tool such as the one developed by the ACS-COT complies with the requirements of a trauma system which starts as exclusive or is either still developing an organized network of trauma centers and a proper personnel expertise. Sensitivity has to be high to minimize the number of false negatives (major trauma which is identified as minor by the triage criteria, i.e. the undertriaged patients). Even if it means having an excessive overtriage rate. In a young trauma system undertri- aged patients would not receive the appropriate level of care, being transported to facilities not included in the trauma system or which are still developing and do not have the ade- quate expertise. In other words, EMS within a trauma system at its early stage should adopt a triage tool that works as a screening test, reducing the false negatives to a minimum and ruling in all the possibly diseased patients. The ACS- COT field triage decision scheme was in fact appropriate in Lombardy about 20 years ago, when Italy started to build a network of organized trauma systems at a regional level. The ACS-COT triage tool has in fact a very high sensitivity (93%) and accuracy (89.2%) which define a minimum rate of undertriage (1%). This however results in a lower specificity (85%) and thus a much higher rate of overtriage (59%) which greatly exceeds the threshold suggested by the ACS-COT. Overtriage was significantly lower when implementing the TRENAU triage tool rather than the ACS-COT field triage decision scheme: 23% (95%CI of 15.4–30.6%) against 59% (95%CI of 53.6–64.4%). The undertriage rate of the TRE- NAU score still maintained under the 5% limit suggested by the ACS-COT [6] at 3.9% (95% CI of 2.9–4.9%). Results A level of significance of 0.05 was applied for all tests IQR Interquartile Range BLSBasic Life Support ILSIntermediate Life Support ALSAdvanced Life Sup N° Tot (%) N° Major Trauma ISS N° Minor Trauma ISS P  -value Median (IQR) Median (IQR) Age 0.176  1–5 71 (5) 1 18 (0) 70 1 (0) 0.464  6–18 170 (12) 15 18 (14–25) 155 1 (1–4) 0.2732  19–65 780 (54) 105 19 (16–27) 675 2 (1–4) 0.884  66–80 167 (12) 13 25 (21–26) 154 2 (1–5) 0.185  81–97 251 (17) 9 25 (25–48) 242 4 (1–5) 0.130 Gender 0.000515*  Male 897 (62) 113 20 (16–27) 784 2 (1–4)  Female 542 (38) 30 22 (16–25) 512 2 (1–4) EMS type  <2e−16*  BLS 1136 (79) 17 17 (16–22) 1119 1 (1–4)  ILS 3 0 3 1 (1–2)  ALS 252 (18) 99 21 (16–27) 153 4 (1–9)  Helicopter 48 (3) 27 21 (17–34) 21 8 (5–9) Trauma type 0.718  Closed 1085 (75) 107 21 (16–26) 978 2 (1–4)  Open/piercing 354 (35) 36 18 (15–29) 318 2 (1–4) Event type 0.000372*  Single 1343 (93) 122 20 (16–26) 1221 2 (1–4)  Multiple 96 (7) 21 21 (17–29) 75 1 (1–4) Trauma dynamic 0.305  Road accidents 543 (38) 86 18 (16–25) 457 2 (1–4)  Falls 591 (41) 32 25 (19–29) 559 2 (1–4) 0.3856  Assault 137 (10) 3 17 (17–46) 588 1 (1–4)   <2e−16*  Sport injuries 10 (1) 0 10 1 (0)  Animals 18 (1) 0 18 1 (1–2)  Wounds 76 (5) 10 25 (12–33) 66 1 (1–4) 1  Crushing 18 (1) 7 18 (12–24) 11 1 (1–2) 0.0297 *  Other 46 (3) 5 19 (18–25) 41 1 (1–2) ACS-COT criteria  <2e−16*  No notice 1115 (77) 10 18 (17–25) 1105 1 (1–4)  Notice 324 (23) 133 20 (16–27) 191 4 (1–9) TRENAU criteria  <2e−16*  A + B 118 (8) 91 25 (17–34) 27 4 (2–7)  C + NI 1321 (92) 52 17 (13–21) 1269 2 (1–4) T-NTS 3.78 ­e−11*   >17 740 (96) 52 18 (15–23) 688 1 (1–4)   ≤ 17 27 (4) 21 27 (19–34) 6 7 (4–10) ISS  <2e−16*   >15 112 (8) 112 25 (18-31) 0 2 (1–4)   ≤15 1327 (92) 31 9 (7-11) 1296 1 3 Updates in Surgery (2022) 74:1739–1747 1743 Table 2   EMS notice and trauma severity IQR Interquartile Range N ISS Median (IQR) Access through EMS 1439 2 (1–5) Notice 324 9 (4–18)  Major trauma 133 20 (16–27)  Minor trauma 191 4 (1–9) No notice 1115 1 (1–4)  Major trauma 10 18 (17–25)  Minor trauma 1105 1 (1–4) Table 5   Performance measures of the TRENAU triage tool with 95% CIs Value 95% CI Apparent prevalence 0.08 (0.07, 0.09) True prevalence 0.10 (0.08, 0.12) Sensitivity 0.61 (0.52, 0.69) Specificity 0.98 (0.97, 0.99) Positive predictive value 0.76 (0.67, 0.84) Negative predictive value 0.96 (0.95, 0.97) Positive likelihood ratio 29.09 (19.58, 43.23) Negative likelihood ratio 0.40 (0.33, 0.49) Discussion Considering the results as a whole and referring them to the setting in which they were obtained, it can be observed how the ACS-COT field triage decision scheme is characteris- tic of a trauma system in its early stage. Results A triage tool such as the one developed by the ACS-COT complies with the requirements of a trauma system which starts as exclusive or is either still developing an organized network of trauma centers and a proper personnel expertise. Sensitivity has to be high to minimize the number of false negatives (major trauma which is identified as minor by the triage criteria, i.e. the undertriaged patients). Even if it means having an excessive overtriage rate. In a young trauma system undertri- aged patients would not receive the appropriate level of care, being transported to facilities not included in the trauma system or which are still developing and do not have the ade- quate expertise. In other words, EMS within a trauma system at its early stage should adopt a triage tool that works as a screening test, reducing the false negatives to a minimum and ruling in all the possibly diseased patients. The ACS- COT field triage decision scheme was in fact appropriate in Lombardy about 20 years ago, when Italy started to build a network of organized trauma systems at a regional level. The ACS-COT triage tool has in fact a very high sensitivity (93%) and accuracy (89.2%) which define a minimum rate of undertriage (1%). This however results in a lower specificity (85%) and thus a much higher rate of overtriage (59%) which greatly exceeds the threshold suggested by the ACS-COT. Results On the contrary, a triage tool like the TRENAU score bet- ter suits a trauma system such as Lombardy’s at the present time: inclusive, which had the time to appropriately develop Table 2   EMS notice and trauma severity IQR Interquartile Range N ISS Median (IQR) Access through EMS 1439 2 (1–5) Notice 324 9 (4–18)  Major trauma 133 20 (16–27)  Minor trauma 191 4 (1–9) No notice 1115 1 (1–4)  Major trauma 10 18 (17–25)  Minor trauma 1105 1 (1–4) Table 3   TRENAU classes and trauma severity IQR  Interquartile range N ISS Median (IQR) GRADE A 20 34 (25–75)  Major trauma 19 34 (25–75)  Minor trauma 1 3 (0) GRADE B 98 17 (9–25)  Major trauma 72 22 (16–28)  Minor trauma 26 4 (2–8) GRADE C 488 4 (1–8) Major trauma 43 17 (13–22) Minor trauma 445 4 (1–5) NOT INCLUDED 833 1 (1–4) Major trauma 9 18 (16–19) Minor trauma 824 1 (1–4) Table 4   Performance measures of the ACS-COT criteria with 95% CIs Value 95% CI Apparent prevalence 0.22 (0.20, 0.25) True prevalence 0.10 (0.08, 0.12) Sensitivity 0.93 (0.87, 0.97) Specificity 0.85 (0.83, 0.87) Positive predictive value 0.41 (0.35, 0.46) Negative predictive value 0.99 (0.98, 1.00) Positive likelihood ratio 6.31 (5.50, 7.25) Negative likelihood ratio 0.08 (0.05, 0.15) Table 5   Performance measures of the TRENAU triage tool with 95% CIs Value 95% CI Apparent prevalence 0.08 (0.07, 0.09) True prevalence 0.10 (0.08, 0.12) Sensitivity 0.61 (0.52, 0.69) Specificity 0.98 (0.97, 0.99) Positive predictive value 0.76 (0.67, 0.84) Negative predictive value 0.96 (0.95, 0.97) Positive likelihood ratio 29.09 (19.58, 43.23) Negative likelihood ratio 0.40 (0.33, 0.49) Table 2   EMS notice and trauma severity Table 3   TRENAU classes and trauma severity Table 3   TRENAU classes and trauma severity IQR  Interquartile range N ISS Median (IQR) GRADE A 20 34 (25–75)  Major trauma 19 34 (25–75)  Minor trauma 1 3 (0) GRADE B 98 17 (9–25)  Major trauma 72 22 (16–28)  Minor trauma 26 4 (2–8) GRADE C 488 4 (1–8) Major trauma 43 17 (13–22) Minor trauma 445 4 (1–5) NOT INCLUDED 833 1 (1–4) Major trauma 9 18 (16–19) Minor trauma 824 1 (1–4) Discussion A high specificity is typical of a diagnostic test, which is supposed to rule out all the patients that do not have the disease and identify only the true positives. This clearly results in a higher number of false negatives due to the decrease in sensitivity, which should nonetheless always be kept under an acceptable threshold. Since the TRENAU triage tool works as a diagnostic test rather than a screening test, it allows to select and centralize to the CTS mainly the true major trauma. Furthermore, in a trauma system with different levels of care, undertriaged patients would not be neglected but treated in a less specialized trauma center with an adequate expertise, namely a CTZ. It should also be noted that the great majority of Lombardy’s CTZs are equipped with a neu- rosurgical unit, which is essential as the majority of trauma patients present with traumatic brain injuries [14]. Moreo- ver, in a modern trauma system, a triage tool should also be able to identify patients potentially at risk of an unfavorable outcome, even when they are not labelled as major trauma by the triage criteria. They could either be undertriaged patients or patients who are more prone to evolve unfavorably rather than get better and should therefore be directed towards a CTZ. In favor of this statement, it should be pointed out that in this study the majority of the patients undertriaged with the TRENAU score were classified as grade C (43 out of 52) and would therefore have been treated in a CTZ, guarantee- ing them an appropriate level of care. treated in a less specialized trauma center with an adequate expertise, namely a CTZ. It should also be noted that the great majority of Lombardy’s CTZs are equipped with a neu- rosurgical unit, which is essential as the majority of trauma patients present with traumatic brain injuries [14]. Moreo- ver, in a modern trauma system, a triage tool should also be able to identify patients potentially at risk of an unfavorable outcome, even when they are not labelled as major trauma by the triage criteria. They could either be undertriaged patients or patients who are more prone to evolve unfavorably rather than get better and should therefore be directed towards a CTZ. Discussion Table 4   Performance measures of the ACS-COT criteria with 95% CIs Value 95% CI Apparent prevalence 0.22 (0.20, 0.25) True prevalence 0.10 (0.08, 0.12) Sensitivity 0.93 (0.87, 0.97) Specificity 0.85 (0.83, 0.87) Positive predictive value 0.41 (0.35, 0.46) Negative predictive value 0.99 (0.98, 1.00) Positive likelihood ratio 6.31 (5.50, 7.25) Negative likelihood ratio 0.08 (0.05, 0.15) Table 4   Performance measures of the ACS-COT criteria with 95% CIs Value 95% CI Apparent prevalence 0.22 (0.20, 0.25) True prevalence 0.10 (0.08, 0.12) Sensitivity 0.93 (0.87, 0.97) Specificity 0.85 (0.83, 0.87) Positive predictive value 0.41 (0.35, 0.46) Negative predictive value 0.99 (0.98, 1.00) Positive likelihood ratio 6.31 (5.50, 7.25) Negative likelihood ratio 0.08 (0.05, 0.15) Table 4   Performance measures of the ACS-COT criteria with 95% CIs Table 4   Performance measures of the ACS-COT criteria with 95% On the contrary, a triage tool like the TRENAU score bet- ter suits a trauma system such as Lombardy’s at the present time: inclusive, which had the time to appropriately develop its network of trauma centers and strengthen its personnel expertise. The TRENAU triage tool has a lower sensitivity (61%) and accuracy (79%) which nonetheless define a still acceptable rate of undertriage (3.9%) according to the ACS- COT. On the other hand, this results in a very high speci- ficity (98%) and thus a much lower overtriage rate (23%) which is within the threshold set by the ACS-COT. This Overtriage was significantly lower when implementing the TRENAU triage tool rather than the ACS-COT field triage decision scheme: 23% (95%CI of 15.4–30.6%) against 59% (95%CI of 53.6–64.4%). The undertriage rate of the TRE- NAU score still maintained under the 5% limit suggested by the ACS-COT [6] at 3.9% (95% CI of 2.9–4.9%). 1 3 Updates in Surgery (2022) 74:1739–1747 1744 1744 Updates in Surgery (2022) 74:1739–1747 Fig. 1   ACS-COT triage tool’s ROC curve with 95% CIs Updates in Surgery (2022) 74:1739–1747 e tool’s Is Fig. 1   ACS-COT triage tool’s ROC curve with 95% CIs way, overcrowding of trauma centers would be prevented, resource wasting would be minimized, and patient care improved. Optimizing trauma care is essential nowadays. It is not sustainable to accept high overtriage rates anymore as European health care systems are struggling to maintain their status as free and universal [13]. 1 3 Discussion In favor of this statement, it should be pointed out that in this study the majority of the patients undertriaged with the TRENAU score were classified as grade C (43 out of 52) and would therefore have been treated in a CTZ, guarantee- ing them an appropriate level of care. way, overcrowding of trauma centers would be prevented, resource wasting would be minimized, and patient care improved. Optimizing trauma care is essential nowadays. It is not sustainable to accept high overtriage rates anymore as European health care systems are struggling to maintain their status as free and universal [13]. A high specificity is typical of a diagnostic test, which is supposed to rule out all the patients that do not have the disease and identify only the true positives. This clearly results in a higher number of false negatives due to the decrease in sensitivity, which should nonetheless always be kept under an acceptable threshold. Since the TRENAU triage tool works as a diagnostic test rather than a screening test, it allows to select and centralize to the CTS mainly the true major trauma.f Furthermore, in a trauma system with different levels of care, undertriaged patients would not be neglected but 1 3 1745 Updates in Surgery (2022) 74:1739–1747 TRENAU triage tool’s urve with 95% CIs Fig. 2   TRENAU triage tool’s ROC curve with 95% CIs Fig. 2   TRENAU triage tool’s ROC curve with 95% CIs Even though criteria based solely on trauma dynamic and patient's characteristics seem to be the most relevant geriatric trauma teams and specific triage criteria for elderly patients and children [19–21]. Only two other studies that evaluated the efficacy of the TRENAU grading system and compared it with other pre- hospital triage tools were found in literature. The TRENAU score is in fact fairly new since it was implemented only in 2015 by Bouzat et al. [1]. In his study Bouzat compared a graded group of patients with a non- graded group of patients within the Northern French Alps trauma system. The implementation of the TRENAU score appeared more appropriate in a system involving physi- cians in the pre-hospital phase opposed to the ACS-COT Fig. References This study has a few limitations. Data were collected in a single level 1 trauma center and reflect the population of a highly urbanized area. The study was conducted during the COVID-19 pandemic and the restrictions introduced by the government had an impact on the epidemiology of trauma and the organization of the healthcare system [23]. 1. Bouzat P, Ageron F, Brun J et al (2015) A regional trauma sys- tem to optimize the pre-hospital triage of trauma patients. Crit Care 19(1):1–9 2. Alberdi F, Garcia I, Atutxa L et al (2014) Epidemiology of severe trauma. Med Intensiva 38(9):580–588 3. Chiara O, Gordini G, Nardi G, et al. (2012) Trauma Update. La cura definitiva del trauma maggiore. Elsevier Italia, Milano i 4. Kozar RA, Sanddal ND (2016) Role of level iv trauma centers in an inclusive trauma system: the injured elderly. Am J Surg 212(3):377–378 Conclusion 5. Sasser SM, Hunt RC, Faul M et al (2011) (2012) Guidelines for field triage of injured patients: recommendations of the national expert panel on field triage. Morb Mortal Wkly Rep 61(1):1–20 When comparing different triage tools, the local setting in which they are implemented should be considered. A young trauma system benefits from a highly sensitive triage tool like the ACS-COT field triage decision scheme. A mature trauma system such as Lombardy’s, which has developed a functioning and up-to-date trauma network with different levels of trauma centers, should adapt its triage tool accord- ingly. In this kind of setting, the TRENAU score proved to be extremely effective in reducing overtriage without com- promising the patient’s safety. As such, Lombardy is encour- aged to follow the new Italian guidelines in adopting the TRENAU score as a pre-hospital triage tool. This however could differ for other Italian regions where trauma systems might not be up to standard yet and the adoption of a new triage tool should thus be considered case-by-case. i 6. Rotondo M, Cribari C, Smith R et al (2014) Resources for opti- mal care of the injured patient. American College of Surgeons, Chicago 7. Centro Nazionale per l’eccellenza clinica la qualità e la sicurezza delle cure (June 2020) Raccomandazioni 1-4 della linea guida sulla gestione integrata del trauma maggiore dalla scena dell’evento alla cura definitiva. LG-ISS-SNLG-3 i 8. David JS, Bouzat P, Raux M (2019) Evolution and organisation of trauma systems. Anaesth Crit Care Pain Med 38(2):161–167 9. Chiara O, Cimbanassi S (2008) Protocolli per la gestione intra- ospedaliera del trauma maggiore. Elsevier srl 10. Baker SP, Neill B, Haddon Jr W, et al (1974) The injury sever- ity score: a method for describing patients with multiple inju- ries and evaluating emergency care. J Trauma Acute Care Surg 14(3):187–196 11. Bolorunduro OB, Villegas C, Oyetunji TA et al (2011) Validat- ing the injury severity score (iss) in different populations: Iss predicts mortality better among hispanics and females. J Surg Res 166(1):40–44 12. Roden-Foreman JW, Rapier NR, Foreman ML et al (2019) Rethinking the definition of major trauma: the need for trauma intervention outperforms injury severity score and revised trauma score in 38 adult and pediatric trauma centers. J Trauma Acute Care Surg 87(3):658–665 Funding  Open access funding provided by Università degli Studi di Milano within the CRUI-CARE Agreement. Informed consent  Informed consent was not required. Informed consent  Informed consent was not required. suggested by the ACS. The difference in results could be explained by the lack in experience of the French EMS in implementing the pre-hospital triage tool in 2015 and by the dissimilar geographical area in which the two studies took place (the Northern French Alps are a mountainous region while Milan is a plain metropolitan area) [22]. Open Access  This article is licensed under a Creative Commons Attri- bution 4.0 International License, which permits use, sharing, adapta- tion, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article's Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article's Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://​creat​iveco​mmons.​org/​licen​ses/​by/4.​0/. A more recent and comprehensive study regarding the TRENAU classification is a systematic review with meta- analysis conducted by Gianola et al.[19]. which compares the TRENAU score with other triage tools (e.g. the ACS- COT field triage decision scheme, Vittel Triage Criteria, New Trauma Score, etc.) according to their ROC curve and net clinical benefit. The TRENAU score, together with the NTS, appeared to be the most accurate triage tool in the adult population. Discussion 2   TRENAU triage tool’s ROC curve with 95% CIs Table 6   Overtriage and undertriage rates ACS-COT triage tool TRENAU triage tool Overtriage % 59% 23% N° (95% ICs) 0.59 (0.536–0.644) 0.23 (0.154–0.306) Undertriage % 1% 3.9% N° (95% ICs) 0.01 (0.004–0.016) 0.039 (0.029–0.049) geriatric trauma teams and specific triage criteria for elderly patients and children [19–21].fi Table 6   Overtriage and undertriage rates ACS-COT triage tool TRENAU triage tool Overtriage % 59% 23% N° (95% ICs) 0.59 (0.536–0.644) 0.23 (0.154–0.306) Undertriage % 1% 3.9% N° (95% ICs) 0.01 (0.004–0.016) 0.039 (0.029–0.049) Table 6   Overtriage and undertriage rates Only two other studies that evaluated the efficacy of the TRENAU grading system and compared it with other pre- hospital triage tools were found in literature. The TRENAU score is in fact fairly new since it was implemented only in 2015 by Bouzat et al. [1]. In his study Bouzat compared a graded group of patients with a non- graded group of patients within the Northern French Alps trauma system. The implementation of the TRENAU score appeared more appropriate in a system involving physi- cians in the pre-hospital phase opposed to the ACS-COT triage tool for paramedics. Considering the graded group, sensitivity showed to be higher (92%) while specificity was much lower (41%) compared to the current study. In addi- tion, undertriage and overtriage rates exceeded the threshold Even though criteria based solely on trauma dynamic and patient's characteristics seem to be the most relevant cause of overtriage [15, 16], it is important not to under- estimate the condition of grade C patients since age and MOI showed to correlate with injury severity [6, 17, 18]. Some studies even suggested the need for specialized 1 3 Updates in Surgery (2022) 74:1739–1747 1746 Declarations 13. Lega F (2020) Economia e management sanitario: Settore, sis- tema, aziende, protagonisti, vol 177. Milano, Egea Conflict of interest  The authors have no conflicts of interest to declare. 14. Chieregato A, Volpi A, Gordini G, et al (2017) How health service delivery guides the allocation of major trauma patients in the intensive care units of the inclusive (hub and spoke) trauma system of the emilia romagna region (Italy) a Research involving Human Participants and/or Animals  There was no contact with patients for data collection. Only anonymised data were used. 1 3 3 1 Updates in Surgery (2022) 74:1739–1747 1747 cross-sectional study. BMJ Od trauma team activation protocol: apen 7(9):e016415 cross-sectional study. BMJ Od trauma team activation protocol: apen 7(9):e016415 20. Hung KK, Yeung JH, Cheung CS, et al (2019) Trauma team activation criteria and outcomes of geriatric trauma: 10 year single centre cohort study. Am J Emerg Med 37(3):450–456 p 15. Boyle MJ (2007) Is mechanism of injury alone in the prehospital setting a predictor of major trauma–a review of the literature. J Trauma Manag Outcomes 1(1):1–7 g y g 21. Thorsen K, Narvestad JK, Tjosevik KE, et al (2021) Changing from a two-tiered to a one-tiered trauma team activation pro- tocol: a before– after observational cohort study investigating the clinical impact of undertriage. Eur J Trauma Emerg Surg. https://​doi.​org/​10.​1007/​s00068-​021-​01696-y. g ( ) 16. Uleberg O, Vinjevoll O, Eriksson U et al (2007) Overtriage in trauma– what are the causes? Acta Anaesthesiol Scand 51(9):1178–1183 17. Bardes JM, Benjamin E, Schellenberg M et al (2019) Old age with a traumatic mechanism of injury should be a trauma team activation criterion. J Emerg Med 57(2):151–155 22. Girard E, Jegousso Q, Boussat B et al (2019) Preventable deaths in a French regional trauma system: a six-year analysis of severe trauma mortality. J Visc Surg 156(1):10–16 23. Giudici R, Lancioni A, Gay H et al (2021) Impact of the COVID- 19 outbreak on severe trauma trends and healthcare system reas- sessment in lombardia, Italy: an analysis from the regional trauma registry. World J Emerg Surg 16(1):1–8 18. Recicar J, Barczyk A, Duzinski S et al (2016) Does restraint status in motor vehicle crash with rollover predict the need for trauma team presence on arrival? An atomac study. J Pediatr Surg 51(2):319–322fi 19. Declarations Gianola S, Castellini G, Biffi A et al (2021) Accuracy of pre- hospital triage tools for major trauma: a systematic review with meta-analysis and net clinical benefit. World J Emerg Surg 16(1):1–11 Publisher's Note  Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations. 1 3 1 3 3
https://openalex.org/W4392982454
https://link.springer.com/content/pdf/10.1007/s11357-024-01133-z.pdf
English
null
Modulation of neural gene networks by estradiol in old rhesus macaque females
GeroScience
2,024
cc-by
16,845
GeroScience (2024) 46:5819–5841 https://doi.org/10.1007/s11357-024-01133-z GeroScience (2024) 46:5819–5841 https://doi.org/10.1007/s11357-024-01133-z ORIGINAL ARTICLE Modulation of neural gene networks by estradiol in old rhesus macaque females Rita Cervera‑Juanes   · Kip D. Zimmerman · Larry Wilhelm · Dongqin Zhu · Jessica Bodie · Steven G. Kohama · Henryk F. Urbanski Received: 8 January 2024 / Accepted: 12 March 2024 / Published online: 20 March 2024 © The Author(s) 2024 Abstract  The postmenopausal decrease in circulat- ing estradiol (E2) levels has been shown to contrib- ute to several adverse physiological and psychiatric effects. To elucidate the molecular effects of E2 on the brain, we examined differential gene expres- sion and DNA methylation (DNAm) patterns in the nonhuman primate brain following ovariectomy (Ov) and subsequent subcutaneous bioidentical E2 chronic treatment. We identified several dysregulated molecular networks, including MAPK signaling and dopaminergic synapse response, that are associated with ovariectomy and shared across two different brain areas, the occipital cortex (OC) and prefron- tal cortex (PFC). The finding that hypomethylation (p = 1.6 × ­10−51) and upregulation (p = 3.8 × ­10−3) of UBE2M across both brain regions provide strong evi- dence for molecular differences in the brain induced by E2 depletion. Additionally, differential expression (p = 1.9 × ­10−4; interaction p = 3.5 × ­10−2) of LTBR in the PFC provides further support for the role E2 plays in the brain, by demonstrating that the regulation of some genes that are altered by ovariectomy may also be modulated by Ov followed by hormone replace- ment therapy (HRT). These results present real opportunities to understand the specific biological mechanisms that are altered with depleted E2. Given E2’s potential role in cognitive decline and neuro- inflammation, our findings could lead to the discov- ery of novel therapeutics to slow cognitive decline. Rita Cervera-Juanes and Kip D. Zimmerman contributed equally to this work. Supplementary Information  The online version contains supplementary material available at https://​doi.​ org/​10.​1007/​s11357-​024-​01133-z. R. Cervera‑Juanes (*) · L. Wilhelm · D. Zhu · J. Bodie  Department of Translational Neuroscience, Wake Forest University School of Medicine, 1 Medical Center Boulevard, Winston‑Salem, NC 27157, USA e-mail: rcervera@wakehealth.edu R. Cervera‑Juanes · K. D. Zimmerman  Center for Precision Medicine, Wake Forest University School of Medicine, 1 Medical Center Boulevard, Winston‑Salem, NC 27157, USA K. D. Zimmerman  Department of Internal Medicine, Wake Forest University School of Medicine, 1 Medical Center Boulevard, Winston‑Salem, NC 27157, USA Rita Cervera-Juanes and Kip D. Zimmerman contributed equally to this work. Supplementary Information  The online version contains supplementary material available at https://​doi.​ org/​10.​1007/​s11357-​024-​01133-z. Introduction Estradiol (E2) is mainly produced by the ovaries and is the most physiologically relevant estrogen (oth- ers include estrone and estriol). E2 exerts control over numerous biological functions by binding to the intracellular estrogen receptors alpha and beta (ERα and ERβ) [1–5] and the G-protein-coupled receptor GPR30/GPER1 [6].l Among the current preclinical models, nonhu- man primates (NHPs) are highly valuable for this research because of their very similar physiology to humans and because females undergo a typical menopausal transition, at around 25  years of age [40]. Our own studies, and others, demonstrated that immediate Ov-HRT in aged surgically menopausal rhesus macaque females showed positive effects on memory [30, 41] and favorable effects on cogni- tion in aged females under an obesogenic diet [42]. Using brain samples from the same females, we identified differential gene expression in the occipi- tal (OC), prefrontal cortex (PFC), hippocampus (HIP), and amygdala (AMG), with enrichment in neuroinflammation in OC and HIP, but inhibition in the AMG with Ov-HRT. Synaptogenesis, circadian rhythm, mitochondrial dysfunction, mTOR, gluta- mate, serotonin, GABA, dopamine, epinephrine/ norepinephrine, glucocorticoid receptor signaling, neuronal NOS, and amyloid processing were exclu- sively enriched in AMG. As compared to the control group, most of these signaling pathways are down- regulated after Ov-HRT, suggesting a protective effect of E2 in Ov-HRT females under a Western- style diet. A follow-up study, using the contralateral AMG from these same females, as well as from a separate cohort of females under a regular chow diet, showed that Ov-HRT (immediate treatment) had lower histological amyloid β plaque density as E2 levels fluctuate throughout the female men- strual cycle, and as women age and go through natu- ral menopause, E2 levels progressively decline. As a reflection of the broad roles of E2, adverse physi- ological and psychiatric effects accompany the natu- ral decline of E2 levels. These include vasomotor symptoms (hot flashes, night sweats) [7, 8], sleep disturbances [9], somatic symptoms (pains, aches) [7], cognitive performance decline [10], anxiety [7], and depression [7]. Such effects are expected given the E2’s neural role in mediating synaptic plasticity [11–16], increasing dendritic spine density, long-term potentiation (LTP) [17], neuroprotective effects [18], and improving cognitive performance [19, 20]. A lack of E2 right after menopause negatively affects learning and memory and increases the risk of neurodegenerative diseases, such as Alzheimer’s dis- ease (AD) [21, 22]. Modulation of neural gene networks by estradiol in old rhesus macaque females Keywords  Aging · DNA methylation · Estradiol · Occipital cortex · Prefrontal cortex · RNA-Seq Keywords  Aging · DNA methylation · Estradiol · Occipital cortex · Prefrontal cortex · RNA-Seq 1 3 Vol:. (1234567890) Modulation of neural gene networks by estradiol in old rhesus macaque females Supplementary Information  The online version contains supplementary material available at https://​doi.​ org/​10.​1007/​s11357-​024-​01133-z. S. G. Kohama · H. F. Urbanski  Division of Neuroscience, Oregon National Primate Research Center, Beaverton, OR 97006, USA R. Cervera‑Juanes (*) · L. Wilhelm · D. Zhu · J. Bodie  Department of Translational Neuroscience, Wake Forest University School of Medicine, 1 Medical Center Boulevard, Winston‑Salem, NC 27157, USA e-mail: rcervera@wakehealth.edu R. Cervera‑Juanes (*) · L. Wilhelm · D. Zhu · J. Bodie  Department of Translational Neuroscience, Wake Forest University School of Medicine, 1 Medical Center Boulevard, Winston‑Salem, NC 27157, USA e-mail: rcervera@wakehealth.edu H. F. Urbanski  Division of Reproductive & Developmental Sciences, Oregon National Primate Research Center, Beaverton, OR 97006, USA R. Cervera‑Juanes · K. D. Zimmerman  Center for Precision Medicine, Wake Forest University School of Medicine, 1 Medical Center Boulevard, Winston‑Salem, NC 27157, USA H. F. Urbanski  Department of Behavioral Neuroscience, Oregon Health & Science University, Portland, OR 97239, USA K. D. Zimmerman  Department of Internal Medicine, Wake Forest University School of Medicine, 1 Medical Center Boulevard, Winston‑Salem, NC 27157, USA 0123456789) 3 ol.: (011 5820 GeroScience (2024) 46:5819–5841 (Ov) and ovohysterectomy (OvH) have been widely used in preclinical models to investigate the physiological and neural adaptations that take place when the ovarian E2 supply is removed [18]. It should be noted that, although there is neuronal production of E2 with important neu- romodulator and neuroprotective functions [36, 37], its sources are androgens, which are mostly produced by the ovaries [38]. Ov and Ov with hormone replacement therapy (Ov-HRT) are implemented as effective cancer treatments and are commonly used for benign gyneco- logic conditions in women 40 years and older [39]. Fur- thermore, women who underwent Ov showed a higher risk for the development of dementia, but not if they received Ov-HRT treatment at the time of surgery [33]. Thus, preclinical surgical menopause animal systems become excellent models in which to examine the nega- tive impact of reduced E2 concentrations on molecular and physiological processes, as well as the potential ben- efits of hormonal replacement therapy (HRT), in women who have experienced abrupt E2 removal. Together, this work represents a major step toward understanding molecular changes in the brain that are caused by ovariectomy and how E2 treatment may revert or protect against the negative neuro-related consequences caused by a depletion in estrogen as women approach menopause. Introduction The incidence of AD and related dementias is two to three times higher in women than in men, and premature menopause increases this risk [23, 24]. Although surrounded by a lot of debate [25, 26], there is much evidence to suggest that E2 replacement therapy, administered immediately at menopause [27–35], may improve cognitive perfor- mance and reduce risk for onset and development of AD [3–5, 24]. These effects highlight E2’s role in preserving cognitive function and overall well-being. Although it does not exactly replicate the natural decline in E2 as seen in healthy women, ovariectomy 1 3 Vol:. (1234567890) GeroScience (2024) 46:5819–5841 5821 The present study focused on elucidating the molecular effects of E2 on the primate brain by exam- ining the differential gene expression and DNAm pat- terns in OI and following Ov and subsequent E2 treat- ment. With this model, we have identified a number of dysregulated molecular networks that are associated with Ov and are shared across two different regions of the brain, OC and PFC. The latter is particularly sus- ceptible to age-associated neuropathologies such as AD and frontotemporal lobar degeneration (FTLD). Our results suggest extensive molecular differences in the brain induced by E2 depletion. We have also iden- tified a number of Ov-related molecular differences that appear to be modulated by Ov-HRT treatment. These changes offer valuable insights into the neurobi- ological consequences of E2 deficiency and potential alternative therapeutics that could be more targeted. compared to placebo females [43]. Furthermore, our own studies showed that E2 treatment clearly improved cognitive performance in the same ani- mals included in the current study [30]. Here, we sought to elucidate the molecular pathways in two cognitive-relevant cortical regions that could be altering brain function and ultimately contributing to such cognitive benefits. i It is well-known that E2 binds to ERα and ERβ, and through the canonical mechanism of action, the E2–ER complex binds to estrogen-responsive ele- ments (ERE) at promoters of target genes regulating their expression. In addition, E2, through binding to EREs, regulates gene expression through neuroe- pigenetic regulation [44]. After binding to ERE, the ligand-bound ERs recruit chromatin remodelers, such are BAF60 or recruiting CREB-binding protein (CBP), that regulate DNA and histone modifications [45–49]. Intrahippocampal E2 increases DNMT3a and 3b levels and activity, decreases HDAC2 expres- sion, and increases H3 and H4 acetylation, alter- ing memory in ovariectomized mice. Introduction Furthermore, DNMT inhibition by 5-AZA inhibited recognition memory [50, 51]. These prior findings support the critical role of DNA methylation (DNAm) in mediat- ing the effects of E2 in brain function. Ovariectomy and estradiol supplementation Ovariectomy and estradiol supplementation different brain regions. Briefly, the dorsal and ven- tral banks of the PFC were collected around the pri- mary sulcus. The OC was removed from the caudal tip of the occipital lobe. All tissues were wrapped in aluminum foil, immediately frozen in liquid nitro- gen, and then archived at − 80 °C. See Fig. 1 for the experimental design. Before Ov, all of the females were showing menstrual cycles and were therefore considered to be premeno- pausal at the beginning of the study. Except for the ovary intact (OI, n = 4) females, the rest of the ani- mals were Ov, resulting in E2 levels below 20  pg/ mL. Half of the females (n = 6, Ov-HRT) were started on HRT ~ 2.5 months post-Ov in the form of subcu- taneous E2-containing elastomer capsules, which achieved serum E2 concentrations of 94.3 ± 20.5 pg/ mL; the other half (n = 8) received empty capsules (placebo), which achieved serum E2 concentrations of < 30 pg/mL on average across ~ 48 months (age at end of study, 19.4–23.2 years). Serum E2 was meas- ured every 2 months and the capsule was replaced or its size adjusted as deemed appropriate [30]. Euthanasia For stranded RNA-seq, cDNA libraries were pre- pared with the TruSeq stranded mRNA library prep Kit (cat# RS-122–2101, Illumina, San Diego, CA, USA). The resulting libraries were sequenced on a HiSeq 4000 (Genomics & Cell Characterization Core Facility, University of Oregon) using a paired-end run (2 × 150 bases). A minimum of 100 M reads was gen- erated from each library. After the ~ 4-year duration of the study, a detailed necropsy protocol previously used in our laboratory was used to systematically collect brain tissues from all subjects; other body tissues were made avail- able to other investigators for unrelated postmor- tem studies. OI females were at the follicular phase at necropsy (based on menstrual cycle records and terminal serum estradiol and progesterone concen- trations). Briefly, monkeys were sedated with keta- mine (10  mg/kg) and administered with pentobar- bital, followed by exsanguination, as recommended by the 2013 Edition of the American Veterinary Medical Association Guidelines for the Euthana- sia of Animals. Brains were quickly removed, and the right hemisphere was dissected to isolate the DNA/RNA isolation Genomic DNA and RNA were extracted from each brain region using the All-Prep DNA/RNA/miRNA Universal kit (Qiagen Sciences Inc., Germantown, MD) following the manufacturer’s recommendations. Briefly, each brain region was pulverized, and ~ 30 mg of tissue was used for DNA/RNA isolation. Subjects This study was approved by the Oregon National Primate Research Center (ONPRC) Institutional Animal Care and Use Committee and used 18 old (range = 15.4–19.2 years, at the beginning of the study) female rhesus macaques (Macaca mulatta). The median lifespan of this species in captivity is ~ 25  years [58, 59], and in the range of pre- to peri-menopausal endo- crine status [40, 60]. The animals were socially housed indoors in paired cages under controlled environmen- tal conditions—24 °C temperature, 12-h light and 12-h darkness photoperiods (lights on at 07:00 h) and were cared for by the ONPRC Division of Comparative Medicine in accordance with the National Research Council’s Guide for the Care and Use of Laboratory Animals. All females were fed a specially prepared bal- anced and semipurified diet low in phytoestrogens, as described [30]. The diet was prepared in the ONPRC’s kitchen bimonthly and kept frozen until use. Daily meals at ~ 08:00 h and ~ 15:00 h were supplemented with fresh fruits or vegetables; fresh drinking water was available ad  libitum. Additional enrichment included watching video programs and interactions with the Behavioral Science Unit staff and animal care technicians. f In the present study, we characterize the transcrip- tomic and methylomic profile of the brain between elderly ovary intact (OI), Ov females without HRT under a regular chow diet to determine the molecular signatures associated with an abrupt depletion of E2 at a peri-menopausal age. We next evaluate if HRT instituted shortly after Ov can revert any of these changes to maintain an age-matched molecular pro- file. We focus on two cortical brain regions associated with cognitive function and known to be impacted in aging and dementias. The OC is involved in visuospa- tial processing, distance and depth perception, color determination, object and face recognition, and mem- ory formation [52, 53]. Damage in this area is linked to hallucinations in dementia patients [54]. The PFC is a central brain structure involved in working mem- ory, temporal processing, decision-making, flexibil- ity, and goal-oriented behavior [55]. In the context of AD, neurodegeneration and neural damage have been reported in the PFC and OC, in the latter case with an association to early onset [56, 57]. 1 ol.: (01 3 123456789) 5822 GeroScience (2024) 46:5819–5841 Differential exon usage (DEU) analysis The DEXSeq pipeline was applied (with the default parameters) to analyze the aligned reads and obtain exon-level counts [66]. The exon-level counts were loaded and inspected in R (4.1.1) as DEXSeq objects before being normalized with DESeq2’s normaliza- tion algorithm [64]. DEXSeq, similar to DESeq2, computes negative binomial regression and shares dispersion estimation across features. The program is designed to estimate differences in exon usage within a particular gene across conditions and will not iden- tify genes with global differences in exon expression across a given gene (i.e., the genes identified by DEU analysis will be different than those identified in the DE analysis). We computed a model where the pre- dictors included a dummy variable for the exon, an indicator variable for whether the animal had under- gone Ov, as well as the interaction between the two to assess DEU age associated with Ov. A Benja- mini–Hochberg FDR was applied to the unadjusted p-value to account for multiple comparisons [65]. Results with an FDR-adjusted p < 0.05 were retained for pathway analysis. Top results were also over- lapped with DMR genes to assess whether changes in methylation appeared to be affecting the exon usage of any genes. RNA‑Seq processing and calling Raw sequences were examined for quality using FastQC [61]. Phred scores (probability a base was called correctly) and GC content were observed for abnormalities. After initial quality control of the reads was completed, alignment was performed using Fig. 1   Experimental design Fig. 1   Experimental design 1 3 . (1234567890) 5823 GeroScience (2024) 46:5819–5841 STAR two-pass alignment [62]. Reads were aligned to the Macaca mulatta assembly (Mmul_10) and scored on how well they corresponded to the refer- ence genome and whether or not they map to multiple positions across the genome. Low-scoring reads, usu- ally short and poor-quality reads, were not retained (mapping quality score < 2). Post-alignment, reads were quantified at the gene level using the program featureCounts [63], and DESeq2 [64] was used to transform gene counts and estimate fold-change val- ues for differentially expressed genes. Genes that had either an average read count below 5, missing values for more than one-third of the samples, or a coefficient of variation greater than 50 in the control samples were dropped to remove noisy and lowly expressed genes. genes was not our main interest. We were primarily interested in genes that showed expression changes related to Ov that no longer showed association with Ov with Ov-HRT treatment. To obtain a general set of genes that fit this criterion, we filtered the results to include only genes that showed suggestive evidence of Ov association (unadjusted p < 0.05) without Ov- HRT treatment and little evidence of Ov association with Ov-HRT treatment (unadjusted p > 0.1). From this reduced set of genes, we further filtered down to only those results that had at least suggestive evi- dence (p < 0.05) of interaction between Ov and Ov- HRT treatment. Differential expression analysis Differential expression analysis was computed in DESeq2 where the gene expression values were eval- uated as the outcome in a negative binomial gener- alized linear model [64]. Whether or not the animal had undergone Ov was the predictor of the primary model we computed. This analysis was computed only in animals that had not received Ov-HRT treat- ment. Given no significant differences in age between animals and all of them are all much older females (~ 25  years) in the same stage of life and the lim- ited power of the study, we did not adjust for age as a covariate. A Benjamini–Hochberg false discovery rate (FDR) was applied to the unadjusted p-value to account for multiple comparisons [65]. We repeated this same analysis in animals treated with Ov-HRT. In addition to these models, to find differences directly related to Ov, we tested the interaction between Ov- HRT and Ov. To enable this analysis, we replicated the control samples (OI) into two groups, one labeled as having received Ov-HRT treatment, and the other as having not received HRT treatment. We recognize that comparing both Ov groups to the same exact set of controls (OI) will lead to false positives, but we primarily used the test of interaction as a way of rapidly identifying genes associated with Ov that are potentially modified by Ov-HRT treatment. As expected, Benjamin–Hochberg FDR adjustment left no interaction results, so we considered interaction results that met an unadjusted p < 0.05, particularly because computing the interaction globally for all Genome‑wide DNA methylation profiling Genome‑wide DNA methylation profiling The methylation rates were calculated as the ratio of methylated reads over the total number of reads. Methylation rates for CpGs with fewer than 10 reads were excluded from further analysis. We next removed CpG sites on sex chro- mosomes. The remaining ~ 2.8 to 3.0 million CpGs per sample (OC and PFC, respectively) post-filtering were used for downstream analyses. of genomic DNA was sheared using a Bioruptor UCD200 (Diagenode, Denville, NJ, USA), generating fragments of ~ 180  bp. The Illumina TruSeq Methyl Capture EPIC library prep kit (Illumina, Santa Clara, CA, USA) was used following the manufacturer’s instructions. The EPIC probes interrogate > 3.3 mil- lion individual CpG sites per sample at a single- nucleotide resolution. After end repair, 3′ A-tailing, and adaptor ligation, libraries were pooled in groups of four, followed by two rounds of hybridization and capture using the EPIC probes, bisulfite conversion, and final amplification. After library quantification using a 2100 Bioanalyzer (Agilent Technologies), DNA libraries were sequenced (3 libraries per 150PE lane) on an Illumina HiSeq4000 at the University of Oregon Genomics and Cell Characterization Core Facility (GC3F). Subsequently, 5% PhiX DNA (Illu- mina Inc.) was added to each library pool during clus- ter amplification to boost diversity. Cases and con- trol samples were mixed within lanes and sequenced together on the same flow-cell to reduce the impact of batch effects on data. The quality of the bisulfite-con- verted sequencing reads was assessed with FastQC [61]. Reads were trimmed and aligned to the macaque reference genome (Mmul10), and then the bisulfite conversion rates were evaluated, insuring all librar- ies were > 98% converted, and CpG methylation was evaluated using Bismark [67]. The methylation rates were calculated as the ratio of methylated reads over the total number of reads. Methylation rates for CpGs with fewer than 10 reads were excluded from further analysis. We next removed CpG sites on sex chro- mosomes. The remaining ~ 2.8 to 3.0 million CpGs per sample (OC and PFC, respectively) post-filtering were used for downstream analyses. Each nominal p-value was corrected for multiple comparisons by the Benjamini–Hochberg FDR [65]. In parallel, the nominal p-value was used as input for Comb-p [71] analysis to identify differentially methyl- ated regions (DMRs) between OI, Ov, and Ov-HRT as previously described [72]. Genome‑wide DNA methylation profiling The Comb-p method uses a sliding window correction where each Wilcoxon p-value is adjusted by applying the Stouffer–Liptak–Kechris (slk) method [73–75] of neighboring p-values as weighted according to the observed autocorrelation (ACF) at the appropriate lag. Briefly, Comb-p calculates the ACF at varying distance lags, and then the ACF is used to perform the slk correction where each p-value is adjusted according to adjacent p-values as weighted according to the ACF. Thus, a given p-value will be pulled lower if its neighbors also have low p-values and likely remain insignificant if the neighboring p-values are also high. Next, a q-value score based on the Benja- mini–Hochberg FDR correction is calculated. The peak- finding algorithm is used to find enrichment regions. Once the regions are identified, a p-value for each region can be assigned using the Stouffer–Liptak cor- rection. Then, the false discovery rate q-value is used to define the extent of the region, whereas the slk-corrected p-value and the one-step Sidak multiple-testing correc- tion [76] are used to define the significance of the region. Parameters for Combwere DIST = 300, STEP = 60, and THRESHOLD = 0.05. The differential methylation analysis was carried out by applying a generalized linear mixed effects model (GLMM) implemented in R package PQLseq (version 1.2.1) [68, 69] separately for each CpG site. PQLseq models the technical sampling variation in bisulfite sequencing data with a binomial distribu- tion. The methylation values were modeled as the outcome, and the predictor was whether or not an animal had undergone Ov. The relatedness of the ani- mals was accounted for by modeling the relatedness as random effects, and for the test of interaction, we also modeled Ov-HRT status as an additional predic- tor and computed the interaction between Ov and Ov- HRT. Consistent with what was done with the gene Genome‑wide DNA methylation profiling Genomic DNA was checked for quality by electropho- resis on a 0.7% agarose gel, using a NanoDrop 8000 spectrophotometer (Thermo Scientific, Wilmington, DE, USA) and quantified using a Qubit (Thermo Scientific, Wilmington, DE, USA). A total of 50 ng 1 ol.: (0 3 123456789) 5824 GeroScience (2024) 46:5819–5841 expression data, the OI samples were replicated and relabeled with Ov-HRT and non-Ov-HRT categories to allow for the test of interaction. The most common methylation proportion values are 0 and 1, which are problematic in the context of generalized linear mod- els with the logit link function (infinite in the logit- transformed space). We used a common pseudo-count transformation to avoid both extremes, as recom- mended, for example, by the developers of PQLseq [70]. This was done after adding + 1 to the number of methylated reads and + 2 to the total number of reads to avoid modeling methylation proportions that are exactly 0 or 1, as recommended by the authors of PQLseq [70]. This pseudo-count transformation was only applied to non-missing values (coverage > 10 ×). of genomic DNA was sheared using a Bioruptor UCD200 (Diagenode, Denville, NJ, USA), generating fragments of ~ 180  bp. The Illumina TruSeq Methyl Capture EPIC library prep kit (Illumina, Santa Clara, CA, USA) was used following the manufacturer’s instructions. The EPIC probes interrogate > 3.3 mil- lion individual CpG sites per sample at a single- nucleotide resolution. After end repair, 3′ A-tailing, and adaptor ligation, libraries were pooled in groups of four, followed by two rounds of hybridization and capture using the EPIC probes, bisulfite conversion, and final amplification. After library quantification using a 2100 Bioanalyzer (Agilent Technologies), DNA libraries were sequenced (3 libraries per 150PE lane) on an Illumina HiSeq4000 at the University of Oregon Genomics and Cell Characterization Core Facility (GC3F). Subsequently, 5% PhiX DNA (Illu- mina Inc.) was added to each library pool during clus- ter amplification to boost diversity. Cases and con- trol samples were mixed within lanes and sequenced together on the same flow-cell to reduce the impact of batch effects on data. The quality of the bisulfite-con- verted sequencing reads was assessed with FastQC [61]. Reads were trimmed and aligned to the macaque reference genome (Mmul10), and then the bisulfite conversion rates were evaluated, insuring all librar- ies were > 98% converted, and CpG methylation was evaluated using Bismark [67]. Network analysis Significant DMRs that had gene annotations, as well as DE genes and genes demonstrating DEU, were combined for each brain region. Those gene 1 Vol:. 1 3 :. (1234567890) 5825 GeroScience (2024) 46:5819–5841 and overlapping with exon 1 of the rhesus macaque LTBR and overlapping with the last exon of MZF1 and in the promoter of UBE2M genes, we cloned the corresponding macaque DMR regions (LTBR (PFC), chr11:6,528,520–6,529,383; UBE2M (PFC), chr19:58,128,610–58,130,108; and (OC), chr19: 58,128,532–58,130,175) in the luciferase reporter vector pGL3 (Promega) and transfected HEK293 cells (HEK 293, obtained from the Wake Core Repos- itory). In addition, we transfected cells with the basic and control pGL3 as negative and positive controls; respectively. HEK293 cells were seeded in 96-well plates at 10,000 cells/well density and cultured in Dulbecco’s modified Eagle medium (DMEM) con- taining high glucose (4.5  g/L) supplemented with 10% fetal bovine serum (FBS) and maintained at 37  °C and 5% ­CO2. Twenty-four hours later, cells were transfected using 90 ng of each corresponding vector diluted in 10 µL of opti-medium and 0.3 µL of X-treme GENE HP DNA Transfection Reagent (Roche). Subsequently, 10 ng of Renilla vector (Pro- mega) was co-transfected and used for normalization. After 48 h of transfection, Dual-Glo® reagent equal lists were again combined across brain regions to identify significantly altered genes that replicated across both OC and PFC. Genes that were DE in both tissues were only retained if they were altered in consistent directions across both brain regions. Results were analyzed in KEGG, STRING, and MCODE to find biological pathways enriched between groups (Fig. 2; Figs. S2 and S3) [77, 78]. STRING was used to obtain protein–protein interac- tions for all genes that met our filtering criteria for each omic analysis. STRING was applied to find only “high confidence” protein–protein interactions with options for “text mining” and “neighborhood” disabled [77]. MCODE was applied to the remaining interactions to obtain a set of highly interconnected gene clusters [78], and the biological functions of each cluster with MCODE scores greater than 4.0 were identified through the KEGG pathways [79]. Differential expression analysis Differential expression analysis In the OC, 14,842 genes met the filtering criteria while 14,590 genes met the filtering criteria in the PFC. After computing association testing with each gene from each of those sets, we identified 150 and 128 differentially expressed (DE) genes associated with Ov (FDR < 0.05) in the OC and PFC, respec- tively (Table S1). To explore if Ov-HRT treatment modulates the effect of Ov, we computed an interaction test between Ov-HRT treatment and Ov status. Instead of glob- ally testing for an interaction between Ov-HRT and Ov status, we were primarily interested in genes that showed significant expression changes related to Ov that no longer showed a statistical association with Ov once the animals received Ov-HRT treat- ment. To obtain a general set of genes that fit this criterion, we filtered the results to include only genes that showed suggestive evidence of Ov association (unadjusted p < 0.05) without Ov-HRT treatment and little evidence of Ov association with Ov-HRT treat- ment (unadjusted p > 0.1). From this reduced set of 884 (PFC) and 663 genes (OC), we further filtered down to only those results that had suggestive evi- dence (p < 0.05) of interaction between Ov and Ov- HRT treatment. In the OC and PFC, we identified 19 and 10 genes, respectively, with suggestive evidence for Ov-HRT effects (Table 1). Ten of these genes are known to interact with the estrogen receptors or their expression being associated with the levels of estro- gen. These include the transient receptor potential vanilloid 6 (TRVP6), adrenomedullin (ADM), the glu- cose transporter 12 (SLC2A12), supervillin (SVIL), acyl-CoA synthetase 2 (ACSF2), lymphotoxin-B receptor (LTBR), the hematopoietic PBX-interacting protein 1 (PBXIP1), the fucosyltransferase 1 (FUT1), neuromedin U (NMU), and the Purkinje cell protein 4 (PCP4). Furthermore, TRVP6 is known to contain estrogen-responsive elements in its promoter. In the OC-specific network, ADM was part of the insulin secretion pathway. And in the OC/PFC combined Differential exon usage analysis These represent a unique set of genes that are being alternatively spliced in Ov animals and are mutually exclusive from the set of DE genes. Among these genes, HADHB, MDH2, and ELMO1 are known to interact with ERs and/or have EREs (i.e., ELMO1). No exons were identified as significant in the test of interaction between Ov and Ov-HTR after correc- tion for a FDR. Given the massive number of tests computed, the smaller sample size of the study, and the additional degrees of freedom needed to test the interaction between exon and Ov status (see “Meth- ods” section), it is likely that we are underpowered to compute DEU analysis at this scale. Nonethe- less, the 15 unique genes demonstrating significant DEU were included in the network analysis (Fig. 2). BMS1, CACNA2D3, DAPK1, and RGS6 clustered into the MAPK signaling and ribosome biogenesis networks (Fig. 2). In addition, we overlapped each of the 15 DEU genes with significant DMRs in the OC (FDR < 0.05 and Sidak < 0.05) because exon usage can often be influenced by DNAm. We did not iden- tify any overlapping results between the genes that were mapped to our significant DMRs and the DEU genes. Functional promoter/enhancer assay Functional promoter/enhancer assay To determine the promoter or enhancer activ- ity capacity of two DMRs located in the promoter V l (0123456789) Fig. 2   Biological networks of ovariectomy-related changes in gene expression and DNA methylation. Protein interactions were obtained from STRING’s protein interaction database. MCODE was used to find tightly connected clusters of interac- tions that are labeled according to functions defined in Gene Ontology biological processes (enrichment p-value listed). The color of the nodes reflects the tissue where the gene was identi- fied while the shape of the nodes reflects which omics analysis the gene was identified in. The size of the node reflects statis- tical significance with larger nodes, like UBE2M, being more significant color of the nodes reflects the tissue where the gene was identi- fied while the shape of the nodes reflects which omics analysis the gene was identified in. The size of the node reflects statis- tical significance with larger nodes, like UBE2M, being more significant Fig. 2   Biological networks of ovariectomy-related changes in gene expression and DNA methylation. Protein interactions were obtained from STRING’s protein interaction database. MCODE was used to find tightly connected clusters of interac- tions that are labeled according to functions defined in Gene Ontology biological processes (enrichment p-value listed). The 1 Vol.: (01 3 123456789) 5826 GeroScience (2024) 46:5819–5841 network, PBXIP1 was a member of the AMPK sign- aling pathway. to the volume of culture medium was added to each well. After 10  min, firefly luminescence was meas- ured in a luminometer (SpectraMax iD3). network, PBXIP1 was a member of the AMPK sign- aling pathway. to the volume of culture medium was added to each well. After 10  min, firefly luminescence was meas- ured in a luminometer (SpectraMax iD3). Differential methylation analysis In the OC and PFC, 2.6 million and 2.9 million CpGs met the filtering (no missing values across sam- ples and standard deviation of CpG methylation rate across all samples less than 5%), respectively. After computing association testing with each CpG from each of those sets, and aggregating the CpG results into DMRs, we identified 254 (OC) and 457 (PFC) significant (Sidak’s p < 0.05) DMRs associated with Ov (Table  S1). 24 DMRs were shared across both brain regions (Table  2). All of them showed the same direction of change in DNAm, except for the E3 ubiquitin-protein ligase, TRIM36, and the SH3- binding kinase 1, SBK1, that were hypomethylated in OC. Furthermore, SBK1 is both hypermethyl- ated and downregulated in the PFC. In the PFC, 5 DMRs showed overlap with DE genes (Table 2). The UBEM2 (ubiquitin-conjugating enzyme 2) DMR is 1 3 . (1234567890) 1 Vol:. GeroScience (2024) 46:5819–5841 5827 Table 1   Interaction results. Differential methylation analysis Genes that demonstrate suggestive evidence (p < 0.05) for a modifying estradiol result Genes in bold were differentially expressed and/or differentially methylated across brain areas FC fold change, Ov ovariectomized, Ov-HRT ovariectomiced with hormone replacement therapy, PFC prefrontal cortex, OC occipi- tal cortex Ensembl gene symbol Gene name Ov log2FC Ov p Ov-HRT log2FC Ov-HRT p Interaction p Tissue ENSMMUG00000008260 P2RX1*  − 1.65 6.10E-05 0.37 5.81E-01 9.64E-04 OC ENSMMUG00000016219 TRPV6 0.93 1.58E-02  − 0.43 4.67E-01 2.00E-03 OC ENSMMUG00000049314 DUSP2 0.61 1.27E-02  − 0.13 6.35E-01 2.46E-03 OC ENSMMUG00000015308 CAPN6  − 0.92 2.95E-02 0.96 6.39E-02 3.03E-03 PFC ENSMMUG00000020213 LTBR  − 0.72 2.90E-03 0.18 6.06E-01 4.09E-03 OC ENSMMUG00000011426 TIMP1  − 0.40 2.97E-02 0.23 1.66E-01 4.16E-03 PFC ENSMMUG00000063192 SOX17  − 0.98 8.29E-03 0.08 8.63E-01 7.62E-03 OC ENSMMUG00000000662 GBP3  − 0.43 6.81E-03 0.45 1.51E-01 1.10E-02 PFC ENSMMUG00000007604 PODN  − 0.77 2.92E-02 0.52 3.32E-01 1.14E-02 OC ENSMMUG00000016387 ADM 0.61 4.31E-02  − 0.18 5.82E-01 1.29E-02 OC ENSMMUG00000016027 SERTAD1 0.49 3.25E-02 0.02 9.32E-01 1.63E-02 OC ENSMMUG00000017327 SLAMF7  − 1.72 1.62E-02 0.35 6.04E-01 1.79E-02 PFC ENSMMUG00000022921 SLC2A12  − 0.44 1.41E-02 0.06 7.74E-01 1.81E-02 OC ENSMMUG00000002422 AEBP1  − 0.93 5.65E-03 0.43 3.82E-01 2.63E-02 OC ENSMMUG00000047632 NA 3.69 1.94E-03 1.44 6.97E-02 2.71E-02 OC ENSMMUG00000001545 NA 0.64 1.22E-02  − 0.02 9.47E-01 2.94E-02 OC ENSMMUG00000020346 CPXM2  − 1.15 3.70E-03 0.24 5.62E-01 2.99E-02 OC ENSMMUG00000025057 SNORD14 0.70 3.37E-02  − 0.30 4.81E-01 3.10E-02 PFC ENSMMUG00000064609 LIN28B 0.87 1.51E-03 0.11 7.45E-01 3.15E-02 PFC ENSMMUG00000022741 WFIKKN2  − 0.94 7.49E-03 0.07 8.89E-01 3.33E-02 OC ENSMMUG00000001374 SVIL  − 0.47 2.61E-02 0.13 6.37E-01 3.56E-02 OC ENSMMUG00000017236 ACSF2  − 0.31 2.90E-02 0.19 4.00E-01 3.58E-02 PFC ENSMMUG00000020213 LTBR*  − 0.86 1.90E-04  − 0.04 9.01E-01 3.59E-02 PFC ENSMMUG00000006576 PBXIP1*  − 0.59 1.35E-04  − 0.12 5.76E-01 4.08E-02 PFC ENSMMUG00000004020 FUT1 0.58 4.57E-02  − 0.12 6.88E-01 4.19E-02 OC ENSMMUG00000043692 NMU 1.30 1.41E-03 0.36 1.74E-01 4.21E-02 OC ENSMMUG00000041181 PCP4 0.72 3.37E-02  − 0.05 8.57E-01 4.36E-02 OC ENSMMUG00000000984 VILL 1.07 1.81E-02 0.21 5.86E-01 4.51E-02 OC ENSMMUG00000017360 NT5DC2  − 0.30 3.20E-02 0.19 4.20E-01 4.54E-02 PFC f y pf y y FC fold change, Ov ovariectomized, Ov-HRT ovariectomiced with hormone replacement therapy, PFC prefrontal cortex, OC occipi- tal cortex results, the subregion within this DMR has promoter activity (Fig. S1), as shown by an increased luciferase relative light units (RLUs) as compared to the control vectors (PGL3 enhancer vector, Fig. S1). very strongly replicated across both brain regions, which again suggests this is unlikely to be a false pos- itive (Fig. 3). Genes in bold were differentially expressed and/or differentially methylated across brain areas Differential methylation analysis UBE2M also shows suggestive evidence of differential expression in the OC (Fig. 3). In this case, the DMR (OC, 157 DMCs; PFC, 145 DMCs) is hypomethylated in both brain areas with Ov as com- pared to OI, and the gene is upregulated in the OC of Ov with or without HRT. The DMR is located ~ 3 kb upstream of the UBE2M transcription start site and mapping to the last exon of the MZF1 gene. Differ- ential expression was detected for UBE2M but not for the MZF1 gene. According to the reporter assay To explore if Ov-HRT treatment modulates the effect of Ov, we also computed an interaction test between Ov-HRT treatment and Ov status. As expected for the sample size and the nature of combining CpGs to build DMRs, FDR adjustment left no DMRs. LTBR, as mentioned above, is a DE gene that is also a significant DMR in the PFC (Fig. 4). The DMR contains 57 DMCs and maps to 1 ol.: (01 3 123456789) GeroScience (2024) 46:5819–5841 5828 “Effect” stands for either a ­log2(fold-change) or a difference in methylation rates. A positive effect is indicative of an increase with ovariectomy, while a negative effect indicates a decrease with ovariectomy. “Adjusted p” is the p-value adjusted for multiple comparisons, either an FDR adjustment for DEGs or Sidak’s adjustment for DMRs. Differential methylation analysis For results that are both a DEG and a DMR in the same tissue, the DMR effect and p-value are listed DMR differentially methylated region, DEG differentially expressed gene Gene name Occipital cortex Prefrontal cortex Effect Adjusted p Dataset Effect Adjusted p Dataset UBE2M  − 0.17 1.65E-51 DMR  − 0.13 9.63E-32 DMR PLD6  − 0.16 1.16E-20 DMR  − 0.11 5.08E-03 DMR KCNG2  − 0.08 4.74E-19 DMR  − 0.05 1.33E-08 DMR RNF157  − 0.14 5.94E-12 DMR  − 0.42 1.34E-02 DEG PPIAL4G  − 0.15 9.66E-11 DMR  − 0.24 5.36E-15 DMR PTPRU 0.24 2.43E-06 DMR 0.11 7.68E-11 DMR CHSY1 0.10 4.88E-05 DMR 0.08 8.27E-05 DMR STX2  − 0.06 6.29E-05 DMR  − 0.13 2.70E-03 DMR TRIM36  − 0.95 2.78E-04 DEG 0.12 1.03E-02 DMR KLK4 0.16 8.52E-04 DMR 0.09 1.44E-03 DMR NCOR2  − 0.08 1.11E-03 DMR  − 0.08 1.37E-03 DMR SBK1  − 0.10 1.19E-03 DMR 0.10 1.54E-05 DEG & DMR KIFAP3 0.03 1.35E-03 DMR 0.05 8.88E-03 DMR GAS6  − 0.22 2.77E-03 DMR  − 0.06 8.21E-03 DMR HAPLN4 0.15 3.58E-03 DMR 0.10 2.02E-04 DMR RAB12  − 0.13 5.24E-03 DMR  − 0.08 1.90E-03 DMR TAF1B 0.11 6.58E-03 DMR 0.12 1.84E-16 DMR ADGRD1 0.10 7.40E-03 DMR 0.10 2.84E-03 DMR SGTA​ 0.07 1.73E-02 DMR 0.09 3.24E-02 DMR ZBTB7A  − 0.12 2.30E-02 DMR  − 0.83 3.62E-02 DEG CEP170  − 0.58 3.98E-02 DEG  − 0.15 4.78E-24 DMR AURKC 0.16 4.21E-02 DMR 0.10 6.35E-05 DMR NUDT10 0.82 4.29E-02 DEG 1.00 3.82E-02 DEG MEIS2  − 0.11 4.94E-02 DMR  − 0.09 1.76E-02 DMR “Effect” stands for either a ­log2(fold-change) or a difference in methylation rates. A positive effect is indicative of an increase with ovariectomy, while a negative effect indicates a decrease with ovariectomy. “Adjusted p” is the p-value adjusted for multiple comparisons, either an FDR adjustment for DEGs or Sidak’s adjustment for DMRs. For results that are both a DEG and a DMR in the same tissue, the DMR effect and p-value are listed Network analysis the promoter and the first alternative exons of this gene. The DMR is significantly hypermethylated in Ov samples as compared to OI samples (aver- age DNAm = 27% vs 14%; respectively), while in Ov-HRT, the methylation level was not different to OI or Ov (average DNAm = 20%). The promoter/ enhancer assays and the position of the DMR sug- gest that this DMR is functioning as a promoter (Fig. S1). In agreement with this DMR function- ing as a promoter, we observed a downregulation of LTBR with the hypermethylated DMR in Ov (Fig. 4), while the expression in OI and Ov-HRT did not differ. Network analysis for each brain region was completed independently for each tissue. In the OC, we identi- fied 150 DE genes and 254 DMRs, while we identi- fied 128 DE genes and 457 DMRs significantly asso- ciated with Ov in the PFC (Table S1). In the OC, 23 genes clustered into 3 MCODE clusters (MCODE score > 4.0), and in the PFC, 48 genes clustered into 5 MCODE clusters (MCODE score > 4.0) (Figs. S2 and S3). Pathway analysis shows different pathways enriched in a tissue-specific manner, highlighting the particular function of each brain region. For instance, 1 Vol:. 3 (1234567890) GeroScience (2024) 46:5819–5841 5829 Fig. 3   Ovariectomy-related changes in gene expression and methylation of UBE2M. UBE2M was a gene that demonstrated significant differences in methylation across both brain regions. In addition, it demonstrated significant differences in expres- sion in the OC. The DMR and CpG island that was annotated to UBE2M resides upstream of UBE2M in the same genomic region as the MZF1 gene and appears to be hypo-methylated with ovariectomy. Expression of UBE2M increases with ova- riectomy, regardless of E2 treatment, and average DNA meth- ylation rates are not significantly altered with E2 treatment Fig. 3   Ovariectomy-related changes in gene expression and methylation of UBE2M. UBE2M was a gene that demonstrated significant differences in methylation across both brain regions. In addition, it demonstrated significant differences in expres- sion in the OC. The DMR and CpG island that was annotated to UBE2M resides upstream of UBE2M in the same genomic region as the MZF1 gene and appears to be hypo-methylated with ovariectomy. Expression of UBE2M increases with ova- riectomy, regardless of E2 treatment, and average DNA meth- ylation rates are not significantly altered with E2 treatment network analysis (Fig. 2). Network analysis Interestingly, an enrichment in “dopaminergic synapse” was, almost exclusively, found in the PFC. Within this network, the family of kinesin motor proteins, KIF, were primarily down- regulated (KIF5A-C; KIF1B, KIF4A, KIFAP3) in Ov. Among this family, KIF26B was hypermethylated in Ov, but DNAm levels went down with Ov-HRT, more similar to the levels in OI. Network analysis The corresponding expression of LTBR decreases with ovariectomy but appears to be rescued to some degree with E2 treatment, particularly in the occipital cortex. Near the same region of the DMR lie a number of cis-acting eQTLs associated with LTBR expression that are also known GWAS variants for a variety of disorders—many of which are related to immune disorders ylation rates, it appears that the hypermethylation in this region that is caused by Ov is modulated by estradiol treatment. The corresponding expression of LTBR decreases with ovariectomy but appears to be rescued to some degree with E2 treatment, particularly in the occipital cortex. Near the same region of the DMR lie a number of cis-acting eQTLs associated with LTBR expression that are also known GWAS variants for a variety of disorders—many of which are related to immune disorders Fig. 4   Ovariectomy-related changes in gene expression and methylation of LTBR. LTBR was a gene that demonstrated differences in expression associated with ovariectomy across both brain regions. In addition, it demonstrated significant dif- ferences in methylation in the PFC (but no significant DMR was identified in the OC). The DMR and CpG island that was annotated to LTBR resides just upstream of LTBR and appears to be hypermethylated with ovariectomy. With average meth- regions or showed significant methylation and expression effects (Table  2). The network analy- sis highlights UBE2M, AURKC, SGTA​, RAB12, KIFAP3, NCOR2, TAF1B, ZBTB7A, and KCNG2 as genes with potentially key biological importance related to Ov across both brain regions (Fig. 2). 17β-estradiol receptor, ESR2, which is hypermethyl- ated in Ov in the OC. Other key networks worth high- lighting include those that were enriched for “AMPK signaling” and several signaling pathways involved in transcription and translation regulation (i.e., ribo- some biogenesis; Fig. 2). Interestingly, an enrichment in “dopaminergic synapse” was, almost exclusively, found in the PFC. Within this network, the family of kinesin motor proteins, KIF, were primarily down- regulated (KIF5A-C; KIF1B, KIF4A, KIFAP3) in Ov. Among this family, KIF26B was hypermethylated in Ov, but DNAm levels went down with Ov-HRT, more similar to the levels in OI. 17β-estradiol receptor, ESR2, which is hypermethyl- ated in Ov in the OC. Other key networks worth high- lighting include those that were enriched for “AMPK signaling” and several signaling pathways involved in transcription and translation regulation (i.e., ribo- some biogenesis; Fig. 2). Network analysis Of the 891 genes, 127 genes clustered in 7 MCODE clusters (MCODE score > 4.0). The largest of the clusters contained 67 genes and was strongly enriched for “MAPK signal- ing”. Genes with differential expression and methyla- tion from both brain regions are similarly represented in this pathway. For instance, and within the regula- tors of the G-protein signaling (RGS) subcluster, all three members of the R12 family (RGS10, 12, and 14) were hypermethylated in Ov in the PFC. Exon 24 of the RGS6 was downregulated in the OC leading to the production of different RGS6 transcripts under Ov conditions (Fig. S4). This brain specificity in the expression of RGS members may suggest activation/ inhibition of different intracellular signaling cascades by brain region. One of the strongest results from the DNAm analyses, UBE2M, appears to play a key role in the regulation of this network (Fig. 2). UBE2M interestingly links into the pathway through the in the OC, there was an enrichment in the regulation of insulin secretion, with UBE2M and ADM being hypermethylated and the estrogen receptor ESR2 being hypomethylated in Ov. In the PFC, there was an enrichment in GPCR signaling, which included the pro-opiomelanocortin POMC, the G-protein sign- aling 17 (RGS17) or the G-protein subunit gamma 2 and 7 (GNG2 and GNG7), among others. The ankyrin signaling pathway and the HSP90 chaperone-medi- ated activation of steroid hormone receptors were also enriched in the PFC with Ov. These pathways included ANK1 and ANK3, several dyneins (DYNLL2, DYNLT3, and DYNC1LI2), and the FK506-binding protein 4 (FKBP4).f Given that the different brain regions under study play critical roles in processing cognitive functions, after filtering and manual curation to identify genes that were replicated across brain regions for omics, 891 total genes were submitted for global integrated 1 ol.: (01 3 123456789) 3 123456789) 5830 GeroScience (2024) 46:5819–5841 Fig. 4   Ovariectomy-related changes in gene expression and methylation of LTBR. LTBR was a gene that demonstrated differences in expression associated with ovariectomy across both brain regions. In addition, it demonstrated significant dif- ferences in methylation in the PFC (but no significant DMR was identified in the OC). The DMR and CpG island that was annotated to LTBR resides just upstream of LTBR and appears to be hypermethylated with ovariectomy. With average meth- ylation rates, it appears that the hypermethylation in this region that is caused by Ov is modulated by estradiol treatment. Discussion Overall goals 1 3 Vol:. (1234567890) Overall goals In the PFC, ZBTB7A was downregulated, probably due to the absence of E2 in Ov, and, given the role of this transcription factor in metabolism [82], this downregulation could have implications in the regulation of brain metabolism. powered to detect significant differences in gene expression and DNAm because of our ability to tightly regulate the environment and obtain high-qual- ity and highly reproducible brain samples. With this NHP model of middle-aged female rhesus macaques, we identified highly translatable molecular changes in the brain that are linked with the E2 depletion associ- ated with Ov. Given the natural depletion of E2 that occurs with age, these results present a novel under- standing of the role E2 plays in the aging brain and how long-term immediate HRT treatment (~ 4 years) can reverse or palliate those changes to maintain the brain in an age-matched molecular profile. i Because of the established relationship between E2 levels, its broad molecular regulatory function, and cog- nition [20, 30], we expected to identify robust molecu- lar differences in these cognitive-relevant brain regions associated with Ov. For this reason, we completed RNA-sequencing to determine the genes that were DE and genome-wide DNAm sequencing to determine the genomic regions that were differentially methyl- ated in the brains of animals that had undergone Ov for ~ 4 years prior to necropsy. As expected, we detected a large number of DMRs as well as DE genes—some- times genes that were both DE and differentially meth- ylated in their respective promoter/enhancer regions (Figs. 2 and 3, S1). We note, however, that because these results are derived from heterogeneous bulk tissue that contains many cell types, we are unable to attrib- ute these differences to actual changes in the cell-type molecular mechanisms linked to Ov. Instead, it is pos- sible that the changes we identify are driven by differ- ences in the proportions of particular cell types. For example, LTBR is a gene that is primarily expressed in microglial cells. The differences we see in DNAm and expression between groups may either be attributed to a change in the abundance of microglia seen between groups or an actual shift in DNAm levels across cell types (or even just a large DNAm shift in microglia). A follow-up study using single-cell RNA-Seq would need to be completed to determine what the real drivers are in most of these cases. Overall goals This study examined the molecular effects of estro- gen depletion at an older age on two different corti- cal regions, the OC and PFC, implicated in cognitive function. The OC controls visuospatial processing, distance and depth perception, color determination, object and face recognition, and memory forma- tion [52, 53]. While the PFC is involved in working memory, temporal processing, decision-making, flex- ibility, and goal-oriented behavior [55]. Damage to these brain regions contributes to cognitive decline in dementia patients. While limited in sample size, this study leveraged an NHP model that was sufficiently Using the 29 genes from the interaction analy- sis across both brain regions, pathway enrichment suggests only two potential networks, HIF-1 sign- aling (p = 0.0088, LTBR, TIMP1) and neuroactive ligand-receptor interaction (p = 0.0096, P2RX1, NMU, ADM), suggesting that these genes and path- ways may be working together in mediating the effects of HRT in Ov (Table 1). f Twenty-four genes showed overlap in consist- ent directions either across the two brain regions or both omics. These genes replicated across both 1 3 Vol:. (1234567890) 1 3 Vol:. (1234567890) GeroScience (2024) 46:5819–5841 5831 one gene that was DE and/or differentially methyl- ated in both brain regions, suggesting a common link to the same pathways across them. These include the voltage-gated potassium channel encoded by KCNG2 (proteasome, p = 2.53 × ­10−2), the TATA-box-binding protein-associated factor (TAF1B, ribosome biogen- esis, p = 8.41 × ­10−6), the nuclear receptor corepres- sor 2 (NCOR2, NOTCH signaling, p = 2.65 × ­10−2), the Ras-related protein 12 (RAB12, AMPK signaling, p = 2.96 × ­10−2), and the kinesin-associated protein 3 (KIFAP3, dopaminergic synapse, p = 2.37 × ­10−6). Interestingly, KIFAP3 was downregulated in the PFC of Ov-HRT females under a chronic obesogenic diet [80]. In the current study, KIFAP3 was hypermeth- ylated in the PFC with Ov as compared to OI, while the DNAm levels were similar to the group receiving HRT. These results highlight the role of this gene in the PFC and its responsiveness to the presence of E2, independently of the diet. Within the basal transcrip- tion factors network (p = 4.43 × ­10−4), the zinc finger and BTB domain-containing 7A factor (ZBTB7A) are known to transcriptionally upregulate ERα expression by directly binding to the ESR1 promoter. In addition, ERα potentiates ZBTB7A expression via a positive loop in breast cancer [81]. Overall goals The dopaminergic synapse pathway contained the KIFAP3 gene which was hypermethylated in both brain regions and contained a number of other mem- bers of the kinesin heavy-chain proteins (i.e., KIF1B, 4A, 5A, 5B, and 5C were all downregulated in the PFC). Kinesins are molecular motors that transport cargo along microtubules [83]. These kinesin mem- bers are involved in transporting mitochondria, amy- loid precursor protein vesicles, GABA and dopamine receptors, lysosomes, choline acetyltransferase, and dopamine [84–90]. Our results suggest that with Ov, there is a downregulation in kinesin expression that could be contributing to alterations in intracellular protein trafficking, for instance, dopamine receptors, that could impact synaptic function. A meta-analysis showed that AD patients had lower levels of dopa- mine and dopamine receptors (DRD1 and DRD2) as compared to controls, which could be contributing to dysregulation of mood and emotional stability as well as memory dysfunction [91]. Ov is associated with dramatic changes in neural signaling pathways Ov is associated with dramatic changes in neural signaling pathways Pathway analysis revealed several networks of genes that changed with Ov (Fig. 2) in both brain regions. Importantly, all the identified networks had at least 1 ol.: (01 3 123456789) 5832 GeroScience (2024) 46:5819–5841 spatial memory impairment [99]. UBE2M’s primary function is as a ubiquitin-protein transferase, involved in protein neddylation, which is a post-translational ubiquitin-like protein modification that plays piv- otal roles in protein quality control and homeostasis. Neddylation, involving UBE2M and other enzymes, is a critical mechanism for targeting and degrading misfolded or damaged proteins, helping to main- tain protein quality control within brain cells [100]. For instance, during the initial stages of AD, ubiq- uitin–proteasome proteolysis degrades the abnormal amyloid β peptides and hyperphosphorylated tau. However, as the disease progresses, ubiquitination becomes ineffective at degrading the accumulating insoluble proteins [101], and neddylation seems to contribute to the degradation of these abnormal pro- teins. In AD patients, neddylation mechanisms are dysregulated [102], and neurons show accumulation of the neddylation enzyme NEDD8 in the cytoplasm and colocalization with ubiquitin and proteasome components in protein inclusions in the brain [102, 103]. Our results showed hypomethylation in both brain regions and upregulation of UBE2M in the OC. While additional studies are needed to determine the cellular localization of UBE2M and its role in pro- tein neddylation, our results suggest that dysregula- tion of UBE2M, as well as the proteasome pathway (Fig. 2), that is associated with E2 depletion may be a key player mediating the negative effects that lack of E2 has on brain function [104]. In agreement with this hypothesis, our recently published analysis of the amygdala of these same females showed an increased accumulation of Aβ plaques in Ov females relative to those receiving E2 [105]. It remains to be deter- mined wether similar differential expression of Aβ plaques also occurs in the OC and PFC. Together, these results emphasize SGTA​ and UBE2M, through their direct (ESR2) or indirect connections with the estrogen system, as critical mediators of a network of signaling pathways connected to protein degradation (i.e., proteasome and ubiquitination), synaptic func- tion (i.e., dopamine), neuroinflammation, and neuro- degeneration across brain regions [106–109]. One of the strongest biological pathways enriched in Ov was the MAPK signaling (enrich- ment p = 2.3 × ­10−10). Prior evidence showed that E2 alters cellular components required for maintain- ing the balance between active and inactive MAPKs. Ov is associated with dramatic changes in neural signaling pathways For example, crosstalk between phosphorylation and ubiquitination pathways can exert long-term changes in cellular processes through multiple feedback loops that ultimately impact apoptosis and cell proliferation [92]. Among the members of the MAPK signaling pathway, the ERK 1 gene (MAPK3) and the ubiquit- ination gene UBE2M were hypomethylated, and sev- eral RGS proteins (RGS 10, 12, and 14) were hyper- methylated in the PFC with Ov. Activation of ERK 1/2 subjected to G-protein-coupled receptor-mediated signaling is regulated through RGS proteins [93, 94]. Although additional studies analyzing protein levels and activation/inhibition ratio of these molecules are needed, our results suggest that RGS protein activ- ity might be downregulated, leading to less inhibition of ERK 1, which would be consequently upregulated (supported by the hypomethylated DMR mapping to MAPK3). In addition, three genes are differentially methylated in both brain regions, UBE2M, SGTA​, and AURKC. While little is known about the neural func- tion of aurora kinase C (AURKC), the SGTA​ (small glutamine-rich tetratricopeptide-repeat-containing protein alpha) encodes for a molecular co-chaperone that interacts with steroid receptors and heat shock chaperone proteins, i.e., HSP90AA1 (Fig. 2), to reg- ulate steroid receptor signaling, protein folding and conformation state, receptor stability, subcellular localization, and intracellular trafficking [95]. A study in yeast showed that Hsp90 functions to maintain the estrogen receptors in a high-affinity hormone-binding conformation [96]. Interestingly, UBE2M involve- ment in the MAPK signaling network is through its interaction with the ERβ gene (ESR2), that was hypermethylated in Ov (Fig. 2). Given its robust asso- ciation with Ov across both brain regions and both the transcriptome and methylome, UBE2M is a strong result that should be heavily considered for further investigation. We confirmed that the DMR proximal to UBE2M functions as a promoter (Fig. S1), sug- gesting that changes in DNAm in this DMR may contribute to regulating its expression. Alterations in the ubiquitination system have been extensively linked to AD, with mutations in UBB + 1 gene trig- gering neuronal degeneration [97 98] and linked to spatial memory impairment [99]. UBE2M’s primary function is as a ubiquitin-protein transferase, involved in protein neddylation, which is a post-translational ubiquitin-like protein modification that plays piv- otal roles in protein quality control and homeostasis. Neddylation, involving UBE2M and other enzymes, is a critical mechanism for targeting and degrading misfolded or damaged proteins, helping to main- tain protein quality control within brain cells [100]. Ov is associated with dramatic changes in neural signaling pathways For instance, during the initial stages of AD, ubiq- uitin–proteasome proteolysis degrades the abnormal amyloid β peptides and hyperphosphorylated tau. However, as the disease progresses, ubiquitination becomes ineffective at degrading the accumulating insoluble proteins [101], and neddylation seems to contribute to the degradation of these abnormal pro- teins. In AD patients, neddylation mechanisms are dysregulated [102], and neurons show accumulation of the neddylation enzyme NEDD8 in the cytoplasm and colocalization with ubiquitin and proteasome components in protein inclusions in the brain [102, 103]. Our results showed hypomethylation in both brain regions and upregulation of UBE2M in the OC. While additional studies are needed to determine the cellular localization of UBE2M and its role in pro- tein neddylation, our results suggest that dysregula- tion of UBE2M, as well as the proteasome pathway (Fig. 2), that is associated with E2 depletion may be a key player mediating the negative effects that lack of E2 has on brain function [104]. In agreement with this hypothesis, our recently published analysis of the amygdala of these same females showed an increased accumulation of Aβ plaques in Ov females relative to those receiving E2 [105]. It remains to be deter- mined wether similar differential expression of Aβ plaques also occurs in the OC and PFC. Together, these results emphasize SGTA​ and UBE2M, through their direct (ESR2) or indirect connections with the estrogen system, as critical mediators of a network of signaling pathways connected to protein degradation (i.e., proteasome and ubiquitination), synaptic func- tion (i.e., dopamine), neuroinflammation, and neuro- degeneration across brain regions [106–109]. Immediate estradiol supplementation ameliorates molecular alterations linked to Ov Immediate estradiol supplementation ameliorates molecular alterations linked to Ov After identifying molecular changes associated with Ov, we were interested in understanding whether 1 3 l:. (1234567890) 1 Vol:. GeroScience (2024) 46:5819–5841 5833 immediate (right after Ov) and long-term (over 4  years) E2 treatment reverse any of the changes linked to Ov. By identifying Ov-linked effects ame- liorated by E2 treatment, the biological pathways that are directly impacted by estrogen levels become clearer. While E2 treatment ameliorates some of the behavioral and physiological changes seen following menopause in humans, the effects of E2 treatment on cognitive performance are still mixed [18]. Such inconclusive results could be due to the differences in HRT timing, diet, and other confounding vari- ables common in human studies. Contrarily, results in NHPs on the beneficial effects of HRT on cogni- tion are more consistent [30, 41], probably due to the controlled experimental conditions. For instance, a battery of behavioral testing conducted in the same females starting at 1  week following Ov and con- tinuing for 12  months into the experimental design showed performance recovery in delayed response and visuospatial cueing tasks following E2 supple- mentation [30]. Thus, by understanding the specific genes altered by E2 in the brain with this animal model, we can begin to understand the biological pathways estrogen impacts and thereby develop more targeted therapeutics that specifically improve brain function and ultimately cognitive performance.i intracellular stocks in the endoplasmic reticulum. The concentration of ­Ca2+ in the cytosol is relatively low at the resting stage but shows a gradual increase after activation [113]. However, sustained intracellular ­Ca2+ disturbances are immediate causes of neurode- generative diseases [114]. TRPV1 has been associ- ated with inflammation in AD; however, no informa- tion on the role of TRPV6 in aging is available. In the OC, TRPV6 was upregulated with Ov, and the levels decreased with HRT. These results disagree with pre- viously reported findings in the hippocampus [112] and could stem from brain region–specific differences in TRPV6 regulation. Nonetheless, our results suggest that without E2, there is an upregulation in TRPV6, and given its higher permeability to ­Ca2+ [115], this could lead to neuroinflammation. Importantly, E2 supplementation returns these levels to those of age- matched controls. Adrenomedullin (ADM) is a peptide exerting important functions in the periphery and CNS. Immediate estradiol supplementation ameliorates molecular alterations linked to Ov In the uterus, studies revealed that ADM promoter is recognized by the ER in a ligand-dependent man- ner and that there is a positive correlation between estrogen levels and ADM gene expression [116–119]. In the CNS, ADM is widely expressed through the brain [120], and its plasma levels increase with nor- mal aging [121]. ADM is known to contribute to the activation of the hypothalamic–pituitary–adrenal (HPA) axis through the release of CRH [122], thus contributing to regulating hormonal responses to stress. Moreover, it acts as a neuromodulator through mechanisms dependent and independent of NMDA receptors [123]. In the brain of AD patients and in mouse models of AD, ADM seems to be associated with activated astrocytes in the vicinity of Aβ plaques [124, 125]. In the OC, ADM-relative expression lev- els increased after Ov, but its levels showed no sig- nificant differences from Ov-HRT, suggesting that a hypothetical reduction in Aβ plaques with E2 would then result in lower ADM levels. In the OC and PFC, we identified 19 and 10 genes, respectively, with suggestive evidence for E2 effects, where E2 appears to restore expression levels to a level that is similar to OI (Table 1). Among these 29 genes, the following are known to interact with the estrogen receptors, or its expression being associated with the levels of estrogen. TRPV6 is a ­Ca2+-selective channel that contains an ERE in its promoter [110], and its regulation by estrogen has been proposed in peripheral tissues [111] and the CNS, including the cortex [112]. TRPs participate in neurite outgrowth, receptor signaling, and excitotoxic cell death in the CNS. Furthermore, in mice, hypothalamic lev- els of Trpv6 are susceptible to estradiol oscillations through the estrous cycle, with higher Trpv6 levels at the proestrous phase where estrogen levels are at their highest [112]. Upregulation of intracellular ­Ca2+ and elevated ­Ca2+ influx via voltage-dependent ­Ca2+ channels have been reported to cause age-related alterations in neuronal activation. The diverse func- tions of neurons are dependent on ­Ca2+ signaling, which is influenced by the influx of ­Ca2+ from the extracellular environment or the release of ­Ca2+ from AD is characterized by cerebral glucose hypome- tabolism. Glucose transporters are integral membrane proteins responsible for moving glucose from the bloodstream into cells. Extensive evidence has shown that non-vascular glucose transporters are altered in AD brains, causing glucose starvation and acceler- ated cognitive decline. Immediate estradiol supplementation ameliorates molecular alterations linked to Ov In breast cancer cell lines, the insulin-sensitive glucose transporter 12 (SLC2A12) protein levels are increased with E2 [126], suggesting 1 ol.: (01 3 123456789) 3 123456789) 5834 GeroScience (2024) 46:5819–5841 a regulatory effect of estradiol on glucose metabo- lism. In the OC, SLC2A12 (or GLUT12), which is expressed in cortical astrocytes [127], was found to be downregulated with Ov but normalized after E2 treatment. These results suggest that the lack of E2 may lead to glucose dysregulation and impairment in cognitive function. In addition to using glucose as an energy source, intracellular glucose is used for N-linked glycan biosynthesis, which is an under- studied part of neural glucose metabolism. These N-glycans are terminal modifications in proteins (i.e., voltage-gated ion channels) that are required for pro- tein function, from regulating action potential, neuro- transmitter release, and synaptic transmission [128, 129], through the turnover and stability of brain gly- coproteins such as synapsin 1[130]. The fucosyltrans- ferase 1 (FUT1), which expression is mediated by the E2 [131], is one of the glycosylation enzymes that are required for synapse formation and neurite out- growth. Global changes in N-linked glycoprotein pro- files have been identified in CSF from AD patients, leading to its potential use as a biomarker for AD pro- gression [132]. In our study, FUT1 was upregulated in the OC with Ov, but normalized in Ov-HRT; sug- gesting that Ov may be associated with aberrations in the N-glycoproteome. promoted the synthesis of Aβ, increased Aβ deposi- tion, plaque formation, affected Aβ protein precur- sor processing, and worsened learning and memory impairment in the transgenic AD mouse model [138]. Our results identified an upregulated PCP4 in Ov, which would support the development of Aβ pathology, while Ov-HRT females had lower levels of PCP4, suggesting that E2 offers some protection. f The hematopoietic PBX-interacting protein 1 (PBXIP1) is a transcription factor involved in extra- cellular matrix organization and chromatin regula- tion. It is an ER-interacting protein that regulates estrogen-mediated breast cancer cell prolifera- tion and tumorigenesis [139]. A recent integrative multi-omics analysis on the human PFC found PBXIP1 being statistically associated with the three main neuropathological AD traits (extracellular Aβ plaques, phosphorylated-tau neuronal tangles, and their density). It has been suggested that these effects are mediated through PBXIP1’s role in astro- cytes [140, 141] and hippocampal neurons where its expression is linked to neuronal degeneration in postmenopausal women [142]. 1 3 Vol:. (1234567890) Conclusions Enrichment analysis of these 29 DE genes revealed two small networks that were significant: HIF-1 sign- aling (p = 0.0088, LTBR, TIMP1) and neuroactive ligand-receptor interaction (p = 0.0096, P2RX1, NMU, ADM). HIF-1 signaling has been previously linked to estradiol [143] and has been shown to regulate neu- roinflammation in traumatic brain injury [144]. This network contains the LTBR), which is one of our most promising results that demonstrates differential expression effects in both brain areas. We also iden- tified a DMR mapping to LTBR in the PFC (Fig. 3). We confirmed that the DMR proximal to LTBR is a promoter (Fig. S2). LTBR has been mostly studied in lymphoid tissues, with data supporting its role as a regulator of inflammation [145], a process known to be modulated by estrogen as well [146]. In fact, LTBR signaling can activate both canonical and alter- native NF-κβ signaling to induce proinflammatory chemokines and cytokines [147]. Although studies on the role of LTBR in brain function remain mostly unexplored, a recent transcriptomic study identified LTBR as a neuroinflammatory biomarker of AD [148]. More specifically, it has been recently shown that LTBR is upregulated in microglia of aged (mean age of 94 years) brains as compared to middle-aged (mean age of 53 years) human brains [149], which could sug- gest that upregulated LTBR levels might be mediat- ing age-related neuroinflammation through microglial function. However, the relationship between LTBR expression/function and microglial activation status remains unknown, and additional studies are needed to determine how or whether LTBR mediates microglial activation. Others have shown that estrogen can inac- tivate microglia through the ERβ [150]. Our results show increased DNAm levels and decreased levels of LTBR expression with Ov (Fig. 3), with LTBR expres- sion levels reverting to OI levels with HRT. As dis- cussed earlier, it is possible that the changes in DNAm and gene expression seen with Ov-HRT are associated with a change in the proportions of cell types, namely microglia, with Ov-HRT. This is a limitation in this study, and we cannot exclude that such molecular changes are due to a change in the number of micro- glia present, their activation status, or a combination of all. Immediate estradiol supplementation ameliorates molecular alterations linked to Ov Indeed, some stud- ies have demonstrated that PBXIP1 is a scaffolding protein that can bind ERs and regulate E2 signal- ing cascades [47, 50]. Short-term E2 treatment enhanced ER interaction with the PBXIP1–micro- tubule complex and resulted in cytoplasmic locali- zation, while microtubule depolymerization dis- rupted the PBXIP1–ER–microtubule complex and increased ER nuclear transcriptional activity, sug- gesting that ER interaction with PBXIP1 promotes cytoplasmic localization of ERs [25, 48, 51]. In our study, PBXIP1 was downregulated by Ov (Fig. 2) but normalized in Ov-HRT, suggesting that when E2 is present in sufficient amounts, PBXIP1 is criti- cal to shuttling E2 between the nucleus and cytosol [48] so that E2 can exert its functions.i Neuromedin U (NMU) is a gonadal peptide, which receptor, neuromedin U2 is expressed throughout the brain [133]. It is suggested that NMU has a pro- tective role in neurodegenerative diseases [134]. In particular, NMU protects neuronal cell viability and inhibits inflammation-induced memory impairments [134]. Others have shown that estradiol levels follow- ing Ov in rats resulted in alterations in NMU levels in the brain [135, 136]. Although this effect seems to be estradiol dose-dependent, with low estradiol lev- els increasing NMU expression levels, this increment was only previously observed with progesterone sup- plementation [135, 136]. Our results show the same trend, with higher levels of NMU in Ov, but lower levels in the group receiving E2. A possible explana- tion for these results could be that if there is higher neuroinflammation with Ov, NMU might be upregu- lated to counteract that inflammation. While the specific function of these genes in the cortex and how E2 is regulating their function remain to be investigated, our results indicate that Ov might be leading to neuroinflammation, Aβ plaque forma- tion, and cognitive decline through glucose metabo- lism, intracellular ­Ca2+ levels, and microtubule and N-glycosylation disruptions, importantly. Ov-HRT treatment might delay/prevent AD-related pathol- ogy by altering the expression levels of these genes (and likely associated pathways) to normalize them to those levels of age-matched controls. l The Purkinje cell protein 4 (PCP4) is a calmo- dulin-binding anti-apoptotic peptide in neural cells and an estrogen-inducible peptide in breast cancer cell lines [137]. A recent study showed that PCP4 was upregulated in transgenic mice, and PCP4 1 3 ol:. (1234567890) GeroScience (2024) 46:5819–5841 5835 Conclusions Nonetheless, it is evident from our results that understanding the role of LTBR in microglia func- tion would be of critical importance to understanding This work highlights the importance of multiple omics across multiple brain regions to identify robust molecular signals linked to E2 regulation in the aging brain. By including multiple omics and more than one brain area, we were able to home in on biological effects that replicated across brain regions and thereby reduce noise from false positives. Importantly, this work represents a major step toward understand- ing molecular changes in the brain that are linked to Ov and how HRT may revert or protect against the negative consequences of a depletion in E2. Our find- ings indicate that the molecular profile of the cortical regions (OC and PFC) in the absence of E2 may lead to neuroinflammation and neuropathology compatible with AD disease by the dysregulation of intracellular axonal protein trafficking, protein ubiquitination, glu- cose metabolism, intracellular ­Ca2+ levels, and micro- tubule and N-glycosylation disruptions that are nec- essary for proper function of brain cells. Immediate HRT reverted these effects, at least partially, by bring- ing the epigenetic/transcriptomic profile of genes involved in neuroinflammation and other unknown functions, to that profile of age-matched OI females. It remains to be known if the molecular profile of the brain after HRT is more similar to that of younger OI brains, which we are currently investigating. Nonethe- less, our results present real opportunities to discover novel therapeutics to slow cognitive decline caused by the lack of E2. Although our work needs further validation with larger cohorts, it also requires focused investigations of some of the genes we identified with very robust effects like LTBR and UBE2M. Moreover, because our studies were performed in an NHP pre- clinical animal model of human aging, the findings may have more immediate translational potential for clinical studies involving postmenopausal women. Author contribution  SGK, HFU, and RCJ designed the experiments. SGK and HFU provided the rhesus macaque samples. RCJ isolated all the DNA and RNA samples and prepared all the omics libraries. DZ and JB conducted the reporter assays. DNA methylation and gene expression bioin- formatic analyses were performed by KDZ and LJW, and KDZ advised and conducted the appropriate statistical analyses to be performed in all the experiments. SGK, HFU, KDZ, and RCJ wrote the manuscript with the help of all the authors. Author contribution  SGK, HFU, and RCJ designed the experiments. SGK and HFU provided the rhesus macaque samples. RCJ isolated all the DNA and RNA samples and prepared all the omics libraries. DZ and JB conducted the reporter assays. DNA methylation and gene expression bioin- formatic analyses were performed by KDZ and LJW, and KDZ advised and conducted the appropriate statistical analyses to be performed in all the experiments. SGK, HFU, KDZ, and RCJ wrote the manuscript with the help of all the authors. Competing interests  The authors declare no competing inter- ests. Competing interests  The authors declare no competing inter- ests. 9. Kravitz HM, Janssen I, Bromberger JT, Matthews KA, Hall MH, Ruppert K, et al. Sleep trajectories before and after the final menstrual period in the study of women’s health across the nation (SWAN). Curr Sleep Med Rep. 2017;3(3):235–50. 10. Lamar M, Resnick SM, Zonderman AB. Longitudinal changes in verbal memory in older adults: distinguish- ing the effects of age from repeat testing. Neurology. 2003;60(1):82–6. Open Access  This article is licensed under a Creative Com- mons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Crea- tive Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/. 11. Boulware MI, Heisler JD, Frick KM. The memory- enhancing effects of hippocampal estrogen receptor acti- vation involve metabotropic glutamate receptor signal- ing. J Neurosci. 2013;33(38):15184–94. 12. Carrer HF, Araque A, Buno W. Estradiol regulates the slow Ca2+-activated K+ current in hippocampal pyrami- dal neurons. J Neurosci. 2003;23(15):6338–44. 13. Fugger HN, Kumar A, Lubahn DB, Korach KS, Foster TC. Examination of estradiol effects on the rapid estra- diol mediated increase in hippocampal synaptic transmis- sion in estrogen receptor alpha knockout mice. Neurosci Lett. 2001;309(3):207–9. 14. Kim MT, Soussou W, Gholmieh G, Ahuja A, Tanguay A, Berger TW, et  al. 17beta-Estradiol potentiates field excitatory postsynaptic potentials within each subfield of the hippocampus with greatest potentiation of the asso- ciational/commissural afferents of CA3. Neuroscience. 2006;141(1):391–406. Conclusions Author contribution  SGK, HFU, and RCJ designed the experiments. SGK and HFU provided the rhesus macaque samples. RCJ isolated all the DNA and RNA samples and prepared all the omics libraries. DZ and JB conducted the reporter assays. DNA methylation and gene expression bioin- formatic analyses were performed by KDZ and LJW, and KDZ advised and conducted the appropriate statistical analyses to be performed in all the experiments. SGK, HFU, KDZ, and RCJ wrote the manuscript with the help of all the authors. 3 0123456789) 1 ol.: (01 5836 GeroScience (2024) 46:5819–5841 Funding  Open access funding provided by the Caroli- nas Consortium. National Institutes of Health Grants: P30 AG066518, P51 OD011092, and RF1 AG062220. Funding  Open access funding provided by the Caroli- nas Consortium. National Institutes of Health Grants: P30 AG066518, P51 OD011092, and RF1 AG062220. 6. Thomas P, Pang Y, Filardo EJ, Dong J. Identity of an estrogen membrane receptor coupled to a G pro- tein in human breast cancer cells. Endocrinology. 2005;146(2):624–32. ( ) 7. Freeman EW, Sammel MD, Lin H, Gracia CR, Pien GW, Nelson DB, et al. Symptoms associated with menopausal transition and reproductive hormones in midlife women. Obstet Gynecol. 2007;110(2 Pt 1):230–40. Data availability  The data that support the findings of this study are available on SRA under the following accession num- ber: PRJNA1088413. 8. Gold EB, Colvin A, Avis N, Bromberger J, Green- dale GA, Powell L, et  al. Longitudinal analysis of the association between vasomotor symptoms and race/ ethnicity across the menopausal transition: study of women’s health across the nation. Am J Public Health. 2006;96(7):1226–35. References 1. Kuiper GG, Carlsson B, Grandien K, Enmark E, Hag- gblad J, Nilsson S, et  al. Comparison of the ligand binding specificity and transcript tissue distribution of estrogen receptors alpha and beta. Endocrinology. 1997;138(3):863–70. 15. Wong M, Moss RL. Electrophysiological evidence for a rapid membrane action of the gonadal steroid, 17 beta- estradiol, on CA1 pyramidal neurons of the rat hip- pocampus. Brain Res. 1991;543(1):148–52. 2. Kuiper GG, Gustafsson JA. The novel estrogen receptor- beta subtype: potential role in the cell- and promoter-spe- cific actions of estrogens and anti-estrogens. FEBS Lett. 1997;410(1):87–90. 16. Wong M, Moss RL. Long-term and short-term elec- trophysiological effects of estrogen on the synaptic properties of hippocampal CA1 neurons. J Neurosci. 1992;12(8):3217–25.f 3. Bagger YZ, Tanko LB, Alexandersen P, Qin G, Chris- tiansen C, Group PS. Early postmenopausal hormone therapy may prevent cognitive impairment later in life. Menopause. 2005;12(1):12–7. 17. Babayan AH, Kramar EA. Rapid effects of oestrogen on synaptic plasticity: interactions with actin and its signal- ling proteins. J Neuroendocrinol. 2013;25(11):1163–72. 4. Hogervorst E, Williams J, Budge M, Riedel W, Jolles J. The nature of the effect of female gonadal hormone replacement therapy on cognitive function in post- menopausal women: a meta-analysis. Neuroscience. 2000;101(3):485–512. 18. Russell JK, Jones CK, Newhouse PA. The role of estro- gen in brain and cognitive aging. Neurotherapeutics. 2019;16(3):649–65. 19. Phan A, Lancaster KE, Armstrong JN, MacLusky NJ, Choleris E. Rapid effects of estrogen receptor alpha and beta selective agonists on learning and dendritic spines in female mice. Endocrinology. 2011;152(4):1492–502. 5. Yesufu A, Bandelow S, Hogervorst E. Meta-analyses of the effect of hormone treatment on cognitive func- tion in postmenopausal women. Womens health (Lond). 2007;3(2):173–94. 20. Luine VN. Estradiol and cognitive function: past, present and future. Horm Behav. 2014;66(4):602–18. 1 Vol:. ( 3 (1234567890) GeroScience (2024) 46:5819–5841 5837 21. Vina J, Lloret A. Why women have more Alzheimer’s disease than men: gender and mitochondrial toxicity of amyloid-beta peptide. J Alzheimers Dis. 2010;20(Suppl 2):S527–33. 37. Lu Y, Sareddy GR, Wang J, Wang R, Li Y, Dong Y, et al. Neuron-derived estrogen regulates synaptic plasticity and memory. J Neurosci. 2019;39(15):2792–809. 38. Brzozowska M, Lewinski A. Changes of androgens levels in menopausal women. Prz Menopauzalny. 2020;19(4):151–4. 22. Zarate S, Stevnsner T, Gredilla R. Role of estrogen and other sex hormones in brain aging. Neuroprotection and DNA repair. Front Aging Neurosci. 2017;9:430. 39. References Jacoby VL, Grady D, Wactawski-Wende J, Manson JE, Allison MA, Kuppermann M, et  al. Oophorectomy vs ovarian conservation with hysterectomy: cardiovas- cular disease, hip fracture, and cancer in the women’s health initiative observational study. Arch Intern Med. 2011;171(8):760–8. p g g 23. Pike CJ. Sex and the development of Alzheimer’s dis- ease. J Neurosci Res. 2017;95(1–2):671–80. 24. Song YJ, Li SR, Li XW, Chen X, Wei ZX, Liu QS, et al. The effect of estrogen replacement therapy on Alzhei- mer’s disease and parkinson’s disease in postmenopausal women: a meta-analysis. Front Neurosci. 2020;14:157. 40. Downs JL, Urbanski HF. Neuroendocrine changes in the aging reproductive axis of female rhesus macaques (Macaca mulatta). Biol Reprod. 2006;75(4):539–46. 25. O’Brien J, Jackson JW, Grodstein F, Blacker D, Weuve J. Postmenopausal hormone therapy is not associated with risk of all-cause dementia and Alzheimer’s disease. Epi- demiol Rev. 2014;36(1):83–103. 41. Baxter MG, Santistevan AC, Bliss-Moreau E, Morrison JH. Timing of cyclic estradiol treatment differentially affects cognition in aged female rhesus monkeys. Behav Neurosci. 2018;132(4):213–23. 26. Shumaker SA, Legault C, Rapp SR, Thal L, Wallace RB, Ockene JK, et al. Estrogen plus progestin and the inci- dence of dementia and mild cognitive impairment in postmenopausal women: the women’s health initiative memory study: a randomized controlled trial. JAMA. 2003;289(20):2651–62. 42. Zimmerman B, Kundu P, Liu Z, Urbanski HF, Kroenke CD, Kohama SG, et al. Longitudinal effects of immedi- ate and delayed estradiol on cognitive performance in a spatial maze and hippocampal volume in menopau- sal macaques under an obesogenic diet. Front Neurol. 2020;11:539. 27. Davey DA. Menopausal hormone therapy: a better and safer future. Climacteric. 2018;21(5):454–61. 43. Appleman ML, Nilaver BI, Weiss A, Kohama SG, Urbanski HF. Effect of hormone replacement therapy on amyloid beta (Aβ) plaque density in the rhesus macaque amygdala. Front Aging Neurosci. 2024;15:1326747. 28. Espeland MA, Rapp SR, Shumaker SA, Brunner R, Manson JE, Sherwin BB, et al. Conjugated equine estro- gens and global cognitive function in postmenopausal women: women’s health initiative memory study. JAMA. 2004;291(24):2959–68. 44. Kovacs T, Szabo-Meleg E, Abraham IM. Estradiol- induced epigenetically mediated mechanisms and regula- tion of gene expression. Int J Mol Sci. 2020;21(9):3177. 29. Khadilkar SS. Post-reproductive health: window of opportunity for preventing comorbidities. J Obstet Gynaecol India. 2019;69(1):1–5. 45. Marino M, Galluzzo P, Ascenzi P. Estrogen signaling multiple pathways to impact gene transcription. Curr Genomics. 2006;7(8):497–508. 30. References featureCounts: an effi- cient general purpose program for assigning sequence reads to genomic features. Bioinformatics. 2014;30(7):923–30. 81. Molloy ME, Lewinska M, Williamson AK, Nguyen TT, Kuser-Abali G, Gong L, et al. ZBTB7A governs estro- gen receptor alpha expression in breast cancer. J Mol Cell Biol. 2018;10(4):273–84. 64. Love MI, Huber W, Anders S. Moderated estimation of fold change and dispersion for RNA-seq data with DESeq2. Genome Biol. 2014;15(12):550. 82. Ren R, Horton JR, Chen Q, Yang J, Liu B, Huang Y, et  al. Structural basis for transcription factor ZBTB7A recognition of DNA and effects of ZBTB7A somatic mutations that occur in human acute myeloid leukemia. J Biol Chem. 2023;299(2):102885. 65. Benjamini Y, Hochberg Y. Controlling the false discov- ery rate: a practical and powerful approach to multiple testing. J R Stat Soc Ser B. 1995;57(1):285–300.f 83. De Vos KJ, Grierson AJ, Ackerley S, Miller CC. Role of axonal transport in neurodegenerative diseases. Annu Rev Neurosci. 2008;31:151–73. 66. Anders S, Reyes A, Huber W. Detecting differen- tial usage of exons from RNA-seq data. Genome Res. 2012;22(10):2008–17.l 67. Krueger F, Andrews SR. Bismark: a flexible aligner and methylation caller for Bisulfite-Seq applications. Bioin- formatics. 2011;27(11):1571–2. 84. Cromberg LE, Saez TMM, Otero MG, Tomasella E, Alloatti M, Damianich A, et al. Neuronal KIF5b deletion induces striatum-dependent locomotor impairments and defects in membrane presentation of dopamine D2 recep- tors. J Neurochem. 2019;149(3):362–80. 68. R Development Core Team. R: a language and environ- ment for statistical computing. 2010.fi 85. Kamal A, Stokin GB, Yang Z, Xia CH, Goldstein LS. Axonal transport of amyloid precursor protein is medi- ated by direct binding to the kinesin light chain subunit of kinesin-I. Neuron. 2000;28(2):449–59. 69. Sun S, Zhu J, Zhou X. Efficient mixed model analysis of count data in large-scale genomic sequencing studies. 2022. pp. 2–7. 70. Laajala E, Halla-Aho V, Gronroos T, Kalim UU, Vaha- Makila M, Nurmio M, et al. Permutation-based signifi- cance analysis reduces the type 1 error rate in bisulphite sequencing data analysis of human umbilical cord blood samples. Epigenetics. 2022;17(12):1608–27. 86. Kanai Y, Okada Y, Tanaka Y, Harada A, Terada S, Hirokawa N. KIF5C, a novel neuronal kinesin enriched in motor neurons. J Neurosci. 2000;20(17):6374–84. 87. Nakajima K, Yin X, Takei Y, Seog DH, Homma N, Hirokawa N. Molecular motor KIF5A is essential for GABA(A) receptor transport, and KIF5A deletion causes epilepsy. Neuron. 2012;76(5):945–61. 71. Pedersen BS, Schwartz DA, Yang IV, Kechris KJ. References J Neuropsychiatry Clin Neurosci. 2000;12(1):25–8. coordinated regulation of synaptic genes. Transl Psychia- try. 2017;7(1):e994. 73. Kechris KJ, Biehs B, Kornberg TB. Generalizing moving averages for tiling arrays using combined p-value statis- tics. Stat Appl Genet Mol Biol. 2010;9:29. 55. Funahashi S, Andreau JM. Prefrontal cortex and neu- ral mechanisms of executive function. J Physiol Paris. 2013;107(6):471–82. 56. Hwang J, Kim CM, Kim JE, Oh M, Oh JS, Yoon YW, et al. Clinical implications of amyloid-beta accumulation in occipital lobes in Alzheimer’s continuum. Brain Sci. 2021;11(9):1232. 74. Liptak T. On the combination of independent tests. Magyar Tudomanyos Akademia Matematikai Kutato Intezetenek Kozlemenyei. 1958;3:171–97.f 75. Stouffer SA. The American soldier. Princeton, NJ: Princeton University Press; 1949. Ši 57. Jobson DD, Hase Y, Clarkson AN, Kalaria RN. The role of the medial prefrontal cortex in cognition, ageing and dementia. Brain Commun. 2021;3(3):fcab125. 76. Šidák Z. Rectangular confidence region for the means of multivariate normal distributions. J Am Stat Assoc. 1967;62:626–33. 58. Chiou KL, Montague MJ, Goldman EA, Watowich MM, Sams SN, Song J, et al. Rhesus macaques as a tractable physiological model of human ageing. Philos Trans R Soc Lond B Biol Sci. 2020;375(1811):20190612. 77. Szklarczyk D, Gable AL, Nastou KC, Lyon D, Kirsch R, Pyysalo S, et al. The STRING database in 2021: custom- izable protein-protein networks, and functional character- ization of user-uploaded gene/measurement sets. Nucleic Acids Res. 2021;49(D1):D605–12.i 59. Roth GS, Mattison JA, Ottinger MA, Chachich ME, Lane MA, Ingram DK. Aging in rhesus monkeys: relevance to human health interventions. Science. 2004;305(5689):1423–6. 78. Bader GD, Hogue CW. An automated method for find- ing molecular complexes in large protein interaction net- works. BMC Bioinformatics. 2003;13(4):2. 60. Gilardi KV, Shideler SE, Valverde CR, Roberts JA, Las- ley BL. Characterization of the onset of menopause in the rhesus macaque. Biol Reprod. 1997;57(2):335–40. 79. Kanehisa M, Sato Y, Kawashima M, Furumichi M, Tanabe M. KEGG as a reference resource for gene and protein annotation. Nucleic Acids Res. 2016;44(D1):D457–62. 61. Andrews S. FastQC: a quality control tool for high throughput sequence data. 2010. 80. Cervera-Juanes R, Darakjian P, Ball M, Kohama SG, Urbanski HF. Effects of estradiol supplementation on the brain transcriptome of old rhesus macaques maintained on an obesogenic diet. Geroscience. 2022;44(1):229–52. 62. Dobin A, Davis CA, Schlesinger F, Drenkow J, Zaleski C, Jha S, et  al. STAR: ultrafast universal RNA-seq aligner. Bioinformatics. 2013;29(1):15–21.fi 63. Liao Y, Smyth GK, Shi W. References Kohama SG, Renner L, Landauer N, Weiss AR, Urban- ski HF, Park B, et al. Effect of ovarian hormone therapy on cognition in the aged female rhesus macaque. J Neu- rosci. 2016;36(40):10416–24.i 46. Thakur MK, Paramanik V. Role of steroid hor- mone coregulators in health and disease. Horm Res. 2009;71(4):194–200. 31. Paganini-Hill A, Henderson VW. Estrogen deficiency and risk of Alzheimer’s disease in women. Am J Epide- miol. 1994;140(3):256–61. 47. Zhang P, Li L, Bao Z, Huang F. Role of BAF60a/BAF60c in chromatin remodeling and hepatic lipid metabolism. Nutr Metab (Lond). 2016;13:30. 32. Rapp SR, Espeland MA, Shumaker SA, Henderson VW, Brunner RL, Manson JE, et al. Effect of estrogen plus progestin on global cognitive function in post- menopausal women: the women’s health initiative memory study: a randomized controlled trial. JAMA. 2003;289(20):2663–72. 48. Ghosh S, Thakur MK. Interaction of estrogen receptor- alpha ligand binding domain with nuclear proteins of aging mouse brain. J Neurosci Res. 2009;87(11):2591–600. 49. Paramanik V, Thakur MK. Estrogen receptor beta and its domains interact with casein kinase 2, phosphokinase C, and N-myristoylation sites of mitochondrial and nuclear proteins in mouse brain. J Biol Chem. 2012;287(26):22305–16. 33. Rocca WA, Grossardt BR, Shuster LT. Oophorectomy, estrogen, and dementia: a 2014 update. Mol Cell Endo- crinol. 2014;389(1–2):7–12. 50. Vini R, Rajavelu A, Sreeharshan S. 27-Hydroxycholes- terol, the estrogen receptor modulator, alters DNA meth- ylation in breast cancer. Front Endocrinol (Lausanne). 2022;13:783823. 34. Scheyer O, Rahman A, Hristov H, Berkowitz C, Isaacson RS, Diaz Brinton R, et al. Female sex and Alzheimer’s risk: the menopause connection. J Prev Alzheimers Dis. 2018;5(4):225–30. 51. Zhao Z, Fan L, Frick KM. Epigenetic alterations regulate estradiol-induced enhancement of memory consolida- tion. Proc Natl Acad Sci USA. 2010;107(12):5605–10. 35. Shao H, Breitner JC, Whitmer RA, Wang J, Hayden K, Wengreen H, et  al. Hormone therapy and Alzheimer disease dementia: new findings from the Cache County study. Neurology. 2012;79(18):1846–52. 52. Rehman A, Al Khalili Y. Neuroanatomy, occipital lobe. Treasure Island: StatPearls; 2024.fl 53. Stufflebeam SM, Rosen BR. Mapping cognitive function. Neuroimaging Clin N Am. 2007;17(4):469–84. 36. Brann DW, Lu Y, Wang J, Sareddy GR, Pratap UP, Zhang Q, et  al. Neuron-derived estrogen-a key neuro- modulator in synaptic function and memory. Int J Mol Sci. 2019;39(15):2792–809. 54. Holroyd S, Shepherd ML, Downs JH 3rd. Occipi- tal atrophy is associated with visual hallucinations in 1 ol.: (0 3 123456789) 5838 GeroScience (2024) 46:5819–5841 Alzheimer’s disease. References Du Y, Du Y, Zhang Y, Huang Z, Fu M, Li J, et al. MKP-1 reduces Aβ generation and alleviates cognitive impair- ments in Alzheimer’s disease models. Signal Transduct Target Ther. 2019;4:58. 94. Leone AM, Errico M, Lin SL, Cowen DS. Activation of extracellular signal-regulated kinase (ERK) and Akt by human serotonin 5-HT(1B) receptors in transfected BE(2)-C neuroblastoma cells is inhibited by RGS4. J Neurochem. 2000;75(3):934–8. 110. Weber K, Erben RG, Rump A, Adamski J. Gene struc- ture and regulation of the murine epithelial calcium channels ECaC1 and 2. Biochem Biophys Res Com- mun. 2001;289(5):1287–94. 95. Philp LK, Butler MS, Hickey TE, Butler LM, Tilley WD, Day TK. SGTA: a new player in the molecular co-chap- erone game. Horm Cancer. 2013;4(6):343–57. 111. Lee GS, Jeung EB. Uterine TRPV6 expression during the estrous cycle and pregnancy in a mouse model. Am J Physiol Endocrinol Metab. 2007;293(1):E132–8. 96. Fliss AE, Benzeno S, Rao J, Caplan AJ. Control of estro- gen receptor ligand binding by Hsp90. J Steroid Biochem Mol Biol. 2000;72(5):223–30. 112. Kumar S, Singh U, Singh O, Goswami C, Singru PS. Transient receptor potential vanilloid 6 (TRPV6) in the mouse brain: distribution and estrous cycle- related changes in the hypothalamus. Neuroscience. 2017;6(344):204–16. 97. Tan Z, Sun X, Hou FS, Oh HW, Hilgenberg LG, Hol EM, et  al. Mutant ubiquitin found in Alzheimer’s dis- ease causes neuritic beading of mitochondria in asso- ciation with neuronal degeneration. Cell Death Differ. 2007;14(10):1721–32. 113. Walters GC, Usachev YM. Mitochondrial calcium cycling in neuronal function and neurodegeneration. Front Cell Dev Biol. 2023;11:1094356. 98. van Leeuwen FW, Hol EM, Fischer DF. Frameshift pro- teins in Alzheimer’s disease and in other conformational disorders: time for the ubiquitin-proteasome system. J Alzheimers Dis. 2006;9(3 Suppl):319–25. 114. Echeverry S, Rodriguez MJ, Torres YP. Transient receptor potential channels in microglia: roles in physi- ology and disease. Neurotox Res. 2016;30(3):467–78. 115. Smani T, Gomez LJ, Regodon S, Woodard GE, Sieg- fried G, Khatib AM, et al. TRP channels in angiogen- esis and other endothelial functions. Front Physiol. 2018;9:1731. 99. van Tijn P, de Vrij FM, Schuurman KG, Dantuma NP, Fischer DF, van Leeuwen FW, et  al. Dose-dependent inhibition of proteasome activity by a mutant ubiquitin associated with neurodegenerative disease. J Cell Sci. 2007;120(Pt 9):1615–23. 116. Cameron VA, Autelitano DJ, Evans JJ, Ellmers LJ, Espiner EA, Nicholls MG, et al. Adrenomedullin expres- sion in rat uterus is correlated with plasma estradiol. References Comb- p: software for combining, analyzing, grouping and cor- recting spatially correlated p-values. Bioinformatics. 2012;28(22):2986–8. 88. Tanaka Y, Kanai Y, Okada Y, Nonaka S, Takeda S, Harada A, et  al. Targeted disruption of mouse con- ventional kinesin heavy chain, kif5B, results in 72. Cervera-Juanes R, Wilhelm LJ, Park B, Grant KA, Ferguson B. Alcohol-dose-dependent DNA methyla- tion and expression in the nucleus accumbens identifies 1 Vol:. ( 3 (1234567890) GeroScience (2024) 46:5819–5841 5839 abnormal perinuclear clustering of mitochondria. Cell. 1998;93(7):1147–58. 103. Dil Kuazi A, Kito K, Abe Y, Shin RW, Kamitani T, Ueda N. NEDD8 protein is involved in ubiquitinated inclusion bodies. J Pathol. 2003;199(2):259–66. 89. Twelvetrees AE, Yuen EY, Arancibia-Carcamo IL, MacAskill AF, Rostaing P, Lumb MJ, et  al. Deliv- ery of GABAARs to synapses is mediated by HAP1- KIF5 and disrupted by mutant huntingtin. Neuron. 2010;65(1):53–65. 104. Hara Y, Waters EM, McEwen BS, Morrison JH. Estro- gen effects on cognitive and synaptic health over the life- course. Physiol Rev. 2015;95(3):785–807. 105. Appleman ML, Thomas JL, Weiss AR, Nilaver BI, Cervera-Juanes R, Kohama SG, et al. Effect of hormone replacement therapy on amyloid beta (Abeta) plaque den- sity in the rhesus macaque amygdala. Front Aging Neu- rosci. 2024;15:1326747.i 90. Landers JE, Melki J, Meininger V, Glass JD, van den Berg LH, van Es MA, et al. Reduced expression of the kinesin-associated protein 3 (KIFAP3) gene increases survival in sporadic amyotrophic lateral sclerosis. Proc Natl Acad Sci USA. 2009;106(22):9004–9. 106. Ahmed T, Zulfiqar A, Arguelles S, Rasekhian M, Nabavi SF, Silva AS, et  al. Map kinase signaling as therapeutic target for neurodegeneration. Pharmacol Res. 2020;160:105090. 91. Pan X, Kaminga AC, Wen SW, Wu X, Acheampong K, Liu A. Dopamine and dopamine receptors in Alzheimer’s disease: a systematic review and network meta-analysis. Front Aging Neurosci. 2019;11:175. 107. Newton K, Dixit VM. Signaling in innate immunity and inflammation. Cold Spring Harb Perspect Biol. 2012;4(3):a006049. 92. Nguyen LK, Kolch W, Kholodenko BN. When ubiquit- ination meets phosphorylation: a systems biology per- spective of EGFR/MAPK signalling. Cell Commun Sig- nal. 2013;31(11):52. 108. Shih RH, Wang CY, Yang CM. NF-kappaB signaling pathways in neurological inflammation: a mini review. Front Mol Neurosci. 2015;8:77. 93. Anger T, Klintworth N, Stumpf C, Daniel WG, Mende U, Garlichs CD. RGS protein specificity towards Gq- and Gi/o-mediated ERK 1/2 and Akt activation, in  vitro. J Biochem Mol Biol. 2007;40(6):899–910. 109. References Hu D, Dong X, Wang Q, Liu M, Luo S, Meng Z, et al. PCP4 promotes Alzheimer’s disease pathogenesis by affecting amyloid-beta protein precursor processing. J Alz- heimers Dis. 2023;94(2):737–50. 123. Xu Y, Krukoff TL. Adrenomedullin in the rostral ventro- lateral medulla increases arterial pressure and heart rate: roles of glutamate and nitric oxide. Am J Physiol Regul Integr Comp Physiol. 2004;287(4):R729–34. 139. Penugurti V, Khumukcham SS, Padala C, Dwivedi A, Kamireddy KR, Mukta S, et  al. HPIP protoonco- gene differentially regulates metabolic adaptation and cell fate in breast cancer cells under glucose stress via AMPK and RNF2 dependent pathways. Cancer Lett. 2021;10(518):243–55. 124. Fernandez AP, Masa JS, Guedan MA, Futch HS, Mar- tinez-Murillo R. Adrenomedullin expression in Alzhei- mer’s brain. Curr Alzheimer Res. 2016;13(4):428–38. 125. Ferrero H, Larrayoz IM, Martisova E, Solas M, Howl- ett DR, Francis PT, et al. Increased levels of brain adre- nomedullin in the neuropathology of Alzheimer’s disease. Mol Neurobiol. 2018;55(6):5177–83. 140. Seyfried NT, Dammer EB, Swarup V, Nandakumar D, Duong DM, Yin L, et  al. A multi-network approach identifies protein-specific co-expression in asympto- matic and symptomatic Alzheimer’s disease. Cell Syst. 2017;4(1):60-72e4. 126. Macheda ML, Rogers S, Best JD. Molecular and cellular regulation of glucose transporter (GLUT) proteins in can- cer. J Cell Physiol. 2005;202(3):654–62. 141. Tandon R, Levey AI, Lah JJ, Seyfried NT, Mitchell CS. Machine learning selection of most predictive brain pro- teins suggests role of sugar metabolism in Alzheimer’s dis- ease. J Alzheimers Dis. 2023;92(2):411–24. 127. Zhang Y, Chen K, Sloan SA, Bennett ML, Scholze AR, O’Keeffe S, et al. An RNA-sequencing transcriptome and splicing database of glia, neurons, and vascular cells of the cerebral cortex. J Neurosci. 2014;34(36):11929–47. 142. Karamese M, Aksak S, Gundogdu OB, Unal B. A new hypothesis about hematopoietic Pbx-interaction pro- tein (HPIP): can it be a key factor in neurodegenera- tion in the post-menopausal period? Med Hypotheses. 2013;81(3):470–6.f 128. Scott H, Panin VM. N-glycosylation in regulation of the nervous system. Adv Neurobiol. 2014;9:367–94. 129. Scott H, Panin VM. The role of protein N-glycosylation in neural transmission. Glycobiology. 2014;24(5):407–17. 143. Yang J, AlTahan A, Jones DT, Buffa FM, Bridges E, Interi- ano RB, et al. Estrogen receptor-alpha directly regulates the hypoxia-inducible factor 1 pathway associated with anties- trogen response in breast cancer. Proc Natl Acad Sci USA. 2015;112(49):15172–7. 130. Murrey HE, Gama CI, Kalovidouris SA, Luo WI, Drig- gers EM, Porton B, et  al. References Am J Physiol Endocrinol Metab. 2002;282(1):E139–46. 100. Govindarajulu M, Ramesh S, Shankar T, Kora MK, Moore T, Dhanasekaran M. Role of neddylation in neu- rodegenerative diseases. NeuroSci. 2022;3(4):533–45. 117. Ikeda K, Arao Y, Otsuka H, Kikuchi A, Kayama F. Estrogen and phytoestrogen regulate the mRNA expres- sion of adrenomedullin and adrenomedullin recep- tor components in the rat uterus. Mol Cell Endocrinol. 2004;223(1–2):27–34.f 101. Schmidt MF, Gan ZY, Komander D, Dewson G. Ubiq- uitin signalling in neurodegeneration: mechanisms and therapeutic opportunities. Cell Death Differ. 2021;28(2):570–90. 118. Jerat S, Kaufman S. Effect of pregnancy and steroid hor- mones on plasma adrenomedullin levels in the rat. Can J Physiol Pharmacol. 1998;76(4):463–6. 102. Mori F, Nishie M, Piao YS, Kito K, Kamitani T, Taka- hashi H, et al. Accumulation of NEDD8 in neuronal and glial inclusions of neurodegenerative disorders. Neuro- pathol Appl Neurobiol. 2005;31(1):53–61. 119. Watanabe H, Takahashi E, Kobayashi M, Goto M, Krust A, Chambon P, et  al. The estrogen-responsive 1 ol.: (0 3 123456789) 5840 GeroScience (2024) 46:5819–5841 135. Khaksari M, Maghool F, Asadikaram G, Hajializadeh Z. Effects of sex steroid hormones on neuromedin S and neuromedin U2 receptor expression following experi- mental traumatic brain injury. Iran J Basic Med Sci. 2016;19(10):1080–9. adrenomedullin and receptor-modifying protein 3 gene identified by DNA microarray analysis are directly regulated by estrogen receptor. J Mol Endocrinol. 2006;36(1):81–9. 120. Serrano J, Uttenthal LO, Martinez A, Fernandez AP, Martinez de Velasco J, Alonso D, et al. Distribution of adrenomedullin-like immunoreactivity in the rat central nervous system by light and electron microscopy. Brain Res. 2000;853(2):245–68. 136. Vigo E, Roa J, Pineda R, Castellano JM, Navarro VM, Aguilar E, et  al. Novel role of the anorexigenic peptide neuromedin U in the control of LH secretion and its regula- tion by gonadal hormones and photoperiod. Am J Physiol Endocrinol Metab. 2007;293(5):E1265–73. 121. Kato J, Kitamura K, Uemura T, Kuwasako K, Kita T, Kangawa K, et al. Plasma levels of adrenomedullin and atrial and brain natriuretic peptides in the general popula- tion: their relations to age and pulse pressure. Hypertens Res. 2002;25(6):887–92. 137. DeNardo DG, Kim HT, Hilsenbeck S, Cuba V, Tsimelzon A, Brown PH. Global gene expression analysis of estrogen receptor transcription factor cross talk in breast cancer: identification of estrogen-induced/activator protein-1-de- pendent genes. Mol Endocrinol. 2005;19(2):362–78. 122. Taylor MM, Samson WK. A possible mechanism for the action of adrenomedullin in brain to stimulate stress hor- mone secretion. Endocrinology. 2004;145(11):4890–6.f 138. References Protein fucosylation regulates synapsin Ia/Ib expression and neuronal morphology in primary hippocampal neurons. Proc Natl Acad Sci USA. 2006;103(1):21–6. 144. Xu X, Yang M, Zhang B, Dong J, Zhuang Y, Ge Q, et  al. HIF-1alpha participates in secondary brain injury through regulating neuroinflammation. Transl Neurosci. 2023;14(1):20220272. 131. Li X, Nott SL, Huang Y, Hilf R, Bambara RA, Qiu X, et al. Gene expression profiling reveals that the regulation of estrogen-responsive element-independent genes by 17 beta-estradiol-estrogen receptor beta is uncoupled from the induction of phenotypic changes in cell models. J Mol Endocrinol. 2008;40(5):211–29. 145. Shou Y, Koroleva E, Spencer CM, Shein SA, Korchagina AA, Yusoof KA, et al. Redefining the role of lymphotoxin beta receptor in the maintenance of lymphoid organs and immune cell homeostasis in adulthood. Front Immunol. 2021;12:712632. 132. Chen Z, Yu Q, Yu Q, Johnson J, Shipman R, Zhong X, et  al. In-depth site-specific analysis of N-glycoproteome in human cerebrospinal fluid and glycosylation landscape changes in Alzheimer’s disease. Mol Cell Proteomics. 2021;20:100081. 146. Osorio J. Reproductive endocrinology: less estrogen, more neuroinflammation? Nat Rev Endocrinol. 2012;8(7):381. 133. Guan XM, Yu H, Jiang Q, Van Der Ploeg LH, Liu Q. Dis- tribution of neuromedin U receptor subtype 2 mRNA in the rat brain. Brain Res Gene Expr Patterns. 2001;1(1):1–4. l 147. Dejardin E, Droin NM, Delhase M, Haas E, Cao Y, Makris C, et al. The lymphotoxin-beta receptor induces different patterns of gene expression via two NF-kappaB pathways. Immunity. 2002;17(4):525–35. 134. Iwai T, Iinuma Y, Kodani R, Oka J. Neuromedin U inhibits inflammation-mediated memory impairment and neuronal cell-death in rodents. Neurosci Res. 2008;61(1):113–9. 148. Li F, Oh I, Kumar S, Eteleeb A, Gupta A, Buchser W, et al. Loss of estrogen unleashing neuro-inflammation increases 1 Vol:. ( 3 (1234567890) GeroScience (2024) 46:5819–5841 5841 the risk of Alzheimer’s disease in women. bioRxiv. 2022. https://​doi.​org/​10.​1101/​2022.​09.​19.​508592.i Publisher’s Note  Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations. 149. Walker DG. Defining activation states of microglia in human brain tissue: an unresolved issue for Alzhei- mer’s disease. Neuroimmunol Neuroinflammation. 2020;7:194–214. 150. Wu WF, Tan XJ, Dai YB, Krishnan V, Warner M, Gustafs- son JA. Targeting estrogen receptor beta in microglia and T cells to treat experimental autoimmune encephalomyelitis. Proc Natl Acad Sci USA. 2013;110(9):3543–8. 3 0123456789) 1 Vol.: (01
https://openalex.org/W2140958451
http://escholarship.mcgill.ca/downloads/j098zg629
English
null
Identifying key domains of health-related quality of life for patients with Chronic Obstructive Pulmonary Disease: the patient perspective
Health and quality of life outcomes
2,014
cc-by
9,682
© 2014 Paap et al.; licensee BioMed Central Ltd. This is an Open Access article distributed under the terms of the Creative Commons Attribution License (http://creativecommons.org/licenses/by/4.0), which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly credited. The Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Abstract Background: Numerous instruments are available to measure health-related quality of life (HRQoL) in patients with Chronic Obstructive Pulmonary Disease (COPD), covering a wide array of domains ranging from symptoms such as dyspnea, cough and wheezing, to social and emotional functioning. Currently no information or guide is available yet to aid the selection of domains for a particular study or disease population. The aim of this paper is to identify which domains of HRQoL are most important with respect to COPD, from the patient perspective. Methods: Twenty-one Dutch patients with COPD were asked to describe important domains impacted by COPD freely; second, they were presented with cues (domains from the Patient-Reported Outcomes Measurement Information System (PROMIS) framework) and were asked to select the domains that were most relevant to them. During the interview, the patients were asked to indicate in which way the selected domains impact their lives. Both the answers to the open question, and the patient statements motivating nomination of PROMIS domains were coded into themes. Results: The most relevant (sub)domains of HRQoL for patients with COPD were: physical health (fatigue, physical functioning), social health (instrumental support, ability to participate in social roles and activities, companionship, and emotional support), and coping with COPD. Results: The most relevant (sub)domains of HRQoL for patients with COPD were: physical health (fatigue, physical functioning), social health (instrumental support, ability to participate in social roles and activities, companionship, and emotional support), and coping with COPD. Conclusion: We identified which domains of HRQoL are most important to patients with COPD. One of these (coping with COPD) is not explicitly covered by PROMIS, or by traditional questionnaires that are used to measure HRQoL in COPD. Conclusion: We identified which domains of HRQoL are most important to patients with COPD. One of these (coping with COPD) is not explicitly covered by PROMIS, or by traditional questionnaires that are used to measure HRQoL in COPD. Conclusion: We identified which domains of HRQoL are most important to patients with COPD. One of these (coping with COPD) is not explicitly covered by PROMIS, or by traditional questionnaires that are used to measure HRQoL in COPD. Keywords: HRQoL, COPD, Physical functioning, Physical health, Social health, Interview study, Qualitative research, PROMIS oL, COPD, Physical functioning, Physical health, Social health, Interview study, Qualitative research, Keywords: HRQoL, COPD, Physical functioning, Physical health, Social health, Interview study, Qualitative research, PROMIS Identifying key domains of health-related quality of life for patients with Chronic Obstructive Pulmonary Disease: the patient perspective Muirne CS Paap1*, Christina Bode2, Lonneke IM Lenferink3,4, Lianne C Groen3, Caroline B Terwe Owis Eilayyan7 and Job van der Palen1,8 Muirne CS Paap1*, Christina Bode2, Lonneke IM Lenferink3,4, Lianne C Groen3, Caroline B Terwee5, Sara Ahmed6, Owis Eilayyan7 and Job van der Palen1,8 Open Access Open Access * Correspondence: m.c.s.paap@utwente.nl 1Department of Research Methodology, Measurement, and Data-Analysis, Behavioral Sciences, University of Twente, P.O. Box 217, 7500 AE Enschede, The Netherlands Full list of author information is available at the end of the article Background life (HRQoL) [3]. Consequently, HRQoL has become an important outcome measure in COPD research and clinical care. Chronic Obstructive Pulmonary Disease (COPD) is one of the leading causes for mortality worldwide [1]. COPD is characterized by dyspnea, chronic cough, sputum pro- duction, a decreased exercise performance and reduced physical activity level [2,3]. COPD cannot be cured; the main goal of COPD treatments is managing symptoms and their effect on the patient’s health-related quality of HRQoL encompasses the physical, functional, emo- tional, and social well-being of the patient [4]. HRQoL is a highly subjective experience by definition and there- fore measured by self-report questionnaires (patient re- ported outcome measures; PROMs). Many questionnaires are available to measure HRQoL in patients with COPD, covering a wide array of domains ranging from symp- toms such as dyspnea, cough and wheezing, to social and emotional functioning (see [5] for an overview), and it can be a challenge to choose the appropriate questionnaire. * Correspondence: m.c.s.paap@utwente.nl 1Department of Research Methodology, Measurement, and Data-Analysis, Behavioral Sciences, University of Twente, P.O. Box 217, 7500 AE Enschede, The Netherlands Full list of author information is available at the end of the article Page 2 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 interest” [28]. Within the PROMIS framework, patient perspective has played an important role in item bank de- velopment [29-32]. Focus-groups were used to evaluate item content, coverage and wording, as well as the content validity of the item banks by evaluating the fit between the domain map that was drafted by a panel of experts, and concepts that focus-group participants identified as im- portant aspects of HRQoL [33-36]. It should be noted that in this set-up, feedback from experts was used to con- ceptualize a domain-map, and subsequently input from patients (responding to open questions) was used to verify the domain map. Patients were not explicitly asked to comment on the domain-map, or to choose domains themselves. Aspects to consider include domain coverage, test length (e.g. [6,7]), recall period (for example, last year or last few weeks), the interpretation of (change in) scores, psy- chometric properties (e.g. [8]), and whether it is generic or disease-specific, among other things [9]. Since both gen- eric and disease-specific instruments have desirable prop- erties, several researchers advocate using both types of instruments to assess HRQoL in patients with COPD [10,11]. Background Generic instruments can be used with any (pa- tient) population, facilitating direct comparison among populations, including the general population. Disease- specific instruments are developed for a specific patient population, which may increase the sensitivity to measure intra-individual change after an intervention. However, cli- nicians tend to prefer short instruments for use in clinical practice, so the test battery should not be too lengthy. Un- fortunately, short instruments often fail to provide a suffi- ciently detailed picture of the most relevant aspects of a patient’s HRQoL. Currently, there is no consensus as to which instru- ments are most appropriate to assess HRQoL in COPD patients. However, it has been argued that combining gen- eric and disease-specific measures may provide the most useful estimations. PROMIS is probably the best generic instrument that is currently available to measure HRQoL; it consists of a wide range of generic item banks that have been developed with a rigorous and sound methodology. However, no core sets or recommendations are available to guide the selection process of PROMIS item banks for use with COPD patients (or any disease group for that matter); nor is it clear whether all domains relevant for COPD are covered by current PROMIS item banks. In line with aforementioned guidelines and published studies, we agree the patient perspective should play an important role in domain selection and assessment of domain cover- age. The aim of this paper is to identify which domains of HRQoL are most important from the COPD patient’s per- spective, and why. We will do this in two steps: first pa- tients are asked to describe important domains freely; second, they are presented with PROMIS domains and are asked to select those most relevant to them. The patient is invited to explain the motives behind their choice, provid- ing insight in the way they conceptualize and experience HRQoL. The results of this study can be used to inform instrument selection and development. This study is the first of an international collaboration (the Netherlands and Canada) that involve two research groups following the same steps (Additional file 1) to create a CAT to meas- ure HRQoL in COPD patients. In recent years, Computerized Adaptive Testing (CAT) [12] based on Item Response Theory (IRT) [13] has been put forward as a possible solution to the dilemma. Background A CAT is a digital questionnaire tailored to the individual patient, resulting in each item (question) contributing valuable in- formation, while maintaining comparability across pa- tients. Item selection in a CAT is dependent on a patient’s response to previous items. In this way the latent trait estimate is continuously adjusted, until a specific level of measurement precision (reliability) is reached. In recent years, a large number of IRT-calibrated item banks have been developed to measure domains of HRQoL. This initiative is referred to as “PROMIS” (Patient Reported Outcomes Measurement Information System) [14], and resulted in item banks covering physical, mental, and so- cial health. Both CATs and short forms have been devel- oped using the item banks [15]. The PROMIS banks are generic, and have been calibrated using a large sample from the general population as well as subsamples of nu- merous patient groups, including COPD. However, it is still up to the user to decide which domains to select. Since HRQoL is a highly subjective experience, it is not only paramount to use PROMs to measure it, but also to involve patients in the development and selec- tion process of PROMs. It has been repeatedly shown that taking patient perspective into account during PROM development allows for the identification of problems with item content and coverage as well as problems with domain coverage and/or poor operatio- nalization (e.g., [16-27]). These findings have inspired sev- eral guidelines concerning the development of PROMs. The European Organisation for Research and Treatment of Cancer (EORTQ) even proposes that patient perspec- tive should be leading when “…compiling an exhaustive list of relevant QoL issues that cover the domain(s) of Ethics The ethical review board of the University of Twente approved the study. All patients gave informed consent. This study did not need approval of the Medical Ethical Review Board, according to European regulations. Patients The target population consisted of COPD patients seek- ing treatment. We engaged two pulmonary clinics that assisted in recruiting patients: Medisch Spectrum Twente hospital, Enschede (the Netherlands) and the Sint Franciscus Gasthuis hospital, Rotterdam (the Netherlands). The pa- tients were invited to participate in the interview study by their pulmonologists. The only inclusion criterion was a diagnosis of COPD. If the patients agreed to participate, they were taken to a quiet hospital room where the inter- viewer explained the study in more detail, and presented the patients with an informed consent form before starting the interview. Consecutive patients who had appointments with their pulmonologists in March and April 2013 were consid- ered for inclusion. Purposive sampling was used, aimed at maximum obtainable variation with regard to patient char- acteristics, including gender, age and GOLD stage (I&II and III&IV). Inclusion stopped when saturation was reached. Coding was performed in several steps by two raters (LG and LL). The coding process was supervised by CB and MP. LG and LL first coded the interviews on their own, after which several consensus meetings took place. In challenging cases, MP was involved in the consensus process. The open question and PROMIS card sorting task were analysed separately, yet the same coding procedure was used. Prior to coding, irrelevant interview passages (spontaneous statements that do not concern the research question) were removed. We used two types of coding strategies described in grounded theory research: open and axial coding [39]. When using open coding, the data are broken down into units (events, actions, interactions, emotions) that are assigned conceptual labels, so they can be grouped together into themes. Meaningful units consti- tute parts of a sentence, a whole sentence, or a passage of text that pertains to the same topic. A meaningful unit has to be long enough (contain enough information) to allow meaningful interpretation with respect to the research question and the theme with which it is associated. When using axial coding, units are related to themes and sub- themes. In our study, this process was facilitated by what we refer to as interpretations of meaningful units (Table 1). For example, the unit “When I have to walk up and down the stairs, I move up the stairs in a sitting position and then I’m very short of breath” was interpreted in the fol- lowing way: “Going up the stairs is a difficult and laborious Context of the study h l d Due to time constraints, it was decided that the interview study would be executed in the Netherlands first. The drafting of the framework was a joint effort. The interview scheme used in this study was translated into English and will be used in a future study to validate the findings of the current study in Canada. Data analysis Th The interviews were held and transcribed by a trained interviewer (LG). Patients’ statements were coded and interpreted by hand, and the number of times a domain was chosen was counted. After choosing the domains, the patients were asked to rank order these domains from most relevant to least relevant, but not all patients followed the instructions. Some patients chose fewer or more than five domains, and some said they could not rank them because they felt all were equally (un)import- ant. We therefore decided to not include the rank orders of the domains in the analysis. Context of the study h l d This exploratory study was initiated in order to establish which domains of HRQoL are most relevant to patients with COPD. MP and JP acquired funding from the Dutch Lung Foundation in order to develop a new instrument to measure HRQoL in patients with COPD. However, at present no guidelines are available that can aid an inter- ested party to select appropriate domains for their purpose Page 3 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 (e.g., instrument development, clinical trial, clinical evalu- ation); this applies to PROMIS domains as well as legacy instruments. Therefore, MP and JP decided to start their project by conducting an interview study. CB was involved as an expert in qualitative research and patient perspec- tive, and CT was involved because of her affiliation with the PROMIS initiative, as well as her methodological ex- pertise. SA and OE were involved since they had the same goals as MP and JP; it was decided that an international collaboration would increase the overall value and impact of the project. Due to time constraints, it was decided that the interview study would be executed in the Netherlands first. The drafting of the framework was a joint effort. The interview scheme used in this study was translated into English and will be used in a future study to validate the findings of the current study in Canada. specific domains of HRQoL were most relevant from the patient’s perspective. We felt that ranking all 16 domains would be too challenging, so we decided to divide the task in two parts: first the most important domains were chosen, and then these were ranked. Previous research has shown that rating and ranking five domains is a doable task [38], so patients were asked to select and rank five domains. (e.g., instrument development, clinical trial, clinical evalu- ation); this applies to PROMIS domains as well as legacy instruments. Therefore, MP and JP decided to start their project by conducting an interview study. CB was involved as an expert in qualitative research and patient perspec- tive, and CT was involved because of her affiliation with the PROMIS initiative, as well as her methodological ex- pertise. SA and OE were involved since they had the same goals as MP and JP; it was decided that an international collaboration would increase the overall value and impact of the project. Interview The interview was semi-structured (see Additional file 2 for the interview scheme). The focus was assessing how COPD impacts HRQoL from the patient’s perspective. The interview scheme consisted of two parts: an open question, and a card sorting task. First, patients were asked: “In what way does your COPD influence your quality of life?” Next, participants were presented with 16 PROMIS domains [37] printed on separate cards, along with three randomly chosen example items from that domain (see Additional file 3). The patients were invited to select and rank the five domains that were the most relevant to them with regards to their COPD. Patients were asked to think aloud while making this selection, and elaborate on their choices. Each interview was recorded and transcribed verbatim. At the time of the interview, Dutch translations of 17 PROMIS domains were available. We chose not to use the domain “global health” since we wanted to know what Page 4 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Table 1 Examples showing how units were interpreted and coded into themes for answers given to the open question Main theme Sub-theme Selected unit Interpretation Physical health Light physical activity causes physical complaints “When I have to walk up and down the stairs, I move up the stairs in a sitting position and then I’m very short of breath.” Going up the stairs is a difficult and laborious exercise, which causes shortness of breath. Physical health Heavy physical activity causes physical symptoms “Especially, during heavy physical exertions, you feel some pain at times, and you experience some shortness of breath.” Heavy physical exertion triggers pain and shortness of breath. Physical health Stamina “My stamina is, of course, somewhat lower than others. I think that is actually the most important point.” Stamina is lower in comparison to others. Autonomy Asking for help “Now I have to ask others can you please help me? Mind you, I haven’t done it yet, but that’s very hard.” It is difficult to ask others for help. Autonomy Independence “Then I get irritable, because I like to do everything myself, and I’m not able to do that.” Loss of independence causes anger. Results Some patients experienced limitations regarding hob- bies and leisure time. Autonomy was mentioned several times; patients reported that it is difficult and frustrating to be dependent upon others (see Table 1 for examples). For some patients, their social lives changed negatively due to COPD. Anxiety or fear of suffocation was also experienced by some. Twenty-one COPD patients (13 men; mean age 66.1 (SD = 9.3) years) were included; 24% of them were re- cruited in Rotterdam; 19% were inpatients; 9.5% had GOLD stage I, 38% GOLD stage II, 43% GOLD stage III, and 9.5% GOLD stage IV. The face-to-face interviews took 15–30 minutes. See Table 3 for descriptive characteristics for each patient. “And then I was at home alone and then I screamed for help: I thought I was going to suffocate. The feeling just wouldn’t pass.” (ID 5) Interview Used coping strategies were: doing only as much as they could or trying to avoid activities that could lead to dyspnoea, and performing short bouts of light to moder- ate intensity activities in order to maintain a balance between rest and activity. exercise, which causes shortness of breath.” This unit was subsequently placed in the sub-theme “Light physical activ- ity causes physical complaints”, which was associated with the main theme “Physical health”. The main themes phys- ical health and autonomy which emerged from the open question, and the PROMIS domains fatigue and ability to participate in social roles and activities were chosen to illustrate the coding process (Tables 1 and 2, respectively). exercise, which causes shortness of breath.” This unit was subsequently placed in the sub-theme “Light physical activ- ity causes physical complaints”, which was associated with the main theme “Physical health”. The main themes phys- ical health and autonomy which emerged from the open question, and the PROMIS domains fatigue and ability to participate in social roles and activities were chosen to illustrate the coding process (Tables 1 and 2, respectively). “You do your household chores as best as you can, but you also take a lot of rest breaks. In that way you’re able to cope with it.” (ID 6) Open question: “In what way does your COPD influence your quality of life?” Table 4 presents the main themes that emerged from the analysis of the open question, along with sub-themes. Below, all main themes that emerged from the answers given by more than one patient are briefly discussed; for some themes, patient quotes are given. “There is a tram stop nearby… walking that distance…sometimes I can manage it, sometimes I can’t.” (ID 1) “Luckily, I have a domestic help, and if I hadn’t had that kind of help nothing would have gotten done…” (ID16) Selecting the most relevant PROMIS domains Selecting the most relevant PROMIS domains The card sorting method produced results on the rela- tive importance of the PROMIS domains (Figure 1). The statements that the patients gave when motivating their choice of domains were coded into themes. In Table 5, all main themes are listed by PROMIS domain. Of the ten main themes, two were by far the most popular: physical health and coping with COPD-related complaints. Patients described that light physical activ- ities, such as walking, climbing the stairs and doing household chores, trigger physical complaints. Decline of stamina, restrictions in general physical activity and invalidity were the next most common subthemes of physical health (see Table 1 for examples). Some pa- tients indicated that the impact of their COPD on their physical activity fluctuated. The three most frequently chosen domains were in- strumental support, fatigue and ability to participate in social roles and activities. Instrumental support was rele- vant for patients because they need help or assistance due to their physical constraints. “Luckily, I have a domestic help, and if I hadn’t had that kind of help nothing would have gotten done…” (ID16) “There is a tram stop nearby… walking that distance…sometimes I can manage it, sometimes I can’t.” (ID 1) Page 5 of 12 Page 5 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Table 2 Examples showing how units were interpreted and coded into themes for two PROMIS domains Selected domain Main theme Sub theme Selected unit Interpretation Fatigue Coping with fatigue Rest “When I’m at home and I’m tired, I really can’t be bothered with anything, the whole world may be turned upside down for all I care, all I want is to lie down.” Lying down as a reaction to fatigue. Fatigue Effects of fatigue Downward performance spiral of fatigue: fatigue leads to activity restrictions. Activities trigger breathing difficulties. “Yes, you get tired more quickly. You’ve also got the feeling that if you want to do something…then you ask yourself right away should I do that or how should I go about it so that I won’t suffer breathing problems.” Activity limitations due to fatigue, and activities trigger breathing problems. Fatigue Determinants of fatigue Combination of work and medicines lead to fatigue. Selecting the most relevant PROMIS domains “I’m always tired anyway, if I didn’t have to go to work I would be tired all the same, you actually get tired because of the medicines you have to take during the day. One medicine has to widen the blood vessels, the other has to narrow them again …it’s a combination of (the aforementioned).” Combination of work and medicines lead to severe fatigue. Ability to participate in social roles and activities Determinants of ability to participate in social roles and activities Mobility restrictions “Because of your shortness of breath you are restricted in your mobility and therefore also in your social roles. A while ago, I was supposed to attend a funeral at XX…that’s a problem.” Symptoms cause mobility restrictions as a result of which social contacts are not possible which in turn leads to limitation in social roles. Ability to participate in social roles and activities Hobby/Leisure time Limitation in social role at sports club “I used to be the leader of a football team, and I could run as fast as the boys, but those days are over.” Quit participation in social role and sports activity Ability to participate in social roles and activities Hobby/Leisure time Limitation during sports activity “You have to limit it somewhat, don’t you? Limitation in degree of physical activity during sports activity When I go swimming, for instance, I bring two people; well, those two are able to swim very well, when they have reached the other side of the pool for the second time, I have yet to reach the other side for the first time.” Lying down as a reaction to fatigue. Activity limitations due to fatigue, and activities trigger breathing problems. In contrast, some patients indicated that they had trouble accepting help from others, and had to employ coping strategies to deal with this change in dependency. Companionship was described in terms of how content patients were with the companionship of others. Most statements consisted of summing up the social contacts, e.g. children, partner and grandchildren. Physical func- tion was described as being restricted in daily life tasks, such as dressing, climbing stairs and vacuum cleaning. A few patients described themselves as physically disabled. Autonomy was another reported main theme. Companionship was described in terms of how content patients were with the companionship of others. Most statements consisted of summing up the social contacts, e.g. children, partner and grandchildren. Selecting the most relevant PROMIS domains Physical func- tion was described as being restricted in daily life tasks, such as dressing, climbing stairs and vacuum cleaning. A few patients described themselves as physically disabled. Autonomy was another reported main theme. Patients described fatigue as highly bothersome in various ways; a chronic lack of energy, feeling already totally exhausted when waking up or experiencing feel- ings of weariness, etc. The most frequently mentioned way to cope with fatigue was to lie down and rest. Patients were not always very clear on determinants of fatigue: it could occur without any reason, or result from physical activity or use of medication. See Table 2 for quotes. Patients associated ability to participate in social roles and activities primarily with hobbies and leisure time. They experienced restrictions in physical activities dur- ing holidays; for example, climbing stairs of a tower or hiking. Some described adjusting the intensity of sports activities and avoiding social activities. See Table 2 for more examples. A “The feeling of powerlessness, that for everything you have always to rely on others to help you, that is annoying.” (ID 5) Emotional support was relevant because patients have the need to talk to someone to be comforted, to vent their feelings, to discuss problems or ask for advice. Partners and children are the most favoured persons patients con- fide in. Some stated that talking to someone is ‘healing’, it prevents emotional problems from getting worse and it improves mood. The next three most frequently chosen domains were companionship, physical function and emotional support. Paap et al. Selecting the most relevant PROMIS domains Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Page 6 of 12 Table 3 Patient characteristics ID Gender Age GOLD stage Location Outpatient/inpatient Comorbidity 1 M 58 III R Outpatient Yes 2 M 78 III R Outpatient Yes 3 M 67 II R Outpatient Yes 4 M 72 III R Outpatient Yes 5 M 76 IV R Outpatient Yes 6 F 66 III E Outpatient No 7 M 68 III E Inpatient No 8 M 52 I E Outpatient Yes 9 M 63 III E Outpatient Yes 10 M 52 II E Outpatient Yes 11 M 54 II E Outpatient Yes 12 F 58 II E Outpatient Yes 13 F 69 II E Outpatient No 14 F 67 III E Outpatient Yes 15 F 81 II E Outpatient Yes 16 F 62 IV E Outpatient Yes 17 M 73 II E Outpatient Yes 18 F 51 II E Outpatient Yes 19 M 84 I E Inpatient Yes 20 M 70 III E Inpatient Yes 21 F 67 III E Inpatient No Location: R = Rotterdam, E = Enschede. Table 3 Patient characteristics (independently). Losing one’s autonomy is a struggle for patients. Additional notable results Not one patient explicitly chose the domain depression, even though this theme emerged several times during the interviews in connection with other domains or themes. Feelings of depression were associated with fatigue, autonomy and acute exacerbations of COPD. “I’d like to do it more often but that isn’t possible. Domestic help, for instance…terrible. But on the other hand I also think: my house is clean. Everything spic and span. But it vexes me, that I can’t do it myself.” (ID 12) “I’d like to do it more often but that isn’t possible. Domestic help, for instance…terrible. But on the other hand I also think: my house is clean. Everything spic and span. But it vexes me, that I can’t do it myself.” (ID 12) “And fatigue, sometimes I’m exhausted and I feel depressed and I think heck, why can’t I do that, but there are also moments when I like it and don’t at all resent it. It’s so difficult.” (ID 5) Discussion Physical health and social health emerged as important overarching themes, while domains associated with mental health were hardly chosen or mentioned. Physical health emerged as the most important theme from the spontan- eous statements that patients made when asked about HRQoL in relation to COPD, while two of the six most frequently chosen PROMIS domains (fatigue and physical functioning) pertain to the overarching domain of physical health [40]. Coping with COPD emerged as the second most important theme from the spontaneous statements, while the remaining four PROMIS domains pertained to social health (instrumental support, ability to participate in social roles and activities, companionship, and emo- tional support) [40]. In addition to the obvious overlap be- tween the outcomes of the open question and the card A few patients expressed fear of suffocating associated with respiratory distress, which lead to thoughts of wanting to die or not minding to die. “When it is so bad and stays so bad then I just hope it will be over.” (ID 7) Strikingly, the topic of autonomy was frequently mentioned in conjunction with various domains (see Table 5). Patients mentioned having trouble accepting help from others or that they avoid asking help from others. They get frustrated, angry or depressed when they are unable to do the things they want Page 7 of 12 Paap et al. Discussion Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Table 4 Overview of main themes and sub-themes connected to the open question Main themes (number of occurrences) Sub-themes (number of occurrences) Physical health (22) Light physical activity triggers physical complaints (6) Stamina (4) Fluctuating character of COPD (4) Restriction in general physical activity (3) Invalidity (2) Restriction in physical functioning due to physical symptoms (1) Heavy physical activity causes physical complaints (1) Mobility (1) Coping with COPD-related complaints/restrictions (9) Avoiding activities (3) Balance between rest and activity (3) Performing physical activities in order to avoid sitting at home (1) Adapting activities (1) Professional help for anxiety (1) Hobby/Leisure time (3) Going out (1) Holidays (1) Sport (1) Autonomy (2) Asking for help (1) Independence (1) Anxiety (2) Fear of being alone (1) Fear of suffocating (1) Social life (2) Homebound (1) Offering help to others (1) Additional factors affecting symptoms (1) Weather conditions (1) Fatigue (1) Tired (1) Anger (1) Frustration (1) Work (1) Losing one’s job (1) Examples of light physical activity are walking up and down the stairs. Examples of heavy physical activity are heavy lifting and running. General physical activity when the respondent did not give details. Table 4 Overview of main themes and sub-themes connected to the open question Main themes (number of occurrences) Sub-themes (numbe Sub-themes (number of occurrences) 10 10 10 8 8 8 7 6 4 3 2 2 1 1 Figure 1 Number of times PROMIS-domains were selected. Note. Ability to part. in soc. roles and act = ability to participate in social roles and activities; Satisfaction with part. in soc. roles and act. = satisfaction with participation in social roles and activities. The patients were instructed to select the five most relevant domains, but twelve patients chose fewer than five domains (four domains n=5, three domains n=3, zero domains n=4) and four patients chose more than five domains (six domains n=3, eight domains n=2). Figure 1 Number of times PROMIS-domains were selected. Note. Ability to part. in soc. roles and act = ability to participate in social roles and activities; Satisfaction with part. in soc. roles and act. = satisfaction with participation in social roles and activities. Discussion In their study, Strang and colleagues started with a very general question (“Can you describe what living with COPD means to you?”), but continued with probing ques- tions, including “What are your experiences of anxiety?” Their asking about anxiety directly may partly explain the differences between the results of our open question and their findings. When comparing these anxiety-related themes to the PROMIS anxiety item bank, it becomes ap- parent that the PROMIS anxiety items are formulated in a very general way. This may be an explanation as to why only few patients in this study chose this domain. It may make more sense to include disease-specific anxiety items that are directly related to COPD symptoms (such as shortness of breath) in an instrument that aims to meas- ure HRQoL in COPD patients, rather than using the PRO- MIS anxiety domain. sorting task (PROMIS domains) with respect to physical health, there is a more subtle overlap with respect to cop- ing. Analysis of the statements patients made to explain their choice of PROMIS domains, showed that coping was a frequently mentioned theme for three of the six most popular PROMIS domains. It should be noted that the statements elicited by the cues (PROMIS domains) were far richer in content than the spontaneous statements, providing us with a lot of information on the patients’ perspectives on these different domains of HRQoL. However, the open question elicited highly valuable infor- mation as well, since patients were free to describe HRQoL in their own words; this resulted in an important main theme (coping with COPD) that is not explicitly covered by any of the existing PROMIS domains. These findings underline the importance of using a funnel- shaped questioning strategy, as recommended by Brod and colleagues [27]. Surprisingly, very few patients mentioned or chose do- mains pertaining to mental health; only two patients men- tioned anxiety when answering the open question, while one patient mentioned anger. During the card sorting task, four patients chose the PROMIS domain anxiety, and two patients chose anger. The PROMIS domain de- pression was not chosen by a single patient. These find- ings are striking, since the literature indicates that the prevalence of depression or the level of depressive symp- toms is much higher in patients with COPD than in the general population; and also anxiety has been shown to be a serious problem in COPD [41-46]. Discussion The patients were instructed to select the five most relevant domains, but twelve patients chose fewer than five domains (four domains n=5, three domains n=3, zero domains n=4) and four patients chose more than five domains (six domains n=3, eight domains n=2). Page 8 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Table 5 Overview of main themes derived from patient statements associated with the selected PROMIS domain Selected domain Main themes N* Instrumental support Description of instrumental support 11 Autonomy 2 Coping with instrumental support 2 Level of importance of instrumental support 2 Fatigue Description of fatigue 6 Coping with fatigue 4 Determinants of fatigue 3 Consequences of fatigue 2 Physical activity 1 Comorbidity leads to misconception 1 Mobility 1 Ability to participate in social roles and activities Hobby/Leisure time 6 Coping with limitations in the ability to participate in social roles and activities 3 Determinants of the ability to participate in social roles and activities 2 Restrictions in physical activities 1 Description of social roles and activities 1 Level of importance of social roles and activities 1 Companionship Description social contacts 10 Pointing out positive results of social contacts 3 Importance of social contacts 3 Description social activities 1 Level of satisfaction with company 1 Pointing out negative results of social contacts 1 Life and death 1 Physical function Experiencing limitation or complaints during physical exertion 8 Autonomy 2 Additional factors affecting physical complaints 1 Fatigue 1 Level of satisfaction with physical function 1 Emotional support Description of emotional support 8 Level of importance of emotional support 2 Pointing out positive results of emotional support 2 Sleep disturbance Description of sleep disturbance 5 Determinants of fatigue 1 Consequences of stress 1 Sleep related impairment Coping with problems caused by sleep disturbances 2 Description of problems caused by sleep disturbances 1 Comorbidity leads to misconception 1 Satisfaction with participation in social roles and activities Autonomy 8 Social life 1 Description of attitude to life 1 Determinants of fatigue 1 Consequences of fatigue 1 Anger 1 Level of importance of being independent from others 1 Page 9 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Paap et al. Discussion Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Table 5 Overview of main themes derived from patient statements associated with the selected PROMIS domain (Continued) Informational support Description of informational support 3 Anxiety Description of anxiety 4 Consequences of physical complaints 1 Pain interference Description of pain 1 Description of limitations due to pain 1 Pain behaviour Comorbidity leads to misconception 1 Anger Determinants of anger 2 Coping with anger 1 Importance of coping with anger 1 Description of anger 1 Autonomy 1 *N = number of occurences. For each selected PROMIS-domain the units were interpreted and coded into main and sub themes. Only the main themes are presented in this table. themes derived from patient statements associated with the selected PROMIS domain *N = number of occurences. N = number of occurences. For each selected PROMIS-domain the units were interpreted and coded into main and sub themes. Only the main themes are presented in this table. Additionally, many COPD patients are plagued by feelings of guilt [48], knowing that they are at least partly respon- sible for the onset of their disease (tobacco smoking). As a result they may feel the need to keep a stiff upper lip, believing they have no ‘right’ to complain, resulting in an underreporting of psychological distress. We discussed this point with a number of COPD experts (researchers and pulmonologists), and several of them pointed out that it requires quite some probing in an interview/consult- ation to get the patients to open up about their depressive feelings. We therefore presume that the patients not choosing depression may have been a method-effect, and it cannot be ruled out that this domain is in fact relevant to patients with COPD. When it comes to anxiety, Strang and colleagues [46] found that patients experienced high levels of anxiety related to COPD symptoms, mostly in connection with the themes death anxiety (fear of suffoca- tion, awareness of death, fear of dying, separation anxiety) and life anxiety (fear of living, fear of the future). Further- more, patients also talked about coping strategies they used to deal with the feeling of suffocation, or fear of dying. Discussion Depression is still a taboo-subject for many; especially elderly people have been found to underreport depressive symptoms [47]. It should be noted, though, that although depression was not explicitly chosen, depressive feelings were mentioned by some patients in relation to fatigue, autonomy and acute exacerbations. The interviewed patients may have felt a bit daunted when confronted with the word directly. Page 10 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Page 10 of 12 When comparing the most important themes and do- mains that emerged in this study, to domains covered by the most frequently used instruments to assess HRQoL in COPD [5], a few things stand out. Among the domains most frequently covered by existing instruments are en- ergy/fatigue and social functioning; our findings clearly show support for these being important domains from the patient perspective. However, although many existing in- struments focus at least in part on COPD symptoms (dys- pnea, cough, phlegm, chest tightness), only few focus on the impact of COPD on daily life [5]. Our results show that this is an important shortcoming of the existing in- struments, as many patients indicated they struggle with the impact of COPD on daily activities, as well as finding a way to cope with this negative impact. Most patients indi- cated that physical activity triggers or aggravates their symptoms, and several patients indicated that they have to avoid or adapt their daily activities. For some patients, these limitations were so severe that they considered them- selves as invalids. Many patients struggle daily with their dependency on others in performing daily life tasks; they feel ashamed and frustrated that they are no longer self- reliant. development of a disease-specific module to be included in the CAT, to capture important HRQoL aspects not cov- ered by the current PROMIS domains. When selecting or developing instruments, we argue that it is important to take into account expert opinion as well as patient experi- ence (see Additional file 1). Therefore, we will conduct in- terviews with healthcare professionals in a future study. To ensure the cross-cultural relevance and external valid- ity of our findings, we will repeat these interviews (with patients and healthcare professionals) in other countries as well, starting with Canada. Author details 1 1Department of Research Methodology, Measurement, and Data-Analysis, Behavioral Sciences, University of Twente, P.O. Box 217, 7500 AE Enschede, The Netherlands. 2Department of Psychology, Health & Technology, Behavioral Sciences, University of Twente, Enschede, The Netherlands. 3University of Twente, Enschede, The Netherlands. 4Current affiliation: Department of Clinical Psychology, Behavioural and Social Sciences, University of Groningen, Groningen, The Netherlands. 5Department of Epidemiology and Biostatistics, The EMGO Institute for Health and Care Research, VU University Medical Center, Amsterdam, The Netherlands. 6School of Physical and Occupational Therapy, Faculty of Medicine, McGill University; with concordant appointments at McGill University Health Center’s Division of Clinical Epidemiology; and, the Centre de recherche interdisciplinaire en réadaptation, Constance Lethbridge Rehabilitation Center, Montréal, Québec, Canada. 7Faculty of Medicine, School of Physical Therapy, McGill University, Montreal, QC, Canada. 8Medical School Twente, Medisch Spectrum Twente, Enschede, The Netherlands. Received: 17 March 2014 Accepted: 19 June 2014 Published: 9 July 2014 Acknowledgements W h k M P B We thank Mitzi Paap, Bachelor of Arts in English language and culture, for translating the interview scheme. We also thank all patients that participated in this study. This study was supported by grant #3.4.11.004 from Lung Foundation Netherlands. Authors’ contributions MP i l d i h d Authors contributions MP was involved in the design of the study, analysis and interpretation of data, and drafted the manuscript. CB was involved in the design of the study, critically reviewed all aspects of data collection, analysis and interpretation, and revised the manuscript critically for important intellectual content. LL played a key role in data analysis and the interpretation of the data, and revised the manuscript critically for important intellectual content. LG collected the data, and made a contribution to data analysis and revision of the manuscript. SA and OE drafted Additional file 1 and critically reviewed all aspects of the study, including the manuscript. CT was involved in the design of the study, selected PROMIS example items, and critically reviewed all aspects of the study, including the manuscript. JP was involved in the design of the study and the drafting of the manuscript. All authors read and approved the final manuscript. Competing interests The authors declare that they have no competing interests. It should be noted that some patients found it difficult or refused to follow the instructions. Four patients did not pick any PROMIS domain. They argued that they were in good physical shape or were at least able to do everything they wanted; or they fully accepted the consequences of COPD and were able to adjust to it. It may be that the PROMIS domains were too general, which could be solved by adding a disease-specific module to the PROMIS do- main framework. Some patients had comorbid disorders and indicated that it was difficult for them to identify the exact impact of COPD. Other patients attributed part of the symptoms that impacted their HRQoL to the ‘normal’ ageing process. Some patients had trouble to pick exactly five important domains. Patients that picked fewer than five domains indicated that they had trouble seeing the difference among some of the domains. Additional files Additional file 3: Lists the 16 PROMIS domains (with example items) the patients had to choose from during the card sorting task. Competing interests The authors declare that they have no competing interests. Competing interests Competing interests The authors declare that they have no competing interests. Additional file 1: Outlines the framework we use in developing a CAT to measures HRQoL. Additional file 2: Constitutes the interview scheme used to gather data for this study. References Irwin DE, Varni JW, Yeatts K, DeWalt DA: Cognitive interviewing methodology in the development of a pediatric item bank: a patient reported outcomes measurement information system (PROMIS) study. Health Qual Life Outcomes 2009, 7:3. 15. Cella D, Riley W, Stone A, Rothrock N, Reeve B, Yount S, Amtmann D, Bode R, Buysse D, Choi S, Cook K, DeVellis R, DeWalt D, Fries JF, Gershon R, Hahn EA, Lai J-S, Pilkonis P, Revicki D, Rose M, Weinfurt K, Hays R: The Patient-Reported Outcomes Measurement Information System (PROMIS) developed and tested its first wave of adult self-reported health outcome item banks: 2005–2008. J Clin Epidemiol 2010, 63:1179–1194. 35. Ravens-Sieberer U, Devine J, Bevans K, Riley AW, Moon J, Salsman JM, Forrest CB: Subjective well-being measures for children were developed within the PROMIS project: presentation of first results. J Clin Epidemiol 2014, 67:207–218. 16. Zeldenryk L, Gray M, Gordon S, Speare R, Hossain M: The use of focus groups to develop a culturally relevant quality of life tool for lymphatic filariasis in Bangladesh. Qual Life Res 2014, 23:299–309. 36. Walsh TR, Irwin DE, Meier A, Varni JW, DeWalt DA: The use of focus groups in the development of the PROMIS pediatrics item bank. Qual Life Res 2008, 17:725–735. 17. Ferrell BR, Grant MM, Funk B, Otis-Green S, Garcia N: Quality of Life in Breast Cancer Survivors as Identified by Focus Groups. Psycho-Oncology 1997, 6:13–23. 37. Terwee CB, Roorda LD, Vet HCW, Dekker J, Westhovens R, Leeuwen J, Cella D, Correia H, Arnold B, Perez B, Boers M: Dutch–Flemish translation of 17 item banks from the Patient-Reported Outcomes Measurement Information System (PROMIS). Qual Life Res 2014, [Epub ahead of print]. 18. Brod M, Stewart AL, Sands L, Walton P: Conceptualization and Measurement of Quality of Life in Dementia: The Dementia Quality of Life Instrument (DQoL). The Gerontologist 1999, 39:25–36. 19. Ronen G, Rosenbaum P, Law M, Streiner D: Health-related quality of life in childhood disorders: A modified focus group technique to involve children. Qual Life Res 2001, 10:71–79. 38. Ahmed S, Mayo NE, Wood-Dauphinee S, Hanley JA, Cohen SR: Using the Patient Generated Index to evaluate response shift post-stroke. Qual Life Res 2005, 14(10):2247–2257. 38. Ahmed S, Mayo NE, Wood-Dauphinee S, Hanley JA, Cohen SR: Using the Patient Generated Index to evaluate response shift post-stroke. Qual Life 20. References 24. Bredart A, Marrel A, Abetz-Webb L, Lasch K, Acquadro C: Interviewing to develop Patient-Reported Outcome (PRO) measures for clinical research: eliciting patients' experience. Health Qual Life Outcomes 2014, 12:15. 1. Chronic obstructive pulmonary disease (COPD) (Fact Sheet No.315). [http://www.who.int/mediacentre/factsheets/fs315/en/index.html] 25. Patrick D, Burke L, Gwaltney C, Leidy N, Martin M, Molsen E, Ring L: Content validity-establishing and reporting the evidence in newly developed patient-reported outcomes (PRO) instruments for medical product evaluation: ISPOR PRO good research practices task force report: part 1-eliciting concepts for a new PRO instrument. Value Health 2011, 14:967–977. 2. Nici L, Donner C, Wouters E, Zuwallack R, Ambrosino N, Bourbeau J, Carone M, Celli B, Engelen M, Fahy B, Garvey C, Goldstein R, Gosselink R, Lareau S, MacIntyre N, Maltais F, Morgan M, O'Donnell D, Prefault C, Reardon J, Rochester C, Schols A, Singh S, Troosters T: American thoracic society/ European respiratory society statement on pulmonary rehabilitation. Am J Respir Crit Care Med 2006, 173(12):1390–1413. 3. Pauwels RA, Buist AS, Calverley PMA, Jenkins CR, Hurd SS: Global Strategy for the Diagnosis, Management, and Prevention of Chronic Obstructive Pulmonary Disease. Am J Respir Crit Care Med 2001, 163(5):1256–1276. 26. Patrick D, Burke L, Gwaltney C, Leidy N, Martin M, Molsen E, Ring L: Content validity-establishing and reporting the evidence in newly developed patient-reported outcomes (PRO) instruments for medical product evalu- ation: ISPOR PRO Good Research Practices Task Force report: part 2- assessing respondent understanding. Value Health 2011, 14:978–988. 4. Cella D: Quality of life: the concept. J Palliat Care 1992, 8(3):8–13. 4. Cella D: Quality of life: the concept. J Palliat Care 1992, 8(3):8–13. 5. Weldam SW, Schuurmans MJ, Liu R, Lammers JW: Evaluation of Quality of Life instruments for use in COPD care and research: A systematic review. Int J Nurs Stud 2013, 50(5):688–707. 27. Brod M, Tesler L, Christensen T: Qualitative research and content validity: developing best practices based on science and experience. Qual Life Res 2009, 18:1263–1278. 6. Kruyen PM, Emons WHM, Sijtsma K: On the Shortcomings of Shortened Tests: A Literature Review. Int J Test 2013, 13(3):223–248. 6. Kruyen PM, Emons WHM, Sijtsma K: On the Shortcomings of Shortened Tests: A Literature Review. Int J Test 2013, 13(3):223–248. 28. Johnson C, Aaronson N, Blazeby JM, Bottomley A, Fayers P, Koller M, Kuliś D, Ramage J, Sprangers M, Velikova G, Young T: EORTC Quality of Life Group Guidelines for Developing Questionnaire Modules. 4th edition. References Brussels: European Organisation for Research and Treatment of Cancer; 2011. 7. Kruyen PM, Emons WHM, Sijtsma K: Assessing Individual Change Using Short Tests and Questionnaires. Appl Psychol Meas 2014, 38(3):201–216. 8. Paap MCS, Brouwer D, Glas CAW, Monninkhof EM, Forstreuter B, Pieterse ME, van der Palen J: The St George's Respiratory Questionnaire revisited: a psychometric evaluation. Qual Life Res 2013. [Epub ahead of print]. 29. Kelly MA, Morse JQ, Stover A, Hofkens T, Huisman E, Shulman S, Eisen SV, Becker SJ, Weinfurt K, Boland E, Pilkonis PA: Describing depression: congruence between patient experiences and clinical assessments. Br J Clin Psychol 2011, 50:46–66. 9. Barclay-Goddard R, Epstein JD, Mayo NE: Response shift: a brief overview and proposed research priorities. Qual Life Res 2009, 18(3):335–346. 30. Riley WT, Pilkonis P, Cella D: Application of the National Institutes of Health Patient-reported Outcome Measurement Information System (PROMIS) to mental health research. J Ment Health Policy Econ 2011, 14:201–208. 10. Ackerman TA: Developments in multidimensional item response theory. Appl Psychol Meas 1996, 20:309–310. 11. Daudey L, Peters JB, Molema J, Dekhuijzen PN, Prins JB, Heijdra YF, Vercoulen JH: Health status in COPD cannot be measured by the St George's Respiratory Questionnaire alone: an evaluation of the underlying concepts of this questionnaire. Respir Res 2010, 11:98. 31. Pilkonis PA, Choi SW, Reise SP, Stover AM, Riley WT, Cella D: Item banks for measuring emotional distress from the Patient-Reported Outcomes Measurement Information System (PROMIS(R)): depression, anxiety, and anger. Assessment 2011, 18:263–283. 12. Computerized Adaptive Testing: Theory and Practice. Edited by Van der Linden WJ, Glas CAW. Dordrecht: Kluwer Academic Publishers; 2000. g 32. DeWalt DA, Rothrock N, Yount S, Stone AA: Evaluation of item candidates: the PROMIS qualitative item review. Med Care 2007, 45:S12–21. 13. Embretson SE, Reise S: Item response theory for psychologists. Mahwah, NJ: Erlbaum; 2000. 33. Castel LD, Williams KA, Bosworth HB, Eisen SV, Hahn EA, Irwin DE, Kelly MA, Morse J, Stover A, DeWalt DA, DeVellis RF: Content validity in the PROMIS social-health domain: a qualitative analysis of focus-group data. Qual Life Res 2008, 17:737–749. 14. Cella D, Yount S, Rothrock N, Gershon R, Cook K, Reeve B, Ader D, Fries JF, Bruce B, Rose M: The Patient-Reported Outcomes Measurement Information System (PROMIS): progress of an NIH Roadmap cooperative group during its first two years. Med Care 2007, 45:S3–S11. 34. Conclusion The most relevant (sub)domains of HRQoL for patients with COPD were: physical health (fatigue, physical func- tioning), social health (instrumental support, ability to par- ticipate in social roles and activities, companionship, and emotional support), and coping with COPD. The latter is not explicitly covered by any of the existing PROMIS do- mains, or by the most popular traditional questionnaires that are used to measure HRQoL in COPD. Our results reaffirm what has been pointed out in previous studies [27]: engaging patients in PROM development and evalu- ation is crucial to ensure content validity. The identified PROMIS domains could form the basis for a CAT meas- uring HRQoL in COPD patients. We recommend the Page 11 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 References Groenvold M, Petersen MA, Aaronson NK, Arraras JI, Blazeby JM, Bottomley A, Fayers PM, de Graeff A, Hammerlid E, Kaasa S, Sprangers MAG, Bjorner JB, for the EORTC Quality of Life Group: The development of the EORTC QLQ- C15-PAL: a shortened questionnaire for cancer patients in palliative care. Eur J Cancer 2006, 42:55–64. 39. Corbin J, Strauss A: Grounded theory research: Procedures, canons, and evaluative criteria. Qual Sociol 1990, 13:3–21. 40. Domain Frameworks PROMIS Adult Self-Reported Health. [http://www.nihpromis.org/measures/domainframework1] 40. Domain Frameworks PROMIS Adult Self-Reported Health [http://www.nihpromis.org/measures/domainframework1] 21. Velikova G, Awad N, Coles-Gale R, Wright EP, Brown JM, Selby PJ: The clinical value of quality of life assessment in oncology practice—a qualitative study of patient and physician views. Psycho-Oncology 2008, 17:690–698. 41. von Leupoldt A, Kenn K: The psychology of chronic obstructive pulmonary disease. Curr Opin Psychiatry 2013, 26(5):458–463. 410.1097/YCO.1090b1013e328363c328361fc. 42. Di Marco F, Verga M, Reggente M, Maria Casanova F, Santus P, Blasi F, Allegra L, Centanni S: Anxiety and depression in COPD patients: The roles of gender and disease severity. Respir Med 2006, 100(10):1767–1774. 42. Di Marco F, Verga M, Reggente M, Maria Casanova F, Santus P, Blasi F, Allegra L, Centanni S: Anxiety and depression in COPD patients: The roles of gender and disease severity. Respir Med 2006, 100(10):1767–1774. 22. Nikolaus S, Bode C, Taal E, van de Laar MA: Which dimensions of fatigue should be measured in patients with rheumatoid arthritis? A Delphi study. Musculoskeletal Care 2012, 10:13–17. y 43. Maurer J, Rebbapragada V, Borson S, Goldstein R, Kunik ME, Yohannes AM, Hanania NA: Anxiety and depression in COPD: current understanding, unanswered questions, and research needs. Chest 2008, 134(4):43s–56s. 43. Maurer J, Rebbapragada V, Borson S, Goldstein R, Kunik ME, Yohannes AM, Hanania NA: Anxiety and depression in COPD: current understanding, unanswered questions, and research needs. Chest 2008, 134(4):43s–56s. 23. Lasch K, Marquis P, Vigneux M, Abetz L, Arnould B, Bayliss M, Crawford B, Rosa K: PRO development: rigorous qualitative research as the crucial foundation. Qual Life Res 2010, 19:1087–1096. Page 12 of 12 Page 12 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 44. Zhang MW, Ho RC, Cheung MW, Fu E, Mak A: Prevalence of depressive symptoms in patients with chronic obstructive pulmonary disease: a systematic review, meta-analysis and meta-regression. Gen Hosp Psychiatry 2011, 33(3):217–223. 44. Zhang MW, Ho RC, Cheung MW, Fu E, Mak A: Prevalence of depressive symptoms in patients with chronic obstructive pulmonary disease: a systematic review, meta-analysis and meta-regression. Gen Hosp Psychiatry 2011, 33(3):217–223. 45. Lou P, Zhu Y, Chen P, Zhang P, Yu J, Zhang N, Chen N, Zhang L, Wu H, Zhao J: Prevalence and correlations with depression, anxiety, and other features in outpatients with chronic obstructive pulmonary disease in China: a cross-sectional case control study. BMC Pulm Med 2012, 12:53. 46. Strang S, Ekberg-Jansson A, Henoch I: Experience of anxiety among patients with severe COPD – A qualitative, in-depth interview study. Palliat Support Care 2013. [Epub ahead of print]. 46. Strang S, Ekberg-Jansson A, Henoch I: Experience of anxiety among patients with severe COPD – A qualitative, in-depth interview study. Palliat Support Care 2013. [Epub ahead of print]. 47. Lyness JM, Cox C, Curry J, Conwell Y, King DA, Caine ED: Older age and the underreporting of depressive symptoms. Journa J Am Geriatr Soc 1995, 43(3):216–221. 47. Lyness JM, Cox C, Curry J, Conwell Y, King DA, Caine ED: Older age and the underreporting of depressive symptoms. Journa J Am Geriatr Soc 1995, 43(3):216–221. 48. Lindqvist G, Hallberg LR: Feelings of guilt due to self-inflicted disease': a grounded theory of suffering from chronic obstructive pulmonary disease (COPD). J Health Psychol 2010, 15(3):456–466. doi:10.1186/s12955-014-0106-3 Cite this article as: Paap et al.: Identifying key domains of health-related quality of life for patients with Chronic Obstructive Pulmonary Disease: the patient perspective. Health and Quality of Life Outcomes 2014 12:106. Paap et al. Health and Quality of Life Outcomes 2014, 12:106 http://www.hqlo.com/content/12/1/106 Submit your next manuscript to BioMed Central and take full advantage of: • Convenient online submission • Thorough peer review • No space constraints or color figure charges • Immediate publication on acceptance • Inclusion in PubMed, CAS, Scopus and Google Scholar • Research which is freely available for redistribution Submit your manuscript at www.biomedcentral.com/submit Submit your next manuscript to BioMed Central and take full advantage of: • Convenient online submission • Thorough peer review • No space constraints or color figure charges • Immediate publication on acceptance • Inclusion in PubMed, CAS, Scopus and Google Scholar • Research which is freely available for redistribution Submit your manuscript at www.biomedcentral.com/submit
https://openalex.org/W3190301934
https://journals.plos.org/plosone/article/file?id=10.1371/journal.pone.0255961&type=printable
English
null
Embryonic exposure to predation risk and hatch time variation in fathead minnows
PloS one
2,021
cc-by
5,496
PLOS ONE RESEARCH ARTICLE a1111111111 a1111111111 a1111111111 a1111111111 a1111111111 Embryonic exposure to predation risk and hatch time variation in fathead minnows Marianna E. HornID*, Douglas P. Chivers Department of Biology, University of Saskatchewan, Saskatoon, SK, Canada Department of Biology, University of Saskatchewan, Saskatoon, SK, Canada * marianna.horn@usask.ca * marianna.horn@usask.ca OPEN ACCESS Citation: Horn ME, Chivers DP (2021) Embryonic exposure to predation risk and hatch time variation in fathead minnows. PLoS ONE 16(8): e0255961. https://doi.org/10.1371/journal.pone.0255961 Editor: Michael Schubert, Laboratoire de Biologie du De´veloppement de Villefranche-sur-Mer, FRANCE Published: August 12, 2021 Copyright: © 2021 Horn, Chivers. This is an open access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Abstract a1111111111 a1111111111 a1111111111 a1111111111 a1111111111 Organisms are exposed to a wealth of chemical information during their development. Some of these chemical cues indicate present or future dangers, such as the presence of predators that feed on either the developing embryos or their nearby parents. Organisms may use this information to modify their morphology or life-history, including hatching timing, or may retain information about risk until it gains relevance. Previous research has shown predation-induced alterations in hatching among embryonic minnows that were exposed to mechanical-injury-released alarm cues from conspecific embryos. Here, we test whether minnows likewise hatch early in response to alarm cues from injured adult conspecifics. We know that embryonic minnows can detect adult alarm cues and use them to facilitate learned recognition of predators; however, it is unknown whether these adult alarm cues will also induce a change in hatching time. Early hatching may allow animals to rapidly disperse away from potential predators, but late hatching may allow animals to grow and develop structures that allow them to effectively escape when they do hatch. Here, we found here that unlike embryonic fathead minnows (Pimephales promelas) exposed to embryonic cues, embryonic minnows exposed to adult alarm cues do not exhibit early hatching. The ability of embryos to recognize adult alarm cues as a future threat, but not a current one, demon- strates sophisticated ontogenetic specificity in the hatching response of embryonic minnows. Introduction Animals facing predation must continually weigh the gains of activities such as foraging and mating against the risk of being injured or killed by a predator. Predation risk has a large impact on behaviour, morphology and life-history. The behavioural impacts are well studied; animals typically exhibit fright behaviours, such as reduced movement and foraging [1], and in the case of fish, increased shelter use and shoaling [2]. These behaviours may significantly decrease their risk of predation [3, 4]. Individuals that are under a constant threat of predation may even begin to demonstrate neophobia–a fear of all novel stimuli [5]. These more drastic behavioural responses may come at a greater cost, as exhibiting fear of everything may prevent low-risk gains–a willingness to take opportunities when the threat is low rather than non-exis- tent [1]. Individuals that experience extended exposure to predation risk at certain life stages PLOS ONE PLOS ONE Data Availability Statement: All relevant data is included within the manuscript and Supporting Information files. Data Availability Statement: All relevant data is included within the manuscript and Supporting Information files. Funding: This work was supported by the Natural Sciences and Engineering Research Council of Canada (https://www.nserc-crsng.gc.ca/index_eng. asp) to D.P.C. (RGPIN-2014–04974) and the University of Saskatchewan (https://www.usask.ca/ ). The funders had no role in study design, data collection and analysis, decision to publish, or preparation of the manuscript. University of Saskatchewan (https://www.usask.ca/ ). The funders had no role in study design, data collection and analysis, decision to publish, or preparation of the manuscript. 1 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows may also change morphologically to decrease their risk of predation. A classic example is the crucian carp, whose body shape deepens in the presence of pike predation [6]. This morphol- ogy is advantageous in the presence of the gape-limited pike, which cannot open their mouths wide enough to consume the deeper-bodied morphotype. When the predation risk is great, the cost of this morphological variation, specifically decreased swimming speed, is negligible com- pared to the decreased risk of predation [6]. Fathead minnows (Pimephales promelas) likewise change their morphology in response to risk, but this trait is restricted to males. Females appear to have a consistent morphology, whereas males exhibit considerable variation, with early alarm cue exposure inducing deeper head and body structures, as well as shorter caudal penduncles and fins and longer dorsal fins [7]. As morphological changes may help animals avoid predation, so too can life-history shifts such as time of hatch. Because some predators forage selectively on specific life stages of prey, either shifting stages early or late may help prey reduce their predation risk. For example, newly-hatched salamander larvae are at high risk of predation by flatworms. Sih and Moore [8] found that in the presence of flatworms, salaman- ders delayed hatching to postpone their encounters with these predators until they were larger and better able to withstand the attacks. Competing interests: The authors have declared that no competing interests exist. Competing interests: The authors have declared that no competing interests exist. Newly-hatched organisms are commonly considered to be at their most vulnerable due to their size, their naivety and the sudden loss of their shell [9]. However, being an embryo is not without risk either, as its immobility makes it impossible for an embryo to escape danger. Data Availability Statement: All relevant data is included within the manuscript and Supporting Information files. Risk-induced hatching variation is one of the few mechanisms by which an embryo can miti- gate risk. Embryos typically hatch spontaneously at a certain stage under normal conditions, but may hatch prematurely or delay hatching in the presence of higher-than-normal cue levels or extreme conditions [10]. Threats such as low oxygen levels [11], pathogen presence [12, 13], elevated temperature [14, 15], risk of desiccation [16], high population densities or predation pressure [8, 17, 18] may all impact embryonic hatching times [10, 19]. In some cases the organ- isms can actually speed up their growth within the shell in order to hatch out earlier but at the same developmental stage, yet in other cases they simply escape their shell at an earlier devel- opmental stage [20]. For some organisms that are under threat of predation, early hatching may afford them the ability to escape their predators. This phenomenon, has been observed across a wide range of taxa, including arthropods, amphibians and fish [17, 21–23]. Kusch and Chivers [17] showed that when fathead minnow embryos were subject to predation threat, as represented by repeated exposure to crayfish predation cues augmented by a single crushed embryonic con- specific, they increased the speed with which they hatched out of their shells, affording them the opportunity to seek shelter, while costing them developmental time within the egg. Indi- viduals that hatched early due to predation pressure on the embryos had shorter fork lengths than their unthreatened conspecifics, the lifetime consequences of which are unstudied in fish. Studies in amphibians show a wide range of consequences, ranging from changes in hatching time, to morphological changes, to differences in growth rates, all varied by species [24]. Another study shows effects of predation-induced hatching that carry through two subsequent life stages in red-eyed tree frogs [23]. It is possible that while embryos that hatch early may be afforded the ability to escape whatever immediate predation pressure they incur, it may come at a significant cost over their lifespan, depending on what physiological changes are needed to induce early hatching. For some organisms that are under threat of predation, early hatching may afford them the ability to escape their predators. This phenomenon, has been observed across a wide range of taxa, including arthropods, amphibians and fish [17, 21–23]. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 Competing interests: The authors have declared that no competing interests exist. Holding conditions One hundred and twenty-five mating pairs of adult fathead minnows were obtained from Osage Catfisheries Inc. of Osage Beach, Missouri, USA. Each mating pair was placed in an individual 10-L glass tank (Hagen, Montreal, Canada) filled with dechlorinated water and an airstone. Fish were held on a light:dark cycle of 16:8 hours at 25.8˚C (± 2.8). Because air strati- fication within the facility caused a temperature gradient of eight degrees (21–29˚C), treat- ments were equally distributed across the shelves. A piece of polyvinyl chloride pipe cut in half was added to serve as a shelter for mating and egg-laying. Minnows were fed a combination of dried flakes and fresh brine shrimp. The adult minnows were removed from the tanks as soon as the eggs were deposited to prevent a parental care bias, as the father typically guards the eggs. The airstone was moved beneath the eggs to encourage oxygenation and reduce the risk of fungal infection. Any pair that spawned a particularly low viability set of eggs (less than ten percent hatch rate) was replaced with a different partner and allowed to have a second discrete mating event. Data Availability Statement: All relevant data is included within the manuscript and Supporting Information files. Kusch and Chivers [17] showed that when fathead minnow embryos were subject to predation threat, as represented by The ability to respond to a threat is predicated on the ability to detect said threat. It has long been established that embryos are capable of identifying predation risk, usually via olfactory or mechanical cues. Mechanical cues may simply be direct physical contact. Chivers et al. [21] found that Pacific treefrogs (Hyla regilla) subject to direct mechanical contact from both pred- atory leeches (families Glossiphonidae and Erpobdellidae) and non-predatory worms hatched found that Pacific treefrogs (Hyla regilla) subject to direct mechanical contact from both pred- atory leeches (families Glossiphonidae and Erpobdellidae) and non-predatory worms hatched 2 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows early. These responses were intensified by the combined presence of olfactory cues. Olfactory cues are often innately recognized cues from injured conspecifics in the form of alarm cues [2]. They may also come from innately recognized predators [25], but this is not typically the case in fish [26]. The cues could also theoretically even be learned predator cues, based on recent evidence that embryos can learn to identify predators in the embryonic stages [25, 27– 29]. Interestingly, some fish are capable of discerning the ontogeny of the conspecifics that produced the alarm cues [30–32]. Fish that can differentiate between cues from differently aged conspecifics may have the benefit of being able to respond only to relevant cues, rather than responding to cues from a life stage that experiences different predation risk due to changes in size, habitat or behaviour. In this experiment, we investigate whether alarm cues from adult minnows induce a change in hatching time in embryonic minnows and whether the concentration of the alarm cue impacts the hatch time. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 Conditioning Starting 24–36 h after deposition, 138 clutches of eggs were exposed to the conditioning cues for one hour each morning and one hour each afternoon for two days. We did not believe there would be any gain to beginning conditioning prior to this time because the fundamental neural structure development would be incomplete (35). The egg surface (pipe) was trans- ferred into a bucket with 1.5 L of water, which also contained one of 6 sets of conditioning cues: distilled water (25 mL distilled water); predator odor (20 mL predator odor + 5 mL DW); alarm cue mL high conspecific alarm cue control + 20 mL distilled water); Low (5 mL low con- centration AC + 20 mL predator odor); Medium (5 mL medium concentration AC + 20 mL predator odor); High (5 mL high concentration AC + 20 mL predator odor). As mentioned, these conditioning treatments were designed for another experiment, but for our purpose they provide three concentrations of alarm cue, and a control to ensure that our addition of preda- tor odor had no impact on hatching. The final concentrations of alarm cue in the treatment buckets were as follows: 1 cm2 / 73 200 L in the Low, 1 cm2 / 36 600 L in the Medium, and 1cm 2 / 12 200 L in the alarm cue and High, with none in the distilled water and predator odor buckets. After exposure, the pipe with the eggs was removed from the cue and placed in a clean water bath for two min before it was returned to its holding tank. Collection of cues Four adult fathead minnows were sacrificed via a blow to the head (as per guidelines from the Canadian Council on Animal Care) for alarm cue collection. A thin layer of skin was removed from each side of each fish (1 cm2 per fish) and was homogenized in 40 ml of chilled, distilled water before being filtered through cotton batting to remove any remaining tissue. The solu- tion was diluted to produce three concentrations of alarm cue stock: high, medium and low (1 cm2 of skin/ 40 L, 120 L or 240 L respectively). Thirty-ml aliquots of skin solution were stored at -20˚C and thawed in a water bath prior to use. We know that these concentrations are sufficient to induce behavioural changes in minnows [33]. As these fish were going to be used for another experiment post-hatch, we also included a novel predator odor in four of our conditioning treatments. The predator odor is not expected to have impacted this experiment because many experiments with minnows have established that upon hatching minnows lack recognition of northern pike (Esox lucius) as a predator. However, for the sake of thoroughness, we explain the process of predator odor collection. Predator odor was collected from three pike (fork length 19.1 cm ± SE: 0.2) starved for one week prior to cue collection to prevent the presence of dietary alarm cues [34]. The pike were placed in individual 60 L glass collection tanks with only an airstone and clean dechlorinated water for 24 h to produce the predator odor. After the fish were returned to their regular tanks, 3 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows the water was filtered through polywool. Bags of 125 ml of predator odor were stored at -20˚C and thawed just before use. the water was filtered through polywool. Bags of 125 ml of predator odor were stored at -20˚C and thawed just before use. Testing conditions Eggs were checked every 4 h during the day (0600h, 1000h, 1400h, 1800h, 2200h) for signs of hatching. We considered clutches as replicates rather than individual eggs due to the large number of eggs (almost 17 000 in total). We noted the temperature at each 4 h interval, the times at which the eyes appeared, the first fish hatched, approximately 90% had hatched, and the last viable (not discolored) egg hatched, and recorded if there were any signs of fungal infection (common in eggs lacking parental care). Any infected eggs were carefully excised from the rest of the clutch to prevent pathogen spread. Discussion Our results provide strong evidence that hatching rates were not affected by the presence of adult alarm cues. Given our design, unequivocal results and large sample sizes, we are confi- dent that our findings are robust and reflect a true non-significant effect of risk on hatching time. Studies examining predator-induced hatching responses among fishes are at their infancy. We feel that it is just as important to publish results from carefully designed and exe- cuted studies that fail to find effects, as it is to publish those that confirm effects. The only sig- nificant decreases in hatching time observed in our experiment occurred as a result of increased temperature, which is a known phenomenon across various species of fish [36]. p p p [ ] As mentioned, a myriad of factors can affect the hatching time of embryos. It may therefore seem inconsequential to have examined a factor that does not induce an effect. However, what makes this observation interesting is the fact that embryonic minnows seem to be differentiat- ing between this and other highly similar pieces of information. Kusch and Chivers [17], for example, showed earlier hatching in minnows exposed to alarm cues from crushed conspecific embryos combined with feeding cues from virile crayfish fed embryos. In our experiment, we tested whether embryos exposed to adult alarm cues might also hatch prematurely, but found that they did not. The concentration of alarm cues from embryos and adults cannot be directly compared as it is measured by the numbers of eggs or the area (# of cm2 of skin) per volume (respectively). However, we do know from an experiment that followed from our current investigation, that the concentration of adult cues to which the embryos were subjected was enough to elicit a learned antipredator response [37], which clearly indicates that the concen- tration was adequate to indicate a threat. Despite the recognized threat to adults, however, these embryos did not hatch early. Although it is theoretically possible that ability to hatch early is not present in this genetic line of fathead minnows, as it was in the minnows used by Kusch and Chivers [17], many studies have demonstrated condition-dependent hatching rates across genetically independent fathead minnow populations [17, 36, 38, 39]. We believe it is far more plausible that the minnow embryos are responding differently to cues based on the ontogenetic stage of the donors. Results Clutch hatch rates (mean ± SE) from egg deposition ranged from first hatch at 79 h ± 1.7, to 90% hatch at 111 h ± 1.8, to final hatch at 122 h ± 1.8. From the appearance of eye spots the first hatch was at 35 h ± 1.3, 90% hatch at 67 h ± 1.2, and final hatch at 79 h ± 1.3. All data is available in the Supporting File (S1 Dataset). The first eigenvector of the PCA captured 73% of the variance and had correlation coefficients with the original response variables that ranged from 0.63 to 0.92. Clutch hatch rate was unaffected by treatment (F5,110 = 0.927, p = 0.467, Fig 1), but was affected by temperature (F9,110 = 1.330, p < 0.001). Temperature did not vary sig- nificantly across treatments (F5,119 = 0.196, p = 0.963). Statistical analyses 4 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows Animal welfare note This study was conducted as approved by the University of Saskatchewan Committee on Ani- mal Ethics under the protocol number 20070083. At the start of the experiment, four individu- als were killed by a blow to the head to produce conspecific cues; MS-222 cannot be used as it interferes with cue production. Both the adults and the offspring were maintained for use for future experiments, but following their use in multiple experiments the study fish were eutha- nized with MS-222 as the permit did not allow release. Statistical analyses Because we were considering clutches rather than individual embryos, we used several differ- ent measures for hatching time, all recorded in hours. We used two starting points: time from deposition, and time from eye development, and three different end points: first hatch, 90% hatch, and final hatching of all viable eggs, for a total of 6 measures of hatching time. We included the time from eye development measure to prevent bias from our treatments not beginning until 24 hours (shortly before eye development at around 43 h). The appearance of eye spot pigmentation also lines up with developmental milestones including completion of fundamental structural neural development, including the telencephalon and olfactory bulb, which may be important for cue detection [35]. We used a correlation-based principal component analysis (PCA) to combine the six mea- sures of hatching time into a single synthetic variable. We used this variable in an analysis of variance (ANOVA) to evaluate the effect of conditioning treatments with temperature as a covariate. No interaction was found between temperature and treatment (F5,77 = 1.330, p = 0.261). Clutches with hatching success rates of less than ten percent were excluded due to their low viability, leaving 118 clutches of eggs (subgroup of clutches with and without outliers, n = 18–22). We also looked at temperature across treatments to make sure there were not cate- gorical differences We used a correlation-based principal component analysis (PCA) to combine the six mea- sures of hatching time into a single synthetic variable. We used this variable in an analysis of variance (ANOVA) to evaluate the effect of conditioning treatments with temperature as a covariate. No interaction was found between temperature and treatment (F5,77 = 1.330, p = 0.261). Clutches with hatching success rates of less than ten percent were excluded due to their low viability, leaving 118 clutches of eggs (subgroup of clutches with and without outliers, n = 18–22). We also looked at temperature across treatments to make sure there were not cate- gorical differences. p = 0.261). Clutches with hatching success rates of less than ten percent were excluded due to their low viability, leaving 118 clutches of eggs (subgroup of clutches with and without outliers, n = 18–22). We also looked at temperature across treatments to make sure there were not cate- gorical differences. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 Discussion Werner [40] suggests that shifts in the timing of life-history switch points, such as hatching or metamorphosis, should only occur in instances when the mortality/growth ratio of the 5 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows Fig 1. Variation in clutch hatching times following embryonic exposure to different treatment cues as represented by a PCA correlation-based synthetic factor that combines six measures of hatching time. DW = water, PO = predator odor, AC = alarm cue, LO = PO + low concentration AC, MED = PO + medium concentration AC HI = PO + high concentration AC y p g Fig 1. Variation in clutch hatching times following embryonic exposure to different treatment cues as represented by a PCA correlation-based synthetic factor that combines six measures of hatching time. DW = water, PO = predator odor, AC = alarm cue, LO = PO + low concentration AC, MED = PO + medium concentration AC, HI = PO + high concentration AC. htt //d i /10 1371/j l 0255961 001 Fig 1. Variation in clutch hatching times following embryonic exposure to different treatment cues as represented by a PCA correlation-based synthetic factor that combines six measures of hatching time. DW = water, PO = predator odor, AC = alarm cue, LO = PO + low concentration AC, MED = PO + medium concentration AC, HI = PO + high concentration AC. https://doi.org/10.1371/journal.pone.0255961.g001 https://doi.org/10.1371/journal.pone.0255961.g001 current life stage is greater than that of the subsequent stage. Warkentin [18] expands this idea to propose that if embryos are in danger but juveniles are safe, early hatching would be favoured, and conversely, high juvenile mortality and safe embryos would favour a delay in hatching. The findings of Kusch and Chivers [17] follow this trend, with high embryonic risk inducing early hatching. Our experiment tests the reverse–a situation where embryos are not at risk, but adults are. We did not observe early hatching in this scenario, but neither did we observe delayed hatching. Nevertheless, when considered alongside Kusch and Chivers’ [17] work demonstrating early hatching in embryos following exposure to embryonic cues, our results suggest that the minnows are able to discern the ontogeny of the cues and use the infor- mation accordingly. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 Acknowledgments We would like to thank SMC and PJF for their feedback on early drafts of this manuscript. Writing – review & editing: Marianna E. Horn, Douglas P. Chivers. Writing – review & editing: Marianna E. Horn, Douglas P. Chivers. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 Discussion Several species of fish are known to discern the ontogeny of conspecific alarm cues and to put more value in the cues from individuals of the same age. For example, Lo¨nnstedt & McCormick [30] show a clear trend in the response of newly hatched damselfish to alarm cues of different aged conspecifics: response weakens as the age difference increases. Responses range from strong threat-sensitive responses to ontogenetically similar recruit-aged 6 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows fish, to lower and non-threat dependent responses to juvenile cues, down to a complete lack of response to adult cues. Our findings indicate that minnows perceive the presence of a threat to a different life-stage (their free-swimming conspecifics) and recognize that this does not indi- cate a current threat to their safety. Because hatching early would not help them avoid this threat, they have no cause to hatch early. Indeed, in this instance, early hatching in the pres- ence of a predator to adults would prove to be mismatched as it would increase their risk of mortality rather than decreasing it, not only through increased predator exposure, but also through the long-term costs associated with hatching at a less developed stage [23]. A sophisti- cated level of perception of risk should provide advantages to the current life stage by not inducing ill-advised premature hatching, while still allowing collection of information regard- ing future predation threats. Author Contributions Conceptualization: Marianna E. Horn, Douglas P. Chivers. Conceptualization: Marianna E. Horn, Douglas P. Chivers. Formal analysis: Marianna E. Horn. Formal analysis: Marianna E. Horn. Funding acquisition: Douglas P. Chivers. Funding acquisition: Douglas P. Chivers. Investigation: Marianna E. Horn. Investigation: Marianna E. Horn. Methodology: Marianna E. Horn. Supervision: Douglas P. Chivers. Visualization: Marianna E. Horn. Visualization: Marianna E. Horn. Writing – original draft: Marianna E. Horn. Writing – original draft: Marianna E. Horn. References 1. Lima SL, Dill LM. Behavioral decisions made under the risk of predation: a review and prospectus. Can J Zool. 1990 Apr 1; 68(4):619–40. 2. Chivers DP, Smith RJF. Chemical alarm signalling in aquatic predator-prey systems: A review and pro- spectus. Ecoscience. 1998; 5(3):338–52. 3. Mirza RS, Chivers DP. Predator-recognition training enhances survival of brook trout: evidence from laboratory and field-enclosure studies. Can J Zool. 2000 Dec 1; 78(12):2198–208. 4. Mirza RS, Chivers DP. Chemical alarm signals enhance survival of brook charr (Salvelinus fontinalis) during encounters with predatory chain pickerel (Esox niger). Ethology. 2001; 107(11):989–1005. 5. Brown GE, Ferrari MCO, Elvidge CK, Ramnarine I, Chivers DP. Phenotypically plastic neophobia: a response to variable predation risk. Proc R Soc B Biol Sci. 2013 Apr 7; 280(1756):20122712. https://doi. org/10.1098/rspb.2012.2712 PMID: 23390103 6. Bro¨nmark C, Miner JG. Predator-induced phenotypical change in body morphology in crucian carp. Sci- ence. 1992 Nov 20; 258(5086):1348–50. https://doi.org/10.1126/science.258.5086.1348 PMID: 17778362 7 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows 7. Meuthen D, Ferrari MCO, Lane T, Chivers DP. Predation risk induces age- and sex-specific morpholog- ical plastic responses in the fathead minnow Pimephales promelas. Sci Rep. 2019 Oct 25; 9(1):1–9. https://doi.org/10.1038/s41598-018-37186-2 PMID: 30626917 8. Sih A, Moore RD. Delayed hatching of salamander eggs in response to enhanced larval predation risk. Am Nat. 1993 Dec; 142(6):947–60. https://doi.org/10.1086/285583 PMID: 19425943 9. Sogard SM. Size-selective mortality in the juvenile stage of teleost fishes: A review. Bull Mar Sci. 1997; 60(3):1129–57. 10. Warkentin KM. Plasticity of hatching in amphibians: Evolution, trade-offs, cues and mechanisms. Integr Comp Biol. 2011 Jul 1; 51(1):111–27. https://doi.org/10.1093/icb/icr046 PMID: 21642239 11. Czerkies P, Brzuzan P, Kordalski K, Luczynski M. Critical partial pressures of oxygen causing preco- cious hatching in Coregonus lavaretus and C. albula embryos. Aquaculture. 2001 May 1; 196(1):151–8. 12. Pompini M, Clark ES, Wedekind C. Pathogen-induced hatching and population-specific life-history response to waterborne cues in brown trout (Salmo trutta). Behav Ecol Sociobiol. 2013 Apr; 67(4):649– 56. 13. Warkentin KM, Currie CR, Rehner SA. Egg-killing fungus induces early hatching of red-eyed treefrog eggs. Ecology. 2001; 82(10):2860–9. 14. Jungwirth M, Winkler H. The temperature dependence of embryonic development of grayling (Thymal- lus thymallus), Danube salmon (Hucho hucho), Arctic char (Salvelinus alpinus) and brown trout (Salmo trutta fario). Aquaculture. 1984 Jun 1; 38(4):315–27. 15. Re´alis-Doyelle E, Pasquet A, De Charleroy D, Fontaine P, Teletchea F. References Strong effects of temperature on the early life stages of a cold stenothermal fish species, brown trout (Salmo trutta L.). PLoS ONE. 2016 May 12; 11(5). 16. Wedekind C, Mu¨ller R. Risk-induced early hatching in Salmonids. Ecology. 2005; 86(9):2525–9. 17. Kusch RC, Chivers DP. The effects of crayfish predation on phenotypic and life-history variation in fat- head minnows. Can J Zool. 2004 Jun; 82(6):917–21. 18. Warkentin KM. Adaptive plasticity in hatching age: a response to predation risk trade-offs. Proc Natl Acad Sci. 1995 Apr 11; 92(8):3507–10. https://doi.org/10.1073/pnas.92.8.3507 PMID: 11607529 19. Martin K, Bailey K, Moravek C, Carlson K. Taking the Plunge: California grunion embryos emerge rap- idly with environmentally cued hatching. Integr Comp Biol. 2011 Jul 1; 51(1):26–37. https://doi.org/10. 1093/icb/icr037 PMID: 21665921 20. Warkentin KM. Environmentally cued hatching across taxa: Embryos respond to risk and opportunity. Integr Comp Biol. 2011 Jul 1; 51(1):14–25. https://doi.org/10.1093/icb/icr017 PMID: 21705799 21. Chivers DP, Kiesecker JM, Marco A, Devito J, Anderson MT, Blaustein AR. Predator-induced life his- tory changes in amphibians: egg predation induces hatching. Oikos. 2001; 92(1):135–42. 22. Mirza RS, Chivers DP, Godin JJ. Brook charr alevins alter timing of nest emergence in response to chemical cues from fish predators. J Chem Ecol N Y. 2001 Sep; 27(9):1775–85. https://doi.org/10. 1023/a:1010404624556 PMID: 11545370 23. Touchon JC, McCoy MW, Vonesh JR, Warkentin KM. Effects of plastic hatching timing carry over through metamorphosis in red-eyed treefrogs. Ecology. 2013; 94(4):850–60. 24. Relyea RA, Stephens PR, Barrow LN, Blaustein AR, Bradley PW, Buck JC, et al. Phylogenetic patterns of trait and trait plasticity evolution: Insights from amphibian embryos. Evolution. 2018; 72(3):663–78. https://doi.org/10.1111/evo.13428 PMID: 29345312 25. Mathis A, Ferrari MCO, Windel N, Messier F, Chivers DP. Learning by embryos and the ghost of preda- tion future. Proc R Soc B-Biol Sci. 2008 Nov 22; 275(1651):2603–7. https://doi.org/10.1098/rspb.2008. 0754 PMID: 18682368 26. Brown GE. Learning about danger: chemical alarm cues and local risk assessment in prey fishes. Fish Fish. 2003 Sep; 4(3):227. 27. Atherton JA, McCormick MI. Active in the sac: damselfish embryos use innate recognition of odours to learn predation risk before hatching. Anim Behav. 2015 May 1; 103:1–6. 28. Horn ME, Ferrari MCO, Chivers DP. Retention of learned predator recognition in embryonic and juvenile rainbow trout. Behav Ecol. 2019 Nov 8; 30(6):1575–82. 29. Nelson AB, Alemadi SD, Wisenden BD. Learned recognition of novel predator odour by convict cichlid embryos. Behav Ecol Sociobiol. 2013 Aug 1; 67(8):1269–73. 30. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 References Lo¨nnstedt OM, McCormick MI. Chemical alarm cues inform prey of predation threat: the importance of ontogeny and concentration in a coral reef fish. Anim Behav. 2011 Aug 1; 82(2):213–8. 31. Mirza RS, Chivers DP. Brook char (Salvelinus fontinalis) can differentiate chemical alarm cues pro- duced by different age/size classes of conspecifics. J Chem Ecol N Y. 2002 Mar; 28(3):555–64. https:// doi.org/10.1023/a:1014544112763 PMID: 11944832 8 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961 August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows 32. Mitchell MD, McCormick MI. Ontogenetic differences in chemical alarm cue production determine anti- predator responses and learned predator recognition. Behav Ecol Sociobiol. 2013 Jul 1; 67(7):1123–9. 32. Mitchell MD, McCormick MI. Ontogenetic differences in chemical alarm cue production determine anti- predator responses and learned predator recognition. Behav Ecol Sociobiol. 2013 Jul 1; 67(7):1123–9. 33. Ferrari MCO, Trowell JJ, Brown GE, Chivers DP. The role of learning in the development of threat-sen- sitive predator avoidance by fathead minnows. Anim Behav. 2005 Oct 1; 70(4):777–84. 34. Mathis A, Smith RJF. Fathead minnows, Pimephales promelas, learn to recognize northern pike, Esox lucius, as predators on the basis of chemical stimuli from minnows in the pike’s diet. Anim Behav. 1993 Oct 1; 46(4):645–56. 35. US EPA. US EPA Report: Prehatching development of the fathead minnow, Pimephales promelas Rafinesque. EPA/600/R-96/079. 1996 [cited 2019 Nov 19]. Available from: https://nepis.epa.gov/Exe/ ZyNET.exe/9100YDUL.TXT 36. Brungs WA. Chronic effects of constant elevated temperature on the fathead minnow (Pimephales pro- melas Rafinesque). Trans Am Fish Soc. 1971; 100(4):659–64. 37. Horn ME, Chivers DP. Preschool for small frys: Threat-sensitive learning of predators by embryonic minnows (Pimephales promelas). Anim Behav. 2021; Forthcoming. 38. Brungs WA. Chronic effects of low dissolved oxygen concentrations on the fathead minnow (Pime- phales promelas). J Fish Res Board Can. 1971 Aug 1; 28(8):1119–23. 39. Sargent RC. Allopaternal care in the fathead minnow, Pimephales promelas: Stepfathers discriminate against their adopted eggs. Behav Ecol Sociobiol. 1989; 25(6):379–85. 40. Werner EE. Amphibian metamorphosis: Growth rate, predation risk, and the optimal size at transforma- tion. Am Nat. 1986 Sep 1; 128(3):319–41. 9 / 9
https://openalex.org/W3004605560
https://bmcmedicine.biomedcentral.com/track/pdf/10.1186/s12916-019-1486-3
English
null
Mapping malaria seasonality in Madagascar using health facility data
BMC medicine
2,020
cc-by
8,275
Mapping malaria seasonality in Madagascar using health facility data Michele Nguyen1*, Rosalind E. Howes1, Tim C.D. Lucas1, Katherine E. Battle1, Ewan Cameron1, Harry S. Gibson1, Jennifer Rozier1, Suzanne Keddie1, Emma Collins1, Rohan Arambepola1, Su Yun Kang1, Chantal Hendriks1, Anita Nandi1, Susan F. Rumisha1, Samir Bhatt2, Sedera A. Mioramalala3, Mauricette Andriamananjara Nambinisoa3, Fanjasoa Rakotomanana4, Peter W. Gething1† and Daniel J. Weiss1† Abstract Background: Many malaria-endemic areas experience seasonal fluctuations in case incidence as Anopheles mosquito and Plasmodium parasite life cycles respond to changing environmental conditions. Identifying location-specific seasonality characteristics is useful for planning interventions. While most existing maps of malaria seasonality use fixed thresholds of rainfall, temperature, and/or vegetation indices to identify suitable transmission months, we construct a statistical modelling framework for characterising the seasonal patterns derived directly from monthly health facility data. Methods: With data from 2669 of the 3247 health facilities in Madagascar, a spatiotemporal regression model was used to estimate seasonal patterns across the island. In the absence of catchment population estimates or the ability to aggregate to the district level, this focused on the monthly proportions of total annual cases by health facility level. The model was informed by dynamic environmental covariates known to directly influence seasonal malaria trends. To identify operationally relevant characteristics such as the transmission start months and associated uncertainty measures, an algorithm was developed and applied to model realisations. A seasonality index was used to incorporate burden information from household prevalence surveys and summarise ‘how seasonal’ locations are relative to their surroundings. Results: Positive associations were detected between monthly case proportions and temporally lagged covariates of rainfall and temperature suitability. Consistent with the existing literature, model estimates indicate that while most parts of Madagascar experience peaks in malaria transmission near March–April, the eastern coast experiences an earlier peak around February. Transmission was estimated to start in southeast districts before southwest districts, suggesting that indoor residual spraying should be completed in the same order. In regions where the data suggested conflicting seasonal signals or two transmission seasons, estimates of seasonal features had larger deviations and therefore less certainty. Conclusions: Monthly health facility data can be used to establish seasonal patterns in malaria burden and augment the information provided by household prevalence surveys. The proposed modelling framework allows for evidence-based and cohesive inferences on location-specific seasonal characteristics. As health surveillance systems continue to improve, it is hoped that more of such data will be available to improve our understanding and planning of intervention strategies. Keywords: Seasonality, Malaria, Geostatistical model, Health facility data, Madagascar *Correspondence: michele.nguyen@bdi.ox.ac.uk †Peter W. Gething and Daniel J. Weiss are joint senior authors. Nguyen et al. BMC Medicine (2020) 18:26 https://doi.org/10.1186/s12916-019-1486-3 Nguyen et al. BMC Medicine (2020) 18:26 https://doi.org/10.1186/s12916-019-1486-3 Background within a subannual window of fixed size. In order to quan- tify the distribution of malaria cases in each district over a year, Mabaso et al. used Markham’s concentration index, a measure previously used to determine rainfall concentra- tions [18]. In their analysis, the concentration maps from the case numbers that were estimated using a Bayesian spatiotemporal regression model displayed clearer spatial patterns compared to those derived from raw case num- bers. Spatiotemporal models smooth out idiosyncratic deviations, thus enabling the main seasonal trend to be discerned more easily. They are also useful for explic- itly relating the seasonality to input covariates as well as accounting for unknown spatiotemporal effects. g Malaria is a disease caused by the Plasmodium parasite and remains a major cause of child mortality in sub- Saharan Africa [1]. As with many vector-borne diseases, malaria transmission exhibits seasonality across endemic areas. That is, malaria burden, which can be measured by metrics including parasite prevalence or the number of clinical cases, follows an annually recurring seasonal pattern that is typically attributed to the relationship of the mosquito vector and parasite life cycles with the environment. The rationale for developing methods capa- ble of enumerating location-specific seasonal characteris- tics is to assist planning for intervention distributions to improve their efficacy, develop early warning systems, and improve the temporal resolution and overall accuracy of malaria burden estimation models [2]. g p p In this paper, we build on previous attempts and map malaria seasonality in Madagascar, a country of marked ecological and epidemiological diversity that is struggling to meet targets for malaria burden reductions and hence where further information for optimising interventions would be valuable [1, 19]. We demonstrate how common descriptors of seasonality can be made comparable across locations to facilitiate modelling and support policy deci- sions, a topic of interest for not just modellers but also the wider public health community. The modelling frame- work, which aims to provide a cohesive and evidence- based analysis, is applied to 2013–2016 health facility case data from Madagascar. Despite the lack of catchment pop- ulation estimates or data from all health facilities, we show that the monthly case data can be used to model spatially heterogenous seasonal patterns of malaria. Background We identify seasonality features such as the peak and length of trans- mission by estimating the proportions of cases in each month using a log-linear spatiotemporal regression model and fits to rescaled von Mises densities. By applying the algorithm to posterior samples of the monthly proportion curves, we also obtain uncertainty measures associated with each derived seasonal characteristic. To reflect both the timing and the amplitude aspects of seasonality, a seasonality index is used to synthesise the monthly case proportion estimates with existing annual case or parasite incidence (API) estimates. Past studies on the seasonality of malaria vary in their degree of sophistication and scope. For example, some give empirical descriptions of the cyclic patterns at specific locations, while others model the time series by relating them to underlying seasonal conditions or mathematical structures such as in seasonal autoregres- sive integrated moving average models and trigonometric models [3–8]. To guide intervention policies, there have also been attempts to derive maps related to seasonality. By using thresholds of, for example, rainfall, temperature, and veg- etation cover, it is possible to estimate the start, the end, and the length of the period suitable for transmission [9– 11]. Maps of malaria seasonality patterns are relevant to the planning of intervention campaigns to maximise their impact. For example, seasonal malaria chemoprevention (SMC) has been shown to be most effective when deliv- ered in areas with highly seasonal transmission. As such, the World Health Organization guidelines recommend targeted SMC in malaria endemic areas where more than 60% of clinical cases occur during a short period of about 4 months [12]. Despite their potential utility, the threshold-based malaria seasonality maps have several limitations. For example, metrics such as total rainfall can be linked to either the creation or the washing away of mosquito breeding sites depending on the local topology and rainfall intensity [13, 14]. Using fixed environmental thresholds does not account for the variation of responses to envi- ronmental forcing or allow for other potential drivers such as seasonal migration of human populations [15, 16]. Likewise, because the distribution of vector species is spa- tially heterogeneous and their preferences for breeding sites vary, a one-size-fits-all approach for characterising malaria seasonality may miss important nuances [17]. Abstract 1Malaria Atlas Project, Oxford Big Data Institute, Nuffield Department of Medicine, University of Oxford, Oxford, UK Full list of author information is available at the end of the article *Correspondence: michele.nguyen@bdi.ox.ac.uk †Peter W. Gething and Daniel J. Weiss are joint senior authors. 1Malaria Atlas Project, Oxford Big Data Institute, Nuffield Department of Medicine, University of Oxford, Oxford, UK Full list of author information is available at the end of the article © The Author(s). 2020 Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0 International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Page 2 of 11 Page 2 of 11 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine Spatiotemporal monthly proportion model Proportions or probabilities are often modelled using multinomial or compositional regressions. However, in this scenario, this would mean computing ratios with respect to a fixed reference month. By using monthly case proportions, it is easier to relate each month’s propor- tion to the values of its covariates explicitly. To estimate monthly case proportions over the study region, we use the following spatiotemporal model which can be viewed as the linear predictor of a multinomial regression written in a log-linear form: By focusing on proportions instead of the case counts, we bypass the need to estimate catchment populations for the health facilities. Deriving incidence measures using catchment population data is commonly used to adjust for magnitude differences in count data, but estimating these catchment population sizes could have introduced bias to the analysis as only an incomplete set of health facil- ity geolocation data was available to inform this analysis. Additional features of this modelling approach include the following: (a) utilising a standardised definition of a trans- mission period as the months with the proportion of cases exceeding 1/12 of the annual total, and (b) restricting the analysis to dynamic environmental covariates like rainfall and temperature that are likely to impact seasonal malaria transmission patterns. log(pi,j) = Xijβ + φij + ϵij. (1) (1) Here, pi,j is the average proportion of cases at location j in month i. To avoid applying logarithms on zeros, we added an offset of 0.00001 to pi,j and rescaled the raw monthly proportions at each location to sum to one before mod- elling. Similarly, rescaling was conducted after modelling with a location-specific normalising constant. This allows locations to be more or less sensitive to the variation in the underlying covariates. A suite of environmental variables were assembled as 5 km spatial grids. These were temporally aligned with the health facility data and included the Climate Hazards Group Infrared Precipitation and Station data (CHIRPS), enhanced vegetation index (EVI), daytime land surface temperature (LST_day), diurnal difference in land surface temperature (LST_delta), night-time land sur- face temperature (LST_night), tasselled cap brightness y g In Eq. (1), Xij ∈Rn×m is a covariate design matrix including an intercept, β ∈Rm is the corresponding parameter vector, and ϵ ∼N(0, σ 2 e ) denotes the inde- pendent, identically distributed noise. The spatiotemporal Gaussian field φ is constructed such that: Fig. Methods Study data Malaria seasonality in Madagascar was modelled using monthly case reports submitted by health facilities to the centralised Ministry of Health between 2013 and 2016. This dataset was provided by the National Malaria Control Programme (NMCP) in Madagascar and gave the number of patients who tested positive for malaria by rapid diagnostic tests (RDTs), irrespective of species. After cleaning the data to ensure consistent nomencla- ture, 2801 health facilities were successfully geo-located and verified using a database of 3274 geo-located health facilities from the Institut Pasteur de Madagascar (IPM). Another class of seasonality maps consists of concen- tration indices that aim to quantify the proportion of an annual amount (of any variable of interest) which falls Page 3 of 11 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine (TCB), tasselled cap wetness (TCW), and the tempera- ture suitability indices for Plasmodium falciparum and Plasmodium vivax (TSI_Pf and TSI_Pv). Details on the sources of these data are available elsewhere [19, 20]. To relate the observed seasonal patterns to the potential driv- ing factors, monthly medians of these environmental data were derived and standardised. One to 3 month lags were included for each covariate to allow for delayed and accu- mulated responses to these environmental variables [19]. The IPM database itself was further validated against a database of 120 global positioning system (GPS) geo- located health facilities from the President’s Malaria Ini- tiative (PMI). To account for year-on-year trends and help avoid unwanted bias in the monthly health facility data from, for example, stock-outs of RDTs, median monthly case counts were derived for each site. With a focus on location-specific seasonal trends, monthly proportions were obtained by dividing the monthly case medians by their annual sum. This is illustrated for an example Mala- gasy health centre in Fig. 1. After excluding sites with incomplete intra-annual patterns, data from 2669 health facilities were used in the later analysis. Seasonality index and monthly case incidence (2) Seasonality statistics were derived from each posterior sample of the location-specific monthly proportions. To quantify ‘how seasonal’ a location is, a seasonality index was defined [25]. For location j, this index is given by the product of an entropy measure and the normalised amplitude: |a| < 1 and ξi,j correspond to zero-mean Gaussian inno- vations which are temporally independent but spatially coloured with a Matérn covariance: Sj = Dj × Rj Rmax , (4) where Dj = 12  i=1 pi,j log2 pi,j q  . (5) Cov(h) = σ 2 f (ν)2ν−1 (κh)νKν(κh), (3) (4) (3) (5) where h is the distance between two locations and κ > 0 is a scaling parameter. In practice, it is difficult to identify the order of the modified Bessel function of second kind, denoted by Kν in Eq. (3) [21]. Thus, this was set to 1 as per the convention in the R-INLA package, which was used for model fitting and selection [22–24]. Since pi,j is the case proportion for month i and q = 1/12, Dj corresponds to the Kullback–Leibler divergence between the estimated intra-annual distribution and a uniform distribution. Thus, it quantifies how different the monthly proportions are from a uniform distribution over the year. In the context of malaria, Rj can be represented by the API at location j and Rmax is the maximum API over the region. Before fitting the model, the log proportions were exam- ined and outliers were excluded to model prototypical seasonal behaviour. Based on the histogram of log(pi,j) values in Additional file 1: Figure S1, log(pi,j) ≤−11 were deemed as outliers. Since the proportions were previously rescaled to sum up to one at each location, this does not mean that all data zeros were excluded from the analysis. Instead, zeros were only removed if much higher case proportions were observed in other months. One benefit of using Sj is that it separates the timing and amplitude aspects of seasonality. Since high-resolution malaria burden estimates already exist [26–28], the model did not need to estimate the number of cases and could focus exclusively on estimating the monthly proportions at each location. Estimates of the monthly parasite inci- dence (MPI) for each location could also be obtained by multiplying the estimated monthly proportions with the mean Pf API estimates for 2016. Seasonality index and monthly case incidence This synthesises the esti- mated seasonal pattern obtained from the health facility data with the magnitude-level information provided by household prevalence surveys since these were used in the API model. A randomly selected 30% of sites were excluded from the model fitting to validate our results. Working with data from the remaining 70% of the locations, the set of covariates was reduced to facilitate model selection and account for multicollinearity by iteratively comput- ing the variance inflation factors (VIFs) and remov- ing the covariates with the highest VIF value until all the remaining covariates have VIF values less than 10. Since these covariates have low correlations with each other, their estimated regression coefficients are more robust. Spatiotemporal monthly proportion model 1 a Number of positive rapid diagnostic tests (RDTs) reported from an example Malagasy health centre recorded monthly between 2013 and 2016. b The corresponding monthly proportions computed by dividing the monthly medians by the annual total Fig. 1 a Number of positive rapid diagnostic tests (RDTs) reported from an example Malagasy health centre recorded monthly between 2013 and 2016. b The corresponding monthly proportions computed by dividing the monthly medians by the annual total Nguyen et al. BMC Medicine (2020) 18:26 Page 4 of 11 Page 4 of 11 Nguyen et al. BMC Medicine φi,j =  ξ1j for i = 1, aφi−1,j + ξi,j for i = 2, . . . , 12, (2) Seasonality index and monthly case incidence Deriving seasonality features Locations were considered as potentially seasonal if their entropy Dj > 0. When this criterion was satisfied, a rescaled von Mises (RvM) density was fitted via least squares to the estimated monthly proportions. This is illustrated for an example Malagasy health facility in Addi- tional file 1: Figure S3. To speed up the covariate selection via backwards regression, the 70% training set was randomly split into two smaller sets of equal size and spatial coverage to search for the best model in terms of deviance information criterion (DIC). A map of the test and training locations is shown in Additional file 1: Figure S2. The two result- ing candidates from the separate backwards regressions on the two smaller training sets were then refitted to the whole training set to select the final model with the lower DIC. After checking for reasonable results on the test data, the model was refitted to the entire dataset before predic- tions were made over the gridded surface. An analysis of the robustness of the methodology to the spatial and tem- poral extents as well as the quality of the data is provided in the Additional file 1. By treating the month in a year as a random variable on a circle, i.e. defining θ = 2πi 12 where i = 1, . . . , 12, the two-component RvM density function can be written as follows: f (θ; s, ω, μ1, κ1, μ2, κ2) = s  ωf1(θ; μ1, κ1) +(1 −ω)f2(θ; μ2, κ2)  (6) (6) where fk(θ; μk, κk) = 1 2πI0(κk) exp{κk cos(θ −μk)} (7) Nguyen et al. BMC Medicine (2020) 18:26 Page 5 of 11 Nguyen et al. BMC Medicine Algorithm 1 Algorithm for deriving seasonality statistics from a monthly proportion realisation curve of location j. is a one-component vM density for k = 1, 2 with mean and concentration parameters μk and κk. Here, I0 is the modified Bessel function and ω is a probability weight. The scale parameter s > 0 modulates between the con- tinuous density function and monthly proportions over discrete months. Require: pi,j ≥0, 12  i=1 pi,j = 1 and error threshold ˜ϵ > 0. Record Dj = 12 i=1 pi,j log2 12pi,j if Dj > 0 then Require: pi,j ≥0, 12  i=1 pi,j = 1 and error threshold ˜ϵ > 0. Deriving seasonality features A high temperature suitability value indicates that many mosquitoes will survive long enough to become infectious. Since this index was derived from a biological model, it accounts for a non-linear relationship with the monthly proportions. Plasmodium vivax temperature suitability index at a 2- month lag. The latter is a modelled parameter that esti- mates the combined effect of temperature on Anopheles survival as well as the development of sporozoites within mosquitoes. A high temperature suitability value indicates that many mosquitoes will survive long enough to become infectious. Since this index was derived from a biological model, it accounts for a non-linear relationship with the monthly proportions. To quantify the uncertainty associated with the derived statistics, the results from 100 posterior samples of the monthly proportions were summarised. A location was deemed as unimodal or bimodal if more than half of the samples supported that interpretation and the degree of certainty was the proportion of such samples. Based on this majority decision and the corresponding sam- ples, the uncertainty was also assessed in the estimated seasonal characteristics. Circular medians and deviations were used for the start, end, and peak of each transmis- sion season [30]. To interpret the deviations in terms of months, the circular deviations was multiplied by 12 2π . Seasonality categories and monthly parasite incidence estimates ‘How seasonal’ malaria is in a location is related to both the magnitude and the intra-annual distribution of cases. This is quantified using the seasonality index. Figure 2 shows the map of seasonal types derived from the median seasonality index, as computed using 100 realisa- tions from the fitted model for Madagascar. The different degrees of seasonality (‘Non-seasonal’, ‘Low’, ‘Medium’, and ‘High’) were defined for the unimodal and bimodal locations separately using the quartiles of their seasonality indices. Deriving seasonality features j  if Dj > 0 then Instead of identifying characteristics based on the monthly proportion estimates directly, seasonal features were based on fitted vM curves, which further smoothed out the estimates. The benefit of using a circular dis- tribution was the continuity of the curve between the months of December and January. Using vM densities, in particular, is convenient for identifying the peaks of the distribution since these correspond to the mean parame- ters [29]. By comparing the values of the fitted curve, the major and the minor peaks of a bimodal distribution can be identified. Although an arbitrary number of von Mises components can be used, one or two were used because areas with seasonal malaria transmission typically have one or two main seasons [2]. j Fit a rescaled, one-component von Mises density to {pi,j}i=1,...,12. j Fit a rescaled, one-component von Mises density to { } {pi,j}i=1,...,12. if the squared error of the fit > ˜ϵ then {p ,j} , , if the squared error of the fit > ˜ϵ then p ,j , , if the squared error of the fit > ˜ϵ then Fit a rescaled, two-component von Mises den- sity to {pi,j}i=1,...,12. end if Fit a rescaled, two-component von Mises den- sity to {pi,j}i=1,...,12. y p ,j end if Record the major peak months and the minor peak months where applicable. Record the start, end and length of each transmis- sion season based on when the fitted values exceed 1 12. Label the location as ‘bimodal’ if it has two seasons and ‘unimodal’ otherwise. To reduce computational burden, a bimodal distribution was only considered if the error from the fit of a unimodal distribution exceeded a set threshold ˜ϵ > 0. For Madagas- car, ˜ϵ was empirically chosen to be 0.0015. Based on the fitted vM curve, the transmission periods were identified by marking the months where the curve was at or above 1 12. In this way, the start, end, and length of each season could also be estimated. Algorithm 1 summarises the pro- cedure used to obtain the seasonality statistics from the monthly proportion realisation curves. Plasmodium vivax temperature suitability index at a 2- month lag. The latter is a modelled parameter that esti- mates the combined effect of temperature on Anopheles survival as well as the development of sporozoites within mosquitoes. Dominant environmental relationship The regression component of the log-linear spatiotem- poral model allows us to infer the dominant relationship between the monthly case proportions and the envi- ronmental covariates while the spatiotemporal random field accounts for deviations from this. As expected, the selected model (Table 1) suggests positive relations between the monthly case proportions and rainfall for the concurrent month as well as at 2- and 3-month lags [20, 31, 32]. There is also a positive relation with the Examples of the estimated MPI curves for each sea- sonal category are shown alongside the map. In general, we observe that higher seasonality indices are associ- ated with higher average levels of MPI as well as greater amplitudes of the fluctuations. As shown in Additional file 1: Figure S4, the bimodal locations (i.e. those with two seasonal peaks in MPI) tend to have lower seasonal index values than the unimodal locations because their distributions are more spread out over the year. Page 6 of 11 Nguyen et al. BMC Medicine (2020) 18:26 Page 6 of 11 Nguyen et al. BMC Medicine Table 1 Parameter posterior summaries of the refitted model for Madagascar Table 1 Parameter posterior summaries of the refitted model for Madagascar Description Term Posterior median 95% credible interval Intercept Intercept −2.655 (−2.740, −2.570) Precipitation CHIRPS_r 0.060 (0.029, 0.090) CHIRPS_r_lag1 0.019 (−0.012, 0.050) CHIRPS_r_lag2 0.051 (0.021, 0.082) CHIRPS_r_lag3 0.053 (0.022, 0.084) Temperature suitability TSI_Pv_r 0.013 (−0.022, 0.047) TSI_Pv_r_lag2 0.074 (0.039, 0.109) Vegetation cover EVI_r_lag3 0.006 (−0.021, 0.032) Tasselled cap brightness TCB_r −0.019 (−0.050, 0.012) TCB_r_lag3 0.011 (−0.020, 0.043) Observation variance σ 2 e 0.326 (0.318, 0.333) Field variance σ 2 f 0.245 (0.221, 0.268) Matérn scaling parameter κ 3.163 (2.834, 3.522) Autoregressive parameter a 0.756 (0.718, 0.777) The posterior medians of the statistically significant parameters under a 5% significance level are italicized. The Matérn smoothness parameter ν was fixed to 1 Fig. 2 Map of seasonality types based on quartiles of the estimated seasonality index as well as representative examples of the estimated monthly parasite incidence for the categories. Here, ‘1’ and ‘2’ refer to the unimodal and bimodal intra-annual distributions, respectively, while ‘Low’, ‘Medium’, and ‘High’ refer to the different degrees of seasonality Fig. 2 Map of seasonality types based on quartiles of the estimated seasonality index as well as representative examples of the estimated monthly parasite incidence for the categories. Seasonal features and associated uncertainties trends on the east coast [33]. The lower data avail- ability (see Additional file 1: Figure S2) as well as the remoteness of western and northern coasts could also contribute to the uncertainty of the estimates in these regions [34]: lower reporting rates and differing care- seeking behaviour, which could arise due to the lower accessibility of the health facilities, can cause conflicting seasonal signals in the data. Next, we focus on the timing aspect of seasonality and derive seasonality characteristics such as the start and peak months of transmission. Since we work with the estimated monthly case proportions which rely on the environmental covariates and spatiotemporal correlation, we also obtain results for areas deemed ‘non-seasonal’ via the seasonal index in Fig. 2. Following the definition of the seasonality index in Eq. (4), such non-seasonality could arise due to a relatively uniform intra-annual distri- bution of cases or extremely low malaria burden. In the latter scenario, the derived seasonality features describe a theoretical transmission season which could materialise if transmission re-establishes itself. The median peak months and associated deviations of the first transmission season are shown in Fig. 4. The results are consistent with the existing literature [34]. Large parts of the island experience peaks in March–April while the east coast sees an earlier peak around Febru- ary. The heterogeneity in Fig. 4a in the western region of Melaky (near 45◦E, 17◦S) is associated with high deviations. This may be due to its remoteness and low population density [34]. In Additional file 1: Figure S5, we show the time series of the number of people tested posi- tive for malaria via RDTs between 2013 and 2016 at three example health facilities in Melaky. The relatively low and highly variable case numbers lead to higher stochastic- ity in the observed and estimated seasonality patterns. Reporting difficulties, as illustrated by the multiple gaps in the time series, add further uncertainty to the derived monthly proportion curves. Additional seasonality plots including the maps of transmission end months and trans- mission season duration can be found in the Additional file 1. From Fig. 2, we see that most of the island was deemed to have unimodal seasonality. However, as shown in Fig. 3, there is generally less certainty along the western and northern coasts. This is consistent with the analysis of Liebmann et al. Seasonal features and associated uncertainties which described increased likelihood of bimodal rainfall patterns on the west coast and unimodal Fi 3 P b bili f l i h i l k i l i Fig. 3 Probability of locations having one seasonal peak in malaria cases. This is calculated by the proportion of posterior samples which indicate that the locations have unimodal intra-annual case distributions rather than bimodal distributions Dominant environmental relationship Here, ‘1’ and ‘2’ refer to the unimodal and bimodal intra-annual distributions, respectively, while ‘Low’, ‘Medium’, and ‘High’ refer to the different degrees of seasonality Page 7 of 11 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine (2020) 18:26 (2020) 18:26 Nguyen et al. BMC Medicine Discussion This paper introduces a statistical modelling framework for mapping malaria seasonality in Madagascar using health facility data. The approach relies on a log-linear spatiotemporal regression model to smooth and estimate location-specific monthly proportions of cases. As coun- tries increasingly adopt digital surveillance platforms such as the District Health Information Software 2 (DHIS2) for the digital recording of cases at the health facility level, it is hoped that more of such data will be available to inform seasonal and localised intervention strategies. Due to the nature of the health facility data, only rela- tive levels of burden can be derived to inform location- specific seasonal trends. The modelling framework lever- ages existing API maps to bring together the amplitude as well as timing aspects of seasonality. For a cohesive analysis, characteristics such as the start, peak, and length of each transmission season as well as MPI estimates are obtained via the same estimated curve of monthly pro- portions. The latter is also used to compute a seasonality index and categorise seasonality types. For each seasonal feature, measures of uncertainty are also presented to facilitate statistically sound decision-making. Fig. 3 Probability of locations having one seasonal peak in malaria cases. This is calculated by the proportion of posterior samples which indicate that the locations have unimodal intra-annual case distributions rather than bimodal distributions Fig. 3 Probability of locations having one seasonal peak in malaria cases. This is calculated by the proportion of posterior samples which indicate that the locations have unimodal intra-annual case distributions rather than bimodal distributions In Madagascar, the 2018–2022 National Strategic Plan includes indoor residual spraying (IRS) as a tool to help Nguyen et al. BMC Medicine (2020) 18:26 (2020) 18:26 Page 8 of 11 Nguyen et al. BMC Medicine Fig. 4 a Median peak months of the first transmission season in Madagascar. b The associated deviations f f Fig. 4 a Median peak months of the first transmission season in Madagascar. b The associated deviations of malaria outbreaks [34, 38]. Likewise, periodic events related to El Niño-Southern Oscillation and/or global cli- mate change also impact malaria seasonal patterns [31]. Changes in vector species composition and behaviour driven by large-scale coverage of vector control interven- tions (such as the 2013 and 2015 national campaigns to distribute insecticide-treated nets) could potentially also result in shifts to the timings of the transmission season [39]. Discussion For example, a novel vector, Anopheles coustani, was recently described in the Malagasy highlands [40], and evidence of strong, fine-spatial scale differences in vector behaviour also allows for adaptive plasticity in response to external pressures which could translate to changes in parasite transmission over time [41]. Given this reality, future iterations of this work could use a moving window approach to continually update the model with new data. reduce transmission in the highest disease burden dis- tricts and as an emergency response tool to epidemic outbreaks [35, 36]. Given that sprayed insecticide gener- ally remains efficacious for less than 6 months (depending on the insecticide used and types of surfaces sprayed)[37], local seasonality patterns are important to guide optimal timing of IRS campaigns. Spraying must be timed for com- pletion ahead of the start of transmission, but not so early that the insecticide bio-efficacy will wear off before the end of the season. Through this modelling framework, we can estimate the median start months and associated deviations of the first transmission season. The results, as illustrated in Fig. 5, suggest that IRS should be completed in southeast districts ahead of the southwest. This is in line with PMI’s 2017–2018 strategy. Despite the many advantages of this approach, there are some limitations. An important assumption was made when the empirical monthly proportions were computed by averaging case counts over a number of years. The notion that there should be a static seasonal trend over multiple years is a common and practical one; however, while climatic patterns are broadly predictable, there is significant inter-annual variability in factors such as the beginning of the rainy season. The impact of the annual cyclone season in Madagascar is particularly significant in this respect, triggering both unusually high rainfall (and subsequently increased mosquito vector abundance) and infrastructure damage which can severely disrupt malaria control intervention efforts, resulting in unusual patterns Another noteworthy limitation of the proposed methodology relates to relying on sparse, spatially dis- crete health facility reports to establish seasonal patterns across space. Although the issue of under-reporting due to RDT stock-outs was mitigated somewhat by averaging case counts over several years, the issue of zero recorded cases in a facility still poses a potential problem as these could be due to the low parasite prevalence (whether historical or only recent) or the low popularity of the facility itself. Discussion Another consideration is whether a zero is a true representation of cases in a facility rather than a placeholder for unreported data. While we have tried to ensure the accuracy of the response data by, for example, Nguyen et al. BMC Medicine (2020) 18:26 Page 9 of 11 (2020) 18:26 Nguyen et al. BMC Medicine Fig. 5 a Median start months of the first transmission season in Madagascar. b The associated deviations Fig. 5 a Median start months of the first transmission season in Madagascar. b The associated deviations tend to peak in April. Such an interpretation is analogous to the theoretical peak transmission season in a country that has eliminated malaria, yet continues to experience seasonally high vector densities. omitting health facilities with insufficient data to establish a full year-long seasonal trend, it is possible that flawed points were included in the model. This possibility is illustrated in Fig. 6, which shows the empirical and fitted monthly proportions for three health facilities. Health Centre B (Fig. 6b) illustrates a scenario where there were no cases and the model estimated a non-seasonal trend. In contrast, Health Centre C (Fig. 6c) had no cases but an estimated seasonal trend. The clearest interpretation of a pattern in the absence of data is that while there were no cases reported, the environmental conditions in that area suggest that if there were to be any cases, they would The presented model establishes the dominant rela- tionship between environmental covariates and monthly proportions in the study area. This is driven by data in obviously seasonal locations such as Health Centre A in Fig. 6a. The spatiotemporal field accounts for other unknown factors and smooths out the estimated monthly proportions between locations. In this way, information is borrowed from the seasonal locations identified within Fig. 6 Examples of the model fit and rescaled von Mises density fit for three health facilities. The black line denotes the empirical monthly proportions of cases, the black dotted lines represent the median proportions and 95% credible intervals, and the red line the fitted rescaled von Mises density. Note that no cases were reported for Health Centres B and C, leading to a uniform empirical intra-annual distribution. a Health Centre A. b Health Centre B. c Health Centre C Fig. 6 Examples of the model fit and rescaled von Mises density fit for three health facilities. Availability of data and materials Sample, anonymised data, and sample code are available at http://bitbucket. org/mntd/malaria-seasonality. The raw data that support the findings of this study are available from the Programme National de Lutte Contre le Paludisme de Madagascar and the Institut Pasteur de Madagascar (IPM). Health facility locations were updated and prepared by the SaGEO (Santé et GEOmatique) group at IPM. The source was made available to IPM by the Service d’Information Sanitaire(SIS)/Ministry of Health. Supplementary information pp y Supplementary information accompanies this paper at https://doi.org/10.1186/s12916-019-1486-3. Supplementary information accompanies this paper at https://doi.org/10.1186/s12916-019-1486-3. Supplementary information accompanies this paper at https://doi.org/10.1186/s12916-019-1486-3. Additional file 1: Supplementary information including additional illustrations of the methodology, time series and empirical monthly proportion curves for three example health centres in Melaky as well as maps of other estimated seasonal characteristics such as the lengths of the transmission seasons. This document also contains an additional analysis of the methodology’s robustness towards changes in data quality as well as temporal and spatial extents. Funding We would like to thank the Bill & Melinda Gates Foundation for funding this research (OPP1132415). Abbreviations API: Annual parasite incidence; CHIRPS: Climate Hazards Group Infrared Precipitation and Station; DHIS2: District Health Information Software 2; DIC: Deviance information criterion; EVI: Enhanced vegetation index; GPS: Global positioning system; IPM: Institut Pasteur de Madagascar; IRS: Indoor residual spraying; LST: Land surface temperature; MPI: Monthly parasite incidence; NMCP: National Malaria Control Programme; Pf: Plasmodium falciparum; PMI: President’s Malaria Initiative; Pv: Plasmodium vivax; RDT: Rapid diagnostic test; RvM: Rescaled von Mises; SMC: Seasonal malaria chemoprevention; TCB: Tasselled cap brightness; TCW: Tasselled cap wetness; TSI: Temperature suitability index; VIF: Variance inflation factor The seasonality we model is limited by the nature of our data and the available seasonal signal as well as the rela- tions we can establish. Since we work with case data, if treatment-seeking behaviour itself is seasonal and related to environmental factors such as rainfall, the seasonality we observe and hence model is merely the seasonality of cases at health facilities which may not be reflective of the seasonal trends for cases at the population level. Authors’ contributions MN and DJW conceived of the presented idea. MN designed the analysis, performed the computations, and wrote the paper. DJW and REH advised on and helped shape the research. HSG, JR, SK, EC and FR prepared the datasets. All authors provided critical feedback and approved the final manuscript. Acknowledgements h h ld l k The authors would like to thank Catherine Dentinger from the President’s Malaria Initiative (PMI) in Madagascar for reviewing the manuscript and to the wider PMI team for sharing their database of health facility GPS locations. As previously mentioned, different settings can give rise to different responses to environmental forcing. For example, while one frequently links increased mosquito breeding habitats to the period after the rainy season, in the Brazilian Amazon, this is instead linked to the dry sea- son when small, isolated water bodies are created with the receding of rivers [13, 14]. While the spatiotemporal field in our model helps adjust for differences from the dom- inant environmental relation, more research is required on these different settings and how to integrate them into our model structure. Local knowledge may also be useful for adjusting the models to, for example, subset the study regions based on differing responses. Consent for publication Not applicable. Consent for publication Not applicable. Discussion The black line denotes the empirical monthly proportions of cases, the black dotted lines represent the median proportions and 95% credible intervals, and the red line the fitted rescaled von Mises density. Note that no cases were reported for Health Centres B and C, leading to a uniform empirical intra-annual distribution. a Health Centre A. b Health Centre B. c Health Centre C Fig. 6 Examples of the model fit and rescaled von Mises density fit for three health facilities. The black line denotes the empirical monthly proportions of cases, the black dotted lines represent the median proportions and 95% credible intervals, and the red line the fitted rescaled von Mises density. Note that no cases were reported for Health Centres B and C, leading to a uniform empirical intra-annual distribution. a Health Centre A. b Health Centre B. c Health Centre C Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine (2020) 18:26 Page 10 of 11 the data and applied to areas with similar environmental profiles. improve our understanding and planning of intervention strategies. improve our understanding and planning of intervention strategies. In addition to the level of malaria burden, spatial scale affects the amount of stochasticity in seasonality analyses. Although we bypassed the issue of catchment populations by modelling monthly proportions instead of case num- bers, the number of cases seen at a health facility will be more variable if it serves less people. This was seen for the Melaky region in the Madagascar case study. If we had data for all health facilities and aggregated the cases to the administrative (district) level, it is likely that a stronger seasonal signal would be observed. The trade-off is that the relation between administrative-level seasonality and area-representative environmental covariates (e.g. average rainfall) may be less strong. Received: 29 August 2019 Accepted: 20 December 2019 Ethics approval and consent to participate Not applicable. Ethics approval and consent to participate Not applicable. Competing interests Competing interests The authors declare that they have no competing interests. p g The authors declare that they have no competing interests. Conclusion Malaria seasonality maps are useful for targeting inter- ventions such as seasonal malaria chemoprevention and indoor residual spraying. As illustrated for Madagascar, subannual health facility data can be used to estab- lish seasonal patterns in malaria burden and augment the information provided by household prevalence sur- veys. The proposed modelling framework represents a robust approach towards obtaining evidence-based seasonality maps and estimates. With the ability to infer the dominant environmental relation in the study region as well as to provide cohesive results and uncer- tainty measures for the estimated seasonal features, this research presents an advancement from the existing threshold and concentration-based mapping procedures. As more health facility case data becomes available, it is hoped that more of such data will be available to References 27. Battle KE, et al. Mapping the global endemicity and clinical burden of Plasmodium vivax, 2000-17: a spatial and temporal modelling study. Lancet. 2019;394(10195):332–43. 2. Stuckey EM, Smith T, Chitnis N. Seasonally dependent relationships between indicators of malaria transmission and disease provided by mathematical model simulations. PLoS Comput Biol. 2014;10(9):e100381 2. Stuckey EM, Smith T, Chitnis N. Seasonally dependent relationships between indicators of malaria transmission and disease provided by th ti l d l i l ti PL S C t Bi l 2014 10(9) 100381 between indicators of malaria transmission and disease provided by 28. The Malaria Atlas Project. Explorer. https://map.ox.ac.uk/explorer/#/. Accessed 13 Aug 2019. 3. Hamad AA, et al. A marked seasonality of malaria transmission in two rural sites in eastern Sudan. Acta Trop. 2002;83(1):71–82. 29. Pewsey A, Neuhäuser M, Ruxton GD. Circular statistics in R. Oxford: Oxford University Press; 2013. 4. Wardrop NA, Barnett AG, Atkinson JA, Clements ACA. Plasmodium vivax malaria incidence over time and its association with temperature and rainfall in four counties of Yunnan Province, China. Malar J. 2013;12(1):452. 30. Fisher NI. Statistical analysis of circular data. Cambridge: Cambridge University Press; 1995. 31. Reiner RC, Geary M, Atkinson PM, Smith DL, Gething PW. Seasonality of Plasmodium falciparum transmission: a systematic review. Malar J. 2015;14(1):343. 5. Dery DB, et al. Patterns and seasonality of malaria transmission in the forest-savannah transitional zones of Ghana. Malar J. 2010;9(1):314. Dery DB, et al. Patterns and seasonality of malaria transmission in t 5. Dery DB, et al. Patterns and seasonality of malaria transmission in the forest-savannah transitional zones of Ghana. Malar J. 2010;9(1):314. 32. Nanvyat N, Mulambalah CS, Barshep Y, Ajiji JA, Dakul DA, Tsingalia HM. Malaria transmission trends and its lagged association with climatic factors in the highlands of Plateau State, Nigeria. Trop Parasitol. 2018;8(1):18. 6. Silal SP, Barnes KI, Kok G, Mabuza A, Little F. Exploring the seasonality of reported treated malaria cases in Mpumalanga, South Africa. PloS ONE. 2013;8(10):e76640. 7. Rumisha SF, Smith T, Abdulla S, Masanja H, Vounatsou P. Modelling heterogeneity in malaria transmission using large sparse spatio-temporal entomological data. Glob Health Action. 2014;7(1):22682. 33. Liebmann B, Bladé I, Kiladis GN, Carvalho LMV, Senay GB, Allured D, et al. Seasonality of African precipitation from 1996 to 2009. J Climate. 2012;25(12):4304–22. 8. Wangdi K, Singhasivanon P, Silawan T, Lawpoolsri S, White NJ, Kaewkungwal J. References Anopheles mosquito surveillance in Madagascar reveals multiple blood feeding behavior and Plasmodium infection. PLoS Negl Trop Dis. 2019;13(7):e0007176. 16. Ihantamalala FA, et al. Estimating sources and sinks of malaria parasites in Madagascar. Nat Commun. 2018;9(1):3897. Author details 1Malaria Atlas Project, Oxford Big Data Institute, Nuffield Department of Medicine, University of Oxford, Oxford, UK. 2Department of Infectious Disease Epidemiology, Imperial College London, London, UK. 3National Malaria Control Programme, Antananarivo, Madagascar. 4Unité d’Epidémiologie, Institut Pasteur de Madagascar, Antananarivo, Madagascar. Received: 29 August 2019 Accepted: 20 December 2019 Page 11 of 11 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine Publisher’s Note 17. Sinka ME, et al. Modelling the relative abundance of the primary African vectors of malaria before and after the implementation of indoor, insecticide-based vector control. Malar J. 2016;15(1):142. Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations. 18. Mabaso MLH, Craig M, Vounatsou P, Smith T. Towards empirical description of malaria seasonality in southern Africa: the example of Zimbabwe. Trop Med Int Health. 2005;10(9):909–18. 19. Kang SY, et al. Spatio-temporal mapping of Madagascar’s Malaria Indicator Survey results to assess Plasmodium falciparum endemicity trends between 2011 and 2016. BMC Med. 71;16(1):. 20. Weiss DJ, et al. Re-examining environmental correlates of Plasmodium falciparum malaria endemicity: a data-intensive variable selection approach. Malar J. 2015;14(1):68. 21. Krainski ET, Gómez-Rubio V, Bakka H, Lenzi A, Castro-Camilo D, Simpson D, et al. Advanced spatial modeling with stochastic partial differential equations using R and INLA. Boca Raton: Chapman and Hall/CRC; 2018. 22. Rue H, Martino S, Chopin N. Approximate Bayesian inference for latent Gaussian models by using integrated nested Laplace approximations. J R Stat Soc Ser B (Stat Methodol). 2009;71(2):319–92. 23. Lindgren F, Rue H, Lindström J. An explicit link between Gaussian fields and Gaussian Markov random fields: the stochastic partial differential equation approach. J R Stat Soc Ser B (Stat Methodol). 2011;73(4):423–98. 24. Martins TG, Simpson D, Lindgren F, Rue H. Bayesian computing with INLA: new features. Comput Stat Data Anal. 2013;67:68–83. 23. Lindgren F, Rue H, Lindström J. An explicit link between Gaussian fields and Gaussian Markov random fields: the stochastic partial differential equation approach. J R Stat Soc Ser B (Stat Methodol). 2011;73(4):423–98. 24 M i TG Si D Li d F R H B i i i h 23. Lindgren F, Rue H, Lindström J. An explicit link between Gaussian fields and Gaussian Markov random fields: the stochastic partial differential equation approach. J R Stat Soc Ser B (Stat Methodol). 2011;73(4):423–98. 24. Martins TG, Simpson D, Lindgren F, Rue H. Bayesian computing with 24. Martins TG, Simpson D, Lindgren F, Rue H. Bayesian computing with INLA: new features. Comput Stat Data Anal. 2013;67:68–83. 25. Feng X, Porporato A, Rodriguez-Iturbe I. Changes in rainfall seasonality in the tropics. Nat Clim Change. 2013;3(9):811–5. 25. Feng X, Porporato A, Rodriguez-Iturbe I. Changes in rainfall seasonality in the tropics. Nat Clim Change. 2013;3(9):811–5. 26. References Development of temporal modelling for forecasting and prediction of malaria infections using time-series and ARIMAX analyses: a case study in endemic districts of Bhutan. Malar J. 2010;9(1):251. 34. Howes RE, et al. Contemporary epidemiological overview of malaria in Madagascar: operational utility of reported routine case data for malaria control planning. Malar J. 2016;15(1):502. 35. National Malaria Control Programme of Madagascar. National strategic plan for malaria control in Madagascar 2018–2022. Madagascar: Progressive malaria elimination from Madagascar; 2017. 9. Cairns M, et al. Estimating the potential public health impact of seasonal malaria chemoprevention in African children; 2012. p 881. 10. Gemperli A, et al. Mapping malaria transmission in West and Central Africa. Trop Med Int Health. 2006;11(7):1032–46. 36. President’s Malaria Initiative. Abbreviated Malaria Operational Plan FY 2019. Madagascar; 2019. https://www.pmi.gov/docs/default-source/ default-document-library/malaria-operational-plans/fy19/fy-2019- madagascar-abbreviated-malaria-operational-plan.pdf?sfvrsn=9. 11. Tanser FC, Sharp B, Le Sueur D. Potential effect of climate change on malaria transmission in Africa. Lancet. 2003;362(9398):1792–8. 12. World Health Organisation. Seasonal malaria chemoprevention with sulfadoxine-pyrimethamine plus amodiaquine in children: a field guide. Geneva; 2013. 37. Dengela D, et al. Multi-country assessment of residual bio-efficacy of insecticides used for indoor residual spraying in malaria control on different surface types: results from program monitoring in 17 PMI/USAID-supported IRS countries. Parasites Vectors. 2018;11(1):71. ld k d d h 13. Barros FSM, Arruda ME, Gurgel HC, Honorio NA. Spatial clustering and longitudinal variation of Anopheles darlingi (Diptera: Culicidae) larvae in a river of the Amazon: the importance of the forest fringe and of obstructions to flow in frontier malaria. Bull Entomol Res. 2011;101(6): 643–58. 38. World Bank. Madagascar Economic Update. Washington D.C.; 2017. https://doi.org/10.1596/27779. 39. Trape JF, et al. The rise and fall of malaria in a west African rural community, Dielmo, Senegal, from 1990 to 2012: a 22 year longitudinal study. Lancet Infect Dis. 2014;14(6):476–88. 14. Valle D, Lima JMT. Large-scale drivers of malaria and priority areas for prevention and control in the Brazilian Amazon region using a novel multi-pathogen geospatial model. Malar J. 2014;13(1):443. 40. Nepomichene TNJJ, Tata E, Boyer S. Malaria case in Madagascar, probable implication of a new vector, Anopheles coustani. Malar J. 2015;14(1):475. 15. Martinez ME. The calendar of epidemics: seasonal cycles of infectious diseases. PLoS Pathog. 2018;14(11):e1007327. 41. Tedrow RE, et al. Anopheles mosquito surveillance in Madagascar reveals multiple blood feeding behavior and Plasmodium infection. PLoS Negl Trop Dis. 2019;13(7):e0007176. 41. Tedrow RE, et al. Publisher’s Note Weiss DJ, et al. Mapping the global prevalence, incidence, and mortality of Plasmodium falciparum, 2000-17: a spatial and temporal modelling study. Lancet. 2019;394(10195):322–31. 26. Weiss DJ, et al. Mapping the global prevalence, incidence, and mortality of Plasmodium falciparum, 2000-17: a spatial and temporal modelling study. Lancet. 2019;394(10195):322–31.
https://openalex.org/W4231300326
https://malariajournal.biomedcentral.com/track/pdf/10.1186/s12936-021-03635-z
English
null
Parasite Genetic Diversity Reflects Continued Residual Malaria Transmission in Vhembe District, A Hotspot in the Limpopo Province of South Africa
Research Square (Research Square)
2,020
cc-by
10,818
Abstract Background:  South Africa aims to eliminate malaria transmission by 2023. However, despite sustained vector control efforts and case management interventions, the Vhembe District remains a malaria transmission hotspot. To better understand Plasmodium falciparum transmission dynamics in the area, this study characterized the genetic diversity of parasites circulating within the Vhembe District. Methods:  A total of 1153 falciparum-positive rapid diagnostic tests (RDTs) were randomly collected from seven clin‑ ics within the district, over three consecutive years (2016, 2017 and 2018) during the wet and dry malaria transmission seasons. Using 26 neutral microsatellite markers, differences in genetic diversity were described using a multiparam‑ eter scale of multiplicity of infection (MOI), inbreeding metric (Fws), number of unique alleles (A), expected heterozy‑ gosity (He), multilocus linkage disequilibrium (LD) and genetic differentiation, and were associated with temporal and geospatial variances. Results:  A total of 747 (65%) samples were successfully genotyped. Moderate to high genetic diversity (mean He = 0.74 ± 0.03) was observed in the parasite population. This was ascribed to high allelic richness (mean A = 12.2 ± 1.2). The majority of samples (99%) had unique multi-locus genotypes, indicating high genetic diversity in the sample set. Complex infections were observed in 66% of samples (mean MOI = 2.13 ± 0.04), with 33% of infec‑ tions showing high within-host diversity as described by the Fws metric. Low, but significant LD (standardised index of association, ISA = 0.08, P < 0.001) was observed that indicates recombination of distinct clones. Limited impact of temporal ­(FST range − 0.00005 to 0.0003) and spatial ­(FST = − 0.028 to 0.023) variation on genetic diversity existed dur‑ ing the sampling timeframe and study sites respectively. Conclusions:  Consistent with the Vhembe District’s classification as a ‘high’ transmission setting within South Africa, P. falciparum diversity in the area was moderate to high and complex. This study showed that genetic diversity within the parasite population reflects the continued residual transmission observed in the Vhembe District. Gwarinda et al. Malar J (2021) 20:96 https://doi.org/10.1186/s12936-021-03635-z Gwarinda et al. Malar J (2021) 20:96 https://doi.org/10.1186/s12936-021-03635-z Malaria Journal Open Access Parasite genetic diversity reflects continued residual malaria transmission in Vhembe District, a hotspot in the Limpopo Province of South Africa nda1, Sofonias K. Tessema2, Jaishree Raman3,4, Bryan Greenhouse2* and Lyn‑Marié Birkholtz1* Hazel B. Gwarinda1, Sofonias K. Tessema2, Jaishree Raman3,4, Bryan Greenhouse2* and Lyn‑M Abstract This data can be used as a reference point for the assessment of the effectiveness of on-going interventions over time, the *Correspondence: bryan.greenhouse@ucsf.edu; lbirkholtz@up.ac.za 1 Malaria Parasite Molecular Laboratory, Department of Biochemistry, Genetics and Microbiology, Institute for Sustainable Malaria Control, University of Pretoria, Private Bag X20, Hatfield, 0028 Pretoria, South Africa 2 Division of HIV, Infectious Diseases, and Global Medicine, Department of Medicine, University of California San Francisco, San Francisco, CA, USA Full list of author information is available at the end of the article Background transmission based on travel histories [4, 10]. Other causative factors for the persistent residual transmission observed in the Vhembe District, despite sustained vec- tor control strategies and public health interventions, include antimalarial drug resistance, insecticide resist- ance and vector species variance between An. gambiae and An. funestus [7, 11–15].h Malaria remains a global health problem, with about 228  million cases reported worldwide in 2018, 93% of which occurred in the World Health Organization (WHO) African Region. As the southern Africa region, excluding high-transmission countries like Mozambique, accounted for < 10% of the 213 million cases reported in the WHO African region, several southern African coun- tries have been earmarked for malaria elimination by 2023 guided by the WHO Global Technical Strategy for Malaria [1]. Unfortunately, like a number of other regions in the world, southern Africa experienced a resurgence in malaria cases and deaths during the 2017/2018 season [2]. This resulted in South Africa reporting more than 30 000 cases, a surge in numbers previously only experi- enced during the 1999/2000 drug and insecticide resist- ance outbreak [3–5]. The addition of malaria parasite population genetic data to the standard surveillance data collected by malaria control programmes has assisted in understand- ing malaria transmission dynamics and also allowed for spatio-temporal inferences to be made from e.g. local vs. imported malaria cases [16–24]. These data reflect that typically, parasite genetic complexity decreases with a decline in malaria transmission, which holds true for low transmission settings such as Southeast Asia and Latin America compared to high transmission settings of sub- Saharan Africa based on incidence data. However, the limited data available from microsatellite genotyping of parasites from low transmission settings in sub-Saharan Africa (from the KZN Province in South Africa, Eswatini, and Namibia [9, 25, 26]), using the same approach as in the current study, suggests the opposite. In these study sites, parasites were highly complex and diverse, and while in some of these settings this relatively high diver- sity was attributed to frequent importations from neigh- bouring high transmission settings, in other settings this diversity was characterized by local transmissions sug- gesting that something different is happening to the para- sites in the region. © The Author(s) 2021. This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://crea‑ tivecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdo‑ main/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Page 2 of 13 Gwarinda et al. Malar J (2021) 20:96 identification of imported cases and/or outbreaks, as well as monitoring for the potential spread of anti-malarial drug resistance. f f f Keywords:  Plasmodium falciparum, Genetic diversity, Microsatellites, Multiplicity of infection, Residual transmission, South Africa, Vhembe District, Limpopo Keywords:  Plasmodium falciparum, Genetic diversity, Microsatellites, Multiplicity of infection, Residual transmission, South Africa, Vhembe District, Limpopo Background Plasmodium falciparum is the predominant species which accounts for the majority of cases and fatalities in the South Africa [5], with Anopheles funestus and the Anopheles gambiae complex the main vector species associated with transmission, which mainly occurs in the hot and rainy season between September and May [5]. While South Africa has made significant progress in the reduction in malaria cases since the 1999/2000 out- break through the implementation of sustained vector control and case management interventions, progress has stalled [3–9]. The country is characterized with het- erogeneous transmission settings in the three remaining endemic provinces: Kwa-Zulu Natal (KZN), Mpuma- langa and Limpopo [4, 5]. The Vhembe District in the Limpopo Province with the greatest burden of disease is classified as a moderate transmission area with 3.79 local cases/1000 population at risk in 2018, compared to very few locally transmitted cases (< 0.1 cases/1000 population at risk) reported for the KwaZulu-Natal (KZN) Province [5]. The Vhembe District is situated in the north-eastern border region of the country bordered by Mozambique to the southeast, Zimbabwe to the north and Botswana to the northwest (Fig. 1). This region experiences sus- tained, seasonal malaria transmission and accounts for 60% of the country’s burden [4]. While importation of cases, mostly from Mozambique and Zimbabwe, has been implicated in on-going transmission in the Vhembe District, the majority (63%) of the cases collected from 1998 to 2017 in the district were classified as from local To better understand the malaria parasite-associated factors that contribute to residual malaria transmis- sion in the Vhembe District, microsatellite genotyping was applied to describe the population of P. falciparum parasites in South Africa at different spatial and tempo- ral scales. This work identifies the contributing factors associated with sustained residual transmission in the Vhembe District in South Africa as the country works towards malaria elimination. Study site and study design Study samples were randomly collected from seven primary health clinics within five known source health districts (Nzhelele/Tshipise, Thohoyandou, Mutale, Elim, and Levubu/Shingwedzi) within the Vhembe Gwarinda et al. Malar J (2021) 20:96 Page 3 of 13 Zimbabwe Botswana Namibia South Africa Angola Zambia Eswatini Zimbabwe South Africa (Vhembe District, Limpopo Province) Botswana Mozambique E8 Frontline countries E8 Second line countries Unknown Elim Levubu/Shingwedzi Nzhelele/Tshipise Thohoyandou Mutale 0 37 74 111km Fig. 1  Study area and design. Map of the study site in the Vhembe District, Limpopo Province, South Africa. Bar graphs show the proportion of samples collected from the different source health districts and the years of transmission. The study district shares borders with Zimbabwe, Botswana and Mozambique. South Africa is shown alongside other malaria endemic countries in the E8 region. The “unknown” category represents 45% of the samples that could not be linked to source health districts Angola Zambia Zimbabwe Botswana Namibia South Africa (Vhembe District, Limpopo Province) Eswatini E8 Frontline countries E8 Second line countries Fig. 1  Study area and design. Map of the study site in the Vhembe District, Limpopo Province, South Africa. Bar graphs show the proportion of samples collected from the different source health districts and the years of transmission. The study district shares borders with Zimbabwe, Botswana and Mozambique. South Africa is shown alongside other malaria endemic countries in the E8 region. The “unknown” category represents 45% of the samples that could not be linked to source health districts District, Limpopo Province, South Africa (Fig. 1). Out of a total of 1892 confirmed cases that occurred during the entire study period and reported only at the 7 study clinics, a total of 1153 (61%) RDT samples from symp- tomatic patients that tested positive for malaria on P. falciparum-specific RDTs (First Response® Malaria Antigen P. falciparum card test HRP2, Premier Medical Corporation, India) were randomly collected from the seven different clinics in the wet and dry seasons from January to December of the years 2016, 2017 and 2018. Samples were transported and stored at room tem- perature in sealed bags with desiccant. Demographic and travel history information on each of the indi- vidual patients was obtained from the LMC database. After linking genotyped data with patient information from the LCM database, samples were stratified based District, Limpopo Province, South Africa (Fig. 1). DNA isolation and quantification DNA was extracted from the nitrocellulose strip of First Response™ RDTs in accordance with the World- wide Antimalarial Resistance Network Guidelines [27]. The Saponin-Chelex method [28] was used for all DNA extractions and extracted genomic DNA stored at − 20 °C. Isolates were screened for P. falciparum using ultra- sensitive varATS [29] and TARE-2 [29, 30] quantita- tive PCR (qPCR) as described before. Parasite density was quantified on a random subset of 353 high volume samples from all years. It was not possible to quantify all samples due to a low DNA volume for a proportion of samples. The genotyping threshold was set at a parasite concentration of ≥ 10 parasites/µL of blood. The other measure of the within-host diversity, the ­FWS index, is a measure of diversity in an individual infection relative to the population level genetic diversity and was determined as previously described [25, 26, 32]. A low ­FWS indicates high within-host diversity relative to the population thereby suggesting higher chances of out- breeding. ­FWS was calculated for each sample using the equation: Fws = 1 −Hw/Hs , where Hw is the allele fre- quency of each unique allele found at a particular locus for each individual and Hs is the heterozygosity of the local parasite population. Outbreeding is reported as 1-FWS with a 0 value indicative of a perfect clone and therefore low within-host diversity. Previously described thresholds of Fws ≥ 0.95 (1-Fws ≤ 0.05) were used to identify samples containing a single genotype (or “clonal” infections) in spite of additional genotypes that may be present at relatively low proportions; and Fws ≤ 0.70 (1-Fws ≥ 0.30) to describe samples with highly diverse infections respectively [25, 32–34]. Study site and study design Out of a total of 1892 confirmed cases that occurred during the entire study period and reported only at the 7 study clinics, a total of 1153 (61%) RDT samples from symp- tomatic patients that tested positive for malaria on P. falciparum-specific RDTs (First Response® Malaria Antigen P. falciparum card test HRP2, Premier Medical Corporation, India) were randomly collected from the seven different clinics in the wet and dry seasons from January to December of the years 2016, 2017 and 2018. Samples were transported and stored at room tem- perature in sealed bags with desiccant. Demographic and travel history information on each of the indi- vidual patients was obtained from the LMC database. After linking genotyped data with patient information from the LCM database, samples were stratified based on the source of infection health district (Fig. 1) as it was established that patients that acquired their infec- tions from similar source areas did not necessarily visit the same clinics for testing and treatment. Therefore, it was concluded that source health districts would be more informative for geospatial analysis than clinics. 45% (45%) of the samples however, could not be linked to source health districts and were therefore classified as “unknown”. Source of infection could not be estab- lished not because information was not available on the LCM database, but because the genotyped samples could not be linked back to patient identity as the only unique identifiers that could link the patient RDT to their information on the database were either missing or illegible on the RDT. The study was started off with blinded patient identities with only knowledge of year Gwarinda et al. Malar J (2021) 20:96 Page 4 of 13 Gwarinda et al. Malar J (2021) 20:96 Page 4 of 13 of infection and clinic visited by patients from where samples were then collected. of infection and clinic visited by patients from where samples were then collected. distinct P. falciparum clones) and the within-host fixa- tion index ­(FWS). To reduce the probability false positive alleles influencing MOI, the MOI in an individual sam- ple was defined as the second highest number of alleles detected at any of the 26 microsatellite loci genotyped. Since the P. falciparum parasite is haploid in the human host, multiple peaks or alleles correspond to an infection with multiple genotypes or strains (a polygenomic or pol- yclonal infection).h Characterization of population level genetic diversity p p g y Population level genetic diversity was estimated using expected heterozygosity (He) which is defined as the probability of randomly drawing a pair of different alleles from the allele pool. Heterozygosity was, therefore, cal- culated on each locus using the equation: He =  n n−1  ∗  1 − pi2)] , where n is the number of genotyped samples and ­pi is the frequency of the ­ith allele in the population [25, 26]. Values for He range from 0 indicating no diversity, to 1 indicating that all alleles are different and therefore there is maximum diversity. The mean He was calculated by taking the average He across all loci. The number of haplotypes (unique multilocus genotypes) as well as the unique alleles detected per locus (A - allelic richness), were also determined. Microsatellite genotyping g yp g A total of 1153 samples were genotyped using a previ- ously described 26 microsatellite marker panel protocol [25, 26, 31]. Briefly, the 26 microsatellite loci were ampli- fied using a semi-nested PCR protocol. The primary PCR was performed in 4 groups of multiplex reactions, and 1 µL of the primary amplified product used as a template for the secondary individual PCR for each marker. To determine repeat length sizes, the labelled PCR products were diluted and sized by denaturing capillary electro- phoresis on an ABI 3730XL analyser using GeneScan™ 400HD ROX™ Size Standard (Thermo Fisher Scientific). MicroSPAT software (https​://githu​b.com/Green​house​ -Lab/Micro​SPAT/relea​ses/tag/v2.0.3) was then used to automate identification of true alleles and differentiate real peaks from artefacts of the resulting electrophero- grams using a classifier algorithm based on the location and size of locus-specific patterns relative to a primary peak as done in studies conducted in Eswatini [25], Namibia [26], the KZN Province of South Africa [9] and China [31] that used similar experimental conditions as those used in his study. Multiple alleles per locus were scored if minor peaks were at least a third of the height of the major peak. Collated genotyping data from all sam- ples was processed with similar microSPAT software set- tings in which a semi-supervised naïve Bayes classifier was used [25] to avoid variability in allele calling. All sam- ples that met the genotyping threshold were genotyped and had to have a genotyping coverage ≥ 60% (alleles detected on at least 15 or more loci) to be included in the downstream population genetics analysis. Linkage disequilibrium To assess whether alleles from different loci were asso- ciated with each other, the multilocus linkage disequi- librium (LD) was determined as previously described [35] using the Poppr package in R software [36]. LD was determined for the whole dataset which includes mono- clonal and polyclonal infections, with LD for monoclonal infections alone determined as a precaution against the Characterisation of within‑host genetic diversityh The within-host diversity of infections was determined using multiplicity of infection (MOI, or genetically Gwarinda et al. Malar J (2021) 20:96 Page 5 of 13 Gwarinda et al. Malar J (2021) 20:96 bias that may result from presence of any false domi- nant haplotypes [16]. The Monte Carlo method was used to test the significance of LD in the complete data set of each population stratified by geographic origin of the infection (source health district). In this study, 10 000per- mutations were completed. LD values range from 0 (no loci in LD) to 1 (all loci in LD). Pairwise standardized index of association (ISA) over all loci was assessed to determine whether the observed pattern of LD is due to a single or multiple pairs of loci. number of PCs to be retained. Sampling and DAPC pro- cedures were repeated 1000 times at each level of PC retention, and the optimal number of PCs retained was associated with the lowest root mean square error. The resultant clusters were then plotted in a scatterplot of the first and second linear discriminants of DAPC. Influence of temporal variation on genetic diversityl To determine the influence of temporal changes in trans- mission on genetic diversity, the ANOVA pairwise t-test was used to compare MOI, 1-FWS and He between the parasite populations stratified by year of transmission. Finer scale stratification by month of infection was also assessed to determine how MOI changes in the dry and wet transmission seasons and pairwise t-tests were used to compare MOI between the different seasons. Characterising pairwise genetic relatedness between infections To determine the genetic connectivity/relatedness of pairs of infections including all alleles detected in both monoclonal and polyclonal infections of successfully gen- otyped samples, a modified identity by state (IBS) metric was used [26]. Overall, pairwise IBS was calculated as the average of locus specific estimates under the assumption of independent loci. This metric was calculated using the formula: IBS = 1 n n i=1 Si XiYi where n is the number of genotyped loci; Si is the total number of shared alleles at locus i between samples X; and YiXi is the number of alleles in sample X at locus I; and Yi is the number of alleles in sample Y at locus i. A total of 85,078 pairs of infection within the Vhembe District dataset were ana- lysed and highly related infection pairs above the cut- off of IBS ≥ 0.5 [26] identified. Pairwise comparisons of relatedness of parasite pairs were then grouped into two categories depending on whether they occurred between two parasites isolated from individuals who acquired infections in the same (within) source health district or between two parasites from individuals who acquired infections from different (between) source health dis- tricts respectively. ANOVA pairwise t-test was used to compare differences in the proportions of highly related infections within and between the groups. Geospatial population substructure and genetic differentiationl To determine the influence of geographic origin of infec- tions on genetic diversity, the ANOVA pairwise t-test was used to compare MOI, 1-FWS and He between the parasite populations stratified by source health district. Population substructure between the geographic areas was investigated by measuring Wright’s F-statistics ­(FST), using the adegenet package [37] in R. Hendrick’s ­GST and Jost’s D, were calculated using the mmod package [38] in R. Genetic differentiation between populations ranges from 0 to 1 representing absence of to complete differen- tiation, respectively. The Monte Carlo method was used to test the significance of pairwise ­FST between source health districts. In this study, 999 permutations were completed. Additionally, discriminant analysis of prin- cipal components (DAPC) using the adegenet package in R software was used to confirm signatures of popula- tion structure [37, 39]. DAPC infers population structure based on whether haplotypes (estimated from multi- locus genotypes generated from all major and minor allele data) clustered into distinct genetic populations. Unlike the traditional principal component analysis (PCA) which identifies linear axes that explain the most variability in all groups together, DAPC seeks to detect the linear axes which explain the most between-group variability in data [37]. K-means clustering was used to detect the number of inferred genetic clusters in the par- asite population, and the best number of clusters chosen was that with the lowest associated Bayesian Informa- tion Criterion (BIC). To prevent overfitting of clusters, the optimal number of principal components (PC) to be retained was confirmed by cross validation of the DAPC. Data was divided into a training set (90% of data), and a validation set (10% of data), and members of each of the identified clusters were stratified by random sampling to ensure that at least one member of each cluster is rep- resented in both training and validation sets. DAPC was then performed on the training set with variable num- bers of PCs retained. The extent to which the analysis was able to accurately predict group memberships of individ- uals in the validation set was used to identify the optimal Microsatellite genotyping indicates parasite complexity d d y Of the 1153 genotyped samples, 65% of the samples (747/1153) had sufficient coverage at a minimum of 15 of the 26 microsatellite loci evaluated and were included in the final sample set for population genetics analysis. Overall, a high proportion (66%) of polyclonal infections was observed with a mean MOI = 2.13 in the genotyped samples (Fig. 2a). This indicates a moderate complexity of infection within individual samples and thus moderate to high within-host diversity in the parasite population. Mean MOI did not differ significantly (P = 0.73, ANOVA, n = 353 excluding unknowns) between male (mean MOI = 2.11) and female participants (mean MOI = 2.16). The different age groups also exhibited similar mean MOIs (from 2 to 2.17) which were not significantly dif- ferent (P = 0.94, ANOVA, n = 353 excluding unknowns). A significant positive relationship (Pearson’s r = 0.85 [95% CI 0.83–0.87], P < 0.001, t-test, n = 747) was seen between outbreeding (1-FWS) and MOI, which suggests that both metrics support the presence of within-host diversity. Similarly to the one third of samples appearing monoclonal observed, only 40% of samples had 1-FWS < 0.05 (Fws ≥ 0.95, indicating effectively clonal infections, Fig. 2b). Mean outbreeding (1-FWS) was low at 0.22, with only 33% of samples with a stringent 1-Fws value of ≥ 0.30 (Fws ≤ 0.70), suggesting that these were the most highly diverse infections (Fig. 2b). Of the 1153 genotyped samples, 65% of the samples (747/1153) had sufficient coverage at a minimum of 15 of the 26 microsatellite loci evaluated and were included in the final sample set for population genetics analysis. Overall, a high proportion (66%) of polyclonal infections was observed with a mean MOI = 2.13 in the genotyped samples (Fig. 2a). This indicates a moderate complexity of infection within individual samples and thus moderate to high within-host diversity in the parasite population. Mean MOI did not differ significantly (P = 0.73, ANOVA, n = 353 excluding unknowns) between male (mean MOI = 2.11) and female participants (mean MOI = 2.16). The different age groups also exhibited similar mean MOIs (from 2 to 2.17) which were not significantly dif- ferent (P = 0.94, ANOVA, n = 353 excluding unknowns). Results A total of 1153 P. falciparum RDT positive samples were collected from the Vhembe district, the highest propor- tion (56%) of which were collected in 2017 and, for those with known source health district data, the majority came from within the Mutale district (Fig. 1). A slightly higher proportion (54 vs. 46%) of females compared to males was sampled during the study with a median age of 23 years, ranging between 19 and 65 years. The median parasite density of a subset of randomly selected quan- tified samples (n = 313) was 660 parasites/µL of blood, which was above the genotyping threshold of ≥ 10 para- sites/µL of blood. All 1153 samples were therefore sub- jected to microsatellite genotyping. Additionally, low LD (standardized index of associa- tion, ISA = 0.08) was observed between alleles of the P. falciparum haplotypes (Table 1) and this was not due to a single locus. The observed ISA value fell outside of the re-sampled distribution expected under no linkage when compared to histograms showing results of 10 000 per- mutations. The Monte Carlo method was used to test the significance of LD in the complete data set and alleles of monoclonal infections (n = 253) were linked across loci with P = 0.0001. For all infections including poly- clonal infection, LD was also low at 0.138 but significant (P = 0.0001, n = 747). This was emphasized by a small proportion (0.26%, 221/85,078) of pairwise infections in the sample set being highly related (IBS ≥ 0.5). The sig- nificantly low LD therefore indicates high recombination of distinct parasite clones which supports the moderate to high within-host diversity observed in Vhembe, and is consistent with the presence of some degree of local transmission. Assessing the impact of control interventions on the complexity of infectionsh The impact of the main strategy for control, indoor resid- ual spraying (IRS) on the within-host diversity of P. falci- parum was also assessed based on the number of unique genotypes (MOI) identified in sprayed vs. unsprayed households. IRS in the Limpopo Province typically takes place at the beginning of each malaria season (wet sea- son between September and May), with the number of Gwarinda et al. Malar J (2021) 20:96 Gwarinda et al. Malar J (2021) 20:96 Page 6 of 13 Page 6 of 13 which is indeed reflected in the high mean number of unique alleles (mean A of 12.2) with anywhere from 3 to 26 unique alleles detected across all 26 loci (Fig. 2c). This was supported by a moderate to high mean He of 0.74 (Fig. 2d) that indicates frequent recombination of differ- ent parasite clones. This suggests a larger P. falciparum population than that expected in a low transmission set- ting, but is consistent with the Vhembe District being the highest transmission setting in South Africa. Locus PfPK2 was the most diverse marker (Nei’s genetic diver- sity of 0.91) and contributed to the high genotypic diver- sity whereas locus Ara2 had the most evenly distributed alleles (0.86) and, therefore, contributed to the most gen- otypic evenness. Overall, the sample set had a moderate to high genotypic richness, evenness and diversity. households to be sprayed determined by the provincial malaria control programme based on factors such as the number of structures within the malaria endemic area, insecticide availability and resistance data [4]. Parasites are fragmented based on their level of within‑host diversity A significant positive relationship (Pearson’s r = 0.85 [95% CI 0.83–0.87], P < 0.001, t-test, n = 747) was seen between outbreeding (1-FWS) and MOI, which suggests that both metrics support the presence of within-host diversity. Similarly to the one third of samples appearing monoclonal observed, only 40% of samples had 1-FWS < 0.05 (Fws ≥ 0.95, indicating effectively clonal infections, Fig. 2b). Mean outbreeding (1-FWS) was low at 0.22, with only 33% of samples with a stringent 1-Fws value of ≥ 0.30 (Fws ≤ 0.70), suggesting that these were the most highly diverse infections (Fig. 2b). To further evaluate the genetic relatedness between the parasite genotypes, k-means clustering was employed based on individual multi-locus genotype discrimination. Eight genetic clusters were identified in the parasite pop- ulation with the parasite populations in genetic clusters 1, 2, 4, 7 and 8 observed using DAPC (Fig. 3a) separated by linear discriminant 1 (LD1) from parasites in clusters 5 and 6. Linear discriminant 2 (LD2) further separated clusters 2, 4 and 8 from clusters 1 and 7. The proportion of correct assignment of the haplotypes to each inferred cluster ranged between 0.95 and 1. The DAPC analy- sis could be performed with missing data in place with missing data which was randomly distributed in the data set basically replaced by the mean allele frequency in the case of multi-locus genotype (MLG) calculations. MLGs were generated from all major and minor allele data. On a population level, the majority of the samples (99%, 742/747) had unique haplotypes thus indicating high levels of outcrossing and, therefore, high genotypic diversity in the parasite population. The high number of unique haplotypes implies underlying allelic richness Gwarinda et al. Malar J (2021) 20:96 Page 7 of 13 a Monoclonal (MOI=1) Polyclonal (MOI>1) 34% 66% b 33% 40% Highly diverse (1-Fws≥0.30) Clonal (1-Fws≤0.05) c d Fig. 2  Within-host and population level diversity of P. falciparum parasites in the Vhembe District. a Multiplicity of infection (MOI) measured as the second highest number of alleles detected at any of the 26 loci. The dashed red line indicates the mean MOI = 2.13. The inserted pie chart shows proportion of single (34%) to multiple (66%) infections. b Within-host diversity index (1-Fws). 1-Fws value shows outbreeding and a value of 0 indicates a perfect clone. The dashed blue line indicates the cut-off of 1-Fws ≤ 0.05 which represents samples with clonal infections. Parasites are fragmented based on their level of within‑host diversity The dashed red line indicates the cut-off of 1-Fws ≥ 0.30 which represents samples with high genetic diversity. The inserted pie chart shows proportion of clonal (40%) to highly diverse (33%) infections. c Distribution of number of unique alleles (allelic richness) detected in 26 microsatellite loci. The dashed red line indicates the mean = 12.2. d Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci. The dashed red line indicates the mean heterozygosity = 0.74 a Monoclonal (MOI=1) Polyclonal (MOI>1) 34% 66% b 33% 40% Highly diverse (1-Fws≥0.30) Clonal (1-Fws≤0.05) b c c d d Fig. 2  Within-host and population level diversity of P. falciparum parasites in the Vhembe District. a Multiplicity of infection (MOI) measured as the second highest number of alleles detected at any of the 26 loci. The dashed red line indicates the mean MOI = 2.13. The inserted pie chart shows proportion of single (34%) to multiple (66%) infections. b Within-host diversity index (1-Fws). 1-Fws value shows outbreeding and a value of 0 indicates a perfect clone. The dashed blue line indicates the cut-off of 1-Fws ≤ 0.05 which represents samples with clonal infections. The dashed red line indicates the cut-off of 1-Fws ≥ 0.30 which represents samples with high genetic diversity. The inserted pie chart shows proportion of clonal (40%) to highly diverse (33%) infections. c Distribution of number of unique alleles (allelic richness) detected in 26 microsatellite loci. The dashed red line indicates the mean = 12.2. d Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci. The dashed red line indicates the mean heterozygosity = 0.74 Gwarinda et al. Malar J (2021) 20:96 Page 8 of 13 Fig. 3  Fragmentation of parasites based on inferred genetic clusters. a Scatterplot of the discriminant analysis of principal components (DAPC) based on discrimination of the 8 inferred genetic clusters of P. falciparum populations. Samples whose source of infection is unknown are included. Individual multi-locus genotypes appear as dots. Colours and lines represent population membership. Analysis is based on retention of 50 principal components (top right insert). b Proportion of monoclonal (MOI = 1) to polyclonal (MOI > 1) infections in the fragmented genetic clusters. c Proportion of clonal (1-Fws ≤ 0.05) to highly diverse (1-Fws ≥ 0.30) infections. Medium represents infections with 1-Fws > 0.05 but < 0.30 Table 1  Multi-locus linkage disequilibrium in P. Parasites are fragmented based on their level of within‑host diversity falciparum populations of Vhembe district n = number of isolates; ISA = standardised index of association; NA = not applicable The Monte Carlo method was used to test the significance of LD Population All infections Single clones n ISA (P value) n ISA (P value) Mutale 329 0.14 (0.0001) 111 0.03 (0.2633) Unknown 393 0.14 (0.0001) 134 0.12 (0.0001) Levubu/Shingwedzi 2 NA 1 NA Thohoyandou 4 0.08 (0.0319) 3 -0.11 (1) Nzhelele/Tshipise 17 0.14 (0.0001) 4 0.05 (0.3665) Elim 2 NA 0 NA TOTAL 747 0.138 (0.0001) 253 0.08 (0.0001) Table 1  Multi-locus linkage disequilibrium in P. falciparum populations of Vhembe district Although all samples with any missing genotypes/data were included, loci PfPK2 and TA1 in which the majority of 83% and 90% of data was missing, respectively, were discarded in the DAPC analysis. Interestingly, clusters 5 and 6 contained the majority (98%, 249/253) of mono- clonal (MOI = 1) infections (Fig. 3b). This was consistent with the mixture of mostly clonal (1-Fws < 0.05) and less diverse (medium, 1-Fws > 0.05 but < 0.30) infections in clusters 5 and 6 (Fig. 3c). Clusters 1 and 2, and to a lesser extent cluster 7, appeared fragmented and contained only highly diverse infections (1-Fws > 0.30, Fig. 3c). This indicates that although the majority of the parasite population is indeed structured, the most highly diverse infections result in fragmentation in the population. The moderate genetic diversity and MOI, and relatively pro- nounced population structure are all indicative of con- stant transmission at overall relatively moderate levels. Fig. 3  Fragmentation of parasites based on inferred genetic clusters. a Scatterplot of the discriminant analysis of principal components (DAPC) based on discrimination of the 8 inferred genetic clusters of P. falciparum populations. Samples whose source of infection is unknown are included. Individual multi-locus genotypes appear as dots. Colours and lines represent population membership. Analysis is based on retention of 50 principal components (top right insert). b Proportion of monoclonal (MOI = 1) to polyclonal (MOI > 1) infections in the fragmented genetic clusters. c Proportion of clonal (1-Fws ≤ 0.05) to highly diverse (1-Fws ≥ 0.30) infections. Medium represents infections with 1-Fws > 0.05 but < 0.30 Fig. 3  Fragmentation of parasites based on inferred genetic clusters. a Scatterplot of the discriminant analysis of principal components (DAPC) based on discrimination of the 8 inferred genetic clusters of P. falciparum populations. Parasites are fragmented based on their level of within‑host diversity Samples whose source of infection is unknown are included. Individual multi-locus genotypes appear as dots. Colours and lines represent population membership. Analysis is based on retention of 50 principal components (top right insert). b Proportion of monoclonal (MOI = 1) to polyclonal (MOI > 1) infections in the fragmented genetic clusters. c Proportion of clonal (1-Fws ≤ 0.05) to highly diverse (1-Fws ≥ 0.30) infections. Medium represents infections with 1-Fws > 0.05 but < 0.30 No geospatial correlation exists to explain genetic diversity Overall, the levels of within-host and population level diversity were not influenced by where infections were reported since the mean MOI (global ANOVA P = 0.36, n = 747, Fig. 4a); the level of outbreeding (global ANOVA, P = 0.27, n = 747, Fig. 4b) and heterozygo- sity (global ANOVA P = 0.23, n = 747, Fig. 4c) between the different source health districts did not signifi- cantly differ. Only differences in the MOI from Elim and Thohoyandou were observed compared to the overall mean MOI (pairwise t-test, n = 747, P ≤ 0.01 and P ≤ 0.05, respectively), which may be due to small sample size from these sites. The different source dis- tricts also did not contribute to the genetic clusters observed from the DAPC analysis, as infections from the different areas were represented/distributed in the eight different inferred genetic clusters, implying free gene flow and possible parasite mixing between these sites. This was confirmed by the very low ­FST values (Fig. 4d), with only the Elim and Levubu/Shingwedzi districts sharing significant ­FST with two other dis- tricts each, implying some degree of differentiation but again associated with small sample size from these areas. A Hendrick’s ­GST at − 0.0394 and Jost’s D at − 0.0122 supports general parasite mixing for the com- plete Vhembe district. This lack of separation based on geospatial data agrees with patient demographic Gwarinda et al. Malar J (2021) 20:96 Page 9 of 13 Fig. 4  Geospatial variation of within-host and population level genetic diversity of P. falciparum parasites in Vhembe. a Multiplicity of infection (MOI) measured as the second highest number of alleles detected at any of the 26 loci across the different source health districts in the Vhembe District. The dashed red line indicates the mean MOI = 2.13. b Within-host diversity index (outbreeding, 1-FWS) measured across the different source health districts. Parasites are fragmented based on their level of within‑host diversity The dashed red line indicates the mean 1-FWS = 0.22. c Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci across the different source health districts. The dashed red line indicates the mean heterozygosity = 0.74. Pairwise P values (t-test) are indicated in all plots where, not significant: P > 0.05; *: P ≤ 0.05; **: P ≤ 0.01; ***: P ≤ 0.001; ****: P ≤ 0.0001. d Heatmap showing matrix of between source health district pairwise ­FST. The range of ­FST values for the pairwise comparisons is shown in the legend and significance was tested using the Monte Carlo method Fig. 4  Geospatial variation of within-host and population level genetic diversity of P. falciparum parasites in Vhembe. a Multiplicity of infection (MOI) measured as the second highest number of alleles detected at any of the 26 loci across the different source health districts in the Vhembe District. The dashed red line indicates the mean MOI = 2.13. b Within-host diversity index (outbreeding, 1-FWS) measured across the different source health districts. The dashed red line indicates the mean 1-FWS = 0.22. c Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci across the different source health districts. The dashed red line indicates the mean heterozygosity = 0.74. Pairwise P values (t-test) are indicated in all plots where, not significant: P > 0.05; *: P ≤ 0.05; **: P ≤ 0.01; ***: P ≤ 0.001; ****: P ≤ 0.0001. d Heatmap showing matrix of between source health district pairwise ­FST. The range of ­FST values for the pairwise comparisons is shown in the legend and significance was tested using the Monte Carlo method Transmission dynamics was not temporally influenced The level of genetic diversity did not differ between the years of transmission as demonstrated by global ANOVA P values (n = 747) for MOI (Fig. 5a), outbreed- ing (Fig. 5b) and heterozygosity (Fig. 5c) of 0.90, 0.77 and 0.07, respectively, providing no evidence for dif- fering transmission intensity during that period. No genetic differentiation ­(FST range − 0.00005 to 0.0003) between parasite populations from the different years was observed, which suggests that the malaria outbreak experienced in 2017 was not due to an introduction and travel history information, with 99% of the infec- tions locally acquired of which 95% are within the Mutale health district. Parasites are fragmented based on their level of within‑host diversity Pairwise P values (t-test) are indicated in all plots where, not significant: P > 0.05; *: P ≤ 0.05; **: P ≤ 0.01; ***: P ≤ 0.001; ****: P ≤ 0.0001 d MOI distribution of collated samples throughout all the months of the year against different rainfall (black line) and temperature (blue line) patterns Fig. 5  Temporal variation of within-host and population level genetic diversity of P. falciparum parasites in Vhembe. a Multiplicity of infection (MOI) measured as the second highest number of alleles detected at any of the 26 loci across the different years of transmission. The dashed red line indicates the mean MOI = 2.13. b Within-host diversity index (outbreeding, 1-FWS) measured across the different years. The dashed red line indicates the mean 1-Fws = 0.22. c Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci across the different years from when the samples were collected. The dashed red line indicates the mean heterozygosity = 0.74. Pairwise P values (t-test) are indicated in all plots where, not significant: P > 0.05; *: P ≤ 0.05; **: P ≤ 0.01; ***: P ≤ 0.001; ****: P ≤ 0.0001 d MOI distribution of collated samples throughout all the months of the year against different rainfall (black line) and temperature (blue line) patterns of a completely distinct/new parasite population to Vhembe.i complexity of infections in the Vhembe District. Out of the 220 patients who knew which insecticides were sprayed in their households, 53% (116/220), 44% (97/220) and 3% (7/220) reported use of DDT, Fendona® and K-Othrine®, respectively. Stratification of MOI distribution by transmission season (month of infection) (Fig. 5d) showed that infec- tions were persistently complex throughout the year. In spite of an approximately 15-fold reduction in the number of cases and notable decrease in rainfall levels between the wet (high transmission) and dry (low trans- mission) seasons (Fig. 5d), mean MOI was also not sig- nificantly different (P = 0.42, Bonferroni P adjustment method) between the two seasons (wet season mean MOI = 2.14 ± 0.056, and mean MOI = 1.96 ± 0.178  in the dry season). Parasites are fragmented based on their level of within‑host diversity Infections were similarly complex (mean MOI ± SE = 2.15 ± 0.075 and 2.14 ± 0.101; P = 1, Bon- ferroni P adjustment method) between infections from sprayed or unsprayed households suggesting the main- tenance of complex infections in spite of vector control implementation during wet seasons, suggesting possible co-transmission of strains. These data may indicate that the mean MOI may be seasonally stable thus reflecting the impact of continued residual transmission on the Parasites are fragmented based on their level of within‑host diversity This also correlated to resi- dential status, with 93% of the individuals residing in Mutale. Additionally, 1-IBS analysis showed that infec- tions were genetically connected within and between source areas, with highly related infections signifi- cantly higher (P < 0.0001, ANOVA, n = 221) within source areas (mean 1-IBS = 0.76 ± 0.022) compared to between source areas (mean 1-IBS = 0.56 ± 0.007) which confirms some level of local transmission. Gwarinda et al. Malar J (2021) 20:96 Page 10 of 13 Fig. 5  Temporal variation of within-host and population level genetic diversity of P. falciparum parasites in Vhembe. a Multiplicity of infection (MOI) measured as the second highest number of alleles detected at any of the 26 loci across the different years of transmission. The dashed red line indicates the mean MOI = 2.13. b Within-host diversity index (outbreeding, 1-FWS) measured across the different years. The dashed red line indicates the mean 1-Fws = 0.22. c Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci across the different years from when the samples were collected. The dashed red line indicates the mean heterozygosity = 0.74. Pairwise P values (t-test) are indicated in all plots where, not significant: P > 0.05; *: P ≤ 0.05; **: P ≤ 0.01; ***: P ≤ 0.001; ****: P ≤ 0.0001 d MOI distribution of collated samples throughout all the months of the year against different rainfall (black line) and temperature (blue line) patterns Fig. 5  Temporal variation of within-host and population level genetic diversity of P. falciparum parasites in Vhembe. a Multiplicity of infection (MOI) measured as the second highest number of alleles detected at any of the 26 loci across the different years of transmission. The dashed red line indicates the mean MOI = 2.13. b Within-host diversity index (outbreeding, 1-FWS) measured across the different years. The dashed red line indicates the mean 1-Fws = 0.22. c Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci across the different years from when the samples were collected. The dashed red line indicates the mean heterozygosity = 0.74. Discussionh Detectable genetic clusters of different genotypes mean if studies are strategically designed and patient parasite genetic and demographic data accurately linked in all remaining endemic areas in South Africa and neighbouring endemic countries, particularly at the bor- der areas, parasites from different countries can easily be detected or traced back to their origins. This information can then be used to make better decisions on a national level and as a regional block on what interventions should be put in place, and concentrated in which areas. Therefore, regional comparison of parasite genotypes will be informative to understand parasite mixing in the con- text of malaria transmission. over time, selection and/or targeting of interventions. Furthermore, the genetic data may be used for the iden- tification of imported cases and/or outbreaks, as well as monitoring for the potential spread of anti-malarial drug resistance and potentially revealing infection patterns. Although South Africa is overall a low transmission setting, the Vhembe District is a transmission hotspot and here it is shown that the parasite population within this hotspot behaves genetically like those typically seen in high transmission settings (based on incidence data) such as Guinea, Mali and The Gambia [16, 40–42] - the P. falciparum parasite population in the Vhembe Dis- trict is complex and diverse. This is typically associated with high levels of gene flow between areas of different transmission intensities that serve to compound allelic richness by introducing new alleles into the popula- tion, thereby increasing the level of heterozygosity in the parasite population [9, 25]. Although the Vhembe dis- trict is located along the border with Mozambique and Zimbabwe, very limited evidence exists for imported malaria cases and rather, the high level of heterozygo- sity observed in this study implies localised diversity in a transmission hotspot, where relatively higher transmis- sion occurs compared to other areas in the country. This is supported by a marked level of gene flow and parasite mixing between parasite populations from the differ- ent source areas within the district, resulting in a low but significant LD, with frequent and random associa- tion between alleles and a panmictic parasite population [43]. Geospatial and temporal variances had little effect on within-host and population diversity in the Vhembe District suggesting that genetic diversity was stable over space and time. Discussionh The impact of malaria transmission intensity on P. falci- parum parasite genetic diversity is only now being clari- fied in South Africa. By using multilocus genotyping, this is the first study that shows that continued residual malaria transmission in a malaria hotspot within South Africa is associated with parasite diversity.h The results generated in this study are a useful addition to the growing resource of P. falciparum genetic data in the southern African E8 region which will facilitate more detailed evaluations of cross-border parasite spread in future studies. The genetic data may also be useful to control programmes with decision making for malaria elimination as it can be used as a reference point for the assessment of the effectiveness of on-going interventions Gwarinda et al. Malar J (2021) 20:96 Page 11 of 13 Page 11 of 13 parasite complexity and heterozygosity are low, and LD is high using both microsatellite markers and merozoite surface protein variants for genotyping [21, 44]. In Mada- gascar, however, high levels of genotypic diversity and a high proportion of polyclonal infections were associ- ated with a transmission hotspot using single nucleotide polymorphism genotyping [45]. These differences may have been due to differences in technology platforms used for genotyping in comparison to this study or due to the challenge of non-standardisation of study designs in molecular epidemiology studies. Additionally, since “low” in Africa is very different than “low” in Asia (which is generally much lower based on for example entomo- logical inoculation rates and parasite prevalence rates) it could have also been due to differences in underlying epidemiology of parasite transmission between Malay- sia and Madagascar. In other low transmission areas of southern Africa [9, 25, 26], where a similar panel of microsatellite markers was used, the level of genetic diversity was as high as that in the Vhembe District. However, in Eswatini and in the KZN province of South Africa, the high levels of within-host and population diversity and lack of parasite population structure could be explained by high levels of importation from neigh- bouring high transmission areas. On the other hand, in north-eastern Namibia, while infections were genetically diverse, transmission was mostly as a result of locally acquired infections and fine-scale parasite fragmenta- tion based on the geographic origin of parasites was observed [26]. Ethics approval and consent to participate Ethical approval for the study was obtained from the University of Pretoria, Faculty of Health Sciences Research Ethics Committee (Ethics Reference No. 406–2014). Patient information was extracted from the Limpopo Malaria Case database based on the clinics from which RDT samples were collected, after receiving ethical approval from the Limpopo Department of Health (Ref: LP_201906_011). Acknowledgements Gratitude is expressed to the study population in the Vhembe District, Limpopo Province, as well as the Folovhodwe, Madimbo, Manenzhe, Masisi, Mulala, Makuya and Tshipise clinic and laboratory staff. Eric Mabunda and health information officers from the Limpopo Department of Health are acknowledged for facilitating access to patient information through the LMC database. The University of Pretoria Institute for Sustainable Malaria Control acknowledges the South African Medical Research Council as Collaborating Centre for Malaria Research. 6. Moonasar D, Maharaj R, Kunene S, Candrinho B, Saute F, Ntshalintshali N, et al. Towards malaria elimination in the MOSASWA (Mozambique, South Africa and Swaziland) region. Malar J. 2016;15:419. 7. Moonasar D, Nuthulaganti T, Kruger PS, Mabuza A, Rasiswi ES, Benson FG, et al. Malaria control in South Africa 2000–2010: beyond MDG6. Malar J. 2012;11:294. 7. Moonasar D, Nuthulaganti T, Kruger PS, Mabuza A, Rasiswi ES, Benson FG, et al. Malaria control in South Africa 2000–2010: beyond MDG6. Malar J. 2012;11:294. 8. Khosa E, Kuonza LR, Kruger P, Maimela E. Towards the elimination of malaria in South Africa: a review of surveillance data in Mutale Municipal‑ ity, Limpopo Province, 2005 to 2010. Malar J. 2013;12:7. 8. Khosa E, Kuonza LR, Kruger P, Maimela E. Towards the elimination of malaria in South Africa: a review of surveillance data in Mutale Municipal‑ ity, Limpopo Province, 2005 to 2010. Malar J. 2013;12:7. Funding We thank the South African National Research Foundation (NRF) South African Research Chair (SARChI) programme (the DST/NRF South African Research Chairs Initiative Grant (LB UID 84627), and the South African Medical Research Council for financial support. Opinions expressed and conclusions arrived at, are those of the author and are not necessarily attributed to the NRF. 11. Brooke B, Koekemoer I, Kruger P, Urbach J, Misiani E, Coetzee M. Malaria vector control in South Africa. S Afr Med J. 2013;103:784–8. 12. Christian R, Dahan-Moss Y, Munhenga G, Lobb L, Erlank E, Dandalo L, et al. Malaria Vector Surveillance Report, South Africa, January–December, 2017. Johannesburg: National Institute for Communicable Diseases- Bulletin; 2016. Author details 1 Malaria Parasite Molecular Laboratory, Department of Biochemistry, Genetics and Microbiology, Institute for Sustainable Malaria Control, University of Pre‑ toria, Private Bag X20, Hatfield, 0028 Pretoria, South Africa. 2 Division of HIV, Infectious Diseases, and Global Medicine, Department of Medicine, University of California San Francisco, San Francisco, CA, USA. 3 Centre for Emerging Zoonotic and Parasitic Diseases, National Institute for Communicable Diseases, a Division of the National Health Laboratory Service, Gauteng, South Africa. 4 Wits Research Institute for Malaria, Faculty of Health Sciences,, University of Witwatersrand, Johannesburg, Gauteng, South Africa. Received: 31 August 2020 Revised: 5 February 2021 Accepted: 6 February 2021 Received: 31 August 2020 Revised: 5 February 2021 Accepted: 6 February 2021 Received: 31 August 2020 Revised: 5 February 2021 Accepted: 6 February 2021 Competing interests Th h d l h Competing interests The authors declare that they have no competing interests. Abbreviations D PC D DAPC: Discriminant analysis of principal components; IRS: Indoor residual spraying; KZN: Kwa-Zulu Natal; LD: Linkage disequilibrium; LMC: Limpopo Malaria Case; MOI: Multiplicity of infection; PCA: Principal component analysis; RDT: Rapid diagnostic tests. 4. Raman J, Morris N, Frean J, Brooke B, Blumberg L, Kruger P, et al. Review‑ ing South Africa’s malaria elimination strategy (2012–2018): progress, challenges and priorities. Malar J. 2016;15:438. 5. Malaria Elimination Strategic Plan for South. Africa 2019–2023 [Internet]. South African Department of Health. 2019. Conclusion h d In this study, the impact of continued malaria transmis- sion intensity on P. falciparum genetic diversity in the Vhembe District is demonstrated. The P. falciparum population is moderate to highly diverse and genetically complex, which is key and advantageous to the parasite’s evolution and survival. Thisdata could be informative as a reference point in evaluating the efficacy of strate- gic control interventions over time, aimed at eliminating residual malaria transmission in malaria transmission ‘hotspots’ in South Africa. Furthermore, this data can be used to identify imported cases and/or outbreaks, as well as monitor for the potential spread of antimalarial drug resistance. Linking data on P. falciparum genetic diversity from Vhembe/South Africa to that from neighbouring sub-Saharan countries in the E8 regional initiative would need to be investigated as the transmission dynamics in the region is not fully understood. Discussionh The fact that mean MOI remained sea- sonally stable may be a reflection of the contribution of complex infections to continued residual transmission in the Vhembe District. A major limitation of this study was that a large num- ber of samples were classified as ‘unknown’ and could not be linked to their district of origin, thereby leaving the geospatial analyses to a certain extent underpowered in most districts. Additionally, the majority of the samples coming from the Mutale district may have been influ- enced by a biased sampling plan from the onset based on the fact that samples were collected from a few selected clinics in a known hotspot area based on case incidence data. It was, therefore, not possible to get genetic rep- resentation of parasites from the other source districts and those seeded through importation from neighbour- ing high transmission settings reported in the province if any and what their contribution to the local transmission dynamics is. Some clones in an infection may exist at lower propor- tions than others due to either competitive suppression by other genotypes or possibly host specific selection due to immunity or receptor polymorphisms. In Plasmo- dium chabaudi, minor clones in mixed/multiple infec- tions may produce as many, or more, oocysts than they would have as a single clone infection [46], highlighting that competitive stress may increase transmission of cer- tain clones. Multiple distinct parasite clones are impli- cated in high gametocyte production and emergence of highly virulent and drug resistant parasite strains due to Hotspot areas in other low transmission settings, such as Malaysia have demonstrated opposite trends where Gwarinda et al. Malar J (2021) 20:96 Gwarinda et al. Malar J (2021) 20:96 Page 12 of 13 intense within-host competition [47–50]. While the rela- tionship between parasite density and MOI is complex, and may not be enough to explain possible within-host competition of parasite clones in individual infections in the Vhembe District, a detailed, longitudinal study of the contribution of specific clones to parasite transmissibility and virulence would therefore be important. References 1. WHO. World malaria report 2019. Geneva: World Health Organization; 2019. 2. WHO. Global technical strategy for malaria 2016–2030. Geneva: World Health Organization; 2015. 2. WHO. Global technical strategy for malaria 2016–2030. Geneva: World Health Organization; 2015. 3. Maharaj R, Raman J, Morris N, Moonasar D, Durrheim D, Seocharan I, et al. Epidemiology of malaria in South Africa: From control to elimination. S Afr Med J. 2013;103:779–83. 3. Maharaj R, Raman J, Morris N, Moonasar D, Durrheim D, Seocharan I, et al. Epidemiology of malaria in South Africa: From control to elimination. S Afr Med J. 2013;103:779–83. Authors’ contributions 9. Raman J, Gast L, Balawanth R, Tessema S, Brooke B, Maharaj R, et al. High levels of imported asymptomatic malaria but limited local transmission in KwaZulu-Natal, a South African malaria-endemic province nearing malaria elimination. Malar J. 2020;19:152. JR, LB and BG designed the study. HBG, JR and LB coordinated collection of the field samples and patient information. HBG and SKT processed the sam‑ ples and HBG analysed the data. HBG drafted the manuscript and SKT, JR, BG and LB revised the draft. All authors read and approved the final manuscript. 10. Adeola A, Ncongwane K, Abiodun G, Makgoale T, Rautenbach H, Botai J, et al. Rainfall trends and malaria occurrences in Limpopo Province, South Africa. Int J Environ Res Public Health. 2019;16:5156. Consent for publication bl h h d Consent to publish the data presented in this paper was obtained from the Limpopo Department of Health and the University of Pretoria. Availability of data and materials MMOD: an R library for the calculation of population differen‑ tiation statistics. Mol Ecol Resour. 2012;12:1158–60. 39. Jombart T, Devillard S, Balloux F. Discriminant analysis of principal components: a new method for the analysis of genetically structured populations. BMC Genet. 2010;11:94. 20. Carter TE, Malloy H, Existe A, Memnon G, Victor YS, Okech BA, et al. Genetic diversity of Plasmodium falciparum in Haiti: insights from micros‑ atellite markers. PLoS One. 2015;10:e0140416. 40. Mobegi VA, Loua KM, Ahouidi AD, Satoguina J, Nwakanma DC, Amambua-Ngwa A, et al. Population genetic structure of Plasmodium falciparum across a region of diverse endemicity in West Africa. Malar J. 2012;11:223. 21. Razak MRMA, Sastu UR, Norahmad NA, Abdul-Karim A, Muhammad A, Muniandy PK, et al. Genetic diversity of Plasmodium falciparum popula‑ tions in malaria declining areas of Sabah, East Malaysia. PLoS One. 2016;11:e0152415. 41. Murray L, Mobegi VA, Duffy CW, Assefa SA, Kwiatkowski DP, Laman E, et al. Microsatellite genotyping and genome-wide single nucleotide polymorphism-based indices of Plasmodium falciparum diversity within clinical infections. Malar J. 2016;15:275. 22. Bei AK, Niang M, Deme AB, Daniels RF, Sarr FD, Sokhna C, et al. Dramatic changes in malaria population genetic complexity in Dielmo and Ndiop, Senegal, revealed using genomic surveillance. J Infect Dis. 2018;217:622–7. 42. Nabet C, Doumbo S, Jeddi F, Konaté S, Manciulli T, Fofana B, et al. Genetic diversity of Plasmodium falciparum in human malaria cases in Mali. Malar J. 2016;15:353. 23. Amambua-Ngwa A, Jeffries D, Amato R, Worwui A, Karim M, Ceesay S, et al. Consistent signatures of selection from genomic analysis of pairs of temporal and spatial Plasmodium falciparum populations from The Gambia. Sci Rep. 2018;8:9687. 43. Conway DJ, Roper C, Oduola AM, Arnot DE, Kremsner PG, Grobusch MP, et al. High recombination rate in natural populations of Plasmodium falciparum. Proc Natl Acad Sci USA. 1999;96:4506–11. 44. Anthony TG, Conway DJ, Cox-Singh J, Matusop A, Ratnam S, Shamsul S, et al. Fragmented population structure of Plasmodium falciparum in a region of declining endemicity. J Infect Dis. 2005;191:1558–64. 24. Daniels R, Chang H-H, Séne PD, Park DC, Neafsey DE, Schaffner SF, et al. Genetic surveillance detects both clonal and epidemic transmission of malaria following enhanced intervention in Senegal. PLoS One. 2013;8:e60780. 45. Rice BL, Golden CD, Anjaranirina EJG, Botelho CM, Volkman SK, Hartl DL. Genetic evidence that the Makira region in northeastern Madagascar is a hotspot of malaria transmission. Malar J. 2016;15:596. 25. Availability of data and materials 13. Kyalo D, Amratia P, Mundia CW, Mbogo CM, Coetzee M, Snow RW. A geo- coded inventory of anophelines in the Afrotropical Region south of the Sahara: 1898–2016. Wellcome Open Res. 2017;2:57. The datasets supporting the conclusions of this article are available from the corresponding authors on reasonable request. Gwarinda et al. Malar J (2021) 20:96 Page 13 of 13 Page 13 of 13 14. Samuel M, Qwabe B, Dlamini D, Mabaso N, Manyawo Z, Zhikali J, et al. Malaria Vector Surveillance Report, South Africa, January–December 2018. Johannesburg: National Institute for Communicable Diseases- Bulletin; 2018. 32. Auburn S, Campino S, Miotto O, Djimde AA, Zongo I, Manske M, et al. Characterization of within-host Plasmodium falciparum diversity using next-generation sequence data. PLoS ONE. 2012;7:e32891. 33. Manske M, Miotto O, Campino S, Auburn S, Almagro-Garcia J, Maslen G, et al. Analysis of Plasmodium falciparum diversity in natural infections by deep sequencing. Nature. 2012;487:375. 15. Ukpe IS, Moonasar D, Raman J, Barnes K, Baker L, Blumberg L. Case management of malaria: treatment and chemoprophylaxis. S Afr Med J. 2013;103:793–8. 34. Mobegi VA, Duffy CW, Amambua-Ngwa A, Loua KM, Laman E, Nwakanma DC, et al. Genome-wide analysis of selection on the malaria parasite Plasmodium falciparum in West African populations of differing infection endemicity. Mol Biol Evol. 2014;31:1490–9. 16. Anderson TJ, Haubold B, Williams JT, Estrada-Franco § JG, Richardson L, Mollinedo R, et al. Microsatellite markers reveal a spectrum of population structures in the malaria parasite Plasmodium falciparum. Mol Biol Evol. 2000;17:1467–82. y 35. Agapow PM, Burt A. Indices of multilocus linkage disequilibrium. Mol Ecol Notes. 2001;1:101–2. 17. Auburn S, Barry AE. Dissecting malaria biology and epidemiology using population genetics and genomics. Int J Parasito. 2017;47:77–85. 36. Kamvar ZN, Tabima JF, Grünwald NJ. Poppr: an R package for genetic analysis of populations with clonal, partially clonal, and/or sexual repro‑ duction. PeerJ. 2014;2:e281. 18. Patel JC, Taylor SM, Juliao PC, Parobek CM, Janko M, Gonzalez LD, et al. Genetic evidence of importation of drug-resistant Plasmodium falciparum to Guatemala from the Democratic Republic of the Congo. Emerg Infect Dis. 2014;20:932. 37. Jombart T. adegenet: a R package for the multivariate analysis of genetic markers. Bioinformatics. 2008;24:1403–5. 19. Escalante AA, Ferreira MU, Vinetz JM, Volkman SK, Cui L, Gamboa D, et al. Malaria molecular epidemiology: lessons from the International Centers of Excellence for Malaria Research Network. Am J Trop Med Hyg. 2015;93:79–86. 38. Winter DJ. Availability of data and materials Roh M, Tessema S, Murphy M, Nhlabathi N, Mkhonta N, Vilakati S, et al. High genetic diversity of Plasmodium falciparum in the low transmission setting of the Kingdom of Eswatini. J Infect Dis. 2019;220:e1346-54. 46. Taylor LH, Walliker D, Read AF. Mixed–genotype infections of malaria parasites: within–host dynamics and transmission success of competing clones. Proc Biol Sci. 1997;264:927–35. 26. Tessema S, Wesolowski A, Chen A, Murphy M, Wilheim J, Mupiri A-R, et al. Using parasite genetic and human mobility data to infer local and cross- border malaria connectivity in Southern Africa. Elife. 2019;8:e43510. 47. Sondo P, Derra K, Lefevre T, Diallo-Nakanabo S, Tarnagda Z, Zampa O, et al. Genetically diverse Plasmodium falciparum infections, within-host competition and symptomatic malaria in humans. Sci Rep. 2019;9:127. y 27. Module M. Preparation of Rapid Diagnostic Tests (RDTs) for DNA extrac‑ tion v1.1. WWARN Procedure. 2011. 28. Plowe CV, Djimde A, Bouare M, Doumbo O, Wellems TE. Pyrimethamine and proguanil resistance-conferring mutations in Plasmodium falciparum dihydrofolate reductase: polymerase chain reaction methods for surveil‑ lance in Africa. Am J Trop Med Hyg. 1995;52:565–8. 48. Nassir E, Abdel-Muhsin A-MA, Suliaman S, Kenyon F, Kheir A, Geha H, et al. Impact of genetic complexity on longevity and gametocytogenesis of Plasmodium falciparum during the dry and transmission-free season of eastern Sudan. Int J Parasitol. 2005;35:49–55. 49. Bose J, Kloesener MH, Schulte RD. Multiple-genotype infections and their complex effect on virulence. Zoology. 2016;119:339–49. 29. Hofmann N, Mwingira F, Shekalaghe S, Robinson LJ, Mueller I, Felger I. Ultra-sensitive detection of Plasmodium falciparum by amplification of multi-copy subtelomeric targets. PLoS Med. 2015;12:e1001788. 50. Pollitt LC, Mideo N, Drew DR, Schneider P, Colegrave N, Reece SE. Compe‑ tition and the evolution of reproductive restraint in malaria parasites. Am Nat. 2011;177:358–67. 30. Awandu SS, Raman J, Bousema T, Birkholtz L-M. Ultralow-density Plasmodium falciparum Infections in African Settings. Clin Infect Dis. 2019;69:1463–4. 31. Liu Y, Tessema SK, Murphy M, Xu S, Schwartz A, Wang W, et al. Confirma‑ tion of the absence of local transmission and geographic assignment of imported falciparum malaria cases to China using microsatellite panel. Malar J. 2020;19:244. Publisher’s note Springer Nature remains neutral with regard to jurisdictional claims in pub‑ lished maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in pub‑ lished maps and institutional affiliations.
https://openalex.org/W3201553630
https://europepmc.org/articles/pmc8448308?pdf=render
English
null
The minimum effective concentration (MEC90) of ropivacaine for ultrasound-guided caudal block in anorectal surgery. A dose finding study
PloS one
2,021
cc-by
7,253
PLOS ONE PLOS ONE RESEARCH ARTICLE RESEARCH ARTICLE The minimum effective concentration (MEC90) of ropivacaine for ultrasound-guided caudal block in anorectal surgery. A dose finding study Xuehan Li1☯, Jun Li1☯, Pei Zhang1, Huifei Deng1, Mingan Yang2, Hongbo He3, Rurong WangID1* Xuehan Li1☯, Jun Li1☯, Pei Zhang1, Huifei Deng1, Mingan Yang2, Hongbo He3, Rurong WangID1* 1 Department of Anesthesiology, and Laboratory of Anesthesia and Intensive Care Medicine, West China Hospital of Sichuan University, Chengdu, Sichuan, China, 2 Division of Biostatistics & Epidemiology, School of Public Health, San Diego State University, San Diego, CA, United States of America, 3 Benign Coloproctological Diseases Center, West China Hospital of Sichuan University, Chengdu, Sichuan, China a1111111111 a1111111111 a1111111111 a1111111111 a1111111111 ☯These authors contributed equally to this work. * wangrurong@scu.edu.cn Patients Copyright: © 2021 Li et al. This is an open access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. 50 males and 51 females scheduled for anorectal surgery. Background Caudal epidural block (CEB) provides reliable anesthesia for adults undergoing anorectal surgery. Despite the widely utilization, the minimum effective concentration for 90% patients (MEC90) of ropivacaine for CEB remains unknown. Setting Operating room and postoperative recovery area of Chengdu Shangjin Nanfu Hospital, from October 2019 to January 2020. OPEN ACCESS Citation: Li X, Li J, Zhang P, Deng H, Yang M, He H, et al. (2021) The minimum effective concentration (MEC90) of ropivacaine for ultrasound-guided caudal block in anorectal surgery. A dose finding study. PLoS ONE 16(9): e0257283. https://doi.org/10.1371/journal. pone.0257283 Editor: Ehab Farag, Cleveland Clinic, UNITED STATES Editor: Ehab Farag, Cleveland Clinic, UNITED STATES To estimate MEC of ropivacaine for CEB in anorectal surgery. Received: October 15, 2020 Accepted: July 13, 2021 Published: September 17, 2021 Design A prospective dose-finding study using biased coin design up-and-down sequential method. Setting A prospective dose-finding study using biased coin design up-and-down sequential method. Peer Review History: PLOS recognizes the benefits of transparency in the peer review process; therefore, we enable the publication of all of the content of peer review and author responses alongside final, published articles. The editorial history of this article is available here: https://doi.org/10.1371/journal.pone.0257283 ☯These authors contributed equally to this work. Conclusions A concentration of 0.35% ropivacaine with a volume of 14ml provided a successful CEB in 90% of the male patients, while 0.353% ropivacaine with a volume of 12ml provided a suc- cessful CEB in 90% of the female patients. A concentration of 0.4% and a volume of 14ml for male and 12 ml for female would be successful in 99% of the patients. Results The MEC90 of ropivacaine for CEB were estimated to be 0.35% (95% CI 0.29 to 0.4%) for male and 0.353% (95%CI 0.22 to 0.4%) for female. By extrapolation to MEC in 99% of sub- jects (MEC99) and pooled adjacent violators algorithm (PAVA) adjusted responses, it would be optimal to choose 0.4% ropivacaine with a volume of 14ml for male and 12ml for female. Competing interests: The authors have declared that no competing interests exist. Trial registration Chictr.org.cn identifier: No. ChiCTR 1900024315. Interventions We conducted two independent biased coin design up-and down trials by genders. The con- centration of ropivacaine administered to the first patient of male and female were 0.25% with fixed volume of 14ml for male and 12ml for female patients based on our previous study. In case of failure, the concentration was increased by 0.05% in the next subject. Data Availability Statement: All relevant data are within the manuscript and its Supporting Information files. Data Availability Statement: All relevant data are within the manuscript and its Supporting Information files. 1 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block Otherwise, the next subject was randomized to a concentration 0.05% less with a probability of 0.11, or the same concentration with a probability of 0.89. Success was defined as com- plete sensory blockade of perineal area 15 min after the block evidenced by the presence of a lax anal sphincter and pain-free surgery. Otherwise, the next subject was randomized to a concentration 0.05% less with a probability of 0.11, or the same concentration with a probability of 0.89. Success was defined as com- plete sensory blockade of perineal area 15 min after the block evidenced by the presence of a lax anal sphincter and pain-free surgery. Funding: Dr Xuehan Li has no conflict of interest to declare. She received a grant from National Natural Science Foundation of China (Grant No. 81900064) and a grant from Science and Technology Support Project of Sichuan Province (No. 2020YJ0050) for this study. Dr Hongbo He has no conflict of interest to declare. He received a grant from Science and Technology Support Project of Sichuan Province (No. 2018SZ0113) for this study. Dr. Jun Li, Dr Pei Zhang, Dr Huifei Deng, Dr Mingan Yang and Dr Rurong Wang have no conflict of interest to declare and did not receive funds for this study. Main outcome measures The MEC of ropivacaine to achieve a successful CEB in 90%(MEC90) of the patients. PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 Patient enrollment After provided with written informed consent, patients undergoing hemorrhoidectomy or anal fistula resection surgery or anorectal polypectomy from October 2019 to January 2020 in Chengdu Shangjin Nanfu Hospital were prospectively enrolled into female or male group. Inclusion criteria were aged between 18 and 65 years old, American Society of Anesthesiolo- gists (ASA) status I to III, and body mass index between 18 and 30 kg/m2. Exclusion criteria were as follows: ultrasound showed that the sacral canal was narrow or occlusive (the antero- posterior diameter of the sacral hiatus less than 1.6mm [3]); other test drugs were taken within 3 months before the study was selected or participated in other clinical trials; allergic to amide local anesthetics, or contraindicated; patients with coagulopathy or taking anticoagulant; pre- existing neuropathy, chronic obstructive pulmonary disease, hepatic or renal failure, spinal disease; local infection in the patient’s caudal region; prior surgery or injury in the sacrococcy- geal region; oral administration of contraceptives during the previous week; pregnancy or lac- tation; inability to consent to the study. Introduction Perioperative pain management is vital for anorectal surgery, and caudal block may lower the postoperative complication by reducing the use of opioid analgesics and other systemic drugs. Besides, cauda block provides the possibility of patient-controlled epidural analgesia postoper- atively with few motor blocks. Ropivacaine, as a long-acting amide local anesthetic, shows a better sensory block while presents less motor block than bupivacaine and less central nerve toxicity and cardiotoxicity, and these characteristics make it the optimal reginal anesthetic agent for anorectal surgery, especially for ambulatory anorectal surgery [1]. Plenty of studies had reported how ropivacaine applied in caudal block, mostly with concentration of 0.1–0.5% and volume of 10-30ml, but the most appropriate dosage regiment remains unknown. The rising application of caudal block urges studies in local anesthetic volume and concentration, most of which were just sim- ple comparisons of two volume or concentration groups. Although Y Li et al. reported mini- mum effective concentration in 50% of patients (MEC50) of ropivacaine in caudal block by using Dixon’s up-and-down method, MEC90 remains unknown which might be of clinical sense. Our group has identified minimum effective volume in 90% of patients (MEV90) of ropivacaine with a fixed concentration 0.5% for caudal block in adults by applying a biased coin design (BCD) up-and-down method (UDM) (BCD-UDM) and reported a volume of 12.88 ml and 10.73ml ropivacaine 0.5% provided a successful caudal block in 90% of the male and female patients respectively and a volume of 14ml for male and 12 ml for female would be PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 2 / 14 PLOS ONE MEC90 of ropivacaine for caudal block successful in 99% of the patients [2]. Hence, we are exploring MEC90 of ropivacaine in caudal block for anorectal surgery with fixed volume of 14ml for male and 12ml for female patients in the present study. successful in 99% of the patients [2]. Hence, we are exploring MEC90 of ropivacaine in caudal block for anorectal surgery with fixed volume of 14ml for male and 12ml for female patients in the present study. Methods The study was approved by the Clinical Trial Ethics Committee of Chengdu Shangjin Nanfu hospital (No. 2019042506), and was registered on Chinese Clinical Trail Registry (No. ChiCTR 1900024315). PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 Ultrasound-guided caudal epidural block (CEB) After injection, the nee- dle was removed and the patient was turned to supine for further assessment. Block onset was evaluated by pinprick around the perineal area(S3 dermatome) and the existence of flaccid anal sphincter [6]. We defined the effective caudal block only if the pres- ence of a lax anal sphincter 15 minutes after the caudal injection and the patient had pain-free surgery without the need for rescue blocks including supplemental opioids, general anesthesia or local infiltration by the surgeon. After completion of the assessment at 15 min indicating the success of CEB, 1-2mg midazolam and 0.5-1ug/kgh dexmedetomidine were administered intravenously for maintenance of anesthesia. The block was considered ineffective if there was pain during surgery or the presence of a tight anal sphincter, and the patient received rescue blocks. The block was considered ineffective if there was pain during surgery or the presence of a tight anal sphincter, and the patient received rescue blocks. bl k l l l d f ll k d f Sensory block level was evaluated as follows: sensitivity to pinprick was tested from S3 to even L4 dermatomes by pricking the skin twice with a 26 G needle. The pinprick test was repeated at 5, 10, 15min following administration of ropivacaine and at the end of the surgery. Motor block was evaluated at the end of surgery according to the Bromage scale (0 = full flex- ion of feet and knees, 1 = just able to move knees, 2 = able to move feet only, and 3 = unable to move feet or knees) performed at 5, 10, 15min following administration of ropivacaine and at the end of the surgery. Ultrasound-guided caudal epidural block (CEB) No opioid analgesics or other analgesics was administered before or during the operation. The patient was routinely monitored since entering the preparing room, including electrocardiog- raphy, non-invasive blood pressure, pulse oximetry and supplemental oxygen (nasal cannulate at 4 l/min), an 18 G intravenous catheter was placed in the upper limb contralateral to the non-invasive blood pressure detect site. Fluid administration was controlled to 6–10 ml kg- 1h-1 in operation room. After preparation, patients were placed in a left lateral position, and ultrasound (M7, Mindray, Shenzhen, China) guided caudal block was performed by one expe- rienced anesthetist using the same ultrasound as follows [3, 4]: At first, the probe was placed in the middle of the sacrum and the transverse view (S1A Fig) showing the superficial sacrococcygeal ligament (SL) in between two sacral cornua, and the deeper sacral bone base. Between the sacrococcygeal ligament and the sacral bone is the sarcral hiatus, where the needle would be inserted to. Measurement of the distance from anterior edge of sacrococcygeal ligament to sacrum (line c), skin to anterior edge of sacral ligament distance (line a) were done. Then, the probe was turned 90 degrees to get longitudinal view (S1B Fig) and thickness of sacrococcygeal ligament (line d) was measured and then a 20G intravenous catheter with an inner stylet was inserted through the sacrococcygeal ligament into the sacral hiatus (S1C Fig). The caudal space was identified with the loss of resistance technique using saline. The block needle was visualized in real time to keep the advancement of needle tip beyond the apex of sacral hiatus limited to 5 mm to avoid dural puncture [5]. Unidirectional flow on color doppler was utilized to identify the success of a caudal block (S1D Fig). After negative aspiration, 1 ml of a solution containing 5ug epinephrine was administrated as a test dose. If after 1 min there was no evidence of intravascular injection, ropivacaine (10% Naro- pin; AstraZeneca, Sodertalje, Sweden) diluted with 0.9% w/v saline to achieve targeted PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 3 / 14 PLOS ONE MEC90 of ropivacaine for caudal block concentration without epinephrine was injected at the rate of 0.2 ml/s. After injection, the nee- dle was removed and the patient was turned to supine for further assessment. concentration without epinephrine was injected at the rate of 0.2 ml/s. PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 Results A total of 105 patients were enrolled in the study (53 males and 52 females, Fig 1 CONSORT flow chart). There were 3 male patients and 1 female patient were excluded for difficulties in needle insertion because of narrow sacral hiatus. 101 patients (50 males and 51 females) had CEB. There were 5 failed blocks in the male group and 6 in the female group. They all had pain during the incision or surgical operation but lax anal sphincter. The patients had painless sur- gery after rescue blocks. Patient characteristics are shown in Table 1 and in S1 Data sheet. Differences were shown in weight (p<0.001), height (p<0.001) and BMI (p<0.001) between male and female group. However, the other characters including age, ASA and types of surgery of male group were comparable to those of female group. As ultrasound measurement shown, female patients pre- sented a longer distance from the anterior edge of SL to sacrum (5.10±1.3 vs. 4.17±1.51, p = 0.001) and a narrower SL width (7.24[6.2 to 8.1] vs. 9.62[7.20 to 12.2], p<0.001) compared to male patients, while the distance from skin to anterior edge of SL and SL thickness showed no difference. The biased coin design up-and-down sequence is displayed in Fig 2. The MEC90 was 0.35% (95% CI 0.29 to 0.4%) for male and 0.353% (95%CI 0.22 to 0.4%) for female respectively. By further analysis, the MEC95 was estimated to be 0.375% (95% CI 0.34 to 0.4%) for male and 0.376 (95% CI 0.26 to 0.4%) for female; while the MEV99 was 0.395% (95% CI 0.393 to 0.4%) for male and 0.395 (95% CI 0.392 to 0.4%) for female. The observed response rates for each volume of ropivacaine are shown in Table 2. Also shown are the response rates adjusted by the pooled adjacent violators algorithm (PAVA) to generate monotonically non-decreasing response rates for the isotonic regression method. Of those successful blocks, there were 43 of 45 males and 42 of 45 females got success block at first attempt. CEB general characteristics and block complication data of successful caudal block are shown in Table 3. Anesthesia onset time showed no difference between groups, neither did operation time. While supplying effective analgesia and a lax anal sphincter, few motor block was reported in both groups (1 in male and 4 in female, the Bromage scale can be seen in S1 Data). Implementation and blinding Xuehan Li generated the random allocation sequence, Jun Li enrolled participants and assigned participants to interventions, and analysis was done by Mingan Yang who was blinded to the interventions. Statistics Data were collected and presented as median (interquartile range) and mean (SD) as appropri- ate. Mean (SD) values were analyzed by using the unpaired Student t test or Welch t test for different variances, median (interquartile) by using the Mann-Whitney U test. Categorical var- iables were reported as Number (proportion) and evaluated using Fisher’s exact or the X2 test where appropriate. For all tests, P < 0.05 was defined as statistically significant. Statistical analysis was performed using the R statistical software package, version 3.2.1 (2015 The R Foundation for Statistical Computing, Vienna, Austria; ISBN 3-900051-07-0, URL http://www.r-project.org) and SPSS 22 (SPSS Inc. USA). Biased coin design up-and-down sequential method (BCD-UDM) The first patient recruited received a concentration of 0.25% with fixed volume (14ml for male and 12ml for female), based on clinical practice and previous studies. Subsequently, if a patient had an inadequate block, the ropivacaine concentration was increased by 0.05% in the next subject. Following Stylianou et al. [7, 8], we randomize the next patient with probability b = (1-T)/T to the next lower volume and 1-b = 0.89 to the same volume, where T = 0.90 in the MEV90.If a patient had a successful block, the next subject was randomized with probability b = 0.11 to the next lower concentration and 1-b = 0.89 to the same concentration. Stylianou et al. [7–9] performed extensive trials and found that the estimated probability of toxicity associated with the recommended dose is stabilized with a sample size of at least 20 and best at over 40. Following this, we choose the sample size of 45 to accommodate potential dropout. To estimate MEC90, a minimum of 45 positive responses were required [7, 8]. Thus, we prospectively recruited patients until 45 successful blocks were accom- plished, and a set of 44 sealed envelopes (with the random volume assignments inside for successful blocks) were opened. The envelopes were prepared by a resident who took no further part in the study. The MEC90 was calculated using isotonic regression, and the 95% confidence interval (CI) was derived from the 2000 bootstrap replicates. Data were further analyzed using isotonic regression and bootstrapping CI to estimate the minimum effective concentration required to produce a successful block in 95% and 99% of patients (MEC95 and MEC99) [7, 8]. The observer also recorded noninvasive systemic arterial blood pressure, measured with an automatic cycling device, and heart rate (HR), from the electrocardiogram during and after the caudal injection and during the operation. Hypotension was defined as a decrease in sys- tolic blood pressure by 30% of the preanesthetic value or a systolic blood pressure less than 90 mm Hg. Hypotension was treated by administering ephedrine 3 mg or metaraminol 0.2 mg i. v. based on the HR of patients with increase infusion of crystalloid fluids. Bradycardia (<55 bpm) was treated by administering 0.3–0.5 mg atropine i.v. 4 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 Results The pain block extended to 7.33[6 to 9]h for male group and 7.14[3 to 9]h in female group postoperatively with a significant difference (p = 0.026). One case of bradycardia (2.22%) occurred in the female group during surgery which was relieved by intravenous atro- pine 0.3mg. 3 males (6.67%) and 4 females (8.89%) suffered urinary retention after operation PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 5 / 14 PLOS ONE MEC90 of ropivacaine for caudal block Fig 1. CONSORT flow chart. https://doi.org/10.1371/journal.pone.0257283.g001 Fig 1. CONSORT flow chart. https://doi.org/10.1371/journal.pone.0257283.g001 and were subjected to urethral catheterization. One case (2.22%) in male group complained with low back pain postoperatively with no need for further dealation. No other serious com- plications occurred in either group. and were subjected to urethral catheterization. One case (2.22%) in male group complained with low back pain postoperatively with no need for further dealation. No other serious com- plications occurred in either group. Sensory block level at the time of anesthesia on set and the end of surgery was shown in Fig 3. The dermatome was around S2 and S3 at the onset of anesthesia and showed a rising to higher dermatome level (S2-L4) after surgery. Discussion While high volumes of local anesthetic in CEB might cause a great increase in intracranial pressure and a high block level in lumbosacral nerve [15]. Thus, BCD-UDM was identified as a better way to investigate higher quantile EV or MEV, which had been used to explore MEV90 of ropivacaine in our previous study and was used to explore MEC90 of ropiva- caine in ultrasound-guided CEB in the present study. resulting from anatomical variation especially the sacral hiatus and sacral cornual variation [12], which have been reduced by ultrasound technique [4, 13]. This motivated researches on precise dose of local anesthetics for CEB. Li.et al. found MEC50 of ropivacaine for caudal anes- thesia was 0.296% in men and 0.389% in women with a fixed 20ml volume by utilizing Dixon’s up-and-down sequential allocation [14]. However, Dixon’s method remains as the main way to investigate MEV50 and MEC50 in most studies, which has been firstly used to study the con- centration of inhalational anesthetic agent required to prevent movement on surgical incision in 50% patients (ED50), also known as minimal alveolar concentration. ED95 of inhaled anes- thetic can be approximated from ED50 because of the steep relation of the inhaled anesthetics’ concentration-response. Nevertheless, it is relatively difficult to apply MEV50 and MEC50 of local anesthetic clinically. Although logistic or probit regression has been introduced to extrap- olate ED50 or MEV50 to higher quantiles, like ED95 or MEV95, criticization has aroused by stat- istician. While high volumes of local anesthetic in CEB might cause a great increase in intracranial pressure and a high block level in lumbosacral nerve [15]. Thus, BCD-UDM was identified as a better way to investigate higher quantile EV or MEV, which had been used to explore MEV90 of ropivacaine in our previous study and was used to explore MEC90 of ropiva- caine in ultrasound-guided CEB in the present study. Gender differences have been shown in many studies referring to many types of anesthesia and analgesia. Previous studies showed that topical anesthetic and opioid analgesics had greater effect in males than that in females, while some researchers found opiates showed the opposite [16, 17]. Furthermore, Asghar et al. reported higher volumes of sacral canal and cau- dal space in males than in females [18]. Discussion By utilizing the BCD-UDM, we found that the MEC90 of ropivacaine with fixed volume 14ml for male and 12ml for female in ultrasound-guided CEB was 0.35% for male and 0.353% for female. This is the first study to assess MEC90 of ropivacaine for CEB in adults. CEB is widely suggested in anorectal surgeries providing safe and effective anesthesia while cost saving and complication reduction [10, 11]. Despite these advantages of CEB, clinical anesthesiologists prefer not to use CEB in anorectal surgeries to avoid technical failure 6 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block Table 1. Characteristics of patients. Male(n = 50) Female(n = 51) Age(y) 38 [33.75 to 52] 38 [31.0 to 53.0] Weight (Kg) 70 [62 to 75.25] 55[52.0 to 60.0] Height(cm) 170.36±5.89 159.10±5.40 BMI 23.99±2.93 21.99±2.47 ASA I 40 41 II 10 10 Ultrasound measurement(mm) Skin to anterior edge of SL 13.02±2.87 13.98±4.23 Anterior edge of SL to sacrum 4.27±1.56 5.10±1.3 SL width 9.15[7.18,12.13] 6.9[6.2,8.1] SL thickness 4.07±1.31 4.28±0.99 Types of surgery Hemorrhoids 32 41 Perianal abscess 5 2 Anal fistula 12 8 Anal polyp 1 0 Values are mean ± SD, median [IQR] or number where appropriate. ASA indicates American Society of Anesthesiologists. SL indicates sacrococcygeal ligament. https://doi org/10 1371/journal pone 0257283 t001 https://doi.org/10.1371/journal.pone.0257283.t001 resulting from anatomical variation especially the sacral hiatus and sacral cornual variation [12], which have been reduced by ultrasound technique [4, 13]. This motivated researches on precise dose of local anesthetics for CEB. Li.et al. found MEC50 of ropivacaine for caudal anes- thesia was 0.296% in men and 0.389% in women with a fixed 20ml volume by utilizing Dixon’s up-and-down sequential allocation [14]. However, Dixon’s method remains as the main way to investigate MEV50 and MEC50 in most studies, which has been firstly used to study the con- centration of inhalational anesthetic agent required to prevent movement on surgical incision in 50% patients (ED50), also known as minimal alveolar concentration. ED95 of inhaled anes- thetic can be approximated from ED50 because of the steep relation of the inhaled anesthetics’ concentration-response. Nevertheless, it is relatively difficult to apply MEV50 and MEC50 of local anesthetic clinically. Although logistic or probit regression has been introduced to extrap- olate ED50 or MEV50 to higher quantiles, like ED95 or MEV95, criticization has aroused by stat- istician. PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 Values are mean ± SD, median [IQR] or number where appropriate. ASA indicates American Society of Anesthesiologists. SL indicates sacrococcygeal ligament. PLOS ONE PLOS ONE MEC90 of ropivacaine for caudal block Table 2. Observed and pooled-adjacent violators algorithm-adjusted response rates. Group Assigned concentration Successful blocks Trails Observed response rate PAVA-adjusted response rate Male 0.25 1 2 0.50 0.50 0.3 6 8 0.75 0.75 0.35 18 20 0.90 0.90 0.4 20 20 1 1 Female 0.25 5 7 0.71 0.71 0.3 11 13 0.85 0.85 0.35 17 19 0.89 0.89 0.4 12 12 1 1 PAVA indicates pooled-adjacent-violators algorithm. Table 2. Observed and pooled-adjacent violators algorithm-adjusted response rates. the volume/concentration of ropivacaine would affect the incidence of post anesthesia compli- cations and onset time of anesthesia. It has been reported that there is gender differences (including weight and height differ- ences) in the pharmacokinetics and pharmacodynamics of anesthetics [19–21]. Coincidence with other studies, there are significant differences in height and weight between female group and male group in this research (see Table 1 and Fig 1), which might be related to the gender gap of ropivacaine volume and concentration in caudal block. To date, weight and height may affect the anesthesia level of local anesthetics [22], and only few studies explored the correla- tion between the height and dose of local anesthetics in epidural block [23, 24]. Correlation analysis enrolling more patients is needed to figure out the specific relationship between height or weight and local anesthetics in caudal block. Besides, it has been reported higher volumes of sacral canal and caudal space in males than in females [18], which might affect the spread of ropivacaine and the duration of epidural anesthesia [25]. In our study, a longer distance from the anterior edge of SL to sacrum and a narrower SL width were presented in female group compared to male group (Table 1) which might result in the difference of anesthetic dosage maintaining a success caudal block in different gender. Despite plenty of studies reporting anatomy data by measuring cadavers [26] and dry sacral bones [27] in adults, this is the first study presenting ultrasound measurement of sacral canal in Chinese people. However, correla- tion analysis with more data is needed to explore the relationship between anatomical differ- ence of sacral canal and anesthetic effect. Ropivacaine, as a greater separation of sensory and motor effects and less cardiotoxic long acting amide local anesthetic than bupivacaine, has been widely used for caudal blocks in chil- dren and adults [28–30]. Values are mean ± SD, median [IQR] or number (proportion) where appropriate. Discussion This fact motivated researches to explore what is the dose of ropivacaine works in caudal block in consideration of gender-specificity, and our pre- vious study identified a relatively higher MEV90 for male than that for female of ropivacaine 0.5% in CEB consistently. Li et al. found lower MEC50 of ropivacaine for caudal anesthesia in men than in women [14]. However, we revealed similar MEC90 in males and in females which PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 7 / 14 PLOS ONE MEC90 of ropivacaine for caudal block might be resulted from the different fixed volume we applied in the study. In other words, the dosage (volume times concentration) for male is a little bit higher than that for female. Further Fig 2. The biased coin design up-and-down sequence. Graph of successful (solid circle) and failed (hollow circle) caudal epidural blocks with different ropivacaine concentrations in female (A) and male group (B). The horizontal line is the calculated minimum effective concentration of ropivacaine providing successful caudal block in 90% of patients (MEC90). https://doi.org/10.1371/journal.pone.0257283.g002 Fig 2. The biased coin design up-and-down sequence. Graph of successful (solid circle) and failed (hollow circle) caudal epidural blocks with different ropivacaine concentrations in female (A) and male group (B). The horizontal line is the calculated minimum effective concentration of ropivacaine providing successful caudal block in 90% of patients (MEC90). https://doi.org/10.1371/journal.pone.0257283.g002 https://doi.org/10.1371/journal.pone.0257283.g002 might be resulted from the different fixed volume we applied in the study. In other words, the dosage (volume times concentration) for male is a little bit higher than that for female. Further studies are needed to explore either gender differences of MEC90 and MEV90 in other epidural blocks and peripheral nerve blocks or the possible mechanisms, and whether the difference in PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 8 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 tps://doi.org/10.1371/journal.pone.0257283.t003 https://doi.org/10.1371/journal.pone.0257283.t003 PLOS ONE 0.1–0.5% ropivacaine was widely used to keep steady surgical Table 3. Caudal epidural block characteristics and block complications of successful caudal block. Table 3. Caudal epidural block characteristics and block complications of successful caudal block. Male(n = 45) Female(n = 45) Anesthesia Onset time(min) 9.33 [7 to 11] 8.95 [6.5 to 10] Operation time(min) 35.4 [25 to 42.5] 37 [30 to 45] Postoperative pain onset time(h) 7.33 [6 to 9] 7.14 [3 to 9] Motor block 1(2.22%) 4(8.89%) Bradycardia 0 1(2.22%) Urinary retention 3(6.67%) 4(8.89%) Back pain 1(2.22%) 0 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 9 / 14 9 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block Fig 3. Sensory dermatome level of patients subjected to successful caudal block. Sensory dermatome level of female (n = 45, A and C) and male (n = 45, B and D) patients administrated with different volume of ropivacaine at the onset of caudal block (hollow circle in A and B) and at the end of surgery (solid circle in C and D). L: lumbar segment; S: sacral segment. htt //d i /10 1371/j l 0257283 003 Fig 3. Sensory dermatome level of patients subjected to successful caudal block. Sensory dermatome level of female (n = 45, A and C) and male (n = 45, B and D) patients administrated with different volume of ropivacaine at the onset of caudal block (hollow circle in A and B) and at the end of surgery (solid circle in C and D). L: lumbar segment; S: sacral segment. https://doi.org/10.1371/journal.pone.0257283.g003 https://doi.org/10.1371/journal.pone.0257283.g003 anesthesia in caudal block [14, 31–35], and MEC50 of ropivacaine for caudal anesthesia was 0.296% in men and 0.389% in women [14]. In the present study, we chose 0.25% ropivacaine as an initial concentration to avoid deficient anesthesia and provide reliable MEC [36].There is few motor block in the this ropivacaine dose finding study while presenting effective pain block for over 5 hours (see Table 3). However, a significant difference has shown in postopera- tive pain onset time (7.33[6 to 9] vs. 7.14[3 to 9]) and which might related to the difference of dural surface area and anesthetic dose in gender [25, 37]. Further studies are needed to clarify this. PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 Conclusions In conclusion, we found that ultrasound-guided CEB using ropivacaine 0.35% with a volume of 14ml and 0.353% with a volume of 12 ml can provide successful caudal block in 90% of mid- dle-aged males and females respectively with normal body habitus. PLOS ONE It has been shown that urinary retention was the main complaint in patients undergoing CEB with no specific data reported, and 8% of male and 9.8% of female patients suffered from this in our study. We also revealed one case of bradycardia during operation. No other compli- cation was reported indicating that CEB is a relatively safe and effective anesthesia choice for anorectal surgery in adults. On the basis of the results of the pooled-adjacent violators algo- rithm-adjusted analysis in Table 2, it could be concluded that ropivacaine 0.4% 14ml for male patients and 12ml for female patients were both competent and safe in caudal block, which is PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 10 / 14 PLOS ONE MEC90 of ropivacaine for caudal block obviously lower than the dosage applied in previous studies [14, 38]. It has been shown a dose- dependent pattern in complication when epidural administrating of ropivacaine [1], and our study could prospectively lower the dosage of ropivacaine in caudal block therefore might reduce complications related to anesthesia. The limitation of our study is that all blocks were performed by one experienced anesthesi- ologist which might restrict the applicability of our results. Secondly, the definition of a suc- cessful caudal block lacks objective and quantitative indices. For example, anal sphincter tone detector would be an objective way to evaluate the degree of anal sphincter relaxation. Thirdly, ultrasound measurement is not accurate enough to explore correlation between anatomical difference of sacral canal and anesthetic effect, and Magnetic Resonance Imaging (MRI) has been suggested to be a better way [39]. Further studies are needed to solve these problems. Besides, all blocks in this study were performed in patients with BMI from 18 to 27 Kg/m2, which might limit the application in patients with high BMI. S2 Checklist. CONSORT checklist. (DOC) S1 Fig. Ultrasound image of sacral canal. (A) Transversal ultrasound image of sacral canal. (B) Longitudinal ultrasound image of sacral canal. Measurement of the distance from anterior edge of sacrococcygeal ligament (SL) to sacrum (line c), skin to anterior edge of sacral ligament distance (line a), sacrococcygeal ligament width (b) and thickness (line d) were done. (C) Lon- gitudinal ultrasound image of the needle in sacral canal. (D) Unidirectional flow on color doppler showing the injection of ropivacaine into sacral canal. (TIF) S1 Fig. Ultrasound image of sacral canal. (A) Transversal ultrasound image of sacral canal. (B) Longitudinal ultrasound image of sacral canal. Measurement of the distance from anterior edge of sacrococcygeal ligament (SL) to sacrum (line c), skin to anterior edge of sacral ligament distance (line a), sacrococcygeal ligament width (b) and thickness (line d) were done. (C) Lon- gitudinal ultrasound image of the needle in sacral canal. (D) Unidirectional flow on color doppler showing the injection of ropivacaine into sacral canal. (TIF) Supporting information Supporting information S1 Checklist. TREND statement checklist. (PDF) S2 Checklist. CONSORT checklist. (DOC) S1 Fig. Ultrasound image of sacral canal. (A) Transversal ultrasound image of sacral canal. (B) Longitudinal ultrasound image of sacral canal. Measurement of the distance from anterior edge of sacrococcygeal ligament (SL) to sacrum (line c), skin to anterior edge of sacral ligament distance (line a), sacrococcygeal ligament width (b) and thickness (line d) were done. (C) Lon- gitudinal ultrasound image of the needle in sacral canal. (D) Unidirectional flow on color doppler showing the injection of ropivacaine into sacral canal. (TIF) S1 Data. (XLSX) S1 File. MEC research plan. (DOC) S1 Checklist. TREND statement checklist. S1 Checklist. TREND statement checklist. (PDF) References 1. Simpson D, Curran MP, Oldfield V, Keating GM. Ropivacaine: a review of its use in regional anaesthe- sia and acute pain management. Drugs. 2005; 65(18):2675–717. https://doi.org/10.2165/00003495- 200565180-00013 PMID: 16392884 2. Xuehan Li PZ, Rurong Wang. The minimum effective volume (MEV90) of ropivacaine for ultrasound- guided caudal block in anorectal surgery. European journal of anaesthesiology. 2020; 37(e-Supplement 58):7–. 3. Chen CP, Wong AM, Hsu CC, Tsai WC, Chang CN, Lin SC, et al. Ultrasound as a screening tool for pro- ceeding with caudal epidural injections. Arch Phys Med Rehabil. 2010; 91(3):358–63. https://doi.org/10. 1016/j.apmr.2009.11.019 PMID: 20298824 4. Kao SC, Lin CS. Caudal Epidural Block: An Updated Review of Anatomy and Techniques. BioMed research international. 2017; 2017:9217145. https://doi.org/10.1155/2017/9217145 PMID: 28337460 5. Aggarwal A, Aggarwal A, Harjeet, Sahni D. Morphometry of sacral hiatus and its clinical relevance in caudal epidural block. Surg Radiol Anat. 2009; 31(10):793–800. https://doi.org/10.1007/s00276-009- 0529-4 PMID: 19578805 6. Siddiqui ZI, Denman WT, Schumann R, Hackford A, Cepeda MS, Carr DB. Local anesthetic infiltration versus caudal epidural block for anorectal surgery: a randomized controlled trial. Journal of clinical anesthesia. 2007; 19(4):269–73. https://doi.org/10.1016/j.jclinane.2006.12.004 PMID: 17572321 7. Stylianou M, Flournoy N. Dose finding using the biased coin up-and-down design and isotonic regres- sion. Biometrics. 2002; 58(1):171–7. https://doi.org/10.1111/j.0006-341x.2002.00171.x PMID: 11890313 8. Stylianou M, Proschan M, Flournoy N. Estimating the probability of toxicity at the target dose following an up-and-down design. Statistics in medicine. 2003; 22(4):535–43. https://doi.org/10.1002/sim.1351 PMID: 12590412 9. Ivanova A, Montazer-Haghighi A, Mohanty SG, Durham SD. Improved up-and-down designs for phase I trials. Statistics in medicine. 2003; 22(1):69–82. https://doi.org/10.1002/sim.1336 PMID: 12486752 10. Gudaityte J, Marchertiene I, Pavalkis D. Anesthesia for ambulatory anorectal surgery. Medicina (Kau- nas). 2004; 40(2):101–11. PMID: 15007268 11. Parrish AB, O’Neill SM, Crain SR, Russell TA, Sonthalia DK, Nguyen VT, et al. An Enhanced Recovery After Surgery (ERAS) Protocol for Ambulatory Anorectal Surgery Reduced Postoperative Pain and Unplanned Returns to Care After Discharge. World J Surg. 2018; 42(7):1929–38. https://doi.org/10. 1007/s00268-017-4414-8 PMID: 29318355 12. Sekiguchi M, Yabuki S, Satoh K, Kikuchi S. An anatomic study of the sacral hiatus: a basis for success- ful caudal epidural block. Clin J Pain. 2004; 20(1):51–4. https://doi.org/10.1097/00002508-200401000- 00010 PMID: 14668657 13. Abukawa Y, Hiroki K, Morioka N, Iwakiri H, Fukada T, Higuchi H, et al. Ultrasound versus anatomical landmarks for caudal epidural anesthesia in pediatric patients. BMC Anesthesiol. 2015; 15:102. https:// doi.org/10.1186/s12871-015-0082-0 PMID: 26169595 14. Li Y, Zhou Y, Chen H, Feng Z. Writing – review & editing: Mingan Yang, Rurong Wang. Writing – review & editing: Mingan Yang, Rurong Wang. Author Contributions Conceptualization: Xuehan Li, Hongbo He. Data curation: Xuehan Li. Formal analysis: Mingan Yang. Funding acquisition: Hongbo He. Investigation: Jun Li, Pei Zhang, Huifei Deng. Methodology: Xuehan Li. Conceptualization: Xuehan Li, Hongbo He. Data curation: Xuehan Li. Formal analysis: Mingan Yang. Funding acquisition: Hongbo He. Investigation: Jun Li, Pei Zhang, Huifei Deng. Methodology: Xuehan Li. 11 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block Project administration: Hongbo He. Project administration: Hongbo He. Software: Mingan Yang. Supervision: Rurong Wang. Visualization: Jun Li, Pei Zhang. Writing – original draft: Xuehan Li. Writing – review & editing: Mingan Ya Software: Mingan Yang. Supervision: Rurong Wang. Visualization: Jun Li, Pei Zhang. Writing – original draft: Xuehan Li. Writing – review & editing: Mingan Yang, Rurong Wang. References The effect of sex on the minimum local analgesic concentration of ropiva- caine for caudal anesthesia in anorectal surgery. Anesthesia and analgesia. 2010; 110(5):1490–3. https://doi.org/10.1213/ANE.0b013e3181d6bade PMID: 20304981 15. Lee B, Koo BN, Choi YS, Kil HK, Kim MS, Lee JH. Effect of caudal block using different volumes of local anaesthetic on optic nerve sheath diameter in children: a prospective, randomized trial. British journal of anaesthesia. 2017; 118(5):781–7. https://doi.org/10.1093/bja/aex078 PMID: 28486629 16. Robinson ME, Riley JL 3rd, Brown FF, Gremillion H. Sex differences in response to cutaneous anesthe- sia: a double blind randomized study. Pain. 1998; 77(2):143–9. https://doi.org/10.1016/S0304-3959(98) 00088-8 PMID: 9766832 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 12 / 14 PLOS ONE MEC90 of ropivacaine for caudal block 17. Chia YY, Chow LH, Hung CC, Liu K, Ger LP, Wang PN. Gender and pain upon movement are associ- ated with the requirements for postoperative patient-controlled iv analgesia: a prospective survey of 2,298 Chinese patients. Canadian journal of anaesthesia = Journal canadien d’anesthesie. 2002; 49 (3):249–55. https://doi.org/10.1007/BF03020523 PMID: 11861342 18. Asghar A, Naaz S. The volume of the caudal space and sacral canal in human sacrum. Journal of clini- cal and diagnostic research: JCDR. 2013; 7(12):2659–60. https://doi.org/10.7860/JCDR/2013/6287. 3724 PMID: 24551603 19. Ciccone GK, Holdcroft A. Drugs and sex differences: a review of drugs relating to anaesthesia. British journal of anaesthesia. 1999; 82(2):255–65. https://doi.org/10.1093/bja/82.2.255 PMID: 10365004 20. Campesi I, Fois M, Franconi F. Sex and gender aspects in anesthetics and pain medication. Handbook of experimental pharmacology. 2012(214):265–78. https://doi.org/10.1007/978-3-642-30726-3_13 PMID: 23027455 21. Maurer AJ, Lissounov A, Knezevic I, Candido KD, Knezevic NN. Pain and sex hormones: a review of current understanding. Pain management. 2016; 6(3):285–96. https://doi.org/10.2217/pmt-2015-0002 PMID: 26983893 22. Park WY, Massengale M, Macnamara TE. Age, height, and speed of injection as factors determining caudal anesthetic level, and occurrence of severe hypertension. Anesthesiology. 1979; 51(1):81–4. https://doi.org/10.1097/00000542-197907000-00019 PMID: 453598 23. Huang B, Huang Q, Hai C, Zheng Z, Li Y, Zhang Z. Height-based dosing algorithm of bupivacaine in spi- nal anaesthesia for decreasing maternal hypotension in caesarean section without prophylactic fluid preloading and vasopressors: study protocol for a randomised controlled non-inferiority trial. BMJ Open. 2019; 9(5):e024912. https://doi.org/10.1136/bmjopen-2018-024912 PMID: 31101694 24. Nofal WH, Abdelaal WA, Elfawal SM. Minimum effective volume of bupivacaine in spinal anesthesia for elective cesarean section. Does it differ with height? A non-randomized parallel study. Egyptian Journal of Anaesthesia. 2017; 33(1):67–72. 25. Higuchi H, Adachi Y, Kazama T. PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 References Factors affecting the spread and duration of epidural anesthesia with ropivacaine. Anesthesiology. 2004; 101(2):451–60. https://doi.org/10.1097/00000542-200408000- 00027 PMID: 15277929 26. Senoglu N, Senoglu M, Oksuz H, Gumusalan Y, Yuksel KZ, Zencirci B, et al. Landmarks of the sacral hiatus for caudal epidural block: an anatomical study. British journal of anaesthesia. 2005; 95(5):692–5. https://doi.org/10.1093/bja/aei236 PMID: 16155035 27. Crighton IM, Barry BP, Hobbs GJ. A study of the anatomy of the caudal space using magnetic reso- nance imaging. British journal of anaesthesia. 1997; 78(4):391–5. https://doi.org/10.1093/bja/78.4.391 PMID: 9135359 28. Ye F, Feng YX, Lin JJ. A ropivacaine-lidocaine combination for caudal blockade in haemorrhoidectomy. The Journal of international medical research. 2007; 35(3):307–13. https://doi.org/10.1177/ 147323000703500304 PMID: 17593858 29. Wiegele M, Marhofer P, Lonnqvist PA. Caudal epidural blocks in paediatric patients: a review and practi- cal considerations. British journal of anaesthesia. 2019; 122(4):509–17. https://doi.org/10.1016/j.bja. 2018.11.030 PMID: 30857607 30. Sanghvi C, Dua A. Caudal Anesthesia. StatPearls. Treasure Island (FL): StatPearls Publishing Stat- Pearls Publishing LLC.; 2020. 31. Da Conceicao MJ, Coelho L. Caudal anaesthesia with 0.375% ropivacaine or 0.375% bupivacaine in paediatric patients. British journal of anaesthesia. 1998; 80(4):507–8. https://doi.org/10.1093/bja/80.4. 507 PMID: 9640159 32. Khalil S, Campos C, Farag AM, Vije H, Ritchey M, Chuang A. Caudal block in children: ropivacaine com- pared with bupivacaine. Anesthesiology. 1999; 91(5):1279–84. https://doi.org/10.1097/00000542- 199911000-00018 PMID: 10551577 33. Ala-Kokko TI, Partanen A, Karinen J, Kiviluoma K, Alahuhta S. Pharmacokinetics of 0.2% ropivacaine and 0.2% bupivacaine following caudal blocks in children. Acta anaesthesiologica Scandinavica. 2000; 44(9):1099–102. https://doi.org/10.1034/j.1399-6576.2000.440911.x PMID: 11028730 34. Deng XM, Xiao WJ, Tang GZ, Luo MP, Xu KL. Minimum local analgesic concentration of ropivacaine for intra-operative caudal analgesia in pre-school and school age children. Anaesthesia. 2010; 65 (10):991–5. https://doi.org/10.1111/j.1365-2044.2010.06454.x PMID: 20659102 35. Ingelmo P, Frawley G, Astuto M, Duffy C, Donath S, Disma N, et al. Relative analgesic potencies of levobupivacaine and ropivacaine for caudal anesthesia in children. Anesthesia and analgesia. 2009; 108(3):805–13. https://doi.org/10.1213/ane.0b013e3181935aa5 PMID: 19224787 13 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block 36. Li Y, Zhu S, Bao F, Xu J, Yan X, Jin X. The effects of age on the median effective concentration of ropi- vacaine for motor blockade after epidural anesthesia with ropivacaine. Anesthesia and analgesia. 2006; 102(6):1847–50. https://doi.org/10.1213/01.ane.0000215999.60513.da PMID: 16717335 37. Fam MD, Potash A, Potash M, Robinson R, Karnell L, O’Brien E, et al. 36. Li Y, Zhu S, Bao F, Xu J, Yan X, Jin X. The effects of age on the median effective concentration of ropi- vacaine for motor blockade after epidural anesthesia with ropivacaine. Anesthesia and analgesia. 2006; 102(6):1847–50. https://doi.org/10.1213/01.ane.0000215999.60513.da PMID: 16717335 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283 September 17, 2021 References Skull Base Dural Thickness and Relationship to Demographic Features: A Postmortem Study and Literature Review. J Neurol Surg B Skull Base. 2018; 79(6):614–20. https://doi.org/10.1055/s-0038-1651501 PMID: 30456033 38. Casati A, Borghi B, Fanelli G, Cerchierini E, Santorsola R, Sassoli V, et al. A double-blinded, random- ized comparison of either 0.5% levobupivacaine or 0.5% ropivacaine for sciatic nerve block. Anesthesia and analgesia. 2002; 94(4):987–90, table of contents. https://doi.org/10.1097/00000539-200204000- 00039 PMID: 11916809 39. Forestier J, Castillo P, Finnbogason T, Lundblad M, Eksborg S, Lo¨nnqvist PA. Volumes of the spinal canal and caudal space in children zero to three years of age assessed by magnetic resonance imag- ing: implications for volume dosage of caudal blockade. British journal of anaesthesia. 2017; 119 (5):972–8. https://doi.org/10.1093/bja/aex280 PMID: 29028948 14 / 14
https://openalex.org/W2943692970
https://europepmc.org/articles/pmc6606988?pdf=render
English
null
Building Capacity for Cyberbiosecurity Training
Frontiers in bioengineering and biotechnology
2,019
cc-by
3,859
PERSPECTIVE published: 26 June 2019 doi: 10.3389/fbioe.2019.00112 PERSPECTIVE published: 26 June 2019 doi: 10.3389/fbioe.2019.00112 Building Capacity for Cyberbiosecurity Training Lauren C. Richardson*, Stephen M. Lewis and Ryan N. Burnette Merrick and Company, Arlington, TX, United States Cyberbiosecurity lies at the intersection of cybersecurity and biosecurity and addresses the protection of valuable biological material and associated information. As an emerging concept, cyberbiosecurity requires the integration of training strategies targeted to both current and future professionals; as well as an increased awareness in the wider stakeholder community. As the discrete discipline of cyberbiosecurity continues to develop, initial training efforts are likely to include workshops and specialized training that bridge the disciplines of information technology (IT) and life sciences. Potential threats, risks, and vulnerabilities will be defined, cooperative relationships formed, and collaborative solutions developed. As the scope of the training framework for assessing potential threats is adapted to various audiences, in-service trainings will ensure awareness and understanding of threats relevant to specific industries. This framework may also be incorporated into existing curricula across IT and science fields. The scope of potential threats is vast, and eventual specialization will likely fall within the realm of IT professionals, who carry the capability for action. In this paper, we identify stakeholders in the development of cyberbiosecurity training; discuss current training methods, educational requirements, and credentialing for professionals in cybersecurity, biosecurity, and life sciences; suggest mechanisms for integration of cyberbiosecurity training into existing training approaches; and discuss potential for future development of specialized professionals. Edited by: Diane DiEuliis, National Defense University, United States Reviewed by: Bruno Jorge Antunes Colaço, University of Trás-os-Montes and Alto Douro, Portugal Johannes Rath, University of Vienna, Austria Reviewed by: Bruno Jorge Antunes Colaço, University of Trás-os-Montes and Alto Douro, Portugal Johannes Rath, University of Vienna, Austria *Correspondence: Lauren C. Richardson lauren.richardson@merrick.com *Correspondence: Lauren C. Richardson lauren.richardson@merrick.com Specialty section: This article was submitted to Biosafety and Biosecurity, a section of the journal Frontiers in Bioengineering and Biotechnology Received: 11 January 2019 Accepted: 02 May 2019 Published: 26 June 2019 Citation: Richardson LC, Lewis SM and Burnette RN (2019) Building Capacity for Cyberbiosecurity Training. Front. Bioeng. Biotechnol. 7:112. doi: 10.3389/fbioe.2019.00112 Specialty section: This article was submitted to Biosafety and Biosecurity, a section of the journal Frontiers in Bioengineering and Biotechnology Keywords: cyberbiosecurity, biosecurity, cybersecurity, training, risk, threat, biosafety, capacity building (including competencies) Keywords: cyberbiosecurity, biosecurity, cybersecurity, training, risk, threat, biosafety, capacity building (including competencies) INTRODUCTION Received: 11 January 2019 Accepted: 02 May 2019 Published: 26 June 2019 Received: 11 January 2019 Accepted: 02 May 2019 Published: 26 June 2019 Citation: Richardson LC, Lewis SM and Burnette RN (2019) Building Capacity for Cyberbiosecurity Training. Front. Bioeng. Biotechnol. 7:112. doi: 10.3389/fbioe.2019.00112 Cyberbiosecurity is a new, multidisciplinary concept with potentially significant impacts on the bioeconomy. Cyberbiosecurity addresses the potential for actual malicious destruction, misuse, or exploitation of valuable information, processes, and material at the interface of the life sciences and digital worlds, requiring an understanding of both (Richardson et al., 2019). Though the scope and definition of potential components continues to be refined and expanded, a common language and framework for the training and growth of a cadre of professionals is needed. Here, we propose a potential pathway for the development of cyberbiosecurity training. IDENTIFYING CYBERBIOSECURITY STAKEHOLDERS industry training programs. Further, many experts in the field of information technology obtain their primary education and experience through informal, hands-on training in one of a few domains, such as networking, cybersecurity, development, or systems engineering. With respect to cybersecurity training, many professionals also get their experience on the job; that being said, the International Information System Security Certification Consortium (ISC²) offers both training and a credentialing system aimed at standardizing topics of expertise, including security and risk management, asset security, security operations, security assessment and testing. These subjects are deeply congruent with the training and on-the-job experience offered within the fields of biorisk management and security. This intersection of cybersecurity and biosecurity has the potential to affect organizations in multiple different fields, from agriculture and manufacturing to healthcare. Though many stakeholders possess a potential interest in the outcomes of cyberbiosecurity, a relatively small subset of individuals are well- suited to its execution. Due to the multidisciplinary nature of this field, those who conduct assessment, protection, and mitigation of cyberbiosecurity vulnerabilities should be well-versed in both the life sciences and information technology. Today, biosecurity typically falls under the purview of institutional security and biosafety professionals, working together with external biosecurity assessors. It is generally understood that biosecurity requires an understanding of applicable assets (i.e., valuable biological materials and associated data) as well as an understanding of the threat landscape (e.g., negligent scientists without malicious intent, actors with targeted intent of theft or destruction for specific gain, and anarchic disruptors intent on disturbance of the system or organization). Cybersecurity is maintained at an institutional level by information technology professionals with myriad foundational knowledge bases in network security, systems engineering, on-site training in specific protection of systems within an organization. In the life sciences, biosecurity training has historically been comprised of a varied and blended approach of teaching methodologies, including traditional classroom-based, non- traditional classroom-based (e.g., active learning, hands-on workshops), web-based/ online/ on-demand modules, train- the-trainer, on-the-job training, and others. Deciding which training methods to employ rests largely on considerations of (1) expected mastery of content and (2) proficiency of employing the information beyond the training. Further, the type of training content plays a significant role in dictating appropriate training approaches, frequency, and duration. As science-based disciplines with a backbone in the biological sciences, biosafety and biosecurity benefit from serving a niche community of professionals and students. IDENTIFYING CYBERBIOSECURITY STAKEHOLDERS Like cybersecurity, the foundation of both resides in the broader discipline of risk management; biosafety is in fact a scientific-oriented field of risk assessment, mitigation, and management. Biosecurity, meanwhile, finds its roots in the field of threat assessment and management. Combined, the two disciplines converge at overall biorisk management (Burnette, 2013; Salerno and Gaudioso, 2015). Training in these areas has been largely developed by trade practitioners and official and unofficial repositories of training content; programs are maintained by professional and international organizations (e.g., ABSA International, International Federation of Biosafety Organizations). Effective organization of biosecurity training—as well as the training approaches themselves—remains in development (Minehata et al., 2013; Nixdorff, 2013). Developing professionals in this nascent field requires training that draws—at least initially—from disparate disciplines within the life sciences and information technology. An individual with a thorough understanding of information technology and cybersecurity, plus a background in biological sciences, can be taught the basic tenets of risk, threat, and vulnerability assessment to achieve a comprehensive cyberbiosecurity base of knowledge. STATUS OF CURRICULA IN THE CYBERSECURITY AND BIORISK MANAGEMENT FIELDS Training in the field of information technology is varied but well- established. While it is certainly possible to become an expert in one of the myriad IT fields via traditional education (i.e., university or vocational training programs), it is not required: many pathways and opportunities exist toward becoming a trained expert in one of the disciplines within the broader field of IT. Depending on the IT discipline in which one wishes to specialize, there are a number of training programs designed to teach individuals with little to no experience. In a traditional academic environment, individuals may choose to major in a computer engineering program, specializing in one of a range of disciplines, from network engineering to software development. Unlike the life sciences, however, IT expertise can also be gained through a less formal path: an individual may choose to attend a training program hosted by a non-academic organization (e.g., Computing Technology Industry Association). Individuals are also able to specialize in cybersecurity through academic and Citation: Citation: Richardson LC, Lewis SM and Burnette RN (2019) Building Capacity for Cyberbiosecurity Training. Front. Bioeng. Biotechnol. 7:112. doi: 10.3389/fbioe.2019.00112 June 2019 | Volume 7 | Article 112 Frontiers in Bioengineering and Biotechnology | www.frontiersin.org Building Capacity for Cyberbiosecurity Training Richardson et al. Frontiers in Bioengineering and Biotechnology | www.frontiersin.org CONVERGENCE OF DISPARATE PROFESSIONAL FIELDS AND CURRICULA A cyberbiosecurity professional is a practitioner with requisite foundational understanding of biological science principles and practice, fluency in IT lexicon and management, and concept mastery of risk and threat assessment. While this is an appropriate foundation for the cyberbiosecurity professional, additional understanding of a relevant field of practice (e.g., healthcare, pharmaceuticals manufacture) will be required for comprehensive understanding of field-specific vulnerabilities, as well as the ability to develop and promote mitigation strategies to address risks and threats to applicable assets. An ideal candidate may be an individual with a university degree in biology, or they June 2019 | Volume 7 | Article 112 Frontiers in Bioengineering and Biotechnology | www.frontiersin.org 2 Building Capacity for Cyberbiosecurity Training Richardson et al. that provide foundations toward these credentials. Recently, ABSA International has undertaken an exploratory stance on the development of a biosecurity credentialing program somewhat analogous to the RBP and CBSP. However, with the exception of the IFBA certificate in biosecurity, no standardized biosecurity curricula or credential has been developed and implemented. This is in part due to the fact that biosafety has been a recognized scientific discipline for several decades, during which time biosecurity, as a discrete field of practice, remains inadequately defined. may possess a combination of technical and professional training in IT, post-graduate training in biorisk management, and on- the-job training in cybersecurity. These unique and historically disconnected disciplines are rapidly converging in many sectors. Despite the recent emergence of cyberbiosecurity as a discrete discipline, many professionals possess overlapping skill sets. Integration Into Existing Training Integration Into Existing Training It stands to reason that the general field of information technology and cybersecurity is substantially larger that the field of biorisk management. This is especially true with regard to the number of extant professionals, curricula, and credentialing programs; as well as their overall applicability and integration into innumerable industries. In short, IT touches almost every aspect of daily existence. The same is not necessarily true for biorisk management, which remains a highly-specialized field of practice in discrete environments. From this, it can be inferred that incorporating elements of cybersecurity training into life sciences and biorisk management training would be a logical first step toward integrating seemingly disparate curricula. This argument is bolstered in the U.S. by the fact that the U.S. Federal Select Agent Program has stringent requirements surrounding appropriate access of information regarding biological select agents and toxins. This requires institutions with biological select agents and toxins to conform END-STATE OF SUCCESSFUL CONVERGENCE The professional development of specialists in this field will likely be similar to that of similar risk- and threat-based professions in the sciences, such as biosafety or industrial hygiene. Professionals in these fields typically receive training that includes university education in a basic science, post-secondary training in the field, and on-the-job training specific to their organization and position. Though large organizations may be well-served to employ specialized cyberbiosecurity professionals, it is likely most entities will have neither the resources nor the need for full-time employment, and the pool of available personnel will remain small. Need for Awareness and Definition Need for Awareness and Definition Today, there is limited awareness of concepts associated with cyberbiosecurity and their potential impacts on the bioeconomy. Significant change is required to move to an end state in which comprehensive management of cyberbiosecurity threats is integrated into existing organizations and systems. In the initial stages, this includes raising awareness regarding risks, threats, and vulnerabilities associated with cyberbiosecurity across many disparate sectors. Professionals within the risk and threat assessment communities are valuable allies and assets in identifying concepts, strategizing for integration, and sculpting the practice of cyberbiosecurity. Like similar fields, the specialist is not the only player with significant impact: biosafety, biosecurity, and cybersecurity professionals not specialized in cyberbiosecurity will potentially play a much larger role than the specialist, as they will be working on the front lines to recognize and address issues that threaten the science, data, and automation interface with the workforce and the public. Much like the executor of mitigations and corrective actions following a biosecurity audit, these professionals will likely bear the responsibility for following through on necessary measures to ensure sufficient cybersecurity within an organization or facility. Important first steps have been taken in assessment of the potential impacts on the bioeconomy (Murch et al., 2018; Peccoud et al., 2018), definition of the threat landscape (Richardson et al., 2019), and assembly of professionals to begin to describe the field (Murch, 2017). Additional efforts are still needed: some will be described throughout this series, but more discourse is required to define the needs, impacts, and limitations of the field. Though cyberbiosecurity is not a fully- established field, integration of many of the concepts described can be easily integrated into existing training at the universities, technical trainings, and professional continuing education across related fields. To achieve this end-state, scientific, IT, and security professionals must understand the requirements for and consequences of compliance with protocols and systems directed to address cyberbiosecurity. Just as scientists receive training in and comply with practices and policies to ensure biosafety, biosecurity, and cybersecurity as appropriate to their positions, they should also receive some degree of training in cyberbiosecurity. 1(2005). Possession, Use, and Transfer of Select Agents and Toxins, in 7 § 331. United States Code of Federal Regulations. 2(2005). Possession, Use, and Transfer of Select Agents and Toxins, in 9 § 121., United States Code of Federal Regulations. 3(2005). Select Agents and Toxins, in 42 § 73., United States Code of Federal Regulations. CREDENTIALING Credentialing frameworks may need to be designed and implemented in order to identify and educate interested practitioners working within the emerging field of cyberbiosecurity. There is currently a high barrier to learning concepts in each of the cybersecurity and biosecurity disciplines as independent entities; interested parties willing to take the steps toward an applied career in cyberbiosecurity will need to understand the unique challenges that exist within both disciplines. The implementation of credentialing systems may be beneficial toward standardization of the knowledge base required to be an expert in the field. There are also sub-fields of each discipline ostensibly more relevant to the emergence of cyberbiosecurity (e.g., bioinformatics, network security, sequence origin identification, cloud laboratories, machine learning). These sub-fields could be used to develop a credentialing framework (distinct from existing frameworks today) via employing each component as separate training module. Alternatively, it may be prudent for leaders in this emerging field to partner with existing and well-established organizations in cybersecurity credentialing (e.g., International Information System Security Certification Consortium) to develop and implement a cyberbiosecurity training program. At the time of this writing, there is no credentialing system established for biosecurity: it remains in development by organizations like the American Biological Safety Association. Discrete training courses and workshops could also be implemented as a starting point to introduce the need for a credential, as well as to receive support from cybersecurity and biosecurity experts. CURRICULUM DEVELOPMENT A significant challenge in the burgeoning field of cyberbiosecurity is the development of a curriculum relevant from both discipline and market perspectives. It is reasonable to assume that curricula will be driven by both technical needs (e.g., discrete and relevant content representative of the needs of practitioners) and by the market pool of would-be professionals and students supporting the industry. Given the breadth of existing curriculum in the fields of biosafety, biosecurity, and cybersecurity, it stands to reason that a comprehensive requirements identification process can be conducted to cross- reference the three disparate disciplines at technical and content levels. Further, this requirements development process is likely to reveal substantial information about the market itself. It is anticipated that many independent requirements already in existence (such as biosafety and cybersecurity curricula), will reveal common, logically-linked themes. However, new requirements not currently captured in any singular discipline are likely to be identified; new content will have to be developed to constitute a body of knowledge representative of the field as it is developing today, with a focus on future development. Like many developing fields, the establishment of instructors, trainers, and teaching professionals capable of maintaining a curriculum focused on industry needs is likely to be one of the more challenging aspects of training in the cyberbiosecurity field; the general lack of professionals who are equally expert in the biological sciences and cybersecurity practices speaks to this challenge. This is also demonstrated by the fact that biosecurity has yet to be adequately codified in the fields it touches (such as laboratories, agriculture, and personalized medicine, among others). The result is a general lack of professionals who can justify their status as a “biosecurity professional.” Often, credentials help their respective fields maintain their relevance. STANDARDIZATION OF PROFESSIONAL TRAINING Standardization of professional training—often resulting in credentialing—is well-established in the fields of biosafety and cybersecurity. ABSA International (formerly the American Biological Safety Association)—in conjunction with the American Society for Microbiology— has developed and maintained dual credentialing programs for biosafety professionals: the Registered Biosafety Professional (RBP) and the Certified Biological Safety Professional (CBSP) programs are experience and exam-based, respectively. Similarly, the International Federation of Biosafety Associations (IFBA) offers credentials in both biosafety and biosecurity. Both of these organizations offer a variety of training programs and curricula June 2019 | Volume 7 | Article 112 Frontiers in Bioengineering and Biotechnology | www.frontiersin.org 3 Building Capacity for Cyberbiosecurity Training Richardson et al. with a certain threshold of cybersecurity 1,2,3. An achievable goal in support of awareness and definition—as well as in support of building a developing repository of curricula—is to provide existing, relevant cybersecurity training to professionals in the biorisk management field. For example, we see Registered Biological Safety Professional (RBP) and/or Certified Biological Safety Professional (CBSP) listed as a requirement within job descriptions for biosafety personnel. Accordingly, it is often an expectation that qualified teaching staffhave the same credentials. While analogous professional biosecurity credentials will be considered, it is premature to assume this credential will offer any specialization toward cybersecurity. Cybersecurity training is widely available via academic and industry-led curricula. There are also myriad massive online open courses (MOOC) available through credible services, some with linkages to universities. Additionally, many universities are offering formal education, including master’s programs via remote, online programs; for which accessibility and affordability are key components. As the demand for cybersecurity experts at the intersection of IT and life sciences continues to grow, it is not difficult to imagine that cyberbiosecurity courses will become popular offerings at online and traditional universities. THE PATH FORWARD A new discipline is not built in a matter of months: it grows organically from existing, related fields, and is supported by advocates and experts who recognize its significance and distinction. Additional workshops, papers, and open fora will encourage collaboration for further definition of relevant concepts. Introduction of these concepts should be presented at various professional symposia and conferences in order to raise awareness, introduce ideas for integration, and bring together interested individuals. From these interested parties, a working group may consolidate in order to develop educational materials that can be integrated into professional and academic organizations. A working group with experts from multiple fields will define gaps and areas for integration across sectors and personnel June 2019 | Volume 7 | Article 112 Frontiers in Bioengineering and Biotechnology | www.frontiersin.org 4 Building Capacity for Cyberbiosecurity Training Richardson et al. within organizations—potentially leading to the development of a formalized cyberbiosecurity curriculum. A well-defined curriculum may be easily integrated into an academic or technical training system, as appropriate. At this stage, a credentialing mechanism is likely to emerge; however, it is challenging to predict whether this curriculum and credentialing system will fall within the scope of the life sciences or IT. Foundational elements of a cyberbiosecurity credentialing framework are currently in development by thought leaders spanning both IT and life sciences disciplines. The biosecurity credential, currently under evaluation by ABSA International, accounts for cybersecurity elements as a basis for and component of an industry credentialing program. Specifications for a credentialing framework will be further developed and include core competencies, such as physical security, regulations and compliance, biorisk management, secure network architecture, identity management, disaster recovery, and security operations in life sciences facilities. as well as affected stakeholders, is required. Professionals in cyberbiosecurity will require not only expertise and training in science and technology concepts, but also the ability to effectively execute a new form of technical communication across disciplines and organizations to achieve comprehensive solutions. FUNDING Merrick and Company provided indirect funding support for this paper by way of employment of the authors. No additional funding was provided for this paper by Merrick and Company or any other entity. Concepts addressed in cyberbiosecurity span myriad disciplines, so an open dialogue between subject matter experts, AUTHOR CONTRIBUTIONS LR, SL, and RB contributed conception and wrote sections of the manuscript. All authors contributed to manuscript revision, read, and approved the submitted version. Copyright © 2019 Richardson, Lewis and Burnette. This is an open-access article distributed under the terms of the Creative Commons Attribution License (CC BY). The use, distribution or reproduction in other forums is permitted, provided the original author(s) and the copyright owner(s) are credited and that the original publication in this journal is cited, in accordance with accepted academic practice. No use, distribution or reproduction is permitted which does not comply with these terms. June 2019 | Volume 7 | Article 112 REFERENCES Peccoud, J., Gallegos, J. E., Murch, R., Buchholz, W. G., and Raman, S. (2018). Cyberbiosecurity: from naive trust to risk awareness. Trends Biotechnol. 36, 4–7. doi: 10.1016/j.tibtech.2017.10.012 Burnette, R. (2013). Biosecurity: Understanding, Assessing, and Preventing the Threat. Hoboken, NJ: John Wiley & Sons. Richardson, L. C., Connell, N. D., Lewis, S. M., Pauwels, E., and Murch, R. S. (2019). Cyberbiosecurity: a call for cooperation in a new threat landscape. Front. Bioeng. Biotechnol. 7:99. doi: 10.3389/fbioe.2019.00099 Minehata, M., Sture, J., Shinomiya, N., and Whitby, S. (2013). Implementing biosecurity education: approaches, resources and programmes. Sci. Eng. Ethics 19, 1473–1486. doi: 10.1007/s11948-011- 9321-z Salerno, R. M., and Gaudioso, J. (2015). Laboratory Biorisk Management: Biosafety and Biosecurity. Boca Raton, FL: CRC Press. Murch, R. S. (eds.). (2017). Securing the Bioeconomy – Cyberbiosecurity Workshop. (Arlington). Conflict of Interest Statement: LR, SL, and RB were employed by Merrick and Company. Murch, R. S., So, W. K., Buchholz, W. G., Raman, S., and Peccoud, J. (2018). Cyberbiosecurity: an emerging new discipline to help safeguard the bioeconomy. Front. Bioeng. Biotechnol. 6:39. doi: 10.3389/fbioe.2018. 00039 Copyright © 2019 Richardson, Lewis and Burnette. This is an open-access article distributed under the terms of the Creative Commons Attribution License (CC BY). The use, distribution or reproduction in other forums is permitted, provided the original author(s) and the copyright owner(s) are credited and that the original publication in this journal is cited, in accordance with accepted academic practice. No use, distribution or reproduction is permitted which does not comply with these terms. Nixdorff, K. (2013). Education for life scientists on the dual-use implications of their research: commentary on implementing biosecurity education: approaches, resources and programmes. Sci. Eng. Ethics 19, 1487–1490. doi: 10.1007/s11948-013- 9478-8 June 2019 | Volume 7 | Article 112 Frontiers in Bioengineering and Biotechnology | www.frontiersin.org 5
https://openalex.org/W2019509877
https://europepmc.org/articles/pmc3967532?pdf=render
English
null
White matter integrity is associated with alcohol cue reactivity in heavy drinkers
Brain and behavior
2,013
cc-by
10,286
Funding Information This project was funded by NIAAA grants 5R01AA012238 and 5R01AA014886 to Hutchison and by NIBIB grant 1R01EB006841 to Calhoun. Monnig received support from NIAAA institutional training grant 1T32AA01818-01A through the Center on Alcoholism, Substance Abuse, and Addictions (CASAA) and by NIAAA individual fellowship 1F31AA021631-01. Received: 2 May 2013; Revised: 17 November 2013; Accepted: 25 November 2013 Received: 2 May 2013; Revised: 17 November 2013; Accepted: 25 November 2013 doi: 10.1002/brb3.204 white matter on the cellular level by increasing oxidative stress (Crews and Nixon 2009; Fernandez-Lizarbe et al. 2009; Pascual et al. 2011) and downregulating genes criti- cal to myelination (Lewohl et al. 2000; Liu et al. 2007). A recent meta-analysis of magnetic resonance imaging (MRI) studies comparing white matter volume in AUD and healthy control groups found a significant effect size of g = 0.304 for the white matter volume deficit associ- ated with AUD diagnosis (Monnig et al. 2012b). Individ- uals with AUDs exhibit neuropsychological impairment in ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. This is an open access article under the terms of the Creative Commons Attribution License, which permits use, distribution and reproduction in any medium, provided the original work is properly cited. White matter integrity is associated with alcohol reactivity in heavy drinkers 1Mind Research Network, Albuquerque, 87106 New Mexico 2University of New Mexico, Albuquerque, 87106 New Mexico 3University of Colorado, Boulder, 80309 Colorado Correspondence Correspondence Kent E. Hutchison, Department of Psychology D-244, University of Colorado, Boulder, CO 80309. Tel: 303-492-8662; Fax: 303-492-2967; E-mail: kent.hutchison@colorado.edu Keywords y Alcohol use disorders, diffusion tensor imaging, functional magnetic resonance imaging, tract-based spatial statistics, white matter Neuroimaging studies have shown that white matter damage accompanies excessive alcohol use, but the functional correlates of alcohol-related white mat- ter disruption remain unknown. This study applied tract-based spatial statistics (TBSS) to diffusion tensor imaging (DTI) data from 332 heavy drinkers (mean age = 31.2  9.4; 31% female) to obtain averaged fractional anisotropy (FA) values of 18 white matter tracts. Statistical analyses examined correlations of FA values with blood-oxygenation-level-dependent (BOLD) response to an alcohol taste cue, measured with functional magnetic resonance imaging (fMRI). FA values of nine white matter tracts (anterior corona radiata, body of corpus callosum, cingulate gyrus, external capsule, fornix, inferior frontooccipital fas- ciculus, posterior corona radiata, retrolenticular limb of internal capsule, and superior longitudinal fasciculus) were significantly, negatively correlated with BOLD activation in medial frontal gyrus, parahippocampal gyrus, fusiform gyrus, cingulum, thalamus, caudate, putamen, insula, and cerebellum. The inverse relation between white matter integrity and functional activation during the alcohol taste cue provides support for the hypothesis that lower white mat- ter integrity in frontoparietal and corticolimbic networks is a factor in loss of control over alcohol consumption. Brain and Behavior 2014; 4(2): 158–170 doi: 10.1002/brb3.204 White matter integrity is associated with alcohol cue reactivity in heavy drinkers Mollie A. Monnig1,2, Rachel E. Thayer3, Arvind Caprihan1, Eric D. Claus1,2, Ronald A. Yeo1,2, Vince D Calhoun1,2 & Kent E Hutchison3 White matter integrity is associated with alcohol cue reactivity in heavy drinkers Mollie A. Monnig1,2, Rachel E. Thayer3, Arvind Caprihan1, Eric D. Claus1,2, Ronald A. Yeo1,2, Vince D. Calhoun1,2 & Kent E. Hutchison3 1Mind Research Network, Albuquerque, 87106 New Mexico 2University of New Mexico, Albuquerque, 87106 New Mexico 3University of Colorado, Boulder, 80309 Colorado Introduction Alcohol is the most readily available and commonly abused drug across all age groups in the United States (Substance Abuse and Mental Health Services Administra- tion 2010), making alcohol-related brain damage a press- ing public health concern. In particular, white matter damage is a signature injury of alcohol use disorders (AUDs; Harper and Kril 1990; Kril and Halliday 1999). Evidence suggests that chronic alcohol abuse damages 158 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. complex functions that rely on intact white matter, including memory retrieval, visuospatial processing, and emotional regulation (Filley 2001; Moselhy et al. 2001; Oscar-Berman and Marinkovic 2007). Several studies have found associations between lower white matter integrity and poorer visuospatial processing, executive functioning, and memory in AUD (Pfefferbaum et al. 2006; Rosen- bloom et al. 2009; Konrad et al. 2012; Trivedi et al. 2013). However, the relation between integrity of specific white matter tracts and alcohol cue processing in individ- uals with AUDs has not been investigated to date. This relationship may be especially important because height- ened neural reactivity to alcohol cues is a reliable finding in AUDs (Schacht et al. 2013) and may be associated with increased craving or risk for alcohol relapse (Gr€usser et al. 2004; Beck et al. 2012). a control group (Yeh et al. 2009). Moreover, AUD indi- viduals with at least 1 year of abstinence exhibited lower FA in the superior corona radiata, splenium of corpus callosum, internal capsule, posterior thalamic radiation, and sagittal striatum compared to a healthy group (Mon- nig et al. 2012a). Taken together, previous studies suggest that alcohol-related white matter abnormality occurs in broadly distributed white matter tracts, yet it may prefer- entially affect networks regulating motivation and reward salience (Harris et al. 2008; Pfefferbaum et al. 2009; Yeh et al. 2009). Evidence of widespread white matter damage in AUDs raises questions about the functional import of these changes. A study that classified participants who com- pleted AUD treatment as returning to heavy use or sus- taining treatment gains at 6-month follow-up found significantly higher FA in frontal white matter at baseline in the treatment sustainers (Sorg et al. 2012). This associ- ation between baseline white matter integrity and treat- ment outcome suggests that the role of white matter in AUDs warrants further attention. Introduction Diffusion tensor imaging (DTI) offers fine-grained analysis of white matter microstructure beyond volumet- ric measures and can detect abnormality prior to the onset of measureable atrophy (Fjell et al. 2008; Giorgio et al. 2010). DTI is based on the principle of Brownian motion of water molecules (Basser and Pierpaoli 1996) and allows inferences about the integrity of white matter to be made noninvasively. In general, optimal myelination of fibers results in increased directionality of water diffu- sion in white matter microstructure. The extent to which diffusion in a voxel is nonrandom, or anisotropic, is quantified in terms of fractional anisotropy (FA), a value ranging from 0, which corresponds to unrestricted diffu- sion, to 1, indicative of diffusion along a single axis. FA is believed to reflect multiple properties of white matter microstructure, such as axonal diameter, axonal density, myelination, and fiber bundle organization (Pierpaoli et al. 2001; Beaulieu 2002; Song et al. 2002, 2003, 2005), and is often reported as a summary index of white matter integrity. A possible mechanism relating white matter integrity to susceptibility to alcohol problems is that alcohol may dis- rupt top-down, behavioral regulation networks that mod- ulate reactivity to environmental cues, including alcohol stimuli. This study approached this issue by examining the association between white matter integrity and neural reactivity to an alcohol taste cue in heavy drinkers. It has been hypothesized that alcohol affects the neuronal net- works that underlie reward-based learning and executive control, both of which have been implicated in the devel- opment of substance dependence (Koob and Volkow 2010). At the network level, decreased white matter integ- rity may produce disconnection or otherwise alter func- tion in cortical and subcortical reward substrates. In particular, alcohol may sensitize subcortical systems involved in reward or approach behavior while it damp- ens frontoparietal cortical networks important for self- regulation (Koob and Volkow 2010). Given findings of premorbid abnormality in white matter integrity and functional connectivity of frontoparietal and frontocere- bellar networks, it seems likely that some structural and functional liabilities to problem drinking predate the use of alcohol (Herting et al. 2010, 2011; Wetherill et al. 2012). A model that takes into account both premorbid vulnerability to and direct effects of alcohol is consistent with models of addiction that describe an overactive incentive motivational network in conjunction with a compromised control network (Volkow et al. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Introduction 2002; Kalivas and Volkow 2005; Baler and Volkow 2006; Wiers et al. 2007; Hutchison 2010). The corpus callosum, the largest white matter tract, has shown reduced FA or abnormal diffusivity in several stud- ies of AUDs (Pfefferbaum et al. 2000, 2002; Pfefferbaum and Sullivan 2005). A longitudinal study of alcohol- dependent individuals demonstrated reversal of white matter abnormality in the corpus callosum with a year of abstinence, suggesting that some abnormality found in AUDs is directly related to alcohol consumption (Alhas- soon et al. 2012). In other brain regions, alcohol- dependent individuals with several months of abstinence showed lower FA than healthy control participants in the frontal forceps and superior cingulate, along with higher diffusivity in the fornix, internal and external capsule, and superior longitudinal fasciculus (Pfefferbaum et al. 2009). Another study of AUD individuals with 1 week of abstinence found lower FA in the external capsule, ante- rior and superior corona radiata, and thalamus relative to Multimodal neuroimaging approaches that combine functional MRI (fMRI) and DTI are ideally suited to 159 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. M. A. Monnig et al. Participants were instructed to abstain from alcohol for 24 h prior to study procedures, and a blood alcohol con- tent of zero was confirmed with a breathalyzer prior to scanning. All participants had a Clinical Institute With- drawal Assessment Scale (Sullivan et al. 1989) score lower than 8, indicating no need for detoxification. Study pro- cedures were approved by the Human Research Review Committee at the University of New Mexico, and study participants provided informed consent. address the ramifications of white matter network abnor- mality. The objective of this study was to investigate the functional implications of individual differences in white matter integrity by testing whether FA values were related to blood-oxygenation-level-dependent (BOLD) response elicited by an alcohol taste cue in a sample of heavy drinkers. A previous investigation with a largely overlap- ping sample demonstrated that the alcohol taste cue was associated with increased BOLD response throughout net- works involved in incentive motivation, with the magni- tude of activation positively related to several indicators of alcohol problem severity (Claus et al. 2011). DTI analysis DTI preprocessing entailed (1) data quality check, (2) motion eddy current correction, and (3) adjustment of diffusion gradient directions. Image acquisition All MRI scans were collected on a 3T Siemens Trio (Erlangen, Germany) whole-body scanner. Prior to the acquisition of anatomical scans, localizer scans were acquired. An echo-planar, gradient-echo, pulse sequence (TR = 2000 msec, TE = 29 msec, flip angle = 75°) was acquired with a 12-channel head coil, and images were acquired parallel to the ventral surface of the participant’s orbitofrontal cortex to reduce signal dropout and distor- tion in this region (Deichmann et al. 2003). Each volume consisted of 33 axial slices (64 9 64 matrix, 3.75 9 3.75 mm2, 3.5 mm thickness, 1 mm gap). In addition, a high-resolution T1-weighted 3D MP-RAGE anatomical image was acquired (TR = 2530 msec, TE = 1.64 msec, flip angle = 7°, 192 sagittal slices, 256 9 256 matrix, slice thickness = 1 mm) for each participant. Recruitment criteria Inclusion and exclusion criteria have been described else- where (Claus et al. 2011). In brief, participants ranged in age from 21 to 56, had no contraindications for MRI scanning, and had no history of traumatic brain injury with loss of consciousness >5 min. The study recruited participants who reported at least five heavy-drinking episodes (≥4 drinks for women, ≥5 drinks for men on a single occasion) in the past month. Participants com- pleted the Alcohol Use Disorders Identification Test (AUDIT; Babor et al. 2001), the Alcohol Dependence Scale (ADS; Skinner and Horn 1984), and the Impaired Control Scale (ICS; Heather et al. 1993). Drinks per drinking day, current smoking status, and use of other drugs were assessed with the 60-day or 90-day timeline follow-back (TLFB; Sobell and Sobell 1992). Participants who reported using marijuana were not excluded from the study. Participants with more than minimal use of drugs other than alcohol, tobacco, or marijuana in the past 60 days were excluded from the study. Of the final sample (N = 332) included in analyses, data on drug use were available for 317 participants. Cigarette smoking was reported by 52% of participants. Thirty-seven per- cent of participants reported using marijuana, with fre- quency averaging 20% of days in the past 60 days. Fifteen participants (5%) reported occasional use of other illicit drugs in the past 60 days. Relations between alco- hol use measures and white matter FA were assessed with Pearson correlations. DTI scans were acquired via single-shot, spin-echo, echo-planar imaging (EPI) with a twice-refocused balanced echo sequence to reduce eddy current distortions. DTI data were collected along the AC/PC line, with FOV = 256 9 256 mm, 128 9 128 matrix, slice thickness of 2 mm (isotropic 2 mm resolution), NEX = 1, TE = 84 msec, and TR = 9000 msec. A multiple-channel radiofrequency (RF) coil was used, with GRAPPA (X2), 30 gradient directions, and b = 800 sec/mm2, and the b = 0 experiment was repeated five times (Jones et al. 1999). See Figure 1 for a schematic of data processing and analysis steps following image acquisition. Introduction In line with the concept that disruption of white matter networks results in dysregulated alcohol cue processing, we pre- dicted that lower white matter integrity in frontoparietal networks that participate in behavioral control would be associated with greater BOLD activation in response to the alcohol taste cue, particularly in subcortical reward processing substrates. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Data quality check After the participant ceased movement and held still at a new loca- tion, the image quality would be good, but the motion registration algorithm would show a large displacement. The combined quality check criterion was highly strin- gent, as evidenced by its exclusion of 30% of participants who were scanned. The criterion of excluding the partici- pant from further DTI analysis if 10% of the gradient direction, due to external RF leakage in the MRI scan room or subject motion; and (3) large amounts of motion in the absence of signal dropout. A DTI volume was dropped if the motion was more than 4 mm of root mean square displacement. If more than 10% of gradient directions were dropped for any of the above reasons, then the subject was not considered for further analysis. Of 481 participants scanned, data for 145 were excluded by stringent quality control, leaving 336 participants with acceptable DTI data. Exclusions were typically due to par- ticipant motion or scanner noise. The data quality check considered the effects of motion in two ways. If the par- ticipant moved during acquisition of a specific brain vol- ume, then the image quality was degraded. After the participant ceased movement and held still at a new loca- tion, the image quality would be good, but the motion registration algorithm would show a large displacement. The combined quality check criterion was highly strin- gent, as evidenced by its exclusion of 30% of participants who were scanned. The criterion of excluding the partici- pant from further DTI analysis if 10% of the gradient directions were dropped was based on empirical findings from a previous study by our group (Ling et al. 2012). Motion and eddy current correction We registered all the images to a b = 0 sec/mm2 image. Twelve degrees of freedom, affine transformation with mutual information cost function was used for image reg- istration. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Data quality check The DTI data were checked for: (1) signal dropout due to subject motion, producing striated artifacts on images; (2) excessive background noise in the phase encoding 160 ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. M. A. Monnig et al. Alcohol Cue Reactivity and Heavy Drinkers DTI acquisition fMRI acquisition Quality check for signal dropout, background noise, and motion Registration to MNI template Tract-based spatial statistics (TBSS) on FA maps Calculation of average FA over 18 white matter tracts in JHU atlas Correlation of FA values with fMRI contrast maps at each voxel using age as covariate Motion correction and spatial smoothing with 8mm FWHM Gaussian kernel High pass temporal filter with a 100s cut-off and a grand mean intensity normalization Alcohol minus litchi contrast maps calculated with GLM modeling Contrast maps registered to the MNI template Figure 1. Schematic of data processing and analysis steps. Figure 1. Schematic of data processing and analysis steps. Motion correction and spatial smoothing with 8mm FWHM Gaussian kernel Quality check for signal dropout, background noise, and motion High pass temporal filter with a 100s cut-off and a grand mean intensity normalization Registration to MNI template Tract-based spatial statistics (TBSS) on FA maps Alcohol minus litchi contrast maps calculated with GLM modeling Calculation of average FA over 18 white matter tracts in JHU atlas Contrast maps registered to the MNI template Correlation of FA values with fMRI contrast maps at each voxel using age as covariate Figure 1. Schematic of data processing and analysis steps. direction, due to external RF leakage in the MRI scan room or subject motion; and (3) large amounts of motion in the absence of signal dropout. A DTI volume was dropped if the motion was more than 4 mm of root mean square displacement. If more than 10% of gradient directions were dropped for any of the above reasons, then the subject was not considered for further analysis. Of 481 participants scanned, data for 145 were excluded by stringent quality control, leaving 336 participants with acceptable DTI data. Exclusions were typically due to par- ticipant motion or scanner noise. The data quality check considered the effects of motion in two ways. If the par- ticipant moved during acquisition of a specific brain vol- ume, then the image quality was degraded. FA-BOLD correlations Correlations between averaged FA values and the whole- brain contrast maps (alcohol minus litchi) from the alco- hol cue task were analyzed to identify task-related regions that were significantly associated with white matter integ- rity. This step was done for each FA map by a linear regression of the averaged FA values with each voxel of the BOLD contrast maps across the subjects. Age is asso- ciated with FA decreases independent of alcohol intake (Giorgio et al. 2010; Michielse et al. 2010) and could be a potential confound. In this sample, a linear, negative cor- relation was observed for age and averaged FA for 15 of 18 of the tracts of interest, with significant Pearson’s r’s ranging from 0.128 to 0.472. Because of the relation between FA and age, which was consistent with the aging literature cited above, age was included as a covariate in regression analyses. However, results did not change appreciably when age was not included as a covariate. Four participants with acceptable DTI data did not have fMRI taste task data and were excluded from analysis. In addition, 15 participants had FA values that were outliers of >3 standard deviations (SDs) on at least one white matter region of interest (ROI). Outliers on a given ROI were excluded for that analysis, and the number of excluded participants ranged from 0 to 7 for the 18 white matter ROIs. For each correlation, the thresholded image was corrected for multiple comparisons using cluster- based thresholding as implemented in FSL, with a voxel- wise threshold of z > 2.3 and a cluster threshold of P < 0.05. FA values were obtained using FMRIB Software Library (FSL), tract-based spatial statistics (TBSS; Smith et al. 2006). Each FA image was aligned to the stan- dard-space FMRIB58 FA image (voxel size of 1 9 1 9 1 mm) with a nonlinear registration algorithm (FMRIB’s Nonlinear Image Registration Tool, Oxford, UK). Following transformation to the target and affine transformation to MNI152 space, all FA images were merged into a single 4D image file, from which the FA skeleton was calculated using a threshold value of 0.2. White matter tracts were defined using the Johns Hop- kins University, International Consortium for Brain Mapping DTI-81 labels atlas, with highest probability thresholding at 25% and white matter tractography atlas (Mori et al. 2005; Wakana et al. 2007). Adjustment of diffusion gradient direction Two corrections were applied to the diffusion gradients. The nominal diffusion gradient directions were prescribed in the magnet axis frame and rotated to correspond to the image slice orientation. No correction was required if the imaging slice was pure axial. A second correction accounted for any image rotation during the previous motion and eddy current correction step. The rotation part of the transformation found previously was extracted, and each gradient direction vector was 161 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. M. A. Monnig et al. M. A. Monnig et al. registration of the T1 to the MNI152 template. All steps used FLIRT. registration of the T1 to the MNI152 template. All steps used FLIRT. corrected accordingly. Image registration and transforma- tions steps were done with FMRIB’s Linear Image Regis- tration Tool (FLIRT), and the detection of outliers and data pruning was done with a custom program written in IDL (www.ittvis.com). Dtifit was used to calculate the dif- fusion tensor and the FA maps. Results The sample included 332 individuals (102 female, 230 male) with a mean of 31.2 (SD = 9.4) years of age. Table 1 summarizes demographic and clinical character- istics of the sample. On average, participants endorsed a moderate level of alcohol problem severity on the ADS and AUDIT. On the ADS, 64% of the sample scored ≥9, reflecting a high likelihood of diagnosis of alcohol dependence (Allen and Wilson 2003). Moreover, 96% of participants scored ≥8 on the AUDIT, indicating hazard- ous drinking and possible dependence (Babor et al. 2001). FA-BOLD correlations White matter tracts were selected for analysis on the basis of previous studies summarized above and hypotheses regarding the involvement of self-regulation and reward networks. These 18 tracts were as follows: genu, body, and spleni- um of corpus callosum; fornix; forceps minor; anterior, posterior, and retrolenticular limbs of internal capsule; anterior, superior, and posterior corona radiata; anterior and posterior thalamic radiations; sagittal striatum; external capsule; cingulate gyrus; superior longitudinal fasciculus; and inferior frontooccipital fasciculus. Within individuals, FA values for the skeletonized voxels that intersected with the tract atlas were averaged to obtain a single value per tract to be used in subsequent corre- lations with fMRI data. Right and left hemispheres were averaged for the 13 bilateral tracts, as hypotheses did not stipulate differential effects based on hemisphere. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Discussion This study investigated the functional implications of white matter integrity in the context of heavy alcohol consumption by correlating FA values of 18 white matter tracts with BOLD activation during an alcohol cue. FA values of 10 tracts subserving frontoparietal and cortico- limbic networks showed significant correlations with BOLD response to the taste of alcohol. All but one of these correlations were negative, supporting the predic- tion that lower white matter integrity would be related to heightened response to the alcohol cue. retrolenticular limb of internal capsule, and superior lon- gitudinal fasciculus (Fig. 2). With the exception of the anterior thalamic radiation, all correlations were negative, indicating that lower FA was associated with greater BOLD response. Evidence from a variety of imaging paradigms has implicated abnormalities of connections among the thala- mus, basal ganglia, limbic system, and cerebral cortex in substance abuse and dependence. The results of this study offer converging evidence that white matter connections among cortical and subcortical substrates of sensorimotor processing, reward learning, and higher level cognition participate in the development and maintenance of prob- lematic alcohol use. A candidate mechanism in the development of substance dependence is the failure of top-down systems of self-regulation and effortful process- ing, particularly frontoparietal networks, to override sub- cortical networks involved in habitual responses to reward cues, which are strengthened with accumulated exposure to drug cues and consumption (Koob 2006; Koob and Volkow 2010). Given the age range of our sam- ple (ages 21–56), it is important to recognize that changes in FA and downstream changes in the function of neural networks may begin relatively early in the trajectory of problem drinking. Pearson correlations between averaged FA values for the significant tracts and alcohol use measures are shown in Table 2. White matter integrity was negatively related to measures of alcohol use severity and duration, with correlations of modest magnitude. Anterior corona radiat- a, cingulate gyrus, fornix, and inferior frontooccipital fas- ciculus consistently showed significant relations with alcohol use measures. Of the measures, number of years of drinking and drinks per drinking day were related most frequently to FA. Regions on the BOLD contrast maps where greater cue reactivity was associated with lower averaged FA included the medial frontal gyrus, cingulate gyrus, precuneus, parahippocampal gyrus, fusiform gyrus, insula, thalamus, putamen, caudate, and cerebellum (Fig. 3). fMRI task and analysis To measure cue-elicited responses to alcohol, we used a task described previously in which a small amount of the participant’s preferred alcoholic beverage was alter- nated with litchi juice, an appetitive control (Filbey et al. 2008; Claus et al. 2011). All analyses were com- pleted using tools from FSL and are described in detail in Claus et al. (2011). An overview is shown in Fig- ure 1. The contrast of interest compared the alcohol cue minus the juice cue. Contrast maps from individual subject analyses were registered to the MNI152 template in a two-step registration process using registration parameters from the registration of the mean EPI image to the individual subject’s T1 image, and the White matter tracts showing significant correlations between averaged FA and BOLD were the anterior corona radiata, anterior thalamic radiation, body of corpus callo- sum, cingulate gyrus, external capsule, fornix, inferior frontooccipital fasciculus, posterior corona radiata, 162 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. M. A. Monnig et al. Table 1. Demographic and clinical characteristics (N = 332). n providing data M (SD) or percent Age 332 31.2 (9.4) Education (years) 290 14.4 (2.5) Alcohol Dependence Scale (ADS) 308 13.1 (8.1) Alcohol Use Disorder Identification Test (AUDIT) 308 18.5 (7.7) Impaired Control Scale (ICS) 310 44.5 (21.3) Number of years drinking regularly (years drink) 310 12.0 (8.9) Average drinks per drinking day (DPDD) 302 7.0 (4.2) Table 1. Demographic and clinical characteristics (N = 332). orbitofrontal cortex, amygdala, pons, and parahippocam- pal gyrus (Fig. 4). Clusters with significant correlations are listed in Table 3. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Discussion The positive correlation noted above was between FA of the anterior thalamic radiation and BOLD response in the Lower FA consistently showed significant correlations with greater BOLD activity in the thalamus, medial Figure 2. Atlas-based regions of interest showing significant correlations with BOLD response: anterior corona radiata (ACR; purple); anterior thalamic radiation (ATR; blue); external capsule (EC; light orange); retrolenticular part of the internal capsule (RLIC; light blue); inferior frontooccipital fasciculus (IFOF; magenta); fornix (FNX; orange); body of the corpus callosum (yellow); posterior corona radiata (PCR; red); cingulate gyrus (CG; cyan); and superior longitudinal fasciculus (SLF; light green). Figure 2. Atlas-based regions of interest showing significant correlations with BOLD response: anterior corona radiata (ACR; purple); anterior thalamic radiation (ATR; blue); external capsule (EC; light orange); retrolenticular part of the internal capsule (RLIC; light blue); inferior frontooccipital fasciculus (IFOF; magenta); fornix (FNX; orange); body of the corpus callosum (yellow); posterior corona radiata (PCR; red); cingulate gyrus (CG; cyan); and superior longitudinal fasciculus (SLF; light green). 163 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. Table 2. Bivariate correlations of white matter ROIs with alcohol use measures. AUDIT ADS ICS Years drink DPDD ACR 0.213** 0.168** 0.213** 0.374** 0.263** ATR 0.078 0.034 0.015 0.067 0.075 BCC 0.109 0.087 0.159** 0.281** 0.079 CG 0.201** 0.113 0.158** 0.156** 0.135* EC 0.073 0.025 0.020 0.012 0.085 FNX 0.268** 0.301** 0.305** 0.382** 0.209** IFOF 0.216** 0.167** 0.192** 0.388** 0.224** PCR 0.111 0.090 0.109 0.220** 0.184** RLIC 0.140* 0.057 0.053 0.144* 0.130* SLF 0.145* 0.109 0.114 0.248** 0.160** n’s range from 289 to 296. *P < 0.05; **P < 0.01. Table 2. Bivariate correlations of white matter ROIs with alcohol use measures. Figure 4. Positive correlation between BOLD activation and FA in the anterior thalamic radiation (ATR). Figure 4. Positive correlation between BOLD activation and FA in the anterior thalamic radiation (ATR). frontal gyrus, cingulate, and parahippocampal gyrus. One interpretation of this pattern is that individuals exhibit greater cue reactivity when bottom-up activity originating in the thalamus guides subsequent attentional orienting and salience attribution in the prefrontal cortex and lim- bic system. A great body of literature has demonstrated the role of prefrontal cortex and cingulate in affective and reward-related decision making (Bechara et al. 1998; Bec- hara 2004; Rogers et al. 2004; Cohen et al. 2005). ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Discussion Because participants were not engaged in a decision-making task, it remains unknown how increased cue reactivity might affect these processes. However, one hypothesis for future study is that lower integrity of frontoparietal white matter networks mediates the relationship between increased cue reactivity and alcohol urges. It should be noted that white matter fiber tracts are largely bidirectional and that analy- ses did not investigate the temporal sequence of activa- tion. Thus, an alternative mechanism that might operate instead of or in conjunction with weakened top-down control over bottom-up response is alteration of the sig- nal communicated upward from subcortical to cortical regions as a result of changes in white matter integrity, affecting the processing of cue-eliciting stimuli. (A) (B) (C) (D) Figure 3. Overlapping clusters of BOLD activation in the (A) thalamus and caudate, (B) medial frontal gyrus, (C) parahippocampal gyrus, and (D) cingulate gyrus, correlated with FA in the anterior corona radiata (ACR; purple); anterior thalamic radiation (ATR; blue); external capsule (EC; light orange); retrolenticular part of the internal capsule (RLIC; light blue); inferior frontooccipital fasciculus (IFOF; magenta); fornix (FNX; orange); body of the corpus callosum (yellow); posterior corona radiata (PCR; red); cingulate gyrus (CG; cyan); and superior longitudinal fasciculus (SLF; light green); masks from anatomical atlases were applied to highlight the areas of specific overlap. (A) (A) (B) (B) (C) (C) A recent meta-analysis of alcohol cue reactivity found that heavy drinkers reliably showed increased activation in the right caudate, cingulate cortex, thalamus, and ven- tromedial prefrontal cortex relative to control cue condi- tions (Schacht et al. 2013). However, alcohol-elicited activation in these areas was not significantly greater in heavy-drinking groups compared to control groups, sug- gesting that the incentive salience of alcohol cues may be comparable across groups (Schacht et al. 2013). Areas that did differentiate AUD and control groups were the bilateral precuneus, left posterior cingulate, and left supe- rior temporal gyrus. The findings of the current study converge with the meta-analytic findings, which demon- strated the importance of cue-elicited activity in posterior regions such as the precuneus and posterior cingulate in differentiating alcohol dependent from healthy individuals and varying as a function of severity. The current results provide additional support for the involvement of poster- (D) (D) Figure 3. n’s range from 289 to 296. Discussion Overlapping clusters of BOLD activation in the (A) thalamus and caudate, (B) medial frontal gyrus, (C) parahippocampal gyrus, and (D) cingulate gyrus, correlated with FA in the anterior corona radiata (ACR; purple); anterior thalamic radiation (ATR; blue); external capsule (EC; light orange); retrolenticular part of the internal capsule (RLIC; light blue); inferior frontooccipital fasciculus (IFOF; magenta); fornix (FNX; orange); body of the corpus callosum (yellow); posterior corona radiata (PCR; red); cingulate gyrus (CG; cyan); and superior longitudinal fasciculus (SLF; light green); masks from anatomical atlases were applied to highlight the areas of specific overlap. Figure 3. Overlapping clusters of BOLD activation in the (A) thalamus and caudate, (B) medial frontal gyrus, (C) parahippocampal gyrus, and (D) cingulate gyrus, correlated with FA in the anterior corona radiata (ACR; purple); anterior thalamic radiation (ATR; blue); external capsule (EC; light orange); retrolenticular part of the internal capsule (RLIC; light blue); inferior frontooccipital fasciculus (IFOF; magenta); fornix (FNX; orange); body of the corpus callosum (yellow); posterior corona radiata (PCR; red); cingulate gyrus (CG; cyan); and superior longitudinal fasciculus (SLF; light green); masks from anatomical atlases were applied to highlight the areas of specific overlap. 164 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. M. A. Monnig et al. Table 3. White matter tracts with locations of significantly correlated clusters of BOLD activation. e correlation between ATR and BOLD activation was positive, whereas all other correlations were negative. ACR, anterior corona radiata; ATR, anterior thalamic radiation; BCC, body of corpus callosum; EC, external capsule; CG, cingulate gyrus; FNX, for- nix; IFOF, inferior frontooccipital fasciculus; PCR, posterior corona radiata; RLIC, retrolenticular limb of internal capsule; SLF, superior longitudinal fasciculus. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Discussion Z-max coordinates (mm) WM tract Cluster size (voxels) Z-max X Y Z Brodmann areas Anatomical region(s) ACR 1854 3.61 20 4 32 3, 6, 24, 31, 32 L medial frontal gyrus L postcentral gyrus L cingulate gyrus ATR* 1994 4.24 20 2 24 11, 34, 47 L orbitofrontal cortex L inferior frontal gyrus R, L parahippocampal gyrus R, L amygdala Pons BCC 3911 3.54 30 0 38 6, 7, 24, 31 R medial frontal gyrus R cingulate gyrus R thalamus R, L precuneus 2389 4.16 34 54 2 19, 37 R parahippocampal gyrus R fusiform gyrus R medial temporal gyrus CG 13,511 4.54 34 54 4 18, 19, 24, 30, 37 R cingulate gyrus R fusiform gyrus R, L parahippocampal gyrus R lingual gyrus R, L thalamus R caudate R, L cerebellum EC 5262 3.82 2 82 8 18, 30 R, L posterior cingulate R, L cuneus R, L lingual gyrus R, L cerebellum 2083 3.28 22 24 56 3, 7, 24, 31 L cingulate gyrus L precentral gyrus L precuneus FNX 11,306 4.65 14 6 12 8, 9, 10, 13, 24, 27, 32 R, L medial frontal gyrus R, L superior frontal gyrus R insula R anterior cingulate R cingulate gyrus R, L thalamus R, L caudate L parahippocampal gyrus 1881 3.44 32 78 36 R, L cerebellum IFOF 1956 3.70 20 0 32 L postcentral gyrus L caudate L putamen 1700 3.16 26 8 20 R thalamus PCR 4257 3.66 20 4 32 23, 24 L putamen R, L cingulate gyrus R posterior cingulate RLIC 2020 3.85 34 52 2 R thalamus 1656 3.64 32 0 22 24 L cingulate gyrus SLF 16,354 4.40 20 4 34 8, 9, 13, 24, 31, 32 R, L superior frontal gyrus R, L medial frontal gyrus R, L cingulate gyrus R, L anterior cingulate R caudate R, L putamen R insula R, L thalamus ACR, anterior corona radiata; ATR, anterior thalamic radiation; BCC, body of corpus callosum; EC, external capsule; CG, cingulate gyrus; FNX, for- nix; IFOF, inferior frontooccipital fasciculus; PCR, posterior corona radiata; RLIC, retrolenticular limb of internal capsule; SLF, superior longitudinal fasciculus. Table 3. White matter tracts with locations of significantly correlated clusters of BOLD activation. 165 ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. Discussion ; ) In addition to posterior cortical regions, we also found significant, inverse correlations between white matter integrity and BOLD response in frontal regions including the inferior, medial, and superior frontal gyri. Lateral frontal regions typically have been implicated in cognitive control and goal-directed behavior. Given that response to alcohol cues in the dorsolateral prefrontal cortex and medial frontal gyrus has been positively associated with alcohol problem severity (Claus et al. 2011), our findings could be interpreted as providing further evidence of engagement of these regions in individuals with more extensive drinking histories. The negative correlation of BOLD activity in these regions with white matter integrity suggests the possibility that, although these regions may come online to a greater degree during alcohol cue pre- sentation, lower white matter integrity in tracts that pro- ject to limbic and temporal regions (e.g., fornix, cingulate, and superior longitudinal fasciculus) may result in less effective control over representations in bottom-up processing streams. Notably, the fornix and cingulate are consistently implicated in studies of alcohol dependence (Schulte et al. 2010). A caveat to these interpretations is that several tracts, such as the superior longitudinal fascic- ulus, are quite large and are known to incorporate several subcomponents (Fernandez-Miranda et al. 2008a; Sch- mahmann et al. 2008). Future studies examining the rela- tion of cue reactivity to specific subtracts would be useful. A recent study found that alcohol-dependent partici- pants had lower gray matter volume of lateral frontal, medial frontal, and parietal-occipital clusters compared to healthy control participants and that volume of the med- ial frontal and parietal-occipital clusters significantly pre- dicted time to relapse, after controlling for age, IQ, years of alcohol use, and consumption over the 90 days preced- ing treatment (Rando et al. 2011). The clusters that pre- dicted relapse in that study were consistent with the clusters of BOLD activity in the anterior and posterior cingulate, precuneus/cuneus, and medial prefrontal cortex associated with lower FA in our study. These findings underscore the importance of posterior parietal and medial frontal gray matter regions and their white matter connections in regulating neural response to alcohol cues. In addition to posterior cortical regions, we also found significant, inverse correlations between white matter integrity and BOLD response in frontal regions including the inferior, medial, and superior frontal gyri. Lateral frontal regions typically have been implicated in cognitive control and goal-directed behavior. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Discussion Given that response to alcohol cues in the dorsolateral prefrontal cortex and medial frontal gyrus has been positively associated with alcohol problem severity (Claus et al. 2011), our findings could be interpreted as providing further evidence of engagement of these regions in individuals with more extensive drinking histories. The negative correlation of BOLD activity in these regions with white matter integrity suggests the possibility that, although these regions may come online to a greater degree during alcohol cue pre- sentation, lower white matter integrity in tracts that pro- ject to limbic and temporal regions (e.g., fornix, cingulate, and superior longitudinal fasciculus) may result in less effective control over representations in bottom-up processing streams. Notably, the fornix and cingulate are consistently implicated in studies of alcohol dependence (Schulte et al. 2010). A caveat to these interpretations is that several tracts, such as the superior longitudinal fascic- ulus, are quite large and are known to incorporate several subcomponents (Fernandez-Miranda et al. 2008a; Sch- mahmann et al. 2008). Future studies examining the rela- tion of cue reactivity to specific subtracts would be useful. Although white matter damage has been established as a hallmark injury of AUD, causal mechanisms are still under investigation. In animal models of alcohol depen- dence, the presence of alcohol in the brain triggers stimu- lation of proinflammatory cascades leading to cell death or dysfunction and inhibition of neurogenesis in adult neural stem cells in the olfactory bulb and hippocampus (Crews and Nixon 2009). Pinpointing mechanisms of alcohol-induced brain damage in vivo in humans presents a challenge, but our findings support the notion that long-term heavy drinking contributes to decreased white matter integrity. Alcohol-related white matter damage is likely to be one constituent of the AUD cycle in which heavy drinking contributes to impaired cognition and emotion regulation, leading to further problematic drink- ing (Crews 1999). A potential clinical implication is that those with long-standing AUD, and therefore greater damage to white matter substrates, may have more diffi- culty applying cognitive or emotional-regulation strategies in the context of AUD intervention. Discussion The single positive correlation was found between the anterior thalamic radiation, which connects the anterior and dorsomedial thalamic nuclei with the prefrontal cor- tex, and BOLD activity throughout the amygdala, prefron- tal cortex, and parahippocampal gyrus. Involvement of the amygdala is particularly interesting because it receives direct input from the olfactory bulb, which presumably would be a primary sensory substrate for the alcohol taste cue. Frank and Claus (2006) put forward a model of stri- ato-orbitofrontal interaction in which the orbitofrontal cortex receives input from the amygdala about reinforce- ment value of outcomes associated with sensory cues. The orbitofrontal cortex, which in turn projects to the basal ganglia, encodes and maintains in working memory infor- mation about reward to enable adaptive, differential responding (Frank and Claus 2006). The positive correla- tion invites speculation that repeated experiences with alcohol selectively strengthens the influence of subcortical outputs to prefrontal cortex and limbic structures through enhanced white matter connectivity, possibly increasing the relative influence of subcortical pathways over subse- quent reward-seeking behavior. Again, given that the ante- rior thalamic radiation is a bidirectional tract, the direction and order of effects remain unknown. ior regions in cue reactivity, as white matter tracts tra- versing the body of the corpus callosum, cingulum bun- dle, and external capsule all have significant projections to the posterior cingulate, precuneus, and/or other regions within the posterior parietal lobe (Hofer and Frahm 2006; Fernandez-Miranda et al. 2008a,b; Fortin et al. 2012; Jones et al. 2013). Importantly, these tracts also project to regions known to respond during cue- elicited craving, including the supplementary motor area, medial frontal cortex, insula, and dorsal striatum (Claus et al. 2011; Schacht et al. 2013). ior regions in cue reactivity, as white matter tracts tra- versing the body of the corpus callosum, cingulum bun- dle, and external capsule all have significant projections to the posterior cingulate, precuneus, and/or other regions within the posterior parietal lobe (Hofer and Frahm 2006; Fernandez-Miranda et al. 2008a,b; Fortin et al. 2012; Jones et al. 2013). Importantly, these tracts also project to regions known to respond during cue- elicited craving, including the supplementary motor area, medial frontal cortex, insula, and dorsal striatum (Claus et al. 2011; Schacht et al. 2013). References Alhassoon, O. M., S. F. Sorg, M. J. Taylor, R. A. Stephan, B. C. Schweinsburg, N. H. Stricker, et al. 2012. Callosal white matter microstructural recovery in abstinent alcoholics: a longitudinal diffusion tensor imaging study. Alcohol. Clin. Exp. Res. 36:1922–1931. doi: 10.1111/j.1530-0277.2012. 01808.x Allen, J., and V. Wilson. 2003. Assessing alcohol problems: a guide for clinicians and researchers. U. S. Department of Health and Human Services, Bethesda, MD. Babor, T. F., J. C. Higgins-Biddle, J. B. Saunders, and M. G. Monteiro. 2001. The alcohol use disorders identification test: guidelines for use in primary care. 2nd ed. World Health Organization, Geneva, Switzerland. Regarding sampling methodology, the decision to include participants based on quantity and frequency of recent drinking rather than diagnosis of alcohol abuse or dependence can be seen as an asset or a shortcoming, depending on perspective. The objective was to link neu- robiological outcomes to overt behavioral rather than syndromal markers in order to increase generalizability to the population of heavy drinkers, who may or may not endorse diagnostic criteria. Related to this issue is the fact that a large minority of participants reported using drugs other than alcohol. This characteristic limits interpreta- tion of findings, as the possible neurobiological effects of these other drugs were not evaluated. At the same time, the rate of illicit drug use in our sample was similar to the rate of 31% reported by heavy drinkers in a recent epidemiological sample (Substance Abuse and Mental Health Services Administration 2012), lending ecological validity to our findings. Baler, R. D., and N. D. Volkow. 2006. Drug addiction: the neurobiology of disrupted self-control. Trends Mol. Med. 12:559–566. doi: S1471-4914(06)00241-3 [pii] 10.1016/j. molmed.2006.10.005 Basser, P. J., and C. Pierpaoli. 1996. Microstructural and physiological features of tissues elucidated by quantitative-diffusion-tensor MRI. J. Magn. Reson. B 111:209–219. Beaulieu, C. 2002. The basis of anisotropic water diffusion in the nervous system – a technical review. NMR Biomed. 15:435–455. doi: 10.1002/nbm.782 Bechara, A. 2004. The role of emotion in decision-making: evidence from neurological patients with orbitofrontal damage. Brain Cogn. 55:30–40. doi: 10.1016/j.bandc.2003.04. 001 Bechara, A., H. Damasio, D. Tranel, and S. W. Anderson. 1998. Dissociation of working memory from decision making within the human prefrontal cortex. J. Neurosci. 18:428–437. In conclusion, our results expand on previous studies by establishing a relationship between lower white matter integrity and increased functional activation to an alcohol taste cue in a sample of heavy drinkers. Discussion y p A recent study found that alcohol-dependent partici- pants had lower gray matter volume of lateral frontal, medial frontal, and parietal-occipital clusters compared to healthy control participants and that volume of the med- ial frontal and parietal-occipital clusters significantly pre- dicted time to relapse, after controlling for age, IQ, years of alcohol use, and consumption over the 90 days preced- ing treatment (Rando et al. 2011). The clusters that pre- dicted relapse in that study were consistent with the clusters of BOLD activity in the anterior and posterior cingulate, precuneus/cuneus, and medial prefrontal cortex associated with lower FA in our study. These findings underscore the importance of posterior parietal and medial frontal gray matter regions and their white matter connections in regulating neural response to alcohol cues. A strength of this study is its use of multimodal imaging methods to explore functional correlates of white matter integrity in problem drinking. Further strengths are the size of the sample and the variability in participants’ drinking histories. A major limitation is the inherent inability of cross-sectional design to establish causal relations between white matter profiles and cue reactivity. Whether greater cue reactivity preceded or followed heavy drinking remains a topic for further investigation. In the absence of a control 166 M. A. Monnig et al. Alcohol Cue Reactivity and Heavy Drinkers oparietal and corticothalamic networks governing reward salience and self-regulation. group, we cannot infer that relations among white matter tracts and BOLD activation are unique to the heavy-drink- ing population. Moreover, although DTI has been instru- mental in increasing understanding of the brain’s structural connectivity, its limitations as an indicator of white matter integrity must be acknowledged. DTI metrics are influ- enced directly and indirectly by multiple properties of white matter and surrounding tissue, and research into pre- cise mechanisms of change in these metrics in humans is ongoing. In addition, methods such as higher order fitting to address possible effects of crossing fibers were not used in this study. Because correction for multiple comparisons was not highly conservative, interpretation of findings should be cautious pending replication of these results in an independent sample. Acknowledgments This project was funded by NIAAA grants 5R01AA012238 and 5R01AA014886 to Hutchison and by NIBIB grant 1R01EB006841 to Calhoun. Monnig was supported by NIAAA institutional training grant 1T32AA01818-01A through the Center on Alcoholism, Substance Abuse, and Addictions (CASAA) in Albuquerque, NM, and by NIA- AA individual fellowship 1F31AA021631-01. The authors have no conflicts of interest to declare. The authors have no conflicts of interest to declare. Importantly, the cross-sectional design does not speak to whether individual variability in white matter profiles was a function of drinking history or a premorbid characteristic. A previous study found lower FA in several regions of interest shared with this study in alcohol-na€ıve adolescents with family history of alcohol dependence compared to healthy control participants (Herting et al. 2010). More- over, lower FA was significantly related to reduced fronto- cerebellar functional connectivity (Herting et al. 2011). Taken together with a report of reduced functional connec- tivity in frontoparietal networks in a study of a similar ado- lescent sample (Wetherill et al. 2012), it appears that genetic liability for AUDs may account for a substantial proportion of variance in neural processing of alcohol cues. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. References Lower white mat- ter integrity in the context of heavy drinking may entail dysregulation of neural response to alcohol cues in front- Beck, A., T. W€ustenberg, A. Genauck, J. Wrase, F. Schlagenhauf, M. N. Smolka, et al. 2012. Effect of brain structure, brain function, and brain connectivity on relapse 167 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. decision making, and reversal. Psychol. Rev. 113: 300–326. doi: 2006-04733-004 [pii] 10.1037/0033-295X.113.2.300 in alcohol-dependent patients. Arch. Gen. Psychiatry 69:842–852. doi: 10.1001/archgenpsychiatry/2011.2026 Giorgio, A., L. Santelli, V. Tomassini, R. Bosnell, S. Smith, N. De Stefano, et al. 2010. Age-related changes in grey and white matter structure throughout adulthood. Neuroimage 51:943–951. doi: S1053-8119(10)00274-0 [pii] 10.1016/j. neuroimage.2010.03.004 Claus, E. D., S. W. Ewing, F. M. Filbey, A. Sabbineni, and K. E. Hutchison. 2011. Identifying neurobiological phenotypes associated with alcohol use disorder severity. Neuropsychopharmacology. doi: npp201199 [pii] 10.1038/ npp.2011.99 Gr€usser, S. M., J. Wrase, S. Klein, D. Hermann, M. N. Smolka M. Ruf, et al. 2004. Cue-induced activation of the striatum and medial prefrontal cortex is associated with subsequent relapse in abstinent alcoholics. Psychopharmacology 175:296–302. doi: 10.1007/s00213-004-1828-4 Cohen, M. X., A. S. Heller, and C. Ranganath. 2005. Functional connectivity with anterior cingulate and orbitofrontal cortices during decision-making. Brain Res. Cogn. Brain Res. 23:61–70. doi: 10.1016/j.cogbrainres.2005.01.010 Crews, F. T. 1999. Alcohol and neurodegeneration. CNS Drug Rev. 5:379–394. Harper, C. G., and J. J. Kril. 1990. Neuropathology of alcoholism. Alcohol Alcohol. 25:207–216. Crews, F. T., and K. Nixon. 2009. Mechanisms of neurodegeneration and regeneration in alcoholism. Alcohol Alcohol. 44:115–127. doi: agn079 [pii] 10.1093/alcalc/agn079 Harris, G. J., S. K. Jaffin, S. M. Hodge, D. Kennedy, V. S. Caviness, K. Marinkovic, et al. 2008. Frontal white matter and cingulum diffusion tensor imaging deficits in alcoholism. Alcohol. Clin. Exp. Res. 32:1001–1013. doi: ACER661 [pii] 10.1111/j.1530-0277.2008.00661.x Deichmann, R., J. A. Gottfried, C. Hutton, and R. Turner. 2003. Optimized EPI for fMRI studies of the orbitofrontal cortex. Neuroimage 19:430–441. doi: S1053811903000739 [pii] Heather, N., J. S. Tebbutt, R. P. Mattick, and R. Zamir. 1993. Development of a scale for measuring impaired control over alcohol consumption: a preliminary report. J. Stud. Alcohol 54:700–709. Fernandez-Lizarbe, S., M. Pascual, and C. Guerri. 2009. Critical role of TLR4 response in the activation of microglia induced by ethanol. J. Immunol. 183:4733–4744. doi: jimmunol.0803590 [pii] 10.4049/jimmunol.0803590 Herting, M. M., D. Schwartz, S. H. Mitchell, and B. J. Nagel. 2010. References Delay discounting behavior and white matter microstructure abnormalities in youth with a family history of alcoholism. Alcohol. Clin. Exp. Res. 34:1590–1602. doi: 10.1111/j.1530-0277.2010.01244.x Fernandez-Miranda, J. C., A. L. Rhoton, J. Alvarez-Linera, Y. Kakizawa, C. Choi, and E. P. Oliveira de. 2008a. Three-dimensional microsurgical and tractographic anatomy of the white matter of the human brain. Neurosurgery, 62(6 Suppl. 3):989–1026, discussion 1026–1028. doi: 10.1227/01. neu.0000333767.05328.49 Herting, M. M., D. Fair, and B. J. Nagel. 2011. Altered fronto-cerebellar connectivity in alcohol-na€ıve youth with a family history of alcoholism. Neuroimage 54:2582–2589. doi: 10.1016/j.neuroimage.2010.10.030 Fernandez-Miranda, J. C., A. L. Rhoton, Y. Kakizawa, C. Choi, and J. Alvarez-Linera. 2008b. The claustrum and its projection system in the human brain: a microsurgical and tractographic anatomical study. J. Neurosurg. 108:764–774. doi: 10.3171/JNS/2008/108/4/0764 Hofer, S., and J. Frahm. 2006. Topography of the human corpus callosum revisited–comprehensive fiber tractography using diffusion tensor magnetic resonance imaging. Neuroimage 32:989–994. doi: 10.1016/j.neuroimage.2006.05. 044 Filbey, F. M., E. Claus, A. R. Audette, M. Niculescu, M. T. Banich, J. Tanabe, et al. 2008. Exposure to the taste of alcohol elicits activation of the mesocorticolimbic neurocircuitry. Neuropsychopharmacology 33:1391–1401. doi: 1301513 [pii] 10.1038/sj.npp.1301513 Hutchison, K. E. 2010. Substance use disorders: realizing the promise of pharmacogenomics and personalized medicine. Annu. Rev. Clin. Psychol. 6:577–589. doi: 10.1146/annurev. clinpsy.121208.131441 Filley, C. 2001. The behavioral neurology of white matter. Oxford University Press, New York, NY. Jones, D. K., M. A. Horsfield, and A. Simmons. 1999. Optimal strategies for measuring diffusion in anisotropic systems by magnetic resonance imaging. Magn. Reson. Med. 42:515– 525. doi: 10.1002/(SICI)1522-2594(199909)42:3%3c515: AID-MRM14%3e3.0.CO;2-Q [pii] Fjell, A. M., L. T. Westlye, D. N. Greve, B. Fischl, T. Benner, A. J. van der Kouwe, et al. 2008. The relationship between diffusion tensor imaging and volumetry as measures of white matter properties. Neuroimage 42:1654–1668. doi: S1053-8119(08)00719-2 [pii] 10.1016/j.neuroimage.2008.06. 005 Jones, D. K., K. F. Christiansen, R. J. Chapman, and J. P. Aggleton. 2013. Distinct subdivisions of the cingulum bundle revealed by diffusion MRI fibre tracking: implications for neuropsychological investigations. Neuropsychologia 51:67–78. doi: 10.1016/j.neuropsychologia. 2012.11.018 Fortin, D., C. Aubin-Lemay, A. Bore, G. Girard, J. C. Houde, K. Whittingstall, et al. 2012. Tractography in the study of the human brain: a neurosurgical perspective. Can. J. Neurol. Sci. 39:747–756. Kalivas, P. W., and N. D. Volkow. 2005. The neural basis of addiction: a pathology of motivation and choice. Am. J. Frank, M. J., and E. D. Claus. 2006. References Anatomy of a decision: striato-orbitofrontal interactions in reinforcement learning, 168 ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Alcohol Cue Reactivity and Heavy Drinkers Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. Psychiatry 162:1403–1413. doi: 162/8/1403 [pii] 10.1176/ appi.ajp.162.8.1403 Oscar-Berman, M., and K. Marinkovic. 2007. Alcohol: effects on neurobehavioral functions and the brain. Neuropsychol. Rev. 17:239–257. doi: 10.1007/s11065-007-9038-6 Konrad, A., G. Vucurevic, M. Lorscheider, N. Bernow, M. Th€ummel, C. Chai, et al. 2012. Broad disruption of brain white matter microstructure and relationship with neuropsychological performance in male patients with severe alcohol dependence. Alcohol Alcohol. 47:118–126. doi: agr157 [pii] 10.1093/alcalc/agr157 Pascual, M., P. Bali~no, S. Alfonso-Loeches, C. M. Aragon, and C. Guerri. 2011. Impact of TLR4 on behavioral and cognitive dysfunctions associated with alcohol-induced neuroinflammatory damage. Brain Behav. Immun. 25(Suppl. 1):S80–S91. doi: S0889-1591(11)00062-6 [pii] 10.1016/j.bbi. 2011.02.012 Koob, G. F. 2006. The neurobiology of addiction: a neuroadaptational view relevant for diagnosis. Addiction 101 (Suppl. 1):23–30. doi: ADD1586 [pii] 10.1111/j.1360-0443. 2006.01586.x Pfefferbaum, A., and E. V. Sullivan. 2005. Disruption of brain white matter microstructure by excessive intracellular and extracellular fluid in alcoholism: evidence from diffusion tensor imaging. Neuropsychopharmacology 30:423–432. doi: 1300623 [pii] 10.1038/sj.npp.1300623 Koob, G. F., and N. D. Volkow. 2010. Neurocircuitry of addiction. Neuropsychopharmacology 35:217–238. doi: npp2009110 [pii] 10.1038/npp.2009.110 Pfefferbaum, A., E. V. Sullivan, M. Hedehus, E. Adalsteinsson, K. O. Lim, and M. Moseley. 2000. In vivo detection and functional correlates of white matter microstructural disruption in chronic alcoholism. Alcohol. Clin. Exp. Res. 24:1214–1221. Kril, J. J., and G. M. Halliday. 1999. Brain shrinkage in alcoholics: a decade on and what have we learned? Prog. Neurobiol. 58:381–387. doi: S0301-0082(98)00091-4 [pii] Lewohl, J. M., L. Wang, M. F. Miles, L. Zhang, P. R. Dodd, and R. A. Harris. 2000. Gene expression in human alcoholism: microarray analysis of frontal cortex. Alcohol. Clin. Exp. Res. 24:1873–1882. Pfefferbaum, A., M. Rosenbloom, K. L. Serventi, and E. V. Sullivan. 2002. Corpus callosum, pons, and cortical white matter in alcoholic women. Alcohol. Clin. Exp. Res. 26:400– 406. Ling, J., F. Merideth, A. Caprihan, A. Pena, T. Teshiba, and A. R. Mayer. 2012. Head injury or head motion? Assessment and quantification of motion artifacts in diffusion tensor imaging studies. Hum. Brain Mapp. 33:50–62. doi: 10.1002/ hbm.21192 Pfefferbaum, A., E. Adalsteinsson, and E. V. Sullivan. 2006. Dysmorphology and microstructural degradation of the corpus callosum: interaction of age and alcoholism. Neurobiol. Aging 27:994–1009. References Monnig et al. M. A. Monnig et al. abstinent alcoholics. Brain Imaging Behav. 3:379–390. doi: 10.1007/s11682-009-9080-5 Substance Abuse and Mental Health Services Administration. 2010. Results from the 2009 National Survey on Drug Use and Health: Volume I. Summary of National Findings. Office of Applied Studies, NSDUH Series H-38A, HHS Publication No. SMA 10-4856 Findings, Rockville, MD. Schacht, J. P., R. F. Anton, and H. Myrick. 2013. Functional neuroimaging studies of alcohol cue reactivity: a quantitative meta-analysis and systematic review. Addict. Biol. 18:121–133. doi: 10.1111/j.1369-1600.2012.00464.x Substance Abuse and Mental Health Services Administration. 2012. Results from the 2011 National Survey on Drug Use and Health: Summary of National Findings. NSDUH Series H-44, HHS Publication No. (SMA) 12-4713. Substance Abuse and Mental Health Services Administration, Rockville, MD. Schmahmann, J. D., E. E. Smith, F. S. Eichler, and C. M. Filley. 2008. Cerebral white matter: neuroanatomy, clinical neurology, and neurobehavioral correlates. Ann. N. Y. Acad. Sci. 1142:266–309. doi: 10.1196/annals.1444.017 Schulte, T., E. M. M~uller-Oehring, A. Pfefferbaum, and E. V. Sullivan. 2010. Neurocircuitry of emotion and cognition in alcoholism: contributions from white matter fiber tractography. Dialogues Clin. Neurosci. 12:554–560. Sullivan, J. T., K. Sykora, J. Schneiderman, C. A. Naranjo, and E. M. Sellers. 1989. Assessment of alcohol withdrawal: the revised clinical institute withdrawal assessment for alcohol scale (CIWA-Ar). Br. J. Addict. 84:1353–1357. Skinner, H. A., and J. L. Horn. 1984. Alcohol dependence scale: users guide. Addiction Research Foundation, Toronto, ON. scale (CIWA-Ar). Br. J. Addict. 84:1353–1357. Trivedi, R., D. Bagga, D. Bhattacharya, P. Kaur, P. Kumar, S. Khushu, et al. 2013. White matter damage is associated with memory decline in chronic alcoholics: a quantitative diffusion tensor tractography study. Behav. Brain Res. 250:192–198. doi: 10.1016/j.bbr.2013.05.001 Smith, S. M., M. Jenkinson, H. Johansen-Berg, D. Rueckert, T. E. Nichols, C. E. Mackay, et al. 2006. Tract-based spatial statistics: voxelwise analysis of multi-subject diffusion data. Neuroimage 31:1487–1505. Sobell, L. C., and M. B. Sobell. 1992. Timeline followback: a technique for assessing self-reported alcohol consumption. Pp. 55–73 in J. P. Allen and M. Columbus, eds. Assessing alcohol problems: a guide for clinicians and researchers. National Institute on Alcohol Abuse and Alcoholism, Bethesda, MD. Volkow, N. D., J. S. Fowler, G. J. Wang, and R. Z. Goldstein 2002. Role of dopamine, the frontal cortex and memory circuits in drug addiction: insight from imaging studies. Neurobiol. Learn. Mem. 78:610–624. doi: S1074742702940992 [pii] Wakana, S., A. Caprihan, M. M. Panzenboeck, J. H. References doi: S0197-4580(05)00121-1 [pii] 10.1016/j.neurobiolaging.2005.05.007 Liu, J., J. M. Lewohl, R. A. Harris, P. R. Dodd, and R. D. Mayfield. 2007. Altered gene expression profiles in the frontal cortex of cirrhotic alcoholics. Alcohol. Clin. Exp. Res. 31:1460–1466. doi: ACER444 [pii] 10.1111/j.1530-0277. 2007.00444.x Pfefferbaum, A., M. Rosenbloom, T. Rohlfing, and E. V. Sullivan. 2009. Degradation of association and projection white matter systems in alcoholism detected with quantitative fiber tracking. Biol. Psychiatry 65:680–690. doi: S0006-3223(08)01385-1 [pii] 10.1016/j.biopsych.2008.10.039 Michielse, S., N. Coupland, R. Camicioli, R. Carter, P. Seres, J. Sabino, et al. 2010. Selective effects of aging on brain white matter microstructure: a diffusion tensor imaging tractography study. Neuroimage 52:1190–1201. doi: S1053-8119(10)00726-3 [pii] 10.1016/j.neuroimage.2010.05. 019 Pierpaoli, C., A. Barnett, S. Pajevic, R. Chen, L. R. Penix, A. Virta, et al. 2001. Water diffusion changes in Wallerian degeneration and their dependence on white matter architecture. Neuroimage 13:1174–1185. doi: S1053811901907657 [pii] 10.1006/nimg.2001.0765 Monnig, M. A., A. Caprihan, R. A. Yeo, C. Gasparovic, D. A. Ruhl, P. Lysne, et al. 2012a. Diffusion tensor imaging of white matter networks in individuals with current and remitted alcohol use disorders and comorbid conditions. Psychol. Addict. Behav. 27:455–465. Rando, K., K. I. Hong, Z. Bhagwagar, C. S. Li, K. Bergquist, J. Guarnaccia, et al. 2011. Association of frontal and posterior cortical gray matter volume with time to alcohol relapse: a prospective study. Am. J. Psychiatry 168:183–192. doi: 10.1176/appi.ajp.2010.10020233 Rogers, R. D., N. Ramnani, C. Mackay, J. L. Wilson, P. Jezzard, C. S. Carter, et al. 2004. Distinct portions of anterior cingulate cortex and medial prefrontal cortex are activated by reward processing in separable phases of decision-making cognition. Biol. Psychiatry 55:594–602. doi: 10.1016/j.biopsych.2003.11.012 Monnig, M. A., J. S. Tonigan, R. A. Yeo, R. J. Thoma, and B. S. McCrady. 2012b. White matter volume in alcohol use disorders: a meta-analysis. Addict. Biol. doi: 10.1111/j. 1369-1600.2012.00441.x Mori, S., S. Wakana, L. M. Nagae-Poetscher, and P. C. M. van Zijl. 2005. MRI Atlas of Human White Matter. Elsevier Science, Amsterdam. Rosenbloom, M. J., S. A. Sassoon, A. Pfefferbaum, and E. V. Sullivan. 2009. Contribution of regional white matter integrity to visuospatial construction accuracy, organizational strategy, and memory for a complex figure in Moselhy, H. F., G. Georgiou, and A. Kahn. 2001. Frontal lobe changes in alcoholism: a review of the literature. Alcohol Alcohol. 36:357–368. 169 ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Alcohol Cue Reactivity and Heavy Drinkers M. A. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. References Fallon, M. Perry, R. L. Gollub, et al. 2007. Reproducibility of quantitative tractography methods applied to cerebral white matter. Neuroimage 36:630–644. Song, S. K., S. W. Sun, M. J. Ramsbottom, C. Chang, J. Russell, and A. H. Cross. 2002. Dysmyelination revealed through MRI as increased radial (but unchanged axial) diffusion of water. Neuroimage 17:1429–1436. doi: S105381190291267X [pii] Wetherill, R. R., S. Bava, W. K. Thompson, V. Boucquey, C. Pulido, T. T. Yang, et al. 2012. Frontoparietal connectivity in substance-na€ıve youth with and without a family history of alcoholism. Brain Res. 1432:66–73. doi: 10. 1016/j.brainres.2011.11.013 Song, S. K., S. W. Sun, W. K. Ju, S. J. Lin, A. H. Cross, and A. H. Neufeld. 2003. Diffusion tensor imaging detects and differentiates axon and myelin degeneration in mouse optic nerve after retinal ischemia. Neuroimage 20:1714–1722. doi: S1053811903004403 [pii] Wiers, R. W., B. D. Bartholow, E. van den Wildenberg, C. Thush, R. C. Engels, K. J. Sher, et al. 2007. Automatic and controlled processes and the development of addictive behaviors in adolescents: a review and a model. Pharmacol. Biochem. Behav. 86:263–283. doi: S0091-3057(06)00323-6 [pii] 10.1016/j.pbb.2006.09.021 Song, S. K., J. Yoshino, T. Q. Le, S. J. Lin, S. W. Sun, A. H. Cross, et al. 2005. Demyelination increases radial diffusivity in corpus callosum of mouse brain. Neuroimage 26:132– 140. doi: S1053-8119(05)00022-4 [pii] 10.1016/j.neuroimage. 2005.01.028 [pii] 10.1016/j.pbb.2006.09.021 Yeh, P. H., K. Simpson, T. C. Durazzo, S. Gazdzinski, and D. J. Meyerhoff. 2009. Tract-Based Spatial Statistics (TBSS) of diffusion tensor imaging data in alcohol dependence: abnormalities of the motivational neurocircuitry. Psychiatry Res. 173:22–30. doi: S0925-4927(08)00100-5 [pii] 10.1016/j. pscychresns.2008.07.012 Sorg, S. F., M. J. Taylor, O. M. Alhassoon, A. Gongvatana, R. J. Theilmann, L. R. Frank, et al. 2012. Frontal white matter integrity predictors of adult alcohol treatment outcome. Biol. Psychiatry 71:262–268. doi: 10.1016/j. biopsych.2011.09.022 170
https://openalex.org/W2966897235
http://cds.cern.ch/record/2676242/files/scoap3-fulltext.pdf
English
null
Search for Higgs and Z boson decays to J/ψ or Y pairs in the four-muon final state in proton-proton collisions at <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" altimg="si1.svg"><mml:msqrt><mml:mrow><mml:mi>s</mml:mi></mml:mrow></mml:msqrt><mml:mo linebreak="goodbreak" linebreakstyle="after">=</mml:mo><mml:mn>13</mml:mn><mml:mspace width="0.2em" /><mml:mtext>TeV</mml:mtext></mml:math>
Physics letters. B
2,019
cc-by
16,780
1. Introduction A new boson with a mass of 125 GeV was discovered by the ATLAS and CMS Collaborations at the CERN LHC in 2012 [1–7]. Comprehensive studies in various decay channels and production modes have shown that the properties of the new boson are con- sistent, so far, with expectations for the standard model (SM) Higgs boson (H) [7–9]. Recently, the Higgs boson couplings to top and bottom quarks have been directly measured [10–13]. Couplings to lighter quarks are still not observed directly. Rare exclusive decays of the Higgs boson to mesons provide experimentally clean final states to study Yukawa couplings to quarks and physics beyond the SM (BSM). Examples of diagrams for decays of the Higgs and Z boson into quarkonium pairs are shown in Fig. 1. The symbol Q refers to charmonium and bottomonium states. With emphasis on amplitudes where the Higgs boson couples indirectly to the final state mesons, such as represented by the two leftmost diagrams in Fig. 1, Ref. [14] arrives at values of about B(H →J/ψJ/ψ) = 1.5 × 10−10 and B(H →YY) = 2 × 10−9. The mechanism where the Higgs boson couples directly to charm or bottom quarks, which then hadronize to heavy quarkonia, was considered in a recent calculation [24] leading to an increase of an order of magnitude in B(H →J/ψγ). The Higgs boson decay to the J/ψ pair could also occur when the photon in the J/ψγ decay is virtual and transforms into a J/ψ meson. Recently, the decay H →J/ψγ has been searched for by the ATLAS and CMS collaborations [25,26]. This Letter also presents the first search for decays of the Z boson into quarkonium pairs. Feynman dia- grams are shown in Fig. 1 (two rightmost plots). The SM predic- tion for B(Z →J/ψJ/ψ) calculated in the framework of nonrela- tivistic QCD and leading twist light cone models is of the order of 10−12 [27]. Several approximations for the non-perturbative QCD processes are used, including the restriction to color-singlet quarkonium states. The importance of the measurement of such decays has been pointed out by Ref. [15–18]. Using a phenomenological approach for the direct H-qq coupling, Ref. [15] finds that the dominant quarkonium pair decay mode is H →YY with an estimated branch- ing fraction (B) at the level of 10−5. www.elsevier.com/locate/physletb Search for Higgs and Z boson decays to J/ψ or Y pairs in the four-muon final state in proton-proton collisions at √ s = 13 TeV a r t i c l e i n f o Article history: Received 24 May 2019 Received in revised form 23 July 2019 Accepted 25 July 2019 Available online 30 July 2019 Editor: M. Doser Keywords: CMS Standard model physics Higgs boson Z boson Rare decays Article history: Received 24 May 2019 Received in revised form 23 July 2019 Accepted 25 July 2019 Available online 30 July 2019 Editor: M. Doser Keywords: CMS Standard model physics Higgs boson Z boson Rare decays A search for decays of the Higgs and Z boson to pairs of J/ψ or Y(nS) (n = 1, 2, 3) mesons, with their subsequent decay to μ+μ−pairs, is presented. The analysis uses data from proton-proton collisions at √ s = 13 TeV, collected with the CMS detector at the LHC in 2017 and corresponding to an integrated luminosity of 37.5 fb−1. While an observation of such a decay with this sample would indicate the presence of physics beyond the standard model, no significant excess is observed. Upper limits at 95% confidence level are placed on the branching fractions of these decays. In the J/ψ pair channel, the limits are 1.8 × 10−3 and 2.2 × 10−6 for the Higgs and Z boson, respectively, while in the combined Y(nS) pair channel, the limits are 1.4 × 10−3 and 1.5 × 10−6, respectively, when the mesons from the Higgs and Z boson decay are assumed to be unpolarized. When fully longitudinal and transverse polarizations are considered the limits reduce by about 22–29% and increase by about 10–13%, respectively. © 2019 The Author(s). Published by Elsevier B.V. This is an open access article under the CC BY license (http://creativecommons.org/licenses/by/4.0/). Funded by SCOAP3. Article history: Received 24 May 2019 Received in revised form 23 July 2019 Accepted 25 July 2019 Available online 30 July 2019 Editor: M. Doser © 2019 The Author(s). Published by Elsevier B.V. This is an open access article under the CC BY license (http://creativecommons.org/licenses/by/4.0/). Funded by SCOAP3. increases by an order of magnitude [19–21] when these effects are included, in agreement with measurements by the Belle and BaBar experiments [22,23]. Search for Higgs and Z boson decays to J/ψ or Y pairs in the four-muon final state in proton-proton collisions at √ s = 13 TeV .The CMS Collaboration ⋆ CERN, Switzerland CERN, Switzerland ⋆E-mail address: cms -publication -committee -chair @cern .ch. Physics Letters B 797 (2019) 134811 Physics Letters B 797 (2019) 134811 ⋆E-mail address: cms -publication -committee -chair @cern .ch. p p y p substantial modifications of the Yukawa couplings of the Higgs https://doi.org/10.1016/j.physletb.2019.134811 0370-2693/© 2019 The Author(s). Published by Elsevier B.V. This is an open access article under the CC BY license (http://creativecommons.org/licenses/by/4.0/). Funded by SCOAP3. ed by Elsevier B.V. This is an open access article under the CC BY license (http://creativecommons.org/licenses/by/4.0/). Funded by 1. Introduction The early calculations of Higgs boson decays into a pair of heavy quarkonia states did not include relativistic corrections caused by the internal motion of quarks [14]. The importance of the latter corrections is under- lined by the fact that the predicted e+e−→J/ψηc cross section New physics could affect the direct boson couplings or could enter through loops, and alter the interference pattern between the amplitudes. Any of those possibilities enhance branching fractions with respect to the SM predictions. Many BSM theories predict substantial modifications of the Yukawa couplings of the Higgs The CMS Collaboration / Physics Letters B 797 (2019) 134811 2 Fig. 1. Feynman diagrams for H →QQ and Z →QQ with Q = charmonium or bottomonium states. In the two leftmost diagrams [14], the virtual particles are Z bosons. The center-right diagram depicts indirect processes in the case where the flavor of the quark q in the loop is top, and direct processes in the case where it is charm or bottom. The other virtual particles are either photons or gluons. In the latter case additional soft-gluon exchange occurs. The rightmost diagram shows direct processes for the Higgs or Z bosons. Fig. 1. Feynman diagrams for H →QQ and Z →QQ with Q = charmonium or bottomonium states. In the two leftmost diagrams [14], the virtual particles are Z bosons. The center-right diagram depicts indirect processes in the case where the flavor of the quark q in the loop is top, and direct processes in the case where it is charm or bottom. The other virtual particles are either photons or gluons. In the latter case additional soft-gluon exchange occurs. The rightmost diagram shows direct processes for the Higgs or Z bosons. consists of a farm of processors running a version of the full event reconstruction software optimized for fast processing, and reduces the event rate to around 1 kHz before data storage. boson to quarks, such as models with Higgs-dependent Yukawa couplings [28], the minimal flavor violation framework [29], the Froggatt–Nielsen mechanism [30], and the Randall–Sundrum fam- ily of models [31]. An overview of models can be found in Ref. [32]. 2. The CMS detector A detailed description of the CMS detector, together with a def- inition of the coordinate system used and the relevant kinematic variables, can be found in Ref. [33]. The central feature of the CMS apparatus is a superconducting solenoid, 13 m in length and 6 m in internal diameter, providing an axial magnetic field of 3.8 T. Within the solenoid volume are a silicon pixel and strip tracker, a lead tungstate crystal electromagnetic calorimeter, and a brass and scintillator hadron calorimeter, each composed of a barrel and two endcap sections. Forward calorimeters extend the pseudora- pidity (η) coverage provided by the barrel and endcap detectors. Muons are detected in gas-ionization chambers embedded in the steel flux-return yoke outside the solenoid. They are measured in the range |η| < 2.4, with detection planes made using three tech- nologies: drift tubes, cathode strip chambers, and resistive-plate chambers. The Z →J/ψJ/ψ and Z →YY samples are produced with the pythia 8.226 generator [42], tune CUETP8M1 [43]. The SM Z boson production cross section includes the next-to-next-to-leading order (NNLO) QCD contributions, and the next-to-leading order (NLO) electroweak corrections from fewz 3.1 [44] calculated using the NLO PDF set NNPDF3.0. The Z boson pT is reweighted to match the NLO calculation [37,38,45]. The total cross section is obtained with the B(Z →μ+μ−) value from Ref. [46]. An entirely new pixel detector has been installed after 2016, featuring an all-silicon device with four layers in the barrel and three disks in the endcaps [34], providing four pixel detector mea- surements. Reduced material budget in front of the calorimeters was achieved with two-phase CO2 cooling and light-weight me- chanical support, and moving the electronic boards and connec- tions out of the tracking volume. In the J/ψ and Y pair channels backgrounds are assumed to originate from prompt nonresonant pair production, which in pp collisions dominantly occurs via ggF [47–50]. Initially, the two mesons are color-octet bound states that then radiate soft gluons to become real mesons. Event samples are generated according to this model [49]. Events of interest are selected using a two-tiered trigger sys- tem [35]. The first level, composed of custom hardware processors, uses information from the calorimeters and muon detectors to se- lect events at a rate of around 100 kHz within a time interval of less than 4 μs. 3. Signal and background modeling Simulated samples of the Higgs and Z boson signals are used to estimate the expected signal yields and model the distribu- tion of signal events in the four-muon invariant mass. For the H →J/ψJ/ψ and H →YY samples the Higgs boson is produced with the powheg v2.0 Monte Carlo (MC) event generator [37,38], which includes the gluon-gluon fusion (ggF) and vector-boson fu- sion production processes. The parton distribution function (PDF) set used is NNPDF3.1 [39]. The JHUGen 7.1.4 generator [40,41] is used to decay the Higgs boson into two vector mesons taking into account their helicity. To produce the decay for unpolarized quarkonia, the JHUGen generator is configured to model a uni- form muon helicity angle distribution. The generator is interfaced with pythia 8.226 [42] for parton-showering and hadronization ac- cording to the CUETP8M1 [43] tune. The total SM Higgs boson production cross section for the calculation of branching fractions is taken from the LHC Higgs cross section working group [32]. 1. Introduction In the related quarkonium–γ channels, deviations of the H-qq cou- plings from the SM predictions can change the interference be- tween direct and indirect amplitudes, resulting in substantial mod- ifications of the branching fractions, particularly in the Y channel, where the increase is up to several orders of magnitude [24]. The observation of a Higgs or Z boson signal in the quarkonium pair decay modes with the available LHC data sets would indicate the presence of BSM physics. Dedicated triggers were deployed in 2017 to enhance the selec- tion of events of interest for the present study. They require the presence of at least three muons with pT greater than 2 GeV. Two of these must be oppositely charged and have to originate from a common vertex with a probability greater than 0.5%, as determined by a Kalman vertex fit [36], thus suppressing random combinations of two muons. The J/ψ-specific trigger requires a dimuon system’s invariant mass to be between 2.95 and 3.25 GeV and its pT to be greater than 3.5 GeV. The trigger used to select the Y sample re- quires two of the three muons to have pT greater than 3.5 GeV, and one muon pT greater than 5 GeV. The invariant mass for one oppositely charged muon pair must lie in the interval 8.5–11.4 GeV. Both triggers gave an efficiency exceeding 85% to select events sat- isfying the selection criteria used in the analysis. This Letter presents the first search for the Higgs and Z boson decays into J/ψ or Y meson pairs, where Y stands for the combined contribution of the Y(nS) states with n = 1, 2, 3. The subsequent decay of these meson pairs to the 4μ final state offers a very clean experimental signature that is used in this analysis. For the J/ψ meson pairs, feed-down from higher charmonium states are not taken into account. For the Y(nS) meson pairs, decays from higher to lower mass Y(nS) states are included. The results presented in this Letter are based on proton-proton (pp) collision data recorded in 2017 with the CMS detector at a center-of-mass energy of √ s = 13 TeV, amounting to an integrated luminosity of 37.5 fb−1. 2. The CMS detector The second level, known as the high-level trigger, The generated events are processed through a detailed simula- tion of the CMS detector based on Geant4 [51]. The high instan- taneous luminosity of the LHC results in multiple pp interactions The CMS Collaboration / Physics Letters B 797 (2019) 134811 3 Fig. 2. The four-muon invariant mass distributions, for J/ψJ/ψ (left) and YY (right) candidates (error bars for zero entries are omitted). The result of the maximum likelihood fit is superimposed (solid blue line). For illustrative purposes, the plots also show the distributions for simulated Higgs and Z boson signals (dashed red lines), each normalized to two events. Fig. 2. The four-muon invariant mass distributions, for J/ψJ/ψ (left) and YY (right) candidates (error bars for zero entries are omitted). The result of the maximum likelihood fit is superimposed (solid blue line). For illustrative purposes, the plots also show the distributions for simulated Higgs and Z boson signals (dashed red lines), each normalized to two events. (longitudinal axis). Events with at least four such muons with pT > 3 GeV and |η| < 2.4 are accepted. To isolate the leading muon candidate from other hadronic activity in the event, a cone of size R = √ (η)2 + (φ)2 = 0.3 is constructed around its momentum direction, where φ is the azimuthal angle in radians. The sum of the pT of the reconstructed inner-detector tracks originating from the primary pp interaction vertex within the cone has to be less than 50% of the muon’s pT. The transverse momentum of the lead- ing muon is subtracted from the sum and the subleading muon pT is also subtracted, if this muon falls within the isolation cone of the leading muon. per bunch crossing. Simultaneous pp interactions that overlap with the event of interest, i.e. pileup, are included in simulated samples. The distribution of the number of additional interactions per event in simulation corresponds to that observed in the data, where the average pileup number is found to be 32. The acceptance of the final states changes with the angular distribution of the muons in the quarkonium decay. The distri- bution of the decay angle θ, defined as the angle between the positive muon direction of flight in the rest frame of the quarko- nium with respect to the quarkonium direction in the boson rest frame, is proportional to (1 + λθ cos2 θ). 4. Data reconstruction and selection Muons are reconstructed by combining information from the silicon tracker and the muon system [52]. The matching between tracks reconstructed in each of the subsystems proceeds either outside-in, starting from a track in the muon system, or inside-out, starting from a track provided by the silicon tracker. In the latter case, tracks that match track segments in only one or two stations of the muon system are also considered in the analysis to collect very low-pT muons that may not have sufficient energy to pen- etrate the entire muon system. The muons are selected from the reconstructed muon track candidates that match with at least one segment in any muon station in both x and y. The number of sili- con tracker layers with hits used in the muon track candidate has to be greater than 5 and include at least one pixel detector layer. Matching muons to tracks measured in the silicon tracker results in a relative transverse momentum (pT) resolution of 1% in the barrel and 3% in the endcaps for muons with pT up to 100 GeV. The pT resolution in the barrel is better than 7% for muons with pT up to 1 TeV [52]. For the selection of Y pair candidates, the same event selec- tion criteria are applied, except that the Y candidate pT has to be greater than 5 GeV, and the invariant mass has to fall within the range 8.5–11 GeV. Furthermore, the four-muon Kalman vertex fit probability has to be greater than 1% to suppress random combi- nations. The nonprompt background is negligible in this channel. After applying the selections, 106 events are found in data in the 20–140 GeV four-muons invariant mass range. Fig. 2 (right) shows the four-muon invariant mass distribution. The differences in efficiencies between data and simulation for the trigger, offline muon reconstruction, identification, and iso- lation are corrected by reweighting the simulated events with data-to-simulation correction factors, which are obtained with the “tag-and-probe” method [53] using J/ψ →μ+μ−events. The scale correction factors are observed to deviate from unity by less than 3%. The difference in the four-muon Kalman vertex fit efficiency between data and simulation is evaluated with J/ψ pair event The reconstructed vertex with the largest value of summed charged particle p2 T is taken to be the primary pp interaction ver- tex. 2. The CMS detector In this Letter, the nom- inal results are obtained using a signal acceptance calculated for the unpolarized case (λθ = 0). Two extreme scenarios have also been considered, where the J/ψ and Y mesons are either fully transversely polarized, λθ = +1, or fully longitudinally polarized, λθ = −1. No azimuthal anisotropies have been considered. Accord- ing to Refs. [14,27] the J/ψ and Y mesons produced in the decays of both bosons are expected to be dominantly longitudinally polar- ized. The J/ψ and Y candidates are built from pairs of oppositely charged muons. Each muon pair must fit to their common vertex with a probability greater than 0.5%. The J/ψ candidate’s pT has to be greater than 3.5 GeV, matching the trigger requirement, and the invariant masses of the higher and lower-pT J/ψ candidates have to be within 0.1 and 0.15 GeV, respectively, of the nominal mass of the J/ψ. The dimuon mass resolution is about 30 MeV. The mass window of the subleading J/ψ is wider to allow further monitoring of the sideband population. To suppress contributions from non- prompt hadrons, separately produced J/ψs and muons from other sources, the four-muon Kalman vertex fit probability of J/ψ pairs has to be greater than 5%. Finally, the absolute value of the dif- ference in rapidity between the two J/ψ candidates has to be less than 3. This criterion marginally affects the signal while removing about 20% of the selected events. After the selection, 189 events are found in data in the 40–140 GeV four-muon invariant mass range. Fig. 2 (left) shows the four-muon invariant mass distribu- tion. 6. Summary In summary, this Letter presents the first search for decays of the Higgs and Z boson to pairs of J/ψ or Y(nS) (n = 1, 2, 3) mesons, with their subsequent decay to μ+μ−pairs. Data from pp collisions at √ s = 13 TeV, corresponding to an integrated luminos- ity of 37.5 fb−1 are used. No excess has been observed above a small background in the J/ψ pair and with vanishingly small back- ground in the Y pair channels. The observed upper limits at 95% confidence level on the branching fractions for the Higgs boson de- cays for unpolarized mesons are B(H →J/ψJ/ψ) < 1.8 × 10−3 and B(H →YY) < 1.4 ×10−3. The observed upper limits on the branch- ing fractions for the Z boson decay in the unpolarized scenario are B(Z →J/ψJ/ψ) < 2.2 × 10−6 and B(Z →YY) < 1.5 × 10−6, where all three Y(nS) states are considered. Extreme polarization scenar- ios give rise to variations in the observed boson decay branch- ing fractions between −(22–29)% for fully longitudinally polarized J/ψ and Y mesons and +(10–13)% for fully transversely polarized mesons. This analysis is expected to motivate renewed calculations of the Higgs boson branching fractions for rare standard model decays, as only a few positive signal events would indicate the presence of physics beyond the standard model. The four-muon invariant mass distribution up to 140 GeV is described by an exponential plus constant function. The relative contribution and decay constant of the exponential function are varied in the fit to data. The values of both parameters are found to be in close agreement between observation and simulation [49]. The result of the fit is shown as a solid blue line in Fig. 2 (left). In the Y pair sample, no events are observed above the four- muon invariant mass of 40 GeV. The four-muon invariant mass distribution is modeled analogously to the J/ψ pair channel. The M4μ distribution below 40 GeV is well described by an exponen- tial function. The decay constant of the exponential function is also varied in the fit. The same function describes an event sample gen- erated with the pair production model [49]. Fig. 2 (right) shows the observed M4μ distribution with the fit superimposed. μ Given the absence of a signal for either of the bosons, up- per limits on the branching fractions are obtained. Acknowledgements We congratulate our colleagues in the CERN accelerator depart- ments for the excellent performance of the LHC and thank the technical and administrative staffs at CERN and at other CMS in- stitutes for their contributions to the success of the CMS effort. In addition, we gratefully acknowledge the computing centers and personnel of the Worldwide LHC Computing Grid for delivering so effectively the computing infrastructure essential to our analyses. Finally, we acknowledge the enduring support for the construc- tion and operation of the LHC and the CMS detector provided by the following funding agencies: BMBWF and FWF (Austria); FNRS and FWO (Belgium); CNPq, CAPES, FAPERJ, FAPERGS, and FAPESP (Brazil); MES (Bulgaria); CERN; CAS, MOST, and NSFC (China); COLCIENCIAS (Colombia); MSES and CSF (Croatia); RPF (Cyprus); SENESCYT (Ecuador); MoER, ERC IUT, PUT and ERDF (Estonia); Academy of Finland, MEC, and HIP (Finland); CEA and CNRS/IN2P3 (France); BMBF, DFG, and HGF (Germany); GSRT (Greece); NK- FIA (Hungary); DAE and DST (India); IPM (Iran); SFI (Ireland); INFN (Italy); MSIP and NRF (Republic of Korea); MES (Latvia); LAS (Lithuania); MOE and UM (Malaysia); BUAP, CINVESTAV, CONACYT, LNS, SEP, and UASLP-FAI (Mexico); MOS (Montenegro); MBIE (New Zealand); PAEC (Pakistan); MSHE and NSC (Poland); FCT (Portu- gal); JINR (Dubna); MON, ROSATOM, RAS, RFBR, and NRC KI (Rus- sia); MESTD (Serbia); SEIDI, CPAN, PCTI, and FEDER (Spain); MoSTR (Sri Lanka); Swiss Funding Agencies (Switzerland); MST (Taipei); ThEPCenter, IPST, STAR, and NSTDA (Thailand); TUBITAK and TAEK (Turkey); NASU and SFFR (Ukraine); STFC (United Kingdom); DOE and NSF (USA). The value for B(J/ψ →μ+μ−) is taken from Ref. [46]. This analysis does not distinguish between the three Y(nS) states. To calculate their contribution to the corresponding H and Z boson branching fraction the coupling strength of the bosons to any Y(nS) pairing is assumed to be the same. All Y states can directly de- cay into muon pairs with the different branching fractions taken from Ref. [46]. In addition, it is assumed that one of the Y states could be the result of a transition Y(3S) →Y(2S), Y(3S) →Y(1S), or Y(2S) →Y(1S) before decaying into muons [46]. The observed and median expected exclusion limits for the branching fractions at 95% confidence level (CL) for the H and Z boson decays are listed in Table 1. Table 1 Exclusion limits at 95% CL for the branching fractions of the H and Z boson decays to J/ψ or Y mesons pairs. The second column lists the observed limits. The third column shows the median expected limits with the upper and lower bounds in the expected 68% CL intervals. Process Observed Expected B(H →J/ψJ/ψ) 1.8 × 10−3 (1.8+0.2 −0.1) × 10−3 B(H →YY) 1.4 × 10−3 (1.4 ± 0.1) × 10−3 B(Z →J/ψJ/ψ) 2.2 × 10−6 (2.8+1.2 −0.7) × 10−6 B(Z →YY) 1.5 × 10−6 (1.5 ± 0.1) × 10−6 6. Summary They are set by using the modified frequentist approach, CLs, with the profile likelihood ratio as a test statistic [55–57]. The uncertainties affect- ing the signal yields include the contributions from the luminosity measurement [58], the corrections applied to the simulated events in order to compensate for differences in trigger, muon reconstruc- tion and identification efficiencies, momentum scale and resolution of muon candidates, and four-muon vertex fit. Sources for theoret- ical uncertainties are the QCD coupling and PDF choice [32,39,59], and the renormalization and factorization scale choice [59–62]. The uncertainties in the J/ψ and Y branching fractions to muon pairs are taken from Ref. [46]. The relative impact of the systematic un- certainties on the upper limits is less than 2% in all channels. 5. Results Unbinned extended maximum-likelihood fits [54] to the four- muon invariant mass distributions M4μ are performed. Yields for signals and backgrounds are free parameters in the fit. For the Higgs boson the invariant mass distribution obtained from simu- lation is described with two Gaussian functions with a common mean. The simulated Z signal is described with a Voigtian function with the world-average value for the resonance width [46]. The mass resolution and mean are taken from the fit to the simulation, and they are fixed in the fit to data. 4. Data reconstruction and selection To suppress muons originating from nonprompt hadron de- cays, the impact parameter of each muon track, computed with respect to the position of the primary pp interaction vertex, is required to be less than 0.3 (20.0) cm in the transverse plane The CMS Collaboration / Physics Letters B 797 (2019) 134811 4 samples and found to be less than 3%. The total signal efficiency, including kinematic acceptance, trigger, reconstruction, identifica- tion, and isolation efficiencies, for the J/ψJ/ψ decays with unpolar- ized J/ψ is approximately 23% for both bosons. For the YY decays the corresponding efficiency is about 27%. References [26] CMS Collaboration, Search for rare decays of Z and Higgs bosons to J/ψ and a photon in proton-proton collisions at √ s = 13 TeV, Eur. Phys. J. C 79 (2019) 94, https://doi .org /10 .1140 /epjc /s10052 -019 -6562 -5, arXiv:1810 .10056. [1] ATLAS Collaboration, Observation of a new particle in the search for the Stan- dard Model Higgs boson with the ATLAS detector at the LHC, Phys. Lett. B 716 (2012) 1, https://doi .org /10 .1016 /j .physletb .2012 .08 .020, arXiv:1207.7214. [27] A.K. Likhoded, A.V. Luchinsky, Double charmonia production in exclusive Z boson decays, Mod. Phys. Lett. A 33 (2018) 1850078, https://doi .org /10 .1142 / S0217732318500785, arXiv:1712 .03108. [2] ATLAS Collaboration, Evidence for the spin-0 nature of the Higgs boson us- ing ATLAS data, Phys. Lett. B 726 (2013) 120, https://doi .org /10 .1016 /j .physletb . 2013 .08 .026, arXiv:1307.1432. [28] G.F. Giudice, O. Lebedev, Higgs-dependent Yukawa couplings, Phys. Lett. B 665 (2008) 79, https://doi .org /10 .1016 /j .physletb .2008 .05 .062, arXiv:0804 .1753. [3] CMS Collaboration, Observation of a new boson at a mass of 125 GeV with the CMS experiment at the LHC, Phys. Lett. B 716 (2012) 30, https://doi .org /10 . 1016 /j .physletb .2012 .08 .021, arXiv:1207.7235. [29] G. D’Ambrosio, G.F. Giudice, G. Isidori, A. Strumia, Minimal flavour violation: an effective field theory approach, Nucl. Phys. B 645 (2002) 155, https://doi . org /10 .1016 /S0550 -3213(02 )00836 -2, arXiv:hep -ph /0207036. [4] CMS Collaboration, Observation of a new boson with mass near 125 GeV in pp collisions at √ s = 7 and 8 TeV, J. High Energy Phys. 06 (2013) 081, https:// doi .org /10 .1007 /JHEP06(2013 )081, arXiv:1303 .4571. [30] C.D. Froggatt, H.B. Nielsen, Hierarchy of quark masses, Cabibbo angles and CP violation, Nucl. Phys. B 147 (1979) 277, https://doi .org /10 .1016 /0550 -3213(79 ) 90316 -X. [5] CMS Collaboration, Precise determination of the mass of the Higgs boson and tests of compatibility of its couplings with the standard model predictions us- ing proton collisions at 7 and 8 TeV, Eur. Phys. J. C 75 (2015) 212, https:// doi .org /10 .1140 /epjc /s10052 -015 -3351 -7, arXiv:1412 .8662. [31] L. Randall, R. Sundrum, Large mass hierarchy from a small extra dimension, Phys. Rev. Lett. 83 (1999) 3370, https://doi .org /10 .1103 /PhysRevLett .83 .3370. [32] D. de Florian, C. Grojean, F. Maltoni, C. Acknowledgements The relative changes in the upper limits on the Higgs boson de- cay branching fractions with respect to the case of unpolarized de- cay mesons are about −22% for fully longitudinally polarized J/ψ and Y mesons, and +10% for fully transversely polarized mesons. For the Z boson the relative changes are about −29 (−26)% for fully longitudinally polarized J/ψ (Y) mesons and +13 (+12)% for fully transversely polarized mesons. The CMS Collaboration / Physics Letters B 797 (2019) 134811 5 Individuals have received support from the Marie-Curie pro- gram and the European Research Council and Horizon 2020 Grant, contract Nos. 675440, 752730, and 765710 (European Union); the Leventis Foundation; the A.P. Sloan Foundation; the Alexan- der von Humboldt Foundation; the Belgian Federal Science Pol- icy Office; the Fonds pour la Formation à la Recherche dans l’Industrie et dans l’Agriculture (FRIA-Belgium); the Agentschap voor Innovatie door Wetenschap en Technologie (IWT-Belgium); the F.R.S.-FNRS and FWO (Belgium) under the “Excellence of Sci- ence – EOS” – be.h project n. 30820817; the Beijing Municipal Science & Technology Commission, No. Z181100004218003; the Ministry of Education, Youth and Sports (MEYS) of the Czech Republic; the Lendület (“Momentum”) Program and the János Bolyai Research Scholarship of the Hungarian Academy of Sci- ences, the New National Excellence Program ÚNKP, the NKFIA re- search grants 123842, 123959, 124845, 124850, 125105, 128713, 128786, and 129058 (Hungary); the Council of Science and Indus- trial Research, India; the HOMING PLUS program of the Founda- tion for Polish Science, cofinanced from European Union, Euro- pean Regional Development Fund, the Mobility Plus program of the Ministry of Science and Higher Education, the National Science Center (Poland), contracts Harmonia 2014/14/M/ST2/00428, Opus 2014/13/B/ST2/02543, 2014/15/B/ST2/03998, and 2015/19/B/ST2/ 02861, Sonata-bis 2012/07/E/ST2/01406; the National Priorities Re- search Program by Qatar National Research Fund; the Programa Estatal de Fomento de la Investigación Científica y Técnica de Ex- celencia María de Maeztu, grant MDM-2015-0509 and the Pro- grama Severo Ochoa del Principado de Asturias; the Thalis and Aristeia programs cofinanced by EU-ESF and the Greek NSRF; the Rachadapisek Sompot Fund for Postdoctoral Fellowship, Chu- lalongkorn University and the Chulalongkorn Academic into Its 2nd Century Project Advancement Project (Thailand); the Welch Foundation, contract C-1845; and the Weston Havens Foundation (USA). [10] CMS Collaboration, Observation of ttH production, Phys. Rev. Lett. 120 (2018) 23180, https://doi .org /10 .1103 /PhysRevLett .120 .231801, arXiv:1804 .02610. Acknowledgements [11] ATLAS Collaboration, Observation of Higgs boson production in association with a top quark pair at the LHC with the ATLAS detector, Phys. Lett. B 784 (2018) 173, https://doi .org /10 .1016 /j .physletb .2018 .07.035, arXiv:1806 .00425. [12] CMS Collaboration, Observation of Higgs boson decay to bottom quarks, Phys. Rev. Lett. 121 (2018) 121801, https://doi .org /10 .1103 /PhysRevLett .121.121801, arXiv:1808 .08242. [13] ATLAS Collaboration, Observation of H →bb decays and VH production with the ATLAS detector, Phys. Lett. B 786 (2018) 59, https://doi .org /10 .1016 /j . physletb .2018 .09 .013, arXiv:1808 .08238. [14] V. Kartvelishvili, A.V. Luchinsky, A.A. Novoselov, Double vector quarkonia pro- duction in exclusive Higgs boson decays, Phys. Rev. D 79 (2009) 114015, https://doi .org /10 .1103 /PhysRevD .79 .114015, arXiv:0810 .0953. [15] M. Bander, A. Soni, Decays of Higgs scalars into vector mesons and photons, Phys. Lett. B 82 (1979) 411, https://doi .org /10 .1016 /0370 -2693(79 )90255 -7. [16] W.-Y. Keung, Decay of the Higgs boson into heavy-quarkonium states, Phys. Rev. D 27 (1983) 2762, https://doi .org /10 .1103 /PhysRevD .27.2762. [17] M.N. Doroshenko, V.G. Kartvelishvili, E.G. Chikovani, S.M. Esakiya, Vector quarkonium in decays of heavy Higgs particles, Yad. Fiz. 46 (1987) 864. [18] V.G. Kartvelishvili, E.G. Chikovani, S.M. Esakiya, The production and decays of heavy quark bound states in strong and electroweak interactions, Fiz. Elem. Chast. Atom. Yadra 19 (1988) 139 (in Russian). [19] A.E. Bondar, V.L. Chernyak, Is the Belle result for the cross section σ (e+e−→ J/ψ + ηC ) a real difficulty for QCD?, Phys. Lett. B 612 (2005) 215, https://doi . org /10 .1016 /j .physletb .2005 .03 .021, arXiv:hep -ph /0412335. [20] V.V. Braguta, A.K. Likhoded, A.V. Luchinsky, Observation potential for χb at the Fermilab Tevatron and CERN LHC, Phys. Rev. D 72 (2005) 094018, https://doi . org /10 .1103 /PhysRevD .72 .094018, arXiv:hep -ph /0506009. [21] V.V. Braguta, A.K. Likhoded, A.V. Luchinsky, The processes e+e−→J/ψ/ψχc0, ψ(2S)χc0 at √ s = 10.6 GeV in the framework of light cone formalism, Phys. Lett. B 635 (2006) 299, https://doi .org /10 .1016 /j .physletb .2006 .03 .005, arXiv: hep -ph /0602047. [22] K. Abe, et al., Belle, Observation of double cc production in e+e−annihilation at √ s ≈10.6 GeV, Phys. Rev. Lett. 89 (2002) 142001, https://doi .org /10 .1103 / PhysRevLett .89 .142001, arXiv:hep -ex /0205104. [23] B. Acknowledgements Aubert, et al., BABAR, Measurement of double charmonium production in e+e−annihilations at √ s = 10.6 GeV, Phys. Rev. D 72 (2005) 031101, https:// doi .org /10 .1103 /PhysRevD .72 .031101, arXiv:hep -ex /0506062. [24] G. Bodwin, F. Petriello, S. Stoynev, M. Velasco, Higgs boson decays to quarkonia and the Hcc coupling, Phys. Rev. D 88 (2013) 053003, https://doi .org /10 .1103 / PhysRevD .88 .053003, arXiv:1306 .5770. [25] ATLAS Collaboration, Search for Higgs and Z boson decays to J/ψ γ and Y(nS) γ with the ATLAS detector, Phys. Rev. Lett. 114 (2015) 121801, https://doi .org / 10 .1103 /PhysRevLett .114 .121801, arXiv:1501.03276. References G 28 (2002) 2693, https://doi .org /10 .1088 /0954 -3899 /28 /10 /313. [57] The ATLAS Collaboration, The CMS Collaboration, The LHC Higgs Combination Group, Procedure for the LHC Higgs Boson Search Combination in Summer 2011, Technical Report CMS-NOTE-2011-005, ATL-PHYS-PUB-2011-11, 2011, https://cds .cern .ch /record /1379837. [43] CMS Collaboration, Event generator tunes obtained from underlying event and multiparton scattering measurements, Eur. Phys. J. C 76 (2016) 155, https:// doi .org /10 .1140 /epjc /s10052 -016 -3988 -x, arXiv:1512 .00815. [58] CMS Collaboration, CMS Luminosity Measurements for the 2017 Data Taking Period at √ s = 13 TeV, CMS Physics Analysis Summary CMS-PAS-LUM-17-004, 2018, https://cds .cern .ch /record /2621960. [44] Y. Li, F. Petriello, Combining QCD and electroweak corrections to dilepton production in FEWZ, Phys. Rev. D 86 (2012) 094034, https://doi .org /10 .1103 / PhysRevD .86 .094034, arXiv:1208 .5967. [59] J. Butterworth, et al., PDF4LHC recommendations for LHC Run II, J. Phys. G 43 (2016) 023001, https://doi .org /10 .1088 /0954 -3899 /43 /2 /023001, arXiv:1510 . 03865. [45] J. Alwall, R. Frederix, S. Frixione, V. Hirschi, F. Maltoni, O. Mattelaer, H.-S. Shao, T. Stelzer, P. Torrielli, M. Zaro, The automated computation of tree- level and next-to-leading order differential cross sections, and their matching to parton shower simulations, J. High Energy Phys. 07 (2014) 079, https:// doi .org /10 .1007 /JHEP07(2014 )079, arXiv:1405 .0301. [60] A.D. Martin, W.J. Stirling, R.S. Thorne, G. Watt, Parton distributions for the LHC, Eur. Phys. J. C 63 (2009) 189, https://doi .org /10 .1140 /epjc /s10052 -009 -1072 -5, arXiv:0901.0002. g/ /J ( ) [46] Particle Data Group, M. Tanabashi, et al., Review of particle physics, Phys. Rev. D 98 (2018) 030001, https://doi .org /10 .1103 /PhysRevD .98 .030001. [61] H.L. Lai, M. Guzzi, J. Huston, Z. Li, P.M. Nadolsky, J. Pumplin, C.P. Yuan, New parton distributions for collider physics, Phys. Rev. D 82 (2010) 74024, https:// doi .org /10 .1103 /PhysRevD .82 .074024, arXiv:1007.2241. [47] J.P. Lansberg, H.S. Shao, J/ψ-pair production at large momenta: indications for double-parton scatterings and large α5 s contributions, Phys. Lett. B 751 (2015) 479, https://doi .org /10 .1016 /j .physletb .2015 .10 .083, arXiv:1410 .8822. [62] R.D. Ball, V. Bertone, F. Cerutti, L. Del Debbio, S. Forte, A. Guffanti, J.I. La- torre, J. Rojo, M. Ubiali, NNPDF, Impact of heavy quark masses on parton distributions and LHC phenomenology, Nucl. Phys. References Mariotti, A. Nikitenko, M. Pieri, P. Savard, M. Schumacher, R. Tanaka, Handbook of LHC Higgs Cross Sections: 4. Deci- phering the Nature of the Higgs Sector, CERN Report CERN-2017-002-M, 2017, arXiv:1610 .07922. [6] ATLAS Collaboration, Measurements of the Higgs boson production and decay rates and coupling strengths using pp collision data at √ s = 7 and 8 TeV in the ATLAS experiment, Eur. Phys. J. C 76 (2016) 6, https://doi .org /10 .1140 /epjc / s10052 -015 -3769 -y, arXiv:1507.04548. [33] CMS Collaboration, The CMS experiment at the CERN LHC, J. Instrum. 3 (2008) S08004, https://doi .org /10 .1088 /1748 -0221 /3 /08 /S08004. [7] ATLAS and CMS Collaborations, Measurements of the Higgs boson produc- tion and decay rates and constraints on its couplings from a combined AT- LAS and CMS analysis of the LHC pp collision data at √ s = 7 and 8 TeV, J. High Energy Phys. 08 (2016) 45, https://doi .org /10 .1007 /JHEP08(2016 )045, arXiv:1606 .02266. [34] CMS Technical Design Report for the Pixel Detector Upgrade, Technical Report CERN-LHCC-2012-01, CMS-TDR-11, 2012. [35] CMS Collaboration, The CMS trigger system, J. Instrum. 12 (2017) P01020, https://doi .org /10 .1088 /1748 -0221 /12 /01 /P01020, arXiv:1609 .02366. [8] ATLAS and CMS Collaborations, Combined measurement of the Higgs boson mass in pp collisions at √ s = 7 and 8 TeV with the ATLAS and CMS experi- ments, Phys. Rev. Lett. 114 (2015) 191803, https://doi .org /10 .1103 /PhysRevLett . 114 .191803, arXiv:1503 .07589. [36] R. Frühwirth, Application of Kalman filtering to track and vertex fitting, Nucl. Instrum. Methods A 262 (1987) 444, https://doi .org /10 .1016 /0168 -9002(87 ) 90887 -4. [37] S. Alioli, P. Nason, C. Oleari, E. Re, NLO Higgs boson production via gluon fusion matched with shower in POWHEG, J. High Energy Phys. 04 (2009) 002, https:// doi .org /10 .1088 /1126 -6708 /2009 /04 /002, arXiv:0812 .0578. [9] CMS Collaboration, Combined measurements of Higgs boson couplings at √ s = 13 TeV, Eur. Phys. J. C 79 (2019) 421, https://doi .org /10 .1140 /epjc /s10052 -019 - 6909 -y, arXiv:1809 .10733. The CMS Collaboration / Physics Letters B 797 (2019) 134811 6 [38] P. Nason, C. Oleari, NLO Higgs boson production via vector-boson fusion matched with shower in POWHEG, J. High Energy Phys. 02 (2010) 037, https:// doi .org /10 .1007 /JHEP02(2010 )037, arXiv:0911.5299. References [50] CMS Collaboration, Measurement of prompt J/ψ-pair production in pp colli- sions at √ s = 7 TeV, J. High Energy Phys. 09 (2014) 094, https://doi .org /10 . 1007 /JHEP09(2014 )094, arXiv:1406 .0484. [51] S. Agostinelli, et al., GEANT4, Geant4—a simulation toolkit, Nucl. Instrum. Methods A 506 (2003) 250, https://doi .org /10 .1016 /S0168 -9002(03 )01368 -8. [39] R.D. Ball, V. Bertone, S. Carrazza, L. Del Debbio, S. Forte, P. Groth-Merrild, A. Guffanti, N.P. Hartland, Z. Kassabov, E.R. Nocera, J.I. Latorre, J. Rojo, L. Rottoli, E. Slade, M. Ubiali, NNPDF, Parton distributions from high-precision collider data, Eur. Phys. J. C 77 (2017) 663, https://doi .org /10 .1140 /epjc /s10052 -017 -5199 -5, arXiv:1706 .00428. [52] CMS Collaboration, Performance of the CMS muon detector and muon recon- struction with proton-proton collisions at √ s = 13 TeV, J. Instrum. 13 (2018) P06015, https://doi .org /10 .1088 /1748 -0221 /13 /06 /P06015, arXiv:1804 .04528. [53] CMS Collaboration, Measurement of the inclusive W and Z production cross sections in pp collisions at √ s = 7 TeV, J. High Energy Phys. 10 (2011) 132, https://doi .org /10 .1007 /JHEP10(2011 )132, arXiv:1107.4789. [40] S. Bolognesi, Y. Gao, A.V. Gritsan, K. Melnikov, M. Schulze, N.V. Tran, A. Whit- beck, On the spin and parity of a single-produced resonance at the LHC, Phys. Rev. D 86 (2012) 095031, https://doi .org /10 .1103 /PhysRevD .86 .095031, arXiv:1208 .4018. [54] W. Verkerke, D.P. Kirkby, The RooFit toolkit for data modeling, in: Proceedings, 13th Int’l Conf. on Computing in High-Energy and Nuclear Physics, CHEP 2003, La Jolla, California, US, 2003, arXiv:physics /0306116, [SLAC-econf-C0303241]. [41] A.V. Gritsan, R. Röntsch, M. Schulze, M. Xiao, Constraining anomalous Higgs boson couplings to the heavy flavor fermions using matrix element techniques, Phys. Rev. D 94 (2016) 055023, https://doi .org /10 .1103 /PhysRevD .94 .055023, arXiv:1606 .03107. [55] T. Junk, Confidence level computation for combining searches with small statis- tics, Nucl. Instrum. Methods A 434 (1999) 435, https://doi .org /10 .1016 /S0168 - 9002(99 )00498 -2, arXiv:hep -ex /9902006. [42] T. Sjöstrand, S. Ask, J.R. Christiansen, R. Corke, N. Desai, P. Ilten, S. Mrenna, S. Prestel, C.O. Rasmussen, P.Z. Skands, An introduction to pythia 8.2, Com- put. Phys. Commun. 191 (2015) 159, https://doi .org /10 .1016 /j .cpc .2015 .01.024, arXiv:1410 .3012. [56] A.L. Read, Presentation of search results: the CLs technique, J. Phys. References B 849 (2011) 296, https:// doi .org /10 .1016 /j .nuclphysb .2011.03 .021, arXiv:1101.1300. [48] P.N. Baranov, A.M. Snigirev, P. Zotov, A. Szczurek, W. Schäfer, Interparticle correlations in the production of J/ψ pairs in proton-proton collisions, Phys. Rev. D 87 (2013) 034035, https://doi .org /10 .1103 /PhysRevD .87.034035, arXiv: 1210 .1806. [49] C.-F. Qiao, J. Wang, Y.-H. Zheng, DJpsiFDC: an event generator for the process gg →J/ψ J/ψ at the LHC, Chin. Phys. C 35 (2011) 209, https://doi .org /10 .1088 / 1674 -1137 /35 /3 /001, arXiv:1007.0617. A.M. Sirunyan †, A. Tumasyan A.M. Sirunyan †, A. Tumasyan Yerevan Physics Institute, Yerevan, Armenia A.M. Sirunyan †, A. Tumasyan Yerevan Physics Institute, Yerevan, Armenia Yerevan Physics Institute, Yerevan, Armenia W. Adam, F. Ambrogi, T. Bergauer, J. Brandstetter, M. Dragicevic, J. Erö, A. Escalante Del Valle, M. Flechl, R. Frühwirth 1, M. Jeitler 1, N. Krammer, I. Krätschmer, D. Liko, T. Madlener, I. Mikulec, N. Rad, J. Schieck 1, R. Schöfbeck, M. Spanring, D. Spitzbart, W. Waltenberger, C.-E. Wulz 1, M. Zarucki Institut für Hochenergiephysik, Wien, Austria V. Drugakov, V. Mossolov, J. Suarez Gonzalez Institute for Nuclear Problems, Minsk, Belarus V. Drugakov, V. Mossolov, J. Suarez Gonzalez Institute for Nuclear Problems, Minsk, Belarus M.R. Darwish, E.A. De Wolf, D. Di Croce, X. Janssen, J. Lauwers, A. Lelek, M. Pieters, H. Rejeb Sfar, H. Van Haevermaet, P. Van Mechelen, S. Van Putte, N. Van Remortel Universiteit Antwerpen, Antwerpen, Belgium F. Blekman, E.S. Bols, S.S. Chhibra, J. D’Hondt, J. De Clercq, D. Lontkovskyi, S. Lowette, I. Marchesini, S. Moortgat, L. Moreels, Q. Python, K. Skovpen, S. Tavernier, W. Van Doninck, P. Van Mulders, I Van Parijs F. Blekman, E.S. Bols, S.S. Chhibra, J. D’Hondt, J. De Clercq, D. Lontkovskyi, S. Lowette, I. Marchesini, S. Moortgat, L. Moreels, Q. Python, K. Skovpen, S. Tavernier, W. Van Doninck, P. Van Mulders, I. Van Parijs 7 The CMS Collaboration / Physics Letters B 797 (2019) 134811 D. Beghin, B. Bilin, H. Brun, B. Clerbaux, G. De Lentdecker, H. Delannoy, B. Dorney, L. Favart, A. Grebenyuk, A.K. Kalsi, J. Luetic, A. Popov, N. Postiau, E. Starling, L. Thomas, C. Vander Velde, P. Vanlaer, D. Vannerom, Q. Wang Université Libre de Bruxelles, Bruxelles, Belgium T. Cornelis, D. Dobur, I. Khvastunov 2, C. Roskas, D. Trocino, M. Tytgat, W. Verbeke, B. Vermassen, M. Vit, N. Zaganidis Ghent University, Ghent, Belgium Ghent University, Ghent, Belgium O. Bondu, G. Bruno, C. Caputo, P. David, C. Delaere, M. Delcourt, A. Giammanco, V. Lemaitre, A. Magitteri, J. Prisciandaro, A. Saggio, M. Vidal Marono, P. Vischia, J. Zobec Université Catholique de Louvain, Louvain-la-Neuve, Belgium F.L. Alves, G.A. Alves, G. Correia Silva, C. Hensel, A. Moraes, P. Rebello Teles Centro Brasileiro de Pesquisas Fisicas, Rio de Janeiro, Brazil F.L. Alves, G.A. Alves, G. Correia Silva, C. Hensel, A. Moraes, P. Rebello Teles Centro Brasileiro de Pesquisas Fisicas, Rio de Janeiro, Brazil E. Belchior Batista Das Chagas, W. Carvalho, J. Chinellato 3, E. Coelho, E.M. Da Costa, G.G. Da Silveira 4, D. De Jesus Damiao, C. De Oliveira Martins, S. Fonseca De Souza, L.M. Huertas Guativa, H. Malbouisson, J. Martins 5, D. Matos Figueiredo, M. Medina Jaime 6, M. Melo De Almeida, C. Mora Herrera, L. Mundim, H. Nogima, W.L. Prado Da Silva, L.J. Sanchez Rosas, A. Santoro, A. Sznajder, M. Thiel, E.J. Tonelli Manganote 3, F. Torres Da Silva De Araujo, A. Vilela Pereira Universidade do Estado do Rio de Janeiro, Rio de Janeiro, Brazil S. Ahuja a, C.A. Bernardes a, L. Calligaris a, T.R. Fernandez Perez Tomei a, E.M. Gregores b, D.S. V. Drugakov, V. Mossolov, J. Suarez Gonzalez Institute for Nuclear Problems, Minsk, Belarus Lemos, P.G. Mercadante b, S.F. Novaes a, Sandra S. Padula a a Universidade Estadual Paulista, São Paulo, Brazil b Universidade Federal do ABC, São Paulo, Brazil A. Aleksandrov, G. Antchev, R. Hadjiiska, P. Iaydjiev, A. Marinov, M. Misheva, M. Rodozov, M. Shopova, G. Sultanov Institute for Nuclear Research and Nuclear Energy, Bulgarian Academy of Sciences, Sofia, Bulgaria M. Bonchev, A. Dimitrov, T. Ivanov, L. Litov, B. Pavlov, P. Petkov University of Sofia, Sofia, Bulgaria W. Fang 7, X. Gao 7, L. Yuan Beihang University, Beijing, China C. Avila, A. Cabrera, L.F. Chaparro Sierra, C. Florez, C.F. González Hernández, M.A. Segura Delgado Universidad de Los Andes, Bogota, Colombia W. Fang 7, X. Gao 7, L. Yuan Beihang University, Beijing, China M. Ahmad, G.M. Chen, H.S. Chen, M. Chen, C.H. Jiang, D. Leggat, H. Liao, Z. Liu, S.M. Shaheen 8, A. Spiezia, J. Tao, E. Yazgan, H. Zhang, S. Zhang 8, J. Zhao Institute of High Energy Physics, Beijing, China A. Agapitos, Y. Ban, G. Chen, A. Levin, J. Li, L. Li, Q. Li, Y. Mao, S.J. Qian, D. Wang State Key Laboratory of Nuclear Physics and Technology, Peking University, Beijing, China C. Avila, A. Cabrera, L.F. Chaparro Sierra, C. Florez, C.F. González Hernández, M.A. Segura Delgado Universidad de Los Andes, Bogota, Colombia The CMS Collaboration / Physics Letters B 797 (2019) 134811 8 J. Mejia Guisao, J.D. Ruiz Alvarez, C.A. Salazar González, N. Vanegas Arbelaez Universidad de Antioquia, Medellin, Colombia D. Giljanovi´c, N. Godinovic, D. Lelas, I. Puljak, T. Sculac University of Split, Faculty of Electrical Engineering, Mechanical Engineering and Naval Architecture, Split, Croatia D. Giljanovi´c, N. Godinovic, D. Lelas, I. Puljak, T. Sculac University of Split, Faculty of Electrical Engineering, Mechanical Engineering and Naval Architecture, Split, Croatia Z. Antunovic, M. Kovac University of Split, Faculty of Science, Split, Croatia V. Brigljevic, S. Ceci, D. Ferencek, K. Kadija, B. Mesic, M. Roguljic, A. Starodumov 9, T. Susa Institute Rudjer Boskovic, Zagreb, Croatia M.W. Ather, A. Attikis, E. Erodotou, A. Ioannou, M. Kolosova, S. Konstantinou, G. Mavromanolakis, J. Mousa, C. Nicolaou, F. Ptochos, P.A. Razis, H. Rykaczewski, D. Tsiakkouri University of Cyprus, Nicosia, Cyprus M. Finger 10, M. Finger Jr. 10, A. Kveton, J. Tomsa Charles University, Prague, Czech Republic E. Ayala Escuela Politecnica Nacional, Quito, Ecuador Universidad San Francisco de Quito, Quito, Ecuador Academy of Scientific Research and Technology of the Arab Republic of Egypt, Egyptian Network of High Energy Physics, Cairo, Egypt S. Bhowmik, A. Carvalho Antunes De Oliveira, R.K. Dewanjee, K. Ehataht, M. Kadastik, M. Raidal, C. Veelken National Institute of Chemical Physics and Biophysics, Tallinn, Estonia P. Eerola, L. Forthomme, H. Kirschenmann, K. Osterberg, M. Voutilainen Department of Physics, University of Helsinki, Helsinki, Finland F. Garcia, J. Havukainen, J.K. Heikkilä, T. Järvinen, V. Karimäki, R. Kinnunen, T. Lampén, K. Lassila-Perini, S. Laurila, S. Lehti, T. Lindén, P. Luukka, T. Mäenpää, H. Siikonen, E. Tuominen, J. Tuominiemi Helsinki Institute of Physics, Helsinki, Finland T. Tuuva M. Besancon, F. Couderc, M. Dejardin, D. Denegri, B. Fabbro, J.L. Faure, F. Ferri, S. Ganjour, A. Givernaud, P. Gras, G. Hamel de Monchenault, P. Jarry, C. Leloup, E. Locci, J. Malcles, J. Rander, A. Rosowsky, M.Ö. Sahin, A. Savoy-Navarro 13, M. Titov IRFU, CEA, Université Paris-Saclay, Gif-sur-Yvette, France C. Amendola, F. Beaudette, P. Busson, C. Charlot, B. Diab, G. Falmagne, R. Granier de Cassagnac, I. Kucher, A. Lobanov, C. Martin Perez, M. Nguyen, C. Ochando, P. Paganini, J. Rembser, R. Salerno, J.B. Sauvan, Y. Sirois, A. Zabi, A. Zghiche Laboratoire Leprince-Ringuet, Ecole polytechnique, CNRS/IN2P3, Université Paris-Saclay, Palaiseau, France 9 The CMS Collaboration / Physics Letters B 797 (2019) 134811 J.-L. Agram 14, J. Andrea, D. Bloch, G. Bourgatte, J.-M. Brom, E.C. Chabert, C. Collard, E. Conte 14, J.-C. Fontaine 14, D. Gelé, U. Goerlach, M. Jansová, A.-C. Le Bihan, N. Tonon, P. Van Hove Université de Strasbourg CNRS IPHC UMR 7178 Strasbourg France Université de Strasbourg, CNRS, IPHC UMR 7178, Strasbourg, France S. Gadrat Centre de Calcul de l’Institut National de Physique Nucleaire et de Physique des Particules, CNRS/IN2P3, Villeurbanne, France S. Beauceron, C. Bernet, G. Boudoul, C. Camen, N. Chanon, R. Chierici, D. Contardo, P. Depasse, H. El Mamouni, J. Fay, S. Gascon, M. Gouzevitch, B. Ille, Sa. Jain, F. Lagarde, I.B. Laktineh, H. Lattaud, M. Lethuillier, L. Mirabito, S. Perries, V. Sordini, G. Touquet, M. Vander Donckt, S. Viret Université de Lyon, Université Claude Bernard Lyon 1, CNRS-IN2P3, Institut de Physique Nucléaire de Lyon, Villeurbanne, France S. Beauceron, C. Bernet, G. Boudoul, C. Camen, N. Chanon, R. Chierici, D. H. El Mamouni, J. Fay, S. Gascon, M. Gouzevitch, B. Ille, Sa. Jain, F. Lagard M. Lethuillier, L. Mirabito, S. Perries, V. Sordini, G. Touquet, M. Vander Do Université de Lyon, Université Claude Bernard Lyon 1, CNRS-IN2P3, Institut de Physique Nucléaire de Lyon, Villeurbanne, France R. Aggleton, S. Bein, L. Benato, A. Benecke, V. Blobel, T. Dreyer, A. Ebrahimi, A. Fröhlich, C. Garbers, E. Garutti, D. Gonzalez, P. Gunnellini, J. Haller, A. Hinzmann, A. Karavdina, G. Kasieczka, R. Klanner, R. Kogler, N. Kovalchuk, S. Kurz, V. Kutzner, J. Lange, T. Lange, A. Malara, D. Marconi, J. Multhaup, M. Niedziela, C.E.N. Niemeyer, D. Nowatschin, A. Perieanu, A. Reimers, O. Rieger, C. Scharf, P. Schleper, A. Khvedelidze 10 Georgian Technical University, Tbilisi, Georgia Z. Tsamalaidze 10 Tbilisi State University, Tbilisi, Georgia Z. Tsamalaidze 10 Tbilisi State University, Tbilisi, Georgia C. Autermann, L. Feld, M.K. Kiesel, K. Klein, M. Lipinski, D. Meuser, A. Pauls, M. Preuten, M.P. Rauch, C. Schomakers, J. Schulz, M. Teroerde, B. Wittmer RWTH Aachen University, I. Physikalisches Institut, Aachen, Germany A. Albert, M. Erdmann, S. Erdweg, T. Esch, B. Fischer, R. Fischer, S. Ghosh, T. Hebbeker, K. Hoepfner, H. Keller, L. Mastrolorenzo, M. Merschmeyer, A. Meyer, P. Millet, G. Mocellin, S. Mondal, S. Mukherjee, D. Noll, A. Novak, T. Pook, A. Pozdnyakov, T. Quast, M. Radziej, Y. Rath, H. Reithler, M. Rieger, J. Roemer, A. Schmidt, S.C. Schuler, A. Sharma, S. Thüer, S. Wiedenbeck RWTH Aachen University, III. Physikalisches Institut A, Aachen, Germany G. Flügge, W. Haj Ahmad 15, O. Hlushchenko, T. Kress, T. Müller, A. Nehrkorn, A. Nowack, C. Pistone, O. Pooth, D. Roy, H. Sert, A. Stahl 16 RWTH Aachen University, III. Physikalisches Institut B, Aachen, Germany M. Aldaya Martin, P. Asmuss, I. Babounikau, H. Bakhshiansohi, K. Beernaert, O. Behnke, U. Behrens, A. Bermúdez Martínez, D. Bertsche, A.A. Bin Anuar, K. Borras 17, V. Botta, A. Campbell, A. Cardini, P. Connor, S. Consuegra Rodríguez, C. Contreras-Campana, V. Danilov, A. De Wit, M.M. Defranchis, C. Diez Pardos, D. Domínguez Damiani, G. Eckerlin, D. Eckstein, T. Eichhorn, A. Elwood, E. Eren, E. Gallo 18, A. Geiser, J.M. Grados Luyando, A. Grohsjean, M. Guthoff, M. Haranko, A. Harb, A. Jafari, N.Z. Jomhari, H. Jung, A. Kasem 17, M. Kasemann, H. Kaveh, J. Keaveney, C. Kleinwort, J. Knolle, D. Krücker, W. Lange, T. Lenz, J. Leonard, J. Lidrych, K. Lipka, W. Lohmann 19, R. Mankel, I.-A. Melzer-Pellmann, A.B. Meyer, M. Meyer, M. Missiroli, G. Mittag, J. Mnich, A. Mussgiller, V. Myronenko, D. Pérez Adán, S.K. Pflitsch, D. Pitzl, A. Raspereza, A. Saibel, M. Savitskyi, V. Scheurer, P. Schütze, C. Schwanenberger, R. Shevchenko, A. Singh, H. Tholen, O. Turkot, A. Vagnerini, M. Van De Klundert, G.P. Van Onsem, R. Walsh, Y. Wen, K. Wichmann, C. Wissing, O. Zenaiev, R. Zlebcik R. Aggleton, S. Bein, L. Benato, A. Benecke, V. Blobel, T. Dreyer, A. Ebrahimi, A. Fröhlich, C. Garbers, E. Garutti, D. Gonzalez, P. Gunnellini, J. Haller, A. Hinzmann, A. Karavdina, G. Kasieczka, R. Klanner, R. Kogler, N. Kovalchuk, S. Kurz, V. Kutzner, J. Lange, T. Lange, A. Malara, D. Marconi, J. Multhaup, M. Niedziela, C.E.N. Niemeyer, D. Nowatschin, A. Perieanu, A. Reimers, O. Rieger, C. Scharf, P. Z. Tsamalaidze 10 Schleper, The CMS Collaboration / Physics Letters B 797 (2019) 134811 10 S. Schumann, J. Schwandt, J. Sonneveld, H. Stadie, G. Steinbrück, F.M. Stober, M. Stöver, B. Vormwald, I. Zoi University of Hamburg, Hamburg, Germany S. Schumann, J. Schwandt, J. Sonneveld, H. Stadie, G. Steinbrück, F.M. Stober, M. Stöver, B. Vormwald, I. Zoi University of Hamburg, Hamburg, Germany M. Akbiyik, C. Barth, M. Baselga, S. Baur, T. Berger, E. Butz, R. Caspart, T. Chwalek, W. De Boer, A. Dierlamm, K. El Morabit, N. Faltermann, M. Giffels, P. Goldenzweig, A. Gottmann, M.A. Harrendorf, F. Hartmann 16, U. Husemann, S. Kudella, S. Mitra, M.U. Mozer, Th. Müller, M. Musich, A. Nürnberg, G. Quast, K. Rabbertz, M. Schröder, I. Shvetsov, H.J. Simonis, R. Ulrich, M. Weber, C. Wöhrmann, R. Wolf Karlsruher Institut fuer Technologie, Karlsruhe, Germany G. Anagnostou, P. Asenov, G. Daskalakis, T. Geralis, A. Kyriakis, D. Loukas, G. Paspalaki Institute of Nuclear and Particle Physics (INPP), NCSR Demokritos, Aghia Paraskevi, Greece G. Anagnostou, P. Asenov, G. Daskalakis, T. Geralis, A. Kyriakis, D. Loukas, G. Pa Institute of Nuclear and Particle Physics (INPP), NCSR Demokritos, Aghia Paraskevi, Greece M. Diamantopoulou, G. Karathanasis, P. Kontaxakis, A. Panagiotou, I. Papavergou, N. Saoulidou, A. Stakia, K. Theofilatos, K. Vellidis National and Kapodistrian University of Athens, Athens, Greece G. Bakas, K. Kousouris, I. Papakrivopoulos, G. Tsipolitis National Technical University of Athens, Athens, Greece I. Evangelou, C. Foudas, P. Gianneios, P. Katsoulis, P. Kokkas, S. Mallios, K. Manitara, N. Manthos, I. Papadopoulos, J. Strologas, F.A. Triantis, D. Tsitsonis University of Ioánnina, Ioánnina, Greece M. Bartók 20, M. Csanad, P. Major, K. Mandal, A. Mehta, M.I. Nagy, G. Pasztor, O. Surányi, G.I. Veres MTA-ELTE Lendület CMS Particle and Nuclear Physics Group, Eötvös Loránd University, Budapest, Hungary G. Bencze, C. Hajdu, D. Horvath 21, F. Sikler, T.Á. Vámi, V. Veszpremi, G. Vesztergombi † Wigner Research Centre for Physics, Budapest, Hungary N. Beni, S. Czellar, J. Karancsi 20, A. Makovec, J. Molnar, Z. Szillasi Institute of Nuclear Research ATOMKI, Debrecen, Hungary P. Raics, D. Teyssier, Z.L. Trocsanyi, B. Ujvari Institute of Physics, University of Debrecen, Debrecen, Hungary T. Csorgo, W.J. Metzger, F. Nemes, T. Novak Eszterhazy Karoly University, Karoly Robert Campus, Gyongyos, Hungary S. Choudhury, J.R. Komaragiri, P.C. Tiwari Indian Institute of Science (IISc), Bangalore, India S. Bahinipati 22, C. Kar, P. Mal, V.K. Muraleedharan Nair Bindhu, A. Nayak 23, D.K. Sahoo 22, S.K. S. Albergo a,b,28, S. Costa a,b, A. Di Mattia a, R. Potenza a,b, A. Tricomi a,b,28, C. Tuve a,b a INFN Sezione di Catania, Catania, Italy b Università di Catania, Catania, Italy Z. Tsamalaidze 10 Swain National Institute of Science Education and Research, HBNI, Bhubaneswar, India S. Bansal, S.B. Beri, V. Bhatnagar, S. Chauhan, R. Chawla, N. Dhingra, R. Gupta, A. Kaur, M. Kaur, S. Kaur, P. Kumari, M. Lohan, M. Meena, K. Sandeep, S. Sharma, J.B. Singh, A.K. Virdi, G. Walia Panjab University, Chandigarh, India The CMS Collaboration / Physics Letters B 797 (2019) 134811 11 A. Bhardwaj, B.C. Choudhary, R.B. Garg, M. Gola, S. Keshri, Ashok Kumar, S. Malhotra, M. Naimuddin, P. Priyanka, K. Ranjan, Aashaq Shah, R. Sharma University of Delhi, Delhi, India R. Bhardwaj 24, M. Bharti 24, R. Bhattacharya, S. Bhattacharya, U. Bhawandeep 24, D. Bhowmik, S. Dey, S. Dutta, S. Ghosh, M. Maity 25, K. Mondal, S. Nandan, A. Purohit, P.K. Rout, G. Saha, S. Sarkar, T. Sarkar 25, M. Sharan, B. Singh 24, S. Thakur 24 Saha Institute of Nuclear Physics, HBNI, Kolkata, India P.K. Behera, P. Kalbhor, A. Muhammad, P.R. Pujahari, A. Sharma, A.K. Sikdar Indian Institute of Technology Madras, Madras, India R. Chudasama, D. Dutta, V. Jha, V. Kumar, D.K. Mishra, P.K. Netrakanti, L.M. Pant, P. Shukla Bhabha Atomic Research Centre, Mumbai, India T. Aziz, M.A. Bhat, S. Dugad, G.B. Mohanty, N. Sur, Ravindra Kumar Verma Tata Institute of Fundamental Research-A, Mumbai, India S. Banerjee, S. Bhattacharya, S. Chatterjee, P. Das, M. Guchait, S. Karmakar, S. Kumar, G. Majumder, K. Mazumdar, N. Sahoo, S. Sawant Tata Institute of Fundamental Research-B, Mumbai, India S. Chauhan, S. Dube, V. Hegde, A. Kapoor, K. Kothekar, S. Pandey, A. Rane, A. Rastogi, S. Sharma Indian Institute of Science Education and Research (IISER), Pune, India S. Chenarani 26, E. Eskandari Tadavani, S.M. Etesami 26, M. Khakzad, M. Mohammadi Najafabadi, M. Naseri, F. Rezaei Hosseinabadi Institute for Research in Fundamental Sciences (IPM), Tehran, Iran L. Benussi, S. Bianco, D. Piccolo INFN Laboratori Nazionali di Frascati, Frascati, Italy L. Benussi, S. Bianco, D. Piccolo INFN Laboratori Nazionali di Frascati, Frascati, Italy A. Benaglia a, A. Beschi a,b, F. Brivio a,b, V. Ciriolo a,b,16, S. Di Guida a,b,16, M.E. Dinardo a,b, P. Dini a, S. Fiorendi a,b, S. Gennai a, A. Ghezzi a,b, P. Govoni a,b, L. Guzzi a,b, M. Malberti a, S. Malvezzi a, D. Menasce a, F. Monti a,b, L. Moroni a, G. Ortona a,b, M. Paganoni a,b, D. Pedrini a, S. Ragazzi a,b, T. Tabarelli de Fatis a,b, D. Zuolo a,b a INFN Sezione di Milano-Bicocca, Milano, Italy b Università di Milano-Bicocca, Milano, Italy S. Buontempo a, N. Cavallo a,c, A. De Iorio a,b, A. Di Crescenzo a,b, F. Fabozzi a,c, F. Fienga a, G. Galati a, A.O.M. Iorio a,b, L. Lista a,b, S. Meola a,d,16, P. Paolucci a,16, B. Rossi a, C. Sciacca a,b, E. Voevodina a,b a INFN Sezione di Napoli, Napoli, Italy b Università di Napoli ‘Federico II’, Napoli, Italy c Università della Basilicata, Potenza, Italy d Università G. Marconi, Roma, Italy P. Azzi a, N. Bacchetta a, A. Boletti a,b, A. Bragagnolo, R. Carlin a,b, P. Checchia a, P. De Castro Manzano a, T. Dorigo a, U. Dosselli a, F. Gasparini a,b, U. Gasparini a,b, A. Gozzelino a, S.Y. Hoh, P. Lujan, M. Margoni a,b, A.T. Meneguzzo a,b, J. Pazzini a,b, N. Pozzobon a,b, M. Presilla b, P. Ronchese a,b, R. Rossin a,b, F. Simonetto a,b, A. Tiko, M. Tosi a,b, M. Zanetti a,b, P. Zotto a,b, G. Zumerle a,b a INFN Sezione di Padova, Padova, Italy b Università di Padova, Padova, Italy c Università di Trento, Trento, Italy A. Braghieri a, P. Montagna a,b, S.P. Ratti a,b, V. Re a, M. Ressegotti a,b, C. Riccardi a,b, P. Salvini a, I. Vai a,b, P. Vitulo a,b a INFN Sezione di Pavia, Pavia, Italy b Università di Pavia, Pavia, Italy M. Biasini a,b, G.M. Bilei a, C. Cecchi a,b, D. Ciangottini a,b, L. Fanò a,b, P. Lariccia a,b, R. Leonardi a,b, E. Manoni a, G. Mantovani a,b, V. Mariani a,b, M. Menichelli a, A. Rossi a,b, A. Santocchia a,b, D. Spiga a a INFN Sezione di Perugia, Perugia, Italy b Università di Perugia, Perugia, Italy K. Androsov a, P. Azzurri a, G. Bagliesi a, V. Bertacchi a,c, L. Bianchini a, T. Boccali a, R. Castaldi a, M.A. Ciocci a,b, R. Dell’Orso a, G. Fedi a, L. Giannini a,c, A. Giassi a, M.T. University College Dublin, Dublin, Ireland M. Abbrescia a,b, C. Calabria a,b, A. Colaleo a, D. Creanza a,c, L. Cristella a,b, N. De Filippis a,c, M. De Palma a,b, A. Di Florio a,b, L. Fiore a, A. Gelmi a,b, G. Iaselli a,c, M. Ince a,b, S. Lezki a,b, G. Maggi a,c, M. Maggi a, G. Miniello a,b, S. My a,b, S. Nuzzo a,b, A. Pompili a,b, G. Pugliese a,c, R. Radogna a, A. Ranieri a, G. Selvaggi a,b, L. Silvestris a, R. Venditti a, P. Verwilligen a a INFN Sezione di Bari, Bari, Italy b Università di Bari, Bari, Italy c Politecnico di Bari, Bari, Italy G. Abbiendi a, C. Battilana a,b, D. Bonacorsi a,b, L. Borgonovi a,b, S. Braibant-Giacomelli a,b, R. Campanini a,b, P. Capiluppi a,b, A. Castro a,b, F.R. Cavallo a, C. Ciocca a, G. Codispoti a,b, M. Cuffiani a,b, G.M. Dallavalle a, F. Fabbri a, A. Fanfani a,b, E. Fontanesi, P. Giacomelli a, C. Grandi a, L. Guiducci a,b, F. Iemmi a,b, S. Lo Meo a,27, S. Marcellini a, G. Masetti a, F.L. Navarria a,b, A. Perrotta a, F. Primavera a,b, A.M. Rossi a,b, T. Rovelli a,b, G.P. Siroli a,b, N. Tosi a a INFN Sezione di Bologna, Bologna, Italy b Università di Bologna, Bologna, Italy S. Albergo a,b,28, S. Costa a,b, A. Di Mattia a, R. Potenza a,b, A. Tricomi a,b,28, C. Tuve a,b a INFN Sezione di Catania, Catania, Italy b Università di Catania, Catania, Italy S. Albergo a,b,28, S. Costa a,b, A. Di Mattia a, R. Potenza a,b, A. Tricomi a,b,28, C. Tuve a,b a INFN Sezione di Catania, Catania, Italy b Università di Catania, Catania, Italy The CMS Collaboration / Physics Letters B 797 (2019) 134811 12 G. Barbagli a, R. Ceccarelli, K. Chatterjee a,b, V. Ciulli a,b, C. Civinini a, R. D’Alessandro a,b, E. Focardi a,b, G. Latino, P. Lenzi a,b, M. Meschini a, S. Paoletti a, G. Sguazzoni a, D. Strom a, L. Viliani a a INFN Sezione di Firenze Firenze Italy G. Barbagli a, R. Ceccarelli, K. Chatterjee a,b, V. Ciulli a,b, C. Civinini a, R. D’Alessandro a,b, E. Focardi a,b, G. Latino, P. Lenzi a,b, M. Meschini a, S. Paoletti a, G. Sguazzoni a, D. Strom a, L. Viliani a a INFN Sezione di Firenze, Firenze, Italy b Università di Firenze, Firenze, Italy a INFN Sezione di Firenze, Firenze, Italy b Università di Firenze, Firenze, Italy B. Francois, T.J. Kim, J. Park Hanyang University, Seoul, Republic of Korea B. Francois, T.J. Kim, J. Park Hanyang University, Seoul, Republic of Korea S. Cho, S. Choi, Y. Go, D. Gyun, S. Ha, B. Hong, K. Lee, K.S. Lee, J. Lim, J. Park, S.K. Park, Y. Roh Korea University, Seoul, Republic of Korea L. Benussi, S. Bianco, D. Piccolo INFN Laboratori Nazionali di Frascati, Frascati, Italy Kim, J. Lee, S.W. Lee, C.S. Moon, Y.D. Oh, S.I. Pak, S. Sekmen, D.C. Son, Y.C. Yang Kyungpook National University, Daegu, Republic of Korea H. Kim, D.H. Moon, G. Oh Chonnam National University, Institute for Universe and Elementary Particles, Kwangju, Republic of Korea B. Kim, D.H. Kim, G.N. Kim, M.S. Kim, J. Lee, S.W. Lee, C.S. Moon, Y.D. Oh, S.I. Pak, S. Sekmen, D.C. Son, Y.C. Yang Kyungpook National University, Daegu, Republic of Korea J. Goh H.S. Kim Sejong University, Seoul, Republic of Korea J. Almond, J.H. Bhyun, J. Choi, S. Jeon, J. Kim, J.S. Kim, H. Lee, K. Lee, S. Lee, K. Nam, M. Oh, S.B. Oh, B.C. Radburn-Smith, U.K. Yang, H.D. Yoo, I. Yoon, G.B. Yu Seoul National University, Seoul, Republic of Korea D. Jeon, H. Kim, J.H. Kim, J.S.H. Lee, I.C. Park, I. Watson University of Seoul, Seoul, Republic of Korea Y. Choi, C. Hwang, Y. Jeong, J. Lee, Y. Lee, I. Yu Sungkyunkwan University, Suwon, Republic of Korea L. Benussi, S. Bianco, D. Piccolo INFN Laboratori Nazionali di Frascati, Frascati, Italy Grippo a, F. Ligabue a,c, E. Manca a,c, G. Mandorli a,c, A. Messineo a,b, F. Palla a, A. Rizzi a,b, G. Rolandi 29, S. Roy Chowdhury, A. Scribano a, P. Spagnolo a, R. Tenchini a, G. Tonelli a,b, N. Turini, A. Venturi a, P.G. Verdini a a INFN Sezione di Pisa, Pisa, Italy b Università di Pisa, Pisa, Italy c Scuola Normale Superiore di Pisa, Pisa, Italy K. Androsov a, P. Azzurri a, G. Bagliesi a, V. Bertacchi a,c, L. Bianchini a, T. Boccali a, R. Castaldi a, M.A. Ciocci a,b, R. Dell’Orso a, G. Fedi a, L. Giannini a,c, A. Giassi a, M.T. Grippo a, F. Ligabue a,c, E. Manca a,c, G. Mandorli a,c, A. Messineo a,b, F. Palla a, A. Rizzi a,b, G. Rolandi 29, S. Roy Chowdhury, A. Scribano a, P. Spagnolo a, R. Tenchini a, G. Tonelli a,b, N. Turini, A. Venturi a, P.G. Verdini a a INFN Sezione di Pisa, Pisa, Italy b Università di Pisa, Pisa, Italy c Scuola Normale Superiore di Pisa, Pisa, Italy The CMS Collaboration / Physics Letters B 797 (2019) 134811 13 F. Cavallari a, M. Cipriani a,b, D. Del Re a,b, E. Di Marco a,b, M. Diemoz a, E. Longo a,b, B. Marzocchi a,b, P. Meridiani a, G. Organtini a,b, F. Pandolfia, R. Paramatti a,b, C. Quaranta a,b, S. Rahatlou a,b, C. Rovelli a, F. Santanastasio a,b, L. Soffia,b a INFN S i di R R It l a INFN Sezione di Roma, Rome, Italy b Sapienza Università di Roma, Rome, Italy N. Amapane a,b, R. Arcidiacono a,c, S. Argiro a,b, M. Arneodo a,c, N. Bartosik a, R. Bellan a,b, C. Biino a, A. Cappati a,b, N. Cartiglia a, S. Cometti a, M. Costa a,b, R. Covarelli a,b, N. Demaria a, B. Kiani a,b, C. Mariotti a, S. Maselli a, E. Migliore a,b, V. Monaco a,b, E. Monteil a,b, M. Monteno a, M.M. Obertino a,b, L. Pacher a,b, N. Pastrone a, M. Pelliccioni a, G.L. Pinna Angioni a,b, A. Romero a,b, M. Ruspa a,c, R. Sacchi a,b, R. Salvatico a,b, V. Sola a, A. Solano a,b, D. Soldi a,b, A. Staiano a S. Belforte a, V. Candelise a,b, M. Casarsa a, F. Cossutti a, A. Da Rold a,b, G. Della Ricca a,b, F. Vazzoler a,b, A. Zanetti a a INFN Sezione di Trieste, Trieste, Italy b Università di Trieste, Trieste, Italy B. Kim, D.H. Kim, G.N. Kim, M.S. V. Dudenas, A. Juodagalvis, G. Tamulaitis, J. Vaitkus Vilnius University, Vilnius, Lithuania Z.A. Ibrahim, F. Mohamad Idris 31, W.A.T. Wan Abdullah, M.N. Yusli, Z. Zolkapli National Centre for Particle Physics, Universiti Malaya, Kuala Lumpur, Malaysia J.F. Benitez, A. Castaneda Hernandez, J.A. Murillo Quijada, L. Valencia Palomo Universidad de Sonora (UNISON), Hermosillo, Mexico H. Castilla-Valdez, E. De La Cruz-Burelo, I. Heredia-De La Cruz 32, R. Lopez-Fernandez, A. Sanchez-Hernandez Centro de Investigacion y de Estudios Avanzados del IPN, Mexico City, Mexico S. Carrillo Moreno, C. Oropeza Barrera, M. Ramirez-Garcia, F. Vazquez Valencia Universidad Iberoamericana, Mexico City, Mexico J. Eysermans, I. Pedraza, H.A. Salazar Ibarguen, C. Uribe Estrada Benemerita Universidad Autonoma de Puebla, Puebla, Mexico A. Morelos Pineda Universidad Autónoma de San Luis Potosí, San Luis Potosí, Mexico N. Raicevic University of Montenegro, Podgorica, Montenegro D. Krofcheck University of Auckland, Auckland, New Zealand S. Bheesette, P.H. Butler University of Canterbury, Christchurch, New Zealand A. Ahmad, M. Ahmad, Q. Hassan, H.R. Hoorani, W.A. Khan, M.A. Shah, M. Shoaib, M. Waqas National Centre for Physics, Quaid-I-Azam University, Islamabad, Pakistan V. Avati, L. Grzanka, M. Malawski AGH University of Science and Technology Faculty of Computer Science, Electronics and Telecommunications, Krakow, Poland H. Bialkowska, M. Bluj, B. Boimska, M. Górski, M. Kazana, M. Szleper, P. Zalewski National Centre for Nuclear Research, Swierk, Poland K. Bunkowski, A. Byszuk 33, K. Doroba, A. Kalinowski, M. Konecki, J. Krolikowski, M. Misiura, M. Olszewski, A. Pyskir, M. Walczak Institute of Experimental Physics, Faculty of Physics, University of Warsaw, Warsaw, Poland M. Araujo, P. Bargassa, D. Bastos, A. Di Francesco, P. Faccioli, B. Galinhas, M. Gallinaro, J. Hollar N. Leonardo, J. Seixas, K. Shchelina, G. Strong, O. Toldaiev, J. Varela Laboratório de Instrumentação e Física Experimental de Partículas, Lisboa, Portugal S. Afanasiev, P. Bunin, M. Gavrilenko, I. Golutvin, I. Gorbunov, A. Kamenev, V. Karjavine, A. Lan A. Malakhov, V. Matveev 34,35, P. Moisenz, V. Palichik, V. Perelygin, M. Savina, S. Shmatov, S. Sh N. Skatchkov, V. Smirnov, N. Voytishin, A. Zarubin Joint Institute for Nuclear Research, Dubna, Russia V. Dudenas, A. Juodagalvis, G. Tamulaitis, J. Vaitkus Vilnius University, Vilnius, Lithuania Z.A. Ibrahim, F. Mohamad Idris 31, W.A.T. Wan Abdullah, M.N. Yusli, Z. Zolkapli National Centre for Particle Physics, Universiti Malaya, Kuala Lumpur, Malaysia J.F. Benitez, A. Castaneda Hernandez, J.A. Murillo Quijada, L. Valencia Palomo Universidad de Sonora (UNISON), Hermosillo, Mexico H. Castilla-Valdez, E. De La Cruz-Burelo, I. Heredia-De La Cruz 32, R. Lopez-Fernandez, A. Sanchez-Hernandez Centro de Investigacion y de Estudios Avanzados del IPN, Mexico City, Mexico V. Veckalns 30 The CMS Collaboration / Physics Letters B 797 (2019) 134811 14 N. Raicevic H. Bialkowska, M. Bluj, B. Boimska, M. Górski, M. Kazana, M. Szleper, P. Zalewski National Centre for Nuclear Research, Swierk, Poland K. Bunkowski, A. Byszuk 33, K. Doroba, A. Kalinowski, M. Konecki, J. Krolikowski, M. Misiura, M. Olszewski, A. Pyskir, M. Walczak Institute of Experimental Physics, Faculty of Physics, University of Warsaw, Warsaw, Poland M. Araujo, P. Bargassa, D. Bastos, A. Di Francesco, P. Faccioli, B. Galinhas, M. Gallinaro, J. Hollar, N. Leonardo, J. Seixas, K. Shchelina, G. Strong, O. Toldaiev, J. Varela Laboratório de Instrumentação e Física Experimental de Partículas, Lisboa, Portugal S. Afanasiev, P. Bunin, M. Gavrilenko, I. Golutvin, I. Gorbunov, A. Kamenev, V. Karjavine, A. Lanev, A. Malakhov, V. Matveev 34,35, P. Moisenz, V. Palichik, V. Perelygin, M. Savina, S. Shmatov, S. Shulha, N. Skatchkov, V. Smirnov, N. Voytishin, A. Zarubin Joint Institute for Nuclear Research, Dubna, Russia 15 The CMS Collaboration / Physics Letters B 797 (2019) 134811 L. Chtchipounov, V. Golovtsov, Y. Ivanov, V. Kim 36, E. Kuznetsova 37, P. Levchenko, V. Murzin, V. Oreshkin, I. Smirnov, D. Sosnov, V. Sulimov, L. Uvarov, A. Vorobyev Petersburg Nuclear Physics Institute, Gatchina (St. Petersburg), Russia Yu. Andreev, A. Dermenev, S. Gninenko, N. Golubev, A. Karneyeu, M. Kirsanov, N. Krasnikov, A. Pashenkov, D. Tlisov, A. Toropin Institute for Nuclear Research, Moscow, Russia Institute for Nuclear Research, Moscow, Russia V. Epshteyn, V. Gavrilov, N. Lychkovskaya, A. Nikitenko 38, V. Popov, I. Pozdnyakov, G. Safronov, A. Spiridonov, A. Stepennov, M. Toms, E. Vlasov, A. Zhokin Institute for Theoretical and Experimental Physics named by A.I. Alikhanov of NRC ‘Kurchatov Institute’, Moscow, Russia V. Borchsh, V. Ivanchenko, E. Tcherniaev Tomsk State University, Tomsk, Russia V. Borchsh, V. Ivanchenko, E. Tcherniaev Tomsk State University, Tomsk, Russia P. Adzic 42, P. Cirkovic, D. Devetak, M. Dordevic, P. Milenovic, J. Milosevic, M. Stojanovic University of Belgrade, Faculty of Physics and VINCA Institute of Nuclear Sciences, Serbia M. Aguilar-Benitez, J. Alcaraz Maestre, A. Álvarez Fernández, I. Bachiller, M. Barrio Luna, J.A. Brochero Cifuentes, C.A. Carrillo Montoya, M. Cepeda, M. Cerrada, N. Colino, B. De La Cruz, A. Delgado Peris, C. Fernandez Bedoya, J.P. Fernández Ramos, J. Flix, M.C. Fouz, O. Gonzalez Lopez, S. Goy Lopez, J.M. Hernandez, M.I. Josa, D. Moran, Á. Navarro Tobar, A. Pérez-Calero Yzquierdo, J. Puerta Pelayo, I. Redondo, L. Romero, S. Sánchez Navas, M.S. Soares, A. Triossi, C. Willmott Centro de Investigaciones Energéticas Medioambientales y Tecnológicas (CIEMAT), Madrid, Spain M. Aguilar-Benitez, J. Alcaraz Maestre, A. Álvarez Fernández, I. Bachiller, M. Barrio Luna, J.A. Brochero Cifuentes, C.A. Carrillo Montoya, M. Cepeda, M. Cerrada, N. Colino, B. De La Cruz, A. Delgado Peris, C. Fernandez Bedoya, J.P. Fernández Ramos, J. Flix, M.C. Fouz, O. Gonzalez Lopez, S. Goy Lopez, J.M. Hernandez, M.I. Josa, D. Moran, Á. Navarro Tobar, A. Pérez-Calero Yzquierdo, J. Puerta Pelayo, I. Redondo, L. Romero, S. Sánchez Navas, M.S. Soares, A. Triossi, C. Willmott Centro de Investigaciones Energéticas Medioambientales y Tecnológicas (CIEMAT), Madrid, Spain T. Aushev Moscow Institute of Physics and Technology, Moscow, Russia Moscow Institute of Physics and Technology, Moscow, Russia O. Bychkova, R. Chistov 39, M. Danilov 39, S. Polikarpov 39, E. Tarkovskii National Research Nuclear University ‘Moscow Engineering Physics Institute’ (MEPhI), Moscow, Russia V. Andreev, M. Azarkin, I. Dremin, M. Kirakosyan, A. Terkulov P.N. Lebedev Physical Institute, Moscow, Russia A. Belyaev, E. Boos, M. Dubinin 40, L. Dudko, A. Ershov, A. Gribushin, V. Klyukhin, O. Kodolova, I. Lokhtin, S. Obraztsov, S. Petrushanko, V. Savrin, A. Snigirev Skobeltsyn Institute of Nuclear Physics, Lomonosov Moscow State University, Moscow, Russia A. Barnyakov 41, V. Blinov 41, T. Dimova 41, L. Kardapoltsev 41, Y. Skovpen 41 Novosibirsk State University (NSU), Novosibirsk, Russia I. Azhgirey, I. Bayshev, S. Bitioukov, V. Kachanov, D. Konstantinov, P. Mandrik, V. Petrov, R. Ryutin, S. Slabospitskii, A. Sobol, S. Troshin, N. Tyurin, A. Uzunian, A. Volkov Institute for High Energy Physics of National Research Centre ‘Kurchatov Institute’, Protvino, Russia A. Babaev, A. Iuzhakov, V. Okhotnikov National Research Tomsk Polytechnic University, Tomsk, Russia C. Albajar, J.F. de Trocóniz The CMS Collaboration / Physics Letters B 797 (2019) 134811 16 B. Alvarez Gonzalez, J. Cuevas, C. Erice, J. Fernandez Menendez, S. Folgueras, I. Gonzalez Caballero, J.R. González Fernández, E. Palencia Cortezon, V. Rodríguez Bouza, S. Sanchez Cruz B. Alvarez Gonzalez, J. Cuevas, C. Erice, J. Fernandez Menendez, S. Folgueras, I. Gonzalez Caballero, J.R. González Fernández, E. Palencia Cortezon, V. Rodríguez Bouza, S. Sanchez Cruz Universidad de Oviedo, Oviedo, Spain I.J. Cabrillo, A. Calderon, B. Chazin Quero, J. Duarte Campderros, M. Fernandez, P.J. Fernández Manteca, A. García Alonso, G. Gomez, C. Martinez Rivero, P. Martinez Ruiz del Arbol, F. Matorras, J. Piedra Gomez, C. Prieels, T. Rodrigo, A. Ruiz-Jimeno, L. Russo 43, L. Scodellaro, N. Trevisani, I. Vila, J.M. Vizan Garcia Instituto de Física de Cantabria (IFCA), CSIC-Universidad de Cantabria, Santander, Spain I.J. Cabrillo, A. Calderon, B. Chazin Quero, J. Duarte Campderros, M. Fernandez, P.J. Fernández Manteca, A. García Alonso, G. Gomez, C. Martinez Rivero, P. Martinez Ruiz del Arbol, F. Matorras, J. Piedra Gomez, C. Prieels, T. Rodrigo, A. Ruiz-Jimeno, L. Russo 43, L. Scodellaro, N. Trevisani, I. Vila, J.M. Vizan Garcia Instituto de Física de Cantabria (IFCA), CSIC-Universidad de Cantabria, Santander, Spain K. Malagalage University of Colombo, Colombo, Sri Lanka W.G.D. Dharmaratna, N. Wickramage University of Ruhuna, Department of Physics, Matara, Sri Lanka D. Abbaneo, B. Akgun, E. Auffray, G. Auzinger, J. Baechler, P. Baillon, A.H. Ball, D. Barney, J. Bendavid, M. Bianco, A. Bocci, E. Bossini, C. Botta, E. Brondolin, T. Camporesi, A. Caratelli, G. Cerminara, E. Chapon, G. Cucciati, D. d’Enterria, A. Dabrowski, N. Daci, V. Daponte, A. David, O. Davignon, A. De Roeck, N. Deelen, M. Deile, M. Dobson, M. Dünser, N. Dupont, A. Elliott-Peisert, F. Fallavollita 44, D. Fasanella, G. Franzoni, J. Fulcher, W. Funk, S. Giani, D. Gigi, A. Gilbert, K. Gill, F. Glege, M. Gruchala, M. Guilbaud, D. Gulhan, J. Hegeman, C. Heidegger, Y. Iiyama, V. Innocente, P. Janot, O. Karacheban 19, J. Kaspar, J. Kieseler, M. Krammer 1, C. Lange, P. Lecoq, C. Lourenço, L. Malgeri, M. Mannelli, A. Massironi, F. Meijers, J.A. Merlin, S. Mersi, E. Meschi, F. Moortgat, M. Mulders, J. Ngadiuba, S. Nourbakhsh, S. Orfanelli, L. Orsini, F. Pantaleo 16, L. Pape, E. Perez, M. Peruzzi, A. Petrilli, G. Petrucciani, A. Pfeiffer, M. Pierini, F.M. Pitters, D. Rabady, A. Racz, M. Rovere, H. Sakulin, C. Schäfer, C. Schwick, M. Selvaggi, A. Sharma, P. Silva, W. Snoeys, P. Sphicas 45, J. Steggemann, V.R. Tavolaro, D. Treille, A. Tsirou, A. Vartak, M. Verzetti, W.D. Zeuner CERN, European Organization for Nuclear Research, Geneva, Switzerland D. Abbaneo, B. Akgun, E. Auffray, G. Auzinger, J. Baechler, P. Baillon, A.H. Ball, D. Barney, J. Bendavid, M. Bianco, A. Bocci, E. Bossini, C. Botta, E. Brondolin, T. Camporesi, A. Caratelli, G. Cerminara, E. Chapon, G. Cucciati, D. d’Enterria, A. Dabrowski, N. Daci, V. Daponte, A. David, O. Davignon, A. De Roeck, N. Deelen, M. Deile, M. Dobson, M. Dünser, N. Dupont, A. Elliott-Peisert, F. Fallavollita 44, D. Fasanella, G. Franzoni, J. Fulcher, W. Funk, S. Giani, D. Gigi, A. Gilbert, K. Gill, F. Glege, M. Gruchala, M. Guilbaud, D. Gulhan, J. Hegeman, C. Heidegger, Y. Iiyama, V. Innocente, P. Janot, O. Karacheban 19, J. Kaspar, J. Kieseler, M. Krammer 1, C. Lange, P. Lecoq, C. Lourenço, L. Malgeri, M. Mannelli, A. Massironi, F. Meijers, J.A. Merlin, S. Mersi, E. Meschi, F. Moortgat, M. Mulders, J. Ngadiuba, S. Nourbakhsh, S. Orfanelli, L. Orsini, F. Pantaleo 16, L. Pape, E. Perez, M. Peruzzi, A. Petrilli, G. Petrucciani, A. Pfeiffer, M. Pierini, F.M. Pitters, D. Rabady, A. Racz, M. Rovere, H. Sakulin, C. Schäfer, C. Schwick, M. Selvaggi, A. Sharma, P. Silva, W. W.G.D. Dharmaratna, N. Wickramage Guler, I. Hos 51, C. Isik, E.E. Kangal 52, O. Kara, A. Kayis Topaksu, U. Kiminsu, M. Oglakci, G. Onengut, K. Ozdemir 53, S. Ozturk 54, A.E. Simsek, D. Sunar Cerci 48, U.G. Tok, S. Turkcapar, I.S. Zorbakir, C. Zorbilmez Çukurova University, Physics Department, Science and Art Faculty, Adana, Turkey A. Bat, F. Boran, S. Cerci 48, S. Damarseckin 49, Z.S. Demiroglu, F. Dolek, C. Dozen, I. Dumanoglu, G. Gokbulut, Emine Gurpinar Guler 50, Y. Guler, I. Hos 51, C. Isik, E.E. Kangal 52, O. Kara, A. Kayis Topaksu, U. Kiminsu, M. Oglakci, G. Onengut, K. Ozdemir 53, S. Ozturk 54, A.E. Simsek, D. Sunar Cerci 48, U.G. Tok, S. Turkcapar, I.S. Zorbakir, C. Zorbilmez Çukurova University, Physics Department, Science and Art Faculty, Adana, Turkey B. Isildak 55, G. Karapinar 56, M. Yalvac Middle East Technical University, Physics Department, Ankara, Turkey I.O. Atakisi, E. Gülmez, M. Kaya 57, O. Kaya 58, B. Kaynak, Ö. Özçelik, S. Tekten, E.A. Yetkin 59 Bogazici University, Istanbul, Turkey A. Cakir, Y. Komurcu, S. Sen 60 Istanbul Technical University, Istanbul, Turkey W.G.D. Dharmaratna, N. Wickramage Snoeys, P. Sphicas 45, J. Steggemann, V.R. Tavolaro, D. Treille, A. Tsirou, A. Vartak, M. Verzetti, W.D. Zeuner CERN, European Organization for Nuclear Research, Geneva, Switzerland L. Caminada 46, K. Deiters, W. Erdmann, R. Horisberger, Q. Ingram, H.C. Kaestli, D. Kotlinski, U. Langenegger, T. Rohe, S.A. Wiederkehr Paul Scherrer Institut, Villigen, Switzerland L. Caminada 46, K. Deiters, W. Erdmann, R. Horisberger, Q. Ingram, H.C. Kaestli, D. Kotlinski, U. Langenegger, T. Rohe, S.A. Wiederkehr M. Backhaus, P. Berger, N. Chernyavskaya, G. Dissertori, M. Dittmar, M. Donegà, C. Dorfer, T.A. Gómez Espinosa, C. Grab, D. Hits, T. Klijnsma, W. Lustermann, R.A. Manzoni, M. Marionneau, M.T. Meinhard, F. Micheli, P. Musella, F. Nessi-Tedaldi, F. Pauss, G. Perrin, L. Perrozzi, S. Pigazzini, M. Reichmann, C. Reissel, T. Reitenspiess, D. Ruini, D.A. Sanz Becerra, M. Schönenberger, L. Shchutska, M.L. Vesterbacka Olsson, R. Wallny, D.H. Zhu ETH Zurich – Institute for Particle Physics and Astrophysics (IPA), Zurich, Switzerland T.K. Aarrestad, C. Amsler 47, D. Brzhechko, M.F. Canelli, A. De Cosa, R. Del Burgo, S. Donato, B. Kilminster, S. Leontsinis, V.M. Mikuni, I. Neutelings, G. Rauco, P. Robmann, D. Salerno, K. Schweiger, C. Seitz, Y. Takahashi, S. Wertz, A. Zucchetta Universität Zürich, Zurich, Switzerland T.H. Doan, C.M. Kuo, W. Lin, A. Roy, S.S. Yu National Central University, Chung-Li, Taiwan P. Chang, Y. Chao, K.F. Chen, P.H. Chen, W.-S. Hou, Y.y. Li, R.-S. Lu, E. Paganis, A. Psallidas, A. Steen National Taiwan University (NTU) Taipei Taiwan T.K. Aarrestad, C. Amsler 47, D. Brzhechko, M.F. Canelli, A. De Cosa, R. Del Burgo, S. Donato, B. Kilminster S. Leontsinis, V.M. Mikuni, I. Neutelings, G. Rauco, P. Robmann, D. Salerno, K. Schweiger, C. Seitz, Y. Takahashi, S. Wertz, A. Zucchetta Universität Zürich, Zurich, Switzerland P. Chang, Y. Chao, K.F. Chen, P.H. Chen, W.-S. Hou, Y.y. Li, R.-S. Lu, E. Paganis, A. Psallidas, A. Steen National Taiwan University (NTU), Taipei, Taiwan The CMS Collaboration / Physics Letters B 797 (2019) 134811 17 B. Asavapibhop, C. Asawatangtrakuldee, N. Srimanobhas, N. Suwonjandee Chulalongkorn University, Faculty of Science, Department of Physics, Bangkok, Thailand B. Asavapibhop, C. Asawatangtrakuldee, N. Srimanobhas, N. Suwonjandee Chulalongkorn University, Faculty of Science, Department of Physics, Bangkok, Thailand B. Asavapibhop, C. Asawatangtrakuldee, N. Srimanobhas, N. Suwonjandee Chulalongkorn University, Faculty of Science, Department of Physics, Bangkok, Thailand A. Bat, F. Boran, S. Cerci 48, S. Damarseckin 49, Z.S. Demiroglu, F. Dolek, C. Dozen, I. Dumanoglu, G. Gokbulut, Emine Gurpinar Guler 50, Y. R. Bartek, A. Dominguez, R. Uniyal Catholic University of America, Washington, DC, USA A. Buccilli, S.I. Cooper, C. Henderson, P. Rumerio, C. West The University of Alabama, Tuscaloosa, USA D. Arcaro, T. Bose, Z. Demiragli, D. Gastler, S. Girgis, D. Pinna, C. Richardson, J. Rohlf, D. Sperka, I. Suarez, L. Sulak, D. Zou Boston University, Boston, USA G. Benelli, B. Burkle, X. Coubez, D. Cutts, Y.t. Duh, M. Hadley, J. Hakala, U. Heintz, J.M. Hogan 64, K.H.M. Kwok, E. Laird, G. Landsberg, J. Lee, Z. Mao, M. Narain, S. Sagir 65, R. Syarif, E. Usai, D. Yu Brown University, Providence, USA R. Band, C. Brainerd, R. Breedon, M. Calderon De La Barca Sanchez, M. Chertok, J. Conway, R. Conway, P.T. Cox, R. Erbacher, C. Flores, G. Funk, F. Jensen, W. Ko, O. Kukral, R. Lander, M. Mulhearn, D. Pellett, J. Pilot, M. Shi, D. Stolp, D. Taylor, K. Tos, M. Tripathi, Z. Wang, F. Zhang University of California, Davis, Davis, USA M. Bachtis, C. Bravo, R. Cousins, A. Dasgupta, A. Florent, J. Hauser, M. Ignatenko, N. Mccoll, W.A. Nash, S. Regnard, D. Saltzberg, C. Schnaible, B. Stone, V. Valuev University of California, Los Angeles, USA K. Burt, R. Clare, J.W. Gary, S.M.A. Ghiasi Shirazi, G. Hanson, G. Karapostoli, E. Kennedy, O.R. Long, M. Olmedo Negrete, M.I. Paneva, W. Si, L. Wang, H. Wei, S. Wimpenny, B.R. Yates, Y. Zhang University of California, Riverside, Riverside, USA J.G. Branson, P. Chang, S. Cittolin, M. Derdzinski, R. Gerosa, D. Gilbert, B. Hashemi, D. Klein, V. Krutelyov, J. Letts, M. Masciovecchio, S. May, S. Padhi, M. Pieri, V. Sharma, M. Tadel, F. Würthwein, A. Yagil, G. Zevi Della Porta University of California, San Diego, La Jolla, USA N. Amin, R. Bhandari, C. Campagnari, M. Citron, V. Dutta, M. Franco Sevilla, L. Gouskos, J. Incandela, B. Marsh, H. Mei, A. Ovcharova, H. Qu, J. Richman, U. Sarica, D. Stuart, S. Wang, J. Yoo University of California, Santa Barbara – Department of Physics, Santa Barbara, USA D. Anderson, A. Bornheim, O. Cerri, I. Dutta, J.M. Lawhorn, N. Lu, J. Mao, H.B. Newman, T.Q. Nguyen, J. Pata, M. Spiropulu, J.R. Vlimant, S. Xie, Z. Zhang, R.Y. Zhu California Institute of Technology, Pasadena, USA M.B. Andrews, T. Ferguson, T. Mudholkar, M. Paulini, M. Sun, I. Vorobiev, M. Weinberg Carnegie Mellon University, Pittsburgh, USA J.P. Cumalat, W.T. Ford, A. Johnson, E. MacDonald, T. Mulholland, R. Patel, A. Perloff, K. Stenson, K.A. Ulmer, S.R. Wagner University of Colorado Boulder, Boulder, USA J. L. Levchuk National Scientific Center, Kharkov Institute of Physics and Technology, Kharkov, Ukraine F. Ball, E. Bhal, S. Bologna, J.J. Brooke, D. Burns, E. Clement, D. Cussans, H. Flacher, J. Goldstein, G.P. Heath, H.F. Heath, L. Kreczko, S. Paramesvaran, B. Penning, T. Sakuma, S. Seif El Nasr-Storey, D. Smith, V.J. Smith, J. Taylor, A. Titterton University of Bristol, Bristol, United Kingdom K.W. Bell, A. Belyaev 61, C. Brew, R.M. Brown, D. Cieri, D.J.A. Cockerill, J.A. Coughlan, K. Harder, S. Harper, J. Linacre, K. Manolopoulos, D.M. Newbold, E. Olaiya, D. Petyt, T. Reis, T. Schuh, C.H. Shepherd-Themistocleous, A. Thea, I.R. Tomalin, T. Williams, W.J. Womersley Rutherford Appleton Laboratory, Didcot, United Kingdom R. Bainbridge, P. Bloch, J. Borg, S. Breeze, O. Buchmuller, A. Bundock, Gurpreet Singh Chahal 62, D. Colling, P. Dauncey, G. Davies, M. Della Negra, R. Di Maria, P. Everaerts, G. Hall, G. Iles, T. James, M. Komm, C. Laner, L. Lyons, A.-M. Magnan, S. Malik, A. Martelli, V. Milosevic, J. Nash 63, V. Palladino, M. Pesaresi, D.M. Raymond, A. Richards, A. Rose, E. Scott, C. Seez, A. Shtipliyski, M. Stoye, T. Strebler, S. Summers, A. Tapper, K. Uchida, T. Virdee 16, N. Wardle, D. Winterbottom, J. Wright, A.G. Zecchinelli, S.C. Zenz Imperial College, London, United Kingdom J.E. Cole, P.R. Hobson, A. Khan, P. Kyberd, C.K. Mackay, A. Morton, I.D. Reid, L. Teodorescu, S. Zahid Brunel University, Uxbridge, United Kingdom K. Call, J. Dittmann, K. Hatakeyama, C. Madrid, B. McMaster, N. Pastika, C. Smith Baylor University, Waco, USA Baylor University, Waco, USA The CMS Collaboration / Physics Letters B 797 (2019) 134811 18 R. Bartek, A. Dominguez, R. Uniyal Catholic University of America, Washington, DC, USA R. Bartek, A. Dominguez, R. Uniyal Catholic University of America, Washington, DC, USA R. Bartek, A. Dominguez, R. Uniyal Catholic University of America, Washington, DC, USA Taylor, S. Tkaczyk, N.V. Tran, L. Uplegger, E.W. Vaandering, C. Vernieri, M. Verzocchi, R. Vidal, M. Wang, H.A. Weber Fermi National Accelerator Laboratory, Batavia, USA D. Acosta, P. Avery, P. Bortignon, D. Bourilkov, A. Brinkerhoff, L. Cadamuro, A. Carnes, V. Cherepanov, D. Curry, F. Errico, R.D. Field, S.V. Gleyzer, B.M. Joshi, M. Kim, J. Konigsberg, A. Korytov, K.H. Lo, P. Ma, K. Matchev, N. Menendez, G. Mitselmakher, D. Rosenzweig, K. Shi, J. Wang, S. Wang, X. Zuo University of Florida, Gainesville, USA R. Bartek, A. Dominguez, R. Uniyal Catholic University of America, Washington, DC, USA Alexander, J. Chaves, Y. Cheng, J. Chu, A. Datta, A. Frankenthal, K. Mcdermott, N. Mirman, J.R. Patterson, D. Quach, A. Rinkevicius 66, A. Ryd, S.M. Tan, Z. Tao, J. Thom, P. Wittich, M. Zientek Cornell University, Ithaca, USA Cornell University, Ithaca, USA Cornell University, Ithaca, USA The CMS Collaboration / Physics Letters B 797 (2019) 134811 19 S. Abdullin, M. Albrow, M. Alyari, G. Apollinari, A. Apresyan, A. Apyan, S. Banerjee, L.A.T. Bauerdick, A. Beretvas, J. Berryhill, P.C. Bhat, K. Burkett, J.N. Butler, A. Canepa, G.B. Cerati, H.W.K. Cheung, F. Chlebana, M. Cremonesi, J. Duarte, V.D. Elvira, J. Freeman, Z. Gecse, E. Gottschalk, L. Gray, D. Green, S. Grünendahl, O. Gutsche, Allison Reinsvold Hall, J. Hanlon, R.M. Harris, S. Hasegawa, R. Heller, J. Hirschauer, B. Jayatilaka, S. Jindariani, M. Johnson, U. Joshi, B. Klima, M.J. Kortelainen, B. Kreis, S. Lammel, J. Lewis, D. Lincoln, R. Lipton, M. Liu, T. Liu, J. Lykken, K. Maeshima, J.M. Marraffino, D. Mason, P. McBride, P. Merkel, S. Mrenna, S. Nahn, V. O’Dell, V. Papadimitriou, K. Pedro, C. Pena, G. Rakness, F. Ravera, L. Ristori, B. Schneider, E. Sexton-Kennedy, N. Smith, A. Soha, W.J. Spalding, L. Spiegel, S. Stoynev, J. Strait, N. Strobbe, L. Taylor, S. Tkaczyk, N.V. Tran, L. Uplegger, E.W. Vaandering, C. Vernieri, M. Verzocchi, R. Vidal, M. Wang, H.A. Weber Fermi National Accelerator Laboratory, Batavia, USA S. Abdullin, M. Albrow, M. Alyari, G. Apollinari, A. Apresyan, A. Apyan, S. Banerjee, L.A.T. Bauerdick, A. Beretvas, J. Berryhill, P.C. Bhat, K. Burkett, J.N. Butler, A. Canepa, G.B. Cerati, H.W.K. Cheung, F. Chlebana, M. Cremonesi, J. Duarte, V.D. Elvira, J. Freeman, Z. Gecse, E. Gottschalk, L. Gray, D. Green, S. Grünendahl, O. Gutsche, Allison Reinsvold Hall, J. Hanlon, R.M. Harris, S. Hasegawa, R. Heller, J. Hirschauer, B. Jayatilaka, S. Jindariani, M. Johnson, U. Joshi, B. Klima, M.J. Kortelainen, B. Kreis, S. Lammel, J. Lewis, D. Lincoln, R. Lipton, M. Liu, T. Liu, J. Lykken, K. Maeshima, J.M. Marraffino, D. Mason, P. McBride, P. Merkel, S. Mrenna, S. Nahn, V. O’Dell, V. Papadimitriou, K. Pedro, C. Pena, G. Rakness, F. Ravera, L. Ristori, B. Schneider, E. Sexton-Kennedy, N. Smith, A. Soha, W.J. Spalding, L. Spiegel, S. Stoynev, J. Strait, N. Strobbe, L. Taylor, S. Tkaczyk, N.V. Tran, L. Uplegger, E.W. Vaandering, C. Vernieri, M. Verzocchi, R. Vidal, M. Wang, H.A. Weber Fermi National Accelerator Laboratory, Batavia, USA L. Spiegel, S. Stoynev, J. Strait, N. Strobbe, L. Y.R. Joshi Y.R. Joshi Florida International University, Miami, USA Florida International University, Miami, USA T. Adams, A. Askew, S. Hagopian, V. Hagopian, K.F. Johnson, R. Khurana, T. Kolberg, G. Martinez, T. Perry, H. Prosper, C. Schiber, R. Yohay, J. Zhang Florida State University, Tallahassee, USA M.M. Baarmand, V. Bhopatkar, M. Hohlmann, D. Noonan, M. Rahmani, M. Saunders, F. Yumiceva Florida Institute of Technology, Melbourne, USA M.R. Adams, L. Apanasevich, D. Berry, R.R. Betts, R. Cavanaugh, X. Chen, S. Dittmer, O. Evdokimov, C.E. Gerber, D.A. Hangal, D.J. Hofman, K. Jung, C. Mills, T. Roy, M.B. Tonjes, N. Varelas, H. Wang, X. Wang, Z. Wu University of Illinois at Chicago (UIC), Chicago, USA M. Alhusseini, B. Bilki 50, W. Clarida, K. Dilsiz 67, S. Durgut, R.P. Gandrajula, M. Haytmyradov, V. Khristenko, O.K. Köseyan, J.-P. Merlo, A. Mestvirishvili 68, A. Moeller, J. Nachtman, H. Ogul 69, Y. Onel, F. Ozok 70, A. Penzo, C. Snyder, E. Tiras, J. Wetzel The University of Iowa, Iowa City, USA B. Blumenfeld, A. Cocoros, N. Eminizer, D. Fehling, L. Feng, A.V. Gritsan, W.T. Hung, P. Maksimovic, J. Roskes, M. Swartz, M. Xiao Johns Hopkins University, Baltimore, USA C. Baldenegro Barrera, P. Baringer, A. Bean, S. Boren, J. Bowen, A. Bylinkin, T. Isidori, S. Khalil, J. King, G. Krintiras, A. Kropivnitskaya, C. Lindsey, D. Majumder, W. Mcbrayer, N. Minafra, M. Murray, C. Rogan, C. Royon, S. Sanders, E. Schmitz, J.D. Tapia Takaki, Q. Wang, J. Williams, G. Wilson The University of Kansas, Lawrence, USA S. Duric, A. Ivanov, K. Kaadze, D. Kim, Y. Maravin, D.R. Mendis, T. Mitchell, A. Modak, A. Mohammadi Kansas State University, Manhattan, USA The CMS Collaboration / Physics Letters B 797 (2019) 134811 20 A. Baden, O. Baron, A. Belloni, S.C. Eno, Y. Feng, N.J. Hadley, S. Jabeen, G.Y. Jeng, R.G. Kellogg, J. Kunkle, A.C. Mignerey, S. Nabili, F. Ricci-Tam, M. Seidel, Y.H. Shin, A. Skuja, S.C. Tonwar, K. Wong University of Maryland, College Park, USA A. Baden, O. Baron, A. Belloni, S.C. Eno, Y. Feng, N.J. Hadley, S. Jabeen, G.Y. Jeng, R.G. Kellogg, J. Kunkle, A.C. Mignerey, S. Nabili, F. Ricci-Tam, M. Seidel, Y.H. Shin, A. Skuja, S.C. Tonwar, K. Wong University of Maryland, College Park, USA D. Abercrombie, B. Allen, A. Baty, R. Bi, S. Brandt, W. Busza, I.A. Cali, M. D’Alfonso, G. Gomez Ceballos, M. Goncharov, P. Harris, D. Hsu, M. Hu, M. Klute, D. Kovalskyi, Y.-J. Lee, P.D. Luckey, B. Maier, A.C. A. Barker, V.E. Barnes, S. Das, L. Gutay, M. Jones, A.W. Jung, A. Khatiwada, B. Mahakud, D.H. Miller, G. Negro, N. Neumeister, C.C. Peng, S. Piperov, H. Qiu, J.F. Schulte, J. Sun, F. Wang, R. Xiao, W. Xie Purdue University, West Lafayette, USA Y.R. Joshi Marini, C. Mcginn, C. Mironov, S. Narayanan, X. Niu, C. Paus, D. Rankin, C. Roland, G. Roland, Z. Shi, G.S.F. Stephans, K. Sumorok, K. Tatar, D. Velicanu, J. Wang, T.W. Wang, B. Wyslouch Massachusetts Institute of Technology, Cambridge, USA A.C. Benvenuti †, R.M. Chatterjee, A. Evans, S. Guts, P. Hansen, J. Hiltbrand, S. Kalafut, Y. Kubota, Z. Lesko, J. Mans, R. Rusack, M.A. Wadud University of Minnesota, Minneapolis, USA J.G. Acosta, S. Oliveros University of Mississippi, Oxford, USA K. Bloom, D.R. Claes, C. Fangmeier, L. Finco, F. Golf, R. Gonzalez Suarez, R. Kamalieddin, I. Kravchenko, J.E. Siado, G.R. Snow, B. Stieger University of Nebraska-Lincoln, Lincoln, USA G. Agarwal, C. Harrington, I. Iashvili, A. Kharchilava, C. Mclean, D. Nguyen, A. Parker, J. Pekkanen, S. Rappoccio, B. Roozbahani State University of New York at Buffalo, Buffalo, USA G. Alverson, E. Barberis, C. Freer, Y. Haddad, A. Hortiangtham, G. Madigan, D.M. Morse, T. Orimoto, L. Skinnari, A. Tishelman-Charny, T. Wamorkar, B. Wang, A. Wisecarver, D. Wood Northeastern University, Boston, USA S. Bhattacharya, J. Bueghly, T. Gunter, K.A. Hahn, N. Odell, M.H. Schmitt, K. Sung, M. Trovato, M. Velasco Northwestern University, Evanston, USA R. Bucci, N. Dev, R. Goldouzian, M. Hildreth, K. Hurtado Anampa, C. Jessop, D.J. Karmgard, K. Lannon, W. Li, N. Loukas, N. Marinelli, I. Mcalister, F. Meng, C. Mueller, Y. Musienko 34, M. Planer, R. Ruchti, P. Siddireddy, G. Smith, S. Taroni, M. Wayne, A. Wightman, M. Wolf, A. Woodard University of Notre Dame, Notre Dame, USA J. Alimena, B. Bylsma, L.S. Durkin, S. Flowers, B. Francis, C. Hill, W. Ji, A. Lefeld, T.Y. Ling, B.L. Winer The Ohio State University, Columbus, USA S. Cooperstein, G. Dezoort, P. Elmer, J. Hardenbrook, N. Haubrich, S. Higginbotham, A. Kalogeropoulos, S. Kwan, D. Lange, M.T. Lucchini, J. Luo, D. Marlow, K. Mei, I. Ojalvo, J. Olsen, C. Palmer, P. Piroué, J. Salfeld-Nebgen, D. Stickland, C. Tully, Z. Wang Princeton University, Princeton, USA S. Malik, S. Norberg University of Puerto Rico, Mayaguez, USA S. Malik, S. Norberg University of Puerto Rico, Mayaguez, USA S. Malik, S. Norberg University of Puerto Rico, Mayaguez, USA A. Barker, V.E. Barnes, S. Das, L. Gutay, M. Jones, A.W. Jung, A. Khatiwada, B. Mahakud, D.H. Miller, G. Negro, N. Neumeister, C.C. Peng, S. Piperov, H. Qiu, J.F. Schulte, J. Sun, F. Wang, R. Xiao, W. T. Cheng, J. Dolen, N. Parashar Purdue University Northwest, Hammond, USA K.M. Ecklund, S. Freed, F.J.M. Geurts, M. Kilpatrick, Arun Kumar, W. Li, B.P. Padley, R. Redjimi, J. Roberts, J. Rorie, W. Shi, A.G. Stahl Leiton, Z. Tu, A. Zhang Rice University, Houston, USA A. Bodek, P. de Barbaro, R. Demina, J.L. Dulemba, C. Fallon, T. Ferbel, M. Galanti, A. Garcia-Bellido, J. Han, O. Hindrichs, A. Khukhunaishvili, E. Ranken, P. Tan, R. Taus University of Rochester, Rochester, USA B. Chiarito, J.P. Chou, A. Gandrakota, Y. Gershtein, E. Halkiadakis, A. Hart, M. Heindl, E. Hughes, S. Kaplan, S. Kyriacou, I. Laflotte, A. Lath, R. Montalvo, K. Nash, M. Osherson, H. Saka, S. Salur, S. Schnetzer, D. Sheffield, S. Somalwar, R. Stone, S. Thomas, P. Thomassen Rutgers, The State University of New Jersey, Piscataway, USA H. Acharya, A.G. Delannoy, J. Heideman, G. Riley, S. Spanier University of Tennessee, Knoxville, USA O. Bouhali 71, A. Celik, M. Dalchenko, M. De Mattia, A. Delgado, S. Dildick, R. Eusebi, J. Gilmore, T. Huang, T. Kamon 72, S. Luo, D. Marley, R. Mueller, D. Overton, L. Perniè, D. Rathjens, A. Safonov Texas A&M University, College Station, USA N. Akchurin, J. Damgov, F. De Guio, S. Kunori, K. Lamichhane, S.W. Lee, T. Mengke, S. Muthumuni, T. Peltola, S. Undleeb, I. Volobouev, Z. Wang, A. Whitbeck Texas Tech University, Lubbock, USA S. Greene, A. Gurrola, R. Janjam, W. Johns, C. Maguire, A. Melo, H. Ni, K. Padeken, F. Romeo, P. Sheldon, S. Tuo, J. Velkovska, M. Verweij Vanderbilt University, Nashville, USA M.W. Arenton, P. Barria, B. Cox, G. Cummings, R. Hirosky, M. Joyce, A. Ledovskoy, C. Neu, B. Tannenwald, Y. Wang, E. Wolfe, F. Xia University of Virginia, Charlottesville, USA J. Buchanan, C. Caillol, D. Carlsmith, S. Dasu, I. De Bruyn, L. Dodd, F. Fiori, C. Galloni, B. Gomber 73, M Herndon A Hervé U Hussain P Klabbers A Lanaro A Loeliger K Long R Loveless J. Buchanan, C. Caillol, D. Carlsmith, S. Dasu, I. De Bruyn, L. Dodd, F. Fiori, C. Galloni, B. Gomber 73, M. Herndon, A. Hervé, U. Hussain, P. Klabbers, A. Lanaro, A. Loeliger, K. Long, R. Loveless, J. Madhusudanan Sreekala, T. Ruggles, A. Savin, V. Sharma, W.H. Smith, D. Teague, S. Trembath-Reichert, N. Woods J. Buchanan, C. Caillol, D. Carlsmith, S. Dasu, I. De Bruyn, L. Dodd, F. Fiori, C. Galloni, B. Gomber 73, M. Herndon, A. Hervé, U. Hussain, P. Klabbers, A. Lanaro, A. Loeliger, K. Long, R. Y.R. Joshi Xie Purdue University, West Lafayette, USA The CMS Collaboration / Physics Letters B 797 (2019) 134811 21 T. Cheng, J. Dolen, N. Parashar Purdue University Northwest, Hammond, USA 10 Also at Joint Institute for Nuclear Research, Dubna, Russia. 10 Also at Joint Institute for Nuclear Research, Dubna, Russia. 11 Also at Suez University, Suez, Egypt. 12 Now at British University in Egypt, Cairo, Egypt 13 Also at Purdue University, West Lafayette, USA. 14 Also at Université de Haute Alsace, Mulhouse, France. 15 Also at Erzincan Binali Yildirim University, Erzincan, Turkey 16 Also at CERN, European Organization for Nuclear Research, Geneva, Switzerland. 16 Also at CERN, European Organization for Nuclear Research, Geneva, Switzerland. 17 Also at RWTH Aachen University, III. Physikalisches Institut A, Aachen, Germany. 17 Also at RWTH Aachen University, III. Physikalisches Institut A, Aachen, Germany. 17 Also at RWTH Aachen University, III. Physikalisches In 18 Also at University of Hamburg, Hamburg, Germany. 19 Also at Brandenburg University of Technology, Cottbus, German 20 Also at Institute of Physics, University of Debrecen, Debrecen, Hungary. 21 Also at Institute of Nuclear Research ATOMKI, Debrecen, Hungary. 22 Also at Indian Institute of Technology Bhubaneswar, Bhubaneswar, India. 23 Also at Institute of Physics, Bhubaneswar, India. 23 Also at Institute of Physics, Bhubaneswar, India 24 Also at Shoolini University, Solan, India. 25 Also at University of Visva-Bharati, Santiniketan, India. 26 Also at Isfahan University of Technology, Isfahan, Iran. 27 Also at Italian National Agency for New Technologies, Ener 27 Also at Italian National Agency for New Technologies, Energy and Sustainable Economic Development, Bologna, Italy. 28 Also at Centro Siciliano di Fisica Nucleare e di Struttura Della Materia, Catania, Italy. 28 Also at Centro Siciliano di Fisica Nucleare e di Struttura Della Materia, Catania, Italy. 28 Also at Centro Siciliano di Fisica Nucleare e di Struttura Della Materia, Catania, Italy. 28 Also at Centro Siciliano di Fisica Nucleare e di Struttura Della Materia, Catania, Italy. 28 Also at Centro Siciliano di Fisica Nucleare e di Struttura D 29 Also at Scuola Normale e Sezione dell’INFN, Pisa, Italy. 30 Also at Riga Technical University, Riga, Latvia. 31 Also at Malaysian Nuclear Agency, MOSTI, Kajang, Malaysia. 31 Also at Malaysian Nuclear Agency, MOSTI, Kajang, Malaysia. 32 Also at Consejo Nacional de Ciencia y Tecnología, Mexico City, Mexico. 32 Also at Consejo Nacional de Ciencia y Tecnología, Mexico City, Mexico. 33 Also at Warsaw University of Technology, Institute of Electronic Systems, Warsaw, Poland. 33 Also at Warsaw University of Technology, Institute of Electronic Systems, Warsaw, Poland. 33 Also at Warsaw University of Technology, Institute of Electro 34 Also at Institute for Nuclear Research, Moscow, Russia. 10 Also at Joint Institute for Nuclear Research, Dubna, Russia. 34 Also at Institute for Nuclear Research, Moscow, Russia. 35 Now at National Research Nuclear University ‘Moscow Engineering Physics Institute’ (MEPhI), Moscow, Russia. 35 Now at National Research Nuclear University ‘Moscow Engineering Physics Institute’ (MEPhI 35 Now at National Research Nuclear University ‘Moscow En 36 Also at St. Petersburg State Polytechnical University, St. Petersburg, Russia. 36 Also at St. Petersburg State Polytechnical University, St. Petersburg, Russia. 37 Also at University of Florida, Gainesville, USA. 38 Also at Imperial College, London, United Kingdom. 39 Also at P.N. Lebedev Physical Institute, Moscow, Russia. 40 Also at California Institute of Technology, Pasadena, USA. 41 Also at Budker Institute of Nuclear Physics, Novosibirsk, Russia. 42 Also at Faculty of Physics, University of Belgrade, Belgrade, Se 43 Also at Università degli Studi di Siena, Siena, Italy. 44 Also at INFN Sezione di Pavia a, Università di Pavia b, Pavia, Italy. 44 Also at INFN Sezione di Pavia a, Università di Pavia b, Pavia, Italy. 45 Also at National and Kapodistrian University of Athens, Athens, Greece. 45 Also at National and Kapodistrian University of Athens, Athens, Greece. 46 Also at Universität Zürich, Zurich, Switzerland. 47 Also at Stefan Meyer Institute for Subatomic Physics (SMI), Vienna, Austria. 47 Also at Stefan Meyer Institute for Subatomic Physics (SMI), Vienna, Austria. 47 Also at Stefan Meyer Institute for Subatomic Ph 48 Also at Adiyaman University, Adiyaman, Turkey. 49 Also at Sirnak University, SIRNAK, Turkey. 50 Also at Beykent University, Istanbul, Turkey. 51 Also at Istanbul Aydin University, Istanbul, Turkey. 52 Also at Mersin University, Mersin, Turkey 53 Also at Piri Reis University, Istanbul, Turkey. 54 Also at Gaziosmanpasa University, Tokat, Turkey 55 Also at Ozyegin University, Istanbul, Turkey. 56 Also at Izmir Institute of Technology, Izmir, Turkey. 57 Also at Marmara University, Istanbul, Turkey. 58 Also at Kafkas University, Kars, Turkey. 59 Also at Istanbul Bilgi University, Istanbul, Turkey. 60 Also at Hacettepe University, Ankara, Turkey. 61 Also at School of Physics and Astronomy, University of Southampton, Southampton, United Kingdom. 61 Also at School of Physics and Astronomy, University of Southampton, Southampton, United Kingdom. 62 Also at Institute for Particle Physics Phenomenology Durham University, Durham, United Kingdom. 62 Also at Institute for Particle Physics Phenomenology Durham University, Durham, United Kingd 63 Also at Monash University, Faculty of Science, Clayton, Australia. 63 Also at Monash University, Faculty of Science, Clayton, Australia. 64 Also at Bethel University, St. Paul, USA. T. Cheng, J. Dolen, N. Parashar Loveless, J. Madhusudanan Sreekala, T. Ruggles, A. Savin, V. Sharma, W.H. Smith, D. Teague, S. Trembath-Reichert, N. Woods J. Buchanan, C. Caillol, D. Carlsmith, S. Dasu, I. De Bruyn, L. Dodd, F. Fiori, C. Galloni, B. Gomber , M. Herndon, A. Hervé, U. Hussain, P. Klabbers, A. Lanaro, A. Loeliger, K. Long, R. Loveless, J. Madhusudanan Sreekala, T. Ruggles, A. Savin, V. Sharma, W.H. Smith, D. Teague, S. Trembath-Reichert, N W d University of Wisconsin – Madison, Madison, WI, USA 1 Also at Vienna University of Technology, Vienna, Austria. 8 Also at University of Chinese Academy of Sciences, Beijing, China. 9 Also at Institute for Theoretical and Experimental Physics named by A.I. Alikhanov of NRC ‘Kurchatov Institute’, Moscow, Russia The CMS Collaboration / Physics Letters B 797 (2019) 134811 22 10 Also at Joint Institute for Nuclear Research, Dubna, Russia. 64 Also at Bethel University, St. Paul, USA. 65 Also at Karamano˘glu Mehmetbey University, Karaman, Tur 65 Also at Karamano˘glu Mehmetbey University, Karaman, Turkey 66 Also at Vilnius University, Vilnius, Lithuania. 66 Also at Vilnius University, Vilnius, Lithuania. 67 Also at Bingol University, Bingol, Turkey. 68 Also at Georgian Technical University, Tbilisi, Georgia. 68 Also at Georgian Technical University, Tbilisi, Georgia. 69 Also at Sinop University, Sinop, Turkey. 70 Also at Mimar Sinan University, Istanbul, Istanbul, Turkey. 70 Also at Mimar Sinan University, Istanbul, Istanbul, Turkey. 71 Also at Texas A&M University at Qatar, Doha, Qatar. 71 Also at Texas A&M University at Qatar, Doha, Qatar. 72 Also at Kyungpook National University, Daegu, Repub 72 Also at Kyungpook National University, Daegu, Republic of 73 Also at University of Hyderabad, Hyderabad, India. 73 Also at University of Hyderabad, Hyderabad, India.
https://openalex.org/W1966535501
https://enpc.hal.science/hal-01086752/document
English
null
Trace metal determination in total atmospheric deposition in rural and urban areas
Science of the total environment
2,003
cc-by
6,695
To cite this version: Sam Azimi, Alexandre Ludwig, Daniel R. Thevenot, Jean-Louis Colin. Trace metal determination in total atmospheric deposition in rural and urban areas. Science of the Total Environment, 2003, 308, pp.247 - 256. ￿10.1016/S0048-9697(02)00678-2￿. ￿hal-01086752￿ am Azimi, Alexandre Ludwig, Daniel R. Thevenot, Jean-Louis Colin Distributed under a Creative Commons Attribution 4.0 International License Trace metal determination in total atmospheric deposition in rural and urban areas Sam Azimi *, Alexandre Ludwig , Daniel R. Thevenot , Jean-Louis Col a, b a ´ Sam Azimi *, Alexandre Ludwig , Daniel R. Thevenot , Jean-Louis Colin a, b a b ´ Centre d’Enseignement et de Recherche sur l’Eau, la Ville et l’Environnement (CEREVE), UMR MENRT-MAP 99 022 101, a Universite Paris XII-Val de Marne, Faculte de Sciences et Technologie, 61 Avenue du General de Gaulle, 94010 Creteil Cedex, ´ ´ ´ ´ ´ France Centre d’Enseignement et de Recherche sur l’Eau, la Ville et l’Environnement (CEREVE), UMR MENRT-MAP 99 022 101, a Universite Paris XII-Val de Marne, Faculte de Sciences et Technologie, 61 Avenue du General de Gaulle, 94010 Creteil Cedex, ´ ´ ´ ´ ´ France Laboratoire Inter Universitaire des Systemes Atmospheriques (LISA), UMR CNRS 7583, Universite Paris XII-Val de Marne, b ` ´ ´ Faculte de Sciences et Technologie, 61 Avenue du General de Gaulle, 94010 Creteil Cedex, France ´ ´ ´ ´ Received 21 June 2002; accepted 27 November 2002 Received 21 June 2002; accepted 27 November 2002 Abstract The wet, dry and total atmospheric depositions of some metals (Al, Cd, Cr, Cu, Fe, Na, Pb and Zn) were sampled at two sites and atmospheric fallout fluxes were determined for these locations. This work, led by two different research groups, allowed to reach two main goals: to define a simple analytical procedure to secure accurate shipboard sampling and analysis of atmospheric deposition, and to assess anthropogenic impacts of heavy metals to the environment. The first step about the validation step showed that the prevalent deposition type was dry deposition which represents 40, 60 and 80% for Cd, Cu and Pb, respectively. This prevalence of dry deposition in total atmospheric fallout supported the necessity of funnel wall rinsing which contains 30, 50 and 40% of collected Cd, Cu and Pb, respectively. Moreover, the reproducibility of atmospheric deposition collection was determined. The second step was performed by comparing two sampling sites. A rural sampling site, situated in Morvan’s regional park (250 km south-east of Paris), was chosen for its isolation from any local and regional contamination sources. Fluxes obtained in this area were compared with those obtained at an urban site (Creteil, suburb of Paris) allowing ´ comparison between urban and rural areas and demonstrating the impact of anthropogenic activities on atmospheric deposition of Cr, Cu and Pb.  2002 Elsevier Science B.V. All rights reserved Keywords: Trace elements; Atmospheric fallout; Sampling procedures; Anthropogenic impacts tions in the atmosphere: natural and anthropogenic (D’Almeida et al., 1991). Natural sources are mainly composed of soil, sea water and volcanic dusts and gases. Anthropogenic emissions come from industrial gases and aerosols or fossil-fuel combustion (Pacyna, 1984). Incineration of urban waste water treatment sludge and of urban waste were identified as major atmospheric sources of *Corresponding author. Tel.: q33-1-45-17-16-20; fax: q 33-1-45-17-16-27. 0048-9697/03/$ - see front matter  2002 Elsevier Science B.V. All rights reserved. PII: S0048-9697Ž02.00678-2 E-mail address: azimi@univ-paris12.fr (S. Azimi). HAL Id: hal-01086752 https://enpc.hal.science/hal-01086752v1 Submitted on 24 Nov 2014 L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés. HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers. Distributed under a Creative Commons Attribution 4.0 International License The Science of the Total Environment 308 (2003) 247–256 2.1. Sampling sites Two sampling sites were selected to assess the spatial heterogeneity of atmospheric depositions. During a first campaign, from November 1999 to April 2000, four collectors were placed on the roof of University Paris XII-Val de Marne (5 km south- east of Paris, Creteil, France, 20 m above ground ´ level), within an urban area, at 200 m from a highway (A86) and 6 km from an urban waste incineration plant. During a second campaign, from May to July 2000, four other collectors were placed at Saint-Brisson (Morvan’s natural park, 250 km south-east of Paris, France) within a rural area surrounded by forest and lakes, at 2 km from the closest village and 30 km from the closest town. A weekly sampling period was chosen for an accurate determination of sampling volume and of heavy metal concentration (Colin, 1997). The main objective of this work was to validate a weekly collection procedure, both in urban and rural sites, focussing mostly on the determination of total atmospheric deposition. Therefore, during 8 weeks, atmospheric fallout was collected weekly in a rural area in order to set up a sampling and analysis procedure for low concentration of heavy metals. Indeed, a literature survey (Church et al., 1984; Landing et al., 1998; Garnaud, 1999; Thoni et al., 1999) showed that the collection procedures used by different laboratories or institutions present significant differences. Besides the material, size and location of the collector itself, its management, i.e. the collection period, its replacement at the end of each period or the rinsing of aerosol particles adsorbed on the funnel wall are quite different. 2. Material and methods trace metals (Sweet and Vermette, 1993; Sullivan and Woods, 2000). Metallic pollutants may be transported over long distances by very small particles (Koutrakis, 1984). These particles when aggregated or washed out by rain are called atmos- pheric deposition, respectively, dry and wet. Dry deposition of particles occurs by direct impact and gravitational settling on land or water surfaces. In wet deposition, aerosols and gases are dissolved or suspended in water droplets or ice crystals. Besides such long-range transport processes, sig- nificant dry and wet depositions also occur locally, and atmospheric sources in urban area may play an important role in the metal contamination of dry and wet depositions (Person et al., 1993). Since heavy metals present high toxicity and high lability in atmospheric fallout (Golomb et al., 1997), their monitoring is important both in urban and rural areas. 1. Introduction Metal transfer through the atmosphere is a sig- nificant part of the biogeochemical cycle of these elements (Galloway et al., 1982). There are two processes which increase heavy metal concentra- S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 248 2.2. Total deposition collection A simple system made with a high-density polyethylene (HDPE) bottle (1 l) connected to a HDPE funnel was used for total deposition (TD) collection. The funnel cross-sectional areas were 1135 cm for CEREVE’s and 1810 cm for 2 2 LISA’s. All this equipment was placed inside a PVC pipe with PVC needles on top to prevent bird nesting (Fig. 1a). Collector heights varied with site. At Creteil, the collecting funnel was ´ placed at 1.5 m above the gravel covered university roof (20 m above the ground) and LISA’s at 2 m above the same roof. At Saint Brisson, collection heights were 1.3 and 2 m, respectively, above the grass-covered ground. Comparison between the CEREVE and LISA collectors enabled the assess- ment of the influence of collection heights on atmospheric deposition measurement. Moreover, the CEREVE TD collector was placed at the same height as the separate dry and wet deposition (DD and WD) collectors (ARS 1000) in order to allow an accurate comparison of TD and the sum DDq WD. Collection bottles were filled in advance with 20 ml of 10% nitric acid (Nitric acid 65% Supra- pur, Merck) in order to dissolve particulate matter The study was completed by an urban collection period of 16 weeks allowing a comparison between urban and rural atmospheric depositions as well as a determination of temporal trends at the urban site. This work was performed within two research groups, the ‘Centre d’Enseignement et de Recher- che sur l’Eau, la Ville et l’Environnement’ (CER- EVE) and the ‘Laboratoire Inter Universitaire des Systemes Atmospheriques’ (LISA), both situated ` ´ within the Creteil University Campus. ´ S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 249 Fig. 1. Atmospheric fallout collectors: (a) total atmospheric deposition collector and (b) separate wet and dry atmospheric deposition collector (ARS 1000, MTX Italia, Modane, Italy). sition collector and (b) separate wet and dry atmospheric deposition Fig. 1. Atmospheric fallout collectors: (a) total atmospheric deposition collector and (b) separate wet and dry atmospheric deposition collector (ARS 1000, MTX Italia, Modane, Italy). was done for TD collection funnel, DD and WD vessels were rinsed with 100 ml of a 10% nitric acid solution and the resulting solution was col- lected in separate clean HDPE bottle. and to avoid trace metal adsorption on bottle walls. 2.2. Total deposition collection When the rain volume was high, nitric acid was added, within the laboratory clean room, to obtain a final pH of 1. At the end of each collection period (7 days), the funnel was rinsed with 100 ml of a 10% nitric acid solution (Nitric acid 65% Suprapur, Merck) and the resulting solution was collected into a separate clean HDPE bottle. At the end of each collection period, all collec- tion materials, i.e. for TD, DD and WD, were replaced by clean ones. 2.3. Wet and dry depositions collection For each laboratory this procedure was applied to all materials in contact with wet, dry or total atmospheric fallout samples, i.e. bottles, funnels, ARS vessels, caps and filtration units. The CER- EVE procedure was: (1) washing with a sponge and dishwasher detergent, outside of the clean room, and rinsing with deionised water (Milli-Ro, Millipore S.A.); (2) introducing into the clean room and complete immersion into a 2% Extran bath during 24 h; (3) rinsing with ultra pure water and complete immersion in a 10% nitric acid bath (Nitric Acid 68% Normapur, Prolabo) during 24 h. Sampling of TD was supplemented with sepa- rate collection of dry and wet atmospheric depo- sitions at each site, using an ARS 1000 equipment (MTX Italia SPA, Modane, Italy). Both types of samples were collected in polyethylene cylindrical vessels (29 cm inner diameter) covered with a single lid which automatically moves from one container to the other, according to a rain probe (Fig. 1b). Wet deposition was collected in a 17-l vessel and transferred into smaller bottles (1 l) for easier transport to the laboratory. The vessel used for dry deposition was partially filled with purity water (18.2 MV Milli-Q water, Millipore S.A.) to a depth of 1 cm in order to avoid resuspension of collected particles. The evaporation of this water was compensated by an automatic pump triggered by an optical fibre sensor for water level. As it The LISA procedure was: (1) washing with dishwasher detergent outside the clean room; (2) complete immersion during 24 h in a 2% HCl bath (HCl 36% Normapur, Merck), then rinsing the material with deionised water before introducing S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 250 quantities of pollutants, often in concentrations of mgØl , in aqueous solution. The measurement of y1 dry deposition is more problematic. In direct meas- urement of dry deposition, an artificial surface is usually used that simulates the natural surface onto which dry deposition is occurring. In this work, for direct measurements of such depositions, a layer of ultra pure water in a bucket served as a surrogate water surface. A similar method of dry deposition onto a surrogate water surface was used by Golomb et al. (1997) and Morselli et al. (1999). Such a device clearly avoids possible resuspension of aerosols, which have reached this water surface. 2.5. Trace metal analysis After samples were brought back to the labora- tory and nitric acid was added (when necessary), samples were kept in a dark room at 5 8C during 7 days in order to dissolve most of particles. Then, samples were filtered under a class 100 laminar hood with 0.45 mm porosity filters. The 60-ml sub-samples obtained were kept at 5 8C until their analysis. The analytical technique used by CER- EVE was a Graphic Furnace Atomic Absorption Spectrometer (GF-AAS Perkin–Elmer 1100 B) with Argon flow (Linde, N56) and deuterium lamp for non-specific absorption correction (matrix effect). For cadmium determination, ammonium di-hydrogeno-phosphate (NH H PO Merck, 4 2 4 Suprapur) was added for matrix modification and prevention of cadmium loss by volatilisation. The analytical technique used by LISA was an ICP- AES (Perkin–Elmer Optima 3000) equipped with an ultrasonic nebulisor. In countries with temperate climate and limited precipitation, it is important to evaluate the relative importance of DD through aerosol settling and of WD through rain. Indeed, during wet weekly periods, with average daily rainfall amounts above 10 mmØday , Cd, Cu and especially Pb are y1 mainly deposited as DD (Fig. 2): the mean relative importance of DD at the rural site reaches 40, 60 and 80% for Cd, Cu and Pb, respectively. This prevalence of DD has also been observed at Creteil: the relative importance of DD reached 67, ´ 73 and 76% for Cd, Cu and Pb, respectively. In central Paris (Garnaud, 1999), DD represented 77, 83 and 87% of TD for Cd, Cu and Pb, respectively. These results show the importance of DD relative to WD in both areas. 2.3. Wet and dry depositions collection Nevertheless, in industrial or urban areas, DD was often sampled by immobilising aerosols deposited on an horizontal surface covered with an adhesive polymer named ‘DIEM small plate’ (NF X 43- 007-1973). Such adhesion is not complete and aerosols or their metal components may be washed out by rain and wind. Evaluation of this loss was done by the comparison of the DD collector and the rinsing step of the funnel walls which simulat- ed a dry nature surface. into the clean room (class 1000); (3) rinsing with ultra pure water in the clean room and complete immersion into a 2% HCl bath for at least 4 days. The final step was similar in both laboratories: rinsing with ultra pure water and drying before sealing into double plastic bags. All procedures in the clean rooms were performed under class 10 or 100 laminar hoods. Membranes used for sample filtration (Sartorius, cellulose nitrate, 0.45 mm porosity) were treated in the clean room before any use: (1) immersion into a 5% nitric acid solution during 24 h; (2) rinsing with ultra pure water and storing in a ultra pure water bath. 3.1.1. Prevalent deposition mechanism The device used most frequently for collecting TD consists of a funnel connected to a receiving bottle (Fig. 1a). When aerosols settle on the funnel wall, they easily adhere, adsorb and accumulate on its walls and are mostly transferred to the bottle during a rain event. An unknown and poorly controlled part of such aerosols accumulated on Atmospheric deposition of aerosols and gases occurs in two modes: wet and dry. To obtain total atmospheric loading, it is necessary to measure both wet and dry deposition (Golomb et al., 1997). The measurement of wet deposition is relatively straightforward; it involves the analysis of trace 251 S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 Fig. 2. Week average of Morvan’s daily flow of dry (DD) and wet (WD) atmospheric depositions (mgØm Ød ) for Cd, Cu and y2 y1 Pb as well as rainfall amounts (mm) during each sampling period. Fig. 2. Week average of Morvan’s daily flow of dry (DD) and wet (WD) atmospheric depositions (mgØm Ød ) for Cd, Cu and y2 y1 Pb as well as rainfall amounts (mm) during each sampling period. ence between urban and rural areas is probably caused by the highest amount of metals adsorbed on the TD funnel walls in urban area. Indeed, a thin black soot layer was deposited on the funnel walls at Creteil site. This latter, playing a role ´ similar to the water layer in the DD collector, may prevent particles deposited on funnel walls to be resuspended by wind. We have attempted to dem- onstrate this adsorption mechanism by rinsing the funnel at the end of each collection period and by determining heavy metals in the sample obtained during such an acid rinsing step. Fig. 3 demon- strates that during the whole campaign performed funnel walls may be resuspended during windy periods: this is not the case of aerosol trapped by the water layer of the DD collector. Thus, the sum of DD and WD metal fluxes, as determined by ARS 1000 equipment, is larger than the TD metal flux, during the same period: at the rural site, cumulated fluxes of DDqWD are 4 and 1.5 times higher than TD, for Pb and Cd, respectively. In the urban area, the same comparison for Cd, Cu and Pb collected by ARS 1000 and TD collector shows no difference, i.e. 3.1.4. Validation of trace metal analysis However, the acid rinsing pro- cedure of funnels is probably far from being complete: this is especially clear in urban areas where black soot deposits have been often observed (Garnaud, 1999). Such black deposits are not totally released by acid rinsing and even after long immersion in detergent bath, it is often necessary to wipe them out with tissues. Although some procedures used by regional or international networks, monitoring total atmospheric deposits, neglect the amount of metals deposited on the funnels, we are convinced that at the end of each sampling period, such funnels should be acid rinsed and replaced by clean ones. y FBs were prepared to assess the material con- tamination during transport and installation on sites. Total deposition FB was prepared using 20 ml of 10% nitric acid which had been transported to the sampling site, placed on the standing PVC pipe and brought back to the laboratory. Dry deposition FB was prepared as the water layer contained in the collecting vessel, transported back to the laboratory just after filling it on the site. Wet deposition FB was prepared using the rinsing solution, which was poured into a clean sampling bucket at the sampling site, and brought back to the laboratory. Table 1 compares DL, LB and FB for each analytical technique (GF-AAS and ICP- AES), as well as 10th and 90th percentiles (d10 and d ) of metal concentrations determined at the 90 Morvan site. Tenth percentile was taken for com- 3.1.1. Prevalent deposition mechanism (DDqWD)yTD ratio calculated for cumulated fluxes are 1.07, 1.11 and 0.94 for Cd, Cu and Pb, respectively. This differ- S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 252 sites. Each laboratory used its own clean room, reagents, material and analytical technique. The statistical one-tailed t-test was used to compare the mean flux values obtained by each laboratory at each site. Results obtained both in rural and urban areas showed no significant difference between the two research groups for the 99% CI. Furthermore, if we exclude Zn flux in the rural site, we could observe a good agreement between values meas- ured at each site with published data collected in similar land occupation sites (Tripathi et al., 1993; Vukmirovic et al., 1997; Hovmand and Kemp, 1998; Garnaud, 1999; Ridame et al., 1999). Indeed, our results are in the same order of magnitude than previous studies. Fig. 3. Comparison of Cd, Cu and Pb total deposition rate (kg m year ) integrated over both campaigns performed at Cre- y2 y1 ´ teil and Morvan sites (1999–2000): each deposition rate is the sum of the contribution of samples present in collecting bottles (bottom part) and obtained during acid rinsing of collecting funnels (top part). Fig. 3. Comparison of Cd, Cu and Pb total deposition rate (kg m year ) integrated over both campaigns performed at Cre- y2 y1 ´ teil and Morvan sites (1999–2000): each deposition rate is the sum of the contribution of samples present in collecting bottles (bottom part) and obtained during acid rinsing of collecting funnels (top part). 3.1.4. Validation of trace metal analysis The validation procedure presents three steps using laboratory blanks (LB), field blanks (FB) and samples certified for trace metals. LBs were chosen as the rinsing solutions (10% nitric acid) which were used for the rinsing step: the metal analysis was performed after the filtra- tion of the solution through a 0.45 mm pore filter in our clean room. This procedure allows the assessment of possible contamination by sample handling within the clean room. The detection limit (DL) of both GF-AAS and ICP-AES (Des- boeufs et al., 1999) have been calculated as three times the standard deviation of 10 laboratory blanks analysis. at Creteil, the atmospheric metal fluxes calculated ´ from samples obtained by acid rinsing of the funnel are significant, reaching a relative impor- tance of 30, 50 and 40% for Cd, Cu and Pb, respectively. In the rural area, the relative impor- tance of the rinsing step is lower and reaches 14, 13 and 30% for Cd, Cu and Pb, respectively. The lower importance of the rinsing step in a rural area, i.e. without an adhesive system (water or soot), demonstrates the possible resuspension of aerosols by wind. However, the acid rinsing pro- cedure of funnels is probably far from being complete: this is especially clear in urban areas where black soot deposits have been often observed (Garnaud, 1999). Such black deposits are not totally released by acid rinsing and even after long immersion in detergent bath, it is often necessary to wipe them out with tissues. Although some procedures used by regional or international networks, monitoring total atmospheric deposits, neglect the amount of metals deposited on the funnels, we are convinced that at the end of each sampling period, such funnels should be acid rinsed and replaced by clean ones. at Creteil, the atmospheric metal fluxes calculated from samples obtained by acid rinsing of the funnel are significant, reaching a relative impor- tance of 30, 50 and 40% for Cd, Cu and Pb, respectively. In the rural area, the relative impor- tance of the rinsing step is lower and reaches 14, 13 and 30% for Cd, Cu and Pb, respectively. The lower importance of the rinsing step in a rural area, i.e. without an adhesive system (water or soot), demonstrates the possible resuspension of aerosols by wind. Table 1 In the Pb case, there is a relatively high deviation between certified and measured values (54%) for low concentrated samples, but this level is 10 times lower than 90% of measured values in the rural area. For other elements (Al, Cr and Zn), the deviation is between 15 and 25%, but measured concentrations are included in the uncertainty interval given for the certified values. Therefore, analytical conditions are considered as validated for atmospheric trace metal analysis. Table 1 Table 1 Comparison of detection limits (DL), laboratory and field blank mean and standard deviation results obtained using GF-AAS and ICP-AES, and 10th (d ) and 90th (d ) percentiles of metal concentrations in TD samples collected at Morvan site (mgØl ) y1 10 90 Comparison of detection limits (DL), laboratory and field blank mean and standard deviation results obtained using GF-AAS and ICP-AES, and 10th (d ) and 90th (d ) percentiles of metal concentrations in TD samples collected at Morvan site (mgØl ) y1 10 90 GF-AAS ICP-AES TD at Morvan DL Lab blank Field blank DL Lab blank Field blank d10 d90 (m"s) (ns1) (m"s) (m"s) (ns10) (ns4) (ns4) Al 0.3 4.4"2.8 3.2"1.9 20 280 Cd 0.03 0.01"0.01 0.04 0.05 0.23"0.03 0.19"0.09 0.17 0.58 Cr 0.07 0.56"0.10 0.41"0.23 0.45 1.0 Cu 0.09 0.01"0.03 0.09 0.06 0.36"0.04 0.41"0.15 3.2 14.0 Fe 0.05 0.65"1.20 2.81"1.33 27 250 Na 0.5 1.12"0.70 3.22"1.58 34 230 Pb 0.30 0.17"0.10 -DL 0.6 0.51"0.19 0.62"0.04 2.9 90.1 Zn 0.03 1.72"3.39 2.26"1.29 10 32 parison with DL and blanks in order to estimate the validity of each analytical method. DL obtained by both analytical techniques are below the d10 value for all heavy metals. The comparison between LB and d shows that the material 10 cleaning and sampling treatment procedure have no significant effect on heavy metals analysis except for Cr and Cd. For Cr, the LB levels are equivalent or higher than d and for Cd, the LB 10 is higher than d only with ICP-AES. Moreover, 10 comparison between FB and d showed that 10 except for Cr and Cd, FB values obtained by ICP- AES are less than 20% of d . In the case of Cd, 10 only the GF-AAS method gave FB values that were up to 20% of sample d . As a consequence, 10 procedures have to be improved for decreasing Cr contamination in sample handling as well as Cd analyse by ICP-AES. The latter conclusion illus- trates that GF-AAS is a more sensitive technique for Cd determination in atmospheric fallout. sition (Table 2). These certified samples were introduced into each set of analysed samples. For some elements (Cd, Cu, Fe and Na), deviation between measured and certified values are less than 10%. Table 1 Table 1 Comparison of detection limits (DL), laboratory and field blank mean and standard deviation results obtained using GF-AAS and ICP-AES, and 10th (d ) and 90th (d ) percentiles of metal concentrations in TD samples collected at Morvan site (mgØl ) y1 10 90 GF-AAS ICP-AES TD at Morvan DL Lab blank Field blank DL Lab blank Field blank d10 d90 (m"s) (ns1) (m"s) (m"s) (ns10) (ns4) (ns4) Al 0.3 4.4"2.8 3.2"1.9 20 280 Cd 0.03 0.01"0.01 0.04 0.05 0.23"0.03 0.19"0.09 0.17 0.58 Cr 0.07 0.56"0.10 0.41"0.23 0.45 1.0 Cu 0.09 0.01"0.03 0.09 0.06 0.36"0.04 0.41"0.15 3.2 14.0 Fe 0.05 0.65"1.20 2.81"1.33 27 250 Na 0.5 1.12"0.70 3.22"1.58 34 230 Pb 0.30 0.17"0.10 -DL 0.6 0.51"0.19 0.62"0.04 2.9 90.1 Zn 0.03 1.72"3.39 2.26"1.29 10 32 parison with DL and blanks in order to estimate the validity of each analytical method. DL obtained by both analytical techniques are below the d10 value for all heavy metals. The comparison between LB and d shows that the material 10 cleaning and sampling treatment procedure have no significant effect on heavy metals analysis except for Cr and Cd. For Cr, the LB levels are equivalent or higher than d and for Cd, the LB 10 is higher than d only with ICP-AES. Moreover, 10 comparison between FB and d showed that 10 except for Cr and Cd, FB values obtained by ICP- AES are less than 20% of d . In the case of Cd, 10 only the GF-AAS method gave FB values that were up to 20% of sample d As a consequence sition (Table 2). These certified samples were introduced into each set of analysed samples. For some elements (Cd, Cu, Fe and Na), deviation between measured and certified values are less than 10%. In the Pb case, there is a relatively high deviation between certified and measured values (54%) for low concentrated samples, but this level is 10 times lower than 90% of measured values in the rural area. For other elements (Al, Cr and Zn), the deviation is between 15 and 25%, but measured concentrations are included in the uncertainty interval given for the certified values. Therefore, analytical conditions are considered as validated for atmospheric trace metal analysis. 3.1.3. Collection procedure reproducibility A comparison was performed between our two research groups at both the Creteil and Morvan ´ S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 253 3.1.5. Flux assessment The uncertainty of concentration measurement varies from method to method (i.e. ICP-AES and GF-AAS), and also from species to species. Gen- erally, the concentration measurements of standard samples were within 10–20% of the nominal values. However, in atmospheric deposition meas- urement the major source of uncertainty is not the concentration measurement, but in the method of collecting deposition samples (Golomb et al., 1997). For wet deposition, there may be some loss of the fine rain drops (or light snow flakes), especially under wind conditions. For dry deposi- tion measurement, both the water layer method and the funnel method have major uncertainties that are difficult to quantify. Bucket and funnel walls present a significant aerodynamic interfer- The accuracy of the analytical results was veri- fied using three samples certified in trace metals: (1) NIST 1643d ‘Trace elements in water’, US Department of Commerce, National Institute of Standards and Technology, Gaithersburg, MD 20 899, USA; (2) SPS-SW1 ‘Surface Water (batch 105)’, Spectra-Pure Standards, Promochem, Mol- shelm, France; and (3) SLRS ‘Saint-Laurent River Surface’, Geological Survey Quality Assurance Branch, Canada. These certified samples were chosen because they had heavy metal concentra- tions similar to those found in atmospheric depo- S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 254 Fig. 4. Comparison of urban (Creteil) and rural (Morvan) total ´ atmospheric deposition rate (kgØkm Øyear ) integrated over y2 y1 both 1999–2000 campaigns. ence to particle (and gaseous molecule) deposition. Particles, especially in the sub-micron to micron size range, are subject to Brownian, wind and turbulent eddy motion, and may be blown over and around the bucket or funnel walls rather than deposited into it. Once inside the funnel or bucket, the particles may adhere to the walls or deposit in the bottom of the collector. While we did rinse the collector walls with acid and analysed the rinse solution for metals, the deposition area was taken only as the top area of the collector. 3.2.1. Comparison between urban and rural dep- osition fluxes 3.2.1. Comparison between urban and rural dep- osition fluxes from our collectors. Indeed, we have noticed that our TD determination for Zn in Morvan park is higher than previous works done in rural areas (Migon et al., 1997; Ridame et al., 1999) and lower than other results in urban areas (Tripathi et al., 1993; Vukmirovic et al., 1997). Such differ- ences may be related to the presence of point sources, which are clearly site-specific. Total atmospheric deposition fluxes were com- pared using fluxes integrated over the whole cam- paigns conducted at our urban and rural sites (Fig. 4). The impact of human activities in Creteil area ´ could be seen on several metals like Pb, Cu, Cd, Na, Al, Cr and Fe. This influence was more obvious for Cu, Cd and Pb which have only anthropogenic sources, as opposed to four other metals, which also have many natural sources (Pacyna, 1984; Person et al., 1993; Sullivan and Woods, 2000). Total atmospheric Zn fluxes were surprisingly high at our rural site of the Morvan regional park. The high concentration of this ele- ment was probably induced by work done during our sampling period on building roof, which is made with Zn-covered metal sheets located 100 m 3.2. Heavy metal impact Fig. 4. Comparison of urban (Creteil) and rural (Morvan) total ´ atmospheric deposition rate (kgØkm Øyear ) integrated over y2 y1 both 1999–2000 campaigns. 3.2.1. Comparison between urban and rural dep- osition fluxes C.V. are the certified values; M.V. are the measured values which were obtained by the median of 10 analysed samples; D is the deviation between certified and measured values. Values in bold were obtained by GF-AAS. Acknowledgments This work was supported by the atmospheric department of ADEME and by the PIREN-Seine research program (CNRS GDR 1067). The authors are grateful to Vincent Rocher (CEREVE) and Myriam Harry (Laboratoire de Biologie des Sols et des Eaux) for their scientific support. 3.2.2. Evolution of trace metal deposition fluxes DD within TD, as evidenced both in rural and urban sites. The analytical techniques used (GF- AAS and ICP-OES) in this work allowed the determination of low concentration levels of some heavy metals like Al, Fe, Na, Pb, Cu and Zn. But for some other metals (Cd and Cr), an improve- ment has to be achieved in material cleaning and collection procedures to ensure the quality of their determination. Comparison of trace metal deposi- tion fluxes determined separately at CEREVE and LISA, showed good agreement: this resulted in well-defined collection and analytical procedures, including thorough vessel cleaning and the use of clean rooms. Fig. 5. Comparison between total atmospheric annual deposi- tion rate (kgØkm Øyear ) integrated during 5 month cam- y2 y1 paigns performed at Creteil in 1994–1995 and 1999–2000 ´ winter periods, using the sum of monitored DD and WD fluxes, and mean rainfall amount (mmØyear ) during both sampling y1 periods. Fig. 5. Comparison between total atmospheric annual deposi- tion rate (kgØkm Øyear ) integrated during 5 month cam- y2 y1 paigns performed at Creteil in 1994–1995 and 1999–2000 ´ winter periods, using the sum of monitored DD and WD fluxes, and mean rainfall amount (mmØyear ) during both sampling y1 periods. An illustration of the impact of human activities on urban atmospheric fallout was evidenced by comparing Morvan and Creteil heavy metal TD: ´ the most important differences in Pb and Cd were related to their emission by anthropogenic sources. Such urban impact was found to decrease very significantly between 1994 and 1999 for Pb, Cu and Cd TD fluxes, demonstrating the recent improvement in the treatment of smoke produced by anthropogenic activities. Indeed, Pb, Cu and Cd fluxes drop by a factor of 5, 2 and 2, respectively. During both sampling periods registered rainfall amount was not very different, i.e. 800 and 600 mmØyear in 1994 and y1 1999, respectively: such a weak difference could not explain such a high TD decrease. Better treatment of smoke emissions by various waste or sludge incinerators or power plants is more likely to be responsible for such large improvements in air quality. 4. Conclusions During 8 weeks, atmospheric fallouts were col- lected weekly in a rural area in order to set up a sampling and analysis procedure for low concen- trated heavy metal samples. The study was com- pleted by a 16-week urban collection period, thus allowing a comparison between urban and rural atmospheric depositions as well as a determination of temporal trends at Creteil. ´ 3.2.2. Evolution of trace metal deposition fluxes Determination of DD and WD fluxes was per- formed at the same Creteil site in 1994 using the ´ same collecting equipment ARS 1000 (Garnaud, 1999). Fig. 5 shows the 5-year trend of Pb, Cu and Cd TD fluxes assessed by the sum of DD and WD: a decrease appears for all three heavy metals. Table 2 tion used in this work as well as 10th (d ) and 90th (d ) percentiles concentration values of metal in 10 90 orvan site (mgØl ) y1 Table 2 Samples certified concentration used in this work as well as 10th (d ) and 90th (d ) percentiles concentration values of metal in 10 90 TD samples collected at Morvan site (mgØl ) y1 SRM 1643d SPS SW1 SLRS TD at Morvan C.V. M.V. D C.V. M.V. D C.V. M.V. D d10 d90 Al 127 156.58 23% 50 51.09 2% 90.64 93.2 3% 20 280 Cd 6.47 6.32 y2% 0.5 0.46 y8% 0.028 0.03 7% 0.17 0.58 Cr 18.5 18.96 2% 2 2.29 15% 0.48 0.5 4% 0.45 1.0 Cu 20.5 22.2 8% 20 20.2 1% 2.76 2.9 5% 3.2 14.0 Fe 91 92.57 2% 20 20.94 5% 128 134 5% 27 250 Na 22.1 – – 2000 1890 y5% 1862 1925 3% 34 230 Pb 18.15 17.7 y2% 5 4.96 y1% 0.13 0.2 54% 2.9 90.1 Zn 72.5 57.75 y20% 20 14.99 y25% 3.33 3.6 8% 10 32 C.V. are the certified values; M.V. are the measured values which were obtained by the median of 10 analysed samples; D is the deviation between certified and measured values. Values in bold were obtained by GF-AAS. S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 255 DD within TD, as evidenced both in rural and urban sites. The analytical techniques used (GF- AAS and ICP-OES) in this work allowed the determination of low concentration levels of some heavy metals like Al, Fe, Na, Pb, Cu and Zn. But for some other metals (Cd and Cr), an improve- ment has to be achieved in material cleaning and collection procedures to ensure the quality of their determination. Comparison of trace metal deposi- tion fluxes determined separately at CEREVE and LISA, showed good agreement: this resulted in well-defined collection and analytical procedures, including thorough vessel cleaning and the use of clean rooms. References Church TM, Tramontano JM, Scudlark JR, Jickells TD, Tokos JJ, Knap AH, Galloway JN. The wet deposition of trace metals to the western Atlantic Ocean at the mid-Atlantic coast and on Bermuda’. Atmos Environ 1984;18(12):2657– 2664. A simple method of total atmospheric deposition collection using a HDPE funnel and bottle standing at 1.5 m above the ground within a PVC pipe was assessed. Twenty millilitres of nitric acid was placed into the bottle before the sampling period in order to dissolve all the collected particles. Nevertheless, the funnel acid rinsing appeared to be an important step of the collection procedure. This step is clearly related to the importance of Colin JL. Physico-chimie de la phase aqueuse atmospherique. ´ Eighth Environment Science and Technology International Symposium, Creteil, France 1997. p. 7–15. ´ D’Almeida GA, Koepke P, Shettle EP. Atmospheric aerosols: global climatology and radiative characteristics. A. Deepak publishing, 1991. (561 pp). Desboeufs KV, Losno R, Vimeux F, Cholbi S. pH dependent dissolution of wind transported Saharan dust. J Geophys Res 1999;104:21287–21299. S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 256 Pacyna JM. Estimation of the atmospheric emissions of trace elements from anthropogenic sources in Europe. Atmos Environ 1984;18(1):41–50. Galloway JN, Thorton JD, Norton SA, Volchok HL, McLean RAN. Trace metals in atmospheric deposition: a review and assessment. Atmos Environ 1982;16(7):1677–1700. Garnaud S. Transfert and geochemical evolution of metal pollution in an urban catchment. Environmental Science and Technology PhD. Ecole Nationale des Ponts et Chaussees, ´ 1999. (393 pp). Person A, Petit-Coviaux F, Le Moullec Y, Festy B. Contribu- tion des principales sources en metaux et metalloıdes a la ´ ´ ¨ ` pollution particulaire dans l’agglomeration Parisienne. Pollut ´ Atmos 1993;75–88. Golomb D, Ryan D, Eby N, Underhill J, Zemba S. Atmos- pheric deposition of toxic onto Massachusetts Bay-I. Metals. Atmos Environ 1997;31(9):1349–1359. Ridame C, Guieu C, Loye-Pilot M-D. Trend in total atmos- ¨ pheric deposition fluxes of aluminium, iron, and trace metals in the northwestern Mediterranean over the past decade (1985–1997). J Geophys Res 1999;104(D232):30127– 30138. Hovmand MF, Kemp K. Heavy metal bulk deposition and aerosol concentrations in rural Denmark 1992–1996. Envi- ronmental Research Institute Final Report. Denmark: Ros- kilde, 1998. (11 pp). Sullivan R, Woods I. Using emission factors to characterise heavy metal emissions from sewage sludge incinerators in Australia. Atmos Environ 2000;34:4571–4577. Koutrakis P. References Physico-chimie de l’aerosol urbain: identification ´ et quantification des principales sources par analyse multi- variable. Atmospheric Environment Ph D. University Paris XII-Val de Marne, 1984. (143 pp). Sweet CW, Vermette SJ. Sources of toxic element in urban air in Illinois. Environ Sci Technol 1993;27:2502–2510. Thoni L, Krieg F, Siewers U. Testing the Bergerhoff method to determine the bulk deposition loads of 49 elements. Atmos Environ 1999;33(2):337–344. Landing WM, Guentzel JL, Gill GA, Pollman CD, Lindberg SE, Petersen G, Keeler G. Methods for measuring mercury in rainfall and aerosols in Florida. Atmos Environ 1998;32(5):909–918. Tripathi RM, Ashawa SC, Khandekar RN. Atmospheric dep- osition of Pb, Cd, Cu and Zn in Bombay, India. Atmos Environ 1993;27B(2):269–273. Migon C, Journel B, Nicolas E. Measurement of trace metal wet, dry and total atmospheric fluxes over the Ligurian Sea. Atmos Environ 1997;31(6):889–896. Vukmirovic Z, Marendic Miljkovic J, Rajsic S, Tasic M, Novakovic LA. Resuspension of trace metals in Belgrade under conditions of drastically reduced emission levels. Water Air Soil Pollut 1997;93(1–4):137–156. Morselli L, Cecchini M, Grandi E, Iannuccilli A, Barrili L, Olivieri P. Heavy metals in atmospheric surrogate dry deposition. Chemosphere 1999;38(4):899–907.
https://openalex.org/W2992361014
http://journal.ipb.ac.id/index.php/jurnaltin/article/download/27958/17865
Indonesian
null
SINERGI SUPPLY CHAIN YANG EFEKTIF : LITERATURE REVIEW AGROINDUSTRI BAWANG MERAH DI SUMATERA BARAT
null
2,019
cc-by-sa
4,686
Terakreditasi Peringkat 2 Dirjen Penguatan Riset dan Pengembangan No 30/E/KPT/2018 Tersedia online http://journal.ipb.ac.id/index.php/jurnaltin Terakreditasi Peringkat 2 Dirjen Penguatan Riset dan Pengembangan No 30/E/KPT/2018 Tersedia online http://journal.ipb.ac.id/index.php/jurnaltin Terakreditasi Peringkat 2 Dirjen Penguatan Riset dan Pengembangan No 30/E/KPT/2018 Tersedia online http://journal.ipb.ac.id/index.php/jurnaltin Sinergi Supply Chain Yang Efektif : Literature Review … Jurnal Teknologi Industri Pertanian 29 (2):124-131 (2019) Nomor DOI: 10.24961/j.tek.ind.pert.2019.29.2.124 ISSN: 0216-3160 EISSN: 2252-390 SINERGI SUPPLY CHAIN YANG EFEKTIF : LITERATURE REVIEW AGROINDUSTRI BAWANG MERAH DI SUMATERA BARAT SYNERGI AND EFFECTIVE SUPPLY CHAIN : LITERATURE REVIEW AGROINDUSTRY SHALLOT IN WEST SUMATERA Dedet Deperiky1,2)*, Santosa3), Rika Ampuh Hadiguna3), Nofialdi3) 1)Universitas Mohammad Natsir Bukittinggi, Sumatera Barat Jln. Tan Malaka Bukit Cangang/Belakang Balok, Bukittinggi, Sumatera Barat 2) Mahasiswa Program Doktor Teknologi Industri Pertanian, Pasca Sarjana, Universitas Andalas, Padang, Indonesia Email : dedve.lpdp@umnyarsi.ac.id, deverikysupplychain@gmail.com 3) Program Studi Ilmu Pertanian, Pemusatan Teknologi Industri Pertanian, Pasca Sarjana Universitas Andalas, Padang, Indonesia Makalah: Diterima 12 September 2018; Diperbaiki 29 April 2019; Disetujui 10 Mei 2019 ABSTRACT The agroindustry of shallot in West Sumatra currently requires further strengthening of the relationship between supply chain actors to improve the efficiency of the market system and the application of modern technology today. This study aimed to map the supply chain of shallot agroindustry in West Sumatra and reconstruct the synergy of shallot agroindustry supply chain actors for the welfare of farmers. The research methodology used the Systematic Literature Review (SLR), i.e. literature review method which identify, assess, and interpret all findings on a research topic, to answer research question. The results of the study showed that the portrait of shallot agroindustry supply chain was mapping the market potential that is a mainstay in shallot agroindustry, conducting comparative analysis of the role of stakeholders in the supply chain as a business unit, mapping gaps in profit distribution among supply chain actors, and accurating recorded price data. Farmers had a high ability in market access and integrated in all business processes with all supply chain stakeholders. In conclusion, synergi of supply chain on integrated shallot agroindustry will correlated to the increasing ability of the resources supply chain shallot agents of agroindustry from various elements and to integrate a more efficient and effective supply chain that transforms the agricultural sector into the industrial sector. Keywords: supply chain, agroindustry, synergi, agriculture sector 124 *Penulis Korespodensi ABSTRAK Agroindustri bawang merah di Sumatera Barat saat ini membutuhkan penguatan lebih lanjut dari hubungan antara pelaku supply chain untuk meningkatkan efisiensi sistem pasar dan penerapan teknologi modern saat ini. Penelitian ini bertujuan untuk memotret rantai pasok agroindustri bawang merah di Sumatera Barat dan merekonstruksi sinergi pelaku rantai pasok agroindustri bawang merah untuk kesejahteraan petani. Metodologi penelitian yang digunakan adalah metode Systematic Literature Review (SLR) yaitu metode literature review yang menelaah, merangkum, dan menginterpretasi seluruh penemuan masalah pada suatu topik penelitian, untuk menjawab serta menganalisis pertanyaan pada penelitian (research question). Hasil penelitian bahwa potret rantai pasok agroindustri bawang merah adalah memetakan potensi pasar yang menjadi andalan dalam agroindustri bawang merah, melakukan analisis komparatif terhadap peran stakeholders dalam rantai pasok sebagai unit bisnis, memetakan kesenjangan dalam distribusi keuntungan diantara pelaku rantai pasok dan mengakurasikan data harga yang dicatat. Sinergi pelaku supply chain itu tidak dapat berdiri sendiri tetapi harus dikelola bersama sama dengan fungsi lainnya dalam rantai yang terkoordinasi. Pada hakikatnya, agroindustri bawang merah melihat aspek pada petani sebagai subjek yang intinya petani sejahtera dan mempunyai kemampuan tinggi dalam akses pasar dan terintegrasi pada semua proses bisnis dengan semua pemangku kepentingan supply chain. Kesimpulannya, sinergi supply chain pada agroindustri bawang merah akan berkorelasi pada peningkatan kemampuan sumber daya pelaku rantai pasok agroindustri bawang merah dari berbagai elemen serta menghasilkan supply chain yang lebih efisiensi dan efektif dalam mentransformasi sektor pertanian ke sektor industri. Kata kunci: supply chain, agroindustri, sinergi, sektor pertanian PENDAHULUAN sangat relatif terbatas, dengan kondisi tersebut maka data dunia khusus tentang bawang merah sulit dijumpai, data yang ada adalah produksi bawang secara keseluruhan Menurut data Food And Agriculture Organization Of The United Nation (2017) bahwa China merupakan produsen bawang merah terbesar di dunia yang kemudian di produksi Bawang merah merupakan sayuran rempah yang dikonsumsi setiap orang di dunia. Hal ini dapat dipahami bahwa sebagian besar penduduk dunia mengkonsumsi bawang merah, sementara penduduk yang mengkonsumsi bawang merah Dedet Deperiky, Santosa, Rika Ampuh Hadiguna, Nofialdi juga oleh beberapa negara di Benua Eropa dan Amerika. Melihat data FAO (2017) produsen dan konsumen bawang merah yang terbesar di ASEAN adalah Indonesia. Beberapa Negara di ASEAN seperti Myanmar, Thailand, dan Phillipina juga memproduksi bawang merah namun tidak sebesar produksi di Indonesia. Dengan kondisi tersebut maka beberapa negara di ASEAN yang memproduksikan bawang merah banyak ditujukan dalam rangka ekspor ke negara-negara yang produksi bawang merah yang tergolong rendah. Produksi bawang merah dunia dapat dilihat pada Tabel 1. mengantungkan hidupnya pada sektor pertanian. Optimalisasi pemanfaatan lahan di wilayah Indonesia sebagian besar diperuntukkan sebagai lahan pertanian (Kementan, 2015). Di Indonesia bawang merah telah ditanam di berbagai propinsi, mulai dari Aceh sampai ke Papua. Pada tahun 2015, Provinsi Sumatera Barat memproduksi bawang merah yang tertinggi di Sumatera yaitu 32.442 ton. Kalau diamati pertumbuhan luas panen bawang merah di Sumatera Barat semenjak tahun 2008 sampai dengan 2015 mencapai kenaikan 9,88%. Produksi bawang merah di Indonesia dapat dilihat pada Tabel 2. Jika kita lihat kondisi diatas bahwa rantai pasok agroindustri bawang merah juga sudah menjadi perhatian utama para pelaku agroindustri. Ina (2015) penerapan konsep manajemen rantai pasok pada sektor agroindustri dikenal dengan istilah manajemen rantai pasok pada agroindustri tidak berbeda dengan dengan sektor manufaktur pada umumnya. Namun demikian, pencirian khusus agroindustri yakni, bulki, seasonable dan perishable memberikan pengaruh yang sangat berarti pada hal pembangunan dan pengembangan berbagi konsep manajemen rantai pasok. Tabel 1. Produksi bawang merah dunia tahun 2017 Tabel 1. Produksi bawang merah dunia tahun 2017 No Negara Produksi (Ton) 1 China 23,849,053 2 India 19,415,425 3 Mesir 3,115,482 4 USA 3,025,700 5 Iran 2,345,768 6 Belanda 2,120,581 7 Indonesia 1,446,869 8 Republik Korea 1,298,749 9 Spanyol 1,254,697 10 Jepang 1,243,000 11 Uzbekistan 1,184,863 12 Myanmar 1,170,874 j p Menurut Hadiguna (2015), bahwa kunci keberhasilan dari sistem rantai pasok agroindustri adalah bahan baku. Jurnal Teknologi Industri Pertanian 29 (2):124-131 PENDAHULUAN Agroindustri membutuhkan pasokan bahan baku yang bermutu dan jumlah yang sesuai dengan kebutuhan tetapi dihadapkan pada kondisi musiman dan perishable. Rantai pasok agroindustri secara sederhana adalah urutan dalam sebuah rangkaian yang terdiri dari pemasok, pemroses, distributor atau pengecer dan konsumen dengan bahan baku utamanya adalah komoditas pertanian terentu. Manajemen rantai pasok agroindustri adalah sebuah pendekatan yang diterapkan untuk mengelola komoditas pertanian tertentu dimulai dari pemasok sampai konsumen untuk menciptakan nilai tertentu dari produk olahan yang memperhatikan kontribusi dari pelaku disepanjang rantai pasok secara proposional dan berkeadilan. Menurut data Kementrian Pertanian (2015), Indonesia adalah negara berbasis pertanian yang memiliki sumber daya alam yang beragam dan mempunyai wilayah pertanian yang sangat luas. Hal ini yang menjadikan Indonesia sebagai salah satu negara penghasil bawang merah terbesar di dunia. Di negara agraria, pertanian memiliki peranan yang sangat strategis di bidang perekonomian ataupun pemenuhan kebutuhan pangan. Indonesia merupakan salah satu dari beberapa negara berkembang dengan sektor pertanian sebagai sumber penghasilan utama dari mayoritas penduduknya sebagai petani. Artinya, sebagian besar masyarakat di bidang pertanian Tabel 2. Produksi bawang merah Provinsi di Indonesia tahun 2017 Tabel 2. Produksi bawang merah Provinsi di Indonesia tahun 2017 No Provinsi Produksi (Ton) Persen 1 Jawa Tengah 506.357 48,27 2 Jawa Timur 203.739 19,42 3 Jawa Barat 116.396 11,10 4 NTB 104.324 9,95 5 Sumatera Barat 32.442 2,39 6 Sulawesi Selatan 23.276 2,22 7 DI Yokyakarta 19.951 1,90 8 Bali 10.981 1,05 9 Sulawesi Tengah 10.301 0,98 10 Sumatera Utara 9.413 0,90 11 Propinsi Lainnya 19.138 1,82 Indonesia 1.446.869 100 125 Sinergi Supply Chain Yang Efektif : Literature Review ………… Rantai pasok agroindustri banyak melibatkan pihak diantaranya petani, pedagang pengepul, agroindustri, distributor, pengecer dan pihak terkait tidak langsung lainnya. Manajemen rantai pasok agroindustri sebenarnya menggunakan pendekatan yang berkemampuan holistik dalam mewujudkan sebuah agroindustri yang handal, efektif dan efiseiensi. Disamping itu, prinsip proposionalitas yang sangat diharapkan pada sistem pertanian modern dapat dicapai melalui praktek manajemen rantai pasok. Hal ini dapat dilakukan karena konsep pendekatan manajemen rantai pasok agroindustri mengedepankan pemenuhan kepuasaan para pemangku kepentingan. Dalam sistem rantai pasok agroindustri para pemangku kepentingan mempunyai kepentingan dan tujuan yang berbeda beda, sehingga setiap pemangku kepentingan memilki kepentingan yag berbeda dan dipengaruhi pula oleh lingkungan bisnis. Cara pandang yang holistik dan tidak menghilangkan kompleksitas sangat penting diperhatikan (Hadiguna, 2015). agroindustri mengikutsertakan sekumpulan stakeholders, mulai dari tingkat petani hingga ke tingkat konsumen akhir. Namun karena kurangnya sistem kolektifitas secara berkelanjutan oleh petani, sehingga banyak stakeholders dan aliran transaksi yang harus dimulai terlebih dahulu, hal ini tentu berdampak pada harga produk yang tinggi terhadap produksi pertanian (Herawati, 2015). Masalah yang mendasar bagi petani adalah keterbatasan petani dalam melakukan penetapan harga jual. Bergaining Power petani pada saat ini umumnya masih sangat lemah, hal ini dikarenakan pada kendala usaha peningkatan pendapatan petani. Tidak kuatnya daya tawar petani pada dasarnya disebabkan para petani kurang mendapatkan akses informasi pasar pada sistem rantai pasok pertanian. PENDAHULUAN supply chain yang panjang dari petani kecil ke pedagang, sehingga banyak para pedagang menjadi pengendali kebijakan harga dalam supply chain pertanian, mereka berperan sebagai aktor penentu harga terhadap hasil produk petani kecil. Selain itu, petani kecil masih dipersulit dengan beberapa hambatan yang menghambat sistem pemasaran produknya, sehingga proses distribusi produk pertanian belum seluruhnya berjalan baik dan ketidakberdayaan petani dalam ketatnya persaingan di pasar nasional maupun internasional (Danil 2014; Ambe 2014). Selama ini petani kecil, masih melakukan sistem tradisional dalam mengoptimalkan produksinya. Hal ini sangat berpengaruh terhadap komoditas panen yang dihasilkan, karena produk pertanian yang juga bersifat cepat rusak dan mudah busuk (perishable) serta musiman . Ketika panen datang, ketersedian produk sangat banyak dan harga jual pun bisa turun drastis dengan nilai produk yang sangat rendah, sedangkan pada saat belum terjadi pada kondisi musiman, ketersediaan barang menjadi langka sehingga menyebabkan harga jual bisa diatas harga pasar. Ketersediaan produk yang tidak stabil seperti ini menjadi tantangan besar petani, sehingga petani tidak bisa memenuhi permintaan pasar secara berkesinambungan. Supply chain agroindustri METODE PENELITIAN Metode penelitian yang dipakai adalah dengan metode systematic literature review atau sering disingkat SLR. Metode ini menelaah, merangkum, dan menginterpretasi seluruh penemuan masalah pada suatu topik penelitian serta menjawab pertanyaan penelitian yang telah ditetapkan sebelumnya (Kitchenham dan Charters, 2017). Metode SLR dilakukan secara sistematis dengan mengikuti tahapan awal pada proses literature review sehingga terhindar dari pemahaman yang bersifat bias dan subjektif dari penelitinya. Gambar 1 menjelaskan bahwa metode systematic literature review adalah pendekatan sistematis pada metodologi penelitian, sementara itu pada metode traditional review tidak menggunakan metode penelitian yang berdasarkan kepada kemauan (inklinasi) penulis Panjangnya mata rantai pasok pertanian saat ini menjadi momok yang menakutkan bagi petani untuk dapat terus melangkah maju dan mengoptimalkan produk pertanian terutama untuk pangan yang sehat dan high quality. Selain itu, tingginya biaya produksi, transportasi, biaya logistik juga ketergantungan kebutuhan pupuk akan pabrik industri juga menjadi hambatan tersendiri dalam proses supply chain agroindustri dalam hal manajemen distribusi. Hal ini dikarenakan proses Gambar 1. Metode Systematic Literature Review Gambar 1. Metode Systematic Literature Review Jurnal Teknologi Industri Pertanian 29 (2):124-131 126 Dedet Deperiky, Santosa, Rika Ampuh Hadiguna, Nofialdi Beberapa tulisan dalam metode ilmiah traditional review adalah studi kepustakaan. Seperti pada konsep metode penelitian, pada dasarnya penelitian systematic literature review dimulai dengan membuat hipotesa awal, systematic literature review dan tahapan selanjutnya adalah dengan melakukan penelitian systematic literature review. Analogi dengan metode penelitian secara umum, di mana dalam systematic literature review terdapat metode quantitative dan qualitative. (Okoli, 2017; Kusumadewi, 2010). Peramalan permintaan dan pasokan mempunyai tingkat kepentingan yang sama dalam rantai pasok pertanian, tetapi anggota rantai pasok mempunyai kemampuan yang sangat sedikit dan terbatas untuk mengendalikannya. Rantai pasok agroindustri juga cukup khas karena karakteristik bahan pertanian yang sangat sensitif terhadap waktu. Oleh karena itu, pengelolaan persediaan, transportasi, dan komponen rantai pasok lainnya perlu dirancang dengan memperhatikan karakteristik tersebut. Pembahasan rantai pasok pertanian kecil belum banyak dilakukan karena melihat kodisi komoditi pertanian mudah busuk dan cepat rusak sehingga untuk melakukan kajian ini diperlukan pemahaman yang sangat mendalam dan kajian rantai pasok pada umumnya dilakukan oleh para peneliti dengan latar belakang lmu manajemen atau keteknikan yang berbasis logam. Beberapa penelitian yang mengkaji lingkup rantai pasok pertanian antara lain karakteristik produk-produk pertanian yang sangat khas menyebabkan kompleksitas masalah rantai pasok menjadi meningkat. Metode pada pendekatan quantitative systematic literature review digunakan untuk mensintesa rangkuman penelitian dengan pendekatan statistik. Misalnya, Randomized Control Trials (RCT), Cohort Study, Case-Control Study, atau studi prevalensi. METODE PENELITIAN Pada metode ini dalam merangkum sintesa hasil penelitian disebut dengan “meta-analisis”. Secara pengertian, bahwa metode melakukan agregasi review untuk mendapatkan nilai kemampuan statistik (statistical power) dalam mengidentifikasi hubungan causal-effect antara faktor risiko dengan hasil (outcome) (Okoli, 2017; Dostaller, 2013). Upaya untuk menjaga kestabilan harga produk hasil pertanian adalah dengan merekonstruksi sistem rantai pasok yang berpihak kepada petani kecil. Tidak hanya itu, competitive skill yang handal dari petani juga dibutuhkan sebagai strategi dalam mengupayakan memanajerial komoditas pertanian yang unggul agar dapat menciptakan produk yang dapat berkompetitif di pasar global dan memenuhi standar kualitas keamanan pangan, sehingga perlu dilakukan kemitraan dengan berbagai pihak untuk meminimalisir tingginya ongkos produksi baik dari pemerintah maupun stakeholders (Kembey, 2016; Mahsa, 2014; Al-Fawaeer, 2013). Upaya yang bisa dilakukan secara sinergi yaitu adalah perbaikan sarana dan prasarana, pembaharuan sejumlah peraturan, dan pembangunan sistem kelembagaan. Rekonstruksi sistem rantai pasok pertanian harus dikaji ulang lagi secara serius dan komprehensif. Pembuatan kebijakan ini jangan dipercayakan begitu saja kepada pelaku pasar yang bersifat oligopoly dan monopoli bahkan pada komoditas tertentu akan dikuasai oleh beberapa oknum pengambil kebijakan di dalam negeri maupun di luar negeri Pada pendekatan qualitative systematic literature review dipakai pada mensintesa hasil temuan beberapa penelitian yang bersifat pada data sekunder. Merangkum tentang hasil beberapa penelitian qualitative ini disebut “meta-sintesa”. Meta-sintesa adalah teknik pada menyatukan persepsi data untuk menemukan teori baru untuk meningkatkan pemahaman yang lebih radikal dan menyeluruh (Okoli, 2017). HASIL DAN PEMBAHASAN Potret Rantai Pasok Agroindustri Bawang Merah Pada prinsipnya, rantai pasok pertanian memiliki dua tipe, yaitu produk segar dan produk yang diproses. Produk segar dapat berupa buah, sayuran, dan sejenisnya yang tidak membutuhkan proses pengolahan khusus atau proses transformasi kimia. Produk pertanian yang diproses membutuhkan proses transformasi kimia atau perubahan bentuk. Rantai pasok untuk produk pertanian yang diproses akan melibatkan beberapa pemain, di antaranya petani atau perkebunan, pengolah atau pabrik, distributor, dan pengecer (retail). Setiap perusahaan diposisikan dalam sebuah lapisan jaringan dan keterlibatan minimal satu rantai pasok. Dalam jaringan rantai pasok pertanian, lebih dari satu rantai pasok dan lebih dari satu proses bisnis yang dapat diidentifikasi (Tompudung, 2016; Golan, 2011; Kogan, 2016). Harga pasar tidak boleh bergantung kepada kebijakan harga asing karena tidak berhubungan secara signifikan terhadap biaya produksi dan profit (Cabigiosu, 2012; Nissen, 2011, Seethamraju, 2014). Harga harus berorientasi dengan biaya produksi dan profit petani serta batas kekuatan daya beli masyarakat. Harga harus dapat meminimalisir biaya produksi dan kemampuan petani sehingga tidak merugikan masyarakat. Aspek kelembagaan petani seperti koperasi yang memang berorientasi kepada kepentingan petani kecil serta pembangunan pada perdesaan hingga sekarang belum dilakukan secara optimal. Program yang menitikberatkan pada Dalam satu waktu, proses paralel dan berurutan dapat terjadi dalam rantai pasok pertanian, jika rantai pasok pada umumnya didefinisikan sebagai sistem consumer-driven, maka rantai pasok pertanian dapat didefinisikan sebagai sistem producer consumer-driven. 127 Jurnal Teknologi Industri Pertanian 29 (2):124-131 Sinergi Supply Chain Yang Efektif : Literature Review ………… aspek keberlanjutan kelembagaan juga tidak optimal. Seyogyanya, beberapa hal untuk membangun sistem rantai pasok pada agroindustri yang harus dilakukan adalah Pertama, menata ulang sistem rantai pasok produk pertanian dengan cara mengidentifikasi potensi unggulan daerah yang menjadi point strategis dalam kawasan agroindustri pertanian. Pada sasarnya, potensi unggulan produk pertanian yang dimiliki suatu kawasan belum terkelola secara terpadu dan berkelanjutan. untuk meningkatkan aliran material, dan evaluasi kinerja akhirnya untuk menentukan seberapa baik inisiatif supply chain telah dilaksanakan. Menganalisis Supply Chain Pendekatan ini disajikan dalam memungkinkan peneliti dan praktisi untuk menganalisis masalah yang sebenarnya dihadapi dalam supply chain dan alat-alat yang diperlukan untuk mengatasi masalah ini. Rantung (2016) bahwa supply chain dieksplorasi, dianalisis, dan berasal tema umum tentang teknik penilaian risiko pasokan. Penelitian ini menunjukkan bahwa organisasi pembelian bisa menilai risiko pasokan dengan teknik yang berfokus pada mengatasi masalah kualitas pemasok, meningkatkan proses pemasok, dan mengurangi kemungkinan gangguan pasokan. Kedua, Kedua, mengidentifikasi analisa komparatif terhadap peran serta stakeholders dalam rantai pasok sebagai unit bisnis. Karena saat ini, masih ditemukan gap dalam profit share diantara stakeholders rantai pasok dimana petani kecil menjadi pihak yang dirugikan dan memiliki risiko yang tinggi dibanding dengan pelaku rantai pasok lainnya. Ketiga, Data harga yang diakurasikan dan dicatat perlu ada suatu terobosan baru yang diharapkan mampu tercatat tentang perubahan harga antar waktu. Akan lebih optimal jika data pada sebuah lokasi bisa dibandingkan dengan lokasi lainnya, sehingga perubahan pada perilaku harga untuk skala yang lebih luas bisa dikontrol. Keempat, petani harus bisa mandiri dalam penyedian kebutuhan usaha tani dan tidak ketergantungan kepada rentenir dalam hal peminjaman dana untuk produksi. Menurut Hadiguna (2015), ciri utama dari sistem rantai pasok agroindustri adalah komitmen dalam mengalirkan barang dari hulu sampai hilir. Kooperasi dan kolaborasi menjadi kata kunci dari efisiensi dan efektivitas dari rantai pasok. Kooperasi merupakan bentuk kerjasama antar pelau secara horizontal misalnya sesama petani. Kolaborasi adalah bentuk kerjasama antar pelaku secara vertikal, misalnya antara petani dengan koperasi. Penentuan rantai pasok perlu memperhatikan cakupan kompleksitas, memulai dari industri sendiri, pengorganisasian para petani dan transparansi infomasi dari kegiatan. Panjang rantai pasok dan supply chain size akan menetukan kesinambungan bisnis dan produk yang dihantarkan.Keterlibatan banyak pelaku dalam unit rantai pasok harus disesuaikan dengan kebutuhan kapasitas dan perkiraan permintaan (Pujawan, 2017) Mengembangkan Supply Chain Fase ini tidak hanya mengidentifikasi pemasok handal tetapi juga mencakup pengembangan saling percaya, sistem informasi dan hubungan baik antara berbagai mitra. alam tahap ini konsep SCM diterapkan untuk mengembangkan metode pembayaran, pengiriman, pengiriman untuk menyediakan layanan pelanggan yang lebih baik. Wang (2014) membahas bahwa nilai kepercayaan dan efek dari investasi spesifik transaksi untuk tingkat relatif upaya bersama kolaboratif, dan juga untuk menilai efek moderasi dari jaringan informasi pada upaya bersama tersebut. Hal ini ditemukan bahwa jaringan informasi tidak memoderasi hubungan antara upaya bersama kepercayaan dan efek moderat signifikan dari jaringan pada hubungan antara investasi tertentu transaksi dan upaya Bersama (Akbar, 2013). Hasil penelitian menunjukkan bahwa pembeli marah investasi khusus mereka dengan tingkat upaya bersama sesuai dengan informasi yang diperoleh dalam jaringan. Haming (2014) menyimpulkan bahwa kolaborasi HASIL DAN PEMBAHASAN Doran (2013) menganalisis sumber konflik antara pembeli dan penjual yang berkaitan dengan harga barang yang dibeli untuk digunakan dalam produksi. Penulis berpendapat bahwa konflik antara pembeli dan penjual adalah hasil yang tak terelakkan ketika pembeli membuat keputusan terutama berpusat pada penafsiran literal dari peran manajemen sebagai agen dewan yang bertanggung jawab utama adalah untuk memaksimalkan nilai pemegang saham. dengan menggunakan target costing sebagai alat untuk meningkatkan supply chain. Kebutuhan pelanggan dan hubungan supply chain diidentifikasi sebagai kriteria utama dalam supply chain untuk memilih metode yang paling tepat dari target costing untuk supply chain. Harga berbasis nilai, biaya manajemen berdasarkan aktivitas pendekatan untuk menargetkan biaya dibahas dan rekomendasi untuk mereka gunakan berdasarkan kebutuhan pelanggan dan hubungan supply chain yang ditawarkan (Nepal, 2012). Menganalisis Supply Chain Pendekatan ini disajikan dalam memungkinkan peneliti dan praktisi untuk menganalisis masalah yang sebenarnya dihadapi dalam supply chain dan alat-alat yang diperlukan untuk mengatasi masalah ini. Rantung (2016) bahwa supply chain dieksplorasi, dianalisis, dan berasal tema umum tentang teknik penilaian risiko pasokan. Penelitian ini menunjukkan bahwa organisasi pembelian bisa menilai risiko pasokan dengan teknik yang berfokus pada mengatasi masalah kualitas pemasok, meningkatkan proses pemasok, dan mengurangi kemungkinan gangguan pasokan. Doran (2013) menganalisis sumber konflik antara pembeli dan penjual yang berkaitan dengan harga barang yang dibeli untuk digunakan dalam produksi. Penulis berpendapat bahwa konflik antara pembeli dan penjual adalah hasil yang tak terelakkan ketika pembeli membuat keputusan terutama berpusat pada penafsiran literal dari peran manajemen sebagai agen dewan yang bertanggung jawab utama adalah untuk memaksimalkan nilai pemegang saham. dengan menggunakan target costing sebagai alat untuk meningkatkan supply chain. Kebutuhan pelanggan dan hubungan supply chain diidentifikasi sebagai kriteria utama dalam supply chain untuk memilih metode yang paling tepat dari target costing untuk supply chain. Harga berbasis nilai, biaya manajemen berdasarkan aktivitas pendekatan untuk menargetkan biaya dibahas dan rekomendasi untuk mereka gunakan berdasarkan kebutuhan pelanggan dan hubungan supply chain yang ditawarkan (Nepal, 2012). UCAPAN TERIMA KASIH Penulis mengucapkan terimakasih kepada Program Pascasarjana S3 Ilmu Pertanian Pemusatan Teknologi Industri Pertanian Pasca Sarjana Universitas Andalas, Promotor dan Co-Promotor Komisi Pembimbing, dan Beasiswa Lembaga Pengelola Dana Pendidikan (LPDP) Kementrian Keuangan dan Kementrian Riset Teknologi Pendidikan Tinggi yang telah mendukung penelitian pada Seminar Nasional Departemen Teknologi Industri Pertanian IPB tahun 2018. Saran Produk yang digunakan adalah cara inovatif dalam manajemen kembali dari titik ekonomi dan lingkungan pandang dan mempelajari sistem pemulihan produk di mana produsen produk-produk asli bergerak dalam remanufaktur digunakan produk diambil kembali dari pelanggan dalam konteks tanggung jawab produk diperpanjang. Selain itu diselidiki apa orientasi keuntungan sejauh dalam manajemen pemulihan produk akan merangsang perilaku sadar lingkungan di produsen (Doran, 2013). Gambar 2 menyajikan Logframe literature review sinergi supply chain agroindustri yang efektif. Perlu dilakukan penelitian lebih lanjut tentang sinergi supply chain pada agroindustri bawang merah yang terintegrasi pada peningkatan kemampuan sumber daya dan organisasi pelaku rantai pasok agroindustri bawang merah yang lebih efisiensi dan efektif dalam mentransformasi sektor pertanian ke sektor industri. Integrasi Supply Chain Integrasi Supply Chain Terdapat peningkatan perhatian di sektor bisnis tentang dampak peningkatan lingkungan pasar kompetitif dan jenis-jenis pengelolaan yang adaptif yang dibutuhkan untuk berhasil dalam lingkungan dinamis dan berubah tersebut. Dengan demikian, keberhasilan dalam supply chain agroindustri ditentukan oleh tingkat keberhasilan dalam membangun dan mempertahankan kerjasama dan aliansi (kontrak), yang merupakan konsep dasar utama dalam rantai pasok agroindustri (Mahsa, 2014). Rantai pasok agroindustri bergantung pada sinergi antar pelaku rantai pasok dan interaksi bisnis terkait produk, jasa, sumberdaya keuangan dan informasi. Rantai pasok bertujuan untuk mensinergikan hubungan antar pelaku rantai pasok, yang berarti menciptakan cara-cara yang terorganisir. Rantai pasok untuk berinteraksi satu sama lain bergantung kepada konsensus dari para pelaku yang terlibat dalam membangun hubungan dalam sistem tersebut. Beberapa jurnal penelitian ini mendefinisikan konsep, manajer, keadaan alam, sifat bahan pertanian dan pengembangan supply chain pada usaha agroindustri menunjukkan bahwa ada penelitian intensif yang harus dilakukan di seluruh dunia dalam bidang ini khususnya dalam bidang agroindustri. Integrasi Supply Chain Tahap berikutnya dalam supply chain adalah untuk mengintegrasikan supply chain membutuhkan integrasi semua kegiatan seperti sourcing, pengadaan, penjadwalan produksi, pemrosesan order, manajemen persediaan, transportasi, manufaktur, pergudangan dan layanan pelanggan. Ini membuktikan bahwa inisiatif perusahaan berbeda dengan tujuan merekadan mengusulkan kerangka kerja untuk melambangkan inisiatif integrasi perusahaan berdasarkan kemampuan organisasi yang disajikan dalam model proses bisnis yang terintegrasi, yang menyoroti pentingnya komunikasi antara proses dan antara mitra dalam supply chain (Nissen, 2011). g pp y Al-Fawaeer (2013) menjelaskan bahwa sinergi pada supply chain memperoleh sejumlah pedoman manajerial untuk menggunakan pemasaran dan variabel strategi operasional untuk mempengaruhi parameter reaksi sehingga memperoleh manfaat maksimal dari pelaku rantai pasok dan pasar. Selanjutnya penulis menekankan perlunya fokus pada kemampuan sumber daya manusia, harga dari kegiatan daripada produk, dan penggunaan informasi tentang perilaku konsumen. Merekonstruksi Sinergi Pelaku Rantai Pasok Agroindustri Bawang Merah g pp y Sebagian besar dari strategi harus fokus pada perencanaan supply chain yang menguntungkan (Kogan 2015; Vorst 2007) menyelidiki bagaimana tim manajer dari perusahaan dalam supply chain dapat membantu untuk merumuskan rencana strategis operasi seluruh rantai, mendapatkan keuntungan setiap perusahaan dan menguntungkan seluruh rantai. Golan (2011) menyarankan bahwa kerangka kerja yang luas untuk menerapkan supply chain di suatu perusahaan. Ini terdiri dari perumusan strategi, identifikasi daerah 128 Jurnal Teknologi Industri Pertanian 29 (2):124-131 Dedet Deperiky, Santosa, Rika Ampuh Hadiguna, Nofialdi supply chain sulit untuk menerapkan; ketika ada perubahan pada teknologi, dan fundamental kurangnya kepercayaan antara mitra dagang. Disimpulkan bahwa pembeli harus mempertimbangkan hubungan dengan perusahaan mereka sendiri, pemasok yang ada dan pemasok baru, untuk membangun kepercayaan dan bersaing tujuan. kepada sistem baru. Banyak hasil penelitian yang memanfaatkan kajian terhadap rantai pasok yang berhasil daripada yang telah gagal. Pengetahuan tentang bagaimana sebuah rantai pasok dan logistik itu tidak berjalan, bagaimanapun, dapat membantu pengembangan strategi untuk meminimumkan resiko, membantu dalam memperbaiki rantai pasok yang pernah tidak berjalan, dan mencegahnya dari kegagalan yang lebih dalam. Jurnal Teknologi Industri Pertanian 29 (2):124-131 Kesimpulan Berdasarkan hasil penelitian dapat disimpulkan bahwa potret pada proses pembentukan rantai pasok agroindustri bawang merah pada pengelolaannya dapat dipandang sebagai sebuah transformasi organisasi dari sistem konvensional 129 129 Jurnal Teknologi Industri Pertanian 29 (2):124-131 Sinergi Supply Chain Yang Efektif : Literature Review ………… Gambar 2 : Logframe literature review sinergi supply chain agroindustri yang efektif Gambar 2 : Logframe literature review sinergi supply chain agroindustri yang efektif Golan E dan Mitchell L. 2011. Economics of food labeling. Journal Consumer Policy. 24: 117–184. DAFTAR PUSTAKA Akbar MD, Rahman A, Trantika CFM. 2013. Optimalisasi Aliran Distribusi dan Alokasi Material dengan Metode Linear Programming (Studi Kasus: PT. PLN (PERSERO) APJ Distribusi Malang). Jurnal Rekayasan dan Manajemen Sistem Industri. 1 (2): 403-414. Hadiguna RA. 2015. Manajemen Rantai Pasok Agroindustri. Padang: Andalas University Press. Haming D. 2014. Manajemen Produksi Modern : Operasi Manufactur dan Jasa. Edisi Ketiga. Jakarta : Penerbit Bumi Aksara. Herawati. 2015. Kinerja dan efisiensi rantai pasok biji kakao di kabupaten Pasaman, Sumatera Barat. J TIDP. 2(1): 43–50. Al-Fawaeer M, Alhunity S, dan Al-Onizar H. 2013. The Impact of Information Technology in Enhancing Supply Chain Performance: An Applied Study on the Textile Companiesin Jordan. Research Journal of Finance and Accounting, Vol.4, No.8 Ina AR. 2015. Risiko rantai pasok agroindustri salak menggunakan fuzzy FMEA. [Tesis]. Bogor: Institut Pertanian Bogor. Kambey SF, Kawet L, dan Sumarauw JSB. 2016. Analisis Rantai Pasokan (Supply Chain) Kubis Di Kelurahan Rurukan Kota Tomohon. Jurnal Riset Ekonomi, Manajemen, Bisnis dan Akuntansi.4 (5) : 303-408. Ambe IM. 2014. Key Indicators for Optimising SC Performance. The Case of Light vehicle manufacturers in South Africa. The Journal Applied Business Research. 30 (1) : 277-290. [Kementan] Kementrian Pertanian Republik Indonesia. 2015. Rencana Kerja Strategis Renstra Kementrian Pertanian Cabigiosu A, Zirpoli F, dan Camuffo A 2012. Modularity, Interfaces Definition and The Integration of External Sources of Innovation in The Automotive Industry. Research Policy, 42: 662-675. Kitchenham L dan Charters M. 2017. Systemic Litetarure Review. Int J Software Engineering Group School of Computer Science and Mathematics. 52 (2017): 792- 805. Danil MF dan Hartoyo S. 2014. Produksi dan Pemasaran kako di kabupaten padang pariaman. Provinsi Sumatera Barat. Jurnal Manajemen & Agribisnis. 11 (1) ; 41-52 Kogan K dan Tapiero C. 2015. Coordination of co- investments in supply chain infrastructure.Springer Science. 23:2471– 2475. Doran D. 2013. Supply chain implication of modularization. International Journal of Operations & Production Management. 23 (3): 316-326. Kusumadewi. 2010. Aplikasi Logika Fuzzy Untuk Pendukung Keputusan. Edisi-2 Jakarta. Graha Ilmu. Dostaller I. 2013. Competing in the global aerospace supply chain: the case of the canadian aerospace industry. Springer Science. 6 (2) :32–43. Mahsa P, Zamani S, dan Farzianpour F. 2014. Development of factors effective in the success of green supply chain management. American Journal Agricultural and Biological Sciences. 9 (1): 33-34. [FAO] Food and Agriculture Organization. 2017. United Nation. Jurnal Teknologi Industri Pertanian 29 (2):124-131 DAFTAR PUSTAKA 130 Jurnal Teknologi Industri Pertanian 29 (2):124-131 Dedet Deperiky, Santosa, Rika Ampuh Hadiguna, Nofialdi Tompodung E, Worang FG, Roring F. 2016. Analisis Rantai Pasok (Supply Chain) ikan mujair Di Kecamatan Eris Kabupaten Minahasa. Jurnal Riset Ekonomi, Manajemen, Bisnis dan Akuntansi. 4 (3). 279-290. Nepal B. Monplaisir L, Famuyiwa O. 2012. Matching product architecture with supply chain design. European Journal of Operational Research. 216 :312-325. Nissen ME. 2011. Agent-Based Supply Chain Integration. Kluwer Academic Publishers. Manufactured in The Netherlands. 2: 289– 312. Vorst JG, Van Der AJ, Silva CAD, Trienkens JH. 2007. Agroindustrial Supply Chain Management : Concepts and Application Agricultural Management, Marketing and Finance Occasional Paper. Roma : Food and Agriculture Organization of The United Nations. Okoli C. 2017. A Guide to Conducting a Standalone Systematic Literature Review. Communications of the Association for Information Systems. 37 : 879-910. Pujawan IN. 2017. Supply Chain Management. Edisi Ketiga. Yokyakarta: Penerbit ANDI. Wang Y, Wallace SW, Shen B, Choi TM. 2014. Service supply chain management: a review of operational model. European Journal of Operational Research. Collaboration. Gadjah Mada International Journal of Business. 11 (2): 685–698. Rantung ML, Adolfina P, Wenas RS. 2016. Analisis kinerja rantai pasok komoditas kacang tanah di pasar tradisional beriman kota Tomohon. Jurnal Riset Ekonomi, Manajemen, Bisnis dan Akuntansi. 4 (2): 768-892. Seethamraju R. 2014. Enterprise systems and demand chain management: A cross- sectional field study. Springer Science. 15:151–161. 131 Jurnal Teknologi Industri Pertanian 29 (2):124-131
https://openalex.org/W1583388387
http://www.scielo.br/pdf/rlae/v15n4/v15n4a19.pdf
Portuguese
null
Estudio bibliométrico sobre disertaciones y tesis en enfermería con aproximación fenomenológica: tendencia y perspectivas
null
2,007
cc-by
3,912
ESTUDIO BIBLIOMÉTRICO SOBRE DISERTACIONES Y TESIS EN ENFERMERÍA CON APROXIMACIÓN FENOMENOLÓGICA: TENDENCIA Y PERSPECTIVAS Este trabajo tuvo como objetivo analizar la producción científica sobre disertaciones y tesis de enfermería con aproximación fenomenológica publicadas de 1981 a 2002. Fue una investigación del tipo descriptivo, retrospectivo y bibliométrico. El análisis del material perteneciente a la base de datos del catálogo “Informaciones sobre Investigaciones y Investigadores en Enfermería” resultó en 217 estudios: el 71,9% de maestría y el 28,1% del doctorado. Entre los resultados alcanzados, se destaca que el referencial teórico-filosófico elegido para soportar el análisis de datos encontrados en las investigaciones no ha sido utilizados con énfasis. Se destaca la necesidad de discutir los datos encontrados a través del discurso de los sujetos, a la luz del referencial teórico-filosófico mencionado en la trayectoria de investigación. DESCRIPTORES: enfermería; fenomelogía; bibliometría 645 645 Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50 www.eerp.usp.br/rlae Artigo Original BIBLIOMETRIC STUDY ON NURSING THESES AND DISSERTATIONS EMPLOYING A PHENOMENOLOGICAL APPROACH: TENDENCY AND PERSPECTIVES Miriam Ap. Barbosa Merighi1 Roselane Gonçalves2 Fernanda Cristina Ferreira3 Miriam Ap. Barbosa Merighi1 Roselane Gonçalves2 Fernanda Cristina Ferreira3 Merighi MAB, Gonçalves R, Ferreira FC. Bibliometric study on nursing theses and dissertations employing a phenomenological approach: tendency and perspectives. Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50. This study aimed to analyze the scientific production of nursing dissertations and theses with a phenomenological approach published from 1981 to 2002. A descriptive, retrospective and bibliometric research was carried out. The material analysis, which is part of the database of the catalogue “Information on Nursing Research and Researchers”, resulted in 217 studies, 71,9% from the master’s course and 28,1% from the doctoral course. Among the obtained results, it stands out that the theoretical-philosophical reference chosen to support the data discussion found in investigations has not been used emphatically. There is a need to discuss the unveiled data, through the subjects’ discourse, in the light of the philosophical reference framework mentioned in the research trajectory. DESCRIPTORS: nursing; phenomenology; bibliometry ESTUDO BIBLIOMÉTRICO SOBRE DISSERTAÇÕES E TESES EM ENFERMAGEM COM ABORDAGEM FENOMENOLÓGICA: TENDÊNCIA E PERSPECTIVAS Este estudo teve por objetivo analisar a produção científica sobre dissertações e teses de enfermagem com abordagem fenomenológica, publicadas de 1981 a 2002. Trata-se de pesquisa do tipo descritiva, retrospectiva e bibliométrica. A análise do material, que consta na base de dados do catálogo “Informações sobre Pesquisas e Pesquisadores em Enfermagem”, resultou em 217 estudos: 71,9% do curso de mestrado e 28,1% do curso de doutorado. Dentre os resultados obtidos destaca-se que o referencial teórico-filosófico escolhido para subsidiar a discussão dos dados encontrados nas investigações não tem sido utilizado com ênfase. Aponta-se a necessidade de discutir os dados desvelados, por meio dos discursos dos sujeitos, à luz do referencial teórico-filosófico, mencionado na trajetória da pesquisa. DESCRITORES: enfermagem; fenomenologia; bibliometria DESCRITORES: enfermagem; fenomenologia; bibliometria 1 Professor, Free Lecturer, School of Nursing, e-mail: merighi@usp.br; 2 Phd, Professor, School of Arts, Sciences and Humanities, e-mail: roselane@usp.br. University of São Paulo, Brazil; 3 RN, MSc in Nursing, e-mail: fernandausp@terra.com.br Disponible en castellano/Disponível em língua portuguesa SciELO Brasil www.scielo.br/rlae STUDY CONCERNS AND OBJECTIVES The practical variant of the phenomenological method applied to human research developed by Amadeo Giorgi is much used. The procedures proposed by Giorgi were disseminated in Brazil by a group of psychologists, including Joel Martins, aim to approach the phenomenological description/ interpretation of data collected by field research, interviews, statements, etc. It seeks to detect the meaning units of a significant groups; categorize them according to the theoretical-philosophical framework* guiding the study; review them using a phenomenological analysis and describe them by recalling the intentional experiences and imaginary variations, after an eidetic reduction, that is, anything irrelevant regarding the phenomenon was eliminated in order to reach essence. Based on the presupposition that social reality is not thoroughly explained by quantitative information, qualitative research represents an indispensable strategy to perform nursing studies(1). Based on the presupposition that social reality is not thoroughly explained by quantitative information, qualitative research represents an indispensable strategy to perform nursing studies(1). Phenomenology is among the many approaches used in qualitative research. Phenomenology is among the many approaches used in qualitative research. The phenomenological movement appeared as a reaction to positivism, which states that in order to be valid, phenomena must be empirically measured and studied. Phenomenology, in contrast, aims at direct investigation and to delineate conscience-experienced phenomena, without theories concerning causal explanations and, as much as possible, free of prejudice(2). The phenomenological method has been broadly used in graduate-courses dissertations and theses. However, results have not been satisfactory because emphasis is on data analysis procedures and not on understanding. There are many reasons for this form of performing data analysis and discussion(8). The phenomenological method has recently been acknowledged in qualitative research, mainly in nursing. Several studies emphasize that the phenomenological framework seeks the meaning of one’s experience. Moreover, it contributes to understand men, health care subjects, and thus meets nursing purposes(3-5). The excessive amount of meaning units that appear in an interview make it difficult to perform a thorough analysis. To do that, considering the theoretical-philosophical framework in use, it would require, after many readings of the interviews, to previously limit the theme, using the stated meaning units as a background; categorization implies reducing the object and not a simple natural categorization. * Theoretical-philosophical reference framework - this refers to the “thinking” of a phenomenologist as a connecting thread for data analysis and discussion, while the methodological reference framework refers to the sequence of steps used for data analysis Disponible en castellano/Disponível em língua portuguesa SciELO Brasil www.scielo.br/rlae Disponible en castellano/Disponível em língua portuguesa SciELO Brasil www.scielo.br/rlae Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50 www.eerp.usp.br/rlae Bibliometric study on nursing theses... Merighi MAB, Gonçalves R, Ferreira FC. 646 INTRODUCTION From this perspective, the “form of health care” in nursing can be seen one way by caregivers and health care professionals, and another way by those receiving health care, clients/patients/users. In the 1970s, a new research approach appeared in Brazil with characteristics that differ from the previous studies. It involves studies that use the qualitative method which, due to its holistic descriptive meaning-based nature, emphasizes the importance of knowing, understanding, and interpreting meaning and events, without considering the time they occur, past or present. Its use favors deepening the meanings of individuals’ beliefs and values, since it is limited to meanings of human actions and relationships. METHOD It is a bibliometric, descriptive and retrospective study performed by literature review. The analysis material was limited to master’s dissertations and doctorate theses included in the database of the Catalogue “Information about Nursing Research and Researchers”, at the Brazilian Nursing Association’s Nursing Research Study Center (CEPEn- ABEn). It is worth emphasizing that this Study Center is the base for printed data regarding nursing dissertations and theses produced in Brazil and are written in Portuguese. It is noticed that a great part of the studies with a phenomenological approach point, regarding the method, to the use of a theoretical-philosophical framework as the guideline for data discussion. However, the analysis shows that other authors, rather than the one pointed in the study method as the philosophical framework, are used for this procedure. Regarding the technique, literature reviews comprise reading, selecting, categorizing and filing the topics of interest for the research, with the aim of learning which scientific contributions have been produced for that subject(9). In addition, many phenomenological studies state as their framework authors who provide steps for analysis, rather than those who would support the results found in the study, that is, theoretical- philosophical foundation. Non-systematic reviews are “work for a detective”, in which articles are selected by using keywords, author names, and then reading titles(10). The inclusion criteria for the dissertations and theses is that they should be available in the CEPEn - ABEn database in the last two decades (1980 to 2002), considering that, as mentioned before, the 1980s marked the beginning of phenomenology-based nursing research production in Brazil. There are concerns involving nursing knowledge production employing the phenomenological approach. Hence, the present study was motivated by the interest in knowing how sticto-sensu graduate studies using phenomenology as the theoretical-philosophical framework are performed. Did the performed studies use the theoretical-philosophical framework to guide data discussion, or was phenomenology used only to explain the method? What is the theoretical-philosophical framework most commonly used in these studies to support data analysis? The search for dissertation and thesis abstracts was performed using printed sources available at the University of Sao Paulo School of Nursing. STUDY CONCERNS AND OBJECTIVES Since the beginning, the phenomenological method should be used to obtain a previous categorization that would permit to make a phenomenologically- oriented selection of the statements’ most relevant meaning units; limiting and categorizing meaning units, as well as selecting those considered most important to clarify the phenomenon requires a comprehension of intentional and descriptive analyses, which the proposed procedure apparently does not take into consideration; limited time makes many Nursing practitioners should take notice to the meaning of experiences, the message that patients transmit, which would allow nurses to offer more effective healthcare, centered on patients’ needs(6). A literature survey about nursing research similar to phenomenology showed that the 1980s marked the beginning of phenomenology-based nursing research. In the 1990s, there was a growing interest on using phenomenological-approach methods in research performed by nurses. This applied science has sought to understand the meaning of experiences associated with the health-disease process, in several phases of one’s life cycle, in environments ranging from hospital, outpatient clinic and community care, to home care(7). Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50 www.eerp.usp.br/rlae Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50 www.eerp.usp.br/rlae Bibliometric study on nursing theses... Merighi MAB, Gonçalves R, Ferreira FC. 647 students see phenomenology as a practical shorter pathway that offers a series of steps to be followed(8). - To verify if the studies have a theoretical- philosophical framework, and, if so, to identify the phenomenological motivation. It is worth emphasizing that this method should be refined from a deeper understanding of the method(8). Otherwise, it tends to rapidly wear out and promote irreparable dissatisfaction among phenomenology researchers(8). The aforementioned author states that it is essential to return to using sources, philosophical and phenomenological texts, mainly Husserl and some of his followers, including Heidegger, Merleau-Ponty, and Paul Ricouer. METHOD The three institutions that most produced phenomenological studies were the University of Sao Paulo School of Nursing (23%), the Federal University of Rio de Janeiro (17.1%), and the University of Sao Paulo at Ribeirao Preto College of Nursing (15.2%). The material was analyzed based on the articulation of the quanti- and qualitative approaches, since these two different perspectives are complementary in the search for a better approach to the investigated reality(12). The graduate program at the University of Sao Paulo School of Nursing presented in the referred period 27 (17.3%) masters dissertations and 23 (37.7%) doctorate theses. The graduate program at Federal University of Rio de Janeiro came next, with 24 (15.4%) masters dissertations and 13 (21.3%) doctorate theses, followed by the graduate program at the University of Sao Paulo at Ribeirao Preto College of Nursing, with 24 (15.4%) masters dissertations and 9 (14.7%) doctorate theses. The Federal University of Minas Gerais produced exclusively masters dissertations, but at a considerable amount - 25 (25%). In quantitative terms, the following variables were investigated: dissertation/thesis; year of public defense; location, and philosophical framework. Variables were stored using MS Access, analyzed using MS Excel and later using Epi Info 6.04, by frequencies and crossings. In qualitative terms, it was sought to analyze the results and subject discussion regarding the theoretical-philosophical framework, through the following question: Did the theoretical-philosophical framework support data analysis? In the 1980s, five phenomenological studies were presented. As of the 1990s, studies with this focus began to be developed in nursing, very modestly, but increasing considerably over the last years. This information is in line with the previous literature survey, mentioned in the introduction, which showed that in the 1990s there was an interesting increase in nurse-conducted studies employing phenomenology(7). Hence, the qualitative data from answers to the above question were analyzed through the following steps: identification of the theoretical- philosophical framework in the method; reading data analysis to identify the theoretical-philosophical framework stated in the method. Descriptive analysis was used for results presentation with the aim to provide better clarification regarding the obtained data. A study on the development of nursing graduate programs in Brazil from 1972 to 1994 reported that there was a remarkable increase of graduate courses in the 1990s(13). METHOD From these considerations, a bibliographic study was proposed about dissertations and theses with phenomenological motivation, with a view to contribute to the construction of a body of knowledge that would support nursing health care practice from the perspective of the involved subjects; to provide a view of what is being studied in nursing graduate courses regarding phenomenology, and verify possible existing gaps in the studies employing this approach. In this sense, the objectives of the present study are: The first step to identify the studies was choosing the keywords: phenomenology, qualitative research, comprehensive approach/study. The next, and most accurate, step to choose studies was the analytical reading of all abstracts with the aim to identify the thematic area and the theoretical- methodological framework. After completing the selection, the full article was searched for reading and data analysis(11). At this moment, it was analyzed if the philosophical framework, stated in the method section of the study, was used for data analysis. - To learn the number of studies performed and the location where they were presented. - To obtain the focused areas (education or health care) and the studies’ knowledge areas. The theses and dissertations previously identified by reading the abstracts were analyzed Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50 www.eerp.usp.br/rlae Bibliometric study on nursing theses... Merighi MAB, Gonçalves R, Ferreira FC. 648 provided they were available at the University of Sao Paulo School of Nursing library. University of Sao Paulo at Ribeirao Preto College of Nursing, Federal University of Minas Gerais, University of Rio de Janeiro, Federal University of Santa Catarina, Federal University of Ceara, Federal University of Bahia, Federal University of Sao Paulo, Federal University of Rio Grande do Sul, Federal University of Para, University of Sao Paulo College of Education, Federal University of Parana, and State University of Rio de Janeiro. Data were collected between August 2003 and January 2004, using a script containing the following items: place and year of public defense, focus and knowledge area, and questions regarding the methodological and theoretical-philosophical frameworks. After identifying the dissertations and theses available at the University of Sao Paulo School of Nursing library, the studies were read, analyzed, and categorized according to the items in the script. METHOD The authors state that the boost was due to the reform of the Law of Education Guidelines and Foundations, approved in 1997, which determined that one-third of the faculty in superior level schools must have a masters or doctorate degree. This generated the opening of many graduate courses and, consequently, an increase in the demand for course-candidates, which explains the expressive increase in the number of dissertations and theses employing phenomenology as of the mid-1990s. FINAL CONSIDERATIONS The present studied offered a view of what has been studied in nursing graduate courses in Brazil, regarding the phenomenological approach. It is the commitment of health care professionals to consolidate the body of knowledge in nursing, developing studies that would contribute simultaneously with its increase and consolidation in the referred profession. A study about nursing knowledge production in Brazil, in the 1990s, reported that there is significant prevalence of production in the health care are, mainly directed to health care issues, followed by women- and child- related issues. The organizational area appears is ranked second, followed by the professional area(14). The present study also aimed to inform nurses about phenomenology. This method is in line with the nursing proposals in terms of proving health care form patients’ perspective. This study can help interested researchers to develop/deepen phenomenology-based studies. In addition, it supports the nursing knowledge area in terms of improving group discussions about research, in qualitative graduate classes and in scientific events associated to research. It is stated that this difference is probably associated with the focus in graduate programs, which maintain a strong connection with the biomedical model (obstetrics, pediatrics, psychiatry). Regarding educational themes, there are lacks in nursing knowledge, which confirms a general tendency for reduction in studies in the educational area over the last decade in the country(14). Results show that in the mid-1990s there was a marking increase in phenomenological dissertations and thesis, mainly in nursing graduate courses at the University of Sao Paulo, as well as at the Federal University of Rio de Janeiro and the University of Sao Paulo - Ribeirao Preto. There was a significant prevalence of scientific productions in the health care area, with themes associated with adult, women’s, and child health. Most of the analyzed abstracts (89.9%) did not present a methodological framework for analysis. Only 22 (10.1%) stated this information, and the most referenced authors were Martins and Bicudo (54.5%), followed by Giorgi (18.2%). Most of the analyzed abstract do not present a methodological framework for analysis. Moreover, 45% of the studies analyzed in full do not have a theoretical-philosophical framework. Thus, it is concluded that studies employing this methodological approach remain ambiguous. Regarding the theoretical-philosophical framework used in the studies, stated in the abstracts, 53% were specified and 47% did not use it. The most referenced authors were Heidegger (50.4%), followed by Alfred Schultz (21.7%), and Merleau-Ponty (20%). RESULTS AND DISCUSSION From 1980 to 2002, there were 217 published studies using the phenomenology method, of which 156 (71.9%) refer to master’s dissertations and 61 (28.1%) to doctorate theses. The public defenses of dissertations and theses produced employing the phenomenological approach were performed in the graduate programs of the following institutions: University of Sao Paulo School of Nursing, Federal University of Rio de Janeiro, Considering the 217 analyzed abstracts, 189 studies (87%) had health care as the theme area, Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50 www.eerp.usp.br/rlae Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50 www.eerp.usp.br/rlae Bibliometric study on nursing theses... Merighi MAB, Gonçalves R, Ferreira FC. 649 only 23 (11%) were focused on education, and most (71.9%) referred to masters dissertations. include a brief statement of the purpose and its relevance, the method used, the obtained results, a statement regarding the main conclusions and additional information about the credibility of results or the article’s organization(16). There were more studies associated with adult health, women’s health, and child health. Only two studies (0.9%) on collective health were developed. It is observed that building nursing body of knowledge and associated themes reflect the differences and contradictions of its historical process(14). In this sense, it is observed that there has been an increase to the understanding of the object of nursing practice, comprising illness and humans in the health-disease process; the many health care levels, from primary to tertiary; health promotion and disease cure and prevention; nursing and health care work organization; integral health care, focused on issues concerning health, disease, and human beings as social and historical processes(15). FINAL CONSIDERATIONS Of the 75 studies analyzed in full, with the aim to identify, in the method, the indication of a philosophical framework, 55% indicated their use, and the most cited philosophers were Heidegger (43.9%) and Merleau-Ponty (24.4%). To perform phenomenological studies, researchers should study the texts by philosophers and phenomenologists, considering their presuppositions throughout the development of the research. Researchers should justify, for reader clarification, the reasons for choosing qualitative research, phenomenology, and also why the chosen theoretical-philosophical framework meets the study proposals. It is concluded that dissertation and thesis abstracts have not been given the appropriate importance, considering that study abstracts should Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50 www.eerp.usp.br/rlae Bibliometric study on nursing theses... Merighi MAB, Gonçalves R, Ferreira FC. 650 in nursing is highlighted, since health, illness, and health care, in the most different aspects, can be rethought from the perspective of existential phenomenology and be phenomenologically understood from the perspective of people experiencing these phenomena. It is worth emphasizing that meaning units should be extracted from subjects’ statements, based on the mentioned theoretical-philosophical framework, and the data should also be discussed from this framework’s perspective. The pertinence of phenomenological research REFERENCES 1. Merighi MAB. Trajetória profissional das enfermeiras obstétricas egressas da Escola de Enfermagem da Universidade de São Paulo: um enfoque da fenomenologia social. Rev Latino-am Enfermagem 2002 setembro-outubro; 10(5):644-53. 2. Valle ERM. Câncer infantil: compreender e agir. Campinas (SP): Pry Editorial; 1997. 2. Valle ERM. Câncer infantil: compreender e agir. Campinas (SP): Pry Editorial; 1997. 3. Capalbo C. Abordando a enfermagem a partir da fenomenologia. Rev Enfermagem UERJ 1994 maio; 2(1): 70- 6. 3. Capalbo C. Abordando a enfermagem a partir da fenomenologia. Rev Enfermagem UERJ 1994 maio; 2(1): 70- 6. 4. Koch T. Interpretative approaches in nursing research: the influence of Husserl and Heidegger. Adv Nurs 1995; 2(5):827- 36. 4. Koch T. Interpretative approaches in nursing research: the influence of Husserl and Heidegger. Adv Nurs 1995; 2(5):827- 36. 4. Koch T. Interpretative approaches in nursing research: the influence of Husserl and Heidegger. Adv Nurs 1995; 2(5):827- 36. 5. Silva LF, Damasceno MMC, Moreira RVO. Contribuição dos estudos fenomenológicos para o cuidado de enfermagem. Rev Bras Enfermagem 2001 julho-setembro; 54(3):475-81. 6. Chubaci RYS, Merighi MAB. A comunicação no processo da hospitalização do imigrante japonês. Rev Latino-am Enfermagem 2002 novembro-dezembro; 10(6):805-12. 5. Silva LF, Damasceno MMC, Moreira RVO. Contribuição dos estudos fenomenológicos para o cuidado de enfermagem. 6. Chubaci RYS, Merighi MAB. A comunicação no processo da hospitalização do imigrante japonês. Rev Latino-am Enfermagem 2002 novembro-dezembro; 10(6):805-12. 7. Lopes RML, Rodrigues BMRD, Damasceno MMC. Fenomenologia e a pesquisa em enfermagem. Rev Esc Enfermagem UERJ 1995 maio; 3(1):49-52. 8. Josgrilberg RS. O método fenomenológico e as ciências humanas. In: Castro DSP, organizador. Fenomenologia e análise do existir. São Paulo (SP): Universidade Metodista de São Paulo/Sobraphe; 2000. p. 75-93. 9. Ferrari AT. Metodologia da pesquisa científica. São Paulo (SP): Mcgraw-Hill do Brasil; 1992. 10. Jorge MT, Ribeiro AL. Fundamentos para o conhecimento científico das áreas de saúde. São Paulo (SP): CLR Balieiro; 1999. 11. Severino AJ. Metodologia do trabalho científico. 21ª. ed. São Paulo (SP): Cortes; 2000. 12. Minayo MCS, Sanches O. Quantitativo-qualitativo: oposição ou complementariedade? Cad Saúde Publica 1993 julho; 3 (9):239-62. 13. Moriya TM, Rodrigues ARF, Almeida MCP, Ruffino MC, Oliveira MFP. Pós-graduação “strictu sensu” em enfermagem: um estudo do seu desenvolvimento no Brasil. Ribeirão Preto (SP): Fundação Instituto de Enfermagem de Ribeirão Preto; 1998. 14. Prado ML, Gelbeke FL. Produção do conhecimento em enfermagem no Brasil: as temáticas da investigação. Rev Bras Enfermagem 2001 janeiro-março; 54(1):34-42. 14. 15. Almeida MCP. Considerações finais. In: Seminario Nacional de Pesquisa em Enfermagem; 1995. Ribeirão Preto (SP), Brasil. Ribeirão Preto (SP): ABEn; 1995. p. 184-96. 16. Grenne LJ. O trabalho científico: enfoque do editor. In: Anais do I Curso de Editoração Científica; 2001; Brasília (DF), Brasil. Brasília (DF): ABECS/ GDF/ FEPECS; 2001. 15. Almeida MCP. Considerações finais. In: Seminario Nacional de Pesquisa em Enfermagem; 1995. Ribeirão Preto (SP), Brasil. Ribeirão Preto (SP): ABEn; 1995. p. 184-96. 16. Grenne LJ. O trabalho científico: enfoque do editor. In: Anais do I Curso de Editoração Científica; 2001; Brasília (DF), Brasil. Brasília (DF): ABECS/ GDF/ FEPECS; 2001. REFERENCES Prado ML, Gelbeke FL. Produção do conhecimento em enfermagem no Brasil: as temáticas da investigação. Rev Bras Enfermagem 2001 janeiro-março; 54(1):34-42. Recebido em: 26.10.2005 Aprovado em: 26.4.2007
https://openalex.org/W2890796305
https://europepmc.org/articles/pmc6558927?pdf=render
English
null
SKP2 and OTUD1 govern non-proteolytic ubiquitination of YAP that promotes YAP nuclear localization and activity
Cell stress
2,018
cc-by
1,784
SKP2 and OTUD1 govern non-proteolytic ubiquitination of YAP that promotes YAP nuclear localization and activity Fan Yao1, Zhenna Xiao1,2, Yutong Sun3 and Li Ma1,2,* 1 Department of Experimental Radiation Oncology, The University of Texas MD Anderson Cancer Center, Houston, Texas 77030, USA. 2 The University of Texas MD Anderson Cancer Center UTHealth Graduate School of Biomedical Sciences, Houston, Texas 77030, USA. 3 Department of Molecular and Cellular Oncology, The University of Texas MD Anderson Cancer Center, Houston, Texas 77030, USA. * Corresponding Author: Fan Yao1, Zhenna Xiao1,2, Yutong Sun3 and Li Ma1,2,* Li Ma, Department of Experimental Radiation Oncology, The University of Texas MD Anderson Cancer Center, 6565 Boulevard, Unit 1052, Houston, Texas 77030, USA; E-mail: lma4@mdanderson.org YAP and its paralog TAZ are key effectors of the evolution- arily conserved Hippo signaling pathway, a pathway that regulates organ size, tissue homeostasis, and tumorigene- sis. In human cells, MST1/2 (mammalian homologs of Dro- sophila Hippo kinase) and LATS1/2 (mammalian homologs of Drosophila Wts kinase) form the core Hippo kinase com- plex (Figure 1). Once activated, MST1/2 phosphorylates and activates LATS1/2, which in turn phosphorylates YAP or TAZ. Phosphorylated YAP binds to 14-3-3, a scaffold protein, leading to cytoplasmic retention and functional inactivation of YAP. In addition, the binding of YAP to AMOT and ZO-2 can also retain YAP in the cytoplasm. Upon dephosphorylation by a phosphatase, such as PP1, YAP translocates into the nucleus, binds to TEAD proteins or other transcription factors, and activates the transcription of target genes. Moreover, under high cell density condi- tions, Hippo signaling-mediated YAP phosphorylation is followed by casein kinase 1 δ/ε-mediated YAP phosphory- lation and SCFβ-TRCP-mediated ubiquitination and degrada- tion of YAP (Figure 1). Thus, posttranslational modifications of YAP govern its activity and stability. Despite the estab- lished role of Hippo signaling, accumulating genetic and biochemical evidence suggests that YAP can be regulated in a Hippo pathway-independent manner. Dysregulation of signaling pathways that control organ size, such as the AKT-mTOR and Hippo-YAP pathways, often leads to tumorigenesis and metastasis. The Hip- po pathway effector YAP is a transcriptional co- activator overexpressed or activated in human tumors. Accumulating evidence has demonstrated that YAP promotes tumor initiation and/or progression in vari- ous types of cancer. YAP shuttles between the nucleus and the cytoplasm of the cell. When in the nucleus, YAP binds to transcription factors, such as SMAD, p73, RUNX, and the TEA domain (TEAD) family members, to activate gene transcription. MICROREVIEW on: Yao F, Zhou Z, Kim J, Hang Q, Xiao Z, Ton BN, Chang L, Liu N, Zeng L, Wang W, Wang Y, Zhang P, Hu X, Su X, Liang H, Sun Y, Ma L (2018). SKP2- and OTUD1-regulated non-proteolytic ubiquitination of YAP promotes YAP nuclear localization and activity. Nat Commun 9(1):2269. doi: 10.1038/s41467-018-04620-y. doi: 10.15698/cst2018.09.153 Received 18.07.2018; Accepted 23.07.2018, Published 14.08.2018. Keywords: YAP, non-proteolytic ubiquitination, SKP2, OTUD1. Microreview www.cell-stress.com Cell Stress | SEPTEMBER 2018 | Vol. 2 No. 9 SKP2 and OTUD1 govern non-proteolytic ubiquitination of YAP that promotes YAP nuclear localization and activity Right panel: low cell density promotes SKP2 to interact with and ubiquitinate YAP via the K63 linkage, leading to enhanced YAP-TEAD interaction and nuclear retention of YAP (upper); high cell densi- ty promotes OTUD1 to bind YAP and reverse its K63-linked ubiquitination, leading to cytoplasmic localization of YAP (lower). FIGURE 1: Models for the regulation of YAP localization and activity. Left panel: various upstream signals provide inputs that feed into the MST1/2 substrates, LATS1/2, to phosphorylate YAP at Ser127, leading to its binding to 14-3-3, which in turn retains YAP in the cyto- plasm. Moreover, the subsequent phosphorylation of YAP by casein kinase 1δ/ε triggers the recruitment of the SCFβ-TRCP complex, which promotes YAP’s proteolytic ubiquitination under high cell density conditions. Right panel: low cell density promotes SKP2 to interact with and ubiquitinate YAP via the K63 linkage, leading to enhanced YAP-TEAD interaction and nuclear retention of YAP (upper); high cell densi- ty promotes OTUD1 to bind YAP and reverse its K63-linked ubiquitination, leading to cytoplasmic localization of YAP (lower). tion of YAP is important for its nuclear localization and activity. the non-K48-linked polyubiquitination of YAP was in- creased at low cell density, a condition in which YAP is en- riched in the nucleus. To identify the E3 ligase that is responsible for YAP’s non-proteolytic ubiquitination, we screened a panel of E3 ligases previously reported to be involved in K63-linked ubiquitination. SKP2 stood out as the only one that in- creased K63-linked ubiquitination of YAP, and this effect was found to be mediated by the SCFSKP2 complex and the ubiquitin-conjugating enzyme UBCH5c (Figure 1). In paral- lel, by screening a library of 68 human DUBs, we identified OTUD1 as the only deubiquitinase that reversed K63-linked ubiquitination of YAP (Figure 1). Based on the evidence from overexpression, knockdown, and CRISPR-Cas9- mediated knockout of SKP2 or OTUD1, we found that SKP2 promotes, while OTUD1 inhibits the nuclear localization, transcriptional activity, and growth-promoting function of YAP. Interestingly, neither SKP2’s nor OTUD1’s effect on YAP’s K63-linked ubiquitination depends on Hippo signal- ing-mediated Ser127 phosphorylation of YAP. K63-linked polyubiquitination regulates protein interac- tion, activity, and subcellular localization. Using an anti- body that recognizes K63-linkage-specific polyubiquitin, we confirmed that low cell density promoted non-proteolytic, K63-linked ubiquitination of YAP at the endogenous level. Human YAP protein contains 14 lysine residues. SKP2 and OTUD1 govern non-proteolytic ubiquitination of YAP that promotes YAP nuclear localization and activity The nuclear localization of YAP can be inhibited by the Hippo phosphorylation cascade and the cytoplasmic binding partners of YAP. In addition, YAP has previously been shown to be ubiquitinated by the SCFβ-TRCP complex and degraded by the proteasome. Recently, we discovered a novel mechanism by which non-proteolytic, K63-linked polyubiquitination of YAP promotes its nuclear locali- zation, transcriptional activity, and growth-promoting function (Yao et al. Nat Commun 9:2269). Moreover, by screening ubiquitin E3 ligases implicated in K63- linked ubiquitination and a human deubiquitinase (DUB) library, we identified the SCFSKP2 complex and OTUD1, respectively, as the E3 ligase and the DUB that regulate this non-proteolytic ubiquitination without altering YAP protein level. Interestingly, this ubiquiti- nation-mediated regulation of YAP is independent of Hippo pathway-mediated phosphorylation of YAP. Cell density is relevant to both organ growth and can- cer, because: (1) contact inhibition (caused by high cell density) is critical for embryonic morphogenesis and maintenance of adult organ architecture; and (2) a hall- mark of solid cancers is uncontrolled growth due to the loss of contact inhibition. When we examined the level of YAP polyubiquitination at different cell densities, we found that the total as well as K48-linked (proteolytic) polyubiqui- tination of YAP was increased at high cell density, whereas MICROREVIEW on: Yao F, Zhou Z, Kim J, Hang Q, Xiao Z, Ton BN, Chang L, Liu N, Zeng L, Wang W, Wang Y, Zhang P, Hu X, Su X, Liang H, Sun Y, Ma L (2018). SKP2- and OTUD1-regulated non-proteolytic ubiquitination of YAP promotes YAP nuclear localization and activity. Nat Commun 9(1):2269. doi: 10.1038/s41467-018-04620-y. Cell Stress | SEPTEMBER 2018 | Vol. 2 No. 9 233 233 Regulation of YAP by non-proteolytic ubiquitination F. Yao et al. (2018) FIGURE 1: Models for the regulation of YAP localization and activity. Left panel: various upstream signals provide inputs that feed into the MST1/2 substrates, LATS1/2, to phosphorylate YAP at Ser127, leading to its binding to 14-3-3, which in turn retains YAP in the cyto- plasm. Moreover, the subsequent phosphorylation of YAP by casein kinase 1δ/ε triggers the recruitment of the SCFβ-TRCP complex, which promotes YAP’s proteolytic ubiquitination under high cell density conditions. OPEN ACCESS | www.cell-stress.com CONFLICT OF INTEREST The authors declare no conflict of interest. SKP2 and OTUD1 govern non-proteolytic ubiquitination of YAP that promotes YAP nuclear localization and activity Using a series of KR mutants and K-specific mutants of YAP (e.g., the K321R mutant contains a single lysine-to-arginine mu- tation at K321, whereas the K321-specific mutant contains only one lysine, K321, with all other lysines mutated to arginine), we identified K321 and K497 as the K63-linked ubiquitination sites on YAP. Notably, double mutations of these two sites (K321R/K497R) retained YAP in the cyto- plasm and inhibited its transcriptional activity and tumor- promoting function, suggesting that K63-linked ubiquitina- Cell Stress | SEPTEMBER 2018 | Vol. 2 No. 9 234 F. Yao et al. (2018) F. Yao et al. (2018) Regulation of YAP by non-proteolytic ubiquitination ubiquitination of YAP, and if so, how are SKP2 and OTUD1 involved? (3) Do SKP2 and OTUD1 govern a non-proteolytic ubiquitination event to modulate YAP-induced organ growth, tissue regeneration, and tumorigenesis in vivo? Since K63-linked ubiquitination is known to serve as a scaffold to mediate protein-protein interaction, we deter- mined whether K63-linked ubiquitination of YAP facilitates its interaction with binding partners. At low cell density, YAP exhibited more interaction with SKP2 and its known nuclear binding partner TEAD, but less interaction with OTUD1 and its known cytoplasmic binding partners, includ- ing LATS1, AMOT, and 14-3-3. Next, we found that SKP2 and K63-linked ubiquitination induce the interaction of YAP with TEAD, leading to nuclear retention and functional activation of YAP (Figure 1). ACKNOWLEDGMENTS The authors’ research is supported by US National Insti- tutes of Health (NIH) grants R01CA166051 and R01CA181029, a Cancer Prevention and Research Institute of Texas (CPRIT) grant RP150319, and a Stand Up To Cancer Innovative Research Grant (award number: 403235). In summary, we demonstrated that K63-linked polyubiquitination of YAP by the SCFSKP2 complex promotes YAP nuclear localization and activity, and that this non- proteolytic ubiquitination is reversed by the deubiquitinase OTUD1. This novel Hippo signaling-independent mecha- nism provides new insights into the regulation of YAP, growth, and tumorigenesis. Several important questions remain: (1) how does low cell density promote SKP2 to interact with and ubiquitinate YAP? (2) In addition to con- tact inhibition (high cell density), a number of other signals have been shown to inactivate YAP, including energy stress, serum deprivation, actin depolymerization, and stimulation of Gs-coupled receptors. On the other hand, hypoxia and stimulation of G12/13-coupled receptors have been re- ported to activate YAP. It is thought that these upstream signals provide inputs that feed into the Hippo pathway to regulate YAP. Do these various signals regulate K63-linked COPYRIGHT © 2018 Yao et al. This is an open-access article released under the terms of the Creative Commons Attribution (CC BY) license, which allows the unrestricted use, distribution, and reproduction in any medium, provided the original author and source are acknowledged. Please cite this article as: Fan Yao, Zhenna Xiao, Yutong Sun and Li Ma (2018). SKP2 and OTUD1 govern non-proteolytic ubiquitination of YAP that promotes YAP nuclear localization and activity. Cell Stress 2(9): 233-235. doi: 10.15698/cst2018.09.153 Cell Stress | SEPTEMBER 2018 | Vol. 2 No. 9 235 OPEN ACCESS | www.cell-stress.com
https://openalex.org/W4386928566
https://biosignaling.biomedcentral.com/counter/pdf/10.1186/s12964-023-01325-8
English
null
Correction: The roles of different microRNAs in the regulation of cholesterol in viral hepatitis
Cell communication and signaling
2,023
cc-by
917
Cell Communication and Signaling Cell Communication and Signaling Meng et al. Cell Communication and Signaling (2023) 21:254 https://doi.org/10.1186/s12964-023-01325-8 Meng et al. Open Access Correction: The roles of different microRNAs in the regulation of cholesterol in viral hepatitis Xuan Meng1,2, Yeganeh Eslami3, Ehsan Derafsh4, Anwar Saihood5, Nikoo Emtiazi6, Saman Yasamineh7, Omid Gholizadeh8* and Renzon Daniel Cosme Pecho9* Correction: Cell Commun Signal 21, 231 (2023) https://doi.org/10.1186/s12964-023-01250-w Following publication of the original article [1], the authors identified a typesetting error pertaining to the name of the author Renzon Daniel Cosme Pecho. The author’s name was mistakenly tagged as two names. This has been amended in this correction article and the origi- nal article [1] has been corrected. © The Author(s) 2023. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativecom- mons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Reference Reference 1. Meng X, Eslami Y, Derafsh E, et al. The roles of different microRNAs in the regulation of cholesterol in viral hepatitis. Cell Commun Signal. 2023;21:231. https://​doi.​org/​10.​1186/​s12964-​023-​01250-w. © The Author(s) 2023. Open Access This permits use, sharing, adaptation, distribu original author(s) and the source, provide other third party material in this article ar to the material. If material is not included regulation or exceeds the permitted use licence, visit http://creativecommons.org mons.org/publicdomain/zero/1.0/) appl The original article can be found online at https://​doi.​org/​10.​1186/​s12964-​ 023-​01250-w. *Correspondence: Omid Gholizadeh ogholizade1374@gmail.com Renzon Daniel Cosme Pecho rcosme@usil.edu.pe 1 Hepatobiliary Surgery Department, National Cancer Center/National Clinical Research Center for Cancer/Cancer Hospital, Chinese Academy of Medical Sciences and Peking Union Medical College, Beijing 100021, China 2 Jiangsu Center for the Collaboration and Innovation of Cancer Biotherapy, Cancer Institute, Xuzhou Medical College, Xuzhou 221002, Jiangsu, China 3 Faculty of Medicine, Mazandaran University of Medical Sciences, Sari, Iran 4 Windsor University, School of Medicine, St. Kitts, Canada 5 Department of Microbiology, College of Medicine, University of Al- Qadisiyah, Baqubah, Iraq 6 Department of Pathology, Firoozgar Hospital, Iran University of Medical Sciences, Tehran, Iran 7 Young Researchers and Elite Club, Tabriz Branch, Islamic Azad University, Tabriz, Iran 8 Department of Bacteriology and Virology, Faculty of Medicine, Tabriz University of Medical Sciences, Tabriz, Iran 9 Department of Biochemistry, UNIVERSIDAD SAN IGNACIO DE LOYOLA (USIL), Lima, Peru The original article can be found online at https://​doi.​org/​10.​1186/​s12964-​ 023-​01250-w. 023-​01250-w. *Correspondence: Omid Gholizadeh ogholizade1374@gmail.com Renzon Daniel Cosme Pecho rcosme@usil.edu.pe 1 Hepatobiliary Surgery Department, National Cancer Center/National Clinical Research Center for Cancer/Cancer Hospital, Chinese Academy of Medical Sciences and Peking Union Medical College, Beijing 100021, China 2 Jiangsu Center for the Collaboration and Innovation of Cancer Biotherapy, Cancer Institute, Xuzhou Medical College, Xuzhou 221002, Jiangsu, China 3 Faculty of Medicine, Mazandaran University of Medical Sciences, Sari, Iran 4 Windsor University, School of Medicine, St. Kitts, Canada 5 Department of Microbiology, College of Medicine, University of Al- Qadisiyah, Baqubah, Iraq 6 Department of Pathology, Firoozgar Hospital, Iran University of Medical Sciences, Tehran, Iran 7 Young Researchers and Elite Club, Tabriz Branch, Islamic Azad University, Tabriz, Iran 8 Department of Bacteriology and Virology, Faculty of Medicine, Tabriz University of Medical Sciences, Tabriz, Iran 9 Department of Biochemistry, UNIVERSIDAD SAN IGNACIO DE LOYOLA (USIL), Lima, Peru 3 Faculty of Medicine, Mazandaran University of Medical Sciences, Sari, Iran 4 Windsor University, School of Medicine, St. Reference Kitts, Canada 5 Department of Microbiology, College of Medicine, University of Al- Qadisiyah, Baqubah, Iraq 6 6 Department of Pathology, Firoozgar Hospital, Iran University of Medical Sciences, Tehran, Iran 7 Young Researchers and Elite Club, Tabriz Branch, Islamic Azad University, Tabriz, Iran 8 8 Department of Bacteriology and Virology, Faculty of Medicine, Tabriz University of Medical Sciences, Tabriz, Iran 9 Department of Biochemistry, UNIVERSIDAD SAN IGNACIO DE LOYOLA (USIL), Lima, Peru 9 Department of Biochemistry, UNIVERSIDAD SAN IGNACIO DE LOYOLA (USIL), Lima, Peru © The Author(s) 2023. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativecom- mons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data.
https://openalex.org/W2236616832
https://lifescienceglobal.com/pms/index.php/jtire/article/download/3487/2033
English
null
Regional Electric-Power Systems Planning and Carbon Dioxide Emissions Management under Uncertainty
Journal of technology innovations in renewable energy
2,015
cc-by
14,137
1. INTRODUCTION to human-induced imprecision or fuzziness, such as lack of available data and biased judgments (or preferences) in assigning priority factors (weighting levels) to multiple management objectives. The inherent complexity and uncertainty that exist in electric-power systems planning have essentially placed them beyond the conventional deterministic optimization methods [5]. Carbon dioxide (CO2) is the prominent greenhouse gas (GHG) that leads to global warming and climatic change with increasing concentrations above preindustrial levels [1-3]. Current annual emissions now exceed 30 Gt/y of CO2, while atmospheric CO2 levels recently exceeded 400 ppm [4]. In the World average, the electricity sector is likely to play a pivotal role in reducing CO2 emissions. Because electricity can be produced by various ways such as fossil fuel burning, nuclear fission and by harnessing of various carbon- free renewable energy resources, there are strong options for carbon mitigation in electricity sector, with different socio-environmental costs and benefits [1-4]. Therefore, innovative planning, adaptation, and mitigation approaches as well as policies for sustainable electric-power systems management are desired. As a result, a number of energy systems planning models, which could facilitate reflection of such complexities as well as analyze tradeoffs between emission mitigation and cost minimization, were developed based on two-stage stochastic programming (TSP) approaches [6-12]. TSP had advantages in reflecting complexities of system uncertainties as well as analyzing policy scenarios when the pre-regulated targets were violated. In TSP, the first-stage decision is to be made before uncertain information is revealed, whereas the second-stage one (recourse) is to adapt to the previous decision based on the further information; the second-stage decision is used to minimize ‘penalties’ that may appear due to any infeasibility [5, 13-15]. Nürnberg and Römisch [6] developed a two- stage stochastic programming model for the short- or mid-term cost-optimal electric power production planning, considering the power generation in a hydro- thermal generation system under uncertainty in demand (or load) and prices for fuel and delivery contracts. Lin et al. [10] developed a hybrid interval- fuzzy two-stage stochastic energy systems planning model to deal with uncertainties that can be expressed as fuzzy numbers, probability distributions, and discrete intervals. Lin and Huang [11] proposed an in exact two- However, electric-power systems planning and CO2 emissions management efforts are complicated with a variety of uncertainties due to parameter estimation, input data, and model structure, which may affect the relevant optimization analyses and thus the associated decision-making process [5]. *Address correspondence to this author at the MOE Key Laboratory of Regional Energy Systems Optimization, Sino-Canada Resources and Environmental Research Academy, North China Electric Power University, Beijing 102206, China; Tel: +86 10 6177 3887; Fax: +86 10 6177 3885; E-mail: yongping.li@iseis.org, yongpingli33@163.com Regional Electric-Power Systems Planning and Carbon Dioxide Emissions Management under Uncertainty Y.F. Li, Y.P. Li* and G.H. Huang MOE Key Laboratory of Regional Energy Systems Optimization, Sino-Canada Resources and Environmental Research Academy, North China Electric Power University, Beijing 102206, China MOE Key Laboratory of Regional Energy Systems Optimization, Sino-Canada Resource Research Academy, North China Electric Power University, Beijing 102206, China Abstract: In this study, an interval two-stage integer programming model is formulated for planning electric-power systems and managing carbon dioxide (CO2) emissions under uncertainty. The developed model can reflect dynamic, interactive, and uncertain characteristics of regional energy systems. Besides, the model can be used for answering questions related to types, times, demands and mitigations of energy systems planning practices, with the objective of minimizing system cost over a long-time planning horizon. The developed model is also applied to a case study of planning CO2-emission mitigation for an electric-power system that involves fossil-fueled and renewable energy sources. Solutions can help generate electricity-generation schemes and capacity-expansion plans under different CO2-mitigation options and electricity-demand levels. Different CO2-emission management policies corresponding to different renewable energy development plans are analyzed. A high system cost will increase renewable energy supply and reduce CO2 emission, while a desire for a low cost will run into risks of a high energy deficiency and a high CO2 emission. Keywords: CO2 emission, electric-power systems, optimization, planning, renewable energy, uncertainty analysis. Journal of Technology Innovations in Renewable Energy, 2015, 4, 129-146 Journal of Technology Innovations in Renewable Energy, 2015, 4, 129-146 129 subject to: Ar X  Br, r = 1, 2, ..., m1 (2b) At X + At 'Y  wh, t = 1, 2, ..., m2; h = 1, 2, ..., v (2c) x j  0, x j X, j = 1, 2, ..., n1 (2d) y jh  0, y jh Y, j = 1, 2, ..., n2; h = 1, 2, ..., v (2e) (2b) (2c) x j  0, x j X, j = 1, 2, ..., n1 (2d) (2e) Obviously, model (2) can deal with uncertainties in the right-hand sides presented as probability distributions when coefficients in the left-hand sides and in the objective function are deterministic. However, in real-world optimization problems, the quality of information that can be obtained is mostly not satisfactory enough to be presented as probabilities [17]. Such complexities cannot be solved through model (2). 1. INTRODUCTION  ) take discrete values  h with probability levels ph ( h = 1, 2, ..., v and ph  = 1), the above TSP can be equivalently where X  R n1 , C  R n1 , and Y  R n2 . Here,  is a random variable from space (,F,P) with   Rk , f :   R n2 , h:   R m2 , D :   R m2n2 , and T :   R m2n1 . By letting random variables (i.e.  ) take discrete values  h with probability levels ph ( h = 1, 2, ..., v and ph  = 1), the above TSP can be equivalently T :   R m2n1 . By letting random variables (i.e.  ) take discrete values  h with probability levels ph ( h = 1, 2, ..., v and ph  = 1), the above TSP can be equivalently formulated as a linear programming model as follows [17-19]: formulated as a linear programming model as follows [17-19]: Min f = CT1X + phDT2Y h=1 v  (2a) (2a) Therefore, an interval two-stage integer programming model will be formulated for managing CO2 emissions within an electric-power system over a long-time planning horizon. This paper will be organized as follows: Section 2 describes the interval two-stage integer programming method; Section 3 provides a case study of managing CO2 emissions in electric-power systems through the proposed method; Section 4 presents result analysis, where a number of scenarios based on different CO2-mitigation options and energy-demand levels are analyzed; Section 5 draws some conclusions. 1. INTRODUCTION Uncertainties can be derived from energy-related processes and activities (e.g. exploration/exploitation, conversion/processing, and supply/demand); uncertainties can also arise due E-ISSN: 1929-6002/15 © 2015 Lifescience Global Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 130 Li et al. Li et al. No. 4 Li et al. subject to: subject to: subject to: subject to: stage stochastic energy systems planning model for managing greenhouse gas emission at a municipal level, where GHG-emission reduction target was treated as random variable. Chen et al. [12] discussed CO2- emission trading scheme with an integrated energy system using interval two-stage stochastic programming, which could deal with uncertainties expressed as discrete intervals and random variables. stage stochastic energy systems planning model for managing greenhouse gas emission at a municipal level, where GHG-emission reduction target was treated as random variable. Chen et al. [12] discussed CO2- emission trading scheme with an integrated energy system using interval two-stage stochastic programming, which could deal with uncertainties expressed as discrete intervals and random variables. The previous studies emphasized on the planning of either electric power systems or entire energy systems by regarding the CO2 emissions management as a single constraint. Studies on how to apply various carbon-free renewable energy technologies to adjust the electricity generating structure, however, have hardly been covered in their models. There are many ways to generate electricity, and this flexibility gives the electricity sector a major advantage in responding to changes in market incentives to encourage carbon-free technologies [16]. D()y  h() +T()x (1d) y Y (1e) D()y  h() +T()x (1d) (1d) y Y (1e) y Y (1e) where X  R n1 , C  R n1 , and Y  R n2 . Here,  is a random variable from space (,F,P) with   Rk , f :   R n2 , h:   R m2 , D :   R m2n2 , and where X  R n1 , C  R n1 , and Y  R n2 . Here,  is a random variable from space (,F,P) with   Rk , f :   R n2 , h:   R m2 , D :   R m2n2 , and T :   R m2n1 . By letting random variables (i.e. subject to: Ar ± X ±  Br ±, r = 1, 2, ..., m1 (3b) (4g) Ar ± X ±  Br ±, r = 1, 2, ..., m1 (3b) At ± X ± + At '±Y ±  wh ±, t = 1, 2, ..., m2; h = 1, 2, ..., v (3c) x j ±  0, x j ± X ±, j = 1, 2, ..., n1 (3d) y jh ±  0, y jh ± Y ±, j = 1, 2, ..., n2; h = 1, 2, ..., v (3e) (3b) where x j ± , j = 1, 2, ..., k1 , are interval variables with positive coefficients in the objective function; x j ± , j = k1 +1, k1 + 2, ..., n1are interval variables with negative coefficients; y jh ± , j = 1, 2, ..., k2 and h = 1, 2, ..., v are random variables with positive coefficients in the objective function; y jh ± , j = k2 +1, k2 + 2, ..., n2 and h = 1, 2, ..., v are random variables with negative coefficients. Solutions of where x j ± , j = 1, 2, ..., k1 , are interval variables with positive coefficients in the objective function; x j ± , j = k1 +1, k1 + 2, ..., n1are interval variables with negative coefficients; y jh ± , j = 1, 2, ..., k2 and h = 1, 2, ..., v are random variables with positive coefficients in the objective function; y jh ± , j = k2 +1, k2 + 2, ..., n2 and h = 1, 2, ..., v are random variables with negative coefficients. subject to: Solutions of (3d) x j ±  0, x j ± X ±, j = 1, 2, ..., n1 where Ar ±  R± { } m1n1 , At ±  R± { } m2n2 , Br ±  R± { } m11 , CT1 ±  R± { } 1n1 , DT2 ±  R± { } 1n2 , X ±  R± { } n11 , Y ±  R± { } n21 x j opt  ( j = 1, 2, ..., k1 ), x j opt + ( j = k1 +1, k1 + 2, ..., n1), y jh opt  ( j = 1, 2, ..., k2 ), and y jh opt + ( j = k2 +1, k2 + 2, ..., n2 ) can and R± { } denote a set of interval parameters and/or and R± { } denote a set of interval parameters and/or variables; superscripts ‘’ and ‘+’ represent lower and upper bounds of the interval values, respectively. In model (3), decision variables can be sorted into two categories: continuous and binary. Model (3) can be transformed into two deterministic sub models that correspond to the lower and upper bounds of desired objective function value. This transformation process is based on an interactive algorithm, which is different from the best/worst case analysis [20]. Interval solutions can then be obtained by solving the two sub models sequentially. The sub model corresponding to the lower-bound objective function value ( f  ) can be firstly formulated as follows (assume that B± > 0 , and f ± > 0 ): { } variables; superscripts ‘’ and ‘+’ represent lower and upper bounds of the interval values, respectively. In model (3), decision variables can be sorted into two categories: continuous and binary. Model (3) can be transformed into two deterministic sub models that correspond to the lower and upper bounds of desired objective function value. This transformation process is be obtained through sub model (4). 2. METHODOLOGY Two-stage stochastic programming (TSP) method is effective for problems where an analysis of policy scenarios is desired and the related data are mostly uncertain. In TSP, decision variables are divided into two subsets: those that must be determined before random variables are disclosed, and those (recourse variables) that will be determined after the uncertainties are disclosed. A general TSP model can be formulated as follows [17, 18]: Interval mathematical programming (IMP) is effective in tackling uncertainties expressed as interval values with known lower and upper bounds but unknown distribution functions [20]. Moreover, mixed integer linear programming (MILP) technique is used for facilitating dynamics analysis of the timing, sizing and siting in terms of capacity expansions. Therefore, through incorporating IMP, MILP and TSP within a general optimization framework, an interval two-stage integer programming (ITSIP) model can be formulated as follows:  = minCT X + E[Q(X,)] (1a) (1a)  = minCT X + E[Q(X,)] subject to: x X (1b) with Q(x,) = min f ()T y (1c) (1b) x X with Q(x,) = min f ()T y Q(x,) = min f ()T y (1c) Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 131 Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Regional Electric-Power Systems Planning and Carbon Diox 131 3a) 3b) x j +  0, j = k1 +1, k1 + 2, ..., n1 (4e) y jh   0, h; j = 1, 2, ..., k2 (4f) y jh +  0, h; j = k2 +1, k2 + 2, ..., n2 (4g) Min f ± = CT1 ± X + phDT2 ±Y ± h=1 v  (3a) subject to: Ar ± X ±  Br ±, r = 1, 2, ..., m1 (3b) x j +  0, j = k1 +1, k1 + 2, ..., n1 (4e) y jh   0, h; j = 1, 2, ..., k2 (4f) y jh +  0, h; j = k2 +1, k2 + 2, ..., n2 (4g) (4e) Min f ± = CT1 ± X + phDT2 ±Y ± h=1 v  (3a) (4f) subject to: Based on theabove solutions, the second sub model for f + can be formulated as follows: Min f + = c j +x j + j=1 k1 + c j +x j  j=k1+1 n1 + p jhd j + y jh + h=1 v  j=1 k2 Min f + = c j +x j + j=1 k1 + c j +x j  j=k1+1 n1 + p jhd j + y jh + h=1 v  j=1 k2 + p jhd j + y jh  h=1 v  j=k2+1 n2 (5a) (5a) + p jhd j + y jh  h=1 v  j=k2+1 n2 subject to: subject to: arj  Sign arj  ( )x j + j=1 k1 + arj + Sign arj + ( )x j  j=k1+1 n1  br , r (5b) (5b) Min f  = c j x j  j=1 k1 + c j x j + j=k1+1 n1 + p jhd j  y jh  h=1 v  j=1 k2 + p jhd j  y jh + h=1 v  j=k2+1 n2 (4a) subject to: atj  Sign atj  ( )x j + j=1 k1 + atj + Sign atj + ( )x j  j=k1+1 n1 + atj '  Sign atj ' ( ) y jh + j=1 k2 + atj ' + Sign atj '+ ( ) y jh  j=k2+1 n2  wh +, t, h (5c) atj  Sign atj  ( )x j + j=1 k1 + atj + Sign atj + ( )x j  j=k1+1 n1 (4a) + atj '  Sign atj ' ( ) y jh + j=1 k2 + atj ' + Sign atj '+ ( ) y jh  j=k2+1 n2  wh +, t, h (5c) subject to: x j +  x j opt  , j = 1, 2, ..., k1 (5d) arj + Sign arj + ( )x j  j=1 k1 + arj  Sign arj  ( )x j + j=k1+1 n1  br +, r (4b) atj + Sign atj + ( )x j  j=1 k1 + atj  Sign atj  ( )x j + j=k1+1 n1 + atj ' + Sign atj '+ ( ) y jh  j=1 k2 + atj '  Sign atj ' ( ) y jh + j=k2+1 n2  wh , t, h (4c) x j +  x j opt  , j = 1, 2, ..., k1 0  x j   x j opt + , j = k1 +1, k1 + 2, . subject to: y jh +  y jh opt  , h; j = 1, 2, ..., k2 0  y jh   y jh opt + , h; j = k2 +1, k2 + arj + Sign arj + ( )x j  j=1 k1 + arj  Sign arj  ( )x j + j=k1+1 n1  br +, r (4b) atj + Sign atj + ( )x j  j=1 k1 + atj  Sign atj  ( )x j + j=k1+1 n1 + atj ' + Sign atj '+ ( ) y jh  j=1 k2 + atj '  Sign atj ' ( ) y jh + j=k2+1 n2  wh , t, h (4c)   0 j 1 2 k (4d) x j +  x j opt  , j = 1, 2, ..., k1 (5d) arj + Sign arj + ( )x j  j=1 k1 + arj  Sign arj  ( )x j + j=k1+1 n1  br +, r (4b) (4b) 0  x j   x j opt + , j = k1 +1, k1 + 2, ..., n1 (5e) (5e) atj + Sign atj + ( )x j  j=1 k1 + atj  Sign atj  ( )x j + j=k1+1 n1 y jh +  y jh opt  , h; j = 1, 2, ..., k2 (5f) (5f) (5g) Solutions of x j opt + ( j = 1, 2, ..., k1 ), x j opt  ( j = k1 +1, k1 + 2, ..., n1), y jh opt + ( j = 1, 2, ..., k2 ), and x j   0, j = 1, 2, ..., k1 (4d) Solutions of x j opt + ( j = 1, 2, ..., k1 ), x j opt  ( j = k1 +1, k1 + 2, ..., n1), y jh opt + ( j = 1, 2, ..., k2 ), and x j   0, j = 1, 2, ..., k1 (4d) x j   0, j = 1, 2, ..., k1 (4d) 132 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. The study system is complicated with uncertainties related to various economic and technical parameters as well as the process of energy demand/supply, conversion, transmission, consumption, CO2-emission inventory control measures. 3.1. Overview of the Study System In the study system (as shown in Figure 1), six kinds of power conversion technologies are considered, including coal-fired power, gas-fired power, petroleum-fired power, hydropower, wind power and solar power conversion technologies. The planning horizon is 15 years, which is further divided into three 5-year periods. The end-user’s random electricity demands and electricity generation targets of each power conversion technology are presented in Table 1. The peak load demands are [1.5, 3.0], [2.0, 3.5] and [2.5, 4.0] GW in periods 1, 2 and 3, respectively. Table 2 provides the economic and technological datum of each power conversion technology. Each technology has a residual capacity; coal-fired power has a residual capacity of 1 GW, natural gas-fired power has a residual capacity of 0.22 GW, petroleum-fired power has a residual capacity of 0.15 GW, hydropower has a residual capacity of 0.28 GW but the initial capacity of wind power and solar power are all 0. The representative costs and technical data were investigated based on governmental reports and other related literature [10-15, 21]. Consider an electric-power system where local decision makers are responsible for supplying electric power to multiple end users over a long-term planning horizon. A number of power-conversion technologies are available for installation to meet electricity demand in each period. Since different technologies have diverse conversion efficiencies, CO2 emissions, capital investments, and operation costs, they compete with each other to supply a mixture of options to end users. The existing electric utilities include coal-fired, natural gas-fired, petroleum-fired, hydropower, wind power and solar power facilities. The electricity demand would rise with the economy development and population growth. Thus the planners are forced to decide whether new electric-power utilities (hydropower, wind power and solar power facilities) should be established. The second measure is to expand the existing electric- power utilities to satisfy the increasing demand. Energy strategy and policy are strongly driven by the twin objectives of sustainability (including environmental aspects) and security of energy supply. The utilization of energy resources is restrained by source availabilities, high costs of new technologies, as well as environmental and CO2 concerns. On one hand, increasing concentration of CO2 emitted from fossil fuel combustion is likely to accelerate the rate of global warming. Consequently, less fossil fuel consumptions and more renewable energy resources (e.g. hydro, wind and solar) are utilized to satisfy increasing energy demand and CO2 reduction requirement. subject to: In this study, potential energy demand may vary with the population increase and economic development, which can be expressed as random variable with a given probability level in one case and the other uncertain parameters may be expressed as intervals (e.g. generation target, cost and benefit parameters, CO2-emission permit, pollutant control capacity); besides, the relevant electricity- generation plan would be of dynamic features and a pre-regulated policy is desired [13-15]. y jh opt  ( j = k2 +1, k2 + 2, ..., n2 ) can be obtained through sub model (5). Through integrating solutions of sub models (4) and (5), interval solution for model (3) can be expressed as follows: x j opt ± = x j opt  , x j opt +  , j (6a) y jh opt ± = y jh opt  , y jh opt +  , j, h (6b) fopt ± = fopt  , fopt +   . (6c) (6a) (6b) (6c) 3.1. Overview of the Study System On the other hand, availabilities of renewable energy resources (e.g. hydro and wind) are highly dependent on meteorological conditions that fluctuate within a certain range due to climate change. Such variations of renewable energy availabilities would then affect operating statuses of relevant facilities, resulting in changes in their energy outputs [13-15]. Two measures are used to reduce the amount of CO2 emissions for three fossil-fueled power plants: (i) capture and storage (CS), and (ii) chemical absorption (CA). In order to meet the increasing electricity demand, CO2 emissions will rise sharply if the current trends (exploiting a large amount of fossil fuels) continue. Decision makers are thus forced to make efforts to reduce the carbon intensity by replacing fossil fuels with non-CO2-emission sources (e.g. hydroelectric plants, wind power, and solar power). However, decision makers are unaware of the occurrences of CO2-reduction levels under uncertain electricity demand over a long-term planning horizon. Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 133 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 13 Regional Electric-Power Systems Planning and Carbon Dioxide 133 Based on the regional environmental protection policy, the gross of CO2 emissions are interpreted as constraints in the developed model. Correspondingly, different environmental management policies may lead to varied power generation plans and changed capacity expansion schemes. In this study, three different cases are considered in order to make in-depth analysis of i t ti l it i • Case 1 is based on current status of the regional electric-power system without any particular regulatory, economic or political barriers, targets or strategies. Under this case, the developed model is run without any exterior constraints (e.g. without CO2 emission control constraints). Given a range of energy resources and t h l lt ti it ill t ti ll Figure 1: The schematic of regional electric-power system. 3.1. Overview of the Study System Table 1: End-User’s Total Electricity Demands and Electricity Generation Targets Time Period t = 1 t = 2 t = 3 End-User’s Total Electricity Demand (10 3GWh) Demand Level Probability (%) Electricity Demand Probability (%) Electricity Demand Probability (%) Electricity Demand Low (L) 25 [50, 65] 20 [85, 105] 15 [135, 150] Medium (M) 50 [65, 81] 60 [105, 127] 55 [150, 175] High (H) 25 [81, 96] 20 [127, 147] 30 [175, 200] Electricity generation targets of each power conversion technology (10 3GWh) Coal-fired power [27.5, 50.0] [25.0, 60.0] [22.5, 70.0] Gas-fired power [6.0, 20.0] [7.0, 25.0] [8.0, 30.0] Petroleum-fired power [0.5, 8.0] [0.75, 8.5] [1.0, 9.5] Hydropower [5.0, 10.0] [5.5, 15.0] [6.0, 20.0] Wind power [0, 5.0] [0, 5.0] [0, 5.0] Solar power [0, 5.0] [0, 5.0] [0, 5.0] Figure 1: The schematic of regional electric-power system. Figure 1: The schematic of regional electric-power system. Table 1: End-User’s Total Electricity Demands and Electricity Generation Targets Time Period t = 1 t = 2 t = 3 End-User’s Total Electricity Demand (10 3GWh) Demand Level Probability (%) Electricity Demand Probability (%) Electricity Demand Probability (%) Electricity Demand Low (L) 25 [50, 65] 20 [85, 105] 15 [135, 150] Medium (M) 50 [65, 81] 60 [105, 127] 55 [150, 175] High (H) 25 [81, 96] 20 [127, 147] 30 [175, 200] Electricity generation targets of each power conversion technology (10 3GWh) Coal-fired power [27.5, 50.0] [25.0, 60.0] [22.5, 70.0] Gas-fired power [6.0, 20.0] [7.0, 25.0] [8.0, 30.0] Petroleum-fired power [0.5, 8.0] [0.75, 8.5] [1.0, 9.5] Hydropower [5.0, 10.0] [5.5, 15.0] [6.0, 20.0] Wind power [0, 5.0] [0, 5.0] [0, 5.0] Solar power [0, 5.0] [0, 5.0] [0, 5.0] Based on the regional environmental protection policy, the gross of CO2 emissions are interpreted as constraints in the developed model. Correspondingly, different environmental management policies may lead to varied power generation plans and changed capacity expansion schemes. In this study, three different cases are considered in order to make in-depth analysis of interactions among energy-supply security, economic cost, and environmental requirement. These cases can be described as follow: • Case 1 is based on current status of the regional electric-power system without any particular regulatory, economic or political barriers, targets or strategies. Under this case, the developed model is run without any exterior constraints (e.g. without CO2 emission control constraints). 3.1. Overview of the Study System Given a range of energy resources and technology alternatives, it will automatically choose the lowest-cost set of options to meet the random electricity demand in the region. Table 1: End-User’s Total Electricity Demands and Electricity Generation Targets Time Period t = 1 t = 2 t = 3 End-User’s Total Electricity Demand (10 3GWh) Demand Level Probability (%) Electricity Demand Probability (%) Electricity Demand Probability (%) Electricity Demand Low (L) 25 [50, 65] 20 [85, 105] 15 [135, 150] Medium (M) 50 [65, 81] 60 [105, 127] 55 [150, 175] High (H) 25 [81, 96] 20 [127, 147] 30 [175, 200] Electricity generation targets of each power conversion technology (10 3GWh) Coal-fired power [27.5, 50.0] [25.0, 60.0] [22.5, 70.0] Gas-fired power [6.0, 20.0] [7.0, 25.0] [8.0, 30.0] Petroleum-fired power [0.5, 8.0] [0.75, 8.5] [1.0, 9.5] Hydropower [5.0, 10.0] [5.5, 15.0] [6.0, 20.0] Wind power [0, 5.0] [0, 5.0] [0, 5.0] Solar power [0, 5.0] [0, 5.0] [0, 5.0] Table 1: End-User’s Total Electricity Demands and Electricity Generation Targets Based on the regional environmental protection policy, the gross of CO2 emissions are interpreted as constraints in the developed model. Correspondingly, different environmental management policies may lead to varied power generation plans and changed capacity expansion schemes. In this study, three different cases are considered in order to make in-depth analysis of interactions among energy-supply security, economic cost, and environmental requirement. These cases can be described as follow: Case 1 is based on current status of the regional electric-power system without any particular regulatory, economic or political barriers, targets or strategies. Under this case, the developed model is run without any exterior constraints (e.g. without CO2 emission control constraints). Given a range of energy resources and technology alternatives, it will automatically choose the lowest-cost set of options to meet the random electricity demand in the region. Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. Li et al. 3.1. Overview of the Study System 134 2: Economic and Technological Datum of Each Power Conversion Technology • In Case 2, the totaling amount of CO2 emitted • Case 3 provides an analysis of varied Table 2: Economic and Technological Datum of Each Power Conversion Technology Time Period Conversion technology t = 1 t = 2 t = 3 Regular and surplus costs for power generation by each power conversion technology ($10 3/GWh) Regular cost [6.5, 7.0] [7.0, 7.5] [7.5, 8.0] Coal-fired power Surplus cost [4.0, 5.0] [4.5, 5.5] [5.0, 6.0] Regular cost [6.0, 6.5] [6.5, 7.0] [7.0, 7.5] Gas-fired power Surplus cost [3.5, 4.5] [4.0, 5.0] [4.5, 5.5] Regular cost [5.5, 6.0] [6.0, 6.5] [6.5, 7.0] Petroleum-fired power Surplus cost [3.0, 4.0] [3.5, 4.5] [4.0, 5.0] Regular cost [5.0, 6.0] [5.5, 6.5] [6.0, 7.0] Hydropower Surplus cost [4.5, 5.5] [5.0, 6.0] [5.5, 6.5] Regular cost [3.0, 3.5] [3.5, 4.0] [4.0, 4.5] Wind power Surplus cost [1.5, 2.5] [2.0, 3.0] [2.5, 3.5] Regular cost [2.0, 3.0] [2.5, 3.5] [2.7, 4.0] Solar power Surplus cost [1.0, 2.0] [1.5, 2.5] [2.0, 3.0] Fixed ($10 6) and variable ($10 6/GW) costs for capacity expansion Fixed cost [385, 395] [445, 455] [505, 515] Coal-fired power Variable cost [825, 850] [875, 900] [925, 950] Fixed cost [350, 375] [405, 425] [455, 475] Gas-fired power Variable cost [785, 800] [835, 850] [885, 900] Fixed cost [310, 335] [370, 395] [415, 435] Petroleum-fired power Variable cost [735, 750] [775, 800] [835, 850] Fixed cost [875, 900] [950, 970] [1000, 1040] Hydropower Variable cost [1790, 1800] [1890, 1900] [1990, 2000] Fixed cost [975, 1000] [1055, 1080] [1135, 1160] Wind power Variable cost [2400, 2450] [2450, 2500] [2500, 2550] Fixed cost [1175, 1200] [1215, 1250] [1285, 1300] Solar power Variable cost [2350, 2400] [2450, 2500] [2550, 2600] Variable upper bounds for capacity expansion of each power conversion technology (GW) Coal-fired power 0.7 0.5 0.3 Gas-fired power 0.5 0.6 0.7 Petroleum-fired power 0.45 0.5 0.6 Hydropower 0.3 0.4 0.5 Wind power 0.1 0.2 0.3 Solar power 0.2 0.3 0.4 • In Case 2, the totaling amount of CO2 emitted are to be mitigated by 30% based on case 1over the planning horizon. Therefore, this case corresponds to decisions with efforts for allocation and management of energy resources, services, activities and investment under stabilized environmental management policies. • In Case 2, the totaling amount of CO2 emitted are to be mitigated by 30% based on case 1over the planning horizon. Therefore, this case corresponds to decisions with efforts for allocation and management of energy resources, services, activities and investment under stabilized environmental management policies. • Case 3 provides an analysis of varied environmental management policies for CO2 emissions allowances under an aggressive environmental protection goal over the planning horizon. Based on case 1, the gross of region’s CO2 emissions are to be mitigated by 50% along with the time period. 3.2. Modeling Formulation (W3t ± + Q3th ± )FE3t ±  Z3t ±, t;h = 1,...,Ht (7h) (W3t ± + Q3th ± )FE3t ±  Z3t ±, t;h = 1,...,Ht (7h) Based on the ITSIP method, the objective is to minimize the system cost under consideration of generating desired energy resources allocation, import electricity quantities, capacity expansion plans and CO2 emissions management policies. The system cost includes expense for energy resources supply, cost for import electricity, operating cost, and capacity expansion cost for power conversion technologies, operating cost for CO2 control techniques, and economic penalty as corrective measures or recourse cost against any infeasibilities arising due to a particular realization of an uncertain event. Therefore, the study problem can be formulated as follows: (2) Constraints for availabilities of energy resources: These constraints identify energy resource availabilities. There are limited renewable energy resources, which imply necessity for effective use of them. When local available resources cannot meet demand, importing electricity from other regions at high purchase costs will become necessary. (2) Constraints for availabilities of energy resources: These constraints identify energy resource availabilities. There are limited renewable energy resources, which imply necessity for effective use of them. When local available resources cannot meet demand, importing electricity from other regions at high purchase costs will become necessary. (W4t ± + Q4th ± )FE4t ± UPHt ±, t;h = 1,...,Ht (7i) (W5t ± + Q5th ± )FE5t ± UPWt ±, t;h = 1,...,Ht (7j) (W6t ± + Q6th ± )FE6t ± UPSt ±, t;h = 1,...,Ht (7k) (7i) (7j) (7k) (3) Constraints for electricity supply and demand balance: These constraints are established to ensure that the electricity generated from various energy resources is not less than the amount of demand specified by the end users. Electricity demand is presented by random intervals with a given probability. 3.1. Overview of the Study System • Case 3 provides an analysis of varied environmental management policies for CO2 emissions allowances under an aggressive environmental protection goal over the planning horizon. Based on case 1, the gross of region’s CO2 emissions are to be mitigated by 50% along with the time period. • In Case 2, the totaling amount of CO2 emitted are to be mitigated by 30% based on case 1over the planning horizon. Therefore, this case corresponds to decisions with efforts for allocation and management of energy resources, services, activities and investment under stabilized environmental management policies. • Case 3 provides an analysis of varied environmental management policies for CO2 emissions allowances under an aggressive environmental protection goal over the planning horizon. Based on case 1, the gross of region’s CO2 emissions are to be mitigated by 50% along with the time period. Regional Electric-Power Systems Planning and Carbon Dioxide Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 135 ournal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 135 135 3.2. Modeling Formulation Min f ± = (a) + (b) + (c) + (d) (7a) (7a) (a) Purchase costs for coal, natural gas, petroleum and imported electricity: (a) Purchase costs for coal, natural gas, petroleum and imported electricity: (PECt ±Z1t ± + PENt ±Z2t ± + PEOt ±Z3t ± t=1 T  ) + pthPIEt ±Z4th ± h=1 Ht t=1 T  (7b) (Wit ± + Qith ± + Z4th ± )  dth ± i=1 I  , t;h = 1,...,Ht (7l) Wit ± + Qith ±  (RCi + Xith ± t'=1 t  )STit ±, i,t;h = 1,...,Ht (7m) Wit ±  Qith ±  0, i,t;h = 1,...,Ht (7n) (7l) (b) Operating costs for electricity conversion: (b) Operating costs for electricity conversion: PVit ±Wit ± t=1 T  + pth(PVit ± + PPit ±)Qith ± h=1 Ht t=1 T  i=1 I  i=1 I  (7c) (7c) (7m) (C) Capital costs for capacity expansions of electricity conversion technologies: (7n) (4) Constraints for electricity load demand: These constraints regulate the existing and future expanding capacities have to satisfy the local electricity load demand. pth(Ait ±Yith ± + Bit ± Xith ± ) h=1 Ht t=1 T  i=1 I  (7d) (7d) (d) Operating costs for CO2 emission control: (d) Operating costs for CO2 emission control: (RCi + Xith ± t'=1 t  ) i=1 I  Vt ±, t;h = 1,...,Ht (7o) (7o) CC jct ± XCijct ± t=1 T  jc=1 nc i=1 I  + pth h=1 Ht t=1 T  jc=1 nc i=1 I  DC jct ± YCijcth ± (7e) (7e) (5) Constraints for capacity expansion of electricity- generation facilities: If electricity supply cannot sufficiently meet increasing demand from end-users, decision-makers have to face a dilemma of either investing more funds on capacity expansion of existing facilities or turning to other energy production options with higher costs. Integer programming technique is used to facilitate dynamic analysis, such as timing, sizing and siting decisions in capacity-expansion schemes for electricity-generation facilities [5]. Meanwhile, the total system cost should be minimized subject to a set of constraints that describe various impact factors and their interactions. The constraints can be formulated as follows: (1) Constraints for mass balance: These constraints describe the balance of energy flows in the study system. They are established to ensure that the input energy is greater than the output one. 3.2. Modeling Formulation (W1t ± + Q1th ± )FE1t ±  Z1t ±, t;h = 1,...,Ht (7f) (W2t ± + Q2th ± )FE2t ±  Z2t ±, t;h = 1,...,Ht (7g) Yith ± = 1, if capacity expansion is undertaken = 0, if otherwise , i,t;h = 1,...,Ht    (7p) Nit  Xith ±  MitYith ± , i,t;h = 1,...,Ht (7q) Yith ± = 1, if capacity expansion is undertaken = 0, if otherwise , i,t;h = 1,...,Ht    (7p) Nit  Xith ±  MitYith ± , i,t;h = 1,...,Ht (7q) (W1t ± + Q1th ± )FE1t ±  Z1t ±, t;h = 1,...,Ht (7f) (W2t ± + Q2th ± )FE2t ±  Z2t ±, t;h = 1,...,Ht (7g) Yith ± = 1, if capacity expansion is undertaken = 0, if otherwise , i,t;h = 1,...,Ht    (7p) Nit  Xith ±  MitYith ± , i,t;h = 1,...,Ht (7q) (7f) (7p) Nit  Xith ±  MitYith ± , i,t;h = 1,...,Ht (7q) (7q) Nit  Xith ±  MitYith ± , i,t;h = 1,...,Ht Li et al. Li et al. 136 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 (6) Constraints for CO2 control demand: These constraints assure that the amount of CO2 be mitigated by control measure jc in period t must exceed actual emissions. and 3, respectively. Petroleum supply would be [83.54, 103.20], [148.38, 183.70] and [217.88, 293.55] 103 TJ in periods 1, 2 and 3, respectively. In addition, for the imported electricity, as shown in the Figure 3a, the amount would be varied according to the electricity demand-levels in each period. Wit ±INCit ±  XCijct ± jc nc , i;t (7r) Qith ± INCit ±  YCijcth ± jc nc , i;t;h = 1,...,Ht (7s) (7r) Compared with the results under case 1, as shown in the Figure 2b, the amount of coal supply would almost be stabilized at a certain level over the planning horizon. This is because the total amount of CO2 emitted would be confined with a certain level during the planning periods, while coal-fired power conversion technology corresponds to a higher air pollution- emission rate, compared with other power conversion technologies. In comparison, the amount of natural gas supply would be raised with the increasing electricity demand. 4. RESULT ANALYSIS Figure 4 present the optimized electricity generation plans of every power conversion technology under the three cases. Under case 1, coal-fired power would play the most important part in the electricity generation activities, whose optimized generation targets would be 39.50, 29.25 and 50.70103GWh in periods 1, 2 and 3, respectively. For the gas-fired power, its optimized generation targets would be 14.18, 15.58 and 28.96103GWh in the three planning periods, respectively, which would nearly reach its upper target level in periods 2 and 3 (as shown in Table 1). For petroleum-fired power, its optimized generation targets would be 4.91, 8.33 and 9.25 103GWh in the three planning periods, respectively. For the hydropower, its optimized generation targets would increase in period 3, being 14.95103GWh. The optimized generation targets of the wind and solar power would be 0, 0, 3.00103GWh and 0, 0, 4.14103GWh in periods 1, 2 and 3, respectively. Under case 2, as constraints for 3.2. Modeling Formulation This is because capacities of gas-fired power would be expanded to meet the random electricity demands in these periods. The amount of petroleum supply would decrease in period 1, but increase in period 2. For the imported electricity, as shown in the Figure 3b, there would also be decrease in periods 1 and 2. Under case 3, the role of coal supply would be ever decreasing in the energy supply activities compared with the results under cases 1 and 2 as shown in Figure 2c. This is because, under this case, strict environmental policies for CO2 emissions management would be adopted. Qith ± INCit ±  YCijcth ± jc nc , i;t;h = 1,...,Ht (7s) (7s) (7) Constraints for CO2 emission allowance: These constraints require the cumulative CO2 emissions over the planning horizon must not exceed specified amount. (1 jc ± )(XCijct ± +YCijcth ± jc=1 nc i=1 I  )  ECt ±, t;h = 1,...,Ht (7t) (7t) (8) Non-negativity constraints: These constraints assure that only positive electricity-conversion activities are considered in the solution. (8) Non-negativity constraints: These constraints assure that only positive electricity-conversion activities are considered in the solution. Z1t ±, Z2t ±, Z3t ±, Z4th ± , Wit ±, Qith ± , XCijct ± , YCijcth ±  0, i; jc; t; h = 1 ,..., Ht (7u) (7u) i; jc; t; h = 1 ,..., Ht The detailed nomenclatures for the variables and parameters are provided in Appendix A. Solution procedure of the proposed model is provided in Appendix B. 4.1. Energy Resources Supply Scheme Figures 2 and 3 show the energy resources supply schemes under cases 1, 2 and 3. In this study, coal, natural gas and petroleum would be supplied based on the results of the worst scenario (i.e. related to a maximum electricity deficit level); this is to guarantee the security of energy supplies under uncertainty. Under case 1, as shown in the Figure 2a, the amount of coal supply would significantly increase, being [390.0., 487.50], [579.15, 725.40] and [496.86, 663.59] 103 TJ in periods 1, 2 and 3, respectively. Coal would play the most important role in the energy supply activities under this case. This is due to the following two facts: (i) there are no CO2 emission control constraints under this case; (ii) coal-fired power conversion technology has the lowest operating and penalty cost of all the power conversion technologies. Natural gas supply would be [75.24, 96.14], [277.32, 355.22] and [307.65, 426.24] 103 TJ in periods 1, 2 Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 13 Figure 2: Coal, natural gas and petroleum supply under cases 1, 2 and 3. Figure 3: Imported electricity supply under cases 1, 2 and 3. Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 137 Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 137 Regional Electric-Power Systems Planning and Carbon Dioxide Figure 2: Coal, natural gas and petroleum supply under cases 1, 2 and 3. Figure 2: Coal, natural gas and petroleum supply under cases 1, 2 and 3. Coal, natural gas and petroleum supply under cases 1, 2 and 3. g g p pp y Figure 3: Imported electricity supply under cases 1, 2 and 3. Figure 3: Imported electricity supply under cases 1, 2 and 3. 8 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. 138 Figure 4: Optimized electricity generation plans for each power conversion technology under cases 1, 2 and 3. Figure 4: Optimized electricity generation plans for each power conversion technology under cases 1, 2 and 3. 103GWh for the solar power and [2.86, 4.00]103GWh for the solar power when the demand-level is high in period 1 (probability is 25%). 4.1. Energy Resources Supply Scheme gross control of CO2 emission are added, generation quantity of coal-fired power would not significantly increase, due to its high CO2-emission rates. Meanwhile, generation quantities of gas-fired power and hydropower would markedly increase and clean power conversion technologies (associated with low CO2-emission rates) would be adopted. Under case 3, as more strict environmental protection objectives must be achieved than those under cases1 and 2, the dominant role of coal-fired power would completely be replaced by other conversion technologies. 4.3. Capacity Expansion Table 3 displays the solutions of capacity expansion schemes of each conversion technology under the three cases. Generally, shortages would occur if the electricity demand-levels are continuously high, and a capacity expansion project would be undertaken to avoid insufficient electricity supply. For example, under case 3, there would be [0, 0.65] GW for coal-fired power conversion technology to be expanded when the electricity demand-level is low (probability is 25%) in period 1. When the demand-level is medium (probability is 50%) and high (probability is 25%) in period 1, the amount of expansion would all be [0, 0.57] GW. For hydropower, the amount of expansion would all be [0, 0.20], 0.28 and 0.28 when the demand-level is low, medium and high, respectively. For wind power and solar power, there would be no capacity expansion Deficits would occur if the available generation targets cannot meet the random electricity demand, especially when the demand-level is high. In general, different power conversion technology has varied excess generation quantities under changed possible scenarios. For example, under case 3, the excess generation quantities would be [0, 3.25] 103GWhfor the coal-fired power, [0, 2.76] 103GWh for the gas- fired power, [0, 2.25] 103GWh for the petroleum-fired power, [8.45, 12.35] 103GWh for the hydropower, 3.00 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4.3. Capacity Expansion When the electricity demand-levels are low, medium and high (probabilities are 20%, 60% and 20%) in period 2, the amount of mitigation by CS would be [70.88, 75.12], [58.30, 62.54] and [47.25, 55.74]  103 tonnes, the amount of mitigation by CA would be [0, 8.48], [25.16, 33.65] and 47.25 103tonnes, respectively. in periods 1 and 2. 0.15, 0.30 and 0.30 GW would be expanded for wind power when the demand-level is low (probability is 15%), medium (probability is 55%) and high (probability is 30%) in period 3, respectively. 0.26, 0.40 and 0.40 GW would be expanded for solar power when the demand-level is low, medium and high in period 3, respectively. 4.3. Capacity Expansion 4 13 Regional Electric-Power Systems Planning and Carbon Dioxide 139 Table 3: Capacity Expansion Schemes under Cases 1, 2 and 3 Expansion Amount (GW) under Varied Electricity Demand-Level Low Medium High Conversion Technology Period Case 1 Case 2 Case 3 Case 1 Case 2 Case 3 Case 1 Case 2 Case 3 t=1 [0, 0.70] [0, 0.40] [0, 0.65] [0, 0.70] [0, 0.65] [0, 0.57] [0, 0.62] [0, 0.57] [0, 0.57] t=2 [0.34, 0.50] [0, 0.50] [0, 0.45] [0.23, 0.50] [0.15, 0.50] [0, 0.35] 0.50 0.50 [0, 0.35] Coal-fired power t=3 0.30 0.30 0.30 0.30 0.30 0.30 0.30 0.30 0.30 t = 1 0 [0, 0.50] [0.18, 0.50] 0 [0.22, 0.50] [0.35, 0.50] 0 [0.22, 0.50] [0.35, 0.50] t = 2 [0.19, 0.60] [0.50, 0.60] [0.59, 0.60] 0.60 0.60 0.60 0.60 0.60 0.60 Gas-fired power t = 3 0.70 0.70 0.70 0.70 0.70 0.70 0.70 0.70 0.70 t = 1 [0, 0.45] [0, 0.45] 0 [0.11, 0.45] 0 0 [0.13, 0.45] 0 0 t = 2 [0.10, 0.50] [0.14, 0.50] [0.12, 0.50] [0.35, 0.50] [0.44, 0.50] [0.38, 0.50] [0.35, 0.47] [0.44, 0.47] [0.38, 0.50] Petroleum- fired power t = 3 0.60 0.60 0.60 0.60 0.60 0.60 0.60 0.60 0.60 t = 1 [0, 0.20] 0 [0, 0.20] [0, 0.20] [0, 0.20] 0.28 0.28 0.28 0.28 t = 2 [0, 0.25] [0, 0.25] [0.06, 0.30] [0, 0.25] [0, 0.25] 0.40 0.28 0.28 0.40 Hydropower t = 3 [0.22, 0.34] [0.22, 0.37] [0.22, 0.37] 0.50 0.50 0.50 0.50 0.50 0.50 t = 1 0 0 0 0 0 0 0 0 0 t = 2 0 0 0 0 0 0 0 0 0 Wind power t = 3 0.15 0.15 0.15 0.30 0.30 0.30 0.30 0.30 0.30 t = 1 0 0 0 0 0 0 0 0 0 t = 2 0 0 0 0 0 0 0 0 0 Solar power t = 3 0.26 0.26 0.26 0.40 0.40 0.40 0.40 0.40 0.40 Table 3: Capacity Expansion Schemes under Cases 1, 2 and 3 exterior constraints (e.g. without CO2 emissions control constraints) under this case. There would be [40.97, 43.97], [27.80, 33.32] and [27.31, 33.32] 103 tonnes of CO2 mitigated by CS, [0, 6.01], [26.34, 27.31] and 27.31 103 tonnes of CO2 mitigated by CA, when the electricity demand-levels are low, medium and high (probabilities are 25%, 50% and 25%) in period 1, respectively. 4.4. CO2 Emissions Control In this study, a project of air-pollution control was considered, in order to satisfy the ambient air quality requirement and to reduce the penalty towards excess emission. Figure 5 shows the optimized CO2 mitigation plans under the three cases. Under case 1, the target amounts of treated CO2 would be significantly increased along with the ever increasing electricity demand-levels as shown in Figure 5a. This is attributed to the fact that the developed model is run without any Under case 2, when environmental constraints are added, high-efficiency mitigation measures must be installed to reduce the CO2 emissions and to satisfy the environmental requirements. Thus, the results would 140 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. 140 Figure 5: CO2 mitigation plans under cases 1, 2 and 3. Figure 5: CO2 mitigation plans under cases 1, 2 and 3. techniques. Figure 6 presents the detailed systems cost under different cases. The costs for energy resources supply are $[21.19, 43.15] 109 (or [51.12, 61.84]% of the total system cost) under case 1,$[20.84, 41.42] 109 (or [48.96, 59.46]% of the total system cost) under case 2, and $[23.74, 49.82] 109 (or [50.68, 63.99]% of the total system cost) under case 3. This indicates that the strict environmental policies would lead to an increased energy resources supply cost. The operating costs for power conversion are $[6.03, 7.56] 109 (or [10.83, 14.55] % of the total system cost) under case 1, $[7.61, 9.44] 109 (or [13.55, 17.89] % of the total system cost) under case 2, $[7.46, 9.09] 109 (or [11.67, 15.93] % of the total system cost) under case 3. This demonstrates that the strict environmental policies would lead to reduced operating costs for power conversion. The expenses for capacity expansion of power conversion technologies are $[11.85, 16.02] 109 (or [22.96, 28.59] % of the total system cost) under case 1, $[11.87, 15.89] 109 (or provide useful bases for generating decision alternatives with a desired technology combination that would lead to a satisfied environmental quality as well as a minimized abatement cost. Under case 3, the target amounts of treated CO2would be significantly decreased along with the time periods. This is because an aggressive environmental protection goal must be achieved under this case. Therefore, electricity generated from coal-fired, gas-fired and petroleum-fired power conversion technologies would be reduced accordingly. 4.4. CO2 Emissions Control And thus, mitigation measures with higher efficiency must be installed to reduce the pollution emissions and to satisfy the stricter environmental requirements. 4.5. System Cost The system cost includes expenses for energy resources supply, operating costs and capacity expansion costs for power conversion technologies, and operating costs for CO2 emissions control Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 141 Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 141 141 Fi 6 D t il d t t d 1 2 d 3 Figure 6: Detailed system cost under cases 1, 2 and 3. [22.81, 27.89] % of the total system cost) under case 2, and $[13.50, 16.25] 109 (or [20.88, 28.81] % of the total system cost) under case 3. This is due to more power conversion technologies with high price but low CO2 emission rates would be adopted in cases 2 and 3 compared with those in case 1. The operating costs for CO2 emissions control techniques are $[2.38, 3.05] 109 (or [4.37, 5.74] % of the total system cost) under case 1, $[2.24, 2.91] 109 (or [4.18, 5.26] % of the total system cost) under case 2, and $[2.14, 2.69] 109 (or [3.46, 4.58] % of the total system cost) under case 3. This implies that aggressive environmental management policies would lead to reduced operating costs for CO2 emissions control techniques. Therefore, decisions with stricter environmental constraints would lead to a higher system cost but a cleaner environment; conversely, a desire for reducing the system cost would result in increased risk of violating the environmental criteria. 5. CONCLUSIONS CLATURES FOR ES cost over the planning onversion technology, for coal-fired power logy, i = 2 for natural onversion technology, troleum-fired power nology, i = 4 for for wind power; i = 6 control measure, = 1 for capture and jc = 2 for chemical 2, ..., T h Electricity demand-level, h = 1, Parameters pth Probability of demand level h in period t (%) PECt ± Cost for coal supply in period t PENt ± Cost for natural gas supply ($103/TJ) PEOt ± Cost for petroleum supply i ($103/TJ) PIEt ± Cost for imported electricity period t ($103/GWh) PVit ± Operating cost of power technology i for pre-regulated generation in period t ($103/GW PPit ± Penalty cost of power technology i for excess generation in period t ($103/GW Ait ± Fixed-charge cost for capacity of power conversion techno period t ($106) Bit ± Variable cost for capacity ex power conversion technology ($106/GW) CC jct ± Operating cost of control mea pre-regulated CO2 emissio period t ($/tonne) DC jct ± Operating and penalty cost measure js for excess CO2 during period t ($/tonne) FEit ± Units of energy carrier pe electricity production fo conversion technology i in (TJ/GWh) UPHt ± Upper bound of the ava hydropower in period t (103 TJ UPWt ± Upper bound of the availabil power in period t (103 TJ) UPSt ± Upper bound of the availabil power in period t (103 TJ) dth ± Random variable of total demand during period t (GWh) h Electricity demand-level, h = 1, 2, ..., Ht Parameters pth Probability of demand level h occurrence in period t (%) PECt ± Cost for coal supply in period t ($103/TJ) PENt ± Cost for natural gas supply in period t ($103/TJ) PEOt ± Cost for petroleum supply in period t ($103/TJ) PIEt ± Cost for imported electricity supply in period t ($103/GWh) PVit ± Operating cost of power conversion technology i for pre-regulated electricity generation in period t ($103/GWh) PPit ± Penalty cost of power conversion technology i for excess electricity generation in period t ($103/GWh) Ait ± Fixed-charge cost for capacity expansion of power conversion technology i in period t ($106) Bit ± Variable cost for capacity expansion of power conversion technology i in period t ($106/GW) CC jct ± Operating cost of control measure jc for pre-regulated CO2 emissions during period t ($/tonne) DC jct ± Operating and penalty cost of control measure js for excess CO2 emissions during period t ($/tonne) FEit ± Units of energy carrier per units of electricity production for power conversion technology i in period t (TJ/GWh) UPHt ± Upper bound of the availability of hydropower in period t (103 TJ) UPWt ± Upper bound of the availability of wind power in period t (103 TJ) UPSt ± Upper bound of the availability of solar power in period t (103 TJ) dth ± Random variable of total electricity d d d i i d (GWh) Electricity demand-level, h = 1, 2, ..., Ht interactions among multiple energy-related activities, but also address uncertainties in multiple forms and dynamics within a multi-period, multi-facility, and multi- demand-level context. 5. CONCLUSIONS It has also advantages in providing an effective linkage between the pre- regulated environmental policies and the associated economic implications. The CO2-emission reduction target and energy demand are both assumed to be random over a long-term planning horizon. The modeling results can be used for supporting decisions of electricity-generation schemes and capacity- expansion plans under different CO2-mitigation options and electricity-demand levels. The results suggest that, aggressive environmental management policies would lead to reduced operating costs for CO2 emissions control techniques. Therefore, decisions with stricter environmental constraints would lead to a higher system cost but a cleaner environment; conversely, a desire for reducing the system cost would result in increased risk of violating the environmental criteria. h ACKNOWLEDGEMENTS This research was supported by the National Basic Research Program of China (2013CB430406), the National Natural Sciences Foundation (51225904) and the Fundamental Research Funds for the Central Universities (2014QN33). The authors are grateful to the editors and the anonymous referees for their insightful comments and suggestions. Variable cost for capacity expansion of power conversion technology i in period t ($106/GW) CC jct ± Operating cost of control measure jc for pre-regulated CO2 emissions during period t ($/tonne) FOR 5. CONCLUSIONS In this study, an interval two-stage integer programming model is formulated for planning electric- power systems and managing CO2 emissions under uncertainty. The proposed model could not only reflect Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. Li et al. 142 Li et Electricity demand-level, h = 1, 2, ..., Ht s Probability of demand level h occurrenc in period t (%) Cost for coal supply in period t ($103/TJ Cost for natural gas supply in period ($103/TJ) Cost for petroleum supply in period ($103/TJ) Cost for imported electricity supply period t ($103/GWh) Operating cost of power conversio technology i for pre-regulated electrici generation in period t ($103/GWh) Penalty cost of power conversio technology i for excess electrici generation in period t ($103/GWh) Fixed-charge cost for capacity expansio of power conversion technology i period t ($106) Variable cost for capacity expansion power conversion technology i in period ($106/GW) Operating cost of control measure jc fo pre-regulated CO2 emissions durin period t ($/tonne) Operating and penalty cost of contr measure js for excess CO2 emission during period t ($/tonne) Units of energy carrier per units electricity production for powe conversion technology i in period (TJ/GWh) Upper bound of the availability hydropower in period t (103 TJ) Upper bound of the availability of win power in period t (103 TJ) Upper bound of the availability of sola power in period t (103 TJ) Random variable of total electrici demand during period t (GWh) n Renewable Energy, 2015, Vol. 4, No. 4 ergy-related activities, in multiple forms and multi-facility, and multi- also advantages in e between the pre- s and the associated O2-emission reduction both assumed to be anning horizon. The r supporting decisions mes and capacity- CO2-mitigation options he results suggest that, gement policies would ts for CO2 emissions decisions with stricter ld lead to a higher onment; conversely, a cost would result in vironmental criteria. by the National Basic (2013CB430406), the dation (51225904) and unds for the Central authors are grateful to us referees for their ions. APPENDIX A. NOMENCLATURES PARAMETERS AND VARIABLES 4 143 RCi Residual capacity of conversion technology i (GW) STit Average service time of power conversion technology i in period t (h) Vt Peak load demand in period t (GW) Mit Variable upper bounds for capacity expansion of power conversion technology i in period t (GW) Nit Variable lower bounds for capacity expansion of power conversion technology i in period t, and Nit 0 (GW) INCit ± Units of CO2 emission per unit of electricity production for power conversion technology i in period t (tonne/GWh)  jc ± Average efficiency of CO2 control measure jc (%) ECt ± CO2 emission allowance in period t (tonne) Decision Variables Z1t ± Coal supply in period t (TJ) Z2t ± Natural gas supply in period t (TJ) Z3t ± Petroleum supply in period t (TJ) Z4th ± Imported electricity supply when electricity demand level is h in period t (103 GWh) Wit ± Pre-regulated electricity generation target of power conversion technology i which is promised to end-users during period t (103GWh) Qith ± Excess electricity generation of power conversion technology i by which electricity generation target ( Wkt ) is exceeded when electricity demand level is h in period t (103GWh) Xith ± Continuous variables about the amount of capacity expansion of power conversion technology i when electricity demand level is h in period t (GW) Yith ± Binary variables for identifying whether or not a capacity expansion action of RCi Residual capacity of conversion technology i (GW) STit Average service time of power conversion technology i in period t (h) Vt Peak load demand in period t (GW) Mit Variable upper bounds for capacity expansion of power conversion technology i in period t (GW) Nit Variable lower bounds for capacity expansion of power conversion technology i in period t, and Nit 0 (GW) INCit ± Units of CO2 emission per unit of electricity production for power conversion technology i in period t (tonne/GWh)  jc ± Average efficiency of CO2 control measure jc (%) ECt ± CO2 emission allowance in period t (tonne) Decision Variables Z1t ± Coal supply in period t (TJ) Z2t ± Natural gas supply in period t (TJ) Z3t ± Petroleum supply in period t (TJ) Z4th ± Imported electricity supply when electricity demand level is h in period t (103 GWh) Wit ± Pre-regulated electricity generation target of power conversion technology i which is promised to end-users during period t (103GWh) Qith ± Excess electricity generation of power conversion technology i by which electricity generation target ( Wkt ) is exceeded when electricity demand level is h in period t (103GWh) Xith ± Continuous variables about the amount of capacity expansion of power conversion technology i when electricity power conversion technology I needs to be undertaken when electricity demand level is h in period t RCi Pre-regulated amount of CO2 generated from power conversion technology i to be mitigated by control measure jc in period t (tonne) Excess amount of CO2 generated from power conversion technology i to be mitigated by control measure jc when electricity demand level is h in period t (tonne) APPENDIX A. NOMENCLATURES PARAMETERS AND VARIABLES Expected system cost over the planning horizon ($109) Operating and penalty cost of control measure js for excess CO2 emissions during period t ($/tonne) Type of power conversion technology, i = 1, 2, ..., I ; i = 1 for coal-fired power conversion technology, i = 2 for natural gas-fired power conversion technology, i = 3 for petroleum-fired power conversion technology, i = 4 for hydropower, i = 5 for wind power; i = 6 for solar power Units of energy carrier per units of electricity production for power conversion technology i in period t (TJ/GWh) Upper bound of the availability of hydropower in period t (103 TJ) Type of CO2 control measure, jc = 1, 2, ..., nc ; jc = 1 for capture and storage (CS); jc = 2 for chemical absorption (CA) UPWt ± UPSt ± Upper bound of the availability of wind power in period t (103 TJ) Upper bound of the availability of solar power in period t (103 TJ) Upper bound of the availability of solar power in period t (103 TJ) Time period, t = 1, 2, ..., T Random variable of total electricity demand during period t (GWh) dth ± Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. APPENDIX B. SOLUTION PROCEDURE OF THE PROPOSED MODEL In the proposed model, the electricity generation targets of each conversion technology ( Wit ± ) are expressed as interval numbers; however, as the first- stage decision variables, they should be identified before the related total electricity demand (i.e. random variables) are known [13]. In this study, an optimized set of Wit ± values will be identified by having uit being decision variables; this optimized set may correspond to minimized system cost under the uncertain electricity generation targets of each conversion technology and total electricity demand [14]. In detail, let Wit ± = Wit  + Wituit , where Wit = Wit + Wit  and uit [0,1]. Thus, when Wit ± approach their lower bounds (i.e. when uit = 0 ), a relatively low cost would be obtained; however, a higher penalty may have to be paid when the electricity demand is not satisfied. Conversely, when Wit ± reach their upper bounds (i.e. when uit = 1), a higher cost would be generated but, at the same time, a lower risk of violating the promised targets (and thus lower penalty). Then, model (7) can be transformed into two deterministic submodels based on the interactive algorithm [17]. Because the objective is to minimize the system cost, submodel corresponding to f  is first desired. The lower bounds of cost coefficients and total electricity demand, as well aselectricity generation shortages and capacity expansions will correspond to f  . Thus, submodel f  can be formulated as follows: Decision Variables Excess electricity generation of power conversion technology i by which electricity generation target ( Wkt ) is exceeded when electricity demand level is h in period t (103GWh) Continuous variables about the amount of capacity expansion of power conversion technology i when electricity demand level is h in period t (GW) Min f  = (PECt Z1t  + PENt Z2t  + PEOt Z3t  t=1 T  ) + pthPIEt Z4th  h=1 Ht t=1 T  Min f  = (PECt Z1t  + PENt Z2t  + PEOt Z3t  t=1 T  ) + pthPIEt Z4th  h=1 Ht t=1 T  Min f  = Min f  = (PECt Z1t  + PENt Z2t  + PEOt Z3t  t=1 T  ) + pthPIEt Z4th  h=1 Ht t=1 T  Binary variables for identifying whether or not a capacity expansion action of Yith ± Li et al. Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. Decision Variables 4 144 + PVit (Wit  t=1 T  + Wituit) + pth(PVit  + PPit )Qith  h=1 Ht t=1 T  i=1 I  i=1 I  + pth(Ait Yith  + Bit  Xith  ) h=1 Ht t=1 T  i=1 I  CC jct  XCijct  t=1 T  jc=1 nc i=1 I  + pth h=1 Ht t=1 T  jc=1 nc i=1 I  DC jct  YCijcth  (9a) Subject to: (W1t  + W1tu1t + Q1th  )FE1t   Z1t , t;h = 1,...,Ht (9b) (W2t  + W2tu2t + Q2th  )FE2t   Z2t , t;h = 1,...,Ht (9c) (W3t  + W3tu2t + Q3th  )FE3t   Z3t , t;h = 1,...,Ht (9d) (W4t  + W4tu4t + Q4th  )FE4t + UPHt , t;h = 1,...,Ht (9e) (W5t  + W5tu5t + Q5th  )FE5t + UPWt , t;h = 1,...,Ht (9f) (W6t  + W6tu6t + Q6th  )FE6t + UPSt , t;h = 1,...,Ht (9g) (Wit  + Wituit + Qith  + Z4th  )  dth  i=1 I  , t;h = 1,...,Ht (9h) Wit  + Wituit + Qith   (RCi + Xith  t'=1 t  )STit , i,t;h = 1,...,Ht (9i) Wit  + Wituit  Qith   0, i,t;h = 1,...,Ht (9j) (RCi + Xith  t'=1 t  ) i=1 I  Vt , t;h = 1,...,Ht (9k) Yith  = 1, if capacity expansion is undertaken = 0, if otherwise , i,t;h = 1,...,Ht    (9l) Nit  Xith   MitYith  , i,t;h = 1,...,Ht (9m) Z1t , Z2t , Z3t , Z4th  , Wit , Qith  , XCijct  , YCijcth   0, i; jc; t; h = 1 ,..., Ht (9q) where Qith  , Xith  , XCijct  and YCijcth  are continuous decision variables, and Yith  are binary ones. Solution for f  provides the extreme lower bound of system cost under uncertain inputs. Let Qith opt  , Xith opt  , XCijct opt  , YCijcth opt  , Yith opt  , and fopt  be solutions of sub model (9). Then the optimized electricity generation targets would be Wit opt ± = Wit  + Wituit opt . Decision Variables 4, No. 4 14 and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Regional Electric-Power Systems Planning and Carbon Dioxide 145 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. Decision Variables 4 Regional Electric-Power Systems Planning and Carbon Diox Wit opt  Qith +  0, i,t;h = 1,...,Ht (10j) (RCi + Xith + t'=1 t  ) i=1 I  Vt +, t;h = 1,...,Ht (10k) Yith opt ± = [Yith opt  , Yith opt + ], i,t;h = 1,...,Ht Xith opt ± = [Xith opt  , Xith opt + ], i,t;h = 1,...,Ht Wit opt  Qith +  0, i,t;h = 1,...,Ht (10j) (RCi + Xith + t'=1 t  ) i=1 I  Vt +, t;h = 1,...,Ht (10k) Yith + = 1, if capacity expansion is undertaken = 0, if otherwise , i,t;h = 1,...,Ht    (10l) Nit  Xith +  MitYith + , i,t;h = 1,...,Ht (10m) Yith opt ± = [Yith opt  , Yith opt + ], i,t;h = 1,...,Ht Xith opt ± = [Xith opt  , Xith opt + ], i,t;h = 1,...,Ht XCijct opt ± = [XCijct opt  , XCijct opt + ], i, jc,t YCijcth opt ± = [YCijcth opt  , YCijcth opt + ], i, jc,t;h = 1,...,Ht fopt ± = [ fopt  , fopt + ] (10j) Y + = 1, if capacity expansion is undertaken   Yith + = 1, if capacity expansion is undertaken = 0, if otherwise , i,t;h = 1,...,Ht    (10l) Nit  Xith +  MitYith + , i,t;h = 1,...,Ht (10m) Wit optINCit +  XCijct + jc nc , i;t (10n) Qith + INCit +  YCijcth + jc nc , i;t;h = 1,...,Ht (10o) (1 jc  )(XCijct + jc=1 nc i=1 I  +YCijcth + )  ECt +, t;h = 1,...,Ht (10p) Z1t +  Z1t , t (10q) Z2t +  Z2t , t (10r) Z3t +  Z3t , t (10s) Z4th +  Z4th  , t;h = 1,...,Ht (10t) Qith +  Qith  , i;t;h = 1,...,Ht (10u) Yith +  Yith  , i;t;h = 1,...,Ht (10v) Xith +  Xith  , i;t;h = 1,...,Ht (10w) XCijct +  XCijct  , i; jc;t;h = 1,...,Ht (10x) YCijcth +  YCijcth  , i; jc;t;h = 1,...,Ht (10y) where Qith + , Xith + , XCijct + , YCijcth + and Yith + are decision variables. Decision Variables Let Qith opt + , Xith opt + , XCijct opt + , YCijcth opt + , Yith opt + and fopt + be solutions of sub model (10).Thus, we have solutions for the proposed model under the optimized electricity generation targets (i.e. Wit opt ± = Wit  + Wituit opt ) as follows: XCijct opt = [XCijct opt, XCijct opt], i, jc,t YCijcth opt ± = [YCijcth opt  , YCijcth opt + ], i, jc,t;h = 1,...,Ht fopt ± = [ fopt  , fopt + ] REFERENCES [1] Saysel AK, Hekimolu M. Exploring the options for carbon dioxide mitigation in Turkish electricpower industry: System dynamics approach. Energ Policy 2014; 60: 675-86. http://dx.doi.org/10.1016/j.enpol.2013.04.053 [2] Suo MQ, Li YP, Huang GH, Deng DL, Li YF. Electric power system planning under uncertainty using in exact inventory non-linear programming method. J Environ Inform 2013; 22: 49-67. http://dx.doi.org/10.3808/jei.201300245 [3] Chen ZM, Chen GQ, Chen B. Embodied carbon dioxide emission by the globalized economy: a systems ecological input-output simulation. J Environ Inform 2013; 21: 35-44. http://dx.doi.org/10.3808/jei.201300230 [4] Krishna PGS, Santanu B, Raymond RT. Power system planning with emission constraints: Effects of CCS retrofitting. Process Saf Environ 2014; 92: 447-55. http://dx.doi.org/10.1016/j.psep.2014.02.010 [5] Li YP, Huang GH. Electric-power systems planning and green house-gas emission management under uncertainty. Energ Convers Manage 2012; 57: 173-82. http://dx.doi.org/10.1016/j.enconman.2011.12.018 [6] Nürnberg R, Römisch W. A two-stage planning model for power scheduling in a hydro-thermal system under uncertainty. Optim Eng 2002; 3: 355-78. http://dx.doi.org/10.1023/A:1021531823935 [7] Bagajewicz M, Barbaro AF. Financial risk management in the planning of energy recovery in the total site. Ind Eng Chem Res 2003; 42: 5239-48. http://dx.doi.org/10.1021/ie020389u [8] Albornoz VM, Benario P, Rojas ME. A two-stagestochastic integer programming model for a thermal power system expansion. Int Toper Res 2004; 11: 243-57. [9] Floros N, Vlachou A. Energy demand and energy related CO2 emissions in Greek manufacturing: Assessing the impact of a carbon tax. Energ Econ 2005; 27: 387-413. http://dx.doi.org/10.1016/j.eneco.2004.12.006 [10] Lin QG, Huang GH, Bass B, Qin XS. IFTEM: An interval- fuzzy two-stage stochastic optimization model for regional energy systems planning under uncertainty. Energ Policy 2009; 37: 868-78. http://dx.doi.org/10.1016/j.enpol.2008.10.038 [11] Lin QG, Huang GH. An in exact two-stage stochastic energy systems planning model for managing green house gas emission at a municipal level. Energ 2010; 35: 2270-80. http://dx.doi.org/10.1016/j.energy.2010.01.042 [12] Chen WT, Li YP, Huang GH, Chen X, Li YF. Decision Variables Therefore, sub model (10) corresponding to the upper bound of the objective function value ( f + ) can be formulated as follows: Min f + = (PECt +Z1t + + PENt +Z2t + + PEOt +Z3t + t=1 T  ) + pthPIEt +Z4th + h=1 Ht t=1 T  + PVit +Wit opt t=1 T  + pth(PVit + + PPit +)Qith + h=1 Ht t=1 T  i=1 I  i=1 I  + pth(Ait +Yith + + Bit + Xith + ) h=1 Ht t=1 T  i=1 I  CC jct + XCijct + t=1 T  jc=1 nc i=1 I  + pth h=1 Ht t=1 T  jc=1 nc i=1 I  DC jct + YCijcth + (10a) Subject to: (W1t opt + Q1th + )FE1t +  Z1t +, t;h = 1,...,Ht (10b) (W2t opt + Q2th + )FE2t +  Z2t +, t;h = 1,...,Ht (10c) (W3t opt + Q3th + )FE3t +  Z3t +, t;h = 1,...,Ht (10d) (W4t opt + Q4th + )FE4t  UPHt +, t;h = 1,...,Ht (10e) + PVit (Wit  t=1 T  + Wituit) + pth(PVit  + PPit )Qith  h=1 Ht t=1 T  i=1 I  i=1 I  + pth(Ait Yith  + Bit  Xith  ) h=1 Ht t=1 T  i=1 I  CC jct  XCijct  t=1 T  jc=1 nc i=1 I  + pth h=1 Ht t=1 T  jc=1 nc i=1 I  DC jct  YCijcth  (9a) Subject to: Z1t , Z2t , Z3t , Z4th  , Wit , Qith  , XCijct  , YCijcth   0, i; jc; t; h = 1 ,..., Ht (9q) (9q) (9a) Subject to: (W1t  + W1tu1t + Q1th  )FE1t   Z1t , t;h = 1,...,Ht (9b) (W2t  + W2tu2t + Q2th  )FE2t   Z2t , t;h = 1,...,Ht (9c) (W3t  + W3tu2t + Q3th  )FE3t   Z3t , t;h = 1,...,Ht (9d) (W4t  + W4tu4t + Q4th  )FE4t + UPHt , t;h = 1,...,Ht (9e) (W5t  + W5tu5t + Q5th  )FE5t + UPWt , t;h = 1,...,Ht (9f) (W6t  + W6tu6t + Q6th  )FE6t + UPSt , t;h = 1,...,Ht (9g) (Wit  + Wituit + Qith  + Z4th  )  dth  i=1 I  , t;h = 1,...,Ht (9h) Wit  + Wituit + Qith   (RCi + Xith  t'=1 t  )STit , i,t;h = 1,...,Ht (9i) Wit  + Wituit  Qith   0, i,t;h = 1,...,Ht (9j) (RCi + Xith  t'=1 t  ) i=1 I  Vt , t;h = 1,...,Ht (9k) (9b) (9d) Min f + = (PECt +Z1t + + PENt +Z2t + + PEOt +Z3t + t=1 T  ) + pthPIEt +Z4th + h=1 Ht t=1 T  + PVit +Wit opt t=1 T  + pth(PVit + + PPit +)Qith + h=1 Ht t=1 T  i=1 I  i=1 I  + pth(Ait +Yith + + Bit + Xith + ) h=1 Ht t=1 T  i=1 I  CC j t + XCij t + T  nc I  + pth Ht T  nc I  DC j t + YCij th + (10a) (10a) (9j) (10b) (9k) (RCi + Xith t'=1 ) i=1 Vt , t;h = 1,...,Ht (9k) Yith  = 1, if capacity expansion is undertaken = 0, if otherwise , i,t;h = 1,...,Ht    (9l) Nit  Xith   MitYith  , i,t;h = 1,...,Ht (9m) (Wit  + Wituit)INCit   XCijct  jc nc , i;t (9n) Qith  INCit   YCijcth  jc nc , i;t;h = 1,...,Ht (9o) (1 jc + )(XCijct  jc=1 nc i=1 I  +YCijcth  )  ECt , t;h = 1,...,Ht (9p) (W2t opt + Q2th + )FE2t +  Z2t +, t;h = 1,...,Ht (10c) (W3t opt + Q3th + )FE3t +  Z3t +, t;h = 1,...,Ht (10d) (W4t opt + Q4th + )FE4t  UPHt +, t;h = 1,...,Ht (10e) (W5t opt + Q5th + )FE5t  UPWt +, t;h = 1,...,Ht (10f) (W6t opt + Q6th + )FE6t  UPSt +, t;h = 1,...,Ht (10g) (Wit opt + Qith + + Z4th + )  dth + i=1 I  , t;h = 1,...,Ht (10h) Wit opt + Qith +  (RCi + Xith + t'=1 t  )STit +, i,t;h = 1,...,Ht (10i) Y  = 1, if capacity expansion is undertaken   (9l) (1 jc + )(XCijct  jc=1 c i=1 +YCijcth  )  ECt , t;h = 1,...,Ht (9p) Wit opt + Qith +  (RCi + Xith + t'=1 t  )STit +, i,t;h = 1,...,Ht (10i) (10i) Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. Decision Variables A stochastic-fuzz y programming model with soften constraints for electricity generation planning with green house-gas abatement. Int J Energ Res 2013; 37: 843- 56. http://dx.doi.org/10.1002/er.2885 [16] Ford A. Simulation scenarios for rapid reduction in carbon dioxide emissions in the western electricity system. Energ Policy 2008; 36: 443-55. http://dx.doi.org/10.1016/j.enpol.2007.09.023 [13] Chen C, Li YP, Huang GH, Zhu Y. An in exact robust non- linear optimization method for energy systems planning under uncertainty. Renew Energ 2012; 47: 55-66. http://dx.doi.org/10.1016/j.renene.2012.04.007 [14] Chen C, Li YP, Huang GH. An in exact robust optimization method for supporting carbon dioxide emissions management in regional electric-power systems. Energ Econ 2013; 40: 441-56. http://dx.doi.org/10.1016/j.eneco.2013.07.022 [15] Li YP, Huang GH. A stochastic-fuzz y programming model with soften constraints for electricity generation planning with green house-gas abatement. Int J Energ Res 2013; 37: 843- 56. http://dx.doi.org/10.1002/er.2885 [16] Ford A. Simulation scenarios for rapid reduction in carbon dioxide emissions in the western electricity system. Energ Policy 2008; 36: 443-55. http://dx.doi.org/10.1016/j.enpol.2007.09.023 [17] [17] Li YP, Huang GH, Yang ZF, Nie SL. An integrated two-stage optimization model for the development of long-term waste- management strategies. Sci Total Environ2008; 392: 175-86. http://dx.doi.org/10.1016/j.scitotenv.2007.11.028 [13] Chen C, Li YP, Huang GH, Zhu Y. An in exact robust non- linear optimization method for energy systems planning under uncertainty. Renew Energ 2012; 47: 55-66. http://dx.doi.org/10.1016/j.renene.2012.04.007 [14] Chen C, Li YP, Huang GH. An in exact robust optimization method for supporting carbon dioxide emissions management in regional electric-power systems. Energ Econ 2013; 40: 441-56. [18] Birge JR, Louveaux FV. Introduction to Stochastic Programming. New York, NY: Springer; 1997. [19] Ahmed S, Tawarmalani M, Sahinidis NV. A finite branch-and- bound algorithm for two-stage stochastic integer programs. Math Program 2004; 100: 355-77. [15] [15] Li YP, Huang GH. A stochastic-fuzz y programming model with soften constraints for electricity generation planning with green house-gas abatement. Int J Energ Res 2013; 37: 843- 56. http://dx.doi.org/10.1002/er.2885 [20] [20] Huang GH, Baetz BW, Patry GG. An interval linear programming approach for municipal solid waste management planning under uncertainty. Civ Eng Environ Syst 1992; 9: 319-35. htt //d d i /10 1080/02630259208970657 http://dx.doi.org/10.1002/er.2885 Syst 1992; 9: 319-35. http://dx.doi.org/10.1080/02630259208970657 [16] [16] Ford A. Simulation scenarios for rapid reduction in carbon dioxide emissions in the western electricity system. Energ Policy 2008; 36: 443-55. http://dx.doi.org/10.1016/j.enpol.2007.09.023 [16] Ford A. Simulation scenarios for rapid reduction in carbon dioxide emissions in the western electricity system. Energ Policy 2008; 36: 443-55. Decision Variables A two-stage in exact-stochastic programming model for planning carbon Nit  Xith +  MitYith + , i,t;h = 1,...,Ht (10m) fopt ± = [ fopt  , fopt + ]  Xith +  MitYith + , i,t;h = 1,...,Ht (10m) fopt ± = [ fopt  , fopt + ] [1] Saysel AK, Hekimolu M. Exploring the options for carbon dioxide mitigation in Turkish electricpower industry: System dynamics approach. Energ Policy 2014; 60: 675-86. http://dx.doi.org/10.1016/j.enpol.2013.04.053 Z1t +  Z1t , t [8] Albornoz VM, Benario P, Rojas ME. A two-stagestochastic integer programming model for a thermal power system expansion. Int Toper Res 2004; 11: 243-57. [9] Floros N, Vlachou A. Energy demand and energy related CO2 emissions in Greek manufacturing: Assessing the impact of a carbon tax. Energ Econ 2005; 27: 387-413. http://dx.doi.org/10.1016/j.eneco.2004.12.006 where Qith + , Xith + , XCijct + , YCijcth + and Yith + are decision variables. Let Qith opt + , Xith opt + , XCijct opt + , YCijcth opt + , Yith opt + and [10] Lin QG, Huang GH, Bass B, Qin XS. IFTEM: An interval- fuzzy two-stage stochastic optimization model for regional energy systems planning under uncertainty. Energ Policy 2009; 37: 868-78. fopt + be solutions of sub model (10).Thus, we have solutions for the proposed model under the optimized electricity generation targets (i.e. Wit opt ± = Wit  + Wituit opt ) as follows: doi.org/10.1016/j.enpol.2008.10.038 [11] Lin QG, Huang GH. An in exact two-stage stochastic energy systems planning model for managing green house gas emission at a municipal level. Energ 2010; 35: 2270-80. http://dx.doi.org/10.1016/j.energy.2010.01.042 [12] [12] Chen WT, Li YP, Huang GH, Chen X, Li YF. A two-stage in exact-stochastic programming model for planning carbon dioxide emission trading under uncertainty. Appl Energ 2010; 87: 1033-47. Qith opt ± = [Qith opt  , Qith opt + ], i,t;h = 1,...,Ht http://dx.doi.org/10.1016/j.apenergy.2009.09.016 146 146 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. [13] Chen C, Li YP, Huang GH, Zhu Y. An in exact robust non- linear optimization method for energy systems planning under uncertainty. Renew Energ 2012; 47: 55-66. http://dx.doi.org/10.1016/j.renene.2012.04.007 [14] Chen C, Li YP, Huang GH. An in exact robust optimization method for supporting carbon dioxide emissions management in regional electric-power systems. Energ Econ 2013; 40: 441-56. http://dx.doi.org/10.1016/j.eneco.2013.07.022 [15] Li YP, Huang GH. Decision Variables http://dx.doi.org/10.1016/j.enpol.2007.09.023 [16] Ford A. Simulation scenarios for rapid reduction in carbon dioxide emissions in the western electricity system. Energ Policy 2008; 36: 443-55. http://dx.doi.org/10.1016/j.enpol.2007.09.023 tp://dx.doi.org/10.1080/02630259208970657 [21] Li W, Huang GH, Dong C, Liu Y. An in exact fuzzy programming approach for power coal blending. J Environ Inform 2013; 21: 112-8. http://dx.doi.org/10.3808/jei.201300238 Published on 18-12-2015 Accepted on 16-09-2015 Received on 02-03-2015 DOI: http://dx.doi.org/10.6000/1929-6002.2015.04.04.3
https://openalex.org/W4362530189
https://figshare.com/articles/journal_contribution/Supplementary_Material_2_from_Gene_Expression_Profiling_Predicts_the_Development_of_Oral_Cancer/22524354/1/files/39987180.pdf
English
null
Supplementary Material 4 from Gene Expression Profiling Predicts the Development of Oral Cancer
null
2,023
cc-by
1,899
########################################################################### ########## # ANALYSIS of Leukoplakia microarray data # Readme of the R code: ########################################################################### ########## # The following R code was written for the analysis of gene expression microarray data # of leukoplakia samples. The CooxBoost package must be installed prior to running the R script. # Use needs to modify the data directory (Data.dir) to the datafiles. Data dir '//mdadqsfs02/workspace/zhangli/Research/Pierre # The following R code was written for the analysis of gene expression microarray data # of leukoplakia samples. The CooxBoost package must be installed prior to running the R script. # Use needs to modify the data directory (Data.dir) to the datafiles. Data.dir='//mdadqsfs02/workspace/zhangli/Research/Pierre- new/Leukoplakia_LZ/Leukoplakia_LZ' # Use needs to modify the data directory (Data.dir) to the datafiles. Data.dir='//mdadqsfs02/workspace/zhangli/Research/Pierre- # Use needs to modify the data directory (Data.dir) to the Data.dir='//mdadqsfs02/workspace/zhangli/Research/Pierre- new/Leukoplakia_LZ/Leukoplakia_LZ' Data.dir='//mdadqsfs02/workspace/zhangli/Research/Pierre- new/Leukoplakia LZ/Leukoplakia LZ' #installing packages if necessary source("http://bioconductor.org/biocLite.R") biocLite("CoxBoost","peperr","locfit", "rrp") library('CoxBoost') library('peperr') library('locfit') library('Hmisc') library('rrp') #library(survival) #library(affydata) #library(genefilter) #library(sma) #library(Biobase) #library(affy) #library(simpleaffy) #library(multtest) #library(samr) #library(Design) #library(Design) ########################################################################### ########## #step 1: read data ########################################################################### ########## #step 1: read data setwd(Data.dir) set.seed(124) #to reproduce exactly, results shown in the paper, when a different seed is used, the #results differ slightly. setwd(Data.dir) set.seed(124) #to reproduce exactly, results shown in the paper, when a different seed is used, the #results differ slightly. X=read.table("leuko2.txt", sep='\t', header=T,fill=T) Clinic = t(read.table("pleuko.txt", sep='\t', header=T)) colnames(Clinic) = Clinic[1,] S.time = as.numeric(Clinic['oraltime_papa',]) Clinic = Clinic[,is.na(S.time)==F] x=t(X[,-1]) pid= X[,1] x=x[(is.na(S.time)==F),] #NAs must be removed before loading dim(x) #86 29096 # x is a 86 by 29096 numerical matrix with 29096 covariates, which contains x=t(X[,-1]) pid= X[,1] x=x[(is.na(S.time)==F),] #NAs must be removed before loading dim(x) #86 29096 # x is a 86 by 29096 numerical matrix with 29096 covariates, which contains x) #86 29096 x is a 86 by 29096 numerical matrix with 29096 covariates, which ains contains microarray gene expression data # S.time = as.numeric(Clinic['oraltime_papa',]) S.status = as.numeric(Clinic['outcome1',]) # S.time is time to event vector of length n, status = event yes/no (1/0), dim(Clinic) xc=Clinic[c('p63','strata', 'podo','age'),] p63=as.numeric(xc[1,]) strata=as.numeric(xc[2,]) podo=as.numeric(xc[3,]) age=as.numeric(xc[4,]) S.time = as.numeric(Clinic['oraltime_papa',]) S.time = as.numeric(Clinic[ oraltime_papa ,]) S.status = as.numeric(Clinic['outcome1',]) S.time is time to event vector of length n, status = event yes/n / # S.time is time to event vector of length n, status = event y (1/0) #p values and hazard ratios using single variate COxph #p values and hazard ratios using single variate COxph #p values and hazard ratios using single variate COxph tmp.p63 = summary(coxph(Surv(S.time, S.status) ~p63))$coef tmp.strata = summary(coxph(Surv(S.time, S.status) ~strata))$coef tmp.podo = summary(coxph(Surv(S.time, S.status) ~podo))$coef tmp.age = summary(coxph(Surv(S.time, S.status) ~age))$coef i i i ( ) rite.table(clinic.only.coxph, "clinic.only.coxph.txt", sep='\t', uote=F) write.table(clinic.only.coxph, "clinic.only.coxph.txt", sep='\t', quote=F) write.table(clinic.only.coxph, "clinic.only.coxph.txt", sep='\t', quote=F) #Process clinical covariates: xc, imputing missing values with nearest neighbor imputation method rrp. g p p tmp =data.frame(t(Clinic)) colnames(tmp) tmp.new = rrp.impute(data=tmp)$new.data Clinic = t(tmp.new) tmp =data.frame(t(Clinic)) colnames(tmp) xc=Clinic[c('p63','strata', 'podo','age'),] xc=matrix(as.numeric(xc),byrow=F,nrow=4) x1 = cbind(t(xc),x) #note: xc contains the clinical covariates and microarray gene expression data. dim(x);length(S.time); length(S.status) ########################################################################### ########## #step 2: optimize penatlty score for CoxBoost method setwd(paste(Data.dir,'/newout2',sep='')) #Find optimal parameters for model using only microarray data optim.res <- optimCoxBoostPenalty(S.time,S.status,x=x,trace=TRUE,start.penalty=500) #Find optimal parameters for model using only microarray data optim.res <- p optimCoxBoostPenalty(S.time,S.status,x=x,trace=TRUE,start.penalty=500) #Find optimal parameters for model using clinical and microarray data optim.res2 <- optimCoxBoostPenalty(S.time,S.status,x=x1,unpen.index=1:4, trace=TRUE,start.penalty=500) Find optimal parameters for model using clinical and microarray data ptim.res2 <- optimCoxBoostPenalty(S.time,S.status,x=x1,unpen.index=1:4 race=TRUE,start.penalty=500) o.p =optim.res$penalty o.p2 = optim.res2$penalty #Determine optimal boosting steps by cross validation cv.res <- cv.CoxBoost(time=S.time,status=S.status,x=x,m K=5,type="verweij",penalty=o.p) #Determine optimal boosting steps by cross validation cv.res <- cv.CoxBoost(time=S.time,status=S.status,x=x,maxstepno=150, K=5,type="verweij",penalty=o.p) #Determine optimal boosting steps by cross validation cv.res <- cv.CoxBoost(time=S.time,status=S.status,x=x,maxstepno=150, K=5,type="verweij",penalty=o.p) #Determine optimal boosting steps by cross validation, with clinical covariates #Determine optimal boosting steps by cross validation, with clinical covariates cv.res.mand <- cv.CoxBoost(time=S.time,status=S.status,x=x1,unpen.index=1:4,maxstepno=150, K=5,type="verweij",penalty=o.p2) plot(cv.res$mean.logplik, xlab='Boosting step', ylab='Mean Logplik',ty='l',lty=1) gp , y , y ) lines(cv.res.mand$mean.logplik,col='red',lty=2) legend('bottomright', c("without clinical variates", "with clinical legend('bottomright', c("without clinical variates", "with clinical variates"), col = c(1,2), #the optimal boosting steps are: cv.res$optimal.step #118 cv.res$optimal.step #118 cv.res.mand$optimal.step #63 cv.res.mand$optimal.step #63 ########################################################################### ########## CB0 <- CoxBoost(S.time,S.status,x=x,stepno=optim.res$cv.res$optimal.step,penalty=o .p) summary(CB0) coef0 = CB0$coefficients[optim.res$cv.res$optimal.step,] xm0 =cbind(x[,coef0>0], x[,coef0<0]) dim(xm0) #86 41 CB1 <- CoxBoost(S.time,S.status,x1,unpen.index=1:4,stepno=optim.res2$cv.res$optima l.step,penalty=o.p2) summary(CB1) CB1 <- CoxBoost(S.time,S.status,x1,unpen.index=1:4,stepno=optim.res2$cv.res$optima l.step,penalty=o.p2) summary(CB1) coef = CB1$coefficients[optim.res2$cv.res$optimal.step,] m2 =cbind(x1[,coef>0], x1[,coef<0]) # positive and negative markers, th anditory are the first three xm2 =cbind(x1[,coef>0], x1[,coef<0]) # positive and negative markers, the manditory are the first three ncol(x1[,coef>0]); ncol(x1[,coef<0])# the good and the bad prognosis xm2 =cbind(x1[,coef>0], x1[,coef<0]) # positive and negative markers, the manditory are the first three ncol(x1[,coef>0]); ncol(x1[,coef<0])# the good and the bad prognosis markers 13 up (include the the clinical) an 6 dn dim(xm2) #86 21 ncol(x1[,coef>0]); ncol(x1[,coef<0])# the good and the bad prognosis #now, repeat step 2 and 3 by 100 times: coef0.set = NULL perr.value.set=NULL perr.attr.set=NULL for(k in 1:100) { ( ) { cv.res <- cv.CoxBoost(time=S.time,status=S.status,x=x,maxstepno=100, res <- cv.CoxBoost(time=S.time,statu cv.res <- cv.CoxBoost(time=S.time,status=S.status,x=x,maxs K=5,type="verweij",penalty=o.p) CB0 <- CoxBoost(S.time,S.status,x=x,stepno=cv.res$optimal.step,pena oost(S.time,S.status,x=x,stepno=cv.res$optimal.step,penalty=o.p) coef0 = CB0$coefficients[cv.res$optimal.step,] coef0.set = cbind(coef0.set,coef0) xm0 =cbind(x[,coef0>0], x[,coef0<0] xm0 =cbind(x[,coef0>0], x[,coef0<0]) peperr.object <- peperr(response=Surv(S.time, S.status), x=xm0, perr.object <- peperr(response=Surv fit.fun=fit.CoxBoost, args.fit=list(penalty=o.p), complexity=complexity.mincv.CoxBoost, args.complexity=list(penal indices=resample.indices(n=length(S.time), method="sub632", indices=resample.indices(n=length(S.time), method="sub632", ) ) perr.attr.set=cbind(perr.attr.set,peperr.object$attribute) err.value.set = cbind(perr.value.set,as.numeric(perr(peperr.object))) perr.value.set = cbind(perr.value.set,as.numeric(perr(peperr.object))) } rite.table(coef0.set,'coef0.set.txt', sep='\t', row.names=F, quote=F) rite.table(perr.value.set,'perr.value.set.txt', sep='\t', row.names=F, uote=F) write.table(coef0.set,'coef0.set.txt', sep='\t', row.names=F, quote=F) write.table(perr.value.set,'perr.value.set.txt', sep='\t', row.names=F, quote=F) q write.table(perr.attr.set,'perr.attr.set.txt', sep='\t', row.names=F, quote=F) coef1.set = NULL perr.value1.set=NULL perr.attr1.set=NULL for(k in 1:100) { cv.res1 <- cv.res1 < cv.CoxBoost(time=S.time,status=S.status,x=x1,unpen.index=1:4,maxstepno=100, K=5 type="verweij" penalty=o p) res1 < oxBoost(time=S.time,status=S.status,x=x1,unpen.index=1:4,maxstepno=100 K=5,type="verweij",penalty=o.p) CB1 < CoxBoost(S.time,S.status,x=x1,unpen.index=1:4,stepno=cv.res1$optimal.step,p enalty=o.p2) y p coef1 = CB1$coefficients[cv.res1$optimal.step,] coef1.set = cbind(coef1.set,coef1) xm1 =cbind(x1[,coef1>0], x1[,coef1<0]) peperr.object1 <- peperr(response=Surv(S.time, S.status) i i i i fit.fun=fit.CoxBoost, args.fit=list(penalty=o.p2), fit.fun=fit.CoxBoost, args.fit=list(penalty=o.p2), n=fit.CoxBoost, args.fit=list(penalt complexity=complexity.mincv.CoxBoost, args.complexity=list(penalty=o.p2), args.complexity=list(penalty=o.p2), indices=resample.indices(n=length(S.time), method="sub632", sample.n=20), indices=resample.indices(n=length(S.time), method="sub632", sample.n=20), trace TRUE) trace=TRUE) perr.attr1.set=cbind(perr.attr1.set,peperr.object1$attribute) perr.value1.set = cbind(perr.value1.set,as.numeric(perr(peperr.object1))) } perr.attr1.set=cbind(perr.attr1.set,peperr.object1$attribute) perr.value1.set = cbind(perr.value1.set,as.numeric(perr(peperr.object1))) } write.table(coef1.set,'coef1.set.txt', sep='\t', row.names=F, quote=F) write.table(perr.value1.set,'perr.value1.set.txt', sep='\t', row.names=F, quote=F) write.table(coef1.set,'coef1.set.txt', sep='\t', row.names=F, quote=F) write.table(perr.value1.set,'perr.value1.set.txt', sep='\t', row.names=F, quote=F) q write.table(perr.attr1.set,'perr.attr1.set.txt', sep='\t', row.names=F, quote=F) #brief list of nonzero coefficients #brief list of nonzero coefficients count.nz =function(x) sum(abs(x)>0) tmp.sum =apply(coef1.set,1,sum) tmp.freq =apply(coef1.set,1,count.nz) table2 = cbind('PID'=X[,1],tmp.sum[-(1:4)], tmp.freq[-(1:4)] table2 = table2[as.numeric(as.character(table2[,2])) !=0,] dim(table2) table2 = table2[as.numeric(as.character(table2[,2])) !=0,] table2[,2] = table2[,2]/table2[,3] colnames(table2)=c('PID', 'Coef.mean', 'F perr.value.clin.set=NULL perr.attr.clin.set=NULL for( k in 1:100) { peperr.clin <- peperr(response=Surv(S.time, S.status), x=t(xc), fit.fun=fit.coxph, indices=resample.indices(n=length(S.time), method="sub632", sample.n=20), trace=TRUE) perr.attr.clin.set=cbind(perr.attr.clin.set,peperr.clin$attribute) perr.value.clin.set = cbind(perr.value.clin.set,as.numeric(perr(peperr.clin))) } write.table(perr.value.clin.set,'perr.value1.clinic.only.set.txt', sep='\t', row.names=F, quote=F) write.table(perr.attr.clin.set,'perr.attr1.clinic.only.set.txt', sep='\t', row.names=F, quote=F) peperr.clin <- peperr(response=Surv(S.time, S.status), x=t(xc), fit.fun=fit.coxph, indices=resample.indices(n=length(S.time), method="sub632", sample.n=20), trace=TRUE) perr.attr.clin.set=cbind(perr.attr.clin.set,peperr.clin$attribute) perr.value.clin.set = cbind(perr.value.clin.set,as.numeric(perr(peperr.clin))) } write.table(perr.value.clin.set,'perr.value1.clinic.only.set.txt', sep='\t', row.names=F, quote=F) write.table(perr.attr.clin.set,'perr.attr1.clinic.only.set.txt', sep='\t', row.names=F, quote=F) peperr.clin <- peperr(response=Surv(S.time, S.status), x=t(xc), fit.fun=fit.coxph, indices=resample.indices(n=length(S.time), method="sub632", sample.n=20), trace=TRUE) perr.attr.clin.set=cbind(perr.attr.clin.set,peperr.clin$attribute) perr.value.clin.set = cbind(perr.value.clin.set,as.numeric(perr(peperr.clin))) } write.table(perr.value.clin.set,'perr.value1.clinic.only.set.txt', sep='\t', row.names=F, quote=F) sep= \t , row.names=F, quote=F) write.table(perr.attr.clin.set,'perr.attr1.clinic.only.set.txt', sep='\t', row.names=F, quote=F) ########################################################################### ########## #step 4: produce output files and graphs #step 4: produce output files and graphs step 4: produce output files and graphs #drawing errbars on micr array data xm =apply(perr.value.set ,1,mean) perr.sd = apply(perr.value.set ,1,sd) errbar(perr.attr.set[,1], xm,xm+perr.sd, xm-perr.sd, xlim=c(0,7), ylim=c(0,0.3), l b 'Ti ( )' l b 'P d iti t ') #drawing errbars on micr array data xm =apply(perr.value.set ,1,mean) perr.sd = apply(perr.value.set ,1,sd) errbar(perr.attr.set[,1], xm,xm+perr.sd, xm-perr.sd, xlim=c(0,7), ylim=c(0,0.3), i ( ) i i ) errbar(perr.attr.set[,1], xm,xm+perr.sd, xm-perr.sd, xlim=c(0,7), ylim=c(0,0.3), xlab='Time(year)', ylab='Predcition err rate') lines(perr.attr.set[,1], xm, ty='l', lwd=2) #drawing errbars on micr+clinical array data xm1 =apply(perr.value1.set ,1,mean) perr.sd1 = apply(perr.value1.set ,1,sd) errbar(perr.attr1.set[,1], xm1,xm1+perr.sd1, xm1-perr.sd1, xlim=c(0,7), ylim=c(0,0.55), #drawing errbars on micr+clinical array data 1 l ( l 1 1 ) #drawing errbars on micr+clinical array data r.sd1 = apply(perr.value1.set ,1,sd) rrbar(perr.attr1.set[,1], xm1,xm1+perr.sd1, xm1-perr.sd1, xlim=c(0,7), lim=c(0,0.55), xlab='Time(year)', ylab='Predcition err rate',add=T,col=2) xlab='Time(year)', ylab='Predcition err rate',add=T,col=2) lines(perr.attr1.set[,1], xm1, ty='l', lwd=2,col=2) lines(perr.attr1.set[,1], xm1, ty='l', lwd=2,col=2) #drawing errbars on clinical array data #drawing errbars on clinical array data #drawing errbars on clinical array data xm.c =apply(perr.value.clin.set ,1,mean) perr.sd.clin = apply(perr.value.clin.set ,1,sd) errbar(perr.attr.clin.set[,1], xm.c,xm.c+perr.sd.clin, xm.c-perr.sd.clin, xlim=c(0,7), ylim=c(0,0.55), xm.c =apply(perr.value.clin.set ,1,mean) perr.sd.clin = apply(perr.value.clin.set ,1,sd) rrbar(perr.attr.clin.set[,1], xm.c,xm.c+perr.sd.clin, xm.c-perr.sd.clin lim=c(0,7), ylim=c(0,0.55), errbar(perr.attr.clin.set[,1], xm.c,xm.c+perr.sd.clin, xm.c-perr.sd.clin, xlim=c(0,7), ylim=c(0,0.55), xlab='Time(year)', ylab='Predcition err rate',add=T,col=3) xlab='Time(year)', ylab='Predcition err rate',add=T,col=3) lines(perr.attr.clin.set[,1], xm.c, ty='l', lwd=2,col=3) lines(perr.attr.clin.set[,1], xm.c, ty='l', lwd=2,col=3) xm.rr =apply(perr.value.r.set ,1,mean) perr.sd.r = apply(perr.value.r.set ,1,sd) errbar(perr.attr.r.set[,1], xm.rr,xm.rr+perr.sd.r, xm.rr-perr.sd.r, xlim=c(0,7), ylim=c(0,0.55), perr.sd.r = apply(perr.value.r.set ,1,sd) rrbar(perr.attr.r.set[,1], xm.rr,xm.rr+perr.sd.r, xm.rr-perr.sd.r, lim=c(0,7), ylim=c(0,0.55), errbar(perr.attr.r.set[,1], xm.rr,xm.rr+perr.sd.r, xm.rr-perr.sd.r, xlim c(0 7) ylim c(0 0 55) xlab='Time(year)', ylab='Predcition err rate',add=T,col=4) lines(perr.attr.r.set[,1], xm.rr, ty='l', lwd=2,col=4) legend('topleft', c("Null", "Model 1","Model 2","Model 3"), lty=c(1 col = c('blue','black','red','green'), merge = TRUE,lwd=2) write.table(file='coeff.txt', cbind('pid'=pid,'coeff.mic.and.clinic'=coef[- (1:4)],'coef.mic.only'=coef0), sep='\t',row.names=F, quote=F) coeff.with.clinical=CB1$coefficients[cv.res1$optimal.step, -(1:4)] t.co =coeff.with.clinical[coeff.with.clinical !=0] xt.co =x[,coeff.with.clinical !=0] oral.cancer.index =xt.co %*% t.co summary(coxph(Surv(S.time, S.status) ~ oral.cancer.index)) #pvalue: 7.8e-16 high =rep(1, length(oral.cancer.index)) high[oral.cancer.index<median(oral.cancer.index)]=0 png('survival KMplot-new.png') plot(survfit(Surv(S.time, S.status) ~ high), lty=c(1,1), col=c('green','red'), lwd=3, xlab='Time(year)', ylab='Oral Cancer-Free Survival') for(k in 1:50) { bs=sample(1:86, replace=TRUE) bs.S.time = S.time[bs] bs.S.status = S.status[bs] bs.oral.cancer.index = oral.cancer.index[bs] high =rep(1, length(bs.oral.cancer.index)) high[bs.oral.cancer.index<median(bs.oral.cancer.index)]=0 lines(survfit(Surv(bs.S.time, bs.S.status) ~ high), lty=c('dotted','dotted'), col=c('green','red')) } dev.off() ########################################################################### ########## #step 5: #Ten fold cross validation with DLDA ########################################################################### ######## write.table(file='coeff.txt', cbind('pid'=pid,'coeff.mic.and.clinic'=coef[- cbind('pid'=pid,'coeff.mic. step 4: produce output files and graphs (1:4)],'coef.mic.only'=coef0), (1:4)],'coef.mic.only'=coef0), sep='\t',row.names=F, quote=F) coeff.with.clinical=CB1$coefficients[cv.res1$optimal.step, -(1:4)] t.co =coeff.with.clinical[coeff.with.clinical !=0] xt.co =x[,coeff.with.clinical !=0] oral.cancer.index =xt.co %*% t.co summary(coxph(Surv(S.time, S.status) ~ oral.cancer.index)) #pvalue: 7.8e-16 high =rep(1, length(oral.cancer.index)) high[oral.cancer.index<median(oral.cancer.index)]=0 high[oral.cancer.index<median(oral.cancer.index)]=0 png('survival KMplot-new.png') plot(survfit(Surv(S.time, S.status) ~ high), lty=c(1,1), c('green','red'), lwd=3, xlab='Time(year)', ylab='Oral Cancer-Free Survival') bs=sample(1:86, replace=TRUE) bs.S.time = S.time[bs] bs.S.status = S.status[bs] bs.oral.cancer.index = oral.cancer.index[bs] high =rep(1, length(bs.oral.cancer.index)) lines(survfit(Surv(bs.S.time, bs.S.status) ~ high) lty=c('dotted','dotted'), col=c('green','red')) } ########################################################################### ########## #step 5: #Ten fold cross validation with DLDA ########################################################################### ######## resultx = NULL pid.top50=NULL ########## #step 5: #Ten fold cross validation with DLDA ########################################################################### ######## resultx = NULL # remove samples with inadequate follow up time: # remove samples with inadequate follow up time: filter = (S.status==1) | (S.time>5) x2=x[filter,] S2.time=S.time[filter] S2.status=S.status[filter] i ( ) ( ) ( i ) # # # # remove samples with inadequate follow up time: filter = (S.status==1) | (S.time>5) x2=x[filter,] S2.time=S.time[filter] S2.status=S.status[filter] dim(x2); length(S2.status);length(S2.time) #69 29096# 69 #69 dim(x2); length(S2.status);length(S2.time) #69 29096# 69 #69 ls.list = sample(1:length(S2.time),63) # learning set samples p ( g ( ), ) g p ls= x2[ls.list,] # learning dataset ls= x2[ls.list,] # learning dataset x2[ls.list,] # learning dataset ts= x2[-ls.list,]# testing dataset ls.time = S2.time[ls.list] #learnging set survival time ls.time = S2.time[ls.list] #lea ls.status= S2.status[ls.list] cll=ls.time<5 # cll: class labels with cll=T represents short survivor # p t.cll= (S2.time[-ls.list]<5) t.cll= (S2.time[-ls.list]<5) t.cll= (S2.time[-ls.list]<5) p.value=rep(NA, ncol(ls)) for( k in 1: ncol(ls)) { p.value[k]=1 if(sd(ls[,k])>0.4) { p.value[k] =cph(Surv(ls.time, ls.status) ~ ls[,k])$stats[5] } } #select top 50 markers nmark=50 r = rank(p.value,ties.method='random') pid.top50 =c(pid.top50, pid[r<=nmark]) m.set = ls[,r<=nmark] t.set = ts[, r<=nmark] if(ncol(m.set)<49) stop("rank order of p values wrong. marker gene set not found") fit = stat.diag.da(ls=m.set,cll=cll,ts=t.set,pool=1) if(sum(table(fit$pred,t.cll))>8) stop("sample size >8") resultx = rbind(resultx,c(fit$pred,t.cll)) } t.1 = resultx[,c(1,7)] for(k in 2:6) t.1 = rbind(t.1, resultx[,c(k,k+6)]) table(paste(paste("A",t.1[,1], sep=""), t.1[,2],sep="")) # A00 A01 A10 A11 # 294 30 77 199 tx=sort(table(pid.top50),decreasing=T) pid.top50.DLDA =cbind('pid.top50'=names(tx), 'freq'=tx) pid.markers =cbind('pid'=pid[coeff54.with.clinical !=0],'coeff'=coeff54.with.clinical[coeff54.with.clinical !=0]) pid.top50.freq= merge(pid.markers,pid.top50.DLDA, by.x=1,by.y=1, all.x=T,all.y=T) write.table(pid.top50.freq, 'pid.top50.freq.txt', row.names=F, quote=F,sep='\t') ################################################################## #################SAMR analysis ############################ genenames=paste('g', 1:nrow(t(x2)),sep='') geneid=as.character(1:nrow(t(x2))) d=list(x=ls,y=ls.time,censoring.status=ls.status,geneid=geneid,genenames=ge nenames) d list(x t(x2) y S2 time censoring status S2 status geneid geneid genenames for( k in 1: ncol(ls)) { p.value[k] =cph(Surv(ls.time, ls.status) ~ ls[,k])$stats[5] } #select top 50 markers #select top 50 markers r = rank(p.value,ties.method='random') pid.top50 =c(pid.top50, pid[r<=nmark]) m.set = ls[,r<=nmark] t.set = ts[, r<=nmark] if(ncol(m.set)<49) stop("rank order of p values wrong. marker gene set not found") if(ncol(m.set)<49) stop("rank order of p values wrong. step 4: produce output files and graphs marker gene set not found") fit = stat.diag.da(ls=m.set,cll=cll,ts=t.set,pool=1) if(sum(table(fit$pred,t.cll))>8) stop("sample size >8") t.1 = resultx[,c(1,7)] for(k in 2:6) t.1 = rbind(t.1, resultx[,c(k,k+6)]) for(k in 2:6) t.1 = rbind(t.1, resultx[,c(k,k+6)]) table(paste(paste("A",t.1[,1], sep=""), t.1[,2],sep="")) tx=sort(table(pid.top50),decreasing=T) pid.markers =cbind('pid'=pid[coeff54.with.clinical !=0],'coeff'=coeff54.with.clinical[coeff54.with.clinical !=0]) pid.top50.freq= merge(pid.markers,pid.top50.DLDA, by.x=1,by.y=1, all.x=T,all.y=T) pid.top50.freq= merge(pid.markers,pid.top50.DLDA, by.x=1,by.y=1, all.x=T,all.y=T) write.table(pid.top50.freq, 'pid.top50.freq.txt', row.names=F, quote=F,sep='\t') ################################################################## #################SAMR analysis ############################ genenames=paste('g', 1:nrow(t(x2)),sep='') geneid=as.character(1:nrow(t(x2))) d=list(x=ls,y=ls.time,censoring.status=ls.status,geneid=geneid,genenames=ge nenames) genenames=paste('g', 1:nrow(t(x2)), geneid=as.character(1:nrow(t(x2))) g d=list(x=ls,y=ls.time,censoring.status=ls.status,geneid=geneid,genenames=ge nenames) d=list(x=t(x2),y=S2.time,censoring.status=S2.status,geneid=geneid,genenames =genenames) samr.obj=samr(d, resp.type="Survival", nperms=100) samr.obj=samr(d, resp.type="Survival", nperms=100) delta.table<- samr.compute.delta.table(samr.obj,min.foldchange=1.5) t.0 = samr.compute.siggenes.table(samr.obj, del=0.2, data=d, delta.table, min.foldchange=1.5) samr.plot(samr.obj,del=1.5)
https://openalex.org/W4255727431
https://asdj.journals.ekb.eg/article_169175_99ba064695498a37a2ca590db787e8e1.pdf
English
null
December index 2020
Deleted Journal
2,020
cc-by
749
ASDJ AINSHAMS DENTAL J O U R N A L Contents Section I :Dental Material Science Section 1.Effect of Dimethyl Sulfoxide wet bonding technique on dentin wettability and resin-dentin bond strength; an In vitro study ….1 Dalia A. Youssef, Mohamed M. Kandil, Tarek S. El-Dine Hussein Section II:Fixed Prosthodontics Endodontics, Conservative Section 1. Effect of Different Light Curing Distances on Surface Hardness of Two Different Bulk-Fill Flowable Resin- Based Composite Materials …….. 11 Dr. Omaima Hassan Ghallab, Dr. Asmaa Youssef Harhash, &Sara Ismail Abdel Wakeel Mntasser 2.Measurement of mandibular canal diameter using cone beam computed tomography. An experimental pilot study …….23 Alya Mahmoud, Shaimaa Abu Elsadat, &Shehab Al-Din Saber 3.The Effect Of Silver Diamine Fluoride On Bond Strength of Universal Adhesive To Demineralized Dentin ……………30 Amany Y.Radwan, Mohammed M. Anwar & Khaled A. Nour 4.Evaluation of Bond Strength of Two types of Resins with Different Viscositiest to Lithium Disilicate Glass Ceramic after Two Types of Surface Treatments. (In vitro study)…………..38 Haitham Tohamy, Marwa M. Wahsh & Maged Zohdy 5.Accuracy of Two Electronic Apex locators in Determining Simulated Root perforation (In Vitro Study)…………….51 Mohamad Samir ,Abeer Elgendy, &Tarek ElSewefy 6. Clinical Study Comparing The Internal Adaptation And Marginal Fit Of All-Ceramic Zirconia Fixed Restorations Obtained From Conventional And Digital Intra oral Impression Techniques. (Randomized Controlled Clinical Trial)………..60 Rivan Mahmoud Gamal , BDS / Suzan Mahmoud El said, BDS, MSD, PhD &Rabab Mohamed Ibrahim BDS, MDS, PhD Section III :Histopathologoical Section .Accuracy of Two Electronic Apex locators in Determining Simulated Root perforation (In Vitro t d ) 51 Section III :Histopathologoical Section 1.Investigation of the toxic effect of titanium dioxide nanoparticles and the possible recovery after 4 weeks withdrawal on the submandibular salivary gland of albino rats: An in vivo study ................... 70 1.Investigation of the toxic effect of titanium dioxide nanoparticles and the possible recovery after 4 weeks withdrawal on the submandibular salivary gland of albino rats: An in vivo study ................... 70 Mark Mokhles Fekry, Medhat Ahmed El-Zainy & Reham Magdy Amin 2. Comparative study on the effect of Grape seed extract and sodium fluoride on demineralized Cementum of Human premolar samples ....................... 77 Abeer A.A. Mohamed, Medhat A. El-Zainy & Dahlia Ghazy M. Rateb 1.Investigation of the toxic effect of titanium dioxide nanoparticles and the possible recovery after 4 weeks withdrawal on the submandibular salivary gland of albino rats: An in vivo study ................... 70 Mark Mokhles Fekry, Medhat Ahmed El-Zainy & Reham Magdy Amin 2. Comparative study on the effect of Grape seed extract and sodium fluoride on demineralized Cementum of Human premolar samples ....................... 77 Ab A A M h d M dh A El Z i & D hli Gh M R b Mark Mokhles Fekry, Medhat Ahmed El-Zainy & Reham Magdy Amin 2. Comparative study on the effect of Grape seed extract and sodium fluoride on demineralized Cementum of Human premolar samples ....................... 77 Section IV :Oral & Maxillofacial Surgery Section 1 S i l M t f V l h l Section IV :Oral & Maxillofacial Surgery Section Section IV :Oral & Maxillofacial Surgery Section y 1. Leukocyte - Platelet Rich Fibrin (L-PRF) in Combin with Tunneling Technique in Management of Ging Recession: Randomized Clinical Study……..91 Section VI :Orthodontics & Pedodontics 'Section 1.Modified Haas Expander for Relief of Crowding in Children A Randomized Controlled Trial …………………..96 Mohamed Moustafa Hadhoud, Hamdy Hafez Elzahed, Ibrahim Mazen Negm & Noha Hussien Abbas Section VII : Prosthodontics' Section 1. Comparing Two Suggested Techniques to Correct Improperly Angulated Implants in Mandibular Kennedy Class I Implant Supported Partial Overdenture ………….105 Noura A. EL-batrick, Hany Eid & Shaimaa Lotfy 2. Stress Induced by Mandibular Screw Retained Hybrid Denture on “All-On-Four” Implant Distribution: Comparison between Three Different Hybrid Denture Materials: In-Vitro Study ……………..111 Ingy Amin Talaat, Yasmine Thabet,& Essam Ragab Abd-Ellah Section VI :Orthodontics & Pedodontics 'Sec 1.Modified Haas Expander for Relief of Crowding in Children A Randomized Controlled Trial …………………..96 Mohamed Moustafa Hadhoud, Hamdy Hafez Elzahed, Ibrahim Mazen Negm & Noha Hussien Abbas 1. Comparing Two Suggested Techniques to Correct Improperly Angulated Implants in Mandibular Kennedy Class I Implant Supported Partial Overdenture ………….105 Noura A. EL-batrick, Hany Eid & Shaimaa Lotfy 1. Comparing Two Suggested Techniques to Correct Improperly Angulated Implants in Mandibular Kennedy Class I Implant Supported Partial Overdenture ………….105 Noura A. EL-batrick, Hany Eid & Shaimaa Lotfy 2. Stress Induced by Mandibular Screw Retained Hybrid Denture on “All-On-Four” Implant Distribution: Comparison between Three Different Hybrid Denture Materials: In-Vitro Study ……………..111 Ingy Amin Talaat, Yasmine Thabet,& Essam Ragab Abd-Ellah
https://openalex.org/W4323856436
https://www.ijfmr.com/papers/2023/2/1778.pdf
English
null
Perceptions of Stakeholders towards College Autonomy on Quality of Higher Education in Northern and Southern Odisha
International Journal For Multidisciplinary Research
2,023
cc-by-sa
7,222
ABSTRACT The main aim of the study was to investigate the perception of stakeholder towards college autonomy on quality in higher education. The present study has been conducted in two autonomous (VD College, Jeypore and MPC College, Baripada and two non-autonomous (DAV College, Koraput and Women’s College, Baripada) government colleges in the southern and northern regions of Odisha, India. The perceptions of students, parents, and teachers of autonomous colleges relating to their satisfaction with different quality dimensions of higher education have been compared with the perceptions of students, parents, and teachers of non-autonomous colleges using 't’ test to assess the impact of college autonomy on quality in higher education. The impact of college autonomy on quality in higher education was explored using the causal comparative method taking non-autonomous colleges as control group. The study found that; i) college autonomy impacts positively on quality of teacher, curriculum, co-curricular activities, method of teaching, library, infrastructural facilities and examination system; ii) college autonomy impacts positively on students’ achievement; iii) college autonomy impacts positively on customer orientation, client education, quality in education, teachers’ participation, innovation and linkages. The study recommended that autonomous colleges should be sufficiently funded by central government, UGC and state government or should be provided opportunity to generate their own financial resources to carry out developmental activities for achieving total quality in higher education. It is recommended that steps should be taken to institute appropriate mechanism in every autonomous college to look into teachers’ recruitment and promotion policy; terms and conditions of services; and techniques of inspiration, motivation and involvement. Autonomous colleges should be given administrative freedom to recruit teachers and other members of non teaching staff in conformity with UGC guidelines. Autonomy, quality and accountability are interrelated. Autonomy without accountability cannot ensure quality in higher education. Proper guidelines and regulations need to be formulated to ensure both autonomy and accountability in higher education. Keywords: Quality education, autonomy, accountability, perception, development International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com Perceptions of Stakeholders towards College Autonomy on Quality of Higher Education in Northern and Southern Odisha Ms. Subhasmita Das Ms. Subhasmita Das Ph.D. Research Scholar, PG Dept. of Education, Fakir Mohan University, Balasore, Odisha . Research Scholar, PG Dept. of Education, Fakir Mohan University, Balasore, Odisha IJFMR23021778 International Journal for Multidisciplinary Research (IJFMR) through teaching, research and extension service. Higher education operates within different contexts in which it plays numerous roles and faces various challenges. The improvements in higher education lead to social development and social change. Higher education empowers people by raising the quality of life. It is about learning to know, learning to do, learning to be and learning to live together (Faure, 1972). Learning, research and extension service at higher education institutions are the forefronts of knowledge generation and dissemination, and are thus important contributors to forces of social change. through teaching, research and extension service. Higher education operates within different contexts in which it plays numerous roles and faces various challenges. The improvements in higher education lead to social development and social change. Higher education empowers people by raising the quality of life. It is about learning to know, learning to do, learning to be and learning to live together (Faure, 1972). Learning, research and extension service at higher education institutions are the forefronts of knowledge generation and dissemination, and are thus important contributors to forces of social change. In most parts of the developing countries, education in general and higher education in particular is seen as playing an indispensable role in national economic development. It cultivates necessary civil values for societal and political participation. Development of a nation depends on how government utilizes the national higher education system to train people in skills necessary for economic growth. Higher education is also seen as cultivating and inculcating social and moral values in students and communities. It plays an integral role in social and cultural transformation or preservation. It plays important role in cultivating democratic values or global citizenship. Higher education creates socially responsible graduates capable of leading a country or community towards prosperity and success. Higher education is seen to contribute to human capital and capacity development. It provides the knowledge base skills and training to perform specific tasks and job. More recently, the social and economic role of higher education institutions (HEIs) in development has regained prominence in the development agenda of all countries over the global. The United Nations (UN) has viewed higher education as an integral part to all aspects of development such as environmental awareness and sustainability, post- conflict resolution, poverty alleviation, and cultivating values such as human rights, health care issues and cultural preservation or change. BACKGROUND OF THE STUDY Development of higher education has become the prime task of countries across the world. The role of higher education is vital in the development of a nation. It includes a wide variety of universities and colleges along with other formal, non-formal and informal institutions. Higher education plays a necessary and an increasingly important role in human, social and economic development. Through it is complex fluid and dynamic in nature, it promotes development both directly and indirectly Volume 5, Issue 2, March-April 2023 IJFMR23021778 1 International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com education require to be examined empirically to resolve the discourse on dependence or independence of autonomy and quality in education. education require to be examined empirically to resolve the discourse on dependence or independence of autonomy and quality in education. Grant of autonomy to potential colleges by the universities concerned has been the new trend in Indian higher education since the implementation of the National Policy on Education (MHRD, 1986) to ensure quality and excellence. Autonomous colleges are empowered with academic freedom to frame their own curriculum and syllabi, admit students by conducting entrance examinations, innovate and experiment with new methods and strategies for transacting curriculum, conduct examination and publish results, and award degrees to the students. Provisions are being made in national budget every year to provide substantial grants to autonomous colleges through University Grants Commission (UGC). The UGC has been providing assistance to autonomous colleges to incur expenditure for inviting guests faculties; orienting and retraining teachers; redesigning courses at par with international standard; developing teaching learning materials; procuring equipments, furniture, books and journals; reforming examination systems; extending and constructing buildings, organizing workshops and seminars; holding meeting of governing bodies; and providing fees for accreditation. Besides these, the National Assessment and Accreditation Council (NAAC) have been established at Bangalore to assess the quality of colleges. The role of NAAC in assessing the quality of autonomous colleges using pre- fixed criteria is no doubt desirable but not acceptable from research point of view. Use of pre-fixed criteria to judge the quality of goods and services has been denounced by the researchers. The trend, all over the globe, has to evaluate quality of goods and services in terms of how far the goods and services satisfy customers’ or stakeholders’ needs and expectations. Since higher education has come under the service sector, its customers or stakeholders are mainly students, parents, teachers and principals. Therefore, the quality of college autonomy needs to be studied in terms of how far the services provided by autonomous colleges focus on customers’ needs, expectations and satisfaction. Review of literature reveals that no systematic and comprehensive study has been conducted so far either in India or at international level to assess the impact of college autonomy on quality (in terms of satisfaction of students, parents, teachers and principals) in higher education. That’s why the quality of college autonomy needs to be studied in terms of how far the services provided by autonomous colleges focus on stakeholder’s perception. International Journal for Multidisciplinary Research (IJFMR) Society and HEIs are mutually constitutive as society and HEIs co- evolve. The HEIs in general and universities in particular are considered to be the progenitors of social change through the generation and dissemination of knowledge and new ideas especially in the context of globalization . This suggests for re-conceptualization of the importance of HEIs in society, culture and development. Thus, a major theme focused throughout the contemporary literature on higher education is the proactive role of HEIs in the development process. The higher education and its institutions should be aware of its role and base its operations around developmental objectives. Higher education is transformative education. This transformative education creates the potential for wider process of social and human development. O’ Sullivan (1999) argues that education can be critical of transcend or improve discourses and concept of progress and development through shifts of consciousness in transformative learning. It is largely accepted that autonomy and quality are related directly. Researchers have studied quality in higher education as a dependent variable which might be influenced by many factors. Reforms in structural and functional aspects of higher education might be necessary condition, but not sufficient condition in determining quality in education. Quality in education depends on the satisfaction of beneficiaries. There found a dearth of systematic research studies investigating the effect of college autonomy on quality in higher education in terms of satisfaction of such beneficiaries as students, parents, teachers, principals and members of community, except a study conducted by Mohanty (2005). Mohanty’s study compared the satisfaction of students and teachers with some structural and functional aspects of higher education. The findings of his study suffers from methodological shortcomings, and lack of ecological and population validity. The effects of college autonomy on quality in higher Volume 5, Issue 2, March-April 2023 2 IJFMR23021778 2 International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com education require to be examined empirically to resolve the discourse on dependence or independence of autonomy and quality in education. POPULATION AND SAMPLE OF THE STUDY The present study has been conducted in two autonomous (VD College, Jeypore and MPC College, Baripada and two non-autonomous (DAV College, Koraput and Women’s College, Baripada) government colleges in the southern and northern regions of Odisha, India. The study was conducted on students, parents and teachers of autonomous and non-autonomous colleges associated at least one year with various activities of those colleges. The concept of quality was connoted to the satisfaction of such customers of higher education as students, parents, and teachers with different dimensions of education. The population of the present study comprises all students, parents, and teachers of the selected autonomous and non-autonomous colleges. Since it is difficult to include all of them in the purview of this study, a sample of 80 students, 80 parents, and 80 teachers representing the population are selected randomly from the studied colleges. OBJECTIVES OF THE STUDY The objectives of the present study are as follows: 1. To study the college autonomy on quality in higher education in terms of students’ perception relating to the quality of teachers, curriculum, co-curricular activities, methods of teaching, library, laboratory, infrastructural facilities and examination. 1. To study the college autonomy on quality in higher education in terms of students’ perception relating to the quality of teachers, curriculum, co-curricular activities, methods of teaching, library, laboratory, infrastructural facilities and examination. 2. To study the college autonomy on quality in higher education in terms of teachers’ perception relating to the principal as a leader, quality of teachers, linkages and interface, students, co-curricular activities, teaching, office management, relationships, material resources, examinations and job satisfaction. 3. To study the college autonomy on quality in higher education in terms of parents’ perception relating to the students’ achievement, curriculum, quality of teachers, physical facilities, examination system and co-curricular activities. International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com education require to be examined empirically to resolve the discourse on dependence or independence of autonomy and quality in education. The present study seeks answers to such questions as (i) whether there exists any impact of college autonomy on quality in higher education in terms of students’ perception relating to their satisfaction with quality of teachers, curriculum, co-curricular activities, methods of teaching, library, laboratory, infrastructural facilities and examination; (ii) whether there exists any impact of college autonomy on quality in higher education in terms of parents’ perception relating to their satisfaction with students’ achievement, curriculum, quality of teachers, physical facilities, examination system and co- curricular activities; (iii) whether there exists any impact of college autonomy on quality in higher education in terms of principals' perception relating to their satisfaction with customer’s orientation, client education, quality education, participation, innovation, parent’s involvement and linkage; and (iv) whether there exists any impact of college autonomy on quality in higher education in terms of teachers’ perception relating to their satisfaction with principal as a leader, quality of teachers, linkages and interface, students, co-curricular activities, teaching, office management, relationships, material resources, examination and job satisfaction. Volume 5, Issue 2, March-April 2023 IJFMR23021778 3 International Journal for Multidisciplinary Research (IJFMR) relationships, material resources, examination and job satisfaction have been compared to study the magnitude of impact of college autonomy on quality in higher education. METHODOLOGY OF THE STUDY The main purpose of the present study was to investigate the perceptions of stakeholders towards college autonomy on quality in higher education. Since college autonomy in India has been a planned program launched by the central government through University Grants Commission to achieve excellence in higher education, and quality in higher education was understood in the present study as satisfaction of students, parents, and teachers with different educational aspects of higher education; the perception of students, parents, and teachers of both autonomous college and non-autonomous college with regard to different dimensions of higher education have been compared using causal- comparative method and ex-post facto research. Firstly, the perceptions of students of both autonomous and non- autonomous colleges relating to their satisfaction with quality of teachers, curriculum, co-curricular activities, methods of teaching, library, infrastructural facilities and examination have been compared; secondly, the perceptions of parents of students studying in autonomous and non-autonomous colleges relating to their satisfaction with students achievement curriculum, quality of teacher, physical facilities, examination system, co-curricular activities and parents meeting; thirdly, the perceptions of teachers of both autonomous and non-autonomous colleges relating to their satisfaction with principal as leader, teacher quality, linkages and interface, students, co-curricular activities, teaching, office management, Volume 5, Issue 2, March-April 2023 IJFMR23021778 4 rnational Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com Teachers of autonomous colleges were highly competent, well, cooperative, helpful and in taking lots of care as compared to teachers of non-autonomous colleges as perceived by students. Therefore, the null hypothesis stating that there exists no significance of difference between the perception of students of autonomous colleges and non-autonomous colleges relating to satisfaction with quality of teachers was rejected in favour of alternative hypothesis. Table 1 shows that there found significance of difference between the perception of students studying in autonomous colleges and non- autonomous colleges (t =26.726; df = 18; P < 0.05) in favour of students studying in autonomous colleges (M= 20.80000 > M= 6.0000) relating to their satisfaction with curriculum. Further, the analysis shows that students of autonomous colleges were highly satisfied with curriculum as the average perception score of students was greater than the average scale value for the level of satisfaction (M= 20.80000 > M=20.0), whereas, students of non-autonomous colleges were just satisfied with the curriculum as the average perception score of students was greater than the average scale value for neutral level of satisfaction (M=6.0000> M=10.0). The curriculum of autonomous colleges was significantly better than the curriculum of non-autonomous colleges because it included new concepts, theories and principles, and was designed according to the present need of the society as perceived by students. Therefore, the null hypothesis stating that there exists no significance of difference between the perception of the students of autonomous colleges and non-autonomous colleges relating to satisfaction with curricular was rejected in favour of alternative hypothesis. As, it is evident from table 1, there found significance of difference between the perception of students studying in autonomous colleges and non-autonomous colleges (t = 18.635; df = 18; P < 0.05) in favour of students studying in autonomous (M=26.9000 > M=13.9000) relating to their satisfaction with quality of infrastructural facilities in their colleges. Further, it shows that students of autonomous colleges were highly satisfied with infrastructural facilities in their colleges as the average perception score of students was greater than the average scale value for the level of satisfaction (M= 26.9000 > M=25.0), whereas, the students of non-autonomous colleges were just satisfied with infrastructural facilities in their colleges as the average perception score of students was greater than the average scale value for neutral level of satisfaction (M=13.9000> M=10.0). RESULTS AND DISCUSSION The main aim of the study was to investigate the perception of stakeholder towards college autonomy on quality in higher education. Since the concept of quality in the present study was defined as meeting, exceeding and delighting customers’ needs and expectations with the recognition that these needs and desires would change over time (Downey, 1992), the data collected from customers of higher education such as students, parents, and teachers on their perceptions relating to satisfaction with various quality dimensions of higher education by administering the Satisfaction Scale for Students, the Satisfaction Scale for Parents, and the Mukhopadhyay’s Institutional Profile Questionnaire (MIPQ) for teachers were presented, analysed and discussed in this section. The perceptions of students, parents, and teachers of autonomous colleges relating to their satisfaction with different quality dimensions of higher education have been compared with the perceptions of students, parents, and teachers of non-autonomous colleges using 't’ test to assess the impact of college autonomy on quality in higher education. Table 1: College Autonomy and Quality in Higher Education in terms of Students’ Satisfactio Types of College Autonomous College Non-Autonomous College ‘t’ value Level of significance Quality Dimension Mean SD Mean SD Quality of Teachers 25.7000 1.94651 21.1000 2.64365 4.431 0.05 Curriculum 20.8000 0.91894 6.0000 1.49071 26.726 0.05 Co-curricular Activities 21.9000 1.59513 15.7000 1.82878 8.079 0.05 Methods of Teaching 24.7000 1.33749 16.8000 1.93218 10.631 0.05 Library 10.1000 1.59513 2.8000 0.78881 12.972 0.05 Infrastructur al Facilities 26.9000 1.52388 13.9000 1.59513 18.635 0.05 Examination 28.1000 1.52388 17.3000 1.56702 15.625 0.05 Total 158.200 0 10.44096 93.6000 11.84628 97.099 0.05 e 1: College Autonomy and Quality in Higher Education in terms of Students’ Satis Volume 5, Issue 2, March-April 2023 IJFMR23021778 5 rnational Journal for Multidisciplinary Research (IJFMR) The quality of infrastructural facilities in autonomous colleges was better than the non-autonomous colleges as the students in autonomous colleges used to sit comfortably in the classroom, and were satisfied with the urinal, lavatory and drinking water facilities provided in the college. In autonomous colleges, infrastructural facilities like classroom, library, laboratory, playground, garden etc. were available and were maintained properly as compared to non-autonomous college as perceived by students. Therefore, the null hypothesis stating that there exists no significance of difference between the perception of students of autonomous colleges and non-autonomous colleges relating to satisfaction with infrastructural facilities was rejected in favour of alternative hypothesis. In sum, the quality of education as perceived by students studying in autonomous colleges differed significantly from the quality of education in non-autonomous colleges (t =97.099; df = 18; P < 0.05). From the table 1, it is evident that quality of higher education in autonomous colleges was significantly better than the quality of education in non-autonomous colleges (M= 158.2000 >M=93.6000). Volume 5, Issue 2, March-April 2023 IJFMR23021778 6 International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com Table 2: College Autonomy and Quality in Higher Education in terms of Parents’ Satisfaction Type of College Autonomous College Non-Autonomous College ‘t’ value Level of Significance Quality Dimensions Mean SD Mean SD Student’s Achievement 12.9000 0.87560 6.1000 0.99443 16.229 0.05 Curriculum 5.3000 1.15950 2.5000 0.52705 6.952 0.05 Quality of Teacher 12.8000 0.91894 7.1000 1.37032 10.925 0.05 Physical Facilities 11.8000 1.39841 8.6000 1.71270 4.577 0.05 Examination System 11.5000 1.71594 6.0000 1.24722 8.199 0.05 Co- curricular Activities 14.6000 1.42984 10.8000 1.75119 5.315 0.05 Parents’ Meeting 8.7000 1.63639 6.1000 1.79196 3.388 0.05 Total 77.6000 9.13462 47.2000 9.39487 55.585 0.05 International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com ational Journal for Multidisciplinary Research (IJFMR) onomy and Quality in Higher Education in terms of Parents’ Satisfaction From the above analysis, the finding emerged that the parents of students studying in autonomous colleges were just satisfied with the achievement of their children; where as parents of students studying in non-autonomous colleges were dissatisfied with the achievement of their children. Therefore, the null hypothesis stating that there exists no significance of difference between the perception of parents of students studying in autonomous colleges and non-autonomous colleges relating to satisfaction with achievement of their children was rejected in favour of alternative hypothesis. rnational Journal for Multidisciplinary Research (IJFMR) Table 2 shows significance of difference between the perception of parents of students studying in autonomous colleges and parents of students studying in non-autonomous colleges (t = 5.315; df = 18; P < 0.05) in favour of parents of students studying in autonomous colleges (M=14.6000 > M=10.8000) relating to their satisfaction with co-curricular activities organised in colleges. The quality of co-curricular activities in autonomous colleges was better than the quality of co-curricular activities in non- autonomous colleges, because autonomous colleges treated co-curricular activities as an important activity in the college and students were motivated to participate in those activities as perceived by parents. Therefore, the null hypothesis stating that there exists no significance of difference between the perception of parents of students studying in autonomous colleges and non-autonomous colleges relating to satisfaction with co-curricular activities was rejected in favour of alternate hypothesis. Volume 5, Issue 2, March-April 2023 7 IJFMR23021778 7 Volume 5, Issue 2, March-April 2023 rnational Journal for Multidisciplinary Research (IJFMR) Table 3: College Autonomy and Quality in Higher Education in terms of Teachers’ Satisfaction Types of Colleges Autonomous college Non-autonomous college ‘t’ value Level of significance Quality Dimension Mean SD Mean SD Principal as leader 35.4000 1.95505 23.3000 3.91720 8.740 0.05 Teacher quality 49.7000 4.16467 40.2000 4.15799 5.105 0.05 Linkages and interface 22.4000 2.17051 8.5000 2.17307 14.311 0.05 Students 28.0000 3.29983 14.9000 2.46982 10.051 0.05 Co- curricular activities 26.8000 3.19026 15.5000 1.95789 9.546 0.05 Teaching 27.8000 2.57337 21.5000 3.13581 4.911 0.05 Office management 26.5000 3.47211 19.8000 3.01109 4.610 0.05 Relationships 21.4000 1.71270 19.9000 1.72884 1.949 0.05 Material resources 35.8000 2.20101 16.6000 3.86437 13.653 0.05 Table 3: College Autonomy and Quality in Higher Education in terms of Teachers nomy and Quality in Higher Education in terms of Teachers’ Satisfaction Volume 5, Issue 2, March-April 2023 Volume 5, Issue 2, March-April 2023 IJFMR23021778 8 International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com Examination 42.5000 1.71594 36.8000 4.41714 3.804 0.05 Job satisfaction 42.2000 1.81353 31.6000 3.30656 8.888 0.05 Total 358.5000 28.26898 248.6000 34.13978 85.568 0.05 The above table shows that the teachers of autonomous colleges and non autonomous colleges differed significantly on their perception relating to satisfaction with principal as a leader (t=8.740; df=18; P<0.05).The perception of teachers in non autonomous colleges relating to satisfaction with principal as a leader was better than the teachers in autonomous colleges (M=35.4000 <M= 23.3000). From the above analysis, the finding emerged that the teachers of autonomous colleges were highly dissatisfied with the principal as a leader; whereas the teachers of non autonomous colleges were dissatisfied with principal as a leader. Therefore, the null hypothesis stating that there exists no significance of difference between the perception of teachers of autonomous colleges and non autonomous relating to satisfaction with principal as a leader was rejected in favour of alternative hypothesis. Table 3 reveals that teachers of autonomous colleges and non autonomous colleges did not differ significantly on their perception relating to satisfaction with Co-Curricular activities organised in the colleges (t=9.546; df=18; P> 0.05). From the above analysis, the finding emerged that the teachers of autonomous colleges were neither satisfied nor dissatisfied with co-curricular activities organized in the colleges, whereas the teachers of non autonomous colleges were dissatisfied with co-curricular activities organized in the colleges. rnational Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com As it can be seen in table 2, there found significance of difference between the perception of parents of students studying in autonomous colleges and non-autonomous colleges (t=3.388; df=18, P<0.05) in favour of parents of the students studying in autonomous colleges (M=8.7000 > M=6.1000) relating to their satisfaction with parents’ meeting organized in colleges. From the above analysis, the finding emerged that organisation of parents’ meeting in autonomous colleges was significantly better than organisation of parents’ meeting in non-autonomous colleges, although parents of the students studying in autonomous colleges maintained neutrality in the level of satisfaction. Therefore, the null hypothesis stating that there exists no significance of difference between autonomous colleges and non- autonomous in organisation of parents’ meeting was rejected in favour of alternate hypothesis. Quality of higher education from the view of parents’ perception with regard to their satisfaction with autonomous colleges differed significantly from the quality of education in non-autonomous colleges (t = 55.585; df = 18; P < 0.05). From the table 2, it was made clear that the quality of higher education in autonomous colleges was significantly better than the quality of education in non-autonomous colleges (M=77.6000> M=47.2000). It also reveals that autonomous colleges were having significant edges over non-autonomous colleges on student’s achievement, quality of teachers, physical facilities available, examination system, co-curricular activities and organisation of parents meeting, but had a slight edge over curriculum. rnational Journal for Multidisciplinary Research (IJFMR) Therefore, the null hypothesis stating that there exists no significance of difference between the perception of teachers of autonomous colleges and non autonomous colleges relating to satisfaction with co curricular activities was retained. It is also seen that the teachers of autonomous colleges and non autonomous colleges differed significantly on their perception relating to satisfaction with teaching (t=4.911; df =18; P<0.05). The perception of teachers in autonomous colleges relating to satisfaction with teaching was better than the perception of teachers in non autonomous colleges (M=27.8000 > M=21.5000). From the above analysis, the finding emerged that the quality of teaching in autonomous colleges was significantly better than the quality of teaching in non autonomous. Teachers’ of autonomous colleges developed teaching plans, took care for students’ understanding , completed curriculum in time and reviewed their teaching in better line as compared to their counterparts in non autonomous colleges. Therefore, the hull hypothesis stating that there exists no significance of difference between the perception of teachers of autonomous colleges and non autonomous colleges relating to satisfaction with the quality of teaching was rejected in favour of alternative hypothesis. rnational Journal for Multidisciplinary Research (IJFMR) (iii) The students studying in autonomous colleges were satisfied with co-curricular activities organized in the colleges than their counterparts studying in non-autonomous colleges. The curricular activities in autonomous colleges were frequently and systematically organized. (iv) The quality of teaching methods in autonomous colleges were better than non-autonomous colleges as teachers of autonomous colleges used to follow innovative methods in teaching, encourage students to participate in teaching learning process, encourage students to ask questions to clarify their doubts and explain difficult concept and principles clearly. (v) The students of autonomous colleges were more satisfied with the quality of library facilities in autonomous colleges than the students of non-autonomous colleges. The library of autonomous colleges were having sufficient number of books, journals and magazine and reading room facilities. (vi) The quality of infrastructural facilities in autonomous colleges was better than non-autonomous colleges as perceived by the students. In autonomous colleges students used to sit comfortably in the class room. The urinal, lavatory and drinking water facilities provided in autonomous colleges were better than non-autonomous colleges. (vii) The students of autonomous colleges were satisfied with the examination system than the students of non-autonomous colleges. The examination systems in autonomous colleges were conduced smoothly, questions asked in the examinations were free from ambiguity, answer scripts of the students were evaluated properly and impartially, and results were published in time. Findings Based on Parents’ Perception (i) The quality of autonomous college was better than the quality of non autonomous college as perceived by parents. The parents of students studying in autonomous colleges were satisfied with the achievement of their children than the parents of students studying in non-autonomous colleges. (ii) The parents of students studying in both autonomous and non-autonomous colleges showed their satisfaction with the curriculum on similar line. (iii) The teachers’ quality in autonomous colleges was significantly better than the quality teacher in non-autonomous colleges as perceived by parents. (iv) Physical facilities available in autonomous colleges were better than non-autonomous colleges as perceived by parents. (iv) Physical facilities available in autonomous colleges were better than non-autonomous colleges as perceived by parents. (v) The quality of examination system in autonomous colleges was significantly better than non- autonomous colleges as perceived by parents. (vi) The parents of students studying in autonomous colleges were more satisfied with the quality of co- curricular activities organized in the colleges than the parents of the students studying in non- autonomous colleges. (vii) Organization of parents’ meeting in autonomous colleges was significantly better than parents’ meeting organized in non-autonomous colleges. Findings Based on Teachers’ Perception Findings Based on Students’ Perception (i) The students studying in autonomous colleges were more satisfied with their teachers as compared to the students of non-autonomous colleges. Quality of teachers in autonomous colleges was better. They were competent, well, co-operative, and helpful and student concerned. (ii) The curriculums of autonomous colleges were significantly better than the curriculum of non- autonomous colleges as perceived by students. The curriculum of autonomous colleges was designed with new concepts, theories and principles, and was according to the present need of the society. Volume 5, Issue 2, March-April 2023 IJFMR23021778 9 9 rnational Journal for Multidisciplinary Research (IJFMR) (ii) The qualities of teachers of autonomous colleges were significantly better than the quality of teachers in non-autonomous colleges as perceived by teachers. (iii) The teachers of both autonomous and non-autonomous colleges showed their dissatisfaction with linkages and interface. (iv) The teachers of both autonomous and non-autonomous colleges were dissatisfied with their students. (iv) The teachers of both autonomous and non-autonomous colleges were dissatisfied with their students. (v) The teachers of both autonomous and non-autonomous colleges were dissatisfied with co-curricular activities organized in colleges. The teachers of non-autonomous colleges showed more dissatisfaction with co-curricular activities organized in the college. (vi) The quality of teaching in autonomous colleges was significantly better than the quality of teaching in non-autonomous colleges as perceived by teachers. (vii) The teachers of both autonomous and non-autonomous colleges were equally dissatisfied with office management in their colleges. (viii) The teachers in autonomous colleges showed less satisfaction with relationship than the teachers in non-autonomous colleges. (ix) The teachers of autonomous colleges were satisfied with the material resources available in their colleges than the teachers of non-autonomous colleges. (x) The examination system in autonomous colleges was significantly better than the examination system in non-autonomous colleges as perceived by teachers. (x) The examination system in autonomous colleges was significantly better than the examination system in non-autonomous colleges as perceived by teachers. Findings Based on Teachers’ Perception (i) Though, the teachers of both autonomous and non-autonomous colleges were dissatisfied with principals, the teachers of autonomous colleges were more dissatisfied with principals. (i) Though, the teachers of both autonomous and non-autonomous colleges were dissatisfied with principals, the teachers of autonomous colleges were more dissatisfied with principals. Volume 5, Issue 2, March-April 2023 10 IJFMR23021778 rnational Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com relationships, examination system and job bear significant educational implications. It is recommended that Teachers’ Council should be formulated in every autonomous college and teachers’ council meeting should be held frequently. The needs and expectations of teachers are require to be discussed thoroughly and resolved amicably in the meeting. Constructive suggestion of teachers should be acknowledged while planning for developmental activities in the college. There should be teachers’ representative in various committees which look into continuous improvement of the quality in higher education. Further, it is recommended that teachers’ needs and expectations should be given priority for the procurement of books and journals to the college library. They should be involved in developmental activities of the college library. On the basis of the finding of teachers’ dissatisfaction with office management, it is recommended that teachers problems relating to service matters need to be resolved immediately and every autonomous college should have a grievance re-addressable cell. On the basis of the finding that the teachers were dissatisfied with relations, it can be recommended that there should be common room facilities available in every autonomous college and opportunities should be created for continuous interaction, relation and communication among teachers. relationships, examination system and job bear significant educational implications. It is recommended that Teachers’ Council should be formulated in every autonomous college and teachers’ council meeting should be held frequently. The needs and expectations of teachers are require to be discussed thoroughly and resolved amicably in the meeting. Constructive suggestion of teachers should be acknowledged while planning for developmental activities in the college. There should be teachers’ representative in various committees which look into continuous improvement of the quality in higher education. Further, it is recommended that teachers’ needs and expectations should be given priority for the procurement of books and journals to the college library. They should be involved in developmental activities of the college library. On the basis of the finding of teachers’ dissatisfaction with office management, it is recommended that teachers problems relating to service matters need to be resolved immediately and every autonomous college should have a grievance re-addressable cell. On the basis of the finding that the teachers were dissatisfied with relations, it can be recommended that there should be common room facilities available in every autonomous college and opportunities should be created for continuous interaction, relation and communication among teachers. EDUCATIONAL IMPLICATIONS The finding revealing superiority of college autonomy in influencing quality in higher education bears remarkable educational implications. It is recommended that the present scheme of college autonomy which is restricted to a limited number of colleges needs to be extended to a large number of colleges in the country. Both central government as well as state government require to take necessary steps in this regard. The present scheme of college autonomy in India has been restricted to academic autonomy only. Besides academic autonomy, the scheme of college autonomy should make provision for administrative autonomy as well as financial autonomy. College autonomy should be made fully functional in order to enhance quality in higher education. Autonomous colleges should be given freedom to formulate their own rules and regulations for college administration, supervision and accountability in order to ensure continuous improvement. The autonomous colleges should also be given freedom to recruit and promote their members of staff within national and constitutional framework. The finding revealing that principals of autonomous colleges were dissatisfied with the involvement of parents in educational activities of the colleges bears important educational implication. On the basis of this finding, it can be recommended that Parent Teacher Association should be formed in each autonomous colleges and necessary planning should be made for the involvement of parents in curricular, co-curricular and other developmental activities of the colleges. The UGC scheme of college autonomy should focus on involvement of parents and local community members in college activities and necessary guidelines should be prepared in this regard. The finding revealing that teachers of autonomous colleges were dissatisfied with library facilities, principals, linkages and interface, students, co-curricular activities, office managements, Volume 5, Issue 2, March-April 2023 IJFMR23021778 11 CONCLUSION The present study is very much useful in the field of higher education in India and abroad. It is unique of its kind on two grounds. The study ventured to investigate for the first time the quality in higher education empirically in terms of customers’ satisfaction. The impact of college autonomy on quality in higher education was also explored for the first time using the causal comparative method taking non autonomous colleges as control group. The study concludes with the establishment of an empirically verified proposition i.e. college autonomy has positive impact on quality in higher education. The study comes to a close with following generalizations: i) college autonomy impacts positively on quality of teacher, curriculum, co-curricular activities, method of teaching, library, infrastructural facilities and examination system; ii) college autonomy impacts positively on students’ achievement; iii) college autonomy impacts positively on customer orientation, client education, quality in education, teachers’ participation, innovation and linkages. rnational Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com REFERENCES 1. Altbach,P.(2007). Peripheries and centers: Research universities in developing countries, Higher Education Management and Policy, Vol 19, No.2. 1. Altbach,P.(2007). Peripheries and centers: Research universities in developing countries, Higher Education Management and Policy, Vol 19, No.2. 2. Barnett, R. A., “The maintenance of quality in the public sector of UK higher education, in: Higher Education”, 16, 1987, p. 279-301. 2. Barnett, R. A., “The maintenance of quality in the public sector of UK higher education, in: Higher Education”, 16, 1987, p. 279-301. 3. Berdahl, R. (1990). Academic freedom, autonomy and accountability in British Universities. Studies in Higher Education, 15(2): 169-180. 3. Berdahl, R. (1990). Academic freedom, autonomy and accountability in British Universities. Studies in Higher Education, 15(2): 169-180. 4. Berdhal, R (1990). Academic freedom, autonomy and accountability in British Universities. Studies in Higher Education, 15(2): 169-180. 4. Berdhal, R (1990). Academic freedom, autonomy and accountability in British Universities. Studies in Higher Education, 15(2): 169-180. 5. Bladh, A. (2007). Institutional autonomy with increasing dependency on outside actors. Higher Education Policy, 20(3): 243-259. 5. Bladh, A. (2007). Institutional autonomy with increasing dependency on outside actors. Higher Education Policy, 20(3): 243-259. 6. Davanesan ,D.S.(1979). Autonomous college experiment. University News, 27, 20, 528-549, October 15. 6. Davanesan ,D.S.(1979). Autonomous college experiment. University News, 27, 20, 528-549, October 15. 7. Deo, Rahul and Kohli ,Namrata (2014). “A study of Student Satisfaction in Autonomous and Non- Autonomous Institutes in Indore City” .Prestige e-Journal of Management and Research, Vol. 1, No.1. 7. Deo, Rahul and Kohli ,Namrata (2014). “A study of Student Satisfaction in Autonomous and Non- Autonomous Institutes in Indore City” .Prestige e-Journal of Management and Research, Vol. 1, No.1. 8. Dill, D. (2001). The regulation of public research universities: changes in academic competition and implication for university autonomy and accountability. Higher Education Policy, 14(l): 21-35. 9. Downey, C.J. (1992).Quality fit framework. Tailor Road, Thousand Oks: Crown Press Inc Sage Publication Company. 10. Dwibedi, R. (2006). Financing of autonomous colleges in Orissa –A case study of Gangadhar Meher College, Sambalpur. Unpublished Ph.D. Thesis in Education, Bhubaneswar: Utkal University, 11. Gananam, A & Stella, A. (1999). Emerging trends in higher education and their implications for the future. Journal of educational planning and administration, NIEPA, Vol XIII, No. 2, April 1999, PP. 187-197. 12. Goyal J.C., and Ajitsingh, Non-enforcement of conditions of Affiliation in the colleges of Education –a study of reasons, NECERT, New Delhi, 1981. 13. rnational Journal for Multidisciplinary Research (IJFMR) Further, it is recommended that every autonomous college should form Q+ team consisting of teachers, parents, administrators, students and classified personnel. The team should strive to foster opportunities which will create commitment to continual improvement in the college by encouraging open communication, shared participation, and an atmosphere of mutual trust and confidence. The Q+ team should be responsible for planning, implementation and management of the quality process. Besides Q+ team, subcommittees like search for opportunity, education, examination, process improvement corrective action, internal audit and evaluation, research and innovations should be formulated. Further, it is recommended that autonomous colleges should be sufficiently funded by Central Government, UGC and State Government or should be provided opportunity to generate their own financial resources to carry out developmental activities for achieving total quality in higher education. The finding revealing that teachers are not satisfied with their jobs has its educational implication. It is recommended that steps should be taken to institute appropriate mechanism in every autonomous college to look into teachers’ recruitment and promotion policy; terms and conditions of services; and techniques of inspiration, motivation and involvement. Autonomous colleges should be given administrative freedom to recruit teachers and other members of non teaching staff in conformity with UGC guidelines. Autonomy, quality and accountability are interrelated. Autonomy without accountability cannot ensure quality in higher education. Proper guidelines and regulations need to be formulated to ensure both autonomy and accountability in higher education. The personnel involved in higher education should be made aware of their roles, duties and functions. On the basis of the finding of the present study, it is recommended that defined criteria used by the NAAC for assessing and accreditating the quality of higher education in the country should be supplemented with the assessment of customers’ satisfaction. The UGC should allocate and release funds on priority basis to carryout major and minor research projects on different aspects of college autonomy. Research and development should go in a linear direction. Research findings should be utilized for continuous improvement of quality in higher education. Therefore, it is recommended that the UGC should establish appropriate mechanism to collect and utilize research findings for improvement of college autonomy. Volume 5, Issue 2, March-April 2023 IJFMR23021778 12 REFERENCES Harvey, L. & Green, D.(1993). Defining quality in assessment and evaluation in higher education, 18(1). 14. Huisman, J. (2007). The anatomy of autonomy. Higher Education Policy, 20:219-221. Volume 5, Issue 2, March-April 2023 13 IJFMR23021778 International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com E-ISSN: 2582-2160 ● Website: www.ijfmr.com 15. Joseph Thomas, “Commission versus Commission in Higher Education”, Economic & Political Weekly, December 15, 2007, pp 20. 16. M. Manivannan, & K. S. Premila, (2009). “Application of Principles of Total Quality Management (TQM) In Teacher Education Institutions”. Journal of College Teaching & Learning, Vol.6, Number 6. PP 77-88. 17. Mohanty, S.B. (1992). Improving functioning of autonomous colleges in Orissa. University News, 30(18), 13-26. 18. Moses, I. (2007).Institutional autonomy revisited: autonomy justified and accounted. Higher Education Policy, 20(3): 261-274. 19. Muhammad Dilshad, and Hafiz Muhammad Iqbal (2010). “Quality Indicators in Teacher Education Programmes”. Pakistan Journal of Social Sciences (PJSS), V0l. 30, No.2 (December 2010), pp.401- 411. 20. Salamsall, A. (2006). Abstracts paper presented at the 1AU/IAUP President’s symposium on institutional autonomy revisited: National dimensions, cross-regional experiences. Chiang Mai, Thailand. 21. Salmi, J. (2007). Autonomy from the state vs responsiveness to markets. Higher Education Policy, 20(3).223-242. 22. Sizer, J.& Mackie, D. (1995). Greater accountability: The price of autonomy. Higher Education Management, 7(3):323-333. 23. Sudha Rao, K. (1990). Autonomy concept and educational institution. IIMB management Review 5(1), 117-25. 24. Sudha Rao,K.& Mathew,G. (1993).Autonomous scheme: Myths and realities. University News, 31(12), 9-13. 25. Williams, P. (1992). Total quality management: Some thoughts. Higher education, 25(3). 26. Xavier Alphonse S.J., and Mani Jacob, (2000). Autonomous Colleges in India, Lokadobhan Kendra Publications, New Delhi. Volume 5, Issue 2, March-April 2023 IJFMR23021778 14
https://openalex.org/W2417050404
https://europepmc.org/articles/pmc4682069?pdf=render
English
null
Assessing the pollution risk of soil Chromium based on loading capacity of paddy soil at a regional scale
Scientific reports
2,015
cc-by
7,442
Assessing the pollution risk of soil Chromium based on loading capacity of paddy soil at a regional scale eived: 24 July 2015 8 November 2015 OPEN received: 24 July 2015 accepted: 18 November 2015 Published: 17 December 2015 received: 24 July 2015 accepted: 18 November 2015 Published: 17 December 2015 gkai Qu1, Weidong Li2, Chuanrong Zhang2, Biao Huang1 & Yongcun Zhao1 Mingkai Qu1, Weidong Li2, Chuanrong Zhang2, Biao Huang1 & Yongcun Zhao1 The accumulation of a trace metal in rice grain is not only affected by the total concentration of the soil trace metal, but also by crop variety and related soil properties, such as soil pH, soil organic matter (SOM) and so on. However, these factors were seldom considered in previous studies on mapping the pollution risk of trace metals in paddy soil at a regional scale. In this study, the spatial nonstationary relationships between rice-Cr and a set of perceived soil properties (soil-Cr, soil pH and SOM) were explored using geographically weighted regression; and the relationships were then used for calculating the critical threshold (CT) of soil-Cr concentration that may ensure the concentration of rice-Cr being below the permissible limit. The concept of “loading capacity” (LC) for Cr in paddy soil was then defined as the difference between the CT and the real concentration of Cr in paddy soil, so as to map the pollution risk of soil-Cr to rice grain and assess the risk areas in Jiaxing city, China. Compared with the information of the concentration of the total soil-Cr, such results are more valuable for spatial decision making in reducing the accumulation of rice-Cr at a regional scale. With increasing worldwide industrialization and rapid urbanization, pollution of trace metals (i.e., heavy metals) in the terrestrial environment has become a global problem1–3. Trace metals in soil may accumulate in crops, directly or indirectly threatening human health4,5. Therefore, many regulatory bodies in different countries, such as the Ministry of Health of China, the United States Environment Protection Agency (US EPA), the Food and Agriculture Organization (FAO) and Word Health Organization (WHO) of United Nations, have strictly regulated the maximum permitted concentrations of toxic trace metals in foodstuffs6–8. For Chromium (Cr), the maximum permissible limit in rice grain is 1 mg kg−1 in China6, and such standards have the force of law. p g g g Crops can only absorb soil trace metals in dissolved (from soil solution) and exchangeable (from organic and inorganic components) forms, and trace metals in other forms cannot be absorbed directly by plants9. www.nature.com/scientificreports www.nature.com/scientificreports www.nature.com/scientificreports Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 Assessing the pollution risk of soil Chromium based on loading capacity of paddy soil at a regional scale eived: 24 July 2015 8 November 2015 OPEN The LC for a trace metal in soil reflects the risk degree of the level of the trace metal in soil to a crop. permissible limits. The critical threshold (CT) of a trace metal in paddy soil, which corresponds to the permissible limit of the trace metal in crop, may be deduced from the permissible limit and the relationships between the con- centration of the trace metal in crop and its impact factors in soil. These relationships are often calibrated using traditional regression methods such as ordinary least squares regression (OLS)13–15. However, this kind of models are aspatial, that is to say, geographical location information is not considered in the estimation of model parame- ters16–19 and consequently the results obtained do not reflect the local characteristics of the relationships between a trace metal in a crop and its impact factors in the soil. Furthermore, traditional regression analysis methods such as OLS are based on the assumption of independence of field observations, failing to capture spatial data dependence when applied to geo-referenced data20. Global relationships derived from OLS regression analysis between a trace metal in rice grain and related impact factors in paddy fields may deviate considerably from those observed locally, and may provide only an average impression of the relationships over an entire region21. Therefore, GWR may be a useful tool to explore the spatially varying relationships between a trace metal in a crop and the impact factors in the soil. Based on the relationships and the permissible limit for the concentration of a trace metal in crop, the CT of the trace metal in soil that may ensure the concentration of the trace metal in rice grain being below the corresponding permissible limit could be deduced. The CT can reflect the sensitivity of crops to trace metals in soil. In this study, another index, loading capacity (LC), which is defined as the difference between the CT and the real concentration of a trace metal in soil, was assessed. The LC for a trace metal in soil reflects the risk degree of the level of the trace metal in soil to a crop. p Rice is the second most abundant crop worldwide and is the dominant grain in China22. Jiaxing is a typical agricultural area in east China, and rice has been planted there for a long time. Assessing the pollution risk of soil Chromium based on loading capacity of paddy soil at a regional scale eived: 24 July 2015 8 November 2015 OPEN (%) Permissible limit Numbe† Rice Cr (mg kg−1) 0.00 1.15 0.46 0.26 57.16 1.00 5 Soil Cr (mg kg−1) 35.00 122.33 60.63 9.61 15.85 Soil pH 4.48 8.01 6.38 0.61 9.60 Soil organic matter (mg kg−1) 6.62 43.75 24.00 8.80 35.90 Table 1. Sample summary statistics for Cr concentrations in rice grain and three related soil properties in paddy fields. †Number of sampling sites where rice-Cr concentrations exceed the permissible limit for ric grain. permissible limits. The critical threshold (CT) of a trace metal in paddy soil, which corresponds to the permissible limit of the trace metal in crop, may be deduced from the permissible limit and the relationships between the con- centration of the trace metal in crop and its impact factors in soil. These relationships are often calibrated using traditional regression methods such as ordinary least squares regression (OLS)13–15. However, this kind of models are aspatial, that is to say, geographical location information is not considered in the estimation of model parame- ters16–19 and consequently the results obtained do not reflect the local characteristics of the relationships between a trace metal in a crop and its impact factors in the soil. Furthermore, traditional regression analysis methods such as OLS are based on the assumption of independence of field observations, failing to capture spatial data dependence when applied to geo-referenced data20. Global relationships derived from OLS regression analysis between a trace metal in rice grain and related impact factors in paddy fields may deviate considerably from those observed locally, and may provide only an average impression of the relationships over an entire region21. Therefore, GWR may be a useful tool to explore the spatially varying relationships between a trace metal in a crop and the impact factors in the soil. Based on the relationships and the permissible limit for the concentration of a trace metal in crop, the CT of the trace metal in soil that may ensure the concentration of the trace metal in rice grain being below the corresponding permissible limit could be deduced. The CT can reflect the sensitivity of crops to trace metals in soil. In this study, another index, loading capacity (LC), which is defined as the difference between the CT and the real concentration of a trace metal in soil, was assessed. Assessing the pollution risk of soil Chromium based on loading capacity of paddy soil at a regional scale eived: 24 July 2015 8 November 2015 OPEN Under the same soil use and management, many soil properties, such as soil pH and SOM and so on, have been in a relatively stable state in the study area. In this study, a regional scale survey in Jiaxing city, China, was carried out to map the CT of the concentration of Cr (Chromium) in paddy soil (soil-Cr) and its corresponding LC in a soil-rice system at a regional scale, under real field conditions. Soil pH and SOM are two of the major factors affecting soil processes and prop- erties - chemical, physical and biological, such as Eh, CEC and so on23,24. Considering the redundancy among explanatory variables and the large amount of financial and human cost for other minor factors, only three major factors (i.e. soil-Cr, soil pH and soil organic matter) were adopted to explore the joint influence of soil factors on the accumulation of Cr in rice grain in the study area. The specific objectives of this study were to: (1) explore the spatially non-stationary relationships between Cr in rice grain (rice-Cr) and major related soil properties (soil-Cr, soil pH and SOM) using GWR; (2) map the spatial distribution of the CT of soil-Cr that ensures the concentration of rice-Cr not exceeding the corresponding permissible limit; (3) map the LC of soil-Cr to rice crop in Jiaxing city; and (4) delineate the risk areas where rice-Cr may exceed or may potentially exceed the permissible limit. Because the results obtained by the suggested method contained the influence of the crop variety and related soil properties, they would be valuable for developing more specific measures to reduce the accumulation of Cr in rice grain of specific variety in risk areas of the study area. Assessing the pollution risk of soil Chromium based on loading capacity of paddy soil at a regional scale eived: 24 July 2015 8 November 2015 OPEN Many pre- vious studies have shown that the availability of trace metals in soil was associated with several environmental soil factors, including pH, soil organic matter content (SOM), oxidation-reduction status (Eh), cation exchange capacity (CEC), and the concentration of calcium carbonate, clay minerals, Fe and Mn oxides10,11. Apart from the levels of trace metals themselves, soil pH plays the most important role in determining phytoavailability of trace metals in soil, due to its strong effect on speciation and solubility of trace metals both in soil and in soil solution9,12. SOM is the other major environmental factor affecting the phytoavailability of trace metals, being a major contributor to the capability of a soil to retain trace metals in exchangeable forms9.hf p y g The accumulation of a trace metal in rice grain is not only affected by the concentration of the trace metal in paddy soil, but also by rice variety and related soil properties. Therefore, for a specific rice variety, the degree of pollution risk of a trace metal in paddy soil is affected by multiple soil properties, such as soil pH, SOM and so on. However in previous studies, these soil factors were seldom considered in mapping the pollution risk of trace metals in paddy soil at a regional scale. Within a region, all of the environmental factors that impact trace metal phytoavailability in soil are non-stationary spatial variables, which may eventually lead to spatial non-stationarity of the soil trace metal thresholds that ensure concentrations of trace metals in crops do not exceed corresponding 1Key Laboratory of Soil Environment and Pollution Remediation, Institute of Soil Science, Chinese Academy of Sciences, 210008 Nanjing, China. 2Department of Geography and Center for Environmental Sciences and Engineering, University of Connecticut, Storrs, Connecticut 06269. Correspondence and requests for materials should be addressed to M.K.Q. (email: qumingkai@gmail.com) Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 1 www.nature.com/scientificreports/ Properties Min. Max. Mean S.D. C.V. (%) Permissible limit Numbe† Rice Cr (mg kg−1) 0.00 1.15 0.46 0.26 57.16 1.00 5 Soil Cr (mg kg−1) 35.00 122.33 60.63 9.61 15.85 Soil pH 4.48 8.01 6.38 0.61 9.60 Soil organic matter (mg kg−1) 6.62 43.75 24.00 8.80 35.90 Table 1. Sample summary statistics for Cr concentrations in rice grain and three related soil pr in paddy fields. †Number of sampling sites where rice-Cr concentrations exceed the permissible lim grain. Properties Min. Max. Mean S.D. C.V. Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 Results and Discussions Sample data analysis.  Sel Variable Rice Cr Soil Cr Soil pH Soil organic matter Rice Cr 1 0.71** − 0.48** 0.51** Soil Cr 1 − 0.13* 0.09 Soil pH 1 0.07 Soil organic matter 1 Table 2. Pearson’s non-parametric correlation coefficients between rice Cr concentration and related soil properties. *Correlation is significant at the 0.05 level (2-tailed). **Correlation is significant at the 0.01 level (2-tailed). Variable Rice Cr Soil Cr Soil pH Soil organic matter Rice Cr 1 0.71** − 0.48** 0.51** Soil Cr 1 − 0.13* 0.09 Soil pH 1 0.07 Soil organic matter 1 Table 2. Pearson’s non-parametric correlation coefficients between rice Cr concentration and related soil properties. *Correlation is significant at the 0.05 level (2-tailed). **Correlation is significant at the 0.01 level (2-tailed). Table 2. Pearson’s non-parametric correlation coefficients between rice Cr concentration and related soil properties. *Correlation is significant at the 0.05 level (2-tailed). **Correlation is significant at the 0.01 level (2-tailed). Spatially non-stationary relationships. Local regression parameters (i.e. intercept, slopes and local R2) from GWR of rice-Cr against the three explanatory variables (i.e., soil-Cr, pH, and SOM) are presented in Fig. 1. The spatially varied regression parameters estimated by GWR mean that the relationships between rice-Cr and related soil properties were spatially non-stationary, varying from one location to another over the study area (Fig. 1). The influences of the three soil properties on Cr accumulation in rice grain can be explained by their respective regression coefficients. A positive coefficient means a positive contribution while a negative coefficient indicates a negative contribution. Similarly, a large absolute coefficient value means a strong correlation while a small absolute coefficient value indicates a weak correlation. The strength of the influence of each soil factor on Cr accumulation in rice grain changes with the variation of its coefficient value over space.h g gfi p The majority of soil trace metals is bound to minerals and passive SOM, and therefore are not phytoavailable25. However, active SOM may enhance metal phytoavailability by increasing CEC in soil, enhancing metal chelation and increasing the solubility of nutrients in soil solution26. Hence, the influence of SOM on trace metal accumu- lation in plants is not only dependent on its content, but also on its components. Moreover, the phytoavailabilities of different metal minerals vary with soil pH. However, soil pH, and the contents and speciation of soil Cr and SOM, are not the same across the study area. Results and Discussions Sample data analysis.  Sel This fact should be the main reason that causes the effects of the three most important soil properties (i.e., soil-Cu, pH, and SOM) on the accumulation of Cr in rice grain to vary spatially (i.e., show apparent spatial non-stationarity). Rice cultivars may also have an important influence on the accumulation of Cr in rice grain27. In this study, the japonica rice cultivar Xiushui 63, which dominates Jiaxing city, was sampled. If other rice cultivars were planted in the study area, influence of the related soil properties in paddy fields on the Cr accumulation in rice grain might not be exactly the same28–30. Therefore, pollution risk of a trace metal in paddy soil should be closely related to the type of crops grown.h p y y yp p g The explanatory power of the GWR model also varies spatially, as demonstrated by the local estimates of R2 for the model (see Fig. 1e). The R2 map for the GWR model has varying values from 0.51 to 0.92. Considering the redundancy among explanatory variables and the large amount of financial and human cost for other minor factors, only three major factors (i.e. soil-Cr, soil pH and soil organic matter) were adopted to explore the joint influence of soil factors on the accumulation of Cr in rice grain in the study area. It can be seen from Fig. 1e that the three major soil factors (i.e. soil-Cr, soil pH and SOM) could well explained the accumulation of Cr in rice grain. In this study, adaptive bandwidth was used in GWR when modeling the relationships between rice grain and the three most important explanatory variables (i.e., soil-Cr, pH, and SOM). Therefore, the bandwidth in the model changes spatially with the local density of sample points. As the bandwidth declines or enlarges, the GWR analysis becomes increasingly local or global, revealing more or less geographical detail like some sort of spatial microscope20. The sparseness of sample points in the central-northwest zone of the study area may be an important reason why the explanatory power of the GWR model is relatively weak. Spatial distribution of the critical threshold of Cr in paddy soil. The CT values of soil-Cr at all sam- pling locations were deduced using the permissible limit for rice-Cr from the Chinese National Standards and the local relationships between rice-Cr and soil properties calibrated by GWR. Results and Discussions Sample data analysis.  Sel Sample data analysis. Selected descriptive statistics of sample data for rice-Cr concentrations and three impact factors in soil (i.e., soil-Cr, soil pH and SOM) are listed in Table 1. Rice-Cr, soil-Cr and SOM all have wide value ranges. The CVs for rice-Cr, soil-Cr, pH and SOM are 57.16%, 15.85%, 9.60%, and 35.90%, respectively, indicating that rice-Cr, soil-Cr, and SOM exhibited moderate variability in the study area while pH was of low variability. The permissible limit for the concentration of rice-Cr in Chinese National Standards is 1 mg kg−1 6. In this study, five rice samples reached this level, which implied that the concentrations of soil-Cr at these five sampling points all exceeded the corresponding CTs of soil-Cr at these locations. The CTs of soil-Cr vary spatially because the accumulation of Cr in rice grain is related with many spatially variable factors, including soil-Cr, SOM content and type, and soil pH, among others, rather than just total soil-Cr. yp p g j To characterize the global infulence of the three major factors in soil on Cr accumulation in rice grain, we cal- culated the pearson’s non-parametric correlation coefficients between each soil property and rice-Cr (Table 2). The results show that rice-Cr is positively correlated with soil-Cr (correlation coefficient r =  0.71) and SOM (r =  0.51) and negtatively correlated with soil pH (r =  − 0.48), all being significant at the 0.01 level. These global correlation relationships indicate that soil-Cr, soil pH, and SOM all play important roles in Cr accumulation in rice grain, and soil-Cr is the most important factor among the three determinants because it has the highest correlation coefficient with rice-Cr. However, the correlation coefficients between the three soil properies are not significant at the 0.01 level. Therefore, the three major factors were adopted in exploring the joint influence on the accumulation of Cr in rice grain in the study area. Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 2 www.nature.com/scientificreports/ Variable Rice Cr Soil Cr Soil pH Soil organic matter Rice Cr 1 0.71** − 0.48** 0.51** Soil Cr 1 − 0.13* 0.09 Soil pH 1 0.07 Soil organic matter 1 Table 2. Pearson’s non-parametric correlation coefficients between rice Cr concentration and related soil properties. *Correlation is significant at the 0.05 level (2-tailed). **Correlation is significant at the 0.01 level (2-tailed). Results and Discussions Sample data analysis.  Sel The mean CT value (147.28 mg kg−1) is far greater than the mean Cr concentration (60.63 mg kg−1) in paddy soil in Jiaxing city. Therefore, the risk for soil Cr exceeding its local CTs is relatively low in the study area. The CV for soil-Cr CT is 52.09%, indicating moderate variability across the study area. y y The spatial distribution map of CT of soil-Cr, interpolated by OK, is presented in Fig. 2. Low values mainly appear in the west side and two wide east-west strips located in the middle-north and middle-south of the study area. This means that rice is more sensitive to soil-Cr in the west side and two strips than in other places in the study area. Assessing the risk areas of soil Cr to rice grain. The LC of soil-Cr reflects the risk degree of soil Cr at a location to rice grain. The spatial distribution pattern of LC of soil-Cr (Fig. 3a) is similar to the spatial pattern of CT of soil-Cr (Fig. 2). In the study, the mean value of CT is far greater than the mean Cr concentration in paddy soil at sample locations across Jiaxing city. Thus, after soil-Cr CT values were subtracted by corresponding real concentration values of soil-Cr at each location, the overall spatial distribution trend of the differences was not much different from that of the CT values of soil-Cr across the study area. Areas with low LC values should be intensively monitored to prevent further accumulation of Cr in rice grain. The maps for risk areas delineated from the LC map based on different risk grades I, II and III (i.e., 20 mg kg−1 ≤  LC <  50 mg kg−1, 0 mg kg-1 ≤  LC <  20 mg kg−1, LC <  0 mg kg−1) are provided in Fig. 3b. Risk areas mainly occur in the west side and the two east-west stripes, where low LC values were observed and intensive monitoring should be first implemented in these areas. In risk areas of grade III, the LC values of soil-Cr are negative, indicating that rice-Cr may have already exceeded Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 3 www.nature.com/scientificreports/ Figure 1. Local GWR parameters at sampling locations for Cr in rice grain against three mostly related soil properties. Results and Discussions Sample data analysis.  Sel (a) model intercept, (b) regression coefficient of soil Cr concentration, (c) regression coefficient of soil pH, (d) regression coefficient of soil organic matter (SOM), and (e) local estimate of the coefficient of determination (R2) (Local GWR parameters at sampling locations were calculated using the GWR 4.0 and the maps were created using the ArcGIS 9.3). Figure 1. Local GWR parameters at sampling locations for Cr in rice grain against three mostly related soil properties. (a) model intercept, (b) regression coefficient of soil Cr concentration, (c) regression coefficient of soil pH, (d) regression coefficient of soil organic matter (SOM), and (e) local estimate of the coefficient of determination (R2) (Local GWR parameters at sampling locations were calculated using the GWR 4.0 and the maps were created using the ArcGIS 9.3). the permissible limit in these places. In these areas, remedial measures should be implemented, such as increasing soil pH to reduce the phytoavailability of the soil Cr, planting other crops that exhibit weaker propensity for Cr accumulation and so on. In the study, the assessment of the pollution risk of soil-Cr was based on a specific recep- tor, japonica rice cultivar Xiushui 63. The pollution risk of soil-Cr to another rice variety may not be the same, because the absorptive capability of rice crop to trace metals may vary with different rice cultivars. the permissible limit in these places. In these areas, remedial measures should be implemented, such as increasing soil pH to reduce the phytoavailability of the soil Cr, planting other crops that exhibit weaker propensity for Cr accumulation and so on. In the study, the assessment of the pollution risk of soil-Cr was based on a specific recep- tor, japonica rice cultivar Xiushui 63. The pollution risk of soil-Cr to another rice variety may not be the same, because the absorptive capability of rice crop to trace metals may vary with different rice cultivars. Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 Materials and Method Study area and data. h Study area and data. This study was conducted in Jiaxing city, a part of the Taihu Plain in northeast Zhejiang Province (Fig. 4). The study area is bounded by the longitudes of 120°18′  and 121°16′  east, and the latitudes of 30°21′  and 31°2′  north, and has an area of 3915 km2 (Fig. 4). Situated within the northern subtropical monsoonal climate zone, the study site has a temperate-humid climate throughout the year and four distinct seasons, with an average annual temperature of 15.9 °C and an average annual precipitation of 1168.6 mm. Due to the distribution of dense river networks and abundant water resources, Jiaxing is a typical agricultural area in east China, where paddy field is the dominant land use type. The major soil type is Stagnic Anthrosols (i.e. Gleyi- Stagnic Anthrosols, Fe-leachi-Stagnic Anthrosols, Fe-accumuli-Stagnic Anthrosols, Hapli-Stagnic Anthrosols), which were derived from lacustrine alluvium through long-term paddy cultivation31. Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 4 www.nature.com/scientificreports/ www.nature.com/scientificreports/ Figure 2. Spatial distribution of the critical threshold (CT) of Cr in soil that may ensure the concentration of Cr in rice grain being below the permissible limit of Cr in rice grain (ArcGIS 9.3). igure 2. Spatial distribution of the critical threshold (CT) of Cr in soil that may ensure the concentration f Cr in rice grain being below the permissible limit of Cr in rice grain (ArcGIS 9.3). Figure 3. Spatial distributions of the loading capacity (LC) of Cr in soil and the risk areas. (a) loading capacity, (b) risk areas at grade I (20 mg kg−1 ≤  LC <  50 mg kg−1), grade II (0 mg kg−1 ≤  LC <  20 mg kg−1) and grade III (LC <  0 mg kg−1) (ArcGIS 9.3). Figure 3. Spatial distributions of the loading capacity (LC) of Cr in soil and the risk areas. (a) loading capacity, (b) risk areas at grade I (20 mg kg−1 ≤  LC <  50 mg kg−1), grade II (0 mg kg−1 ≤  LC <  20 mg kg−1) and grade III (LC <  0 mg kg−1) (ArcGIS 9.3). Figure 4. Study area and spatial distribution of sampling points (ArcGIS 9.3). Figure 4. Study area and spatial distribution of sampling points (ArcGIS 9.3). Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 5 www.nature.com/scientificreports/ In October, 2006, random sampling of soil and rice grain was conducted in paddy fields for aquatic rice produc- tion, while mountain and urban areas were avoided. β( ) = ( ) ( ) − ˆ u X W u X X W u Y [ ] T T 1 ( ) 2 where X and Y are the one-dimensional arrays formed by the values of variables x and y; W(u) is the local weights matrix, which is calculated from a kernel function that places more weights on locations spatially closer to the calibration location20. As sample densities vary over space, the adaptive bi-square kernel function was adopted for weight estimation in the study. The optimal adaptive bandwidth was chosen based on Akaike information criterion as described in Fotheringham et al.20, and 35 surrounding data points were finally used for calibrating the GWR model at each location. Critical threshold of Cr in paddy soil. The critical threshold (CT) for the concentration of soil-Cr is defined as the maximum concentration of soil-Cr that ensures the concentration of rice-Cr is below its permissi- ble limit. Such an index essentially reflects the sensitivity of rice grain to a trace metal in paddy soil. At a specific location, it can be deduced from the permissible limit of rice-Cr and the local relationships between rice-Cr and its impact factors in soil, which are calibrated by GWR. In this study, the CT of soil-Cr at a specific location was estimated using a function revised from Equation (1): β β β β ( ) = − ( ) − ( ) ( ) − ( ) ( ) ( ) ( ) T P x x u u u u u u u 3 1 1 0 2 2 3 3 1 ( ) 3 where P1 is the permissible limit for the concentration of rice-Cr, T1(u) is the CT of soil-Cr at location u, and the meanings of other symbols are the same as in equation (1). For this study, equation (3) can be more clearly rewritten as where P1 is the permissible limit for the concentration of rice-Cr, T1(u) is the CT of soil-Cr at location u, and the meanings of other symbols are the same as in equation (1). Materials and Method Study area and data. h 160 pairs of samples of rice grain and surface soils (0–15 cm depth) were collected from the same locations in rice fields throughout the study area (Fig. 4). The rice genotype was mainly the japonica rice cultivar Xiushui 63. Rice plants at grain maturity (just before harvest) were cut with scissors underneath their ears. At each sampling point, 4–5 sub-samples within a distance of 10 m surrounding a specific sampling location were randomly chosen to obtain a composite sample.t pi p g y p p Soil samples were air-dried at room temperature (20–22 °C) and after stones or other debris were removed, soil samples were sieved <2 mm. A portion of each soil sample (50 g) was ground in an agate grinder to a particle size of <0.149 mm (i.e., passing through a sieve of 1/100 mm meshes). Grain samples were oven-dried at 38 °C to constant weight. Dried rice samples were first hulled, and then ground using a stainless steel grinder into powder (< 0.25 mm) for trace metal analysis. Standard methods commonly used in China were adopted to measure the concentrations of rice-Cr, soil-Cr, SOM and soil pH32. The total Cr concentrations of soil samples were deter- mined using flame-atomic absorption spectroscopy (FAAS)32. The total Cr concentrations of rice grain samples were determined with graphite furnace atomic absorption spectroscopy (GFAAS)32. Soil pH was measured in a soil suspension (soil:water =  1:2.5 ) with a glass electrode32. Soil organic matter was obtained by the potassium bichromate wet combustion procedure32. For quality control, duplicates, method blanks, and standard reference materials were also analyzed. Geographically weighted regression. GWR was used to model the relationships between rice-Cr and three most related soil properties in paddy soil (i.e. Cr, pH and SOM). Compared with ordinary least square (OLS) regression, GWR has the advantage of taking the spatial locations of samples into consideration, permit- ting parameters to vary spatially, thus better reflecting the spatially varying relationships between dependent and independent variables. Materials and Method Study area and data. h Here a GWR model with one dependent variable and three independent variables was re-written from Fotheringham et al.20 as: ( ) 1 β β β β ε ( ) = ( ) + ( ) ( ) + ( ) ( ) + ( ) ( ) + ( ) ( ) y x x x u u u u u u u u u 1 0 1 1 2 2 3 3 where u denotes a specific spatial location vector; y(u), x1(u), x2(u), x3(u) and ε(u) represent the dependent variable, the three independent variables (i.e. soil Cr, soil pH, SOM) and the Gaussian error term, respectively, at the spatial position u; β0(u), β1(u), β2(u), and β3(u) represent the model intercept for location u and the local regression coef- ficients (i.e., slopes) for independent variables x1, x2, and x3, respectively, at location u. The regression coefficients at location u can be estimated using a weighting function20. β( ) = ( ) ( ) ( ) − ˆ u X W u X X W u Y [ ] 2 T T 1 References The availability of Cd, Pb and Zn and their relationships with soil pH and microbia biomass in soils amended by natural clinoptilolite. Plant Soil Environ. 51, 26–33 (2005). y p 13. Li, F., Shan, X., Zhang, T. & Zhang, S. Evaluation of plant availability of rare earth elements in soils by chemical fractionation multiple regression analysis. Environ. Pollut. 102, 269–277 (1998). p g y ( ) 14. Wang, K., Zhang, C. & Li, W. Predictive mapping of soil total nitrogen at a regional scale: A comparison between geographi weighted regression and ordinary cokriging. Appl. Geogr. 42, 73–85 (2013).i g g y g g pp g 15. Zhao, K. et al. Modeling transfer of heavy metals in soil–rice system and their risk assessment in paddy fields. Environ. Earth Sci. 59, 519–527 (2009).i ( ) 16. Foody, G. M. Geographical weighting as a further refinement to regression modelling: An example focused on the NDVI–rainfall relationship. Remote Sens. Environ. 88, 283–293 (2003).f p 7. Pratt, B. & Chang, H. Effects of land cover, topography, and built structure on seasonal water quality at multiple spatial scales. J Hazard. Mater. 209, 48–58 (2012).i ( ) 18. Zhang, C., Tang, Y., Luo, L. & Xu, W. Outlier identification and visualization for Pb concentrations in urban soils and its implications for identification of potential contaminated land. Environ. Pollut. 157, 3083–3090 (2009). i p 9. Chang, H. & Psaris, M. Local landscape predictors of maximum stream temperature and thermal sensitivity in the Columbia River basin, USA. Sci. Total Environ. 461-462, 587–600 (2013).h 0. Fotheringham, A. S., Brunsdon, C. & Charlton, M. Geographically weighted regression: The analysis of spatially varying relationships 27–64 (John Wiley & Sons, 2002). y 21. Tu, J. & Xia, Z. Examining spatially varying relationships between land use and water quality using geographically weighted regression I: Model design and evaluation. Sci. Total Environ. 407, 358–378 (2008).i g 22. Zhao, K., Liu, X., Zhang, W., Xu, J. & Wang, F. Spatial dependence and bioavailability of metal fractions in paddy fields on m g 22. Zhao, K., Liu, X., Zhang, W., Xu, J. & Wang, F. Spatial dependence and bioavailability of metal fractions in paddy f concentrations in rice grain at a regional scale J Soils Sediments 11 1165 1177 (2011) 22. Zhao, K., Liu, X., Zhang, W., Xu, J. & Wang, F. β( ) = ( ) ( ) − ˆ u X W u X X W u Y [ ] T T 1 The LC at a specific position u can be estimated using: ( ) = ( ) − ( ) ( ) _ _ _    LC T X u u u 6 soil Cr soil Cr soil Cr ( ) = ( ) − ( ) _ _ _    LC T X u u u soil Cr soil Cr soil Cr ( ) 6 where ( ) _ T u soil Cr and ( ) _ X u soil Cr are OK estimates of the CT and the total concentration of soil-Cr at position u, respectively. A smaller LC value indicates higher risk for soil-Cr to exceed the CT at the position u and also indicates that rice grain is more vulnerable to soil-Cr. When the LC of soil-Cr at a location has a negative value, it means that rice-Cr at the location should already exceed its permissible limit. In this study, GWR analyses and kriging interpolation were performed on a regular square grid with a cell size of 400 m ×  400 m. GWR 4.0 was used for performing GWR analyses. ArcGIS 9.3 was used for geostatistical computation and producing maps. References 1. Lee, C. S., Li, X. D., Shi, W. Z., Cheung, S. C. & Thornton, I. Metal contamination in urban, suburban, and country park soils of Hong Kong: A study based on GIS and multivariate statistics. Sci. Total Environ. 356, 45–61 (2006). g y 2. Facchinelli, A., Sacchi, E. & Mallen, L. Multivariate statistical and GIS-based approach to identify heavy metal sources in soils. Environ Pollut. 114, 313–324 (2001). ( ) 3. Qu M. K., Li, W. D., Zhang, C. R., Huang, B. & Zhao, Y. C. Spatially nonstationary relationships between copper accumulation in rice grain and some related soil properties in paddy fields at a regional scale. Soil Sci. Soc. Am. J. 78, 1765–1774 (2014). Ad C T l l h b l b l d k f l (S ) 4. Adriano, D. C. Trace elements in terrestrial environments: Biogeochemistry, bioavailability, and risks of metals. 5–15 (Springer, 2001) 5. Qu M. K., Li, W. D. & Zhang, C. R. Assessing the risk costs in delineating soil nickel contamination using sequential Gaussian simulation and transfer functions. Ecol. Inform. 13, 99–105 (2013). f 6. Ministry of Health of China. Maximum level of contaminants in food (GB2762–2005). (In Chinese) 1–5 (Standards Press of China, Beijing, 2005). j g 7. FAO/WHO. List of contaminants and their maximum levels in foods, 1st edn, vol. XVII. 51–69 (Codex Alimentarius Comm 1984).f ) 8. US EPA. Handbook for non-cancer health effects evaluation. 2–5 (United States Environmental Protection Agency, 2000).hl f 9. Zeng, F. et al. The influence of pH and organic matter content in paddy soil on heavy metal availability and their uptake by rice p Environ. Pollut. 159, 84–91 (2011).fl ( ) 0. Kashem, M. A. & Singh, B. R. Metal availability in contaminated soils: I. Effects of flooding and organic matter on changes in Eh, pH and solubility of Cd, Ni and Zn. Nutr. Cycling Agroecosyst. 61, 247–255 (2001).fl y y g g y 1. Antonladis V., Robinson, J. S. & Alloway, B. J. Effects of short-term pH fluctuations on cadmium, nickel, lead, and zinc availability to ryegrass in a sewage sludge-amended field. Chemosphere 71, 759–764 (2008).h y y g g y 11. Antonladis V., Robinson, J. S. & Alloway, B. J. Effects of short-term pH fluctuations on cadm to ryegrass in a sewage sludge-amended field. Chemosphere 71, 759–764 (2008).h y g g gi p 2. Muhlbachova, G., Simon, T. & Pechova, M. β( ) = ( ) ( ) − ˆ u X W u X X W u Y [ ] T T 1 For this study, equation (3) can be more clearly rewritten as β β β β ( ) = − ( ) − ( ) ( ) − ( ) ( ) ( ) ( ) _ _ _ T P X X u u u u u u u 4 soil Cr rice Cr pH pH SOM SOM soil Cr 0 ( ) 4 where X represents the value of an explanatory variable and u denotes a spatial location vector. In this study, Price_Cr =  1.0 mg kg−1. Kriging interpolation. In this study, ordinary kriging (OK) was used to map the spatial distributions of Cr and CT in paddy soil in Jiaxing city, based on the calculated CT values at 160 sampling locations. OK is a widely used interpolation method for continuous variables, and can minimize the variance of estimation errors and investigation costs33–36. OK is expressed as a linearly weighted average of observations in the neighborhood of unsampled location x0: Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 6 www.nature.com/scientificreports/ ∑λ ( ) = ( ) ( ) = y y x x 5 a n a a 0 1 ∑λ ( ) = ( ) = y y x x a n a a 0 1 ( ) 5 where ( ) y x0 is the predicted value at location x0, ( ) y xa is the value of the target soil property at position xa, and λ a is the weight of the corresponding datum, obtained from the ordinary kriging system with the constraint λ ∑ = = 1 a n a 1 . Here n is the number of sample data in the neighborhood. The interpolated grid had a resolution of 400 m ×  400 m. Readers may see Goovaerts37,38 for more technical description of OK. Loading capacity of Cr in paddy soil. Here we propose the concept of “loading capacity” (LC): The LC for soil-Cr is defined as the difference between the CT and the real concentration of soil-Cr. This index essentially reflects the risk degree of soil-Cr to rice grain. ∑λ ( ) = ( ) = y y x x a n a a 0 1 Acknowledgementsh c o edge e ts This work was supported by the National Natural Science Foundation of China (41401523), the Natural Science Foundation of Jiangsu Province (BK20141055) and the China Postdoctoral Science Foundation Funded Project g This work was supported by the National Natural Science Foundation of China (41401523), the Natural Science h pp y ( ), Foundation of Jiangsu Province (BK20141055) and the China Postdoctoral Science Foundation Funded Project (2014T70554). www.nature.com/scientificreports/ www.nature.com/scientificreports/ 9. Zeng, F., Mao, Y., Cheng, W., Wu, F. & Zhang, G. Genotypic and environmental variation in chromium, cadmium and lead concentrations in rice. Environ. Pollut. 153, 309–314 (2008). 0. Cao, F. et al. Genotypic and environmental variation in cadmium, chromium, lead and copper in rice and approaches for reducing the accumulation. Sci. Total Environ. 496, 275–281 (2014).i the accumulation. Sci. Total Environ. 496, 275–281 (2014). ( ) 1. Gong, Z. T., Zhang, G. L. & Chen, Z. C. Development of soil classification in China. In: Eswaran, H., Ahrens, R., Rice, T. & Stewart B., editors, Soil classification: A global desk reference. 101–125 (CRC Press, 2003). i 32. Agricultural Chemistry Committee of China. Conventional methods of soil and agricultural chemistry analysis. (In Chinese) 25 (Sci. Press, Beijing, 1983).i ( j g ) 33. Ferguson, C. C. et al. Risk Assessment for Contaminated Sites in Europe, Vol. 1. Scientific Basis. 135–146 (LQM Press, 1998). i 34. Saito, H., McKenna, S. A., Zimmerman, D. A. & Coburn, T. C. Geostatistical interpolation of object counts collected from mu strip transects: Ordinary kriging versus finite domain kriging. Stoch. Env. Res. Risk A. 19, 71–85 (2005). i 35. Lark, R. M. & Webster, R. Geostatistical mapping of geomorphic variables in the presence of trend. Earth Surf. Proc. Land. 31, 862 (2006).f (2006). 36. Qu, M. K., Li, W. D., Zhang, C. R. & Wang, S. Q. Effect of Land Use Types on the Spatial Prediction of Soil Nitrogen. Gisci. Remote Sens. 49, 397–411 (2012). 36. Qu, M. K., Li, W. D., Zhang, C. R. & Wang, S. Q. Effect of Land Use Types on the Spatial Prediction Sens. 49, 397–411 (2012). ( ) 37. Goovaerts, P. Geostatistics for natural resources evaluation. 125–185 (Oxford Univ. Press, 1997). 37. Goovaerts, P. Geostatistics for natural resources evaluation. 12 f ( ) 38. Goovaerts, P., Collins, M., Mcbratney, A., Voltz, M. & Walter, C. Estimation or simulation of soil properties? an optimization problem with conflicting criteria. Geoderma 97, 165–186 (2000). 38. Goovaerts, P., Collins, M., Mcbratney, A., Voltz, M. & Walter, C. Estimation or simulation of soil with conflicting criteria. Geoderma 97, 165–186 (2000). Author Contributions M.K.Q., W.D.L. and B.H. designed the experiment; B.H. and Y.C.Z carried out the field work and laboratory analyses; M.K.Q., C.R.Z. and Y.C.Z. performed data analysis; M.K.Q. drafted the manuscript. All authors revised/ reviewed the manuscript. M.K.Q., W.D.L. and B.H. designed the experiment; B.H. and Y.C.Z carried out the field work and laboratory analyses; M.K.Q., C.R.Z. and Y.C.Z. performed data analysis; M.K.Q. drafted the manuscript. All authors revised/ reviewed the manuscript. Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 References Spatial dependence and bioavailability of metal fractions in paddy fields on metal concentrations in rice grain at a regional scale. J. Soils Sediments 11, 1165–1177 (2011).h 22. Zhao, K., Liu, X., Zhang, W., Xu, J. & Wang, F. Spatial dependence and bioavailability of metal fractions in paddy fields concentrations in rice grain at a regional scale. J. Soils Sediments 11, 1165–1177 (2011).h g g 23. Brady, N. C. & Weil, R. R. The Nature and Properties of Soil, thirteenth ed. 321–380 (Springer, Netherlands, 2002).h yh p f g 24. Huang, C. Y. & Xu, J. M. Soil science, Third ed. 29–43 (China Agriculture Press, Beijing, 2010). h 25. Jones, C. & Jacobsen, J. Micronutrients: Cycling, testing and fertilizer recommendations. Nutr. Manage. Module 7. 2–4 (Montana State Univ. Ext. Serv., Bozeman, 2009). 26. McCauley, A., Jones, C. & Jacobsen, J. Soil pH and organic matter. Nutr. Manage. Module 8. (Montana State Univ. Ext. Serv., Bozeman, 2009). ) 27. Kabata-Pendias, A. & Pendias, H. Trace elements in soils and plants. 93–95 (CRC Press, Florida, 1992). , , p ( , , ) 28. Norton, G. J. et al. Environmental and Genetic Control of Arsenic Accumulation and Speciation in Rice Grain: Comparing a Range of Common Cultivars Grown in Contaminated Sites Across Bangladesh, China, and India. Environ. Sci. Technol. 43, 8381–8386 (2009). Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 7 Additional Informationi Competing financial interests: The authors declare no competing financial interests. Competing financial interests: The authors declare no competing financial interests. Competing financial interests: The authors declare no competing financial interests. How to cite this article: Qu, M. et al. Assessing the pollution risk of soil Chromium based on loading capacity f paddy soil at a regional scale. Sci. Rep. 5, 18451; doi: 10.1038/srep18451 (2015). This work is licensed under a Creative Commons Attribution 4.0 International License. The images or other third party material in this article are included in the article’s Creative Commons license, unless indicated otherwise in the credit line; if the material is not included under the Creative Commons license, users will need to obtain permission from the license holder to reproduce the material. To view a copy of this license, visit http://creativecommons.org/licenses/by/4.0/ Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 8
https://openalex.org/W2911407603
https://europepmc.org/articles/pmc6455691?pdf=render
English
null
Japanese cross-cultural validation study of the Pain Stage of Change Questionnaire
Pain reports
2,019
cc-by
7,779
Abstract Abstract Introduction: Although evidence supports efficacy of treatments that enhance self-management of chronic pain, the efficacy of these treatments has been hypothesized to be influenced by patient readiness for self-management. The Pain Stage of Change Questionnaire (PSOCQ) is a reliable and valid measure of patient readiness to self-manage pain. However, there is not yet a Japanese version of the PSOCQ (PSOCQ-J), which limits our ability to evaluate the role of readiness for pain self-management in function and treatment response in Japanese patients with chronic pain. p p p p ctive: Here, we sought to develop the PSOCQ-J and evaluate its psychometric properties. Methods: We recruited 201 patients with chronic pain. The study participants were asked to complete the PSOCQ-J and other measures assessing pain severity, pain interference, catastrophizing, self-efficacy, and pain coping strategies. Results: The results supported a 4-factor structure of the PSOCQ-J. We also found good to excellent internal consistencies and good test–retest reliabilities for the 4 scales. The Precontemplation scale had weak to moderate positive correlations with measures of pain-related dysfunction and maladaptive coping. The Action and Maintenance scales had weak to moderate positive correlations with measures of self-efficacy and adaptive coping. The Contemplation scale had weak positive correlations with measures of pain interference and both adaptive and maladaptive coping. Conclusions: The PSOCQ-J demonstrated adequate psychometric properties in a sample of Japanese patients with chronic pain. This measure can be used to evaluate the role that readiness to self-manage pain may play in adjustment to chronic pain in Japanese pain populations. Keywords: Readiness to change, Motivation, Chronic pain, Cross-cultural validation Sponsorships or competing interests that may be relevant to content are disclosed at the end of this article. a Pain Management Clinic, Shiga University of Medical Science Hospital, Otsu, Shiga, Japan, b Department of Rehabilitation Medicine, University of Washington, Seattle, WA, USA, c Japan Society for the Promotion of Science, Chiyoda, Tokyo, Japan, d Department of Psychology, Concordia University, Montreal, QC, Canada, e Center for Pain Management, Osaka University Medical Hospital, Suita, Osaka, Japan, f Plat Room Suita, Suita, Osaka, Japan, g Sakaue Clinic, Nishinomiya, Hyogo, Japan, h Department of Orthopedic Surgery, Japanese Red Cross Otsu Shiga Hospital, Otsu, Shiga, Japan, i Department of Psychosomatic and General Internal Medicine, Kansai Medical University, Hirakata, Osaka, Japan, j Department of Pharmacy, Ashiya Municipal Hospital, Ashiya, Hyogo, Japan, k Faculty of Health Science, Osaka Yukioka College of Health Science, Ibaraki, Osaka, Japan, l Center for Pain Management, Hayaishi Hospital, Osaka, Osaka, Japan, m Department of Rheumatology, Yukioka Hospital, Osaka, Osaka, Japan, n Nitta Pain Clinic, Toyonaka, Osaka, Japan, o Department of Anesthesiology, Shiga University of Medical Science, Otsu, Shiga, Japan, p Department of Health Science, Naragakuen University, Nara, Japan, q Department of Human Sciences, Graduate School of Human Sciences, Osaka University, Suita, Osaka, Japan *Corresponding author. Address: Pain Management Clinic, Shiga University of Medical Science Hospital, Seta Tsukinowa-cho, Otsu, Shiga 520-2192, Japan. Tel.: 181-77- 548-2281; fax: 181-77-548-2781. E-mail address: a.tom.8567@gmail.com (T. Adachi). Copyright © 2019 The Author(s). Published by Wolters Kluwer Health, Inc. on behalf of The International Association for the Study of Pain. This is an open access article distributed under the Creative Commons Attribution License 4.0 (CCBY), which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Research Paper Japanese cross-cultural validation study of the Pain Stage of Change Questionnaire Tomonori Adachia,b,c,*, Momoka Sunoharad, Kiyoka Enomotoa,e, Keitaro Sasakif, Gaku Sakaueg, Yoshitsugu Fujitah, Yasuyuki Mizunoi, Yoshiaki Okamotoj, Kenji Mikik,l,m, Masao Yukiokam, Kazuhito Nittan, Narihito Iwashitaa,o, Hirotoshi Kitagawao, Masahiko Shibatae,p, Jun Sasakiq, Mark P. Jensenb, Sei Fukuia,o PR9 4 (2019) e711 2.1. Participants The study participants were outpatients with chronic pain recruited from 5 medical facilities: 2 pain clinics at secondary and tertiary care hospitals, 2 orthopedic surgery units at secondary care hospitals, and a unit of psychosomatic medicine at a tertiary care hospital. Eligibility criteria were as follows: (1) history of pain lasting at least 3 months, (2) at least 20 years of age, and (3) ability to read and write Japanese. We excluded individuals who had evidence of psychological dysfunction (eg, medical records indicating a history of dementia, schizophrenia, or substance abuse), which might interfere with study participation. To evaluate the utility of the PRC model, as well as to evaluate the role that readiness to self-manage pain may play in patient function and treatment response, a measure of readiness to self- manage pain with adequate psychometric properties is required. The Pain Stage of Change Questionnaire (PSOCQ)26 is a self- report measure designed to assess the extent to which individuals are considering adopting a self-management ap- proach to pain. The PSOCQ consists of scales representing the 4 stages of change. 1. Introduction approach is believed to be an important factor that may influence treatment dropout, relapse, and adherence.9,18,24 Evidence supports the efficacy of treatments that enhance pain self-management for improving patient function.11,23,48 However, Readiness to change is a key concept of the Transtheoretical Model of Behavior Change (TTM).36–38 The TTM was developed to describe behavior change processes in problematic health behaviors, such as alcohol abuse and smoking. The TTM researchers have also noted substantial treatment dropout and relapse rates, as well as low adherence to these treat- ments.14,35,45,46 Readiness to adopt a self-management http://dx.doi.org/10.1097/PR9.0000000000000711 1 4 (2019) e711 4 (2019) e711 www.painreportsonline.com T. Adachi et al.·4 (2019) e711 PAIN Reports® 2 opposite pattern. We also hypothesized weak associations between the Contemplation scale and measures of pain-related function and coping. We hypothesized that individuals who are participating in exercise would score lower on Precontemplation, and higher on Contemplation, Action, and Maintenance. Be- cause analgesic medication use could potentially be viewed as both an active self-management strategy as well as a passive one, we predicted weak and nonsignificant associations between the PSOCQ-J scales and analgesic medication use. hypothesizes that there are specific stages in a process of behavior change, and that individuals proceed through these stages because they work toward behavior change goals. Kerns and Habib24 proposed a pain readiness to change (PRC) model, which is an adaptation of the TTM for understanding how patients make changes in pain self-management. The PRC model hypothesizes 4 stages of change: Precontemplation (no intention to self-manage pain), Contemplation (considering the adoption of pain self-management), Action (making changes in self- management behaviors), and Maintenance (ongoing use of pain self-management strategies). The PRC model hypothesizes that the stage of change is associated with commitment to treatments teaching self-management strategies.24 In line with this model, high precontemplation has been shown to predict high dropout rates in interdisciplinary treatments.4,12,25 Moreover, decrease in the precontemplation and increases in the Contemplation, Action, and Maintenance have been shown to be associated with increases in use of adaptive coping strategies and improved outcomes.5,10,12,21 opposite pattern. We also hypothesized weak associations between the Contemplation scale and measures of pain-related function and coping. We hypothesized that individuals who are participating in exercise would score lower on Precontemplation, and higher on Contemplation, Action, and Maintenance. 2.2. Procedure We first translated the English PSOCQ instructions and items into Japanese using standard translation procedures (see Study Measures section). Study participants were then invited to participate in the study when they came each facility for their routine clinic visits. We also invited participants who returned to the clinics (in 1–12 weeks) to complete a second PSOCQ-J, to be able to compute ICC coefficients. Data collection was performed from October 2016 to July 2017. The Institutional Review Boards at Shiga University of Medical Science Hospital and Osaka University Graduate School of Human Sciences approved the study procedures. We obtained written informed consent form each participant before data collection. g g Previous research supports the reliability and validity of the PSOCQ. For example, the PSOCQ scales have demonstrated patterns of associations indicating positive associations between the Precontemplation scale and measures of negative outcomes, and negative associations between this scale and positive outcomes, while the Action and Maintenance scales evidence the opposite pattern of associations.6,19,20,26,32 With respect to the Contemplation scale, the evidence tends to show weak associations with pain-related variables.6,19,20,26,32 Research also shows negative associations between the Precontemplation and both the Action and Maintenance scales, and positive associations between the Action scale and both Contemplation and Maintenance scales.6,13,19,26,41,42 Previous research supports the reliability and validity of the PSOCQ. For example, the PSOCQ scales have demonstrated patterns of associations indicating positive associations between the Precontemplation scale and measures of negative outcomes, and negative associations between this scale and positive outcomes, while the Action and Maintenance scales evidence the opposite pattern of associations.6,19,20,26,32 With respect to the Contemplation scale, the evidence tends to show weak associations with pain-related variables.6,19,20,26,32 Research Although the PSOCQ has been translated into a number of languages,31,32,41 there is not yet a Japanese version. Given evidence supporting the efficacy of self-management approaches among Asians (including Japanese) with chronic pain,15,40,49 developing a Japanese version of the PSOCQ (PSOCQ-J) would be useful, to be able to better understand the role of self-management readiness in function and treatment response in these patients. 1. Introduction Be- cause analgesic medication use could potentially be viewed as both an active self-management strategy as well as a passive one, we predicted weak and nonsignificant associations between the PSOCQ-J scales and analgesic medication use. hypothesizes that there are specific stages in a process of behavior change, and that individuals proceed through these stages because they work toward behavior change goals. Kerns and Habib24 proposed a pain readiness to change (PRC) model, which is an adaptation of the TTM for understanding how patients make changes in pain self-management. The PRC model hypothesizes 4 stages of change: Precontemplation (no intention to self-manage pain), Contemplation (considering the adoption of pain self-management), Action (making changes in self- management behaviors), and Maintenance (ongoing use of pain self-management strategies). The PRC model hypothesizes that the stage of change is associated with commitment to treatments teaching self-management strategies.24 In line with this model, high precontemplation has been shown to predict high dropout rates in interdisciplinary treatments.4,12,25 Moreover, decrease in the precontemplation and increases in the Contemplation, Action, and Maintenance have been shown to be associated with increases in use of adaptive coping strategies and improved outcomes.5,10,12,21 2.3.1. Readiness to change: Japanese version of the Pain Stage of Change Questionnaire The PSOCQ-J has 30 items that assess the responder’s readiness to self-manage their pain. Study participants are asked to rate to how much extent they agree with each statement of items on a 5-point scale from 1 (“strongly disagree”) to 5 (“strongly agree”). The original PSOCQ has 4 scales labeled Precontem- plation, Contemplation, Action, and Maintenance. Each scale is scored as the mean ratings provided for the items on that scale. Thus, the scale scores can range from 1 to 5, with higher scores indicating more agreement to the items reflecting each readiness stage. To address this need, we sought to translate and examine the psychometric properties of a PSOCQ-J. We hypothesized that the PSOCQ-J would evidence a 4-factor structure. We also hypothesized that the scales would evidence at least adequate internal consistency (ie, Cronbach’s alphas $0.70)27 and at least adequate test–retest reliability (ie, intraclass correlation [ICC] coefficients $0.60).7 We also anticipated that the Precontem- plation scale would be negatively associated with the Action and Maintenance scales, and that the Action scale would be positively associated with the Contemplation and Maintenance scales. With respect to construct validity, we hypothesized that the Precontemplation scale would evidence a pattern of positive associations with measures of pain-related dysfunction, and negative associations with measures of functional and adaptive coping, while the Action and Maintenance scales would show the 2.3.6. Pain-related coping A Japanese version of the Chronic Pain Coping Inventory (CPCI-J) was used to assess 9 types of coping, reflected by 9 scales: Guarding, Resting, Asking for Assistance, Exercise/Stretch, Re- laxation, Task Persistence, Coping Self-Statements, Pacing, and Seeking Social Support.22 The former 3 and the latter 6 strategies are believed to reflect less useful/maladaptive and more useful/ adaptive pain coping strategies, respectively. In response to each item assessing a specific coping response, respondents are asked to rate how many days during the past week they used that strategy to cope with their pain. A higher score for each scale indicates more frequent use of the category of coping assessed by each scale. The CPCI-J has evidence supporting its reliability and validity in Japanese patients with chronic pain.2 The internal consistency coefficients for the CPCI-J scales in the current sample indicated adequate (at least 0.70) to excellent (over 0.90) reliability for most of the scales. The Seeking Social Support had marginal internal consistency (Cronbach’s alpha 5 0.66). To evaluate the convergent and discriminant validity of the PSOCQ-J, we then asked participants to complete 4 measures assessing pain-related variables. 2.3.2. Translation procedures We used Beaton’s recommendation for translating cross- culturally adapting the PSOCQ into Japanese.3 Specifically, 2 bilingual Japanese PhD candidates majoring clinical psychology first independently translated the original English language PSOCQ into Japanese. Next, these 2 initial translations were merged into a single translation by the initial translators in 4 (2019) e711 3 www.painreportsonline.com collaboration with a bilingual PhD-level Japanese psychologist. Any differences in the specific translations for the instruction and items were discussed and resolved through consensus. As a third step, the revised version was reviewed by a Japanese anesthe- siologist. After this, a back translation (from Japanese back into English) of the instructions and items was completed by a bilingual Japanese native. The back translation was then reviewed by the original PSOCQ developer, who provided feedback on any changes needed to ensure that the instructions and items reflected their original meaning. The instructions and items were revised as needed and reviewed again until the developer approved the final version of the PSOCQ-J. scale score that ranges from 0 to 52, with higher scores indicating higher levels of catastrophizing. The internal consistency coefficient for the PCS-J in the current sample was excellent (0.91). 2.3.3. Pain severity and pain interference Pain severity and interference were assessed by the Japanese version of the Brief Pain Inventory (BPI-J). Both the 4-item Pain Severity scale and 7-item Pain Interference scale of the Brief Pain Inventory have a great deal of evidence supporting their reliability and validity in a variety of patient samples with pain.8,44 Previous research also supports reliability and validity of the BPI-J in Japanese patients with cancer pain.47 The BPI-J Pain Severity items ask respondents to rate their worst, least, and average pain severity over the last week, as well as their current pain severity on 0 (“no pain”) to 10 (“pain as bad as you can imagine”) numerical rating scales. The average of the responses to these 4 items is computed to create the Pain Severity scale score. In the current sample, the internal consistency (Cronbach’s alpha) for this scale was excellent (0.90). The BPI-J Pain Interference items ask respondents to rate the extent to which pain has interfered with 7 different activities of daily living over the last week (general activity, walking, work, mood, enjoyment of life, relations with others, and sleep) on a 0 (“does not interfere”) to 10 (“completely interferes”) numerical rating scale. Responses to these items are then averaged into a total Pain Interference scale score. In the current sample, the internal consistency coefficient for the Pain In- terference scale was excellent (0.91). 2.4. Data analysis The demographic characteristics of the study participants were summarized by computing descriptive statistics. Next, we evaluated the factor structure of the PSOCQ-J using a confirma- tory factor analysis (CFA). The model fit was evaluated with following fit indices: Chi-square goodness of fit index (x2; a nonsignificant result at a 0.05 threshold indicates good fit28), Normed Chi-square (x2/df; a value below 2–3 indicates an acceptable fit28), root mean square error of approximation (RMSEA; a value below 0.08 indicates an acceptable fit29), Comparative Fit Index (CFI; a value more than 0.95 indicates an acceptable fit16), and Akaike Information Criterion (AIC; with a smaller value indicating a more parsimonious model fit28). Maximum likelihood estimation was used to estimate models in the CFA. Because responses were missing for items 6 (2% missing) and 18 (1% missing) of the PSOCQ-J, a full information maximum likelihood method was applied to account for missing data. Because previous studies reported substantial associations between the 3 factors except for Precontemplation, we compared the fit of a 4-factor model with 2-factor (combining the 3 factors) and 3-factor (combining the Action and Mainte- nance) models using the likelihood ratio test. A sample size of 200 cases is considered adequate for CFA analyses.28 2.3.5. Self-efficacy The Japanese version of the 10-item Pain Self-Efficacy Ques- tionnaire (PSEQ-J) was used to assess the degree of confidence the participants had to perform certain activities in daily life despite pain.34 The PSEQ-J has evidence supporting its reliability and validity in Japanese patients with chronic pain.1 With the PSEQ-J, respondents are asked to rate how confident they are on a 0 (“not at all confident”) to 6 (“completely confident”) scale. The total PSEQ-J score ranges from 0 to 60, with higher scores representing higher levels of self-efficacy in functioning despite pain. The internal consistency coefficient for the PSEQ-J in the current sample was excellent (0.95). As a final step, we asked ten outpatients with chronic pain attending a primary care pain clinic (8 women and 2 men, average age 6 SD was 67.55 6 12.81 years) to evaluate the PSOCQ-J for understandability and appropriateness of phrasing. Eighteen items for understandability and 8 items for appropriateness of phrasing (60% and 27% of the items, respectively) were rated as problematic by at least one of these patients. However, the most times any one item (items 1, 15, and 16) was rated as problematic was 3 (ie, all items were rated as clear and understandable by 70% to 100% of these patients). Also, these items were rated as difficult to understand with respect to them reflecting pain self- management, not with respect to the translation. Thus, no additional changes in the instructions or any of the items were deemed necessary. PAIN Reports® 4 Table 1 Demographic characteristics of the study participants. Variable Mean (SD) n (%) Age (y) 61.32 (13.93) — Pain duration (mo) 91.99 (110.21) — Sex Men 68 (34) Women 133 (66) Primary pain location Head, face, or mouth region 14 (7) Cervical region 13 (6) Upper shoulder or arms 32 (16) Thoracic region 9 (4) Abdominal region 5 (2) Low back 57 (28) Lower limbs 54 (27) Pelvic region 3 (1) Anal, perineal, or genital region 4 (2) Multiple pain locations (more than 1 location) 10 (5) Marital status Married 146 (73) Unmarried 19 (9) Divorced 15 (7) Widowed 20 (10) No response 1 (0) Education Elementary 0 (0) Junior high 20 (10) High 76 (38) Vocational 27 (13) Junior college 17 (8) Undergraduate 55 (27) Graduate school, master 4 (2) Graduate school, doctor 1 (0) No response 1 (0) Work status Full time 41 (20) Part time 20 (10) Student 0 (0) Homemaker 59 (29) Retirement 30 (15) Suspension or retirement due to pain 19 (9) Not working unrelated to pain 18 (9) Others 14 (7) Pain-related compensation Yes 10 (5) Past surgery for pain treatment Yes 33 (16) Current pain treatment Medication 166 (83) Nerve block 44 (22) Spinal cord stimulation 2 (1) Cognitive behavior therapy 15 (7) Exercise 61 (30) Other types of rehabilitation (eg, massage, hot or cold pack, traction therapy, and electrotherapy) 43 (21) Other treatments 21 (10) No treatment 2 (1) No. of current pain treatment Zero 2 (1) Single treatment 98 (49) 2 treatments 59 (29) 3 treatments 34 (17) 4 treatments 6 (3) 5 treatments 2 (1) Total sample size is 201. internal consistency, between scale associations, and test–retest stability of the PSOCQ-J scales, respectively. We also performed independent t tests to determine whether there were sex differences in the PSOCQ-J scales. Next, to evaluate the construct validity of the PSOCQ-J scales, we computed the Pearson correlation coefficients between the PSOCQ-J scales and the other study measures. Also, we compared the means of the PSOCQ scales between participants participating or not participating in exercise treatment, and using or not using analgesic medication. We used the criterion of P , 0.05 to determine statistical significance. Each of the validity criterion measures had very few missing values (range: 0%–1%). Thus, we used pairwise deletion to compute the validity correlation coefficients. 2.3.4. Catastrophizing Catastrophizing was assessed using the Japanese version of the 13-item Pain Catastrophizing Scale (PCS-J).30,43 The PCS-J has evidence supporting its reliability and validity in Japanese patients with chronic pain.17 Each item reflects a pain-related negative thought, and respondents are asked to rate the frequency that they have each thought when they experience pain on a 0 (“not at all”) to 4 (“all the time”) scale. The responses are summed to form a total We then computed Cronbach’s alpha coefficients, interscale correlation coefficients, and ICC coefficients to evaluate the T. Adachi et al.·4 (2019) e711 3. Results 3. Results PAIN Reports® We used Mplus version 8.0.33 for the CFA analyses and the statistical package R version 3.2.4.39 for the other analyses. BPI-J, Japanese version of the Brief Pain Inventory; CPCI-J, Japanese version of the Chronic Pain Coping Inventory; PCS-J, Japanese version of the Pain Catastrophizing Scale; PSEQ-J, Japanese version of the Pain Self-Efficacy Questionnaire. 3.3. Reliability and interscale correlations of the Japanese version of the Pain Stage of Change Questionnaire scales All the Cronbach’s alpha coefficients for the PSOCQ-J scales exceeded 0.70 (range 0.72–0.80; Table 3), indicating at least adequate internal consistency. The ICCs between 2 measure- ment points showed good stability over time (range 0.62–0.71; Table 3). No significant sex differences were observed for PSOCQ-J scales. Moreover, the interscale correlations were consistent with the study hypotheses for the most part, except that we found an unpredicted significant positive association between the Contemplation and Maintenance scales (Table 4). The CFA of the 2-factor model with the same error covariances showed poor fit (x2 (396) 5 966.96, P , 0.001, x2/df 5 2.44, RMSEA 5 0.09, CFI 5 0.71, and AIC 5 15909.67), but the CFA of the 3-factor model using the same error covariances had acceptable fit (x2 (394) 5 824.53, P , 0.001, x2/df 5 2.11, RMSEA 5 0.07, CFI 5 0.78, and AIC 5 15444.20). However, the results of the likelihood ratio test suggested significant de- terioration when adopting either the 2-factor (x2 (5) 5 154.23, P , 3.2. Factor structure of the Japanese version of the Pain Stage of Change Questionnaire 0.001) or 3-factor models (x2 (3) 5 11.79, P , 0.01). Thus the evidence supported the 4-factor model over the other 2 models. Model fit statistics for the first 4-factor model did not indicate sufficient fit (x2 (399) 5 972.23, P , 0.001, x2/df 5 2.44, RMSEA 5 0.09, CFI 5 0.71, and AIC 5 15581.91). To improve this model, we allowed 8 error covariances between items with modification indices above 10. We chose these error covariances with reference to not only modification index but also overlap of phrasing and meaning (ie, the error variances of items that seem to assess similar aspects of readiness were allowed to correlate with one another). The second CFA showed acceptable fit (x2 (391) 5 812.74, P , 0.001, x2/df 5 2.08, RMSEA 5 0.07, CFI 5 0.78, and AIC 5 15438.41). Item loadings of the second model ranged 0.34 to 0.77 (Fig. 1). 3.1. Demographic characteristics of participants Factor structure of the Japanese version of the Pain Stage of Change Questionnaire. *P , 0.05, **P , 0.01, ***P Thus, for example, the “i1” represents item 1 of the Japanese version of the Pain Stage of Change Questionnaire. T standardized parameter estimate values. 3.1. Demographic characteristics of participants A total of 201 participants provided data for this study. Their mean age 6 SD was 61.32 6 13.93 years (range: 26–84), and their mean pain duration was 91.99 6 110.21 months (range: 3–948; 0.25–79.00 years). Most participants were women (66%), were married (73%), had at least high school education (90%), and had a job or were homemakers (59%). The most common primary pain location was low back (28%). About one-third of the participants attended an exercise treatment. Seventy-one participants (35%) provided responses to the PSOCQ-J 2 occasions, with an average of 35.72 6 19.34 days (range 7–77 days) between assessments. Additional descriptive details re- garding the study participants and study measures are presented in Tables 1 and 2. Table 2 Mean values, SDs, Cronbach’s alpha coefficients of the pain- related measures. Pain-related criterion variable Mean SD a (95% CI) Pain severity (BPI-J) 4.37 1.93 0.90 (0.87–0.92) Pain interference (BPI-J) 3.65 2.43 0.91 (0.89–0.93) Catastrophizing (PCS-J) 27.41 10.70 0.91 (0.89–0.93) Self-efficacy (PSEQ-J) 34.48 13.79 0.95 (0.94–0.96) Guarding (CPCI-J) 19.31 14.40 0.76 (0.71–0.81) Resting (CPCI-J) 22.91 12.76 0.72 (0.67–0.78) Asking for assistance (CPCI-J) 6.44 8.04 0.83 (0.79–0.87) Exercise/stretch (CPCI-J) 35.25 24.30 0.91 (0.89–0.93) Relaxation (CPCI-J) 14.88 11.85 0.78 (0.73–0.82) Task persistence (CPCI-J) 22.41 11.23 0.71 (0.65–0.77) Coping self statement (CPCI-J) 18.76 18.15 0.88 (0.85–0.90) Pacing (CPCI-J) 18.60 11.20 0.73 (0.67–0.79) Seeking social support (CPCI-J) 13.56 10.06 0.66 (0.59–0.73) BPI-J, Japanese version of the Brief Pain Inventory; CPCI-J, Japanese version of the Chronic Pain Coping Inventory; PCS-J, Japanese version of the Pain Catastrophizing Scale; PSEQ-J, Japanese version of the Pain Self-Efficacy Questionnaire. Table 2 Mean values, SDs, Cronbach’s alpha coefficients of the pain- related measures. 4 (2019) e711 5 www.painreportsonline.com Figure 1. Factor structure of the Japanese version of the Pain Stage of Change Questionnaire. *P , 0.05, **P , 0.01, ***P , 0.001. The “i” represents the item. Thus, for example, the “i1” represents item 1 of the Japanese version of the Pain Stage of Change Questionnaire. The “e” represents error. We reported standardized parameter estimate values. Figure 1. Factor structure of the Japanese version of the Pain Stage of Change Questionnaire. *P , 0.05, **P , 0.01, ***P , 0.001. The “i” represents the item. Thus, for example, the “i1” represents item 1 of the Japanese version of the Pain Stage of Change Questionnaire. The “e” represents error. We reported standardized parameter estimate values. Figure 1. 4. Discussion Here, we sought to translate and evaluate the psychometric properties of the PSOCQ-J. The findings supported a 4-factor structure, and all 4 scales of the PSOCQ-J evidenced good internal consistencies and test–retest reliabilities. In addition, the results supported the hypothesized pattern of between scale associations, except for a substantial positive association between the Contemplation and Maintenance scales. The study hypotheses with respect to construct validity of the PSOCQ-J scales were also supported. The zero-order correlations between the PSOCQ-J scales and CPCI-J scales are presented in Table 6. The Precontemplation scale showed significant weak positive correlations with the 3 maladaptive pain coping scales. The Action and Maintenance scales had weak to moderate positive correlations with the 6 adaptive pain coping scales, except for the nonsignificant correlation between the Maintenance scale and the Seeking Social Support scale. The Contemplation scale had weak positive correlations with the 9 CPCI-J scales. The 4-factor structure, with items loading on the Precontem- plation, Contemplation, Action, and Maintenance factors, is consistent with the results of previous research in samples of individuals with chronic pain from diverse clinical and cultural settings and using different language versions of the mea- sure.13,19,26,31,32 The present results also supported the 4-factor model over the 2-factor and 3-factor models. Thus, the findings provide support for cross-cultural validity of the 4 readiness domains hypothesized by the PRC model.24 PAIN Reports® PAIN Reports® 6 Table 4 Interscale correlations of the PSOCQ-J scales. PSOCQ-J scale Contemplation Action Maintenance Precontemplation 0.01 (20.13 to 0.15) 20.14 (20.28 to 0.00)* 20.24 (20.36 to 20.10)*** Contemplation — 0.48 (0.36 to 0.58)*** 0.37 (0.25 to 0.49)*** Action — 0.75 (0.68 to 0.80)*** Maintenance — *P , 0.05, **P , 0.01, ***P , 0.001. PSOCQ-J, Japanese version of the Pain Stage of Change Questionnaire. 6 T. Adachi et al.·4 (2019) e711 PAIN Reports® than the participants who were not. No significant differences in the mean values of the PSOCQ scales were found between the participants who were taking analgesic medications or not. self-efficacy, and catastrophizing are presented in Table 5. As can be seen, and as hypothesized, the Precontemplation scale had significant weak to moderate positive correlations with the measures of pain severity, pain interference, and catastrophizing, whereas it had a weak negative correlation with the self-efficacy measure. The Maintenance scale had weak negative correlations with the measures assessing pain severity, pain interference, and catastrophizing, whereas it had a significant weak positive correlation with the self-efficacy measure. The Action scale had a weak positive correlation with the self-efficacy measure and a weak negative correlation with the catastrophizing measure. The Contemplation scale had a weak positive correlation with the pain interference measure. 3.5. Comparison of scores of the Japanese version of the Pain Stage of Change Questionnaire scales with respect to current treatments On the other hand, the substantial associations between the PSOCQ-J scales cast some doubt on the “stage” concept underlying the PRC model, that is, the idea that people necessarily move from one stage to the next, as they become more ready to self-manage pain. Previous studies have also reported significant associations between PSOCQ scales.6,13,19,26,31,41,42 This suggests the possibility that readi- ness to change might be better viewed as a continuum than as discrete stages.18 In addition, the strong association found between the Contemplation and Maintenance scales in the current sample cast some doubt on the utility of viewing these as entirely distinct constructs. Thus, participants who are consider- ing the usefulness of pain self-management (ie, who score high On the other hand, the substantial associations between the PSOCQ-J scales cast some doubt on the “stage” concept underlying the PRC model, that is, the idea that people necessarily move from one stage to the next, as they become more ready to self-manage pain. Previous studies have also reported significant associations between PSOCQ scales.6,13,19,26,31,41,42 This suggests the possibility that readi- Mean values and SDs of the PSOCQ scales between the participants who were participating or not participating in exercise treatment, and between the participants taking analgesic medications or not, are presented in Table 7. The independent t tests revealed significant differences in the mean values of the PSOCQ scale as a function of treatment. Specifically, the participants who were participating in exercise treatment scored lower on Precontemplation (t(199) 5 2.31, P 5 0.02), and higher on Contemplation (t(199) 5 24.12, P , 0.001), Action (t(194) 5 25.61, P , 0.001), and Maintenance (t(196) 5 25.26, P , 0.001) 3.4. Correlations between the Japanese version of the Pain Stage of Change Questionnaire scales and pain- related measures The zero-order correlations between the 4 PSOCQ-J scales and the validity variables assessing pain severity, pain interference, Table 3 Mean values, SDs, Cronbach’s alphas, and intraclass correlations (ICC) of the PSOCQ-J scales. PSOCQ-J scale No. of items Overall Men Women a (95% CI) ICC (95% CI) Mean SD Mean SD Mean SD Precontemplation 7 2.74 0.60 2.78 0.61 2.72 0.60 0.72 (0.66–0.78) 0.62 (0.45–0.74)*** Contemplation 10 3.41 0.55 3.41 0.56 3.41 0.55 0.77 (0.73–0.82) 0.62 (0.46–0.75)*** Action 6 2.80 0.71 2.85 0.72 2.78 0.70 0.80 (0.75–0.84) 0.65 (0.49–0.77)*** Maintenance 7 3.22 0.67 3.16 0.60 3.26 0.71 0.80 (0.75–0.84) 0.71 (0.57–0.81)*** *P , 0.05, **P , 0.01, ***P , 0.001. PSOCQ-J, Japanese version of the Pain Stage of Change Questionnaire. n values, SDs, Cronbach’s alphas, and intraclass correlations (ICC) of the PSOCQ-J scales. T. Adachi et al.·4 (2019) e711 T. Adachi et al.·4 (2019) e711 Table 5 on the Contemplation scale) may also be using a number of self- management approaches to manage their pain (ie, they may also score high on the Maintenance scale). ability to self-manage pain. Thus, the extent to which the findings would replicate in other samples of individuals with chronic pain from Japan remains unknown. Additional re- search with other samples is needed to determine which of the findings replicate. Second, this study used a cross-sectional design to evaluate the validity of the PSOCQ-J. Thus, we were not able to evaluate the extent to which the PSOCQ-J scales are sensitive to treatments designed to enhance readiness to self-manage pain, nor were we able to determine the causal influence of changes in the PSOCQ-J scales and subsequent changes in important outcomes. Longitudinal and clinical trial research is needed to evaluate these aspects of the measure’s validity. Third, we did not collect any data that would allow us to determine, separately from the PSOCQ-J, what readiness stage the participants might be in. For example, patients who are just beginning an exercise program might be expected to be at a lower readiness stage for pain self-management than patients who have been exercising regularly for many months. The internal consistency and test–retest reliability results supported the reliability of the PSOCQ-J scales. That said, the stabilities of the PSOCQ-J scales were somewhat lower than those reported in previous studies.26,32 This difference may be due, at least in part, to the longer period between assessments in the current study, relative to other studies, combined with the expectation that readiness to self-manage pain is believed to be influenced by many factors, that is, readiness to self-manage pain may be more a state than a trait.18,24 The findings also support the construct validity of the PSOCQ-J. The 4 scales generally evidenced the patterns of associations with other pain-related measures and pain treatments that were hypothesized a priori. As expected, the Precontemplation and Maintenance scales evidenced patterns of associations suggest that the former may be a less useful/maladaptive cognitive and behavioral state, whereas the latter may reflect a more useful/ adaptive one. Despite the study’s limitations, the findings provide important information regarding the reliability and validity of the PSOCQ-J. We found that the measure has a 4-factor structure, and provides reliable and valid measures of Precontemplation, Contemplation, Action, and Maintenance. Table 5 Table 5 Pearson correlations between PSOCQ-J scales and measures assessing pain severity, pain interference, self-efficacy, and catastrophizing. PSOCQ-J scale Pain-related criterion variable Pain severity (BPI-J) Pain interference (BPI-J) Self-efficacy (PSEQ-J) Catastrophizing (PCS-J) Precontemplation 0.28 (0.15 to 0.40)*** 0.31 (0.18 to 0.43)*** 20.27 (20.39 to 20.14)*** 0.49 (0.38 to 0.59)*** Contemplation 0.09 (20.05 to 0.22) 0.21 (0.07 to 0.34)** 20.01 (20.15 to 0.13) 0.06 (20.08 to 0.19) Action 20.14 (20.27 to 0.00) 20.07 (20.21 to 0.07) 0.17 (0.03 to 0.30)* 20.17 (20.30 to 20.03)* Maintenance 20.16 (20.29 to 20.02)* 20.17 (20.30 to 20.03)* 0.25 (0.11 to 0.38)*** 20.29 (20.42 to 20.16)*** *P , 0.05, **P , 0.01, ***P , 0.001. BPI-J, Japanese version of the Brief Pain Inventory; PCS-J, Japanese version of the Pain Catastrophizing Scale; PSEQ-J, Japanese version of the Pain Self-Efficacy Questionnaire; PSOCQ-J, Japanese version of the Pain Stage of Change Questionnaire. ween PSOCQ-J scales and measures assessing pain severity, pain interference, self-efficacy, and Pearson correlations between PSOCQ-J scales and measures assessing pain severity, pain interferen catastrophizing. www.painreportsonline.com 4 (2019) e711 7 Table 6 Pearson correlations between PSOCQ-J and CPCI-J scales. CPCI-J scale PSOCQ-J scale Precontemplation Contemplation Action Maintenance Guarding 0.22 (0.09 to 0.35)** 0.17 (0.03 to 0.30)* 0.06 (20.08 to 0.20) 0.03 (20.13 to 0.15) Resting 0.23 (0.10 to 0.36)*** 0.23 (0.10 to 0.36)*** 0.03 (20.11 to 0.17) 0.01 (20.13 to 0.15) Asking for assistance 0.21 (0.08 to 0.34)** 0.19 (0.05 to 0.32)** 0.09 (20.05 to 0.23) 20.01 (20.15 to 0.13) Exercise/stretch 20.10 (20.23 to 0.04) 0.21 (0.08 to 0.34)** 0.39 (0.27 to 0.50)*** 0.34 (0.21 to 0.46)*** Relaxation 20.02 (20.16 to 0.12) 0.24 (0.11 to 0.37)*** 0.44 (0.32 to 0.59)*** 0.44 (0.31 to 0.54)*** Task persistence 20.08 (20.22 to 0.06) 0.15 (0.01 to 0.28)* 0.22 (0.08 to 0.35)** 0.26 (0.13 to 0.39)*** Coping self-statements 0.05 (20.09 to 0.19) 0.31 (0.18 to 0.43)*** 0.28 (0.15 to 0.41)*** 0.32 (0.19 to 0.44)*** Pacing 0.05 (20.09 to 0.19) 0.21 (0.08 to 0.34)** 0.30 (0.17 to 0.42)*** 0.26 (0.13 to 0.39)*** Seeking social support 0.14 (0.00 to 0.27) 0.25 (0.11 to 0.38)*** 0.18 (0.04 to 0.31)* 0.13 (20.01 to 0.27) *P , 0.05, **P , 0.01, ***P , 0.001. CPCI-J, Japanese version of the Chronic Pain Coping Inventory; PSOCQ-J, japanese version of the Pain Stage of Change Questionnaire. References [24] Kerns RD, Habib S. A critical review of the pain readiness to change model. J Pain 2004;5:357–67. [1] Adachi T, Nakae A, Maruo T, Shi K, Shibata M, Maeda L, Saitoh Y, Sasaki J. Validation of the Japanese version of the Pain Self-Efficacy Questionnaire in Japanese patients with chronic pain. Pain Med 2014; 15:1405–17. [1] Adachi T, Nakae A, Maruo T, Shi K, Shibata M, Maeda L, Saitoh Y, Sasaki J. Validation of the Japanese version of the Pain Self-Efficacy Questionnaire in Japanese patients with chronic pain. Pain Med 2014; 15:1405–17. [25] Kerns RD, Rosenberg R. Predicting responses to self-management treatments for chronic pain: application of the pain stages of change model. PAIN 2000;84:49–55. [2] Arimura T, Hosoi M, Yamashiro K, Iwaki R, Hiasa A, Kawata H, Kubo C, Sud A. Validation study of the Japanese version of the Chronic Pain Coping Inventory: the second report (in Japanese). Jpn J Psychosom Med 2010;50:525. [26] Kerns RD, Rosenberg R, Jamison RN, Caudill MA, Haythornthwaite J. Readiness to adopt a self-management approach to chronic pain: the Pain Stages of Change Questionnaire (PSOCQ). PAIN 1997;72:227–34. [27] Kline P. The handbook of psychological testing. London; New York: Routledge, 2000. [3] Beaton DE, Bombardier C, Guillemin F, Ferraz MB. Guidelines for the process of cross-cultural adaptation of self-report measures. Spine 2000; 25:3186–91. [28] Kline RB. Principles and practice of structural equation modeling. New York: Guilford, 2011. [4] Biller N, Arnstein P, Caudill MA, Federman CW, Guberman C. Predicting completion of a cognitive-behavioral pain management program by initial measures of a chronic pain patient’s readiness for change. Clin J Pain 2000;16:352–9. [29] MacCallum RC, Browne MW, Sugawara HM. Power analysis and determination of sample size for covariance structure modeling. Psychol Methods 1996;1:130. [30] Matsuoka H, Sakano Y. Assessment of cognitive aspect of pain: development, reliability, and validation of Japanese version of pain catastrophizing scale (in Japanese). Jpn J Psychosom Med 2007;47: 95–102. [5] Burns JW, Nielson WR, Jensen MP, Heapy A, Czlapinski R, Kerns RD. Specific and general therapeutic mechanisms in cognitive behavioral treatment of chronic pain. J Consult Clin Psychol 2015;83:1–11. [6] Carr JL, Moffett JAK, Sharp DM, Haines DR. Is the Pain Stages of Change Questionnaire (PSOCQ) a useful tool for predicting participation in a self- management programme? Further evidence of validity, on a sample of UK pain clinic patients. BMC Musculoskelet Disord 2006;7:101. References [31] Maurischat C, H ¨arter M, Auclair P, Kerns RD, Bengel J. Preliminary validation of a German version of pain stages of change questionnaire. Eur J Pain 2002;6:43–8. [32] Monticone M, Ferrante S, Ferrari S, Mugnai R, Pillastrini P, Rocca B, Vanti C, Foti C. Development of the Italian version of the Pain Stages of Change Questionnaire in patients with chronic low back pain: cross-cultural adaptation, confirmatory factor analysis, reliability and validity. Int J Rehabil Res 2014;37:205–11. [7] Cicchetti DV. Guidelines, criteria, and rules of thumb for evaluating normed and standardized assessment instruments in psychology. Psychol Assess 1994;6:284–90. [8] Cleeland C, Ryan K. Pain assessment: global use of the Brief Pain Inventory. Ann Acad Med Singapore 1994;23:129–38. [33] Muth ´en L, Muth ´en B. Mplus user’s guide. 8th ed. Los Angeles: Muth ´en & Muth ´en, 1998–2017. [9] Dijkstra A. The validity of the stages of change model in the adoption of the self-management approach in chronic pain. Clin J Pain 2005;21:27–37. [34] Nicholas MK. The pain self-efficacy questionnaire: taking pain into account. Eur J Pain 2007;11:153–63. [10] Elander J, Richardson C, Morris J, Robinson G, Schofield MB. Motivational and behavioural models of change: a longitudinal analysis of change among men with chronic haemophilia-related joint pain. Eur J Pain 2017;21:1384–96. [35] Nicholas MK, Asghari A, Corbett M, Smeets RJ, Wood BM, Overton S, Perry C, Tonkin LE, Beeston L. Is adherence to pain self-management strategies associated with improved pain, depression and disability in those with disabling chronic pain? Eur J Pain 2012;16:93–104. [11] Geneen LJ, Moore A, Clarke C, Martin D, Colvin LA, Smith BH. Physical activity and exercise for chronic pain in adults: an overview of Cochrane Reviews. Cochrane Database Syst Rev 2017;CD011279. [36] Prochaska JO, DiClemente CC. Transtheoretical therapy: toward a more integrative model of change. Psychotherapy 1982;19:276–88. [12] Gersh E, Arnold C, Gibson SJ. The relationship between the readiness for change and clinical outcomes in response to multidisciplinary pain management. Pain Med 2011;12:165–72. [37] Prochaska JO, DiClemente CC, Norcross JC. In search of how people change: applications to addictive behaviors. Am Psychol 1992;47: 1102–14. [13] Habib S, Morrissey SA, Helmes E. Readiness to adopt a self- management approach to pain: evaluation of the pain stages of change model in a non-pain-clinic sample. PAIN 2003;104:283–90. [38] Prochaska JO, Velicer WF. The transtheoretical model of health behavior change. Am J Health Promot 1997;12:38–48. [39] R Core Team. Table 5 Thus, the findings support the use of the PSOCQ-J to evaluate the role that readiness to self-manage pain may have in adjustment to chronic pain in Japanese chronic pain populations. There are a number of limitations to this study that should be considered when interpreting the results. First, the sample was one of convenience, made up of consecutive patients seen in a number of specific clinics who agreed to participate in the study. The average age of participants was relatively high, most of the participants were women, and many were not receiving training in treatments designed to enhance their Table 7 Mean values and SDs of PSOCQ-J scales based on the current treatment. Treatment PSOCQ scale Yes No t df Hedges’ g Mean SD Mean SD Exercise Precontemplation 2.59 0.63 2.80 0.58 2.31* 199 20.35 Contemplation 3.64 0.54 3.31 0.53 24.12*** 199 0.63 Action 3.20 0.62 2.63 0.68 25.61*** 194 0.87 Maintenance 3.58 0.55 3.06 0.67 25.26*** 196 0.81 Medication Precontemplation 2.77 0.60 2.56 0.59 21.97 199 0.37 Contemplation 3.41 0.55 3.40 0.54 20.13 199 0.02 Action 2.77 0.72 2.97 0.62 1.52 194 20.28 Maintenance 3.19 0.68 3.36 0.63 1.33 196 20.25 *P , 0.05, **P , 0.01, ***P , 0.001. PSOCQ-J, Japanese version of the Pain Stage of Change. T. Adachi et al.·4 (2019) e711 PAIN Reports® PAIN Reports® 8 community-dwelling older adults with chronic pain: a randomized controlled trial. Eur J Pain 2018;22:592–600. Disclosures The authors have no conflict of interest to declare. The authors have no conflict of interest to declare. [16] Hu LT, Bentler PM. Cutoff criteria for fit indexes in covariance structure analysis: conventional criteria versus new alternatives. Struct Equ Model 1999;6:1–55. This study was presented at the 7th Asian Pain Symposium on October 27, 2017, as a poster presentation. [17] Iwaki R, Arimura T, Jensen MP, Nakamura T, Yamashiro K, Makino S, Obata T, Sudo N, Kubo C, Hosoi M. Global catastrophizing vs catastrophizing subdomains: assessment and associations with patient functioning. Pain Med 2012;13:677–87. Article history: Received 23 August 2018 [22] Jensen MP, Turner JA, Romano JM, Nielson WR. Chronic pain coping inventory: professional manual. Lutz: Psychological Assessment Resources, 2008. Received 23 August 2018 Received in revised form 11 December 2018 Received 23 August 2018 Received in revised form 11 December 2018 Accepted 16 December 2018 [23] Kamper SJ, Apeldoorn A, Chiarotto A, Smeets R, Ostelo R, Guzman J, van Tulder M. Multidisciplinary biopsychosocial rehabilitation for chronic low back pain: cochrane systematic review and meta-analysis. BMJ 2015;350:h444. Acknowledgment [18] Jensen MP, Nielson WR, Kerns RD. Toward the development of a motivational model of pain self-management. J Pain 2003;4:477–92. The authors thank Professor Robert D. Kerns for granting us permission to develop the Japanese version of the Pain Stage of Change Questionnaire and providing feedback on the back- translations of the measure, as well as his helpful comments and suggestions on an earlier version of this manuscript. [19] Jensen MP, Nielson WR, Romano JM, Hill ML, Turner JA. Further evaluation of the pain stages of change questionnaire: is the transtheoretical model of change useful for patients with chronic pain? PAIN 2000;86:255–64. [20] Jensen MP, Nielson WR, Turner JA, Romano JM, Hill ML. Readiness to self-manage pain is associated with coping and with psychological and physical functioning among patients with chronic pain. PAIN 2003;104: 529–37. This study was supported by the Grant-in-Aid for Japan Society for the Promotion of Science (JSPS) Fellows (16J00100) of the JSPS, Japan. [21] Jensen MP, Nielson WR, Turner JA, Romano JM, Hill ML. Changes in readiness to self-manage pain are associated with improvement in multidisciplinary pain treatment and pain coping. PAIN 2004;111:84–95. Article history: References R: A language and environment for statistical computing. R Foundation for Statistical Computing 2014, Vienna. R Foundation for Statistical Computing, 2017. [14] Hicks GE, Benvenuti F, Fiaschi V, Lombardi B, Segenni L, Stuart M, Pretzer-Aboff I, Gianfranco G, Macchi C. Adherence to a community- based exercise program is a strong predictor of improved back pain status in older adults: an observational study. Clin J Pain 2012;28:195. [40] Shirado O, Doi T, Akai M, Hoshino Y, Fujino K, Hayashi K, Marui E, Iwaya T. Multicenter randomized controlled trial to evaluate the effect of home- based exercise on patients with chronic low back pain: the Japan low back pain exercise therapy study. Spine 2010;35:e811–819. [15] Hirase T, Kataoka H, Nakano J, Inokuchi S, Sakamoto J, Okita M. Effects of a psychosocial intervention programme combined with exercise in 4 (2019) e711 9 www.painreportsonline.com [46] Turk DC, Rudy TE. Neglected topics in the treatment of chronic pain patients—relapse, noncompliance, and adherence enhancement. PAIN 1991;44:5–28. [41] Strand EB, Kerns RD, Christie A, Haavik-Nilsen K, Klokkerud M, Finset A. Higher levels of pain readiness to change and more positive affect reduce pain reports—a weekly assessment study on arthritis patients. PAIN 2007;127:204–13. [47] Uki J, Mendoza T, Cleeland CS, Nakamura Y, Takeda F. A brief cancer pain assessment tool in Japanese: the utility of the Japanese Brief Pain Inventory—BPI-J. J Pain Symptom Manage 1998;16: 364–73. [42] Strong J, Westbury K, Smith G, McKenzie I, Ryan W. Treatment outcome in individuals with chronic pain: is the Pain Stages of Change Questionnaire (PSOCQ) a useful tool? PAIN 2002;97:65–73. [43] Sullivan MJL, Bishop SR, Pivik J. The pain catastrophizing scale: development and validation. Psychol Assess 1995;7:524–32. [48] Williams ACDC, Eccleston C, Morley S. Psychological therapies for the management of chronic pain (excluding headache) in adults. Cochrane Database Syst Rev 2012;CD007407. [44] Tan G, Jensen MP, Thornby JI, Shanti BF. Validation of the Brief Pain Inventory for chronic nonmalignant pain. J Pain 2004;5:133–7. [49] Yang SY, McCracken LM, Moss-Morris R. Psychological treatments for chronic pain in East and Southeast Asia: a systematic review. Int J Behav Med 2016;23:473–84. [45] Turk DC, Rudy TE. Neglected factors in chronic pain treatment outcome studies—referral patterns, failure to enter treatment, and attrition. PAIN 1990;43:7–25.
https://openalex.org/W3205865005
http://papers.iafor.org/wp-content/uploads/papers/iicseehawaii2021/IICSEEHawaii2021_59043.pdf
English
null
Get Out of Your Comfort Zone: Externalization in Architecture to Increase Social and Environmental Connectivity
IAFOR International Conference on Sustainability, Energy & the Environment, official conference proceedings
2,021
cc-by
5,851
The IAFOR International Conference on Sustainability, Energy & the Environment – Hawaii 2021 Official Conference Proceedings Hawaii 2021 Official Conference Proceedings Get Out of Your Comfort Zone: Externalization in Architecture to Increase Social and Environmental Connectivity Get Out of Your Comfort Zone: Externalization in Architecture to Increase Social and Environmental Connectivity Christina Brown, Carnegie Mellon University, United States Erica Cochran, Carnegie Mellon University, United States Dana Cupkova, Carnegie Mellon University, United States Vivian Loftness, Carnegie Mellon University, United States Azadeh Sawyer, Carnegie Mellon University, United States Nida Rehman, Carnegie Mellon University, United States Christina Brown, Carnegie Mellon University, United States Erica Cochran, Carnegie Mellon University, United States Dana Cupkova, Carnegie Mellon University, United States Vivian Loftness, Carnegie Mellon University, United States Azadeh Sawyer, Carnegie Mellon University, United States Nida Rehman, Carnegie Mellon University, United States Abstract Buildings currently account for 39% of energy-related carbon dioxide emissions annually, worldwide. Despite the acceleration of climate change, architecture is increasingly designed as hermetically sealed boxes, requiring increased conditioning, which in turn further contributes to the greenhouse gas emissions warming up our planet. In addition to disassociating people from the natural environment, this also creates spaces where people disconnect from their community, and live within boxes both physically and socially. Though current research addresses many environmental and human health concerns that arise from internalized architecture, it does not address the social disconnection nor is there any specific terminology and research that focus on externalizing programming as a strategy. To fill this gap, this synthesis establishes important terminology and research to support ‘externalization’, and explores the environmental and social impacts of externalizing programs through both design evaluation and morphology. Through thorough literature review, case studies research and analysis, the importance and impacts of externalization is defined. Then an externalization taxonomy is developed to support designers in two ways – as a design evaluation tool and as a design support for integrated architectural design and innovation that would better demonstrate how externalization can create integrated designs that provide layers of environmental, social, and health benefits while reducing the total building energy demands. Especially in the context of the current pandemic (COVID-19), externalization is evermore important. The synthesis provides the necessary groundwork to allow for externalization to be researched further, and provide designers the necessary framework to shift towards externalized design approaches. Introduction Currently the challenge is twofold- there is increase in designs where spaces are disconnected from the outdoor environment, which not only has energy demand and environmental implications, but also health and wellbeing implications. Second, by designing internalized spaces that disconnect people from the outdoor environment, designers have also created socially disconnected spaces that are not conducive to increased social interaction. Without the ability to hear neighborhood chatter and noises of the community from outside our window, people gain increasing levels of isolation, and lose a sense of belonging within their local communities. Loss of community vibrancy and a lack of diversity in terms of interactions between occupants, and an understanding result in a sense of insecurity and anonymity within the neighborhood that can greatly affect the social and cultural vibrancy and resiliency of communities. For environmental connectivity, externalization provides building performance and energy savings, biophilic benefits for health and wellbeing, and biodiversity benefits for the environment. In terms of building performance and energy savings, robust research on passive design strategies (Wang et al. 2014), mixed mode design (Loftness 2014; Loftness and Haase 2013; Watson 2013; Liebard and Herde 2009), and daylight and thermal autonomy all increase the overall environmental connectivity while reducing the overall energy demands. Dynamic envelope design is crucial as architecture becomes increasingly flexible based on weather conditions and activity levels as it reduces the energy demand of the building, but also provides alliesthesia (thermal delight) to the occupants. Furthermore, simulation softwares enable designers to further explore the potentials of integrated passive designs to best balance between the indoor and outdoor environments given local contexts. Another benefit of increased environmental connectivity is increased biophilic benefits in terms of occupant health and wellbeing. Biophilia is a human's innate biological tendency to seek connection with nature, which can have emotional, mental, and physiological impacts on our wellbeing. Based on Edward O. Wilson’s biophilia hypothesis, biophilic design focuses on designing in connection with nature (Wilson 1986). Notable research by Stephen Kellert and Bill Browning solidified the importance of biophilic design within architecture, as well as highlighted its impact on human wellbeing (Heerwagen, Kellert, and Mador 2008; Browning, Catherine, and Joseph 2014; Terrapin Bright Green 2012). For example, several studies indicated that connection to nature could lower tension, anxiety, anger, fatigue, and confusion, and could positively influence mood and self-esteem (Alcock et al. 2014; Barton and Pretty 2010; D. K. Keywords: Externalization, Sustainable Living, Climate Change, Social Sustainability, Architecture iafor The International Academic Forum www.iafor.org Keywords: Externalization, Sustainable Living, Climate Change, Social Sustainability, Architecture Keywords: Externalization, Sustainability, Architecture iafor The International Academic Forum www.iafor.org Introduction Brown, Barton, and Gladwell 2013). Biophilic design supported the connection of humans to nature encouraged the strengthening of indoor-outdoor relationships as there are studies that indicate that application can provide both biophilic and environmental benefits to architectural practice (Dreiseitl 2019). Lastly, increased environmental connectivity can support local biodiversity through regenerative design or the creation of nature corridors and hotspots. In research by Hes and Du Plessi, regenerative design that focused on designing for local ecologies helped rejuvenate damaged ecosystems (Hes and Plessis 2014). This encourages for a close relationship between occupants and nature. Given growing climate change and biodiversity concerns, ecologically driven approaches become increasingly important. The integration of nature and porosity within architecture can support the migration and growth of flora and fauna within an urban setting, providing both occupants biophilic benefits while also allowing nature to have spots of habitation amongst the urban concrete jungle (Jain 2019). Building program externalization also contribute to enhanced social connectivity, which can reduce isolation, improve community cohesion and vibrancy. In January of 2019, the Health Resources and Services Administration issued the “Loneliness Epidemic”, which notes that nearly 1 out of 3 older Americans now live alone, which can result in serious mental and physical health effects (Health Resources & Services Administration 2019). “Loneliness and social isolation can be as damaging to health as smoking 15 cigarettes a day”, and thus serious actions need to be taken to address this concern (Health Resources & Services Administration 2019). Though spatial conditions are not the sole contributor to the loneliness epidemic, there are studies that support the impact of spatial conditions on isolation. Social capital is also a growing research topic, as social connectivity becomes a growing concern within predominantly urban design (Putnam 2020). However, what are the building level implications when there is minimal social connectivity, when one cannot open the window to hear children playing, when there is not a porch where people can interact in passing? How has the internalized approach to architecture started to discourage social interaction and connectivity, and what impacts and implications it may have? These questions are explored to varying degrees by researchers, though there exists a missing link between externalization and social connectivity. This thesis links both environmental and social connectivity, and establish why designing for externalization would be better than the current internalized approach. Introduction Especially now in the context of COVID-19 pandemic and social inequity, what role can externalization play? Existing research already support the importance of externalization as people lean towards balconies, porches, and other externalized spaces that allow them to regain connectivity in a forced disconnected environment due to quarantine (Ottoni et al. 2016; Martin 2020; Nisenson 2020). Additionally, flexible boundaries such as sliding doors or outdoor classrooms enable schools to continue teaching while enforcing safe distancing, which are all enabled through externalized design (Bellafante 2020; Superville 2020; Couzin-Frankel, Vogel, and Weil 2020). Given this new context, externalization grows in value as we become increasingly aware of the disconnectivity of existing spaces. With improved social connectivity, study also show its impact on safety and wellbeing within lower-income communities, as spaces designed often don’t encourage social interaction or allow for community identity to develop (Saegert, Winkel, and Swartz 2002; Knapp et al. 2019). This can greatly affect vulnerable communities, which can lead to more severe mental and physical health impacts due to poor ventilation, lack of access to nature, etc. Externalization Palette First set of criteria is the environmental connectivity of building programming - based on how the space is sealed, how much daylight is available, and what kind of activity takes place in these spaces. The worst scenario is a space that is fully sealed with full mechanical support and no access to natural daylight. Then the introduction of natural daylight opportunities while remaining fully sealed and full mechanical support is the next improvement towards environmental connectivity. With the introduction of versatility, the dynamically sealed spaces allow for added operability and access to passive strategies and natural daylight. Then externalized low function spaces introduce fully externalized transitory spaces. Lastly, the most amount of environmental connectivity represent fully externalized high function spaces where social living spaces would be fully externalized. Considerations for environmental connectivity could result in a significant amount of energy savings due to the decrease in conditioned internalized space. Additionally, this allow for an increase in physical activity and circulation, which can increase the overall social connection. Through environmental externalization, there is added visual richness and connectivity, and well as auditory and sensory richness. This allows for the community to gain a sense of vibrancy through architectural design. Second set of criteria is the social connectivity of building programming, which focuses on the amount of social connectivity that the space enables for its occupants. The most socially disconnected is individual and disconnected spaces. Then it moves onto individual but visually connected spaces, which are typically spaces with glass facades where you can see, but not hear or interact. Then it moves onto the building community, which allows for the occupants within a building to socialize and interact with one another. It then moves onto higher levels of public engagement with the neighborhood community connection and finally the urban community connection where it is fully open to the public. The increased social connections allow for the success, resiliency, and longevity of the externalization strategies through increased social connections, an increase in the amount of outdoor activities, and allow for increased socio-cultural richness. Additionally this encourages people to communicate and develop a level of tolerance through a sense of community, which can increase the community resiliency in times of crises such as the current COVID- 19 pandemic. Externalization Palette When both the environmental connectivity and social connectivity are overlapped, it creates a larger palette that can then evaluate architectural design through this color schema - The Externalization Palette. The palette allows for immediate understanding of a design’s externalization quality in regards to its social and environmental considerations and creates a set of vocabulary for building program externalization that can then evaluate architectural design through the criteria of environmental and social connectivity. Architectural design can then be evaluated through this palette to better understand the externalization quality of a design through this evaluation color palette. This palette is arranged so that both criteria must be considered during evaluation as both levels of connectivity determines the quality and effectiveness of externalization in application, and diversity in the types of connectivity within a design is also crucial to its overall success. This palette does not seek to over-simplify the depth of spatial quality and social spaces, but aims to better consider the multiple layers through a more defined set of criteria and vocabulary. In doing so, a better understanding of building program externalization could be reached, and result in more appropriate applications of externalization in architectural design practice. Externalization Taxonomy The externalization taxonomy is a series of fifty strategies that help support designers when thinking about externalization in architectural design, it doesn’t serve as a comprehensive list or a copy-paste solution, but as a series of potential inquiry sparked by existing design strategies stemming from prior case study research. However behind each strategy generated within the taxonomy also lies deeper literature review and research that support the importance and value of the strategies generated. The full taxonomy can be divided into the following four broad categories: • Externalize Circulation • Externalize Family • Externalize Community • Embrace Ecology • Externalize Circulation • Externalize Family • Externalize Community • Embrace Ecology • Externalize Circulation • Externalize Family • Externalize Community • Embrace Ecology Each category contains several externalization strategies, each of which includes an explanatory diagram, a description, scientific research that supports the environmental and social benefits of the strategy, and a precedent study that utilizes the specified strategy. The layout of each taxonomy is shown in Figure 1. These strategies will not be shown in this paper itself, though are accessible online. Figure 1: Externalization Taxonomy Layout Figure 1: Externalization Taxonomy Layout Externalization Taxonomy to Support Design Externalization Taxonomy to Support Design How can designers could use the 50 externalization taxonomies in design - and what are the qualitative and quantitative benefits of implementation? Four specific strategies were chosen and applied to a case study in Pittsburgh to better understand its impact on the building’s design, its daylighting and energy performance, and lastly its experiential impact. The four specific strategies chosen where the shutter facade, dynamic facade, periphery social, and terraced garden strategies. These four strategies were applied to the Environmental Charter School (ECS) in Garfield to explore the value of externalization in architectural design. Figure 2: Four Externalization Strategies Applied to ECS Figure 2: Four Externalization Strategies Applied to ECS The existing ECS building is an enclosed building with thick brick wall construction due to how old the building is. The window sizes and overall building performance was enhanced with the renovation prior to the school’s opening, though all windows in the building are inoperable to the outdoors. This results in a fully internalized spatial experience that does not encourage students and school staff to experience and connect with the outdoor environment despite the school’s out-the-door learning approach. Analyzing the current baseline, the school is primarily enclosed with 71.8% of the total school providing visual connection to the outdoors alone (in red) as shown in Figure 91. The paved area on the southern side of the school as well as the parking lot on the northern side of the school is used for students to play, which is 6.3% of the total program area and the only area that is high function externalized to the outdoors. Due to the lack of greenspace located on the site itself, the adjacent open greenspaces (both located on steep hills that prevent easy access) as well as parks further away are relied on. Spatially and architecturally, the baseline does not allow the school to take advantage of the outdoor environment at all. The school follows a standard educational layout with a central circulation and classrooms facing both the north and southern facades, and the building is three stories tall. The school building does not contain a traditional gym space, so the activity room on the ground floor (a larger classroom area) along with the outdoor spaces are used in lieu of the gym space. Externalization Taxonomy to Support Design Blinds are still available given that the use of projectors and other technologies may require the classroom to be fully dark at times, though the opportunity to use natural daylighting rather than artificial lighting will have profound impacts on the student’s wellbeing as well as the operational costs of the school as a whole. In addition to the natural daylighting benefits that resulted from the shutter façade, the overall building energy use intensity (EUI) also is impacted. Due to the use of natural daylighting and natural ventilation strategies, the total building EUI would be as an astonishing 24.17 kBtu/ft2/year. This is only slightly above the 2030 EUI Target for educational buildings. Given the use of passive strategies that would reduce existing cooling, heating, and lighting loads, it results in the equipment becoming the highest energy load for the whole building instead. Additionally, using Cove.tool, a simple cost analysis was conducted to see the various renovation options possible, which aims to calibrate between the amount of money spent relative to the building’s energy performance. As shown in Figure 196, the lowest cost bundle is making no further changes from the design iteration, though for $1,321 the energy could be optimized even further, resulting in a less than 2-year payback and a 2% energy savings. Another strategy with greater alterations to the baseline is the dynamic facade, which provides even more porosity and flexibility into the architectural design. The dynamic façade externalizes internal program into a flexible shared space that can provide exposure to seasonal weather changes and provide sensory delight. The space can be customized by the occupant and allow for layers of privacy. When externalized, the usage encourages a sense of community and offers social bonding opportunities. Given the strategy and climate type, a dynamic buffer zone is also added on the southern facade to take advantage of thermal capture in winter months. This strategy allows for mostly dynamically externalized spaces, but increases the amount of high function externalized spaces through balconies. This results in great increases in teachable area, social area, and playable area through the added buffer space and balcony additions. Due to this implementation, there is 73% dynamically externalized building community space, and a combined total of 8% circulation externalized and high function externalized spaces. Externalization Taxonomy to Support Design Physical activity is crucial to children’s physical and mental development, making the importance of the outdoors evermore important due to the lack of gym space for physical activity. Given the evident limitations to the baseline ECS building, how can externalization provide valuable impacts to the experience and performance of the existing architecture? This is explored in increasingly more drastic applications – starting with the shutter façade externalization strategy from the externalization taxonomy. The shutter façade aims to externalize the façade to provide façade operability that can act as shading devices when opened while providing thermal insulation when closed. When opened, the shutters can provide shading and rain/snow coverage to allow for use as long as temperature is permitting. This can also help extend internal spaces outwards when folded, encouraging occupants to take advantage of the indoor- outdoor connection. Passive strategies such as natural daylighting and natural ventilation can also be utilized with this approach. The use of the shutter façade allows the building externalization ratio to shift from a predominantly internalized space to primarily dynamically externalized space (73%). The amount of environmentally disconnected and high function externalized spaces do not change however due to the strategy mainly influencing the building façade design alone. However, the northern and southern outdoor areas are landscaped to provide improved outdoor areas that had better encourage students to play outside. Additionally due to the inclusion of the shutter façade, the ground floor classrooms are able to spill out to the nearby greenspaces due to the operability of the design. This approach does not greatly affect the cafeteria or circulatory experiences of the school, but given that students are spending most of their time in classroom settings, this approach can still have profound impacts with biophilic benefits for the students and faculty at ECS. Furthermore, due to the shading provided by the shutter when opened, the natural daylight simulations indicate great levels of spatial daylight autonomy (83.1%) while having very little possibilities of glare. This means that classrooms could take advantage of natural daylight strategies without worrying about issues of glare, which is especially important for the classroom experience given that issues of glare usually deter school staff from taking advantage of natural daylighting opportunities as much. Externalization Taxonomy to Support Design There is still a significant amount of internalized spaces in the center of the building, though it does improve slightly from the original baseline building externalization ratios (BER). Additionally in this iteration, unlike the shutter façade, there are programmatic and spatial impacts. With the implementation of dynamic façade, there is a 24% increase in the total teachable areas, a 109% increase in the total social areas, and a 79% increase in the total playable area. This is due to the inclusion of balcony spaces and the dynamic buffer space. This strategy delivers a very different connection to the outdoors for the students given that this strategy acts more like layers of indoor-outdoor-ness (much like an onion), while still providing many of the externalization benefits that the shutter façade offered. In terms of daylight performance, this iteration provided even higher spatial daylight autonomy (sDA) of 94.9%. However, this also resulted in increased annual sunlight exposure (ASE) of 28.3%. The increase is to be expected given that this strategy does not offer shading solutions, so additional shading strategies could be explored to address the visual comfort concerns. Similar to the shutter façade, the dynamic façade also had a similar EUI value of 24.39 kBtu/ft2/year. Moreover, like the previous iteration, the equipment load is the main dominant load for the whole building energy use intensity breakdown. However, unlike the previous iteration, the cost analysis showed that significant energy savings could be made with actually less cost. This indicates that the design of the school provided more energy savings with less construction and system costs. The most optimized bundle offers a $26,730 reduction in cost for an added 3% energy savings, which would result in immediate payback! The third strategy is the terraced garden, which aims to embrace ecology while offering both social and biophilic benefits. Terraced garden aims to externalize rooftops and facades to become terraced gardenscape that can offer biophilic benefits and social opportunities at various levels of the building. This can have added rainwater collection and other ecological design strategies integrated into the design process. In this iteration, there are terraced landscapes west of the building that embraces a bigger outdoor play area for the students. The parking lot is in return moved offsite to the adjacent open space. Externalization Taxonomy to Support Design Additionally, this can be combined with greenscapes or vegetation to provide added environmental benefits in addition to the social richness that stems from this strategy. In this iteration, the use of the periphery social pushes the central circulation to the perimeter of the building, which hollows out the building center to create a new atrium that can allow natural daylight to penetrate in. This also provides the school flexibility to adjust the building’s porosity based on seasonal conditions on all sides given the dynamically externalized double skin. The approach makes the building largely dynamically externalized (at a combined 91.5%) based on seasonal conditions, and offer more natural daylight into the whole building. However this does reduce the amount of high function or circulation externalized spaces, which reduces the amount of diversity and gradients of externalization is provided in the design, as well as can result in the “over cladding” of the double skin. In this iteration operability becomes highly important, influential in the success or failure of externalization (based on occupant behavior), and proposes new challenges in terms of construction cost, material cost, and questions of excess. The newly created atrium space allows for improved daylighting qualities all the way to the first floor, removing large amounts of originally environmentally disconnected spaces, but results in a seemingly less efficient circulation design for the building. Though the strategy does not perfectly fit the case, it does provide important environmental and social benefits that should be further considered, while the design’s drawbacks should also be re-evaluated for future design development. For the natural daylight performance of this iteration, the large additions did not benefit the overall lighting performance of the building. The spatial daylight autonomy decreased to 62.4% (in comparison to previous iterations), and the annual sunlight exposure was still at 21.7%. This indicated that this iteration provided the most natural daylight challenges, meaning the approaches from other iterations provided more successful natural daylight design solutions in comparison to this iteration. Further exploration and simulation would be needed to improve the building performance of this design. This iteration similarly performed well compared to the 2030 baseline, though comparatively less than the shutter façade and terraced garden iterations. This indicated that the approach was not ideal given its (comparatively) poor daylighting performance with no evident improvement in the EUI performance either. Externalization Taxonomy to Support Design The southern paved area is now transformed into a flexible garden space and outdoor kitchen space with balconies on the second and third floors. This approach greatly increases the amount of high function externalized spaces, with the majority of the design being either dynamically or fully externalized to the outdoors. This also results in incredible increases in the total teachable area (41%), social area (159%), playable area (297%), and circulation in the outdoors (154%). In this iteration, the BER shifts from a predominantly dynamically externalized building to one that is mostly dynamically externalized or high function externalized. This indicates that a large amount of occupied space is actually fully externalized to the environment. For ECS with their out-the-door curriculum, this ratio best aligns with their educational beliefs. For daylight performance, the terraced garden iteration actually performed lesser than the two previous iterations. This was likely due to the more intensive structures added on the southern façade, which resulted in less optimal daylight performance. The overall performance was still high, though more formal considerations would need to be taken prior to its implementation. For this exploration however, that level of detail will not be explored further. However, in contrast, the EUI analysis showed that the terraced garden iteration performed better than the shutter façade or dynamic façade, which could be due to the impact of the dynamic structure added to the southern façade that acts as a thermal buffer and storage during winter months. Understandably, the heating load becomes miniscule, with added focus on equipment loads becoming the largest building load. Lastly, the cost analysis indicated that similar to the dynamic façade, reduced construction cost can actually serve to improve the overall building performance by a slight amount. In the most optimized scenario, $11,082 can be saved while providing 1% payback in energy savings. This would result in improved energy performance in addition to reduced construction costs. Last of all, periphery social completely transforms the school by pushing the circulation to the perimeter of the building. Periphery Social pushes circulation to the periphery edge of the building while incorporating social spaces and community gathering spaces into the circulation itself. This allows for a richer and engaging circulation that allows for spontaneous interactions, collaboration, and social activities to take place in traditionally “transitory” spaces. Externalization Taxonomy to Support Design Lastly, similar to the previous two iterations, periphery social actually benefitted from improved energy savings with less upfront cost. The construction would save $16,190 with 2% improved energy savings based on the most optimized option found in Cove.tool. This is once again likely due to the thermal storage of the double skin that allows for performative savings that may result in some building system machinery being too high-tech relative to their overall usage/impact on the total building energy load. In terms of building performance, each iteration performs at roughly half of the US national median EUI for schools through externalization, which equipment now becoming the main energy load factor in each iteration. Due to the implementation of externalization along with the use of passive strategies, the heating, cooling, and lighting loads are all significantly reduced. This results in the equipment load being the dominant load for each iteration. These iterations are still slightly above the 2030 target of 18.33 kBtu/ft2/year, but through an iterative design process, these preliminary designs could likely reach the 2030 target. Especially considering that, these four iterations are all preliminary designs to explore the value of externalization; these results highlight the potential of externalized thinking. Additionally natural daylight analysis shows that the daylight quality improves greatly through these designs due to increased connections to the environment, though to varying degrees. Overall, their performance are still quite meaningful. Conclusion From the growing impacts of climate change and concerns for building energy loads to the established importance of nature on human health and wellbeing as we become increasingly urbanized to the growing concerns for isolation and social disconnectivity, how we understand ‘boundary’ and shape our spaces become ever more critical. The conventional approach of internalization was supported and bolstered by the development of technology, but as new concerns arise in the 21st century, it is necessary for architecture to shift from the internalized design approach that have become the ‘norm’ to a new externalized design approach that reconnect people to the environment and to each other. Especially in the age of pandemic where quarantine, isolation, and social distancing have become commonplace, externalization becomes a crucial design approach that serves to support the necessary connections that are needed while abiding by the many health and social restrictions that define the current lifestyle. This synthesis establishes foundational research, framework, and design work to encourage and support design professionals in shifting from the current internalized design approach to an externalized approach that allows its occupants to embrace both nature and the community, so that we can create spatial environments that embraces connectivity rather than isolation. Acknowledgements Sincere acknowledgements to Joshua Bard and Sarah Rafson, who provided encouragement and support through the development of this research. Additional thank you to the many professors at Carnegie Mellon University School of Architecture who provided valuable feedback for this body of work. Without the kindness and enthusiasm of many professionals, this work would not have been possible. References Browning, William, Ryan Catherine, and Clancy Joseph. 14 Patterns of Biophilic Design, 2014. https://www.terrapinbrightgreen.com/reports/14-patterns/. Heerwagen, Judith, Stephen R. Kellert, and Martin Mador. Biophilic Design: The Theory, Science and Practice of Bringing Buildings to Life. Hoboken, N.J. : Wiley, 2008. Liebard, Alain, and Andre de Herde. Bioclimatic Facades, 2009. Putnam, Robert. Bowling Alone: Revised and Updated: The Collapse and Revival of American Community. Updated Edition. Simon & Schuster, 2020. Terrapin Bright Green. The Economics of Biophilia. Terrapin Bright Green, June 12, 2012. https://www.terrapinbrightgreen.com/reports/the-economics-of-biophilia/. Wilson, Edward O. Biophilia. Cambridge, UNITED STATES: Harvard University Press, 1986. Hes, Dominique, and Chrisna du Plessis. Designing for Hope: Pathways to Regenerative Sustainability. 1 edition. New York: Routledge, 2014. Alcock, Ian, Mathew P. White, Benedict W. Wheeler, Lora E. Fleming, and Michael H. Depledge. 2014. “Longitudinal Effects on Mental Health of Moving to Greener and Less Green Urban Areas.” Environmental Science & Technology 48 (2): 1247– 55. https://doi.org/10.1021/es403688w. Barton, Jo, and Jules Pretty. “What Is the Best Dose of Nature and Green Exercise for Improving Mental Health? A Multi-Study Analysis.” Environmental Science & Technology 44, no. 10 (May 15, 2010): 3947–55. https://doi.org/10.1021/es903183r. Barton, Jo, and Jules Pretty. “What Is the Best Dose of Nature and Green Exercise for Improving Mental Health? A Multi-Study Analysis.” Environmental Science & Technology 44, no. 10 (May 15, 2010): 3947–55. https://doi.org/10.1021/es903183r. Bellafante, Ginia. “Schools Beat Earlier Plagues With Outdoor Classes. We Should, Too.” The New York Times, July 17, 2020, sec. New York. https://www.nytimes.com/2020/07/17/nyregion/coronavirus-nyc-schools-reopening- Bellafante, Ginia. “Schools Beat Earlier Plagues With Outdoor Classes. We Should, Too.” The New York Times, July 17, 2020, sec. New York. Bellafante, Ginia. “Schools Beat Earlier Plagues With Outdoor Classes. We Should, Too.” The New York Times, July 17, 2020, sec. New York. https://www.nytimes.com/2020/07/17/nyregion/coronavirus-nyc-schools-reopening- Bellafante, Ginia. Schools Beat Earlier Plagues With Outdoor Classes. We Should, Too.” The New York Times, July 17, 2020, sec. New York. https://www.nytimes.com/2020/07/17/nyregion/coronavirus-nyc-schools-reopening- outdoors.html. Too. The New York Times, July 17, 2020, sec. New York. https://www.nytimes.com/2020/07/17/nyregion/coronavirus-nyc-schools-reopening- outdoors.html. y https://www.nytimes.com/2020/07/17/nyregion/coronavirus-nyc-schools-reopening- outdoors.html. Brown, Daniel K., Jo L. Barton, and Valerie F. Gladwell. “Viewing Nature Scenes Positively Affects Recovery of Autonomic Function Following Acute-Mental Stress.” Environmental Science & Technology 47, no. 11 (June 4, 2013): 5562–69. https://doi.org/10.1021/es305019p. Brown, Daniel K., Jo L. Barton, and Valerie F. Gladwell. “Viewing Nature Scenes Positively Affects Recovery of Autonomic Function Following Acute-Mental Stress.” Environmental Science & Technology 47, no. 11 (June 4, 2013): 5562–69. https://doi.org/10.1021/es305019p. Dreiseitl, Herbert. 2019. “Biophilia for Healthy Cities.” Topos, no. 106. https://shop.georg-media.de/topos-106/. Watson, Donald. 2013. “Bioclimatic Design.” In Sustainable Built Environments, edited by Vivian Loftness. n.d. “Mixed Mode Ventilation Adopted in Advanced Office Buildings.” Green Build Conference. Accessed July 19, 2020. Jain, Anuj. 2019. “Landscape Ecology.” Presented at the Master of Science in Integrated Sustainable Design Workshop, National Univeristy of Singapore, January 16. References Couzin-Frankel, Jennifer, Gretchen Vogel, and Meagan Weil. 2020. “School Openings across Globe Suggest Ways to Keep Coronavirus at Bay, despite Outbreaks.” Science | AAAS. July 7, 2020. https://www.sciencemag.org/news/2020/07/school-openings-across-globe-suggest- ways-keep-coronavirus-bay-despite-outbreaks. Couzin-Frankel, Jennifer, Gretchen Vogel, and Meagan Weil. 2020. “School Openings across Globe Suggest Ways to Keep Coronavirus at Bay, despite Outbreaks.” Science | AAAS. July 7, 2020. https://www.sciencemag.org/news/2020/07/school-openings-across-globe-suggest- ways-keep-coronavirus-bay-despite-outbreaks. Couzin-Frankel, Jennifer, Gretchen Vogel, and Meagan Weil. 2020. “School Openings across Globe Suggest Ways to Keep Coronavirus at Bay, despite Outbreaks.” Science | AAAS. July 7, 2020. | y https://www.sciencemag.org/news/2020/07/school-openings-across-globe-suggest- ways-keep-coronavirus-bay-despite-outbreaks. Dreiseitl, Herbert. 2019. “Biophilia for Healthy Cities.” Topos, no. 106. https://shop.georg-media.de/topos-106/. Health Resources & Services Administration. 2019. “The ‘Loneliness Epidemic.’” Text. Official Web Site of the U.S. Health Resources & Services Administration. January 10, 2019. https://www.hrsa.gov/enews/past-issues/2019/january- 17/loneliness-epidemic. Knapp, Megan B., Megan T. Hall, Adrienne R. Mundorf, Kerrie L. Partridge, and Carolyn C. Johnson. 2019. “Perceptions of School-Based Kitchen Garden Programs in Low-Income, African American Communities.” https://journals-sagepub- com.proxy.library.cmu.edu/doi/full/10.1177/1524839918782157. Loftness, Vivian. 2014. “Indoor Environmental Quality.” Architect. October 20, 2014 https://www.architectmagazine.com/Design/indoor-environmental-quality_o. Loftness, Vivian, and Dagmar Haase, eds. 2013. Sustainable Built Environments. New York, NY: Springer New York. https://doi.org/10.1007/978-1-4614-5828-9. Martin, Rebeca Ibanez. 2020. “The Balcony: Normativity Lessons in Times of Crisis.” Somatosphere (blog). April 9, 2020. http://somatosphere.net/2020/the-balcony- normativity-lessons-in-times-of-crisis.html/. Nisenson, Lisa. 2020. “Outdoor Dining & Sidewalk Cafes.” 2020. https://www.greaterplaces.com/whats-new-city-design/i/10005280/outdoor-dining- sidewalk-cafes. Ottoni, Callista A., Joanie Sims-Gould, Meghan Winters, Myrthe Heijnen, and Heather A. McKay. 2016. “‘Benches Become like Porches’: Built and Social Environment Influences on Older Adults’ Experiences of Mobility and Well-Being.” Social Science & Medicine (1982) 169: 33–41. https://doi.org/10.1016/j.socscimed.2016.08.044. Saegert, Susan, Gary Winkel, and Charles Swartz. 2002. “Social Capital and Crime in New York City’s Low-income Housing.” Housing Policy Debate 13 (1): 189–226. https://doi.org/10.1080/10511482.2002.9521439. Superville, Denisa R. 2020. “Outdoor Classrooms in the Age of COVID-19: Pros and Cons.” Education Week - District Dossier. June 1, 2020. http://blogs.edweek.org/edweek/District_Dossier/2020/06/outdoor_classrooms_coron avirus.html?cmp=SOC-SHR-FB. Wang, Yang, Fu-Yun Zhao, Jens Kuckelkorn, Di Liu, Jun Liu, and Jun-Liang Zhang. 2014. “Classroom Energy Efficiency and Air Environment with Displacement Natural Ventilation in a Passive Public School Building.” Energy and Buildings 70 (February): 258–70. https://doi.org/10.1016/j.enbuild.2013.11.071. Watson, Donald. 2013. “Bioclimatic Design.” In Sustainable Built Environments, edited by Jain, Anuj. 2019. “Landscape Ecology.” Presented at the Master of Science in Integrated Sustainable Design Workshop, National Univeristy of Singapore, January 16. Vivian Loftness. n.d. “Mixed Mode Ventilation Adopted in Advanced Office Buildings.” Green Build Conference. Accessed July 19, 2020. Jain, Anuj. 2019. “Landscape Ecology.” Presented at the Master of Science in Integrated Sustainable Design Workshop, National Univeristy of Singapore, January 16. Vivian Loftness. n.d. “Mixed Mode Ventilation Adopted in Advanced Office Buildings.” Green Build Conference. Accessed July 19, 2020.
https://openalex.org/W4361986599
https://www.e3s-conferences.org/10.1051/e3sconf/202337605047/pdf
English
null
The role of technological innovations in institutional regulation of the financial capital market
E3S web of conferences
2,023
cc-by
3,413
* Corresponding author: abuzov.arthur@mail.ru The role of technological innovations in institutional regulation of the financial capital market 1SSEU, Department of Economics, Organization, and Enterprise Development Strategy, 443031 Samara, Russia Abstract. Financial technologies (fintech) have been actively developing in recent years and are overturning conventional notions about the financial capital market. The article explores the role of technological innovations in institutional regulation of the financial capital market. Thanks to innovations such as blockchain technology, artificial intelligence, and machine learning, market participants are able to make more accurate and faster decisions, ensure transaction security and reliability, and have more transparent and efficient risk management. The article describes some examples of successful implementation of technological innovations in institutional regulation of the financial capital market, such as the use of blockchain in supply chain management, automation of risk management, and real-time processing of large volumes of data. A mathematical model of optimal institutional regulation of the financial capital market is presented. However, in addition to the advantages, the use of technological innovations also carries potential risks such as breach of confidentiality, incomplete information of market participants, and the possibility of technological glitches. Therefore, it is important to develop and effectively implement measures to regulate the use of fintech, which must comply with rules and legislation. © The Authors, published by EDP Sciences. This is an open access article distributed under the terms of the Creative Commons Attribution License 4.0 (http://creativecommons.org/licenses/by/4.0/). E3S Web of Conferences 376, 05047 (2023) ERSME-2023 E3S Web of Conferences 376, 05047 (2023) ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 1 Introduction The financial capital market is one of the most significant elements of the economy in many countries. As a result, institutional regulation of this market plays an important role in ensuring its stability and efficiency. In recent years, there have been numerous new technological innovations that can be used to improve institutional regulation processes. This can include the use of blockchain technology, machine learning, artificial intelligence, and other tools. Although many of these innovations are still only beginning to be used in financial capital market regulation, they have already shown their potential for increasing regulation efficiency and protecting investor interests. In this article, we will analyze which technological innovations can be applied to institutional regulation of the financial capital market and how they are already being used in different countries around the world. We will also evaluate the advantages and disadvantages E3S Web of Conferences 376, 05047 (2023) ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 associated with the use of these innovations and how they can be used to achieve more efficient institutional regulation in the future. associated with the use of these innovations and how they can be used to achieve more efficient institutional regulation in the future. Technological innovations in the field of financial technology, including blockchain, artificial intelligence, and machine learning, are increasingly being used in the financial capital market. They represent the potential to improve market efficiency, transparency, and security, as well as to ensure compliance with regulatory requirements. Studies show that the use of blockchain can significantly reduce transaction costs and improve the security of operations in financial markets (Swan, 2015 [1]; Crosby et al., 2016 [2]). In particular, blockchain technology allows for the creation of blockchains that contain information about transactions and other operations. Blockchain can be used to improve transparency and reliability in the securities system and risk management (Vigna & Casey, 2015 [3]). However, as noted by Zhang et al. [4], standardization and integration between different blockchain platforms remain the main obstacles to their widespread adoption. Artificial intelligence and machine learning also have the potential to improve the efficiency and accuracy of decision-making in financial markets (Chen et al., 2018 [5]; Schroeck et al., 2019 [6]). However, as noted by Zhou et al. [7], the use of artificial intelligence can also raise concerns about data confidentiality and discrimination. 1 Introduction Therefore, the implementation of artificial intelligence and machine learning in the financial capital market should be accompanied by appropriate measures to protect data and ethical responsibility. These technologies can be used to analyze large volumes of data and identify trends and risks that may potentially threaten market stability. Additionally, they can help automate some regulatory processes, which can increase efficiency and reduce costs associated with these tasks. Despite the potential benefits that technological innovations can bring to institutional regulation of the financial capital market, there are also risks associated with their application. For example, issues with data protection and confidentiality may arise, and new types of fraud and cyber-attacks may emerge. Therefore, it is important to strike a balance between the use of new technologies and ensuring the safety and protection of investor rights. Recent studies also highlight the role of collaboration between the private sector and the government in the development and implementation of technological innovations in the financial capital market. This allows regulators to gain wider access to the expertise and technologies needed for effective market regulation, and also fosters collaboration between the private sector and the government in the development and implementation of technological innovations [8]. Finally, it should be noted that technological innovations in the field of financial technology are still in the developmental stage, and their impact on the financial capital market can be unpredictable. However, as many researchers note, the implementation of technological innovations can lead to significant improvements in the efficiency, transparency, and security of the financial capital market, which can ultimately lead to a more stable and resilient financial capital market as a whole [9]. Thus, there is significant potential for the use of technological innovations in institutional regulation of the financial capital market. However, to successfully realize this potential, it is necessary to consider the risks and benefits of using these innovations, as well as develop appropriate standards and guidelines for their safe and effective use. 3 Results The analysis of the role of technological innovations in institutional regulation of the financial capital market has shown that these innovations can provide significant benefits in terms of efficiency, security, and stability of the market. Figure 1 shows the evolution of digital technologies that have influenced the development of the financial capital market. n y Voice identification to verify the identity of customers when calling the bank 2016 Fig. 1. Evolution of financial technologies. The Bitcoin system was the first application of blockchain technology 2008 1998-1999 PayPal 1995 First Virtual Bank Security First Network Bank (www.sfhb.com) The First Diners Credit Cards 1950 1967 The first cash withdrawal ATM at a Barclays Bank branch in Enfield NASDAQ - the world's first electronic stock market 1971 The first mobile payment via SMS. Helsinki 1997 2017 Smile to pay Voice identification to verify the identity of customers when calling the bank 2016 2013 N26 — 100% online banking NASDAQ - the world's first electronic stock market 1971 2017 mile to p 1998-1999 PayPal Fig. 1. Evolution of financial technologies. The blockchain technology has been identified as a promising tool for accounting and transferring securities, managing risks, and reducing transaction costs. The use of smart contracts and digital identities can help to automate many processes and improve the accuracy of transactions. However, the lack of standardization and interoperability of different blockchain platforms remains a major challenge for their widespread adoption. The use of blockchain technology can lead to a reduction in back-office operations costs by 30-50%. However, these figures apply to the costs of operations related to data processing and transmission and may vary depending on the specific application of blockchain technology [10]. One example of using blockchain in regulating the financial capital market is using the technology to improve investment attraction processes through Initial Coin Offerings (ICO). ICO is a process in which companies attract investments by issuing their own cryptocurrency and selling it to investors. However, this practice poses certain risks for investors, as companies may misuse the funds raised, and there is a risk of fraud. To address these issues, blockchain can be used to create a secure and reliable platform for conducting ICOs. Blockchain allows creating a chain of blocks with information about all transactions that occur within an ICO. 2 Materials and Methods To compile a review of the practices of using blockchain, artificial intelligence, and machine learning in regulating financial capital, the following sources of information were used: - Scientific articles and reports published in various journals and databases, including Google Scholar and Scopus; 2 2 E3S Web of Conferences 376, 05047 (2023) ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 - Official documents and publications of international organizations such as the World Bank, the International Monetary Fund (IMF), the Organization for Economic Cooperation and Development (OECD), among others; p ( ) g - News articles and blogs published in financial media such as Bloomberg and the Financial Times. To construct a mathematical model for optimal institutional regulation of the financial capital market, the following mathematical methods were used: To construct a mathematical model for optimal institutional regulation of the financial capital market, the following mathematical methods were used: p g - Functional analysis and optimization theory for formulating the optimization problem - Functional analysis and optimization theory for formulating the optimization problem; - Theory of monotone functions for assuming a monotonic increasing relationship - Functional analysis and optimization theory for formulating the optimization problem; - Theory of monotone functions for assuming a monotonic increasing relationship between the yield function and the level of regulation and economic growth. - Functional analysis and optimization theory for formulating the optimization problem; - Theory of monotone functions for assuming a monotonic increasing relationship between the yield function and the level of regulation and economic growth. 3 Results This gives investors the opportunity to ensure that the funds they invest in ICOs are used for their intended purpose and to monitor the project's development process. Another example is using blockchain to create decentralized exchanges (DEX). Traditional exchanges are centralized, meaning they have a centralized structure and store all data and funds on a central server. This creates security risks, as the server can be hacked or attacked by hackers. 3 3 3 E3S Web of Conferences 376, 05047 (2023) ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 In DEX, blockchain is used to create a decentralized platform on which users can trade without intermediaries. This increases the security and reliability of trading in the financial capital market. In addition, blockchain allows for the creation of smart contracts that are automatically executed when certain conditions are met, making the trading process easier and reducing risks for investors. g The standard scheme of financial transactions includes several stages and intermediary roles: - Initiation of the transaction: the client initiates the transaction, usually through their bank account, using online banking or a mobile application; - Verification of client data: the bank verifies the client's personal data and checks whether they have sufficient funds to conduct the transaction; - Data transfer: the bank transfers data about the transaction to other participants in the financial system, such as payment systems, payment processors, or other banks; - Processing the transaction: financial system participants process the transaction and confirm it; - Completion of the transaction: the bank carries out the final transfer of funds to the recipient's account. The roles of intermediaries in this scheme may vary depending on the type of transaction and the country, but usually include banks, payment systems, payment processors, card networks, and other financial system participants. Blockchain technology can simplify this scheme by removing some intermediaries and making transactions faster and more secure. For example, blockchain can be used to create a decentralized payment system that allows clients to exchange funds directly without the involvement of intermediaries. In this case, blockchain technology replaces the role of banks and other financial system participants. In addition, blockchain can improve the security of transactions and reduce the risks of fraud and errors. Blockchain uses cryptography and digital signatures to protect data, and all transactions are recorded in an immutable ledger, making them immutable and more reliable. 3 Results Artificial intelligence and machine learning can also provide valuable insights into market trends and risks, and help to identify potential fraud and other illegal activities. The use of advanced analytics and predictive modeling can improve risk management and decision- making, and reduce the impact of market volatility on the overall performance of the market. However, the potential risks associated with the use of AI and machine learning, such as bias and data privacy concerns, should be carefully addressed to ensure their responsible and ethical use. One example of the application of artificial intelligence and machine learning in institutional regulation of the financial capital market is the use of machine learning algorithms to detect manipulation on financial markets. For instance, Nasdaq uses AI and machine learning technologies to detect abnormal trading activity and manipulation on stock exchanges. Nasdaq systems employ machine learning algorithms to automatically process and analyze large volumes of trading data and identify anomalies that may indicate manipulation. Another example is the use of artificial intelligence to assess investment risks. Some companies use machine learning algorithms to analyze data and determine the risks associated with investing in certain assets or markets. This can help investors and regulatory bodies make more informed decisions based on quantitative data [11]. Consider a mathematical model describing the optimal institutional regulation of the financial capital market. Let $y$ be the return on the financial capital market, $x$ be the level of regulation, and $z$ be economic growth. Then the function of the return on the financial capital market can be expressed as follows: 4 E3S Web of Conferences 376, 05047 (2023) ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 (1) $$y=f(x,z)$$, Assume that the function $f$ is monotonically increasing in $x$ and $z$, that is, the higher the level of regulation and economic growth, the higher the return on the financial capital market. p Now suppose that regulatory bodies can control the level of regulation $x$. Regulatory bodies can choose the optimal level of regulation that maximizes the return on the financial capital market, provided that this does not adversely affect economic growth $z$. y, this can be written as an optimization problem: Mathematically, this can be written as an optimization problem: $$\max_{x} f(x,z)$$ subject to $g(x,z) \geq 0$, (2) (2) Where $g(x,z)$ is a constraint function that defines the relationship between the level of regulation $x$ and economic growth $z$. 3 Results Thus, the optimal level of regulation will be the one that maximizes the return on the financial capital market, subject to not negatively affecting economic growth. j g y g g Of course, in practice, the level of regulation cannot be chosen simply based on a mathematical model. Many other factors need to be taken into account, such as political and social conditions, external economic factors, etc. However, the mathematical model can be a useful tool for decision-making based on quantitative data and assessing the effectiveness of various regulatory measures. 4 Discussion This 5 5 E3S Web of Conferences 376, 05047 (2023) ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 indicates that investors continue to see significant potential in the development of fintech technologies [16]. indicates that investors continue to see significant potential in the development of fintech technologies [16]. The prospects for the development of financial technologies (fintech) look promising. With the increasing number of participants in financial markets and growing trading volumes, the use of technology becomes increasingly necessary. Fintech has the potential to lead to the emergence of new financial products and services. For example, microfinance and microcredit are becoming more popular due to the use of technologies that enable the automation and acceleration of the loan issuing process. 5 Conclusion In conclusion, it can be noted that technological innovations such as blockchain and artificial intelligence are playing an increasingly important role in regulating the financial capital market. These technologies offer a number of advantages, such as increased transparency, easier trading, and improved forecasting accuracy, which help to enhance market processes and ensure the safety and reliability of financial transactions. Furthermore, the implementation of technological innovations in the financial industry can lead to significant cost reductions, which is an important factor for market participants. However, it is important to also consider the potential risks associated with the use of these technologies and effectively regulate them in accordance with rules and legislation. Therefore, technological innovations are an important factor in the institutional regulation of the financial capital market, and with consideration of their potential and risks, measures should be taken for their effective use and regulation in accordance with market rules and legislation. 4 Discussion Blockchain and artificial intelligence have increasingly been influencing the financial capital market in recent years. Below are some examples of how these technologies have impacted the market: 1. Facilitating trading: Blockchain technology allows for faster and cheaper financial transactions. For example, payments can be made directly between participants without the need for intermediaries such as banks. These speeds up processes and reduces costs. 2. Improving transparency: Blockchain technology can provide a more transparent and secure way of storing and transmitting data. This is particularly important for financial transactions where participants must be sure that the data has not been altered or falsified. 2. Improving transparency: Blockchain technology can provide a more transparent and secure way of storing and transmitting data. This is particularly important for financial transactions where participants must be sure that the data has not been altered or falsified. 3. Enhancing prediction accuracy: Artificial intelligence can be used to analyze large amounts of data and predict trends in the financial market. This can help investors make more informed decisions and improve their investment outcomes. Some specific figures that confirm the impact of blockchain and artificial intelligence on the market include: In 2020, the market volume of blockchain technology in the financial industry was $4.4 billion. (Source: MarketsandMarkets) [12]. In 2020, the market volume of blockchain technology in the financial industry was $4.4 billion. (Source: MarketsandMarkets) [12]. According to Accenture, the use of artificial intelligence could lead to a 22% reduction in financial company costs by 2030 [13]. According to Accenture, the use of artificial intelligence could lead to a 22% reduction in financial company costs by 2030 [13]. According to McKinsey & Company, the implementation of blockchain technology could lead to a 30-50% reduction in back-office operation costs [14]. According to McKinsey & Company, the implementation of blockchain technology could lead to a 30-50% reduction in back-office operation costs [14]. The PwC "Global Fintech Report 2021" states that 88% of financial companies believe that implementing fintech solutions helps improve customer experience. In addition, 77% of companies believe that fintech technologies help increase operational efficiency, and 54% of survey participants stated that they plan to acquire or strengthen their partnerships with fintech companies in the coming years [15]. Also, the KPMG "Pulse of Fintech 2021" report notes that more than $44 billion was invested in global fintech companies in 2020, despite the COVID-19 pandemic. References 1. M. Swan, Blockchain, blueprint for a new economy (O'Reilly Media, Inc., 2015) 2. M. Crosby, P. Pattanayak, S.S. Verma, V. Kalyanaraman, Applied Innovation 2, 6-10 (2016) DOI: 10.1016/j.apinov.2016.05.001 3. P. Vigna, M.J. Casey, The age of cryptocurrency: How bitcoin and digital money are challenging the global economic order (St. Martin's Press, 2015) 4. Y. Zhang, Y. Xu, L. Ye, International Journal of Financial Research 11(2), 199-211 (2020) DOI: 10.5430/ijfr.v11n2p199 5. M. Chen, Y. Ma, Z. Li, X. Li, Journal of Financial Management Science 1(1), 14-27 (2018) DOI: 10.3934/jfms.2018002 6. M. Schroeck, R. Shockley, J. Smart, D. Romero-Morales, P. Tufano, Deloitte Insights, 1-14 (2019) 7. L. Zhou, J. Zhang, X. Chen, W. Liu, Journal of Business Research 117, 159-164 (2020) DOI: 10.1016/j.jbusres.2020.04.027 8. T.H. Lee, H., Kim, H. Kim, Journal of Financial Stability 53, 100-119 (2021) DOI: 10.1016/j.jfs.2021.100119 9. R. Turrin, M. Donadelli, R. Demirer, Journal of Financial Stability 54, 100-113 (2021) DOI: 10.1016/j.jfs.2021.100134 10. T. Nakamura, Y. Nemoto, M. Takahashi, McKinsey & Company (2016) 11. M. Bayern, How AI and machine learning are transforming banking and finance (TechRepublic, 2020) URL: https://www.techrepublic.com/article/how-ai-and- machine-learning-are-transforming-banking-and-finance/ 6 E3S Web of Conferences 376, 05047 (2023) ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 12. Markets and Markets, Blockchain Market by Component, Provider, Application, and Region - Global Forecast to 2025 (2020) URL: https://www.marketsandmarkets.com/Market-Reports/blockchain-market- 90100890.html 13. Accenture. Banking Technology Vision (2019) URL: https://www.accenture.com/_acnmedia/pdf-96/accenture-2019-banking-tech-vision.pdf 14. McKinsey & Company. Blockchain beyond the hype: What is the strategic business value? (2018) URL: https://www.mckinsey.com/business-functions/digital- mckinsey/our-insights/blockchain-beyond-the-hype-what-is-the-strategic-business- value 15. PwC Global Fintech Report (2021) URL: https://www.pwc.com/gx/en/industries/financial-services/fintech/global-fintech-report- 2021.html 15. PwC Global Fintech Report (2021) URL: https://www.pwc.com/gx/en/industries/financial-services/fintech/global-fintech-report- 2021.html 16. KPMG Pulse of Fintech 2021 (2021) URL: https://home.kpmg/xx/en/home/insights/2021/06/pulse-of-fintech-h1-2021.html 16. KPMG Pulse of Fintech 2021 (2021) URL: https://home.kpmg/xx/en/home/insights/2021/06/pulse-of-fintech-h1-2021.html 7 7
W1981278455.txt
https://www.frontiersin.org/articles/10.3389/fnmol.2012.00016/pdf
en
Conditional RARα knockout mice reveal acute requirement for retinoic acid and RARα in homeostatic plasticity
Frontiers in molecular neuroscience
2,012
cc-by
7,811
ORIGINAL RESEARCH ARTICLE MOLECULAR NEUROSCIENCE published: 15 February 2012 doi: 10.3389/fnmol.2012.00016 Conditional RARα knockout mice reveal acute requirement for retinoic acid and RARα in homeostatic plasticity Federica Sarti 1,2 , Jessica Schroeder 1 , Jason Aoto 1 and Lu Chen 1* 1 2 Department of Psychiatry and Behavioral Sciences, Stanford Institute of Neuro-Innovation and Translational Neuroscience, Stanford University School of Medicine, Stanford, CA, USA Department of Molecular and Cell Biology, University of California, Berkeley, CA, USA Edited by: R. Suzanne Zukin, Albert Einstein College of Medicine, USA Reviewed by: Roger L. Papke, University of Florida School of Medicine, USA Gong Chen, The Pennsylvania State University, USA *Correspondence: Lu Chen, Department of Psychiatry and Behavioral Sciences, Stanford University, Lorry Lokey Stem Cell Research Building, 265 Campus Drive, Room G1034B, Stanford, CA 94305-5453, USA. e-mail: luchen1@stanford.edu All-trans retinoic acid (RA) plays important roles in brain development through regulating gene transcription. Recently, a novel post-developmental role of RA in mature brain was proposed. Specifically, RA rapidly enhanced excitatory synaptic transmission independent of transcriptional regulation. RA synthesis was induced when excitatory synaptic transmission was chronically blocked, and RA then activated dendritic protein synthesis and synaptic insertion of homomeric GluA1 AMPA receptors, thereby compensating for the loss of neuronal activity in a homeostatic fashion. This action of RA was suggested to be mediated by its canonical receptor RARα but no genetic evidence was available. Thus, we here tested the fundamental requirement of RARα in homeostatic plasticity using conditional RARα knockout (KO) mice, and additionally performed a structure-function analysis of RARα. We show that acutely deleting RARα in neurons eliminated RA’s effect on excitatory synaptic transmission, and inhibited activity blockade-induced homeostatic synaptic plasticity. By expressing various RARα rescue constructs in RARα KO neurons, we found that the DNA-binding domain of RARα was dispensable for its role in regulating synaptic strength, further supporting the notion that RA and RARα act in a non-transcriptional manner in this context. By contrast, the ligand-binding domain (LBD) and the mRNA-binding domain (F-domain) are both necessary and sufficient for the function of RARα in homeostatic plasticity. Furthermore, we found that homeostatic regulation performed by the LBD/F-domains leads to insertion of calcium-permeable AMPA receptors. Our results confirm with unequivocal genetic approaches that RA and RARα perform essential non-transcriptional functions in regulating synaptic strength, and establish a functional link between the various domains of RARα and their involvement in regulating protein synthesis and excitatory synaptic transmission during homeostatic plasticity. Keywords: retinoic acid, retinoic acid receptor alpha, homeostatic synaptic plasticity, synaptic scaling, mRNA binding, calcium-permeable AMPA receptor, dendritic protein translation, conditional RARalpha knockout INTRODUCTION During development, retinoic acid (RA) performs essential functions as a morphogen regulating gene expression. In the nervous system, RA-signaling is involved in neurogenesis and neuronal differentiation. However, several recent lines of evidence support the idea that RA also performs post-developmental functions in the adult brain. First, RA can be rapidly synthesized in various regions of the adult brain (Dev et al., 1993). Second, compromised RA-signaling (through either genetic knockout (KO) of RA receptors or vitamin A deficiency) leads to impaired longterm synaptic plasticity in the hippocampus (Chiang et al., 1998; Misner et al., 2001). The involvement of RA in synaptic plasticity was further supported by deficits in learning and memory tasks observed in mice with a genetic deletion of RA receptors or with vitamin A deficiency (Chiang et al., 1998; Cocco et al., 2002). Third, recent evidence established a role of RA in synaptic signaling in that RA directly potentiates glutamatergic synaptic transmission (Aoto et al., 2008). Blocking synaptic glutamate Frontiers in Molecular Neuroscience receptors activates RA synthesis, which in turn promotes local synthesis of various synaptic proteins, including GluA1 subunit of AMPA receptors. Synaptic insertion of homomeric GluA1 AMPA receptors increases synaptic transmission and, therefore, compensates the changes in synaptic activity homeostatically (Aoto et al., 2008). At least the latter action of RA is different from its role in development in that it does not require transcriptional activation (Aoto et al., 2008). The action of RA is primarily mediated by nuclear retinoid receptor proteins called retinoic acid receptors (RAR-α, -β, -γ) and retinoid “X” receptors (RXR-α, -β, -γ). Like other members of the steroid receptor family, RARs and RXRs are transcription factors. Although structurally similar, the ligand specificity differs between RARs and RXRs in that RARs bind RA with high affinity, whereas RXRs exclusively bind 9-cis-retinoic acid (Soprano et al., 2004). Because 9-cis-RA is undetectable in vivo, the effects of retinoids on gene transcription are presumed to be mediated by RA interactions with RARs. In the mammalian brain, RARα www.frontiersin.org February 2012 | Volume 5 | Article 16 | 1 Sarti et al. RARα and synaptic scaling is found in the cortex and hippocampus, while RARβ is highly expressed in the basal ganglia, and RARγ is not detectable (Krezel et al., 1999; Zetterstrom et al., 1999). The expression and subcellular distribution of RARα in the hippocampus exhibit interesting developmental changes (Huang et al., 2008). Specifically, the expression levels of RARα in hippocampal neurons gradually decrease postnatally, and the subcellular localization of RARα protein shifts from the nucleus to the cytosol. While almost exclusively localized in the nucleus of developing neurons, at least equal amounts of RARα were detected in the cytosol and dendrites in mature hippocampal pyramidal and granule cells (Aoto et al., 2008; Huang et al., 2008; Maghsoodi et al., 2008). Functionally, dendritic RARα acts as an mRNAbinding protein that represses translation of target mRNAs, and thus performs a different role than the transcriptional function of RARα localized in the nucleus (Poon and Chen, 2008). In the dendrites, RA binding to RARα reduces RARα binding to mRNA, and de-represses translation (Poon and Chen, 2008). The region of RARα that mediates mRNA binding has been determined (Poon and Chen, 2008), but it is unknown whether RA binding by RARα and its mRNA-binding ability are required for its role in regulating synaptic strength. Here, we combine mouse genetics and electrophysiology to rigorously test the role of RA and RARα in homeostatic plasticity, and to systematically examine the contribution of various domains of RARα to synaptic signaling by RA. Consistent with earlier results, we found that RARα is essential for some forms of homeostatic plasticity, and that the carboxyl terminal half of the RARα, which contains the ligand-binding domain (LBD) and the RNA-binding domain (F-domain), are both necessary and sufficient for the function of RARα in the homeostatic regulation of excitatory synaptic strength. MATERIALS AND METHODS MOUSE HUSBANDRY AND GENOTYPING The RARα floxed mouse (C57BL/6 background) is a generous gift from Drs. Pierre Chambon and Norbert Ghyselinck (IGBMC, Strasbourg, France) (Chapellier et al., 2002). Breeding colonies are maintained in the animal facility at Stanford Medical School. Genotyping of the mice was achieved by PCR with the following primers: Primer 1 Fwd 5 -GTGTGTGTGTGTATTCGCGTGC-3, Primer 2 Rev 5 -ACAAAGCAAGGCTTGTAGATGC-3 and compared with wild-type (WT) C57BL/6. Following infection with a lentiviral vector expressing Cre recombinase or a truncated and inactive version of Cre, successful lox-P mediated recombination in neuronal cultures was assayed by PCR with Primer 1 and Primer 3: 5 -TACACTAACTACCCTTGACC-3 . Conditions were 30 cycles for 30 s at 92◦ C, annealing at decreasing temperatures in the range from 62◦ C to 56◦ C to increase product specificity and elongation for 30 s at 72◦ C. with a retroviral vector expressing proteins of interest at 4–7 DIV. Manipulations used to induce synaptic scaling in dissociated cultures include: TTX + APV (1 μM TTX + 100 μM APV, 24 h); TTX + APV + DEAB (1 μM TTX + 100 μM APV + DEAB 10 μM, 24 h); RA (1 μM, 30 min followed by 1 h of washout). VIRAL VECTORS AND VIRUS PRODUCTION Lentivirus was produced and purified as described previously (Aoto et al., 2008). Briefly, human embryonic kidney 293T (HEK293T) cells were transfected using calcium phosphate with the transfer vector and three helper plasmids. After 48 h, supernatants were pooled, spun at 25,000 rpm through a sucrose cushion for 1.5 h, and resuspended in PBS. Virus expressing Crerecombinase or a truncated and inactive version of Cre (Cre) [gifts from Dr. Thomas Sudhof ’s lab, (Kaeser et al., 2011)] was applied overnight to the media of dissociated neuronal cultures generated from RARα floxed mice and washed out the following day. In rescue experiments, Cre-recombinase or Cre and RARα were expressed simultaneously from a bicistronic lentiviral transfer vector containing a GFP-Cre 5 open reading frame immediately followed by an IRES sequence fused to the RARα reading frame RARα or truncated versions of RARα expressing the different domains were inserted in the forward direction into the unique BstXI site located in the MCS region. Neurons were infected at 4–7 DIV and recorded from at 14–16 DIV. ELECTROPHYSIOLOGY Whole-cell patch-clamp recordings were made at room temperature from 14–16 DIV cultured neurons, with 4–6 M patch pipettes filled with an internal solution containing (in mM) 120 CsCl, 2 MgCl2 , 5 EGTA, 10 HEPES, 0.3 Na3 -GTP, 4 Na2 -ATP (pH 7.35). Cultures were continuously superfused with external solution (in mM, 100 NaCl, 26 NaHCO3 , 2.5 KCl, 11 glucose, 2.5 CaCl2 , 1.3 MgSO4 , 1.0 NaH2 PO4 ). For mEPSC recording, tetrodotoxin (TTX) (1 μM) and picrotoxin (100 μM) were included in the external saline. Cells were held at −60 mV. To test for the presence of calcium permeable AMPA receptors on the post-synaptic membrane, 10 μM 1-Naphtylacetylspermine trihydrochloride (NASPM) was bath perfused for 10 min before recording. mEPSCs were collected using Clampex (Axon laboratory) and analyzed with Mini Analysis Program (Synaptosoft). STATISTICAL ANALYSIS T-test was used for statistical analysis. Values are presented as mean ± SEM in the figures. DRUGS AND CHEMICALS RA, Picrotoxin, Naphtyl-acetyl-spermine trihydrochloride, and 4-Diethylaminobenzaldehyde were purchased from SigmaAldrich. TTX was purchased from Ascent Scientific (Bristol, UK) and D-(-)-2-Amino-5-phosphonopentanoic acid was purchased from Tocris Biosciences (Ellisville, MO). PRIMARY HIPPOCAMPAL CULTURES Primary hippocampal cultures were prepared from mouse brains at postnatal day 0 and maintained in serum and Neurobasal medium supplemented with Gem21 (Gemini Bioproducts, Sacramento, CA) and Glutamax (GIBCO-Brl, Grand Island, NY) for 2 weeks in vitro (Nam and Chen, 2005). Neurons were infected Frontiers in Molecular Neuroscience SUBCELLULAR LOCALIZATION OF RARα DOMAINS Rat neuronal cultures were co-transfected at 12 DIV using Lipofectamine 2000 with pmCherry-N1, a plasmid that expresses high levels of mCherry to allow neuronal visualization, and pEGFP-N1 expressing various truncated versions of RARα. Cells www.frontiersin.org February 2012 | Volume 5 | Article 16 | 2 Sarti et al. RARα and synaptic scaling were then fixed at 14 DIV with 4% para-Formaldehyde, washed with PBS before mounting. Images were acquired using an Olympus FV1000 BX61WI laser-scanning confocal microscope. RESULTS LENTIVIRUS-MEDIATED CONDITIONAL KNOCKOUT (KO) OF RARα IN HIPPOCAMPAL NEURONS CULTURED FROM POSTNATAL RARαfl/fl MICE We previously investigated the involvement of RARα in activity blockade-induced homeostatic synaptic plasticity (also called synaptic scaling) using shRNA-mediated knockdown (Aoto et al., 2008). However, shRNA-mediated knockdowns suffer from a number of intrinsic limitations, such as potential off-target effects and the fact that no knockdown is ever complete. To test whether the shRNA-dependent results were reliable, we used a previously described conditional floxed RARα mouse (Chapellier et al., 2002). The RARαfl/fl mouse contains loxP sites flanking exon 4 (this exon was called exon 8 at the time of publication and was later corrected; Norbert Ghyselinck, personal communication) (Figure 1A). Cre-mediated recombination leads to excision of exon 4 that encodes a significant part of the DNA-binding domain of RARα (Zelent et al., 1989); after excision of exon 4, the exon 3/5 junction shifts the reading frame, resulting in an RARα null allele FIGURE 1 | Characterization of the RARα conditional allele. (A) Schematic drawing representing the RARα loxP-flanked allele (RARα fl/fl ), as well as the same allele following Cre-mediated excision of exon 4 (RARα−/− ). Black boxes represent exons 1–10 (E1–E10). White arrowheads represent loxP sites. The arrows indicate location of primers 1–3 used for characterization of the loxP-flanked allele and the recombined allele. Schematic is based on Gene ID: 19401. (B) Tail DNAs extracted from RARαfl/fl and wild-type C57BL/6 mice were genotyped by PCR using primers number 1 and Frontiers in Molecular Neuroscience (Chapellier et al., 2002) (Figure 1A). Because exon 4 is the first common exon shared by all RARα isoforms (Leroy et al., 1991), its excision leads to a complete deletion of all RARα isoforms. We confirmed the presence of the loxP sites in conditional RARα KO mice by PCR analysis of tail DNA (Figure 1B). To obtain RARα KO neurons, we cultured hippocampal neurons from newborn RARαfl/fl mice and infected the neurons with lentiviruses expressing recently optimized versions of EGFP-tagged active or inactive Cre-recombinase (Cre or DCre) (Kaeser et al., 2011). Rescue experiments were performed by coexpressing various RARα rescue proteins from the same vector as Cre-recombinase via an IRES sequence (Figures 1C,D). SYNAPTIC SCALING IS ABSENT IN RARα KO NEURONS We first tested whether the genetic KO of RARα impairs homeostatic synaptic plasticity. Under control conditions, Creexpressing conditional RARα KO neurons did not show changes in miniature excitatory post-synaptic current (mEPSC) amplitude or frequency, suggesting that RARα is not required for the maintenance of basal excitatory synaptic transmission (Figures 2A–D). To induce synaptic scaling, we applied a 24 h treatment of TTX and D-2-amino-5-phosphonovalerate (APV), a well-established activity blockade protocol that activates number 2. Wild-type: 390 bp; floxed allele: 453 bp. (C) Schematic representation of the lentiviral transfer vector used to express Cre-recombinase or Cre and RARα rescue constructs. (D) DNA from dissociated hippocampal neuronal cultures infected with either the active recombinase Cre or the inactive form Cre was harvested and genotyped by PCR using primers 1 and 3 to test for successful recombination indicated by the presence of a recombined allele (316 bp) or of a floxed allele (1296 bp). www.frontiersin.org February 2012 | Volume 5 | Article 16 | 3 Sarti et al. RARα and synaptic scaling FIGURE 2 | Retinoic Acid Receptor α is required in synaptic scaling induced by activity blockade and by retinoic acid (RA). (A) Representative traces of mEPSCs from RARαfl/fl neurons infected with a lentiviral vector expressing Cre-recombinase or the inactive Cre. Neurons have been treated with TTX and APV for 24 h. Scale bars: 10 pA, 0.5 s. (B) Quantification of average mEPSC amplitude (no inf/ctrl: 9.29 ± 0.29 pA; no inf/TTX + APV: 11.05 ± 0.46 pA; Cre/ctrl: 9.94 ± 0.39 pA; Cre/TTX + APV: 9.83 ± 0.34 pA; Cre/ctrl: 9.46 ± 0.57 pA; Cre/TTX + APV: 11.43 ± 0.33 pA; n = 12–19 from three independent experiments; ∗∗ p < 0.005) and frequency (no inf/ctrl: 0.63 ± 0.09 Hz; no inf/TTX + APV: 0.68 ± 0.10 Hz; Cre/ctrl: 0.96 ± 0.19 Hz; Cre/TTX + APV: 0.73 ± 0.17 Hz; Cre/ctrl: 1.11 ± 0.12 Hz; Cre/TTX + APV: Frontiers in Molecular Neuroscience 0.74 ± 0.15; n = 12–19 from three independent experiments from experiments; p > 0.5) shown in (A). (C) Representative traces of mEPSCs from RARα KO neurons treated with RA for 30 min followed by 1 h of wash out. Scale bars: 10 pA, 0.5 sec. (D) Quantification of mEPSC amplitude (no inf/ctrl: 8.31 ± 0.86 pA; no inf/RA: 12.60 ± 0.76 pA; Cre/ctrl: 9.37 ± 1.07 pA; Cre/RA: 9.83 ± 0.34 pA; Cre/ctrl: 9.72 ± 0.63 pA; Cre/RA: 13.06 ± 0.59 pA; n = 12–19, from three independent experiments; ∗∗∗ p < 0.001) and frequency (no inf/ctrl: 0.73 ± 0.10 Hz; no inf/RA: 0.58 ± 0.07 Hz; Cre/ctrl: 1.23 ± 0.22 Hz; Cre/RA: 0.89 ± 0.14 Hz; Cre/ctrl: 1.00 ± 0.20 Hz; Cre/RA: 0.94 ± 0.18 Hz; n = 12–19, from three independent experiments; p > 0.5) from experiments shown in (C). www.frontiersin.org February 2012 | Volume 5 | Article 16 | 4 Sarti et al. RARα and synaptic scaling homeostatic synaptic plasticity (Ju et al., 2004; Sutton et al., 2006; Aoto et al., 2008). TTX + APV treatment induced a robust increase in mEPSC amplitude in uninfected and Creinfected neurons (Figure 2B). Strikingly, deletion of RARα by Cre-recombinase in RARα conditional KO neurons blocked this effect (Figure 2B). Our previous work established a role of RA in mediating activity blockade-induced homeostatic plasticity. Specifically, we found that blocking synaptic activity rapidly induces RA synthesis in neurons, and that the newly synthesized RA increases excitatory synaptic transmission through activation of dendritic protein synthesis (Aoto et al., 2008; Maghsoodi et al., 2008). Consistent with this observation, the conditional deletion of RARα eliminated the ability of RA to increase the mEPSC amplitude (Figures 2C,D), thus confirming the role of RARα in synaptic RA-signaling using a genetic approach. RARα MUTANTS EXHIBIT DISTINCT SUBCELLULAR LOCALIZATIONS The absence of synaptic scaling and RA-signaling in conditional RARα KO neurons provides a basis for a structure-function analysis of RARα. We, therefore, generated RARα deletion mutants to investigate the contribution of various protein domains to RARα function. Similar to other members of the nuclear receptor superfamily, RARα protein has a modular domain structure, which is comprised of six regions: the N-terminal trans-activation domain (A/B region), the DNA binding domain (DBD or C region), a hinge region (D region), a LBD (or E region) (Evans, 1988; Green and Chambon, 1988; Tora et al., 1988a,b; Tasset et al., 1990), and a C-terminal F-domain whose function is unclear but that we previously implicated in mRNA binding (Poon and Chen, 2008) (Figure 3A). We generated three deletion mutants of RARα: RARα DBD, RARα LBD/F (LBD and F-domain), and RARα F (F-domain containing the terminal α-helix of LBD-H12) (Figure 3A). When expressed in cultured neurons as GFP-tagged proteins, the different RARα proteins exhibited distinct subcellular distributions. Compared to full-length RARα which was present in both the nucleus and the cytosol, RARα DBD was confined to the nucleus, presumably because of its two nuclear localization signals (NLS) (Hamy et al., 1991) (Figure 3B). By contrast, significant amounts of both the RARα LBD/F and the F-domain protein were present outside of the nucleus and present at high levels in dendrites (Figure 3B). RESCUE OF SYNAPTIC SCALING IN RARα KO NEURONS Individual domains of RARα are associated with different functions. The two most important domains for mediating RA’s effect on protein translation are the LBD and the F-domain—the F-domain is required for RARα’s ability to bind to mRNA and to repress translation, while the LBD binds to RA and acts as a switch to allow translational activation (or de-repression) by RA (Poon and Chen, 2008). To directly examine the role of various RARα domains in synaptic scaling, we expressed RARα mutant proteins in neurons with RARα deletion. To achieve this, the various RARα mutants were expressed by inserting their coding sequences after the IRES sequence into the same lentiviral vector that we used for generating RARα KO neurons (Figure 1C). Co-expression of Cre Frontiers in Molecular Neuroscience and RARα in the same neurons allows us to examine the effect of rescue by the various RARα deletion mutants in the RARα KO background. We examined the ability of various RARα mutants to restore RA-induced increase in synaptic strength and to rescue TTX + APV-induced synaptic scaling in RARα KO neurons by co-expressing RARα with Cre in RARαfl/fl neurons. As expected, expression of RARα FL completely rescued synaptic scaling, induced by RA or TTX + APV, in RARα KO neurons (Figures 4B,C). Expression of RARα DBD failed to rescue synaptic scaling by either RA or TTX + APV, which is consistent with its role in DNA- but not RNA-binding (Figures 4B,C). Importantly, RARα LBD/F fully restored synaptic scaling (Figures 4A,B,C). This indicates that the LBD and F-domain, which convey the ligand-binding and RNA-binding ability, respectively, works independently from the DBD in mediating RA’s effect at the synapses and is sufficient to restore synaptic scaling when expressed at appropriate levels. This result also confirms the notion that RA and RARα function in a transcription-independent manner in synaptic scaling as the RARα LBD/F lacks the ability to bind DNA. Not surprisingly, when only the F-domain is expressed in RARα KO neurons, RA failed to increase synaptic strength (Figures 4A,B). Likewise, synaptic scaling induced by TTX + APV was absent when only Fdomain is expressed (Figure 4C), demonstrating that activation of RARα by RA is a required step in synaptic scaling. Moreover, when RA synthesis is blocked by 4-diethylamino-benzaldehyde (DEAB), an inhibitor for RALDH (Russo et al., 1988), TTX + APV-induced synaptic scaling was completely blocked in RARα LBD/F-expressing neurons (Figures 5A,B). Results from above establish that two RARα activities primarily mediate synaptic scaling: the RNA binding by the F-domain, and RA binding by the LBD. While the former interaction silences translation of target mRNAs, the latter interaction acts as a switch to turn on translation of substrate mRNAs in neuronal dendrites (Poon and Chen, 2008). Our previous work demonstrated that one of the essential targets of RA/RARα regulation of protein translation in the context of synaptic scaling is the AMPA receptor subunit GluA1 (Poon and Chen, 2008). As a result, the newly inserted synaptic AMPA receptors after TTX + APV treatment are calcium-permeable GluA1 homomeric receptors that are sensitive to polyamine blockers (Aoto et al., 2008). We, therefore, asked whether synaptic scaling rescued in RARα LBD/F-expressing neurons is also mediated by synaptic insertion of GluA1 homomeric receptors. 1-naphthyl acetyl spermine (NASPM), a synthetic analog of Joro Spider toxin in the polyamine toxin family, completely reversed the increase in mEPSC amplitude in TTX + APV-treated neurons (Figures 5A,B), indicating that RARα LBD/F likely activates the signaling pathway identical to that of full-length RARα upon activity blockade and is fully capable of mediating RAsignaling in the context of synaptic scaling. VALIDATION OF shRNA-BASED KNOCKDOWN AND RESCUE APPROACH TO STUDY RARα FUNCTION We previously suggested a critical involvement of RARα in homeostatic synaptic plasticity by using a shRNA-based knockdown approach (Aoto et al., 2008). Although accepted as a useful and www.frontiersin.org February 2012 | Volume 5 | Article 16 | 5 Sarti et al. RARα and synaptic scaling FIGURE 3 | Subcellular localization of RARα and its deletion mutants. (A) Schematic of RARα deletion constructs. Recombinant full-length and truncated RARα domains were encoded as N-Terminal eGFP fusion proteins (FL, Full-length; DBD, N-terminal DNA Binding Domain; LBD; F, C-Terminal less time-consuming method in understanding the function(s) of a particular protein, the RNAi method also faced skepticism given the potential off-target effects inherent to the approach. We, therefore, decided to go back to this system and compare the Frontiers in Molecular Neuroscience F-domain). NLS, Nuclear Localization Signal; NES, Nuclear Export Signal. (B) Subcellular distribution of full-length or truncated RARα proteins (green). mCherry (red) was co-expressed to visualize neuronal morphology. Scale bar: 10 μm. results obtained with the knockdown-rescue approach with that of the genetic approach. We performed standard knockdownrescue experiments by transfecting cultured hippocampal neurons with plasmids expressing both a shRNA against RARα www.frontiersin.org February 2012 | Volume 5 | Article 16 | 6 Sarti et al. RARα and synaptic scaling FIGURE 4 | Functional rescue of synaptic scaling in RARα KO neurons RARα expression. (A) Representative traces of mEPSCs from RARαfl/fl hippocampal neurons infected with a bicistronic lentiviral vector coding for Cre-recombinase and either FL RARα or truncated RARα proteins. Neurons were treated with RA or with DMSO as control. Scale bars: 10 pA, 0.5 s. (B) mEPSCs amplitude and frequency were quantified showing rescue of RA-induced synaptic scaling in neurons expressing FL or LBD/F RARα. Amplitude: no inf/DMSO: 9.94 ± 0.56 pA; no inf/RA: 11.58 ± 0.45 pA; Cre + FL/DMSO: 9.34 ± 0.50 pA; Cre + FL/RA: 12.15 ± 0.70 pA; Cre + DBD/DMSO: 9.55 ± 0.57 pA; Cre + DBD/RA: 9.75 ± 0.4 pA; Cre + LBD-F/DMSO: 9.15 ± 0.52 pA; Cre + LBD-F/RA: 11.15 ± 0.50 pA; Cre + F/DMSO: 9.34 ± 0.34 pA; Cre + F/RA: 9.30 ± 0.62 pA; n = 12–19, from three independent experiments; ∗ p < 0.05; ∗∗ p < 0.005; ∗∗∗ p < 0.001. Frequency: no inf/DMSO: 1.00 ± 0.17 Hz; no inf/RA: 1.28 ± 0.20 Hz; Cre + FL/DMSO: 0.89 ± 0.11 Hz; Cre + FL/RA: 1.04 ± 0.18 Hz; Cre + DBD/DMSO: 0.90 ± 0.16 Hz; Cre + DBD/RA: 1.15 ± 0.25 Hz; Cre + LBD-F/DMSO: 1.00 ± 0.14 Hz; Cre + LBD-F/RA: 0.76 ± 0.12 Hz; Frontiers in Molecular Neuroscience Cre + F/DMSO: 1.01 ± 0.13 Hz; Cre + F/RA: 0.82 ± 0.09 Hz; n = 12–19, from three independent experiments; p > 0.5. (C) Synaptic scaling induced by activity blockade is rescued by LBD/F-domain expression in neurons treated with TTX and APV for 24 h. Amplitude: no inf/ctrl: 9.83 ± 0.45 pA; no inf/TTX + APV: 12.69 ± 0.65 pA; Cre + FL/ctrl: 9.79 ± 0.39 pA; Cre + FL/TTX + APV: 11.55 ± 0.43 pA; Cre + DBD/ctrl: 9.78 ± 0.30 pA; Cre + DBD/TTX + APV: 9.63 ± 0.44 pA; Cre + LBD-F/ctrl: 9.33 ± 0.35 pA; Cre + LBD-F/TTX + APV: 11.67 ± 0.48 pA; Cre + F/ctrl: 9.64 ± 0.40 pA; Cre + F/TTX + APV: 9.36 ± 0.50 pA; n = 12–19, from three independent experiments; ∗ p < 0.05; ∗∗ p < 0.005; ∗∗∗ p < 0.001. Frequency: no inf/ctrl: 1.09 ± 0.12 Hz; no inf/TTX + APV: 1.32 ± 0.17 Hz; Cre + FL/ctrl: 0.85 ± 0.25 Hz; Cre + FL/TTX + APV: 1.41 ± 0.25 Hz; Cre + DBD/ctrl: 1.28 ± 0.17 Hz; Cre + DBD/TTX + APV: 1.03 ± 0.18 Hz; Cre + LBD-F/ctrl: 1.46 ± 0.16 Hz; Cre + LBD-F/TTX + APV: 1.1 ± 0.18 Hz; Cre + F/ctrl: 1.28 ± 0.21 Hz; Cre + F/TTX + APV: 0.88 ± 0.15 Hz; n = 12–19, from three independent experiments; p > 0.5. www.frontiersin.org February 2012 | Volume 5 | Article 16 | 7 Sarti et al. RARα and synaptic scaling FIGURE 5 | Synaptic scaling mediated by LBD/F-domain depends on RA synthesis and leads to synaptic insertion of calcium permeable AMPA receptors. (A) Representative traces from RARα KO neurons expressing the LBD/F-domain. To verify the dependence of synaptic scaling mediated by the LBD/F-domain on RA synthesis, neurons were co-treated for 24 h with TTX, APV and DEAB. In addition, to test whether synaptic scaling mediated by the LBD/F-domain manifests as the insertion of calcium permeable AMPA receptors, neurons were pretreated with TTX and APV for 24 h and NASPM and a truncated version of the RARα that is also resistant to the shRNA (rescue), and subject these neurons to 24 h TTX + APV treatment. The results thus obtained completely corroborate those obtained with the genetic KO-rescue experiments (Figures 6A–C), demonstrating that the shRNA approach is a valid approach for studying RARα functions in mature neurons. SYNAPTIC SCALING IN NEURONS OVEREXPRESSING VARIOUS RARα MUTANTS Results from the rescue experiments done in RARα KO or KD neurons provided important functional information regarding the contribution of different RARα domains to synaptic RAsignaling. We were curious whether any of the RARα deletion mutants could act dominant negatively in neurons expressing normal levels of endogenous RARα. To achieve this, we simply co-expressed Cre with various RARα fragments, using the same lentiviral vector that delivered Cre and RARα in the rescue experiments. Interestingly, when challenged with RA treatment, neurons overexpressing RARα full-length protein failed to up-regulate mEPSC amplitude to a similar level as the uninfected neurons (Figures 7A,B), suggesting that increasing expression levels of RARα compromises a neuron’s ability to undergo up-regulation of synaptic strength by RA. This result is somewhat unexpected as it cannot be explained by a simple dominant negative scenario, Frontiers in Molecular Neuroscience was bath applied during mEPSCs recording. Scale bars: 10 pA, 0.5 s. (B) mEPSCs amplitude and frequency analysis of (A). Amplitude: ctrl: 9.65 ± 0.40 pA; TTX + APV: 11.29 ± 0.45 pA; TTX + APV + DEAB: 9.18 ± 0.32 pA; TTX + APV + NASPM: 8.74 ± 0.27 pA (n = 16–18, from three independent experiments; ∗ p < 0.05). Frequency: ctrl: 1.08 ± 0.22 Hz; TTX + APV: 1.09 ± 0.14 Hz; TTX + APV + DEAB: 1.02 ± 0.13 Hz; TTX + APV + NASPM: 1.04 ± 0.14 Hz (n = 16–18, from three independent experiments, p > 0.5). and is not likely due to general side effects associated with viral infection because RARα FL rescued synaptic scaling when expressed in RARα KO neurons. We then examined RA-induced scaling in neurons overexpressing the RARα DBD. The RARα DBD localizes primarily to the nucleus and does not participate in RNA binding or RA binding. Overexpression of RARα DBD did not affect RAinduced synaptic scaling because endogenous RARα is sufficient to mediate RA’s action (Figures 7A,B). This again rules out the possibility of viral infection-induced side effects in general, and suggests instead that the expression levels of RARα affect its function in synaptic signaling. Indeed, similar to RARα fulllength overexpression result, overexpression of RARα LBD/F also impaired synaptic scaling by RA (Figures 7A,B), although this mutant RARα is able to bind to mRNA and respond to RA (Poon and Chen, 2008). Interestingly, overexpression of F-domain in neurons also prevented the increase in mEPSC amplitude after RA treatment (Figures 7A,B). Because F-domain mediates RNAbinding, but does not mediate RA-induced translational switch, it can act dominant negatively when expressed alone to compete with endogenous RARα in RNA-binding and sequester RNA substrates. Given the critical role of RA in activity blockade-induced synaptic scaling, we next examined the effect of overexpression of various RARα mutants in TTX + APV-induced synaptic scaling www.frontiersin.org February 2012 | Volume 5 | Article 16 | 8 Sarti et al. RARα and synaptic scaling FIGURE 6 | LDB/F-domain is required for activity blockade induced synaptic scaling. Rat primary hippocampal cultures were co-transfected with shRNA against RARα and three different truncated forms of RARα spanning (A) the DBD, (B) the F-domain, and (C) the LBD/F-domains. Synaptic scaling induced by activity blockade with TTX and APV for 24 h was rescued by co-expression of an RNAi resistant form of the LBD/F-domain as shown by quantitative analysis of mEPSCs amplitude (A: ctrl/no treatment: 8.85 ± 0.32 pA; ctrl/TTX + APV: 10.60 ± 0.29 pA; shRNA + DBD/no treatment: 9.20 ± 0.47 pA; shRNA + DBD/TTX + APV: 9.70 ± 0.40 pA. B: ctrl/no treatment: 9.11 ± 0.40 pA; ctrl/TTX + APV: 11.40 ± 0.61 pA; shRNA + F/no treatment: 8.80 ± 0.22 pA; shRNA + F/TTX + APV: 9.43 ± 0.40 pA. C: ctrl/no treatment: 8.90 ± 0.28 pA; ctrl/TTX + APV: 10.75 ± 0.25 pA; shRNA + LBD-F/no treatment: 9.24 ± 0.32 pA; shRNA + LBD-F/TTX + APV: 10.70 ± 0.62 pA. n = 9–12, from two independent experiments; ∗ p < 0.05). with the prediction that those mediate by normal RA-induced synaptic scaling should also support TTX + APV-induced synaptic scaling. Indeed, neurons overexpressing RARα DBD did not interfere with the function of endogenous RARα in TTX + APVinduced synaptic scaling, but overexpression of RARα FL, LBD/F, and F-domain blocked synaptic scaling (Figure 7C). These results suggest that RARα expression levels in neurons are tightly coupled to its function, and may be strictly regulated in both developing and mature neurons. of the receptor do not participate in DNA-binding, and, therefore, are not known to be directly mediating the transcriptional regulation by RARα. Instead, our previous work demonstrated that the F-domain has mRNA binding abilities and that binding occurs in a sequence specific manner. The consensus sequences for binding are potentially present in many dendritically localized mRNAs, in particular the ones encoding proteins known to be involved in synaptic scaling, such as the mRNA coding for the GluA1 subunit of AMPA receptors (Poon and Chen, 2008). In vitro studies suggested that binding of the LBD/F-domain to mRNA regulates translation in an RA-dependent manner so that addition of RA leads to translational de-repression and increased GluA1 protein levels (Poon and Chen, 2008). Recent evidence from our lab and others indicate that RARα protein is not restricted in the nucleus in mature neurons, but can be found also in neuronal dendrites (Huang et al., 2008; Maghsoodi et al., 2008), further supporting a possible non-genomic function of RARα in mature brains. Taken together, we hypothesize that direct binding of RARα to GluA1 mRNA through the F-domain and the ability of RARα to localize to dendrites provides a repertoire of dendritic GluA1 mRNA that is translationally dormant under basal synaptic activity. Another important piece of the puzzle is the regulation of RA synthesis by changes in synaptic activity. We have shown that blocking excitatory synaptic transmission leads to rapid up-regulation of RA synthesis (Aoto et al., 2008), a process that is tightly controlled by dendritic calcium levels (Wang et al., 2011). The RA thus made binds to the LBD domain of RARα and reduces its mRNA-binding affinity, allowing rapid increase of dendritic GluA1 synthesis through translational derepression (Poon and Chen, 2008). Synaptic insertion of newly synthesized GluA1 homomeric AMPA receptors compensates the decrease in excitatory synaptic transmission. Calcium-permeable AMPA receptors have been implicated in many forms of synaptic plasticity and diseases (Isaac et al., 2007; Liu and Zukin, 2007). In this case, the calcium-permeable nature of these receptors sends a negative feedback signal to reduce and eventually halt RA DISCUSSION The involvement of RARα in RA-mediated homeostatic synaptic plasticity was demonstrated previously using a shRNA-based knockdown method (Aoto et al., 2008). Although rescue experiments with a shRNA-resistant version of full-length RARα was done in that study, the complexity of RNAi experiments does not allow us to completely exclude the possibility of an off-target effect. We intended to achieve two goals in the current study: to validate the shRNA results using a genetic approach, and to perform structure-function analysis of RARα. Indeed, results from the RARα KO neurons confirmed our previous findings, validating the conclusion that RARα is required for homeostatic up-regulation of synaptic strength. Importantly, co-expression of full-length RARα together with the Cre-recombinase successfully rescued synaptic scaling, making this an ideal system for subsequent structure-function analyses. Our results provide strong evidence for a non-genomic role of RARα in regulating excitatory synaptic strength. Specifically, we show that knocking out RARα in mature neurons acutely blocks homeostatic up-regulation of synaptic strength, a process mediated by RA. The rescue experiments with various forms of mutant RARα revealed that individual RARα domains perform differential functions in RA-mediated homeostatic synaptic plasticity— the DNA-binding activity of RARα was dispensable, while the RNA-binding activity of the F-domain and the RA-binding activity of the LBD were both required. The LBD and F-domains Frontiers in Molecular Neuroscience www.frontiersin.org February 2012 | Volume 5 | Article 16 | 9 Sarti et al. RARα and synaptic scaling FIGURE 7 | Synaptic scaling in neurons overexpressing RARα domains. (A) Representative traces from RARαfl/fl hippocampal neurons infected with lentiviral vectors co-expressing Cre and either full-length or deletion mutants of RARα. Neurons were treated with RA or with DMSO as control and mEPSCs recorded at −60 mV. Scale bars: 10 pA, 0.5 s. (B) Quantitative analysis of mEPSCs amplitude and frequency in neurons treated with RA. Amplitude: no inf/DMSO: 9.20 ± 0.25 pA; no inf/RA: 10.70 ± 0.31 pA; Cre + FL/DMSO: 9.67 ± 0.51 pA; Cre + FL/RA: 9.67 ± 0.33 pA; Cre + DBD/DMSO: 9.25 ± 0.23 pA; Cre + DBD/RA: 10.92 ± 0.34 pA; Cre + LBD-F/DMSO: 9.71 ± 0.46 pA; Cre + LBD-F/RA: 9.74 ± 0.34 pA; Cre + F/DMSO: 9.36 ± 0.25 pA; Cre + F/RA: 9.13 ± 0.16 pA; n = 16–18, from three independent experiments; ∗∗∗ p < 0.001. Frequency: no inf/DMSO: 1.17 ± 0.13 Hz; no inf/RA: 0.98 ± 0.18 Hz; Cre + FL/DMSO: 1.06 ± 0.11 Hz; Cre + FL/RA: 1.15 ± 0.11 Hz; Cre + DBD/DMSO: 0.94 ± 0.11 Hz; Cre + DBD/RA: 0.97 ± 0.14 Hz; Cre + LBD-F/DMSO: 1.20 ± 0.18 Hz; Cre + LBD-F/RA: 1.17 ± 0.12 Hz; Cre + F/DMSO: 1.08 ± 0.13 Hz; Cre + F/RA: Frontiers in Molecular Neuroscience 1.07 ± 0.10 Hz; n = 16–18, from three independent experiments; p > 0.5. (C) Quantitative analysis of mEPSCs amplitude and frequency recorded in RARα KO hippocampal neurons upon treatment with TTX and APV for 24 h. Amplitude: no inf/ctrl: 9.71 ± 0.31 pA; no inf/TTX + APV: 11.27 ± 0.33 pA; Cre + FL/ctrl: 9.48 ± 0.31 pA; Cre + FL/TTX + APV: 9.74 ± 0.28 pA; Cre + DBD/ctrl: 9.34 ± 0.25 pA; Cre + DBD/TTX + APV: 11.19 ± 0.48 pA; Cre + LBD-F/ctrl: 9.33 ± 0.35 pA; Cre + LBD-F/TTX + APV: 9.69 ± 0.46 pA; Cre + F/ctrl: 9.36 ± 0.33 pA; Cre + F/TTX + APV: 9.14 ± 0.39 pA; n = 16–18, from three independent experiments; ∗∗ p < 0.005. Frequency: no inf/ctrl: 1.04 ± 0.12 Hz; no inf/TTX + APV: 0.97 ± 0.13 Hz; Cre + FL/ctrl: 1.39 ± 0.11 Hz; Cre + FL/TTX + APV: 1.20 ± 0.19 Hz; Cre + DBD/ctrl: 1.23 ± 0.10 Hz; Cre + DBD/TTX + APV: 1.27 ± 0.14 Hz; Cre + LBD-F/ctrl: 1.04 ± 0.14 Hz; Cre + LBD-F/TTX + APV: 0.98 ± 0.12 Hz; Cre + F/ctrl: 1.04 ± 0.13 Hz; Cre + F/TTX + APV: 1.10 ± 0.07 Hz; n = 16–18, from three independent experiments; p > 0.5. www.frontiersin.org February 2012 | Volume 5 | Article 16 | 10 Sarti et al. RARα and synaptic scaling synthesis, thus stabilizing synaptic strength. In this context, findings from this study on the critical role of the RARα LBD/Fdomains in synaptic scaling provide an important functional correlate to the observations previously made in vitro, and also suggest a basic mechanism for translational regulation that allows neurons to quickly respond to changes in activity with increased protein levels. An unexpected finding of our study is the impact of RARα expression levels on synaptic scaling—synaptic scaling is fully rescued when full-length RARα or the LBD/F-domain of the RARα is expressed in RARα KO neurons, but is impaired by expression of full-length RARα or the LBD/F-domains in WT neurons containing endogenous RARα (Figures 4 and 5). A possible explanation for this observation is that there may be two limiting factors in dendrites for synaptic RA-signaling: the amount of RA produced during activity blockade-induced synthesis, and the amount of mRNAs in dendrites that serve as RARα substrates. When RARα is expressed at higher levels, these two factors can limit synaptic scaling through two non-mutually exclusive mechanisms. If the amount of GluA1 mRNA is limiting, there will be a fraction of RARα that is not mRNA-bound. Additionally, a large part of GluA1 mRNA may fail to localize to dendrites because of their association with somatically localized RARα due to high RARα expression levels. If the amount of RA is limiting, on the other hand, part of dendritic RARα that is GluA1 mRNAbound may not be activated by RA produced during activity blockade. Additionally, the mRNA-free RARα will further exacerbate the situation by competing with GluA1-bound RARα for RA binding. One or both limiting factors could explain the lack of synaptic scaling upon TTX + APV treatment in the presence of excess RARα. The fact that synaptic scaling induced by direct application of exogenous RA is impaired in RARα full-length and LBD/F-domain expressing WT neurons argues that simply supplying more RA is not enough, and that dendritically localized GluA1 mRNA may be the other limiting factor. The developmentally regulated reduction of RARα expression as neurons become mature (Huang et al., 2008) supports this notion, and suggests that protein expression levels can be tightly coupled with switches of function during development. In summary, we have in the present study pursued two goals: first, to use rigorous genetic tools to test our hypothesis that RARα, previously only known to function as a nuclear RA-activated transcription factor, leads a double life as a dendritic repressor of protein translation whose repressive activity is reversed by RA (Aoto et al., 2008); and second, to examine whether the same protein domains of RARα are required for this double life, or whether there is a dissociation in domain requirements for its two functions. Our data confirm RARα’s double life, validating that this RA-regulated protein exhibits an amazing and unexpected versatility in which RA activates transcription of genes but inactivates repression of protein translation. Moreover, together with previous studies on the structure/function relationship of RARα as a transcription factor (Evans, 1988; Green and Chambon, 1988; Tora et al., 1988a,b; Tasset et al., 1990), our data reveal that the two functional lives of RARα depend on distinct protein domains, whereby RA-binding to the LBD serves as the central event that regulates either an N-terminal transcription activity (via the DBD that is not needed for the translational function of RARα ) or a C-terminal translation repression activity (via the F-domain). Thus, the architecture of RARα exhibits an exquisite symmetry in which the same central regulatory domain (the LBD) acts either on a transcriptional or translational control element, both of which affect gene expression as the final readout but operate by completely different mechanisms. REFERENCES Isaac, J. T., Ashby, M. C., and McBain, C. J. (2007). The role of the GluR2 subunit in AMPA receptor function and synaptic plasticity. Neuron 54, 859–871. Ju, W., Morishita, W., Tsui, J., Gaietta, G., Deerinck, T. J., Adams, S. R., Garner, C. C., Tsien, R. Y., Ellisman, M. H., and Malenka, R. C. (2004). Activity-dependent regulation of dendritic synthesis and trafficking of AMPA receptors. Nat. Neurosci. 7, 244–253. Kaeser, P. S., Deng, L., Wang, Y., Dulubova, I., Liu, X., Rizo, J., and Sudhof, T. C. (2011). RIM proteins tether Ca2+ channels to presynaptic active zones via a direct PDZ-domain interaction. Cell 144, 282–295. Krezel, W., Kastner, P., and Chambon, P. (1999). Differential expression of retinoid receptors in the adult mouse central nervous system. Neuroscience 89, 1291–1300. Leroy, P., Krust, A., Zelent, A., Mendelsohn, C., Garnier, J. M., Aoto, J., Nam, C. I., Poon, M. M., Ting, P., and Chen, L. (2008). Synaptic signaling by all-trans retinoic acid in homeostatic synaptic plasticity. Neuron 60, 308–320. Chapellier, B., Mark, M., Garnier, J. M., LeMeur, M., Chambon, P., and Ghyselinck, N. B. (2002). A conditional floxed (loxP-flanked) allele for the retinoic acid receptor alpha (RARalpha) gene. Genesis 32, 87–90. Chiang, M. Y., Misner, D., Kempermann, G., Schikorski, T., Giguere, V., Sucov, H. M., Gage, F. H., Stevens, C. F., and Evans, R. M. (1998). An essential role for retinoid receptors RARbeta and RXRgamma in long-term potentiation and depression. Neuron 21, 1353–1361. Cocco, S., Diaz, G., Stancampiano, R., Diana, A., Carta, M., Curreli, R., Sarais, L., and Fadda, F. (2002). Vitamin A deficiency produces spatial learning and memory impairment in rats. Neuroscience 115, 475–482. Frontiers in Molecular Neuroscience Dev, S., Adler, A. J., and Edwards, R. B. (1993). Adult rabbit brain synthesizes retinoic acid. Brain Res. 632, 325–328. Evans, R. M. (1988). The steroid and thyroid hormone receptor superfamily. Science 240, 889–895. Green, S., and Chambon, P. (1988). Nuclear receptors enhance our understanding of transcription regulation. Trends Genet. 4, 309–314. Hamy, F., Verwaerde, P., Helbecque, N., Formstecher, P., and Henichart, J. P. (1991). Nuclear targeting of a viral-cointernalized protein by a short signal sequence from human retinoic acid receptors. Bioconjug. Chem. 2, 375–378. Huang, H., Wei, H., Zhang, X., Chen, K., Li, Y., Qu, P., Chen, J., Liu, Y., Yang, L., and Li, T. (2008). Changes in the expression and subcellular localization of RARalpha in the rat hippocampus during postnatal development. Brain Res. 1227, 26–33. www.frontiersin.org Kastner, P., Dierich, A., and Chambon, P. (1991). Multiple isoforms of the mouse retinoic acid receptor alpha are generated by alternative splicing and differential induction by retinoic acid. EMBO J. 10, 59–69. Liu, S. J., and Zukin, R. S. (2007). Ca2+-permeable AMPA receptors in synaptic plasticity and neuronal death. Trends Neurosci. 30, 126–134. Maghsoodi, B., Poon, M. M., Nam, C. I., Aoto, J., Ting, P., and Chen, L. (2008). Retinoic acid regulates RARalpha-mediated control of translation in dendritic RNA granules during homeostatic synaptic plasticity. Proc. Natl. Acad. Sci. U.S.A. 105, 16015–16020. Misner, D. L., Jacobs, S., Shimizu, Y., de Urquiza, A. M., Solomin, L., Perlmann, T., De Luca, L. M., Stevens, C. F., and Evans, R. M. (2001). Vitamin A deprivation results in reversible loss of hippocampal long-term synaptic February 2012 | Volume 5 | Article 16 | 11 Sarti et al. plasticity. Proc. Natl. Acad. Sci. U.S.A. 98, 11714–11719. Nam, C. I., and Chen, L. (2005). Postsynaptic assembly induced by neurexin-neuroligin interaction and neurotransmitter. Proc. Natl. Acad. Sci. U.S.A. 102, 6137–6142. Poon, M. M., and Chen, L. (2008). Retinoic acid-gated sequencespecific translational control by RARalpha. Proc. Natl. Acad. Sci. U.S.A. 105, 20303–20308. Russo, J. E., Hauguitz, D., and Hilton, J. (1988). Inhibition of mouse cytosolic aldehyde dehydrogenase by 4-(diethylamino)benzaldehyde. Biochem. Pharmacol. 37, 1639–1642. Soprano, D. R., Qin, P., and Soprano, K. J. (2004). Retinoic acid receptors and cancers. Annu. Rev. Nutr. 24, 201–221. Sutton, M. A., Ito, H. T., Cressy, P., Kempf, C., Woo, J. C., and Schuman, E. M. (2006). Frontiers in Molecular Neuroscience RARα and synaptic scaling Miniature neurotransmission stabilizes synaptic function via tonic suppression of local dendritic protein synthesis. Cell 125, 785–799. Tasset, D., Tora, L., Fromental, C., Scheer, E., and Chambon, P. (1990). Distinct classes of transcriptional activating domains function by different mechanisms. Cell 62, 1177–1187. Tora, L., Gaub, M. P., Mader, S., Dierich, A., Bellard, M., and Chambon, P. (1988a). Cellspecific activity of a GGTCA half-palindromic oestrogenresponsive element in the chicken ovalbumin gene promoter. EMBO J. 7, 3771–3778. Tora, L., Gronemeyer, H., Turcotte, B., Gaub, M. P., and Chambon, P. (1988b). The N-terminal region of the chicken progesterone receptor specifies target gene activation. Nature 333, 185–188. Wang, H. L., Zhang, Z., Hintze, M., and Chen, L. (2011). Decrease in calcium concentration triggers neuronal retinoic acid synthesis during homeostatic synaptic plasticity. J. Neurosci. 31, 17764–17771. Zelent, A., Krust, A., Petkovich, M., Kastner, P., and Chambon, P. (1989). Cloning of murine alpha and beta retinoic acid receptors and a novel receptor gamma predominantly expressed in skin. Nature 339, 714–717. Zetterstrom, R. H., Lindqvist, E., Mata de Urquiza, A., Tomac, A., Eriksson, U., Perlmann, T., and Olson, L. (1999). Role of retinoids in the CNS: differential expression of retinoid binding proteins and receptors and evidence for presence of retinoic acid. Eur. J. Neurosci. 11, 407–416. Conflict of Interest Statement: The authors declare that the research www.frontiersin.org was conducted in the absence of any commercial or financial relationships that could be construed as a potential conflict of interest. Received: 12 October 2011; paper pending published: 24 November 2011; accepted: 02 February 2012; published online: 15 February 2012. Citation: Sarti F, Schroeder J, Aoto J and Chen L (2012) Conditional RARα knockout mice reveal acute requirement for retinoic acid and RARα in homeostatic plasticity. Front. Mol. Neurosci. 5:16. doi: 10.3389/fnmol.2012.00016 Copyright © 2012 Sarti, Schroeder, Aoto and Chen. This is an openaccess article distributed under the terms of the Creative Commons Attribution Non Commercial License, which permits non-commercial use, distribution, and reproduction in other forums, provided the original authors and source are credited. February 2012 | Volume 5 | Article 16 | 12
https://openalex.org/W2043511741
https://europepmc.org/articles/pmc4192677?pdf=render
English
null
NblA1/A2-Dependent Homeostasis of Amino Acid Pools during Nitrogen Starvation in Synechocystis sp. PCC 6803
Metabolites
2,014
cc-by
5,424
metabolites ISSN 2218-1989 www.mdpi.com/journal/metabolites/ OPEN ACCESS metabolites ISSN 2218-1989 www.mdpi.com/journal/metabolites/ OPEN ACCESS Metabolites 2014, 4, 517-531; doi:10.3390/metabo4030517 metabolites ISSN 2218-1989 www.mdpi.com/journal/metabolites/ Article NblA1/A2-Dependent Homeostasis of Amino Acid Pools during Nitrogen Starvation in Synechocystis sp. PCC 6803 Hiroshi Kiyota 1,2, Masami Yokota Hirai 2 and Masahiko Ikeuchi 1,3,* 1 Department of Biological Sciences, Graduate School of Science, The University of Tokyo, 7-3-1 Hongo, Bunkyo-ku, Tokyo 113-0033, Japan; E-Mail: kiyo_hiro@bio.c.u-tokyo.ac.jp 2 RIKEN Center for Sustainable Resource Science, 1-7-22 Suehiro-cho, Tsurumi-ku, Yokohama, Kanagawa 230-0045, Japan; E-Mail: masami.hirai@riken.jp 3 Department of Life Sciences (Biology), Graduate School of Arts and Science, The University of Tokyo, 3-8-1 Komaba, Meguro-ku, Tokyo 153-8902, Japan * Author to whom correspondence should be addressed; E-Mail: mikeuchi@bio.c.u-tokyo.ac.jp; Tel.: +81-3-5454-6641; Fax: +81-3-5454-4337. Received: 17 March 2014; in revised form: 14 June 2014 / Accepted: 23 June 2014 / Published: 30 June 2014 OPEN ACCESS Metabolites 2014, 4, 517-531; doi:10.3390/metabo4030517 Hiroshi Kiyota 1,2, Masami Yokota Hirai 2 and Masahiko Ikeuchi 1,3,* 1 Department of Biological Sciences, Graduate School of Science, The University of Tokyo, 7-3-1 Hongo, Bunkyo-ku, Tokyo 113-0033, Japan; E-Mail: kiyo_hiro@bio.c.u-tokyo.ac.jp partment of Biological Sciences, Graduate School of Science, The University of Tokyo, -1 Hongo, Bunkyo-ku, Tokyo 113-0033, Japan; E-Mail: kiyo_hiro@bio.c.u-tokyo.ac.jp KEN Center for Sustainable Resource Science, 1-7-22 Suehiro-cho, Tsurumi-ku, Yokoha nagawa 230-0045, Japan; E-Mail: masami.hirai@riken.jp Department of Biological Sciences, Graduate School of Science, The University of Tokyo, 7-3-1 Hongo, Bunkyo-ku, Tokyo 113-0033, Japan; E-Mail: kiyo_hiro@bio.c.u-tokyo.ac.jp 2 RIKEN Center for Sustainable Resource Science, 1-7-22 Suehiro-cho, Tsurumi-ku, Yokohama, Kanagawa 230-0045, Japan; E-Mail: masami.hirai@riken.jp 2 RIKEN Center for Sustainable Resource Science, 1-7-22 Suehiro-cho, Tsurumi-ku, Yokohama, Kanagawa 230-0045, Japan; E-Mail: masami.hirai@riken.jp 3 Department of Life Sciences (Biology), Graduate School of Arts and Science, The University of Tokyo, 3-8-1 Komaba, Meguro-ku, Tokyo 153-8902, Japan 3 Department of Life Sciences (Biology), Graduate School of Arts and Science, The University of Tokyo, 3-8-1 Komaba, Meguro-ku, Tokyo 153-8902, Japan 3 Department of Life Sciences (Biology), Graduate School of Arts and Science, The University of Tokyo, 3-8-1 Komaba, Meguro-ku, Tokyo 153-8902, Japan * Author to whom correspondence should be addressed; E-Mail: mikeuchi@bio.c.u-tokyo.ac.jp; Tel.: +81-3-5454-6641; Fax: +81-3-5454-4337. * Author to whom correspondence should be addressed; E-Mail: mikeuchi@bio.c.u-tokyo.ac.jp; Tel.: +81-3-5454-6641; Fax: +81-3-5454-4337. Received: 17 March 2014; in revised form: 14 June 2014 / Accepted: 23 June 2014 / Published: 30 June 2014 Abstract: Nutrient balance is important for photosynthetic growth and biomass production in microalgae. Here, we investigated and compared metabolic responses of amino acid pools to nitrogen and sulfur starvation in a unicellular model cyanobacterium, Synechocystis sp. PCC 6803, and its mutant nblA1/A2. It is known that NblA1/A2-dependent and -independent breakdown of abundant photosynthetic phycobiliproteins and other cellular proteins supply nutrients to the organism. However, the contribution of the NblA1/A2-dependent nutrient supply to amino acid pool homeostasis has not been studied. Our study demonstrates that changes in the pool size of many amino acids during nitrogen starvation can be categorized as NblA1/A2-dependent (Gln, Glu, glutathione, Gly, Ile, Leu, Met, Phe, Pro, Ser, Thr, Tyr and Val) and NblA1/A2-independent (Ala, Asn, Lys, and Trp). We also report unique changes in amino acid pool sizes during sulfur starvation in wild type and the mutant and found a generally marked increase in the Lys pool in cyanobacteria during nutrient starvation. In conclusion, the NblA1/A2-dependent protein turnover contributes to the maintenance of many amino acid pools during nitrogen starvation. Keywords: cyanobacteria; nbl; amino acid; nitrogen metabolism; Synechocystis 1. Introduction Nutrient balance is critical for the phototrophic growth of microalgae, because proteins, nucleic acids, carbohydrates, lipids, and pigments must be supplied in a ratio suitable for actively growing cells. Once the nutrient supply is out of balance, microalgae try to accommodate by inducing nutrient uptake, reducing photosynthesis, suppressing growth and autophagy, etc. [1,2]. In contrast, it is often important to limit nutrient supply, e.g., when microalgae produce certain biomass compounds [3]. For commercial purposes, it is desirable to artificially separate biomass production from cell proliferation in microalgae, which allows the microalgae to be used as a photobioreactor for the production of a specific biomass. Gene expression during nutrient starvation and related stresses has been studied extensively in microalgae using DNA microarray and RNA sequencing (RNA-Seq) analyses [4,5]. Little, however, is known about the precise mechanisms underlying metabolic acclimation to nutrient starvation. Nitrogen is a key macronutrient for microalgae, which adjust for nitrogen availability by global or specific regulation of gene expression, metabolic pathways, protein turnover, photosynthetic capacity, and the cell cycle [6,7]. In eukaryotic microalgae, autophagy is induced by nitrogen starvation to degrade cytoplasmic components including plastids in the large vacuoles [8]. In cyanobacteria, a unique NblA-dependent mechanism is induced to degrade certain phycobiliproteins, which are major components of the phycobilisome, the supramolecular photosynthetic antenna that harvests light for photosynthesis in these organisms. They are soluble proteins attached to the thylakoid surface and may constitute up to ~50% of total soluble proteins in many cyanobacterial cells [9]. Upon nitrogen—and sometimes sulfur—starvation, cyanobacteria degrade most of these blue-colored phycobiliproteins, resulting in a bleached cell color. Phycobiliprotein degradation has been believed to contribute to the supply of macronutrients that are necessary to maintain cellular functions during nutrient starvation [10]. The non-bleaching phenotype gene (nblA) was identified as an essential factor for the specific degradation of phycobiliproteins [11,12]. Because the small protein NblA directly binds to certain phycobiliproteins, its binding may trigger proteolytic breakdown of the target proteins [13]. It is, however, still unknown to what extent NblA-dependent protein degradation contributes to the amino acid supply during nitrogen starvation [14–17]. The unicellular cyanobacterium Synechocystis sp. PCC 6803 (hereafter Synechocystis) is a model species for basic and applied research of photosynthesis, metabolism, and many other cellular processes. The complete genome of the standard strain PCC 6803 was determined in 1996, and many related substrains have been sequenced recently [18]. Hiroshi Kiyota 1,2, Masami Yokota Hirai 2 and Masahiko Ikeuchi 1,3,* Keywords: cyanobacteria; nbl; amino acid; nitrogen metabolism; Synechocystis Metabolites 2014, 4 Metabolites 2014, 4 518 Metabolites 2014, 4 To investigate the contribution of amino acid recycling in Synechocystis, we therefore analyzed the metabolic responses of amino acid pools in Synechocystis and its mutant nblA1/A2 to nitrogen and sulfur starvation. 1. Introduction DNA microarray, RNA-Seq, proteome, and metabolome analyses of this organism have been carried out in many laboratories [19,20]. Regulation of photosynthetic metabolisms has been studied by metabolic phenotyping under stress conditions (high light and low CO2) and trophic conditions (photoautotrophic and photomixotrophic) [21,22]. More recently, this species has also been used for metabolic engineering and biomass production [23–25]. Synechocystis does not fix molecular nitrogen but assimilates ammonium, nitrate, and other compounds into amino acids. Upon nitrogen starvation, the global nitrogen regulator NtcA mainly regulates genes for carbon and nitrogen metabolism [26,27]. Expression of nblA, which consists of two tandemly arranged nblA1 and nblA2 loci in Synechocystis, is induced under starvation for nitrogen [28]. The phycobilisome is believed to have a role in nitrogen storage as well as its role as a photosynthetic antenna, but this hypothesis has not yet been tested [29]. 519 Metabolites 2014, 4 Metabolites 2014, 4 In the presence of sufficient nitrogen, the most abundant amino acid was Glu, followed by glutathione (2000–12,000 pmol/mg FW). The pool size of Ala, Asp, and Gln was high (100–300 pmol/mg FW), whereas the remaining amino acid pools were low in abundance. This free amino acid profile is consistent with previous reports in Synechocystis [19], the unicellular cyanobacterium Anacystis nidulans [15], and the multicellular cyanobacterium Arthrospira platensis [14]. Similar patterns are also found in Escherichia coli and Saccharomyces cerevisiae [31,32]. In contrast, patterns in higher plants, such as Arabidopsis thaliana, are quite different [33]. When Synechocystis cells were collected by filtration, suspended, and cultured in N-free medium for 24 h under otherwise normal culture conditions, we found two types of responses (Figure 2). The first is a transient increase after 1–5 h, followed by a return to the starting levels (Ala, Asn, Gly, Ile, Leu, Met, Phe, Pro, Ser, Thr, and Val). The second is a long-term increase throughout the 24-h incubation period (Lys and Tyr). In contrast, we found a severe decline in Asp. The pool size of Asp, Glu, and ornithine gradually declined to approximately half of the control level and remained low for 24 h. It should be noted that a marked increase of Gln and ornithine was found only at 0 h (just after washing) irrespective of whether the N-deficient or N-containing medium was used for washing. Therefore, this is likely an effect caused by the medium change, whereas the other responses most likely result from changes in amino acid biosynthesis, supply from protein degradation, and interconversion among amino acids and other metabolites during nitrogen starvation. The overall responses of amino acid pools during nitrogen starvation were similar to those reported in cyanobacteria, although some variation in the time course and/or extent of responses occurred [14–17]. We did not study further responses beyond 24 h but the long-term responses would also be important for regulation and maintenance of metabolites. Hauf et al. [17] reported some differential responses in Synechocystis cells after 168 h of nitrogen starvation. 2.1. Responses of Amino Acid Pools to Nitrogen Starvation in Synechocystis Cells To quickly and quantitatively extract free amino acids from Synechocystis cells, cells were collected with a filter and disrupted with zirconia beads, and free amino acids were then extracted with methanol. The free amino acids were derivatized and subjected to gas chromatography–mass spectrometry (GC-MS) analysis as described [30]. This method provided quantitative data for free amino acids, except Arg and His, as depicted in the biosynthesis pathway (Figure 1). Figure 2 shows the change in the free amino acid pools in Synechocystis cells during 24-h nitrogen starvation. Note that Cys levels were not reported, because the Cys pool size was below the detection limit (<0.2 pmol/mg fresh weight [FW]). We also quantified non-standard amino acids, ornithine and glutathione. Ornithine is an intermediate of Arg biosynthesis. Glutathione is a redox carrier consisting of Cys, Glu and Gly (Figure 1). Figure 1. Amino acid biosynthesis pathways in Synechocystis and summary of responses during nitrogen or sulfur starvation. Amino acids shown in red were analyzed in this study. Responses to nitrogen starvation (–N↑ or –N↓) or to sulfur starvation (–S↑) are indicated in blue and the responses that depend on NblA1/A2 are boxed. Note that –N stands for amino acids, whose levels are maintained by NblA1/A2 during nitrogen starvation. Metabolites 2014, 4 520 Metabolites 2014, 4 Figure 2. Changes in amino acid pools of cells during nitrogen starvation. Orange bars: cells cultured in nitrogen free medium (0 ~ 24 h), green bars: control cells cultured in the nitrate containing medium (0 ~ 24 h) after the same medium exchange treatment as the nitrogen free cells. Note that cells at 0 h were collected just after the medium exchange treatment. Standard deviation is shown from three measurements (n = 3), but asterisks and dots above bars in phenylalanine represent n = 2 and n = 1, respectively. 521 Metabolites 2014, 4 2.2. Responses to Nitrogen Repletion following Starvation Next, we investigated the effects of nitrate re-addition on the amino acid pools of cells that have been nitrogen starved for 24 h (Figure 3). The long-term changes in Asp, Glu, Lys, ornithine, and Tyr during nitrogen starvation were approximately reversed by the subsequent addition of nitrogen. Thus, we are able to confirm the reversible responses of amino acids upon nitrogen starvation and nitrogen re-assimilation, although the experiment was done once. More specifically, the pool size of Lys and Tyr did not change much after 1 h but fully recovered to its original level 6 h after re-addition. The long-term accumulation of Lys and Tyr during starvation may be due to the suppression of de novo protein biosynthesis and the degradation of cellular proteins, whereas the reversion to the original level during the repletion may result from the recovery of protein biosynthesis. The pool size of Asp, Glu, and ornithine transiently overshot and then dropped to levels found in nitrogen-sufficient conditions. A similar overshoot was found in Ala, Gln, and Ser. The reversion of the overshoot could be due to the recovery of protein biosynthesis, whereas the overshoot itself could result from nitrogen re-assimilation in the absence of protein biosynthesis, because these amino acids can be readily produced from the nitrogen source via central metabolites (Figure 1). Metabolites 2014, 4 522 Metabolites 2014, 4 Figure 3. Effects of nitrogen re-addition on the amino acid pools of Synechocystis cells that were nitrogen starved for 24 h. Blue bars: cells nitrogen starved for 24 h (0 h), or then cultured after re-addition of nitrate (1, 6, 24 h). Green bars: control cells grown under nitrogen containing condition. NA, not assigned in gas chromatography (GC). Figure 3. Effects of nitrogen re-addition on the amino acid pools of Synechocystis cells that were nitrogen starved for 24 h. Blue bars: cells nitrogen starved for 24 h (0 h), or then cultured after re-addition of nitrate (1, 6, 24 h). Green bars: control cells grown under nitrogen containing condition. NA, not assigned in gas chromatography (GC). Metabolites 2014, 4 Metabolites 2014, 4 523 2.3. Response of the nblA1/A2 Mutant to Nitrogen Starvation Metabolites 2014, 4 To evaluate the overall contribution of NblA1/A2 to amino acid pool sizes, the total protein content of wild-type and mutant Synechocystis cells was compared. In wild-type cells, the protein content (relative to the fresh cell weight) was reduced to one-fourth during 24 h of nitrogen starvation (Figure 6). In the mutant, protein content before starvation was comparable to that of the wild type, whereas it was reduced to nearly one-half of the initial level after starvation. This suggests that approximately one-third of the protein turnover triggered by nitrogen starvation depends on the NblA1/A2-induced breakdown of the abundant phycobiliproteins, whereas the remaining two-thirds of protein turnover may be due to the breakdown of other proteins. Nitrogen supply in the NblA1/A2-dependent group of amino acid pools must be derived from the major phycobilisome components, which consist of two phycobiliproteins, CpcA and CpcB, and two colorless linker proteins, CpcC1 and CpcC2. During nitrogen starvation, it is generally believed that two outer hexameric discs of phycobiliproteins are degraded together with each associated linker protein, although the extent of degradation depends on the severity and duration of the starvation. The amino acid composition of these proteins is reasonably similar to the NblA1/A2-dependent group noted above. In this context, it is important to note that the NblA1/A2-dependent amino acids are found in a relatively large amount in the CpcA/B proteins, though the independent ones such as Ala, Asp, and Lys are also contained. It is thus suggested that the latter amino acids may also be supplied from other sources. Figure 6. Total amount of cellular protein in WT Synechocystis and the nblA1/A2 mutant (∆nblA1/A2) after 24 h in nitrogen-sufficient (+N) or nitrogen-deficient (–N) medium. Standard deviation is shown from three independent experiments. 2.4. Response of the nblA1/A2 Mutant to Sulfur Starvation We also examined amino acid pools of the nblA1/A2 mutant under sulfur starvation (Figure 7). In wild-type cells, Ala, Asn, Asp, Gln, Ile, Lys, Ser, and Thr increased 24 h after starvation, in agreement with our previous report [30]. None of these amino acids were affected by the disruption of nblA1/A2. This is consistent with a report that sulfur starvation does not induce phycobilisome degradation in Synechocystis [34]. 2.4. Response of the nblA1/A2 Mutant to Sulfur Starvation 2.4. Response of the nblA1/A2 Mutant to Sulfur Starvation 2.4. 2.3. Response of the nblA1/A2 Mutant to Nitrogen Starvation To study the turnover of phycobiliproteins, we examined the pool size of free amino acids in the nblA1/A2 mutant during nitrogen starvation. First, the tandemly arranged nblA1 and nblA2 were replaced with the screening cassette (Figure 4A), and complete segregation was confirmed by PCR (Figure 4B). We also visually confirmed the non-bleaching phenotype of the mutant during nitrogen starvation (Figure 4C). Then, the pool size of free amino acids was analyzed after 24 h of nitrogen starvation. The increase of Gly, Ile, Leu, Phe, Pro, Thr and Tyr was abolished in the nblA1/A2 mutant, whereas the increase of Lys was not affected at all (Figure 5). The decrease of Asp and ornithine was not affected, either. For the remaining amino acids, their pool sizes were maintained after 24 h of nitrogen starvation, irrespective of the presence or absence of transient changes. These were divided into two groups: NblA1/A2-dependent amino acids and NblA1/A2-independent ones. The NblA1/A2-dependent group includes Asn, Gln, Glu, Ser, Val, and glutathione. The NblA1/A2-independent group includes Ala, and Trp. It should be noted that the NblA1/A2-dependent nitrogen supply was critical for Glu and glutathione homeostasis in cells during nitrogen starvation. Figure 4. (a) Deletion of nblA1/A2 by a kanamycin resistance cassette (KmR); (b) PCR analysis of nblA1/A2. The calculated DNA size of each PCR product is 2588 bp for the nblA1/A2 mutant (ΔnblA1/A2) and 1649 bp for wild type; (c) Non-bleaching phenotype of the nblA1/A2 mutant under nitrogen starvation. WT, wild type. Metabolites 2014, 4 Metabolites 2014, 4 524 Figure 5. Amino acid pools in WT Synechocystis and the nblA1/A2 mutant (∆nblA1/A2) after 24 h in nitrogen-sufficient (+N) or nitrogen-deficient (–N) medium. Standard deviation is shown from three independent experiments. ND, not detected. 525 3.1. Culture Conditions and Cell Sampling Cells of Synechocystis sp. PCC 6803 glucose-tolerant substrain [17] were grown under normal growth conditions at 30 °C in BG11 medium supplemented with 20 mM HEPES-KOH (pH 7.8) [36] with bubbling 1% (v/v) CO2 and continuous illumination with white fluorescent lamps (30–40 μmol·s−1·m−2). For medium changes, cells at an optical density (A730) of 1.0–1.5 were harvested by filtration and resuspended in fresh BG11 medium, nitrogen-free BG11(–N) medium, or sulfur-free BG11(–S) medium. In BG11(–N), 17 mM NaNO3 was replaced by 17 mM of NaCl. In BG11(–S), 0.3 mM MgSO4 was replaced by 0.3 mM MgCl2. After 24 h, cells were collected by filtration and the cell pellet scraped were weighted, frozen in liquid nitrogen, and preserved at −80 °C. For experiments of nitrogen re-addition, 1.5 mM NaNO3 was simply added to the nitrogen-starved cells. 2.5. NblA1/A2-Dependent and -Independent Homeostasis of Amino Acids In Figure 1, we summarized the NblA1/A2-dependent and -independent amino acid homeostasis during nitrogen and sulfur starvation in the model cyanobacterium Synechocystis sp. PCC 6803. The amino acids, which responded or were maintained during nitrogen starvation by NblA1/A2, are highlighted with a box, whereas the NblA1/A2-independent ones, which responded either to nitrogen or sulfur starvation, are also indicated but not highlighted. Thus, we can conclude that many amino acids (Asn, Gln, Glu, glutathione, Gly, Ile, Leu, Phe, Pro, Ser, Thr, Tyr, and Val) can be at least in part supplied from phycobilisome components via NblA1/A2–mediated rapid turnover. We can also assume that sulfur starvation suppressed conversion of Asp–to–Met and Ser–to–Cys, which may lead to accumulation of Asp, Ser and other amino acids nearby (Figure 1), as previously reported [24]. However, the enhanced accumulation of Lys is not correlated with the pool size of Asp (high during sulfur starvation, but low during nitrogen starvation). This finding may rule out the previous interpretation for Lys accumulation via Asp during sulfur starvation. There are no Lys–metabolizing enzymes annotated for Synechocystis in the Kyoto Encyclopedia of Genes and Genomes (KEGG) pathway [35]. Moreover, there are many Lys–rich proteins hypothetically coded for in the Synechocystis genome [18]. Turnover of such proteins and the absence of Lys-metabolizing enzymes might result in Lys accumulation during nitrogen and sulfur starvation. On the other hand, the increase of Ala and Gln was unique to sulfur starvation, whereas the decrease of Asp and ornithine was unique to nitrogen starvation irrespective of NblA1/A2 protein. Thus, some selective acclimation might also occur in amino acid homeostasis to mitigate each nutrient starvation. Further characterization in the common and specific acclimation in amino acid recycling would give a clue for metabolic plasticity of phototrophic organisms. Metabolites 2014, 4 Response of the nblA1/A2 Mutant to Sulfur Starvation We also examined amino acid pools of the nblA1/A2 mutant under sulfur starvation (Figure 7). In wild-type cells, Ala, Asn, Asp, Gln, Ile, Lys, Ser, and Thr increased 24 h after starvation, in agreement with our previous report [30]. None of these amino acids were affected by the disruption of nblA1/A2. This is consistent with a report that sulfur starvation does not induce phycobilisome degradation in Synechocystis [34]. Metabolites 2014, 4 Metabolites 2014, 4 526 Figure 7. Amino acid pools in WT Synechocystis and the nblA1/A2 mutant (∆nblA1/A2) after 24 h in sulfur-sufficient (+S) or sulfur-deficient (–S) medium. Standard deviation is shown from three independent experiments. shown from three independent experiments. Metabolites 2014, 4 Metabolites 2014, 4 527 2.5. NblA1/A2-Dependent and -Independent Homeostasis of Amino Acids 3.5. Bradford Assay To extract total cellular proteins, we added zirconia beads and a protein extraction buffer (100 mM NaCl, 10% (w/v) glycerol, 20 mM HEPES-NaOH (pH 7.5)) to the frozen cells and vortexed the mixture at 3000 rpm for 30 sec. After centrifugation at 10,000 g, the protein content of the supernatant was detected using a Bradford kit [30]. 3.4. Derivatization and GC-MS Analysis of Amino Acids Dried extracts were dissolved in 60% (v/v) methanol containing 2 nmol of norvaline as an internal standard and derivatized using EZ:faast™ (Phenomenex, Torrance, CA, USA). GC-MS was performed using the QP2010 Plus GC-MS (Shimadzu, Kyoto, Japan) equipped with a ZB-AAA column (Phenomenex). The analytical conditions were as follows: carrier gas, He (1.17 mL/min); ionization voltage, 70 kV; injector temperature, 280 °C; and oven program, 110 °C (1-min hold), with an increase of 20 °C min−1 to 300 °C (2-min hold). Analyses were carried out in Selected Ion Monitoring mode. Each amino acid was identified and quantified in the extracted ion chromatogram at its respective retention time. Quantified data were normalized to the fresh weight of the frozen cell pellet [30]. 3.2. Disruption of nblA1/nblA2 A DNA fragment harboring nblA1 and nblA2 was amplified from genomic DNA by PCR using the primers ACAACATTGGGCACGAGA and ACTACCATGATCAATCCC. The fragment was then cloned into a pT7Blue vector. The entire region of nblA1 and a portion of nblA2 were excised by MfeI Metabolites 2014, 4 528 Metabolites 2014, 4 and HpaI and replaced with a kanamycin resistance cassette. Synechocystis cells were transformed by homologous recombination and screened in the presence of 20 µg/mL kanamycin. Complete segregation of the mutant allele was confirmed by PCR using the same primers as mentioned above. 3.3. Extraction of Amino Acids To disrupt the cells, 1 mL of 60% (v/v) methanol in H2O and 1 g of zirconia beads were added to the frozen cell pellet at 4 °C, followed by vortexing twice for 30 s with a 1-min interval between vortexing. The mixture was centrifuged at 9000 g for 5 min, and the supernatant was collected. The beads were washed with 500 µL of 60% methanol, centrifuged at 20,000 g for 5 min, and the supernatant was collected. Combined extracts were dried and stored until further analysis. [30]. 4. Conclusions We studied the effects of protein turnover on pool sizes of free amino acids in cyanobacteria, including in the nblA1/A2 mutant, during nitrogen and sulfur starvation. The abundant phycobiliproteins are degraded specifically during nitrogen starvation in an NblA1/A2-dependent manner. Many other cellular proteins are also degraded to supply free amino acids during such nutrient starvation. The contribution of the NblA1/A2-dependent supply to nutrient starvation, however, has not been studied. Here we demonstrated that the changes in pool size of many amino acids during nitrogen starvation can be categorized into NblA1/A2-dependent (Gln, Glu, glutathione, Gly, Ile, Leu, Met, Phe, Pro, Ser, Thr, Tyr and Val) and NblA1/A2-independent (Ala, Asn, Lys, and Trp). We confirmed that there are changes in amino acid pools that differ under nitrogen and under sulfur starvation and found that the marked increase in the Lys pool is a general event that occurs in cyanobacteria during nutrient starvation. The mechanism and biological role of this increase in Lys remain unknown but its marked accumulation may be adopted for some applied purpose in a photosynthetic biomass production. Metabolites 2014, 4 Metabolites 2014, 4 Metabolites 2014, 4 529 Author Contributions Hiroshi Kiyota, Masami Yokota Hirai, and Masahiko Ikeuchi designed the study. Hiroshi Kiyota performed the experiments. Hiroshi Kiyota and Masahiko Ikeuchi wrote the manuscript. Acknowledgments We thank Ayuko Kuwahara for her help in GC-MS measurements. This work was supported by Grants-in-Aid for Scientific Research from Ministry of Education and Science (M.I.), the Global Center of Excellence (GCOE) program “From the Earth to Earths” from Ministry of Education and Science (M.I.), and Core Research for Evolutionary Science and Technology (CREST) from the Japan Science and Technology Agency (to M.I.). Conflicts of Interest The authors declare no conflict of interest. References A small polypeptide triggers complete degradation of light-harvesting phycobiliproteins in nutrient-deprived cyanobacteria. EMBO J. 1994, 13, 1039–1047. 12. Li, H.; Sherman, L.A. Characterization of Synechocystis sp. strain PCC 6803 and deltanbl mutants under nitrogen-deficient conditions. Arch. Microbiol. 2002, 178, 256–266. 13. Karradt, A.; Sobanski, J.; Mattow, J.; Lockau, W.; Baier, K. NblA, a key protein of phycobilisome degradation, interacts with ClpC, a HSP100 chaperone partner of a cyanobacterial Clp protease. J. Biol. Chem. 2008, 283, 32394–32403. 14. Hasunuma, T.; Kikuyama, F.; Matsuda, M.; Aikawa, S.; Izumi, Y.; Kondo, A. Dynamic metabolic profiling of cyanobacterial glycogen biosynthesis under conditions of nitrate depletion. J. Exp. Bot. 2013, 64, 2943–2954. 15. Coronil, T.; Lara, C. Amino acid level and expression of the nitrate assimilation system in Anacystis nidulans cells. Plant Physiol. Biochem. 1991, 29, 651–655. 16. Osanai, T.; Oikawa, A.; Shirai, T.; Kuwahara, A.; Iijima, H.; Tanaka, K.; Ikeuchi, M.; Kondo, A.; Saito, K.; Hirai, M.Y. Capillary electrophoresis-mass spectrometry reveals the distribution of carbon metabolites during nitrogen starvation in Synechocystis sp. PCC 6803. Environ. Microbiol. 2014, 16, 512–524. 17. Hauf, W.; Schlebusch, M.; Hüge, J.; Kopka, J.; Hagemann, M.; Forchhammer, K. Metabolic changes in Synechocystis PCC6803 upon nitrogen-starvation: excess NADPH sustains polyhydroxybutyrate accumulation. Metabolites 2013, 3, 101–118. 18. Kaneko, T.; Sato, S.; Kotani, H.; Tanaka, A.; Asamizu, E.; Nakamura, Y.; Miyajima, N.; Hirosawa, M.; Sugiura, M.; Sasamoto, S.; et al. Sequence analysis of the genome of the unicellular cyanobacterium Synechocystis sp. strain PCC6803. II. Sequence determination of the entire genome and assignment of potential protein-coding regions (supplement). DNA Res. 1996, 3, 185–209. 19. Yoshikawa, K.; Hirasawa, T.; Ogawa, K.; Hidaka, Y.; Nakajima, T.; Furusawa, C.; Shimizu, H. Integrated transcriptomic and metabolomic analysis of the central metabolism of Synechocystis sp. PCC 6803 under different trophic conditions. Biotechnol. J. 2013, 8, 571–580. 20. Kanesaki, Y.; Shiwa, Y.; Tajima, N.; Suzuki, M.; Watanabe, S.; Sato, N.; Ikeuchi, M.; Yoshikawa, H. Identification of substrain-specific mutations by massively parallel whole-genome resequencing of Synechocystis sp. PCC 6803. DNA Res. 2012, 19, 67–79. 21. Eisenhut, M.; Huege, J.; Schwarz, D.; Bauwe, H.; Kopka, J.; Hagemann, M. Metabolome phenotyping of inorganic carbon limitation in cells of the wild type and photorespiratory mutants of the cyanobacterium Synechocystis sp. strain PCC 6803. Plant Physiol. 2008, 148, 2109–2120. 22. Takahashi, H.; Uchimiya, H.; Hihara, Y. Difference in metabolite levels between photoautotrophic and photomixotrophic cultures of Synechocystis sp. References 1. Schwarz, R.; Forchhammer, K. Acclimation of unicellular cyanobacteria to macronutrient deficiency: Emergence of a complex network of cellular responses. Microbiology 2005, 151, 2503–2514. 1. Schwarz, R.; Forchhammer, K. Acclimation of unicellular cyanobacteria to macronutrient deficiency: Emergence of a complex network of cellular responses. Microbiology 2005, 151, 2503–2514. 2. Grossman, A. Acclimation of Chlamydomonas reinhardtii to its nutrient environment. Protist 2000, 151, 201–224. 2. Grossman, A. Acclimation of Chlamydomonas reinhardtii to its nutrient environment. Protist 2000, 151, 201–224. 3. Markou, G.; Nerantzis, E. Microalgae for high-value compounds and biofuels production: A review with focus on cultivation under stress conditions. Biotechnol. Adv. 2013, 31, 1532–1542. 3. Markou, G.; Nerantzis, E. Microalgae for high-value compounds and biofuels production: A review with focus on cultivation under stress conditions. Biotechnol. Adv. 2013, 31, 1532–1542. 4. Toepel, J.; Albaum, S.P.; Arvidsson, S.; Grossman, A.; la Russa, M.; Rogge, K.; Kruse, O. Construction and evaluation of a whole genome microarray of Chlamydomonas reinhardtii. BMC Genomics 2011, 12, 579. 4. Toepel, J.; Albaum, S.P.; Arvidsson, S.; Grossman, A.; la Russa, M.; Rogge, K.; Kruse, O. Construction and evaluation of a whole genome microarray of Chlamydomonas reinhardtii. BMC Genomics 2011, 12, 579. 5. Mitschke, J.; Vioque, A.; Haas, F.; Hess, W.R.; Muro-Pastor, A.M. Dynamics of transcriptional start site selection during nitrogen stress-induced cell differentiation in Anabaena sp. PCC7120. Proc. Natl. Acad. Sci. USA 2011, 108, 20130–20135. 5. Mitschke, J.; Vioque, A.; Haas, F.; Hess, W.R.; Muro-Pastor, A.M. Dynamics of transcriptional start site selection during nitrogen stress-induced cell differentiation in Anabaena sp. PCC7120. Proc. Natl. Acad. Sci. USA 2011, 108, 20130–20135. 6. Dagenais-Bellefeuille, S.; Morse, D. Putting the N in dinoflagellates. Front. Microbiol. 2013, 4, 369. 7. Ito, T.; Tanaka, M.; Shinkawa, H.; Nakada, T.; Ano, Y.; Kurano, N.; Soga, T.; Tomita, M. Metabolic and morphological changes of an oil accumulating trebouxiophycean alga in nitrogen-deficient conditions. Metabolomics 2013, 9, 178–187. 8. Dong, H.P.; Williams, E.; Wang, D.Z.; Xie, Z.X.; Hsia, R.C.; Jenck, A.; Halden, R.; Li, J.; Chen, F.; Place, A.R. Responses of Nannochloropsis oceanica IMET1 to long-term nitrogen starvation and recovery. Plant Physiol. 2013, 162, 1110–1126. 9. Watanabe, M.; Ikeuchi, M. Phycobilisome: Architecture of a light-harvesting supercomplex. Photosynth. Res. 2013, 116, 265–276. 10. Collier, J.L.; Grossman, A.R. Chlorosis induced by nutrient deprivation in Synechococcus sp. strain PCC 7942: Not all bleaching is the same. J. Bacteriol. 1992, 174, 4718–4726. 530 Metabolites 2014, 4 11. Collier, J.L.; Grossman, A.R. References PCC 6803 examined by capillary electrophoresis electrospray ionization mass spectrometry. J. Exp. Bot. 2008, 59, 3009–3018. 23. Liu, X.; Sheng, J.; Curtiss, R. Fatty acid production in genetically modified cyanobacteria. Proc. Natl. Acad. Sci. USA 2011, 108, 6899–6904. 24. Bentley, F.K.; Melis, A. Diffusion-based process for carbon dioxide uptake and isoprene emission in gaseous/aqueous two-phase photobioreactors by photosynthetic microorganisms. Biotechnol. Bioeng. 2012, 109, 100–109. 531 Metabolites 2014, 4 25. Atsumi, S.; Higashide, W.; Liao, J.C. Direct photosynthetic recycling of carbon dioxide to isobutyraldehyde. Nat. Biotechnol. 2009, 27, 1177–1180. 26. Kuniyoshi, T.M.; Gonzalez, A.; Lopez-Gomollon, S.; Valladares, A.; Bes, M.T.; Fillat, M.F.; Peleato, M.L. 2-oxoglutarate enhances NtcA binding activity to promoter regions of the microcystin synthesis gene cluster. FEBS Lett. 2011, 585, 3921–3926. 27. Ohashi, Y.; Shi, W.; Takatani, N.; Aichi, M.; Maeda, S.; Watanabe, S.; Yoshikawa, H.; Omata, T. Regulation of nitrate assimilation in cyanobacteria. J. Exp. Bot. 2011, 62, 1411–1424. 28. Baier, K.; Nicklisch, S.; Grundner, C.; Reinecke, J.; Lockau, W. Expression of two nblA-homologous genes is required for phycobilisome degradation in nitrogen-starved Synechocystis sp. PCC 6803. FEMS Microbiol. Lett. 2001, 195, 35–39. 29. Grossman, A.R.; Schaefer, M.R.; Chiang, G.G.; Collier, J.L. The phycobilisome, a light-harvesting complex responsive to environmental conditions. Microbiol. Rev. 1993, 57, 725–749. 30. Kiyota, H.; Ikeuchi, M.; Hirai, M.Y. Response of amino acid metabolism to sulfur starvation in Synechocystis sp. PCC 6803. In Sulfur Metabolism in Plants; Springer: Dordrecht, Netherlands, 2012; pp. 53–59. 31. Bennett, B.D.; Kimball, E.H.; Gao, M.; Osterhout, R.; Van Dien, S.J.; Rabinowitz, J.D. Absolute metabolite concentrations and implied enzyme active site occupancy in Escherichia coli. Nat. Chem. Biol. 2009, 5, 593–599. 32. Hans, M.A.; Heinzle, E.; Wittmann, C. Quantification of intracellular amino acids in batch cultures of Saccharomyces cerevisiae. Appl. Microbiol. Biotechnol. 2001, 56, 776–779. 33. Field, B.; Cardon, G.; Traka, M.; Botterman, J.; Vancanneyt, G.; Mithen, R. Glucosinolate and amino acid biosynthesis in Arabidopsis. Plant Physiol. 2004, 135, 828–839. 34. Richaud, C.; Zabulon, G.; Joder, A.; Thomas, J.C. Nitrogen or sulfur starvation differentially affects phycobilisome degradation and expression of the nblA gene in Synechocystis strain PCC 6803. J. Bacteriol. 2001, 183, 2989–2994. 35. KEGG Lysine degradation—Synechocystis sp. PCC 6803. Available online: http://www.genome.jp/kegg-bin/show_pathway?syn00310 (accessed on 26 June 2014). 36 Rippka R Isolation and purification of cyanobacteria Methods Enzymol 1988 167 3 27 http://www.genome.jp/kegg-bin/show_pathway?syn00310 (accessed on 26 June 2014). 36. Rippka, R. Isolation and purification of cyanobacteria. Methods Enzymol. 1988, 167, 3–27. References 36. Rippka, R. Isolation and purification of cyanobacteria. Methods Enzymol. 1988, 167, 3–27. 36. Rippka, R. Isolation and purification of cyanobacteria. Methods Enzymol. 1988, 167, 3–27. © 2014 by the authors; licensee MDPI, Basel, Switzerland. This article is an open access article distributed under the terms and conditions of the Creative Commons Attribution license (http://creativecommons.org/licenses/by/3.0/). © 2014 by the authors; licensee MDPI, Basel, Switzerland. This article is an open access article distributed under the terms and conditions of the Creative Commons Attribution license (http://creativecommons.org/licenses/by/3.0/). © 2014 by the authors; licensee MDPI, Basel, Switzerland. This article is an open access article distributed under the terms and conditions of the Creative Commons Attribution license (http://creativecommons.org/licenses/by/3.0/).
https://openalex.org/W2169132078
https://dspace.mit.edu/bitstream/1721.1/134224/2/Chatrchyan2011_Article_MeasurementOfTheInclusiveZCros.pdf
English
null
Measurement of the inclusive Z cross section via decays to tau pairs in pp collisions at $ \sqrt {s} = 7 $ TeV
˜The œJournal of high energy physics/˜The œjournal of high energy physics
2,011
cc-by
16,554
MIT Open Access Articles Measurement of the inclusive Z cross section via decays to tau pairs in pp collisions at √ s = 7 TeV The MIT Faculty has made this article openly available. Please share how this access benefits you. Your story matters. Citation: Chatrchyan, S., et al. "Measurement of the Inclusive Z Cross Section Via Decays to Tau Pairs in Pp Collisions at Root S=7 Tev." Journal of High Energy Physics 8 (2011). As Published: 10.1007/JHEP08(2011)117 Publisher: Springer Science and Business Media LLC Persistent URL: https://hdl.handle.net/1721.1/134224 Version: Final published version: final published article, as it appeared in a journal, conference proceedings, or other formally published context Terms of use: Creative Commons Attribution 4.0 International license MIT Open Access Articles Measurement of the inclusive Z cross section via decays to tau pairs in pp collisions at √ s = 7 TeV The MIT Faculty has made this article openly available. Please share how this access benefits you. Your story matters. Citation: Chatrchyan, S., et al. "Measurement of the Inclusive Z Cross Section Via Decays to Tau Pairs in Pp Collisions at Root S=7 Tev." Journal of High Energy Physics 8 (2011). As Published: 10.1007/JHEP08(2011)117 Publisher: Springer Science and Business Media LLC Persistent URL: https://hdl.handle.net/1721.1/134224 Version: Final published version: final published article, as it appeared in a journal, conference proceedings, or other formally published context Terms of use: Creative Commons Attribution 4.0 International license MIT Open Access Articles The MIT Faculty has made this article openly available. Please share how this access benefits you. Your story matters. Version: Final published version: final published article, as it appeared in a journal, conference proceedings, or other formally published context Terms of use: Creative Commons Attribution 4.0 International license Received: May 3, 2011 Revised: July 1, 2011 Accepted: August 3, 2011 Published: August 25, 2011 JHEP08(2011)117 Open Access, Copyright CERN, for the benefit of the CMS collaboration The CMS collaboration The CMS collaboration Abstract: The first measurement of inclusive Z →τ +τ −production in pp collisions at the LHC is presented, in the final states µ+hadrons, e+hadrons, e+µ, and µ+µ. The data sample corresponds to an integrated luminosity of 36 pb−1 collected with the CMS detector. The measured cross section is σ (pp →ZX)×B (Z →τ +τ −) = 1.00±0.05 (stat.)± 0.08 (syst.) ± 0.04 (lumi.) nb, which is in good agreement with the next-to-next-to-leading order QCD prediction and improves on previous measurements in the Z →e+e−and µ+µ−channels. The reconstruction efficiency for hadronic τ decays is determined with a precision of 7%. Keywords: Hadron-Hadron Scattering Keywords: Hadron-Hadron Scattering doi:10.1007/JHEP08(2011)117 Open Access, Copyright CERN, for the benefit of the CMS collaboration Contents 1 Introduction 1 2 CMS detector 2 3 Lepton reconstruction and identification 3 4 Event selection 4 5 Background estimation 6 6 Systematic uncertainties 7 7 Cross section measurement 8 8 Conclusions 12 The CMS collaboration 15 Contents 1 Introduction 1 2 CMS detector 2 3 Lepton reconstruction and identification 3 4 Event selection 4 5 Background estimation 6 6 Systematic uncertainties 7 7 Cross section measurement 8 8 Conclusions 12 The CMS collaboration 15 1 2 3 4 6 7 8 12 15 JHEP08(2011)117 7 Cross section measurement 8 Conclusions The CMS collaboration 2 CMS detector The central feature of the CMS apparatus is a superconducting solenoid, of 6 m internal diameter, providing a magnetic field of 3.8 T. Within the field volume are the silicon pixel and strip tracker, the crystal electromagnetic calorimeter (ECAL) and the brass/scintillator hadron calorimeter (HCAL). Muons are measured in gas-ionization detectors embedded in the steel return yoke. JHEP08(2011)117 CMS uses a right-handed coordinate system, with the origin at the nominal interaction point, the x axis pointing to the centre of the LHC, the y axis pointing up perpendicular to the LHC plane, and the z axis along the counterclockwise-beam direction. The polar angle θ is measured from the positive z axis and the azimuthal angle φ is measured in the xy plane. Variables used in this article are the pseudorapidity, η ≡−ln[tan(θ/2)], and the transverse momentum, pT = q p2x + p2y. q The ECAL is designed to have both excellent energy resolution and high granularity, which are crucial for reconstructing electrons and photons produced in τ decays. The ECAL is constructed with projective lead tungstate crystals in two pseudorapidity regions: the barrel (|η| < 1.479) and the endcap (1.479 < |η| < 3). The transition regions between the barrel and the endcaps, 1.444 < |η| < 1.567, are not used for electron reconstruction. In the barrel region, the crystals are 25.8 X0 long, where X0 is the radiation length, and conform to a granularity of ∆η × ∆φ = 0.0174 × 0.0174. The endcap region is instrumented with a lead-silicon-strip preshower detector consisting of two orthogonal strip detectors with a strip pitch of 1.9 mm. One plane is at a depth of 2X0 and the other at 3X0. The ECAL has an energy resolution of better than 0.5% for unconverted photons with transverse energies above 100 GeV. The energy resolution is 3% or better for the range of electron energies relevant for this analysis. The HCAL barrel and endcap regions cover the range |η| < 3 and are subdivided into towers with a segmentation of ∆η × ∆φ = 0.087 × 0.087, corresponding to 5 × 5 ECAL crystals in the barrel region. The HCAL forward region extends the calorimetry to |η| < 5. The inner tracker measures charged particle tracks within the range |η| < 2.5. 1 Introduction The measurement of the inclusive Z production cross section with Z →τ +τ −constitutes an important physics benchmark at the Large Hadron Collider (LHC). The τ lepton can decay either into purely leptonic final states (τ →eνeντ denoted as “τe” or τ →µνµντ denoted as “τµ”) or into hadronic final states denoted by “τhad” consisting of a hadronic system and a ντ. Constrained by the τ mass, the hadronic system is characterized by a low particle multiplicity and a highly collimated jet which allows a τhad signal to be separated from the large QCD jet backgrounds. The validation of the τhad signal is essential in searches for new physics based on τ leptons, such as Higgs boson decays to τ +τ −[1]. The Compact Muon Solenoid (CMS) Collaboration recently reported a search for the Higgs boson in this channel [2]. Tau leptons can also be important signatures for searches of supersymmetry, extra dimensions, and extra gauge bosons [3]. The Z →τ +τ −production cross section has been previously measured in proton- antiproton collisions by the CDF and D0 Collaborations [4, 5]. In this study, Z →τ +τ − events in the τµτhad, τeτhad, τeτµ, and τµτµ final states are selected from a sample of √s = 7 TeV proton-proton collision data recorded by the CMS experiment at the LHC. The data sample corresponds to an integrated luminosity of 36±1 pb−1. Previous measure- ments of the Z production cross section have been made with lower statistics and higher luminosity uncertainty in the e+e−and µ+µ−final states [6, 7]. The results presented in this paper constitute the first measurement of the Z production cross section with the – 1 – full integrated luminosity collected in 2010 and the first step of a comprehensive set of measurements of the Z cross section, with all three lepton species. The measurement of the Z →τ +τ −production cross section provides also a validation of τhad reconstruction and identification [8–10] and a direct measurement of the tau selection efficiency. 3 Lepton reconstruction and identification Muons produced by τ decays in the Z →τ +τ −process are reconstructed in the tracker and muon chambers [12]. Quality cuts, based on the minimum number of hits in the silicon tracker, pixel detector, and muon chambers, are applied to suppress backgrounds from hadron punch-through and decay in flight. Electrons are reconstructed by combining tracks produced by the Gaussian Sum Filter algorithm with ECAL clusters [13]. Requirements are imposed that distinguish prompt electrons from charged pions mimicking electron signatures, and from electrons produced by photon conversions. JHEP08(2011)117 The CMS particle flow (PF) algorithm [9] is used to form a mutually exclusive collection of reconstructed particles (muons, electrons, photons, and charged and neutral hadrons) by combining tracks and calorimeter clusters. These reconstructed particles are used to build composite objects such as τ’s and jets, and to measure the missing transverse energy E/T. /T Electrons and muons from τ decays are expected to be isolated in the detector, while leptons from heavy-flavour (c and b) decays and decays in flight are expected to be found inside jets. A measure of isolation is used to discriminate the signal from the QCD multijet background, based on the charged hadrons, photons, and neutral hadrons falling within a cone ∆R = p ∆η2 + ∆φ2 = 0.4 around the lepton momentum direction. In the τµτµ final state, a cone of ∆R = 0.3 is used. A sum of the pT for each particle type is made for charged hadrons with pT > 0.5 GeV and for photons and neutral hadrons with pT > 1 GeV; photons and neutral hadrons are excluded from the sum if they fall within inner cones of ∆R = 0.05 and ∆R = 0.08, respectively. The relative isolation variable is IPF rel = Σ  pcharged T + pphoton T + pneutral T  /pℓ T, where pcharged T , pphoton T , and pneutral T refer to the charged hadrons, photons, and neutral hadrons in the sum, respectively, and pℓ T refers to the pT of the lepton ℓ= e, µ. For muons, it is required that IPF rel < 0.1, while for electrons it is required that IPF rel < 0.08 in the barrel and IPF rel < 0.04 in the endcaps. 2 CMS detector It consists of 1 440 silicon pixel and 15 148 silicon strip detector modules and provides an impact parameter resolution of ∼15 µm and a transverse momentum resolution of about 1.5% for 100 GeV particles. The muon barrel region is covered by drift tubes and the endcap regions by cathode strip chambers. In both regions resistive plate chambers provide additional coordinate and timing information. Muons can be reconstructed in the range |η| < 2.4, with a typical pT resolution of 1% for pT ≈40 GeV. A more detailed description of CMS can be found in [11]. – 2 – 4 Event selection The events preselected for this analysis in the τµτhad, τeτµ, and τµτµ final states are required to pass the single-muon Level-1 (L1) trigger with a pT threshold of 7 GeV and the single muon High Level Trigger (HLT) [15], with a threshold varying from 9 GeV to 15 GeV, de- pending on the instantaneous luminosity. Events in the τeτhad final state are selected using the single-electron L1 trigger with a threshold of 8 GeV in the transverse energy, and a single-electron HLT trigger with a threshold of 12 GeV at higher instantaneous luminosity. At the end of the 2010 data taking period, a combined e+τ trigger was used to maintain efficiency as the instantaneous luminosity increased. The trigger has the same L1 require- ments as the electron trigger, but the HLT requires the presence of an electron of transverse energy larger than 12 GeV and a hadronic tau decay with pT larger than 15 GeV, tagged with a simplified version of the tau reconstruction algorithm with a less restrictive selec- tion than the one used in the offline analysis. The tau reconstruction at HLT is performed using PF objects. Jets are reconstructed with an iterative cone algorithm and tracking is performed only for jets with ET above 8 GeV. All charged particles are treated as pions, e.g. no muon or electron identification was applied. It is required that there is at least one track of pT > 1 GeV in a cone of radius 0.2 and no additional charged hadrons (tracks) with pT above 1.5 GeV in a cone of ∆R = 0.4. The efficiency of the L1+HLT to trigger on τ leptons is measured from data and is found to be ≈93% for a τhad identified by the full offline algorithm with a reconstructed pT above 15 GeV. JHEP08(2011)117 Offline event selection starts with the requirement of a well-defined primary vertex [16]. For the τµτhad and τeτhad final states, one isolated muon or electron is required with pT > 15 GeV and |η| < 2.1. The associated τhad must be oppositely charged, with pT > 20 GeV and |η| < 2.3. 3 Lepton reconstruction and identification For the τeτµ final state the isolation quantities are based directly on tracker and calorimeter information [7], Irel = Σ (ET(ECAL) + ET(HCAL) + pT(tracks)) /pℓ T, calculated in a cone of ∆R = 0.3. In this case, it is required that Irel < 0.15 for muons and Irel < 0.1 for electrons. The τhad identification algorithm used in this measurement is known as the Hadrons Plus Strips algorithm [10]. The reconstruction starts with the clustering of all PF particles into jets with the anti-kt algorithm with a distance parameter R = 0.5 [14]. For each jet, a charged hadron is combined with other nearby charged or neutral hadrons to reconstruct the decay modes, considering all possible combinations. The identification of π0 mesons is enhanced by clustering electrons and photons in ”strips” along the bending plane to take into account possible broadening of calorimeter signatures by photon conversions. Then strips and charged hadrons are combined to reconstruct the combinations: single hadron, hadron plus a strip, hadron plus two strips and three hadrons. The hadron plus strip(s) decay modes require one charged hadron and one or two strips with a minimum ET of 1 GeV. A constraint is applied on the strip mass to match the π0 mass and the invariant mass of the hadron plus strip(s) is calculated. This invariant mass should be compatible with the mass of the ρ(770) or a1(1260) resonances. To reduce the contamination from – 3 – QCD jets, the τhad-candidate isolation is calculated in a cone of ∆R = 0.5 around the reconstructed τ-momentum direction. It is requested that there be no charged hadrons with pT > 1.0 GeV and no photons with ET > 1.5 GeV in the isolation cone, other than the τ constituents. The probability of a jet (electron) to be misidentified as a τhad is smaller than 2% (3%). 4 Event selection In order to reject events coming from the W+jets background, the transverse mass of the lepton and the E/T, MT(ℓ, E/T) = q 2pℓ TE/T · (1 −cos ∆φ), is required to be less than 40 GeV, where ∆φ is the difference in azimuthal angle between the lepton and E/T vectors. The MT distribution and the selection requirement applied are illustrated in figure 1 for the τµτhad, τeτhad and τeτµ final states. For the τeτµ final state, one isolated muon with |η| < 2.1 and one oppositely charged isolated electron with |η| < 2.4 are required, both with pT > 15 GeV. Further background suppression is achieved by requiring MT(µ, E/T) < 50 GeV and MT(e, E/T) < 50 GeV. For the τµτµ final state, events with two oppositely charged isolated muons with |η| < 2.1 are selected if one satisfies pT > 19 GeV and the other pT > 10 GeV. The requirement E/T < 50 GeV suppresses tt and W+jets backgrounds, and a requirement on the azimuthal angle difference between the muons, ∆φµµ > 2, rejects QCD background events, for muons originating from the same quarkonia decay or from a decay chain of heavy-flavour hadrons. 4 Event selection – 4 – ) [GeV] T E , µ ( T M 0 20 40 60 80 100 120 Events / (10 GeV) 0 50 100 150 200 250 300 data τ τ → Z W+jets t EWK+t QCD CMS = 7 TeV s at -1 36 pb had τ µτ → τ τ → Z ) [GeV] T E ( e, T M 0 20 40 60 80 100 120 Events / (10 GeV) 0 50 100 150 200 250 data τ τ → Z W+jets t EWK+t QCD CMS = 7 TeV s at -1 36 pb had τ eτ → τ τ → Z ) [GeV] T E ( e, T M 0 50 100 150 200 Events / (20 GeV) 0 20 40 60 80 data τ τ → Z t EWK+t W+jets QCD CMS = 7 TeV s at -1 36 pb µτ eτ → τ τ → Z ) [GeV] T E , µ ( T M 0 50 100 150 200 Events / (20 GeV) 0 20 40 60 80 data τ τ → Z t EWK+t W+jets QCD CMS = 7 TeV s at -1 36 pb µτ eτ → τ τ → Z Figure 1. Lepton+E/T transverse mass for the final states τµτhad (top left), τeτhad (top right) and τeτµ (bottom). The arrow shows the final selection criteria applied. 4 Event selection ) [GeV] T E ( e, T M 0 20 40 60 80 100 120 Events / (10 GeV) 0 50 100 150 200 250 data τ τ → Z W+jets t EWK+t QCD CMS = 7 TeV s at -1 36 pb had τ eτ → τ τ → Z ) [GeV] T E , µ ( T M 0 20 40 60 80 100 120 Events / (10 GeV) 0 50 100 150 200 250 300 data τ τ → Z W+jets t EWK+t QCD CMS = 7 TeV s at -1 36 pb had τ µτ → τ τ → Z CMS JHEP08(2011)117 ) [ ] ( ) [GeV] T E , µ ( T M 0 50 100 150 200 Events / (20 GeV) 0 20 40 60 80 data τ τ → Z t EWK+t W+jets QCD CMS = 7 TeV s at -1 36 pb µτ eτ → τ τ → Z ) [GeV] T E ( e, T M 0 50 100 150 200 Events / (20 GeV) 0 20 40 60 80 data τ τ → Z t EWK+t W+jets QCD CMS = 7 TeV s at -1 36 pb µτ eτ → τ τ → Z Figure 1. Lepton+E/T transverse mass for the final states τµτhad (top left), τeτhad (top right) and τeτµ (bottom). The arrow shows the final selection criteria applied. Effective suppression of the Drell-Yan background is achieved with a multivariate likelihood ratio technique. For each event, the relative probabilities to belong to two event classes (Z →τ +τ −→τµτµ and Z/γ∗→µ+µ−) are computed, exploiting the following set of discriminating variables: the ratio of the transverse momentum of the dimuon system to the scalar sum of the momenta of the two muons; the significance of the distance of closest approach (DCA) between the two muon helix tracks; the pseudorapidity of the dimuon system; and the azimuthal angle between the positive muon momentum and E/T. A normalized likelihood discriminant is computed and is shown in figure 2. Events with a likelihood discriminant value larger than 0.87 are kept in the final sample. 4 Event selection For the plots in figures 1 and 2, the QCD multijet, W and diboson backgrounds were simulated with PYTHIA [17], the Drell-Yan signal and background with the next- to-leading order (NLO) Monte Carlo generator POWHEG [18–20], and the top samples – 5 – Normalized Likelihood 0 0.2 0.4 0.6 0.8 1 Events / 0.05 1 10 2 10 3 10 4 10 5 10 data µ µ → * γ Z/ τ τ → Z ν µ → W t t QCD CMS = 7 TeV s at -1 36 pb µτ µτ → τ τ → Z Figure 2. Likelihood discriminant for the τµτµ final state. The arrow shows the final selection criterion applied. Normalized Likelihood 0 0.2 0.4 0.6 0.8 1 Events / 0.05 1 10 2 10 3 10 4 10 5 10 data µ µ → * γ Z/ τ τ → Z ν µ → W t t QCD CMS = 7 TeV s at -1 36 pb µτ µτ → τ τ → Z JHEP08(2011)117 Figure 2. Likelihood discriminant for the τµτµ final state. The arrow shows the final selection criterion applied. with Madgraph [21]. The tau decays were performed with Tauola [22]. The samples were normalized using the cross section at next-to-next-to-leading order (NNLO) for Drell-Yan and W, at leading order (LO) for QCD, and NLO for the tt sample. The EWK label in the figure refers to the Z →e+e−, µ+µ−, and diboson backgrounds. with Madgraph [21]. The tau decays were performed with Tauola [22]. The samples were normalized using the cross section at next-to-next-to-leading order (NNLO) for Drell-Yan and W, at leading order (LO) for QCD, and NLO for the tt sample. The EWK label in the figure refers to the Z →e+e−, µ+µ−, and diboson backgrounds. 5 Background estimation The Z →τ +τ −signal is established using the visible mass, which is the reconstructed mass of the ℓτhad system in the τℓτhad final states, and the dilepton invariant mass for the τeτµ and τµτµ final states. Due to the presence of neutrinos in the final state, the Z →τ +τ −visible mass peak extends across the range 30–100 GeV, which is considerably broader than the Z resonance itself. The backgrounds generally span the same mass range, so an accurate determination of the signal yield requires effective background estimation techniques. The main background sources are QCD multijet processes, W+jets, and Z → ℓ+ℓ−, with small contributions from top-quark decays and dibosons. All backgrounds are measured in control regions where their contributions are enhanced and extrapolated to the signal selection region using selection efficiencies determined either from data or the Monte Carlo simulation. In the τℓτhad final state, the QCD multijet background is estimated using samples of same-sign (SS) and opposite-sign (OS) events from data, for which the electron or muon isolation requirement is inverted; the QCD background estimate is based on the ratio of OS to SS yields. The visible mass distribution of the SS events is used to describe the background in the signal region. The W contribution is extracted from the region MT(ℓ, E/T) > 60 GeV, where it dominates the sample. In the τeτµ final state, the background contributions are expected to be small and are estimated from the simulation. The large-transverse-mass region is used to check the estimated background contributions from W, diboson, and tt backgrounds. For the τµτµ final state, the Drell-Yan muon-pair – 6 – τµτhad τeτhad τeτµ τµτµ (Mµµ < 70 GeV) Z →ℓ+ℓ−, jet misidentified as τ 6.4 ± 2.4 15.0 ± 6.2 - Z →ℓ+ℓ−, lepton misidentified as τ 12.9 ± 3.5 109 ± 28 2.4 ± 0.3 20.1 ± 1.3 tt 6.0 ± 3.0 2.6 ± 1.3 7.1 ± 1.3 0.15 ± 0.03 W →ℓν 54.9 ± 4.8 30.6 ± 3.1 W →τν 14.7 ± 1.3 7.0 ± 0.7 1.5 ± 0.5 2.5 ± 2.5 QCD multijet 132 ± 14 181 ± 23 WW/WZ/ZZ 1.6 ± 0.8 0.8 ± 0.4 3.0 ± 0.4 - Total background 228 ± 16 346 ± 37 14.0 ± 1.8 22.8 ± 2.8 Total data 517 540 101 58 Table 1. 5 Background estimation Numbers of expected background events and number of data events passing all the selec- tion criteria in the four final states. The uncertainties shown include the statistical and systematic uncertainties added in quadrature. JHEP08(2011)117 Table 1. Numbers of expected background events and number of data events passing all the selec- tion criteria in the four final states. The uncertainties shown include the statistical and systematic uncertainties added in quadrature. Table 1. Numbers of expected background events and number of data events passing all the selec- tion criteria in the four final states. The uncertainties shown include the statistical and systematic uncertainties added in quadrature. production events are selected with a reduced likelihood without including the muon DCA significance, and the resulting muon DCA significance distribution is fitted with signal and background shapes. The QCD multijet background estimate is obtained from a sample of SS dimuon events. The numbers of selected events and the expected background contributions are sum- marized in table 1. The statistical and systematic uncertainties in the methods used are also given, where the uncertainties are added in quadrature. The uncertainty is dominated by the statistical precision of the data samples used to obtain the estimates of the number of background events. 6 Systematic uncertainties The efficiencies for electron and muon reconstruction, identification, and isolation, as well as the trigger efficiencies are obtained from data. Correction factors for the values extracted from the simulation are determined using the method described in ref. [7] (tag-and-probe method). The measured efficiencies have a small dependence on pT and cover the full range of pT used in the analysis. Typical Monte Carlo to data correction factors for muon (electron) trigger and reconstruction efficiencies are 0.97 (1.01) and 1.01 (0.98) respectively. The uncertainties on the correction factors are in the range of 0.2–1.1%. A similar technique is used to estimate the hadronic tau identification efficiency. A data sample of taus is selected using Z →τ +τ −→τµτhad events. The events are pres- elected without applying the full tau identification but only kinematic cuts and a set of requirements to suppress the background from Z →µ+µ−, W, and QCD events. The effi- ciency is then calculated as a ratio of the number of events that pass the tau identification requirement to the number of all preselected events. The total uncertainty of the measure- ment arises from the statistical uncertainty of the sample and the systematic uncertainties – 7 – related to the understanding of the backgrounds in the preselection sample and amounts to 23% [10]. To estimate the efficiency of the MT selection and the likelihood selection efficiency for the τµτµ final state, an embedded sample is used where the muons in a Z →µ+µ− data sample are replaced by simulated tau decays with the original muon momentum. The estimated uncertainties amount to 2%, which comes from the statistical precision of the selected Z →µ+µ−data and the difference seen between the efficiency obtained with the embedded sample and a genuine Z →τ +τ −MC sample. To estimate the effect of the energy-scale uncertainties on the acceptance, the ener- gies of all reconstructed objects (electrons, muons, taus, and jets) are varied within their respective uncertainty. After each independent shift, the missing transverse energy is re- calculated and the event selection is repeated. The event yield is compared to the nominal value and the relative difference is quoted as the systematic uncertainty. The systematic uncertainties are in the range from 1% to 3.5%. JHEP08(2011)117 To obtain the acceptance corrections, the D6T and Z2 PYTHIA tunes [23] were used in the simulation. 6 Systematic uncertainties The effect of the use of different tunes on the final extracted cross section is smaller than 1% and is not included in the systematic uncertainties. The numbers of background events from various sources have been estimated from data and are given in table 1. The uncertainties are dominated by the statistical precision of the data samples used in the estimation. The luminosity has been measured with an uncertainty of 4% [24]. The main source of theoretical uncertainty in the calculation of the experimental accep- tance comes from the parton distribution functions (PDFs). The central acceptance value is obtained with the CT10 PDF [25]. The uncertainty is estimated using the error sets of the PDFs: CT10, MSTW2008NLO [26], and NNPDF2.0 [27], following the PDF4LHC prescription [28], and amounts to 2%. The experimental and theoretical uncertainties are summarized in table 2. 7 Cross section measurement The cross section is obtained for each final state with the following formula: The cross section is obtained for each final state with the following formula: σ(pp →ZX) × B(Z →τ +τ −) = N A ϵ B ′ L , (7.1) (7.1) where N is the number of extracted signal events, A is the acceptance of signal events, ϵ is the signal selection efficiency, B ′ is the branching fraction of the τ-decay mode consid- ered [29], and L is the integrated luminosity [24]. The visible mass distributions of the τµτhad, τeτhad, τeτµ and τµτµ final states are shown in figure 3. To estimate the number of signal events, a fit is performed using the visible mass shapes from the simulation, except for the QCD multijet and Z →ℓ+ℓ−backgrounds, which are obtained from data. For the simulation shapes, a variation of the electron and tau energy scales within their uncertainties is considered. The effect of the muon energy scale is negligible. The background normalizations correspond to the numbers listed in – 8 – Source τµτhad τeτhad τeτµ τµτµ Trigger 0.2% 3% 0.2% 0.3% Lepton identification and isolation 1.0% 1.1% 1% 1% τhad identification 23% - Efficiency of MT selection 2% - Likelihood selection efficiency - 2% Acceptance due to τhad energy scale, 3% 3.5% - Acceptance due to e energy scale, 2% - 1.6% 1.6% - Acceptance due to µ momentum scale, 1% 1% - 1% 2% Luminosity 4% Parton distribution functions 2% able 2. Summary of the sources of systematic uncertainties and their estimated effect on the easured Z →τ +τ −cross section. JHEP08(2011)117 ummary of the sources of systematic uncertainties and their estimated effect on the →τ +τ −cross section. τµτhad τeτhad τeτµ τµτµ Acceptance A 0.128 0.116 0.074 0.163 Selection efficiency ϵ 0.35 0.22 0.55 0.173 Mass window correction fout 0.03 0.03 0.02 0.01 Nfit 306 205 90.5 35 Integrated luminosity L (pb−1) 35.7 35.7 35.5 35.7 Table 3. Acceptance, selection efficiency, fraction of selected events outside the generator-level mass window, number of extracted signal events from the fit and integrated luminosity, for the four final states considered. Table 3. Acceptance, selection efficiency, fraction of selected events outside the generator-level mass window, number of extracted signal events from the fit and integrated luminosity, for the four final states considered. table 1 and are allowed to vary within the estimated uncertainties. 7 Cross section measurement The background yields and signal shapes shown in figure 3 are those obtained from the fitting procedure. The acceptances were obtained with the NLO QCD program POWHEG in the Z → τ +τ −mass region 60 < Mτ +τ −< 120 GeV. For the acceptance calculation, events with an electron or muon with pT > 15 GeV and |η| < 2.1 and a visible τhad pT > 20 GeV and |η| < 2.3 are used in the τeτhad and τµτhad final states. For the τeτµ final state, events with an electron with pT > 15 GeV and |η| < 2.3 and a muon with pT > 15 GeV and |η| < 2.1 are used. For the τµτµ final state, events are requested to have two muons of pT > 19 GeV and pT > 10 GeV with |η| < 2.1. The momentum and η are taken for muons and electrons after final state radiation. Table 3 shows the acceptances and the selection efficiencies for the different final states considered. The number of extracted events from the fit, Nfit, is corrected for the fraction of signal events outside the generator-level mass window, fout, where N = Nfit·(1−fout) in eq. 7.1. The number of extracted events and correction factors used are also shown in table 3. 7 Cross section measurement – 9 – Visible Mass [GeV] 0 50 100 150 200 Events / (10 GeV) 0 50 100 150 data τ τ → Z t EWK+t QCD yields from fit CMS = 7 TeV s at -1 36 pb had τ µτ → τ τ → Z Visible Mass [GeV] 0 50 100 150 200 Events / (10 GeV) 0 50 100 150 data τ τ → Z t EWK+t QCD yields from fit CMS = 7 TeV s at -1 36 pb had τ eτ → τ τ → Z Invariant Mass [GeV] µ e- 0 50 100 150 200 Events / (10 GeV) 0 10 20 30 40 50 data τ τ → Z t EWK+t QCD yields from fit CMS = 7 TeV s at -1 36 pb µτ eτ → τ τ → Z Invariant Mass [GeV] µ - µ 0 50 100 150 200 Events / (10 GeV) 1 10 2 10 3 10 data τ τ → Z µ µ → * γ Z/ QCD yields from fit CMS = 7 TeV s at -1 36 pb µτ µτ → τ τ → Z Figure 3. Visible mass distributions of the τµτhad (top left), τeτhad (top right), τeτµ (bottom left), and τµτµ (bottom right) final states. 7 Cross section measurement Visible Mass [GeV] 0 50 100 150 200 Events / (10 GeV) 0 50 100 150 data τ τ → Z t EWK+t QCD yields from fit CMS = 7 TeV s at -1 36 pb had τ µτ → τ τ → Z Visible Mass [GeV] 0 50 100 150 200 Events / (10 GeV) 0 50 100 150 data τ τ → Z t EWK+t QCD yields from fit CMS = 7 TeV s at -1 36 pb had τ eτ → τ τ → Z Events / (10 GeV) 1 1 JHEP08(2011)117 [ ] Invariant Mass [GeV] µ - µ 0 50 100 150 200 Events / (10 GeV) 1 10 2 10 3 10 data τ τ → Z µ µ → * γ Z/ QCD yields from fit CMS = 7 TeV s at -1 36 pb µτ µτ → τ τ → Z Invariant Mass [GeV] µ e- 0 50 100 150 200 Events / (10 GeV) 0 10 20 30 40 50 data τ τ → Z t EWK+t QCD yields from fit CMS = 7 TeV s at -1 36 pb µτ eτ → τ τ → Z Events / (10 GeV) Events / (10 GeV) Figure 3. Visible mass distributions of the τµτhad (top left), τeτhad (top right), τeτµ (bottom left), and τµτµ (bottom right) final states. The measured values of the cross section from the four final states considered are shown in table 4, where the uncertainties shown are due to statistical, systematic, integrated luminosity and τ identification uncertainties. The measured values are compatible with each other and with the NNLO theoretical prediction, obtained with the program FEWZ and the MSTW08 set of PDFs, 0.972 ± 0.042 nb [30]. They are also consistent with the CMS measurement based on Z →e+e−, µ+µ−events [7]. The dominant uncertainty on the Z →τ +τ −cross section measurement comes from the τhad reconstruction and identification efficiency. A simultaneous fit to all four final states is performed to obtain the cross section and a scale factor for the τhad efficiency, which is the ratio of the efficiency in the data to that in the simulation. The result of the global fit is shown in figure 4 (left), where the likelihood contours for the best estimates – 10 – Final state σ (pp →ZX) × B (Z →τ +τ −) nb stat. syst. lumi. 7 Cross section measurement τhad −ID τµτhad 0.83 0.07 0.04 0.03 0.19 τeτhad 0.94 0.11 0.03 0.04 0.22 τeτµ 0.99 0.12 0.06 0.04 τµτµ 1.14 0.27 0.04 0.05 Table 4. The measured values of the cross section from the four final states considered. The statistical, systematic and luminosity uncertainties are given. The uncertainty associated to the τhad reconstruction and identification efficiency, τhad −ID, is shown separately. JHEP08(2011)117 -ID Efficiency (data/sim) had τ 0.6 0.8 1 1.2 1.4 ) [nb] τ τ → B(Z × ZX) → (pp σ 0.7 0.8 0.9 1 1.1 1.2 1.3 68% CL 95% CL central value σ 1 ± CMS = 7 TeV s at -1 36 pb ) [nb] τ τ → B(Z × ZX) → (pp σ 0.5 1 1.5 2 2.5 NNLO, FEWZ+MSTW08 [PDF4LHC 68% CL] (60-120 GeV) µ µ ee, → Z µτ + eτ µτ + µτ had τ + µτ had τ + eτ (combined) τ τ → Z luminosity uncertainty not shown CMS = 7 TeV s at -1 36 pb Figure 4. Likelihood contours for the joint parameter estimation of the cross section and the τ-identification (left). The fitted central values (solid line) and their estimated 1σ uncertainties (dashed lines) are also shown. Summary of the measured Z →τ +τ −cross sections in the τµτhad, τeτhad, τeτµ, and τµτµ final states, in the invariant mass range of 60 < Mτ +τ −< 120 GeV (right). The inner error bar represents the statistical uncertainty. The extracted cross section from the combined fit and the NNLO theoretical prediction are also shown. -ID Efficiency (data/sim) had τ 0.6 0.8 1 1.2 1.4 ) [nb] τ τ → B(Z × ZX) → (pp σ 0.7 0.8 0.9 1 1.1 1.2 1.3 68% CL 95% CL central value σ 1 ± CMS = 7 TeV s at -1 36 pb ) [nb] τ τ → B(Z × ZX) → (pp σ 0.5 1 1.5 2 2.5 NNLO, FEWZ+MSTW08 [PDF4LHC 68% CL] (60-120 GeV) µ µ ee, → Z µτ + eτ µτ + µτ had τ + µτ had τ + eτ (combined) τ τ → Z luminosity uncertainty not shown CMS = 7 TeV s at -1 36 pb Figure 4. Likelihood contours for the joint parameter estimation of the cross section and the τ-identification (left). The fitted central values (solid line) and their estimated 1σ uncertainties (dashed lines) are also shown. Acknowledgments We wish to congratulate our colleagues in the CERN accelerator departments for the excel- lent performance of the LHC machine. We thank the technical and administrative staffat CERN and other CMS institutes, and acknowledge support from: FMSR (Austria); FNRS and FWO (Belgium); CNPq, CAPES, FAPERJ, and FAPESP (Brazil); MES (Bulgaria); CERN; CAS, MoST, and NSFC (China); COLCIENCIAS (Colombia); MSES (Croatia); RPF (Cyprus); Academy of Sciences and NICPB (Estonia); Academy of Finland, ME, and HIP (Finland); CEA and CNRS/IN2P3 (France); BMBF, DFG, and HGF (Germany); GSRT (Greece); OTKA and NKTH (Hungary); DAE and DST (India); IPM (Iran); SFI (Ireland); INFN (Italy); NRF (Korea); LAS (Lithuania); CINVESTAV, CONACYT, SEP, and UASLP-FAI (Mexico); PAEC (Pakistan); SCSR (Poland); FCT (Portugal); JINR (Ar- menia, Belarus, Georgia, Ukraine, Uzbekistan); MST and MAE (Russia); MSTDS (Ser- bia); MICINN and CPAN (Spain); Swiss Funding Agencies (Switzerland); NSC (Taipei); TUBITAK and TAEK (Turkey); STFC (United Kingdom); DOE and NSF (USA). Open Access. This article is distributed under the terms of the Creative Commons Attribution Noncommercial License which permits any noncommercial use, distribution, and reproduction in any medium, provided the original author(s) and source are credited. 7 Cross section measurement Summary of the measured Z →τ +τ −cross sections in the τµτhad, τeτhad, τeτµ, and τµτµ final states, in the invariant mass range of 60 < Mτ +τ −< 120 GeV (right). The inner error bar represents the statistical uncertainty. The extracted cross section from the combined fit and the NNLO theoretical prediction are also shown. of the cross section and the τhad efficiency scale factor are shown. In addition to the one- standard-deviation contour, the contours for which the likelihood L is reduced by 2∆ln L = 2.30 and 6.18 compared to the maximum value are also shown, corresponding to a coverage of 68% and 95% in the two-parameter plane, respectively. The value of the cross section extracted from the fit is σ (pp →ZX) × B Z →τ +τ − = 1.00 ± 0.05 (stat.) ± 0.08 (syst.) ± 0.04 (lumi.) nb, which is compared to the individual final state measurements in figure 4 (right). The value for the cross section is dominated by the dilepton final states which have smaller systematic uncertainties. In the simultaneous fit, the τhad-ID scale factor is measured to be 0.93±0.09. A more precise value of the hadronic tau reconstruction efficiency can be obtained by performing a fit of the τµτhad and τeτhad final states, where the cross section is fixed to the value measured by CMS in the electron and muon decay channels, σ (pp →ZX) × B (Z →e+e−, µ+µ−) = 0.931 ± 0.026 (stat.) ± 0.023 (syst.) ± 0.102 (lumi.) nb [7]. The – 11 – extracted value of the τhad-ID scale factor is 0.96 ± 0.07, which corresponds to a tau identification efficiency of (47.4 ± 3.3)% in data, for hadronically decaying tau leptons in the Z →τ +τ −sample with visible pT > 20 GeV within the detector acceptance. 8 Conclusions A measurement of the cross section for the process pp →ZX with Z →τ +τ −has been performed, based on the τµτhad, τeτhad, τeτµ, and τµτµ final states. A clear signal is es- tablished in the visible mass distributions for all channels. The measured cross section, σ (pp →ZX) × B (Z →τ +τ −) = 1.00 ± 0.05 (stat.) ± 0.08 (syst.) ± 0.04 (lumi.) nb, is con- sistent with theoretical expectations, and the CMS measurements in the Z →e+e−and µ+µ−decay channels, made with lower integrated luminosity. A global fit of the τµτhad and τeτhad channels provides a 7% constraint on the efficiency for reconstructing hadronic tau decays in CMS. The results presented in this paper constitute the first measurement of the Z production cross section with the full luminosity collected by CMS in 2010. JHEP08(2011)117 [1] J. Gunion et al., The Higgs hunter’s guide, Westview Press, U.S.A. (2000). [3] CMS collaboration, G.L. Bayatian et al., CMS technical design report, volume II: Physics performance, J. Phys. G 34 (2007) 995 [SPIRES]. [2] CMS collaboration, Search for neutral MSSM Higgs bosons decaying to tau pairs in pp collisions at √s = 7 TeV, submitted to Phys. Rev. Lett., CMS-PAS-HIG-10-002 (2011). [1] J. Gunion et al., The Higgs hunter’s guide, Westview Press, U.S.A. (2000). [2] CMS collaboration, Search for neutral MSSM Higgs bosons decaying to tau pairs in pp collisions at √s = 7 TeV, submitted to Phys. Rev. Lett., CMS-PAS-HIG-10-002 (2011). [3] CMS collaboration, G.L. Bayatian et al., CMS technical design report, volume II: Physics performance, J. Phys. G 34 (2007) 995 [SPIRES]. References [3] CMS collaboration, G.L. Bayatian et al., CMS technical design report, volume II: Physics performance, J. Phys. G 34 (2007) 995 [SPIRES]. – 12 – [4] CDF collaboration, A. Abulencia et al., Measurement of sigma p¯p →ZBr(Z →2τ) in p¯p collisions at √s = 1.96 TeV, Phys. Rev. D 75 (2007) 092004 [SPIRES]. [5] D0 collaboration, V.M. Abazov et al., Measurement of σ(p¯p →Z + X)Br(Z →τ +τ −) at √s = 1.96 TeV, Phys. Lett. B 670 (2009) 292 [arXiv:0808.1306] [SPIRES]. [6] ATLAS collaboration, G. Aad et al., Measurement of the W →lν and Z/γ∗→ll production cross sections in proton-proton collisions at √s = 7 TeV with the ATLAS detector, JHEP 12 (2010) 060 [arXiv:1010.2130] [SPIRES]. [7] CMS collaboration, V. Khachatryan et al., Measurements of inclusive W and Z cross sections in pp collisions at √s = 7 TeV, JHEP 01 (2011) 080 [arXiv:1012.2466] [SPIRES]. JHEP08(2011)117 JHEP08(2011)117 [8] CMS collaboration, CMS strategies for tau reconstruction and identification using particle-flow techniques, CMS Physics Analysis Summary, CMS-PAS-PFT-08-001 (2008). [9] CMS collaboration, Particle-flow event reconstruction in CMS and performance for jets, taus, and E/T , CMS Physics Analysis Summary, CMS-PAS-PFT-09-001 (2009). [10] CMS collaboration, Performance of tau reconstruction algorithms in 2010 data collected with CMS, CMS Physics Analysis Summary, CMS-PAS-TAU-11-001 (2011). [11] CMS collaboration, S. Chatrchyan et al., The CMS experiment at the CERN LHC, 2008 JINST 3 S08004 [SPIRES]. [12] CMS collaboration, Performance of muon identification in pp collisions at √s = 7 TeV, CMS Physics Analysis Summary, CMS-PAS-MUO-10-002 (2010). [13] CMS collaboration, Electron reconstruction and identification at √s = 7 TeV, CMS Physics Analysis Summary, CMS-PAS-EGM-10-004 (2010). [14] M. Cacciari, G.P. Salam and G. Soyez, The anti-kt jet clustering algorithm, JHEP 04 (2008) 063 [arXiv:0802.1189] [SPIRES]. [15] CMS collaboration, CMS high level trigger, LHCC Report, CERN-LHCC-2007-021 (2007). [16] CMS collaboration, Tracking and primary vertex results in first 7 TeV collisions, CMS Physics Analysis Summary, CMS-PAS-TRK-10-005 (2010). [17] T. Sj¨ostrand, S. Mrenna and P.Z. Skands, PYTHIA 6.4 physics and manual, JHEP 05 (2006) 026 [hep-ph/0603175] [SPIRES]. [18] S. Alioli, P. Nason, C. Oleari and E. Re, NLO vector-boson production matched with shower in POWHEG, JHEP 07 (2008) 060 [arXiv:0805.4802] [SPIRES]. [19] P. Nason, A new method for combining NLO QCD with shower Monte Carlo algorithms, JHEP 11 (2004) 040 [hep-ph/0409146] [SPIRES]. [20] S. Frixione, P. Nason and C. [23] R. Field, Early LHC underlying event data-findings and surprises, arXiv:1010.3558 [SPIRES]. References Oleari, Matching NLO QCD computations with parton shower simulations: the POWHEG method, JHEP 11 (2007) 070 [arXiv:0709.2092] [SPIRES]. [21] F. Maltoni and T. Stelzer, MadEvent: automatic event generation with MadGraph, JHEP 02 (2003) 027 [hep-ph/0208156] [SPIRES]. [22] S. Jadach, Z. Was, R. Decker and J.H. Kuhn, The tau decay library TAUOLA: version 2.4, Comput. Phys. Commun. 76 (1993) 361 [SPIRES]. [23] R. Field, Early LHC underlying event data-findings and surprises, arXiv:1010.3558 [SPIRES]. – 13 – [24] CMS collaboration, Absolute luminosity normalization, CMS Detector Performance Summary, CMS-DPS-2011-002 (2008). [25] M. Guzzi et al., CT10 parton distributions and other developments in the global QCD analysis, arXiv:1101.0561 [SPIRES]. [26] A.D. Martin, W.J. Stirling, R.S. Thorne and G. Watt, Parton distributions for the LHC, Eur. Phys. J. C 63 (2009) 189 [arXiv:0901.0002] [SPIRES]. [27] R.D. Ball et al., A first unbiased global NLO determination of parton distributions and their uncertainties, Nucl. Phys. B 838 (2010) 136 [arXiv:1002.4407] [SPIRES]. [28] PDF4LHC Working Group, http://www.hep.ucl.ac.uk/pdf4lhc/PDF4LHCrecom.pdf. JHEP08(2011)117 [29] Particle Data Group collaboration, K. Nakamura et al., Review of particle physics, J. Phys. G 37 (2010) 075021 [SPIRES]. [29] Particle Data Group collaboration, K. Nakamura et al., Review of particle physics, J. Phys. G 37 (2010) 075021 [SPIRES]. [30] K. Melnikov and F. Petriello, Electroweak gauge boson production at hadron colliders through O(α2 s), Phys. Rev. D 74 (2006) 114017 [hep-ph/0609070] [SPIRES]. [30] K. Melnikov and F. Petriello, Electroweak gauge boson production at hadron colliders through O(α2 s), Phys. Rev. D 74 (2006) 114017 [hep-ph/0609070] [SPIRES]. – 14 – Vrije Universiteit Brussel, Brussel, Belgium F. Blekman, S. Blyweert, J. D’Hondt, O. Devroede, R. Gonzalez Suarez, A. Kalogeropoulos, J. Maes, M. Maes, W. Van Doninck, P. Van Mulders, G.P. Van Onsem, I. Villella Universit´e Libre de Bruxelles, Bruxelles, Belgium Universit´e Libre de Bruxelles, Bruxelles, Belgium O. Charaf, B. Clerbaux, G. De Lentdecker, V. Dero, A.P.R. Gay, G.H. Hammad, T. Hreus, P.E. Marage, L. Thomas, C. Vander Velde, P. Vanlaer Ghent University, Ghent, Belgium Universiteit Antwerpen, Antwerpen, Belgium L. Benucci, E.A. De Wolf, X. Janssen, T. Maes, L. Mucibello, S. Ochesanu, B. Rolan L. Benucci, E.A. De Wolf, X. Janssen, T. Maes, L. Mucibello, S. Ochesanu, B. Roland, R. Rougny, M. Selvaggi, H. Van Haevermaet, P. Van Mechelen, N. Van Remortel R. Rougny, M. Selvaggi, H. Van Haevermaet, P. Van Mechelen, N. Van Remortel Vrije Universiteit Brussel, Brussel, Belgium The CMS collaboration Yerevan Physics Institute, Yerevan, Armenia S. Chatrchyan, V. Khachatryan, A.M. Sirunyan, A. Tumasyan Yerevan Physics Institute, Yerevan, Armenia S. Chatrchyan, V. Khachatryan, A.M. Sirunyan, A. Tumasyan S. Chatrchyan, V. Khachatryan, A.M. Sirunyan, A. Tumasyan Institut f¨ur Hochenergiephysik der OeAW, Wien, Austria W. Adam, T. Bergauer, M. Dragicevic, J. Er¨o, C. Fabjan, M. Friedl, R. Fr¨uhwirth, V.M. Ghete, J. Hammer1, S. H¨ansel, M. Hoch, N. H¨ormann, J. Hrubec, M. Jeitler, G. Kasieczka, W. Kiesenhofer, M. Krammer, D. Liko, I. Mikulec, M. Pernicka, H. Rohringer, R. Sch¨ofbeck, J. Strauss, F. Teischinger, P. Wagner, W. Waltenberger, G. Walzel, E. Widl, C.-E. Wulz JHEP08(2011)117 National Centre for Particle and High Energy Physics, Minsk, Belarus V. Mossolov, N. Shumeiko, J. Suarez Gonzalez National Centre for Particle and High Energy Physics, Minsk, Belarus V. Mossolov, N. Shumeiko, J. Suarez Gonzalez V. Mossolov, N. Shumeiko, J. Suarez Gonzalez Universiteit Antwerpen, Antwerpen, Belgium Ghent University, Ghent, Belgium V. Adler, A. Cimmino, S. Costantini, M. Grunewald, B. Klein, J. Lellouch, A. Marinov, J. Mccartin, D. Ryckbosch, F. Thyssen, M. Tytgat, L. Vanelderen, P. Verwilligen, S. Walsh, N. Zaganidis Universit´e Catholique de Louvain, Louvain-la-Neuve, Belgium S. Basegmez, G. Bruno, J. Caudron, L. Ceard, E. Cortina Gil, J. De Favereau De Jeneret, C. Delaere1, D. Favart, A. Giammanco, G. Gr´egoire, J. Hollar, V. Lemaitre, J. Liao, O. Militaru, S. Ovyn, D. Pagano, A. Pin, K. Piotrzkowski, N. Schul Universit´e de Mons, Mons, Belgium N. Beliy, T. Caebergs, E. Daubie Universit´e de Mons, Mons, Belgium N. Beliy, T. Caebergs, E. Daubie N. Beliy, T. Caebergs, E. Daubie Centro Brasileiro de Pesquisas Fisicas, Rio de Janeiro, Brazil G.A. Alves, D. De Jesus Damiao, M.E. Pol, M.H.G. Souza Universidade do Estado do Rio de Janeiro, Rio de Janeiro, Brazil W. Carvalho, E.M. Da Costa, C. De Oliveira Martins, S. Fonseca De Souza, L. Mundim, H. Nogima, V. Oguri, W.L. Prado Da Silva, A. Santoro, S.M. Silva Do Amaral, A. Sznajder, F. Torres Da Silva De Araujo – 15 – Instituto de Fisica Teorica, Universidade Estadual Paulista, Sao Paulo, Brazil F.A. Dias, T.R. Fernandez Perez Tomei, E. M. Gregores2, C. Lagana, F. Marinho, P.G. Mercadante2, S.F. Novaes, Sandra S. Padula Institute for Nuclear Research and Nuclear Energy, Sofia, Bulgaria Institute for Nuclear Research and Nuclear Energy, Sofia, Bulgaria N. Darmenov1, L. Dimitrov, V. Genchev1, P. Iaydjiev1, S. Piperov, M. Rodozov, S. Stoykova, G. Sultanov, V. Tcholakov, R. Trayanov, I. Vankov N. Darmenov1, L. Dimitrov, V. Genchev1, P. Iaydjiev1, S. Piperov, M. Rodozo S. Stoykova, G. Sultanov, V. Tcholakov, R. Trayanov, I. Vankov University of Sofia, Sofia, Bulgaria University of Sofia, Sofia, Bulgaria A. Dimitrov, R. Hadjiiska, A. Karadzhinova, V. Kozhuharov, L. Litov, M. Mateev, B. Pavlov, P. Petkov JHEP08(2011)117 Institute of High Energy Physics, Beijing, China J.G. Bian, G.M. Chen, H.S. Chen, C.H. Jiang, D. Liang, S. Liang, X. Meng, J. Tao, J. Wang, J. Wang, X. Wang, Z. Wang, H. Xiao, M. Xu, J. Zang, Z. Zhang State Key Lab. of Nucl. Phys. and Tech., Peking University, Beijing, China Y. Ban, S. Guo, Y. Guo, W. Li, Y. Mao, S.J. Qian, H. Teng, L. Zhang, B. Zhu, W. Zou Universidad de Los Andes, Bogota, Colombia Universidad de Los Andes, Bogota, Colombia Universidad de Los Andes, Bogota, Colombia A. Cabrera, B. Gomez Moreno, A.A. Ocampo Rios, A.F. Osorio Oliveros, J.C. Sanabria A. Cabrera, B. Gomez Moreno, A.A. Ocampo Rios, A.F. Osorio Oliveros, J.C. Sanabria Technical University of Split, Split, Croatia N. Godinovic, D. Lelas, K. Lelas, R. Plestina3, D. Polic, I. Puljak y p , p , N. Godinovic, D. Lelas, K. Lelas, R. Plestina3, D. Polic, I. Puljak University of Split, Split, Croatia Z. Antunovic, M. Dzelalija University of Split, Split, Croatia Z. Antunovic, M. Dzelalija University of Cyprus, Nicosia, Cyprus A. Attikis, M. Galanti, J. Mousa, C. Nicolaou, F. Ptochos, P.A. Razis Charles University, Prague, Czech Republic M. Finger, M. Finger Jr. Academy of Scientific Research and Technology of the Arab Republic of Egypt, Egyptian Network of High Energy Physics, Cairo, Egypt Y. Assran4, S. Khalil5, M.A. Mahmoud6 National Institute of Chemical Physics and Biophysics, Tallinn, Estonia A. Hektor, M. Kadastik, M. M¨untel, M. Raidal, L. Rebane Department of Physics, University of Helsinki, Helsinki, Finland V. Azzolini, P. Eerola, G. Fedi Helsinki Institute of Physics, Helsinki, Finland Helsinki Institute of Physics, Helsinki, Finland S. Czellar, J. H¨ark¨onen, A. Heikkinen, V. Karim¨aki, R. Kinnunen, M.J. Kortelainen, T. Lamp´en, K. Lassila-Perini, S. Lehti, T. Lind´en, P. Luukka, T. M¨aenp¨a¨a, E. Tuominen, J. Tuominiemi, E. Tuovinen, D. Ungaro, L. Wendland Helsinki Institute of Physics, Helsinki, Finland S. Czellar, J. H¨ark¨onen, A. Heikkinen, V. Karim¨aki, R. Kinnunen, M.J. Kortelainen, T. Lamp´en, K. Lassila-Perini, S. Lehti, T. Lind´en, P. Luukka, T. M¨aenp¨a¨a, E. Tuominen, J Tuominiemi E Tuovinen D Ungaro L Wendland Helsinki Institute of Physics, Helsinki, Finland S. Czellar, J. H¨ark¨onen, A. Heikkinen, V. Karim¨aki, R. Kinnunen, M.J. Kortelainen, T L ´ K L il P i i S L hti T Li d´ P L kk T M¨ ¨¨ E T i S. Czellar, J. Harkonen, A. Heikkinen, V. Karimaki, R. Kinnunen, M.J. Kortelainen, T. Lamp´en, K. Lassila-Perini, S. Lehti, T. Lind´en, P. Luukka, T. M¨aenp¨a¨a, E. Tuominen, J. Tuominiemi, E. Tuovinen, D. Ungaro, L. Wendland J. Tuominiemi, E. Tuovinen, D. Ungaro, L. Wendland – 16 – Lappeenranta University of Technology, Lappeenranta, Finland K. Banzuzi, A. Korpela, T. Tuuva DSM/IRFU, CEA/Saclay, Gif-sur-Yvette, France DSM/IRFU, CEA/Saclay, Gif-sur-Yvette, France M. Besancon, S. Choudhury, M. Dejardin, D. Denegri, B. Fabbro, J.L. Faure, F. Ferri, S. Ganjour, F.X. Gentit, A. Givernaud, P. Gras, G. Hamel de Monchenault, P. Jarry, E. Locci, J. Malcles, M. Marionneau, L. Millischer, J. Rander, A. Rosowsky, I. Shreyber, M. Titov, P. Verrecchia JHEP08(2011)117 Laboratoire Leprince-Ringuet, Ecole Polytechnique, IN2P3-CNRS, Palaiseau, France Lappeenranta University of Technology, Lappeenranta, Finland Laboratoire d’Annecy-le-Vieux de Physique des Particules, IN2P3-CNRS, Annecy-le-Vieux, France D. Sillou France S. Baffioni, F. Beaudette, L. Benhabib, L. Bianchini, M. Bluj7, C. Broutin, P. Busson, C. Charlot, T. Dahms, L. Dobrzynski, S. Elgammal, R. Granier de Cassagnac, M. Hague- nauer, P. Min´e, C. Mironov, C. Ochando, P. Paganini, D. Sabes, R. Salerno, Y. Sirois, C. Thiebaux, B. Wyslouch8, A. Zabi Institut Pluridisciplinaire Hubert Curien, Universit´e de Strasbourg, Univer- sit´e de Haute Alsace Mulhouse, CNRS/IN2P3, Strasbourg, France J.-L. Agram9, J. Andrea, D. Bloch, D. Bodin, J.-M. Brom, M. Cardaci, E.C. Chabert, C. Collard, E. Conte9, F. Drouhin9, C. Ferro, J.-C. Fontaine9, D. Gel´e, U. Goerlach, S. Greder, P. Juillot, M. Karim9, A.-C. Le Bihan, Y. Mikami, P. Van Hove Centre de Calcul de l’Institut National de Physique Nucleaire et de Physique des Particules (IN2P3), Villeurbanne, France F Fassi D Mercier Centre de Calcul de l’Institut National de Physique Nucleaire et de Physique des Particules (IN2P3), Villeurbanne, France F. Fassi, D. Mercier F. Fassi, D. Mercier Universit´e de Lyon, Universit´e Claude Bernard Lyon 1, CNRS-IN2P3, Institut de Physique Nucl´eaire de Lyon, Villeurbanne, France C. Baty, S. Beauceron, N. Beaupere, M. Bedjidian, O. Bondu, G. Boudoul, D. Boumediene, H. Brun, R. Chierici, D. Contardo, P. Depasse, H. El Mamouni, J. Fay, S. Gascon, B. Ille, T. Kurca, T. Le Grand, M. Lethuillier, L. Mirabito, S. Perries, V. Sordini, S. Tosi, Y. Tschudi, P. Verdier Institute of High Energy Physics and Informatization, Tbilisi State University, Tbilisi, Georgia D. Lomidze Institute of High Energy Physics and Informatization, Tbilisi State University, Tbilisi, Georgia D. Lomidze D. Lomidze RWTH Aachen University, I. Physikalisches Institut, Aachen, Germany RWTH Aachen University, I. Physikalisches Institut, Aachen, Germany G. Anagnostou, M. Edelhoff, L. Feld, N. Heracleous, O. Hindrichs, R. Jussen, K. Klein, J. Merz, N. Mohr, A. Ostapchuk, A. Perieanu, F. Raupach, J. Sammet, S. Schael, D. Sprenger, H. Weber, M. Weber, B. Wittmer – 17 – RWTH Aachen University, III. Physikalisches Institut A, Aachen, Germany M. Ata, W. Bender, E. Dietz-Laursonn, M. Erdmann, J. Frangenheim, T. Hebbeker, A. Hinzmann, K. Hoepfner, T. Klimkovich, D. Klingebiel, P. Kreuzer, D. Lanske†, C. Magass, M. Merschmeyer, A. Meyer, P. Papacz, H. Pieta, H. Reithler, S.A. Schmitz, L. Sonnenschein, J. Steggemann, D. Teyssier, M. Tonutti RWTH Aachen University, III. Physikalisches Institut B, Aachen, Germany M. Bontenackels, M. Davids, M. Duda, G. Fl¨ugge, H. Geenen, M. Giffels, W. Haj Ahmad, D. Heydhausen, T. Kress, Y. Kuessel, A. Linn, A. Nowack, L. Perchalla, O. Pooth, J. France Rennefeld, P. Sauerland, A. Stahl, M. Thomas, D. Tornier, M.H. Zoeller JHEP08(2011)117 Deutsches Elektronen-Synchrotron, Hamburg, Germany M. Aldaya Martin, W. Behrenhoff, U. Behrens, M. Bergholz10, A. Bethani, K. Borras, A. Cakir, A. Campbell, E. Castro, D. Dammann, G. Eckerlin, D. Eckstein, A. Floss- dorf, G. Flucke, A. Geiser, J. Hauk, H. Jung1, M. Kasemann, I. Katkov11, P. Katsas, C. Kleinwort, H. Kluge, A. Knutsson, M. Kr¨amer, D. Kr¨ucker, E. Kuznetsova, W. Lange, W. Lohmann10, R. Mankel, M. Marienfeld, I.-A. Melzer-Pellmann, A.B. Meyer, J. Mnich, A. Mussgiller, J. Olzem, D. Pitzl, A. Raspereza, A. Raval, M. Rosin, R. Schmidt10, T. Schoerner-Sadenius, N. Sen, A. Spiridonov, M. Stein, J. Tomaszewska, R. Walsh, C. Wissing University of Hamburg, Hamburg, Germany University of Hamburg, Hamburg, Germany C. Autermann, V. Blobel, S. Bobrovskyi, J. Draeger, H. Enderle, U. Gebbert, K. Kaschube, G. Kaussen, R. Klanner, J. Lange, B. Mura, S. Naumann-Emme, F. Nowak, N. Pietsch, C. Sander, H. Schettler, P. Schleper, M. Schr¨oder, T. Schum, J. Schwandt, H. Stadie, G. Steinbr¨uck, J. Thomsen G. Kaussen, R. Klanner, J. Lange, B. Mura, S. Naumann-Emme, F. Nowak, N. Pietsch, C. Sander, H. Schettler, P. Schleper, M. Schr¨oder, T. Schum, J. Schwandt, H. Stadie, G Steinbr¨uck J Thomsen C. Sander, H. Schettler, P. Schleper, M. Schr¨oder, T. Schum, J. Schwandt, H. Stadie, G St i b ¨ k J Th Institut f¨ur Experimentelle Kernphysik, Karlsruhe, Germany University of Delhi, Delhi, India S. Ahuja, S. Bhattacharya, B.C. Choudhary, P. Gupta, S. Jain, S. Jain, A. Kumar, K. Ranjan, R.K. Shivpuri Bhabha Atomic Research Centre, Mumbai, India R.K. Choudhury, D. Dutta, S. Kailas, V. Kumar, A.K. Mohanty1, L.M. Pant, P. Shukla R.K. Choudhury, D. Dutta, S. Kailas, V. Kumar, A.K. Mohanty1, L.M. Pant, P. Shukla Tata Institute of Fundamental Research - EHEP, Mumbai, India T. Aziz, M. Guchait14, A. Gurtu, M. Maity15, D. Majumder, G. Majumder, K. Mazumdar, G.B. Mohanty, A. Saha, K. Sudhakar, N. Wickramage Tata Institute of Fundamental Research - HECR, Mumbai, India S. Banerjee, S. Dugad, N.K. Mondal Institute for Research and Fundamental Sciences (IPM), Tehran, Iran Institut f¨ur Experimentelle Kernphysik, Karlsruhe, Germany Institut fur Experimentelle Kernphysik, Karlsruhe, Germany C. Barth, J. Bauer, V. Buege, T. Chwalek, W. De Boer, A. Dierlamm, G. Dirkes, M. Feindt, J. Gruschke, C. Hackstein, F. Hartmann, M. Heinrich, H. Held, K.H. Hoffmann, S. Honc, J.R. Komaragiri, T. Kuhr, D. Martschei, S. Mueller, Th. M¨uller, M. Niegel, O. Oberst, A. Oehler, J. Ott, T. Peiffer, D. Piparo, G. Quast, K. Rabbertz, F. Ratnikov, N. Ratnikova, M. Renz, C. Saout, A. Scheurer, P. Schieferdecker, F.-P. Schilling, M. Schmanau, G. Schott, H.J. Simonis, F.M. Stober, D. Troendle, J. Wagner-Kuhr, T. Weiler, M. Zeise, V. Zhukov11, E.B. Ziebarth Institute of Nuclear Physics ”Demokritos”, Aghia Paraskevi, Greece G. Daskalakis, T. Geralis, K. Karafasoulis, S. Kesisoglou, A. Kyriakis, D. Loukas, I. Manolakos, A. Markou, C. Markou, C. Mavrommatis, E. Ntomari, E. Petrakou University of Athens, Athens, Greece L. Gouskos, T.J. Mertzimekis, A. Panagiotou, E. Stiliaris University of Io´annina Io´annina Greece Institute of Nuclear Physics ”Demokritos”, Aghia Paraskevi, Greece G. Daskalakis, T. Geralis, K. Karafasoulis, S. Kesisoglou, A. Kyriakis, D. Loukas, I. Manolakos, A. Markou, C. Markou, C. Mavrommatis, E. Ntomari, E. Petrakou University of Athens Athens Greece University of Athens, Athens, Greece University of Athens, Athens, Greece L. Gouskos, T.J. Mertzimekis, A. Panagiotou, E. Stiliaris L. Gouskos, T.J. Mertzimekis, A. Panagiotou, E. Stiliaris University of Io´annina, Io´annina, Greece y , , I. Evangelou, C. Foudas, P. Kokkas, N. Manthos, I. Papadopoulos, V. Patras, F.A. Triantis I. Evangelou, C. Foudas, P. Kokkas, N. Manthos, I. Papadopoulos, V. Patras, F.A. Triantis – 18 – KFKI Research Institute for Particle and Nuclear Physics, Budapest, Hungary A. Aranyi, G. Bencze, L. Boldizsar, C. Hajdu1, P. Hidas, D. Horvath12, A. Kapusi, K. Krajczar13, F. Sikler1, G.I. Veres13, G. Vesztergombi13 Institute of Nuclear Research ATOMKI, Debrecen, Hungary N. Beni, J. Molnar, J. Palinkas, Z. Szillasi, V. Veszpremi University of Debrecen, Debrecen, Hungary P. Raics, Z.L. Trocsanyi, B. Ujvari Panjab University, Chandigarh, India S. Bansal, S.B. Beri, V. Bhatnagar, N. Dhingra, R. Gupta, M. Jindal, M. Kaur, J.M. Kohli, M.Z. Mehta, N. Nishu, L.K. Saini, A. Sharma, A.P. Singh, J.B. Singh, S.P. Singh JHEP08(2011)117 M.Z. Mehta, N. Nishu, L.K. Saini, A. Sharma, A.P. Singh, J.B. Singh, S.P. Singh University of Delhi, Delhi, India INFN Sezione di Milano-Biccoca a, Universit`a di Milano-Bicocca b, Milano, Italy INFN Sezione di Milano-Biccoca a, Universit`a di Milano-Bicocca b, Milano, Italy JHEP08(2011)117 A. Benagliaa,b, F. De Guioa,b,1, L. Di Matteoa,b, A. Ghezzia,b, S. Malvezzia, A. Martellia,b, A. Massironia,b, D. Menascea, L. Moronia, M. Paganonia,b, D. Pedrinia, S. Ragazzia,b, N. Redaellia, S. Salaa, T. Tabarelli de Fatisa,b, V. Tancinia,b A. Massironia,b, D. Menascea, L. Moronia, M. Paganonia,b, D. Pedrinia, S. Ragazzia , , , g , , g , N. Redaellia, S. Salaa, T. Tabarelli de Fatisa,b, V. Tancinia,b N. Redaellia, S. Salaa, T. Tabarelli de Fatisa,b, V. Tancinia,b INFN Sezione di Napoli a, Universit`a di Napoli ”Federico II” b, Napoli, Italy S. Buontempoa, C.A. Carrillo Montoyaa,1, N. Cavalloa,20, A. De Cosaa,b, F. Fabozzia,20, A.O.M. Iorioa,1, L. Listaa, M. Merolaa,b, P. Paoluccia INFN Sezione di Padova a, Universit`a di Padova b, Universit`a di Trento (Trento) c, Padova, Italy P. Azzia, N. Bacchettaa, P. Bellana,b, A. Brancaa, R. Carlina,b, P. Checchiaa, M. De Mattiaa,b, T. Dorigoa, U. Dossellia, F. Gasparinia,b, U. Gasparinia,b, A. Kaminskiya,b,11, , , , , , , Mattiaa,b, T. Dorigoa, U. Dossellia, F. Gasparinia,b, U. Gasparinia,b, A. Kaminskiya,b,1 S. Lacapraraa,21, I. Lazzizzeraa,c, M. Margonia,b, M. Mazzucatoa, A.T. Meneguzzoa M. Nespoloa,1, M. Passaseoa, L. Perrozzia,1, N. Pozzobona,b, P. Ronchesea,b, F. Simonettoa,b, E. Torassaa, M. Tosia,b, S. Vaninia,b, S. Venturaa, P. Zottoa,b M. Nespoloa,1, M. Passaseoa, L. Perrozzia,1, N. Pozzobona,b, P. Ronchesea,b, F Simonettoa,b E Torassaa M Tosia,b S Vaninia,b S Venturaa P Zottoa,b F. Simonettoa,b, E. Torassaa, M. Tosia,b, S. Vaninia,b, S. Venturaa, P. Zottoa,b INFN Sezione di Pavia a, Universit`a di Pavia b, Pavia, Italy INFN Sezione di Pavia a, Universita di Pavia b, Pavia, Italy P. Baessoa,b, U. Berzanoa, S.P. Rattia,b, C. Riccardia,b, P. Torrea,b, P. Vituloa,b, C. Viviania,b P. Baessoa,b, U. Berzanoa, S.P. Rattia,b, C. Riccardia,b, P. Torrea,b, P. Vituloa,b, C. Viviania,b INFN Sezione di Perugia a, Universit`a di Perugia b, Perugia, Italy INFN Sezione di Perugia a, Universit`a di Perugia b, Perugia, Italy M. Biasinia,b, G.M. Bileia, B. Caponeria,b, L. Fan`oa,b, P. Laricciaa,b, A. Lucaronia,b,1, G Mantovania,b M Menichellia A Nappia,b F Romeoa,b A Santocchiaa,b S Taronia,b,1 INFN Sezione di Perugia a, Universit`a di Perugia b, Perugia, Italy M. Biasinia,b, G.M. Bileia, B. Caponeria,b, L. Fan`oa,b, P. Laricciaa,b, A. Lucaronia,b,1, G. Mantovania,b, M. Menichellia, A. Nappia,b, F. Romeoa,b, A. Santocchiaa,b, S. Taronia,b,1, M. Valdataa,b INFN Sezione di Perugia a, Universita di Perugia b, Perugia, Italy M. Biasinia,b, G.M. Bileia, B. Caponeria,b, L. Fan`oa,b, P. Laricciaa,b, A. stitute for Research and Fundamental Sciences (IPM), Tehran, Iran H. Arfaei, H. Bakhshiansohi16, S.M. Etesami, A. Fahim16, M. Hashemi, A. Jafari16, M. Khakzad, A. Mohammadi17, M. Mohammadi Najafabadi, S. Paktinat Mehdiabadi, B. Safarzadeh, M. Zeinali18 H. Arfaei, H. Bakhshiansohi16, S.M. Etesami, A. Fahim16, M. Hashemi, A. Jafari 17 INFN Sezione di Bari a, Universit`a di Bari b, Politecnico di Bari c, Bari, Italy M. Abbresciaa,b, L. Barbonea,b, C. Calabriaa,b, A. Colaleoa, D. Creanzaa,c, N. De Filippisa,c,1, M. De Palmaa,b, L. Fiorea, G. Iasellia,c, L. Lusitoa,b, G. Maggia,c, M. Maggia, N. Mannaa,b, B. Marangellia,b, S. Mya,c, S. Nuzzoa,b, N. Pacificoa,b, G.A. Pierroa, A. Pompilia,b, G. Pugliesea,c, F. Romanoa,c, G. Rosellia,b, G. Selvaggia,b, L. Silvestrisa, R. Trentaduea, S. Tupputia,b, G. Zitoa INFN Sezione di Bologna a, Universit`a di Bologna b, Bologna, Italy INFN Sezione di Bologna a, Universit`a di Bologna b, Bologna, Italy G. Abbiendia, A.C. Benvenutia, D. Bonacorsia, S. Braibant-Giacomellia,b, L. Brigliadoria, P. Capiluppia,b, A. Castroa,b, F.R. Cavalloa, M. Cuffiania,b, G.M. Dallavallea, F. Fabbria, A. Fanfania,b, D. Fasanellaa, P. Giacomellia, M. Giuntaa, C. Grandia, S. Marcellinia, G. Masetti, M. Meneghellia,b, A. Montanaria, F.L. Navarriaa,b, F. Odoricia, A. Perrottaa, F. Primaveraa, A.M. Rossia,b, T. Rovellia,b, G. Sirolia,b G. Abbiendia, A.C. Benvenutia, D. Bonacorsia, S. Braibant-Giacomellia,b, L. Brigliado P. Capiluppia,b, A. Castroa,b, F.R. Cavalloa, M. Cuffiania,b, G.M. Dallavallea, F. Fabbria, A. Fanfania,b, D. Fasanellaa, P. Giacomellia, M. Giuntaa, C. Grandia, S. Marcellinia, P. Capiluppia,b, A. Castroa,b, F.R. Cavalloa, M. Cuffiania,b, G.M. Dallavallea, F. Fabbr A. Fanfania,b, D. Fasanellaa, P. Giacomellia, M. Giuntaa, C. Grandia, S. Marcellin G. Masetti, M. Meneghellia,b, A. Montanaria, F.L. Navarriaa,b, F. Odoricia, A. Perrotta Masetti, M. Meneghellia,b, A. Montanaria, F.L. Navarriaa,b, F. Odoricia, A. Perrottaa, Primaveraa, A.M. Rossia,b, T. Rovellia,b, G. Sirolia,b F. Primaveraa, A.M. Rossia,b, T. Rovellia,b, G. Sirolia,b F. Primaveraa, A.M. Rossia,b, T. Rovellia,b, G. Sirolia,b INFN Sezione di Catania a, Universit`a di Catania b, Catania, Italy S. Albergoa,b, G. Cappelloa,b, M. Chiorbolia,b,1, S. Costaa,b, A. Tricomia,b, C. Tuvea – 19 – INFN Sezione di Firenze a, Universit`a di Firenze b, Firenze, Italy G. Barbaglia, V. Ciullia,b, C. Civininia, R. D’Alessandroa,b, E. Focardia,b, S. Frosalia,b, E. Galloa, S. Gonzia,b, P. Lenzia,b, M. Meschinia, S. Paolettia, G. Sguazzonia, A. Tropianoa,1 INFN Laboratori Nazionali di Frascati, Frascati, Italy L. Benussi, S. Bianco, S. Colafranceschi19, F. Fabbri, D. Piccolo INFN Sezione di Genova, Genova, Italy P. Fabbricatore, R. Musenich INFN Sezione di Milano-Biccoca a, Universit`a di Milano-Bicocca b, Milano, Italy Lucaronia,b G. Mantovania,b, M. Menichellia, A. Nappia,b, F. Romeoa,b, A. Santocchiaa,b, S. Taronia,b,1, M. Valdataa,b M. Valdataa,b Kwangju, Korea Zero Kim, J.Y. Kim, S. Song Korea University, Seoul, Korea S. Choi, B. Hong, M.S. Jeong, M. Jo, H. Kim, J.H. Kim, T.J. Kim, K.S. Lee, D.H. Moon, S.K. Park, H.B. Rhee, E. Seo, S. Shin, K.S. Sim S.K. Park, H.B. Rhee, E. Seo, S. Shin, K.S. Sim University of Seoul, Seoul, Korea INFN Sezione di Pisa a, Universit`a di Pisa b, Scuola Normale Superiore di Pisa c, Pisa, Italy INFN Sezione di Pisa a, Universit`a di Pisa b, Scuola Normale Superiore di Pisa c, Pisa, Italy P A a c G B l a J B d a b B l a 1 G B l a c R C ld a INFN Sezione di Pisa , Universita di Pisa , Scuola Normale Superiore di Pisa c, Pisa, Italy P. Azzurria,c, G. Bagliesia, J. Bernardinia,b, T. Boccalia,1, G. Broccoloa,c, R. Castaldia, R.T. D’Agnoloa,c, R. Dell’Orsoa, F. Fioria,b, L. Fo`aa,c, A. Giassia, A. Kraana, F. Ligabuea,c, T. Lomtadzea, L. Martinia,22, A. Messineoa,b, F. Pallaa, G. Segneria, A.T. Serbana, P. Spagnoloa, R. Tenchinia, G. Tonellia,b,1, A. Venturia,1, P.G. Verdinia R.T. D’Agnoloa,c, R. Dell’Orsoa, F. Fioria,b, L. Fo`aa,c, A. Giassia, A. Kraana, F. Ligabuea,c, T. Lomtadzea, L. Martinia,22, A. Messineoa,b, F. Pallaa, G. Segneria, A.T. Serbana, P. Spagnoloa, R. Tenchinia, G. Tonellia,b,1, A. Venturia,1, P.G. Verdinia INFN Sezione di Roma a, Universit`a di Roma ”La Sapienza” b, Roma, Italy L. Baronea,b, F. Cavallaria, D. Del Rea,b, E. Di Marcoa,b, M. Diemoza, D. Francia,b, M. Grassia,1, E. Longoa,b, S. Nourbakhsha, G. Organtinia,b, F. Pandolfia,b,1, R. Paramattia, S. Rahatloua,b S. Rahatloua,b – 20 – INFN Sezione di Torino a, Universit`a di Torino b, Universit`a del Piemonte Orientale (Novara) c, Torino, Italy INFN Sezione di Torino a, Universit`a di Torino b, Universit`a del Piemonte Orientale (Novara) c, Torino, Italy N. Amapanea,b, R. Arcidiaconoa,c, S. Argiroa,b, M. Arneodoa,c, C. Biinoa, C. Bottaa,b,1, N. Amapanea,b, R. Arcidiaconoa,c, S. Argiroa,b, M. Arneodoa,c, C. Biinoa, C. Bottaa,b,1, N. Cartigliaa, R. Castelloa,b, M. Costaa,b, N. Demariaa, A. Grazianoa,b,1, C. Mariottia, b b b b b N. Cartigliaa, R. Castelloa,b, M. Costaa,b, N. Demariaa, A. Grazianoa,b,1, C. Mariotti N. Cartiglia , R. Castello , , M. Costa , , N. Demaria , A. Graziano , , , C. Mariotti , M. Maronea,b, S. Masellia, E. Migliorea,b, G. Milaa,b, V. Monacoa,b, M. Musicha,b, M.M. Obertinoa,c, N. Pastronea, M. Pelliccionia,b, A. Romeroa,b, M. Ruspaa,c, R. Sacchia,b, V. Solaa,b, A. Solanoa,b, A. Staianoa, A. Vilela Pereiraa,b M. Maronea,b, S. Masellia, E. Migliorea,b, G. Milaa,b, V. Monacoa,b, M. Musicha INFN Sezione di Trieste a, Universit`a di Trieste b, Trieste, Italy S. Belfortea, F. Cossuttia, G. Della Riccaa,b, B. Gobboa, D. Montaninoa,b, A. Penzoa JHEP08(2011)117 Kangwon National University, Chunchon, Korea S.G. Heo, S.K. Nam Kangwon National University, Chunchon, Korea S.G. Heo, S.K. Nam Kyungpook National University, Daegu, Korea S. Chang, J. Chung, D.H. Kim, G.N. Kim, J.E. Kim, D.J. Kong, H. Park, S.R. Ro, D. Son, D.C. Son, T. Son Chonnam National University, Institute for Universe and Elementary Particles, Kwangju, Korea Zero Kim, J.Y. Kim, S. Song University of Seoul, Seoul, Korea M. Choi, S. Kang, H. Kim, C. Park, I.C. Park, S. Park, G. Ryu Sungkyunkwan University, Suwon, Korea Y. Choi, Y.K. Choi, J. Goh, M.S. Kim, E. Kwon, J. Lee, S. Lee, H. Seo, I. Yu Sungkyunkwan University, Suwon, Korea g y y, , Y. Choi, Y.K. Choi, J. Goh, M.S. Kim, E. Kwon, J. Lee, S. Lee, H. Seo, I. Yu Vilnius University, Vilnius, Lithuania M.J. Bilinskas, I. Grigelionis, M. Janulis, D. Martisiute, P. Petrov, T. Sabonis Centro de Investigacion y de Estudios Avanzados del IPN, Mexico City, Mexico H. Castilla-Valdez, E. De La Cruz-Burelo, R. Lopez-Fernandez, R. Maga˜na Villalba, A. S´anchez-Hern´andez, L.M. Villasenor-Cendejas Universidad Iberoamericana, Mexico City, Mexico S. Carrillo Moreno, F. Vazquez Valencia Benemerita Universidad Autonoma de Puebla, Puebla, Mexico H.A. Salazar Ibarguen Universidad Aut´onoma de San Luis Potos´ı, San Luis Potos´ı, Mexico E. Casimiro Linares, A. Morelos Pineda, M.A. Reyes-Santos University of Auckland, Auckland, New Zealand D. Krofcheck, J. Tam – 21 – University of Canterbury, Christchurch, New Zealand P.H. Butler, R. Doesburg, H. Silverwood Portugal N. Almeida, P. Bargassa, A. David, P. Faccioli, P.G. Ferreira Parracho, M. Gallinar N. Almeida, P. Bargassa, A. David, P. Faccioli, P.G. Ferreira Parracho, M. Gallinaro, P. Musella, A. Nayak, P.Q. Ribeiro, J. Seixas, J. Varela P. Musella, A. Nayak, P.Q. Ribeiro, J. Seixas, J. Varela Joint Institute for Nuclear Research, Dubna, Russia Moscow State University, Moscow, Russia Moscow State University, Moscow, Russia Moscow State University, Moscow, Russia E. Boos, M. Dubinin23, L. Dudko, A. Ershov, A. Gribushin, O. Kodolova, I. Lokhtin, A. Markina, S. Obraztsov, M. Perfilov, S. Petrushanko, L. Sarycheva, V. Savrin, A. Snigirev E. Boos, M. Dubinin23, L. Dudko, A. Ershov, A. Gribushin, O. Kodolova, I. Lokhtin, A. Markina, S. Obraztsov, M. Perfilov, S. Petrushanko, L. Sarycheva, V. Savrin, A. Snigirev P.N. Lebedev Physical Institute, Moscow, Russia y , , V. Andreev, M. Azarkin, I. Dremin, M. Kirakosyan, A. Leonidov, S.V. Rusakov, A. Vino- gradov State Research Center of Russian Federation, Institute for High Energy Physics, Protvino, Russia University of Canterbury, Christchurch, New Zealand P.H. Butler, R. Doesburg, H. Silverwood National Centre for Physics, Quaid-I-Azam University, Islamabad, Pakistan M. Ahmad, I. Ahmed, M.I. Asghar, H.R. Hoorani, W.A. Khan, T. Khurshid, S. Qazi Institute of Experimental Physics, Faculty of Physics, University of Warsaw, Warsaw, Poland G. Brona, M. Cwiok, W. Dominik, K. Doroba, A. Kalinowski, M. Konecki, J. Krolikows Soltan Institute for Nuclear Studies, Warsaw, Poland Soltan Institute for Nuclear Studies, Warsaw, Poland JHEP08(2011)117 JHEP08(2011)117 T. Frueboes, R. Gokieli, M. G´orski, M. Kazana, K. Nawrocki, K. Romanowska-Rybinska, M. Szleper, G. Wrochna, P. Zalewski Laborat´orio de Instrumenta¸c˜ao e F´ısica Experimental de Part´ıculas, Lisboa, Portugal Joint Institute for Nuclear Research, Dubna, Russia S. Afanasiev, I. Belotelov, P. Bunin, I. Golutvin, A. Kamenev, V. Karjavin, G. Kozlo S. Afanasiev, I. Belotelov, P. Bunin, I. Golutvin, A. Kamenev, V. Karjavin, G. Kozlov, A. Lanev, P. Moisenz, V. Palichik, V. Perelygin, S. Shmatov, V. Smirnov, A. Volodko, A. Zarubin Petersburg Nuclear Physics Institute, Gatchina (St Petersburg), Russia V. Golovtsov, Y. Ivanov, V. Kim, P. Levchenko, V. Murzin, V. Oreshkin, I. Smirnov, V. Sulimov, L. Uvarov, S. Vavilov, A. Vorobyev, A. Vorobyev Institute for Nuclear Research, Moscow, Russia Yu. Andreev, A. Dermenev, S. Gninenko, N. Golubev, M. Kirsanov, N. Krasnikov, V. Matveev, A. Pashenkov, A. Toropin, S. Troitsky Institute for Theoretical and Experimental Physics, Moscow, Russia V. Epshteyn, V. Gavrilov, V. Kaftanov†, M. Kossov1, A. Krokhotin, N. Lychkovskaya, V. Popov, G. Safronov, S. Semenov, V. Stolin, E. Vlasov, A. Zhokin Universidad Aut´onoma de Madrid, Madrid, Spain C. Albajar, G. Codispoti, J.F. de Troc´oniz Instituto de F´ısica de Cantabria (IFCA), CSIC-Universidad de Cantabri Santander, Spain J.A. Brochero Cifuentes, I.J. Cabrillo, A. Calderon, S.H. Chuang, J. Duarte Campderros, M. Felcini25, M. Fernandez, G. Gomez, J. Gonzalez Sanchez, C. Jorda, P. Lobelle Pardo, A. Lopez Virto, J. Marco, R. Marco, C. Martinez Rivero, F. Matorras, F.J. Munoz Sanchez, J. Piedra Gomez26, T. Rodrigo, A.Y. Rodr´ıguez-Marrero, A. Ruiz-Jimeno, L. Scodellaro, M. Sobron Sanudo, I. Vila, R. Vilar Cortabitarte Centro de Investigaciones Energ´eticas Medioambientales y Te nol´ogicas (CIEMAT), Madrid, Spain M. Aguilar-Benitez, J. Alcaraz Maestre, P. Arce, C. Battilana, E. Calvo, M. Cepeda, M. Cerrada, M. Chamizo Llatas, N. Colino, B. De La Cruz, A. Delgado Peris, C. Diez Pardos, D. Dom´ınguez V´azquez, C. Fernandez Bedoya, J.P. Fern´andez Ramos, A. Ferrando, J. Flix, M.C. Fouz, P. Garcia-Abia, O. Gonzalez Lopez, S. Goy Lopez, J.M. Hernandez, M.I. Josa, G. Merino, J. Puerta Pelayo, I. Redondo, L. Romero, J. Santaolalla, M.S. Soares, C. Willmott JHEP08(2011)117 Universidad Aut´onoma de Madrid, Madrid, Spain C. Albajar, G. Codispoti, J.F. de Troc´oniz Universidad Aut´onoma de Madrid, Madrid, Spain Universidad Aut´onoma de Madrid, Madrid, Spain C. Albajar, G. Codispoti, J.F. de Troc´oniz State Research Center of Russian Federation, Institute for High Energ Physics, Protvino, Russia I. Azhgirey, S. Bitioukov, V. Grishin1, V. Kachanov, D. Konstantinov, A. Korablev, I. Azhgirey, S. Bitioukov, V. Grishin1, V. Kachanov, D. Konstantinov, A. Korablev, V. Krychkine, V. Petrov, R. Ryutin, S. Slabospitsky, A. Sobol, L. Tourtchanovitch, I. Azhgirey, S. Bitioukov, V. Grishin1, V. Kachanov, D. Konstantinov, A. Korablev, V. Krychkine, V. Petrov, R. Ryutin, S. Slabospitsky, A. Sobol, L. Tourtchanovitch, S. Troshin, N. Tyurin, A. Uzunian, A. Volkov V. Krychkine, V. Petrov, R. Ryutin, S. Slabospitsky, A. Sobol, L. Tourtchanovitch, S. Troshin, N. Tyurin, A. Uzunian, A. Volkov S. Troshin, N. Tyurin, A. Uzunian, A. Volkov – 22 – University of Belgrade, Faculty of Physics and Vinca Institute of Nuclear Sciences, Belgrade, Serbia University of Belgrade, Faculty of Physics and Vinca Institute of Nuclear Sciences, Belgrade, Serbia P. Adzic24, M. Djordjevic, D. Krpic24, J. Milosevic P. Adzic24, M. Djordjevic, D. Krpic24, J. Milosevic P. Adzic24, M. Djordjevic, D. Krpic24, J. Milosevic Centro de Investigaciones Energ´eticas Medioambientales y Tec- nol´ogicas (CIEMAT), Madrid, Spain Universidad de Oviedo, Oviedo, Spain J. Cuevas, J. Fernandez Menendez, S. Folgueras, I. Gonzalez Caballero, L. Lloret Iglesias, J.M. Vizan Garcia Instituto de F´ısica de Cantabria (IFCA), CSIC-Universidad de Cantabria, Santander, Spain CERN, European Organization for Nuclear Research, Geneva, Switzerland D. Abbaneo, E. Auffray, G. Auzinger, P. Baillon, A.H. Ball, D. Barney, A.J. Bell27, D. Benedetti, C. Bernet3, W. Bialas, P. Bloch, A. Bocci, S. Bolognesi, M. Bona, H. Breuker, K. Bunkowski, T. Camporesi, G. Cerminara, J.A. Coarasa Perez, B. Cur´e, D. D’Enterria, A. De Roeck, S. Di Guida, A. Elliott-Peisert, B. Frisch, W. Funk, A. Gaddi, S. Gennai, G. Georgiou, H. Gerwig, D. Gigi, K. Gill, D. Giordano, F. Glege, R. Gomez-Reino Garrido, M. Gouzevitch, P. Govoni, S. Gowdy, L. Guiducci, M. Hansen, C. Hartl, J. Harvey, J. Hegeman, B. Hegner, H.F. Hoffmann, A. Honma, V. Innocente, P. Janot, K. Kaadze, E. Karavakis, P. Lecoq, C. Louren¸co, T. M¨aki, M. Malberti, L. Malgeri, M. Mannelli, L. Masetti, A. Maurisset, F. Meijers, S. Mersi, E. Meschi, R. Moser, M.U. Mozer, M. Mulders, E. Nesvold1, M. Nguyen, T. Orimoto, L. Orsini, E. Perez, A. Petrilli, A. Pfeiffer, M. Pierini, M. Pimi¨a, G. Polese, A. Racz, J. Rodrigues Antunes, G. Rolandi28, T. Rommerskirchen, C. Rovelli, M. Rovere, H. Sakulin, C. Sch¨afer, C. Schwick, I. Segoni, A. Sharma, P. Siegrist, M. Simon, P. Sphicas29, M. Spiropulu23, M. Stoye, P. Tropea, A. Tsirou, P. Vichoudis, M. Voutilainen, W.D. Zeuner A. Tsirou, P. Vichoudis, M. Voutilainen, W.D. Zeuner – 23 – Universit¨at Z¨urich, Zurich, Switzerland E. Aguil´o, C. Amsler, V. Chiochia, S. De Visscher, C. Favaro, M. Ivova Rikova, B. Millan Mejias, P. Otiougova, C. Regenfus, P. Robmann, A. Schmidt, H. Snoek National Central University, Chung-Li, Taiwan y, g , Y.H. Chang, K.H. Chen, C.M. Kuo, S.W. Li, W. Lin, Z.K. Liu, Y.J. Lu, D. Mekterovic, R. Volpe, J.H. Wu, S.S. Yu National Taiwan University (NTU), Taipei, Taiwan P. Bartalini, P. Chang, Y.H. Chang, Y.W. Chang, Y. Chao, K.F. Chen, W.-S. Hou, Y. Hsiung, K.Y. Kao, Y.J. Lei, R.-S. Lu, J.G. Shiu, Y.M. Tzeng, M. Wang Paul Scherrer Institut, Villigen, Switzerland Paul Scherrer Institut, Villigen, Switzerland W. Bertl, K. Deiters, W. Erdmann, K. Gabathuler, R. Horisberger, Q. Ingram, H.C. Kaestli, S. K¨onig, D. Kotlinski, U. Langenegger, F. Meier, D. Renker, T. Rohe, J. Sibille30, A. Starodumov31 Institute for Particle Physics, ETH Zurich, Zurich, Switzerland Institute for Particle Physics, ETH Zurich, Zurich, Switzerland P. Bortignon, L. Caminada32, N. Chanon, Z. Chen, S. Cittolin, G. Dissertori, M. Dittmar, J. Eugster, K. Freudenreich, C. Grab, A. Herv´e, W. Hintz, P. Lecomte, W. Lustermann, C. Marchica32, P. Martinez Ruiz del Arbol, P. Meridiani, P. Milenovic33, F. Moortgat, C. N¨ageli32, P. Nef, F. Nessi-Tedaldi, L. Pape, F. Pauss, T. Punz, A. Rizzi, F.J. Ronga, M. Rossini, L. Sala, A.K. Sanchez, M.-C. Sawley, B. Stieger, L. Tauscher†, A. Thea, K. Theofilatos, D. Treille, C. Urscheler, R. Wallny, M. Weber, L. Wehrli, J. Weng C. Marchica32, P. Martinez Ruiz del Arbol, P. Meridiani, P. Milenovic33, F. Moortgat, C. N¨ageli32, P. Nef, F. Nessi-Tedaldi, L. Pape, F. Pauss, T. Punz, A. Rizzi, F.J. Ronga, M. Rossini, L. Sala, A.K. Sanchez, M.-C. Sawley, B. Stieger, L. Tauscher†, A. Thea, K. Theofilatos, D. Treille, C. Urscheler, R. Wallny, M. Weber, L. Wehrli, J. Weng JHEP08(2011)117 M. Rossini, L. Sala, A.K. Sanchez, M.-C. Sawley, B. Stieger, L. Tauscher†, A. Thea, K. Theofilatos, D. Treille, C. Urscheler, R. Wallny, M. Weber, L. Wehrli, J. Weng Universit¨at Z¨urich, Zurich, Switzerland Boston University, Boston, USA T. Bose, E. Carrera Jarrin, C. Fantasia, A. Heister, J. St. John, P. Lawson, D. Lazic, J. Rohlf, D. Sperka, L. Sulak Imperial College, London, United Kingdom R. Bainbridge, G. Ball, J. Ballin, R. Beuselinck, O. Buchmuller, D. Colling, N. Cripps, M. Cutajar, G. Davies, M. Della Negra, W. Ferguson, J. Fulcher, D. Futyan, A. Gilbert, A. Guneratne Bryer, G. Hall, Z. Hatherell, J. Hays, G. Iles, M. Jarvis, G. Karapostoli, L. Lyons, B.C. MacEvoy, A.-M. Magnan, J. Marrouche, B. Mathias, R. Nandi, J. Nash, A. Nikitenko31, A. Papageorgiou, M. Pesaresi, K. Petridis, M. Pioppi43, D.M. Raymond, S. Rogerson, N. Rompotis, A. Rose, M.J. Ryan, C. Seez, P. Sharp, A. Sparrow, A. Tapper, S. Tourneur, M. Vazquez Acosta, T. Virdee, S. Wakefield, N. Wardle, D. Wardrope, T. Whyntie JHEP08(2011)117 T. Whyntie Brunel University, Uxbridge, United Kingdom Brunel University, Uxbridge, United Kingdom M. Barrett, M. Chadwick, J.E. Cole, P.R. Hobson, A. Khan, P. Kyberd, D. Leslie, W. Martin, I.D. Reid, L. Teodorescu Baylor University, Waco, USA K. Hatakeyama Brown University, Providence, USA A. Avetisyan, S. Bhattacharya, J.P. Chou, D. Cutts, A. Ferapontov, U. Heintz, S. Jabeen, G. Kukartsev, G. Landsberg, M. Narain, D. Nguyen, M. Segala, T. Sinthuprasith, T. Speer, K.V. Tsang University of California, Davis, Davis, USA Cukurova University, Adana, Turkey A. Adiguzel, M.N. Bakirci34, S. Cerci35, C. Dozen, I. Dumanoglu, E. Eskut, S. Girgis, G. Gokbulut, Y. Guler, E. Gurpinar, I. Hos, E.E. Kangal, T. Karaman, A. Kayis Topaksu, A. Nart, G. Onengut, K. Ozdemir, S. Ozturk, A. Polatoz, K. Sogut36, D. Sunar Cerci35, B. Tali, H. Topakli34, D. Uzun, L.N. Vergili, M. Vergili, C. Zorbilmez Middle East Technical University, Physics Department, Ankara, Turkey I.V. Akin, T. Aliev, S. Bilmis, M. Deniz, H. Gamsizkan, A.M. Guler, K. Ocalan, A. Ozpineci, M. Serin, R. Sever, U.E. Surat, E. Yildirim, M. Zeyrek Bogazici University, Istanbul, Turkey M. Deliomeroglu, D. Demir37, E. G¨ulmez, B. Isildak, M. Kaya38, O. Kaya38, S. Ozkorucuklu39, N. Sonmez40 National Scientific Center, Kharkov Institute of Physics and Technology, Kharkov, Ukraine L. Levchuk University of Bristol, Bristol, United Kingdom F. Bostock, J.J. Brooke, T.L. Cheng, E. Clement, D. Cussans, R. Frazier, J. Goldstein, M. Grimes, M. Hansen, D. Hartley, G.P. Heath, H.F. Heath, J. Jackson, L. Kreczko, S. Metson, D.M. Newbold41, K. Nirunpong, A. Poll, S. Senkin, V.J. Smith, S. Ward University of Bristol, Bristol, United Kingdom M. Grimes, M. Hansen, D. Hartley, G.P. Heath, H.F. Heath, J. Jackson, L. Kreczko, S. Metson, D.M. Newbold41, K. Nirunpong, A. Poll, S. Senkin, V.J. Smith, S. Ward S. Metson, D.M. Newbold41, K. Nirunpong, A. Poll, S. Senkin, V.J. Smith, S. Ward – 24 – Rutherford Appleton Laboratory, Didcot, United Kingdom L. Basso42, K.W. Bell, A. Belyaev42, C. Brew, R.M. Brown, B. Camanzi, D.J.A. Cockerill, J.A. Coughlan, K. Harder, S. Harper, B.W. Kennedy, E. Olaiya, D. Petyt, B.C. Radburn- Smith, C.H. Shepherd-Themistocleous, I.R. Tomalin, W.J. Womersley, S.D. Worm Rutherford Appleton Laboratory, Didcot, United Kingdom Imperial College, London, United Kingdom Baylor University, Waco, USA Boston University, Boston, USA Cornell University, Ithaca, USA Cornell University, Ithaca, USA L. Agostino, J. Alexander, D. Cassel, A. Chatterjee, S. Das, N. Eggert, L.K. Gibbons, B. Heltsley, W. Hopkins, A. Khukhunaishvili, B. Kreis, G. Nicolas Kaufman, J.R. Patter- son, D. Puigh, A. Ryd, E. Salvati, X. Shi, W. Sun, W.D. Teo, J. Thom, J. Thompson, J. Vaughan, Y. Weng, L. Winstrom, P. Wittich Fairfield University, Fairfield, USA A. Biselli, G. Cirino, D. Winn University of California, Davis, Davis, USA R. Breedon, M. Calderon De La Barca Sanchez, S. Chauhan, M. Chertok, J. Conway, P.T. Cox, J. Dolen, R. Erbacher, E. Friis, W. Ko, A. Kopecky, R. Lander, H. Liu, S. Maruyama, T. Miceli, M. Nikolic, D. Pellett, J. Robles, S. Salur, T. Schwarz, M. Searle, J. Smith, M. Squires, M. Tripathi, R. Vasquez Sierra, C. Veelken University of California, Los Angeles, Los Angeles, USA V. Andreev, K. Arisaka, D. Cline, R. Cousins, A. Deisher, J. Duris, S. Erhan, C. Farrell, J. Hauser, M. Ignatenko, C. Jarvis, C. Plager, G. Rakness, P. Schlein†, J. Tucker, V. Valuev University of California, Riverside, Riverside, USA J. Babb, A. Chandra, R. Clare, J. Ellison, J.W. Gary, F. Giordano, G. Hanson, G.Y. Jeng, S.C. Kao, F. Liu, H. Liu, O.R. Long, A. Luthra, H. Nguyen, B.C. Shen†, R. Stringer, J. Sturdy, S. Sumowidagdo, R. Wilken, S. Wimpenny – 25 – University of California, San Diego, La Jolla, USA W. Andrews, J.G. Branson, G.B. Cerati, E. Dusinberre, D. Evans, F. Golf, A. Holzner, R. Kelley, M. Lebourgeois, J. Letts, B. Mangano, S. Padhi, C. Palmer, G. Petruc- ciani, H. Pi, M. Pieri, R. Ranieri, M. Sani, V. Sharma, S. Simon, Y. Tu, A. Vartak, S. Wasserbaech44, F. W¨urthwein, A. Yagil, J. Yoo University of California, Santa Barbara, Santa Barbara, USA D. Barge, R. Bellan, C. Campagnari, M. D’Alfonso, T. Danielson, K. Flowers, P. Geffer D. Barge, R. Bellan, C. Campagnari, M. D Alfonso, T. Danielson, K. Flowers, P. Geffert, J. Incandela, C. Justus, P. Kalavase, S.A. Koay, D. Kovalskyi, V. Krutelyov, S. Lowette, N. Mccoll, V. Pavlunin, F. Rebassoo, J. Ribnik, J. Richman, R. Rossin, D. Stuart, W. To, J.R. Vlimant g , , p g , , , , , J. Incandela, C. Justus, P. Kalavase, S.A. Koay, D. Kovalskyi, V. Krutelyov, S. Lowette, N Mccoll V Pavlunin F Rebassoo J Ribnik J Richman R Rossin D Stuart W To J. Incandela, C. Justus, P. Kalavase, S.A. Koay, D. Kovalskyi, V. Krutelyov, S. Lowett N. Mccoll, V. Pavlunin, F. Rebassoo, J. Ribnik, J. Richman, R. Rossin, D. Stuart, W. To, J.R. Vlimant JHEP08(2011)117 California Institute of Technology, Pasadena, USA California Institute of Technology, Pasadena, USA A. Apresyan, A. Bornheim, J. Bunn, Y. Chen, M. Gataullin, Y. Ma, A. Mott, H.B. New- man, C. Rogan, K. Shin, V. Timciuc, P. Traczyk, J. Veverka, R. Wilkinson, Y. Yang, R.Y. Zhu Carnegie Mellon University, Pittsburgh, USA Carnegie Mellon University, Pittsburgh, USA Carnegie Mellon University, Pittsburgh, USA B. Akgun, R. Carroll, T. Ferguson, Y. Iiyama, D.W. Jang, S.Y. Jun, Y.F. Liu, M. Paulini, J. Russ, H. Vogel, I. Vorobiev University of Colorado at Boulder, Boulder, USA J.P. Cumalat, M.E. Dinardo, B.R. Drell, C.J. Edelmaier, W.T. Ford, A. Gaz, B. Heyburn, E L i i L U N b J G S ith K St K A Ul S R W University of Colorado at Boulder, Boulder, USA University of Colorado at Boulder, Boulder, USA J.P. Cumalat, M.E. Dinardo, B.R. Drell, C.J. Edelmaier, W.T. Ford, A. Gaz, B. Heybur E. Luiggi Lopez, U. Nauenberg, J.G. Smith, K. Stenson, K.A. Ulmer, S.R. Wagner, S.L. Zang University of Florida, Gainesville, USA D. Acosta, P. Avery, D. Bourilkov, M. Chen, M. De Gruttola, G.P. Di Giovanni, D. Do D. Acosta, P. Avery, D. Bourilkov, M. Chen, M. De Gruttola, G.P. Di Giovanni, D. Dobur, A. Drozdetskiy, R.D. Field, M. Fisher, Y. Fu, I.K. Furic, J. Gartner, B. Kim, J. Konigsberg, A. Korytov, A. Kropivnitskaya, T. Kypreos, K. Matchev, G. Mitselmakher, L. Muniz, C. Prescott, R. Remington, M. Schmitt, B. Scurlock, P. Sellers, N. Skhirtladze, M. Snow- ball, D. Wang, J. Yelton, M. Zakaria y A. Drozdetskiy, R.D. Field, M. Fisher, Y. Fu, I.K. Furic, J. Gartner, B. Kim, J. Konigsberg, A. Korytov, A. Kropivnitskaya, T. Kypreos, K. Matchev, G. Mitselmakher, L. Muniz, C Prescott R Remington M Schmitt B Scurlock P Sellers N Skhirtladze M Snow- A. Drozdetskiy, R.D. Field, M. Fisher, Y. Fu, I.K. Furic, J. Gartner, B. Kim, J. Konigsberg, A. Korytov, A. Kropivnitskaya, T. Kypreos, K. Matchev, G. Mitselmakher, L. Mun A. Korytov, A. Kropivnitskaya, T. Kypreos, K. Matchev, G. Mitselmakher, L. Muniz, C. Prescott, R. Remington, M. Schmitt, B. Scurlock, P. Sellers, N. Skhirtladze, M. Snow- ball, D. Wang, J. Yelton, M. Zakaria The University of Kansas, Lawrence, USA P. Baringer, A. Bean, G. Benelli, O. Grachov, R.P. Kenny Iii, M. Murray, D. Noonan, S. Sanders, J.S. Wood, V. Zhukova University of Illinois at Chicago (UIC), Chicago, USA M.R. Adams, I.M. Anghel, L. Apanasevich, Y. Bai, V.E. Bazterra, R.R. Betts, J. Callner, R. Cavanaugh, C. Dragoiu, L. Gauthier, C.E. Gerber, D.J. Hofman, S. Khalatyan, G.J. Kunde46, F. Lacroix, M. Malek, C. O’Brien, C. Silvestre, A. Smoron, D. Strom, N. Varelas Florida Institute of Technology, Melbourne, USA Florida Institute of Technology, Melbourne, USA M.M. Baarmand, B. Dorney, S. Guragain, M. Hohlmann, H. Kalakhety, R. Ralich, I. Vodopiyanov University of Illinois at Chicago (UIC), Chicago, USA Florida State University, Tallahassee, USA Florida State University, Tallahassee, USA T. Adams, A. Askew, D. Bandurin, J. Bochenek, J. Chen, B. Diamond, S.V. Gleyzer, J. Haas, S. Hagopian, V. Hagopian, M. Jenkins, K.F. Johnson, H. Prosper, L. Quertenmont, S. Sekmen, V. Veeraraghavan Johns Hopkins University, Baltimore, USA B.A. Barnett, B. Blumenfeld, A. Bonato, C. Eskew, D. Fehling, G. Giurgiu, A.V. Gritsan, Z.J. Guo, G. Hu, P. Maksimovic, S. Rappoccio, M. Swartz, N.V. Tran, A. Whitbeck The University of Kansas, Lawrence, USA Fairfield University, Fairfield, USA A. Biselli, G. Cirino, D. Winn Fermi National Accelerator Laboratory, Batavia, USA S. Abdullin, M. Albrow, J. Anderson, G. Apollinari, M. Atac, J.A. Bakken, S. Banerjee, L.A.T. Bauerdick, A. Beretvas, J. Berryhill, P.C. Bhat, I. Bloch, F. Borcherding, K. Bur- kett, J.N. Butler, V. Chetluru, H.W.K. Cheung, F. Chlebana, S. Cihangir, W. Cooper, D.P. Eartly, V.D. Elvira, S. Esen, I. Fisk, J. Freeman, Y. Gao, E. Gottschalk, D. Green, K. Gunthoti, O. Gutsche, J. Hanlon, R.M. Harris, J. Hirschauer, B. Hooberman, H. Jensen, M. Johnson, U. Joshi, R. Khatiwada, B. Klima, K. Kousouris, S. Kunori, S. Kwan, C. Leonidopoulos, P. Limon, D. Lincoln, R. Lipton, J. Lykken, K. Maeshima, J.M. Marraf- fino, D. Mason, P. McBride, T. Miao, K. Mishra, S. Mrenna, Y. Musienko45, C. Newman- Holmes, V. O’Dell, R. Pordes, O. Prokofyev, N. Saoulidou, E. Sexton-Kennedy, S. Sharma, W.J. Spalding, L. Spiegel, P. Tan, L. Taylor, S. Tkaczyk, L. Uplegger, E.W. Vaandering, R. Vidal, J. Whitmore, W. Wu, F. Yang, F. Yumiceva, J.C. Yun Fermi National Accelerator Laboratory, Batavia, USA S. Abdullin, M. Albrow, J. Anderson, G. Apollinari, M. Atac, J.A. Bakken, S. Banerjee, L.A.T. Bauerdick, A. Beretvas, J. Berryhill, P.C. Bhat, I. Bloch, F. Borcherding, K. Bur- kett, J.N. Butler, V. Chetluru, H.W.K. Cheung, F. Chlebana, S. Cihangir, W. Cooper, D.P. Eartly, V.D. Elvira, S. Esen, I. Fisk, J. Freeman, Y. Gao, E. Gottschalk, D. Green, K. Gunthoti, O. Gutsche, J. Hanlon, R.M. Harris, J. Hirschauer, B. Hooberman, H. Jensen, M. Johnson, U. Joshi, R. Khatiwada, B. Klima, K. Kousouris, S. Kunori, S. Kwan, C. Leonidopoulos, P. Limon, D. Lincoln, R. Lipton, J. Lykken, K. Maeshima, J.M. Marraf- fino, D. Mason, P. McBride, T. Miao, K. Mishra, S. Mrenna, Y. Musienko45, C. Newman- Holmes, V. O’Dell, R. Pordes, O. Prokofyev, N. Saoulidou, E. Sexton-Kennedy, S. Sharma, W.J. Spalding, L. Spiegel, P. Tan, L. Taylor, S. Tkaczyk, L. Uplegger, E.W. Vaandering, R. Vidal, J. Whitmore, W. Wu, F. Yang, F. Yumiceva, J.C. Yun – 26 – Florida International University, Miami, USA Florida International University, Miami, USA C. Ceron, V. Gaultney, L. Kramer, L.M. Lebolo, S. Linn, P. Markowitz, G. Martinez, D. Mesa, J.L. Rodriguez JHEP08(2011)117 The University of Iowa, Iowa City, USA U. Akgun, E.A. Albayrak, B. Bilki, W. Clarida, F. Duru, C.K. Lae, E. McCliment, J.- P. Merlo, H. Mermerkaya47, A. Mestvirishvili, A. Moeller, J. Nachtman, C.R. Newsom, E. Norbeck, J. Olson, Y. Onel, F. Ozok, S. Sen, J. Wetzel, T. Yetkin, K. Yi Johns Hopkins University, Baltimore, USA University of Notre Dame, Notre Dame, USA University of Notre Dame, Notre Dame, USA L. Antonelli, D. Berry, M. Hildreth, C. Jessop, D.J. Karmgard, J. Kolb, T. Kolber L. Antonelli, D. Berry, M. Hildreth, C. Jessop, D.J. Karmgard, J. Kolb, T. Kolberg, K. Lannon, W. Luo, S. Lynch, N. Marinelli, D.M. Morse, T. Pearson, R. Ruchti, J. Slaunwhite, N. Valls, M. Wayne, J. Ziegler ate University of New York at Buffalo, Buffalo, USA U. Baur, A. Godshalk, I. Iashvili, S. Jain, A. Kharchilava, A. Kumar, S.P. Shipkowski, K. Smith Northeastern University, Boston, USA G. Alverson, E. Barberis, D. Baumgartel, O. Boeriu, M. Chasco, S. Reucroft, J. Swain, D. Trocino, D. Wood, J. Zhang Northwestern University, Evanston, USA A. Anastassov, A. Kubik, N. Odell, R.A. Ofierzynski, B. Pollack, A. Pozdnyakov, M. Schmitt, S. Stoynev, M. Velasco, S. Won Massachusetts Institute of Technology, Cambridge, USA B. Alver, G. Bauer, J. Bendavid, W. Busza, E. Butz, I.A. Cali, M. Chan, V. Dutta, P. Everaerts, G. Gomez Ceballos, M. Goncharov, K.A. Hahn, P. Harris, Y. Kim, M. Klute, Y.-J. Lee, W. Li, C. Loizides, P.D. Luckey, T. Ma, S. Nahn, C. Paus, D. Ralph, C. Roland, G. Roland, M. Rudolph, G.S.F. Stephans, F. St¨ockli, K. Sumorok, K. Sung, E.A. Wenger, S. Xie, M. Yang, Y. Yilmaz, A.S. Yoon, M. Zanetti JHEP08(2011)117 University of Minnesota, Minneapolis, USA Kansas State University, Manhattan, USA Kansas State University, Manhattan, USA A.f. Barfuss, T. Bolton, I. Chakaberia, A. Ivanov, S. Khalil, M. Makouski, Y. Maravin, S. Shrestha, I. Svintradze, Z. Wan Lawrence Livermore National Laboratory, Livermore, USA J. Gronberg, D. Lange, D. Wright J. Gronberg, D. Lange, D. Wright – 27 – University of Maryland, College Park, USA A. Baden, M. Boutemeur, S.C. Eno, D. Ferencek, J.A. Gomez, N.J. Hadley, R.G. Kellog A. Baden, M. Boutemeur, S.C. Eno, D. Ferencek, J.A. Gomez, N.J. Hadley, R.G. Kellogg, M. Kirn, Y. Lu, A.C. Mignerey, K. Rossato, P. Rumerio, F. Santanastasio, A. Skuja, J. Temple, M.B. Tonjes, S.C. Tonwar, E. Twedt M. Kirn, Y. Lu, A.C. Mignerey, K. Rossato, P. Rumerio, F. Santanastasio, A. Skuja, J. Temple, M.B. Tonjes, S.C. Tonwar, E. Twedt Massachusetts Institute of Technology, Cambridge, USA The Ohio State University, Columbus, USA The Ohio State University, Columbus, USA The Ohio State University, Columbus, USA B. Bylsma, L.S. Durkin, J. Gu, C. Hill, P. Killewald, K. Kotov, T.Y. Ling, M. Rodenburg, G. Williams B. Bylsma, L.S. Durkin, J. Gu, C. Hill, P. Killewald, K. Kotov, T.Y. Ling, M. Rodenburg, G. Williams University of Minnesota, Minneapolis, USA S.I. Cooper, P. Cushman, B. Dahmes, A. De Benedetti, P.R. Dudero, G. Franzoni, J. Haupt, S.I. Cooper, P. Cushman, B. Dahmes, A. De Benedetti, P.R. Dudero, G. Franzoni, J. Haupt, K Klapoetke Y Kubota J Mans V Rekovic R Rusack M Sasseville A Singovsky p , , , , , , p , K. Klapoetke, Y. Kubota, J. Mans, V. Rekovic, R. Rusack, M. Sasseville, A. Singovsky University of Mississippi, University, USA University of Mississippi, University, USA L.M. Cremaldi, R. Godang, R. Kroeger, L. Perera, R. Rahmat, D.A. Sanders, D. Summers L.M. Cremaldi, R. Godang, R. Kroeger, L. Perera, R. Rahmat, D.A. Sanders, D. Summe University of Nebraska-Lincoln, Lincoln, USA University of Nebraska-Lincoln, Lincoln, USA K. Bloom, S. Bose, J. Butt, D.R. Claes, A. Dominguez, M. Eads, J. Keller, T. Kelly, I. Kravchenko, J. Lazo-Flores, H. Malbouisson, S. Malik, G.R. Snow State University of New York at Buffalo, Buffalo, USA U. Baur, A. Godshalk, I. Iashvili, S. Jain, A. Kharchilava, A. Kumar, S.P. Shipkowski, K. Smith State University of New York at Buffalo, Buffalo, USA Princeton University, Princeton, USA Princeton University, Princeton, USA N. Adam, E. Berry, P. Elmer, D. Gerbaudo, V. Halyo, P. Hebda, A. Hunt, J. Jones, E. Laird, D. Lopes Pegna, D. Marlow, T. Medvedeva, M. Mooney, J. Olsen, P. Pirou´e, Princeton University, Princeton, USA N. Adam, E. Berry, P. Elmer, D. Gerbaudo, V. Halyo, P. Hebda, A. Hunt, J. Jones, E L i d D L P D M l T M d d M M J Ol P Pi ´ N. Adam, E. Berry, P. Elmer, D. Gerbaudo, V. Halyo, P. Hebda, A. Hunt, J. Jones, E. Laird, D. Lopes Pegna, D. Marlow, T. Medvedeva, M. Mooney, J. Olsen, P. Pirou´e, X. Quan, H. Saka, D. Stickland, C. Tully, J.S. Werner, A. Zuranski E. Laird, D. Lopes Pegna, D. Marlow, T. Medvedeva, M. Mooney, J. Olsen, P. Pirou X. Quan, H. Saka, D. Stickland, C. Tully, J.S. Werner, A. Zuranski – 28 – University of Rochester, Rochester, USA B. Betchart, A. Bodek, Y.S. Chung, R. Covarelli, P. de Barbaro, R. Demina, Y. Eshaq, H. Flacher, A. Garcia-Bellido, P. Goldenzweig, Y. Gotra, J. Han, A. Harel, D.C. Miner, D. Orbaker, G. Petrillo, D. Vishnevskiy, M. Zielinski The Rockefeller University, New York, USA Purdue University, West Lafayette, USA Purdue University, West Lafayette, USA E. Alagoz, V.E. Barnes, G. Bolla, L. Borrello, D. Bortoletto, A. Everett, A.F. Garfinkel, L. Gutay, Z. Hu, M. Jones, O. Koybasi, M. Kress, A.T. Laasanen, N. Leonardo, C. Liu, V. Maroussov, P. Merkel, D.H. Miller, N. Neumeister, I. Shipsey, D. Silvers, A. Svy- atkovskiy, H.D. Yoo, J. Zablocki, Y. Zheng JHEP08(2011)117 Purdue University Calumet, Hammond, USA P. Jindal, N. Parashar Rice University, Houston, USA C. Boulahouache, V. Cuplov, K.M. Ecklund, F.J.M. Geurts, B.P. Padley, R. Redjimi, J. Roberts, J. Zabel Texas Tech University, Lubbock, USA N. Akchurin, C. Bardak, J. Damgov, C. Jeong, K. Kovitanggoon, S.W. Lee, Y. Roh, A. Sill, I. Volobouev, R. Wigmans, E. Yazgan I. Volobouev, R. Wigmans, E. Yazgan Texas A&M University, College Station, USA Texas A&M University, College Station, USA J. Asaadi, R. Eusebi, J. Gilmore, A. Gurrola, T. Kamon, V. Khotilovich, R. Montalvo, C.N. Nguyen, I. Osipenkov, Y. Pakhotin, J. Pivarski, A. Safonov, S. Sengupta, A. Tatari- nov, D. Toback, M. Weinberger Texas Tech University, Lubbock, USA University of Tennessee, Knoxville, USA G. Cerizza, M. Hollingsworth, S. Spanier, Z.C. Yang, A. York University of Puerto Rico, Mayaguez, USA J.G. Acosta, X.T. Huang, A. Lopez, H. Mendez, S. Oliveros, J.E. Ramirez Vargas, A. Zatserklyaniy The Rockefeller University, New York, USA A. Bhatti, R. Ciesielski, L. Demortier, K. Goulianos, G. Lungu, S. Malik, C. Mesropian, M. Yan Rutgers, the State University of New Jersey, Piscataway, USA O. Atramentov, A. Barker, D. Duggan, Y. Gershtein, R. Gray, E. Halkiadakis, D. Hidas, D. Hits, A. Lath, S. Panwalkar, R. Patel, A. Richards, K. Rose, S. Schnetzer, S. Somalwar, R. Stone, S. Thomas University of Tennessee, Knoxville, USA University of Virginia, Charlottesville, USA M.W. Arenton, M. Balazs, S. Boutle, B. Cox, B. Francis, R. Hirosky, A. Ledovskoy, C. Lin, C. Neu, R. Yohay Wayne State University, Detroit, USA S. Gollapinni, R. Harr, P.E. Karchin, P. Lamichhane, M. Mattson, C. Milst`ene, A. Sakharov Wayne State University, Detroit, USA S. Gollapinni, R. Harr, P.E. Karchin, P. Lamichhane, M. Mattson, C. Milst`ene, A. Sakharov Wayne State University, Detroit, USA S. Gollapinni, R. Harr, P.E. Karchin, P. Lamichhane, M. Mattson, C. Milst`ene, A. Sakharov University of Wisconsin, Madison, USA M. Anderson, M. Bachtis, J.N. Bellinger, D. Carlsmith, S. Dasu, J. Efron, K. Flood, L. Gray, K.S. Grogg, M. Grothe, R. Hall-Wilton, M. Herndon, P. Klabbers, J. Klukas, A. Lanaro, C. Lazaridis, J. Leonard, R. Loveless, A. Mohapatra, F. Palmonari, D. Reeder, I. Ross, A. Savin, W.H. Smith, J. Swanson, M. Weinberg University of Wisconsin, Madison, USA M. Anderson, M. Bachtis, J.N. Bellinger, D. Carlsmith, S. Dasu, J. Efron, K. Flood, L. Gray, K.S. Grogg, M. Grothe, R. Hall-Wilton, M. Herndon, P. Klabbers, J. Klukas, A. Lanaro, C. Lazaridis, J. Leonard, R. Loveless, A. Mohapatra, F. Palmonari, D. Reeder, I. Ross, A. Savin, W.H. Smith, J. Swanson, M. Weinberg JHEP08(2011)117 I. Ross, A. Savin, W.H. Smith, J. Swanson, M. Vanderbilt University, Nashville, USA Vanderbilt University, Nashville, USA E. Appelt, E. Brownson, D. Engh, C. Florez, W. Gabella, M. Issah, W. Johns, P. Kur E. Appelt, E. Brownson, D. Engh, C. Florez, W. Gabella, M. Issah, W. Johns, P. Kurt, C. Maguire, A. Melo, P. Sheldon, B. Snook, S. Tuo, J. Velkovska C. Maguire, A. Melo, P. Sheldon, B. Snook, S. Tuo, J. Velkovska – 29 – University of Virginia, Charlottesville, USA Weinberg †: Deceased † 1: Also at CERN, European Organization for Nuclear Research, Geneva, Switzerland 2: Also at Universidade Federal do ABC, Santo Andre, Brazil 3: Also at Laboratoire Leprince-Ringuet, Ecole Polytechnique, IN2P3-CNRS, Palaiseau, France Also at Laboratoire Leprince-Ringuet, Ecole P 3 p R g , y q , 3 C RS, , 4: Also at Suez Canal University, Suez, Egypt 4: Also at Suez Canal University, Suez, Egypt 4: Also at Suez Canal University, Suez, Egypt 4: Also at Suez Canal University, Suez, Egypt 5: Also at British University, Cairo, Egypt 6: Also at Fayoum University, El-Fayoum, Egypt 7: Also at Soltan Institute for Nuclear Studies, Warsaw, Poland 7: Also at Soltan Institute for Nuclear Studies, Warsaw, Poland 8: Also at Massachusetts Institute of Technology, Cambridge, USA 9: Also at Universit´e de Haute-Alsace, Mulhouse, France 10: Also at Brandenburg University of Technology, Cottbus, Germany 11: Also at Moscow State University, Moscow, Russia 12: Also at Institute of Nuclear Research ATOMKI, Debrecen, Hungary 13: Also at E¨otv¨os Lor´and University, Budapest, Hungary 14: Also at Tata Institute of Fundamental Research - HECR, Mumbai, India 15: Also at University of Visva-Bharati, Santiniketan, India 16: Also at Sharif University of Technology, Tehran, Iran 17: Also at Shiraz University, Shiraz, Iran 18: Also at Isfahan University of Technology, I 19: Also at Facolt`a Ingegneria Universit`a di Roma ”La Sapienza”, Roma, Italy lso at Facolt`a Ingegneria Universit`a di Roma ”La 20: Also at Universit`a della Basilicata, Potenza, Italy 21: Also at Laboratori Nazionali di Legnaro dell’ INFN, Legnaro, Italy 21: Also at Laboratori Nazionali di Legnaro dell’ INFN, Legnaro, Italy 22: Also at Universit`a degli studi di Siena, Siena, Italy 23: Also at California Institute of Technology, Pasadena, USA 24: Also at Faculty of Physics of University of Belgrade, Belgrade, Serbia 25: Also at University of California, Los Angeles, Los Angeles, USA 26: Also at University of Florida, Gainesville, USA 27: Also at Universit´e de Gen`eve, Geneva, Switzerland 28: Also at Scuola Normale e Sezione dell’ INFN, Pisa, Italy 29: Also at University of Athens, Athens, Greece 30: Also at The University of Kansas, Lawrence, USA 31: Also at Institute for Theoretical and Experimental Physics, Moscow, Russia p y , , 32: Also at Paul Scherrer Institut, Villigen, Switzerland 32: Also at Paul Scherrer Institut, Villigen, Switzerland – 30 – 33: Also at University of Belgrade, Faculty of Physics and Vinca Institute of Nuclear Sciences, Belgrade, Serbia 33: Also at University of Belgrade, Faculty of Physics and Vinca Institute of Nuclear Sciences, Belgrade, Serbia 34: Also at Gaziosmanpasa University, Tokat, Turkey 35: Also at Adiyaman University, Adiyaman, Turkey 36: Also at Mersin University, Mersin, Turkey 37: Also at Izmir Institute of Technology, Izmir, Turkey 38: Also at Kafkas University, Kars, Turkey 39: Also at Suleyman Demirel University, Isparta, Turkey 40: Also at Ege University, Izmir, Turkey 41: Also at Rutherford Appleton Laboratory, Didcot, United Kingdom 41: Also at Rutherford Appleton Laboratory, Didcot, United Kingdom 42: Also at School of Physics and Astronomy, University of Southampton, Southampton, United Kingdom JHEP08(2011)117 43: Also at INFN Sezione di Perugia; Universit`a di Perugia, Perugia, Italy 43: Also at INFN Sezione di Perugia; Universit`a di Perugia, Perugia, Italy 44: Also at Utah Valley University, Orem, USA 45: Also at Institute for Nuclear Research, Moscow, Russia 45: Also at Institute for Nuclear Research, Moscow, Russia 46: Also at Los Alamos National Laboratory, Los Alamos, USA 46: Also at Los Alamos National Laboratory, Los Alamos, USA 47: Also at Erzincan University, Erzincan, Turkey 47: Also at Erzincan University, Erzincan, Turkey – 31 –
https://openalex.org/W3012584695
https://revistas.uned.ac.cr/index.php/cuadernos/article/download/2811/3581, https://www.redalyc.org/journal/5156/515663758007/515663758007.pdf
es
Los pastos estrella africana, kikuyo y “rye grass” en Cartago, Costa Rica: biomasa, composición botánica y nutrientes
Cuadernos de Investigación UNED/Cuadernos de investigación UNED
2,020
cc-by
4,681
Los pastos estrella africana, kikuyo y “rye grass” en Cartago, Costa Rica: biomasa, composición botánica y nutrientes Luis Villalobos Villalobos1 & Rodolfo WingChing-Jones2 1. Universidad de Costa Rica, Escuela de Zootecnia, Centro de Investigación en Nutrición Animal, San José, Costa Rica; 2. luis.villalobosvillalobos@ucr.ac.cr Universidad de Costa Rica, Escuela de Zootecnia, Centro de Investigación en Nutrición Animal (CINA), San José, Costa Rica; rodolfo.wingching@ucr.ac.cr Recibido 28-VIII-2019  Corregido 9-XI-2019  Aceptado 12-XII-2019 DOI: https://doi.org/10.22458/urj.v12i1.2811 ABSTRACT. “African Stargrass, Kikuyograss and Ryegrass in Cartago, Costa Rica: biomass, field composition and nutrients”. Introduction: Forage is the main feedstuff for dairy cattle and its quality and biomass define optimal nutritional balances. Objectives: To evaluate the biomass, botanical composition, and crude protein, neutral detergent fiber and digestibility of Stargrass, Kikuyugrass and perennial Ryegrass with 30, 30, and 38 days of regrowth, respectively, located in the foothills of Irazu volcano, Costa Rica. Methods: We collected forage samples in paddocks 1-2 days before grazing from June 2016 through July 2017, 20 samples in each forage. We estimated biomass by using a visual assessment technique and separated each sample in three subsamples for nutritional analyses, number of leaves per tiller, and botanical composition. Results: We found greater allowance (kg DM/cow/paddock), protein, and digestible fiber in Stargrass. We found no significant differences in nutrients between Kikuyu and Ryegrass. We used four groups to classify the plant cover in the paddocks. The main species of grass varied between 50-99% while other grasses represented 0-36 % of the plant cover. The percent of weeds and legumes were 0-7,5% and 0-15% in the paddocks, respectively. We found that senescent material could represent up to 46% in some of the paddocks. Conclusion: The botanical composition in the paddocks had no effect on the nutritional value of the three grasses. RESUMEN. Introducción: El forraje es el alimento principal para el ganado lechero y su calidad y biomasa definen equilibrios nutricionales óptimos. Objetivo: Valoramos la disponibilidad de biomasa, la composición botánica, los contenidos de proteína cruda, fibra detergente neutro y la digestibilidad del pasto estrella africana, kikuyo y ryegrass bajo pastoreo, ubicados en las faldas del volcán Irazú, Costa Rica con 30, 30 y 38 días de rebrote, respectivamente. Métodos: De junio 2016 a julio 2017, recolectamos muestras de los tres forrajes, 1-2 días antes del ingreso de los animales, para 20 muestreos en cada forraje, mediante el uso de una técnica visual que permite determinar la biomasa disponible en cada aparto. Esta muestra se dividió en tres partes, para el análisis de composición nutricional, número de hojas y composición botánica. Resultados: Encontramos que el pasto estrella africana ofrece mayor cantidad de materia seca disponible (Kg MS/animal/potrero), proteína disponible, FDN digestible y materia seca digestible que los pastos kikuyo y ryegrass. Además, no determinamos diferencias en los aportes nutricionales entre el pasto kikuyo y ryegrass. Identificamos cuatro coberturas en los potreros, donde la gramínea principal fluctuó entre 50 y 99%, la secundaria, entre 0 y 36%, las arvenses y leguminosas de 0 a 7,5% y 0 a 15% respectivamente. Mientras que, el material senescente vario entre 0 a 46% según la especie forrajera. Conclusión: La composición botánica en los potreros no tuvo efecto sobre el valor nutricional de los tres pastos. Keywords: Forages, weed, crude protein, digestibility, fiber. Palabras clave: Forraje, malezas, proteína cruda, digestibilidad, fibra. UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1):e2811, June, 2020 El área de cultivo de forraje en Costa Rica equivale al 25% del territorio nacional (INEC, 2015), área cubierta por gramíneas y leguminosas de piso para el pastoreo de los semovientes y en sistemas de corta y acarreo. Por sus características inherentes, se pueden agrupar por pisos altitudinales, resistencia a enfermedades y plagas (Castillo, 2006), adaptabilidad a suelos con pH bajos (Jiménez, Granados, Oliva, Quiroz, & Barrón, 2010), alta salinidad (Cardamone, Cuatrín, Grunberg, & Tomás, 2018) y humedad. Como meta, los sistemas de producción buscan optimizar la relación entre productividad por hectárea del cultivo y aporte efectivo de nutrimentos. Por consiguiente el requerimiento nutricional del semoviente es cubierto por la sumatoria de los aportes del forraje consumido, más lo suministrado en la canoa, como el alimento balanceado, forraje de corta, forrajes conservados, subproductos agrícolas y aditivos nutricionales (NRC, 2001). Desde la perspectiva de manejo del cultivo, la meta se logra al recolectar información de la producción de biomasa producida y la composición botánica de este material a través del tiempo, para obtener un inventario forrajero, que permita proyectar la capacidad de carga de la finca, como también, las variaciones del aporte nutricional. Estudios de esta índole en Costa Rica, describen la producción y calidad del pasto estrella africana, kikuyo y ryegrass; a diferentes edades de cosecha. En el caso del pasto estrella (28 días/pastoreo), se registran producciones de biomasa de 4 642kg MS/ha/ciclo en promedio (Salazar, 2007), con porcentajes de aprovechamiento de 43,05% y contenidos de materia seca (MS%), proteína cruda (PC%), fibra detergente neutro (FDN%), fibra detergente ácida (FDA%), extracto etéreo (EE%) y cenizas de 22,09; 20,25; 72,81; 37,88; 0,91 y 8,69% respectivamente (Salazar, 2007). Para el pasto Kikuyo, se informa de una disponibilidad a 28 días de rotación de 7 108kg MS/ha (Andrade, 2006), con valores porcentuales de MS, PC, FDN, FDA, EE y cenizas de 20,19; 22,62; 58; 29; 3,05 y 9,05% respectivamente (Andrade, 2006). Por último, en el pasto Ryegras se resume una producción promedio de 4 110kg MS/ha/ciclo y valores de MS, PC, FDN, FDA, EE y cenizas de 15,92; 25,21; 49,76; 25,57; 2,61 y 9,96% respectivamente (Villalobos, 2006). Sumado a este ejercicio de caracterizar la productividad del cultivo, valorar su composición botánica y su dinámica según el pastoreo, es una señal de sostenibilidad de la pastura, debido a que las coberturas secundarias, compiten por espacio, radiación, nutrimentos de la solución del suelo con el cultivo principal (Galon et al., 2018), presentan alelopatías que reducen la viabilidad de la pastura (Yuan et al., 2018), albergan poblaciones de nematodos que afectan las raíces del cultivo principal (Núñez, 2017); además de reducir la disponibilidad (Harker, Baron, Chanasyk, Naeth, & Stevenson, 2000) y la calidad de la materia seca comestible para los semovientes (Belle, Marchi, Martins, Sousa, & Pinheiro, 2018) . En el caso de la composición botánica, los estudios en pasto estrella, kikuyo y ryegrass, describen además de la cobertura principal, la presencia de otras gramíneas, arvenses y material senescente. Valores que fluctúan para la cobertura principal entre 82,56 y 95,11 para Estrella africana (Salazar, 2007), de 77,42 a 86,5 en Kikuyo (Andrade, 2006) y 67,72 a 80,63 en Ryegrass (Villalobos, 2006). Para las otras coberturas analizadas, en el pasto estrella, se informan rangos a través del año para las otras gramíneas, malezas y material senescente de 1,04 a 4,11; de 0 a 5,44 y de 2,72 a 10,93% respectivamente (Salazar, 2007). Mientras que en el pasto Kikuyo, los rangos fueron de 8,26 a 14,4; 0,43 a 0,77 y 3,11 a 6,09% respectivamente (Andrade, 2006). En el caso del pasto ryegrass, los valores descritos fueron de 9,29 a 18,61; de 0,49 a 2,02 y de 0,27 a 6,01, para las coberturas de otras gramíneas, arvenses y material senescente respectivamente (Villalobos, 2006). El conocer la composición de la pastura es una herramienta de medición que permite categorizar el grado de degradación que presenta el cultivo, donde valores mayores a 10% de malezas, 2% de leguminosas y menos del 80% de la biomasa proveniente de la gramínea principal, son indicadores del inicio de un proceso de degradación (Garzón & Mora, 2014). Por tal motivo, el objetivo de esta propuesta fue valorar la disponibilidad de biomasa, la composición botánica, los contenidos de proteína cruda, fibra detergente neutro y la digestibilidad UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020 del cultivo del pasto estrella africana, kikuyo y ryegrass bajo pastoreo, ubicados en las faldas del volcán Irazú, Costa Rica. MATERIALES Y MÉTODOS Ubicación de los sistemas: Los tres forrajes utilizados en esta investigación se ubicaron en la provincia de Cartago, Costa Rica, en las faldas del Volcán Irazú. En el caso del pasto estrella africana, se encontró a 1 400m.s.n.m. (9°51´48.40"N & 83°56´51.57"O) y presentó un periodo de descanso/ocupación de 30/1 días. Para el pasto Kikuyo, el periodo de descanso/ocupación fue de 30/0,5 días, a una altura de 2 400m.s.n.m. (9°56´24.90"N & 83°52´44.28"O). Por último, el pasto Ryegrass, presento un ciclo de descanso/ocupación de 38/0,5 días y se ubicó a 2 800m.s.n.m. (9°57´25.39"N & 83°49´57.21"O) Periodo experimental: De junio 2016 a julio 2017, muestreamos los tres forrajes, entre uno o dos días antes del ingreso de los animales, para un total de 20 muestreos en cada forraje durante el periodo experimental. Este muestreo consistió en la utilización de una técnica visual (Botanal®) para la determinación de la biomasa disponible en cada aparto (Hargraves & Kerr, 1978). Esta asocia un valor numérico (1, 2 y 3) a una cobertura característica dentro del potrero, donde se considera la altura y la densidad del forraje; el valor de uno considera un estrato con baja disponibilidad, dos, con una disponibilidad media y tres con una alta disponibilidad de forraje. En una primera etapa, el aparto se inspecciona para definir y ubicar los tres estratos, posterior a esta identificación, el aparto se recorre de forma sistemática, donde cada 5 pasos, se determina el tipo de estrato al frente de la persona que aplica el muestreo. Las lecturas se realizan hasta completar un mínimo de 60 puntos. Al finalizar, con ayuda de un marco de 0,50m de lado, se cosecha en bolsas individuales los estratos (1, 2 y 3) definidos en la primera etapa de esta técnica, a una altura de 10cm. Estas tres muestras se pesan y se multiplica cada una con su respectiva frecuencia relativa, tomando como base las 60 muestras visuales. Estos productos (peso estrato(1,2,3) * frecuencia relativa(1,2,3) se suman y se dividen entre el total de muestras visuales tomadas, para obtener la ponderación de la biomasa disponible por aparto en 0,25m2. En el caso de este trabajo, este valor se multiplicó por el tamaño del aparto y se dividió entre el número de animales, para obtener los kilogramos de biomasa disponible promedio por animal en cada aparto. De forma proporcional a los resultados obtenidos por la técnica visual de muestreo en cada forraje, se tomó una porción del forraje de forma aleatoria de cada estrato, para obtener una muestra compuesta, la cual fue enviada al laboratorio de bromatología del Centro de Investigación en Nutrición Animal (CINA) de la Universidad de Costa Rica, donde se realizaron los análisis de materia seca (MS), proteína cruda (PC), fibra detergente neutro (FDN), digestibilidad de la fibra detergente neutro (dFDN) y digestibilidad de la materia seca (DIVMS) (AOAC,1991). En el caso de la determinación del número de hojas uno o dos días antes del pastoreo, en cada muestreo se realizaron 50 observaciones aleatorias, con la finalidad de contar el número de hojas, para tal fin, solo se consideraron las hojas verdes, descartando las hojas senescentes en cada rebrote. Al obtener estas 50 observaciones, los valores obtenidos se promediaron, para obtener el número de hojas promedio al momento del pastoreo. Por último, para la determinación de la composición botánica de la pastura, se utilizó, la plantilla del programa Botanal®, la cual asume y clasifica las tres principales especies en orden descendente, en cobertura mayor (70,2%), media (21,1%) y baja (8,7%). Permitiendo repetir una especie dos o tres veces en la categorización, tal como ocurrió en los potreros de este estudio con los tres pastos que se consideran monocultivos. Partiendo de este supuesto, en cada lectura se realizaba una separación visual de las coberturas presentes, valor que se ponderó entre el número de muestras visuales, para cada cobertura evaluada. UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020 Análisis de la información: La información de cada potrero se organizó en un diseño irrestricto al azar, para definir el efecto de la composición botánica del aparto (proporción gramínea principal, gramínea secundaria, arvenses, leguminosas y material senescente) sobre la disponibilidad de biomasa, el contenido de proteína cruda, fibra detergente neutro y la digestibilidad de la materia seca y de la fibra. De igual manera, con ayuda del comando Proc GLM del programa SAS (2011), se comparó los indicadores de producción de biomasa, número de hojas, contenido de proteína, fibra y la digestibilidad de los tres forrajes analizados. Ética, conflicto de interés y declaración de financiamiento: Los autores declaramos haber cumplido con todos los requisitos éticos y legales pertinentes, tanto durante el estudio como en el manuscrito; que no hay conflictos de interés de ningún tipo, y que todas las fuentes financieras se detallan plena y claramente en la sección de agradecimientos. Asimismo, estamos de acuerdo con la versión editada final del documento. El respectivo documento legal firmado se encuentra en los archivos de la revista. RESULTADOS Productividad y aporte nutricional: Al separar las especies forrajeras estudiadas según la altitud del sistema productivo, se nota que la especie cultivada por debajo de los 2 000m.s.n.m, supera en 2,68 y 2,40 veces los kg MS/animal/potrero disponible para cada animal en el caso del pasto kikuyo y Ryegrass respectivamente (Cuadro 1). De igual manera, al considerar el número de hojas de los materiales forrajeros al momento de la cosecha, el pasto estrella africana, presenta 1,64 y 2,70 más hojas, que los pastos cultivados a 2 400 y 2 800m.s.n.m., respectivamente. En el caso de los kilogramos de proteína disponible para los animales durante el pastoreo, en este trabajo se determinó que el pasto estrella (4,56kg PC) aporta 2,28 y 2,21 veces más PC que el pasto kikuyo (2kg PC) y ryegrass (2,06kg) respectivamente. Al evaluar la disponibilidad de la FDN digestible para los semovientes en cada aparto, se encontró que el pasto estrella (10,24kg FDN) supera al pasto kikuyo (3,89 kg FDN) y ryegrass (4,48kg FDN) en 2,63 y 2,28 veces respectivamente. Por último, los kilogramos de materia seca digestible disponible para los animales, fue de 22,18kg en el pasto estrella, 9,33kg en el pasto kikuyo y de 10,71kg en el pasto ryegrass, presentando una proporción de 2,38 y 2,07 respectivamente. En el caso de la relación entre el pasto kikuyo y el ryegrass para los kg de PC, FDN digestible y la materia seca digestible disponible en cada aparto fue cercana a uno. En las tres especies forrajeras estudiadas, la proporción de la cobertura de la gramínea principal, fluctúo entre el 50 y 99% (Cuadro 2). Para el caso de la cobertura secundaria, está alcanzó un máximo de 35,61% en el pasto ryegrass, un valor intermedio en el pasto estrella (19,13%) y un valor de 9,22% en la pastura de kikuyo. Los valores máximos de arvenses obtenidos en este trabajo fluctuaron entre 1,12 hasta 7,52% (Cuadro 2). Los forrajes por encima de los 2 000m s.n.m presentaron mayor proporción de plantas leguminosas que en el caso del pasto estrella, mientras que la proporción de material senescente superó el 40% de la cobertura en las pasturas de estrella y kikuyo, no así en el pasto ryegrass, que obtuvo un valor máximo de 15,2%. Valores de otras coberturas hasta un valor promedio de 18,31, 17,32 y 21,65% en los forrajes estrella africana, kikuyo y ryegrass, respectivamente; no afectan la cantidad (kg MS) ni la calidad (PC, DIVMS y FDN) de la materia seca disponible para los semovientes al momento del pastoreo (Cuadro 3). UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020 Cuadro 1 Producción de biomasa, número de hojas, contenido de proteína, fibra y digestibilidad de la materia seca de estrella africana, kikuyo y Ryegrass bajo pastoreo Variable N Especie forrajera Estrella Africana N Kikuyo 29,11 a 10,86 b N Biomasa disponible (Kg MS/animal/potrero) 20 20 20 20 6,56 a 20 3,99 b 20 Número hojas verdes/rebrote 18 15,66 b 18 18,45 a 18 Proteína cruda (%) a b 20 57,43 20 48,89 20 Fibra detergente neutro (%) c b 20 61,26 20 73,31 20 Digestibilidad de la FDN (%) 20 76,21 c 20 85,95 b 20 DIVMS (%) * Letras distintas en una misma variable significan diferencias significativas entre especies forrajeras (p>0,5). Ryegrass 12,16 b 2,43 c 16,94 ab 47,80 b 77,17a 88,11 a Cuadro 2 Composición botánica de apartos de estrella africana, Kikuyo y ryegrass en pastoreo Composición de la cobertura (%) Tipo de cobertura N Mínimo Promedio Máximo Estrella Africana Gramínea principal Gramínea secundaria Arvenses Leguminosas Material senescente 20 20 20 20 20 53,44 0 0 0 0 81,69 2,56 0,29 0,07 15,39 Kikuyo 99,13 19,13 1,12 0,96 46,01 Gramínea principal Gramínea secundaria Arvenses Leguminosas Material senescente 20 20 20 20 20 54,43 0 0 0 0 83,24 2,7 1,02 1,54 12,06 Ryegrass 99,65 9,22 4 5,48 44,03 Gramínea principal Gramínea secundaria Arvenses Leguminosas Material senescente 20 20 20 20 20 49,4 0 0 0 0 78,33 10,85 1,52 6,71 2,57 96,01 35,61 7,52 14,66 15,2 UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020 Cuadro 3 Significancia del tipo de cobertura sobre la biomasa disponible y la calidad nutricional de la estrella africana, kikuyo y ryegrass en pastoreo Tipo de cobertura Biomasa disponible (Kg MS/animal/potrero) Proteína cruda (%) Fibra detergente neutro (%) DIVMS (%) Estrella africana Gramínea principal Gramínea secundaria Arvenses Leguminosas Material senescente ns* ns ns ns ns Gramínea principal Gramínea secundaria Arvenses Leguminosas Material senescente ns ns ns ns ns Gramínea principal Gramínea secundaria Arvenses Leguminosas Material senescente *ns: no significativo; p>0,05 ns ns ns ns ns ns ns ns ns ns Kikuyo ns ns ns ns ns Ryegrass ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns ns DISCUSIÓN Los tres cultivos estudiados presentan un rango de altura que favorece el desarrollo del mismo, en el caso de este estudio esta diferencia fue 1 000 y 1 400m.s.n.m. entre el pasto estrella africana en comparación al pasto kikuyo y ryegrass, respectivamente. Estos rangos de altura generan ecosistemas con gradientes de temperatura, radiación, humedad relativa, nubosidad, humedad del suelo, temperatura del suelo y velocidad del viento (Conejo, 2017); factores que afectan el crecimiento del forraje y la velocidad de recuperación después de un periodo de pastoreo por parte del semoviente. Además del componente ambiental para su adaptación, las características propias del cultivo, al tener crecimiento estolonífero (estrella africana), rizomatoso (Kikuyo) y en cepa (Ryegrass), le permite una mayor cantidad de puntos de crecimiento (yemas), hojas remanentes al pastoreo y estructuras de reserva de carbohidratos (estolones y rizomas), con lo que su recuperación es más rápida en el caso de la estrella y el kikuyo, al compararlo con el sistema radical del pasto ryegrass. Estas variables ambientales, que permite el crecimiento del cultivo, podrían generar condiciones durante el desarrollo de la planta que reducen su tasa de crecimiento (Gonçalves, Riberio, Reis, & Cóser, 2018), al alcanzar periodos de nubosidad y precipitación que interfieren con la radiación que podría capturar el forraje. Dicha situación produce una reducción de la temperatura ambiental tanto en el día como en la noche, hasta el punto de inhibir el crecimiento del forraje, lo que reduce la productividad e incrementa los días de recuperación para obtener una mayor disponibilidad de forraje; sin dejar de lado el efecto físico del pisoteo de los semovientes sobre el cultivo y el suelo en condiciones con contenidos de humedad diferente (WingChing-Jones, Cabalceta-Aguilar, & Alvarado-Hernández, 2009). Esta afirmación se fortalece al valorar la edad UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020 fenológica de los tres cultivos, donde por encima de los 2 000m s.n.m presentan una menor cantidad de hojas en desarrollo y se nota una tendencia a la disminución del número de hojas según aumenta la altitud. El uso de la edad fenológica para establecer los días de recuperación, permite optimizar la productividad de la pastura, siendo en el caso del pasto estrella (Villalobos & Arce, 2013), kikuyo (Cascante, 2018) y ryegrass (Villalobos, 2006) de 6-8, 4,5 y 2,5-3,0, el número de hojas verdes apropiado para la cosecha respectivamente. Al evaluar los aportes de proteína cruda, pared celular (FDN) y digestibilidad de la materia seca consumida, se observa que conforme aumenta la altitud, mayor es la concentración de proteína y materia seca digestible, lo que podría relacionarse a una mayor proporción entre el contenido celular y la pared celular de los forrajes evaluados. En estudios similares en Costa Rica, se determinaron valores de proteína de 19,79 a 20,79, 21,31 a 23,49 y de 24,32 a 36,30% para los forrajes estrella (Salazar, 2007), kikuyo (Andrade, 2006) y ryegrass (Villalobos, 2006) cosechados a 28, 28 y 40 días de recuperación respectivamente. Rangos que superan los valores determinados en este trabajo, diferencias que se podrían asociar al manejo de la pastura, a los programas de fertilización implementados y a las condiciones climáticas durante el periodo de evaluación (Redfearn, Venuto, Pitman, Alison, & Ward, 2002). Además, estas diferencias fortalecen la importancia de establecer en los sistemas de producción, la práctica rutinaria de evaluación productiva y nutritiva de las pasturas, con la meta de satisfacer los requerimientos de los animales (NRC, 2001). Al valorar las proporciones de las coberturas presentes, se nota como el tipo de crecimiento que presentan los tres forrajes evaluados, permiten la presencia de otras gramíneas, leguminosas y malezas. Como se comentó, el crecimiento estolonífero y rizomatoso permite una recuperación de la pastura que evita la proliferación de puntos de crecimientos de arvenses y leguminosas, como también, la competencia por otras gramíneas, caso contrario, el tipo cepa, característica del cultivo del ryegrass, donde por efecto del pisoteo y el pastoreo, estas unidades de crecimiento se debilitan y permite el ingreso del pasto kikuyo u otras gramíneas dentro del área de pastoreo de los sistemas de producción. Por otro lado, es importante considerar el manejo del pastoreo, donde la utilización del aparto por un periodo de medio día, genera una presión de pastoreo sobre el forraje, que en el momento de cambiar a los semovientes de aparto, el área recién pastoreada queda con un remanente aproximado al 55 al 68% de la biomasa inicial, material que cubre el suelo y evita la proliferación de otras coberturas (Villalobos, Arce, & WingChing, 2013). Las prácticas implementadas en el manejo de los cultivos en sistemas de producción especializada de leche en zona de altura como la suplementación en canoa, el pastoreo rotacional, presión de pastoreo no mayor a 12 horas continuas, uso de purines como enmiendas orgánicas (VanWieringen et al., 2005), aplicación de fertilizantes (N,P, K); y control cultural y químico de malezas, permiten mantener la cobertura principal del forraje, con la intención de garantizar un aporte de consumo de materia seca alto del forraje, debido a que es una fuente alimenticia de bajo costo (Villalobos, Arce, & WingChing, 2013) en comparación a otras fuentes forrajeras, alimento balanceado y subproductos agrícolas utilizados en estos sistemas de producción. AGRADECIMIENTOS Agradecemos el apoyo brindado de la Vicerrectoría de Investigación de la Universidad de Costa Rica mediante el proyecto 739-B6-258 Estimación de biomasa con el plato medidor (Rising Platemeter) en pastos ryegrass, kikuyo y estrella africana. A los productores participantes, que de forma desinteresada nos permitieron trabajar en las áreas de pastoreo. UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020 REFERENCIAS Andrade, M. (2006). Evaluación de técnicas de manejo para mejorar la utilización del pasto kikuyo (Pennisetum clandestinum Hochst. Ex Chiov) en la producción de ganado lechero en Costa Rica (Tesis de Licenciatura). Universidad de Costa Rica, Costa Rica. Association of Official Analytical Chemist (AOAC). (1991). Methods of analysis. Washington D.C., USA: AOAC, Inc. Belle, J. R., Marchi, S. R., Martins, D., Sousa, A. C., & Pinheiro, G. H. R. (2018). Nutritional value of marandú palisade grass according to increasing coexistence periods with weed. Planta Daninha, 36, e018170348. DOI: 10.1590/S010083582018360100070 Cascante, S. (2018). Validación del sistema de pastoreo bajo el concepto de edad fenólogica del pasto Kikuyo (Kikuyuocloa clandestina) en la lechería La Guaria, de la Hacienda La Concordia, Alajuela, Costa Rica (Tesis de Licenciatura). Universidad de Costa Rica, Costa Rica. Castillo, S. (2006). Uso de Metarhizium anisopliae para el control biológico del salivazo (Aeneolamia spp. y Prosapia spp.) en pastizales de Brachiaria decumbens en el Petén, Guatemala (Trabajo de maestría). CATIE, Costa Rica. Cardamone, L., Cuatrín, A., Grunberg, K., & Tomás, M. A. (2018). Variability for salt tolerance in a collection of Panicum coloratum var. Makarikariense during early growth stages. Tropical Grassland, 6(3), 134-147, DOI: 10.17138/TGFT(6)134-147 Conejo, J. (2017). Efecto de las condiciones ambientales sobre la producción láctea de dos hatos de ganado Jersey en dos pisos altitudinales de la provincia de Cartago (Tesis de Licenciatura). Universidad de Costa Rica, Costa Rica. Galon, L., Santin, C. O., Andres, A., Basso, F. J. M., Nonemacher, F., Agazzi, L. R., … Fernandez, F. F. (2018). Competitive interaction between sweet sorghum with weed. Planta Daninha, 36, e018173689, DOI: 10.1590/S010083582018360100053 Garzón, E. F. & Mora, J. (2014). Análisis multicriterio del estado de las pasturas de la Hacienda Ganadera García abajo en Corinto (Cuaca, Colombia). Revista de la Facultad de Medicina Veterinaria y de Zootecnia, 61(1), 64-82. DOI: 10.15446/rfmvz.v61n1.44182 Gonçalves, M., Ribeiro, W., Reis, E., & Cóser A. (2018). Bromatología de gramíneas tropicais sob diferentes tensões de água no solo em ambiente protegido. Nativa, 6(4), 415-421. DOI: 10.31413/nativa.v6i4.5588 Hargraves, J. N. G., & Kerr J. D. (1978). Botanal: a comprehensive sampling and computing procedure for estimating pasture yield and composition. II. Computational package (Technical Memorandum Nº. 9). Division of Tropical Crops and Pastures, Tropical Agronomy, CSIRO, Australia. Harker, K., Baron, V., Chanasyk, D., Naeth, M., & Stevenson, F. (2000) Grazing intensity effects on weed populations in annual and perennial pasture systems. Weed Science, 48(2), 231-238. DOI: 10.1614/00431745(2000)048[0231:GIEOWP]2.0.CO;2 INEC (Instituto Nacional de Estadísticas y Censos). (2015). VI Censo Nacional Agropecuario: Resultados generales. Instituto Nacional de Estadística y Censos, San José, CRC. Recuperado de http://www.mag.go.cr/bibliotecavirtual/U4010581.pdf Jiménez, O. M. M., Granados, L., Oliva, J., Quiroz, J., & Barrón, M. (2010). Calidad nutritiva de Brachiaria humidicola con fertilización orgánica e inorgánica en suelos ácidos. Archivos de Zootecnia, 59(228), 561-570. DOI: 10.21071/az.v59i228.4711 NRC (National Research Council). (2001). Nutrient requirements of dairy cattle (7th Ed.). National Academy Press, Washington DC., USA. UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020 Núñez, L. (2017). Identificación de nematodos fitoparásitos asociados a las principales malezas en fincas productoras de papa (Solanum tuberosum L.) en la provincia de Cartago (Tesis de Licenciatura). Universidad de Costa Rica, Costa Rica. Redfearn, D., Venuto, B., Pitman, D., Alison, M., & Ward, J. (2002). Cultivar and environment effects on anual ryegrass forage yield, yield distribution and nutritive value. Crop Science, 42, 2049-2054. DOI: 10.2135/cropsci2002.2049 Salazar, S. (2007). Disponibilidad de biomasa y valor nutricional del pasto estrella africana (Cynodon nlemfuensis) en el distrito de Quesada, Cantón de San Carlos. (Tesis de Licenciatura). Universidad de Costa Rica, San José, Costa Rica. SAS. (2011). The SAS system for Windows No. 9.3. SAS Inst., Cary, NC, USA. VanWieringen, L., Harrison, J., Nennich, T., Davidson, D., Morgan, L., Chen, S., … Hoisington, F. (2005). Manure management effects on grass production, nutritive content and soil nitrogen for a grass silage-based dairy farm. Journal Environmental Quality, 34, 164-173. Villalobos, L. (2006). Disponibilidad y valor nutricional del pasto ryegrass perenne tetraploide (Lolium perenne) en las zonas altas de Costa Rica (Tesis de Licenciatura). Universidad de Costa Rica, Costa Rica. Villalobos, L., & Arce, J. (2013). Evaluación agronómica y nutricional del pasto Estrella africana (Cynodon nlemfuensis) en la zona de Monteverde, Puntarenas, Costa Rica. I. Disponibilidad de biomasa y fenología. Agronomía Costarricense, 37, 91-101. Villalobos, L., Arce, J., & WingChing, R. (2013). Producción de biomasa y costos de producción de pastos Estrella africana (Cynodon nlemfuensis), Kikuyo (Kikuyocloa clandestina) y Ryegrass perenne (Lolium perenne) en lecherías de Costa Rica. Agronomía Costarricense, 37(2), 91-103. WingChing-Jones, R., Cabalceta-Aguilar, G., & Alvarado-Hernández, A. (2009). Impacto del pastoreo con ganado Holstein y Jersey sobre la densidad aparente de un andisol. Agronomía Mesoamericana, 20(2), 369-377. DOI: 10.15517/am.v20i2.4953 Yuan, Z., Zheng, X., Zhao, Y., Liu, Y., Zhou, S., Wei, C., … Shao, H. (2018). Phytotoxic compounds isolated from leaves of the invasive weed Xanthium spinosum. Molecules, 23(11), 2840. DOI: 10.3390/molecules23112840 UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020
https://openalex.org/W4393236115
https://dergipark.org.tr/tr/download/article-file/3720267
Turkish
null
FOTOVOLTAİK VE BİYOGAZ ENERJİ SİSTEMLERİNİN ENERJİ VE ÇEVRESEL POTANSİYELLERİNİN İNCELENMESİ: SÜT SIĞIRI ÇİFTLİĞİ ÖRNEĞİ
Deleted Journal
2,024
cc-by
7,216
Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 ARAŞTIRMA Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 DOI: 10.17482/uumfd.1434976 DOI: 10.17482/uumfd.1434976 1Bursa Teknik Üniversitesi, Mühendislik ve Doğa Bilimleri Fakültesi, Çevre Mühendisliği Bölümü, Yıldırım/Bursa *İletişim Yazarı: Dr. Öğr. Üyesi Saadet HACISALİHOĞLU (saadet.hacisalihoglu@btu.edu.tr) FOTOVOLTAİK VE BİYOGAZ ENERJİ SİSTEMLERİNİN ENERJİ VE ÇEVRESEL POTANSİYELLERİNİN İNCELENMESİ: SÜT SIĞIRI ÇİFTLİĞİ ÖRNEĞİ Beyza KORKMAZ* Saadet HACISALİHOĞLU1* Geliş: 10.02.2024; düzeltme: 19.03.2024; kabul: 20.03.2024 Geliş: 10.02.2024; düzeltme: 19.03.2024; kabul: 20.03.2024 Öz: Doğal kaynaklardan enerji kazanımları dünya genelinde yaygınlaşmaya başlamıştır. Günümüzde de sık duyduğumuz güneş ve biyogaz enerji sistemleri yatırımcıların da ilgisini çekmektedir. Uygun bölgede uygun yatırımlar ile büyük kazançlar elde edilmesi hem enerjiyi daha çevreci hem de yatırımcıyı daha karlı duruma getirmiştir. Bu çalışmada Bursa’nın Karacabey ilçesinde bir süt sığırı çiftliğine güneş veya biyogaz enerji sistemlerinin kurulumu için enerji ve çevresel açıdan potansiyelleri incelenerek iki enerji sistemleri arasında karşılaştırma yapılmıştır. Güneş enerji sistemi için RETScreen programı kullanılarak süt sığırı çiftliğinin toplamda 1.026.597 kWh/yıl’lık elektrik üreteceği ve sistemin toplamda 345 tCO2/yıl sera gazı emisyonu azaltılabileceği tespit edilmiştir. Biyogaz sistemi için 2023 yılının sonunda çiftlikten üretilecek toplam elektrik üretim potansiyeli 1.012.158 kWh/yıl olduğu ve toplamda 692,316 ton/yıl CO2 emisyonun engellenebileceği belirlenmiştir. Çiftliğin yıllık tüketilen elektrik enerjisi miktarının 885.855 kWh/yıl olduğu tespit edilmiştir. İki enerji sistemi ile de çiftliğin elektrik enerji miktarının karşılanacağı fakat biyogaz tesisinin sera gazı emisyonunu daha fazla engelleyeceği sonucuna varılmıştır. Ancak, biyogaz tesisinin ilk yatırım ve işletme maliyetlerinin fazla olması ve yıllara göre hayvan miktarlarında düşüşlere bağlı olarak atık miktarlarında azalmaların meydana gelmesi ve bu durumun tesisin verimliliğini olumsuz etkilemesi gibi durumlar nedeniyle süt sığırı çiftliğine güneş panellerinin kurulmasına karar verilmiştir. Anahtar Kelimeler: Biyogaz, RETScreen, fotovoltaik, elektrik enerjisi, sera gazı, çiftlik 1. GİRİŞ Gün geçtikçe artan nüfus, sanayileşme ve gelişmekte olan teknolojiler ile birlikte dünyanın enerjiye olan ihtiyacı da artmaktadır. Kömür, petrol, doğalgaz gibi fosil yakıtlar dünyada yaygın halde kullanılmaktadır ve bu yakıtların kullanımı ile dünyanın büyük orandaki enerji ihtiyacı karşılanmaktadır. Ancak nüfusun hızlı bir şekilde artması ile dünyada sınırlı miktarda bulunan fosil yakıt miktarında azalma görülmektedir. Evsel ısıtmalarda, fabrikalarda vb. yerlerde fosil yakıtların kullanılması ve ulaşımda petrole dayalı olan yakıtların kullanılması atmosferdeki CO2 miktarı ve diğer sera gazı emisyonlarını arttırarak küresel ısınma, iklim değişikliği ve asit yağmurlarının oluşmalarına neden olmaktadır. Nüfusun hızlı bir şekilde artması ile gıdaların miktarında da azalma görülmektedir (Alma, 2022). Bu nedenle de gıda ihtiyacında artış durumu söz konusu olacaktır. Hayvansal üretimin arttırılması ile de gıda ihtiyacı karşılanmış olacaktır. Hayvansal üretimler sonucunda oluşan hayvansal atıklar önemli bir değere sahip olmakla birlikte ayrıca gübre görevi de taşımaktadır (Hacısalihoğlu, 2023). Gübrelerin tarımda kullanılması bitkilerin daha kaliteli ve verimli olmasını sağlamaktadır. Ülke ekonomisine katkısının çok fazla olduğu tarım sektörü için gübre, çok önemli bir değere sahiptir. Organik madde içeriği bakımından çok zengin değerlere sahip olan gübre, toprağın daha verimli olmasını sağlayacak ve ülkenin ekonomik kalkınmasına yardımcı olacaktır. Böyle önemli bir konuda hayvansal atıklar atık olmaktan ziyade ülkenin ekonomisine fayda sağlayan değer olarak görülmelidir. Dünyada ve Türkiye'de hayvansal atıkların düzenli olarak depolanmaması bir takım olumsuz sonuçlara neden olmaktadır. Atıkların düzensiz olarak depolanması nedeniyle; mikroorganizmaların çoğalmasına, su kaynakları ile temas halinde su kirliliğine, kötü koku oluşumuna, atıkların içerisinde bulunan organik maddelerin (azot, fosfor) yüzeysel sularda ötrofikasyona neden olmasına, görüntü kirliliğine, doğrudan tarım arazilerine verilmesiyle bitkilerin ürün kalitesinin düşmesine, sera gazı emisyon artışına neden olmaktadır (Tırınk, 2023). Bu nedenle atıkların uygun işlemlere tabi tutularak gübreye dönüştürülmesiyle olası çevresel problemlerin önüne geçilmiş olacaktır. Tarımsal üretim tüm ülkelerde olduğu gibi ülkemizde de önemli bir değere sahiptir ve bu üretimin en önemli ihtiyacı enerjidir. Tarımsal işletmelerde üretilen ürünlerin maliyetine etki eden en önemli unsurlardan biri enerji maliyetidir. İşletmelerde kar payını arttırmak için enerji maliyetini en aza indirmek işletmelere fayda sağlayacaktır. Tarımsal üretim işlemleri arasında çok fazla miktarda enerji tüketilen başlıca işlemler; sulama, ürün kurutma, sera ve hayvan barınaklarının ısıtma ve soğutulması, aydınlatma ile hayvancılık işletmelerindeki süt sağım üniteleridir. Teknolojinin en çok kullanıldığı ve en fazla enerji kullanımının gerçekleştiği sektör süt hayvancılığıdır. Yılın her günü ve günde iki üç sağım yapılır. Süt hayvancılığında harcanılan enerjinin büyük bir çoğunluğu süt sağım pompalarından kaynaklanmaktadır. Bu işlemler sırasında yaygın olarak; motorin, doğal gaz, elektrik, sıvılaştırılmış petrol gazı veya propan gibi yakıtlar kullanılır. Examination of Energy and Environmental Potentials of Photovoltaic and Biogas Energy Systems: The Case of a Dairy Cattle Farm Examination of Energy and Environmental Potentials of Photovoltaic and Biogas Energy Systems: The Case of a Dairy Cattle Farm Abstract: Energy gains from natural sources have become widespread around the world. Solar and biogas energy systems, which we hear frequently today, also attract the attention of investors. Obtaining large gains with appropriate investments in the appropriate region has made both energy more environmentally friendly and more profitable for the investor. In this study, the energy and environmental potentials for the installation of solar or biogas energy systems on a dairy farm in Karacabey district of Bursa were examined and a comparison was made between the two energy systems. Using the RETScreen program for the solar energy system, it was determined that the dairy farm would generate a total of 1.026.597 kWh/year of electricity and the system could reduce greenhouse gas emissions by 345 tCO2/year. For the biogas system, it was determined that the total electricity generation potential to be produced from the farm at the end of 2023 is 1.012.158 kWh/year and a total of 692,316 tons/year of CO2 emissions can be prevented. It was determined that the annual electricity consumption of the farm was 885.855 kWh/year. It is concluded that both energy systems will meet the electricity energy amount of the farm, but the biogas plant will prevent greenhouse gas emissions more. However, it was decided to install solar panels on the dairy cattle farm due to the high initial investment and operating costs of the biogas plant and the decrease in the amount of waste due to the decrease in the amount of animals over the years and this situation negatively affects the efficiency of the plant. Keywords: Biogas, RETScreen, photovoltaic, electrical energy, greenhouse gases, farm 245 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. 1.1. Biyokütle Enerjisi Biyokütle enerjisi, üretim teşvikleri nedeniyle son yıllarda kullanımı giderek artan yenilenebilir enerji kaynaklarından biridir. Biyogaz üretimi için ana bileşen olarak protein, karbonhidrat, hemiselüloz ve selüloz içeren her türlü biyokütle, biyogaz üretiminde kullanılabilir (Yağlı ve Koç, 2019). Biyokütle enerji kaynaklarından elde edilen yakıtlardan biri olan biyogaz, bitkisel ve hayvansal kökenli organik atıkların (biyokütle), havasız (anaerobik) ortamda mikroorganizmaların yardımı ile bozunması sonucunda oluşan nihai gaz ürünüdür (Anonim, 2020). Biyogaz, havadan hafif, renksiz, kokusuz ve mavi renkli alevle yanan bir karışımdır. Bileşiminin içerisinde % 50-75 metan (CH4), % 25-50 karbondioksit (CO2), % 5-6 su ve az miktarlarda hidrojen sülfür (H2S), oksijen (O2), hidrojen (H2), karbon monoksit (CO) ve nitrojen (N2) bulunmaktadır (Yapılcan, 2021). Biyogazın en temel bileşeni organik maddedir. Hayvansal ve tarımsal atıklar organik maddelerin en önemli kaynaklarıdır. Bunlar genellikle tarımsal atıklar, evsel atıklar, atık su arıtma tesisi atıkları, hayvansal atıklar (tavuk, hindi, inek, koyun vs.), gıda atıkları, sıvı atıklar, mısır silajı, endüstriyel atıklar örnek olarak verilebilir (Ay ve Kaya, 2020). Organik maddenin miktarı, atık türü (hayvansal, bitkisel), yeterli miktarda mikroorganizma, C/N oranı ve reaktör sıcaklığı biyogazın verimli bir şekilde üretimi için önemli parametrelerdir. Biyogazın enerji verimliliği pH, sıcaklık ve reaktör karışımının uygunluğu gibi parametrelere bağlı olarak değişmektedir. Biyogaz tesislerinin işletilebilmesi için bu parametreler dikkate alınmalıdır (Hacısalihoğlu, 2022; Tırınk, 2022). Biyogaz çeşitli çiftlik hayvanlarının atıklarından üretilebilir. Ancak dünyada en yaygın kullanılanlar sığır, koyun, keçi, domuz ve kümes hayvanlarıdır. Biyoparçalanabilen organik madde diğer hayvan gübrelerine oranla kümes hayvanlarında daha fazla miktarda bulunur. Tavuk başına günde 0,08 ile 0,125 kg arasında ıslak gübre üretilir. Bu katının çoğu uçucu katılardır. Bu durum kanatlı hayvan gübresinin önemli bir biyogaz kaynağı olduğunu göstermektedir. Gübrenin içeriğine bakıldığında azot içeriği fazla miktarda bulunur ve bu da biyogaz oluşumu sırasında amonyak birikimine neden olur. Biyogaz üretim aşamasında amonyak tesis veriminin azalmasına neden olmaktadır. Biyogaz üretiminde dünyada en çok inek, sığır gibi büyükbaş hayvan gübreleri kullanılmaktadır. Bunun temel nedeni günlük gübre miktarının diğer hayvanlara göre daha fazla olmasıdır (Yağlı ve Koç, 2019). 1. GİRİŞ Bu fosil yakıtların kullanımı neticesinde oluşan çevre sorunlarının önlenebilmesi için fosil yakıtların yerine çevre dostu olan yenilenebilir enerji kaynaklarının kullanımı faydalı olacaktır (Güler, 2014). Güneş enerjisi, biyokütle enerjisi, rüzgar enerjisi vb. gibi kaynaklar kendini yenilediği, çevre dostu ve tükenmeyen enerji kaynakları oldukları için yenilenebilir enerji kaynakları olarak adlandırılırlar. Bu kaynakların avantajları arasında da fosil yakıt kullanımını azaltarak karbondioksit emisyon miktarını azaltma, yerli kaynak oldukları için enerjide dışa bağımlılığı azaltma, çevre dostu enerji tüketimi sağlama gibi birçok faydaları vardır (Alma, 2022).Yenilenebilir enerji kaynakları tüm sektörlerde kullanılabildiği gibi hayvancılık ve tarım sektörlerinde kullanılması ile de sektörlerin kendi enerji tüketimlerini karşılayarak dışarıya olan enerji bağımlılığını azaltmaktadır. İklim ve çevre koşulları, tarım ve hayvancılık sektöründe enerji kaynaklarının kullanımı ve ekonomikliği açısından son derece önemlidir. Tarım ve hayvancılık sektöründe kullanılan başlıca yenilenebilir enerji sistemleri; biyokütle, güneş, rüzgâr ve jeotermal enerji sistemleridir (Emiroğlu ve diğ., 2021). Bu çalışma kapsamında Bursa’nın Karacabey ilçesinde bulunan bir süt sığırı çiftliğine güneş veya biyogaz enerji sistemlerinin kurulumu için enerji ve çevresel potansiyelleri incelenerek iki 246 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 enerji sistemi arasında karşılaştırma yapılacaktır. Güneş enerjisi sistemi için RETScreen yazılımı kullanılarak kurulması düşünülen fotovoltaik sistem için fizibilite çalışması yapılacaktır. Yazılımda sistemin aylık veya yıllık ne kadar enerji üreteceği ve bu enerji ile yıllık ne kadar sera gazı emisyonu azaltımının sağlanacağı ve maliyetler belirlenecektir. Biyogaz tesisi için yapılacak olan hesaplamalar hayvan gübresinden biyogaz eldesinin teorik olarak hesaplanması ile belirlenecektir. Büyükbaş hayvan sayıları esas alınarak, hayvansal kaynaklı atıkların gübre potansiyelleri, gübrelerin teorik biyogaz miktarları, elektrik üretim potansiyelleri ve engellenen CO2 salınım değerleri karşılaştırılarak hangi enerji sisteminin gerçekleştirileceğine karar verilecektir. 1.2. Güneş Enerjisi Güneş enerjisi, yaşamın kaynağı olan güneşten elde edilen bir yenilenebilir enerji türüdür. Güneşten gelen ışınlar güneş panellerine gelerek burada ısı veya elektriğe dönüştürülerek kullanılmaktadır. Elektriğe dönüşümünü sağlayan fotovoltaik enerji sistemleri doğrudan güneş ışığından aldığı enerjiyi elektrik enerjisine dönüştürmektedir. Fotovoltaik güneş enerji sistemleri, doğru akımın (DA) üretildiği fotovoltaik paneller (PV), üretildiği doğru akımın alternatif akıma (AA) dönüştürüldüğü invertörler, üretilen elektriğin depolandığı akü, akülerin daha sağlıklı elektrik depolayabilmesi için şarj kontrol cihazları ve elektrik sayaçlarından oluşmaktadır. Sistemlerin en çok bilinen çeşitleri şebekeye bağlantısı olmayan (off grid) sistemler ile bulunduğu bölgenin elektrik şebekesine bağlı (on grid) olan sistemler olarak ikiye ayrılmaktadır. On Grid Sistemler, fotovoltaik enerji sisteminden üretilen elektrik invertörler yardımı ile alternatif akıma 247 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. dönüştürüldükten sonra çift yönlü elektrik sayacına ulaşarak daha sonra şebekelere verilir. PV sisteminde elektrik yetersiz kaldığı durumunda tekrardan şebekeden elektriği geri çekmek mümkündür. Bu sistemler evsel amaçlı kullanımlarda ve yüksek güçte santral sistemlerinde kullanılır (URL-1; URL-4). Off Grid Sistemler, fotovoltaik enerji sisteminde üretilen elektrik şarj kontrol cihazına gelerek düzenlenir daha sonra akülere verilerek orada depolanır. Akülere gelen elektrik doğru akım olduğu için akülerden sonra invertörlere gelen elektrikler burada alternatif akıma dönüştürülerek evler (dağ evi, bağ evi), karavanlar, yatlar gibi yerlerde kullanılabilir. Fotovoltaik sistemlerin arazi üzerine kurulumu ilk zamanlarda daha fazla yaygın iken son dönemlerde çatı üstüne fotovoltaik sistemler daha fazla tercih edilmektedir (URL-7). Fotovoltaik sistemlerin verimini belirleyen en önemli etkenler coğrafi konum, günün zamanı, mevsim, yerel hava durumu (bulutluluk, kar vs.)’dur. Bu etkenler fotovoltaik enerji sistemlerinin verimini önemli derecede etkilemektedir. Bu faktörler ile işletmelerin elektrik üretiminin nasıl etkileneceğinin önceden belirlenmesi çok önemlidir. Bu nedenle kurulum yapılmadan önce bir firmanın proje tasarımında en iyi performansın hangi koşullar altında elde edilebileceğinin belirlenmesi için bir analiz yapılması gerekmektedir. Bu noktada işletmenizin elektrik üretimini önceden belirleyecek bir yazılımın kullanılması mantıklı olacaktır (Öztürk, 2022). 2.1. Materyal Bir süt sığırı çiftliğine güneş veya biyogaz enerji sistemlerinin kurulumu için enerji ve çevresel potansiyelleri incelenerek iki enerji sistemi arasında karşılaştırma yapılacaktır. Bu amaçla çalışma Bursa’nın Karacabey ilçesinde gerçekleştirilmiştir. Hayvancılık faaliyetleri sonucu oluşan hayvansal atıkların gübre ve biyogaz değerlerinin belirlenmesi amaçlanmıştır. Çalışmada biyogaz tesisi için yapılan tüm hesaplamalarda 2023 yılı sağmal hayvan ve genç hayvan sayıları için çiftlik bilgileri esas alınmıştır. Çiftlikte mevcut olan hayvan türleri, sayıları ve 2023 yılına göre oluşabilecek gübre miktarları belirlenerek, bu gübrelerden elde edilebilecek biyogaz içerikleri hesaplanmıştır. Fotovoltaik enerji sistemi için RETScreen analiz programı kullanılarak Karacabey’in günlük güneş radyasyonunun 4,18 kWh/M2/g olduğu lokasyona kurulması düşünülen sistem için fizibilite çalışması yapılmıştır (URL-5). İki sistem enerji ve çevresel açılardan değerlendirilmiştir. 2.2. Çalışma Alanı Bursa, Marmara Bölgesinin Güney Marmara bölümünde, 40° batı boylam ve 29° kuzey enlem dairelerinde yer almaktadır. Türkiye’nin dördüncü en kalabalık şehri olup, 17 ilçesi bulunmaktadır (URL-10). Karacabey ilçesi, Bursa’nın 70 km batısında yer alıp, nüfus bakımından Bursa’nın 9. en büyük ilçesidir. İlçede hayvancılık ileri düzeyde yapılmaktadır. Hayvancılık faaliyetleri halka büyük gelir sağlamakta ve önemli geçim kaynağını oluşturmaktadır (URL-6). Bursa iline ait güneş enerji potansiyeli atlası (GEPA) Şekil 1’de verilmiştir (URL-8). Şekil 2'de Bursa için aylık ve günlük güneş radyasyonu ile ortalama sıcaklık değerleri gösterilmektedir. Güneş ışınımının Aralık ve Şubat aylarında minimum değer gösterdiği, Ağustos ayında ise maksimum değere ulaştığı görülmüştür. Sıcaklık değeri 5,2 °C ile 23,9°C arasında değişirken, günlük güneş radyasyonu 1,37 ile 7.06 kWh/M2/g değerleri arasında değişmektedir (URL-5). 248 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 Şekil 1: 2024 yılı güneş enerji potansiyeli atlası Bursa ili örneği (URL-8) 2024 yılı güneş enerji potansiyeli atlası Bursa ili örneği (URL-8) Şekil 2: 2024 yılı güneş radyasyonu ile ortalama sıcaklık değerlerinin günlük ve aylık değerleri (URL-5) 2024 yılı güneş radyasyonu ile ortalama sıcaklık değerlerinin günlük ve aylık değerleri (URL-5 Çalışmanın gerçekleşeceği işletme, 2013 yılında Bursa’nın Karacabey ilçesine bağlı Fevzipaşa Köyünde, toplamda 300.000 m2 arazi içerisinde kurulmuştur. Süt üretimi, damızlık düve yetiştiriciliği ve besicilik faaliyet alanlarıyla üretim yapan işletme 1000 baş sağmal olmak üzere toplamda 3500 büyükbaş hayvan kapasitesine sahiptir. Şu an çiftlikte 1100 adet sağmal hayvan, 900 adet genç hayvan bulunmaktadır. Çiftliğin sağmal ahırlarında süt sağım pompaları, aydınlatma, havalandırma, ısıtma üniteleri gibi ekipmanların bulunmasından dolayı enerji tüketimleri diğer ahırlara göre daha fazladır. İşletme ile görüşme gerçekleştirildiğinde On Grid güneş enerjisi sistemlerinin, sağmal ahır çatısına kurulması uygun görülmüştür. Ahırın çatı alanı ise 4500 m2 (150m–30m)’dir. Çalışmada incelenen ve enerji sisteminin uygulanacağı süt sığırı işletmesinin üstten görünüşü Şekil 3’te gösterilmiştir. 249 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. Şekil 3: Çalışmanın uygulanacağı yerin üstten görüntüsü (URL-5) Şekil 3: Çalışmanın uygulanacağı yerin üstten görüntüsü (URL-5) 2.3.1. Biyogaz Potansiyelinin ve Engellenen CO2 Emisyonunun Belirlenmesi Kaliteli gübre üretimi için hayvan türleri, beslenme türleri, günlük su içme sıklıkları, hayvanların ağırlıkları önemli bir durumdur. Bu çalışmada Bursa’nın Karacabey ilçesinde bulunan bir süt sığırı çiftliği için 2023 yıllarında mevcut olan hayvan sayıları değerlendirilmiş ve bu veriler yardımıyla gübre miktarları, yıllık biyogaz miktarları ve biyogazdan üretilebilecek enerji miktarları hesaplanmıştır. Hayvansal atıklardan oluşacak gübrenin hesaplanmasında hayvan türüne göre birim yükün bireysel olarak ölçülebilirliği söz konusu olmadığından literatürde öngörülen bazı kabullerin kullanılması gereklidir. Buna göre bu kabuller Tablo 1’de, hayvansal atık kaynaklı gübre ve biyogaz potansiyeli hesaplamasında kullanılan eşitlikler ise Tablo 2’de verilmiştir (Hacısalihoğlu, 2023;Tırınk, 2022). Hesaplamalar Tablo 1’de verilen en büyük ve en küçük değer aralıkları baz alınarak yapılmış, bu değerler dışına çıkılmamıştır. Tablo 1. Hayvan türlerine göre literatür katsayı değerleri (Hacısalihoğlu, 2023) Simge Katsayı/Birim Büyükbaş Hayvan (BBH) Küçükbaş Hayvan (KBH) Kanatlı Hayvan (KH) ACH Canlı Hayvan Ağırlığı (kg) 135-800 30-75 1,5-12 TYGM Toplam Yaş Gübre Miktarı (kg/gün) 6-48 1,2-3,75 0,045-0,48 YKG Kullanılabilir Gübre (%) 65 13 99 MB 1 Ton Yaş Gübreden Elde Edilen Biyogaz Oranı (m3/ton) 33 58 78 EB Biyogaz Isıl Değeri (MJ/ m3) 20-27 20-27 20-27 Tablo 1. Hayvan türlerine göre literatür katsayı değerleri (Hacısalihoğlu, 2023) Tablo 1 incelendiğinde ACH (kg) hayvan türüne göre hayvanların ağırlıklarını ifade etmektedir. Çiftlikte 1100 adet sağmal hayvan ve 900 adet genç hayvan bulunmaktadır. Hesaplamalarda bu değer sağmal hayvan için 550 kg, genç hayvan için 200 kg olarak kabul edilmiştir. Benzer şeklide Tablo 1’deki aralık değerleri dikkate alınarak üretilen toplam yaş gübre miktarları (TYGM; kg/gün) sağmal hayvan için 43 kg/gün, genç hayvan için 2,48 kg/gün (Yağlı ve Koç, 2019;Görmüş, 2018) olarak kabul edilmiştir. Buzağı, genç hayvan olarak kabul edilecektir. YKG (%) değeri hayvanların türlerine göre oluşan gübrenin kullanılabilirlik oranını ifade etmektedir. Hayvan türlerinin ahırda veya kümeste kalma süreleri dikkate alınarak, oluşan atığın 250 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 kullanılabilirliğini ifade eden bu değer, hayvan türüne göre BBH için 0,65 olacak şekilde alınmıştır. Hesaplamalarda kullanılan NCH değeri canlı hayvan sayısını ifade etmektedir. Biyogazın üretim miktarı hayvan türü ve atık özelliğine göre farklılıklar gösterebilmektedir. 1 ton yaş gübreden elde edilen biyogaz miktarı MB (m3/ton) ile ifade edilmekte olup, bu değer hayvan türüne göre BBH için 33 m3/ton olarak alınmıştır (Tırınk, 2022; Ay ve Kaya, 2020). Hayvansal atıklardan elde edilen biyogaz enerjisinin ısıl değerinin hesaplanabilmesi için, birim biyogazın ısıl değerinden (EB; MJ/m3) faydalanılır. Oluşacak biyogazın içerdiği metan miktarına göre biyogaz ısıl değeri 20-27 MJ/m3 aralığında değişim göstermektedir (Ayhan, 2015). 2.3.1. Biyogaz Potansiyelinin ve Engellenen CO2 Emisyonunun Belirlenmesi Çalışmada bu değer 23,5 MJ/m3 olarak alınmıştır. Biyogazın 23,5 MJ’lük ısıl değerinin elektrik enerjisi eşdeğeri 6,53 kWh’e eşdeğerdir (1 kWh elektrik enerji değeri 3,6 MJ’e eşittir) (Tırınk, 2022; Salihoğlu ve diğ., 2019). Biyogazdan elektrik enerjisi üretiminin gerçekleşmesi için kojenerasyon sistemleri kullanılmaktadır. Kojenerasyon, enerjinin etkin kullanımı için elektrik ve ısı enerjisinin birlikte üretilmesini sağlayan teknolojidir. Bu sistemlerde gaz yakılarak mekanik enerjiye dönüştürülür. Kombine ısı ve güç sistemlerinin elektriksel verimliliği %35-40 arasında değişmektedir. Hesaplamalarda bu değer %40 olarak kabul edilmiştir ve bu oranla çalışan kojenerasyon sistemi için 1 m3 biyogazın elektriksel eşdeğeri 2,61 kWh olarak kabul edilmiştir. Toz kömürün yakılmasıyla 1 kWh elektrik üretimi için ortalama sera gazı emisyonu 710 gCO2 olurken, biyogazın yakılması için bu değer ortalama 26 gCO2’dir (Tırınk, 2022). Yılda ne kadar CO2 salınımının engellenebileceğini hesaplamak için bu iki değer arasındaki fark alınmıştır ve işlemlerde 684 g kWh-1 katsayısı kullanılmıştır. Tablo 2. Hayvansal atık kaynaklı gübre ve biyogaz potansiyeli hesaplamasında kullanılan eşitlikler (Hacısalihoğlu, 2023) Eşitlik Adı Birim Formülasyon Toplam Kullanılabilir Yaş Gübre Miktarı (1) kg/gün TKYGM = TYGM*YKG Yıllık Toplam Yaş Gübre Potansiyeli (2) ton/yıl TYGP = TKYGM*NCH*365/1000 Yıllık Biyogaz Miktarı (3) m3/yıl Tbiyogaz = TYGP*MB Biyogazdan Üretilebilecek Enerji Miktarı (4) MJ/yıl Eısı = Tbiyogaz*EB ablo 2. Hayvansal atık kaynaklı gübre ve biyogaz potansiyeli hesaplamasında kullanılan eşitlikler (Hacısalihoğlu, 2023) Tablo 2’de sunulan Eşitlik 1’de TKYGM toplam kullanılabilir yaş gübre miktarını ifade etmektedir ve bu miktarı bulmak için toplam yaş gübre miktarı ile oluşan gübrenin kullanılabilirlik oranı çarpılarak hesaplanmaktadır. Eşitlik 2’de TYGP yıllık toplam yaş gübre potansiyelini ifade etmektedir ve bu potansiyeli bulmak için toplam kullanılabilir yaş gübre miktarı ile hayvan türlerine göre hayvan sayıları çarpılarak hesaplanmaktadır. Eşitlik 3’te Tbiyogaz hayvansal atıklardan elde edilebilecek biyogaz miktarını ifade etmektedir ve bu miktarı bulmak için toplam yaş gübre miktarı ile 1 ton yaş gübreden elde edilebilecek biyogaz oranı çarpılarak hesaplanmaktadır. Son olarak Eşitlik 4’te Eısı biyogazdan üretilebilecek enerji miktarını ifade etmektedir ve bu miktarı bulmak için yıllık üretilen biyogaz miktarı ile biyogazın ısıl değeri çarpılarak hesaplanmaktadır. 2.3.3. RETScreen Enerji Menüsü Çalışma alanında yer alan ve hayvanların barındığı ahırın çatısına kurulacak olan güneş enerji santralinin (GES) kurulu gücü 864 kW’tır. Ahırın toplam çatı alanı 4500 m2’dir. Toplam 4500 m2 çatı alanına sahip ahır için çatının her iki kısmına 800 adet olacak şekilde toplamda 1600 adet panel kullanılacaktır. Panel tipi olarak daha yüksek verim ve dolaylı olarak daha fazla elektrik enerjisi vermesinden dolayı RETScreen programına mono-si panel tipi girilmiştir (Gültuna, 2015). Panel markası Jinko solar ve her bir panelin gücü ise 540 W kapasitesine sahip olacak şekilde seçilmiş, panel eğimi 30⁰, azimut açısı -72⁰ olacak şekilde kabul edilmiştir. İnverter sayısı 6 adet olacak şekilde planlanmış ve her bir inverterin verimlilik değeri %98, kapasiteleri 100 kW olacak şekilde RETScreen programına girilmiştir (Diken ve Kayişoğlu, 2022). Yıllık elektrik ihracat fiyatı RETScreen programında 0,10 $/kWh olarak kabul edilmiştir ve bu değerler Şekil 4’te gösterilmiştir. Şekil 4: RETScreen programında kabul edilen fotovoltaik panel parametreleri (URL-5) Ş RETScreen programında kabul edilen fotovoltaik panel parametreleri (URL-5) 2.3.2. RETScreen Analiz Programı RETScreen, enerji verimliliği, yenilenebilir enerji ve kojenerasyon proje fizibilite çalışmaları ve devam eden enerji verimliliği analizlerine yönelik temiz bir enerji yönetim yazılımı sistemidir (URL-5). RETScreen, Microsoft Excel program altyapısı ile birlikte çalışır. Programı çalıştırdığınızda karşınıza çıkan sayfada projenin kapsamına ilişkin kapak bilgilerini girebileceğiniz bir bölüm bulunmaktadır. Bu bölümün hemen altında ise analiziniz için gerekli temel girişleri girebileceğiniz bir bölüm bulunmaktadır. Gireceğiniz veriler seçtiğiniz proje türüne bağlıdır. Bu program basit veya ayrıntılı analiz yapma olanağı sağlar. Program, "Başlat" sayfasında girilen alan referans girişi ve online veri tabanına entegre edilen iklim veri tabanı sayesinde otomatik olarak çalışabilmektedir. RETScreen iklim veri tabanı enlem, boylam 251 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. ve rakım değerlerini, aylık sıcaklıkları, bağıl nemi, güneş radyasyonunu, barometrik basıncı, rüzgar hızını, yüzey sıcaklığını, ısıtma ve soğutma talebi değerlerini görüntülemenize olanak sağlar (Doğan ve diğ., 2012). 2.3.5. RETScreen Emisyon Menüsü Emisyon analizi için ülkemizde kullanılan yakıt türleri araştırılmıştır. Kullanılan yakıt türleri T.C Enerji ve Tabii Kaynakları Bakanlığı sitesinden alınmıştır (URL-9). Sera gazı azaltma kredi oranı 15 $/tCO2 olarak kabul edilmiştir (Diken ve Kayişoğlu, 2022). Emisyon analizi için kabul edilen değerler Şekil 6’da gösterilmiştir. Şekil 6: Emisyon analiz kabulleri (URL-5) Şekil 6: Emisyon analiz kabulleri (URL-5) 2.3.4. RETScreen Maliyet Menüsü İlk maliyetler bölümünde, etüt - proje giderleri ve geliştirme kısmına, birim maliyet 2400 $ olacak şekilde kabul edilmiştir (Durgun ve diğ., 2021). Mühendislik, birim maliyeti 28800 $, konstrüksiyon birim maliyeti 43200 $ (URL-2), inverter miktarı 6 adet, birim maliyeti 2250 $ (URL-3), işçilik, birim maliyeti 28800 $, Dc-Ac kablo için Dc kablonun metresi 0,85 $, Ac kablonun metresi 17 $ Çaçan (2018) olacak şekilde kabul edilmiştir. Dc kablo için 2400 m, Ac kablo için 1200 m kablo uzunluğu kabul edilmiştir. Elektrik sistemi kısmında GES kurulu gücü olan 864 kW’a panel birim maliyet 500 $ (URL-2) olacak şekilde kabul edilmiştir ve bu değerler Şekil 5’de gösterilmiştir. 252 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 Şekil 5: RETScreen maliyet analizi ekranı (URL-5) Şekil 5: RETScreen maliyet analizi ekranı (URL-5) 2.3.5. RETScreen Emisyon Menüsü 2.3.6. RETScreen Finansman Menüsü Enflasyon oranı %10, iskonto ve yeniden yatırım oranı %9 (Diken ve Kayişoğlu, 2022), proje ömrü ise 25 yıl olacak şekilde kabul edilmiştir. Borç oranı %70, borç faiz oranı %10 ve borç vadesi 10 yıl (İzmirli 2019), elektrik ihracatı eskalasyon oranı %3, temiz enerji (TE) üretim kredi oranı 0,007 $/tCO2, TE üretim kredi eskalasyon oranı %2 olarak kabul edilmiştir (Eremkere ve Aktaş, 2020). Finansal analiz için kabul edilen değerler Şekil 7’de gösterilmiştir. 253 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. Şekil 7: Finansal analiz kabulleri (URL-5) Şekil 7: Finansal analiz kabulleri (URL-5) 3.1. Yıllık Biyogaz Miktarı ve Engellenen CO2 Salınım Bulguları Çiftliğin elektrik faturalarından 2023 yılında yıllık tüketilen toplam elektrik enerjisi miktarının 885.855 kWh/yıl olduğu tespit edilmiştir ve böylece çiftliğe biyogaz tesisi kurulumu tercih edilirse çiftliğin elektrik enerjisi ihtiyacı karşılanmış olacaktır. Benzer bir çalışma, Tırınk (2022) tarafından yapılmıştır. Araştırmada, 2020 yılında Iğdır ve Tablo 4. Biyogazdan üretilen elektrik enerjisi ve engellenen CO2 salınım değerleri ÇİFTLİK Hayvan Türü Hayvan Sayısı (adet) Biyogazdan Üretilen Enerji Miktarı (Eısı; MJ/yıl) Elektrik Enerjisi Miktarı (kWh/yıl) Engellenen CO2 Salınım Miktarı (ton/yıl) 2023 TOPLAM Sağmal Hayvan 1.100 8.702.661 966.551 661,121 Genç Hayvan 900 410.639 45.607 31,195 Toplam (Sağmal + Genç Hayvan) 2000 9.113.300 1.012.158 692,316 Tablo 4. Biyogazdan üretilen elektrik enerjisi ve engellenen CO2 salınım değerleri Tablo 4 incelendiğinde, biyogazdan üretilen enerji miktarının en yüksek olduğu (8.702.661 MJ/yıl) hayvan türü sağmal hayvan kaynaklı olduğu tespit edilmiştir. Elde edilen bu veriler hayvan sayıları ve oluşan gübrenin kullanılabilirliği ile ilişkilidir. Biyogaz enerjisinin elektrik enerjisi eşdeğeri de benzer şekilde değişim göstermektedir. En yüksek elektrik enerjisi miktarı (966.551 kWh/yıl) sağmal hayvan atıklarından, en düşük elektrik enerjisi miktarı (45.607 kWh/yıl) ise genç hayvan atıklarından elde edilmiştir. Engellenen CO2 salınım değerine bakıldığı zaman 2023 yılında toplamda 692,316 ton/yıl CO2 emisyonunun engellendiği tespit edilmiştir. Çalışmada 2023 yılında çiftlikten üretilen toplam elektrik üretim potansiyeli (sağmal hayvan + genç hayvan) 1.012.158 kWh/yıl olarak belirlenmiştir. Çiftliğin elektrik faturalarından 2023 yılında yıllık tüketilen toplam elektrik enerjisi miktarının 885.855 kWh/yıl olduğu tespit edilmiştir ve böylece çiftliğe biyogaz tesisi kurulumu tercih edilirse çiftliğin elektrik enerjisi ihtiyacı karşılanmış olacaktır. Benzer bir çalışma, Tırınk (2022) tarafından yapılmıştır. Araştırmada, 2020 yılında Iğdır ve ilçelerinde oluşan hayvansal atıkların miktarları esas alınmıştır. Bu yıla ait toplam hayvan sayıları 157.426 adet büyükbaş, 1.279.203 adet küçükbaş ve 1.279.203 adet kümes hayvanı bulunduğu belirlenmiştir. Hayvan gübresinden yıllık üretilebilecek biyogaz potansiyeli 43.952.304 m3, ısı enerji miktarı 1.032.879 GJ ve elektrik enerji miktarı 114.716 MWh olarak hesaplanmıştır. Yıllık elektrik üretim potansiyeli en yüksek olan Iğdır İli Merkez İlçesi'nde 55.367 MWh, en düşük elektrik üretimine sahip olan Karakoyunlu İlçesi'nde ise 15.366 MWh elektrik üretilebileceği hesaplanmıştır. Ayrıca fosil yakıtlar yerine yenilenebilir enerji kaynaklarından biri olan biyogaz enerjisinin kullanılmasıyla Iğdır bölgesinin tamamında karbon tasarrufu sağlanarak yılda 78.465 ton karbondioksit emisyonunun önüne geçilebileceği bulunmuştur. 3.1. Yıllık Biyogaz Miktarı ve Engellenen CO2 Salınım Bulguları Bursa’nın Karacabey ilçesi bir süt sığırı çiftliğinde hayvancılık faaliyetlerinden kaynaklanan atıkların gübre ve biyogaz potansiyelleri hesaplanmıştır. Hesaplamalarda, çiftlikte 2023 yılında mevcut olan hayvan sayıları işletmeden temin edilmiştir. Hayvan türlerine ve 2023 yılına göre oluşabilecek gübre miktarları belirlenerek, bu gübrelerden elde edilebilecek biyogaz içerikleri hesaplanmıştır. Tablo 3’te çiftliğin 2023 yılı ve türlerine göre hayvan sayıları verilmiştir. Bu veriler yardımı ile hesaplanan yıllık yaş gübre potansiyeli ve yıllık üretilen biyogaz miktarları da Tablo 3’de sunulmuştur. Tablo 3. Süt Sığırı Çiftliğinin yıllara ve hayvan türlerine göre elde edilen gübre ve biyogaz miktarları ÇİFTLİK Hayvan Türü Hayvan Sayısı (adet) Yıllık Yaş Gübre Potansiyeli (TYGP; ton/yıl) Yıllık Biyogaz Miktarı (TBiyogaz m3/yıl) 2023 TOPLAM Sağmal hayvan 1.100 11.222 370.326 Genç hayvan 900 529,5 17.474 Toplam (Sağmal + Genç Hayvan) 2000 11.752 387.800 ablo 3. Süt Sığırı Çiftliğinin yıllara ve hayvan türlerine göre elde edilen gübre ve biyogaz miktarları Tablo 3 incelendiğinde, hayvan türüne göre en fazla sayıya sahip olan türün sağmal hayvan olduğu görülmektedir. Elde edilen yıllık yaş gübre potansiyeli incelendiğinde, sağmal hayvan sayısı yüksek olduğundan yıllık en yüksek yaş gübre potansiyeline (11.222 ton/yıl) sahip olduğu görülmektedir. Hayvansal atıklardan elde edilen yıllık biyogaz üretim miktarı incelendiğinde en düşük biyogaz üretiminin genç hayvan kaynaklı olduğu (17.474 m3/yıl) tespit edilmiştir. Biyogazdan üretilen elektrik enerjisi ve engellenen CO2 salınım değerleri Tablo 4’te gösterilmiştir. 254 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 Tablo 4. Biyogazdan üretilen elektrik enerjisi ve engellenen CO2 salınım değerleri ÇİFTLİK Hayvan Türü Hayvan Sayısı (adet) Biyogazdan Üretilen Enerji Miktarı (Eısı; MJ/yıl) Elektrik Enerjisi Miktarı (kWh/yıl) Engellenen CO2 Salınım Miktarı (ton/yıl) 2023 TOPLAM Sağmal Hayvan 1.100 8.702.661 966.551 661,121 Genç Hayvan 900 410.639 45.607 31,195 Toplam (Sağmal + Genç Hayvan) 2000 9.113.300 1.012.158 692,316 Tablo 4 incelendiğinde, biyogazdan üretilen enerji miktarının en yüksek olduğu (8.702.661 MJ/yıl) hayvan türü sağmal hayvan kaynaklı olduğu tespit edilmiştir. Elde edilen bu veriler hayvan sayıları ve oluşan gübrenin kullanılabilirliği ile ilişkilidir. Biyogaz enerjisinin elektrik enerjisi eşdeğeri de benzer şekilde değişim göstermektedir. En yüksek elektrik enerjisi miktarı (966.551 kWh/yıl) sağmal hayvan atıklarından, en düşük elektrik enerjisi miktarı (45.607 kWh/yıl) ise genç hayvan atıklarından elde edilmiştir. Engellenen CO2 salınım değerine bakıldığı zaman 2023 yılında toplamda 692,316 ton/yıl CO2 emisyonunun engellendiği tespit edilmiştir. Çalışmada 2023 yılında çiftlikten üretilen toplam elektrik üretim potansiyeli (sağmal hayvan + genç hayvan) 1.012.158 kWh/yıl olarak belirlenmiştir. 3.2. RETScreen Enerji Analizi Bulguları Kullanılan panel özellikleri ve hava koşulları RETScreen programına girildikten sonra aylık ve yıllık toplam enerji üretimi belirlenmiştir. Şekil 8' deki aylık sonuçlara göre; en düşük elektrik üretimine 34,303 MWh ile Aralık ayında, en yüksek elektrik üretimine ise 134,633 MWh ile Temmuz ayında ulaşılmıştır. Yazılım ile elde edilen sonuçta yıllık toplam 1.026,597 MWh’lik elektrik üretimi gerçekleşmiştir. Fotovoltaik enerji sistemleri kurulumunun gerçekleşmesi ile çiftliğin elektrik enerjisi karşılanmış olacaktır. 255 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. Şekil 8: Aylık ve yıllık olarak panellerin enerji üretim miktarları (URL-5) Şekil 8: Aylık ve yıllık olarak panellerin enerji üretim miktarları (URL-5) Aylık ve yıllık olarak panellerin enerji üretim miktarları (URL-5) 3.3. RETScreen Emisyon Analizi Bulguları Yenilenebilir enerji kaynaklarının kullanımının sosyal maliyetlere etkisi oldukça önemlidir. Emisyonların azaltılması sayesinde hem çevreye hem de insanlığa katkısı büyüktür. Yapılan emisyon analizi hesaplamaları sonucunda toplam 345 tCO2 yıllık sera gazı emisyon azaltımı sağlanmaktadır. Elde edilen sonuç, ülkemizde bulunmakta olan yakıt türleri değerlerinin sisteme girilmesi ile bulunmaktadır. Sistemden elde edilen sonuçlara bakılacak olursa 345 tCO2 yıllık sera gazı, 119 ton geri kazanılmış atığa, 63,2 kullanılmamış araba ve kamyonete, tüketilmeyen 802 ham petrol variline eşdeğerdir. Sera gazı emisyon azaltımı sonuçları Şekil 9’da gösterilmiştir. Şekil 9: Sera gazı emisyon azaltım sonuçları (URL-5) Şekil 9: Sera gazı emisyon azaltım sonuçları (URL-5) 3.4. RETScreen Ekonomik Analiz Bulguları Programın ekonomik analiz kısmı beş bölümden oluşmaktadır: Finansal Parametreler, Yıllık Gelirler, Proje Maliyet ve Gelir Özeti, Finansal Sürdürülebilirlik ve Yıllık Nakit Akışları. "Proje Maliyet ve Gelirlerinin Özeti" ve "Yıllık Gelirler" bölümleri; enerji modelinin, maliyet analizinin ve emisyon analizinin bir özetidir. 256 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 "Finansal parametreler" bölümünde kullanıcı tarafından girilen bilgilere göre projenin finansal göstergelerini oluşturan bölüm "Finansal Sürdürülebilirlik" bölümüdür. Kullanıcıların vergi öncesi nakit akışını, vergi sonrası nakit akışını ve toplam nakit akışını görebildiği bölüm yıllık nakit akışı bölümüdür. Bir projenin kümülatif nakit akışı genellikle negatif bir değer olarak başlar ve yıllar geçtikçe pozitif değere doğru artar. Kümülatif nakit akışının 0 olması projenin başa baş noktasını gösterir (Şanlı ve Günöz, 2018). Bu çalışmada yukarıdaki veriler doğrultusunda ilk kurulum maliyetleri için ihtiyaç duyulan miktarın 573.100 $, yıllık maliyetler ve borç ödemelerinin 81.705 $, yıllık tasarruflar ve gelirin 115.019 $ olduğu saptanmıştır. Tablo 5’te maliyet analizi tablosu gösterilmektedir. Tablo 5. Maliyet analizi tablosu (URL-5) 401.170 $ tutarındaki kredi borcu ödemesi (Şekil 7) 10 yıl boyunca nakit akışında belirgin şekilde fark edilmektedir. Çatıya, panellerin kurulumundan itibaren 10 yıllık süre tamamlandıktan sonra kredi borçları bittiği için yatırımın getirisi artık önemli ölçüde artmaktadır. Çiftliğin çatısı için kurulması planlanan 1600 adet güneş panelinin kümülatif nakit akışları değerlendirildiğinde söz konusu panel sayılarına ait projenin geri ödeme süresinin 5,3 yıl olduğu 25 yılın sonunda elde edilecek paranın ise 1.489.237 $ olacağı tespit edilmiştir. GES kurulu gücü 864 kW için nakit akış grafiği Şekil 10’da gösterilmektedir. Benzer bir çalışma, Diken ve Kayişoğlu (2022) tarafından yapılmıştır. Namık Kemal Üniversitesi Ziraatbiyotek binasına 14 kW’lık PV sistemi kurulumu yapılmadan önce RETScreen programı ile sistemin uygunluğunun analiz edilmesi (çevresel, finansal, enerji, gölge analizleri) ve performansının gözlemlenmesi amaçlanmıştır. Program tasarlanırken panel konumu, eğim açısı, gölgeleme ve panel tipi gibi güneş enerjisi sistemini etkileyen faktörler dikkate alınmıştır. Ziraatbiyotek laboratuvar binasındaki güneş enerjisi santrali için 405 m2 alana sahip 60 adet panel kullanılmıştır. Seçilen panel markası Astronergy Solar olup her panelin gücü 240 W’tır. Gölge analizi Helioscope programı kullanılarak yapılmıştır. Sonuçlara göre güneş santralinden yıllık toplam 20.1 MWh enerji üretilmiştir. Ziraatbiyotek binasının yıllık elektrik ihtiyacının yaklaşık %40'ının güneş enerjisinden karşılanabileceği, güneş enerjisi sisteminden elde edilen 20.1 MWh enerji ile de sera gazı emisyonlarının 9.5 tCO2/yıl azaltılabileceği tespit edilmiştir. Tablo 5. Maliyet analizi tablosu (URL-5) Tablo 5. 3.4. RETScreen Ekonomik Analiz Bulguları Maliyet analizi tablosu (URL-5) 401.170 $ tutarındaki kredi borcu ödemesi (Şekil 7) 10 yıl boyunca nakit akışında belirgin 401.170 $ tutarındaki kredi borcu ödemesi (Şekil 7) 10 yıl boyunca nakit akışında belirgin şekilde fark edilmektedir. Çatıya, panellerin kurulumundan itibaren 10 yıllık süre tamamlandıktan sonra kredi borçları bittiği için yatırımın getirisi artık önemli ölçüde artmaktadır. Çiftliğin çatısı için kurulması planlanan 1600 adet güneş panelinin kümülatif nakit akışları değerlendirildiğinde söz konusu panel sayılarına ait projenin geri ödeme süresinin 5,3 yıl olduğu 25 yılın sonunda elde edilecek paranın ise 1.489.237 $ olacağı tespit edilmiştir. GES kurulu gücü 864 kW için nakit akış grafiği Şekil 10’da gösterilmektedir. Benzer bir çalışma, Diken ve Kayişoğlu (2022) tarafından yapılmıştır. Namık Kemal Üniversitesi Ziraatbiyotek binasına 14 kW’lık PV sistemi kurulumu yapılmadan önce RETScreen programı ile sistemin uygunluğunun analiz edilmesi (çevresel, finansal, enerji, gölge analizleri) ve performansının gözlemlenmesi amaçlanmıştır. Program tasarlanırken panel konumu, eğim açısı, gölgeleme ve panel tipi gibi güneş enerjisi sistemini etkileyen faktörler dikkate alınmıştır. Ziraatbiyotek laboratuvar binasındaki güneş enerjisi santrali için 405 m2 alana sahip 60 adet panel kullanılmıştır. Seçilen panel markası Astronergy Solar olup her panelin gücü 240 W’tır. Gölge analizi Helioscope programı kullanılarak yapılmıştır. Sonuçlara göre güneş santralinden yıllık toplam 20.1 MWh enerji üretilmiştir. Ziraatbiyotek binasının yıllık elektrik ihtiyacının yaklaşık %40'ının güneş enerjisinden karşılanabileceği, güneş enerjisi sisteminden elde edilen 20.1 MWh enerji ile de sera gazı emisyonlarının 9.5 tCO2/yıl azaltılabileceği tespit edilmiştir. 401.170 $ tutarındaki kredi borcu ödemesi (Şekil 7) 10 yıl boyunca nakit akışında belirgin şekilde fark edilmektedir. Çatıya, panellerin kurulumundan itibaren 10 yıllık süre tamamlandıktan sonra kredi borçları bittiği için yatırımın getirisi artık önemli ölçüde artmaktadır. Çiftliğin çatısı için kurulması planlanan 1600 adet güneş panelinin kümülatif nakit akışları değerlendirildiğinde söz konusu panel sayılarına ait projenin geri ödeme süresinin 5,3 yıl olduğu 25 yılın sonunda elde edilecek paranın ise 1.489.237 $ olacağı tespit edilmiştir. GES kurulu gücü 864 kW için nakit akış grafiği Şekil 10’da gösterilmektedir. Benzer bir çalışma, Diken ve Kayişoğlu (2022) tarafından yapılmıştır. Namık Kemal Üniversitesi Ziraatbiyotek binasına 14 kW’lık PV sistemi kurulumu yapılmadan önce RETScreen programı ile sistemin uygunluğunun analiz edilmesi (çevresel, finansal, enerji, gölge analizleri) ve performansının gözlemlenmesi amaçlanmıştır. Program tasarlanırken panel konumu, eğim açısı, gölgeleme ve panel tipi gibi güneş enerjisi sistemini etkileyen faktörler dikkate alınmıştır. Ziraatbiyotek laboratuvar binasındaki güneş enerjisi santrali için 405 m2 alana sahip 60 adet panel kullanılmıştır. Seçilen panel markası Astronergy Solar olup her panelin gücü 240 W’tır. Gölge analizi Helioscope programı kullanılarak yapılmıştır. 3.4. RETScreen Ekonomik Analiz Bulguları Sonuçlara göre güneş santralinden yıllık toplam 20.1 MWh enerji üretilmiştir. Ziraatbiyotek binasının yıllık elektrik ihtiyacının yaklaşık %40'ının güneş enerjisinden karşılanabileceği, güneş enerjisi sisteminden elde edilen 20.1 MWh enerji ile de sera gazı emisyonlarının 9.5 tCO2/yıl azaltılabileceği tespit edilmiştir. (Ş ) y y ş g şekilde fark edilmektedir. Çatıya, panellerin kurulumundan itibaren 10 yıllık süre tamamlandıktan sonra kredi borçları bittiği için yatırımın getirisi artık önemli ölçüde artmaktadır. Çiftliğin çatısı için kurulması planlanan 1600 adet güneş panelinin kümülatif nakit akışları değerlendirildiğinde söz konusu panel sayılarına ait projenin geri ödeme süresinin 5,3 yıl olduğu 25 yılın sonunda elde edilecek paranın ise 1.489.237 $ olacağı tespit edilmiştir. GES kurulu gücü 864 kW için nakit akış grafiği Şekil 10’da gösterilmektedir. Benzer bir çalışma, Diken ve Kayişoğlu (2022) tarafından yapılmıştır. Namık Kemal Üniversitesi Ziraatbiyotek binasına 14 kW’lık PV sistemi kurulumu yapılmadan önce RETScreen programı ile sistemin uygunluğunun analiz edilmesi (çevresel, finansal, enerji, gölge analizleri) ve performansının gözlemlenmesi amaçlanmıştır. Program tasarlanırken panel konumu, eğim açısı, gölgeleme ve panel tipi gibi güneş enerjisi sistemini etkileyen faktörler dikkate alınmıştır. Ziraatbiyotek laboratuvar binasındaki güneş enerjisi santrali için 405 m2 alana sahip 60 adet panel kullanılmıştır. Seçilen panel markası Astronergy Solar olup her panelin gücü 240 W’tır. Gölge analizi Helioscope programı kullanılarak yapılmıştır. Sonuçlara göre güneş santralinden yıllık toplam 20.1 MWh enerji üretilmiştir. Ziraatbiyotek binasının yıllık elektrik ihtiyacının yaklaşık %40'ının güneş enerjisinden karşılanabileceği, güneş enerjisi sisteminden elde edilen 20.1 MWh enerji ile de sera gazı emisyonlarının 9.5 tCO2/yıl azaltılabileceği tespit edilmiştir. 257 257 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. Şekil 10: GES kurulu gücü 864 kW için nakit akış grafiği (URL-5) GES kurulu gücü 864 kW için nakit akış grafiği (URL-5) 4. 4. SONUÇ Doğal kaynaklardan su, rüzgar, güneş, biyogaz birer enerji kaynağıdır. Gün geçtikçe artan enerji ihtiyacının karşılanması için son zamanlarda yenilenebilir enerji sistemlerine yatırımlar artmaktadır. Bu yatırımlardan biri de güneş enerjisidir. Güneş enerjisi, güneş ışığı potansiyelinin fazla olduğu bölgelerde kurulması ile yatırımcıya büyük kar sağlar. Yatırımcıların bu durumu değerlendirebilmeleri için RETScreen gibi yazılım programları ile fizibilite analizleri yaparak uygunluğu belirlemeleri gereklidir. Böylece bölgenin uygun olması ile hem bölgedeki insanlar hem de yatırımcılar büyük kazanç sağlayabilir. Fizibilite analizleri ile bölgede kurulması planlanan yenilenebilir enerji sistemlerinin ekonomik ve emisyon değerleri elde edilerek gerekli kararlar verilir. Bu çalışmada Bursa’nın Karacabey ilçesinde bulunan bir süt sığırı çiftliğinde kurulması planlanan güneş enerji sistemi için RETScreen programı kullanılarak 864 kW güçte 1600 adet güneş paneli yatırımının fizibilite analizi yapılmıştır. Karacabey’in ortalama günlük güneş radyasyonu 4,18 kWh/M2/g ve yıllık toplam da 1.026.597 kWh ’lik elektrik üreteceği sonucuna varılmıştır. 1600 adet güneş paneli için ilk yatırım maliyeti 573.100 $ olarak analiz edilmiştir. Süt sığırı çiftliğinde kurulması planlanan bu tesis için geri ödeme süresinin 5,3 yıl olduğu, 25 yıl yatırım ömrü sonunda kazancın 1.489.237 $ olacağı ve toplam da 345 tCO2 yıllık sera gazı emisyon azaltımı sağlayacağı sonucuna varılmıştır. Böylece çiftliğin yatırım açısından uygun olabileceği, 15 yıldan fazla kar sağlayacağı öngörülmüştür. Diğer önemli yatırımlardan biri de biyogaz enerjisidir. Çalışmanın yapıldığı süt sığırı çiftliğinde 2023 yılında mevcut, sağmal hayvan ve genç hayvan sayıları esas alınarak, hayvansal kaynaklı atıkların gübre potansiyelleri belirlenmiştir. Ayrıca, oluşan gübrelerin teorik biyogaz miktarları ve elektrik üretim potansiyeli hesaplanmıştır. Sonuç olarak, 2023 yılının sonunda 11.752 ton/yıl yaş gübre oluşma potansiyeli ve 387.800 m3/yıl biyogaz potansiyelinin elde edilebileceği belirlenmiştir. Oluşan biyogazın 9.113.300 MJ/yıl enerji potansiyeline sahip olduğu ve buna bağlı olarak çiftlikten üretilecek toplam elektrik üretim potansiyeli 1.012.158 kWh/yıl olarak belirlenmiştir. Hayvansal atıklardan biyogaz elde edilmesi ile 2023 yılında toplamda 692,316 ton/yıl CO2 salınımının engellenebileceği belirlenmiştir. Bu çalışma kapsamında biyogaz enerjisi için yapılan hesaplamalar hayvansal atıktan biyogaz eldesinin teorik olarak belirlenmesi esasına dayanmaktadır. Ancak biyogaz 258 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 tesisinin hayata geçirilmesinde hayvansal atığın katı madde içeriği, toplanması, taşınması, biyogaz enerji tesislerinin ilk yatırım ve işletme maliyetleri, hayvan miktarlarındaki değişimler vb. konularda göz önünde tutularak tesisin hayata geçirilmesi önerilmektedir. Süt sığırı çiftliğine kurulması planlanan güneş panelleri veya biyogaz tesisi için enerji ve çevresel potansiyelleri açısından karşılaştırma yapılmıştır. Sonuçta, çiftliğin yıllık tüketilen elektrik enerjisi miktarının 885.855 kWh/yıl olduğu tespit edilmiştir. 4. 4. SONUÇ İki enerji sistemi ile de çiftliğin elektrik enerji miktarının karşılanacağı fakat biyogaz tesisinin sera gazı emisyonunu daha fazla engelleyeceği sonucuna varılmıştır. Biyogaz tesisinin ilk yatırım ve işletme maliyetlerinin fazla olması, toplanması ve taşınması için gerekli maliyetler (mazot vs.), yıllara göre hayvan miktarlarında düşüşlerin olabilmesi ve buna bağlı olarak atık miktarlarında azalmaların meydana gelmesi, herhangi bir ekipmanda arıza olması durumunda yeni ekipmanın temininde aksaklıkların oluşabilmesi gibi risklerin tesis verimliliğini olumsuz etkileyebileceği göz önünde bulundurularak, süt sığırı çiftliğine biyogaz tesisi yerine güneş panellerinin kurulmasına karar verilmiştir. ÇIKAR ÇATIŞMASI Bu çalışmanın yazarları olarak, herhangi bir kurum/kuruluş ya da kişi ile çıkar çatışmasının bulunmadığını onaylarız. YAZAR KATKISI Beyza KORKMAZ, çalışmanın kavramsal ve tasarım süreçlerinin belirlenmesi, veri toplama, veri analizi ve yorumlama, makale taslağının oluşturulması, Saadet HACISALİHOĞLU, çalışmanın kavramsal ve tasarım süreçlerinin belirlenmesi ve yönetimi, veri analizi ve yorumlama, fikirsel içeriğin eleştirel incelemesi ile son onay ve tam sorumluluk kısımlarına katkı sağlamıştır. KAYNAKLAR 1. Ayhan, A. (2015) Biogas Production Potential from Animal Manure of Bursa Province, Uludağ Üniversitesi Ziraat Fakültesi Dergisi, 29(2), 47-53. İ Ö 1. Ayhan, A. (2015) Biogas Production Potential from Animal Manure of Bursa Province, Uludağ Üniversitesi Ziraat Fakültesi Dergisi, 29(2), 47-53. 2. Anonim, (2020) Ardahan İli Biyogaz Tesisi Ön Fizibilite Raporu, Serhat Kalkınma Ajansı, Ardahan. 2. Anonim, (2020) Ardahan İli Biyogaz Tesisi Ön Fizibilite Raporu, Serhat Kalkınma Ajansı, Ardahan. Ö İ 3. Ay, Ö. F. ve Kaya, A. (2020) Kahramanmaraş İlinin Hayvansal Atık Kaynaklı Biyogaz Potansiyeli, Iğdır Üniversitesi Fen Bilimleri Enstitüsü Dergisi, 10(4), 2822-2830. doi: 10.21597/jist.660101 3. Ay, Ö. F. ve Kaya, A. (2020) Kahramanmaraş İlinin Hayvansal Atık Kaynaklı Biyogaz Potansiyeli, Iğdır Üniversitesi Fen Bilimleri Enstitüsü Dergisi, 10(4), 2822-2830. doi: 10.21597/jist.660101 j 4. Alma, M. H. (2022) TÜBA Biyokütle Enerjisi Raporu. Ankara: Türkiye Bilimler Akademisi. j 4. Alma, M. H. (2022) TÜBA Biyokütle Enerjisi Raporu. Ankara: Türkiye Bilimler Akademis Ö 4. Alma, M. H. (2022) TÜBA Biyokütle Enerjisi Raporu. Ankara: Türkiye Bilimler Akademisi. 5. Çaçan, F. (2018). Fotovoltaik Sistemlerin Kurulum ve Maliyet Analizinin Örnek Bir Otele Uygulanması, Yüksek Lisans Tezi, Fırat Üniversitesi Fen Bilimleri Enstitüsü, Elazığ. 5. Çaçan, F. (2018). Fotovoltaik Sistemlerin Kurulum ve Maliyet Analizinin Örnek Bir Otele Uygulanması, Yüksek Lisans Tezi, Fırat Üniversitesi Fen Bilimleri Enstitüsü, Elazığ. 6. Doğan, B. T., Çolakoğlu, A. ve Kıncay, O. (2012) RETScreen Analiz Programı ile Hatay'da Rüzgar Enerji Santrali Fizibilite Analizi, Tesisat Mühendisliği, 15-26. 6. Doğan, B. T., Çolakoğlu, A. ve Kıncay, O. (2012) RETScreen Analiz Programı ile Hatay'da Rüzgar Enerji Santrali Fizibilite Analizi, Tesisat Mühendisliği, 15-26. 7. Durgun, İ. S., Arslan, M. ve Kalkışım, Ö. (2021). Gümüşhane OSB’de Çatı Tip Ges Kurulumu Ön Fizibilite Raporu, Gümüşhane Ticaret Ve Sanayi Odası, Gümüşhane. 8. Diken, B. ve Kayişoğlu, B. (2022) RETScreen Programı Kullanılarak Tekirdağ Namık Kemal Üniversitesi Ziraatbiyotek Binasına Uygulanabilecek Fotovoltaik Tasarımın Fizibilite Analizi, Tekirdağ Ziraat Fakültesi Dergisi, 19(3), 656-667. doi: 10.33462/jotaf.1058491 ğ g ( ) j 9. Eremkere, M. ve Aktaş, T. (2020) Tekirdağ Bağcılık Araştırma Enstitüsü Üzüm Suyu İşleme Tesis Çatısına Uygulanabilecek Fotovoltaik Tasarımların Teknik, Ekonomik ve Çevresel Açılardan Analizi, El-Cezerî Fen ve Mühendislik Dergisi, 7(1), 275-294. doi: 10.31202/ecjse.636966 259 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. 10. Emiroğlu, F. M., Aybek, A. ve Kuzu, H. (2021) İki Farklı Fotovoltaik (PV) Enerji Sisteminin Farklı Hayvancılık İşletmelerinde Kullanımının Değerlendirilmesi, Mustafa Kemal Üniversitesi Tarım Bilimleri Dergisi, 26(3), 808-820. doi: 10.37908/mkutbd.957647 11. Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. 31. Tırınk, S. (2022) Calculation of Biogas Production Potential of Animal Wastes: Example of Iğdır Province, Journal of the Institute of Science and Technology, 12(1), 152-163. doi: 10.21597/jist.1026987 j 32. Yağlı, H. ve Koç, Y. (2019) Hayvan Gübresinden Biyogaz Üretim Potansiyelinin Belirlenmesi: Adana İli Örnek Hesaplama, Çukurova Üniversitesi Mühendislik Mimarlık Fakültesi Dergisi, 34(3), 35-48. doi.org/10.21605/cukurovaummfd.637603 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 KAYNAKLAR Güler, S. (2014) Orta Ölçekli Hayvancılık İşletmelerinde Yenilenebilir Enerji Kullanım Olanakları Ve Örnek Bir Uygulama, Yüksek Lisans Tezi, Namık Kemal Üniversitesi Fen Bilimleri Enstitüsü, Tekirdağ. 12. Gültuna, K. M. (2015) Gürsu-Bursa Fotovoltaik Güç Santralinin Simülasyonu; Teknoekonomik Ve Çevresel Optimizasyon, Yüksek Lisans Tezi, Başkent Üniversitesi Fen Bilimleri Enstitüsü, Bursa. 13. Görmüş, C. (2018) Türkiye' deki Hayvan Gübrelerinin Biyogaz Enerji Potansiyelinin Belirlenmesi, Yüksek Lisans Tezi, Tekirdağ Namık Kemal Üniversitesi Fen Bilimleri Enstitüsü, Tekirdağ. ğ 14. Hatice, E. Y. (2021) Aksaray İli Hayvansal Atık Kaynaklı Biyogaz Potansiyelinin Değerlendirilmesi, Yüksek Lisans Tezi, Aksaray Üniversitesi Sosyal Bilimler Enstitüsü. Aksaray. 15. Hacısalihoğlu, S. (2022). Hayvansal Kaynaklı Yayılı Kirlilik Yükleri Hesabı, Bursa Örneği, Uludağ University Journal of The Faculty of Engineering, 27 (1), 361-374. doi.org/10.17482/uumfd.1059035. 16. Hacısalihoğlu, S. (2023) Hayvansal Atıkların Yönetimi,Bursa-Karacabey Örneği, BAUN Fen Bilimleri Enstitüsü Dergisi, 25(2), 403-415. doi: 10.25092/baunfbed.1145589 17. https://www.greensolarnetwork.org, Erişim Tarihi: 25 Mayıs 2021, Konu: Güneş Ener Sistemi Nedir? Sistem Bileşenleri Nelerdir? (URL-1). 18. https://www.solarenerjin.com, Erişim Tarihi: 29 Ocak 2022, Konu: 2023 yılı 100 kW Güne Enerjisi Kurulum Maliyeti, (URL-2). 19. https://www.keremcilli.com, Erişim Tarihi: 06 Ocak 2023, Konu: Güneş Enerjisi Kurulum Maliyeti 2023, (URL-3). y ( ) 20. https://muhendistan.com, Erişim Tarihi: 07 Ocak 2023, Konu: Şebeke Bağlantılı (On Grid) Solar Sistem Tasarımı, (URL-4). , ( ) 21. http://www.retscreen.net, Erişim Tarihi: 10 Ocak 2024, Konu: RETScreen, (URL-5) 22. https://tr.wikipedia.org/wiki/Karacabey, Erişim Tarihi: 27 Aralık 2023, Konu: Karacabe (URL-6). 3. https://www.incitas.com.tr, Erişim Tarihi: 2023, Konu: Off Grid Sistem Nedir? Nasıl Kurulur ve Nerede Kullanılır? (URL-7). 24. https://gepa.enerji.gov.tr, Erişim Tarihi: 10 Ocak 2024, Konu: Güneş Enerjisi Potansiyel Atlası (GEPA), (URL-8). 25. https://enerji.gov.tr, Erişim Tarihi: 2023, Konu: Elektrik, (URL-9). 26. https://tr.wikipedia.org/wiki/Bursa, Erişim Tarihi: 28.01.2024, Konu: Bursa, (URL-10). İ 27. İzmirli, A. C. (2022) 200 Kw’lık Pv Güneş Enerji Güç Sisteminin RETScreen Programı Kullanılarak Amortisman Ve Enerji Analizlerinin İrdelenmesi, Yüksek Lisans Tezi, İskenderun Teknik Üniversitesi Lisansüstü Eğitim Enstitüsü, Hatay. Ö Ü Ü 28. Öztürk, S. (2022) Güneş Enerjisinden Isı ve Elektrik Üretimi, Bursa Teknik Üniversite Yenilenebilir Enerji Sistemleri Ders Notları, Bursa. 29. Salihoğlu, N. K., Teksoy, A. ve Altan, K. (2019) Büyükbaş ve Küçükbaş Hayvan Atıklarından Biyogaz Üretim Potansiyelinin Belirlenmesi: Balıkesir İli Örneği, Ömer Halisdemir Üniversitesi Mühendislik Bilimleri Dergisi, 8(1), 31-47. doi: 10.28948/ngumuh.516798 30. Şanlı, B. ve Günöz, A. (2018) Mersin İlinin Farklı İlçelerinde Kurulabilecek Rüzgar Enerjisi Santrallerinin RETScreen Programı ile Fizibilite Analizleri ve Karşılaştırmaları. Erzincan Üniversitesi Fen Bilimleri Enstitüsü Dergisi, 11(3), 478-487. doi: 10.18185/erzifbed.420365 260 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 j 32. KAYNAKLAR Yağlı, H. ve Koç, Y. (2019) Hayvan Gübresinden Biyogaz Üretim Potansiyelinin Belirlenmesi: Adana İli Örnek Hesaplama, Çukurova Üniversitesi Mühendislik Mimarlık Fakültesi Dergisi, 34(3), 35-48. doi.org/10.21605/cukurovaummfd.637603 261 262
https://openalex.org/W4242417055
https://f1000research.com/articles/10-543/pdf
English
null
Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis
F1000Research
2,021
cc-by
12,887
SYSTEMATIC REVIEW    Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] Dhan Bahadur Shrestha 1, Pravash Budhathoki2, Yub Raj Sedhai3, Achyut Marahatta 4, Samit Lamichhane 4, Sarbin Nepal 4, Anurag Adhikari 5, Ayusha Poudel 6, Samata Nepal 7, Alok Atreya 8 Open Peer Review Approval Status 1 2 3 version 2 (revision) 06 Sep 2021 view view version 1 07 Jul 2021 view view view Open Peer Review Approval Status 1 2 3 version 2 (revision) 06 Sep 2021 view view version 1 07 Jul 2021 view view view Sijan Basnet , Reading Hospital and Medical Centre, West Reading, USA 1. Chudchawal Juntarawijit , Naresuan University, Phitsanulok, Thailand 2. Prajwal Gyawali , University of Southern Queensland, Toowoomba, Australia 3. Any reports and responses or comments on the article can be found at the end of the article. Open Peer Review Approval Status 1 2 3 version 2 (revision) 06 Sep 2021 view view version 1 07 Jul 2021 view view view Sijan Basnet , Reading Hospital and Medical Centre, West Reading, USA 1. Chudchawal Juntarawijit , Naresuan University, Phitsanulok, Thailand 2. Prajwal Gyawali , University of Southern Queensland, Toowoomba, Australia 3. Any reports and responses or comments on the article can be found at the end of the article. First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Latest published: 06 Sep 2021, 10:543 https://doi.org/10.12688/f1000research.53970.2 v2 SYSTEMATIC REVIEW    Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] SYSTEMATIC REVIEW    Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] Dhan Bahadur Shrestha 1, Pravash Budhathoki2, Yub Raj Sedhai3, Achyut Marahatta 4, Samit Lamichhane 4, Sarbin Nepal 4, Anurag Adhikari 5, Ayusha Poudel 6, Samata Nepal 7, Alok Atreya 8 1Department of Emergency Medicine, Mangalbare Hospital, Morang, 56600, Nepal 2Department of Emergency Medicine, Dr. Iwamura Memorial Hospital, Bhaktapur, 44800, Nepal 3Department of Internal Medicine, Virginia Commonwealth University, School of Medicine, Richmond, Virginia, 23298, USA 4Chitwan Medical College Teaching Hospital, Chitwan, 44200, Nepal 5Department of Emergency Medicine, Nepal National Hospital, Kathmandu, Bagmati, 44600, Nepal 6Department of Emergency Medicine, Alka Hospital, Lalitpur, Bagmati, 44600, Nepal 7Department of Community Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal 8Department of Forensic Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Latest published: 06 Sep 2021, 10:543 https://doi.org/10.12688/f1000research.53970.2 v2 Abstract Aims: To evaluate the prevalence and risk factors of type 2 diabetes mellitus (T2DM) from 2000-2020 in various parts of Nepal. Methods:  PubMed, Embase, Scopus, and Google Scholar were searched using the appropriate keywords. All Nepalese studies mentioning the prevalence of T2DM and/or details such as risk factors were included. Studies were screened using Covidence. Two reviewers independently selected studies based on the inclusion criteria. Meta-analysis was conducted using Comprehensive Meta-Analysis Software v.3. Results:  A total of 15 studies met the inclusion criteria. The prevalence of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal in the last two decades was 10% (CI, 7.1%- 13.9%), 19.4% (CI, 11.2%- 31.3%), and 11.0% (CI, 4.3%- 25.4%) respectively. The prevalence of T2DM in the year 2010-15 was 7.75% (CI, 3.67-15.61), and it increased to 11.24% between 2015-2020 (CI, 7.89-15.77). There were 2.19 times higher odds of having T2DM if the body mass index was ≥24.9 kg/m2. Analysis showed normal waist circumference, normal blood pressure, and no history of T2DM in a family has 64.1%, 62.1%, and 67.3% lower odds of having T2DM, respectively. Conclusion: The prevalence of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal was estimated to be 10%, 19.4%, and 11% respectively. Keywords Blood Pressure Body Mass Index Diabetes Mellitus Type 2 Nepal Open Peer Review Approval Status 1 2 3 version 2 (revision) 06 Sep 2021 view view version 1 07 Jul 2021 view view view Sijan Basnet , Reading Hospital and Medical Centre, West Reading, USA 1. Chudchawal Juntarawijit , Naresuan University, Phitsanulok, Thailand 2. Prajwal Gyawali , University of Southern Queensland, Toowoomba, Australia 3. Any reports and responses or comments on the article can be found at the end of the article. F1000Research 2021, 10:543 Last updated: 01 APR 2022 Keywords Blood Pressure Body Mass Index Diabetes Mellitus Type 2 Nepal Open Peer Review Approval Status 1 2 3 version 2 (revision) 06 Sep 2021 view view version 1 07 Jul 2021 view view view Sijan Basnet , Reading Hospital and Medical Centre, West Reading, USA 1. Chudchawal Juntarawijit , Naresuan University, Phitsanulok, Thailand 2. Prajwal Gyawali , University of Southern Queensland, Toowoomba, Australia 3. Any reports and responses or comments on the article can be found at the end of the article. F1000Research 2021, 10:543 Last updated: 01 APR 2022 SYSTEMATIC REVIEW    Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] Dhan Bahadur Shrestha 1, Pravash Budhathoki2, Yub Raj Sedhai3, Achyut Marahatta 4, Samit Lamichhane 4, Sarbin Nepal 4, Anurag Adhikari 5, Ayusha Poudel 6, Samata Nepal 7, Alok Atreya 8 1Department of Emergency Medicine, Mangalbare Hospital, Morang, 56600, Nepal 2Department of Emergency Medicine, Dr. Iwamura Memorial Hospital, Bhaktapur, 44800, Nepal 3Department of Internal Medicine, Virginia Commonwealth University, School of Medicine, Richmond, Virginia, 23298, USA 4Chitwan Medical College Teaching Hospital, Chitwan, 44200, Nepal 5Department of Emergency Medicine, Nepal National Hospital, Kathmandu, Bagmati, 44600, Nepal 6Department of Emergency Medicine, Alka Hospital, Lalitpur, Bagmati, 44600, Nepal 7Department of Community Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal 8Department of Forensic Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Latest published: 06 Sep 2021, 10:543 https://doi.org/10.12688/f1000research.53970.2 v2 Abstract Aims: To evaluate the prevalence and risk factors of type 2 diabetes mellitus (T2DM) from 2000-2020 in various parts of Nepal. Methods:  PubMed, Embase, Scopus, and Google Scholar were searched using the appropriate keywords. All Nepalese studies mentioning the prevalence of T2DM and/or details such as risk factors were included. Studies were screened using Covidence. Two reviewers independently selected studies based on the inclusion criteria. Meta-analysis was conducted using Comprehensive Meta-Analysis Software v.3. Results:  A total of 15 studies met the inclusion criteria. The prevalence of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal in the last two decades was 10% (CI, 7.1%- 13.9%), 19.4% (CI, 11.2%- 31.3%), and 11.0% (CI, 4.3%- 25.4%) respectively. The prevalence of T2DM in the year 2010-15 was 7.75% (CI, 3.67-15.61), and it increased to 11.24% between 2015-2020 (CI, 7.89-15.77). There were 2.19 times higher odds of having T2DM if the body mass index was ≥24.9 kg/m2. Analysis showed normal waist circumference, normal blood pressure, and no history of T2DM in a family has 64.1%, 62.1%, and 67.3% lower odds of having T2DM, respectively. Conclusion: The prevalence of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal was estimated to be 10%, 19.4%, and 11% respectively. Keywords Blood Pressure Body Mass Index Diabetes Mellitus Type 2 Nepal Open Peer Review Approval Status 1 2 3 version 2 (revision) 06 Sep 2021 view view version 1 07 Jul 2021 view view view Sijan Basnet , Reading Hospital and Medical Centre, West Reading, USA 1. Chudchawal Juntarawijit , Naresuan University, Phitsanulok, Thailand 2. Prajwal Gyawali , University of Southern Queensland, Toowoomba, Australia 3. Any reports and responses or comments on the article can be found at the end of the article. F1000Research 2021, 10:543 Last updated: 01 APR 2022 SYSTEMATIC REVIEW    Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] Dhan Bahadur Shrestha 1, Pravash Budhathoki2, Yub Raj Sedhai3, Achyut Marahatta 4, Samit Lamichhane 4, Sarbin Nepal 4, Anurag Adhikari 5, Ayusha Poudel 6, Samata Nepal 7, Alok Atreya 8 1Department of Emergency Medicine, Mangalbare Hospital, Morang, 56600, Nepal 2Department of Emergency Medicine, Dr. Iwamura Memorial Hospital, Bhaktapur, 44800, Nepal 3Department of Internal Medicine, Virginia Commonwealth University, School of Medicine, Richmond, Virginia, 23298, USA 4Chitwan Medical College Teaching Hospital, Chitwan, 44200, Nepal 5Department of Emergency Medicine, Nepal National Hospital, Kathmandu, Bagmati, 44600, Nepal 6Department of Emergency Medicine, Alka Hospital, Lalitpur, Bagmati, 44600, Nepal 7Department of Community Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal 8Department of Forensic Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Latest published: 06 Sep 2021, 10:543 https://doi.org/10.12688/f1000research.53970.2 v2 Abstract Aims: To evaluate the prevalence and risk factors of type 2 diabetes mellitus (T2DM) from 2000-2020 in various parts of Nepal. Methods:  PubMed, Embase, Scopus, and Google Scholar were searched using the appropriate keywords. All Nepalese studies mentioning the prevalence of T2DM and/or details such as risk factors were included. Studies were screened using Covidence. Two reviewers independently selected studies based on the inclusion criteria. Meta-analysis was conducted using Comprehensive Meta-Analysis Software v.3. Results:  A total of 15 studies met the inclusion criteria. The prevalence of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal in the last two decades was 10% (CI, 7.1%- 13.9%), 19.4% (CI, 11.2%- 31.3%), and 11.0% (CI, 4.3%- 25.4%) respectively. The prevalence of T2DM in the year 2010-15 was 7.75% (CI, 3.67-15.61), and it increased to 11.24% between 2015-2020 (CI, 7.89-15.77). There were 2.19 times higher odds of having T2DM if the body mass index was ≥24.9 kg/m2. Analysis showed normal waist circumference, normal blood pressure, and no history of T2DM in a family has 64.1%, 62.1%, and 67.3% lower odds of having T2DM, respectively. Conclusion: The prevalence of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal was estimated to be 10%, 19.4%, and 11% respectively. F1000Research 2021, 10:543 Last updated: 01 APR 2022 Abstract Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] F1000Research 2021, 10 :543 https://doi.org/10.12688/f1000research.53970.2 First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Corresponding author: Alok Atreya (alokraj67@hotmail.com) Author roles: Shrestha DB: Conceptualization, Data Curation, Formal Analysis, Methodology, Writing – Original Draft Preparation; Budhathoki P: Data Curation, Formal Analysis, Methodology, Supervision, Validation, Writing – Original Draft Preparation; Sedhai YR: Data Curation, Methodology, Supervision, Validation, Writing – Review & Editing; Marahatta A: Data Curation, Formal Analysis, Project Administration, Software, Writing – Original Draft Preparation; Lamichhane S: Data Curation, Formal Analysis, Investigation, Methodology, Project Administration, Writing – Original Draft Preparation; Nepal S: Data Curation, Formal Analysis, Methodology, Software, Writing – Original Draft Preparation; Adhikari A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing; Poudel A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing; Nepal S: Formal Analysis, Investigation, Methodology, Software, Supervision, Writing – Review & Editing; Atreya A: Supervision, Validation, Writing – Review & Editing Competing interests: No competing interests were disclosed. Grant information: The author(s) declared that no grants were involved in supporting this work. Copyright: © 2021 Shrestha DB et al. This is an open access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. How to cite this article: Shrestha DB, Budhathoki P, Sedhai YR et al. Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] F1000Research 2021, 10 :543 https://doi.org/10.12688/f1000research.53970.2 First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Abstract Aims: To evaluate the prevalence and risk factors of type 2 diabetes mellitus (T2DM) from 2000-2020 in various parts of Nepal. Methods:  PubMed, Embase, Scopus, and Google Scholar were searched using the appropriate keywords. All Nepalese studies mentioning the prevalence of T2DM and/or details such as risk factors were included. Studies were screened using Covidence. Two reviewers independently selected studies based on the inclusion criteria. Meta-analysis was conducted using Comprehensive Meta-Analysis Software v.3. Results:  A total of 15 studies met the inclusion criteria. The prevalence of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal in the last two decades was 10% (CI, 7.1%- 13.9%), 19.4% (CI, 11.2%- 31.3%), and 11.0% (CI, 4.3%- 25.4%) respectively. The prevalence of T2DM in the year 2010-15 was 7.75% (CI, 3.67-15.61), and it increased to 11.24% between 2015-2020 (CI, 7.89-15.77). There were 2.19 times higher odds of having T2DM if the body mass index was ≥24.9 kg/m2. Analysis showed normal waist circumference, normal blood pressure, and no history of T2DM in a family has 64.1%, 62.1%, and 67.3% lower odds of having T2DM, respectively. Conclusion: The prevalence of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal was estimated to be 10%, 19.4%, and 11% respectively. Sijan Basnet , Reading Hospital and Medical Centre, West Reading, USA 1. Keywords Blood Pressure, Body Mass Index, Diabetes Mellitus Type 2, Nepal Keywords Blood Pressure, Body Mass Index, Diabetes Mellitus Type 2, Nepal Page 1 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Corresponding author: Alok Atreya (alokraj67@hotmail.com) Author roles: Shrestha DB: Conceptualization, Data Curation, Formal Analysis, Methodology, Writing – Original Draft Preparation; Budhathoki P: Data Curation, Formal Analysis, Methodology, Supervision, Validation, Writing – Original Draft Preparation; Sedhai YR: Data Curation, Methodology, Supervision, Validation, Writing – Review & Editing; Marahatta A: Data Curation, Formal Analysis, Project Administration, Software, Writing – Original Draft Preparation; Lamichhane S: Data Curation, Formal Analysis, Investigation, Methodology, Project Administration, Writing – Original Draft Preparation; Nepal S: Data Curation, Formal Analysis, Methodology, Software, Writing – Original Draft Preparation; Adhikari A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing; Poudel A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing; Nepal S: Formal Analysis, Investigation, Methodology, Software, Supervision, Writing – Review & Editing; Atreya A: Supervision, Validation, Writing – Review & Editing Competing interests: No competing interests were disclosed. Abstract Grant information: The author(s) declared that no grants were involved in supporting this work. Copyright: © 2021 Shrestha DB et al. This is an open access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. How to cite this article: Shrestha DB, Budhathoki P, Sedhai YR et al. Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] F1000Research 2021, 10 :543 https://doi.org/10.12688/f1000research.53970.2 First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Corresponding author: Alok Atreya (alokraj67@hotmail.com) Author roles: Shrestha DB: Conceptualization, Data Curation, Formal Analysis, Methodology, Writing – Original Draft Preparation; Budhathoki P: Data Curation, Formal Analysis, Methodology, Supervision, Validation, Writing – Original Draft Preparation; Sedhai YR: Data Curation, Methodology, Supervision, Validation, Writing – Review & Editing; Marahatta A: Data Curation, Formal Analysis, Project Administration, Software, Writing – Original Draft Preparation; Lamichhane S: Data Curation, Formal Analysis, Investigation, Methodology, Project Administration, Writing – Original Draft Preparation; Nepal S: Data Curation, Formal Analysis, Methodology, Software, Writing – Original Draft Preparation; Adhikari A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing; Poudel A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing; Nepal S: Formal Analysis, Investigation, Methodology, Software, Supervision, Writing – Review & Editing; Atreya A: Supervision, Validation, Writing – Review & Editing Competing interests: No competing interests were disclosed. Grant information: The author(s) declared that no grants were involved in supporting this work. Copyright: © 2021 Shrestha DB et al. This is an open access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. How to cite this article: Shrestha DB, Budhathoki P, Sedhai YR et al. Introduction The burden of type 2 diabetes mellitus (T2DM) is increas- ing across the globe with time. The growing prevalence of diabetes lead to big impact in societal socio-economic and health aspect1. In 2019, the International Diabetes Federation (IDF) estimated that 463 million adults worldwide had diabetes1. The statistics showed that these individuals were in the age range of 20 to 79, have diabetes, and 79.4% were from low- and middle-income countries1. Additionally, IDF estimates that the global prevalence of diabetes will be 578.4 million by 2030, with this rising to 700.2 million by 2045 among adults aged between 20 to 79 years1 In the region of Southeast Asia, the prevalence of diabetes was 8.8% in 2019, and this is pro- jected to increase to 9.7% by 20302. T2DM still remains a major cause of worldwide morbidity and mortality, which leads to complications such as neuropathy, nephropathy, stroke, and coronary artery disease3. In 2017, over 10, 000 individu- als died due to T2DM or diabetes-related complications in Nepal, which is the 11th most common cause of disability in terms of disability-adjusted life years (DALYs) (1226 DALYs per 10,000 population)4. In 2020, the prevalence of T2DM in Nepal was 8.5% (95% CI 6.9–10.4%), which was higher than that of 8.4% (95% CI 6.2–10.5%) in 20145,6. Similarly, in 2020 the prevalence of pre-diabetes was 9.2% (95% CI 6.6 – 12.6%) compared to 2014, which was 10.3% (95% CI 6.1–14.4%)5,6. In the advent of growing non-communicable diseases, a Multi- Sectoral Action Plan has been adopted by the government of Nepal to prevent and control non-communicable diseases including T2DM7. There are several prevalence studies across the countries and in different localities, however, there is no appropriate pooling of the data on the risk factors of T2DM in Nepal. Thus, with the objective to pool the avail- able data on prevalence and risk factors for pre-diabetes, and T2DM in Nepal over the past 20 years we conducted this meta-analysis. Pooling the studies done in various parts of the country by gathering data of individual prevalence and risk factor study on T2DM can be helpful for the further preven- tion and control of this disease. This will build the foundation of the evidence for evidence based practice. Editorials, commentaries, viewpoint articles without adequate data on T2DM and its related issues were excluded. Corresponding author: Alok Atreya (alokraj67@hotmail.com) Corresponding author: Alok Atreya (alokraj67@hotmail.com) Author roles: Shrestha DB: Conceptualization, Data Curation, Formal Analysis, Methodology, Writing – Original Draft Preparation; Budhathoki P: Data Curation, Formal Analysis, Methodology, Supervision, Validation, Writing – Original Draft Preparation; Sedhai YR: Data Curation, Methodology, Supervision, Validation, Writing – Review & Editing; Marahatta A: Data Curation, Formal Analysis, Project Administration, Software, Writing – Original Draft Preparation; Lamichhane S: Data Curation, Formal Analysis, Investigation, Methodology, Project Administration, Writing – Original Draft Preparation; Nepal S: Data Curation, Formal Analysis, Methodology, Software, Writing – Original Draft Preparation; Adhikari A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing; Poudel A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing; Nepal S: Formal Analysis, Investigation, Methodology, Software, Supervision, Writing – Review & Editing; Atreya A: Supervision, Validation, Writing – Review & Editing ant information: The author(s) declared that no grants were involved in supporting this work. How to cite this article: Shrestha DB, Budhathoki P, Sedhai YR et al. Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] F1000Research 2021, 10 :543 https://doi.org/10.12688/f1000research.53970.2 p g First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Page 2 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Information sources and search strategy Electronic databases such as PubMed, PubMed Central, Google Scholar, Scopus, and Embase were used to search relevant arti- cles (Extended data file 110). Published articles from 2000 to 2020 were searched with the use of the appropriate keywords such as “diabetes mellitus”, “high blood sugar”, “type 2 diabe- tes”, “prevalence”, “risk factor” and “Nepal” along with relevant Boolean operators. Eligibility criteria All published studies that took place in Nepal from 2000–2020 were included in this review. These studies comprised of cross-sectional studies, case series that reported on more than 50 patients, cohort study, randomized control trial (RCTs) that were based on prevalence of T2DM and/or its related issues such as risk factors, outcome, and outcome predictors. Introduction Furthermore, studies that took place before 1999, outside of Nepal, as well as those that were on Type 1 and gestational diabetes were excluded. Data analysis Data analysis Comprehensive Meta-Analysis Software (CMA) v.3 was used to analyze the extracted data. Amendments from Version 1 REVISED The manuscript is revised based on the reviewer’s comments. More information on prevalence and risk factors for diabetes is added. We have also added a statement describing the rationale of the review. Furthermore, we have elaborated the qualitative summary. Any further responses from the reviewers can be found at the end of the article Any further responses from the reviewers can be found at the end of the article Study selection The studies were selected with the use of Covidence11. The title and abstract were screened based on the inclusion crite- ria independently by two authors (SL, SN). Discrepancies were resolved by consensus obtained from the third author (AM). Further full-text review (SN, AM) was done independently, and discrepancies (SL) were resolved. Data collection process and data extraction Data collection process and data extraction Three authors (SL, AM, and SN) were independently involved in the data extraction and adding that to a standardized form in Excel. The accuracy and completion of each other’s work was verified by all the reviewers. The characteristics extracted for each selected study included, first author, year, study design, sample size, study location, prevalence rate, and risk factors of T2DM such as Body Mass Index (BMI), exercise (moderate to high level of exercise (≥ 30 minutes/days) is taken as adequate), waist circumference (≥85 cm in females, and ≥90 cm in males were defined as high), family history, fruit and vegetable serving per day, alcohol, smoking/tobacco, literacy, and increased blood pressure (BP) (≥140/90 mmHg is taken as hypertensive) (Please see Underlying data12). Methods T2DM was defined as a fasting blood glucose (FBG) of  ≥ 126 mg/dl (7.0 mmol/l) or a 2-h oral glucose tolerance test (OGTT) blood glucose level of ≥ 200 mg/dl (11.1 mmol/l). Pre- diabetes was defined as FBG level between 100 (5.6 mmol/l) and 125 mg/dL (< 7 mmol/l) or a 2-h OGTT blood glucose level between 140 (7.8 mmol/l) and 199 mg/dl (11 mmol/l). Impaired Protocol registration The systematic review is registered in PROSPERO (CRD42020215247). It is documented as per the guidelines of the Meta-Analysis of Observational Studies in Epidemiology (MOOSE)8,9. Page 3 of 24 Page 3 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 had T2DM (Proportion, 0.1040; 95% CI, 0.0668-0.1596) (Extended data file 2, Figure 2), while 9.23% among hospital/Directly observed, treatment short-course (DOTS) center-based studies have this disease (Proportion, 0.0923; 95% CI, 0.0509-0.1617) (Extended data file 2, Figure 310). glucose tolerance (IGT) was defined as two-hour glucose levels of 140 to 199 mg per dL (7.8 to 11.0 mmol) on the 75-g oral glucose tolerance test13. Assessment of heterogeneity The heterogeneity in the included studies was assessed based on the Cochrane Handbook for Systematic reviews by the I2 statistics (I2>50%)15. Thus, a random-effects model with the inverse variance heterogeneity model was performed. If I²>50% significant heterogeneity random effect model was preferred. If I²<50% then fixed effect model was preferred. Risk factors of T2DM Exercise. Random-effects model that incorporated data from six studies on exercise showed that the difference in T2DM sta- tus between adequate and inadequate exercise groups were not statically significant (OR, 0.75, 95% CI, 0.49-1.16; I2, 67.85%) (Figure 4). Qualitative summary A qualitative summary of all 15 individual study is presented in (Table 2). Nine studies were done in community setting while rest six were done in hospital setting. Two community based studies, and one hospital based study included sam- ple from different part of Nepal to represent the country, while rest were loco-regional studies. Alcohol consumption. T2DM status in relation with alco- hol consumption was assessed by four studies with the use of random-effects model. The results showed that T2DM status among alcoholic and non-alcoholic groups were not statisti- cally significant (OR, 0.750; 95% CI, 0.439-1.281 I2; 37.72%) (Figure 7). Result A total of 4651 studies were analyzed after thorough data- base search, of which 736 were identified as duplicates and removed. Title and abstracts of 3915 studies were screened and 3822 studies were excluded. The full-text eligibility of 92 studies was assessed and 77 studies were excluded for definite reasons. A total of 15 studies were included in the quali- tative and quantitative analysis. The following information is depicted in the PRISMA flow diagram (Figure 1). Waist circumference. Individuals with healthy waist circum- ference had 64.1% lower odds of having T2DM compared with those with high waist circumference (OR, 0.361; 95% CI, 0.284-0.460; I2, 0%) (Extended data file 2, Figure 410). Smoking status. The random-effects meta-analysis of four T2DM studies based on smoking status indicated that the dif- ferences in T2DM status among smokers and non-smoker were not significant (OR, 0.752; 95% CI, 0.366-1.546; I2; 87.2%) (Figure 6). Bias assessment Bias assessment of the included studies was done by the Joanna Briggs Institute (JBI) tool (Table 1)14. Pre-diabetes was present in 19.4% (Proportion, 0.194; 95% CI, 11.2%- 31.3%) (Extended data file 2, Figure 4) and IGT in 11.0% (Proportion, 0.110; 95% CI, 4.3%- 25.4%) (Extended data file 2, Figure 510). Sensitivity analysis The sensitivity analysis was performed by excluding studies that did not show any significant difference in the prevalence of T2DM. BMI. Fixed-effect meta-analysis of five studies that reported on the BMI indicated that with a BMI ≥24.9 kg/m2 the odds of having T2DM is 2.19 times higher than with BMI <24.9 kg/m2 (OR, 2.197; 95% CI, 1.799-2.683) (Figure 5). Quantitative synthesis A total of 15 studies were included in the quantitative analysis. BP. Fixed-effect meta-analysis of three studies that have reported on T2DM status in relation with BP has indicated that the odds of individuals with normal BP having T2DM is 62.1% lower than those with high BP (OR, 0.379; 95% CI, 0.290-0.495) (Figure 8). Prevalence of T2DM The random effects meta-analysis assessment of 15 studies indicated T2DM prevalence at 10% (95% CI, 7.1%- 13.9%) (Figure 2). Sensitivity analysis was performed with the exclusion of individual studies which resulted in no significant differences in the prevalence of T2DM (Extended data file 2, Figure 110) Literacy. The assessment of four studies that reported on T2DM based on literacy status did not show any significant differences in T2DM between literate and illiterate groups (OR, 1.165; 95% CI, 0.664-2.045; I2, 93.61%) (Figure 9). The assessment of T2DM prevalence between 2010–2015 with the use of random-effects meta-analysis was 7.75% (Propor- tion, 0.0775; 95% CI, 0.0367-0.1561; studies: 4; I2:99.62), while this value increased to 11.24%, between 2015–2020 (Proportion, 0.1124; 95% CI, 0.0789-0.1577; I2: 96.74) (Figure 3). Family history. The random-effects meta-analysis of three stud- ies indicated that the odds of T2DM in individuals without a family history of T2DM were 67.3% lower in comparison to those with a family history (OR, 0.327; 95% CI, 0.202-0.529; I2, 56.62%) (Figure 10). In relation to the study setting, the re-analysis of the data with the use of the random-effects model showed that 10.4% among surveyed adult population based on community-based studies Page 4 of 24 Page 4 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Table 1. JBI checklist for bias assessment. Author/year Was the sample frame appropriate to address the target population? Were study participants sampled in an appropriate way? Was the sample size adequate? Were the study subjects and the setting described in detail? Was the data analysis conducted with sufficient coverage of the identified sample? Were valid methods used for the identification of the condition? Was the condition measured in a standard, reliable way for all participants? Was there appropriate statistical analysis? Was the response rate adequate, and if not, was the low response rate managed appropriately? Sharma B16 et al. 2019 yes yes No Yes Yes yes yes yes yes Gyawali B17 et al. 2018 yes yes Yes Yes Yes yes yes yes yes Sharma SK18 et al. 2011 yes yes Yes Yes Yes yes yes yes yes Sharma SK19 et al. 2013 yes yes Yes Yes yes yes yes yes yes Chhetri MR20 et al. 2009 yes yes Yes Yes yes yes yes yes yes Paudyal G21 et al. 2008 yes yes Yes Yes yes yes yes yes yes Bhandari GP22 et al. Prevalence of T2DM 2014 yes yes Yes Yes yes yes yes no yes Karki P23 et al. 2000 yes yes Yes Yes yes yes yes no yes Paudel S24 et al. 2020 yes yes Yes Yes yes yes yes yes yes Koirala S25 et al. 2018 yes yes yes Yes yes yes yes yes yes Ranabhat K26 et al. 2016 no yes no Yes yes yes yes yes yes Mehta KD27 et al. 2011 yes yes yes Yes yes yes yes yes yes Shrestha UK28 et al. 2006 yes yes yes Yes yes yes yes yes yes Dhimal M29 et al. 2019 yes no yes Yes yes yes yes yes yes Kushwaha A30 et al. 2020 no yes no Yes yes yes yes yes yes F1000Research 2021, 10:543 Last updated: 01 APR 2022 Discussion Fruits and vegetables intake. The data assessment of the two studies that had reported on T2DM status in relation to fruits and vegetable intake did not reach a significant difference (OR, 0.933; 95% CI, 0.441-1.976; I2, 78.72%). (Extended data file 2, Figure 710). The prevalence of T2DM, pre-diabetes, and IGT in Nepal was found to be 10%, 19.4%, and 11% respectively. Our results show that in Nepal obesity is the highest risk factor for T2DM, while individuals with normal waist circumference and lack of family history of T2DM had lower risk of T2DM. Publication bias. Publication bias among the included stud- ies were tested with the use of Egger’s test and was presented in a Funnel plot. The prevalence of T2DM in the Funnel plot showed an asymmetric distribution of studies, which suggested publication bias (Extended data file 2, Figure 810). The estimated prevalence of T2DM was higher than that reported in WHO STEP wise approach to Surveillance (STEPS) survey in 2013 (3.6%), and previous meta-analyses (8.4% and 8.5%)5,6,31. Similarly, the estimated prevalence of pre-diabetes Figure 1. PRISMA flow diagram. Page 6 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Table 2. Qualitative summary. Author/s Study Year Study Design Sample Size Study Area Pre-diabetes T2DM IGT Dhimal M29 et al. 2019 2019 Cross-sectional study 12557 72 districts (all provinces) 1067/12557 Shrestha UK28 et al. 2006 2006 Cross-sectional study 1012 Seven wards of metropolitan and sub-metropolitan of Nepal 192/1012 107/1012 Kushwaha A30 et al. 2020 2020 Cross-sectional study 114 Community Hospital 5/114 Sharma B16 et al. 2019 2019 Cross-sectional study 320 Morang 55/320 38/320 57/320 Gyawali B17 et al. 2018 2018 Cross-sectional study 2310 Lekhnath municipality 302/2310 271/2310 Sharma SK18 et al. 2011 2011 Cross-sectional study 14425 Eastern Nepal 889/14008 Sharma SK19 et al. 2013 2013 Cross-sectional study 3218 Dharan 242/3218 Chhetri MR20 et al. 2009 2009 Cross-sectional study 1633 Kathmandu valley 422/1633 Paudyal G21 et al. 2008 2008 Cross-sectional study 1475 Mulpani ,Gothar Kathmandu valley 60/1475 34/1475 Bhandari G22 et al. 2014 2014 Cross-sectional study 11901 31 selected hospital institutions (28 non-speciality and 3 speciality) 391/11901 Karki P23 et al. 2000 2000 Cross-sectional Study 1,840 Outpatient clinic of BPKIHS 116/1840 Paudel S24 et al. 2020 2020 Secondary analysis of the data 1977 Across Nepal 179/1977 Koirala S25 et al. 2018 2018 Cross-sectional study 188(85M/103F) Mustang district 59/188 9/188 Ranabhat K26 et al. 2016 2016 Cross-sectional study 154 (80M/74F) Tribhuwan University Teaching Hospital of Nepal 66/154 Mehta KD27 et al. 2011 2011 Cross-sectional study 2006(1096M/910F) Sunsari , Eastern Nepal 422/2006 80/289 BPKIHS, B.P. Koirala Institute of Health Sciences; F, female; IGT, Impaired Glucose Test; M, Male. Table 2. Qualitative summary. Author/s Study Year Study Design Sample Size Study Area Pre-diabetes T2DM IGT Dhimal M29 et al. 2019 2019 Cross-sectional study 12557 72 districts (all provinces) 1067/12557 Shrestha UK28 et al. 2006 2006 Cross-sectional study 1012 Seven wards of metropolitan and sub-metropolitan of Nepal 192/1012 107/1012 Kushwaha A30 et al. 2020 2020 Cross-sectional study 114 Community Hospital 5/114 Sharma B16 et al. 2019 2019 Cross-sectional study 320 Morang 55/320 38/320 57/320 Gyawali B17 et al. 2018 2018 Cross-sectional study 2310 Lekhnath municipality 302/2310 271/2310 Sharma SK18 et al. 2011 2011 Cross-sectional study 14425 Eastern Nepal 889/14008 Sharma SK19 et al. 2013 2013 Cross-sectional study 3218 Dharan 242/3218 Chhetri MR20 et al. 2009 2009 Cross-sectional study 1633 Kathmandu valley 422/1633 Paudyal G21 et al. Figure 3. Prevalence of T2DM in Nepal taking consideration of time frame from 2010–2020. 2008 2008 Cross-sectional study 1475 Mulpani ,Gothar Kathmandu valley 60/1475 34/1475 Bhandari G22 et al. 2014 2014 Cross-sectional study 11901 31 selected hospital institutions (28 non-speciality and 3 speciality) 391/11901 Karki P23 et al. 2000 2000 Cross-sectional Study 1,840 Outpatient clinic of BPKIHS 116/1840 Paudel S24 et al. 2020 2020 Secondary analysis of the data 1977 Across Nepal 179/1977 Koirala S25 et al. 2018 2018 Cross-sectional study 188(85M/103F) Mustang district 59/188 9/188 Ranabhat K26 et al. 2016 2016 Cross-sectional study 154 (80M/74F) Tribhuwan University Teaching Hospital of Nepal 66/154 Mehta KD27 et al. 2011 2011 Cross-sectional study 2006(1096M/910F) Sunsari , Eastern Nepal 422/2006 80/289 BPKIHS, B.P. Koirala Institute of Health Sciences; F, female; IGT, Impaired Glucose Test; M, Male. Page 7 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Figure 5. Forest plot showing BMI category and T2DM in Nepal. F1000Research 2021, 10:543 Last updated: 01 APR 2022 F1000Research 2021, 10:543 Last updated: 01 APR 2022 increased sedentary behaviors with limited physical activities have contributed to the rise of overweight and obesity among children and adolescents33. Rapid development of the economic situation in developing countries like Nepal has resulted in a change of diet rich in cereal and vegetables to one with animal products and processed food with high fat and sugar content34. In a study by Hills et al. the prevalence of overweight in Nepal was in our study was almost double than what has been reported in other studies5,6. One explanation for this find- ing can be the rapid urbanization, and migration from rural to urban areas which has promoted a sedentary lifestyle among individuals, along with consumption of unhealthy foods32. As per our study, high BMI was the main cause of T2DM in Nepal. In South Asia, lifestyle factors such as poor diet, and Figure 2. Prevalence of T2DM in Nepal. Figure 2. Prevalence of T2DM in Nepal. Figure 3. Prevalence of T2DM in Nepal taking consideration of time frame from 2010–2020. Page 8 o Figure 3. Prevalence of T2DM in Nepal taking consideration of time frame from 2010–2020. Figure 3. Prevalence of T2DM in Nepal taking consideration of time frame from 2010–2020. Page 8 of 24 Page 8 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 estimated to be 16.7%, with a higher prevalence in women (19.6%) compared to men (13.6%)34. Obesity is closely linked with premature onset of T2DM and cardiovascular disease35. A similar increasing trend of T2DM led by obesity is seen in with premature onset of T2DM and cardiovascular disease35. A similar increasing trend of T2DM led by obesity is seen in Figure 4. Forest plot showing exercise status and T2DM in Nepal. Figure 4. Forest plot showing exercise status and T2DM in Nepal. Figure 5. Forest plot showing BMI category and T2DM in Nepal. Figure 4. Forest plot showing exercise status and T2DM in Nepal. Figure 7. Forest plot showing alcohol consumption status and T2DM in Nepal. Page 9 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Figure 6. Forest plot showing smoking status and T2DM in Nepal. Figure 6. Forest plot showing smoking status and T2DM in Nepal. Fi 7 F l h i l h l i d T2DM i N l Figure 6. Forest plot showing smoking status and T2DM in Nepal. Figure 9. Forest plot showing literacy status and T2DM in Nepal. Figure 8. Forest plot showing blood pressure status and T2DM in Nepal. Figure 8. Forest plot showing blood pressure status and T2DM in Nepal. Page 10 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Forest plot showing blood pressure status and T2DM in Nepal. Figure 8. Forest plot showing blood pressure status and T2DM in Nepal. Page 11 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 re 10. Forest plot showing the family history of T2DM and Diabetes status in patients in Nepal. Figure 10. Forest plot showing the family history of T2DM and Diabetes status in patients in Nepal. Figure 10. Forest plot showing the family history of T2DM and Diabetes status in patients in Nepal Africa as well36. It is important to target T2DM risk factors in order to take control of this disease in Nepal. Physicians advise for special diet and regular exercise for diabetic patients, however, there are noncompliance has been observed in Nepa- lese population37. Our findings highlight the importance of exercise and a healthy diet to prevent the increased morbidity among individuals with T2DM in this country. Shrestha et al. found that the T2DM awareness to be low, with nearly half of the population unaware of the fact that they had this disease6. Increasing public awareness about non-communicable diseases like T2DM and hypertension, and the need to implement a healthy lifestyle is of paramount importance given that our results indicated that individuals with normal blood pressure had less chance of developing T2DM compared to those with hypertension. Increased intake of oily foods, reusing cook- ing oils which can cause increased conversion of unsaturated fats to trans fats, and low consumption of fruits and vegetables have been found throughout South Asia38,39. These unhealthy dietary habits lead to increased risks of non-communicable dis- eases like T2DM and hypertension. Thus, interventions are needed to better manage the overweight and obesity epidemic. This can be achieved through various measures such as open- ing public parks in the cities for exercise, educating the population about what a healthy lifestyle entails such as decreasing the intake of oily foods, increasing the intake of fruits and vegetable, as well as improving the quality of food. Our study has several strengths. Firstly, we performed comprehensive literature search to pool the results of fifteen studies over the last twenty years to evaluate the prevalence of T2DM in Nepal. In addition, no prior meta-analysis has evaluated the risk factors for T2DM, specifically IGT in Nepal, prior to our study. We also analyzed data based on a time frame, where significant increase in T2DM prevalence was observed in Nepal when comparing 2010–2015 with 2015–2020. Our study had some limitations. There was heterogeneity in the studies due to variation in the T2DM diagnostic criteria, different demographics of the population, etc. Most of the included studies were based on specific areas such as province 1 and 3, and not enough studies have been done on a national scale. Finally, risk factors for T2DM were not reported in all the studies that were included. Conclusion The prevalence of T2DM, pre-diabetes and IGT in Nepal was estimated to be 10%, 19.4% and 11% respectively. Obesity is the major risk factor of T2DM in Nepal and people with normal waist circumference, normal blood pressure and lack of family history of T2DM had lower odds of developing this disease. Figure 10. Forest plot showing the family history of T2DM and Diabetes status in patients in Nepal. p; ; ( ) PubMed Abstract | Publisher Full Text PubMed Abstract | Publisher Full Text 8. Stroup DF, Berlin JA, Morton SC, et al.: Meta-analysis of observational studies in epidemiology: A proposal for reporting. Meta-analysis Of Observational Studies in Epidemiology (MOOSE) group. JAMA. 2000; 283(15): 2008–12. PubMed Abstract | Publisher Full Text 9. Budhathoki P, Shrestha D, Marahatta A, et al.: Diabetes Mellitus in Nepal, A Meta-Analysis of prevalence and risk factor studies. PROSPERO CRD42020215247. 2020; [cited 2021 May 19]. Reference Source 10. Shrestha DB, Budhathoki P, Sedhai YR, et al.: Extended data- Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis. 2021; [cited 2021 Jun 27]. http://www.doi.org/10.6084/m9.figshare.14854065.v1 11. Covidence systematic review software, Veritas Health Innovation, Melbourne, Australia. [cited 2021 May 13]. Reference Source 12. Shrestha DB, Budhathoki P, Sedhai YR, et al.: Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis. figshare. 2021; [cited 2021 Jun 27]. http://www.doi.org/10.6084/m9.figshare.14706648.v1 13. American Diabetes Association: Diagnosis and classification of diabetes 8. Stroup DF, Berlin JA, Morton SC, et al.: Meta-analysis of observational studies in epidemiology: A proposal for reporting. Meta-analysis Of Observational Studies in Epidemiology (MOOSE) group. JAMA. 2000; 283(15): 2008–12. PubMed Abstract | Publisher Full Text 21. Paudyal G, Shrestha MK, Meyer JJ, et al.: Prevalence of diabetic retinopathy following a community screening for diabetes. Nepal Med Coll J. Nepal Pediatric Ocular Diseases Study View project Reconstructing Nepali Population History View project Prevalence of diabetic retinopathy following a community screening for diabetes. 2008; 10(3): 160–3. PubMed Abstract 9. Budhathoki P, Shrestha D, Marahatta A, et al.: Diabetes Mellitus in Nepal, A Meta-Analysis of prevalence and risk factor studies. PROSPERO CRD42020215247. 2020; [cited 2021 May 19]. Reference Source 22. Bhandari GP, Angdembe MR, Dhimal M, et al.: State of non-communicable diseases in Nepal. BMC Public Health. 2014; 14(1): 23. PubMed Abstract | Publisher Full Text | Free Full Text 10. Shrestha DB, Budhathoki P, Sedhai YR, et al.: Extended data- Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis. 2021; [cited 2021 Jun 27]. http://www.doi.org/10.6084/m9.figshare.14854065.v1 23. Karki P, Baral N, Lamsal M, et al.: Prevalence of non-insulin dependent diabetes mellitus in urban areas of eastern Nepal: a hospital based study. Southeast Asian J Trop Med Public Health. 2000; 31(1): 163–6. PubMed Abstract 24. Data availability statement Underlying data Figshare: Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis https://doi.org/10.6084/m9.figshare.14706648.v112 Page 12 of 24 Page 12 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Data are available under the terms of the Creative Commons Zero “No rights reserved” data waiver (CC0 1.0 Public domain dedication). The project contains the following underlying data: Dataset: Quantitative data, glycemic control, socio-economic status, BMI, exercise, T2DM prevalence, waist circumfer- ence, family history, fruit and vegetable serving per day, alcohol consumption, smoking, education, and BP) ) PubMed Abstract | Publisher Full Text | Free Full Text 2. Saeedi P, Petersohn I, Salpea P, et al.: Global and regional diabetes prevalence estimates for 2019 and projections for 2030 and 2045: Results from the International Diabetes Federation Diabetes Atlas, 9 th edition. Diabetes Res Clin Pract. 2019; 157: 107843. PubMed Abstract | Publisher Full Text 14. critical-appraisal-tools: Critical Appraisal Tools. Joanna Briggs Institute. [cited 2020 Dec 18]. Reference Source 15. 9.5.2 Identifying and measuring heterogeneity. [cited 2020 Dec 18]. Reference Source 3. Yau JW, Rogers SL, Kawasaki R, et al.: Global prevalence and major risk factors of diabetic retinopathy. Diabetes Care. 2012; 35(3): 556–64. PubMed Abstract | Publisher Full Text | Free Full Text 16. Sharma B, Khanal VK, Jha N, et al.: Study of the magnitude of diabetes and its associated risk factors among the tuberculosis patients of Morang, Eastern Nepal. BMC Public Health. 2019; 19(1): 1545. PubMed Abstract | Publisher Full Text | Free Full Text 4. Khanal P, Nielsen MO: Is foetal programming by mismatched pre- And postnatal nutrition contributing to the prevalence of obesity in Nepal? Prev Nutr Food Sci. Korean Society of Food Science and Nutrition; 2019; 24(3): 235–44. 17. Gyawali B, Hansen MRH, Povlsen MB, et al.: Awareness, prevalence, treatment, and control of type 2 diabetes in a semi-urban area of Nepal: Findings from a cross-sectional study conducted as a part of COBIN-D trial. PLoS One. 2018; 13(11): e0206491. PubMed Abstract | Publisher Full Text | Free Full Text 2011: 821971. PubMed Abstract | Publisher Full Text | Free Full Text 19. Sharma SK, Dhakal S, Thapa L, et al.: Community-based screening for chronic kidney disease, hypertension and diabetes in dharan. JNMA J Nepal Med Assoc. 2013; 52(189): 205–12. PubMed Abstract | Publisher Full Text 235 44. PubMed Abstract | Publisher Full Text | Free Full Text 5. Gyawali B, Sharma R, Neupane D, et al.: Prevalence of type 2 diabetes in Nepal: a systematic review and meta-analysis from 2000 to 2014. Glob Health Action. 2015; 8(1): 29088. PubMed Abstract | Publisher Full Text | Free Full Text 18. Sharma SK, Ghimire A, Radhakrishnan J, et al.: Prevalence of hypertension, obesity, diabetes, and metabolic syndrome in Nepal. Int J Hypertens. 2011; 2011: 821971. PubMed Abstract | Publisher Full Text | Free Full Text 6. Shrestha N, Mishra SR, Ghimire S, et al.: Burden of Diabetes and Prediabetes in Nepal: A Systematic Review and Meta-Analysis. Diabetes Ther. Adis; 2020; 11(9): 1935–46. PubMed Abstract | Publisher Full Text | Free Full Text Extended data DBS, PB, and YRS contributed to the concept and design, analysis, and interpretation of data. DBS, PB, AM, SL, SN, AA, and AP contributed to the literature search, data extraction, review, and initial manuscript drafting. YRS, SN, and AA interpretation of data, revising the manuscript for important intellectual content, and approval of the final manuscript. Figshare: Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis https://doi.org/10.6084/m9.figshare.14854065.v110 https://doi.org/10.6084/m9.figshare.14854065.v110 The project contains the following underlying data:i The project contains the following underlying data:i • Data file 1: Electronic search details • Data file 2: Additional analysis All authors were involved in drafting and revising the manuscript and approved the final version. • Data file 3: PRISMA checklist ( ) PubMed Abstract | Publisher Full Text | Free Full Text 7. Mishra SR, Kallestrup P, Neupane D: Country in Focus: confronting the challenge of NCDs in Nepal. Lancet Diabetes Endocrinol. Lancet Publishing Group; 2016; 4(12): 979–80. PubMed Abstract | Publisher Full Text 20. Chhetri MR, Chapman RS: Prevalence and determinants of diabetes among the elderly population in the Kathmandu Valley of Nepal. Nepal Med Coll J. 2009; 11(1): 34–8. PubMed Abstract References 1. IDF Diabetes Atlas 9th edition. 2019; [cited 2021 Mar 29]. ( ) PubMed Abstract | Publisher Full Text 37. Ghimire S: Barriers to Diet and Exercise among Nepalese Type 2 Diabetic Patients. Int Sch Res Notices. 2017; 2017: 1273084. PubMed Abstract | Publisher Full Text | Free Full Textf 2020; 58(225): 314 7. PubMed Abstract | Publisher Full Text | Free Full Text 31. Aryal KK, Mehata S, Neupane S, et al.: The burden and determinants of non communicable diseases risk factors in Nepal: Findings from a nationwide STEPS survey. PLoS One. 2015; 10(8): e0134834. PubMed Abstract | Publisher Full Text | Free Full Text 2017; 42(2): 228 34. PubMed Abstract | Publisher Full Text 27. Mehta KD, Karki P, Lamsal M, et al.: Hyperglycemia, glucose intolerance, hypertension and socioeconomic position in eastern Nepal. Southeast Asian J Trop Med Public Health. 2011; 42(1): 197–207. PubMed Abstract p ( ) PubMed Abstract | Publisher Full Text 29. Dhimal M, Karki KB, Sharma SK, et al.: Prevalence of Selected Chronic Non- Communicable Diseases in Nepal. J Nepal Health Res Counc. 2019; 17(3): 394–401. PubMed Abstract | Publisher Full Text Full Text 35. Gupta N, Goel K, Shah P, et al.: Childhood obesity in developing countries: Epidemiology, determinants, and prevention. Endocr Rev. 2012; 33(1): 48–70. PubMed Abstract | Publisher Full Text 28. Shrestha UK, Singh DL, Bhattarai MD: The prevalence of hypertension and diabetes defined by fasting and 2-h plasma glucose criteria in urban Nepal. Diabet Med. 2006; 23(10): 1130–5. PubMed Abstract | Publisher Full Text 36. NCD Risk Factor Collaboration (NCD-RisC): Trends in adult body-mass index in 200 countries from 1975 to 2014: a pooled analysis of 1698 population- based measurement studies with 19·2 million participants. Lancet. 2016; 387(10026): 1377–96. PubMed Abstract | Publisher Full Text 34. Hills AP, Arena R, Khunti K, et al.: Epidemiology and determ diabetes in south Asia. Lancet Diabetes Endocrinol. Lancet 2018; 6(12): 966–78. PubMed Abstract | Publisher Full Text 34. Hills AP, Arena R, Khunti K, et al.: Epidemiology and determinants of type 2 diabetes in south Asia. Lancet Diabetes Endocrinol. Lancet Publishing Group; 2018; 6(12): 966–78. PubMed Abstract | Publisher Full Text PubMed Abstract | Publisher Full Text 30. Kushwaha A, Kadel AR: Prevalence of type 2 diabetes mellitus among people attending medical camp in a community hospital. JNMA J Nepal Med Assoc. 2020; 58(225): 314–7. PubMed Abstract | Publisher Full Text | Free Full Text 38. Bhardwaj S, Passi SJ, Misra A, et al.: Effect of heating/reheating of fats/oils, as used by Asian Indians, on trans fatty acid formation. Food Chem. 2016; 212: 663–70. PubMed Abstract | Publisher Full Text p; ; ( ) PubMed Abstract | Publisher Full Text Paudel S, Tran T, Owen AJ, et al.: The contribution of physical inactivity and socioeconomic factors to type 2 diabetes in Nepal: A structural equation modelling analysis. Nutr Metab Cardiovasc Dis. 2020; 30(10): 1758–67. PubMed Abstract | Publisher Full Text 12. Shrestha DB, Budhathoki P, Sedhai YR, et al.: Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis. figshare. 2021; [cited 2021 Jun 27]. http://www.doi.org/10.6084/m9.figshare.14706648.v1 i 13. American Diabetes Association: Diagnosis and classification of diabetes 25. Koirala S, Nakano M, Arima H, et al.: Current health status and its risk factors F1000Research 2021, 10:543 Last updated: 01 APR 2022 J Glob Health. 2019; 9(2): 020301. PubMed Abstract | Publisher Full Text | Free Full Text J Glob Health. 2019; 9(2): 020301. PubMed Abstract | Publisher Full Text | Free Full Text J Glob Health. 2019; 9(2): 020301. PubMed Abstract | Publisher Full Text | Free Full Text of the Tsarang villagers living at high altitude in the Mustang district of Nepal. J Physiol Anthropol. 2018; 37(1): 20. 33. Misra A, Khurana L: Obesity and the metabolic syndrome in developing countries. J Clin Endocrinol Metab. 2008; 93(11 Suppl 1): S9–30. PubMed Abstract | Publisher Full Text 26. Ranabhat K, Mishra SR, Dhimal M, et al.: Type 2 Diabetes and Its correlates: A Cross Sectional Study in a Tertiary Hospital of Nepal. J Community Health. 2017; 42(2): 228–34. PubMed Abstract | Publisher Full Text PubMed Abstract | Publisher Full Text 39. Kanungsukkasem U, Ng N, Van Minh H, et al.: Fruit and vegetable consumption in rural adults population in indepth hdss sites in asia. Glob Health Action. 2009; 2(1): 35–43. PubMed Abstract | Publisher Full Text | Free Full Text 39. Kanungsukkasem U, Ng N, Van Minh H, et al.: Fruit and vegetable consumption in rural adults population in indepth hdss sites in asia. Glob Health Action. 2009; 2(1): 35–43. PubMed Abstract | Publisher Full Text | Free Full Text 32. Adhikari B, Mishra SR: Culture and epidemiology of diabetes in South Asia. Page 14 of 24 Page 14 of 24 Open Peer Review Current Peer Review Status: https://doi.org/10.5256/f1000research.77195.r93501 © 2021 Juntarawijit C. This is an open access peer review report distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Chudchawal Juntarawijit Department of Natural Resources and Environment, Faculty of Agriculture, Natural Resources, and Environment, Naresuan University, Phitsanulok, Thailand Although the author has addressed some of my comments, there were still a few important points to be elaborated on before final approval. Prevalence of pre-diabetes and T2DM were largely different from those found in previous meta-analysis studies, one recently published in the year 2020. This inconsistency may not be solely explained by the fact that there was a rapid increase in urbanization and lifestyle change as claimed by the authors. ○ Version 2 © 2021 Basnet S. This is an open access peer review report distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Competing Interests: No competing interests were disclosed. I confirm that I have read this submission and believe that I have an appropriate level of expertise to confirm that it is of an acceptable scientific standard. Reviewer Report 07 September 2021 https://doi.org/10.5256/f1000research.77195.r93501 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Open Peer Review Current Peer Review Status: Version 2 Reviewer Report 22 September 2021 https://doi.org/10.5256/f1000research.77195.r93500 © 2021 Basnet S. This is an open access peer review report distributed under the terms of the Creative Com Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided original work is properly cited. Sijan Basnet Department of Internal Medicine, Reading Hospital and Medical Centre, West Reading, PA, U Thank you for adding limitations to your article. Competing Interests: No competing interests were disclosed. Reviewer Expertise: Internal Medicine I confirm that I have read this submission and believe that I have an appropriate level expertise to confirm that it is of an acceptable scientific standard. Reviewer Report 07 September 2021 https://doi.org/10.5256/f1000research.77195.r93501 © 2021 Juntarawijit C. This is an open access peer review report distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium provided the original work is properly cited. Chudchawal Juntarawijit Department of Natural Resources and Environment, Faculty of Agriculture, Natural Resourc Environment, Naresuan University, Phitsanulok, Thailand Although the author has addressed some of my comments there were still a few important p Open Peer Review Version 1 Reviewer Report 06 September 2021 https://doi.org/10.5256/f1000research.57408.r89248 https://doi.org/10.5256/f1000research.57408.r89248 © 2021 Gyawali P. This is an open access peer review report distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Prajwal Gyawali School of Health and Wellbeing, Faculty of Health, Engineering and Sciences, University of Southern Queensland, Toowoomba, QLD, Australia Chudchawal Juntarawijit Although the author has addressed some of my comments, there were still a few important points to be elaborated on before final approval. Prevalence of pre-diabetes and T2DM were largely different from those found in previous meta-analysis studies, one recently published in the year 2020. This inconsistency may not be solely explained by the fact that there was a rapid increase in urbanization and lifestyle change as claimed by the authors. ○ Page 15 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 The main study objective was to identify risk factors. However, information on the issues was very limited, and the study failed to identify some common risk factors, e.g. cigarette smoking, alcohol consumption, fruit and vegetable intake, and exercise. The association between these common risk factors and diabetes has been well supported by various studies from different countries. The discrepancy might cause by bias or the study limitations, e.g. small sample size. To avoid any misleading and faulty conclusions, further discussion and study limitations should be explicitly presented. The discussion section should be reorganized into subsections by the risk factors. In the discussion and conclusion, the author stated that obesity was the only major risk factor. However, the relative strength of the contribution of individual factors was not analyzed or adequately discussed before. As mention earlier, this might cause misleading. ○ The quality of every figure was still needed to be improved as already suggested. ○ Competing Interests: No competing interests were disclosed. Competing Interests: No competing interests were disclosed. Reviewer Expertise: Environmental health science I confirm that I have read this submission and believe that I have an appropriate level of expertise to confirm that it is of an acceptable scientific standard, however I have significant reservations, as outlined above. References 1. Gyawali B, Sharma R, Neupane D, Mishra SR, et al.: Prevalence of type 2 diabetes in Nepal: a systematic review and meta-analysis from 2000 to 2014.Glob Health Action. 2015; 8: 29088 PubMed Abstract | Publisher Full Text 2. Shrestha N, Mishra SR, Ghimire S, Gyawali B, et al.: Burden of Diabetes and Prediabetes in Nepal: A Systematic Review and Meta-Analysis.Diabetes Ther. 2020; 11 (9): 1935-1946 PubMed Abstract | Publisher Full Text B) Methods ) The authors have reported the prevalence of impaired glucose tolerance and prediabetes. Why were these keywords not used in the search strategy? Likewise, have the authors used the terminology 'glucose' as a keyword in a search strategy? 1. C) Di i The metanalysis published in 2020 by Shrestha N. et al.2 included 14 papers in the final analysis. All papers were after 2000. They reported the prevalence of pre-diabetes is much less than what the current paper has reported. The reason provided by the authors for this large difference is not properly addressed in the discussion. This is very important to address. 1. The papers should be discussed in sub-sections. 2. reference is more focused on foetal programming contributing to the prevalence of obesity in Nepal. reference is more focused on foetal programming contributing to the prevalence of obesity in Nepal. There are already two systematic reviews published in this sector, references 5 and 6: 3. There are already two systematic reviews published in this sector, references 5 and 6: Gyawali B, Sharma R, Neupane D, et al.: Prevalence of type 2 diabetes in Nepal: a systematic review and meta-analysis from 2000 to 20141. Shrestha N, Mishra SR, Ghimire S, et al.: Burden of Diabetes and Prediabetes in Nepal: A Systematic Review and Meta-Analysis2. 3. Authors need to provide a valid reason for conducting this systematic review in the same area in the background section. Paper by Shrestha N. et al.2 was published less than 1 year ago and they have included 14 papers for the final analysis 4. Gyawali B, Sharma R, Neupane D, et al.: Prevalence of type 2 diabetes in Nepal: a systematic review and meta-analysis from 2000 to 20141. Shrestha N, Mishra SR, Ghimire S, et al.: Burden of Diabetes and Prediabetes in Nepal: A Systematic Review and Meta-Analysis2. Authors need to provide a valid reason for conducting this systematic review in the same area in the background section. Paper by Shrestha N. et al.2 was published less than 1 year ago and they have included 14 papers for the final analysis. 4. A) Background A) Background Please check for sentence structure; "In 2019, the International Diabetes Federation (IDF) estimated that 463 million adults worldwide had diabetes1. The statistics showed that these individuals were in the age range of 20 to 79, have diabetes, and 79.4% were from low- and middle-income countries." 1. Reference number 4 used in the background does not match with the authors' claim. This 2. Reference number 4 used in the background does not match with the authors' claim. This 2. Reference number 4 used in the background does not match with the authors' claim. This 2. Page 16 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Chudchawal Juntarawijit Department of Natural Resources and Environment, Faculty of Agriculture, Natural Resources, and Environment, Naresuan University, Phitsanulok, Thailand Department of Natural Resources and Environment, Faculty of Agriculture, Natural Resources, and Environment, Naresuan University, Phitsanulok, Thailand https://doi.org/10.5256/f1000research.57408.r91625 © 2021 Juntarawijit C. This is an open access peer review report distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. I confirm that I have read this submission and believe that I have an appropriate level of expertise to confirm that it is of an acceptable scientific standard, however I have significant reservations, as outlined above. Reviewer Report 13 August 2021 https://doi.org/10.5256/f1000research.57408.r91625 Are sufficient details of the methods and analysis provided to allow replication by others? No Is the statistical analysis and its interpretation appropriate? I cannot comment. A qualified statistician is required. Are the conclusions drawn adequately supported by the results presented in the review? Are the conclusions drawn adequately supported by the results presented in the review? Page 17 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 y Competing Interests: No competing interests were disclosed. Reviewer Expertise: Stroke I confirm that I have read this submission and believe that I have an appropriate level of expertise to confirm that it is of an acceptable scientific standard, however I have significant reservations, as outlined above. Competing Interests: No competing interests were disclosed. Background: In the introduction, more information about the prevalence and risk factors of diabetes should be presented and reorganized for easy reading. The research problem and hypothesis also need to be clearly articulated. 1. The rationale for the review was also not clearly described in the context of what is already known. As there have been few studies in Nepal, it was not a good reason for conducting meta-analysis. Doing a meta-analysis using a small number of studies might cause bias. 2. h d Methods: In an attempt to identify diabetes risk factors, the study limited only those studies from Nepal. How this will affect the study results? 4. Conclusion: In the conclusion statement, only obesity was claimed to cause diabetes. This conclusion might need more justification since obesity and other risk factors were not extensively discussed. This result was also in contrast to that observed by Jayawardena et al.2, a similar study using data from all countries in South Asia. In that study, family history, urban residency, age, higher BMI, sedentary lifestyle, hypertension, and waist-hip ratio were found to be associated with an increased risk of diabetes. 1. The conclusion statement should also provide study limitations and recommendations for public health use. 2. The conclusion statement should also provide study limitations and recommendations for public health use. 2. Is the statistical analysis and its interpretation appropriate? Partly Are the conclusions drawn adequately supported by the results presented in the review? Partly Methods: Study methods were poorly described and hard to read (see a good example study by  Miller et al.1). To help readers replicate the study, the authors should provide more detailed information on electronic search strategy, methods of results synthesis, and sensitivity analysis. 1. Using only the global search engine, e.g. PubMed, Embase, Scopus, and Google Scholar might cause publication bias if there were some researches papers published locally or in other databases. In point had not been mention in the study limitation. 2. Using only the global search engine, e.g. PubMed, Embase, Scopus, and Google Scholar might cause publication bias if there were some researches papers published locally or in other databases. In point had not been mention in the study limitation. 2. esults: Results were inadequately described. In the qualitative summary, the authors should talk about the important features of the information in Table 1. In quantitative synthesis, information on how the pooled prevalence was calculated is also needed. In every figure, the total events should be indicated, and the figure legend should contain more information. 1. Discussion: In the Discussion, more information should be provided and reorganized for an easy read. 1. Discussion: In the Discussion, more information should be provided and reorganized for an easy read. 1. Page 18 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 In the study limitation, the authors mention T2DM diagnostic criteria and demographic data as a problem. However, the authors did not mention how the problems affect the results and how the study handled them. 2. In the study limitation, the authors mention T2DM diagnostic criteria and demographic data as a problem. However, the authors did not mention how the problems affect the results and how the study handled them. 2. The statement: “Our finds highlight the importance of exercise and a healthy diet to prevent the increased morbidity among individuals with T2DM in this country”, needs more justification. Was the information from the results of this study or from the literature? 3. The statement: “Our finds highlight the importance of exercise and a healthy diet to prevent the increased morbidity among individuals with T2DM in this country”, needs more justification. Was the information from the results of this study or from the literature? 3. In an attempt to identify diabetes risk factors, the study limited only those studies from Nepal. How this will affect the study results? 4. References References 1. Miller K, Areerob P, Hennessy D, Gonçalves-Bradley D, et al.: Aerobic, resistance, and mind-body exercise are equivalent to mitigate symptoms of depression in older adults: A systematic review and network meta-analysis of randomised controlled trials. F1000Research. 2021; 9. Publisher Full Text 2. Jayawardena R, Ranasinghe P, Byrne NM, Soares MJ, et al.: Prevalence and trends of the diabetes epidemic in South Asia: a systematic review and meta-analysis.BMC Public Health. 2012; 12 : 380 PubMed Abstract | Publisher Full Text 1. Miller K, Areerob P, Hennessy D, Gonçalves-Bradley D, et al.: Aerobic, resistance, and mind-body exercise are equivalent to mitigate symptoms of depression in older adults: A systematic review and network meta-analysis of randomised controlled trials. F1000Research. 2021; 9. Publisher Full Text 2. Jayawardena R, Ranasinghe P, Byrne NM, Soares MJ, et al.: Prevalence and trends of the diabetes epidemic in South Asia: a systematic review and meta-analysis.BMC Public Health. 2012; 12 : 380 PubMed Abstract | Publisher Full Text Reviewer Expertise: Environmental health science Reviewer Expertise: Environmental health science I confirm that I have read this submission and believe that I have an appropriate level of expertise to confirm that it is of an acceptable scientific standard, however I have significant reservations, as outlined above. Author Response 29 Aug 2021 Alok Atreya, Lumbini Medical College, Palpa, Nepal Background: In the introduction, more information about the prevalence and risk factors of diabetes should be presented and reorganized for easy reading. The research problem and hypothesis also need to be clearly articulated. Reply: Thank you for the comment. We have presented the situation of T2DM in a funnel pattern in the background giving an overview of global, regional, and national scenarios. We have rephrased and edited as per requirement by the reviewer’s comment to further clarify the rationale. Are the conclusions drawn adequately supported by the results presented in the review? Partly Competing Interests: No competing interests were disclosed. Page 19 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Reviewer Expertise: Environmental health science Reply: Thank you for the comment. We have presented the situation of T2DM in a funnel pattern in the background giving an overview of global, regional, and national scenarios. We have rephrased and edited as per requirement by the reviewer’s comment to further clarify the rationale. The rationale for the review was also not clearly described in the context of what is already known. As there have been few studies in Nepal, it was not a good reason for conducting meta-analysis. Doing a meta-analysis using a small number of studies might cause bias. Reply: Thank you for the comment. We have edited the rationale as per requirement by the reviewer’s comment to further clarify the rationale. We included 15 prevalence- based studies with justifiable sample sizes and assessed the quality of those individual studies using the JBI bias tool to reduce the bias of including studies. Due to the urge of the evidence-based practice, we authors think pooling of the data from available individual studies to give pooled prevalence is justifiable. Methods: Study methods were poorly described and hard to read (see a good example study by Miller et al.1). To help readers replicate the study, the authors should provide more detailed information on electronic search strategy, methods of results synthesis, and sensitivity analysis. Reply: Thank you for the comment. We have conducted our study as per the standard guideline and abide by the MOOSE checklist for the meta-analysis of observational studies. Our electronic search details including the link, and additional sensitivity analysis are available in the extended data file and shared publicly. Using only the global search engine, e.g. PubMed, Embase, Scopus, and Google Scholar might cause publication bias if there were some researches papers published locally or in other databases. In point had not been mention in the study limitation. Reply: Thank you for the comment. We have conducted our study as per the standard guideline and abide by the MOOSE checklist for the meta-analysis of observational studies. In Nepal, almost all Nepalese local journals are listed in NEPJOL (Nepalese Journal Online), which is the common platform and all the published papers are Page 20 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 available through Google scholar so we included the Google scholar database in our review, which is missed by some prior reviews. So, we authors believe including Google scholar and other standard global databases won’t miss published literature. Results: Results were inadequately described. In the qualitative summary, the authors should talk about the important features of the information in Table 1. In quantitative synthesis, information on how the pooled prevalence was calculated is also needed. Are the rationale for, and objectives of, the Systematic Review clearly stated? Yes Are sufficient details of the methods and analysis provided to allow replication by others? Yes Is the statistical analysis and its interpretation appropriate? Yes Are the conclusions drawn adequately supported by the results presented in the review? Reply: Thank you for the comment. We have presented the situation of T2DM in a funnel pattern in the background giving an overview of global, regional, and national scenarios. We have rephrased and edited as per requirement by the reviewer’s comment to further clarify the rationale. This conclusion might need more justification since obesity and other risk factors were not Page 21 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 extensively discussed. This result was also in contrast to that observed by Jayawardena et al. 2, a similar study using data from all countries in South Asia. In that study, family history, urban residency, age, higher BMI, sedentary lifestyle, hypertension, and waist-hip ratio were found to be associated with an increased risk of diabetes. The conclusion statement should also provide study limitations and recommendations for public health use. Reply: Thank you for the comment. The conclusion statement states obesity as one of the many major risk factors for diabetes. We kindly apologize, but we have not claimed only obesity causes diabetes. The limitations have already been provided at the end of the discussion section, so due to fear of duplication, we did not include them in the conclusion section. Competing Interests: No competing interests were disclosed. Reviewer Report 29 July 2021 https://doi.org/10.5256/f1000research.57408.r89249 https://doi.org/10.5256/f1000research.57408.r89249 © 2021 Basnet S. This is an open access peer review report distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Reply: Thank you for the comment. We have presented the situation of T2DM in a funnel pattern in the background giving an overview of global, regional, and national scenarios. We have rephrased and edited as per requirement by the reviewer’s comment to further clarify the rationale. In every figure, the total events should be indicated, and the figure legend should contain more information. Reply: Thank you for the comment. We elaborated qualitative summary as “A qualitative summary of all 15 individual studies is presented in (Table 2). Nine studies were done in a community setting while the rest six were done in the hospital setting. Two community-based studies and one hospital-based study included samples from different parts of Nepal to represent the country, while the rest were loco-regional studies.” For transparency of our work we made our data available in public data repository Figshare; link: https://doi.org/10.6084/m9.figshare.14706648.v1. Regarding data pooling methods, based on heterogeneity we used a random or fixed- effect model. And we mentioned the model used in every section before the description of the individual results and forest plot. Regarding total events, I agree with the reviewer, however, due to the default setting of the software CMA-3, we could not edit the figure. Discussion: In the Discussion, more information should be provided and reorganized for an easy read. In the study limitation, the authors mention T2DM diagnostic criteria and demographic data as a problem. However, the authors did not mention how the problems affect the results and how the study handled them. The statement: “Our finds highlight the importance of exercise and a healthy diet to prevent the increased morbidity among individuals with T2DM in this country”, needs more justification. Was the information from the results of this study or from the literature? Reply: Thank you for the comment. There are perceived barriers for the non- compliance for physician’s advice to a special diet and regular exercise as shown in a Nepalese study. We have added a reference to justify this statement. In an attempt to identify diabetes risk factors, the study limited only those studies from Nepal. How this will affect the study results? Reply: Thank you for the comment. Diabetes prevalence and risk differ across different societies and regions across the globe. This study is solely aimed to estimate prevalence and risk factors in the context of Nepal to build foundation evidence to make evidence-based practice in Nepal so may be different than other regions across the globe. Conclusion:  In the conclusion statement, only obesity was claimed to cause diabetes. Sijan Basnet j Department of Internal Medicine, Reading Hospital and Medical Centre, West Reading, PA, USA This is a very well-written manuscript with robust statistical analysis. y p y Please mention the limitations of your study if any. 1. y p y Please mention the limitations of your study if any. 1. Most of the studies cited are from the 2010s. There is one from 2000 with 1840 subjects from an outpatient clinic in a city that may not be representative of the country’s demographics and one from 2006 with 1012 subjects from seven wards that are being used to study the trend. Does this skew your results in any way? Also, the authors justify the increasing prevalence of rapid urbanization but the above studies were done in cities. 2. Most of the studies cited are from the 2010s. There is one from 2000 with 1840 subjects from an outpatient clinic in a city that may not be representative of the country’s demographics and one from 2006 with 1012 subjects from seven wards that are being used to study the trend. Does this skew your results in any way? Also, the authors justify the increasing prevalence of rapid urbanization but the above studies were done in cities. 2. Is the statistical analysis and its interpretation appropriate? Yes Are the conclusions drawn adequately supported by the results presented in the review? Are the conclusions drawn adequately supported by the results presented in the review? Are the conclusions drawn adequately supported by the results presented in the review? Page 22 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Yes Competing Interests: No competing interests were disclosed. Reviewer Expertise: Internal Medicine I confirm that I have read this submission and believe that I have an appropriate level of expertise to confirm that it is of an acceptable scientific standard, however I have significant reservations, as outlined above. I confirm that I have read this submission and believe that I have an appropriate level of expertise to confirm that it is of an acceptable scientific standard, however I have significant reservations, as outlined above. Author Response 29 Aug 2021 Alok Atreya, Lumbini Medical College, Palpa, Nepal Thank you for the comment. Due to the relatively few studies from 2000-2010. We did an analysis based on a published study between 2010-2015, and 2015-2020 as “The assessment of T2DM prevalence between 2010–2015 with the use of random-effects meta-analysis was 7.75% (Proportion, 0.0775; 95% CI, 0.0367-0.1561; studies: 4; I 2:99.62), while this value increased to 11.24%, between 2015–2020 (Proportion, 0.1124; 95% CI, 0.0789-0.1577; I 2: 96.74)”. Analysis showed some increasing trends of T2DM in Nepal which is of concern. Being our meta-analysis is a secondary analysis of the published literature, we do have some limitations due to primary studies variation. We have included our study limitations as “Our study had some limitations. There was heterogeneity in the studies due to variation in the T2DM diagnostic criteria, different demographics of the population, etc. Most of the included studies were based on specific areas such as provinces 1 and 3, and not enough studies have been done on a national scale. Finally, risk factors for T2DM were not reported in all the studies that were included.” Competing Interests: No competing interests were disclosed. Competing Interests: No competing interests were disclosed. Page 23 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 The benefits of publishing with F1000Research: Your article is published within days, with no editorial bias • You can publish traditional articles, null/negative results, case reports, data notes and more • The peer review process is transparent and collaborative • Your article is indexed in PubMed after passing peer review • Dedicated customer support at every stage • For pre-submission enquiries, contact research@f1000.com The benefits of publishing with F1000Research: Your article is published within days, with no editorial bias • You can publish traditional articles, null/negative results, case reports, data notes and more • The peer review process is transparent and collaborative • Your article is indexed in PubMed after passing peer review • Dedicated customer support at every stage • For pre-submission enquiries, contact research@f1000.com The benefits of publishing with F1000Research: The benefits of publishing with F1000Research: Page 24 of 24
https://openalex.org/W3090716283
https://dipot.ulb.ac.be/dspace/bitstream/2013/314491/3/PAMJ-37-107.pdf
French
null
Expérience d´intégration de la santé mentale en première ligne de soins en Guinée
˜The œPan African medical journal
2,020
cc-by
5,240
Abdoulaye Sow, Bart Criel, Bernard Branger, Michel Roland, Myriam De Spiegelaere Abdoulaye Sow, Bart Criel, Bernard Branger, Michel Roland, Myriam De Spiegelaere Corresponding author: Abdoulaye Sow, Ecole de Santé Publique, Université Libre de Bruxelles, Bruxelles, Belgique. drsowab@msn.com Received: 14 Sep 2019 - Accepted: 21 Aug 2020 - Published: 01 Oct 2020 Keywords: Santé mentale, soins de santé primaire, intégration, Guinée Copyright: Abdoulaye Sow et al. Pan African Medical Journal (ISSN: 1937-8688). This is an Open Access article distributed under the terms of the Creative Commons Attribution International 4.0 License (https://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Cite this article: Abdoulaye Sow et al. Expérience d´intégration de la santé mentale en première ligne de soins en Guinée. Pan African Medical Journal. 2020;37(107). 10.11604/pamj.2020.37.107.20351 Available online at: https://www.panafrican-med-journal.com//content/article/37/107/full &Auteur correspondant Abdoulaye Sow, Ecole de Santé Publique, Université Libre de Bruxelles, Bruxelles, Belgique Article Research Expérience d´intégration de la santé mentale en première ligne de soins en Guinée Study on the integration of mental health support into primary health care in Guinea Abdoulaye Sow1,2,&, Bart Criel3, Bernard Branger4, Michel Roland1, Myriam De Spiegelaere1 1Ecole de Santé Publique, Université Libre de Bruxelles, Bruxelles, Belgique, 2Université Gamal Abdel Nasser de Conakry, Conakry, Guinée, 3Institut de Médecine Tropicale d´Anvers, Kronenburgstraat 43, 2000 Antwerpen, Belgique, 4Organisation ESSENTIEL, 11 bis rue Gabriel Luneau 44000 Nantes, France Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 1 1 Article health care is a substantial and feasible complementary intervention to specialized services. We collected and analyzed data from 5 Health Care Centers (HCC) that had integrated this care package in Guinea. Methods: we conducted a descriptive study of new cases of mental health issues between 2012 and 2017. The reasons for consultations and diagnoses were identified and analyzed on the basis of consultation registries and individual medical records. Results: a total of 4.995 patients with mental health problems received consultations (2.8% of general consultations; 0.5 -7.7% according to the centers). The average age of patients was 27,9 years (± 16.1). The most common reasons for consultations were: insomnia 44.4% (n = 2081), seizures 39% (n = 1827), behavioral disorders 31.9% (n = 1263) and hallucinations 26.1% (n = 1224). The most common diagnoses were: epilepsy 36.8% (n = 1773) and psychotic disorders 33.5% (n = 1613). Eighty eight point four per cent (n = 4418) of patients received medical treatment, most often combined with psychological support. Conclusion: this study highlights that in the Guinean context, where access to specialized mental health care is very limited, patients with mental ill, even with severe medical conditions, can be followed up in the health centers by non-specialized but trained mental health professionals. Introduction Les troubles mentaux représentent une charge de morbidité très élevée dans le monde [1]. Ils représentaient 19% de la charge d´incapacité en Afrique (Années de Vie Corrigée du facteur d'Invalidité, AVCI) en 2010 et cette part devrait s´alourdir dans les années qui viennent [2]. Le défi que ces troubles posent aux systèmes de santé africains est donc particulièrement important [3]. En Afrique les enquêtes communautaires montrent que seule une minorité des personnes souffrant de troubles graves de santé mentale bénéficient d´un traitement [4, 5]. Les moyens alloués aux programmes nationaux de santé mentale sont Résumé Introduction: la faible couverture des services spécialisés et la pénurie en ressources humaines en santé mentale représentent d´immenses défis pour les systèmes de santé en Afrique. L'intégration de la santé mentale dans les soins de santé primaires constitue un complément substantiel et faisable aux services spécialisés. Cette étude rassemble et analyse les données générées dans 5 Centres de santé (CS) ayant intégrés ce paquet de soins en Guinée. Méthodes: l'étude descriptive porte sur les nouveaux cas de santé mentale entre 2012 et 2017. Les motifs de consultations et les diagnostics posés ont été répertoriés et analysés sur la base des registres de consultation et des dossiers médicaux individuels. Résultats: au total 4995 patients ont consulté pour un problème de santé mentale, ce qui représente 2,8% des consultations générales (de 0,5 à 7,7% selon les centres). La moyenne d'âge des patients était de 27,9 ans (± 16,1). Les motifs de consultations les plus fréquents étaient les insomnies: 44,4% (n = 2081), les crises convulsives: 39% (n = 1827), les troubles du comportement: 31,9% (n = 1263) et les hallucinations: 26,1% (n = 1224). Les diagnostics les plus fréquemment posés étaient l'épilepsie : 36,8% (n = 1773) et les troubles psychotiques: 33,5% (n = 1613). 88,4% (n = 4418) des patients ont reçu un traitement médicamenteux, le plus souvent combiné avec un soutien psychologique. Conclusion: l´étude montre que dans le contexte guinéen où l´accès aux soins spécialisés en santé mentale est très limité, les malades mentaux, même atteints de pathologies lourdes, peuvent être suivis dans des Centres de santé par un personnel non spécialiste mais formé en santé mentale. Key words: Mental health, mental disorders, health centers, integration, Guinea Population d´étude Tous les patients ayant consulté dans les 5 CS pour un problème de santé mentale entre le 1er janvier 2012 et le 31 décembre 2017 ont été inclus. Seuls les nouveaux cas (premier contact pour un problème de santé mentale) ont été pris en compte. Type et cadre de l´étude Cette étude descriptive et rétrospective, a été réalisée dans 5 CS ayant intégré la santé mentale dans leur paquet de soins: 3 centres de FMG (Hafia Minière, Tata1 et Moriady), et 2 centres non FMG (Timbi Madina et Pita Centre). Deux de ces CS sont situés en zone rurale (Moriady et Timbi Madina), les 3 autres en zone urbaine. Méthodes Face à cette situation, le traitement des troubles mentaux au niveau des soins primaires, est la stratégie la plus souvent avancée et soutenue par L´OMS [3, 4, 6]. De plus en plus d´études évaluent l´efficacité de l´offre de soins en santé mentale dans les services généraux des structures communautaires et services de santé de base comme alternative aux structures hospitalières insuffisantes dans les pays moins avancés [7, 8]. Il en ressort que la prise en charge des troubles mentaux dans les soins de santé primaires avec un dispositif de transfert de compétences des spécialistes vers les agents de santé travaillant à proximité des patients est faisable et acceptable [9], et efficace [10] sous certaines conditions. Cette étude vise à évaluer une expérience d´intégration des soins en santé mentale par la première ligne de soins en Guinée. English abstract Introduction:the low coverage of specialized mental health services and the shortage of human resources for mental health are enormous challenges for the health care system in Africa. The integration of mental health support into primary 2 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. Article faibles, et généralement orientés vers les hôpitaux psychiatriques, le plus souvent inaccessibles aux plus nécessiteux. Au-delà des structures, la pénurie de moyens touche surtout les ressources humaines spécialisées et les médicaments. On y compte 1,4 professionnel de santé mentale pour 100 000 habitants, contre 9 dans le monde [6]. collectées par ces 5 CS, cette étude vise à évaluer l´utilisation des soins de santé mentale dans ces centres et à déterminer les caractéristiques des patients et des pathologies rencontrées ainsi que leur prise en charge. Analyses statistiques Les données ont été analysées avec le logiciel SPSS 22.0. Les comparaisons de proportions ont été effectuées avec le test du χ² avec un seuil de signification à p < 0.05. Distribution des patients dans les 5 CS Leur distribution était très inégale entre les centres. Les 3 centres de FMG ont pris en charge 92,6% (n = 4628) des patients. Le Tableau 1 présente le nombre de nouveaux cas de santé mentale par rapport au nombre total de nouveaux cas enregistrés dans chaque centre. Pour l´ensemble des CS, en moyenne 2,8% (n=4995) des consultations étaient en lien avec des problèmes de santé mentale. Cette proportion différait fortement d´un centre à l´autre et d´une année à l´autre. Motifs de consultation La Figure 1 montre les principaux motifs de consultations. Très peu de patients, 2,8% (n = 126), consultaient pour consommation de substances psychoactives. Les symptômes étaient le plus souvent multiples, plus de la moitié des patients (53%, n=2647) présentaient 4 symptômes ou plus. Diagnostic Le Tableau 3 présente la fréquence des principaux diagnostics. L´épilepsie est le diagnostic le plus fréquent, suivi par les psychoses qui représentent un tiers des cas. La catégorie « autres » comprenait des retards psychomoteurs, les démences et d´autres problèmes psychosociaux. La distribution des diagnostics posés différait significativement entre les CS (p < 0.001). En particulier, on observait une fréquence plus élevée de diagnostic d´épilepsies dans le CS Moriady et de troubles psychotiques dans les CS non-FMG (Timbi Madina et Pita). Au total 4995 patients se présentant pour la première fois avec un problème de santé mentale ont été enregistrés entre 2012 et 2017 dans les 5 CS. Toutes les données n´étaient pas disponibles pour tous les patients et pour toutes les variables. Les résultats présentés portent sur les données valides et donc les totaux diffèrent selon les analyses. Article Les patients étaient âgés de 0 à 98 ans (moyenne 27,9 ans ± 16,1). Le Tableau 2 présente les caractéristiques sociodémographiques de la population d´étude. La situation matrimoniale différait en fonction du genre: par rapport aux hommes, les femmes étaient plus souvent célibataires: 46,7% versus 26,8%, divorcées: 2,4% versus 1,3% ou veuves: 2,3% versus 0,3% (p < 0.001). La répartition des ethnies correspondait à la situation géographique des CS et à la proportion des différents groupes ethniques dans le pays. pratique et à la qualification des soignants de première ligne dans le contexte guinéen. Ces données quantitatives ont été complémentées par des informations venant des rapports d´activités de routine des différentes structures de soins concernées par l´étude, ainsi que par le vécu des professionnels travaillant dans ces structures. Considérations éthiques L´étude a été approuvée par la Commission Nationale d´éthique pour la Recherche en santé (CNERS) de Guinée (N°010/CNRS/17). Traitement La plupart des patients, 88,4% (n = 4260), avaient reçu un traitement médicamenteux. Cette proportion différait significativement selon le diagnostic posé: 97,6% (n = 702) des troubles de l´humeur, 96,7% (n = 1560) des psychoses et 95,9% (n = 1701) des épilepsies avaient été traités par médicaments pour 25,1% (n=88) des troubles névrotiques et 90,1% (n=329) des diagnostics « autres » (p < 0.001). L´Halopéridol est le médicament le plus souvent administré. Les Collecte des données La Guinée ne dispose que d´un seul service de psychiatrie situé dans la capitale Conakry, comptant une trentaine de lits d´hospitalisation et 5 psychiatres, sans infirmiers spécialisés ni psychologues, pour près de 11 millions d´habitants. Dans la quasi-totalité du territoire, les soins aux malades mentaux relèvent des seuls guérisseurs traditionnels [11]. C´est dans ce contexte que l´ONG Fraternité Médicale Guinée (FMG), qui gère des Centres de santé (CS) avec des équipes de soins multidisciplinaires dont des médecins de famille, a intégré la prise en charge des malades mentaux dans 3 de ses CS depuis 2000, dans le cadre du projet « Santé Mentale en Milieu Ouvert Africain » (SaMOA) [12]. Elle a ensuite étendu cette intégration dans deux autres CS non FMG. Le paquet de soins offert en santé mentale comprend la consultation, le traitement médicamenteux, l´accompagnement psychosocial et la réhabilitation. Sur base des données de routine Le recueil des données a été réalisé à partir des registres de consultation. Les données des dossiers médicaux individuels ont également été utilisées dans les 3 centres FMG qui en disposent. Les données recueillies portaient d´une part sur des informations socio-démographiques et d´autre part sur les caractéristiques médicales : motif de consultation, diagnostic posé, traitements prescrits. L´outil de collecte des données reprenait pour chaque item une liste de choix à cocher (plusieurs réponses possibles), les catégories « autres » ouvrant un champ en texte libre. Les diagnostics ont été recodés en 7 catégories exclusives (schizophrénie et autre troubles délirants, troubles de l´humeur, troubles névrotiques, épilepsies, démence, retard psychomoteur, autres) sur base de la classification internationale des maladies (CIM10), adaptée à la 3 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 3 Article Discussion Cette étude montre le potentiel important des CS pour améliorer la couverture des besoins en santé mentale en Afrique. L´évaluation du système national de santé mentale réalisée en Guinée montrait qu´en 2014 le service de psychiatrie de l´hôpital national Donka, seul service spécialisé public du pays, avait admis 1264 patients en consultation ambulatoire [11], alors que, pour la même année, les 5 CS objets de la présente étude avaient pris en charge 661 nouveaux cas en santé mentale, soit 52% du nombre de cas suivis par Donka pour une zone couvrant environ 40 000 habitants. Avant l´intégration de la santé mentale dans les 5 CS, toutes les personnes ayant des troubles mentaux étaient référées au service de psychiatrie de l´hôpital national. Nos résultats montrent que la prise en charge de la santé mentale dans les CS, est faisable et permet d´améliorer la couverture des services de soins en santé mentale, ce qui rejoint les conclusions d´autres études [10]. Dans notre étude, la part des consultations pour un problème de santé mentale représente 2,8% de l´ensemble des consultations, alors qu´au Québec, un tout autre contexte avec une couverture en soins de santé mentale bien plus adéquate, 25% des visites chez les médecins de famille sont liées à des troubles mentaux et 24% dans une autre étude sur 15 sites [13-16]. Pour les centres non-FMG, le nombre de cas est plus important la première année du fait de la publicité et de l´effet de nouveauté et diminue ensuite. Les variations dans le temps peuvent être liées aussi aux mouvements du personnel, fréquents dans le secteur public, comme au CS de Pita. Plusieurs autres facteurs, documentés dans les rapports d´activités des centres de santé, interviennent tels que les ruptures de médicaments, l´arrivée de nouveaux guérisseurs traditionnels ou l´épidémie d´Ebola. Au cours du temps, par la nécessité d´un suivi à long terme, le nombre de patients suivis augmente ainsi que la charge de travail. Ceci implique que la part de nouveaux cas en santé mentale dans les consultations ne reflète pas forcément la part de la charge de travail qui y est consacrée. Selon les rapports d´activités des centres de santé, au début du processus d´intégration, les malades viennent de la zone de couverture des CS, mais au fil des ans, ils viennent de zones de plus en plus éloignées grâce au bouche à oreille et aux succès thérapeutiques constatés. Article médicaments utilisés sont présentés dans le Tableau 4. Les médicaments étaient le souvent combinés avec d´autres approches thérapeutiques. Ainsi, parmi les patients ayant reçu au moins 1 médicament, 98,6% (n = 3483) avaient bénéficié d´un soutien psychologique, 20,8% (n = 682) d´une assistance sociale et 7,6% (n = 337) d´une réinsertion. importante de l´activité de médecine générale si l´on considère l´ensemble des consultations réalisées par les médecins de famille. D´autre part, dans le contexte guinéen, les patients ne consultent pas pour certains troubles mentaux qu´ils jugent relevé des guérisseurs traditionnels. Enfin, nous avons pris en compte l´ensemble des consultations primaires curatives alors que, dans certains CS, seules certaines consultations assurées par des professionnels formés offraient ces soins. Les différences entre CS sont partiellement dues à la chronologie de l´intégration de la santé mentale entre 2000 (Hafia Minière) et 2012 (Tata1). En général, les premières années après l´intégration, le nombre de consultations augmente progressivement avant de se stabiliser, voire régresser. La part croissante des pathologies mentales dans le CS Tata1 est liée à sa position géographique. Ce centre couvre en effet toute une région sanitaire et étant le seul à offrir les soins de santé mentale dans cette région, il est perçu comme un « Centre de santé mentale ». Caractéristiques sociodémographiques Caractéristiques sociodémographiques 4 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 4 Article Discussion Cette part semble donc faible et varie fortement d´un centre à un autre et d´une année à l´autre (0,2 à 20,4%). Elle s´explique par différents facteurs. Tout d´abord, seuls les premiers contacts ont été comptabilisés. Les troubles mentaux sont chroniques et impliquent en général un nombre élevé de contacts, ce qui peut expliquer la part 5 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. (Communication personnelle des responsables des centres de santé). Article (Communication personnelle des responsables des centres de santé). (Communication personnelle des responsables des centres de santé). Concernant les caractéristiques des patients, toutes les tranches d´âge sont représentées. Même si le nombre de divorcés est peu important, les femmes sont les plus concernées. Dans le contexte guinéen en effet, quand la maladie mentale survient dans un foyer, le couple finit souvent par se disloquer et généralement, si les femmes ne sont pas « rendues » à leurs parents, elles sont abandonnées par leur conjoint. L´insomnie ressort comme le principal motif de consultation pour les patients avec un problème de santé mentale. Ce symptôme étant également fréquemment retrouvé dans de nombreuses pathologies physiques, l´intégration de la santé mentale dans l´offre des soins de première ligne constitue une opportunité pour sensibiliser les soignants des CS à la prise en compte des aspects psychosociaux dans leur consultation de médecine générale. Nos résultats montrent que toutes les pathologies psychiatriques rencontrées dans les services spécialisés sont susceptibles d´être identifiées dans les CS, que ce soit les pathologies psychiatriques lourdes comme les psychoses et la dépression ou certaines maladies neurologiques comme les épilepsies, les démences et les retards psychomoteurs. Si les médicaments restent les moyens thérapeutiques les plus utilisés, l´accompagnement psychosocial et la réinsertion, pour lesquels les soignants ont été formés dans le processus d´intégration, apportent une valeur ajoutée dans l´offre de soins en première ligne. Des placebos sont aussi utilisés pour réduire la consommation des médicaments souvent exigés par les familles des patients. Les difficultés rencontrées lors du recueil des informations quantitatives limitent l´interprétation de certains résultats. Les sources de données n´étaient pas homogènes et dépendaient des outils de routine utilisés par les différents centres. Les trois CS FMG utilisaient, en plus des registres standards, des dossiers médicaux individuels ainsi que des cahiers de visite à domicile et de réinsertion des patients. Les deux autres CS n´utilisaient que les registres de consultation. Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. Remerciements Nous remercions le Pr Keïta Mamady Mory pour le protocole, Isabelle Godin pour les analyses statistiques; Hamidou Diallo et Youssouf Baldé pour la récolte des données, les soignants des 5 CS pour la facilité de recueil et Monique Van Dormael de l´Institut de Médecine Tropicale d´Anvers et Mamadou Pathé Diallo de l´Université de Conakry pour la relecture du manuscrit. Etat des connaissances sur le sujet Etat des connaissances sur le sujet  La morbidité liée aux troubles mentaux est élevée dans tous les pays; Discussion La faible qualité du remplissage et l´absence de dossiers médicaux expliquent l´importance des données manquantes et/ou aberrantes pour certaines variables dans ces CS. Pour les centres disposant de dossiers médicaux, le recueil de données ne s´est pas toujours limité aux informations du premier contact avec le patient, des informations provenant des documents du suivi du patient ont été recueillies expliquant dans certains cas des diagnostics et traitements multiples à première vue incohérents. Toutefois, cette proportion de patients reste marginale. Du fait de la faible qualité des données des registres, nous n´avons pu obtenir certaines informations, comme la proportion de malades améliorés, des perdus de vue et de rechutes. On note que la distribution des diagnostics varie entre CS. Au CS de Moriady, plus de la moitié des cas sont des épilepsies. Ceci s´explique par les activités communautaires plus importantes qui ont été réalisées autour du CS, avec l´implication de la radio rurale qui couvre plusieurs sous-préfectures et a longuement parlé des épilepsies dans les langues nationales. Tous les CS publics de Kindia y réfèrent également les épileptiques sur recommandation du médecin chef de district (Communication personnelle du médecin chef de district de Kindia). Dans les CS non FMG, les pathologies psychotiques sont les plus représentées. L´une des hypothèses est la présence plus importante de ce type de patients dans les petites agglomérations (petites villes ou villages) où sont situés ces CS. Lorsque les familles sont épuisées dans le parcours de soins avec les malades mentaux en ville, elles préfèrent les envoyer au village où ils seraient plus faciles à canaliser avec des méthodes traditionnelles de contention Une étude plus approfondie devrait se pencher sur ces dimensions de la qualité des soins sur base d´un suivi longitudinal, et donc la tenue de dossiers individuels [10]. Cette étude montre qu'il est possible d´analyser, sur base de données de routine, l´utilisation des soins de santé mentale en première ligne des soins dans un pays d´Afrique lorsque ceux-ci y sont offerts. Pour réellement Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 6 Article Tableaux et figure  La disponibilité des soins de santé mentale en Afrique est marginale; Tableau 1: proportion des patients avec problèmes de santé mentale (SM) parmi l´ensemble des patients des consultations générales des centres de santé  Plusieurs études confirment l´efficacité des services de santé de base comme modalité de prise en charge des malades mentaux. Tableau 2: caractéristiques sociodémographiques des patients Conclusion Abdoulaye Sow: conception et rédaction de l'article, Bart Criel, Michel Roland et Bernard Branger: Contribution à la rédaction de l'article, Myriam De Spiegelaere : Correction de la présentation des résultats, contribution à la rédaction de l´article et amélioration du manuscrit. Notre expérience montre que l´intégration de la santé mentale en première ligne de soins est possible et utile: les patients utilisent les CS qui peuvent être des lieux « adéquats » pour offrir des soins aux patients ayant des pathologies neuropsychiatriques lourdes. Les médicaments essentiels génériques, l´accompagnement psychologique et une réinsertion apportent des réponses efficaces à un nombre important de problèmes de santé mentale. Des enquêtes communautaires devraient être menées pour estimer les besoins en santé mentale dans les zones desservies par ces centres de manière à évaluer et progressivement améliorer la couverture des soins. Contribution de notre étude à la connaissance Tableau 3: diagnostics posés par centres de santé Tableau 4: principaux médicaments utilisés Figure 1: principaux motifs de consultation  Quand les soins en santé mentale sont intégrés dans les centres de santé en Guinée, ils sont utilisés par la population;  Du fait du contexte local, des pathologies neurologiques graves comme les épilepsies et les démences peuvent se retrouver dans la sphère des maladies mentales; Conflits d'intérêts évaluer l´amélioration de la couverture des besoins il est toutefois indispensable de disposer de données plus spécifiques sur les besoins dans la population générale et leur évolution dans le temps [15]. Les auteurs ne déclarent aucun conflits d´intérêts. PubMed| Google Scholar 13. Fleury MJ, Bamvita JM, Tremblay J, Lesage A, Farand L, Aubé D et al. Rôle des médecins omnipraticiens en santé mentale au Québec, IRSC. 2008. 6. World Health Organization. Mental Health in Primary Care: Illusion or Inclusion? Technical Series on Primary Health Care. WHO; 2018. Google Scholar 14. Lamboy B. La santé mentale: Etat des lieux et problématique. SFSP “Santé Publique”. 2005 Dec;17(4): 583-96. PubMed| Google Scholar 7. Kohrt BA, Asher L, Bhardwaj A, Fazel M, Jordans MJD, Mutamba BB et al. The Role of Communities in Mental Health Care in Low- and Middle-Income Countries: A Meta-Review of Components and Competencies. International Journal of envoronnemental research and public health. 2018 Jun 16;15(6): 1279. PubMed| Google Scholar 7. 15. De Silva M J, Lee L, Daniela C F, Rathod S, Chisholm D, Schellenberg J, Patel V. Estimating the coverage of mental health programmes: a systematic review (2014). International Journal of Epidemiology. 2014 Apr;43(2): 341-53. Scholar 5. Williams DR, Herman A, Stein DJ, Heeringa SG, Jackson PB, Moomal H et al. Twelve-month mental disorders in South Africa: prevalence, service use and demographic correlates in the population-based South African Stress and Health Study. Psychol Med. 2008 February;38(2): 211-220. Google Scholar Références 1. Herricks JR, Hotez PJ, Wanga V, Coffeng LE, Haagsma JA, María-Gloria Basáñez et al. The global burden of disease study 2013: What does it mean for the NTDs? PLoS Negl Trop Dis. 2017 Aug 3;11(8): e0005424. eCollection 2017 Aug. Google Scholar  En cas de pénurie en ressources humaines et de structures spécialisées en santé mentale, les CS polyvalents peuvent être une alternative valable pour améliorer l´accessibilité aux soins pour les personnes ayant des troubles mentaux. Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 7 7 Article 2. Charlson FJ, Diminic S, Lund C, Degenhardt L, Whiteford HA. Mental and Substance Use Disorders in Sub-Saharan Africa: Predictions of Epidemiological Changes and Mental Health Workforce Requirements for the Next 40 Years. PLoS ONE. 2014 Oct 13;9(10): e110208 eCollection 2014. PubMed| Google Scholar 9. Padmanathan P, De Silva MJ. The acceptability and feasibility of task-sharing for mental healthcare in low- and middle-income countries: a systematic review. Soc Sci Med. 2013 Nov;97: 82-6 Epub 2013 Aug 24. PubMed| Google Scholar PubMed| Google Scholar 10. Jordans MJD, Luitel NP, Kohrt BA, Rathod SD, Garman EC, Mary De Silva et al. Community-, facility-, and individual-level outcomes of a district mental healthcare plan in a low- resource setting in Nepal: A population-based evaluation. PLoS Med. 2019 Feb 14;16(2): e1002748. PubMed| Google Scholar 3. World Health Organization and World Organization of Family Doctors (Wonca). Integrating mental health into primary care A global perspective, 2008. Google Scholar 4. Gureje O, Abdulmalik J, Kola L, Musa E, Yasamy MT, Adebayo K. Integrating mental health into primary care in Nigeria: report of a demonstration project using the mental health gap action programme intervention guide. BMC Health Services Research. 2015. Google Scholar 11. Organisation mondiale de la santé (OMS). Rapport de l´OMS-AIMS sur le système de Santé Mentale de la République de Guinée. OMS-Guinée. Conakry. 2016. 12. Sow A, Van Dormael M, Criel B, De Spiegelaere M. Intégration de la santé mentale dans les centre de santé communautaire en Guinée Conakry. Santé Publique. 2019;31(2): 305- 313. b d| l h l Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. PubMed| Google Scholar 16. Marie-Josée Fleury. Santé mentale en première ligne. Santé mentale au Québec. 2009; 34(1): p19-34. 8. Van Ginneken N, Tharyan P, Lewin S, Rao GN, Meera SM, Pian J et al. Non-specialist health worker interventions for the care of mental, neurological and substance-abuse disorders in low- and middle-income countries. Cochrane Database Syst Rev. 2013 Nov 19;(11): CD009149. PubMed| Google Scholar 8 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 8 Article Tableau 1: proportion des patients avec problèmes de santé mentale (SM) parmi l´ensemble des patients des consultations générales des centres de santé Hafia manière Moriady Tata1 Timbi madina Pita centre Total 2012 SM 380 182 241 69 105 977 Total 11 931 2 853 6 190 4 300 10 789 36 063 % 3,2% 6,4% 3,9% 1,6% 1,0% 2,7% 2013 SM 260 192 221 16 45 734 Total 9 789 2 622 6 283 4 260 8 725 31 679 % 2,7% 7,3% 3,5% 0,4% 0,5% 2,3% 2014 SM 210 184 237 10 20 661 Total 11 852 3 152 2 921 4 236 9 432 31 593 % 1,8% 5,8% 8,1% 0,2% 0,2% 2,1% 2015 SM 204 177 226 12 23 642 Total 9 857 2 623 2 104 4 128 6 333 25 045 % 2,1% 6,7% 10,7% 0,3% 0,4% 2,6% 2016 SM 456 116 312 30 3 917 Total 12 128 1 619 2 095 5 328 4 877 26 047 % 3,8% 7,2% 14,9% 0,6% 0,1% 3,5% 2017 SM 396 190 444 16 18 1 064 Total 12 616 1 211 2 173 5 532 5 831 27 363 % 3,1% 15,7% 20,4% 0,3% 0,3% 3,9% Total SM 1 906 1 041 1 681 153 214 4 995 Total 68 173 14 080 21 766 27 784 45 987 177 790 % 2,8% 7,4% 7,7% 0,6% 0,5% 2,8% Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. PubMed| Google Scholar 9 Article Tableau 2: caractéristiques sociodémographiques des patients N % Sexe Homme 2697 54,1% Femme 2286 45,9% Total 4983 100,0% Résidence Urbaine 3786 79,4% Rurale 984 20,6% Total 4770 100% Ethnie Peulh 2595 72,0% Soussou 484 13,4% Malinké 426 11,8% Forestier 64 1,8% Autres 37 1,0% Total 3606 100% Situation familiale Célibataire 1408 35,80% Marié 2413 61,30% Divorcé 70 1,80% Veuf 46 1,20% Total 3937 100% Tableau 2: caractéristiques sociodémographiques des patients N % Sexe Homme 2697 54,1% Femme 2286 45,9% Total 4983 100,0% Résidence Urbaine 3786 79,4% Rurale 984 20,6% Total 4770 100% Ethnie Peulh 2595 72,0% Soussou 484 13,4% Malinké 426 11,8% Forestier 64 1,8% Autres 37 1,0% Total 3606 100% Situation familiale Célibataire 1408 35,80% Marié 2413 61,30% Divorcé 70 1,80% Veuf 46 1,20% Total 3937 100% Tableau 3: principaux diagnostics posés par centres de santé Hafia-Minière Moriady Tata1 Timbi- Madina Pita Centre Total Epilepsies 604 531 522 49 67 1773 33,2% 52,8% 31,9% 32,9% 31,8% 36,8% Schizophrénie et autres troubles délirants 602 221 606 71 113 1613 33,1% 22,0% 37,1% 47,7% 53,6% 33,5% Troubles de l´humeur 308 155 241 7 8 719 16,9% 15,4% 14,7% 4,7% 3,8% 14,9% Troubles névrotiques, liés au stress et somatoformes 134 29 179 5 2 349 7,4% 2,9% 11,0% 3,4% 0,9% 7,2% Autres 171 70 86 17 21 365 9,4% 7,0% 5,3% 11,4% 10,0% 7,6% Total 1819 1006 1634 149 211 4819 100,0% 100,0% 100,0% 100,0% 100,0% 100,0% Tableau 3: principaux diagnostics posés par centres de santé Hafia-Minière Moriady Tata1 Timbi- Madina Pita Centre Total Epilepsies 604 531 522 49 67 1773 33,2% 52,8% 31,9% 32,9% 31,8% 36,8% Schizophrénie et autres troubles délirants 602 221 606 71 113 1613 33,1% 22,0% 37,1% 47,7% 53,6% 33,5% Troubles de l´humeur 308 155 241 7 8 719 16,9% 15,4% 14,7% 4,7% 3,8% 14,9% Troubles névrotiques, liés au stress et somatoformes 134 29 179 5 2 349 7,4% 2,9% 11,0% 3,4% 0,9% 7,2% Autres 171 70 86 17 21 365 9,4% 7,0% 5,3% 11,4% 10,0% 7,6% Total 1819 1006 1634 149 211 4819 100,0% 100,0% 100,0% 100,0% 100,0% 100,0% 1 0 1 0 1 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. PubMed| Google Scholar Article Tableau 4: principaux médicaments administrés Halopéridol 48,5% Carbamazépine 36,6% Biperiden 33,3% Diazépam 32,4% Amitripline 15,3% Chlorpromazine 14,2% Autres 11,8% Placebo 7,8% Magnésium/vitamine B6 7,2% Lévomépromazine 3,4% Clonazepam 1,9% Tableau 4: principaux médicaments administrés Halopéridol 48,5% Carbamazépine 36,6% Biperiden 33,3% Diazépam 32,4% Amitripline 15,3% Chlorpromazine 14,2% Autres 11,8% Placebo 7,8% Magnésium/vitamine B6 7,2% Lévomépromazine 3,4% Clonazepam 1,9% Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. Article Figure 1: principaux motifs de consultation Article Figure 1: principaux motifs de consultation Figure 1: principaux motifs de consultation Figure 1: principaux motifs de consultation Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 12
https://openalex.org/W1003470624
https://durham-repository.worktribe.com/file/1388058/1/Published%20Journal%20Article
English
null
Stochastic growth dynamics and composite defects in quenched immiscible binary condensates
Physical review. A/Physical review, A
2,016
cc-by
6,840
I. INTRODUCTION [38,47–52]. In many scenarios, however, potentially nonuni- versal postquench defect dynamics strongly influence the system behavior. Work on homogeneous spinor Bose gases [49,50] has identified two distinct time scales in the process of domain formation: a short time scale for initial domain formation via the KZ mechanism, and a long “mem- ory” time scale for nonlinear coarse-graining dynamics to erase traces of the initial domains. Related work indicates that characteristic memory time scales may exceed experimental system lifetimes [51,52]. Pattern formation and the presence of coexisting phases in spatially separated domains are an emergent feature of diverse dynamical systems throughout physics [1], chemistry [2], and biology [3]. Ultracold gases offer a highly controllable theoretical and experimental test bed for studying these phe- nomena, particularly in the context of condensate formation dynamics [4–6], a subject of sustained interest and significance in nonequilibrium physics, both in the ultracold gas context [7–20] and beyond [21–24]. Previous works have highlighted the generic importance of the Kibble-Zurek (KZ) mechanism in defect formation during phase transitions [25,26], connect- ing ultracold gases with a range of phenomena from high- energy and condensed matter physics [27–29], with composite defects [28] emerging in the context of multicomponent fields by condensation in the defect core [30]. In this paper, we discuss the competing growth dynamics of instantaneously quenched immiscible two-component BECs, FIG. 1. Memory of stochastic defect dynamics in an immiscible two-component condensate (schematic, compiled from simulation data). On short postquench time scales, the fastest condensing component (here 87Rb) contains multiple spontaneously generated defects (top). The ensuing stochastic dynamics generically lead to either destruction of defects or survival of a single composite defect in which the second component (here 133Cs) preferentially condenses, forming a dark-bright solitary wave (middle row). The long-lived metastable states (bottom row) retain a memory of the prior stochastic dynamics. Experiments with single-component atomic Bose-Einstein condensates (BECs) have revealed the spontaneous forma- tion of defects in the form of vortices [31], dark solitonic vortices [32,33], and persistent currents [34] during the BEC phase transition, providing quantitative confirmation of KZ scaling [19,35–38]. In multicomponent BECs (e.g. 87Rb - 41K [39], 87Rb - 85Rb [40], and 87Rb - 133Cs [41,42]), studies have focused on the formation of two same-species BECs in a tunnel-coupled geometry [43], and quantum phase transitions in binary [44–46] and spinor Bose gases FIG. 1. *nikolaos.proukakis@ncl.ac.uk Published by the American Physical Society under the terms of the Creative Commons Attribution 3.0 License. Further distribution of this work must maintain attribution to the author(s) and the published article’s title, journal citation, and DOI. PHYSICAL REVIEW A 93, 023628 (2016) PHYSICAL REVIEW A 93, 023628 (2016) DOI: 10.1103/PhysRevA.93.023628 Published by the American Physical Society h dynamics and composite defects in quenched immiscible binary condensates I.-K. Liu,1,2 R. W. Pattinson,2 T. P. Billam,3 S. A. Gardiner,3 S. L. Cornish,3 T.-M. Huang,4 W.-W. Lin,5 S.-C. Gou,1 N. G. Parker,2 and N. P. Proukakis2,* 1Department of Physics, National Changhua University of Education, Changhua 50058, Taiwan 2Joint Quantum Centre (JQC) Durham-Newcastle, School of Mathematics and Statistics, Newcastle University, Newcastle upon Tyne, NE1 7RU, United Kingdom 3Joint Quantum Centre (JQC) Durham-Newcastle, Department of Physics, Durham University, Durham, DH1 3LE, United Kingdom 4Department of Mathematics, National Taiwan Normal University, Taipei 11677, Taiwan 5Department of Applied Mathematics and Shing-Tung Yau Center, National Chiao Tung University, Hsinchu 30010, Taiwan (Received 5 August 2014; revised manuscript received 23 May 2015; published 18 February 2016) We study the sensitivity of coupled condensate formation dynamics on the history of initial stochastic domain formation in the context of instantaneously quenched elongated harmonically trapped immiscible two-component atomic Bose gases. The spontaneous generation of defects in the fastest condensing component, and subsequent coarse-graining dynamics, can lead to a deep oscillating microtrap into which the other component condenses, thereby establishing a long-lived composite defect in the form of a dark-bright solitary wave. We numerically map out diverse key aspects of these competing growth dynamics, focusing on the role of shot-to-shot fluctuations and global parameter changes (initial state choices, quench parameters, and condensate growth rates), with our findings also qualitatively confirmed by realistic finite-duration quenches. We conclude that phase-separated structures observable on experimental time scales are likely to be metastable states whose form is influenced by the stability and dynamics of the spontaneously emerging dark-bright solitary wave. I. INTRODUCTION (a)–(b): postquench evolution, up to 2 s, of 2D column densities (ncol, n0,col) and 1D integrated density profiles (nint,n0,int) for c-field and PO (Penrose–Onsager) condensate respectively. (c): corresponding condensate phase. (d)–(e): evolution of (respectively) condensate number, N0, and occupation ratio r between condensate mode and the next-most-highly occupied mode. (f): single-run evolution of the number of spontaneously generated dark solitons, Nsol(t) (obtained, to within the estimated uncertainty shown, by examining density minima and phase jumps, similar to the procedure of [36]). In all simulations in this work, both components are confined in harmonic traps with frequencies (ωRb z ,ωRb ⊥,ωCs z ,ωCs ⊥) = 2π × (3.89,32.2,4.55,40.2) Hz, with longitudinal and transverse shifts of ∼1 μm in their centers [41,53], and we use scattering lengths (aRb,Rb,aCs,Cs,aRb,Cs) = (100,280,650) Bohr radii. Temperature is quenched from T0 = 80 nK to T = 20 nK. In the first part of this work, we use initial chemical potentials μRb/kB = 2.13 nK, μCs = 0.956μRb (μRb = 1.38ℏωRb ⊥, μCs = 1.05ℏωCs ⊥), and rates γRb = γCs = 0.263 s−1 (equivalent to ℏγk/kBT = 10−4), with μ′ Rb = μRb and μ′ Cs = 7.34μCs. The initial condition is an equilibrated state with no single condensate mode (r ∼1). In (f) inset, we also plot the average defect number ⟨Nsol⟩immediately following finite-duration quenches with (Tk, μk) ramped linearly from initial to final values (as given above) over time tR. Lines qualitatively show potential defect number scalings with tR. providing strong evidence that the density profiles emerging over experimentally relevant time scales are determined by the history of spontaneous defect formation and subsequent dynamics (Fig. 1). This long-term memory is facilitated by the added stability provided by formation, during coarse-graining dynamics, of a composite dark-bright solitary wave [54–59] defect, a process found to be robust to perturbations, but sensi- tive to shot-to-shot fluctuations and global parameter changes. occupied mode, we analyze the role of fluctuations and quench parameters [Figs. 3 and 4(a)], under the assumption that Rb condenses fastest. Wethenanalyzearangeof other initial states and quenches, and critically discuss our main assumptions [Figs. 4(b), 5, and 2(f) inset]. Within current computational constraints, this provides a qualitative characterization of the dynamical phase diagram. I. INTRODUCTION Memory of stochastic defect dynamics in an immiscible two-component condensate (schematic, compiled from simulation data). On short postquench time scales, the fastest condensing component (here 87Rb) contains multiple spontaneously generated defects (top). The ensuing stochastic dynamics generically lead to either destruction of defects or survival of a single composite defect in which the second component (here 133Cs) preferentially condenses, forming a dark-bright solitary wave (middle row). The long-lived metastable states (bottom row) retain a memory of the prior stochastic dynamics. Published by the American Physical Society under the terms of the Creative Commons Attribution 3.0 License. Further distribution of this work must maintain attribution to the author(s) and the published article’s title, journal citation, and DOI. Published by the American Physical Society 023628-1 2469-9926/2016/93(2)/023628(7) PHYSICAL REVIEW A 93, 023628 (2016) I.-K. LIU et al. FIG. 2. Typical numerical evolution of a quenched two-component system. (a)–(b): postquench evolution, up to 2 s, of 2D column densities (ncol, n0,col) and 1D integrated density profiles (nint,n0,int) for c-field and PO (Penrose–Onsager) condensate respectively. (c): corresponding condensate phase. (d)–(e): evolution of (respectively) condensate number, N0, and occupation ratio r between condensate mode and the next-most-highly occupied mode. (f): single-run evolution of the number of spontaneously generated dark solitons, Nsol(t) (obtained, to within the estimated uncertainty shown, by examining density minima and phase jumps, similar to the procedure of [36]). In all simulations in this work, both components are confined in harmonic traps with frequencies (ωRb z ,ωRb ⊥,ωCs z ,ωCs ⊥) = 2π × (3.89,32.2,4.55,40.2) Hz, with longitudinal and transverse shifts of ∼1 μm in their centers [41,53], and we use scattering lengths (aRb,Rb,aCs,Cs,aRb,Cs) = (100,280,650) Bohr radii. Temperature is quenched from T0 = 80 nK to T = 20 nK. In the first part of this work, we use initial chemical potentials μRb/kB = 2.13 nK, μCs = 0.956μRb (μRb = 1.38ℏωRb ⊥, μCs = 1.05ℏωCs ⊥), and rates γRb = γCs = 0.263 s−1 (equivalent to ℏγk/kBT = 10−4), with μ′ Rb = μRb and μ′ Cs = 7.34μCs. The initial condition is an equilibrated state with no single condensate mode (r ∼1). In (f) inset, we also plot the average defect number ⟨Nsol⟩immediately following finite-duration quenches with (Tk, μk) ramped linearly from initial to final values (as given above) over time tR. Lines qualitatively show potential defect number scalings with tR. FIG. 2. Typical numerical evolution of a quenched two-component system. I. INTRODUCTION Dynamical two-component BEC simulations to date have been based on coupled ordinary [54,55,61,62] or dissipa- tive [20,63,64] Gross-Pitaevskii equations (GPEs), or on classical field [65], truncated Wigner [44,45], or ZNG (cou- pled GPE-Boltzmann) [66] methods. The effects of thermal fluctuations during condensate growth are best captured by three-dimensional (3D) coupled stochastic projected Gross- Pitaevskii equations [52,67,68], While the equilibrium states of immiscible two-component BECs in the mean-field approximation are known to display various symmetric and asymmetric structures [53,60] similar to those observed in experiment [40,41], we show similar structures emerging as part of a rich nonequilibrium dynamical behavior long before the system reaches an equilibrium state. Our work offers insight into the complexities of two-component BEC formation, and suggests caution when concluding that an experimental immiscible two-component BEC has reached a true equilibrium state. dψk = P  −i ℏLkψk + γk kBT (μk −Lk)ψk  dt + dWk, (1) describing the evolution of highly occupied “classical” modes ψk, where k labels the species (here Rb or Cs). Here Lk = −ℏ2∇2/2mk + Vk + 4πℏ2(akk|ψk|2/mk + akj|ψj|2/Mkj), for scattering lengths akk (intraspecies) and akj (interspecies), atomic masses mk, and reduced mass Mkj. The “c-field” region defined by projector P consists of single-particle modes φl with energies below a carefully selected energy cutoff [69], which is coupled to the above-cutoff reservoir at temperature T via growth (described by the species-dependent rates γk) and noise (described by dWk [70]) processes. To simulate two-component condensate formation, we first obtain an initial state by numerically propagating Eq. (1) to A. Typical coupled dynamics simulation A typical numerical run of the post-instantaneous-quench dynamics demonstrating the formation of a composite defect for a given initial state (see figure caption for parameters) is shown in Fig. 2, a result with which subsequent results will be compared. Snapshots (left panels) of the c-field density (a), condensate mode density (b), and condensate phase (c) reveal three characteristic dynamical stages: (i) a short postquench “condensation onset” stage with strongly nonequilibrium dynamics (for t ≲0.1 s) in which multiple quench-induced defects proliferate; (ii) a rapid relaxation stage (here t ≲0.5 s, featuring rapid Rb growth), dominated by defect coarse-graining dynamics, leading to a metastable equilibrium state with a number of long-lived defects [this number can be zero, one (as shown here), or potentially more]; (iii) a slow evolution towards global equilibrium, during which the other component (here Cs) may (but need not) also condense. While the details of the coupled dynamics are sensitive to global system and quench parameters, our subsequent analysis confirms that the occurrence of these three stages is generic. Within our model, for a given set of quench parameters, the long-term evolution tends to favor the dominance of either Rb or Cs. FIG. 3. Evolution of four different postquench random noise sequences, with identical prequench states. (a)–(d) show the c-field density evolution [shown here via n(z) k = nk(x = 0,y = 0,z)], and (e)–(h) the condensate density profiles after 1 s (insets 2 s; ticks on inset axes correspond to those on the main figure axes). After this time the Rb defect has either been stabilized by Cs infilling (e); fully decayed within Rb (f); or decayed to the left (g) or right (h) edge of the condensate. Quench parameters are as in Fig. 2. Over longer time scales, the growing mean-field potential converts this dark-bright solitary wave into a fixed domain wall [74,75]. A Cs condensate also subsequently forms at the system edges, slightly compressing the Rb condensate towards the trap center. This interplay between condensate growth, defect formation, and dissipative evolution in the first com- ponent, and condensate growth in the second component— alongside increasing mean-field repulsion between the co- forming immiscible condensates—leads to interesting features that should be observable in current experiments. The right panels in Fig. A. Typical coupled dynamics simulation 2 show the dynamics of the PO condensate atom number N0 (d), the occupation ratio, r of the condensate mode to the next-most-highly occupied mode (e), and the number of soliton defects (f). While initially r ∼1, it increases rapidly postquench as a macroscopically occupied condensate mode emerges. Coherence growth, caused by the suppression of phase fluctuations during condensation [15,16], coincides with the rapid decrease in the defect numbers due to merging and decay [33]. Due to the larger initial Rb atom number, Cs condensation follows that of Rb [40]; moreover, because our simulations do not include evaporative cooling, we find that Cs condensation is associated with a gradual decrease in the Rb condensate. In the following we consider (i) the role of shot-to-shot fluctuations (Fig. 3); (ii) dependence on growth rates and final quench parameters when starting from quasicondensate initial states (Fig. 4); (iii) changes to the evolution due to less coherent initial states (Fig. 5), also demonstrating that the scenario of a defect in Rb leading to Cs infilling can be effectively reversed for particular parameters and time scales [Fig. 5(f), t = 0.25 s]; (iv) finite-duration quenches, showing that our qualitative findings also hold for quenches of realistic experimental duration [Fig. 2(f), inset]. Depending on dimensionality [29], the emerging defect could also be a vortex or solitonic vortex [72], whose infilling would create a (solitonic) vortex-bright soliton [73] rather than a dark-bright soliton. However, our geometry and parame- ters, which have {μRb,μ′ Rb} < 4ℏωRb ⊥and {μCs,μ′ Cs} < 8ℏωCs ⊥, favor 1D solitonic defects [72]. In Fig. 2, the initial multiple defects in the fastest condensing component eventually lead to exactly one long-lived defect, which acts as a tight mobile microtrap [11], facilitating rapid condensation of the other component. Growth of the bright (infilling) component in the microtrap (which stabilizes the dark soliton against decay [63]) leads to a spontaneously generated dark-bright soliton; for this particular simulation, this soliton forms close to the trap center. II. QUENCH PROTOCOL AND MODELING DETAILS Our quench scheme closely follows that of Ref. [31], namely, a sudden temperature and chemical potential quench, appropriately generalized to two components. We consider a prolate (aspect ratio ≈10) two-component atomic cloud of approximately 1.4 × 106 87Rb and 8 × 105 133Cs atoms, equilibrated in slightly displaced traps at T0 = 80 nK (close to the ideal gas critical temperature Tc). Based on a characteristic example (Fig. 2), in which neither component initially possesses a single macroscopically 023628-2 PHYSICAL REVIEW A 93, 023628 (2016) STOCHASTIC GROWTH DYNAMICS AND COMPOSITE . . . FIG. 3. Evolution of four different postquench random noise sequences, with identical prequench states. (a)–(d) show the c-field density evolution [shown here via n(z) k = nk(x = 0,y = 0,z)], and (e)–(h) the condensate density profiles after 1 s (insets 2 s; ticks on inset axes correspond to those on the main figure axes). After this time the Rb defect has either been stabilized by Cs infilling (e); fully decayed within Rb (f); or decayed to the left (g) or right (h) edge of the condensate. Quench parameters are as in Fig. 2. equilibrium for initial chemical potentials μk and common temperature T0 ⪆TC, and then instantaneously quench these parameters to final values T < TC and μ′ k ⩾μk. We extract the time-dependent condensate mode using the Penrose-Onsager (PO) criterion [71], by seeking a macroscopically occupied eigenmode of the one-body density matrix in short-time averages over a single trajectory [67]. B. Shot-to-shot variations We investigate sensitivity to fluctuations by looking at different numerical runs (loosely corresponding to different experimental runs) for the same fixed quench sequence [Figs. 3(a)–3(d)]. Such runs feature statistically identical condensate number evolution [see error bars in Fig. 4(a)]. Figure 3(a) reveals a three-stage evolution in the “reference” case of Fig. 2: slow-moving solitonic defect, near-stationary dark-bright solitary wave, and eventual static domain wall structure. Figures 3(b)–3(d) reveal alternative (and roughly 023628-3 PHYSICAL REVIEW A 93, 023628 (2016) I.-K. LIU et al. FIG. 4. Dependence of evolution on quench parameters. (a) shows condensate number evolution (Rb solid, Cs dashed) for different final chemical potentials μ′ k; standard parameters μ′ Rb = μRb,μ′ Cs = 7.34μCs (red and blue circles); μ′ Rb = 2.63μRb,μ′ Cs = 7.34μCs [black squares, example of c-field density evolution shown in (c)]; μ′ Rb = μRb,μ′ Cs = 11.9μCs [green triangles, example of c-field density evolution shown in (d)]. Error bars in (a) for standard parameters indicate the standard deviation over six numerical tra- jectories. (b) shows condensate number evolution for different rates γk; standard parameters γCs = γRb = 0.263 s−1 (red and blue circles), and γCs = 10γRb = 2.63 s−1 (brown stars). equally likely) outcomes for different (same mean amplitude) postquench dynamical noise realizations, describing thermal fluctuations. Figure 3(c) shows slower Cs growth, in an initially shallower (hence more rapidly moving) dark solitary-wave microtrap. Unlike Fig. 3(a), where dark solitary wave decay and stabilization occur at the trap center, Figs. 3(c)–3(d) show this process occurring either to the left (c), or to the right (d), illustrating the crucial role of the motion of the decaying dark solitary wave [76]. Figure 3(b) illustrates the potential for coexistence of more than one (shallow) defect for an appreciable time [see also Fig. 4(d) for t ≲0.5 s], which typically decay without Cs growth in the solitonic microtraps. In this case, Cs only condenses around Rb, minimizing mean- field repulsion. Figures 3(e)–3(h) show the condensate profile after 1 s (insets 2 s), consisting of either a large Cs structure in the middle separating the Rb [inset to Fig. 3(e)], or a large Rb structure enclosed by Cs [insets to Figs. 3(f)–3(h)]. Further evolution of case (a) (to ≳3 s) also yields an Rb structure enclosed by Cs, after gradual merging of the two Rb peaks. FIG. 4. Dependence of evolution on quench parameters. D. Role of quasicondensation in prequench states Our simulations so far exhibit a consistent predominance of rapid Rb growth initially, set by the prequench conditions, with long-term evolution dictated by the quench parameters. Although our initial states featured no single macroscopically occupied state in either component, both initial states exhibited quasicondensation, with multiple states having occupations greater than half that of the most occupied state [≈10 states for Rb (largest occupation ≈2200), and ≈5 states for Cs (largest occupation ≈1100)]. To demonstrate the generality of our findings, Fig. 5 shows the effects of decreasing the initial Rb quasicondensation, i.e., changing μRb from >0 [Fig. 5(c)] to ≈0 [Fig. 5(d)] and <0 [Fig. 5(e)], while allowing for an initial, more pronounced, Cs quasicondensate (through the increased μCs = 2.1ℏωCs ⊥). This leads to a large Cs condensate forming before significant Rb condensate growth. Under these conditions we find that enhancing the final Rb chemical potential, μ′ Rb [Fig. 5(f)], can lead either to approximately equal Rb and Cs condensate number, or to the generation of a quasistable Cs defect enabling the short-time formation and entrapment of an Rb condensate (at t = 0.25 s). B. Shot-to-shot variations We have also investigated the effect of the growth rate on the condensate evolution (standard estimates [67] suggest that γCs ∼10γRb), and find that increasing γCs/γRb, for fixed chemical potentials, favors the rapid growth of Cs (after a brief initial transient of rapid Rb growth) [Fig. 4(b)]. C. Dependence on global quench parameters Distinct dynamical regimes occurring for different quench parameters are shown in Fig. 4. We focus on the dependence of N0 on variations of the chemical potentials μ′ k and growth rates γk for fixed initial quasicondensate states. With γRb = γCs fixed, we find Rb dominates the evolution for a broad range of μ′ Rb > μRb [squares and black lines in Fig. 4(a)]. Here, spontaneously generated defects tend to decay within Rb, with Cs not condensing into a dark-bright solitary wave microtrap but instead at the trap edges [Fig. 4(c)]. For quenches with large μ′ Cs [Fig. 4(a), green triangles], despite the early atom number evolution remaining practically unchanged, Cs condensation rapidly overtakes that of Rb, which gradually disappears B. Shot-to-shot variations (a) shows condensate number evolution (Rb solid, Cs dashed) for different final chemical potentials μ′ k; standard parameters μ′ Rb = μRb,μ′ Cs = 7.34μCs (red and blue circles); μ′ Rb = 2.63μRb,μ′ Cs = 7.34μCs [black squares, example of c-field density evolution shown in (c)]; μ′ Rb = μRb,μ′ Cs = 11.9μCs [green triangles, example of c-field density evolution shown in (d)]. Error bars in (a) for standard parameters indicate the standard deviation over six numerical tra- jectories. (b) shows condensate number evolution for different rates γk; standard parameters γCs = γRb = 0.263 s−1 (red and blue circles), and γCs = 10γRb = 2.63 s−1 (brown stars). y , g g g p We have confirmed that the qualitative findings above are unchanged when using different (same temperature) thermalized initial states in the same simulations, loosely corresponding to different experimental runs. In particular, although different, randomly generated, initial (prequench) states yield different postquench defect formation dynamics, we find that at least three out of nine simulations with different initial and dynamical noise reveal clear evidence of spontaneous dark-bright soliton formation, with two of the emerging composite defects being relatively deep and central. Despite the differences in emergent density profile, condensate atom number evolution is the same [within statistical variations, see error bars in Fig. 4(a)], irrespective of the formation, stabilization, or decay of the dark-bright solitary wave. The importance of dark-bright solitary waves in the early stages of formation is further confirmed through dissipative GPE simulations, showing that even perfectly imprinted multiple dark-bright solitons quickly coalesce into a single long-lived dark-bright soliton, with rapid dynamical mean-field stabilization. Importantly, we find that the presence, or absence, of small asymmetries (∼1 μm) in the trap minima alter only the details, but not the qualitative structures, of the emerging density profiles, indicating that shot-to-shot and thermal fluctuations can strongly suppress experimentally relevant trap imperfections (whose role can dominate mean- field simulations [53]). [Fig. 4(d)]. We have also investigated the effect of the growth rate on the condensate evolution (standard estimates [67] suggest that γCs ∼10γRb), and find that increasing γCs/γRb, for fixed chemical potentials, favors the rapid growth of Cs (after a brief initial transient of rapid Rb growth) [Fig. 4(b)]. [Fig. 4(d)]. E. Effects of finite quench duration This coalescence often occurs shortly after the Rb condensate number decreases below that of Cs, providing a plausible indirect explanation for the observation of such a regime in Ref. [41]. 87Rb - 85Rb [40] or 87Rb - 133Cs [41] mixtures. Although our simulations feature sudden quenches, we can still draw some interesting, albeit indirect, analogies to these experiments: (i) Both experiments sometimes found (depending on param- eters) a condensate in only one component, in qualitative agreement with the long-term evolution of our stochastic simulations. (ii) Our simulations reveal long-lived metastable phase-separated profiles resembling those seen in exper- iment [41]. While the energy of the immiscible system is generally lowered by reducing the number of domains, larger aspect ratios add an energy barrier to the process of reduction; the experiment of Ref. [40] (with larger aspect ratio) reported metastable states with lifetimes exceeding 1 s, consistent with our simulation time scales. (iii) The relative time scales for condensation in the two components influence the form of the emergent profiles, as the component condensing second (typically with fewer initial atoms, and thus lower critical temperature) can only do so when the density of the other component is low [40,41]; this explains why, over the probed time scale, simulations in the scenario of Fig. 3 most commonly exhibit a central Rb condensate surrounded by the more massive Cs (a feature not easily reproduced at equilibrium [53]). The long-term evolution will, in principle, erase fluctuations from the formation dynamics (although in practice this time scale may be too long to be experimentally relevant). Indeed, longer term evolution in the scenario of Fig. 2 (t ≳3 s) exhibits coalescence of the two Rb structures into a single structure surrounded by Cs. This coalescence often occurs shortly after the Rb condensate number decreases below that of Cs, providing a plausible indirect explanation for the observation of such a regime in Ref. [41]. FIG. 5. Evolution of (a) condensate atom number, (b) occupation ratio r, and (c)–(f) coupled 1D integrated condensate density profiles for initial states with different amount of coherence in the Rb initial state. Shown are cases with μCs > 0 and (c) μRb = 1.38ℏωRb ⊥(corresponding to “reference” Fig. E. Effects of finite quench duration 2 data, plotted only for ease of comparison here), (d) μRb = 0.01ℏωRb ⊥, and (e)–(f) μRb = −2.42ℏωRb ⊥; (f) differs from (e) only in the larger postquench Rb chemical potential [μ′ Rb = 3.02ℏωRb ⊥in (f), as opposed to 1.38ℏωRb ⊥ in (e)]. Note that for (d)–(f) μCs is increased to 2.11ℏωCs ⊥. ramped linearly from the same initial to final values as in Fig. 2 over time tR. For short but realistic ramp durations (tR ⪅ω−1 z ) we find identical short-term (t ⪅tR) and very similar long-term (t ∼500–1000 ms) dynamics, supporting our findings about the emergence of a single relatively deep dark soliton (Rb), partly infilled by the other component (Cs)]; this is in qualitative agreement with earlier findings for single- component systems (see Supplementary Information in [31]). The scaling of the immediate postquench defect number for finite-duration quenches with tR, starting from a state exhibiting quasicondensation (T0 ⪆Tc), is shown in Fig. 2(f), inset (for the relevant time scales shorter than the characteristic time scale for the emergence of a composite defect). V. CONCLUSIONS We have qualitatively analyzed the formation dynamics of immiscible two-component condensates following a sudden temperature quench, elucidating the importance of composite defect formation and dynamics. While our model is computa- tionally challenging (even the coupled dissipative model, with- out noise, has eight independent parameters), analysis of over 100 three-dimensional stochastic simulations has enabled us to broadly classify the dynamics into three evolution stages: (i) condensation of the fastest growing component, with dynamics mainly determined by the prequench state and final temper- ature, in which multiple defects are spontaneously formed; (ii) fluctuation-determined coarse-graining dynamics, during which defects in the fastest growing component coalesce and gradually decay, potentially yielding a small number of long- lived defects; and (iii) relaxation, with long-term dynamics set by the quench parameters, during which the second component condenses in regions of low mean-field density. Importantly, a statistically non-negligible fraction (≳30%) of simulations exhibit a composite defect, whose spontaneous formation and subsequent evolution lead to stark shot-to-shot variations in the observable phase-separated density profiles over a broad range of experimentally relevant time scales. We have verified the generic nature of our observations both by confirming that our findings also hold for realistic finite-duration quenches, and As the physical scheme considered here does not fully conform to the standard adiabatic-impulse-adiabatic scenario of the Kibble-Zurek mechanism [29], we cautiously avoid directly linking our findings for the study of the soliton number to Kibble-Zurek exponents. Nonetheless and rather remarkably we find some qualitative resemblance to scalings observed in the short- and long-term evolution of spinor gases quenched from miscible to immiscible in homogeneous or harmonically trapped systems [44–46,49,77]. E. Effects of finite quench duration As a further check on the generality of our results, we also consider finite-duration quenches in which (Tk,μk) are 023628-4 PHYSICAL REVIEW A 93, 023628 (2016) STOCHASTIC GROWTH DYNAMICS AND COMPOSITE . . FIG. 5. Evolution of (a) condensate atom number, (b) occupation ratio r, and (c)–(f) coupled 1D integrated condensate density profiles for initial states with different amount of coherence in the Rb initial state. Shown are cases with μCs > 0 and (c) μRb = 1.38ℏωRb ⊥(corresponding to “reference” Fig. 2 data, plotted only for ease of comparison here), (d) μRb = 0.01ℏωRb ⊥, and (e)–(f) μRb = −2.42ℏωRb ⊥; (f) differs from (e) only in the larger postquench Rb chemical potential [μ′ Rb = 3.02ℏωRb ⊥in (f), as opposed to 1.38ℏωRb ⊥ in (e)]. Note that for (d)–(f) μCs is increased to 2.11ℏωCs ⊥. 87Rb - 85Rb [40] or 87Rb - 133Cs [41] mixtures. Although our simulations feature sudden quenches, we can still draw some interesting, albeit indirect, analogies to these experiments: (i) Both experiments sometimes found (depending on param- eters) a condensate in only one component, in qualitative agreement with the long-term evolution of our stochastic simulations. (ii) Our simulations reveal long-lived metastable phase-separated profiles resembling those seen in exper- iment [41]. While the energy of the immiscible system is generally lowered by reducing the number of domains, larger aspect ratios add an energy barrier to the process of reduction; the experiment of Ref. [40] (with larger aspect ratio) reported metastable states with lifetimes exceeding 1 s, consistent with our simulation time scales. (iii) The relative time scales for condensation in the two components influence the form of the emergent profiles, as the component condensing second (typically with fewer initial atoms, and thus lower critical temperature) can only do so when the density of the other component is low [40,41]; this explains why, over the probed time scale, simulations in the scenario of Fig. 3 most commonly exhibit a central Rb condensate surrounded by the more massive Cs (a feature not easily reproduced at equilibrium [53]). The long-term evolution will, in principle, erase fluctuations from the formation dynamics (although in practice this time scale may be too long to be experimentally relevant). Indeed, longer term evolution in the scenario of Fig. 2 (t ≳3 s) exhibits coalescence of the two Rb structures into a single structure surrounded by Cs. ACKNOWLEDGMENTS Stoof and M. J. Bijlsma, J. Low Temp. Phys. 124, 431 (2001). [34] L. Corman, L. Chomaz, T. Bienaim´e, R. Desbuquois, C. Weitenberg, S. Nascimb`ene, J. Dalibard, and J. Beugnon, Phys. Rev. Lett. 113, 135302 (2014). [13] M. K¨ohl, M. J. Davis, C. W. Gardiner, T. W. H¨ansch, and T. Esslinger, Phys. Rev. Lett. 88, 080402 (2002). [35] W. H. Zurek, Phys. Rev. Lett. 102, 105702 (2009). [14] N. P. Proukakis, J. Schmiedmayer, and H. T. C. Stoof, Phys. Rev. A 73, 053603 (2006). [36] B. Damski and W. H. Zurek, Phys. Rev. Lett. 104, 160404 (2010). [37] E. Witkowska, P. Deuar, M. Gajda, and K. Rz ˛a˙zewski, Phys. Rev. Lett. 106, 135301 (2011). [15] M. Hugbart, J. A. Retter, A. F. Var´on, P. Bouyer, A. Aspect, and M. J. Davis, Phys. Rev. A 75, 011602 (2007). [16] S. Ritter, A. ¨Ottl, T. Donner, T. Bourdel, M. K¨ohl, and T. Esslinger, Phys. Rev. Lett. 98, 090402 (2007). [38] A. del Campo, A. Retzker, and M. B. Plenio, New J. Phys. 13, 083022 (2011). [17] T. Donner, S. Ritter, T. Bourdel, A. ¨Ottl, M. K¨ohl, and T. Esslinger, Science 315, 1556 (2007). [39] G. Modugno, M. Modugno, F. Riboli, G. Roati, and M. Inguscio, Phys. Rev. Lett. 89, 190404 (2002). g [18] M. C. Garrett, A. Ratnapala, E. D. van Ooijen, C. J. Vale, [40] S. B. Papp, J. M. Pino, and C. E. Wieman, Phys. Rev. Lett. 101, 040402 (2008). [18] M. C. Garrett, A. Ratnapala, E. D. van Ooijen, C. J. Vale, K. Weegink, S. K. Schnelle, O. Vainio, N. R. Heckenberg, H. Rubinsztein-Dunlop, and M. J. Davis, Phys. Rev. A 83, 013630 (2011). [41] D. J. McCarron, H. W. Cho, D. L. Jenkin, M. P. K¨oppinger, and S. L. Cornish, Phys. Rev. A 84, 011603 (2011). [19] N. Navon, A. L. Gaunt, R. P. Smith, and Z. Hadzibabic, Science 347, 167 (2015). [42] A. Lercher, T. Takekoshi, M. Debatin, B. Schuster, R. Rameshan, F. Ferlaino, R. Grimm, and H.-C. N¨agerl, Eur. Phys. J. D 65, 3 (2011). [20] S. Ronen, J. L. Bohn, L. E. Halmo, and M. Edwards, Phys. Rev. A 78, 053613 (2008). [43] S.-W. Su, S.-C. Gou, A. S. Bradley, O. Fialko, and J. Brand, Phys. Rev. Lett. 110, 215302 (2013). [21] E. del Valle, D. Sanvitto, A. Amo, F. P. Laussy, R. Andr´e, C. Tejedor, and L. Vi˜na, Phys. Rev. Lett. 103, 096404 (2009). ACKNOWLEDGMENTS We acknowledge funding from the U.K. EPSRC (Grant Nos. EP/K03250X/1 and EP/K030558/1). I.K.L. and S.C.G. were supported by the Ministry of Science and Technology, Taiwan (Grant No. 103-2112-M-018-002-MY3). T.P.B. was supported by the John Templeton Foundation via the Durham Emergence Project (http://www.dur.ac.uk/emergence). [23] A.-W. de Leeuw, H. T. C. Stoof, and R. A. Duine, Phys. Rev. A 88, 033829 (2013). [1] M. C. Cross and P. C. Hohenberg, Rev. Mod. Phys. 65, 851 (1993). [24] A. Chiocchetta and I. Carusotto, Phys. Rev. A 90, 023633 (2014). [2] E. Meron, Phys. Rep. 218, 1 (1992). [3] J. D. Murray, Mathematical Biology. II, Spatial Models and Biomedical Applications, Interdisciplinary Applied Mathemat- ics (Springer, New York, 2003). [25] T. W. B. Kibble, J. Phys. A 9, 1387 (1976). [26] W. H. Zurek, Nature 317, 505 (1985). [27] W. Zurek, Phys. Rep. 276, 177 (1996). [4] H. T. C. Stoof, Phys. Rev. Lett. 78, 768 (1997). [28] T. Kibble and A. Srivastava, J. Phys. Condens. Matter 25, 400301 (2013). [5] Y. Kagan and B. V. Svistunov, Phys. Rev. Lett. 79, 3331 (1997). [29] A. del Campo, T. W. B. Kibble, and W. H. Zurek, J. Phys. Condens. Matter 25, 404210 (2013). [6] D. V. Semikoz and I. I. Tkachev, Phys. Rev. D 55, 489 (1997). [7] E. Levich and V. Yakhot, J. Phys. A 11, 2237 (1978). [30] N. D. Antunes, P. Gandra, R. J. Rivers, and A. Swarup, Phys. Rev. D 73, 085012 (2006). [8] H.-J. Miesner, D. M. Stamper-Kurn, M. R. Andrews, D. S. [31] C. N. Weiler, T. W. Neely, D. R. Scherer, A. S. Bradley, M. J. Davis, and B. P. Anderson, Nature 455, 948 (2008). Durfee, S. Inouye, and W. Ketterle, Science 279, 1005 (1998). [9] C. W. Gardiner, M. D. Lee, R. J. Ballagh, M. J. Davis, and P. Zoller, Phys. Rev. Lett. 81, 5266 (1998). P. Zoller, Phys. Rev. Lett. 81, 5266 (1998). [32] G. Lamporesi, S. Donadello, S. Serafini, F. Dalfovo, and G. Ferrari, Nat. Phys. 9, 656 (2013). [10] M. J. Bijlsma, E. Zaremba, and H. T. C. Stoof, Phys. Rev. A 62, 063609 (2000). [33] S. Donadello, S. Serafini, M. Tylutki, L. P. Pitaevskii, F. Dalfovo, G. Lamporesi, and G. Ferrari, Phys. Rev. Lett. 113, 065302 (2014). [11] D. M. Stamper-Kurn, H.-J. Miesner, A. P. Chikkatur, S. Inouye, J. Stenger, and W. Ketterle, Phys. Rev. Lett. 81, 2194 (1998). [12] H. T. C. IV. EXPERIMENTAL RELEVANCE Recent experiments have explored the emergent immiscible density profiles following the gradual sympathetic cooling of 023628-5 I.-K. LIU et al. PHYSICAL REVIEW A 93, 023628 (2016) that for suitable parameter choices, a defect-induced microtrap can emerge in either species. Data supporting this publication is openly available under an Open Data Commons Open Database License [79]. While the prevailing composite defect in our inhomo- geneous system is a dark-bright solitary wave, higher di- mensional analogs are also possible, and the related “core condensation” dynamics in the context of condensed matter and high-energy physics remain only partly understood even in uniform systems [28,30]. Controlled experiments with cold atoms could help shed further light on this important problem by, e.g., statistically analyzing the evolution of density profiles following quenched evaporative cooling of binary gases initially near the critical temperature. PHYSICAL REVIEW A 93, 023628 (2016) PHYSICAL REVIEW A 93, 023628 (2016) [46] J. Hofmann, S. S. Natu, and S. Das Sarma, Phys. Rev. Lett. 113, 095702 (2014). [64] R. W. Pattinson, N. G. Parker, and N. P. Proukakis, J. Phys. Conf. Ser. 497, 012029 (2014). [65] N. G. Berloff, Phys. Rev. Lett. 94, 120401 (2005). [47] L. E. Sadler, J. M. Higbie, S. R. Leslie, M. Vengalattore, and D. M. Stamper-Kurn, Nature 443, 312 (2006). [66] M. J. Edmonds, K. L. Lee, and N. P. Proukakis, Phys. Rev. A 91, 011602 (2015). [48] H. Saito, Y. Kawaguchi, and M. Ueda, J. Phys. Condens. Matter 25, 404212 (2013). [67] P. B. Blakie, A. S. Bradley, M. J. Davis, R. J. Ballagh, and C. W. Gardiner, Adv. Phys. 57, 363 (2008). [49] T. ´Swisłocki, E. Witkowska, J. Dziarmaga, and M. Matuszewski, Phys. Rev. Lett. 110, 045303 (2013). [68] A. S. Bradley and P. B. Blakie, Phys. Rev. A 90, 023631 (2014). [50] E. Witkowska, J. Dziarmaga, T. ´Swisłocki, and M. Matuszewski, Phys. Rev. B 88, 054508 (2013). [69] To make our simulations numerically tractable, we use a plane-wave basis without strict de-aliasing (a procedure subtly different from Refs. [67,78]). However, we have confirmed that our main results remain qualitatively similar when the cutoff is changed by ∼10%. [51] D. M. Stamper-Kurn and M. Ueda, Rev. Mod. Phys. 85, 1191 (2013). [52] S. De, D. L. Campbell, R. M. Price, A. Putra, B. M. Anderson, and I. B. Spielman, Phys. Rev. A 89, 033631 (2014). and I. B. Spielman, Phys. Rev. A 89, 033631 (2014) [70] Here dWk is complex white noise defined by ⟨dW ∗ k (x,t)dWj (x′,t)⟩= 2γkδkjδC;k(x −x′)dt, where δC;k(x −x′) = El⩽Ec;k l φ∗ l (x′)φl(x). [53] R. W. Pattinson, T. P. Billam, S. A. Gardiner, D. J. McCarron, H. W. Cho, S. L. Cornish, N. G. Parker, and N. P. Proukakis, Phys. Rev. A 87, 013625 (2013). y [54] T. Busch and J. R. Anglin, Phys. Rev. Lett. 87, 010401 (2001). l [71] O. Penrose and L. Onsager, Phys. Rev. 104, 576 (1956). [54] T. Busch and J. R. Anglin, Phys. Rev. Lett. 87, 010401 (2001). [55] P. ¨Ohberg and L. Santos, Phys. Rev. Lett. 86, 2918 (2001). [55] P. ¨Ohberg and L. Santos, Phys. Rev. Lett. 86, 2918 (2001). [72] J. Brand and W. P. Reinhardt, Phys. Rev. A 65, 043612 (2002). [56] U. Shrestha, J. Javanainen, and J. Ruostekoski, Phys. Rev. ACKNOWLEDGMENTS [44] J. Sabbatini, W. H. Zurek, and M. J. Davis, Phys. Rev. Lett. 107, 230402 (2011). [22] G. Nardin, K. G. Lagoudakis, M. Wouters, M. Richard, A. [22] G. Nardin, K. G. Lagoudakis, M. Wouters, M. Richard, A. Baas, R. Andr´e, L. S. Dang, B. Pietka, and B. Deveaud-Pl´edran, Phys. Rev. Lett. 103, 256402 (2009). [45] J. Sabbatini, W. H. Zurek, and M. J. Davis, New J. Phys. 14, 095030 (2012). Baas, R. Andr´e, L. S. Dang, B. Pietka, and B. Deveaud-Pl´edran, Phys. Rev. Lett. 103, 256402 (2009). 023628-6 023628-6 STOCHASTIC GROWTH DYNAMICS AND COMPOSITE . . . PHYSICAL REVIEW A 93, 023628 (2016) Lett. 103, 190401 (2009). [73] K. J. H. Law, P. G. Kevrekidis, and L. S. Tuckerman, Phys. Rev. Lett. 105, 160405 (2010). [57] C. Becker, S. Stellmer, P. Soltan-Panahi, S. D¨orscher, M. Baumert, E.-M. Richter, J. Kronj¨ager, K. Bongs, and K. Sengstock, Nat. Phys. 4, 496 (2008). [74] S. Coen and M. Haelterman, Phys. Rev. Lett. 87, 140401 (2001). [58] C. Hamner, J. J. Chang, P. Engels, and M. A. Hoefer, Phys. Rev. [58] C. Hamner, J. J. Chang, P. Engels, and M. A. Hoefer, Phys. Rev. Lett. 106, 065302 (2011). [75] D. M. Stamper-Kurn, H.-J. Miesner, A. P. Chikkatur, S. Inouy J. Stenger, and W. Ketterle, Phys. Rev. Lett. 83, 661 (1999). [75] D. M. Stamper Kurn, H. J. Miesner, A. P. Chikkatur, S. Inouy J. Stenger, and W. Ketterle, Phys. Rev. Lett. 83, 661 (1999). Lett. 106, 065302 (2011). [59] C. Hamner, Y. Zhang, J. J. Chang, C. Zhang, and P. Engels, Phys. Rev. Lett. 111, 264101 (2013). [76] S. P. Cockburn, H. E. Nistazakis, T. P. Horikis, P. G. Kevrekidis, [76] S. P. Cockburn, H. E. Nistazakis, T. P. Horikis, P. G. Kevrekidis, N. P. Proukakis, and D. J. Frantzeskakis, Phys. Rev. Lett. 104, 174101 (2010). [60] M. Trippenbach, K. Goral, K. Rzazewski, B. Malomed, and Y. B. Band, J. Phys. B 33, 4017 (2000). [77] T. ´Swisłocki, E. Witkowska, J. Dziarmaga, and M. Matuszewski (private communication). [61] K. Kasamatsu and M. Tsubota, Phys. Rev. A 74, 013617 (2006). [61] K. Kasamatsu and M. Tsubota, Phys. Rev. A 74, [62] K. Sasaki, N. Suzuki, and H. Saito, Phys. Rev. A 83, 033602 (2011). [78] P. B. Blakie, Phys. Rev. E 78, 026704 (2008). [79] Additional metadata are available at: http://dx.doi.org/10.17634/ 122626-2. Please contact Newcastle Research Data Service at rdm@ncl.ac.uk for access instructions. [63] V. Achilleos, D. Yan, P. G. Kevrekidis, and D. J. Frantzeskakis, New J. Phys. 14, 055006 (2012). 023628-7 023628-7
https://openalex.org/W2052551677
https://europepmc.org/articles/pmc2683565?pdf=render
English
null
Novel Application of Fluorescence Lifetime and Fluorescence Microscopy Enables Quantitative Access to Subcellular Dynamics in Plant Cells
PloS one
2,009
cc-by
10,416
Received October 31, 2008; Accepted April 30, 2009; Published May 27, 2009 Copyright:  2009 Elgass et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Funding: The funders had no role in study design, data collection and analysis, decision to publish, or preparation of the manuscrip Ph.D. fellowships from the state Baden-Wuerttemberg to KE and KC and a DFG grant to KH (HA2146/10-1). ad no role in study design, data collection and analysis, decision to publish, or preparation of the manuscript. This work was funded by e state Baden-Wuerttemberg to KE and KC and a DFG grant to KH (HA2146/10-1). Competing Interests: The authors have declared that no competing interests exist. * E-mail: alfred.meixner@uni-tuebingen.de (AJM); klaus.harter@zmbp.uni-tuebingen.de (KH) Kirstin Elgass1, Katharina Caesar2, Frank Schleifenbaum1,2, York-Dieter Stierhof3, Alfred J. Meixner1*, Klaus Harter2* 1 Institute for Physical and Theoretical Chemistry, University of Tu¨bingen, Tu¨bingen, Germany, 2 Center for Plant Molecular Biology, Department of Plant Physiology, University of Tu¨bingen, Tu¨bingen, Germany, 3 Center for Plant Molecular Biology, Microscopy, University of Tu¨bingen, Tu¨bingen, Germany PLoS ONE | www.plosone.org ation: Elgass K, Caesar K, Schleifenbaum F, Stierhof Y-D, Meixner AJ, et al. (2009) Novel Application of Fluorescence Lifetime and Flu ables Quantitative Access to Subcellular Dynamics in Plant Cells. PLoS ONE 4(5): e5716. doi:10.1371/journal.pone.0005716 Novel Application of Fluorescence Lifetime and Fluorescence Microscopy Enables Quantitative Access to Subcellular Dynamics in Plant Cells arina Caesar2, Frank Schleifenbaum1,2, York-Dieter Stierhof3, Alfred J. Meixner1*, Kirstin Elgass1, Katharina Caesar2, Frank Schleifenbaum1,2, York-Dieter Stierhof3, Alfred J. Meixner1*, Klaus Harter2* Abstract Background: Optical and spectroscopic technologies working at subcellular resolution with quantitative output are required for a deeper understanding of molecular processes and mechanisms in living cells. Such technologies are prerequisite for the realisation of predictive biology at cellular and subcellular level. However, although established in the physical sciences, these techniques are rarely applied to cell biology in the plant sciences. Principal Findings: Here, we present a combined application of one-chromophore fluorescence lifetime microscopy and wavelength-selective fluorescence microscopy to analyse the function of a GFP fusion of the Brassinosteroid Insensitive 1 Receptor (BRI1-GFP) with high spatial and temporal resolution in living Arabidopsis cells in their tissue environment. We show a rapid, brassinolide-induced cell wall expansion and a fast BR-regulated change in the BRI1-GFP fluorescence lifetime in the plasmamembrane in vivo. Both cell wall expansion and changes in fluorescence lifetime reflect early BR-induced and BRI1-dependent physiological or signalling processes. Our experiments also show the potential of one-chromophore fluorescence lifetime microscopy for the in vivo monitoring of the biochemical and biophysical subcellular environment using GFP fusion proteins as probes. Significance: One-chromophore fluorescence lifetime microscopy, combined with wavelength-specific fluorescence microscopy, opens up new frontiers for in vivo dynamic and quantitative analysis of cellular processes at high resolution which are not addressable by pure imaging technologies or transmission electron microscopy. Citation: Elgass K, Caesar K, Schleifenbaum F, Stierhof Y-D, Meixner AJ, et al. (2009) Novel Application of Fluorescence Lifetime and Fluorescence Microscopy Enables Quantitative Access to Subcellular Dynamics in Plant Cells. PLoS ONE 4(5): e5716. doi:10.1371/journal.pone.0005716 Editor: Markus Grebe, Umea˚ Plant Science Centre, Sweden Received October 31, 2008; Accepted April 30, 2009; Published May 27, 2009 Introduction in mammalian cells [14], plant protoplasts [15–16] or plant cells after plasmolysis [17]. An in vivo FCS analysis of phytochrome mobility was reported for moss protonemal tip cells [18]. However, protoplast preparation and plasmolysis induce stress responses and may modify the subcellular partitioning, intracellular dynamics and activity of the receptors. Furthermore, expression of plant receptors in heterologous systems may lead to artificial results. Due to these limitations, our knowledge on cell biological mechanisms, by which, for instance, membrane-associated receptors act at the plant cell surface, traffic inside the plant cell and induce early cellular responses, is restricted. Fluorescence microscopy is a powerful tool for studying the subcellular partitioning and intracellular dynamics of fluorophor- tagged proteins in living cells [1–3]. It has become possible to combine fluorescence microscopy with new time-resolved laser spectroscopic methods. Higher-order pulsed laser irradiation (Stim- ulated Emission Depletion microscopy, STED) [4–5] or single molecule blinking statistics (PhotoActivated Localization Microscopy, PALM) [6] and high resolution colocalization of single molecules (STORM) [7] are used for obtaining ultra-high spatial resolution far below the diffraction limit. For observing dynamic processes associated with single molecules, techniques such as fluorescence correlation spectroscopy (FCS) are available [8–13]. However, the high resolution and sensitive fluorescence microscopy of proteins, such as membrane-bound receptor kinases, is difficult to carry out in living plant cells, especially in the context of their tissue, due to the autofluorescence of cellular compartments such as the cell wall. This problem is usually circumvented by studying proteins of higher plants To overcome these limitations, we applied one-chromophore fluorescence lifetime microscopy (ocFLM), combined with wave- length-selective fluorescence microscopy, to plant cells in their tissue environment in Arabidopsis thaliana at high local resolution. Our ocFLM system consisted of a confocal sample scanning microscope (CSSM), a spectrally integrating detector for measur- ing fluorescence intensity and a time-correlated single-photon counting board for recording fluorescence lifetime decays, which was custom-built in our lab [19–20]. For plant material, light- PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 1 May 2009 | Volume 4 | Issue 5 | e5716 Subcellular Dynamics in Plants intensity image over the plasmalemma-cell wall area of BRI1- GFP-expressing and wild type seedlings in root and shoot (cotyledon) cells. In contrast to the spectra of non-transformed wild type cells (Fig. Introduction 1A and B, black dots), the spectra of the BRI1- GFP-expressing cells showed a higher overall intensity and two main peaks (Fig. 1A and B, green dots). These two peaks are typical of and specific for GFP in aqueous solution (Figure S1) [25]. However, the spectra recorded from the plants differed significantly and the shoulder amplitudes and intensity ratios of the two maxima varied between root and cotyledon cells (Fig. 1A and B). These data indicate that the degree and properties of autofluorescence depend on the cell type and the autofluorescence strongly interferes with the spectrum of GFP fluorescence emission. Secondly, we recorded fluorescence lifetime decay traces from a selected probe volume with pulsed laser excitation in living plant cells. At the maximum of fluorescence emission between 500 grown seedlings expressing a BRI1-GFP fusion protein were used. BRI1, a plasmalemma-bound receptor kinase for plant steroids like brassinolide (BL) [21], recycles through endosomes [22–23] and regulates many aspects of growth and differentiation, including cell expansion [24]. As shown here, our combined optical-spectroscopic application, together with a novel data analysis approach using BRI1-GFP as a model receptor, provides unprecedented insight into cells and opens up new frontiers for in vivo dynamic, quantitative analysis of molecular and subcellular processes at high local resolution. Differentiation of GFP and fluorescence background Differentiation of GFP and fluorescence background To differentiate between background fluorescence and the BRI1-GFP signal, we recorded a two-dimensional fluorescence To differentiate between background fluorescence and the BRI1-GFP signal, we recorded a two-dimensional fluorescence Figure 1. Differentiation of autofluorescence and the GFP signal in BRI1-GFP-expressing and wildtype Arabidopsis cells. (A–B) Wavelength-resolved fluorescence spectra from plasmalemma-cell wall sections of BRI1-GFP-expressing cells (green) and wildtype cells (black). The spectra were recorded in root, A, or cotyledon cells, B. The areas (50650 mm) used for recording are shown in the inlets. (C) In vivo decay trace of fluorescence lifetime from BRI1-GFP expressing hypocotyl cells fitted by a mono-exponential function (black line). The lifetime decay was measured at the peak of fluorescence intensity at 500 to 512 nm. (D) In vivo decay trace of autofluorescence lifetime in the plasmalemma-cell wall area of wildtype hypocotyl cells fitted by a mono-exponential function (black line). (E) In vivo decay trace of autofluorescence lifetime in the plasmalemma-cell wall area of wildtype hypocotyl cells fitted by a multi-exponential function (black line). The lifetime decay was measured at around 500 to 512 nm. The residuals indicate the deviation between the measured and the model decay function. In a good fit the residuals are distributed symmetrically around 0. IRF, instrument response function. doi:10.1371/journal.pone.0005716.g001 Figure 1. Differentiation of autofluorescence and the GFP signal in BRI1-GFP-expressing and wildtype Arabidopsis cells. (A–B) Wavelength-resolved fluorescence spectra from plasmalemma-cell wall sections of BRI1-GFP-expressing cells (green) and wildtype cells (black). The spectra were recorded in root, A, or cotyledon cells, B. The areas (50650 mm) used for recording are shown in the inlets. (C) In vivo decay trace of fluorescence lifetime from BRI1-GFP expressing hypocotyl cells fitted by a mono-exponential function (black line). The lifetime decay was measured at the peak of fluorescence intensity at 500 to 512 nm. (D) In vivo decay trace of autofluorescence lifetime in the plasmalemma-cell wall area of wildtype hypocotyl cells fitted by a mono-exponential function (black line). (E) In vivo decay trace of autofluorescence lifetime in the plasmalemma-cell wall area of wildtype hypocotyl cells fitted by a multi-exponential function (black line). The lifetime decay was measured at around 500 to 512 nm. The residuals indicate the deviation between the measured and the model decay function. In a good fit the residuals are distributed symmetrically around 0. IRF, instrument response function. Results Differentiation of GFP and fluorescence background Differentiation of GFP and fluorescence background doi:10.1371/journal.pone.0005716.g001 May 2009 | Volume 4 | Issue 5 | e5716 PLoS ONE | www.plosone.org 2 Subcellular Dynamics in Plants Figure 2. Dimensional appearance of periclinal and anticlinal cell walls in confocal and TEM images. (A) Fluorescence intensity curve recorded over a plasmalemmata-wall section of the periclinal wall of BRI1-GFP expressing Arabidopsis root cells. The full width at half maximum value (FWHM) of the Gaussian fitting revealed an apparent wall thickness of 425630 nm. (B) Fluorescence intensity curve recorded over a plasmalemmata- wall section of the anticlinal wall of the identical root cell described in A. The FWHM of the Gaussian fitting revealed an apparent wall thickness of 773633 nm. (C) Ultrathin TEM image of a tissue section cutting three different root cells. Two anticlinal and one periclinal cell walls (CW) are shown. CO, cortical cell; EP, epidermal cell; ER, endoplasmatic reticulum; EB, ER body; M, mitochondrium; V, vacuole. The arrow heads point to Golgi-derived vesicles. The bar represents 500 nm. doi:10.1371/journal.pone.0005716.g002 Figure 2. Dimensional appearance of periclinal and anticlinal cell walls in confocal and TEM images. (A) Fluorescence intensity curve recorded over a plasmalemmata-wall section of the periclinal wall of BRI1-GFP expressing Arabidopsis root cells. The full width at half maximum value (FWHM) of the Gaussian fitting revealed an apparent wall thickness of 425630 nm. (B) Fluorescence intensity curve recorded over a plasmalemmata- wall section of the anticlinal wall of the identical root cell described in A. The FWHM of the Gaussian fitting revealed an apparent wall thickness of 773633 nm. (C) Ultrathin TEM image of a tissue section cutting three different root cells. Two anticlinal and one periclinal cell walls (CW) are shown. CO, cortical cell; EP, epidermal cell; ER, endoplasmatic reticulum; EB, ER body; M, mitochondrium; V, vacuole. The arrow heads point to Golgi-derived vesicles. The bar represents 500 nm. doi:10.1371/journal.pone.0005716.g002 and 512 nm of BRI1-GFP expressing hypocotyl cells (Fig. 1B), the lifetime was characterized by a mono-exponential decay (Fig. 1C) typical for GFP (Figure S1) [26–27]. In contrast, the background autofluorescence, which was recorded at the identical wavelength range in wildtype hypocotyl cells, strongly deviated from the mono-exponential decay function (Fig. 1D). An acceptable fit to the experimental data with respect to the average lifetime and amplitude could only be achieved by a multi-exponential decay function (Fig. 1E, see Table S1 for additional information on the fitting parameters of all lifetime decay traces shown here). Differentiation of GFP and fluorescence background bordering a cell wall with a real thickness of 100 nm at a slant of 30u generates a FWHM value of around 730 nm (see Text S1 for calculation). Thus, the prevailing larger FWHM values of the anticlinal cell wall measurements can be explained by their higher bending probability which results in higher slanting effects in the focus of the confocal microscope. Therefore, for an accurate determination of small changes in the expansion of plasmamem- brane-cell wall areas, the selected section has to be kept in tight focus during the entire analysis, which is enabled by our experimental CSSM setup. In addition, the differences of GFP and background fluores- cence with respect to their spectra and fluorescence lifetime enabled us to choose the appropriate experimental set-up for the distinction of subcellular compartments such as the plasmalemma and the cell wall (Fig. 3). Thus, we used the emission range at around 500 nm for recording GFP fluorescence and the range at around 600 nm for recording cell wall autofluorescence (hatched bars in Fig. 3A). Furthermore, we were faced with the problem that the cell wall in the CSSM images appeared to be much thicker than when it was determined by transmission electron microscopy (TEM) (Fig. 2). However, one has to take into account the non-point- shaped dimension of the confocal laser beam focus. When this is considered, the measured full width at half maximum (FWHM) values of the Gaussian fits of the fluorescence intensity distribution of 425 nm for the periclinal cell wall (Fig. 2A) and 774 nm for the anticlinal cell wall (Fig. 2B) reflect a thickness of 83 nm and 432 nm, respectively (see Text S1 for calculation). The values of the periclinal cell walls are, therefore, consistent with those determined by TEM (about 45 to 100 nm; Fig. 2C; Table S5). The width of the anticlinal walls detected by our fluorescence intensity approach was still too large to correspond to our TEM measurements. However, to understand the values determined for the longer anticlinal walls, one has to take into account that a cell wall slanted to a few degrees appears to have a higher CSSM- measured thickness. For instance, imaging cell membranes Rapid BL-induced cell wall expansion in vivo We next addressed the problem of real-time measurement of possible physiological effects of BRI1-GFP at subcellular level in living plant cells. Former studies have shown that BL does not alter the fluorescence intensity, the number of vesicles in the endosomal pool and the intracellular distribution of BRI1-GFP in root cells [22]. This is in agreement with our observations (Fig. 4A to C, Fig. 5 and data not shown). However, the local fluorescence intensity of BRI1-GFP as a function of BL, time and a defined PLoS ONE | www.p PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 3 Subcellular Dynamics in Plants Figure 3. Measurement ranges for comparison between GFP-fluorescence and cell wall-derived autofluorescence. (A) Overlap of the fluorescence spectrum of purified GFP in water (green) and the autofluorescence spectrum (blue) of wildtype Arabidopsis hypocotyl cells. The broad band of the spectrum (500–640 nm, blue) originates from the cell wall, the sharp peak at 680 nm originates from chlorophyll. The grey hatched areas show the spectral ranges used for recording GFP-fluorescence (around 500 nm) and autofluorescence, respectively (around 600 nm). (B) Fluorescence decay trace recorded in the 500 nm region (left hatched bar in A) in a BRI1-GFP expressing hypocotyl cell, fitted by a mono-exponential function (black line), proves the main presence of GFP-fluorescence. (C) Fluorescence decay trace recorded in the 600 nm region (right hatched bar in A) in a BRI1-GFP expressing hypocotyl cell, fitted by a mono-exponential function (black line), proves the dominant presence of autofluorescence. IRF, instrument response function. doi:10.1371/journal.pone.0005716.g003 Figure 3. Measurement ranges for comparison between GFP-fluorescence and cell wall-derived autofluorescence. (A) Overlap of the fluorescence spectrum of purified GFP in water (green) and the autofluorescence spectrum (blue) of wildtype Arabidopsis hypocotyl cells. The broad band of the spectrum (500–640 nm, blue) originates from the cell wall, the sharp peak at 680 nm originates from chlorophyll. The grey hatched areas show the spectral ranges used for recording GFP-fluorescence (around 500 nm) and autofluorescence, respectively (around 600 nm). (B) Fluorescence decay trace recorded in the 500 nm region (left hatched bar in A) in a BRI1-GFP expressing hypocotyl cell, fitted by a mono-exponential function (black line), proves the main presence of GFP-fluorescence. PLoS ONE | www.plosone.org Rapid BL-induced cell wall expansion in vivo (A–C) Fluorescence intensity images and the corresponding profiles (Gaussian fits including FWHM values) of root tip cells recorded over the subcellular section indicated by the white line (representing 5 mm) shown in the confocal image inlets before (0 min) A, 15 min, B, and 30 min, C, after addition of 10 nM BL. (D) Combined Gaussian fits of the intensity profiles shown in A–C. (E–F) Fluorescence intensity profiles recorded over a 5 mm section of the plasmalemmata-cell wall area of two neighbouring hypocotyl cells before, E, and 30 min after application of 10 nM BL, F. For the determination of the FWHM error see Material and Methods. For the statistical analysis of the BRI1-GFP fluorescence measurements see Table S2. doi:10.1371/journal.pone.0005716.g004 Figure 4. BL-induced expansion of the GFP fluorescence in BRI1-GFP expressing root tips and hypocotyl cells. (A–C) Fluorescence intensity images and the corresponding profiles (Gaussian fits including FWHM values) of root tip cells recorded over the subcellular section indicated by the white line (representing 5 mm) shown in the confocal image inlets before (0 min) A, 15 min, B, and 30 min, C, after addition of 10 nM BL. (D) Combined Gaussian fits of the intensity profiles shown in A–C. (E–F) Fluorescence intensity profiles recorded over a 5 mm section of the plasmalemmata-cell wall area of two neighbouring hypocotyl cells before, E, and 30 min after application of 10 nM BL, F. For the determination of the FWHM error see Material and Methods. For the statistical analysis of the BRI1-GFP fluorescence measurements see Table S2. doi:10.1371/journal.pone.0005716.g004 A BL-induced expansion of cell wall by 49629% (n = 15, p = 0,0131) was also observed when the BRI1-GFP expressing seedlings were stained with the cell wall-staining dye Calcofluor (Fig. 6B, see Table S4 for the single measurement values). difficulties with respect to the TEM measurements). In addition, our data showed that the cellular structures including the plasmalem- mata and cell walls were normal in BL-treated as well as in untreated cells (Figs. 2 and 7). Furthermore, there was no detachment of the plasmalemmata from the cell wall in response to BL treatment (Fig. 7). The latter observation excludes a possible plasmolytic cause for the BL-induced expansion in the BRI1-GFP signal. g g We also carried out a TEM analysis of control and BL-treated (30 min) root cells. Rapid BL-induced cell wall expansion in vivo (C) Fluorescence decay trace recorded in the 600 nm region (right hatched bar in A) in a BRI1-GFP expressing hypocotyl cell, fitted by a mono-exponential function (black line), proves the dominant presence of autofluorescence. IRF, instrument response function. doi:10.1371/journal.pone.0005716.g003 individual cells (Fig. 5). The Gaussian fitting of the GFP intensity profiles of more than 30 independent sections measured in several individual cells from 5 seedlings revealed that the fluorescence signals expanded around 34622% (n = 31, p = 0,0003) in response to BL treatment (see Table S2 for the single measurement values). The spatial separation of the plasmalemmata could have been caused by BL-induced plasmolysis or BL-induced cell wall expansion. Therefore, we determined the spatial behavior of the cell wall in response to BL treatment in BRI1-GFP-expressing seedlings. The measurement of fluorescence from different subcellular origins was possible as demonstrated before (Fig. 3). The cell wall autofluorescence expanded around 41624% (n = 29, p = 0,0145) after brassinolide treatment coincidentally with the separation of the plasmalemmata in the analysed cells (see Table S3 for the single measurement values and Fig. 6A as an example). subcellular area was not yet studied. We therefore, recorded fluorescence intensity profiles over selected plasmalemmata-cell wall sections before and after treating the cells for 15 to 30 min with 10 nM BL. The intensity profiles enabled us to discriminate between the fluorescence signal of the proper plasmalemmata-cell wall section and membrane vesicles, which budded from the plasmalemmata during the incubation time. As shown in Fig. 4A– D and Fig. 5, the treatment of seedlings with BL induced an expansion of the BRI1-GFP signal in the plasmalemma-cell wall section of the root cells within 30 min. This response was also observed in hypocotyl cells, where BL induced an expansion of the BRI1-GFP signal of two neighboring cells, so that the plasma- lemmata became optically distinguishable (Fig. 4E and F). The degree of expansion did not only depend on the cell type but also on the position of the measured section along the cell wall of PLoS ONE | www.plosone.org PLoS ONE | www PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 4 Subcellular Dynamics in Plants Figure 4. BL-induced expansion of the GFP fluorescence in BRI1-GFP expressing root tips and hypocotyl cells. Rapid BL-induced cell wall expansion in vivo Root tips from two seedlings of each were frozen under high pressure, freeze-substituted in osmium tetroxide containing acetone, embedded in epoxy resin, cut and subjected to TEM. Using the TEM images, the width of 72 periclinal cell walls of each was measured, and the mean width calculated. The measurements resulted in a wall width of 62,5610,8 nm for the control and 64,9610,1 nm for BL-treated root tip cells (Fig. 7; see Table S 5 for the single measurement values). Thus, a statistically significant difference with high confidence between BL-treated and mock-treated seedlings (p = 0,0845) could not be observed by using TEM. We realized, however, that the variation of the wall width between individual cells and within an individual cell was high and ranged from 47 to 88 nm in the mock-treated and from 49 to 94 nm in the BL-treated root tips (Table S 5; see Discussion for the set of To determine the specificity of the response, we carried out identical experiments on seedlings, expressing plasmalemma- located aquaporin-GFP [28] and wildtype seedlings. Our experiments revealed a slight BL-induced separation of adjacent GFP signals by 1068% (see Table S6 for statistics and single measurement values; Fig. 8A–F) in aquaporin-GFP expressing seedlings and a slight expansion of the cell wall autofluorescence by 18616% in wild type seedlings (see Table S7 for statistics and single measurement values) without general statistical significance. We obtained similar results, when Calcofluor-stained cell walls or the autofluorescence of the cell walls in aquaporin-GFP-expressing cells were measured (Fig. 8G–H; data not shown). PLoS ONE | w May 2009 | Volume 4 | Issue 5 | e5716 May 2009 | Volume 4 | Issue 5 | e5716 PLoS ONE | www.plosone.org 5 Subcellular Dynamics in Plants Figure 5. BL-induced expansion of the GFP fluorescence signal in BRI1-GFP expressing root tip cells. (A) Confocal image of root tip tissue before (left) and 30 min after addition of 10 nM BL (right). Fluorescence intensity curves were recorded over the plasmalemmata-cell wall sections indicated by the white, alphabetically numbered lines and the FWHM values of their Gaussian fits calculated before and 30 min after addition of BL. (B–J) FWHM values of the plasmalemmata-cell wall sections indicated in A before (0 min) and 30 min after addition of 10 nM BL. For the determination of the FWHM error in B to J see Material and Methods. Rapid BL-induced cell wall expansion in vivo For the statistical analysis of the BRI1-GFP fluorescence measurements see Table S2. doi:10.1371/journal.pone.0005716.g005 Figure 5. BL-induced expansion of the GFP fluorescence signal in BRI1-GFP expressing root tip cells. (A) Confocal image of root tip tissue before (left) and 30 min after addition of 10 nM BL (right). Fluorescence intensity curves were recorded over the plasmalemmata-cell wall sections indicated by the white, alphabetically numbered lines and the FWHM values of their Gaussian fits calculated before and 30 min after addition of BL. (B–J) FWHM values of the plasmalemmata-cell wall sections indicated in A before (0 min) and 30 min after addition of 10 nM BL. For the determination of the FWHM error in B to J see Material and Methods. For the statistical analysis of the BRI1-GFP fluorescence measurements see Table S2. doi:10.1371/journal.pone.0005716.g005 areas adjacent to the plasmalemma region remained largely unchanged (Fig. 10B). By the spatial extension of our measure- ments, BL-induced changes in BRI1-GFP lifetime were not only observed in sections over the plasmalemma-wall areas but also over larger cell areas (Fig. 10C). Significant changes in GFP fluorescence lifetime were never measured after mock-treatment of the BRI1-GFP line or in the BL-treated aquaporin-GFP expressing cells (Fig. 10D and E; data not shown). Monitoring the environment of plasmalemma-bound GFP fusion proteins in vivo The lifetime of GFP fluorescence provides information about the physical and chemical environment of the fluorophore and, thus, the GFP fusion protein [29–30]. In addition to fluorescence intensity, we recorded GFP fluorescence lifetime decay traces across plasmalemmata-cell wall sections in hypocotyl cells of aquaporin-GFP and BRI1-GFP expressing seedlings at up to 200 nm intervals. The measurements were based on a different but sufficient number of fluorescence counts (Table S1), which is reflected in the error calculation [31]. We observed significant differences in GFP fluorescence lifetime across plasmalemma-cell wall sections and regularly also between adjacent cells for both aquaporin-GFP and BRI1-GFP (Fig. 9A and B). A detailed subcellular analysis revealed that the most significant differences in BRI1-GFP lifetime existed within the cell between the cytoplasm, plasmalemma and cell wall (Fig. 9C). PLoS ONE | www.plosone.org BR-induced responses are cell physiological processes BR-induced responses are cell physiological processes Recent studies suggested that the endosomal pool of BRI1 is critical for the signaling and regulation of BL-responsive genes in Arabidopsis as shown by treatment with Brefeldin A (BFA) [22–23]. BFA inhibits the function of ARF-GTPases by interacting with their associated GEFs and, thus, has strong effects on the integrity of subcellular compartments and the endosomal vesicle pool by inhibiting intracellular trafficking pathways [32–33]. We, there- fore, addressed the question whether BFA treatment also interferes with BL-induced cell wall expansion and BRI-GFP fluorescence lifetime. In the presence of the inhibitor BFA compartments appeared and both processes were strongly inhibited, suggesting that an intact intracellular trafficking system is required for their execution (Fig. 11 and Figure S3). To determine whether BL also induces changes in the environment of BRI1-GFP, we analysed the fluorescence lifetime of the receptor fusion. After the addition of BL, we again observed cell wall expansion (Fig. 10A). Furthermore, BRI1-GFP fluores- cence lifetime at the plasmalemmata strongly decreased within 20 min of BL addition and then remained constant (Fig. 10B, C; Figure S2). In contrast, fluorescence lifetime in the subcellular PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 6 Subcellular Dynamics in Plants Figure 6. BL-induced expansion of the cell wall in BRI1-GFP expressing hypocotyl cells. (A) FWHM values of the anticlinal wall autofluorescence from hypocotyl cells recorded over the subcellular section indicated by the white line (10 mm) shown in the confocal image inlet at 0 min and 30 min after addition of 10 nM BL. (B) FWHM values of Calcofluor-stained anticlinal wall from hypocotyl cells recorded over the subcellular section indicated by the white line (11 mm) shown in the confocal image inlet at 0, 15 and 30 min after addition of 10 nM BL. For the determination of the FWHM error in A and B see Material and Methods. For the statistical analysis of the cell wall autofluorescence and Calcofluor fluorescence measurements see Tables S3 and S4. background fluorescence at the excitation wavelength of 473 nm originates from different components inside the cell wall, which have different excited-state lifetimes. Thus, the combination of wavelength- and time-resolved fluorescence spectroscopy enables us to distinguish unambiguously between a specific signal and background fluorescence in a cell type-specific manner, dispensing with the use of additional fluorescent dyes, which might interfere with cellular processes. Specific GFP versus unspecific compartment fluorescence As shown in Figure 1, there is a significant, cell-type specific background fluorescence signal which mainly derives from the wall of the plant cell. This unspecific background fluorescence can be differentiated from the GFP signal by its spectra and also by its characteristic fluorescence decay pattern. Whereas GFP fluores- cence shows a prototypical monoexponential decay function, background fluorescence can only be described by a multi- exponential decay function. This suggests that the unspecific BR-induced responses are cell physiological processes These differences in lifetime also allowed us to establish a procedure for the efficient background correction and, thus, the improvement of the signal-to-background ratio in living plant cells (patent application no. 10 2009 005 953 from 19.01.09; F. Schleifenbaum, K. Elgass, M. Sackrow, K. Caesar, K. Berendzen, K. Harter, A. Meixner, manuscript in preparation) Measurement of cell wall extension at subcellular resolution BL-induced expansion of the cell wall in BRI1-GFP expressing hypocotyl cells. (A) FWHM values of the anticlinal wall autofluorescence from hypocotyl cells recorded over the subcellular section indicated by the white line (10 mm) shown in the confocal image inlet at 0 min and 30 min after addition of 10 nM BL. (B) FWHM values of Calcofluor-stained anticlinal wall from hypocotyl cells recorded over the subcellular section indicated by the white line (11 mm) shown in the confocal image inlet at 0, 15 and 30 min after addition of 10 nM BL. For the determination of the FWHM error in A and B see Material and Methods. For the statistical analysis of the cell wall autofluorescence and Calcofluor fluorescence measurements see Tables S3 and S4. Figure 6. BL-induced expansion of the cell wall in BRI1-GFP expressing hypocotyl cells. (A) FWHM values of the anticlinal wall autofluorescence from hypocotyl cells recorded over the subcellular section indicated by the white line (10 mm) shown in the confocal image inlet at 0 min and 30 min after addition of 10 nM BL. (B) FWHM values of Calcofluor-stained anticlinal wall from hypocotyl cells recorded over the subcellular section indicated by the white line (11 mm) shown in the confocal image inlet at 0, 15 and 30 min after addition of 10 nM BL. For the determination of the FWHM error in A and B see Material and Methods. For the statistical analysis of the cell wall autofluorescence and Calcofluor fluorescence measurements see Tables S3 and S4. doi:10.1371/journal.pone.0005716.g006 Measurement of cell wall extension at subcellular resolution Our data demonstrate that the cell walls significantly expand within a few minutes of BL treatment in BRI1-GFP expressing cells. A slight expansion response was also observed in aquaporin- GFP expressing and wildtype seedlings which was without clear overall statistical significance. However, when determined at single cell level, almost every cell showed a BL-induced wall expansion. This suggests that BRI1-GFP is necessary for the rapid BL- induced expansion of the cell wall but its over-expression is required to produce a significant effect. A more detailed analysis of many cells from independent seedlings showed that there is a linear relationship between BRI1-GFP fluorescence intensity and the degree of cell wall expansion (K. Elgass, A. Meixner, K. Harter, unpublished). BL is known to alter the biophysical properties of the cell wall, such as its relaxation via BRI1-mediated transcriptional and post-transcriptional activation of cell wall- loosening enzymes [24,34]. However, such an early BL-responsive spatio-temporal and BL-dependent expansion has not yet been reported in the cell wall sections of living Arabidopsis cells. From the resolution point of view, it should, in principle, also be possible to determine cell wall expansions of the observed dimension by TEM. However, it is not technically possible to produce a series of TEM sections at the identical subcellular region before and after the addition of BL. Thus, different seedlings have to be used for the comparative physiological analysis using TEM. The set of difficulties is documented by our own TEM analysis, which demonstrates a high variability of cell wall thicknesses between individual cells and even individual periclinal walls. The high variability is probably due to the different age of the cells, which have different wall dimensions, and the difficulty to exactly localize the site of the measurement along the wall. For instance, the wall thickness at the edge of a cell is different form the width in the middle. In addition, although we used cryofixation and freeze-substitution for the preparation of the probes, we can not entirely exclude the possibility that this treatment may influence the water status and spatial dimension of the cell wall. On the one hand, we conclude that it is almost impossible to determine weak, dynamic changes in cell wall expansion using a TEM approach. On the other hand, these findings unequivocally demonstrate the potential of our approach for the analysis of the dynamics of subcellular processes in vivo. Figure 6. PLoS ONE | www.plosone.org Changes in the close environment of membrane-bound GFP fusion proteins The observed differences in BRI1-GFP and aquaporin-GFP fluorescence lifetime suggest strong gradients of physico-chemical parameters, such as membrane potential, pH-value, osmotic conditions and refraction index [30], within subcelluar compart- May 2009 | Volume 4 | Issue 5 | e5716 PLoS ONE | www.plosone.org 7 Subcellular Dynamics in Plants Figure 7. TEM images of ultrathin sections from different root cells of BRI1-GFP expressing seedlings. (A) Ultrathin section of a root cell from a seedling high-pressure frozen 30 min after the addition of 10 nM BL. (B) Ultrathin section of an independent root cell from a mock-treated, high-pressure frozen seedling. The cell walls of epidermal cells (upper cells) facing cortex cells (lower cell) are shown. PM, plasmalemma; CW, cell wall; PD, plasmadesmon. The bar represents 100 nm. For the statistical analysis of the cell wall measurements see Table S5. doi:10.1371/journal.pone.0005716.g007 Figure 7. TEM images of ultrathin sections from different root cells of BRI1-GFP expressing seedlings. (A) Ultrathin section of a root cell from a seedling high-pressure frozen 30 min after the addition of 10 nM BL. (B) Ultrathin section of an independent root cell from a mock-treated, high-pressure frozen seedling. The cell walls of epidermal cells (upper cells) facing cortex cells (lower cell) are shown. PM, plasmalemma; CW, cell wall; PD, plasmadesmon. The bar represents 100 nm. For the statistical analysis of the cell wall measurements see Table S5. doi:10.1371/journal.pone.0005716.g007 ments of a single cell and between adjacent cells. Thus, membrane-bound GFP fusion proteins have the potential to be highly sensitive probes for determining such parameters at sub- cellular resolution in vivo. Ongoing experiments are aimed at discovering which parameters may influence the fluorescence lifetime of BRI1-GFP, aquaporin-GFP and other fluorophore- tagged proteins in vivo. change in the fluorescence lifetime of BRI1-GFP might reflect a hormone-induced alteration in ion currents and membrane potential in Arabidopsis cells which depends on the presence of BRI1-GFP. The causal relationship between BL-induced BRI1- GFP activation, the change in BRI1-GFP fluorescence lifetime and cell wall expansion is currently under elucidation. Summary and concluding remarks After the addition of BL, we observed a significant change in the fluorescence lifetime of BRI1-GFP with time, which was not detected in BL-treated aquaporin-GFP expressing plants. These results can be interpreted to suggest that the activation of BRI1- GFP by BL could alter the physico-chemical properties of the plasmalemma or plasmalemma/cytoplasm interface, which do not affect the fluorescence lifetime of aquaporin-GFP. The observed changes would then be a cell physiological response initiated by BL-activated BRI1-GFP. This idea is substantiated by the fact that BFA inhibits the BL-induced change in BRI1-GFP fluorescence lifetime. As BL was shown to inhibit inwardly rectifying K+ currents in guard cell protoplasts of Vicia faba and to increase ATPase activity in Azuki bean epicotyls and maize roots, leading to proton extrusion [24,34–35], it is possible that the observed Compared to pure imaging techniques with ultra-high spatial resolution, such as STED [4–5], PALM [6] and STORM [7], our application of ocFLM in combination with wavelength-selective fluorescence microscopy and a novel method of data analysis allows the recording of the spectroscopic and fluorescence lifetime data of GFP fusion proteins in vivo, providing new information about their molecular properties, cell physiological function and subcellular environment. This enables the unambiguous identifi- cation and clear intracellular localisation of GFP fusion proteins in plant cells. Furthermore, ligand-induced physiological responses in plant cells and receptor dynamics at subcellular resolution can be quantitatively recorded. The use of autofluorescence as ‘‘native’’ fluorophore avoids the use of additional chromophors or the PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 May 2009 | Volume 4 | Issue 5 | e5716 8 Subcellular Dynamics in Plants Figure 8. BL-induced changes in the cell wall width of aquaporin-GFP expressing Arabidopsis cells. (A) Confocal image of root tip tissue before (left) and 30 min after addition of 10 nM BL (right). Fluorescence intensity curves were recorded over the plasmalemmata-cell wall sections indicated by the white, alphabetically numbered lines and the FWHM values of their Gaussian fits calculated. (B–F) FWHM values of the plasmalemmata-cell wall sections indicated in A before (0 min) and 30 min after addition of 10 nM BL. (G) FWHM values of Calcofluor-stained anticlinal wall from hypocotyl cells recorded over the subcellular section indicated by the white line (8 mm) shown in the confocal image inlet at 0, 15 and 30 min after addition of 10 nM brassinolide. Summary and concluding remarks (H) FWHM values of the anticlinal wall autofluorescence from hypocotyl cells recorded over the subcellular section indicated by the white line (5 mm) shown in the confocal image inlet at 0 min and 30 min after addition of 10 nM BL. For the determination of the FWHM error in B to H see Material and Methods. For the statistical analysis of the aquaporin-GFP fluorescence measurements see Table S6. doi:10.1371/journal.pone.0005716.g008 Figure 8. BL-induced changes in the cell wall width of aquaporin-GFP expressing Arabidopsis cells. (A) Confocal image of root tip tissue before (left) and 30 min after addition of 10 nM BL (right). Fluorescence intensity curves were recorded over the plasmalemmata-cell wall sections indicated by the white, alphabetically numbered lines and the FWHM values of their Gaussian fits calculated. (B–F) FWHM values of the plasmalemmata-cell wall sections indicated in A before (0 min) and 30 min after addition of 10 nM BL. (G) FWHM values of Calcofluor-stained anticlinal wall from hypocotyl cells recorded over the subcellular section indicated by the white line (8 mm) shown in the confocal image inlet at 0, 15 and 30 min after addition of 10 nM brassinolide. (H) FWHM values of the anticlinal wall autofluorescence from hypocotyl cells recorded over the subcellular section indicated by the white line (5 mm) shown in the confocal image inlet at 0 min and 30 min after addition of 10 nM BL. For the determination of the FWHM error in B to H see Material and Methods. For the statistical analysis of the aquaporin-GFP fluorescence measurements see Table S6. d i j l doi:10.1371/journal.pone.0005716.g008 excitation light and a high numerical aperture oil immersion objective (Zeiss Plan-Neofluar, 1006/1.30) [19–20]. The system was equipped with an avalanche photodiode (APD, SPCM-AQR- 14) as a spectrally integrating detector to record fluorescence intensity. Spectra were obtained by a spectrograph (Princeton Instruments Acton Spectra Pro 300i, 300 grid grating) coupled to a thermo-electric cooled CCD-camera (Roper Scientific). Lifetime decays were recorded using a time-correlated single-photon counting board (Timeharp 200, Picoquant) for data acquisition and the APD as a detector. Fluorescence intensity images were obtained by raster-scanning the sample and detecting emission intensity for every spot on the sampled area. Distinct spots were addressed to record the corresponding spectra. The pulsed 473 nm diode laser (Picoquant LDH-P-C470), operating at a repetition rate of 10 MHz served as source. Summary and concluding remarks The setup was equipped with a 480 nm long pass filter (Semrock Razor Edge LP02-473RU-25) to block back-scattered excitation light, with a 500 nm bandpass filter (Semrock BrightLine BL500/24) to detect GFP-fluorescence or with a 600 nm bandpass filter (Semrock BrightLine BL607/36) to detect autofluorescence. The lifetime data were recorded sequentially to invesitgate the emission lifetime of the GFP label and the autofluorescence background independently from each other. Acquisition time was 5 seconds per measurement. The pixel size is diffraction-limited and the distance between each measurement point was 250 nm. Processing of fluorescence intensity images was accomplished with the WSxM software (Nanotec Electronica) [36]. The intensity decay curves were deconvolved from the instrument expression of further markers which might interfere with the plant cell’s physiology. This is a marked advantage of our approach over STED, PALM and STORM. In addition, with an image acquisition time of approximately 3 h, PALM and STORM do not allow the fast recording of subcellular processes. We, therefore, propose that high resolution ocFLM combined with wavelength- selective fluorescence microscopy will not only lead to new experimental abilities in plants but also is a valuable novel tool for the accomplishment of cell biology in any cell system. Plant material and growth conditions Plant material and growth conditions BRI1-GFP [22] and aquaporin-GFP [28] expressing seedlings were grown for 5 days at 22uC and under a regime of 14 h light and 10 h darkness on agar containing 0.5 MS media. For measurements seedlings were carefully removed from the plates and transferred onto microscopic slides and covered with water. The BL solutions at the indicated concentrations and Calcofluor (1% w/v) were applied to side of the microscopic slide and allowed to diffuse to the seedling sample. For the response of the cell walls in presence of BFA, the seedlings were pre-incubated for 1 h in 50 mM BFA solution. Optical and spectroscopic measurements The measurements were performed with a homemade CSSM, based on a Zeiss Axiovert, and equipped with a pulsed 473 nm diode laser operating at a repetition rate of 10 MHz as source for PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 9 Subcellular Dynamics in Plants Figure 9. ocFLM of BRI1-GFP and aquaporin-GFP reveals gradients in their subcellular environment. (A) GFP fluorescence (filled squares) and the corresponding intensity profiles (open circles) recorded over 5.0 mm plasmalemma-cell wall sections of two hypocotyl cells from two independent BRI1-GFP expressing Arabidopsis seedlings. (B) GFP fluorescence lifetimes (filled squares) corresponding intensity profiles (open circles) recorded over 4.0 mm plasmalemma-cell wall sections of two different hypocotyl cells independent aquaporin-GFP expressing Arabidopsis seedlings. (C) GFP fluorescence lifetime (filled squares) and the corresponding intens (open circles) over a 6.0 mm plasmalemma-cell wall area of a hypocotyl cell from a BRI1-GFP expressing Arabidopsis seedling. The white l confocal image inlet shows the recorded section. For the calculation of the fluorescence lifetime values and error bars see Material and Additional BRI1-GFP and aquaporin-GFP fluorescence lifetime measurements are presented in Fig. 10D and E. Subcellular Dynamics Figure 9. ocFLM of BRI1-GFP and aquaporin-GFP reveals gradients in their subcellular environment. (A) GFP fluorescence lifetimes (filled squares) and the corresponding intensity profiles (open circles) recorded over 5.0 mm plasmalemma-cell wall sections of two different hypocotyl cells from two independent BRI1-GFP expressing Arabidopsis seedlings. (B) GFP fluorescence lifetimes (filled squares) and the corresponding intensity profiles (open circles) recorded over 4.0 mm plasmalemma-cell wall sections of two different hypocotyl cells from two independent aquaporin-GFP expressing Arabidopsis seedlings. (C) GFP fluorescence lifetime (filled squares) and the corresponding intensity profile (open circles) over a 6.0 mm plasmalemma-cell wall area of a hypocotyl cell from a BRI1-GFP expressing Arabidopsis seedling. The white line in the confocal image inlet shows the recorded section. For the calculation of the fluorescence lifetime values and error bars see Material and Methods. Additional BRI1-GFP and aquaporin-GFP fluorescence lifetime measurements are presented in Fig. 10D and E. doi:10.1371/journal.pone.0005716.g009 May 2009 | Volume 4 | Issue 5 | e5716 PLoS ONE | www.plosone.org 10 Subcellular Dynamics in Plants Figure 10. BL-induced cell wall expansion is paralleled by changes in the BRI1-GFP fluorescence lifetime. (A) BL-induced cell wall expansion of BRI1-GFP expressing hypocotyl cells from Arabidopsis seedlings before (black circles) and 30 min after (green circles) hormone application. Optical and spectroscopic measurements The fluorescence intensity was recorded over a 7.0 mm section as indicated by the white line in the confocal image inlet. (B) Fluorescence lifetimes of BRI1-GFP in the identical plasmalemma-cell wall section shown in A before (black squares), 10 (red squares), 20 (blue squares) and 30 min (green squares) after addition of 25 nM BL. The minima in the lifetime curves correspond to the maxima in the intensity profiles shown in A as indicated by the dashed lines. (C) Fluorescence lifetimes of BRI1-GFP in root tip cells 0 to 30 min after application of 25 nM BL. Lifetimes were obtained by integrating over all recorded pixels of the confocal image. (D) GFP fluorescence lifetime (filled squares) and the corresponding intensity profile (open circles) recorded over a 3.0 mm plasmalemma-cell wall section of a BRI1-GFP expressing hypocotyl cell before (black squares), 15 min (blue squares) and 30 min (green squares) after onset of mock treatment. (E) GFP fluorescence lifetime (filled squares) and the corresponding intensity profile (open circles) recorded over a 3.0 mm plasmalemma-cell wall section of an aquaporin-GFP expressing hypocotyl cell before (black squares) and 30 min (green squares) after application of 25 nM BL. For the calculation of the lifetime values and error bars see Material and Methods. The experiments in B and C were repeated three times using cells from three independent seedlings. Representative results are shown. The results of the additional BRI1-GFP lifetime measurements along plasmalemma-cell wall sections are presented in Figure S2. doi:10.1371/journal.pone.0005716.g010 Figure 10. BL-induced cell wall expansion is paralleled by changes in the BRI1-GFP fluorescence lifetime. (A) BL-induced cell wall expansion of BRI1-GFP expressing hypocotyl cells from Arabidopsis seedlings before (black circles) and 30 min after (green circles) hormone application. The fluorescence intensity was recorded over a 7.0 mm section as indicated by the white line in the confocal image inlet. (B) Fluorescence lifetimes of BRI1-GFP in the identical plasmalemma-cell wall section shown in A before (black squares), 10 (red squares), 20 (blue squares) and 30 min (green squares) after addition of 25 nM BL. The minima in the lifetime curves correspond to the maxima in the intensity profiles shown in A as indicated by the dashed lines. (C) Fluorescence lifetimes of BRI1-GFP in root tip cells 0 to 30 min after application of 25 nM BL. Lifetimes were obtained by integrating over all recorded pixels of the confocal image. Optical and spectroscopic measurements (D) GFP fluorescence lifetime (filled squares) and the corresponding intensity profile (open circles) recorded over a 3.0 mm plasmalemma-cell wall section of a BRI1-GFP expressing hypocotyl cell before (black squares), 15 min (blue squares) and 30 min (green squares) after onset of mock treatment. (E) GFP fluorescence lifetime (filled squares) and the corresponding intensity profile (open circles) recorded over a 3.0 mm plasmalemma-cell wall section of an aquaporin-GFP expressing hypocotyl cell before (black squares) and 30 min (green squares) after application of 25 nM BL. For the calculation of the lifetime values and error bars see Material and Methods. The experiments in B and C were repeated three times using cells from three independent seedlings. Representative results are shown. The results of the additional BRI1-GFP lifetime measurements along plasmalemma-cell wall sections are presented in Figure S2. doi:10.1371/journal.pone.0005716.g010 response function (IRF) measured without the long pass filter and then fitted by a mono- or multi-exponential decay function. 15 h, each) epoxy resin. The resin was allowed to polymerise for 2 days at 60uC. Ultrathin sections of the root tip samples were stained with 3% uranyl acetate in ethanol and lead citrate and viewed in a LEO 906 transmission electron microscope [37]. 72 walls derived from two independent, mock-treated BRI1-GFP expressing seed- lings and 72 walls derived from two independent, BL-treated BRI1- GFP expressing seedlings were measured. The cell physiological experiments (cell wall expansion, BRI1- GFP and aquaporin lifetime measurements) were repeated at least 3 times using independent seedling samples. Data analysis Seedlings were incubated in water or 10 nM brassinolide solution for 30 min at room temperature. Thereafter, root tips were high- pressure frozen and freeze-substituted in acetone containing 2.5% osmium tetroxide (60 h at 290uC, 8 h at 260uC and 8 h 235uC) before transfer for 60 min to 0uC [37]. Then, the root tips were washed five times with acetone followed by infiltration with 10% (4 h), 25% (12 h), 50% (12 h), 75% (12 h) and 100% (2 times for The standard deviations in the Gaussian fits of the intensity profiles, as represented by the error bars, reflect the accuracy of the fit and rest on the different signal-to-noise ratio of the measurements. The FWHM-based and TEM-based wall mea- surements of cells before/without and after treatment with BL were performed as indicated in the Tables S 2, S3, S4, S5, S6 and PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 11 Subcellular Dynamics in Plants Figure 11. BL-induced wall expansion and changes in BRI1-GFP fluorescence lifetime require a functional intracellular trafficking system. (A) FWHM values of GFP intensity profiles recorded over a 4.0 mm plasmalemmata-cell wall section of hypocotyl cells from BRI1-GFP expressing Arabidopsis seedlings in the presence of 50 mM BFA before (0 min) and 30 min after application of 10 nM BL. For the determination of the FWHM error see Material and Methods. (B) Fluorescence lifetimes of BRI1-GFP in the identical plasmalemma-cell wall section shown in A in the presence of 50 mM BFA before (black squares) and 30 min (green squares) after addition of 25 nM BL. For the calculation of the lifetime values and error see Material and Methods. (C) Confocal images of hypocotyl cells treated with 50 mM BFA. The BFA compartments are indicated by white arrows. The white bars represent 6 mm (left) and 10 mm (right). The experiments in A and B were repeated four times using cells from four independent seedlings. One representative result is presented. The results of additional measurements are shown in Figure S3. doi:10.1371/journal.pone.0005716.g011 Figure 11. BL-induced wall expansion and changes in BRI1-GFP fluorescence lifetime require a functional intracellular trafficking system. Data analysis (A) FWHM values of GFP intensity profiles recorded over a 4.0 mm plasmalemmata-cell wall section of hypocotyl cells from BRI1-GFP expressing Arabidopsis seedlings in the presence of 50 mM BFA before (0 min) and 30 min after application of 10 nM BL. For the determination of the FWHM error see Material and Methods. (B) Fluorescence lifetimes of BRI1-GFP in the identical plasmalemma-cell wall section shown in A in the presence of 50 mM BFA before (black squares) and 30 min (green squares) after addition of 25 nM BL. For the calculation of the lifetime values and error see Material and Methods. (C) Confocal images of hypocotyl cells treated with 50 mM BFA. The BFA compartments are indicated by white arrows. The white bars represent 6 mm (left) and 10 mm (right). The experiments in A and B were repeated four times using cells from four independent seedlings. One representative result is presented. The results of additional measurements are shown in Figure S3. doi:10.1371/journal.pone.0005716.g011 Figure S2 BL induces changes in the BRI1-GFP fluorescence lifetime in plant cells. (A–B) Fluorescence lifetimes of BRI1-GFP in 4.0 mm plasmalemma-cell wall sections of two hypocotyl cells from two independent seedlings (A, B) before (black squares) and 10 (red squares), 20 (blue squares) and 30 min (green squares) after addition of 25 nM BL. S7. For statistical evaluation, the data were analysed by one-sided t-test. The number of independent measurements (n), the p-values and the number of independent seedlings are given in the legends of the Tables S2, S3, S4, S5, S6 and S7 and in Results. The lifetime values derived from mono- or multi-exponential decay fittings. The error bars were calculated according to [31] taking into account the number of photons and the time resolution of the measurements. The BRI1-GFP and aquaporin-GFP fluorescence lifetime measurements were repeated at least three times using individual cells from at least three independent seedlings and representative results are shown. The results of the additional experiments are presented in the Figures S2 and S3. Found at: doi:10.1371/journal.pone.0005716.s002 (0.08 MB PDF) Figure S3 BL-induced cell wall expansion and change in BRI1- GFP fluorescence lifetime require a functional intracellular trafficking system. Data analysis (A–C) FWHM values of GFP intensity profiles (left) and fluorescence lifetime decays (right) recorded over plasmalemmata-cell wall sections of three hypocotyl cells (A, B, C) from three independent, BRI1-GFP expressing Arabidopsis seedlings in the presence of 50 mM BFA before (black) and 30 min (green) after application of 25 nm BL. Found at: doi:10.1371/journal.pone.0005716.s003 (0.15 MB PDF) PLoS ONE | www.plosone.org Supporting Information Text S1 Calculation of the width of plasmalemma-cell wall sections from apparent GFP fluorescence data (FWHM values). Text S1 Calculation of the width of plasmalemma-cell wall sections from apparent GFP fluorescence data (FWHM values). Found at: doi:10.1371/journal.pone.0005716.s011 (0.23 MB PDF) Found at: doi:10.1371/journal.pone.0005716.s007 (0.01 MB PDF) pp Found at: doi:10.1371/journal.pone.0005716.s011 (0.23 MB PDF) Table S5 Statistics of 72 periclinal cell wall width measurements, each, derived from ultrathin TEM sections of BRI-GFP expressing, high-pressure-frozen root cells, which were either mock-treated or treated for 30 min with 10 nM BL. Found at: doi:10.1371/journal.pone.0005716.s008 (0.01 MB PDF) Table S5 Statistics of 72 periclinal cell wall width measurements, each, derived from ultrathin TEM sections of BRI-GFP expressing, high-pressure-frozen root cells, which were either mock-treated or treated for 30 min with 10 nM BL. Acknowledgments We thank Felicity de-Courcy for proofreading the manuscript, N Geldner for seeds and K Schumacher for helpful suggestions. We thank Felicity de-Courcy for proofreading the manuscript, N Geldner for seeds and K Schumacher for helpful suggestions. Found at: doi:10.1371/journal.pone.0005716.s008 (0.01 MB PDF) References 19. Blum C, Stracke F, Becker S, Mu¨llen K, Meixner AJ (2001) Discrimination and Interpretation of Spectral Phenomena by Room-Temperature Single-Molecule Spectroscopy. J Phys Chem A 105: 6983–6990. 1. Hood L, Heath JR, Phelps ME, Lin B (2004) Systems biology and new technologies enable predictive and preventative medicine. Science 306: 640–643. 1. Hood L, Heath JR, Phelps ME, Lin B (2004) Systems biology and new technologies enable predictive and preventative medicine. Science 306: 640–643. 2. Liu ET (2005) Systems biology, integrative biology, predictive biology. Cell 121: 505–506. 20. Schleifenbaum F, Blum C, Elgass K, Subramanian V, Meixner AJ (2008) New insights into the photophysics of DsRed by multiparameter spectroscopy on single proteins. J Phys Chem B 112: 7669–7674. 3. Miyawaki A, Sawano A, Kogure T (2003) Ligthing up cells: labelling proteins with fluorophores. Nature Cell Biol 5: S1–7. g p J y 21. Wang Z-Y, Seto H, Fujioka S, Yoshida S, Chory J (2001) BRI1 is a critical component ofa plasmamembrane receptor forplantsteroids.Nature 410: 380–383. 4. Willig KI, Rizzoli SO, Westphal V, Jahn R, Hell SW (2006) STED microscopy reveals that synaptotagmin remains clustered after synaptic vesicle exocytosis. Nature 440: 935–939. 22. Geldner N, Hyman DL, Wang X, Schumacher K, Chory J (2007) Endosomal signaling of plant steroid receptor BRI1. Genes Develop 21: 1598–1602. 5. Westphal V, Rizzoli SO, Lauterbach MA, Kamin D, Jahn R, et al. (2008) Video-rate far-field optical nanoscopy dissects synaptic versicle movement. Science 320: 246–249. 23. Robert S, Chary SN, Drakakaki G, Li SD, Yang ZB, et al. (2008) Endosidin 1 defines a compartment involved in endocytosis of the brassinosteroid receptor BRI1 and the auxin transporters PIN2 and Aux1. Proc Natl Acad Sci U S A 105: 8464–8469. 6. Betzig E, Patterson GH, Sougrat R, Lindwasser OW, Olenych S, et al. (2006) Imaging intracellular fluorescent proteins at nanometer resolution. Science 313: 1642–1645. 24. Clouse SD (1998) Brassinosteroids: Essential Regulators of Plant Growth and Development. Annu Rev Plant Physiol Plant Mol Biol 49: 427–451. 7. Heinlein T, Biebricher A, Schlu¨ter P, Herten DP, Wolfram J, et al. (2005) High- resolution colocalization of single molecules within the resolution gap of far-field microscopy. Chem Phys Chem 6: 949–955. 25. Tsien RY (1998) The green fluorescent protein. Annu Rev Biochem 67: 509–544. 26. Lakowicz JR (1999) Principles of fluorescence spectroscopy. New York: Kluwer Academic. 8. Ries J, Schwille P (2008) New concepts for fluorescence correlation spectroscopy on membranes. Author Contributions Table S6 FWHM changes in the widening of the plasmalemma- bound GFP fluorescence signal in aquaporin-GFP expressing hypocotyl and root cells before (0 min) and 30 min after application of 10 nM BL (30 min.). Conceived and designed the experiments: KE FS YDS AM KH. Performed the experiments: KE KC YDS. Analyzed the data: KE KC FS YDS AM KH. Wrote the paper: KE AM KH. Supporting Information Figure S1 Reference fluorescence spectrum and lifetime decay rate of purified GFP. (A) Fluorescence spectrum of GFP at a concentration of 1025 M after pulse excitation with light of 473 nm. The spectrum shows a peak at 510 nm and a shoulder at 540 nm. (B) Fluorescence decay rate of GFP at a concentration of 1027 M in 20 mM TRIS (pH = 6.8) after pulse excitation with light of 473 nm. The decay shows a mono-exponential function. The residuals indicate the deviation between the measured and the model decay function. In a good fit the residuals are distributed symmetrically around 0. IRF, instrument response function. Found at: doi:10.1371/journal.pone.0005716.s001 (0.07 MB PDF) Table S1 Fitting parameters of lifetime decay traces. Found at: doi:10.1371/journal.pone.0005716.s004 (0.17 MB XLS) Table S2 FWHM changes in the widening of the plasmalemma- bound GFP fluorescence signal in BRI1-GFP expressing hypocotyl and root cells before (0 min) and 30 min after application of 10 nM BL (30 min.). Table S2 FWHM changes in the widening of the plasmalemma- bound GFP fluorescence signal in BRI1-GFP expressing hypocotyl and root cells before (0 min) and 30 min after application of 10 nM BL (30 min.). Found at: doi:10.1371/journal.pone.0005716.s001 (0.07 MB PDF) PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 12 Subcellular Dynamics in Plants Found at: doi:10.1371/journal.pone.0005716.s009 (0.01 MB PDF) Found at: doi:10.1371/journal.pone.0005716.s005 (0.01 MB PDF) Found at: doi:10.1371/journal.pone.0005716.s009 (0.01 MB PDF) Table S3 FWHM changes in the expansion of the cell wall autofluorescence in BRI1-GFP expressing hypocotyl and root cells before (0 min) and 30 min after application of 10 nM BL (30 min). Found at: doi:10.1371/journal.pone.0005716.s006 (0.01 MB PDF) Table S7 FWHM changes in the widening of the cell wall autofluorescence in wildtype hypocotyl and root cells before (0 min) and 30 min after application of 10 nM BL (30 min). Found at: doi:10.1371/journal.pone.0005716.s010 (0.01 MB PDF) Table S4 FWHM changes in the expansion of Calcofluor-stained cell walls in BRI1-GFP expressing hypocotyl and root cells before (0 min) and 30 min after application of 10 nM BL (30 min). Found at: doi:10.1371/journal.pone.0005716.s007 (0.01 MB PDF) Table S4 FWHM changes in the expansion of Calcofluor-stained cell walls in BRI1-GFP expressing hypocotyl and root cells before (0 min) and 30 min after application of 10 nM BL (30 min). References Phys Chem Chem Phys 10: 3487–3497. 27. Striker G, Subramaniam V, Seidel CAM, Volkmer A (1999) Photochromicity and fluorescence lifetimes of green fluorescent protein. J Phys Chem B 103: 8612–8617. 9. Vale RD (2008) Microscopes for Fluorimeters: The Era of Single Molecule Measurements. Cell 135: 779–785. 10. Fernandez-Suarez, Ting AY (2008) Fluorescent probes for super-resolution imaging in living cells. Nat Rev Mol Cell Biol 9 (12): 929–943. 28. Cutler SR, Ehrhardt DW, Griffitts JS, Somerville CR (2000) Random GFP: cDNA fusions enable visualization of subcellular structures in cells of Arabidopsis at a high frequency. Proc Natl Acad Sci U S A 97: 3718–3723. 11. Slaughter BD, Schwartz JW, Li R (2007) Mapping dynamic protein interactions in MAP kinase signaling using live-cell fluorescence fluctuation spectroscopy and imaging. Proc Natl Acad Sci USA 104: 20320–20325. at a high frequency. Proc Natl Acad Sci U S A 97: 3718–3723 29. Nakabayashi T, Wang HP, Kinjo M, Ohta N (2008) Application of fluorescence lifetime imaging of enhanced green fluorescent protein to intracellular pH measurements. Photochem Photobiol Sci 7: 668–670. 12. Slaughter BD, Huff JM, Wiegraebe W, Schwartz JW, Li R (2008) SAM domain- based protein oligomerization observed by live-cell fluorescence fluctuation spectroscopy. PLoS One 3 (4): e1931. 30. van Manen HJ, Verkuijlen P, Wittendorp P, Subramaniam V, van den Berg TK, et al. (2008) Refractive index sensing of green fluorescent proteins in living cells using fluorescence lifetime imaging microscopy. Biophysical J 94: L67–L69. p py ( ) 13. Maeder CI, Hink MA, Kinkhabwala A, Mayr R, Bastiaens PIH, et al. (2007) Spatial regulation of Fus3 MAP kinase activity through a reaction-diffusion mechanism in yeast pheromone signalling. Nature Cell Biol 9: 1319–1326. 31. Zander C, Sauer M, Drexhage KH, Ko DS, Schulz A, et al. (1996) Detection and characterization of single molecules in aqueous solution. Appl Phys B 63: 517–523. 14. Muto H, Kinjo M, Yamamoto KT (2009) Fluorescence cross-correlation spectroscopy of plant proteins. Methods Mol Biol 479: 203–215. 32. Anders N, Ju¨rgens G (2008) Large ARF guanine nucleotide exchange factors in membrane trafficking. Cell Mol Life Sci; doi: 10.1007/s00018-008-8227-7. 15. Hink MA, Shah K, Russinova E, de Vries SC, Visser AJWG (2008) Fluorescence fluctuation analysis of Arabidopsis thaliana somatic embryogenesis receptor-like kinase and brassinosteroid sensitive 1 receptor oligomerization. Biophysical J 94: 1052–1062. 33. Robinson DG, Jiang LW, Schumacher K (2008) The endosomal system of plants: Charting new and familiar territories. Plant Phys 147: 1482–1492. References plants: Charting new and familiar territories. Plant Phys 147: 1482– 34. Haubrick LL, Assmann SM (2006) Brassinosteroids and plant function: some clues, more puzzles. Plant Cell Environment 29 (3): 446–457. 16. Martini J, Schmied K, Palmisano R, Toensing K, Anselmetti D, et al. (2007) Multifocal two-photon laser scanning microscopy combined with photo- activatable GFP for in vivo monitoring of intracellular protein dynamics in real time. J Struct Biol 158: 401–409. 35. Haubrick LL, Torsethaugen G, Assmann SM (2006) Effect of brassinolide, alone and in concert with abscisic acid, on control of stomatal aperture and potassium currents of Vicia faba guard cell protoplasts. Physiol Plantarum 128: 134–143. 17. Li J, Wen JQ, Lease KA, Doke JT, Tax FE, et al. (2002) BAK1, an Arabidopsis LRR receptor-like protein kinase, interacts with BRI1 and modulates brassinosteroid signalling. Cell 110: 213–222. 36. Horcas I, Fernandez R, Gomez-Rodriguez JM, Colchero J, Gomez-Herrero J, et al. (2007) WSXM: A software for scanning probe microscopy and a tool for nanotechnology. Rev Sci Instrum 78: e013705. 18. Bo¨se G, Schwille P, Lamparter T (2004) The mobility of phytochrome within protonemal tip cells of the moss Ceratodon purpureus, monitored by fluorescence correlation spectroscopy. Biophys J 87 (3): 2013–2021. 37. Dettmer J, Hong-Hermesdorf A, Stierhof Y-D, Schumacher K (2006) Vacuolar H+-ATPase activity is required for endocytic and secretory trafficking in Arabidopsis. Plant Cell 18: 715–730. PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 May 2009 | Volume 4 | Issue 5 | e5716 13
https://openalex.org/W4384665939
https://www.frontiersin.org/articles/10.3389/fpsyt.2023.1213590/pdf
English
null
Case report: ADHD and prognosis in tyrosinemia type 1
Frontiers in psychiatry
2,023
cc-by
5,250
attention-deficit hyperactivity disorder, tyrosinemia type 1, treatment compliance, neurometabolic disorders, case report Helene Barone1, Irene Bircow Elgen2, Yngve Thomas Bliksrud3, Eirik Vangsøy Hansen4, Rita Rigmor Skavhellen2, Magne Ivar Furevik2 and Jan Haavik5,6* Helene Barone1, Irene Bircow Elgen2, Yngve Thomas Bliksrud3, Eirik Vangsøy Hansen4, Rita Rigmor Skavhellen2, Magne Ivar Furevik2 and Jan Haavik5,6* REVIEWED BY Harvey L. Levy, Boston Children’s Hospital and Harvard Medical School, United States Mara L. Cordeiro, Faculdades Pequeno Principe, Brazil 1Regional Resource Center for Autism, ADHD and Tourette Syndrome, Division of Psychiatry, Haukeland University Hospital, Bergen, Norway, 2Department of Child and Adolescent Psychiatry, Division of Psychiatry, Haukeland University Hospital, Bergen, Norway, 3Department of Medical Biochemistry, Oslo University Hospital, Oslo, Norway, 4Department of Pediatrics, Haukeland University Hospital, Bergen, Norway, 5Bergen Center of Brain Plasticity, Division of Psychiatry, Haukeland University Hospital, Bergen, Norway, 6Department of Biomedicine, University of Bergen, Bergen, Norway Neurometabolic disorders such as tyrosinemia type 1 (TYRSN1) may interfere with brain metabolism and show symptoms of attention-deficit hyperactivity disorder (ADHD) in patients treated with the enzyme inhibitor nitisinone [2-(2-nitro-4-trifluoromethylbenzoyl)-1,3-cyclohexanedione, NTBC]. It has been reported that ADHD treatment improves treatment compliance, which is imperative for the long-term prognosis of patients with TYRSN1. In this study, we report the case of a male patient who was diagnosed with TYRSN1 at 3 months of age and was subsequently treated with NTBC, restricted protein intake, and amino acids supplementation. At 7 years of age, he was referred for neuropsychiatric assessment, diagnosed with ADHD, and treated with methylphenidate. The efects of the treatment were monitored via parental interviews, questionnaires covering ADHD symptoms, and a continuous performance test. A reduction in ADHD symptoms, particularly inattentiveness, was observed across all measures. The early identification of ADHD and the treatment of neurometabolic disorders, such as TYRSN1, may be important from a lifetime perspective as this may improve the prognosis of the medical condition as well. COPYRIGHT © 2023 Barone, Elgen, Bliksrud, Vangsøy Hansen, Skavhellen, Furevik and Haavik. This is an open-access article distributed under the terms of the Creative Commons Attribution License (CC BY). The use, distribution or reproduction in other forums is permitted, provided the original author(s) and the copyright owner(s) are credited and that the original publication in this journal is cited, in accordance with accepted academic practice. No use, distribution or reproduction is permitted which does not comply with these terms. KEYWORDS Case report: ADHD and prognosis in tyrosinemia type 1 OPEN ACCESS EDITED BY Salman Zubedat, Technion Israel Institute of Technology, Israel REVIEWED BY Harvey L. Levy, Boston Children’s Hospital and Harvard Medical School, United States Mara L. Cordeiro, Faculdades Pequeno Principe, Brazil *CORRESPONDENCE Jan Haavik jan.haavik@uib.no RECEIVED 28 April 2023 ACCEPTED 26 June 2023 PUBLISHED 18 July 2023 CITATION Barone H, Elgen IB, Bliksrud YT, Vangsøy Hansen E, Skavhellen RR, Furevik MI and Haavik J (2023) Case report: ADHD and prognosis in tyrosinemia type 1. Front. Psychiatry 14:1213590. doi: 10.3389/fpsyt.2023.1213590 OPEN ACCESS OPEN ACCESS EDITED BY Salman Zubedat, Technion Israel Institute of Technology, Israel REVIEWED BY Harvey L. Levy, Boston Children’s Hospital and Harvard Medic School, United States Mara L. Cordeiro, Faculdades Pequeno Principe, Brazil *CORRESPONDENCE Jan Haavik jan.haavik@uib.no RECEIVED 28 April 2023 ACCEPTED 26 June 2023 PUBLISHED 18 July 2023 CITATION Barone H, Elgen IB, Bliksrud YT, Vangsøy Hansen E, Skavhellen RR, Furevik MI and Haavik J (2023) Case report: ADHD and prognosis in tyrosinemia type 1. Front. Psychiatry 14:1213590. doi: 10.3389/fpsyt.2023.1213590 EDITED BY Salman Zubedat, Technion Israel Institute of Technology, Israel TYPE Case Report PUBLISHED 18 July 2023 DOI 10.3389/fpsyt.2023.1213590 TYPE Case Report PUBLISHED 18 July 2023 DOI 10.3389/fpsyt.2023.1213590 Tyrosinemia type I Hereditary tyrosinemia type I [(TYRSN1), OMIM 276700] is an autosomal recessive aminoacidopathy whose global incidence is estimated to be 1 in 100–120,000 live births, and its incidence in Norway is ∼1 per 74,800 live births (1). TYRSN1 is caused by a deficiency in fumarylacetoacetase (FAH; E.C.3.7.1.2), the final enzyme involved in tyrosine degradation. Organ damage, including progressive liver disease with regeneration, cirrhosis, and secondary renal tubular dysfunction, occurs because the lack of functional FAH leads to the accumulation of toxic metabolites such as fumarylacetoacetate and succinylacetone. The disease’s clinical symptoms widely vary as the chronic form presents with hypophosphatemic rickets during adolescence, and the most acute form presents with severe liver failure just a few weeks after birth. Without treatment, these patients die of cirrhosis or hepatocellular carcinoma (HCC) at young ages. Frontiers in Psychiatry 01 frontiersin.org Barone et al. Barone et al. 10.3389/fpsyt.2023.1213590 µmol/L. Treatment was initiated with enzyme inhibitor/NTBC and dietary treatments such as restricted protein intake and adjusted amino acid supplements. During this treatment, the patient was recovered from liver failure. The plasma alpha-fetoprotein (AFP) level was initially >10,000 µg/L, but after a month, it was <1,000, and liver enzymes also gradually normalized. The plasma AFP level was within the normal range (<10 µg/L) after 2 years of treatment. The treatment consists of a regimen of the drug, nitisinone [2- (2-nitro-4-trifluoromethylbenzoyl)-1,3-cyclohexanedione, NTBC], and a protein-restricted diet. The drug inhibits tyrosine degradation at an earlier step, thus avoiding the production of carcinogenic metabolites; however, the levels of P-tyrosine remain elevated or even increase. This drug dramatically improves the prognosis of TYRSN1 patients (2). The demanding diet regime aims to improve the amino acid profile in the patient’s plasma to secure normal neurodevelopment. However, neurological and neuropsychological problems, including learning difficulties and symptoms of attention-deficit hyperactivity disorder (ADHD), have also been described among patients on a regimen of NTBC and dietary treatment (3–6), and treatment adherence in patients with TYRSN1 has been reported to be low (7). The patient and family managed the treatment well, and after the treatment, he showed normal physical development and plasma tyrosine levels ranging between 300 and 600 µmol/L in almost every blood test (Figure 1). The recommended plasma tyrosine concentration in T1 is 200–600 µmol/L (18). However, these treatment recommendations vary across different centers and countries, with upper tyrosine concentrations ranging between 400 and 600 µmol/L (19). Attention-deficit hyperactivity disorder ADHD is a neurodevelopmental disorder involving either hyperactivity/impulsivity, inattention, or both (8). It is one of the most common psychiatric disorders affecting ∼5% of children worldwide (9), and its symptoms may persist in adulthood (10). Impairment of executive functioning has been described as a core deficit in ADHD, including a broad range of cognitive “top-down” processes that enable a flexible and goal-directed behavior, such as planning (11). Psychiatric conditions and learning difficulties are more common in ADHD and vice versa. Furthermore, several other medical conditions are associated with ADHD (12–15). The symptoms of ADHD may be present in an even higher number of diseases than previously reported, including a range of neurometabolic Mendelian disorders that affect brain development and function, some of which involve alterations in dopamine synthesis (4, 16). Research suggests that the standard pharmacological treatment (methylphenidate) could reduce the symptoms of ADHD, e.g., in phenylketonuria and TYRSN1 (5, 17), which is reason to believe that ADHD symptom reduction improves compliance to the comprehensive treatment regimen associated with (neuro)metabolic disorders such as TYRSN1 and, thereby, their prognosis (5). In this study, we examined one patient with TYRSN1 and ADHD who underwent methylphenidate treatment. After 2 years of commencing treatment, at the age of 2 years and 3 months, the patient experienced seizure episodes, initially with shaking movements in the arms and legs, blue lips, and a lack of consciousness for 5 min. The first EEG appeared normal, but the episodes recurred; Later, EEG showed possible epileptic activity. Treatment with topiramate was initiated from 3 years of age. Later, the patient developed absence seizures, following which lamotrigine was successfully administered in response. Although his epilepsy was well-controlled, his motor and language skills developed more slowly from the age of 3–5 years. In kindergarten, he received permanent assistance because of his low social functioning. At the age of 7 years, he presented with a variety of problems, including academic challenges that required special support in school, and was referred to the Child and Adolescent Mental Health Service. He experienced problems with inattention, planning, and the organizing of activities. He also showed problems understanding information and expressing himself. Furthermore, he described himself as being anxious in new situations; he resorted to sitting under the table for ∼15 min in settings with several people. In addition, he often got into conflicts with other children during school breaks. Tyrosinemia type I At 3–5 years of age, plasma phenylalanine transiently dipped below the normal range but normalized after phenylalanine supplementation. Since the NTBC and dietary treatments were established, during check-ups, neither an indication of urinary succinylacetone nor an elevation of plasma AFP levels appeared in his samples. Frontiers in Psychiatry frontiersin.org Case report A boy who was born healthy at birth and developed normally during the first 2 months of his life became ill with a high fever after 3 months, which led to hospitalization. He was diagnosed with E. coli sepsis, and elevated levels of liver enzymes, C-reactive protein (CRP), and international normalized ratio (INR) were detected. Ultrasonography and CT scans confirmed ascites, splenomegaly, and hepatomegaly with nodular structures, signs of cirrhosis, and portal hypertension. The patient was hospitalized with liver failure, and TYRSN1 was suspected. The diagnosis was confirmed by the detection of increased urinary succinylacetone levels and disease- causing mutations in the FAH gene. Lab results also showed low plasma albumin, low phosphate, and elevated ammonia, 112 The diagnostic procedure for ADHD was performed according to the National Guidelines for ADHD published by the Norwegian Directorate of Health and the guidelines for ADHD treatment published by the Norwegian Medical Association. The diagnostic procedure was based on a thorough evaluation of the patient’s symptoms and functional impairments. The ADHD core symptoms (baseline and with treatment) were evaluated using the Clinician’s Manual for the Assessment of Disruptive Behavior Disorders Rating Scale for Parents/Teachers (20), which is an effective rating scale for assessing attention and hyperactivity symptoms. 02 frontiersin.org Barone et al. 10.3389/fpsyt.2023.1213590 FIGURE 1 Timeline of the patients clinical course. FIGURE 1 Timeline of the patients clinical course. recommended dosage of up to 2 mg/kg was initiated for a period of 3 weeks (10 mg × 3) and evaluated. To assess inattention, hyperactivity, and impulsivity before and after treatment, the QB test was administered (21). This continuous performance test assesses inattention and impulsivity combined with measures of motor activity and is designed to measure the core symptoms of ADHD. The test was administered on a PC and lasted ∼15 min. The participant was instructed to press a button when a circle is presented on the screen but not when there is a cross on the circle. The participant’s movements were recorded using an infrared camera that follows a reflective marker attached to a headband. The hyperactivity was measured on the basis of motor activity recorded by the camera. Impulsivity and inattention were, respectively, measured through commission errors and error rate or through reaction time and omission errors. See section Supplementary material for a brief description of the measures included in the QB test. Case report The study was approved by the Regional Committee for Medical Research Ethics of Western Norway (IRB 00001872). Both the parents and the boy signed an informed consent form and received information about what would be presented in the article, and they were also provided the manuscript for approval before submission. All procedures were performed in accordance with the Declaration of Helsinki (of 1975, as revised in 2000). Frontiers in Psychiatry Results A standard assessment of intellectual functioning was administered at the local psychological-educational service when he was 7 years of age. His intellectual functioning was below average, with the lowest score on the index measuring working memory and the highest measuring processing speed. There was no difference between verbal comprehension and perceptual reasoning. After ruling out other psychiatric disorders, it was concluded that he met the criteria for ADHD and specific phobia but no other diagnoses as per the K-SADS-PL-2009. The K-SADS-PL-2009 [Schedule for Affective Disorders and Schizophrenia for School-Aged Children (6–18 years)—Present and Lifetime (version 2009)] (22) is a semi-structured child and adolescent psychiatric diagnostic instrument used to ascertain psychiatric disorders according to the DSM-IV criteria. This was used to assess potential psychiatric comorbidities. Guidelines for the treatment of ADHD, as edited by the Norwegian Medical Association (NMA) (23) and the Norwegian National Guidelines for ADHD, as published by the Norwegian Directorate of Health, have suggested an integrated approach to the treatment of ADHD. This involves reducing the core symptoms, improving psychosocial functions, preventing the development of additional problems, and improving functioning in everyday life. A short-acting methylphenidate formulation that lasts 3–5 h at a The effect of methylphenidate was assessed after 3 weeks of treatment. The evaluation involved (1) clinical evaluations along with the mother, (2) parents’ and teacher’s reports on ADHD core symptoms, and (3) changes in inattention/hyperactivity (before and after treatment) measured using the QB test. His mother reported that their family had “got a new life.” She described him as more attentive, organized, and communicative. 03 frontiersin.org 10.3389/fpsyt.2023.1213590 Barone et al. Long-term functioning and treatment TABLE 1 Symptoms of ADHD in a boy with TYRSN1 before the start and after 3 weeks of treatment with methylphenidate. Barkley ADHD questionnaire Baseline Treatment Parents Inattention 8/9 0/9 Hyperactivity 6/9 1/9 Teacher Inattention 6/9 4/9 Hyperactivity 0/9 0/9 TABLE 2 Results from the QB test in an 8-year-old boy with TYRSN1 and ADHD before and after 3 weeks of treatment with methylphenidate. After the initial assessment, he continued with Concerta R⃝ (Janssen Pharmaceutica NV, Beerse, Belgium), the proprietary name for methylphenidate, 36 mg one capsule q.a.m. and 5–10 mg of short-acting methylphenidate, on demand, in the afternoon. At approximately the age of 10 years, he developed motor tics, problems with understanding, and expressing language became more prominent, and he experienced increasing problems with academic functioning. After 3 years of the first assessment, he was also diagnosed with chronic motor or vocal tic disorder, receptive language disorder, and a mixed disorder of scholastic skills. After 13 years of age, his symptoms of inattention increased, and the dosage of Concerta was successively increased to 54 mg q.a.m, which reduced the inattention problems. This was also when his body mass index (BMI) was in the normal range, which gradually decreased until his 15 years; thereafter, treatment with methylphenidate was discontinued at 15.5 years of age (Figure 1). As the ADHD symptoms increased after treatment discontinuation, it was planned to test other types of ADHD medications. At the age of 15 years, he still received support at school and thrived but felt different from the other pupils, being more aware of his challenges. See Figure 1 for a brief summary of the clinical course and interventions. QB test Motion Non- medicated (percentile) Medicated (percentile) Time active 96 90 Distance 92 79 Area 96 84 Microevent 95 86 Motion simplicity 88 90 Inattention Non- medicated (percentile) Medicated (percentile) Reaction time variability 99 66 Omission error 96 66 Reaction time 96 31 Normalized variance 99 82 Impulsivity Non- medicated (percentile) Medicated (percentile) Commission 98 92 Anticipatory 96 8 Multi-response 99 50 Error rate 98 79 Frontiers in Psychiatry Discussion Barone et al. 10.3389/fpsyt.2023.1213590 neurodevelopmental symptoms, especially when somatic conditions are present. Adolescents with ADHD have increased school dropout rates, substance abuse, and injuries such as motor vehicle crashes (29). Early identification and treatment, as in the present patient, may improve long-term social and educational outcomes (30). It is also a strong predictor for work participation as an adult, apparently independent of substance abuse, comorbidity, and current treatment (31). ADHD also probably affects treatment adherence in somatic diseases. For example, poor treatment adherence has been observed in adolescents with undiagnosed ADHD and type 1 diabetes (32). Nylander and Fernell (33) have emphasized the importance of screening for ADHD when type 1 diabetes is diagnosed and to perform repeated screening, especially in patients with poor metabolic control. It has been suggested that all children with neurometabolic disorders should be screened for comorbid ADHD and other neuropsychiatric disorders, especially in their first decade of life, with an in-depth assessment if the screening is positive. Adequate ADHD treatment targeting inattention and impulsivity may improve self-control and, thereby, the long-term outcomes of the neurometabolic disorder itself (4). This is supported by research suggesting that methylphenidate reduces the difficulties of executive functioning in ADHD (34) and thereby probably improves treatment compliance of the somatic condition. In the case presented here, it was observed that the stimulant treatment also improved adherence to TYRSN1 treatment. Conclusion The lifestyle that sometimes accompanies untreated ADHD may be especially harmful to individuals dependent on following strict treatment regimens for their medical conditions. Early identification of ADHD and treatment of medical conditions such as TYRSN1 is important from a lifetime perspective as this may also improve the prognosis of the medical condition itself. Clinicians working both in somatic and psychiatric wards should therefore be aware of the association between ADHD symptoms in tyrosinemia type 1 and other neurometabolic conditions. The term “diagnostic overshadowing” has been used to describe the underdiagnosis of comorbid psychiatric conditions in severe somatic diseases. For example, one study reported that ADHD was overshadowed by neurological disorders in 71.8% of the cases (35). Interestingly, interventions targeting medical conditions can also mask ADHD symptoms. For the boy described in the present article, the teacher reported no symptoms of hyperactivity (Table 1). However, he appeared clearly hyperactive when tested despite the highly structured situation of the QB test (Table 2). Owing to his medical condition, he was permanently attended to by an assistant at school, which may explain the low rate of hyperactivity observed by his teacher. Many children with severe medical conditions may receive such support, which, paradoxically, may hinder the early identification and treatment of ADHD. In addition, psychiatric symptoms might be also explained by hospitalization and stress related to the somatic condition. Cannon Homaei et al. (4) argued that the possible underreporting of comorbid ADHD may be especially harmful to individuals with neurometabolic conditions, as they are particularly dependent on cognitive functions that are compromised by their ADHD symptoms. Furthermore, they suggested that symptoms even below the conventional threshold for a diagnosis of ADHD could cause significant problems with treatment adherence and also that patients below the diagnostic threshold may need extra help to follow the strict treatment regimen associated with these diseases. Ethics statement The studies involving human participants were reviewed and approved by Regional Committee for Medical Research Ethics of Western Norway (IRB 00001872). Written informed consent to participate in this study was provided by the participants’ legal guardian/next of kin. Written informed consent was obtained from the minor(s)’ legal guardian/next of kin for the publication of any potentially identifiable images or data included in this article. Written informed consent was obtained from the participants/next of kin for the publication of this case report. This case also illustrates the complexity that often characterizes patients with neurodevelopmental disorders. The trajectory of diffuse problems early in life and the successive fulfillment of the criteria for different diagnoses has also been described as typical by Gillberg (36). This phenomenon highlights the importance of repeated screening and assessment of children with early Data availability statement The original contributions presented in the study are included in the article/Supplementary material, further inquiries can be directed to the corresponding author. Frontiers in Psychiatry Strengths and limitations This case highlights the importance of identifying the symptoms of ADHD in neurometabolic disorders and the risk of diagnostic overshadowing in such complex cases. Gathering more data on the possible relationship between ADHD and neurometabolic disorders could also provide deeper insights into the etiology of ADHD and improve the patient’s clinical management (5). However, the mechanisms leading to cognitive deficits in treated TYRSN1 patients may be multifactorial; for instance, it is debated if severe liver failure in TYRSN1 leads to cognitive deficits (3). In the present case, the patient was also diagnosed with epilepsy, which may have contributed to the symptoms of ADHD. Discussion An 8-year-old boy with TYRSN1 was evaluated at the Department of Child and Adolescent Psychiatry for several neuropsychiatric symptoms, including ADHD. He was treated with methylphenidate, which had an effective response, as informed by himself, his parents, and his teacher, in addition to scores on the continuous performance test. The largest effect was observed for the symptoms of inattention. This treatment was conducted in accordance with previous findings indicating that TYRSN1 is associated with symptoms of inattention (24) and cognitive impairment (25). We recently observed a strong correlation between the symptoms of inattention and the recent and long-term plasma tyrosine levels of patients with TYRSN1-receiving nitisinone (5). It is possible that the reported inattention and cognitive impairments are related to suboptimal metabolic control (25). In contrast to former beliefs that the high levels of plasma tyrosine found in treated patients with TYRSN1 would increase dopamine synthesis in the brain (6), it is possible that the high level of tyrosine might inhibit the production of dopamine and norepinephrine within brain tissues (5). Decreased dopamine activity in the frontal cortex is postulated to be a biological mechanism of ADHD (26) and is also found in phenylketonuria, a more frequent and better-investigated neurometabolic disorder with a high prevalence of comorbid ADHD (27, 28). Shared biological mechanisms between TYRSN1 and ADHD might also explain the increased prevalence of ADHD symptoms in patients with TYRSN1. Central stimulants, the most common treatment for ADHD, work by inhibiting the synaptic noradrenaline and dopamine transporters, thereby increasing the concentration of these catecholamines in the synapses. He also exhibited less anxiety in novel situations. In school, his learning capacity increased (reported after 6 months), and no adverse effects were observed. Parents and the teacher reported improvements in the core symptoms of ADHD, mostly regarding attention on the Barkley ADHD questionnaire (Table 1). However, these reduced hyperactivity symptoms were reported only by the family but not by the teacher. The results of the continuous performance test (in percentiles) for the different measures of the QB test are presented in Table 2. All but one measure showed improvements in performance. This effect was most prominent for inattention measures, especially reaction time. The highest reduction for any measure was observed for the anticipatory measure within the impulsivity scale. This means that the number of guesses (responses registered immediately before or following a stimulus) was substantially reduced. 04 frontiersin.org Barone et al. References 1. Bliksrud YT, Brodtkorb E, Backe PH, Woldseth B, Rootwelt H. Hereditary tyrosinaemia type I in Norway: incidence and three novel small deletions in the fumarylacetoacetase gene. Scand J Clin Lab Invest. (2012) 72:369– 73. doi: 10.3109/00365513.2012.676210 1. Bliksrud YT, Brodtkorb E, Backe PH, Woldseth B, Rootwelt H. Hereditary tyrosinaemia type I in Norway: incidence and three novel small deletions in the fumarylacetoacetase gene. Scand J Clin Lab Invest. (2012) 72:369– 73. doi: 10.3109/00365513.2012.676210 treatment in patients with systemic lupus erythematosus. Arthritis Rheum. (2013) 65:1313–8. doi: 10.1002/art.37893 14. Du Rietz E, Brikell I, Butwicka A, Leone M, Chang Z, Cortese S, et al. Mapping phenotypic and aetiological associations between ADHD and physical conditions in adulthood in Sweden: a genetically informed register study. Lancet Psychiatry. (2021) 8:774–83. doi: 10.1016/S2215-0366(21)00171-1 2. Mitchell G. The online metabolic and molecular bases of inherited disease. In: DV, editor, The Online Metabolic and Molecular Bases of Inherited Disease. New York, NY: McGraw-Hill Medical (2015). 15. Instanes JT, Klungsoyr K, Halmoy A, Fasmer OB, Haavik J. Adult ADHD and comorbid somatic disease: a systematic literature review. J Atten Disord. (2018) 22:203–28. doi: 10.1177/1087054716669589 3. Masurel-Paulet A, Poggi-Bach J, Rolland MO, Bernard O, Guffon N, Dobbelaere D, et al. NTBC treatment in tyrosinaemia type I: long-term outcome in French patients. J Inherit Metab Dis. (2008) 31:81–7. doi: 10.1007/s10545-008-0793-1 16. Haavik J. Genome guided personalized drug therapy in attention deficit hyperactivity disorder. Front Psychiatry. (2022) 13:925442. doi: 10.3389/fpsyt.2022.92 5442 4. Cannon Homaei S, Barone H, Kleppe R, Betari N, Reif A, Haavik J, et al. symptoms in neurometabolic diseases: underlying mechanisms and clinical implications. Neurosci Biobehav Rev. (2022) 132:838–56. doi: 10.1016/j.neubiorev.2021.11.012 17. Arnold GL, Vladutiu CJ, Orlowski CC, Blakely EM, DeLuca J. Prevalence of stimulant use for attentional dysfunction in children with phenylketonuria. J Inherit Metab Dis. (2004) 27:137–43. doi: 10.1023/B:BOLI.0000028725.37 345.62 5. Barone H, Bliksrud YT, Elgen IB, Szigetvari PD, Kleppe R, Ghorbani S, et al. Tyrosinemia Type 1 and symptoms of ADHD: biochemical mechanisms and implications for treatment and prognosis. Am J Med Genet B Neuropsychiatr Genet. (2020) 183:95–105. doi: 10.1002/ajmg.b.32764 18. Chinsky JM, Singh R, Ficicioglu C, van Karnebeek CDM, Grompe M, Mitchell G, et al. Diagnosis and treatment of tyrosinemia type I: a US and Canadian consensus group review and recommendations. Genet Med. (2017) 19:101. doi: 10.1038/gim.2017.101 6. van Ginkel WG, Jahja R, Huijbregts SCJ, van Spronsen FJ. Conflict of interest The Supplementary Material for this article can be found online at: https://www.frontiersin.org/articles/10.3389/fpsyt.2023. 1213590/full#supplementary-material During the past 3 years JH has received speaker fees from Takeda and Medice, all unrelated to the present work. Funding This work was supported by grants from Stiftelsen Kristian Gerhard Jebsen (SKGJ-MED-02), the Regional Health Authority of Western Norway (912264), the Research Council of Norway (Project No. 331725), and the Norwegian ADHD Research Network (NevSom; project 51379, 815138). Author contributions RS and MF have made substantial contributions to the acquisition of data for the work. YB, EV, HB, and IE have made substantial contributions to the conception and design of the work, the acquisition and interpretation of data for the work, 05 frontiersin.org Barone et al. 10.3389/fpsyt.2023.1213590 10.3389/fpsyt.2023.1213590 and drafting the work. JH has made substantial contributions to the interpretation of data of the work. All authors have revisited the work critically for important intellectual content, provided approval for publication of the content, and agreed to be accountable for all aspects of the work in ensuring that questions related to the accuracy or integrity of any part of the work are appropriately investigated and resolved. The remaining authors declare that the research was conducted in the absence of any commercial or financial relationships that could be construed as a potential conflict of interest. Publisher’s note All claims expressed in this article are solely those of the authors and do not necessarily represent those of their affiliated organizations, or those of the publisher, the editors and the reviewers. Any product that may be evaluated in this article, or claim that may be made by its manufacturer, is not guaranteed or endorsed by the publisher. References Neurological and neuropsychological problems in tyrosinemia type I patients. Adv Exp Med Biol. (2017) 959:111–22. doi: 10.1007/978-3-319-55780-9_10 7. Gonzalez-Lamuno D, Sanchez-Pintos P, Andrade F, Couce ML, Aldamiz- Echevarria L. Treatment adherence in tyrosinemia type 1 patients. Orphanet J Rare Dis. (2021) 16:256. doi: 10.1186/s13023-021-01879-1 19. van Ginkel WG, Rodenburg IL, Harding CO, Hollak CEM, Heiner- Fokkema MR, van Spronsen FJ. Long-term outcomes and practical considerations in the pharmacological management of tyrosinemia type 1. Paediatr Drugs. (2019) 21:413–26. doi: 10.1007/s40272-019-00 364-4 8. Association AP. Diagnostic and Statistical Manual of Mental Disorders. 5th ed. Arlington, VA: American Psychiatric Publishing (2013). 20. Barkley RA. Defiant Children: A Clinician‘s Manual for Assessment and Parent Training. 2nd ed. New York, NY: Guilford Press (1997). 20. Barkley RA. Defiant Children: A Clinician‘s Manual for Assessment and Parent Training. 2nd ed. New York, NY: Guilford Press (1997). 9. Polanczyk G, de Lima MS, Horta BL, Biederman J, Rohde LA. The worldwide prevalence of ADHD: a systematic review and metaregression analysis. Am J Psychiatry. (2007) 164:942–8. doi: 10.1176/ajp.2007.164.6.942 21. Knagenhjelm P, Ulberstad F. Quantified Behavioral Test (Qbtest) Technical Manual. Stockholm: Qbtech (2010). 10. Simon V, Czobor P, Balint S, Meszaros A, Bitter I. Prevalence and correlates of adult attention-deficit hyperactivity disorder: meta-analysis. Br J Psychiatry. (2009) 194:204–11. doi: 10.1192/bjp.bp.107.048827 22. Axelson DA, Birmaher B, Zelasny J, Kaufman J, Gill MK. K-SADS-PL 2009: Working Draft. Western Psychiatric Institute and Clinic: Advanced Center for Intervention and Services Research (ACISR) for Early Onset Mood and Anxiety Disorders (2009). 11. Barkley RA. Differential diagnosis of adults with ADHD: the role of executive function and self-regulation. J Clin Psychiatry. (2010) 71:e17. doi: 10.4088/JCP.9066tx1c 23. Norsk barne- og ungdomspsykiatrisk forening Dnl. Veileder i Barne-og Undomspsykiatri. Oslo (2010). 12. Fasmer OB, Halmoy A, Eagan TM, Oedegaard KJ, Haavik J. Adult attention deficit hyperactivity disorder is associated with asthma. BMC Psychiatry. (2011) 11:128. doi: 10.1186/1471-244X-11-128 24. Pohorecka M, Biernacka M, Jakubowska-Winecka A, Biernacki M, Kusmierska K, Kowalik A, et al. Behavioral and intellectual functioning in patients with tyrosinemia type I. Pediatr Endocrinol Diabetes Metab. (2012) 18:96–100. 13. Garcia RJ, Francis L, Dawood M, Lai ZW, Faraone SV, Perl A. Attention deficit and hyperactivity disorder scores are elevated and respond to N-acetylcysteine Frontiers in Psychiatry 06 frontiersin.org Barone et al. 10.3389/fpsyt.2023.1213590 Barone et al. 31. Halmoy A, Fasmer OB, Gillberg C, Haavik J. References Occupational outcome in adult ADHD: impact of symptom profile, comorbid psychiatric problems, and treatment: a cross-sectional study of 414 clinically diagnosed adult ADHD patients. J Atten Disord. (2009) 13:175–87. doi: 10.1177/1087054708329777 25. Bendadi F, de Koning TJ, Visser G, Prinsen HC, de Sain MG, Verhoeven- Duif N, et al. Impaired cognitive functioning in patients with tyrosinemia type I receiving nitisinone. J Pediatr. (2014) 164:398–401. doi: 10.1016/j.jpeds.2013. 10.001 26. Volkow ND, Wang GJ, Kollins SH, Wigal TL, Newcorn JH, Telang F, et al. Evaluating dopamine reward pathway in ADHD: clinical implications. J Am Med Assoc. (2009) 302:1084–91. doi: 10.1001/jama.2009.1308 26. Volkow ND, Wang GJ, Kollins SH, Wigal TL, Newcorn JH, Telang F, et al. Evaluating dopamine reward pathway in ADHD: clinical implications. J Am Med Assoc. (2009) 302:1084–91. doi: 10.1001/jama.2009.1308 32. Nylander C, Lindstrom K, Khalifa N, Fernell E. Previously undiagnosed attention-deficit/hyperactivity disorder associated with poor metabolic control in adolescents with type 1 diabetes. Pediatr Diabetes. (2018) 19:816–22. doi: 10.1111/pedi.12651 27. Antshel KM, Waisbren SE. Timing is everything: executive functions in children exposed to elevated levels of phenylalanine. Neuropsychology. (2003) 17:458– 68. doi: 10.1037/0894-4105.17.3.458 33. Nylander C, Fernell E. ADHD should be considered in adolescents with type 1 diabetes and poor metabolic control. Diabetologia. (2021) 64:1897– 8. doi: 10.1007/s00125-021-05493-5 28. Stevenson M, McNaughton N. A comparison of phenylketonuria with attention deficit hyperactivity disorder: do markedly different aetiologies deliver common phenotypes? Brain Res Bull. (2013) 99:63–83. doi: 10.1016/j.brainresbull.2013.10.003 34. Coghill DR, Seth S, Pedroso S, Usala T, Currie J, Gagliano A. Effects of methylphenidate on cognitive functions in children and adolescents with attention- deficit/hyperactivity disorder: evidence from a systematic review and a meta-analysis. Biol Psychiatry. (2014) 76:603–15. doi: 10.1016/j.biopsych.2013.10.005 29. Wolraich ML, Wibbelsman CJ, Brown TE, Evans SW, Gotlieb EM, Knight JR, et al. Attention-deficit/hyperactivity disorder among adolescents: a review of the diagnosis, treatment, and clinical implications. Pediatrics. (2005) 115:1734– 46. doi: 10.1542/peds.2004-1959 29. Wolraich ML, Wibbelsman CJ, Brown TE, Evans SW, Gotlieb EM, Knight JR, et al. Attention-deficit/hyperactivity disorder among adolescents: a review of the diagnosis, treatment, and clinical implications. Pediatrics. (2005) 115:1734– 46. doi: 10.1542/peds.2004-1959 35. Hendriksen JG, Peijnenborgh JC, Aldenkamp AP, Vles JS. Diagnostic overshadowing in a population of children with neurological disabilities: a cross sectional descriptive study on acquired ADHD. Eur J Paediatr Neurol. (2015) 4:4. doi: 10.1016/j.ejpn.2015.04.004 30. The MTA Cooperative Group. A 14-month randomized clinical trial of treatment strategies for attention-deficit/hyperactivity disorder. References Multimodal Treatment Study of Children with ADHD. Archiv General Psychiatr. (1999) 56:1073–86. doi: 10.1001/archpsyc.56.12. 1073 36. Gillberg C. The ESSENCE in child psychiatry: early symptomatic syndromes eliciting neurodevelopmental clinical examinations. Res Dev Disabil. (2010) 31:1543– 51. doi: 10.1016/j.ridd.2010.06.002 36. Gillberg C. The ESSENCE in child psychiatry: early symptomatic syndromes eliciting neurodevelopmental clinical examinations. Res Dev Disabil. (2010) 31:1543– 51. doi: 10.1016/j.ridd.2010.06.002 07 07 Frontiers in Psychiatry frontiersin.org
https://openalex.org/W1988540625
https://uir.unisa.ac.za/bitstream/10500/18298/1/Article_4.pdf
English
null
The role of records management as a tool to identify risks in the public sector in South Africa
South African journal of information management
2,014
cc-by
7,113
Original Research Page 1 of 8 Original Research Page 1 of 8 Original Research Page 1 of 8 Dates: How to cite this article: Ngoepe, M., 2014, ‘The role of records management as a tool to identify risks in the public sector in South Africa’, SA Journal of Information Management 16(1), Art. #615, 8 pages http://dx.doi. org/10.4102/sajim.v16i1.615 Conclusion: The study concludes by arguing that a strong records management regime can be one of an organisation’s primary tools in identifying risks and implementing proper risk management. Therefore, records management should be integrated with risk management processes for organisations to benefit from the synergy. The role of records management as a tool to identify risks in the public sector in South Africa Background: Records management is a vital element in the identification of risks. However, there is a consensus amongst scholars that the relationship between records management and risk identification has not been clearly articulated. As a result, risks associated with records are often dealt with via internal audits, legal processes and information technology. Objectives: The study utilised the King III report on corporate governance in South Africa as a framework to investigate the role of records management in identifying risks in the public sector, with a view to entrench the synergy between records management and risk management. Method: Quantitative data were collected through questionnaires distributed to records managers, risk managers and auditors in governmental bodies in South Africa. Provisions of the King III report, guided the research objectives. Results: Even though the study established that there is a reciprocal relationship between risk identification and records management, most governmental bodies in South Africa lack records management and risk-mitigating frameworks or strategy. Furthermore, records management did not feature in most governmental bodies’ risk registers. It has been established that most governmental bodies have established risk committees that do not include records management practitioners. In most governmental bodies, risk management resides within internal audit functions. doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za Scan this QR code with your smart phone or mobile device to read online. Read online: Problem statement Despite the importance of records management to risk identification, as highlighted in the preceding section, it would seem that records management in the public sector in South Africa does not satisfy the threshold specified by the King III report. For example, the general reports on audit outcomes by the Auditor-General of South Africa express concerns on the lack of adequate records that automatically increase audit risks and fees (Bhana 2008; Ngoepe & Ngulube 2013b:52). This implies that records are not properly managed to mitigate information-related risks; hence, the public sector in South Africa is characterised by auditing findings relating to poor records management. Hence, Sarens and De Beelde (2006:64) and Fraser and Henry (2007:393) observe that the relationship between records management and risk identification has not been clearly explored and articulated by scholars, practitioners and organisations. According to the Institute of Internal Auditors (2009), many organisations are fearful that they do not really understand the link between risk management and records management. Erima and Wamukoya (2012:32) are of the view that as a tool for risk management, records management is important in strategic decision-making, helps cut down costs and reduces risks from litigation, amongst others. Isa (2009:4) ponders that the embedding of records management into the risk management function is a long-term exercise to ensure that records consideration is at the heart of all management processes. Organisations create an array of records relating to relevant internal and external activities. These records are needed at all levels of an organisation to identify, assess and respond to risks (Committee of Sponsoring Organizations of the Treadway Commission 2004:67). Failing to manage records throughout their life cycle is a growing risk facing every organisation across the globe. According to Isa (2009:75) organisations have neglected proper record-keeping, which results in exposure to risks from various angles. If records management is used as a risk identification tool, many of the risks associated with poor record-keeping, such as litigation, loss of information, reputation risks and others, can be mitigated. • Using records to explore types of risk • Risk to records. • Records as causes of other types of risk. • Risks associated with the traditional archival function • Risks associated with the traditional archival function. • Records management applying the risk management process (pp. 210–211). • Records management applying the risk management process (pp. 210–211). Copyright: Copyright: © 2014. The Authors. Licensee: AOSIS OpenJournals. This work is licensed under the Creative Commons Attribution License. Both public and private organisations face different kinds of risks that affect the reliability of records and effectiveness of internal controls daily, such as losses, negative cash flows and, ultimately, bankruptcy, which can lead to liquidation. According to Ebaid (2011:108), it is difficult for organisations to avoid risk. However, what matters most is the identification and management of risks that the organisation is exposed to. Records management is one of the functions that can play a vital role in identifying and assessing risks and leading to effective risk management. Effective risk management plays an integral part in the development of the control environment which, in turn, provides management with the necessary assurances that the organisation will achieve its objectives within an acceptable degree of residual risk. Licensee: AOSIS OpenJournals. This work is licensed under the Creative Commons Attribution License. Scan this QR code with your smart phone or mobile device to read online. Read online: Despite the role that records management can play in identifying risks within organisations, it is clear from the literature that the role has not been clearly articulated, particularly in the public sector in South Africa as compared to elsewhere in the world (Bhana 2008). Lemieux (2001; 2004:57) contends that risks associated with records are often dealt with on an ad-hoc basis via internal audits, legal processes, information technology and in few instances records management. Akotia (1996:6) has also observed that ‘a major defect in financial administration arises from failure to integrate accounting and records management process, with the result that essential information is lost or becomes subject to inaccuracies’. Palmer (2000:63) points out that the chaotic and collapsed state of records management systems is one of the primary reasons why accounting standards will not easily be implemented in developing countries. Indeed, when accounting systems are weakened due to poor record-keeping, management is unable to access records for decision-making. In this light, it is essential that records are managed properly throughout their entire life cycle to enable identification of risk and management thereof. Willis (2005:88) is of the view that a robust records management programme should form part of the organisation’s risk management process, as records and the management of risk http://www.sajim.co.za Original Research Page 2 of 8 are considered inseparable. Copyright: In this regard, proper records management can be used as a tool to identify risks in the organisation. Fraser and Henry (2007:393) identify two contexts in which the inseparability of and nexus between records and risks can be considered: records for identifying business risk and business risks associated with managing records. Furthermore, Lemieux (2010) provides a typology between records management and risk management: according to the King III report, information management encompasses: protection of information (information security), the management of information and the protection of personal information processed by organisations (information privacy) (IoDSA 2009:86). Problem statement In view of the above, this study utilised the King III report on corporate governance to develop a theoretical argument for the role of records management in identifying risk in the public sector of South Africa, with a view to entrench the synergy between records management and risk management. A study by Ngoepe and Ngulube (2013a) covered other chapters of the King III report, but excluded the governance of risk from the role of records management in corporate governance. Therefore, this study attempts to fill the gap by using chapter 4 and chapter 5 of the King III report as a framework to define the role of record-keeping as a tool to identify risks in governmental bodies. As Isa (2009:3–4) would attest, it is essential to explore the relationship between these two areas in order for organisations to benefit from the synergy of their integration. The King III report was launched on 01 September 2009 by the Institute of Directors of Southern Africa (IoDSA), and came into effect on 01 March 2010. It heralded a new era in which risk management and recorded information were regarded as important. The King III report has nine chapters1. Chapter 4 and chapter 5 are relevant to this study as they deal with risk management and information management respectively. The chapters provide valuable guidance on how the various processes can be integrated. For example, in terms of the King report, people responsible for organisational governance must be able to rely on competent and trustworthy internal resources, capable of accurately assessing the effectiveness of the processes in place to manage and mitigate risks (IoDSA 2009:86). The King III report applies to all private and public entities in South Africa. Records are regarded as important assets of the organisation as they are evidence of business activities. The King III report recommends that management should ensure that there are systems in place for the management of information assets to ensure the availability of information in a timely manner, implement a suitable information security management, ensure that sensitive information is identified, classified and assigned appropriate handling criteria, implement the management of risks associated with information and establish a business continuity programme addressing the organisation’s information and recovery requirements. In this regard, 1.The nine chapters of the King report can be accessed from http://www.iodsa. co.za/?kingIII 1.The nine chapters of the King report can be accessed from http://www.iodsa. co.za/?kingIII http://www.sajim.co.za doi:10.4102/sajim.v16i1.615 The relationship between records management and risk management Chernobai, Rachev and Fabozzi (2007:xv) contend that there is a historical relationship between risk management and records management, even though the risk management field has its origin in the insurance industry. From time immemorial, human beings have striven to understand risk affected by factors such as storm, fire or flood (Graham & Kaye 2006:1). In the 1980s, risk management in manufacturing industries took hold with the adoption of total quality management. Very few organisations took a wide-angle view of risk and controls beyond finance. Even in these cases, as postulated by Lemieux (2010:210), attention was generally focused on hazard-related or insurable risk. It was only in the 1990s that the field of risk management received greater recognition. Sampson (1992:134; 2002:169) asserts firmly that the main contribution of records management to risk management is through records retention schedules, which allocate a suitable retention period to various records, especially perceived threats of litigation. However, it should be noted that there are instances of public organisations in South Africa destroying records, for accountability purposes, as a way of managing political risks (Harris 2002; 2007). Harris and Merrett (2007:270) are of the view that, even in an era of more open government, it is inconceivable that compliant procedures can be applied uniformly as they simply cost too much. Reed (1997) suggests that not all processes generate records and that it is the role of records management working within a risk management framework to identify how far each process should be recorded. However, as Isa (2009:66) would attest, this role cannot be accomplished in the absence of commitment from managers of various departments across an organisation. Risk commentators such as Fraser and Henry (2007:393), Hiles (2002), Lemieux (2010:211) and Sarens and De Beelde (2006:64) argue that the incident on 11 September 2001 in the United States of America changed the world with regard to risk management as many companies ceased to exist after the event. However, the roots of modern risk management are much older and were already deeply embedded in the management of many organisations long before that fateful day. Risk was rarely projected and it was only when records were kept that an opportunity presented itself to scrutinise these records to offer prediction of the future. Today, most organisations have, as part of their corporate executive staff, an individual with the title of chief risk officer. Literature review Literature for this study is reviewed under two themes: the role of records management in identifying risks and risks emanating from poor or lack of records management in organisations. Effective records management ensures the availability of records for future assessment in order to determine whether the recommended risk mitigation has been followed by relevant business process owners. The success of risk management is partly dependent on the accuracy of records in organisations, as every judgement made must be based on reliable information. In an age in which transparency, accountability and compliance are of increasing concern, it is essential that organisations comply with regulations and, if they do not, are able to explain why not (Isa 2009:53; Lomas 2010:191). Research purpose and objectives of the study The general purpose of this study was to investigate the role of records management as a tool to identify risks in the public sector in South Africa, with a view to entrench the synergy between records management and risk management. The specific objectives were to: • Investigate the availability of enterprise risk management strategies that embrace records management in governmental bodies. • Identify risks emanating from poor or lack of records http://www.sajim.co.za Original Research Original Research management in the public sector in South Africa. management in the public sector in South Africa. management in the public sector in South Africa or incorporated into the risk management process. Isa (2009) proposes some guidelines for how the integration could be done: • Investigate how records are managed to mitigate risks in the public sector in South Africa. p • Make recommendations on integrating records managements into risk management. Record-keeping practice and risk management elements must be nurtured and embedded in all business activities across the organisation. This can be realised by forming a working committee comprising the audit committee, archivist and records manager and risk management team to implement such an approach across the board. Therefore, records management professionals should embrace the opportunity to contribute to the achievement of corporate governance. (p. 258) Risks emanating from poor or lack of records management in organisations In his keynote address to the South African Records Management Forum conference, Bhana (2008) questions whether it is fair to equate poor records management to high risk. Putting it differently, Sampson (1992:134) questions whether proper records management can help to identify and assess risk. To answer these questions, the Auditor- General of South Africa (2011) is on record noting the importance of keeping records as a key component of any entity’s risk management process. Organisations operate in a world that grows more litigious, risky and highly regulated (KPMG 2011). Failing to manage records throughout their entire life cycle is a growing risk facing every organisation. In the past, records management was purely paper based and the challenge was less onerous. Traditionally, records management processes have been undertaken by records management staff. The digital world brings new complexities to records management. Now the work has been transferred to end-users which has proved to be unsuccessful (Henttonen & Kettunen 2011:87). In an electronic environment, the challenges include managing access, versioning, controlling and surrogates. Therefore, records management can no longer be a tactical solution to a departmental problem, but must be approached as an enterprise-wide strategy (KPMG 2011). The starting point is to identify key areas of records management that pose a risk to the organisation or have a significant cost impact. • Lack of evidence that an organisation did something under contract or according to regulation. • Inability to find mission-critical information. • Loss of proof of ownership, rights and obligations. • Lack of documentation of who knew what and when. • Inability to locate proper context information for records that may be incriminating in one context and innocent in another. • Inability to demonstrate that policies and procedures were in place and consistently followed. • Impairment of functioning of society and its institutions. • Loss of evidence of the rights of people as citizens and clients. • Inability of societal watchdogs to call to account governments, corporations and individuals. • Loss of collective, corporate and personal identity. From the discussions, it is no exaggeration to suggest that a solid records management programme can be an effective insurance policy for an organisation to identify risks. Ngoepe (2011:33) contends that organisations without proper records management run the risk of destroying records too soon and consequently of not being able to produce the records when legally required. The relationship between records management and risk management As a result, risk management to many is synonymous with good governance. This also manifests itself in governance tendrils such as the King III report on corporate governance in South Africa. The strength and effectiveness of a record-keeping system mainly depend on the effectiveness of risk management that prioritises and identifies risks across an organisation. Allocating the identified risks into an organisational directory or a file plan structure enables the identification of contextual information, which in turn ensures that the authenticity and integrity of electronic records are controlled (Isa 2009:91). As risk is associated with avoiding or mitigating obstacles to achievement, from a liability standpoint, records are necessary to demonstrate that an organisation has conducted itself reasonably. If nothing is recorded, it difficult to prove that it happened. Relying on human memory is dangerous due to its elusiveness, frailty and the tendency of people to remember things that never happened (Jimerson 2003:90; Ngoepe 2012:44). This can lead to records and information management risks, which encompass any threat to the Whilst internal monitoring bodies within organisations such as internal audit functions and audit committees are becoming increasingly involved in risk management, records management is conspicuous by its absence. Fraser and Henry (2007:393) argue that historically no unit within organisations has been charged with risk management. As a result, internal audit departments and audit committees took the opportunity to fill the gap simply because many risks have an obvious financial dimension. According to Isa (2009:4), records management ensures the availability of records for risk assessment and as such should be involved in doi:10.4102/sajim.v16i1.615 doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za Original Research Page 4 of 8 business arising from inadequate records management (Lemieux 2004:56). and designing appropriate record-keeping strategies. The second is an assessment, by individual work units, of the risks they face in achieving their objectives, including record- keeping. Furthermore, Egbuji (1999:94) classifies risks into reputation, litigation and environmental risks. The Institute of Charted Accountants in England and Wales classifies risks into five main categories: financial, business, compliance, operational and knowledge management (Fraser & Henry 2007:392–393). McKemmish and Acland (1999) suggest that failure of the record-keeping system may lead to organisational risks and societal risks. These risks include the following: Risks emanating from poor or lack of records management in organisations Alternatively, organisations adopt the costly practice of keeping everything forever, a practice that can also backfire in legal proceedings. The organisation is then required to produce everything it has relating to the proceedings, not just what it is legally required to provide. At the very least, producing all related records is time- consuming and expensive (Ngoepe 2012:84). Therefore, it is appropriate to manage records to enable identification and assessment of risks within organisations. Indeed, how well an organisation manages its records will impact on certain business and legal risks. Often, the cost of poor record-keeping is hidden; hence, few organisations especially in the public sector bother to establish a records management programme. There are several risks that come to mind, but four risks stemming from poor or lack of proper record-keeping identified by Bhana (2008) and Ngoepe (2011:75–76) that need to be considered are reputation, legal, financial and information loss. Bhana and Ngoepe posit that a governmental institution with lack of proper record-keeping is at risk of information loss when individuals resign or leave office. This is a common phenomenon and has almost become a cliché since organisations often refer to individuals that they hold in high regard because of their ‘institutional memory’. The institutional memory should in fact be vested in the organisation’s records management systems, which are further supported by appropriate knowledge management frameworks. Furthermore, governmental bodies need to comply with legislation regarding retention of records. http://www.sajim.co.za Research methodology This study relied on quantitative data collected via questionnaires distributed to governmental bodies in South Africa, which were listed on a government website as follows: 283 municipalities, 37 national government departments, 108 provincial government departments in all nine provinces and 30 public entities (South Africa Government Online n.d.). Data collected via questionnaires were supplemented through content analysis of documents such as risk strategies and registers of eight of the participating organisations who were willing to provide such documents. Since the population being studied was large and heterogeneous, a stratified Several other scholars also identify risks associated with poor or lack of records management. For example, Fraser and Henry (2007:393) identify two types of process-level risk assessments for record-keeping. The first is a strategic approach to managing business information by undertaking a systematic, risk-based assessment of record-keeping needs doi:10.4102/sajim.v16i1.615 doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za Page 5 of 8 Page 5 of 8 Original Research as the chief risk officer. It was only in a few instances 23.4% (22), that respondents indicated that responsibility lay with compliance and legal service units. Only 31.9% (30) indicated that it was not clear who was responsible for risk management as there was no such unit in their organisation. However, no respondents indicated that the records management unit was involved in risk management in their organisation. Four (4.2%) respondents indicated that records management was represented by information technology managers in risk management meetings. With regard to the availability of risk committees, 77.6% (73) indicated that their organisation had established risk committees as compared to 22.3% (21) that did not. Again, no member of a records management team was part of the risk committees. When asked about the interval of risk assessment, 57.4% (54) indicated that the assessment is conducted once a year, as compared to 42.5% (40) which did not. Only 36.1% (34) of those who conducted risk assessments indicated that records management was included in the assessment. random sampling technique was used. The assumption was that if other types of probability sampling were applied, chances are that national government departments and statutory bodies could have been under-represented as they were few, whilst municipalities and provincial government departments could be over-represented as they were many. The population was divided into strata of municipalities, national departments, provincial departments and public entities to ensure representativeness. Municipalities and provincial departments were further grouped into sub- strata according to their respective provinces. Research methodology Participants from the chosen sample were selected purposively and were either a records management staff member, risk manager or internal audit staff member. In some instances, especially in municipalities, municipal managers were selected, as there were no records managers or auditors. A proportional sample size of 37% (171) was taken from the population based on a scientific calculator available online. Therefore, the sample consisted of 105 municipalities, 14 national departments, 40 provincial departments and 12 public entities. Data analysis and research findings This section analyses and presents the results of the data obtained via questionnaires and document review. Out of 171 questionnaires distributed, only 94 were returned, a 55% response rate. Data from questionnaires were analysed using survey software available online. Results are presented through written descriptions and numerical summaries. Of the 94 responses, 42.5% (40) were completed by records managers, 28.7% (27) by registry clerks, 15.9% (15) by other information professionals such as librarians, knowledge managers and information technology specialists, whilst 12.7% (12) were completed by different officials such as municipal managers, risk managers and internal auditors. Principle 5.7 in Chapter 5 of the King III report indicates that the risk committee should consider information as a crucial element of the effective oversight or risk management of the organisation. When asked about the availability of a risk register, 53.2% (50) indicated that there was a risk register in their organisations as compared to 46.8% (44) who did not have one. The respondents indicated that the risk register was reviewed once a year. The risks that kept recurring as identified by the respondents were loss of information, leakage of information, security of information and litigation due to unavailability of information. However, three respondents indicated that the top risk issues in their organisation were confidential and, therefore, could not divulge information to the researcher. Perusal of risk registers from eight participating organisations revealed that security of information was considered a high risk, especially in an electronic environment. Issues identified in the registers include: sufficient security measures to prevent unauthorised or untracked access to the computers, networks, devices or storage and the inclusion of user permissions, passwords control and firewalls in the systems. However, none of the eight risk registers mentioned the possible risks related to paper records and their storage. Discussion of results It is clear from the study that internal audit units have assumed the functions, systems and processes of risk management in most governmental bodies in South Africa. As a result, risk management in most governmental bodies resides within internal audit functions. However, in a few instances the risk management function resides within areas such as compliance and legal services. There was no single instance in which the records management unit was responsible for risk management. Therefore, records management practitioners have taken a backseat with regard to risk identification. Even though most governmental bodies have established risk committees, records management practitioners did not form part of such committees. Instead, in most cases, records management was represented by the information technology division. The study has further revealed that there was an absence of a records management risk-mitigating framework or strategy in most governmental bodies. As a result, governmental bodies are vulnerable to information loss and litigations. The study has established that records management was excluded from the risk register of many governmental bodies. In the case in which records management was identified as a risk issue, only security and loss of information were considered the top risks associated with records. It is distressing to reveal that only a pitiable figure of 9.5% (9) of governmental bodies have implemented disaster recovery plans. With regard to disposal authorities, respondents cited lack of support from the National Archives of South Africa (NASA) as a contributing factor to unavailability of disposal authority and a retention schedule in their organisation. One respondent indicated that their organisation requested a disposal authority from NASA in 2010, but had not yet received a response in 2014. This according to the respondent was despite several follow-ups with NASA. The respondent indicated that NASA cited lack of capacity as a contributing factor. When asked how records management mitigates risk in governmental bodies, respondents replied that with proper records management in place, the governmental bodies will comply with archival legislation, minimise loss of information and be able to present records as evidence in court and base decisions on records rather than thumb- sucking or mental memory. They also identified that records management allows for the availability of comprehensive documented information about all aspects of risks and risk sources, retention and disposal of records. The availability of risk management strategies in governmental bodies Principles 4.1 and 4.4 in chapter 4 of the King III report require organisations to develop risk management policy and plans that are aligned to the purpose of the organisation (IoDSA 2009:29). The policy should be widely distributed throughout the organisation. When asked if their organisations had developed a risk management strategy, 57.4% (54) of the respondents indicated that their organisations have developed an enterprise risk management strategy as compared to 42.6% (40) which did not have. The respondents indicated that the risk management policy and plan formed part of the strategy and were monitored by the risk committee. Of those who indicated that their organisations have developed a risk management strategy, only 36.1% (34) mentioned that the strategy included record-keeping as a risk. Another 21.2% (20) indicated that the strategy was not clear on records as it just mentioned security of information without specifying the type of information. The respondents were further asked to list five records management areas that pose a risk to or have a significant cost impact on their organisation. The top five issues were information security, data integrity, information loss, non-compliance and leaking of information. The internal audit unit was identified by respondents as responsible for providing assurance regarding risk management. However, 53.2% (50) of the respondents indicated that internal audit units and records management did not always work in unison on risk management issues. With regard to responsibility in risk management, 44.6% (42) indicated that the accounting officers have delegated the responsibility and designated the head of internal audit doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za Page 6 of 8 How records management mitigate risks in the public sector management practices. • An overwhelming volume of older stored records. • An overwhelming volume of older stored records. • Staff changes that leave the context of many records unknown. The King III report views information contained in records as the most important information assets as they are evidence of business activities. Therefore, it is essential for organisations to manage records for sustainability and to minimise risks associated with poor records management (Ngoepe & Ngulube 2013a). The availability and implementation of key records management documents such as strategy, policy, procedure, file plans, retention schedules, disposal authority, vital records schedules and disaster recovery plans goes a long way in helping organisations to mitigate risks. Respondents were asked to indicate or state the availability of key records management documents, as reflected in Table 1. • Vital records not identified and secured (lack of a disaster preparedness plan). • Failure to implement an electronic document and records management system (EDRMS). • Failure to implement an electronic document and records management system (EDRMS). • Staff not adhering to a central filing strategy (keeping files at their desks), resulting in inability to locates files later. g yi • Documents not verified as being complete before being returning to the registry, filing room or archives. g yi • Documents not verified as being complete before being returning to the registry, filing room or archives. Discussion of results The following were further identified by respondents as areas of records management that will create risks for organisations if not attended to: The study has established that key records management documents that have been developed in the majority of governmental bodies include policy, procedures and a file plan. However, these documents were not implemented in most governmental bodies. Documents such as disaster recovery plans, vital records schedules and retention schedules were non-existent in many governmental bodies. This implies that the government is sitting on an ‘information ticking time bomb’ that could have dire consequences, such • Absence or poor implementation of records management strategies, policies and procedures. • Approved file plans not implemented in filing structures. • Inability to distinguish historical records from those with ephemeral value; as a result, the ‘keep everything syndrome’ is applied. • Low awareness of the importance of proper records • Low awareness of the importance of proper records doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za TABLE 1: Availability and implementation of key records management documents (N = 94). Document Available but not implemented % Implemented % Unavailable % Strategy 7 7.4 13 13.8 74 78.7 Policy 15 15.9 57 60.6 22 23.4 Procedures 17 18 58 61.7 19 20.2 File plan 21 22.3 60 63.8 13 13.8 Disposal authority 16 17 26 27.6 52 55.3 Retention schedule 15 15.9 16 17 63 67 Vital records schedule 3 3.1 10 10.6 81 86.1 Disaster recovery plan 2 2.1 9 9.5 83 88.3 Page 7 of 8 Original Research as loss of vital national memory and legal actions against government. In the absence of rules and guidelines as to what should be kept and for how long, staff should be reluctant to authorise the destruction of records, which is what was happening in most governmental bodies in South Africa. By not implementing records management policies and carrying out disposal authorities, governmental bodies are vulnerable in that they may not be able to meet legislative or other obligations required of them. For example, governmental bodies might find it difficult to respond to requests in terms of freedom of information legislation, as they would struggle to sift through an ever-increasing mountain of records. As a result, the retrieval of a particular record will be akin to searching for the elusive needle in the haystack. Discussion of results Furthermore, in an environment of ever-decreasing budgets, the over-retention of records may force governmental bodies to spend more money in order to preserve records that could have been disposed of a long time ago. future as its synergy enables the identification of not only risk but also business opportunities, maintains competitive advantage and facilitates the achievement of the strategic objectives of the organisation. Therefore, as Isa (2009:257) would attest, a risk-based approach to records management identifies and gives priority to risky records and in the process ensures that records are protected against destruction and damage, retrieved when needed and disposed of at the end of their life cycle. An effective records management programme covering the full life cycle of a record will ensure that records are not merely kept, but are kept well, as a resource and an asset to increase the organisation’s efficiency. As part of risk management, organisations should develop business continuity plans and contingency measures to ensure that records that are vital to the continued functioning of the organisation are identified as part of risk analysis, protected and recoverable when needed. As Isa (2009:91) would attest, to limit the risks associated with records, records need to be protected. Furthermore, organisations need to ask the following questions: In this study, it has been established that proper records management can mitigate risk through compliance with legislation, minimisation of information loss and provision of evidence of transactions. It is clear from the study that record- keeping is viewed in the context of a key enabler without which risk management becomes unsuccessful. Relevant records are required to support activities performed in the course of business, decision-making and accountability. Therefore, how well organisations manage records will impact on certain business and legal risks, including: • What are the risks if the records are available, not available or fall into the wrong hands? • Will there be sufficient evidence for a defence or to file a claim? In view of all of the identified risks, record-keeping must be approached by governmental institutions as a risk management function. In this regard, the records management unit should be involved in the management of risks associated with records. Furthermore, records management practitioners should be included in risk committees. Competing interests The author declares that he has no financial or personal relationship(s) that may have inappropriately influenced him in writing this article. Conclusion and recommendations It is clear from the study that a strong records management regime can be one of an organisation’s primary tools in identifying risks and can therefore lead to proper risk management. Therefore, records management should be integrated with risk management and record-keeping must be viewed by organisations as a risk management function, thereby leveraging its status in the public sector. The integration of risk and records management has a bright Akotia, P., 1996, ‘The management of public sector financial records: The implications for good government’, University of Ghana, Legon, viewed 10 January 2013, from http://ww4.msu.ac.zw/elearning/material/1174370018Pino%20Akotia%20 1996%20on%20governance.pdf Discussion of results Effective risk management is the cornerstone of good governance and can lead to improved performance, resulting in better service delivery, more efficient use of resources, as well as helping to minimise waste and fraud. The risk assessments in governmental bodies should also review record-keeping, so that government entities’ records management priorities do not pose any legislative or business risk to the organisation. Applying the principles and practices well is no guarantee for success, as other factors can influence and determine outcomes. Nevertheless, failure to do so would most likely lead to less than desired results and, probably, even failure. • Loss of revenue (financial risk). • Loss of revenue (financial risk). • Loss of revenue (financial risk). • Loss of legal rights and failure to comply with legislation (legal risk). • Exposure to penalties in litigations and investigations (legal and financial risk). • Violation of the law (compliance risk). • Violation of the law (compliance risk). • Waste of staff time in searching for lost or mislaid documents (knowledge management risk). g g • Inability to prove what has been done or agreed upon (legal risk and reputation risk). • Fruitless expenditure due to storage of records with no archival or business value (financial risk). • Lack of continuity in the event of disaster or employees resigning or changing positions (knowledge management risk). Acknowledgements Competing interests • Accidental access to organisational records by external people due to employees leaving records in their work stations unprotected (security and reputational risk). http://www.sajim.co.za References Akotia, P., 1996, ‘The management of public sector financial records: The implications for good government’, University of Ghana, Legon, viewed 10 January 2013, from http://ww4.msu.ac.zw/elearning/material/1174370018Pino%20Akotia%20 1996%20on%20governance.pdf Akotia, P., 1996, ‘The management of public sector financial records: The implications for good government’, University of Ghana, Legon, viewed 10 January 2013, from http://ww4.msu.ac.zw/elearning/material/1174370018Pino%20Akotia%20 1996%20on%20governance.pdf Auditor-General of South Africa, 2011, Simplifying audit opinions and findings to enable government leadership to exercise meaningful oversight towards clean administration, AG online column, viewed 16 July 2013, from http://www.agsa. co.za/portals/0/AG/Simplifying_audit_opinions_and_findings_to_enable_ government_leadership_to_exercise_oversight.pdf http://www.sajim.co.za doi:10.4102/sajim.v16i1.615 Original Research Page 8 of 8 Bhana, P., 2008, ‘The contribution of proper record-keeping towards auditing and risk mitigation: Auditor-General of South Africa’s perspective’, paper presented at the 3rd Annual General Meeting of the South African Records Management Forum, Midrand, South Africa, 10–11 November, viewed 15 June 2013, from http://www. khunkhwane.co.za/uploads/The Contribution of Proper Records Keeping towards auditing and risk mitigation Auditor General Perspective.pdf merson, R.C., 2003, ‘Archives and memory’, Archives and Manuscript 19(3), 8 KPMG, 2011, Records risk management diagnose, viewed 10 December 2013, from http://www.kpmg.com/US/en/IssuesAndInsights/ArticlesPublications/Documents/ records-risk-management-diagnostic.pdf Lemieux, V.L., 2001, ‘Competitive viability, accountability and record keeping: A theoretical and empirical exploration using a case study of Jamaican Commercial Bank failures’, PhD thesis, Dept. of Information Studies, University of London, London, viewed 10 December 2013, from http://discovery.ucl.ac.uk/1317703/1/272289.pdf Chernobai, A.S., Rachev, S.T. & Fabozzi, F.J., 2007, Operational risk: A guide to Basel II capital requirements, models and analysis, John Wiley & Sons, New Jersey. Committee of Sponsoring Organizations of the Treadway Commission, 2004, Enterprise risk management – Integrated framework, viewed 16 May 2013, from http://www.coso.org/publications/erm/coso_erm_executivesummary.pdf Lemieux, V.L., 2004, ‘Two approaches to managing risks’, Information Management Journal, Sep/Oct, 56–62, viewed 15 January 2014, from http://www.arma.org/ bookstore/files/Lemieux.pdf Ebaid, I.E., 2011, ‘Internal audit function: An exploratory study from Egyptian listed firms’, International Journal of Law and Management 53(2), 108–128. http:// dx.doi.org/10.1108/17542431111119397 Lemieux, V.L., 2010, ‘The records-risk nexus: Exploring the relationship between records and risk’, Records Management Journal 20(2), 199–216. http://dx.doi. org/10.1108/95656981080001362 Egbuji, A., 1999, ‘Risk management of organisational records’, Records Management Journal 9(2), 93–116. http://dx.doi.org/10.1108/EUM0000000007245 Lomas, E., 2010, ‘Information governance: information security and access within a UK context’, Records Management Journal 20(2), 182–198. http://dx.doi. org/10.1108/09565691011064322 Erima, J.A. & Wamukoya, J., 2012, ‘Aligning records management and risk management with business processes: A case study of Moi University in Kenya’, Journal of the South African Society of Archivists 45, 24–38. McKemmish, S. References & Acland, G., 1999, ‘Archivists at risk: Accountability and the role of the professional society’, paper read at the Annual Conference of the Australian Society of Archivists, Brisbane, Australia, 29–31 July. Fraser, I. & Henry, W., 2007, ‘Embedding risk management: Structures and approaches’, Managerial Auditing Journal 22(4), 392–409. http://dx.doi. org/10.1108/02686900710741955 Ngoepe, M., 2011. Records management practices in the South African public sector: Challenges, trends and issues, Lambert Academic Publishing, Saarbrücken. Graham, J. & Kaye, D., 2006, A risk management approach to business continuity: Aligning business continuity with corporate governance, Rothstein Associates, Brookfield. Ngoepe, M., 2012. ‘Fostering a framework to embed the records management function into the auditing process’, PhD thesis, Dept. of Information Science, University of South Africa. Ngoepe, M. & Ngulube, P., 2013a, ‘An exploration of the role of records management in corporate governance in South Africa’, SA Journal of Information Management 15(2), Art. #575, 8 pages. http://dx.doi.org/10.4102/sajim.v15i2.575 Harris, V., 2002, ‘The archival sliver: Power, memory, and archives in South Africa’, Archival Science 2, 63–82, viewed 10 January 2014, from http://www.nyu.edu/ classes/bkg/methods/harris.pdf Ngoepe, M. & Ngulube, P., 2013b, ‘Contribution of record-keeping to audit opinions: An informetrics analysis of the general reports on audit outcomes of the Auditor- General of South Africa’, ESARBICA Journal 32, 46–54. Harris, V., 2007, ‘“They should have destroyed more”: The destruction of public records by the South African State in the final years of apartheid, 1990-1994’, in V. Harris (ed.), Archives and justice: A South African perspective, pp. 305–336, The Society of American Archivists, Chicago. Palmer, M., 2000, ‘Records management and accountability versus corruption, fraud and maladministration’, Records Management Journal 10(2), 61–72. http://dx.doi. org/10.1108/EUM0000000007256 Harris, V. & Merrett, C., 2007, ‘Toward a culture of transparency: Public rights of access to official records in South Africa’, in V. Harris (ed.), Archives and justice: A South African perspective, pp. 269–288, The Society of American Archivists, Chicago. Reed, B., 1997, ‘Electronic records management in Australia’, Records Management Journal 7(3), 191–204. http://dx.doi.org/10.1108/eb027111 Henttonen, P. & Kettunen, K., 2011, ‘Functional classification of records and organisational structure’, Records Management Journal 21(2), 86–103. http:// dx.doi.org/10.1108/09565691111152035 Sampson, K.L., 1992, Value-added records management: protecting corporate assets and reducing business risks, 1st edn., Quorum Books, New York. Hiles, A., 2002, Enterprise risk assessment and business impact analysis: Best practices, The Rothstein, Brookfield. Sampson, K.L., 2002. Value added records management: protecting corporate assets, reducing business risks, 2nd edn., Quorum Books, New York. References Institute of Directors in Southern Africa, 2009, King report on corporate governance for South Africa, Sandton, South Africa. Sarens, G. & De Beelde, I., 2006, ‘Internal auditors’ perception about their role in risk management: A comparison between US and Belgian companies’, Managerial Auditing Journal 21(1), 63–80. http://dx.doi.org/10.1108/02686900610634766 Institute of Internal Auditors, 2009, ‘A new level of audit committee involvement’, Tone at the Top 44, 1–3. South Africa Government Online n.d., Together we move South Africa forward, viewed n.d., from http://www.gov.za Isa, A.M., 2009, ‘Records management and the accountability of governance’, PhD thesis, Humanities Advanced Technology and Information Institute, University of Glasgow, Glasgow, Scotland, viewed 15 May 2013, from http://www.theses.gla. ac.uk/1421/ Willis, A., 2005, ‘Corporate governance and management of information and records’, Records Management Journal 15(2), 86–97. http://dx.doi. org/10.1108/09565690510614238 doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za
https://openalex.org/W2991524326
https://bmcpregnancychildbirth.biomedcentral.com/track/pdf/10.1186/s12884-019-2592-0
English
null
Factors affecting uptake of ≥ 3 doses of Sulfadoxine-Pyrimethamine for malaria prevention in pregnancy in selected health facilities, Arusha region, Tanzania
BMC pregnancy and childbirth
2,019
cc-by
6,446
Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 https://doi.org/10.1186/s12884-019-2592-0 Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 https://doi.org/10.1186/s12884-019-2592-0 Open Access Abstract Background: Tanzania adopted the revised World Health Organization policy in 2013 recommending a minimum of ≥3 doses of Intermittent Preventive Treatment during pregnancy with Sulfadoxine-Pyrimethamine (IPTp-SP) to protect against malaria. A study in Tanzania in 2014 reported low (9%) uptake. We investigated health workers knowledge about IPTp-SP and factors that influenced uptake of > 3 doses of IPTp-SP among pregnant women. Methods: We conducted a cross-sectional study in 2017 among post-delivery women and health care workers from nine randomly-selected public health facilities in three Districts of Arusha Region. Probability proportional to size methodology was used to determine number of participants per facility. We used a structured questionnaire to collect socio-demographic and obstetric data, information on doses of SP received, and knowledge of SP for IPTp. Health care workers were interviewed about their knowledge for IPTp- SP and challenges encountered in its uptake and use. Results: We interviewed 556 persons (median age 26 years, range 16–42 years) with the response rate of 99.3%. Of these, 484 (87.1%) had > 3 Antenatal Care (ANC) visits. A total of 402 (72.3%) were multigravida with 362 (65.1%) having given birth at least once. Of the 556 participants, 219 (39.4%) made their first ANC booking at < 17 weeks of pregnancy and 269 (48.4%) had received > 3 doses of SP-IPTp. Factors associated with uptake of > 3 doses of IPTp- SP included having secondary or higher education [Adjusted Odds Ratio (AOR) =1.6, 95%CI 1.1–2.4], attending ≥4 ANC visits [AOR = 3.1, 95%CI 2.1–4.6], having first antenatal booking at < 17 weeks [AOR = 1.8, 95%CI 1.4–2.3], and adequate knowledge on IPTp-SP [AOR = 2.7, 95%CI 1.9–3.9]. Among 36 health care workers interviewed, 29(80.6%) had adequate knowledge about IPTp-SP. SP was available in seven (87.5%) of the visited health facilities and was administered under Direct Observed Therapy (DOT) in six (75%) facilities. Health care workers reported that stock outs of SP was a challenge. Conclusions: Fewer than half of the women interviewed reported uptake of > 3 doses of IPTp-SP. That is below the Tanzania national target of 80%. Making > 4 ANC visits, having secondary or higher education, making an early first ANC visit and having adequate knowledge on IPTp-SP promoted uptake of > 3 doses. Further qualitative studies are needed to explore factors that might contribute to low uptake of SP. Abstract Keywords: IPTp-SP uptake, Malaria prevention, Tanzania * Correspondence: mywitness20@yahoo.com 1Mount Meru Regional Referral Hospital (MMRRH), Preventive Section, P.O. Box 3010, Arusha, Tanzania Full list of author information is available at the end of the article Factors affecting uptake of ≥3 doses of Sulfadoxine-Pyrimethamine for malaria prevention in pregnancy in selected health facilities, Arusha region, Tanzania Factors affecting uptake of ≥3 doses of Sulfadoxine-Pyrimethamine for malaria prevention in pregnancy in selected health facilities, Arusha region, Tanzania Witness Mkalukwatage Mchwampaka1* , Donath Tarimo2, Frank Chacky3, Ahmed Mohamed4 Rogath Kishimba4,5 and Angela Samwel4 Witness Mkalukwatage Mchwampaka1* , Donath Tarimo2, Frank Chacky3, Ahmed Mohamed4, Rogath Kishimba4,5 and Angela Samwel4 Witness Mkalukwatage Mchwampaka1* , Donath Tarimo2, Frank Chacky3, Ahmed Mohamed4, Rogath Kishimba4,5 and Angela Samwel4 © The Author(s). 2019 Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0 International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Study population The study population included post-delivery women res- iding in Arusha region. We also included health care workers providing RCH services. Exclusion criteria Any post-delivery woman in whom SP use was contrain- dicated (known to be allergic to sulphur, or HIV- infected and therefore using cotrimoxazole prophylaxis) or who had impaired communications or did not con- sent to be interviewed was excluded. Any health care worker who had impaired communications or did not consent to be interviewed was excluded from the study. Since the adoption of this recommendation in 2013 in Tanzania, few studies have focused on SP uptake and determinants of ≥3 doses of IPTp-SP. A study in Mozambique revealed uptake of ≥3 doses of SP to be low (43.6%) [12], while a study in Tanzania revealed even lower uptake (9%) [10]. Facility, provider, and client factors have been shown to be associated with uptake of ≥2 doses of SP for IPTp in Sub-Saharan Africa [13, 14]. However, it is not known if the same factors are also as- sociated with the uptake of uptake of ≥3 doses regimen. We investigated individual, health provider, and facility factors that influence uptake of ≥3 doses of SP for IPTp. £= Margin of error (estimated at 2.5%) Arusha region is in Northern Tanzania on the Kenyan border, encompassing savannah and part of the Great Rift Valley. It has a very low prevalence of malaria (< 1%) [15]. The Region had a total population of 1.7 mil- lion in 2012, and has an area of 14,500 m2. Arusha was selected for the study as it was among the first three re- gions in which health care workers in different health fa- cilities levels were trained on the new policy of administering the minimum of three doses of IPTp-SP during pregnancy. £= Margin of error (estimated at 2.5%) A small margin of error was used due to the low rate of pregnant women receiving ≥3-doses of IPTp-SP. The sample size was adjusted for non-response rate of 10%, resulting in a total of 560 post-delivery women to be in- cluded. In addition, a total number of 36 health care workers were interviewed. Background City, Meru, and Monduli councils. Public facilities were selected as they provide free delivery services, which re- sult in most women in the region using them for deliveries. City, Meru, and Monduli councils. Public facilities were selected as they provide free delivery services, which re- sult in most women in the region using them for deliveries. Malaria infection during pregnancy is caused chiefly by Plasmodium falciparum, the most common malaria spe- cies in Africa [1]. Approximately fifty million women be- come pregnant in malaria-endemic areas each year globally, half of whom are in sub-Saharan Africa, where malaria transmission is intense and perennial [2–4]. An estimated 10,000 women and 200,000 of their infants die each year as a result of malaria infection during preg- nancy, and half of these are due to severe malarial an- aemia in mothers and low birth weight new-borns [5]. Inclusion criteria A d l Recent trials in Sub-Saharan Africa, including Tanzania, have shown that uptake of ≥3 doses of Intermittent Pre- ventive Treatment in pregnancy with Sulfadoxine Pyri- methamine (IPTp-SP) is superior to the previously recommended ≥2 doses. IPTp-SP should be delivered at each scheduled Antenatal Care (ANC) visit (except during the first trimester) and doses should be given at least 1 month apart [6, 7]. The increased doses are associated with less placenta malaria parasitaemia, higher birth weight, and increased protection of pregnant women against malaria in- fection [8–10]. As a result the World health Organization (WHO) now recommends use of ≥3 doses of IPTp-SP in the 2nd and 3rd trimesters of pregnancy [11]. Any post-delivery woman in the postnatal ward in se- lected health facilities and had ANC card with her and any health care worker who was providing RCH services at RCH clinics in the selected study facilities were in- cluded. The data were collected for the period between April–May 2017. Sampling procedure We used a multistage sampling technique to select par- ticipants. In the first, stage, three districts were selected randomly from seven Districts Council of Arusha Re- gion. In the second stage, nine public health facilities were selected from the listed Districts, including a Dis- trict hospital and two health centres. We purposefully Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Page 2 of 8 Page 2 of 8 Sample size and assumptions The sample size was obtained by using the general for- mula for calculating sample sizes for epidemiological studies [16]. Sample size ðnÞ ¼ Z2P ð100−PÞ ÁE 2 Wh Sample size ðnÞ ¼ Z2P ð100−PÞ ÁE 2 Wh Sample size ðnÞ ¼ Z2P ð100−PÞ Á2 Sample size ðnÞ ¼ Z2P ð100−PÞ Á2 Where n=Sample size required z= Standard normal deviation corresponding to 95% confidence interval which (1.96) Methods Study site P= Proportional of pregnant women who received ≥3- doses of IPTp-SP (estimated at 9 % [10]) £= Margin of error (estimated at 2.5%) Observation checklist An observation checklist (Additional file 3: Observation checklist tool) was used to collect information on the presence of IPTp-SP health education materials such as posters and leaflets or health talks provided to patients before the start of the clinics, availability of water and cups for administering SP as Directly Observed Therapy (DOT), and availability of SP at the RCH clinic on the day of visit. Proportion of post-delivery women with uptake of > 3 doses of IPTp-SP In total, 269 (48.4%) women received ≥3 doses of SP for IPTp, 150 (27%) received 2 doses, 110 (19.7%) received one dose, and 27 (4.9%) did not receive IPTp-SP despite attend- ing at ANC at least twice. Of the interviewed women, 284 (51.1%) reported not receiving SP at ANC in at least one of their routine ANC visits. Of these, 184 (65.8%) reported it was due to unavailability of SP at the health facility. Of the 529 (95.1%) women who received at least one dose of SP, Data collection for post-delivery women Consenting post-delivery women at selected health facil- ities who met inclusion criteria were interviewed using a standardized structured questionnaire designed in Eng- lish and translated into Swahili (Additional file 1: Ques- tionnaire for post-delivery women). Data collected included sociodemographic, individual obstetric charac- teristics, and knowledge about IPTp-SP. A total of nine questions were used to assess knowledge. Providing a correct response to at least six questions was categorized as adequate knowledge. ANC cards were used to cross- check the gestational age (GA) attained, number of ANC visits, timing of ANC visits, number of IPTp-SP doses received, and GA at first ANC visit. In addition, they were used to exclude person using cotrimoxazole for prevention of Mother to Child Transmission (PMTCT), or those contraindicated to SP (those who were allergic to sulphur). Study design A health facility-based cross-sectional study was con- ducted in nine selected Reproductive and Child Health (RCH) clinics of public health facilities from Arusha Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Mchwampaka et al. BMC Pregnancy and Childbirth Page 3 of 8 Page 3 of 8 then translated them into Swahili language. The second team translated the Swahili questionnaires back to Eng- lish. The two teams sat together and reviewed the two English versions identifying any distortion in the meaning then revised and approved the Swahili version. Secondly, the questionnaires, both English and Swahili versions re- ceived expert review during ethical clearance process and approved for data collection. Thirdly, the approved Swahili versions of the questionnaires were pretested in the field prior to conducting study to ensure clarity and flow of questionnaire and revised accordingly. Lastly, during ana- lysis, we checked correlation of results from related ques- tions to assess consistency in the responses. included district hospitals since they serve the largest number of ANC clients. The same criterion was used to identify health centres to be involved in the study. In the third stage, at the selected health facilities, convenience sampling was used to recruit participants for interviews. For health care workers, six workers (at the hospital level) and three health workers (at health centre level) from RCH were selected randomly by lottery. Data analysis Data were entered, cleaned, and analysed using Epi-Info version 3.5.1. Frequencies were used to summarize cat- egorical variables and determine the proportion of post- delivery women who received three or more doses of SP for IPTp. Continuous variables were summarized by using measure of central tendencies (mean and median) and dispersion (range, standard deviation). The out- come/dependent variable (uptake of > 3 doses of SP for IPTp) was tested for association with predictors/inde- pendent variables; statistical significance was assessed by using the Chi-squared test, a p value of < 0.05 was set as a level of significance. Multiple logistic regression analysis was performed to identify the significant predictors influencing uptake of > 3 doses of SP for IPTp while controlling for potential confounders. All variables with p-values < 0.25 in bivari- ate analysis were added into the multiple variable logistic regression model. Health care workers Consenting health care workers at selected health facilities were interviewed using a structured questionnaire designed in English and translated in Swahili (Additional file 2: Ques- tionnaire for health staffs) at selected health facilities. Data collected included sociodemographic, knowledge of the new regimen, and challenge with its administration. A total of 12 questions were used to assess knowledge. Providing a correct response to at least eight questions was categorized as adequate knowledge. Background characteristics of respondents Background characteristics of respondents Of the 560 post-delivery women targeted, 556 (99.3%) were interviewed. Arusha City contributed 226 (40.6%). The median age of the interviewed post-delivery women was 26 years, (range, 16–42 years). Of the 556 respon- dents, 484 (87.1%) had made ≥3 ANC visits before deliv- ery and 219 (39.4%) booked their first ANC visit before 17 weeks of gestation (Table 1). Demographics characteristics Demographics characteristics A total of 36 health care workers were interviewed in nine health facilities. The mean age was 39.5 years (range, 19–60 years), and 35 (97.2%) were female (Table 3). In total, 29 (80.6%) had adequate knowledge of IPTp-SP. All the interviewed health workers reported administering SP at the ANC when it is was available Table 2 Factors associated with uptake of ≥3 doses of IPTp-SP by post-delivery women Variable Crude OR (95%CI) Adjusted OR (95%CI) Age group (yrs.) > 20 1.8 (1.15–2.89) 1.1 (0.60–1.83) < 20 Ref Ref Education level Secondary/college 1.9 (1.42–2.81) 1.6 (1.11–2.42)** Non/primary Ref Ref Occupation Employed/self employed 1.6 (1.15–2.26) 0.9 (0.59–1.28) Farmer/housewife Ref Ref Number of ANC visit > 4 3.5 (2.48–5.04) 3.1 (2.12–4.62) ** < 4 Ref Ref Gravidity Prima gravida 1.4 (0.97–2.05) 1.2 (0.82–1.68) Ref Multigravida Ref Parity + 1 1.6 (1.09–2.21) 1.7 (1.22–2.68) ** 0 Ref Ref GA at first ANC booking (wks.) < 17 1.6 (1.15–2.29) 1.8 (1.42–2.30) ** > 17 Ref Ref Knowledge of P. women on IPTp-SP Adequate 3.1 (2.17–4.33) 2.7 (1.85–3.89) ** Low Ref Ref Distance (walking time) to HF < 30 min 1.5 (1.07–2.14) 1.3 (0.88–1.89) > 30 min Ref Ref *Statistically Significant (p = < 0.05) Table 2 Factors associated with uptake of ≥3 doses of IPTp-SP by post-delivery women 149 (28.1%) they reported that they did not swallow SP in front of the health care providers due to; absence of clean water or cups at the ANC clinics 74 (50%), and being hun- gry 20 (13.4%). Others did not mention the reasons but were given medication to take at home. 149 (28.1%) they reported that they did not swallow SP in front of the health care providers due to; absence of clean water or cups at the ANC clinics 74 (50%), and being hun- gry 20 (13.4%). Others did not mention the reasons but were given medication to take at home. < 30 min Validity of data collection tools The validity of all questionnaires was assessed through several processes. Firstly, we used a “Back to Back” trans- lation method where two teams were involved; the first team formulated the questionnaires in English language Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Page 4 of 8 149 (28.1%) they reported that they did not swallow SP in front of the health care providers due to; absence of clean Table 1 Demographic characteristics of post-delivery women Variable Frequency (n) Percentage (%) Age group (years) < 20 49 8.8 20–35 456 82 36 + yrs 51 9.2 Marital status Married 460 82.7 Single/widow 77 13.9 Cohabiting 19 3.4 Education level No formal education 42 7.6 Primary education 273 49.1 Secondary education 200 35.9 College/University 41 7.4 Occupation Farmer 101 18.2 Housewife 154 27.7 Petty business/self employed 232 41.7 Employee (Private/public) 69 12.4 Number of ANC visits < 4 243 43.7 > 4 313 Gravidity Prima gravida 154 27.7 Multigravida 402 72.3 Parity 0 194 34.9 > 1 362 65.1 GA at first ANC visit < 17 weeks 219 39.4 > 17 weeks 337 60.6 Knowledge about IPTp-SP Adequate 273 49.1 Low 283 50.9 Walking time to ANC facility in (min) < 30 342 61.5 > 30 214 38.5 Table 1 Demographic characteristics of post-delivery women Variable Frequency (n) Percentage (%) doses of SP for IPTp at the multivariate level included having secondary or higher education [Adjusted Odds Ra- tio (AOR) = 1.6, 95%CI 1.1–2.4], having visited an ANC at least four times [AOR = 3.1, 95%CI, 2.1–4.6], having their first ANC visit at < 17 gestation age (GA) [AOR = 1.8, 95%CI 1.4–2.3], having adequate knowledge of IPTp-SP [AOR = 2.7, 95%CI, 1.8–3.8], and having delivered at least once previously [AOR = 1.7, 95%CI 1.2–2.6] (Table 2). doses of SP for IPTp at the multivariate level included having secondary or higher education [Adjusted Odds Ra- tio (AOR) = 1.6, 95%CI 1.1–2.4], having visited an ANC at least four times [AOR = 3.1, 95%CI, 2.1–4.6], having their first ANC visit at < 17 gestation age (GA) [AOR = 1.8, 95%CI 1.4–2.3], having adequate knowledge of IPTp-SP [AOR = 2.7, 95%CI, 1.8–3.8], and having delivered at least once previously [AOR = 1.7, 95%CI 1.2–2.6] (Table 2). Discussion Four years after adopting new recommendations nation- wide to provide pregnant women with ≥3 doses of SP for IPTp, actual uptake in the Arusha region of Tanzania was low. Fewer than half of the women interviewed re- ceived at least three doses. Independent factors that sig- nificantly influenced uptake of ≥3 doses of IPTp-SP included having visited the ANC four or more times, having booked their first ANC visit < 17 weeks of gesta- tion, having adequate knowledge on IPTp-SP, having secondary or higher education, and having delivered at least once previously. Despite the fact that a ≥3 dose of SP for IPTp is superior to two doses, it is not fully uti- lized. Challenges to administration, including stock outs, may be partially related to the poor uptake. y p y p p The uptake of > 3 doses of IPTp-SP in the present study is lower (48.4%) the national target of 80%. How- ever, it is higher than the uptake of 9% reported two years earlier in Tanzania [10]. Unavailability of SP at the health facility was reported in this study, has been re- ported in several previous studies that focused on two- dose regimens [14, 17]. Stockouts present barriers to achieving the target and leave pregnant women unpro- tected from malaria. Practice of DOT in this study and other studies in Sub Saharan Africa [17] was found to be hampered by lack of knowledge among health care workers about the safety of SP on empty stomach as well as lack of availability of safe water and or cups. and directing women to swallow it in front of health care provider. Eight (88.9%) of the nine selected health facilities underwent observation of health care workers using the checklist. It was observed that health education regarding mal- aria and specifically SP for IPTp was given before the start of services. SP was available at seven (87.5%) health facilities at the ANC; however, only three (37.5%) had IPTp national protocols and two (25.0%) had IPTp train- ing manuals (Table 4). Five (62.5%) health facilities had posters of IPTp or Malaria in Pregnancy (MIP) on their walls; however, some of these messages were in English and more scientific. Free, clean, and safe water was ob- served in seven (87.5%) facilities; however, DOT was ob- served in only six (75.0%). Factors influencing uptake of > 3 doses of IPTp-SP > 30 min After adjusting for confounding variables, factors that remained significantly associated with the uptake of ≥3 *Statistically Significant (p = < 0.05) Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Page 5 of 8 Table 3 Sociodemographic characteristics of Health Care Workers (HCW) Variable No of Health workers n = 36 Parentage District Arusha City 12 33.3 Meru 12 33.3 Monduli 12 33.3 Level of Facility Hospital 18 50 Health centre 18 50 Age in years < 35 11 30.6 > 35 25 69.4 Sex Female 35 97.2 Male 1 2.8 Title Public health nurse 3 8.3 Enrolled nurse 5 13.9 Nurse assistant 6 16.7 Nurse Midwife 13 36.1 Registered nurse 9 25.0 outside. Thirty-three (91.7%) reported that their clinics supplied clean and safe water for pregnant women to swallow SP in front of the health care provider, and two (8.3%) reported giving the medicine to pregnant women to swallow at home. Discussion Forms for reporting adverse events associated with SP were available only in four (50.0%) of the visited health facilities. Having made a first visit to an ANC early, as recom- mended by Tanzania Focused Antenatal Care (FANC), im- proved uptake of ≥3 doses of SP for IPTp. This was also observed in studies in Zimbabwe and Tanzania that focused on two- dose regimen [5, 18]. Similarly, having visited the ANC more than four times influenced uptake of > 3 of SP for IPTp. These findings are consistent with other studies conducted in Tanzania and West Africa [3, 5, 15]. This may be due to having an increased chance of receiving repetitive health education messages on ANC services, including the importance of SP, as well as increased opportunities to re- ceive any missed doses at her multiple ANC visits. Conclusion the ANC clinics during their routine visits, and nearly all held positive perceptions of IPTp with SP for preventing malaria during pregnancy. This shows that pregnant women are equipped and therefore empowered with the correct information from the health care workers, which is in line with the FANC guidelines [21]. However, other means of delivering health education messages regarding IPTp should also be taken into accounts such as using the media (radio, television), leaflets, or others methods so that even pregnant women who were not planning to attend ANC early can find out the importance of attend- ing to receive SP for IPTp. The uptake of ≥3 doses of IPTp-SP in Arusha during 2017 was below the Tanzania national target of 80% coverage. In this study, the same factors that were previ- ously shown to influence uptake of the two-dose regi- men were found to influence uptake of ≥3 doses of SP for IPTp. Having made ≥4 ANC visits, having first visited the ANC at an early gestational age, having knowledge on IPTp-SP, having secondary or higher education, and hav- ing delivered at least once prior to the current delivery were significantly associated with the uptake of ≥3 or more doses of SP for IPTp. Strategies to ensure constant availability of SP tablet at the RCH clinics along with a constant supply of clean water and cups at the health facil- ities should be emphasized. The IPT programme should ensure provision of standardized improved Information, Education and Communication (IEC) materials that con- tain clear and well understood information. This informa- tion should show not only the benefit of IPT, but also the number of doses and gestational age at which pregnant women should take this dose. We found that health care workers were knowledgeable about malaria prevention in pregnancy using SP. However, this knowledge might not be transferred to pregnant women who attend ANC clinics, as more than a half of post-delivery women had low knowledge about IPTp-SP. This may result in challenges accepting the drug when these pregnant women are issued SP. A study conducted in rural Nigeria showed that, despite of the pregnant women having heard about IPTp, 44 (40.4%) women were afraid of taking drugs during pregnancy [22]. This study includes few limitations: the lack of generalizability to all health facilities as the study fo- cused on public facilities. The stated challenges of administering SP for IPTp Knowing about IPTp-SP was another independent fac- tor associated with uptake of ≥3 doses of SP for IPTp. This was also reported in studies in Tanzania and Ghana that focused on the two-dose regimen [19, 20]. These suggest that if clients are knowledgeable of the import- ance of receiving SP, they are more likely to attend ante- natal clinic to receive it. We also found that most women interviewed received information on IPTp from Among the 36 interviewed health workers, 25 (69.4%) reported running out of SP at the ANC clinic at some point during the past 3 months. Of these, 12 (48%) re- ported that it occurred twice in the past 3 months, and nine (36%) reported that it occurred once; the other four (16%) could not recall. Pregnant women who missed medication on those days were asked to go and buy SP Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Page 6 of 8 Table 4 Observation of practice of health workers on administering SP for IPTp Table 4 Observation of practice of health workers on administering SP for IPTp Variable No.of facilities Percentage (%) Health talk given at ANC on day of visit 8 100 Health talk given that day included malaria in pregnancy 8 100 Health talk given that day included IPTp 8 100 Presence of request forms for ANC medicines including SP 3 37.5 Presence of posters of IPTp/MIP on the wall 5 62.5 Presence of ANC Report Book for daily summaries 8 100 SP given is recorded in ANC report Book for daily summaries 8 100 SP given is recorded in ANC cards of clients 8 100 SP available at ANC 7 87.5 Practice of DOT observed 6 75 Presence of Adverse Effects forms for SP 4 50 Presence of free, clean, safe water for DOT 7 87.5 Presence of safe, clean water for sale for DOT 0 0 Availability of IPTp National protocol 3 37.5 Availability of IPTp training manual 2 25 Conclusion In addition, the question- naire required some information from during the early stage of pregnancy that might have introduced recall bias. The ANC card was used to verify some of the key variables, which may have limited this type. Finally, although efforts were made to control for confounders at analyses stage, due to the cross- section design, unidentified confounders may still have affected the observations. Received: 21 August 2018 Accepted: 11 November 2019 Received: 21 August 2018 Accepted: 11 November 2019 Received: 21 August 2018 Accepted: 11 November 2019 Funding Thi d This study was funded by Training Programs in Epidemiology and Public Health Interventions Network (TEPHINET). The funders had no role in the study design, data collection, analysis and interpretation of results, writing the manuscripts or the decision to submit for publication. 11. Access O. WHO Malaria Policy Advisory Committee and Secretariat. Malaria Policy Advisory Committee to the WHO: conclusions and recommendations of September 2012 meeting. Malaria J. 2012;11:424. Available from: http:// www.pubmedcentral.nih.gov/articlerender.fcgi?artid=3558335&tool= pmcentrez&rendertype=abstract . 12. Brentlinger PE, Dgedge M, Correia MAC, Rojas AJB, Saúte F, Gimbel-Sherr KH, et al. Intermittent preventive treatment of malaria during pregnancy in central Mozambique. Bull World Health Organ. 2007;85(11):873–9 Available from: http://www.ncbi.nlm.nih.gov/pmc/articles/PMC2636267/. References 1. Hay SI, Guerra CA, Gething PW, Patil AP, Tatem AJ, Noor AM, et al. A world malaria map: plasmodium falciparum endemicity in 2007. PLoS Med. 2009;6(3):286. 1. Hay SI, Guerra CA, Gething PW, Patil AP, Tatem AJ, Noor AM, et al. A world malaria map: plasmodium falciparum endemicity in 2007. PLoS Med. 2009;6(3):286. 1. Hay SI, Guerra CA, Gething PW, Patil AP, Tatem AJ, Noor AM, et al. A world malaria map: plasmodium falciparum endemicity in 2007. PLoS Med. 2009;6(3):286. 2. Briand V, Cottrell G, Massougbodji A, Cot M. Intermittent preventive treatment for the prevention of malaria during pregnancy in high transmission areas. Malar J. 2007;6:160. 2. Briand V, Cottrell G, Massougbodji A, Cot M. Intermittent preventive treatment for the prevention of malaria during pregnancy in high transmission areas. Malar J. 2007;6:160. 2. Briand V, Cottrell G, Massougbodji A, Cot M. Intermittent preventive treatment for the prevention of malaria during pregnancy in high transmission areas. Malar J. 2007;6:160. 3. Vanga-Bosson HA, Coffie PA, Kanhon S, Sloan C, Kouakou F, Eholie SP, et al. Coverage of intermittent prevention treatment with sulphadoxine- pyrimethamine among pregnant women and congenital malaria in Côte d’Ivoire. Malar J. 2011;10:105. 3. Vanga-Bosson HA, Coffie PA, Kanhon S, Sloan C, Kouakou F, Eholie SP, et al. Coverage of intermittent prevention treatment with sulphadoxine- pyrimethamine among pregnant women and congenital malaria in Côte d’Ivoire. Malar J. 2011;10:105. Author details 1 1Mount Meru Regional Referral Hospital (MMRRH), Preventive Section, P.O. Box 3010, Arusha, Tanzania. 2Muhimbili University of Health and Allied Sciences (MUHAS), Dar es Salaam, Tanzania. 3Tanzania National Malaria Control Programme (NMCP), Dar es Salaam, Tanzania. 4Tanzania Field Epidemiology and Laboratory Training Programme (TFELTP), Dar es Salaam, Tanzania. 5Ministry of Health, Community Development, Gender, Elderly and Children (MoHCDGEC), Dar es Salaam, Tanzania. Acknowledgments These are directed to the Ministry of Health, Community Development, Gender, Elderly and Children (MoHCDGEC), Tanzania National Malaria and Control Programme (NMCP), the Region Administrative Secretary’ (RAS) office of Arusha, the Regional Medical Officer (RMO) office of Arusha, the District Medical officers of Arusha City, Meru and Monduli, the Health facilities in charge of the visited facilities in Arusha Region, Muhimbili University of Health and Allied Sciences (MUHAS), Tanzania Field Epidemiology and Laboratory Training Programme (TFELTP) staff, Drs. Susan Rumisha and Julie Harris. 4. Dellicour S, Tatem AJ, Guerra CA, Snow RW, ter Kuile FO. Quantifying the number of pregnancies at risk of malaria in 2007: a demographic study. PLoS Med. 2010;7(1):e1000221. 5. Exavery A, Mbaruku G, Mbuyita S, Makemba A, Kinyonge IP, Kweka H. Factors affecting uptake of optimal doses of sulphadoxine-pyrimethamine for intermittent preventive treatment of malaria in pregnancy in six districts of Tanzania. Malar J. 2014;13(1):22 Available from: http://www.malariajournal. com/content/13/1/22. 6. The United Republic of Tanzania Ministry of Health and social welfare. National Malaria Strategic Plan 2014-2020. National Malaria Control Programme, Dar es Salaam; 2014. The authors declare that they have no competing interests. Additional file 3. Observation checklist. This tool was used to collect information on the presence of IPTp-SP, health education materials such as posters and leaflets or health talks provided to patients before the start of the clinics, availability of water and cups for administering SP as dir- ectly observed therapy (DOT), and availability of SP at the RCH clinic on the day of visit. Abbreviation ANC: Antenatal Care; CHMT: Council Health Management Team; DOT: Directly Observed Therapy; FANC: Focused Antenatal Care; HCW: Health care workers; HF: Health facility; IPT: Intermittent Preventive Treatment; IPTp: Intermittent Preventive Treatment in pregnancy; ITN: Insecticide treated net; MoHCDGEC: Ministry of Health, Community Development, Gender, Elderly and Children; PMTCT: Prevention of Mother to Child Transmission; RCH: Reproductive and child health; RCH: Reproductive and Child Health; SP: Sulfadoxine- Pyrimethamine; TDHS: Tanzania Demographic and Health Survey; THMIS: Tanzania HIV/Malaria Indicator Survey; WHO: World Health Organization Authors’ contributions WMM Drafted research proposal, design study and research tools, provided technical expertise to the study data collection, supervised data entry processes, analysis and interpretation of findings, provided logistic and administrative issues, contributed to the manuscript development. DT Designed study and research tools, provided technical expertise to the study implementation, supervised the data entry process; analysis, and interpretation of the findings, contributed to the manuscript development; provided scientific expertise. FC Designed study and research tools, technical advisory the administrative issues, provided useful inputs to the manuscript. AM Reviewed study design and tools; provided technical expertise on the analysis and manuscript development. RK provided technical expertise on the analysis and manuscript development.AS Participated in developing Study design, study tools and fieldwork supervision, also played an important part in the manuscript development. All authors read and approved the final manuscripts. 7. Tanzania Ministry of Health and Social Welfare. National Guidelines for Diagnosis and Treatment of Malaria:Malaria control series 11. National Malaria Control Programme, Dar es Salaam; 2006. p. 105. 8. Maiga OM, Kayentao K, Traoré BT, Djimde A, Traoré B, Traoré M, et al. Superiority of 3 over 2 doses of intermittent preventive treatment with sulfadoxine-pyrimethamine for the prevention of malaria during pregnancy in Mali: a randomized controlled trial. Clin Infect Dis. 2011;53(3):215–23. 8. Maiga OM, Kayentao K, Traoré BT, Djimde A, Traoré B, Traoré M, et al. Superiority of 3 over 2 doses of intermittent preventive treatment with sulfadoxine-pyrimethamine for the prevention of malaria during pregnancy in Mali: a randomized controlled trial. Clin Infect Dis. 2011;53(3):215–23. 9. Kayentao K, Kodio M, Newman RD, Maiga H, Doumtabe D, Ongoiba A, et al. Comparison of intermittent preventive treatment with chemoprophylaxis for the prevention of malaria during pregnancy in Mali. J Infect Dis. 2005; 191(1):109–16. 9. Kayentao K, Kodio M, Newman RD, Maiga H, Doumtabe D, Ongoiba A, et al. Comparison of intermittent preventive treatment with chemoprophylaxis for the prevention of malaria during pregnancy in Mali. J Infect Dis. 2005; 191(1):109–16. 10. Mpogoro FJ, Matovelo D, Dosani A, Ngallaba S, Mugono M, Mazigo HD. Uptake of intermittent preventive treatment with sulphadoxine- pyrimethamine for malaria during pregnancy and pregnancy outcomes: a cross-sectional study in Geita district, North-Western Tanzania. Malar J. 2014;13: 455 Available from: http://www.ncbi.nlm.nih.gov/pmc/articles/PMC4256934/. Availability of data and materials The data used and/or analysed during the current study are available from the corresponding author on reasonable request. 13. Hill J, Hoyt J, van Eijk AM, D’Mello-Guyett L, ter Kuile FO, Steketee R, et al. Factors affecting the delivery, access, and use of interventions to prevent malaria in pregnancy in sub-Saharan Africa: a systematic review and meta- analysis. PLoS Med. 2013;10(7):e1001488. 13. Hill J, Hoyt J, van Eijk AM, D’Mello-Guyett L, ter Kuile FO, Steketee R, et al. Factors affecting the delivery, access, and use of interventions to prevent malaria in pregnancy in sub-Saharan Africa: a systematic review and meta- analysis. PLoS Med. 2013;10(7):e1001488. Supplementary information f Supplementary information f Supplementary information Supplementary information accompanies this paper at https://doi.org/10. 1186/s12884-019-2592-0. Supplementary information Supplementary information accompanies this paper at https://doi.org/10. 1186/s12884-019-2592-0. Additional file 1 Questionnaire for post-delivery women. The tool used to interview the post-delivery woman to assess factors affecting uptake of > 3 doses of Sulfadoxine Pyrimethamine for Malaria prevention in Arusha. Additional file 2. Questionnaire for health facility staffs. This tool was used to collect information from health workers working in the department of Obstetrics and Gynaecology on their demographic characteristics, knowledge on the new regime of administering the Page 7 of 8 Page 7 of 8 Page 7 of 8 Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 (2019) 19:440 Competing interests minimum of three doses during pregnancy and challenges associated with administering IPT-SP. minimum of three doses during pregnancy and challenges associated with administering IPT-SP. minimum of three doses during pregnancy and challenges associated with administering IPT-SP. p g The authors declare that they have no competing interests. Ethics approval and consent to participate E h l l d l d h Ethical clearance and approval to conduct this study was granted by National Institute for Medical Research (NIMR) of Tanzania before conducting the study with reference no of NIMR/HQ/R.8a/vol.IX/2435.Consent for voluntary participation was sought from each participant signing the informed consent form after the study been explained to them. 14. Anders K, Marchant T, Chambo P, Mapunda P, Reyburn H. Timing of intermittent preventive treatment for malaria during pregnancy and the implications of current policy on early uptake in north-East Tanzania. Malar J. 2008;7:79. 14. Anders K, Marchant T, Chambo P, Mapunda P, Reyburn H. Timing of intermittent preventive treatment for malaria during pregnancy and the implications of current policy on early uptake in north-East Tanzania. Malar J. 2008;7:79. Consent for publication Not applicable. Consent for publication Not applicable. Knowledge and utilization of intermittent preventive treatment for malaria among pregnant women attending antenatal clinics in primary health care centers in rural southwest, Nigeria: a cross- sectional study. BMC Pregnancy Childbirth. 2009;9(1):28 Available from: http:// bmcpregnancychildbirth.biomedcentral.com/articles/10.1186/1471-2393-9-28. Consent for publication Not applicable. Consent for publication Not applicable. 15. Tanzania Commission for AIDS (TACAIDS), Zanzibar AIDS Commission (ZAC) NB of S, (NBS), Office of the Chief Government Statistician (OCGS), and ICF 15. Tanzania Commission for AIDS (TACAIDS), Zanzibar AIDS Commission (ZAC) NB of S, (NBS), Office of the Chief Government Statistician (OCGS), and ICF Page 8 of 8 Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 International. Survey I. Tanzania HIV/AIDS and Malaria Indicator Survey 2011–12: Key Findings. Dar es Salaam. Tanzania: TACAIDS, ZAC, NBS, OCGS, and ICF International; 2013. International. Survey I. Tanzania HIV/AIDS and Malaria Indicator Survey 2011–12: Key Findings. Dar es Salaam. Tanzania: TACAIDS, ZAC, NBS, OCGS, and ICF International; 2013. 16. Lemeshow S, Hosmer DW, Klar J, Lwanga SK, World Health Organization. Adequacy of sample size in health studies. 1990. 16. Lemeshow S, Hosmer DW, Klar J, Lwanga SK, Wor Adequacy of sample size in health studies. 1990. 16. Lemeshow S, Hosmer DW, Klar J, Lwanga SK, World Health Organization. Adequacy of sample size in health studies. 1990. 17. Tarimo DS. Appraisal on the prevalence of malaria and anaemia in pregnancy and factors influencing uptake of intermittent preventive therapy with sulfadoxine-pyrimethamine in Kibaha district. Tanzania: East African Public Health Association; 2007. 17. Tarimo DS. Appraisal on the prevalence of malaria and anaemia in pregnancy and factors influencing uptake of intermittent preventive therapy with sulfadoxine-pyrimethamine in Kibaha district. Tanzania: East African Public Health Association; 2007. 18. Aaron E, Alvare T, Gracely EJ, Riviello R, Althoff A. Predictors of Linkage to Care for Newly Diagnosed HIV-Positive Adults. West J Emerg Med. 2015; 16(4):535–42 [cited 2016 Sep 30]. Available from: http://www. pubmedcentral.nih.gov/articlerender.fcgi?artid=4530911&tool= pmcentrez&rendertype=abstract. 19. Jeremiah M.Ngondi, Deus S.Ishengoma etal; Surveillance for sulfadoxine- pyrimethamine resistant malaria parasites in the Lake and Southern Zones, Tanzania, using pooling and next general sequencing. Malaria Journal 16, Article number: 236 (2017). 20. Antwi GD. Factors influencing the uptake of intermittent preventive treatment of malaria in pregnancy in Bosomtwe district of Ghana. Kumasi: Nkrumah University of Science and Technology; 2010. 21. The United Republic of Tanzania Ministry of Health and Social Welfare. Focused Antenatal Care malaria and syphilis in pregnancy Learner ’ s Guide for ANC Service Providers and supervisors. Ministry of Health Social Welfare,Dar es Salaam; 2009. p. 85. 22. Akinleye SO, Falade CO, Ajayi IO. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations.
https://openalex.org/W2127081959
https://journals.plos.org/plosone/article/file?id=10.1371/journal.pone.0005773&type=printable
English
null
Emergence of a Code in the Polymerization of Amino Acids along RNA Templates
PloS one
2,009
cc-by
6,924
Abstract The origin of the genetic code in the context of an RNA world is a major problem in the field of biophysical chemistry. In this paper, we describe how the polymerization of amino acids along RNA templates can be affected by the properties of both molecules. Considering a system without enzymes, in which the tRNAs (the translation adaptors) are not loaded selectively with amino acids, we show that an elementary translation governed by a Michaelis-Menten type of kinetics can follow different polymerization regimes: random polymerization, homopolymerization and coded polymerization. The regime under which the system is running is set by the relative concentrations of the amino acids and the kinetic constants involved. We point out that the coding regime can naturally occur under prebiotic conditions. It generates partially coded proteins through a mechanism which is remarkably robust against non-specific interactions (mismatches) between the adaptors and the RNA template. Features of the genetic code support the existence of this early translation system. Editor: Jo¨rg Langowski, German Cancer Research Center, Germany Received March 10, 2009; Accepted May 5, 2009; Published June 3, 2009 Copyright:  2009 Lehmann et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Funding: The authors have no support or funding to report. Competing Interests: The authors have declared that no competing interests exist. * E-mail: jlehmann@rockefeller.edu Based on an earlier investigation [5], the present analysis shows that the translation process itself can contribute to the establish- ment of coding rules. Consider an elementary translation system constituted by RNA templates made up of two types of codons {I, II}, tRNAs with anticodons complementary to these codons, and two types of amino acids {1, 2}. Suppose that the tRNAs are not selectively loaded with amino acids (i.e. the rates of loading only depend on the relative concentrations of the amino acids). Our analysis shows that it is possible to observe a coded polymerization. We calculate the probability of codon I being translated by amino acid 1 and the probability of codon II being translated by amino acid 2, the coding regime occurring when both probabilities are simultaneously higher than 0.5. Jean Lehmann1*, Michel Cibils2, Albert Libchaber1 ology, The Rockefeller University, New York, New York, United States of America, 2 Section de Mathe´matiques, Ecole Polytechnique tzerland 1 Center for Studies in Physics and Biology, The Rockefeller University, New York, New York, United States of America, 2 Section de Fe´de´rale de Lausanne, Lausanne, Switzerland 1 Center for Studies in Physics and Biology, The Rockefeller University, New York, New York, United States of America, 2 Section de Mathe´matiques, Ecole Polytechnique Fe´de´rale de Lausanne, Lausanne, Switzerland Abstract These probabilities are functions of the anticodon-codon association and dissociation rate constants, the amino acids concentrations and their respective kinetic constants of peptide bond formation. One general configuration allows a coding regime to occur: the amino acid with the slow kinetics (i.e. the ‘‘slow’’ amino acid) is more concentrated in solution than the ‘‘fast’’ amino acid. Given two appropriate codons, the competition for the translation of the codon dissociating quickly from its cognate tRNA (i.e. the ‘‘weak’’ codon) is won by the fast amino acid. As for the ‘‘strong’’ codon, for which the amino acid kinetics are equal or higher than the anticodon-codon dissociation rate constant, the higher concentra- tion of the slow amino acid makes it a better competitor in that case. Although other types of polymerization are possible, we show that this coding regime is favored under prebiotic conditions. It is furthermore remarkably robust against anticodon-codon mis- matches. We conclude our analysis by showing that this model can naturally be implemented by a system of four codons and four amino acids thought to be a plausible original genetic code. PLoS ONE | www.plosone.org Emergence of a Code in the Polymerization of Amino Acids along RNA Templates Jean Lehmann1*, Michel Cibils2, Albert Libchaber1 Polymerization and Coding Polymerization and Coding loading as efficiently two types of amino acids {1, 2} onto their 39 ends. The rates of aminoacylation will thus simply follow the relative concentrations of these amino acids in solution, [aa1] and [aa2]. These tRNAs are involved in the translation of an RNA template made up of two types of codons {I, II} complementary to these anticodons. Translation is governed by a Michaelis- Menten type of kinetics: the first step is characterized by anticodon-codon association rate constants (k+) and dissociation rate constants (k2), and the second (irreversible) catalytic step is characterized by a kinetic constant kcat depending on the amino acids [Fig. 1(b)]. loading as efficiently two types of amino acids {1, 2} onto their 39 ends. The rates of aminoacylation will thus simply follow the relative concentrations of these amino acids in solution, [aa1] and [aa2]. These tRNAs are involved in the translation of an RNA template made up of two types of codons {I, II} complementary to these anticodons. Translation is governed by a Michaelis- Menten type of kinetics: the first step is characterized by anticodon-codon association rate constants (k+) and dissociation rate constants (k2), and the second (irreversible) catalytic step is characterized by a kinetic constant kcat depending on the amino acids [Fig. 1(b)]. Results Model L t id t ll RNA t l (h ft ll d Figure 1. Model of the elementary translation system. (a) Synthetase with cognate tRNA (structure 1ZJW from Protein Data Bank). (b) Kinetic scheme of the elementary translation process. Two types of tRNAs (complementary to two template codons) are unselectively loaded with two types of amino acids (the rates of loading are only concentration- dependent). The grey rugby ball is a stabilizing cofactor (see text for explanations). (c) Characteristic regimes of the polymerization process. doi:10.1371/journal.pone.0005773.g001 It is assumed that the association rate constants k+ of all anticodon-codon couples are alike. This situation is expected since it already occurs in the context of anticodon-anticodon interac- tions [6], which is similar. In a first approximation, only complementary matchings are considered. We therefore have k+ = constante, k2(I) for codon I and k2(II) for codon II. As for the kinetics of peptide bond formation (kcat), an earlier work showed that this variable may strongly depend on the side-chains of the amino acids [5]. Accordingly, two constants (kcat(1) and kcat(2)) are defined. Polymerization and Coding The model includes a ribosome-like cofactor capable of stabilizing the tRNA carrying the nascent protein on the template [Fig. 1(b)]. Although our analysis may not clarify the molecular origin of this cofactor, two of its properties can be specified, which are required to validate our conclusions: 1) The cofactor does not have a catalytic site for peptide bond formation which could minimize the side-chain effect mentioned above. Modern ribosomes have a catalytic site, the peptidyl-transferase center [7]. It is still not clear to us how this specialized part of the ribosome manages the different side-chains, although the problem has already been considered [8]. 2) The cofactor does not have a decoding center. This evolved structure on the small subunit of modern ribosomes allows for an increase in the fidelity of anticodon-codon recognition [9]. This structure is inconsistent with the simplicity of the kinetic scheme described here [Fig. 1(b)]. Our model is therefore in agreement with the hypothesis that the original ribosome was only made up of the large subunit [10]. Overall, the cofactor considered here is a priori simple since it does not have specialized parts. Avoiding a break in the continuity of the evolutionary process implies that it was already made up of RNA. Considering now the dynamic of the translation process, it is assumed for simplicity that the relative concentrations of the aminoacyl-tRNAs remain constant over time. This can be guaranteed by the reversibility of the aminoacylation process [1], which will prevent the accumulation of aminoacyl-tRNAs unfit for translation. Figure 1. Model of the elementary translation system. (a) Figure 1. Model of the elementary translation system. (a) Synthetase with cognate tRNA (structure 1ZJW from Protein Data Bank). (b) Kinetic scheme of the elementary translation process. Two types of tRNAs (complementary to two template codons) are unselectively loaded with two types of amino acids (the rates of loading are only concentration- dependent). The grey rugby ball is a stabilizing cofactor (see text for explanations). (c) Characteristic regimes of the polymerization process. doi:10.1371/journal.pone.0005773.g001 With the above hypotheses, let us define the probability p 1 Ij ð Þ of codon I being translated by amino acid 1: Synthetase with cognate tRNA (structure 1ZJW from Protein Data Bank). (b) Kinetic scheme of the elementary translation process. Two types of tRNAs (complementary to two template codons) are unselectively loaded with two types of amino acids (the rates of loading are only concentration- dependent). Polymerization and Coding The grey rugby ball is a stabilizing cofactor (see text for explanations). (c) Characteristic regimes of the polymerization process. doi:10.1371/journal.pone.0005773.g001 p 1 Ij ð Þ~ aa1 ½  kcat 1 ð Þ k{ Ið Þzkcat 1 ð Þ  aa1 ½  kcat 1 ð Þ k{ Ið Þzkcat 1 ð Þ z aa2 ½  kcat 2 ð Þ k{ Ið Þzkcat 2 ð Þ   : ð1Þ ð1Þ Introduction A major issue about the origin of the genetic system is to understand how coding rules were generated before the appear- ance of a family of coded enzymes, the aminoacyl-tRNA synthetases. Each of these ,20 different enzymes has a binding pocket specific for one of the 20 encoded amino acids, and also displays an affinity for a particular tRNA, the adaptor for translation [Fig. 1(a)]. These adaptors are characterized by their anticodons, a triplet of base located on a loop. The synthetases establish the code by attaching specific amino acids onto the 39 ends of their corresponding tRNAs, a two-step process called aminoacylation [1]. The first step (activation) involves an ATP, and leads to the formation of a highly reactive intermediate, aa– AMP (aa = amino acid). The second step consists of the transfer of the amino acid from AMP onto the 39 end of the tRNA. Those tRNAs can subsequently participate in the translation of RNA templates, during which codons about to be translated are tested by the anticodons of incoming tRNAs. When anticodon-codon complementarity occurs, an amino acid is added onto the nascent protein through the formation of a new peptide bond [2]. How could a translation system operate in the absence of the synthetases? Recent works have shown that particular RNA stem- loops of ,25 bases can self-catalyze the covalent binding of amino acids onto their own 39 ends [3,4]. These RNAs however require aa–AMP as a substrate because they cannot manage the activation step in their present form. In addition, they show little specificity for the amino acids, raising the question of how a code could be generated by them. Some answers will likely be provided by the activation step if possible to implement on these small RNAs. This issue is not examined in the present paper. 1 June 2009 | Volume 4 | Issue 6 | e5773 PLoS ONE | www.plosone.org PLoS ONE | www.plosone.org Model One can similarly write p 2 Ij ð Þ, and verify that the normalization condition p 1 Ij ð Þzp 2 Ij ð Þ~1 is satisfied. It is convenient for the analysis to relate the different kinetic constants and concentrations Let us consider two small RNA stem-loops (hereafter called tRNAs) characterized by their anticodons and both capable of 2 Polymerization and Coding Figure 2. Relative abundance of primitive amino acids. Relative abundance of the 10 most frequent amino acids of the genetic code synthesized in an experiment thought to reproduce the conditions of the prebiotic Earth. Graph established from the data of Table 3 in ref. [11]. doi:10.1371/journal.pone.0005773.g002 with ratios. We denote p 1 Ij ð Þ~ abz1 d abza ð Þzabz1 : ð2Þ Similarly, the probability of codon II being translated by amino acid 2 is p 2 II j ð Þ~ d abcza ð Þ d abcza ð Þzabcz1 : ð3Þ ð3Þ Figure 2. Relative abundance of primitive amino acids. Relative abundance of the 10 most frequent amino acids of the genetic code synthesized in an experiment thought to reproduce the conditions of the prebiotic Earth. Graph established from the data of Table 3 in ref. [11]. doi:10.1371/journal.pone.0005773.g002 Typical configurations of (2) and (3) are shown in Fig 1(c), which groups together the main possible outcomes of the polymerization process: random polymerization, homopolymerization, and coding regime. We are particularly interested in the case when this system displays some homogenous coding properties S, defined as formation (kcat)? Studies of intramolecular reactions [12–14] show that the size of the group(s) of atoms bound to the carbon in position 1 or 2 after a nucleophile is usually very critical for a reaction rate. When hydrogens are substituted with a dimethyl, the relative reaction rate (krel) may not appreciably change, although the result depends on the system and the position of the substitution [14]. When these substitutions involve bulkier groups (such as diethyl groups), a sudden jump of at least two orders of magnitude of krel is typically observed (Fig. 3). Bulky substituents restrict rotation around bonds, which contributes to the localiza- tion of the nucleophile (entropic effect) [13]. These data suggest that glycine and alanine may be characterized by similar kcat, but that a much higher kcat is expected for aspartic acid and valine (Fig. 4). Model Restricting our analysis to the four most abundant amino acids, the above considerations show that two categories may be established: {Ala, Gly} and {Val, Asp}. Each of these categories comprises amino acids that are similar with respect to kcat and concentration. This degeneracy is examined further below. If we assume (as suggested by the above data) that these two categories are related by a,100 and d,0.1, we can conclude that condition (5) may be fulfilled in some primitive environment. S~p 1 Ij ð Þ~p 2 II j ð Þw1=2: ð4Þ ð4Þ It can be shown that there is only one solution to the coding problem (i.e. p 2 Ij ð Þ~p 1 II j ð Þw1=2 cannot occur). A few general statements can be made about relation (4). With a, b, c, d.0 to be physically meaningful, the coding regime S cannot be observed if the amino acids are characterized by identical kcat (a = 1) or if they are at the same relative concentrations (d = 1). In both cases, the only possibility is p 1 Ij ð Þ~p 2 II j ð Þ~0:5 and a = d = 1. If both codons I and II display identical k2 (c = 1), we also get p 1 Ij ð Þ~p 2 II j ð Þ~0:5, and d~ abz1 ð Þ=a bz1 ð Þ. Amino acid requirements for the coding regime An examination of expressions (2) and (3) when b varies within the interval ]0, ‘[shows that the coding regime (4) can be satisfied only if c,1 and 1wdw1=a: ð5Þ ð5Þ PLoS ONE | www.plosone.org An elementary form of the genetic code The above analysis shows that S,0.8 is achieved with the two categories {Ala, Gly} and {Val, Asp} when c = 1022. Since any two codons of the existing genetic code can be characterized by c values much closer to 1 (implying a random polymerization), it can be concluded that an initial coding system with already 64 codons and 20 amino acid could not work. For several reasons, it has been proposed that the original set of anticodons and codons was limited to 59GNC39, where N is U, C, G or A [18–20]. Remarkably, these four codons encode the above four amino acids, the two categories {Ala, Gly} and {Val, Asp} being associated resp. with {GCC, GGC} and {GUC, GAC}. Both codons in each category display identical anticodon-codon DG0 estimates, and the DDG0 between the two categories is ,1.9 kcal mol21 [5], implying a c value of ,0.045. Fig. 5(b) shows the level of coding S as a function of c with a = 102 and d = 1021. In this configuration, the maximal value that S can theoretically reach (cR0) is da/(da+1)<0.91. The plot shows that S is sensitive to small variations of c within the region 1–0.01 (i.e. ac$1), where it rapidly increases as c decreases. As for the ‘‘GNC system’’ (c = 0.045), S reaches a value as high as 0.77. Below 0.01, c rapidly falls to 0 as S tends to its maximal value. Figure 3. Effect of the local environment on a reaction rate. Relative reaction rates (krel) of a bimolecular reaction and some corresponding intramolecular reactions. In the intramolecular systems, the nucleophilic attack (indicated by a small arrow in compound I) leads to the cyclization of the compounds. Adapted from ref. [12]. doi:10.1371/journal.pone.0005773.g003 The above analysis still leaves this coding system of four amino acids and four codons with an issue of degeneracy. Considering for instance {Val, Asp} and {GUC, GAC}, one should ask whether a mechanism could specifically assign Val to GUC and Asp to GAC, as it occurs in the modern genetic code. It can be noticed that in each of the two amino acids categories, one amino acid is hydrophobic (Val, Ala) while the other one is hydrophilic (Asp, Gly). This suggests the possibility of a discrimination during the loading of the amino acids on the tRNAs. Codons for the coding regime Let us now examine how well any two codons (related by c = k2(I)/k2(II)) can satisfy relation (4). To a low value of c corresponds a high value of S (see below). The DG0 values of all complementary anticodon-codon interactions of the genetic code span approximately from 22 to 26 kcal mol21 at T = 310 K [5]. These estimates refer to crude anticodon-codon interactions: they do neither include additional DG0 contributions occurring within modern ribosomes [9], nor the effect of tRNA anticodon loop refinement taking place in the present-day genetic system [15–16]. With Keq = k+/k2 = exp(2DG0/RT), and with k+ = constant (see above), the lowest value of c lies somewhere between 1022 and 1023. Condition (5) signifies that the amino acid with the highest kcat must be less concentrated in solution than the other amino acid. This relative concentration must still be higher than 1/a. To check whether condition (5) could be reasonably fulfilled at the origin of Life, let us consider some results of the well-known prebiotic synthesis experiments conducted by Miller [11], which revealed what amino acids of the genetic code are the easiest to be generated. The histogram of Fig. 2 shows that glycine and alanine display a similar abundance, and are about one order of magnitude more frequent than the next two amino acids, aspartic acid and valine. Considering now the chemical step, how may each of these amino acids affect the probability of peptide bond A particular solution of S is obtained when ac = 1 which is physically relevant: for a given a, S increases relatively rapidly as c PLoS ONE | www.plosone.org June 2009 | Volume 4 | Issue 6 | e5773 3 Polymerization and Coding Figure 3. Effect of the local environment on a reaction rate. Relative reaction rates (krel) of a bimolecular reaction and some corresponding intramolecular reactions. In the intramolecular systems, the nucleophilic attack (indicated by a small arrow in compound I) leads to the cyclization of the compounds. Adapted from ref. [12]. doi:10.1371/journal.pone.0005773.g003 the coding regime is only marginally affected by them (see below), demonstrating the robustness of this coding system. the coding regime is only marginally affected by them (see below), demonstrating the robustness of this coding system. Connecting amino acids with codons The b parameter makes a connection between two kinetic constants of different origins: kcat(1) is determined by an amino acid (bound to an RNA) while k2(I) is determined by RNA. Among the two constants, only k2(I) could be tuned by the translation machinery, through the selection of the tRNA anticodon loop. Anticodons of two bases (if structurally possible) are expected to have a high k2(I) because of the low anticodon-codon DG0 and the importance of thermal fluctuations, while the opposite trend is anticipated for larger anticodons. An examination of Fig. 5(a) from low to high values of b reveals that a coding regime occurs at b,1, in the transition between two types of homopolymerization. Below b =1, the outcome of polymerization is controlled by kcat; above this value, it is controlled by the relative concentrations. The transition region is sensitive to small differences in kinetic constants precisely because kcat(1)<k2(I). The existence of a correlation in the genetic code reflecting a dependence between these two kinetic constants (Fig. 3 in ref. [5]) supports our analysis, and allows us to connects b,1 with 3-nt anticodons, this size being structurally associated with 7-nt loops [17]. An elementary form of the genetic code This loading indeed necessarily implies an intermolecular association, which is usually strongly conditioned by that type of property [21]. The first two chemical steps (activation and aminoacylation) may thus contrib- ute to a reduction of the mentioned degeneracy, a property which has been suggested earlier [5]. decreases between 1 and 1/a [see Fig. 5(a–b)]. The turning point c = 1/a sets up the maximal value of the ‘‘easy gains’’ for S, i.e. gains which do not require an unrealistic DDG0 value between the two codons. When c,1/a, S increases less and less, until it reaches a maximal value. Furthermore, a simplification in the algebraic treatment of relation (4) occurring when ac = 1 (implying b = kcat(1)/ k2(I) = kcat(2)/k2(II)) allows us to determine that S ac~1 ð Þ~d az1 ð Þ  ad2zd az1 ð Þz1   has a maximum with respect to d when d~a{1=2. Since b ac~1 ð Þ~ 1{a2d2   a d2{1   , this maximum is also characterized by b = 1. This result shows that the above estimates of a and d are well compatible with a polymerization process in a coding regime. Taking these values (a = 102; d = 1021) together with c = 1022, one gets S~101=121&0:835. decreases between 1 and 1/a [see Fig. 5(a–b)]. The turning point c = 1/a sets up the maximal value of the ‘‘easy gains’’ for S, i.e. gains which do not require an unrealistic DDG0 value between the two codons. When c,1/a, S increases less and less, until it reaches a maximal value. Furthermore, a simplification in the algebraic treatment of relation (4) occurring when ac = 1 (implying b = kcat(1)/ k2(I) = kcat(2)/k2(II)) allows us to determine that S ac~1 ð Þ~d az1 ð Þ  ad2zd az1 ð Þz1   has a maximum with respect to d when d~a{1=2. Since b ac~1 ð Þ~ 1{a2d2   a d2{1   , this maximum is also characterized by b = 1. This result shows that the above estimates of a and d are well compatible with a polymerization process in a coding regime. Taking these values (a = 102; d = 1021) together with c = 1022, one gets S~101=121&0:835. PLoS ONE | www.plosone.org Perturbation of the coding regime by mismatches p 1 Ij ð Þ~ b 1zb z bce 1zbce   b 1zb z bce 1zbce z abd 1zab z abcde 1zabce  ð20Þ ð20Þ Similarly, one gets for p 2 II j ð Þ: Similarly, one gets for p 2 II j ð Þ: p 2 II j ð Þ~ abcd 1zabc z abcde 1zabce   abcd 1zabc z abcde 1zabce z bc 1zbc z bce 1zbce   ð30Þ In addition to a, b, c, and d previously defined, let us define an additional parameter: e = k2(II)/k2(mm). Let us now rewrite p 1 Ij ð Þ while including the additional terms due to mismatches: ð30Þ p 1 Ij ð Þ~ tRNA Ið Þaa1   kcat 1 ð Þ k{ Ið Þzkcat 1 ð Þ z  tRNA II ð Þaa1   kcat 1 ð Þ k{ mm ð Þzkcat 1 ð Þ  1 a a~ tRNA Ið Þaa1   kcat 1 ð Þ k{ Ið Þzkcat 1 ð Þ z  tRNA II ð Þaa1   kcat 1 ð Þ k{ mm ð Þzkcat 1 ð Þ z tRNA Ið Þaa2   kcat 2 ð Þ k{ Ið Þzkcat 2 ð Þ z tRNA II ð Þaa2   kcat 2 ð Þ k{ mm ð Þzkcat 2 ð Þ  ð10Þ It can be verified that when e = 0 (i.e. the dissociation rate constant of the mismatches has a very large value), one gets the initial relations (2) and (3). Since relations (2’) and (3’) cannot be further simplified, it is not straightforward to analyze S* with the new expressions p 1 Ij ð Þ and p 2 II j ð Þ. However, S* can be numerically examined, and it turns out that the results are rather similar to those for S as long as e#1. ð10Þ Fig. 6 is similar to Fig. 5(a), but it includes de perturbation introduced by e. It can be seen that even when k2(mm) = k2(II) (i.e. e = 1), S* is not dramatically different from S, and when k2(mm) = 10 k2(II) (i.e. e = 0.1), the effect of mismatches on S* becomes totally negligible. Perturbation of the coding regime by mismatches Fig. 5(a) shows p 1 Ij ð Þ and p 2 II j ð Þ as a function of b for three characteristic values of d, which allows to graphically check our results with the above numerical values. Remarkably, more realistic calculations including the effect of mismatches show that This Section discusses briefly the issue of mismatches. Let us consider the possibility that codon I is ‘‘read’’ by tRNA II and codon II is ‘‘read’’ by tRNA I. In Fig. 1(b), this implies that a red PLoS ONE | www.plosone.org June 2009 | Volume 4 | Issue 6 | e5773 4 Polymerization and Coding Figure 4. Amino acids side-chains and kinetics of peptide bond formation. Elementary translation and expected effect of the side-chains of alanine, glycine, aspartic acid and valine on the kinetics of peptide bond formation (kcat) (discussed in the text). doi:10.1371/journal.pone.0005773.g004 Figure 4. Amino acids side-chains and kinetics of peptide bond formation. Elementary translation and expected effect of the side-chains of alanine, glycine, aspartic acid and valine on the kinetics of peptide bond formation (kcat) (discussed in the text). doi:10.1371/journal.pone.0005773.g004 Figure 4. Amino acids side-chains and kinetics of peptide bond formation. Elementary translation and expected effect of the side-chains of alanine, glycine, aspartic acid and valine on the kinetics of peptide bond formation (kcat) (discussed in the text). doi:10.1371/journal.pone.0005773.g004 Rewriting expression (1’) with the parameters a, b, c, d, e, one gets Rewriting expression (1’) with the parameters a, b, c, d, e, one gets anticodon may also bind a blue codon and vice-versa. These interactions are called ‘‘mismatches’’. Let us assume that the association rate constant (k+) of these mismatches is identical to the one of complementary anticodon- codon interactions. The corresponding dissociation rate constant (k2(mm)) will usually be much higher than k2(II) (the highest of the two dissociation rate constants of complementary interactions). Experimental data about the G?U ‘‘wobble’’ base-pair however suggest that these two constants could also be similar [22]. Perturbation of the coding regime by mismatches Another way to examine the effect of the perturbation is to keep b set to 1 (with ac = 1), and establish the difference p 1 Ij ð Þ  {p 2 II j ð Þ j j (Table 1). Let us consider a system in which [tRNA(I)] = [tRNA(II)] (i.e. the number of copies of the two tRNAs are identical). Following the hypothesis about the (non-selective) self-aminoacylation process described above, one has, therefore, tRNA II ð Þaa1   tRNA II ð Þaa2   ~ tRNA Ið Þaa1   tRNA Ið Þaa2   ~ aa1 ½  aa2 ½  ~ 1 d Discussion (b) Level of coding S as a function of c when a = 102 and d = 1021. Three significant values of S are indicated. The inset shows a plot similar to (a) for three particular values of c (reported from the main graph). doi:10 1371/journal pone 0005773 g005 which occurs at b = 1. When d = 0.01, either random polymerization (b%1) or homopolymerization of aa1 (b.1) are observed. (b) Level of coding S as a function of c when a = 102 and d = 1021. Three significant values of S are indicated. The inset shows a plot similar to (a) for three particular values of c (reported from the main graph). doi:10 1371/journal pone 0005773 g005 The present analysis shows that behind (the origin of) the code lies a problem of polymerization catalysis: how could different types of monomers (the amino acids) be involved in a same polymerization process? Whatever the exact operating mecha- nism(s), a single (or uniform) catalyst usually favors only one particular substrate. The four nucleotides A, G, C and U of RNA can generate conditions for the polymerization of different amino acids. In the elementary translation described here, these features of the aminoacyl-tRNA synthetases [26] and the tRNAs [27,28]. For instance, the mechanisms of aminoacylation as well as identity elements on the tRNAs are specific to certain groups of codons. Although these facts are fundamental, and have inspired scenarios for the evolution and the expansion of the code [26–28], evolutionary considerations may not, in essence, provide an answer to the origin of the code (since it is a prerequisite for biological evolution). features of the aminoacyl-tRNA synthetases [26] and the tRNAs [27,28]. For instance, the mechanisms of aminoacylation as well as identity elements on the tRNAs are specific to certain groups of codons. Although these facts are fundamental, and have inspired scenarios for the evolution and the expansion of the code [26–28], evolutionary considerations may not, in essence, provide an answer to the origin of the code (since it is a prerequisite for biological evolution). Figure 6. Effect of mismatches on the polymerization process. Probabilities p(1|I)* and p(2|II)* as a function of b for five values of e#1 (a = 102; b = 1; c = 1022; d = 0.1). Discussion Although the molecular organization of genetic code is now known in detail, there is still no agreement on the reason(s) for which it has emerged. Early studies have shown that the codon table is highly structured with respect to amino acids hydropho- bicity properties, suggesting that basic physico-chemical consider- ations could contain the solution to this problem [21,23–25]. More recent works have shown that this table is ordered with respect to and tRNA Ið Þaa1   ~ tRNA II ð Þaa1   , tRNA Ið Þaa2   ~ tRNA II ð Þaa2   : PLoS ONE | www.plosone.org PLoS ONE | www.plosone.org June 2009 | Volume 4 | Issue 6 | e5773 June 2009 | Volume 4 | Issue 6 | e5773 5 Polymerization and Coding Figure 5. Regimes of the polymerization process. (a) Effect of the value of the ratio kcat(1)/k2(I) on the polymerization process: p(1|I) and p(2 as a function of b for three significant values of d when a = 102 and c = 1022. When d = 1, either homopolymerization of aa2 (b,1), or rando polymerization (b&1) are observed. When d = 0.1, a coding regime S = 0.835 is observed at the transition between two types of homopolymerizatio Figure 5. Regimes of the polymerization process. (a) Effect of the value of the ratio kcat(1)/k2(I) on the polymerization process: p(1|I) and p(2|II) as a function of b for three significant values of d when a = 102 and c = 1022. When d = 1, either homopolymerization of aa2 (b,1), or random polymerization (b&1) are observed. When d = 0.1, a coding regime S = 0.835 is observed at the transition between two types of homopolymerization, Figure 5. Regimes of the polymerization process. (a) Effect of the value of the ratio kcat(1)/k2(I) on the polymerization process: p(1|I) and p(2|II) as a function of b for three significant values of d when a = 102 and c = 1022. When d = 1, either homopolymerization of aa2 (b,1), or random polymerization (b&1) are observed. When d = 0.1, a coding regime S = 0.835 is observed at the transition between two types of homopolymerization, PLoS ONE | www.plosone.org June 2009 | Volume 4 | Issue 6 | e5773 6 Polymerization and Coding which occurs at b = 1. When d = 0.01, either random polymerization (b%1) or homopolymerization of aa1 (b.1) are observed. Discussion This diagram shows that the intersection between p(1|I)* and p(2|II)* (which defines the coding regime S*) is only slightly affected by mismatches, as long as the dissociation constant of these mismatches (k2(mm)) remains equal (e = 1) or higher (e,1) than the highest dissociation constant of the complementary matches (k2(II)). doi:10.1371/journal.pone.0005773.g006 Figure 6. Effect of mismatches on the polymerization process. Probabilities p(1|I)* and p(2|II)* as a function of b for five values of e#1 (a = 102; b = 1; c = 1022; d = 0.1). This diagram shows that the intersection between p(1|I)* and p(2|II)* (which defines the coding regime S*) is only slightly affected by mismatches, as long as the dissociation constant of these mismatches (k2(mm)) remains equal (e = 1) or higher (e,1) than the highest dissociation constant of the complementary matches (k2(II)). doi:10.1371/journal.pone.0005773.g006 Table 1. Perturbation of the coding regime by mismatches. Table 1. Perturbation of the coding regime by mismatches. e DDG0 (kcal mol21) p 1 Ij ð Þ p 2 II j ð Þ p 1 Ij ð Þ{p 2 II j ð Þ j j 1 0 0.7739 0.8347 0.061 0.7226 0.2 0.7825 0.8434 0.061 0.1 1.417 0.8225 0.8443 0.022 0.01 2.834 0.8334 0.8360 0.003 0 very large 0.8347 0.8347 0 Numerical results with a = 102, b = 1; c = 1022, d = 1021 (for which S<0.8347). The DDG0 indicated is the free-energy difference between the weakest complementary interaction (codon II) and the mismatch. A value of e = 0.7226 implies a DDG0 of 0.2 kcal mol21, which is the approximate difference between AU (Watson-Crick) and GU (Wobble) base-pairs [20]. doi:10.1371/journal.pone.0005773.t001 June 2009 | Volume 4 | Issue 6 | e5773 PLoS ONE | www.plosone.org 7 Polymerization and Coding dipeptide already present at the 39 end of the first tRNA [3] may help initiate translation. conditions are given by the kinetics of anticodon-codon interac- tions. Among the identified requirements to set this polymerization process in the coding regime are the relative frequencies of the amino acids: the small amino acids (glycine and alanine) must be more abundant than the large ones. Although the result of Miller’s experiment shown here (Fig. 2) is only indicative, it likely reflects a robust general trend which originates form the fact that complex amino acids require more chemical steps (and more energy) to be synthesized than simple ones. References 1. Berg P, Bergmann FH, Ofengand EJ, Dieckmann M (1961) Enzymic synthesis of amino acyl derivatives of ribonucleic acid. J Biol Chem 236: 1726–1734. 16. Olejniczak M, Dale T, Fahlman RP, Uhlenbeck OC (2005) Idiosyncratic tuning of tRNAs to achieve uniform ribosome binding. Nat Str Mol Biol 12: 788–793. 17. Auffinger P, Westhof E (2001) An extended structural signature for the tRNA anticodon loop. RNA 7: 334–342. 2. Gromadski KB, Rodnina MV (2004) Kinetic determinants of high-fidelity tRNA discrimination on the ribosome. Mol Cell 13: 191–200. p 18. Eigen M, Schuster P (1978) Hypercycle – principle of natural self-organization. C. Realistic hypercycle. Naturwissenschaften 65: 341–369. 3. Illangasekare M, Yarus M (1999) A tiny RNA that catalyzes both aminoacyl- RNA and peptidyl-RNA synthesis. RNA 5: 1482–1489. 19. Ikehara K, Omori Y, Arai R, Hirose A (2002) A novel theory on the origin of the genetic code: A GNC-SNS hypothesis. J Mol Evol 54: 530–538. 4. Lehmann J, Reichel A, Buguin A, Libchaber A (2007) Efficiency of a self- aminoacylating ribozyme: Effect of the length and base-composition of its 39 extension. RNA 13: 1191–1197. 20. Lehmann J, Riedo B, Dietler G (2004) Folding of small RNAs displaying the GNC base-pattern: implications for the self-organization of the genetic system. J theor Biol 227: 381–395. 5. Lehmann J (2000) Physico-chemical constraints connected with the coding properties of the genetic system. J theor Biol 202: 129–144. 21. Lacey JC, Wickramasinghe NSMD, Cook GW (1992) Experimental studies on the origin of the genetic code and the process of protein synthesis – a review update. Origins Life Evol Biosphere 22: 243–275. 6. Grosjean HJ, De Henau S, Crothers DM (1978) Physical basis for ambiguity in genetic coding interactions. Proc Natl Acad Sci U S A 75: 610–614. genetic coding interactions. Proc Natl Acad Sci U S A 75: 610–6 7. Sievers A, Beringer M, Rodnina MV, Wolfenden R (2004) The r 7. Sievers A, Beringer M, Rodnina MV, Wolfenden R (2004) The ribosome as an entropy trap. Proc Natl Acad Sci U S A 101: 7897–7901. 22. Turner DH, Sugimoto N, Jaeger JA, Longfellow CE, Freier SM, et al. (1987) Improved parameters for prediction of RNA structure. Cold Spring Harbor Symposia on Quantitative Biology 52: 123–133. entropy trap. Proc Natl Acad Sci U S A 101: 7897–7901 8. Ledoux S, Uhlenbeck OC (2008) Different aa-tRNAs are selected uniformly on the ribosome. Mol Cell 31: 114–123. Discussion They are therefore expected to be less abundant, whatever the exact conditions of the environment. Our analysis thus integrates a frequency distribution which appears to be rather fundamental. In conclusion, our results show that the properties of amino acids and RNA can naturally impose a partially coded polymerization along RNA templates. We also found that the associated coding mechanism is remarkably robust against mismatches. When supplied with ‘‘meaningful’’ RNA sequences, translation systems of this kind should be capable of generating pools of proteins a small fraction of which will be functional. The feed-back action of these proteins on the translation itself may further increase its efficiency, allowing more codons to be added to its repertoire. In this evolutionary perspective, it can be speculated that a critical effect of emerging synthetases will be to establish only the [amino acid – tRNA] configurations that are fit for translation, a ‘‘learning’’ action that RNA alone cannot logically achieve. One should consider the issue of the initiation of protein synthesis in the system described here. This step is critical since a small amino acid may only weakly stabilize the initial tRNA on the ribosome cofactor. Large hydrophobic amino acids such as Leucine or Isoleucine are possible candidates since they are found in prebiotic synthesis experiments (Fig. 2). Also, the ester bond connecting these amino acids to the 39 end of the tRNA is less prone to hydrolysis as compare with other amino acids [29], which might be critical for initiation. Another possibility is that a Author Contributions Wrote the paper: JL MC AL. Conceived the analytical model: JL. Analyzed the properties of the model: JL MC AL. Wrote the paper: JL MC AL. Conceived the analytical model: JL. Analyzed the properties of the model: JL MC AL. References y p gy 23. Woese CR (1965) Order in the genetic code. Proc Natl Acad Sci U S A 54: 71–75. 9. Ogle JM, Brodersen DE, Clemons WM, Tarry MJ, Carter AP, et al. (2001) Recognition of cognate transfer RNA by the 30S ribosomal subunit. Science 292: 897–902. 24. Woese CR, Dugre DH, Saxinger WC, Dugre SA (1968) The molecular basis for the genetic code. Proc Natl Acad Sci U S A 55: 966–974. 10. Agmon F, Bashan A, Zarivach R, Yonath A (2005) Symmetry at the active site of the ribosome: structural and functional implications. Biol Chem 386: 833–844. 25. Lacey JC, Mullins DW (1983) Experimental studies related to the origin of the genetic code and the process of protein synthesis – a review. Origins Life Evol Biosphere 13: 3–42. 11. Miller SL (1987) Which organic compounds could have occurred on the prebiotic earth. Cold Spring Harbor Symposia on Quantitative Biology LII: 17–27. p 26. Schimmel P, Giege R, Moras D, Yokoyama S (1993) An operational RNA code for amino acids and possible relation to genetic code. Proc Natl Acad Sci U S A 90: 8763–8768. 12. Lightstone FC, Bruice TC (1996) Ground state conformations and entropic and enthalpic factors in the efficiency of intramolecular and enzymatic reactions. 1. Cyclic anhydride formation by substituted glutarates, succinate, and 3,6-endoxo- D4-tetrahydrophthalate monophenyl esters. J Am Chem Soc 118: 2595–2605. 27. Delarue M (2007) An asymmetric underlying rule in the assignment of codons: possible clue to a quick early evolution of the genetic code via successive binary choices. RNA 13: 1–9. 13. Armstrong AA, Amzel LM (2003) Role of entropy in increased rates of intramolecular reactions. J Am Chem Soc 125: 14596–14602. 28. Rodin SN, Rodin AS (2008) On the origin of the genetic code: signatures of its primordial complementarity in tRNAs and aminoacyltRNA synthetases. Heredity 100: 341–355. 14. Jung ME, Piizzi G (2005) Gem-Disubstituent effect: Theoretical basis and synthetic applications. Chem Rev 105: 1735–1766. 29. Matthaei JH, Voigt HP, Heller G, Neth R, Scho¨ch G, et al. (1966) Specific interactions of ribosomes in decoding. Cold Spring Harbor Symposia on Quantitative Biology 31: 25–38. 15. Agris PF (2004) Decoding the genome: a modified view. Nucl Ac Res 32: 223–238. PLoS ONE | www.plosone.org June 2009 | Volume 4 | Issue 6 | e5773 8
https://openalex.org/W2145076118
https://www.scielo.br/j/csp/a/cdRNJphP6CZZyqGkdLRWBWj/?lang=pt&format=pdf
Portuguese
null
Nutrição e promoção da saúde: perspectivas atuais
Cadernos de Saúde Pública
2,007
cc-by
5,632
1 Centro de Ciências da Saúde, Faculdades Federais Integradas de Diamantina, Diamantina, Brasil. 2 Escola Nacional de Saúde Pública Sergio Arouca, Fundação Oswaldo Cruz, Rio de Janeiro, Brasil. Correspondência V. A. Ferreira Departamento de Nutrição, Centro de Ciências da Saúde, Faculdades Federais Integradas de Diamantina. Rua da Glória 187, Diamantina, MG 39100-000, Brasil. vanessa.nutr@ig.com.br Nutrição e promoção da saúde: perspectivas atuais Nutrition and health promotion: recent perspectives Vanessa A. Ferreira 1 Rosana Magalhães 2 Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 ARTIGO ARTICLE 1674 ARTIGO ARTICLE 1674 Nutrição e promoção da saúde: perspectivas atuais Abstract É particularmente no Canadá que se observa a NUTRIÇÃO E PROMOÇÃO DA SAÚDE 1675 retomada do conceito de promoção da saúde, com a divulgação no ano de 1974, do Informe Lalonde (A New Perspective on the Health of Ca- nadians). Esse documento colocou a promoção da saúde no patamar do planejamento estraté- gico. Tal proposta visava, sobretudo, a enfrentar os altos custos com a assistência médica no país. O Informe Lalonde obteve significativo impacto, propiciando o desdobramento do recente movi- mento de promoção da saúde em todo o mundo. Mais adiante, em 1978, a Organização Mundial da Saúde (OMS) realizou em Alma-Ata, a I Con- ferência Internacional sobre Cuidados Primários de Saúde. Esse evento repercutiu de forma ex- pressiva os sistemas de saúde em todo o mundo, estabelecendo a meta Saúde para Todos no Ano 2000. Nessa conferência reafirmou-se enfatica- mente um conceito amplo de saúde. Saúde como o estado de completo bem-estar físico, mental e social, e não apenas como ausência de doença. Essa reconceituação de saúde foi fundamental nesse processo porque serviu de alicerce para o atual movimento de promoção da saúde. Mais adiante realizaram-se outras conferências internacionais, que propiciaram aprofundar as discussões em torno do tema da promoção da saúde. Atualmente a promoção da saúde se apresen- ta como uma proposta inovadora para o setor, pois favorece a superação de impasses importan- tes no campo da Saúde Pública. Dentre eles, os desafios relacionados ao modelo biomédico do- minante, reducionista, fragmentado, que não res- ponde às demandas atuais de saúde. A promoção da saúde incorpora ainda, um conceito ampliado de saúde, que tem como objetivo propiciar um nível ótimo de vida e saúde às populações. Buss 4 (p. 165) sintetizou de forma apropriada a propos- ta de promoção da saúde ao afirmar: “A promoção da saúde, como vem sendo entendida nos últimos 20-25 anos, representa uma estratégia promissora para enfrentar os múltiplos problemas de saúde que afetam as populações humanas e seus entor- nos neste final de século (...) propõe a articulação de saberes técnicos e populares, e a mobilização de recursos institucionais e comunitários, públicos e privados, para seu enfrentamento e solução”. Posteriormente, o Ministério da Saúde do Ca- nadá e a OMS passaram a estruturar conceitos e práticas sobre promoção da saúde, favorecendo a realização da I Conferência Internacional sobre Promoção da Saúde realizada em Ottawa, no Ca- nadá, no ano de 1986. Abstract In recent years, health promotion has been in- troduced as a promising strategy for the public health field. The current study is intended to link nutrition into the recent debate on health promotion, analyzing the role of nutritionists in this process. Given the complexity of the Brazil- ian nutritional situation due to the nutritional transition currently under way in the country, the health promotion proposal points to both new perspectives and challenges for eating and nutrition. New demands in academic training and the nutritional care model tend to foster a search for partnerships, innovation in eating practices, and nutritional education aimed at the achievement of nutritional citizenship. Inicialmente podemos dizer que os primeiros autores que fizeram referência ao conceito de promoção da saúde foram Winslow 1 e Sigerist 2. Ambos relacionaram o termo promoção da saú- de às condições de vida das populações. Mais adiante Leavell & Clark 3 se apropriaram do con- ceito ao formularem o modelo da história natu- ral da doença. Segundo os autores, a medicina preventiva compreenderia três níveis de preven- ção e a promoção da saúde estaria incluída no nível primário, relacionada à saúde e ao bem- estar dos indivíduos. Na realidade, o discurso da medicina social no século XIX também mante- ve aproximação com a promoção da saúde, ao correlacionar saúde e condições de vida, através das obras de autores como Villermé, na Fran- ça e Chadwick, na Inglaterra 4,5. Nesse sentido, o termo promoção da saúde não é recente. No entanto, somente nos últimos vinte anos é que a promoção da saúde reaparece enquanto estraté- gia promissora para o campo da Saúde Pública. A valorização do conceito de promoção da saúde na atualidade surge como resposta à crescente medicalização, à baixa eficácia dos serviços de saúde e aos altos custos do setor. Correspondência V. A. Ferreira Departamento de Nutrição, Centro de Ciências da Saúde, Faculdades Federais Integradas de Diamantina. Rua da Glória 187, Diamantina, MG 39100-000, Brasil. vanessa.nutr@ig.com.br Health Promotion; Food and Nutrition Educa- tion; Nutritional Transition; Nutrition Health Promotion; Food and Nutrition Educa- tion; Nutritional Transition; Nutrition Nessa direção, o movimento de promoção da saúde emerge de forma mais vigorosa, a par- tir da década de 70 nos países desenvolvidos – Canadá, Estados Unidos e Europa Ocidental. Abstract Desse encontro resultou a Carta de Ottawa, considerada marco referencial da promoção da saúde 6. A conferência reuniu participantes de todo o mundo e teve por intuito compartilhar experiências no setor. Na Carta de Ottawa foram definidas cinco áreas prioritárias de ação em promoção da saúde: políticas públi- cas saudáveis, criação de ambientes saudáveis, reforço à ação comunitária, desenvolvimento de habilidades pessoais e reorientação dos servi- ços de saúde. Ainda nessa Carta, são descritos os pré-requisitos para a saúde: paz, educação, moradia, alimentação, renda, ecossistema sau- dável, justiça social e eqüidade. A promoção da saúde incorpora, portanto, uma noção ampliada de saúde e passa a se aproximar da idéia de qua- lidade de vida. Nessa abordagem, a saúde seria resultado de um amplo espectro associado com a qualidade de vida, compreendendo um con- junto de valores: justiça social, educação, renda, habitação, alimentação, nutrição, trabalho etc. Qualidade de vida por sua vez seria uma noção relacionada ao grau de satisfação dos indivíduos com o seu meio familiar, social e ambiental. Para Minayo et al. 7 (p. 8) “o termo abrange muitos sig- nificados, que refletem conhecimentos, experiên- cias e valores de indivíduos e coletividades que a ele se reportam em variadas épocas, espaços e his- tórias diferentes, sendo, portanto uma constru- ção social com a marca da relatividade cultural”. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 A promoção da saúde no Brasil No Brasil, o movimento de promoção da saú- de assume destaque no ano de 1986 com a re- alização da VIII Conferência Nacional de Saúde (CNS/MS). Em seu relatório final frisou-se: “O direito à saúde significa a garantia, pelo Estado, de condições dignas de vida e de acesso univer- sal e igualitário às ações e serviços de promoção, proteção e recuperação da saúde, em todos os ní- veis, a todos os habitantes do território nacional, levando ao desenvolvimento pleno do ser huma- no em sua individualidade” 8 (p. 382). Em 1988, a Constituição Federal brasileira reforça o tema da promoção quando declara no seu art. 196: “A saúde é um direito de todos e dever do Estado, ga- rantido mediante políticas sociais e econômicas que visem à redução do risco de doenças e outros agravos e ao acesso universal e igualitário às ações e serviços para sua promoção, proteção e recupe- ração”. Na década de 90 o Sistema Único de Saú- de (SUS), por meio da Lei nº. 8080/90, incorpora a noção ampla de saúde dentro do contexto da promoção 9. Seguem-se em 1992 os eventos Cú- pula da Terra e Rio 90: Agenda 21, em que se dis- cutiu o tema dos ambientes saudáveis. Em 1999, o Ministério da Saúde no Brasil realiza o I Fórum Nacional sobre Promoção da Saúde, em Brasília. O objetivo do fórum consistiu na divulgação das experiências e na criação de espaços para debate em promoção da saúde no país. Posteriormente, a realização da X Conferência Nacional de Saúde Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Ferreira VA, Magalhães R 1676 Ferreira VA, Magalhães R promoveu o debate acerca dos modelos de aten- ção voltados para a qualidade de vida. torno da promoção da saúde, a partir da aproxi- mação do tema com o campo da alimentação e nutrição. Atualmente, o Ministério da Saúde no Brasil tem subsidiado ações de educação em saúde, vigilância e reorganização da rede de assistên- cia básica, com a implementação do Programa Saúde da Família (PSF), Programa Agentes Co- munitários de Saúde (PACS), Bolsa Família e Ren- da Mínima, Aleitamento Materno, Programa de Educação e Saúde através do exercício físico e do esporte, Programa de Humanização no Pré-Natal e Nascimento, entre outros 10. Essas ações têm favorecido a inclusão do tema da promoção na agenda política de saúde do país 10. O campo da alimentação e nutrição no debate da promoção da saúde A alimentação e nutrição constituem direitos humanos fundamentais consignados na Decla- ração Universal dos Direitos Humanos e são re- quisitos básicos para a promoção e a proteção da saúde, possibilitando a afirmação plena do potencial de crescimento e desenvolvimento humano com qualidade de vida e cidadania. O direito à alimentação é um direito do cidadão, portanto, dever do Estado e responsabilidade da sociedade. Nesse sentido, a busca em garantir o direito à alimentação de qualidade para todos os indivíduos, passa pela construção de um novo paradigma de sociedade, que tenha como eixo central a qualidade de vida do ser humano 11. Nessa direção, a Declaração de Adelaide 12, documento produzido na II Conferência Interna- cional de Promoção da Saúde realizada em 1988 na Austrália, destacou como uma das áreas prio- ritárias para a promoção da saúde: a alimentação e nutrição. A eliminação da fome, da má nutrição e dos agravos relacionados ao excesso de peso, foi considerada meta essencial para a melhoria da qualidade de vida das coletividades. De acor- do com essa declaração, as ações no setor de ali- mentação devem se estruturar no contexto da segurança alimentar e nutricional, para a garan- tia do acesso universal à ração de qualidade em quantidade suficiente, com respeito aos aspectos sócio-culturais das populações. Para tal, são pro- postas medidas de integração entre os setores de produção, distribuição e acesso aos alimentos, a fim de assegurar o direito eqüitativo e justo à alimentação 11. Nesse mesmo ano, a Constituição Federal brasileira reconhece a alimentação co- mo um direito humano universal. Mas adiante, no ano de 1999, o Ministério da Saúde no Brasil elabora a Política Nacional de Alimentação e Nu- trição, reforçando a questão da garantia à ração alimentar digna 13. Torna-se apropriado ressaltar, que o discurso da promoção da saúde se insere no contexto das limitações do modelo biomédico, que estrutura toda a organização do complexo médico-indus- trial. As críticas a esse modelo se dirigem à hege- monia do enfoque curativo, reducionista, hos- pitalocêntrico e de alto custo. Tal proposta não equaciona os agravos decorrentes do perfil de morbimortalidade das sociedades contemporâ- neas 4. Nesse sentido, a promoção da saúde favo- rece a superação desses impasses, porque amplia o conceito de saúde, incorpora novos princípios às práticas médicas, diferentes campos de co- nhecimento e, ainda, propõe estratégias organi- zacionais para os serviços de saúde. A promoção da saúde no Brasil Recentemen- te realizou-se no Rio de Janeiro, em maio de 2005, o I Seminário Brasileiro de Efetividade da Pro- moção da Saúde, evento promovido pela Escola Nacional de Saúde Pública Sergio Arouca, Fun- dação Oswaldo Cruz, cujo propósito foi analisar o impacto das ações sobre promoção da saúde no Brasil. Desse encontro resultou as propostas de expansão das experiências em promoção no país, a construção de uma rede de promoção da saúde e a criação de um programa de evidência de efetividade em promoção da saúde no Brasil, reunindo a Oficina Regional Latino-Americana da União Internacional de Promoção da Saúde e Educação para a Saúde (UIPES/ORLA), Associa- ção Brasileira de Pós-graduação em Saúde Coleti- va (ABRASCO) e outras instituições nacionais 10. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 O campo da alimentação e nutrição no debate da promoção da saúde Dessa forma, a promoção da saúde visa a enfrentar os limites do modelo biomédico hegemônico e dos mode- los de intervenção em saúde pública, apontan- do novos direcionamentos para o setor. Dentro desse contexto, acreditamos que a promoção da saúde situa-se em processo de construção teóri- ca e prática. Aponta para o redirecionamento das políticas e programas de saúde no país. Assim sendo, o debate sobre promoção da saúde nos remete a mudanças nas ações tradicionais no campo da saúde pública e, conseqüentemente, elas incluem as práticas nutricionais. Este traba- lho tem por objetivo contribuir para o debate em No Brasil, inúmeros são os desafios encontra- dos para que a população alcance um nível óti- mo de nutrição. A complexidade dos problemas alimentares, advindos da transição nutricional em curso no país, tem imposto reformulações urgentes ao setor, a fim de responder as novas de- mandas alimentares. A transição nutricional po- de ser conceituada como um fenômeno no qual ocorrem mudanças nos padrões de distribuição dos problemas alimentares de uma população. Em geral, refere-se à passagem da desnutrição NUTRIÇÃO E PROMOÇÃO DA SAÚDE 1677 para a obesidade 14. No Brasil, a transição nu- tricional assumiu um perfil singular 14,15. Assim, sem equacionar satisfatoriamente os problemas alimentares relacionados à carência absoluta de alimentos, o país convive com perfis nutricio- nais distintos, por vezes, sobrepostos. Nota-se a evolução da desnutrição, a permanência das anemias carenciais e o incremento da obesidade e dos agravos relacionados a ela. Tal perfil tem exigido dos profissionais nutricionistas uma re- flexão mais aprofundada de seu papel enquan- to agente ativo nesse processo. Sem dúvida, a superação dos problemas alimentares no país envolve aspectos intricados. Nesse contexto, a proposta de promoção da saúde sugere um ca- minho promissor para o campo da alimentação e nutrição. Fundamentalmente por se tratar de uma estratégia que articula diferentes setores e atores sociais, onde perpassam questões como: modelo de saúde sob o enfoque da integralida- de; articulação de saberes técnicos e populares; capacitação dos indivíduos; parcerias nas ações; intersetorialidade de órgãos públicos e privados; reforço à ação comunitária; educação popular; cidadania; ética pública; entre outros. Qual seria então o papel da nutrição frente à proposta de promoção da saúde? O que esse debate poderia apontar de novo para as práticas nutricionais? Quais as implicações desse modelo para o pro- fissional nutricionista? O campo da alimentação e nutrição no debate da promoção da saúde ções se apresentam sob a difícil tarefa encontrada pelo nutricionista em realizar uma análise mais aprofundada acerca da dinâmica dos problemas alimentares 17. Conseqüentemente, esse fato gera entraves na implementação de medidas de in- tervenção mais consistentes. Vale ressaltar que essa tem sido uma tendência das profissões da área da saúde. A formação tecnicista se apresen- ta como um dos principais empecilhos para a prática da integralidade. De tal forma que, atu- almente, emerge o movimento para a reforma na graduação. Nesse sentido, há urgência na defini- ção de uma política de Estado para a formação de profissionais de saúde, com base no modelo da integralidade 18,19,20. Ainda sob esse aspecto, não tem sido incomum verificar a insatisfação dos profissionais nutricionistas com a sua prá- tica, deflagrada através de sentimentos de frus- tração e impotência frente ao seu trabalho coti- diano, como têm demonstrado alguns estudos nacionais com esta categoria 21,22,23. A inclusão do campo da alimentação e nutrição no debate da promoção da saúde parece apontar para avan- ços importantes, abrindo novos horizontes para a atuação desses profissionais, os nutricionistas sociais. Se por um lado temos a possibilidade de repensar nossa prática enquanto profissionais de saúde e nossa atuação no campo da saúde públi- ca, de outro temos importantes percalços a serem superados. O desafio, portanto, está em superar práticas convencionais e fragmentadas, decor- rentes desse modelo de formação profissional. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Nutrição para a promoção da saúde A ação que envolve o segundo campo de atu- ação em promoção da saúde refere-se à articula- ção de saberes técnicos e populares. Essa ação se aproxima fundamentalmente da discussão ante- rior, pois implica transcender modelos tradicio- nais de atuação em nutrição. Ações de promoção da saúde impõem a criação de espaços democrá- ticos e participativos, a fim de estabelecer uma aproximação com a realidade dos indivíduos e das populações. O objetivo é tentar responder melhor às demandas de saúde e nutrição. Des- sa forma, abordagens persuasivas e ações verti- cais devem ser substituídas por estratégias mais amplas provenientes da relação profissional-pa- ciente, a partir do somatório de saberes técnicos e populares. Nesse aspecto, torna-se imprescin- dível superar a relação hierárquica entre o profis- sional e o usuário. Tomando como referência os campos de ação em promoção da saúde supracitados, a proposta deste trabalho é refletir sobre a atuação do pro- fissional nutricionista no contexto da promoção da saúde. Nessa direção, no que compreende a adoção do modelo de atenção sob o enfoque da integralidade, o desafio imposto à categoria dos nutricionistas remete a mudanças estruturais, que têm início na própria formação acadêmi- ca do profissional. Analisando os currículos dos cursos de nutrição, notamos que eles se apresen- tam moldados sob a vertente biológica da aten- ção clínico-assistencial estruturada no modelo biomédico dominante. E, em contrapartida, na deficiente abordagem prestada às questões po- líticas, sócio-econômicas e culturais necessárias, não somente para a construção de uma análise crítica a respeito da conjuntura alimentar dos grupos populacionais, mas para as medidas de atenção em saúde. A repercussão desse fato es- tá na dificuldade de articular os conhecimentos biológicos da nutrição com sua dimensão social, prejudicando a percepção da totalidade do fenô- meno sob estudo 16,17. Na prática, essas implica- No âmbito das ações direcionadas à capacita- ção dos indivíduos, o propósito será garantir con- dições para que a população possa exercer sua autonomia decisória, optando por escolhas ali- mentares mais saudáveis. Nesse aspecto, a edu- cação nutricional assume um papel fundamental para o exercício e fortalecimento da cidadania alimentar. A prática do nutricionista assume o Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Ferreira VA, Magalhães R 1678 desafio de promover uma educação nutricional eficaz, com ações que promovam mudanças nos hábitos alimentares dos indivíduos e de suas fa- mílias. Nutrição para a promoção da saúde Sob esse aspecto é interessante destacar que na primeira publicação da OMS, que tratou especificamente da questão da educação nutri- cional, já se fazia referência sobre a importância do ensino de bons hábitos alimentares para as populações 24. Assim, outro ponto fundamental a ser destacado quando se propõe a articulação do campo da alimentação e nutrição no contexto de promoção da saúde é justamente o tema da edu- cação nutricional. Destacamos que a educação nutricional a qual nos referimos, diz respeito a um processo de aprendizagem e não de adestra- mento. Educar no sentido de um processo amplo de desenvolvimento da pessoa, na busca de sua integração e harmonização, nos diversos níveis do físico, do emocional e do intelectual 25. Deve envolver metodologia de ensino-aprendizagem para o desenvolvimento de habilidades individu- ais, que permitam enfrentar as questões relacio- nadas à alimentação e nutrição. sociedades onde existem agravos relacionados à má nutrição tal como o Brasil, verifica-se tam- bém desigualdades no acesso e na produção dos alimentos 27. Nesse aspecto, medidas de demo- cratização dos recursos produtivos por meio da inclusão dos indivíduos e das comunidades nes- se processo são fundamentais. As ações de incen- tivo à agricultura familiar, a hortas comunitárias, a cooperativas agrícolas, se apresentam como al- ternativas viáveis. Devemos destacar que as desi- gualdades no acesso à ração alimentar digna, se refere a uma produção social e econômica, que deve ser combatida pelos nutricionistas sociais. Torna-se necessário ressaltar ainda, a importân- cia do diagnóstico consistente por parte dos nu- tricionistas, a fim de reconhecer as reais condi- ções de nutrição dos indivíduos e comunidades assistidas. A partir dele será possível propor me- didas educativas de maior resolutividade. Dessa maneira, se os problemas alimentares decorrem da dificuldade de acesso aos alimentos, pouco impacto terão as técnicas de aconselhamento e orientação alimentar. A análise acerca da educação nutricional no Brasil 26 revela desafios importantes à categoria profissional dos nutricionistas. Embora seja dis- ciplina obrigatória dos currículos de nutrição e conteúdo das práticas desenvolvidas por esses profissionais, a fragilidade de integrá-la com dis- ciplinas de cunho social tal como nos referimos anteriormente, tende a comprometer a qua- lidade e a eficácia dos programas de educação nutricional. Isso porque a contextualização dos problemas alimentares, a partir da agregação de disciplinas provenientes do campo das ciências humanas e sociais, mostra-se essencial nesse processo 17. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 O desafio da intersetorialidade Importante destacar que a estratégia da in- tersetorialidade é especialmente importante pa- ra a área de segurança alimentar e nutricional. Reconhecidamente a questão alimentar é com- plexa e impõe a formação de alianças por envol- ver diferentes esferas das políticas públicas, tais como a produção, comercialização, distribuição e consumo de alimentos, controle de qualidade, estímulo à educação nutricional, dentre outras ações 30. A intersetorialidade se apresenta, assim, como uma estratégia prioritária na construção de espaços legítimos para o diálogo entre os di- ferentes setores envolvidos na dinâmica alimen- tar, visando a assegurar o acesso à alimentação digna. O debate em torno da promoção da saúde parte do pressuposto de que saúde e qualidade de vida não dependem do oferecimento isolado de um dado serviço, mas sim, da oferta de um conjunto de condições de vida e de trabalho 28. Trata-se, portanto, de uma proposta que implica formação de alianças, estabelecimento de parcerias e inter- setorialidade nas ações. A questão da interseto- rialidade apresenta-se como principal estratégia para implementação da proposta de promoção da saúde. Consiste no reconhecimento de que o setor saúde isoladamente não consegue respon- der às demandas de saúde da população, criando com isso a necessidade de articular as ações de saúde com os demais setores da sociedade. Buss & Ramos 29, ao fazerem referência ao tema da in- tersetorialidade, alertam que, para sua efetivação, há necessidade de superar e romper as barreiras comunicacionais. Para os autores são elas que impedem o diálogo entre os diferentes setores. O estabelecimento de parcerias impõe des- prendimento, ousadia, envolvimento e criativi- dade para os profissionais nutricionistas porque rompe com as formas convencionais de atuação da categoria. Nesse sentido, parcerias setoriais, o somatório de saberes técnicos e populares, a su- peração do modelo biomédico dominante com a incorporação da visão integral dos indivíduos, assim como, a habilidade técnica desses profis- sionais (com ênfase na educação nutricional), nos parece ser o caminho para incorporar a nu- trição dentro da proposta de promoção da saúde. Sabemos não se tratar de tarefa fácil, porém ela nos é requisitada e, portanto, necessária. Como mencionamos anteriormente, a transição nutri- cional em curso no país, justifica a mobilização dos nutricionistas sociais nas ações de promoção da saúde. Refletindo especificamente sobre a prática do nutricionista, a questão intersetorial pode nortear a atuação destes profissionais nos diver- sos cenários, que ultrapassam o âmbito das uni- dades de saúde. O desafio da intersetorialidade Isso porque, tradicionalmente, a prática do nutricionista em unidades de atenção primária de saúde se configura pela atuação do profissional no consultório, por meio do atendi- mento ambulatorial, integrado ou não, ao traba- lho em equipe. Cabe ao nutricionista promover intervenção alimentar através do atendimento individualizado ou em grupo, e realizar ativi- dade preventiva de educação nutricional. São ainda atribuições do profissional nutricionista nas unidades locais: a vigilância nutricional e a elaboração de estatísticas sobre as atividades de- sempenhadas nas unidades. Assim, o cotidiano de práticas desempenhadas por esses profissio- nais nas unidades básicas de saúde apresenta-se circunscrito ao consultório, ou no máximo, em atividades dentro da própria unidade. A partir da intersetorialidade é possível inserir a nutri- ção em outros ambientes sociais, tais como nas escolas públicas e privadas; na comunidade por intermédio dos agentes comunitários de saúde, das associações de moradores e do próprio PSF proposto pelo Ministério da Saúde; no ambiente de trabalho formal; nas ações de vigilância sani- tária; nos órgãos de comunicação em geral; nas organizações não-governamentais (ONGs); em zonas agrícolas; enfim, inúmeros são os espaços nos quais a nutrição pode estar articulada. Fun- damentalmente, essa inserção coloca a temática da nutrição no cerne das discussões nos diversos espaços sociais, fortalecendo dessa maneira, es- se campo de práticas. Nutrição para a promoção da saúde Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 NUTRIÇÃO E PROMOÇÃO DA SAÚDE 1679 Nutrição para a promoção da saúde Observa-se que o modelo tradicio- nal da educação nutricional normalmente não propõe métodos de ensino problematizadores e construtivistas. Em geral, o método tradicional de educação nutricional se concentra nos efei- tos biológicos dos nutrientes no organismo, na orientação alimentar, e ainda, na preservação das propriedades nutritivas dos alimentos envol- vendo as técnicas de preparo e armazenamento. Tais ações podem ser consideradas benéficas já que, em algumas circunstâncias, verifica-se que os indivíduos apresentam desconhecimento sobre a questão alimentar. Entretanto, é preciso reconhecer que o Brasil é um país extenso, que apresenta contrastes e desigualdades sociais que acabam por comprometer o acesso da população ao direito universal à alimentação. A desigualda- de no acesso à ração alimentar é uma realidade vivenciada por parcelas significativas da popu- lação brasileira. Ou seja, o país apresenta uma enorme fragilidade no que se refere à questão da segurança alimentar e nutricional 27. Assim, nas Ações que se propõem ao reforço à ação co- munitária devem sobrepor atividades de educa- ção nutricional de aconselhamento. Demandam a criação de espaços públicos, que possam de- senvolver o pensamento crítico para a identifi- cação de problemas e a elaboração de estratégias para sua superação. Implica a valorização de es- paços para o debate e o estabelecimento de par- cerias entre profissional-usuário-comunidade. No âmbito coletivo, ao educador caberia assumir seu papel de agente político. A participação na formulação das políticas, programas e ações em alimentação e nutrição junto ao poder público, assim como, sua articulação com as organiza- ções não-governamentais, o setor privado e a sociedade civil são fundamentais. A inserção nos espaços educativos, tais como creches, escolas e nos meios de comunicação de massa também devem ser fomentadas. É imprescindível ainda, que o educador promova, ou esteja engajado, em debates, encontros, seminários, sejam eles locais ou nacionais, para o fortalecimento das ações de educação nutricional. A educação popular, por sua vez, compreen- de todos os aspectos já discutidos. Deve envolver atividades direcionadas a: mudança comporta- mental, informações sobre políticas públicas vi- gentes, assim como o incentivo ao exercício per- manente dos diretos e deveres, especialmente os relacionados à alimentação. Importante enfocar nessas ações, informações nutricionais e educa- ção com enfoque na higiene e saúde. Por fim, o último campo de ação em promoção da saúde re- monta à questão da intersetorialidade das ações e será discutido a seguir. Cad. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Conclusão Por fim, destacamos que os desafios impostos para o campo da nutrição no contexto da pro- moção da saúde são inúmeros. No entanto, tais desafios apontam para a possibilidade de compatibilizar diferentes olhares e perspectivas teórico-metodológicas na direção do diálogo interdisciplinar. Repensando seu lugar como profissional da área da saúde e reintegrando as práticas alimentares ao conjunto de experiên- cias, saberes e intervenções voltadas ao atendi- mento das necessidades sociais dos indivíduos e grupos sociais, o nutricionista pode avançar na construção de uma proposta de atuação capaz de contribuir para a redução das iniqüidades em saúde e a garantia da qualidade de vida. Nesse esforço, portanto, a discussão da efetividade das ações, o aprendizado com as experiências em curso, a escolha de novas ferramentas metodo- lógicas devem penetrar na formação e no exer- cício profissional, tendo por intuito romper a fragmentação tecnicista tradicional e promover Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Ferreira VA, Magalhães R 1680 a integralidade, a intersetorialidade, a eqüidade e a participação social. A mobilização em torno de uma nova prática para o nutricionista esta- a integralidade, a intersetorialidade, a eqüidade e a participação social. A mobilização em torno de uma nova prática para o nutricionista esta- belece, assim, elos fortes com o debate acerca da formulação e implementação de políticas e ações de promoção da saúde. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 V. A. Ferreira foi responsável pela elaboração, redação e revisão do artigo. R. Magalhães participou da elabo- ração e revisão do artigo. Ferreira VA, Magalhães R 1680 Referências 17. Bosi MLM. A face oculta da nutrição: ciência e ideologia. Rio de Janeiro: Editora Espaço e Tempo; 1988. 1. Winslow CEA. The untilled fields of public health. Science 1920; 51:23. 2. Sigerist H, editor. The university at the crossroad. Nova York: Henry Schumann Publisher; 1946. 2. Sigerist H, editor. The university at the crossroad. 18. Bosi MLM. Profissionalização e conhecimento: a nutrição em questão. São Paulo: Editora Hucitec; 1996. Nova York: Henry Schumann Publisher; 1946. 3. Leavell S, Clark EG. Medicina preventiva. São Pau- lo: McGraw-Hill; 1976. 4. Buss PM. Promoção da saúde e qualidade de vida. Ciênc Saúde Coletiva 2000; 5:163-77. 19. Pinheiro R, Mattos RA, organizadores. Construção da integralidade: cotidiano, saberes e práticas em saúde. Rio de Janeiro: Eduerj/ABRASCO; 2003. 5. Czeresnia D, Freitas CM, organizadores. Promoção da saúde: conceitos, reflexões, tendências. Rio de Janeiro: Editora Fiocruz; 2003. 20. Ceccim RB, Feuerwerker LCM. Mudança na gradu- ação das profissões de saúde sob o eixo da integra- lidade. Cad Saúde Pública 2004; 20:1400-10. 6. Buss PM. Uma introdução ao conceito de promo- ção da saúde. In: Czeresnia D, Freitas CM, organi- zadores. Promoção da saúde: conceitos, reflexões, tendências. Rio de Janeiro: Editora Fiocruz; 2003. p. 15-38. 21. Mattos RA. A integralidade na prática (ou sobre a prática da integralidade). Cad Saúde Pública 2004; 20:1411-6. 22. Prado SD. Autonomia tentadora e reificada: estu- do sobre nutricionistas dos Centros Municipais de Saúde do Rio de Janeiro [Dissertação de Mestra- do]. Rio de Janeiro: Escola Nacional de Saúde Pú- blica, Fundação Oswaldo Cruz; 1993. 7. Minayo MCM, Hartz ZMA, Buss PM. Qualidade de vida e saúde: um debate necessário. Ciênc Saúde Coletiva 2000; 5:7-18. 8. Ministério da Saúde. 8a Conferência Nacional de Saúde: relatório final. Brasília: Ministério da Saú- de; 1986. 23. Amorim STSP, Moreira H, Carraro TE. A formação de pediatras e nutricionistas: a dimensão humana. Rev Nutr 2001; 14:111-8. 9. Ministério da Saúde. Lei Federal nº. 8.080, de 19 de setembro de 1990. Dispõe sobre as condições para a promoção, proteção e recuperação da saú- de, a organização e o funcionamento dos serviços correspondentes e dá outras providências. Diário Oficial da União 1990; 19 set. 24. Bosi MLM. Trabalho e subjetividade: cargas e so- frimentos na prática da nutrição social. Rev Nutr 2000; 13:107-15. 25. Ritchie JAS. Buenos hábitos en la alimentación: métodos para inculcarlos al público. Rome: Food and Agricultural Organization; 1951. (Estudios so- bre Nutrición, 6). 10. Resumo V. A. Ferreira foi responsável pela elaboração, redação e revisão do artigo. R. Magalhães participou da elabo- ração e revisão do artigo. A promoção da saúde tem ao longo dos últimos anos se apresentado como uma estratégia promissora para o campo da Saúde Pública. Este estudo propõe articu- lar o tema da nutrição no debate contemporâneo da promoção da saúde, analisando o papel dos nutri- cionistas neste processo. Frente ao reconhecimento da complexidade do quadro alimentar brasileiro advindo da transição nutricional em curso no país, a proposta de promoção da saúde aponta perspectivas, mas tam- bém desafios ao campo da alimentação e nutrição. Em linhas gerais, novas exigências relacionadas à forma- ção acadêmica e ao modelo de atenção tendem a for- talecer a busca de parcerias, inovação das práticas ali- mentares à educação nutricional voltada à construção da cidadania alimentar. Promoção da Saúde; Educação Alimentar e Nutricio- nal; Transição Nutricional; Nutrição Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 NUTRIÇÃO E PROMOÇÃO DA SAÚDE 1681 Referências Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Referências Buss PM. Promoção da saúde no Brasil. I Seminá- rio Brasileiro de Efetividade da Promoção da Saú- de. http://www.ensp.fiocruz.br/eventos_novo/ dados/arq547.ppt (acessado em 20/Jul/2005). 26. Boog MCF. Educação nutricional: passado, presen- te e futuro. Rev Nutr 1997; 10:5-19. 11. Valente FLS. Direito humano à alimentação: desa- fios e conquistas. São Paulo: Editora Cortez; 2002. 27. L’Abbate S. As políticas de alimentação e nutrição no Brasil. II. A partir dos anos setenta. Rev Nutr 1989; 2:7-54. 12. Ministério da Saúde. As cartas da promoção da saúde. Brasília: Ministério da Saúde; 2002. 28. Valente FLS. Fome e desnutrição: determinantes sociais. São Paulo: Editora Cortez; 1988. 28. Valente FLS. Fome e desnutrição: determinantes sociais. São Paulo: Editora Cortez; 1988. 13. Ministério da Saúde. Política nacional de alimen- tação e nutrição. Brasília: Ministério da Saúde; 1999. 29. Buss PM, Ramos CL. Desenvolvimento local e agenda 21: desafios da cidadania. Cadernos da Oficina Social 2000; 3:13-65. 14. Kac G, Velásquez-Melendez G. A transição nutri- cional e a epidemiologia da obesidade na América Latina. Cad Saúde Pública 2003; 19 Suppl 1:S4-5. 30. Inojosa RM, Junqueira LAP. O setor saúde e o de- safio da intersetorialidade. Cad FUNDAP 1997; 21:156-64. 30. Inojosa RM, Junqueira LAP. O setor saúde e o de- safio da intersetorialidade. Cad FUNDAP 1997; 21:156-64. 15. Escoda MSQ. Para a crítica da transição nutricio- nal. Ciênc Saúde Coletiva 2002; 7:219-26. 16. Sichieri R, Coitinho D, Pereira R, Marins V, Moura A. Variações temporais do estado nutricional e do consumo alimentar no Brasil. Physis (Rio de J) 1997; 7:31-50. Versão final reapresentada em 04/Jan/2007
https://openalex.org/W1761132818
https://ccforum.biomedcentral.com/counter/pdf/10.1186/cc3891
English
null
Clinical review: interpretation of arterial pressure wave in shock states.
Critical care
2,005
cc-by
5,554
Abstract In critically ill patients monitored with an arterial catheter, the arterial pressure signal provides two types of information that may help the clinician to interpret haemodynamic status better: the mean values of systolic, diastolic, mean and pulse pressures; and the magnitude of the respiratory variation in arterial pressure in patients undergoing mechanical ventilation. In this review we briefly discuss the physiological mechanisms responsible for arterial pressure generation, with special focus on resistance, compliance and pulse wave amplification phenomena. We also emphasize the utility of taking into consideration the overall arterial pressure set (systolic, diastolic, mean and pulse pressures) in order to define haemodynamic status better. Finally, we review recent studies showing that quantification of respiratory variation in pulse and systolic arterial pressures can allow one to identify the mechanically ventilated patients who may benefit from volume resuscitation. Bouchra Lamia1, Denis Chemla2, Christian Richard3 and Jean-Louis Teboul3 1Assistant Professor, Service de Réanimation Médicale, Centre Hospitalier Universitaire de Bicêtre, Assistance Publique – Hôpitaux de Paris, Université Paris Sud 11, Le Kremlin-Bicêtre, France Assistant Professor, Service de Réanimation Médicale, Centre Hospitalier Universitaire de Bicêtre, Assistance Publique – niversité Paris Sud 11, Le Kremlin-Bicêtre, France , , 2Professor, Service de Physiologie, Centre Hospitalier Universitaire de Bicêtre, Assistance Publique – Hôpitaux de Paris, Université Paris Sud 11, Le Kremlin-Bicêtre, France Kremlin-Bicêtre, France 3Professor, Service de Réanimation Médicale, Centre Hospitalier Universitaire de Bicêtre, Assistance Publique – Hôpitaux de Paris, Université Paris Sud 11, Le Kremlin-Bicêtre, France 3Professor, Service de Réanimation Médicale, Centre Hospitalier Universitaire de Bicêtre, Assistance Publique – Hôpitaux de Paris, Université Paris Sud 11, Le Kremlin-Bicêtre, France Corresponding author: Jean-Louis Teboul, jean-louis.teboul@bct.aphp.fr Critical Care 2005, 9:601-606 (DOI 10.1186/cc3891) Published online: 26 October 2005 This article is online at http://ccforum.com/content/9/6/601 © 2005 BioMed Central Ltd Published online: 26 October 2005 This article is online at http://ccforum.com/content/9/6/601 © 2005 BioMed Central Ltd (DAP), and MAP and PP; and the magnitude of the respiratory variation in arterial pressure. Physiological background Aortic pressure The arterial pressure wave can be described in terms of its steady and pulsatile components [2,3]. The steady component is the MAP, which is considered constant from aorta to peripheral large arteries. The arterial pressure signal oscillates around this mean value in a complex manner. A simplified analysis relies on measurement of maximal and minimal arterial pressures values (i.e. SAP and DAP), which allows calculation of arterial PP (PP = SAP – DAP). Although DAP is roughly constant from aorta to periphery, SAP and therefore PP increase from aorta to periphery in young, healthy individuals. The degree of this so-called pulse wave amplification is about 15 mmHg on average, and it may vary depending on physiological (e.g. sex, age, heart rate, body height) or pathological (e.g. changes in vasomotor tone and arterial stiffness) conditions [3]. Thus, unlike MAP and DAP, peripheral SAP and PP are not necessarily reliable estimates of central pressure values. Available online http://ccforum.com/content/9/6/601 Available online http://ccforum.com/content/9/6/601 CO = cardiac output; DAP = diastolic arterial pressure; MAP = mean arterial pressure; mRAP = mean right atrial pressure; PP = arterial pulse pressure; SAP = systolic arterial pressure; SV = stroke volume; SVR = systemic vascular resistance; SVV = stroke volume variation. Clinical review: Interpretation of arterial pressure wave in shock t t Bouchra Lamia1, Denis Chemla2, Christian Richard3 and Jean-Louis Teboul3 Clinical correlates Background In the intensive care unit, arterial pressure can be monitored with either invasive or noninvasive techniques. It is beyond the scope of this review to detail the technical aspects of such monitoring. In brief, the oscillometric, noninvasive devices measure MAP (point of maximal oscillation), whereas estimation of SAP and DAP is obtained from various algorithms, depending on the device used. The method may be inaccurate in patients with marked changes in peripheral vascular tone, either primary or secondary to compensatory mechanisms or to the use of vasoactive agents. Therefore, patients with circulatory shock are often equipped with an intra-arterial catheter to obtain more accurate arterial pressure measurements. Furthermore, this is the only way to visualize the entire arterial pressure curve, and this also allows easy blood withdrawal for repeated biochemical analyses. Compliance = SV/aortic PP (2) (2) In fact, the arterial pressure wave has a complex transmission across the branching and tapering of the arterial tree, and travels with a high pulse wave velocity (about 8–10 m/s). As a result, wave reflections occur at aortic level and take place in early diastole in healthy individuals, with a beneficial boosting effect on coronary filling. This latter effect is lost where arterial stiffness is increased (e.g. in aged individuals), and wave reflection then occurs in late systole, thus increasing the afterload of the still-ejecting left ventricle. Analysis of the timing and extent of wave reflection adds valuable information regarding the pulsatile load imposed on the left ventricle [6,7]. Although the aortic pressure curve shape per se contains valuable haemodynamic information, precise analysis of the shape of the peripheral arterial pressure curve cannot be recommended for assessment of haemodynamic status at the bedside. Indeed, there are major differences between peripheral and aortic pressure waves because of complex propagation and reflection wave phenomena. Furthermore, fluid-filled catheter and transducer characteristics lead to MAP = (heart rate × SV × SVR) + mRAP (1) There is a tight mathematical relationship between SAP, DAP, PP and MAP. Indeed, in the general population [1-3,8] as well as in critically ill patients [9], the true, time averaged MAP can be accurately calculated according to the following classic empirical formula: Where SV is the stroke volume. Three important points must be stressed. First, SVR is not a measured parameter but is calculated from the measured values of MAP, CO and mRAP. Second, despite clear limitations in Poiseuille’s Law when it is applied to the human circulation, it is generally believed that SVR is inversely proportional to the fourth power of the functional radius of the systemic network (mainly that of the distal resistive arteries). Finally, for a given MAP, SVR depends only on the value of CO, regardless of the way in which CO is generated (e.g. low SV/high heart rate or high SV/low heart rate). MAP = DAP + 1/3(SAP – DAP) (3) (3) MAP = DAP + 1/3(SAP – DAP) Introduction Most physicians currently use the maximal (systolic) and minimal (diastolic) arterial pressure to assess cardiovascular status because these two pressures are easily measurable using a sphygmomanometer. For example, hypertension is defined as a systolic pressure of 140 mmHg or above or a diastolic pressure of 90 mmHg or above [1]. Recent studies have increased clinical interest in also analyzing other pressures, especially pulse pressure (PP) and mean arterial pressure (MAP). In this article we focus on the interpretation of arterial pressure wave in critically ill patients monitored with an arterial catheter. The arterial pressure signal can provide two types of information that may help the clinician to interpret haemodynamic status better: the mean values of systolic arterial pressure (SAP) and diastolic arterial pressure The key equation governing human haemodynamics refers to the steady components of pressure and flow. The driving pressure of the systemic circulation is MAP minus the mean systemic pressure. The mean systemic pressure is the theoretical pressure value that would be observed in the overall circulatory system under zero flow conditions. As derived from Ohm’s law, the driving pressure is the product of cardiac output (CO) and systemic vascular resistance (SVR) 601 Critical Care December 2005 Vol 9 No 6 Lamia et al. [4]. Given that mean systemic pressure cannot routinely be measured, mean right atrial pressure (mRAP) is currently taken as a surrogate, such that MAP can be expressed as follows: characteristics of arterial pressure wave transmission and reflection. SV, arterial stiffness (1/compliance), heart rate, MAP and the distance from aorta to peripheral artery influence the pulsatile arterial pressure at the peripheral site. MAP = (heart rate × SV × SVR) + mRAP (1) (1) This formula can be rewritten as follows: MAP = (2/3 × DAP) + (1/3 × SAP) (4) MAP = (2/3 × DAP) + (1/3 × SAP) (4) MAP = (2/3 × DAP) + (1/3 × SAP) (4) In other words, this rule of thumb implies that DAP contributes more to MAP, by a factor of two, than does SAP. It is often assumed that mRAP is small enough that it may be neglected in comparison with MAP, thus allowing the calculation of the MAP/CO ratio (total peripheral resistance). However, this statement is commonly not valid in hypotensive patients, especially those with right heart failure. It is often assumed that mRAP is small enough that it may be neglected in comparison with MAP, thus allowing the calculation of the MAP/CO ratio (total peripheral resistance). However, this statement is commonly not valid in hypotensive patients, especially those with right heart failure. From a theoretical point of view, arterial compliance cannot be quantified by means of a single number because compliance decreases when MAP increases. Otherwise stated, the distending volume/distending pressure relation- ship has a curvilinear shape and the systemic vessels are stiffer (i.e. less easily distensible) at higher levels of mean distending pressure [10]. However, it is believed that this phenomenon plays only a moderate role over the physiological range of MAP observed in clinical practice. Systemic arteries are not just resistive conduits that distribute CO to peripheral organs. Rather, systemic arteries (especially the proximal aorta) are elastic structures that dampen the discontinuous ventricular ejection by storing a fraction of the SV in systole and restoring it in diastole, thus allowing continuous blood flow at the organ level. Therefore, the human circulation can be reasonably described by using the simplified Windkessel model, in which a capacitive element (total arterial compliance) is added to SVR. In this model, the compliance value has been accurately estimated as follows [5]: Informative value of systolic and diastolic arterial pressures The various patterns of arterial pulse observed with ageing [18] and in chronic hypertensive states [19] may help us to understand the haemodynamic correlates of SAP and DAP. Increases in the tone of distal muscular arteries is the landmark of systolic/diastolic hypertension, with increased MAP and essentially unchanged PP because of congruent increases in SAP and DAP. This pattern is typically observed in the early stages of essential hypertension in young or middle-aged individuals. Alternatively, increased stiffness of proximal elastic arteries is the landmark of systolic hypertension, with increased PP, increased SAP and decreased DAP. Increased SAP contributes to left ventricular pressure overload and increased oxygen demand, whereas decreased DAP can potentially compromise coronary perfusion and oxygen supply. This pattern is typically observed at the late stages of essential hypertension in elderly individuals [19]. Arterial pulse patterns that combine the two typical patterns described above can also be observed. Finally, it must be noted that isolated increases in SV may help to explain the isolated systolic hypertension observed in young patients [20]. The constancy of MAP in large arteries explains why MAP is considered the driving pressure for perfusion of most vital organs [10]. As a result, when MAP falls below the lower limit of autoregulation, regional blood flow becomes linearly dependent on MAP. In some pathological settings, MAP overestimates the true perfusion pressure because of marked increases in extravascular pressure at the outflow level in specific vascular areas (intracranial hypertension, abdominal compartment syndrome) or because of marked increases in systemic venous pressure (right heart failure). There is no universally accepted MAP threshold that provides assurance that blood flow is independent of arterial pressure in most vital organs. Indeed, the critical level of MAP probably differs among organs and depends on numerous factors, including age, previous history of hypertension, neuro- vegetative state and vasoactive therapy. Thus, there is no single ‘magic value’ for therapeutic MAP goals in shock states. However, in septic shock current resuscitation guidelines [13,14] recommend that an MAP of 65 mmHg or greater be achieved and maintained, in order to avoid additional organ hypoperfusion. On the other hand, increasing MAP to In clinical practice, differences in mean DAP values are believed to reflect mainly changes in vascular tone, with lower DAP corresponding to decreased vascular tone. Informative value of mean arterial pressure Both baseline MAP and changes in MAP must be explained by the combined influences of heart rate, SV, SVR and mRAP (Eqn 1). Autoregulation of the MAP is a key feature of the cardiovascular system. Acute decreases in MAP are counter- acted by the sympathetically mediated tachycardia, increases in SV (mediated via positive inotropic effect and veno- constriction) and arterial systemic vasoconstriction. In critically ill patients, especially those with sepsis or who are receiving sedative drugs, these compensatory mechanisms can be either impaired or overwhelmed. Informative value of pulse pressure Although it remains to be demonstrated, it is widely accepted that peripheral PP at rest depends mainly on SV and arterial stiffness (1/compliance) [3,8]. In this regard, in older individuals increased arterial stiffness leads to increased PP, and this results in systolic hypertension associated with decreased DAP. On the other hand, in patients with cardiogenic or hypovolaemic shock, decreased SV results in a lower PP. The paradoxical finding of a low PP in the elderly and in patients with hypertension or atherosclerosis strongly suggests that SV is markedly low (unpublished observation) because arterial stiffness is expected to be increased in these patients. In the remaining part of this review we focus on the informative value of the four pressures routinely measured (MAP, SAP, DAP and PP) and the clinical significance of respiratory changes in arterial pressure in patients with circulatory shock. In the remaining part of this review we focus on the informative value of the four pressures routinely measured (MAP, SAP, DAP and PP) and the clinical significance of respiratory changes in arterial pressure in patients with circulatory shock. It is likely that the monitoring of short-term PP changes in critically ill patients may provide valuable, indirect information on concomitant SV changes. In this regard, increases in PP induced by passive leg raising are linearly related to con- comitant SV changes in mechanically ventilated patients [17]. Peripheral arterial pressure From a local point of view, peripheral arterial pressure is a function of both the distending blood volume and the compliance of the artery under study. By using an integrated dynamic description, peripheral arterial pressure is mainly determined by the pressure at the aortic root level and the 602 Available online http://ccforum.com/content/9/6/601 unavoidable distortion of the signal. Sources of measurement error have been widely discussed and may relate to various factors, including the transducer–tubing–catheter subsystem [11,12]. Testing the system and avoiding underdamping, overdamping, zeroing and calibration errors are prerequisites for optimal analysis of arterial pressure values and arterial pressure waveform. Frequency response problems are especially evident in pressure measurements. As with any complex signal waveform, the arterial pressure waveform can be constructed by combining sine waves at different frequencies, amplitudes, and phases, as discussed previously [11,12]. Frequency response is a measure of an instrument’s ability to measure an oscillating signal accurately. A system is said to be damped when some of the signal frequencies are attenuated, and one must seek optimal damping. 85 mmHg does not result in improved tissue oxygenation and regional perfusion [15,16]. Finally, optimal MAP goals may be significantly greater in certain, subgroups including aged or previously hypertensive individuals. Clinical scenario The knowledge of these four arterial pressure values, namely SAD, DAP, MAP and PP, allows rational analysis of haemodynamic status, especially in patients with circulatory shock. This can be summarized in the following clinical scenario, in which two elderly patients admitted to the emergency room for circulatory shock and exhibiting the same 80 mmHg SAP may require different management because of markedly different haemodynamic profiles. In septic shock patients receiving controlled ventilation, a ∆PP threshold value of 13% allowed discrimination between responders (∆PP ≥13%) and nonresponders (∆PP <13%) to volume resuscitation with high positive and negative predictive values [25]. Moreover, the higher the ∆PP was at baseline, the greater the increase in CO in response to fluid infusion [25]. Furthermore, the decrease in ∆PP associated with fluid infusion was correlated with the increase in CO. Thus, ∆PP may be helpful not only in predicting but also in monitoring the haemodynamic effects of volume expansion. It must be noted that neither baseline mRAP nor baseline pulmonary artery occlusion pressure predicted the haemodynamic response to volume infusion in that study [25], which confirms the poor reliability of filling pressures in detecting fluid responsiveness [26]. Similar results were reported in patients mechanically ventilated for acute respiratory distress syndrome [27], in cardiac surgery patients [28,29] and in a general population of critically ill patients [30]. Let us define patient A as having 35 mmHg DAP and patient B as having 60 mmHg DAP. Despite similar SAP, the two patients differ markedly in terms of the steady component of arterial pressure (MAP = 50 mmHg in patient A; MAP = 67 mmHg in patient B) and the pulsatile component of arterial pressure (PP = 55 mmHg in patient A; PP = 20 mmHg in patient B). It is intuitive that patient A requires urgent and aggressive therapy to increase the markedly low MAP (in order to prevent vital organ hypoperfusion) and DAP (to prevent myocardial ischaemia). It is likely that vascular tone is reduced in patient A and that vasopressor therapy is urgently required. In patient B, the salient feature is the markedly decreased PP. Given the advanced age of the patient, the unexpected finding of a low PP strongly suggests that the SV is dramatically reduced. This implies that fluid challenge and/or inotropic support may be required. New real-time haemodynamic monitoring devices automatically calculate and continuously display ∆PP values. Informative value of systolic and diastolic arterial pressures As discussed above, and for a given MAP, increased arterial stiffness also tends to be associated with lower DAP (and higher SAP as well). According to the classic MAP empirical formula, and for a given MAP, an increase in arterial stiffness increases SAP twofold more than it decreases DAP. Finally, from a beat-to- 603 Critical Care December 2005 Vol 9 No 6 Lamia et al. beat point of view, prolonged diastolic time is associated with lower DAP and shorter diastolic time with higher DAP. as a marker of the degree of haemodynamic response to fluid loading [25]. The ∆PP is calculated as the difference between the maximal (PPmax) and the minimal (PPmin) values of PP over a single respiratory cycle, divided by the average of the two values, and expressed as a percentage (Fig. 1): ∆PP (%) = (PPmax – PPmin)/([PPmax + PPmin]/2) × 100. Respiratory variations in arterial pressure Background Analysis of respiratory changes in SAP (∆SAP) has also been proposed as a marker of fluid responsiveness [21,22]. However, ∆SAP depends not only on changes in SV but also on the cyclic direct effects of intrathoracic pressure on the thoracic aorta wall [31]. Therefore, significant ∆SAP can theoretically be observed in nonresponding patients. Accordingly, ∆SAP have been shown to be slightly less valuable than ∆PP in detecting volume responsiveness [25,28,29]. ∆SAP is useful in settings where ∆PP monitoring is not available, given its superiority over static indices of preload in assessing preload reserve [25,29]. In patients receiving mechanical ventilation, the magnitude of the ventilatory cyclic changes in arterial pressure has been proposed as a marker of the degree of hypovolaemia [21] and of volume responsiveness [22-24]. The rationale under- pinning the use of such a marker is based on the hypothesis that the degree of heart–lung interaction is mainly related to the presence of cardiac preload reserve. It is beyond the scope of this review to describe the precise mechanisms involved, which are detailed in previous reviews [23,24]. Briefly, mechanical ventilation should result in significant changes in left ventricular SV only if both ventricles have some preload reserve [23,24]. Because a significant haemo- dynamic response to fluid should occur only under biventricular preload dependent conditions, it has been logically postulated that the magnitude of cyclic changes in SV should correlate with the degree of fluid responsiveness [23,24]. It has been proposed that an end-expiratory pause should be performed to separate the inspiratory increase in SAP (∆up, not always due to an increase in SV) and the expiratory decrease in SAP (∆down). The ∆down component reflects the expiratory decrease in left ventricular SV [21]. In patients with septic shock, a baseline ∆down threshold value of 5 mmHg was demonstrated to distinguish responders from nonresponders to fluid administration better than static markers of cardiac preload [22]. The ∆up component reflects the inspiratory increase in systolic pressure, which may result from numerous factors: increases in left ventricular SV related to the increase in LV preload (squeezing of blood out of alveolar vessels); increases in left ventricular SV related to a Limitations In cases in which it is difficult to interpret the respiratory changes in arterial pressure, it is important to keep in mind that increases in SV or of its surrogates, such as PP [15], during a passive leg raising manoeuvre can be useful to identify patients who are able to respond to volume infusion [24]. Although the utility of indices related to respiratory changes in arterial pressure to detect preload sensitivity and thus volume responsiveness is indisputable in patients receiving mechanical ventilation, some limitations must be borne in mind. First, these indices cannot be used in patients with spontaneous breathing activity and/or with arrhythmias. Second, it may be hypothesized that, in patients with low lung compliance, the decreased transmission of alveolar pressure to the intrathoracic compartment could result in low ∆PP, even in cases of preload responsiveness. However, high ∆PP Pulse contour analysis The area under the systolic part of the arterial pressure curve is considered proportional to SV, at least at the aortic level. Using specific peripheral arterial catheters connected to a computer, it is possible to record the area of the systolic part of the arterial pressure curve and therefore to monitor SV, provided that the system has knowledge of the factor of proportionality between SV and the specific curve area. This factor can be determined if SV has been measured by an independent method and stored in memory. As a third limitation, de Backer and coworkers [37] recently reported that ∆PP could not predict fluid responsiveness in patients with tidal volume below 8 ml/kg. Others have challenged this viewpoint by arguing that in patients with acute lung injury (in whom reduced tidal volume is recommended), low lung compliance is associated with cyclic changes in both transpulmonary pressure and intrathoracic pressure still high enough for ∆PP to keep its ability to predict fluid responsiveness [38]. The PiCCO™ device (Pulsion Medical Systems, Munich, Germany) uses the arterial pulse contour method (calibration with transpulmonary thermodilution) and continuously measures and displays stroke volume variation (SVV), which represents the variation in pulse contour SV over a floating period of a few seconds. The LidCO™/PulseCO™ system (LidCO, Cambridge, UK) also uses pulse contour analysis to estimate SV (calibration with lithium dilution) and to calculate and display SVV. It has been demonstrated that SVV (as a marker of respiratory variation in SV) could predict fluid responsive- ness in patients receiving mechanical ventilation [32-36]. Finally, changes in vasomotor tone may modify pulse wave amplification characteristics both by modifying the sites at which pressure wave is reflected and by affecting pulse wave velocity. This may alter the relationship between aortic PP and peripheral PP, and the resulting effect on ∆PP remains to established. Respiratory changes in arterial pressure in a mechanically ventilated patient. The pulse pressure (PP; systolic minus diastolic pressure) is minimal (PPmin) three heart beats after its maximal value (PPmax). The respiratory changes in pulse pressure (∆PP) can be calculated as the difference between PPmax and PPmin, divided by the mean of the two values, and expressed as a percentage: ∆PP (%) = 100 × (PPmax – PPmin)/ ([PPmax + PPmin]/2). In this case, the high value of ∆PP (30%) suggests that the patient would be potentially responsive to volume resuscitation. decrease in left ventricular afterload; and increases in extra- mural aortic pressure related to the rise in intrathoracic pressure. may be observed in patients with severe acute lung injury (and thus low lung compliance) [27]. Importantly, low lung compliance is generally associated with high alveolar pressures, even in the case of reduced tidal volume (see below). As a result, despite reduced pressure transmission, the respiratory changes in intrathoracic pressure should remain significant, thus leading to a certain amount of PP variation in preload responsive patients. Overall, the potential role of lung compliance on ∆PP thus remains to be documented. Respiratory changes in pulse pressure Respiratory changes in pulse pressure The arterial PP is directly proportional to left ventricular SV and inversely related to compliance of the arterial system. Assuming that arterial compliance does not change during a mechanical breath, respiratory changes in left ventricular SV should be reflected by respiratory changes in peripheral PP (∆PP). Accordingly, the magnitude of ∆PP has been proposed 604 Available online http://ccforum.com/content/9/6/601 Figure 1 References Kramer A, Zygun D, Hawes H, Easton P, Ferland A: Pulse pres- sure variation predicts fluid responsiveness following coro- nary artery bypass surgery. Chest 2004, 126:1563-1568. 7. O’Rourke MF: Ascending aortic pressure wave indices and cardiovascular disease. Am J Hypertens 2004, 17:721-723. 30. Vieillard-Baron A, Chergui K, Rabiller A, Peyrouset O, Page B, Beauchet A, Jardin F: Superior vena caval collapsibility as a gauge of volume status in ventilated septic patients. Intensive Care Med 2004, 30:1734-1739. yp 8. Sesso HD, Stampfer MJ, Rosner B, Hennekens CH, Gaziano JM, Manson JAE, Glynn RJ: Systolic and diastolic blood pressure, pulse pressure and mean arterial pressure as predictors of cardiovascular risk in men. Hypertension 2000, 36:801-807. 31. Denault YD, Gasior TA, Gorcsan III, J Mandarino WA, Deneault LG, Pinsky MR: Determinants of aortic pressure variation during positive-pressure ventilation in man. Chest 1999, 116: 176-186. yp , 9. Michard F, Teboul JL, Richard C, Lecarpentier Y, Chemla D: Arte- rial pressure monitoring in septic shock. Intensive Care Med 2003, 29:659. 32. Berkenstadt H, Margalit N, Hadani M Friedman Z, Segal E, Villa Y, Perel A: Stroke volume variation as a predictor of fluid respon- siveness in patients undergoing brain surgery. Anesth Analg 2001, 92:984-989. , 10. Berne RM, Levy MN: The arterial system. In Physiology. Edited by Berne RM, Levy MN. St Louis: Mosby Inc.; 1998:415-428. Ch b RL P l f I P i i l d y y y 11. Chatburn RL: Principles of measurement. In Principles and Practice of Intensive Care Monitoring. Edited by Tobin MJ. New York: Mc Graw-Hill; 1997:45-61. 33. Reuter DA, Felbinger TW, Schmidt C, Kilger E, Goedje O, Lamm P, Goetz AE: Stroke volume variations for assessment of cardiac responsiveness to volume loading in mechanically ventilated patients after cardiac surgery. Intensive Care Med 2002, 28:392-398. 12. Fessler HE, Shade D: Measurement of vascular pressure. In Principles and Practice of Intensive Care Monitoring. Edited by Tobin MJ. New York: McGraw-Hill; 1997:91-106. 13. Dellinger RP, Carlet JM, Masur H, Gerlach H, Calandra T, Cohen J, Gea-Banacloche J, Keh D, Marshall JC, Parker MM, et al.: Surviv- ing Sepsis Campaign guidelines for management of severe sepsis and septic shock. Crit Care Med 2004, 32:858-873. 34. Reuter DA, Kirchner A, Felbinger TW, Weis FC, Kilger E, Lamm P, Goetz AE. Usefulness of left ventricular stroke volume varia- tion to assess fluid responsiveness in patients with reduced cardiac function. References 1. Chobanian AV, Bakris GL, Cushman WC, Green LA, Izzo JL, Jones DW, Materson BJ, Oparil S, Wright JT, Roccella EJ, and the National High Blood Pressure Education Program Coordinating Committee: Seventh Report of the Joint National Committee on Prevention, Detection, Evaluation, and Treatment of High Blood Pressure. Hypertension 2003, 42:1206-1252. 24. Teboul JL, Monnet X, Richard C: Arterial pulse pressure varia- tion during positive pressure ventilation and passive leg raising. In Functional Hemodynamic Monitoring. Edited by Pinsky MR, Payen D. Berlin: Springer-Verlag; 2004:331-343. y MR, Payen D. Berlin: Springer-Verlag; 2004:331-343. Mi h d F B S Ch l D A l N M A 25. Michard F, Boussat S, Chemla D Anguel N, Mercat A, Lecarpen- tier Y, Richard C, Pinsky MR, Teboul JL: Relation between respi- ratory changes in arterial pulse pressure and fluid responsiveness in septic patients with acute circulatory failure. Am J Respir Crit Care Med 2000, 162:134-138. yp , 2. Darne B, Girerd X, Safar M, Cambien F, Guize L: Pulsatile versus steady component of blood pressure: a cross-sectional and prospective analysis of cardiovascular mortality. Hypertension 1989, 13:392-400. 3. Nichols WW, O’Rourke M: Contours of pressure and flow waves in arteries. In McDonald’s Blood Flow in Arteries: Theo- retical, Experimental and Clinical principles, 4th ed. Edited by Nichols WW, O’Rourke M. London: Oxford University Press; 1998:170-200. p 26. Michard F, Teboul JL: Predicting fluid responsiveness in ICU patients: a critical analysis of the evidence. Chest 2002, 121: 2000-2008. 27. Michard F, Chemla D, Richard C, Wysocki M, Pinsky MR, Lecar- pentier Y, Teboul JL: Clinical use of respiratory changes in arte- rial pressure to monitor the hemodynamic effects of PEEP. Am J Respir Crit Care Med 1999, 159:935-939. 4. Milnor WR: Hemodynamics. Baltimore: William and Wilkins; 1992. C C C S C 5. Chemla D, Hebert JL, Coirault C, Zamani K, Suard I, Colin P, Lecarpentier Y: Total arterial compliance estimated by the stroke volume-to-aortic pulse pressure ratio in humans. Am J Physiol Heart Circ Physiol 1998, 274:H500-H505. p 28. Bendjelid K, Suter PM, Romand JA: The respiratory change in preejection period: a new method to predict fluid responsive- ness. J Appl Physiol 2004, 96:337-342. y y , 6. Murgo JP, Westerhof N, Giolma JP, Altobelli SA: Aortic imput impedance in normal man: relationships to pressure wave- form. Circulation 1980, 62:105-115. pp y 29. Conclusion In critically ill patients monitored with an arterial catheter, the arterial pressure signal provides the clinician with information that is helpful in decision making. Taking into consideration all 605 Critical Care December 2005 Vol 9 No 6 Lamia et al. of the four arterial pressure values (SAP, DAP, MAP and PP) helps one to define haemodynamic status. In addition, calculation of the respiratory variation in arterial pressure permits reliable prediction of volume responsiveness in patients who are receiving mechanical ventilation. Finally, large-scale studies are needed to test the potential benefits of incorporating ∆PP and/or SVV into protocols for the management of haemodynamically unstable patients. 18. Kelly RP, Hayward CS, Avolio AP, O’Rourke MF: Non-invasive determination of age-related changes in the human arterial pulse. Circulation 1989, 80:1652-1659. 19. Franklin SS, Gustin W, Wong ND, Larson MG, Weber MA, Kannel WB, Levy D: Hemodynamic patterns of age-related changes in blood pressure. The Framingham Heart Study. Cir- culation 1997, 96:308-315. 20. McEniery CM, Wallace YS, Maki-Petaja K, McDonnell B, Sharman JE Retallick C, Franklin SS, Brown MJ, Lloyd RC, Cockroft JR, et al.: Increased stroke volume and aortic stiffness contribute to isolated systolic hypertension in young adults. Hypertension 2005, 46:221-226. 21. Perel A, Pizov R, Cotev S: Systolic blood pressure variation is a sensitive indicator of hypovolemia in ventilated dogs subjected to graded hemorrhage. Anesthesiology 1987, 67:498-502. Competing interests J-LT is a member of the Medical Advisory Board of Pulsion Medical Systems (Germany). BL, DC and CR declare that they have no competing interests. J-LT is a member of the Medical Advisory Board of Pulsion Medical Systems (Germany). BL, DC and CR declare that they have no competing interests. gy 22. Tavernier B, Makhotine O, Lebuffe G, Dupont J, Scherpereel P: Systolic pressure variation as a guide to fluid therapy in patients with sepsis-induced hypotension. Anesthesiology 1998, 89:1313-1321. , 23. Michard F, Teboul JL: Using heart-lung interactions to assess fluid responsiveness during mechanical ventilation. Crit Care 2000, 4:282-289. References Crit Care Med 2003, 31:1399-1404. 14. Hollenberg SM, Ahrens TS, Annane D, Astiz ME, Chalfin DB, Dasta JF, Heard SO, Martin C, Napolitano LM, Susla GM, et al.: Practice parameters for hemodynamic support of sepsis in adult patients: 2004 update. Crit Care Med 2004, 32:1928-1948. 35. Rex S, Brose S, Metzelder S, Huneke R, Schalte G, Autschbach R, Rossaint R, Buhre W: Prediction of fluid responsiveness in patients during cardiac surgery. Br J Anaesth 2004, 93:782-788. 36 M G C T M C L S j S C C M t f SM 36. Marx G, Cope T, McCrossan L, Swaraj S, Cowan C, Mostafa SM, Wenstone R, Leuwer M: Assessing fluid responsiveness by stroke volume variation in mechanically ventilated patients with severe sepsis. Eur J Anaesthesiol 2004, 21:132-138. 15. LeDoux D, Astiz ME, Carpati CM, Rackow EC: Effects of perfu- sion pressure on tissue perfusion in septic shock. Crit Care Med 2000, 28:2729-2732. 16. Bourgoin A, Leone M, Delmas A, Garnier F, Albanese J, Martin C: Increasing mean arterial pressure in patients with septic shock: effects on oxygen variables and renal function. Crit Care Med 2005, 33:780-786. p , 37. De Backer D, Heenen S, Piagnerelli M, Koch M, Vincent JL: Pulse pressure variations to predict fluid responsiveness: influence of tidal volume. Intensive Care Med 2005, 31:517-523. , 17. Boulain T, Achard JM, Teboul JL, Richard C, Perrotin D, Ginies G: Changes in BP induced by passive leg raising predict response to fluid loading in critically ill patients. Chest 2002, 121:1245-1252. 38. Teboul JL, Vieillard-Baron A: Clinical value of pulse pressure variations in ARDS. Still an unresolved issue? Intensive Care Med 2005, 31:499-500. 606
https://openalex.org/W2072108972
https://www.research-collection.ethz.ch/bitstream/20.500.11850/11213/2/Aaron_11213.pdf
English
null
Search for excited electrons in ep collisions at HERA
Physics letters. B
2,008
cc-by
10,908
ETH Library Journal Article Author(s): H1 Collaboration; Aaron, Francise D.; Berger, Niklaus; Del Degan, Marc; Grab, Christoph; Leibenguth, Guillaume; Sauter, Michel; Zimmermann, T.; et al. Originally published in: Physics Letters B 666(2), https://doi.org/10.1016/j.physletb.2008.07.014 0370-2693/$ – see front matter © 2008 Elsevier B.V. All rights reserved. doi:10.1016/j.physletb.2008.07.014 Originally published in: This page was generated automatically upon download from the ETH Zurich Research Collection. For more information, please consult the Terms of use. This page was generated automatically upon download from the ETH Zurich Research Collection. For more information, please consult the Terms of use. Physics Letters B 666 (2008) 131–139 F.D. Aaron e,1, C. Alexa e, V. Andreev y, B. Antunovic k, S. Aplin k, A. Asmone ag, A. Astvatsatourov d, A. Bacchetta k, S. Backovic ad, A. Baghdasaryan al, P. Baranov y,, E. Barrelet ac, W. Bartel k, M. Beckingham k, K. Begzsuren ai, O. Behnke n, A. Belousov y, N. Berger an, J.C. Bizot aa, M.-O. Boenig h, V. Boudry ab, I. Bozovic-Jelisavcic b, J. Bracinik c, G. Brandt k, M. Brinkmann k, V. Brisson aa, D. Bruncko p, A. Bunyatyan m,al, G. Buschhorn z, L. Bystritskaya x, A.J. Campbell k, K.B. Cantun Avila v, F. Cassol-Brunner u, K. Cerny af, V. Cerny p,2, V. Chekelian z, A. Cholewa k, J.G. Contreras v, J.A. Coughlan f, G. Cozzika j, J. Cvach ae, J.B. Dainton r, K. Daum ak,3, M. Deák k, Y. de Boer k, B. Delcourt aa, M. Del Degan an, J. Delvax d, A. De Roeck k,4, E.A. De Wolf d, C. Diaconu u,∗, V. Dodonov m, A. Dossanov z, A. Dubak ad,5, G. Eckerlin k, V. Efremenko x, S. Egli aj, A. Eliseev y, E. Elsen k, S. Essenov x, A. Falkiewicz g, P.J.W. Faulkner c, L. Favart d, A. Fedotov x, R. Felst k, J. Feltesse j,6, J. Ferencei p, L. Finke k, M. Fleischer k, A. Fomenko y, E. Gabathuler r, J. Gayler k, S. Ghazaryan al, A. Glazov k, I. Glushkov am, L. Goerlich g, M. Goettlich l, N. Gogitidze y, M. Gouzevitch ab, C. Grab an, T. Greenshaw r, B.R. Grell k, G. Grindhammer z, S. Habib l, D. Haidt k, M. Hansson t, C. Helebrant k, R.C.W. Henderson q, H. Henschel am, G. Herrera w, M. Hildebrandt aj, K.H. Hiller am, D. Hoffmann u, R. Horisberger aj, A. Hovhannisyan al, T. Hreus d,8, M. Jacquet aa, M.E. Janssen k, X. Janssen d, V. Jemanov l, L. Jönsson t, D.P. Johnson d,, A.W. Jung o, H. Jung k, M. Kapichine i, J. Katzy k, I.R. Kenyon C. Kiesling z, M. Klein r, C. Kleinwort k, T. Klimkovich, T. Kluge r, A. Knutsson k, R. Kogler z, V. Korbel k, P. Kostka am, M. Kraemer k, K. Krastev k, J. Kretzschmar r, A. Kropivnitskaya x, K. Krüger o, K. Kutak k, M.P.J. Landon s, W. Lange am G. Laštoviˇcka-Medin ad, P. Laycock r, A. Lebedev y, G. Leibenguth an, V. Lendermann o, S. Levonian k, G. Li aa, K. Lipka A. Liptaj z, B. List l, J. List k, N. Loktionova y, R. Lopez-Fernandez w, V. Lubimov x, A.-I. Lucaci-Timoce k, L. Lytkin m, A. Makankine i, E. Malinovski y, P. Marage d, Ll. Marti k, H.-U. Martyn a, S.J. Maxfield r, A. Mehta r, K. Meier o, A.B. Meyer k, H. Meyer k, H. Meyer ak, J. Meyer k, V. Michels k, S. Mikocki g, I. Milcewicz-Mika g, F. Moreau ab, A. Morozov i, J.V. Morris f, M.U. Mozer d, M. Mudrinic b, K. Müller ao, P. Murín p,8, K. Nankov ah, B. Naroska l,, Th. Naumann am, P.R. Newman c, C. Niebuhr k, A. Nikiforov k, G. Nowak g, K. Nowak ao, M. Nozicka k, B. Olivier z, J.E. Olsson k, S. Osman t, D. Ozerov x, V. Palichik i, I. Panagoulias k,9,10, M. Pandurovic b, Th. Papadopoulou k,9,10, C. Pascaud aa, G.D. Patel r, O. Pejchal af, H. Peng k, E. Perez j,4, A. Petrukhin x, I. Picuric ad, S. Piec am, D. Pitzl k, R. Plaˇcakyt ˙e k, R. Polifka af, B. Povh m, T. Preda e, V. Radescu k, A.J. Rahmat r, N. Raicevic ad, A. Raspiareza z, T. Ravdandorj ai, P. Reimer ae, E. Rizvi s, P. Robmann ao, B. Roland d, R. Roosen d, A. Rostovtsev x, M. Rotaru e, J.E. Ruiz Tabasco v, Z. Rurikova k, S. Rusakov y, D. Salek af, F. Salvaire k, D.P.C. Sankey f, M. Sauter an, E. Sauvan u, S. Schmidt k, S. Schmitt k, C. Schmitz ao, L. Schoeffel j, A. Schöning k,ao, H.-C. Schultz-Coulon o, F. Sefkow k, R.N. Shaw-West c, I. Sheviakov y, L.N. Shtarkov y, S. Shushkevich z, T. Sloan q, I. Smiljanic b, P. Smirnov y, Y. Soloviev y P. Sopicki g, D. South h, V. Spaskov i, A. Specka ab, Z. Staykova k, M. Steder k, B. Stella ag, U. Straumann ao, D. Sunar d, T. Sykora d, V. Tchoulakov i, G. Thompson s, P.D. Thompson c, T. Toll k, F. Tomasz p, T.H. Tran aa, D. Traynor s, T.N. Trinh u, P. Truöl ao, I. Tsakov ah, B. Tseepeldorj ai,11, I. Tsurin am, J. Turnau g, E. Tzamariudaki z, K. Urban o, A. Valkárová af, C. Vallée u, P. Van Mechelen d, A. Vargas Trevino k, Y. Vazdik y, S. Vinokurova k, V. Volchinski al, D. Wegener h, M. Wessels k, Ch. Wissing k, E. Wünsch k, V. Yeganov al, J. Žáˇcek af, J. Zálešák ae, Z. Zhang aa, A. Zhelezov x, A. Zhokin x, Y.C. Zhu k, T. Zimmermann an, H. Zohrabyan al, F. Zomer aa c School of Physics and Astronomy, University of Birmingham, Birmingham, UK 13 e National Institute for Physics and Nuclear Engineering (NIPNE), Bucharest, Romania b Vinca Institute of Nuclear Sciences, Belgrade, Serbia H1 Collaboration F.D. Aaron e,1, C. Alexa e, V. Andreev y, B. Antunovic k, S. Aplin k, A. Asmone ag, A. Astvatsatourov d, A. Bacchetta k, S. Backovic ad, A. Baghdasaryan al, P. Baranov y,, E. Barrelet ac, W. Bartel k, M. Beckingham k, K. Begzsuren ai, O. Behnke n, A. Belousov y, N. Berger an, J.C. Bizot aa, M.-O. Boenig h, V. Boudry ab, I. Bozovic-Jelisavcic b, J. Bracinik c, G. Brandt k, M. Brinkmann k, V. Brisson aa, D. Bruncko p, A. Bunyatyan m,al, G. Buschhorn z, L. Bystritskaya x, A.J. Campbell k, K.B. Cantun Avila v, F. Cassol-Brunner u, K. Cerny af, V. Cerny p,2, V. Chekelian z, A. Cholewa k, J.G. Contreras v, J.A. Coughlan f, G. Cozzika j, J. Cvach ae, J.B. Dainton r, K. Daum ak,3, M. Deák k, Y. de Boer k, B. Delcourt aa, M. Del Degan an, J. Delvax d, A. De Roeck k,4, E.A. De Wolf d, C. Diaconu u,∗, V. Dodonov m, A. Dossanov z, A. Dubak ad,5, G. Eckerlin k, V. Efremenko x, S. Egli aj, A. Eliseev y, E. Elsen k, S. Essenov x, A. Falkiewicz g, P.J.W. Faulkner c, L. Favart d, A. Fedotov x, R. Felst k, J. Feltesse j,6, J. Ferencei p, L. Finke k, M. Fleischer k, A. Fomenko y, E. Gabathuler r, J. Gayler k, S. Ghazaryan al, A. Glazov k, I. Glushkov am, L. Goerlich g, M. Goettlich l, N. Gogitidze y, M. Gouzevitch ab, C. Grab an, T. Greenshaw r, B.R. Grell k, G. Grindhammer z, S. Habib l,7, D. Haidt k, M. Hansson t, C. Helebrant k, R.C.W. Henderson q, H. Henschel am, G. Herrera w, M. Hildebrandt aj, K.H. Hiller am, D. Hoffmann u, R. Horisberger aj, A. Hovhannisyan al, T. Hreus d,8, M. Jacquet aa, M.E. Janssen k, X. Janssen d, V. Jemanov l, L. Jönsson t, D.P. Johnson d,, A.W. Jung o, H. Jung k, M. Kapichine i, J. Katzy k, I.R. Kenyon c, C. Kiesling z, M. Klein r, C. Kleinwort k, T. Klimkovich, T. Kluge r, A. Knutsson k, R. Kogler z, V. Korbel k, P. Kostka am, M. Kraemer k, K. Krastev k, J. Kretzschmar r, A. Kropivnitskaya x, K. Krüger o, K. Kutak k, M.P.J. Landon s, W. Lange am, G. Laštoviˇcka-Medin ad, P. Laycock r, A. Lebedev y, G. Leibenguth an, V. Lendermann o, S. Levonian k, G. Li aa, K. H1 Collaboration Lipka l, A. Liptaj z, B. List l, J. List k, N. Loktionova y, R. Lopez-Fernandez w, V. Lubimov x, A.-I. Lucaci-Timoce k, L. Lytkin m, A. Makankine i, E. Malinovski y, P. Marage d, Ll. Marti k, H.-U. Martyn a, S.J. Maxfield r, A. Mehta r, K. Meier o, A.B. Meyer k, H. Meyer k, H. Meyer ak, J. Meyer k, V. Michels k, S. Mikocki g, I. Milcewicz-Mika g, F. Moreau ab, A. Morozov i, J.V. Morris f, M.U. Mozer d, M. Mudrinic b, K. Müller ao, P. Murín p,8, K. Nankov ah, B. Naroska l,, Th. Naumann am, P.R. Newman c, C. Niebuhr k, A. Nikiforov k, G. Nowak g, K. Nowak ao, M. Nozicka k, B. Olivier z, J.E. Olsson k, S. Osman t, D. Ozerov x, V. Palichik i, I. Panagoulias k,9,10, M. Pandurovic b, Th. Papadopoulou k,9,10, C. Pascaud aa, G.D. Patel r, O. Pejchal af, H. Peng k, E. Perez j,4, A. Petrukhin x, I. Picuric ad, S. Piec am, D. Pitzl k, R. Plaˇcakyt ˙e k, R. Polifka af, B. Povh m, T. Preda e, V. Radescu k, A.J. Rahmat r, N. Raicevic ad, A. Raspiareza z, T. Ravdandorj ai, P. Reimer ae, E. Rizvi s, P. Robmann ao, B. Roland d, R. Roosen d, A. Rostovtsev x, M. Rotaru e, J.E. Ruiz Tabasco v, Z. Rurikova k, S. Rusakov y, D. Salek af, F. Salvaire k, D.P.C. Sankey f, M. Sauter an, E. Sauvan u, S. Schmidt k, S. Schmitt k, C. Schmitz ao, L. Schoeffel j, A. Schöning k,ao, H.-C. Schultz-Coulon o, F. Sefkow k, R.N. Shaw-West c, I. Sheviakov y, L.N. Shtarkov y, S. Shushkevich z, T. Sloan q, I. Smiljanic b, P. Smirnov y, Y. Soloviev y, P. Sopicki g, D. South h, V. Spaskov i, A. Specka ab, Z. Staykova k, M. Steder k, B. Stella ag, U. Straumann ao, D. Sunar d, T. Sykora d, V. Tchoulakov i, G. Thompson s, P.D. Thompson c, T. Toll k, F. Tomasz p, T.H. Tran aa, D. Traynor s, T.N. Trinh u, P. Truöl ao, I. Tsakov ah, B. Tseepeldorj ai,11, I. Tsurin am, J. Turnau g, E. Tzamariudaki z, K. Urban o, A. Valkárová af, C. Vallée u, P. Van Mechelen d, A. Vargas Trevino k, Y. Vazdik y, S. Vinokurova k, V. Volchinski al, D. Wegener h, M. Wessels k, Ch. Wissing k, E. Wünsch k, V. H1 Collaboration Yeganov al, J. Žáˇcek af, J. Zálešák ae, Z. Zhang aa, A. Zhelezov x, A. Zhokin x, Y.C. Zhu k, T. Zimmermann an, H. Zohrabyan al, F. Zomer aa a I Ph ik li h I tit t d RWTH A h G 12 öning k,ao, H.-C. Schultz-Coulon o, F. Sefkow k, , M. Steder k, B. Stella ag, U. Straumann ao, D. Sun a I. Physikalisches Institut der RWTH, Aachen, Germany 12 a I. Physikalisches Institut der RWTH, Aachen, Germany 12 e National Institute for Physics and Nuclear Engineering (NIPNE), Bucharest, Romania g Institute for Nuclear Physics, Cracow, Poland 15 H1 Collaboration / Physics Letters B 666 (2008) 131–139 132 h Institut für Physik, TU Dortmund, Dortmund, Germany 12 i Joint Institute for Nuclear Research, Dubna, Russia j CEA, DSM/DAPNIA, CE-Saclay, Gif-sur-Yvette, France k DESY, Hamburg, Germany l Institut für Experimentalphysik, Universität Hamburg, Hamburg, Germany 12 m Max-Planck-Institut für Kernphysik, Heidelberg, Germany n Physikalisches Institut, Universität Heidelberg, Heidelberg, Germany 12 o Kirchhoff-Institut für Physik, Universität Heidelberg, Heidelberg, Germany 12 p Institute of Experimental Physics, Slovak Academy of Sciences, Košice, Slovak Republic 16 q Department of Physics, University of Lancaster, Lancaster, UK 13 r Department of Physics, University of Liverpool, Liverpool, UK 13 s Queen Mary and Westfield College, London, UK 13 t Physics Department, University of Lund, Lund, Sweden 17 u CPPM, CNRS/IN2P3, Univ. H1 Collaboration Mediterranee, Marseille, France v Departamento de Fisica Aplicada, CINVESTAV, Mérida, Yucatán, Mexico 18 w Departamento de Fisica, CINVESTAV, Mexico 18 x Institute for Theoretical and Experimental Physics, Moscow, Russia y Lebedev Physical Institute, Moscow, Russia 19 z Max-Planck-Institut für Physik, München, Germany aa LAL, Université Paris-Sud, CNRS/IN2P3, Orsay, France ab LLR, Ecole Polytechnique, IN2P3-CNRS, Palaiseau, France ac LPNHE, Universités Paris VI and VII, IN2P3-CNRS, Paris, France ad Faculty of Science, University of Montenegro, Podgorica, Montenegro 19 ae Institute of Physics, Academy of Sciences of the Czech Republic, Praha, Czech Republic 20 af Faculty of Mathematics and Physics, Charles University, Praha, Czech Republic 20 ag Dipartimento di Fisica, Università di Roma Tre and INFN Roma 3, Roma, Italy ah Institute for Nuclear Research and Nuclear Energy, Sofia, Bulgaria 19 ai Institute of Physics and Technology of the Mongolian Academy of Sciences, Ulaanbaatar, Mongolia aj Paul Scherrer Institut, Villigen, Switzerland ak Fachbereich C, Universität Wuppertal, Wuppertal, Germany al Yerevan Physics Institute, Yerevan, Armenia am DESY, Zeuthen, Germany an Institut für Teilchenphysik, ETH, Zürich, Switzerland 21 ao Physik-Institut der Universität Zürich, Zürich, Switzerland 21 i Joint Institute for Nuclear Research, Dubna, Russia x Institute for Theoretical and Experimental Physics, Moscow, Russia a b s t r a c t Article history: Received 29 May 2008 Received in revised form 8 July 2008 Accepted 8 July 2008 Available online 11 July 2008 Editor: W.-D. Schlatter A search for excited electrons is performed using the full e±p data sample collected by the H1 experiment at HERA, corresponding to a total luminosity of 475 pb−1. The electroweak decays of excited electrons e∗→eγ , e∗→eZ and e∗→νW with subsequent hadronic or leptonic decays of the W and Z bosons are considered. No evidence for excited electron production is found. Mass dependent exclusion limits on e∗production cross sections and on the ratio f /Λ of the coupling to the compositeness scale are derived within gauge mediated models. These limits extend the excluded region compared to previous excited electron searches. The e∗production via contact interactions is also addressed for the first time in ep collisions. © 2008 Elsevier B.V. All rights reserved. © 2008 Elsevier B.V. All rights reserved. 1. Introduction * Corresponding author. E-mail address: diaconu@cppm.in2p3.fr (C. Diaconu). 1 Also at Faculty of Physics, University of Bucharest, Bucharest, Romania. 2 Also at Comenius University, Bratislava, Slovak Republic. 3 Also at Rechenzentrum, Universität Wuppertal, Wuppertal, Germany. 4 Also at CERN, Geneva, Switzerland. 5 Also at Max-Planck-Institut für Physik, München, Germany. 6 Also at DESY and University Hamburg, Helmholtz Humboldt Research Award. 7 Supported by a scholarship of the World Laboratory Björn Wiik Research Project. 8 Also at University of P.J. Šafárik, Košice, Slovak Republic. 9 Also at Physics Department, National Technical University, Zografou Campus, GR-15773 Athens, Greece. 10 This project is co-funded by the European Social Fund (75%) and National Re- sources (25%)—(EPEAEK II)–PYTHAGORAS II. 11 Also at Ulaanbaatar University, Ulaanbaatar, Mongolia. 12 Supported by the Bundesministerium für Bildung und Forschung, FRG, under contract numbers 05 H1 1GUA /1, 05 H1 1PAA /1, 05 H1 1PAB /9, 05 H1 1PEA /6, 05 H1 1VHA /7 and 05 H1 1VHB /5. 13 Supported by the UK Science and Technology Facilities Council, and formerly by the UK Particle Physics and Astronomy Research Council. 14 Supported by FNRS-FWO-Vlaanderen, IISN-IIKW and IWT and by Interuniversity Attraction Poles Programme, Belgian Science Policy. 15 Partially Supported by Polish Ministry of Science and Higher Education, grant PBS/DESY/70/2006. 16 Supported by VEGA SR grant No. 2/7062/27. fe M vi ex se vi te fo el γ 17 18 19 20 pr 21  22 oth * Corresponding author. E-mail address: diaconu@cppm.in2p3.fr (C. Diaconu). The three-family structure and mass hierarchy of the known fermions is one of the most puzzling characteristics of the Standard Model (SM) of particle physics. Attractive explanations are pro- vided by models assuming composite quarks and leptons [1]. The existence of excited states of leptons and quarks is a natural con- sequence of these models and their discovery would provide con- vincing evidence of a new scale of matter. Electron22–proton in- teractions at very high energies provide good conditions to search for excited states of first generation fermions. For instance, excited electrons (e∗) could be singly produced through the exchange of a γ or a Z boson in the t-channel. E-mail address: diaconu@cppm.in2p3.fr (C. Diaconu). E-mail address: diaconu@cppm.in2p3.fr (C. Diaconu). 1 Also at Faculty of Physics, University of Bucharest, Bucharest, Romania. Also at Faculty of Physics, University of Bucharest, Bucharest, Romani 2 Also at Comenius University, Bratislava, Slovak Republic. 3. Simulation of signal and background processes The parton shower approach [14] is applied in order to sim- ulate Quantum Chromodynamics (QCD) corrections in the initial and final states. Hadronisation is performed using Lund string frag- mentation as implemented in PYTHIA [14]. The COMPOS generator uses the narrow width approximation (NWA) for the calculation of the production cross section and takes into account the natural width of the excited electron for the e∗decay. The NWA is valid for e∗masses below 290 GeV and the couplings f /Λ relevant to this analysis, as the total e∗width is less than 10% of the e∗mass. Following this model of gauge mediated (GM) interactions, sin- gle e∗production in ep collisions may result from the t-channel exchange of a γ or Z boson. Since the e∗is expected not to have strong interactions, the present search is insensitive to fs. The produced e∗may decay into a lepton and an electroweak gauge boson via e∗→eγ , e∗→νW and e∗→eZ. For a given e∗mass value Me∗and assuming a numerical relation between f and f ′, the e∗branching ratios are fixed and the production cross section de- pends only on f /Λ. In most analyses the assumption is made that the coupling parameters f and f ′ are of comparable strength and only the relationships f = −f ′ and f = + f ′ are considered. In the case f = −f ′, the excited electron does not couple to the pho- ton and therefore the e∗production cross section at HERA is small. Therefore, only the case f = + f ′ is considered in this analysis. The Standard Model (SM) processes which may mimic the e∗ signal are QED Compton scattering, neutral current and charged current (CC) deep-inelastic scattering and to a lesser extent photo- production, lepton pair production and real W boson production. All SM processes are generated with at least 10 times the inte- grated luminosity of the data sample. The RAPGAP [15] event generator, which implements the Born, QCD Compton and Boson Gluon Fusion matrix elements, is used to model NC DIS events. The QED radiative effects arising from real photon emission from both the incoming and outgoing elec- trons are simulated using the HERACLES [16] program. Direct and resolved photoproduction of jets and prompt photon production are simulated using the PYTHIA event generator. The simulation is based on Born level hard scattering matrix elements with ra- diative QED corrections. 1. Introduction (3 jμ = ηL ¯F ∗ LγμF L + η′ L ¯F LγμF L + η′′ L ¯F ∗ LγμF ∗ L + h.c. + (L →R). (3) (3) In this Letter a search for excited electrons using the complete e±p HERA collider data of the H1 experiment is presented. Elec- troweak decays into a SM lepton (e, νe) and a SM gauge boson (γ , W and Z) are considered and hadronic as well as leptonic decays of the W and Z are analysed. Conventionally, the η factors are set to one for the left-handed and to zero for the right-handed current. Conventionally, the η factors are set to one for the left-handed and to zero for the right-handed current. Contact interactions may induce changes in the cross section of neutral current (NC) deep-inelastic scattering (DIS) ep →eX. Searches for deviations from the SM cross section at the highest squared momentum transfers Q 2 in NC DIS processes have ex- cluded values of Λ between 1.6 TeV and 5.5 TeV, depending on the chiral structure considered [9]. Contact interactions may also mediate the resonant production of excited electrons in ep colli- sions as well as their decays into an electron and a pair of SM fermions. The e∗production and decay by both gauge and contact interactions is also considered in this analysis. In this case the total e∗production cross section σGM+CI is the sum of pure GM and CI cross sections and of the interference between the two processes [10]. For simplicity, the relative strength of gauge and contact inter- actions are fixed by setting the parameters f and f ′ of the gauge interaction to one. The ratio of the GM + CI and GM cross sec- tions σGM+CI/σGM then depends only on Λ and on the e∗mass. For Me∗= 150 GeV and Λ = 1 TeV, σGM+CI/σGM is equal to 8.4, but reduces to 1.3 for Λ = 4 TeV. Relative branching ratios of GM and CI decays are determined by the e∗partial widths in each de- cay channel [5]. In the sensitive domain of the present analysis (Λ ≃4 TeV and 100 GeV < Me∗< 200 GeV), more than 95% of e∗ decays are gauge mediated. Therefore, only GM decay channels are used for the present search. 1. Introduction The data are recorded at electron beam energy of 27.6 GeV and proton beam energies of 820 GeV and 920 GeV, corresponding to centre-of-mass energies √ s of 301 GeV and 319 GeV, respectively. The total integrated luminosity of the data is 475 pb−1. The data comprise 184 pb−1 recorded in e−p collisions and 291 pb−1 in e+p collisions, of which 35 pb−1 were recorded at √ s = 301 GeV. With a four-fold increase in statistics, this analysis supersedes the result of the previous H1 search for excited electrons [2]. It com- plements the search for excited neutrinos [3]. 2. Excited electron models In the present study a model [4–6] is considered in which ex- cited fermions are assumed to have spin 1/2 and isospin 1/2. The left-handed and right-handed components of the excited fermions form weak iso-doublets F ∗ L and F ∗ R. Interactions between excited and ordinary fermions may be mediated by gauge bosons, as described by the effective Lagrangian [5,6]: LGM = 1 2Λ ¯F ∗ Rσ μν  g f τ a 2 W a μν + g′ f ′ Y 2 Bμν + gs fs λa 2 Ga μν  F L + h.c. (1) (1) 3. Simulation of signal and background processes Only the right-handed component of the excited fermion F ∗ R is allowed to couple to light fermions, in order to protect the light leptons from radiatively acquiring a large anomalous magnetic mo- ment [7,8]. The matrix σ μν is the covariant bilinear tensor, W aμν, Bμν and Gaμν are the field-strength tensors of the SU(2), U(1) and SU(3)C gauge fields, τ a, Y and λa are the Pauli matrices, the weak hypercharge operator and the Gell-Mann matrices, respec- tively. The standard electroweak and strong gauge couplings are denoted by g, g′ and gs, respectively. The parameter Λ has units of energy and can be regarded as the compositeness scale which reflects the range of the new confinement force. The constants f , f ′ and fs are coupling parameters associated to the three gauge groups and are determined by the yet unknown composite dynam- ics. Only the right-handed component of the excited fermion F ∗ R is allowed to couple to light fermions, in order to protect the light leptons from radiatively acquiring a large anomalous magnetic mo- ment [7,8]. The matrix σ μν is the covariant bilinear tensor, W aμν, The Monte Carlo (MC) event generator COMPOS [11] is used for the calculation of the e∗production cross section and to deter- mine the signal detection efficiencies. It is based on the cross sec- tion formulae for gauge mediated interactions [4,5]. Cross section formulae for contact interaction production and for the interfer- ence between contact and gauge interactions [10] have also been incorporated into COMPOS. Only e∗decays via gauge mediated in- teractions are simulated. Initial state radiation of a photon from the incident electron is included using the Weizsäcker–Williams approximation [12]. The proton parton densities are taken from the CTEQ5L [13] parametrisation and are evaluated at the scale  Q 2. The parton shower approach [14] is applied in order to sim- ulate Quantum Chromodynamics (QCD) corrections in the initial and final states. Hadronisation is performed using Lund string frag- mentation as implemented in PYTHIA [14]. The COMPOS generator uses the narrow width approximation (NWA) for the calculation of the production cross section and takes into account the natural width of the excited electron for the e∗decay. The NWA is valid for e∗masses below 290 GeV and the couplings f /Λ relevant to this analysis, as the total e∗width is less than 10% of the e∗mass.  Q 2. 1. Introduction 3 2 Also at Comenius University, Bratislava, Slovak Republic. 3 Also at Rechenzentrum, Universität Wuppertal, Wuppertal, Germany. 4 Also at CERN, Geneva, Switzerland. 4 Also at CERN, Geneva, Switzerland. 5 Also at Max-Planck-Institut für Physik, München, Germany. 5 Also at Max-Planck-Institut für Physik, München, Germany. 6 Also at DESY and University Hamburg, Helmholtz Humboldt Research Award. 6 Also at DESY and University Hamburg, Helmholtz Humbold 7 Supported by a scholarship of the World Laboratory Björn Wiik Research Project. 7 Supported by a scholarship of the World Laboratory Björn 8 Also at University of P.J. Šafárik, Košice, Slovak Republic. 9 Also at Physics Department, National Technical University, Zografou Campus GR-15773 Athens, Greece. 10 This project is co-funded by the European Social Fund (75%) and National Re- sources (25%)—(EPEAEK II)–PYTHAGORAS II. 11 Also at Ulaanbaatar University, Ulaanbaatar, Mongolia. 17 Supported by the Swedish Natural Science Research Council. 18 Supported by CONACYT, México, grant 48778-F. 19 Supported by the Deutsche Forschungsgemeinschaft. 20 Supported by the Ministry of Education of the Czech Republic under the projects LC527 and INGO-1P05LA259. 21 Supported by the Swiss National Science Foundation.  Deceased. 22 In this Letter the term “electron” refers to both electron and positrons, if not otherwise stated. 12 Supported by the Bundesministerium für Bildung und Forschung, FRG, under contract numbers 05 H1 1GUA /1, 05 H1 1PAA /1, 05 H1 1PAB /9, 05 H1 1PEA /6, 05 H1 1VHA /7 and 05 H1 1VHB /5. 13 Supported by the UK Science and Technology Facilities Council, and formerly by the UK Particle Physics and Astronomy Research Council. 14 Supported by FNRS-FWO-Vlaanderen, IISN-IIKW and 14 Supported by FNRS-FWO-Vlaanderen, IISN-IIKW and IWT and by Interuniversity Attraction Poles Programme, Belgian Science Policy. 14 Supported by FNRS-FWO-Vlaanderen, IISN-IIKW and IWT and by Interuniversity Attraction Poles Programme Belgian Science Policy Attraction Poles Programme, Belgian Science Policy. 15 Partially Supported by Polish Ministry of Science and Higher Education, grant PBS/DESY/70/2006. 15 Partially Supported by Polish Ministry of Science and Higher Education, grant PBS/DESY/70/2006. 22 In this Letter the term “electron” refers to both electron and positrons, if not otherwise stated. 16 Supported by VEGA SR grant No. 2/7062/27. 16 Supported by VEGA SR grant No. 2/7062/27. H1 Collaboration / Physics Letters B 666 (2008) 131–139 133 jμ = ηL ¯F ∗ LγμF L + η′ L ¯F LγμF L + η′′ L ¯F ∗ LγμF ∗ L + h.c. + (L →R). 3. Simulation of signal and background processes In RAPGAP and PYTHIA, jet production from higher order QCD radiation is simulated using leading log- In addition to GM interactions, novel composite dynamics may be visible as contact interactions (CI) between excited fermions and SM quarks and leptons. Such interactions can be described by the effective four-fermion Lagrangian [5]: LCI = 4π 2Λ2 jμ jμ, (2) where Λ is assumed to be the same parameter as in the La- grangian (1) and jμ is the fermion current where Λ is assumed to be the same parameter as in the La- grangian (1) and jμ is the fermion current H1 Collaboration / Physics Letters B 666 (2008) 131–139 134 arithmic parton showers and hadronisation is modelled with Lund string fragmentation. The leading order MC prediction of NC DIS and photoproduction processes with two or more high transverse momentum jets is scaled by a factor of 1.2 to account for miss- ing higher order QCD contributions in the MC generators [19,20]. Charged current DIS events are simulated using the DJANGO [17] program, which includes first order leptonic QED radiative correc- tions based on HERACLES. The production of two or more jets in DJANGO is accounted for using the colour-dipole model [18]. Con- tributions from elastic and quasi-elastic QED Compton scattering are simulated with the WABGEN [21] generator. Contributions aris- ing from the production of W bosons and multi-lepton events are modelled using the EPVEC [22] and GRAPE [23] event generators, respectively. the LAr calorimeter. The hadronic energy within a distance in the pseudorapidity–azimuth (η–φ) plane R =  η2 + φ2 < 0.5 around the electron (photon) is required to be below 3% of the electron (photon) energy. Furthermore, each electron (photon) can- didate must be isolated from jets by a minimum distance in pseudorapidity–azimuth of R > 0.5 to any jet axis. The electron and photon energy and angular direction are measured by the calorimeters. Muon identification is based on a track measured in the inner tracking systems associated with signals in the muon detectors [31]. A muon candidate is required to have no more than 5 GeV deposited in a cylinder, centred on the muon track direction, of radius 25 cm and 50 cm in the electromagnetic and hadronic sections of the LAr calorimeter, respectively. 5.1. eγ resonance search The signature of the e∗→eγ decay channel consists of two high P T isolated electromagnetic clusters. SM background arises mainly from elastic and inelastic QED Compton events. Two iso- lated electromagnetic clusters are required, each with transverse momentum P T > 15 GeV and polar angle 5◦< θ < 130◦. No ex- plicit electron and photon identification based on tracking condi- tions is performed in order to retain a high selection efficiency. To reduce contributions from QED Compton processes, the sum of the energies of the two electromagnetic clusters is required to be greater than 110 GeV and the sum of their total transverse mo- menta has to be larger than 75 GeV. After this selection, the SM background from elastic QED Comp- ton events is smaller than that from inelastic QED Compton pro- cesses. Since about half of the e∗production cross section is ex- pected from elastic e∗production [4], the analysis is separated into two parts. Events with a total hadronic energy Eh < 5 GeV are used to search for elastic e∗production, whereas the other events are attributed to possible inelastic e∗production. 3. Simulation of signal and background processes Additionally, the muon candidate is required to be separated from the clos- est jet and from any track by R > 1 and R > 0.5, respectively. Calorimeter energy deposits and tracks not previously identified as electron, photon or muon candidates are used to form com- bined cluster-track objects, from which the hadronic energy is re- constructed [32,33]. Jets are reconstructed from these combined cluster-track objects using an inclusive kT algorithm [34,35] with a minimum transverse momentum of 2.5 GeV. The missing trans- verse momentum P miss T of the event is derived from all detected particles and energy deposits in the event. In events with large P miss T , the only non-detected particle in the event is assumed to be a neutrino. The four-vector of this neutrino candidate is re- constructed assuming transverse momentum conservation and the relation  i(Ei −P i z)+(Eν −Pν z ) = 2E0 e = 55.2 GeV, where the sum runs over all detected particles, P z is the momentum along the proton beam axis and E0 e is the electron beam energy. Generated events are passed through the full GEANT [24] based simulation of the H1 apparatus, which takes into account the ac- tual running conditions of the data taking, and are reconstructed and analysed using the same program chain as for the data. 4. Experimental conditions A detailed description of the H1 experiment can be found in [25]. Only the detector components relevant to the present analysis are briefly described here. The origin of the H1 coordinate system is the nominal ep interaction point, with the direction of the pro- ton beam defining the positive z-axis (forward region). Transverse momentum (P T ) is measured in the xy plane. The pseudorapidity η is related to the polar angle θ by η = −ln tan(θ/2). The Liquid Argon (LAr) calorimeter [26] is used to measure electrons, pho- tons and hadrons. It covers the polar angle range 4◦< θ < 154◦ with full azimuthal acceptance. Electromagnetic shower energies are measured with a precision of σ(E)/E = 12%/√ E/GeV⊕1% and hadronic energies with σ(E)/E = 50%/√ E/GeV ⊕2%, as measured in test beams [27,28]. In the backward region, energy measure- ments are provided by a lead/scintillating-fiber (SpaCal) calorime- ter [29] covering the angular range 155◦< θ < 178◦. The central (20◦< θ < 160◦) and forward (7◦< θ < 25◦) tracking detectors are used to measure charged particle trajectories, to reconstruct the interaction vertex and to complement the measurement of hadronic energy. The LAr and inner tracking detectors are enclosed in a super-conducting magnetic coil with a field strength of 1.16 T. The return yoke of the coil is the outermost part of the detector and is equipped with streamer tubes forming the central muon detector (4◦< θ < 171◦). In the forward region of the detector (3◦< θ < 17◦) a set of drift chambers detects muons and mea- sures their momenta using an iron toroidal magnet. The luminosity is determined from the rate of the Bethe–Heitler process ep→epγ , measured using a photon detector located close to the beam pipe at z = −103 m, in the backward direction. Specific selection criteria applied in each decay channel are pre- sented in the following subsections. A detailed description of the analysis can be found in [36]. 5. Data analysis Invariant mass distribution of the e∗candidates in the elastic e∗→eγ (a), inelastic e∗→eγ (b), e∗→νW →νq¯q (c), and e∗→eZ →eq¯q (d) search channels. The points correspond to the observed data events and the histograms to the SM expectation after the final selections. The error bands on the SM prediction include model uncertainties and experimental systematic errors added in quadrature. The dashed line represents with an arbitrary normalisation the reconstructed mass distribution of e∗ events with M ∗= 240 GeV generated e∗mass of 120 GeV, increasing to 6 GeV for an e∗mass of 260 GeV. system using the Jacquet–Blondel method [37,38], and are thus suppressed by requiring xh > 0.04. In each event, a W candidate is reconstructed from the combination of those two jets with invari- ant mass closest to the nominal W boson mass. The reconstructed W candidate is required to have an invariant mass above 60 GeV. In order to further reduce the background from CC DIS, the in- variant mass of all jets and hadrons in the event not associated to the decay of the W boson candidate is required to be below 15 GeV. 5. Data analysis The triggers employed for collecting the data used in this anal- ysis are based on the detection of electromagnetic deposits or missing transverse energy in the LAr calorimeter [30]. The trig- ger efficiency is ∼90% for events with missing transverse energy of 20 GeV, and increases above 95% for missing transverse energy above 30 GeV. Events containing an electromagnetic deposit (elec- tron or photon) with an energy greater than 10 GeV are triggered with an efficiency close to 100%. In the elastic channel 42 events are selected in the data com- pared to a SM expectation of 48 ± 4. In the inelastic channel 65 events are found for 65± 8 expected. The errors on the SM predic- tion include model and experimental systematic errors added in quadrature (see Section 5.5). The invariant mass of the e∗candi- date is calculated from the four-vectors of the electron and photon candidates. The invariant mass distribution of the e∗candidates and the SM background expectations are presented in Fig. 1(a) and (b) for the elastic and inelastic channels, respectively. The selec- tion efficiency is 60% for Me∗= 120 GeV, increasing to 70% for Me∗= 260 GeV. From Monte Carlo studies, the experimental res- olution on the reconstructed e∗mass distribution is 3 GeV for a In order to remove background events induced by cosmic show- ers and other non-ep sources, the event vertex is required to be reconstructed within 35 cm in z of the nominal interaction point. In addition, topological filters and timing vetoes are applied. The identification of electrons or photons relies on the mea- surement of a compact and isolated electromagnetic shower in H1 Collaboration / Physics Letters B 666 (2008) 131–139 135 H1 Collaboration / Physics Letters B 666 (2008) 131–139 135 (a) (b) (c) (d) Fig. 1. Invariant mass distribution of the e∗candidates in the elastic e∗→eγ (a), inelastic e∗→eγ (b), e∗→νW →νq¯q (c), and e∗→eZ →eq¯q (d) search channels. The points correspond to the observed data events and the histograms to the SM expectation after the final selections. The error bands on the SM prediction include mode uncertainties and experimental systematic errors added in quadrature. The dashed line represents with an arbitrary normalisation the reconstructed mass distribution of e∗ events with Me∗= 240 GeV. (b) (d) (c) Fig. 1. 23 For NC DIS events, this variable is proportional to the four-momentum transfer squared Q 2. 5.5. Systematic uncertainties The following experimental systematic uncertainties are consid- ered: • The uncertainty on the electromagnetic energy scale varies be- tween 0.7% and 2% depending on the polar angle. The polar angle measurement uncertainty is 3 mrad for electromagnetic clusters. • The scale uncertainty on the transverse momentum of high P T muons amounts to 2.5%. The uncertainty on the reconstruction of the muon polar angle is 3 mrad. 5.2. νq¯q resonance search The signature of the e∗→νW →νq¯q decay channel consists of two high transverse momentum jets in events with large P miss T . The SM background is dominated by multi-jet CC DIS events and contains moderate contributions from NC DIS and photoproduc- tion. Events with missing transverse momentum P miss T > 20 GeV are selected. In each event at least two jets with transverse mo- menta larger than 20 and 15 GeV, respectively, are required in the polar angle range 5◦< θ < 130◦. After this selection, 129 events are found compared to a SM ex- pectation of 133 ± 32 events which is dominated by CC DIS events. The CC DIS cross section is smaller in e+p collisions than in e−p, in contrast to the e∗cross section which is comparable in both collision modes. Therefore, e+p data have a larger sensitivity to a potential e∗signal in this channel than e−p data. In the e+p (e−p) data sample, 33 (96) events are observed compared to a SM expectation of 51 ± 13 (82 ± 19). A significant excess is observed neither in e+p nor in e−p data. The invariant mass of the e∗candi- The ratio Vap/V p of transverse energy flow anti-parallel and parallel to the hadronic final state [37] is used to suppress pho- toproduction events. Events with Vap/V p > 0.3 are rejected. Pho- toproduction and NC DIS backgrounds typically have low values of xh, the Bjorken scaling variable calculated from the hadronic H1 Collaboration / Physics Letters B 666 (2008) 131–139 136 date is calculated from the neutrino and W candidate four-vectors. For this calculation, the W candidate four-vector is scaled such that its mass is set to the nominal W boson mass. The invariant mass distributions of the e∗candidates and the SM background are presented in Fig. 1(c). The selection efficiency in this channel is 20% for Me∗= 120 GeV, increasing to 55% for Me∗= 260 GeV. From Monte Carlo studies, the experimental resolution on the re- constructed e∗mass distribution is 9 GeV for a generated e∗mass of 120 GeV, increasing to ∼20 GeV for an e∗mass of 260 GeV. is reconstructed from the combination of the two muons and its reconstructed mass is required to be larger than 60 GeV. After this selection no data event remains, while 0.52 ± 0.05 SM back- ground events are expected. 5.2. νq¯q resonance search The selection efficiency in this channel is ∼40% for Me∗= 120 GeV, decreasing to 15% for Me∗= 260 GeV. g The signatures of the e∗→νW →νeν and e∗→eZ →eνν channels are similar and consist of one high P T electron in events with large missing transverse momentum. Events with P miss T > 25 GeV and one electron with P T > 20 GeV are selected. The elec- tron is detected in the polar angle range 5◦< θe < 100◦and is required to be isolated from jets by a minimum distance of R > 1. To reduce the background from radiative CC DIS processes, a track must be associated to the electron in the central region (θe > 35◦). Events from photoproduction are suppressed by re- quiring Vap/V p < 0.1. Remaining NC DIS events are removed by requiring that the longitudinal momentum balance of the event be  i(Ei −P z,i) < 45 GeV, where the sum runs over all visi- ble particles. In order to remove background arising from SM W production, the hadron system is required to have a total trans- verse momentum P h T < 20 GeV and to exhibit a polar angle γh, as defined in [37], below 80◦. In each event, only one neutrino candidate can be reconstructed, from the total missing transverse momentum, as explained at the beginning of Section 5. The invari- ant mass of the e∗candidate in the eνν final state is therefore estimated from the four-vectors of the neutrino candidate and the electron candidate. To further remove background from W pro- duction, only events in which the reconstructed e∗mass is above 90 GeV are considered. After this selection four data events remain, while 4.5 ± 0.7 SM background events are expected. The selection efficiency for the e∗→νW →νeν (e∗→eZ →eνν) signature is ∼60% (∼35%) for e∗with masses above 120 GeV. 5.3. eq¯q resonance search The signature of the e∗→eZ →eq¯q decay channel consists of one electron and two high P T jets. Multi-jet NC DIS events consti- tute the main background contribution from SM processes. Events are selected with an isolated electron in the LAr calorimeter in the polar angle range 5◦< θe < 90◦. The electron should have either a transverse momentum P e T greater than 25 GeV or the variable23 ξ e = Ee cos2 (θe/2) above 23 GeV. These conditions remove a large part of the NC DIS contribution. The events are required to have at least two jets in the polar angle range 5◦< θjet < 130◦with transverse momenta larger than 20 and 15 GeV, respectively. In each event, a Z candidate is reconstructed from the combination of those two jets with invariant mass closest to the nominal Z bo- son mass. The reconstructed mass of the Z candidate is required to be larger than 70 GeV. To further reduce the NC DIS background the polar angle of the jet with the highest P T associated to the Z candidate is required to be less than 80◦. The polar angle of the second jet is required to be greater than 10◦in events with P jet2 T < 25 GeV. T After this selection, 286 events are observed while 277± 62 are expected from the SM. The invariant mass of the e∗candidate is calculated from the electron and Z candidate four-vectors. For this calculation, the Z candidate four-vector is scaled such that its mass is set to the nominal Z boson mass. The invariant mass distribu- tions of the e∗candidates and the SM background are presented in Fig. 1(d). The selection efficiency in this channel is 20% for Me∗= 120 GeV, increasing to 55% for Me∗= 260 GeV. From Monte Carlo studies, the experimental resolution on the reconstructed e∗ mass distribution is 2 GeV for a generated e∗mass of 120 GeV, increasing to 8 GeV for an e∗mass of 260 GeV. 5.5. Systematic uncertainties 7. Conclusion Using the full e±p data sample collected by the H1 experi- ment at HERA with an integrated luminosity of 475 pb−1 a search for the production of excited electrons is performed. The excited electron decay channels e∗→eγ , e∗→eZ and e∗→νW with subsequent hadronic or leptonic decays of the W and Z bosons are considered and no indication of a signal is found. New limits on the production cross section of excited electrons are obtained. Within gauge mediated models, an upper limit on the coupling f /Λ as a function of the excited electron mass is established for the specific relation f = + f ′ between the couplings. Assuming f = + f ′ and f /Λ = 1/Me∗excited electrons with a mass lower than 272 GeV are excluded at 95% confidence level. For the first time in ep collisions, gauge and four-fermion contact interactions are also considered together for e∗production and decays. In this scenario and assuming the same Λ parameter in contact and gauge interactions as well as f = + f ′ = 1, ηL = 1 and ηR = 0, the limit on 1/Λ improves only slightly, demonstrating that the gauge in- teraction mechanism is dominant for excited electron processes at HERA. The results presented in this Letter extend previously ex- cluded domain at HERA, LEP or Tevatron. Upper limits on the product of the e∗production cross section and of the e∗decay branching ratio are shown in Fig. 2. The anal- ysed decay channels of the W and Z gauge bosons are combined. Considering pure gauge interactions, the resulting limit on f /Λ af- ter combination of all decay channels is displayed as a function of the e∗mass in Fig. 3, for the conventional assumption f = + f ′. The total fraction of all possible e∗gauge decay channels covered in this analysis is ∼88%. The limit extends up to e∗masses of 290 GeV. Considering the assumption f /Λ = 1/Me∗excited elec- trons with masses up to 272 GeV are excluded. The relative contri- butions of the e∗decay channels to the combined limit are shown in Fig. 3(a). At low mass, the combined limit on f /Λ is dominated by the e∗→eγ channel, while the e∗→νW channel starts to contribute to the limit for masses above 200 GeV. 6. Interpretation The event yields observed in all decay channels are in agree- ment with the corresponding SM expectations and are summarised in Table 1. The SM predictions are dominated by QED Compton for the eγ resonance search, by CC DIS in the νq¯q resonance search and by NC DIS processes for the eq¯q resonance search. The distri- butions of the invariant mass of the data events are in agreement with those of the expected SM background as shown in Fig. 1. Few or no data events are observed in channels corresponding to lep- tonic decays of the W or Z bosons, in agreement with the low SM expectations. If e∗production is considered via gauge and contact interac- tions together, an upper limit on 1/Λ is also obtained, under the assumption f = f ′ = 1. Possible e∗decays by either gauge or con- tact interactions are taken into account and the efficiency of the analysis to e∗CI decays is conservatively assumed to be zero. The limit on 1/Λ as a function of the e∗mass is displayed in Fig. 4. For e∗masses below 250 GeV, the additional contribution of CI to e∗ production changes the limit on Λ by a factor of 1.15 to 1.2. A limit on Λ as a function of the e∗mass is also obtained at the Tevatron by considering single e∗production via contact interactions only, followed by its gauge decay into an electron and a photon [44]. Since no evidence for the production of excited electrons is ob- served, upper limits on the e∗production cross section and on the model parameters are derived as a function of the mass of the excited electron. Limits are presented at the 95% confidence level (CL) and are obtained from the mass spectra using a modified frequentist approach which takes statistical and systematic uncer- tainties into account [39]. Table 1 Observed and predicted event yields for the studied e∗decay channels. The anal- ysed data sample corresponds to an integrated luminosity of 475 pb−1. The errors on the SM predictions include model and experimental systematic errors added in quadrature. Typical selection efficiencies for e∗masses ranging from 120 to 260 GeV l i di t d Channel Data SM Signal efficiency [%] e∗→eγ (ela.) 42 48 ± 4 60–70 e∗→eγ (inel.) 65 65 ± 8 60–70 e∗→νW →νq¯q 129 133 ± 32 20–55 e∗→νW →νeν 4 4.5 ± 0.7 60 e∗→eZ →eνν 35 e∗→eZ →eq¯q 286 277 ± 62 20–55 e∗→eZ →eee 0 0.72 ± 0.06 60 e∗→eZ →eμμ 0 0.52 ± 0.05 40–15 The theoretical uncertainty on the e∗production cross section is dominated by the uncertainty on the scale at which the proton parton densities are evaluated. It is estimated by varying this scale from  Q 2/2 to 2  Q 2. The resulting uncertainty depends on the e∗mass and is 10% at Me∗= 100 GeV, increasing to 15% at Me∗= 300 GeV. Fig. 2. Upper limits at 95% CL on the product of the e∗cross section and decay branching ratio, σ × BR, in the three e∗decay channels as a function of the excited electron mass. The decay channels of the W and Z gauge bosons are combined. The limits correspond to e± p collision data with an effective √ s = 318 GeV and relative fractions of e+ p and e−p data of 61% and 39%, respectively. Areas above the curves are excluded. 7. Conclusion These new re- sults extend the previously published limits by H1 [2] and ZEUS [40] by more than a factor of two in f /Λ. Fig. 3(b) shows direct and indirect limits on e∗production obtained in e+e−collisions at LEP by the OPAL Collaboration [41] and DELPHI Collaboration [42], respectively. The result of the most recent search for e∗pro- duction within gauge mediated models obtained at the Tevatron by the CDF Collaboration is also indicated [43]. The limit from the present analysis extends at high mass beyond the kinematic reach of LEP searches and to lower f /Λ values than are reached by Teva- tron searches. 5.4. eee, eμμ and eνν resonance searches • The hadronic energy scale is known within 2%. The uncertainty on the jet polar angle determination is 10 mrad. In the search for e∗→eZ →eee, events with three electrons of high transverse momenta are selected. The electrons must be de- tected in the polar angle range 5◦< θe < 150◦and have transverse momenta larger than 25, 20 and 15 GeV, respectively. To reduce the background from QED Compton processes, each electron in the central region (θe > 35◦) must be associated to a charged track. A Z candidate is reconstructed from the combination of the two electrons with an invariant mass closest to the nominal Z boson mass. The reconstructed mass of the Z candidate is required be compatible with the nominal Z boson mass within 7 GeV. After this selection no data event remains, while 0.72 ± 0.06 SM back- ground events are expected. The selection efficiency for e∗with masses above 120 GeV is ∼60%. • The uncertainty on the trigger efficiency is 3%. • The luminosity measurement has an uncertainty of 3%. The effect of the above systematic uncertainties on the SM ex- pectation and the signal efficiency are determined by varying the experimental quantities by ±1 standard deviation in the MC sam- ples and propagating these variations through the whole analysis chain. Additional model systematic uncertainties are attributed to the SM background MC generators described in Section 3. An error of 20% on the normalisation of NC DIS, CC DIS and photoproduction processes with at least two high P T jets is considered to account for the uncertainty on higher order QCD corrections. The error on the elastic and quasi-elastic QED Compton cross sections is con- servatively estimated to be 5%. The error on the inelastic QED Compton cross section is 10%. The errors attributed to lepton pair and W production are 3% and 15%, respectively. The total error on the SM background prediction is determined by adding the effects of all model and experimental systematic uncertainties in quadra- ture. In the search for e∗→eZ →eμμ, events are selected with one electron with transverse momentum above 20 GeV and two muons with transverse momenta above 15 and 10 GeV, respectively. The electron and the muons must be detected in the polar angle ranges 5◦< θe < 150◦and 10◦< θμ < 160◦, respectively. A Z candidate H1 Collaboration / Physics Letters B 666 (2008) 131–139 137 Acknowledgements 3, DESY, 1991, p. 1526. [12] C. Berger, W. Wagner, Phys. Rep. 146 (1987) 1. [13] J. Pumplin, et al., JHEP 0207 (2002) 012, hep-ph/0201195. [14] T. Sjöstrand, et al., PYTHIA version 6.1, Comput. Phys. Commun. 135 (2001) 238, hep-ph/0010017. [15] H. Jung, RAPGAP version 3.1, Comput. Phys. Commun. 86 (1995) 147. [16] A. Kwiatkowski, H. Spiesberger, H.J. Möhring, Comput. Phys. Commun. 69 (1992) 155. [17] G.A. Schuler, H. Spiesberger, DJANGOH version 1.4, Django: The interface for the event generators Heracles and Lepto, in: W. Buchmüller, G. Ingelman (Eds.), Proceedings of the Workshop “Physics at HERA”, vol. 3, DESY, 1991, p. 1419. [18] L. Lönnblad, Comput. Phys. Commun. 71 (1992) 15. [19] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 25 (2002) 13, hep-ex/0201006. [20] A. Aktas, et al., H1 Collaboration, Phys. Lett. B 602 (2004) 14, hep-ex/0408044. [21] C. Berger, P. Kandel, A new generator for wide angle bremsstrahlung, in: A.T. Doyle, G. Grindhammer, G. Ingelman, H. Jung (Eds.), Proceedings of the Work- shop “Monte Carlo Generators for HERA Physics”, DESY, 1998. [22] U. Baur, J.A. Vermaseren, D. Zeppenfeld, Nucl. Phys. B 375 (1992) 3. [23] T. Abe, GRAPE-Dilepton version 1.1, Comput. Phys. Commun. 136 (2001) 126, hep-ph/0012029. [24] R Brun et al GEANT3 CERN-DD/EE/84-1 (a) (b) Fig. 3. Exclusion limits at 95% CL on the coupling f /Λ as a function of the mass of the excited electron considering gauge mediated interactions only, with the as- sumption f = + f ′. The separate contributions of the different e∗decay channels are presented in (a). Values of the couplings above the curves are excluded. The ex- cluded domain based on all H1 e± p data is represented in (b) by the shaded area. It is compared to the direct (dashed line) and indirect (dotted line) exclusion lim- its obtained at LEP by the OPAL Collaboration [41] and by the DELPHI Collaboration [42], respectively. The result from the Tevatron obtained by the CDF experiment [43] is also shown (dashed-dotted line). The curve f /Λ = 1/Me∗is indicated in (b). (a) Fig. 4. Exclusion limits at 95% CL on the inverse of the compositeness scale 1/Λ as a function of the mass of the excited electron. The excluded domain obtained by con- sidering e∗production via gauge mediated interactions only and under the assump- tion f = + f ′ = 1 is represented by the shaded area. [10] M. Spira, private communication. B 375 (1992) 3. [23] T. Abe, GRAPE-Dilepton version 1.1, Comput. Phys. Commun. 136 (2001) 126, hep-ph/0012029. engineers and technicians for their work in constructing and main- taining the H1 detector, our funding agencies for financial support, the DESY technical staff for continual assistance and the DESY di- rectorate for the hospitality which they extend to the non-DESY members of the Collaboration. We also wish to thank M. Spira for many useful discussions and for providing the cross section calculation for excited electron production including contact inter- actions in ep collisions. [24] R. Brun, et al., GEANT3, CERN-DD/EE/84-1. [25] I. Abt, et al., H1 Collaboration, Nucl. Instrum. Methods A 386 (1997) 310; b l ll b i l h d ( ) 5] I. Abt, et al., H1 Collaboration, Nucl. Instrum. Methods A 386 (1 [25] I. Abt, et al., H1 Collaboration, Nucl. Instrum. Methods A 386 (1997) 310; I. Abt, et al., H1 Collaboration, Nucl. Instrum. Methods A 386 (1997) 348. [26] B. Andrieu, et al., H1 Calorimeter Group Collaboration, Nucl. Instrum. Methods A 336 (1993) 460. [27] B. Andrieu, et al., H1 Calorimeter Group Collaboration, Nucl. Instrum. Methods A 350 (1994) 57. [28] B. Andrieu, et al., H1 Calorimeter Group Collaboration, Nucl. Instrum. Methods A 336 (1993) 499. [29] R.D. Appuhn, et al., H1 SPACAL Group Collaboration, Nucl. Instrum. Methods A 386 (1997) 397. [10] M. Spira, private communication. [11] T. Köhler, Exotic processes at HERA: The event generator COMPOS, in: W. Buch- müller, G. Ingelman (Eds.), Proceedings of the Workshop “Physics at HERA”, vol. 3, DESY, 1991, p. 1526. [12] C. Berger, W. Wagner, Phys. Rep. 146 (1987) 1 [13] J. Pumplin, et al., JHEP 0207 (2002) 012, hep-ph/0201195. [14] T. Sjöstrand, et al., PYTHIA version 6.1, Comput. Phys. Commun. 135 (200 hep-ph/0010017. [15] H. Jung, RAPGAP version 3.1, Comput. Phys. Commun. 86 (1995) 147. [15] H. Jung, RAPGAP version 3.1, Comput. Phys. Commun. 86 (199 (b) [16] A. Kwiatkowski, H. Spiesberger, H.J. Möhring, Comput. Phys. Commun. 69 (1992) 155. [17] G.A. Schuler, H. Spiesberger, DJANGOH version 1.4, Django: The interface for the event generators Heracles and Lepto, in: W. Buchmüller, G. Ingelman (Eds.), Proceedings of the Workshop “Physics at HERA”, vol. 3, DESY, 1991, p. 1419. Fig. 3. Exclusion limits at 95% CL on the coupling f /Λ as a function of the mass of the excited electron considering gauge mediated interactions only, with the as- sumption f = + f ′. The separate contributions of the different e∗decay channels are presented in (a). Values of the couplings above the curves are excluded. The ex- cluded domain based on all H1 e± p data is represented in (b) by the shaded area. It is compared to the direct (dashed line) and indirect (dotted line) exclusion lim- its obtained at LEP by the OPAL Collaboration [41] and by the DELPHI Collaboration [42], respectively. The result from the Tevatron obtained by the CDF experiment [43] is also shown (dashed-dotted line). The curve f /Λ = 1/Me∗is indicated in (b). [18] L. Lönnblad, Comput. Phys. Commun. 71 (1992) 15. [18] L. Lönnblad, Comput. Phys. Commun. 71 (1992) 15. [19] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 25 ( [19] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 25 (2002) 13, hep-ex/0201006. et al., H1 Collaboration, Phys. Lett. B 602 (2004) 14, hep-ex/040804 [20] A. Aktas, et al., H1 Collaboration, Phys. Lett. B 602 (2004) [20] A. Aktas, et al., H1 Collaboration, Phys. Lett. B 602 (2004) 14, hep-ex/0408044. [21] C. Berger, P. Kandel, A new generator for wide angle bremsstrahlung, in: A.T. Doyle, G. Grindhammer, G. Ingelman, H. Jung (Eds.), Proceedings of the Work- shop “Monte Carlo Generators for HERA Physics”, DESY, 1998. p y [22] U. Baur, J.A. Vermaseren, D. Zeppenfeld, Nucl. Phys. Acknowledgements The hatched area corresponds to the additional domain excluded if gauge mediated and contact interactions are considered together for e∗production. Areas above the curves are excluded. [2] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 548 (2002) 35, hep-ex/0207038. [3] F.D. Aaron, et al., H1 Collaboration, Phys. Lett. B 663 (2008) 382, arXiv: 0802.1858 [hep-ex]. [2] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 548 (2002) 35, hep-ex/0207038. [3] F.D. Aaron, et al., H1 Collaboration, Phys. Lett. B 663 (2008) 382, arXiv: 0802.1858 [hep-ex]. 4] K. Hagiwara, S. Komamiya, D. Zeppenfeld, Z. Phys. C 29 (1985) [5] U. Baur, M. Spira, P.M. Zerwas, Phys. Rev. D 42 (1990) 815. [6] F. Boudjema, A. Djouadi, J.L. Kneur, Z. Phys. C 57 (1993) 425. [7] S.J. Brodsky, S.D. Drell, Phys. Rev. D 22 (1980) 2236. [8] F.M. Renard, Phys. Lett. B 116 (1982) 264. [9] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 568 (2003) 35, hep-ex/0305015. [10] S i i i i [9] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 568 (2003) 35, hep-ex/0305015. [10] M Spira private communication [10] M. Spira, private communication. Acknowledgements We are grateful to the HERA machine group whose outstand- ing efforts have made this experiment possible. We thank the H1 Collaboration / Physics Letters B 666 (2008) 131–139 138 (a) (b) Fig. 3. Exclusion limits at 95% CL on the coupling f /Λ as a function of the mass of the excited electron considering gauge mediated interactions only, with the as- sumption f = + f ′. The separate contributions of the different e∗decay channels are presented in (a). Values of the couplings above the curves are excluded. The ex- cluded domain based on all H1 e± p data is represented in (b) by the shaded area. It is compared to the direct (dashed line) and indirect (dotted line) exclusion lim- its obtained at LEP by the OPAL Collaboration [41] and by the DELPHI Collaboration [42], respectively. The result from the Tevatron obtained by the CDF experiment [43] is also shown (dashed-dotted line). The curve f /Λ = 1/Me∗is indicated in (b). engineers and technicians for their work in constructing and main- taining the H1 detector our funding agencies for financial support Fig. 4. Exclusion limits at 95% CL on the inverse of the compositeness scale 1/Λ as a function of the mass of the excited electron. The excluded domain obtained by con- sidering e∗production via gauge mediated interactions only and under the assump- tion f = + f ′ = 1 is represented by the shaded area. The hatched area corresponds to the additional domain excluded if gauge mediated and contact interactions are considered together for e∗production. Areas above the curves are excluded. [2] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 548 (2002) 35, hep-ex/0207038. [3] F.D. Aaron, et al., H1 Collaboration, Phys. Lett. B 663 (2008) 382, arXiv: 0802.1858 [hep-ex]. [4] K. Hagiwara, S. Komamiya, D. Zeppenfeld, Z. Phys. C 29 (1985) 115. [5] U. Baur, M. Spira, P.M. Zerwas, Phys. Rev. D 42 (1990) 815. [6] F. Boudjema, A. Djouadi, J.L. Kneur, Z. Phys. C 57 (1993) 425. [7] S.J. Brodsky, S.D. Drell, Phys. Rev. D 22 (1980) 2236. [8] F.M. Renard, Phys. Lett. B 116 (1982) 264. [9] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 568 (2003) 35, hep-ex/0305015. [10] M. Spira, private communication. [11] T. Köhler, Exotic processes at HERA: The event generator COMPOS, in: W. Buch- müller, G. Ingelman (Eds.), Proceedings of the Workshop “Physics at HERA”, vol. [1] H. Harari, Phys. Rep. 104 (1984) 159. References [30] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 30 (2003) 1, hep-ex/0304003. [30] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 30 (2003) 1, hep-ex/0304003. [31] V. Andreev, et al., H1 Collaboration, Phys. Lett. B 561 (2003) 241, hep- ex/0301030. [31] V. Andreev, et al., H1 Collaboration, Phys. Lett. B 561 (2003) 241, hep- ex/0301030. [1] H. Harari, Phys. Rep. 104 (1984) 159. H1 Collaboration / Physics Letters B 666 (2008) 131–139 139 [32] M. Peez, Recherche de déviations au Modèle Standard dans les processus de grande énergie transverse sur le collisionneur électron–proton HERA, PhD thesis, Université de Lyon (2003), DESY-THESIS-2003-023, available at http:// www-h1.desy.de/psfiles/theses/. [38] A. Blondel, F. Jacquet, in: U. Amaldi (Ed.), Proceedings of the Study of an ep Facility for Europe, vol. 79/48, DESY, 1979, p. 391. 39] T. Junk, Nucl. Instrum. Methods A 434 (1999) 435, hep-ex/990 [40] S. Chekanov, et al., ZEUS Collaboration, Phys. Lett. B 549 (2002) 32, hep- ex/0109018. [33] B. Portheault, Première mesure des sections efficaces de courant chargé et neutre avec le faisceau de positrons polarisé à HERA II et analyses QCD- électrofaibles, PhD thesis, Université Paris XI (2005), LAL-05-05, available at http://www-h1.desy.de/psfiles/theses/. [33] B. Portheault, Première mesure des sections efficaces de courant chargé et neutre avec le faisceau de positrons polarisé à HERA II et analyses QCD- électrofaibles, PhD thesis, Université Paris XI (2005), LAL-05-05, available at http://www-h1.desy.de/psfiles/theses/. [41] G. Abbiendi, et al., OPAL Collaboration, Phys. Lett. B 544 (2002) 57, hep- ex/0206061. [42] J. Abdallah, et al., DELPHI Collaboration, Eur. Phys. J. C 37 (2004) 405, hep- ex/0409058. [34] S.D. Ellis, D.E. Soper, Phys. Rev. D 48 (1993) 3160, hep-ph/9305266. [34] S.D. Ellis, D.E. Soper, Phys. Rev. D 48 (1993) 31 4] S.D. Ellis, D.E. Soper, Phys. Rev. D 48 (1993) 3160, hep-ph/93052 [35] S. Catani, et al., Nucl. Phys. B 406 (1993) 187. [43] D. Acosta, et al., CDF Collaboration, Phys. Rev. Lett. 94 (2005) 101802, hep- ex/0410013. [36] T.N. Trinh, Recherche de leptons excités sur le collisionneur HERA avec le dé- tecteur H1, PhD thesis, Université de la Méditerranée Aix-Marseille II (2008), available at http://www-h1.desy.de/psfiles/theses/. [36] T.N. Trinh, Recherche de leptons excités sur le collisionneur HERA avec le dé- tecteur H1, PhD thesis, Université de la Méditerranée Aix-Marseille II (2008), available at http://www-h1.desy.de/psfiles/theses/. [44] V.M. Abazov, et al., D0 Collaboration, Phys. Rev. D 77 (2008) 091102(R), arXiv: 0801.0877 [hep-ex]. [37] C. References Adloff, et al., H1 Collaboration, Eur. Phys. J. C 13 (2000) 609, hep-ex/9908059. [37] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 13 (2000) 609, hep-ex/9908059.
https://openalex.org/W4224060341
https://digital.csic.es/bitstream/10261/270433/1/ijms-23-04278.pdf
English
null
Unveiling the Toxicity of Fine and Nano-Sized Airborne Particles Generated from Industrial Thermal Spraying Processes in Human Alveolar Epithelial Cells
International journal of molecular sciences
2,022
cc-by
14,833
  g p 9 Institute of Ceramic Technology (ITC), Universitat Jaume I, 12006 Castellón, Spain; eliseo.monfort@itc.uji.es * Correspondence: sonia.fraga@insa.min-saude.pt; Tel.: +351-223-401-100 9 Institute of Ceramic Technology (ITC), Universitat Jaume I, 12006 Castellón, Spain; eliseo.monfort@itc.uji.es * Correspondence: sonia.fraga@insa.min-saude.pt; Tel.: +351-223-401-100 Citation: Bessa, M.J.; Brandão, F.; Fokkens, P.H.B.; Leseman, D.L.A.C.; Boere, A.J.F.; Cassee, F.R.; Salmatonidis, A.; Viana, M.; Monfort, E.; Fraga, S.; et al. Unveiling the Toxicity of Fine and Nano-Sized Airborne Particles Generated from Industrial Thermal Spraying Processes in Human Alveolar Epithelial Cells. Int. J. Mol. Sci. 2022, 23, 4278. https://doi.org/10.3390/ ijms23084278 Abstract: High-energy industrial processes have been associated with particle release into workplace air that can adversely affect workers’ health. The present study assessed the toxicity of incidental fine (PGFP) and nanoparticles (PGNP) emitted from atmospheric plasma (APS) and high-velocity oxy-fuel (HVOF) thermal spraying. Lactate dehydrogenase (LDH) release, 2-(4-nitrophenyl)-2H- 5-tetrazolio]-1,3-benzene disulfonate (WST-1) metabolisation, intracellular reactive oxygen species (ROS) levels, cell cycle changes, histone H2AX phosphorylation (γ-H2AX) and DNA damage were evaluated in human alveolar epithelial cells at 24 h after exposure. Overall, HVOF particles were the most cytotoxic to human alveolar cells, with cell viability half-maximal inhibitory concentration (IC50) values of 20.18 µg/cm2 and 1.79 µg/cm2 for PGFP and PGNP, respectively. Only the highest tested concentration of APS-PGFP caused a slight decrease in cell viability. Particle uptake, cell cycle arrest at S + G2/M and γ-H2AX augmentation were observed after exposure to all tested particles. However, higher levels of γ-H2AX were found in cells exposed to APS-derived particles (~16%), while cells exposed to HVOF particles exhibited increased levels of oxidative damage (~17% tail intensity) and ROS (~184%). Accordingly, APS and HVOF particles seem to exert their genotoxic effects by different mechanisms, highlighting that the health risks of these process-generated particles at industrial settings should not be underestimated. Publisher’s Note: MDPI stays neutral with regard to jurisdictional claims in published maps and institutional affil- iations. Keywords: A549 cells; cell cycle; cytotoxicity; DNA damage; in vitro toxicity; incidental nanoparticles; H2AX phosphorylation; occupational exposure; process-generated nanoparticles Copyright: © 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article distributed under the terms and conditions of the Creative Commons Attribution (CC BY) license (https:// creativecommons.org/licenses/by/ 4.0/). International Journal of Molecular Sciences International Journal of Molecular Sciences International Journal of Molecular Sciences International Journal of Molecular Sciences Unveiling the Toxicity of Fine and Nano-Sized Airborne Particles Generated from Industrial Thermal Spraying Processes in Human Alveolar Epithelial Cells Maria João Bessa 1,2,3,4 , Fátima Brandão 1,2,3,4, Paul H. B. Fokkens 5, Daan L. A. C. Leseman 5, A. John F. Boere 5, Flemming R. Cassee 5,6, Apostolos Salmatonidis 7,8, Mar Viana 7 , Eliseo Monfort 9, Sónia Fraga 1,2,3,* and João Paulo Teixeira 1,2,3 1 Department of Environmental Health, National Institute of Health Dr. Ricardo Jorge, 4000-053 Porto, Portugal; mjbessa8@gmail.com (M.J.B.); fatima.brandao988@gmail.com (F.B.); jpft12@gmail.com (J.P.T.) 2 1 Department of Environmental Health, National Institute of Health Dr. Ricardo Jorge, 4000-053 Porto, Portugal; mjbessa8@gmail.com (M.J.B.); fatima.brandao988@gmail.com (F.B.); jpft12@gmail.com (J.P.T.) j g g jp g 2 EPIUnit-Instituto de Saúde Pública, Universidade do Porto, 4050-091 Porto, Portugal 3 Laboratório para a Investigação Integrativa e Translacional em Saúde Populacional (ITR), 4050-091 Porto, Portugal g 4 Instituto de Ciências Biomédicas Abel Salazar (ICBAS), Universidade do Porto, 4050-313 Porto, Portugal 5 l f bl l h d ( ) l h h h l d 5 National Institute for Public Health and Environment (RIVM), 3721 Bilthoven, The Netherlands; paul.fokkens@rivm.nl (P.H.B.F.); daan.leseman@rivm.nl (D.L.A.C.L.); john.boere@rivm.nl (A.J.F.B.); flemming.cassee@rivm.nl (F.R.C.) g ( ) 6 Institute for Risk Assessment Sciences (IRAS), 3584 Utrecht, The Netherlands Institute for Risk Assessment Sciences (IRAS), 3584 Utrecht, The Netherlands 7 Institute of Environmental Assessment and Water Research, Spanish Research Council (IDAEA-CSIC), 08034 Barcelona, Spain; asalmatonidis@leitat.org (A.S.); mar.viana@idaea.csic.es (M.V.) 8 LEITAT Technological Center, C/de la Innovació 2, 08225 Terrassa, Spain 7 Institute of Environmental Assessment and Water Research, Spanish Research Council (IDAE 08034 Barcelona, Spain; asalmatonidis@leitat.org (A.S.); mar.viana@idaea.csic.es (M.V.) 8 LEITAT Technological Center, C/de la Innovació 2, 08225 Terrassa, Spain 1. Introduction The ceramic industry has been benefitting from nanotechnology innovation processes and advanced materials [1]. Workers from these industries are at risk of exposure to airborne fine (<2.5 µm mass median aerodynamic diameter (MMAD)) and nano-sized (<0.200 µm MMAD) particles that may be released either during the handling or manufacturing of https://www.mdpi.com/journal/ijms Int. J. Mol. Sci. 2022, 23, 4278. https://doi.org/10.3390/ijms23084278 Int. J. Mol. Sci. 2022, 23, 4278 2 of 18 ceramics using engineered nanoparticles (ENP, 1–100 nm) as raw materials or to incidentally emitted particles during mechanical and combustion/heating processes. Indeed, high- energy processes such as laser ablation, laser sintering, physical vapour deposition, inkjet printing, thermal spraying processes (e.g., atmospheric plasma spraying (APS) and high- velocity oxy-fuel spraying (HVOF)) and glazing represent a high potential of fine and ultrafine particle formation and release to the workplace air [2–10]. Inhalation is the predominant route of exposure to micro- and nano-sized particles in occupational settings. Respiratory tract deposition and clearance is governed by aerosol physics and by the anatomy and physiology of the respiratory tract [11]. The deeper the particles reach, the harder their removal from the respiratory system, favouring particle– cell interactions that might result in adverse health effects [12,13]. Many epidemiological studies already described an association between exposure to particulate matter (PM) and the occurrence of adverse health effects [14,15]. Exposure to airborne particles has been associated with cardiovascular, pulmonary and neurological diseases, which leads to an increased risk of mortality [16–18]. In the case of the ceramic industry, worker exposure to ceramic dusts has been strongly linked to respiratory symptoms, such as wheezing, breathlessness and dry cough, as well as with reduced lung function, chronic bronchitis and chronic obstructive pulmonary disease (COPD) [19–21]. p y ( ) Most of the knowledge on nano(particle) toxicity comes from in vitro mechanistic stud- ies. While there are many available studies on the in vitro toxicity of engineered nanoparti- cles (ENP), little is known about the in vitro hazard of process-generated (nano)particles. In this regard, our group recently conducted a comparative assessment of the in vitro toxicity of ENP (tin oxide (Sb2O3) and zirconium oxide (ZrO2) ENP) that are used as input materials in the ceramic industry vs. particles collected during the HVOF spraying of ceramic coatings onto metal surfaces to produce thermal-resistant coatings [22]. 1. Introduction Overall, our data showed that human tri-dimensional (3D) bronchial cultures under air–liquid interface (ALI) conditions were rather resistant to the ENP that induced mild cytotoxicity at early timepoints (24 h), though cells rapidly recovered since no significant changes in cell viability compared to the control were observed at late timepoints (72 h). At the same time, while the fine fraction of the HVOF-derived particles significantly decreased cell viability, the ultrafine fraction significantly increased DNA oxidative damage, showing that HVOF particles exhibited a higher toxicity potential compared to ENP [22]. A recent study by Cediel-Ulloa et al. also evaluated the in vitro toxicity of airborne particles emitted during gas–metal arc welding (GMAW) in a laboratory setting on primary human small airway epithelial cells (hSAEC) [23]. These authors observed that stainless steel welding particles were more cytotoxic compared to mild steel particles and induced oxidative stress in primary human small airway epithelial cells. In addition, Pavlovska et al. investigated the biological effects of airborne particulates collected in woodworking and metalworking industries both on EpiAirway 3D human small airway epithelial cells exposed for 4 h (half a working day), 8 h (full working day) and 72 h (three working days) and on A549 lung epithelial cells that were continuously exposed for 96 h. The obtained data showed that exposure to these polluting particles exerted minor acute effects on the morphology and viability of both A549 cells and EpiAirway tissues. However, a marked reduction in EpiAir- way tissue viability after 8 h of exposure to woodworking particles and a slight reduction in tissue viability after 72 h of exposure to metalworking particles were observed [24]. Therefore, the present study aims to further explore the in vitro toxicity of process- generated fine (PGFP; <2.5 µm MMAD) and nano-sized particles (PGNP; <0.200 µm MMAD) that are incidentally emitted during two industrial thermal spraying processes (APS and HVOF) of ceramic coatings onto metal surfaces. We hypothesise that PGNP are more toxic to human alveolar epithelial cells than PGFP. Biological endpoints, including particle internalisation, plasma membrane integrity, cell metabolic activity and viability, re- active oxygen-species (ROS) levels, cell cycle analysis, histone H2AX phosphorylation and DNA damage, were evaluated in human alveolar epithelial A549 cells at 24 h after exposure. Int. J. Mol. Sci. 2022, 23, 4278 3 of 18 2.3. Intracellular Reactive Oxygen Species Levels No major effects on ROS levels were found on human alveolar epithelial cells after 24 h of exposure to APS-derived PGFP and PGNP (Figure 2A). On the other hand, in cells exposed to the HVOF particles, a significant increase in the intracellular ROS levels was found for the highest tested concentrations of PGFP (176.88 ± 32.35%) and PGNP (183.67 ± 59.06%), when compared to the NC (Figure 2B). 2.2. Plasma Membrane Integrity and Cell Viability Under our experimental conditions, no differences in cell membrane integrity and viability were found after 24 h of exposure to both fractions of APS-derived particles compared with the negative control (NC) (Figure 1A). On the other hand, the cytotoxic effects were more pronounced when cells were exposed to particles derived from the HVOF spraying process. While a significant increase in the LDH release compared to control cells was observed after exposure to PGFP at either 10.00 µg/cm2 (30.70%) or 20 µg/cm2 (26.15%), a clear concentration-dependent decrease in cell viability was detected (Figure 1B). The analysis of cell viability concentration–response curves of cells exposed to HVOF-derived PGFP and PGNP revealed half-maximal inhibitory concentrations (IC50) of 20.18 µg/cm2 (CI 95%: 11.66–34.95) and 1.79 µg/cm2 (CI 95%: 1.48–2.16), respectively. 2.3. Intracellular Reactive Oxygen Species Levels 2. Results 2.1. Process-Generated Fine and Nano-Sized Particle Characterisation 2.1. Process-Generated Fine and Nano-Sized Particle Characterisation Table 1 presents the physicochemical features of the aqueous suspensions of the tested process-generated particles, namely, concentration (both in terms of mass and number of particles per mL), hydrodynamic size and oxidative potential. As shown, APS-derived aqueous suspensions were more diluted in terms of mass/mL than the HVOF ones, which somehow limited the maximum tested concentrations of the former type of particles, in particular of the PGNP fraction. For APS-derived particles, the mean hydrodynamic size value was 244 nm and 410 nm for PGFP and PGNP, respectively. At the same time, HVOF- PGFP (247 nm) and PGNP (236 nm) exhibited a similar hydrodynamic size mean value. Regarding the oxidative potential, only APS-derived PGFP demonstrated a low oxidative potential, whereas HVOF-derived particles, particularly PGNP, exhibited a high ability to produce •OH in a cell-free environment. Table 1. Physicochemical characteristics of the tested PGFP and PGNP aqueous suspensions. Stock Suspension Concentration (mg/mL) Stock Suspension Concentration (Number of Particles/mL) Hydrodynamic Size (nm) Oxidative Potential (A.U.) * APS PGFP 0.068 8.49 × 108 244 ± 120 3291 PGNP 0.034 4.21 × 108 410 ± 162 5319 HVOF PGFP 1.069 9.72 × 108 247 ± 116 9893 PGNP 0.140 15.86 × 108 236 ± 86 12833 Data are presented as means ± SD. Hydrodynamic size and concentration were measured by nanoparticle tracking analysis. Oxidative potential was measured by electronic spin resonance. A.U.: arbitrary units. * Negative control (ultrapure water) = 3191 A.U.; Positive control (DOFA) = 48,041 A.U. Table 1. Physicochemical characteristics of the tested PGFP and PGNP aqueous suspensions. Data are presented as means ± SD. Hydrodynamic size and concentration were measured by nanoparticle tracking analysis. Oxidative potential was measured by electronic spin resonance. A.U.: arbitrary units. * Negative control (ultrapure water) = 3191 A.U.; Positive control (DOFA) = 48,041 A.U. 2.2. Plasma Membrane Integrity and Cell Viability 2.4. Cellular Uptake of the (Nano)Particles The cellular uptake of the process-generated particles under study by human alveolar epithelial cells was estimated based on changes in the percentage of the side scatter signal (%SSC), a measure of cellular complexity, analysed by flow cytometry. As depicted in Figure 3, a concentration-dependent increase in cell complexity was observed in A549 cells that were incubated with all tested particles, regardless of the process and the particle fraction. For APS- and HVOF-derived particles, a significant increase in particle uptake was detected in cells exposed to the highest tested concentrations of either PGFP or PGNP. How- ever, the fine HVOF-derived particles were internalised by A549 cells to a higher degree Int. J. Mol. Sci. 2022, 23, 4278 4 of 18 than the nano-sized fraction. At the same time, HVOF-PGFP (5 µg/cm2; 4.16 ± 1.61%) were internalised to a greater extent than APS-PGFP (5 µg/cm2; 2.69 ± 0.75%) in A549 cells. than the nano-sized fraction. At the same time, HVOF-PGFP (5 µg/cm2; 4.16 ± 1.61%) were internalised to a greater extent than APS-PGFP (5 µg/cm2; 2.69 ± 0.75%) in A549 cells. internalised to a greater extent than APS PGFP (5 µg/cm ; 2.69 ± 0.75%) in A549 cells. Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in h epithelial cells after 24 h of exposure. Data are expressed as means ± standard deviat LDH release values were normalised considering the positive control (total LDH rele with 2% Triton X-100), while WST-1 reduction values were normalised considerin control (NC). Data were analysed by the one-way analysis of variance (ANOVA) te Dunnett’s post hoc test for multiple comparisons. * p ≤ 0.05, ** p ≤ 0.01 and *** p ≤ 0.0 Positive control (LDH: 2% Triton X-100; WST-1: 70% EtOH). Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in human alveolar epithelial cells after 24 h of exposure. Data are expressed as means ± standard deviations (n = 3–4) LDH release values were normalised considering the positive control (total LDH release; cells lysed with 2% Triton X-100), while WST-1 reduction values were normalised considering the negative control (NC). Data were analysed by the one-way analysis of variance (ANOVA) test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC PC: Positive control (LDH: 2% Triton X-100; WST-1: 70% EtOH). 2.4. Cellular Uptake of the (Nano)Particles 2022, 23, x FOR PEER REVIEW Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in hu Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in human alveolar Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in hu epithelial cells after 24 h of exposure. Data are expressed as means ± standard deviatio LDH release values were normalised considering the positive control (total LDH releas with 2% Triton X-100), while WST-1 reduction values were normalised considering control (NC). Data were analysed by the one-way analysis of variance (ANOVA) test Dunnett’s post hoc test for multiple comparisons. * p ≤ 0.05, ** p ≤ 0.01 and *** p ≤ 0.001 Positive control (LDH: 2% Triton X-100; WST-1: 70% EtOH). Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in human alveolar epithelial cells after 24 h of exposure. Data are expressed as means ± standard deviations (n = 3–4). LDH release values were normalised considering the positive control (total LDH release; cells lysed with 2% Triton X-100), while WST-1 reduction values were normalised considering the negative control (NC). Data were analysed by the one-way analysis of variance (ANOVA) test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC. PC: Positive control (LDH: 2% Triton X-100; WST-1: 70% EtOH). 022, 23, x FOR PEER REVIEW 2.3. Intracellular Reactive Oxygen Species Levels No major effects on ROS levels were found on human alveolar epithelia 24 h of exposure to APS-derived PGFP and PGNP (Figure 2A). On the other h exposed to the HVOF particles, a significant increase in the intracellular ROS found for the highest tested concentrations of PGFP (176.88 ± 32.35%) and PG ± 59.06%), when compared to the NC (Figure 2B). Figure 2. ROS intracellular levels in human alveolar epithelial cells after 24 h of exposu and PGNP released during APS (A) and HVOF (B). Data are expressed as means ± stan tions (n = 3–4). Values were normalised considering the NC. Data were analysed by t ANOVA test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤ 0.05, ** *** p ≤ 0.001 vs. NC. PC: 25 µM AgNO3. 2 4 Cellular Uptake of the (Nano)Particles Figure 2. 2.4. Cellular Uptake of the (Nano)Particles ROS intracellular levels in human alveolar epithelial cells after 24 h of exposure to PGFP and PGNP released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Values were normalised considering the NC. Data were analysed by the one-way ANOVA test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC. PC: 25 µM AgNO3. 2.3. Intracellular Reactive Oxyg No major effects on RO 24 h of exposure to APS-deriv exposed to the HVOF particl found for the highest tested ± 59.06%), when compared to en Species Levels levels were found on human alveolar epith ed PGFP and PGNP (Figure 2A). On the othe s, a significant increase in the intracellular R oncentrations of PGFP (176.88 ± 32.35%) and the NC (Figure 2B). Figure 2. ROS intracellular levels in human alveolar epithelial cells after 24 h of expos and PGNP released during APS (A) and HVOF (B). Data are expressed as means ± stan tions (n = 3–4). Values were normalised considering the NC. Data were analysed by t ANOVA test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤ 0.05, ** *** p ≤ 0.001 vs. NC. PC: 25 µM AgNO3. Figure 2. ROS intracellular levels in human alveolar epithelial cells after 24 h of exposure to PGFP and PGNP released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Values were normalised considering the NC. Data were analysed by the one-way ANOVA test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC. PC: 25 µM AgNO3. Int. J. Mol. Sci. 2022, 23, 4278 5 of 18 (5 µg/c m2; 2.69 ± Figure 3. Cellular uptake of PGFP and PGNP released during APS (A) and HVOF (B alveolar epithelial A549 cells after 24 h of exposure, as estimated by variations in the signal (SSC). Data are expressed as means ± standard deviations (n = 3–4). Data were the one-way ANOVA test followed by Dunnett’s post hoc test for multiple comparison ** p ≤ 0.01 and *** p ≤ 0.001 vs. NC. Figure 3. 2.4. Cellular Uptake of the (Nano)Particles Cellular uptake of PGFP and PGNP released during APS (A) and HVOF (B) by human alveolar epithelial A549 cells after 24 h of exposure, as estimated by variations in the side scatter signal (SSC). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by the one-way ANOVA test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC. Figure 3. Cellular uptake of PGFP and PGNP released during APS (A) and HVOF (B alveolar epithelial A549 cells after 24 h of exposure, as estimated by variations in the signal (SSC). Data are expressed as means ± standard deviations (n = 3–4). Data were the one-way ANOVA test followed by Dunnett’s post hoc test for multiple comparison ** p ≤ 0.01 and *** p ≤ 0.001 vs. NC. Figure 3. Cellular uptake of PGFP and PGNP released during APS (A) and HVOF (B) by human alveolar epithelial A549 cells after 24 h of exposure, as estimated by variations in the side scatter signal (SSC). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by the one-way ANOVA test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC. 2.5. Cell Cycle Analysis Figure 4 shows the effect of the tested process-generated particles on the human alveolar epithelial cell cycle dynamics, as assessed by flow cytometry. In the NC, most of the cells were at the G0/G1 phase (78.04 ± 2.51% cells), which was expected, considering that the cells were incubated for 24 h in FBS-free culture medium. Moreover, a concentration- dependent increase in cells in the S and G2/M phases was observed at 24 h after exposure to all particles under study, but G0/G1 cells still represented the largest subpopulation (Figure 4A,B). As shown in Figure 4C, under our experimental conditions, less than 10% of the cells underwent apoptosis (sub-G1 population), though a concentration-dependent increase in the apoptotic cell number was observed for all tested particles, regardless of the process and particle fraction. 2.6. Histone Gamma-H2AX Phosphorylation Histone gamma-H2AX phosphorylation (γ-H2AX), a biomarker for DNA double- strand breaks was assessed by flow cytometry at 24 h after exposure to the process- generated particles. As shown in Figure 5, a significant increase in the total γ-H2AX levels in A549 cells was detected after exposure to any type of process-generated particles, with this increase being more marked in cells incubated with the APS-derived particles (Figure 5A) compared to the ones exposed to the HVOF particles (Figure 5B). In fact, for the APS-derived particles, PGNP (2.5 µg/cm2: 16.39 ± 3.65%) were more effective in causing total γ-H2AX than PGFP (5 µg/cm2: 11.10 ± 4.14%). Moreover, increasing levels of γ-H2AX were found for each phase of the cell cycle after 24 h of exposure to the highest tested concentration of PGFP and PGNP APS-derived particles. Regarding HVOF-derived particles, increasing levels of γ-H2AX in each phase of the cell cycle were found but to a much lower degree than APS particles. Camptothecin (3.5 µg/mL) served as a positive control (PC) and, as expected, caused an evident increment in the total γ-H2AX levels in cells at the different cell cycle phases compared to the NC. Representative graphs of the cellular uptake of particles, cell cycle and γ-H2AX analyses by flow cytometry are depicted in Figure A1. Int. J. Mol. Sci. 2022, 23, 4278 6 of 18 l tested Figure 4. Cell cycle analysis of human alveolar epithelial cells after 24 h of exposure PGNP released during APS (A) and HVOF (B). The percentage of cells in the sub-G1 totic cells) was also analysed (C). Data are expressed as means ± standard deviations ( were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤ 0.05, * *** p ≤ 0.001 vs. NC. Figure 4. Cell cycle analysis of human alveolar epithelial cells after 24 h of exposure to PGFP and PGNP released during APS (A) and HVOF (B). The percentage of cells in the sub-G1 phase (apoptotic cells) was also analysed (C). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC. Sci. 2022, 23, x FOR PEER REVIEW found for each phase of the cell cycle after 24 h of exposure to the highest tration of PGFP and PGNP APS-derived particles. 2.6. Histone Gamma-H2AX Phosphorylation Regarding HVOF-derive creasing levels of γ-H2AX in each phase of the cell cycle were found but to degree than APS particles. Camptothecin (3.5 µg/mL) served as a positiv and, as expected, caused an evident increment in the total γ-H2AX levels different cell cycle phases compared to the NC. Representative graphs of the cellular uptake of particles, cell cycle and yses by flow cytometry are depicted in Figure A1. 23, x FOR PEER REVIEW found for each phase of the cell cycle after 24 h of exposure to the hig tration of PGFP and PGNP APS-derived particles. Regarding HVOF-d creasing levels of γ-H2AX in each phase of the cell cycle were found Figure 4. Cell cycle analysis of human alveolar epithelial cells after 24 h of exposure PGNP released during APS (A) and HVOF (B). The percentage of cells in the sub-G totic cells) was also analysed (C). Data are expressed as means ± standard deviations were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤ 0.05, *** p ≤ 0.001 vs. NC. Figure 4. Cell cycle analysis of human alveolar epithelial cells after 24 h of exposure to PGFP and PGNP released during APS (A) and HVOF (B). The percentage of cells in the sub-G1 phase (apoptotic cells) was also analysed (C). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC. degree than APS particles. Camptothecin (3.5 µg/mL) served as a positiv and, as expected, caused an evident increment in the total γ-H2AX levels different cell cycle phases compared to the NC. Representative graphs of the cellular uptake of particles, cell cycle and yses by flow cytometry are depicted in Figure A1. 2.6. Histone Gamma-H2AX Phosphorylation Histone gamma-H2AX phosphorylation (γ-H2AX), a biomarker for D strand breaks was assessed by flow cytometry at 24 h after exposure to the erated particles. As shown in Figure 5, a significant increase in the total γ-H2 A549 cells was detected after exposure to any type of process-generated p this increase being more marked in cells incubated with the APS-derived par 5A) compared to the ones exposed to the HVOF particles (Figure 5B). In fact, derived particles, PGNP (2.5 µg/cm2: 16.39 ± 3.65%) were more effective in γ-H2AX than PGFP (5 µg/cm2: 11.10 ± 4.14%). 2.6. Histone Gamma-H2AX Phosphorylation Moreover, increasing levels of γ Figure 5. γ-H2AX in human alveolar epithelial cells after 24 h of exposure to PGF leased during APS (A) and HVOF (B). Data are expressed as means ± standard dev Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. Glob ysis: $$ p ≤ 0.01 and $$$ p ≤ 0.001 vs. NC. γ-H2AX in each phase of cell cycle: * p ≤ 0.0 *** p ≤ 0.001 vs. NC. 2 7 Primary and Oxidative DNA Damage Figure 5. γ-H2AX in human alveolar epithelial cells after 24 h of exposure to PGFP and PGNP released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. Global γ-H2AX analysis: $$ p ≤0.01 and $$$ p ≤0.001 vs. NC. γ-H2AX in each phase of cell cycle: * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC. phorylation hosphorylation (γ-H2AX), a biomarker for flow cytometry at 24 h after exposure to th Figure 5, a significant increase in the total γ- exposure to any type of process-generated ed in cells incubated with the APS-derived p osed to the HVOF particles (Figure 5B). In fa µg/cm2: 16.39 ± 3.65%) were more effective i 11.10 ± 4.14%). Moreover, increasing levels o pho ho 2.6. Histone Gamma-H2AX Ph Histone gamma-H2AX strand breaks was assessed b erated particles. As shown in A549 cells was detected afte this increase being more mar 5A) compared to the ones ex derived particles, PGNP (2.5 γ-H2AX than PGFP (5 µg/cm Figure 5. γ-H2AX in human alveolar epithelial cells after 24 h of exposure to PGF leased during APS (A) and HVOF (B). Data are expressed as means ± standard dev Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. Glob ysis: $$ p ≤ 0.01 and $$$ p ≤ 0.001 vs. NC. γ-H2AX in each phase of cell cycle: * p ≤ 0.0 *** p ≤ 0.001 vs. NC. Figure 5. γ-H2AX in human alveolar epithelial cells after 24 h of exposure to PGFP and PGNP released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. Global γ-H2AX analysis: $$ p ≤0.01 and $$$ p ≤0.001 vs. NC. Figure 6. Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in human a veolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed b one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤ 0.05and *** p ≤ 0.001 vs. NC. PC: 50 µM MMS and 2.5 mM KBrO3 for primary and oxidative DNA damage, respectively. Figure 6. Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in huma alveolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed b one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤0.05and *** p ≤0.001 vs. NC. PC: 500 µM MMS and 2.5 mM KBrO3 for primary and oxidative DNA damage, respectively. Figure 6. Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in human al- veolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤ 0.05and *** p ≤ 0.001 vs. NC. PC: 500 µM MMS and 2 5 mM KBrO3 for primary and oxidative DNA damage respectively Figure 6. Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in human alveolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤0.05and *** p ≤0.001 vs. NC. PC: 500 µM Figure 6. Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in human al- veolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤ 0.05and *** p ≤ 0.001 vs. NC. PC: 500 µM MMS and 2.5 mM KBrO3 for primary and oxidative DNA damage, respectively. Figure 6. 2.6. Histone Gamma-H2AX Phosphorylation γ-H2AX in each phase of cell cycle: * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC. Int. J. Mol. Sci. 2022, 23, 4278 7 of 18 7 of 18 Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in human alveolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤0.05and *** p ≤0.001 vs. NC. PC: 500 µM MMS and 2.5 mM KBrO3 for primary and oxidative DNA damage, respectively. 2.7. Primary and Oxidative DNA Damage 2.7. Primary and Oxidative DNA Damage Figure 6 depicts the primary and oxidative DNA damage of A549 cells incubated with the APS- (Figure 6A) and HVOF-derived particles (Figure 6B). Although a slight increase in DNA strand breaks was observed for PGFP of both APS and HVOF spraying processes as well as for HVOF-derived PGNP, those were not significant when compared to the NC. However, APS-derived PGFP significantly increased DNA FPG-sensitive sites of human alveolar epithelial cells at concentrations of 2.5 µg/cm2 (7.81 ± 4.40% tail intensity) and 5 µg/cm2 (8.37 ± 2.23% tail intensity) compared to the NC (2.90 ± 1.80% tail intensity) (Figure 6A), while the nano-sized fraction did not increase oxidative DNA damage in A549 cells (Figure 6A). HVOF particles seem to cause higher levels of DNA oxidative damage compared to the APS particles. As shown in Figure 6B, both the PGFP and PGNP HVOF- derived fractions significantly increased DNA oxidation in a concentration-dependent manner. Representative comet images of the DNA damage of human alveolar epithelial cells exposed to the highest tested concentrations of PGFP and PGNP emitted during the HVOF thermal spraying process are depicted in Figure A2. R REVIEW 8 of 19 3. Discussion 3. Discussion Regardless the size fraction, HVOF-derived particles were more cytotoxic for A549 cultures than the APS particles. Indeed, particles emitted during HVOF spraying induced a marked decrease in cell viability, with PGNP being more potent than PGFP, as evi- denced by its ~10× lower IC50 value, while only the fine fraction of APS-derived particles slightly decreased cell viability at the highest tested concentration (5 µg/cm2). In addition, only exposure to HVOF- but not to APS-emitted particles significantly increased the ROS ll l l l f A ll h l d h h h h Regardless the size fraction, HVOF-derived particles were more cytotoxic for A549 cul- tures than the APS particles. Indeed, particles emitted during HVOF spraying induced a marked decrease in cell viability, with PGNP being more potent than PGFP, as evidenced by its ~10× lower IC50 value, while only the fine fraction of APS-derived particles slightly decreased cell viability at the highest tested concentration (5 µg/cm2). In addition, only exposure to HVOF- but not to APS-emitted particles significantly increased the ROS intra- Int. J. Mol. Sci. 2022, 23, 4278 8 of 18 8 of 18 cellular levels of A549 cells. These results are in good agreement with the highest oxidative potential of HVOF particles compared to the APS particles. ROS are important molecules that are involved in redox-associated signalling pathways. While important for regulating and maintaining normal physiological functions, excessive levels of intracellular ROS can activate cell death and other signalling pathways, including nuclear factor-κB (NF-κB), mitogen-activated protein kinase (MAPK) and phosphoinositide 3-kinase (PI3-K), that are involved in the regulation of the expression of inflammatory response genes, cell cycle arrest, DNA strand breaks and the formation of 8-oxo-7,8-dihydro-2′-deoxyguanosine (8-oxo-dG) DNA adducts [25,26]. Differences in their chemical composition might have an obvious toxicological impact and may explain the observed cellular effects in A549 cells. The chemical analysis of the airborne fine and nano-sized particles under study revealed a major enrichment in potentially health hazardous metals (chromium (Cr), nickel (Ni) and tungsten (W)) sourcing directly from the feedstock in both scenarios as well as in major elements (aluminium (Al), calcium (Ca) and iron (Fe)) with different possible source origins, including re-suspension of indoor dusts. 3. Discussion 3. Discussion Size-resolved particle chemical composition analysis by inductively coupled plasma mass spectrometry (ICP-MS) and inductively coupled plasma-optical emission spectrometry (ICP-OES) showed that APS-derived particles were mainly constituted by Al (68% and 42% for PGFP and PGNP, respectively), Cr (11% and 16% for PGFP and PGNP, respectively) and Ni (1% and 21% for PGFP and PGNP, respectively), while the HVOF-generated ones were mainly constituted by Cr (61% and 67% for PGFP and PGNP, respectively) and Ni (27% and 28% for PGFP and PGNP, respectively), as previously reported [2]. These differences in composition might have contributed to the particle aggregation/agglomeration of the aqueous suspensions, in particular of APS-PGNP that presented a high hydrodynamic size value. Epidemiological and occupational studies have shown the hazard of inhalation ex- posure to Al, Cr and Ni to human health. Workplace exposure to airborne particles containing these elements has been associated with several respiratory disorders, such as pulmonary fibrosis, asthma, chronic obstructive lung disease, lung cancer and cardiovas- cular disease [27–34]. Several in vivo and in vitro studies have also addressed the toxicity of the nanoforms of these elements. Kim et al. investigated the toxicity of aluminium oxide (Al2O3) nanoparticles (NP) following 28 days of repeated exposure by inhalation in male rats and reported a no-observed-adverse-effect level (NOAEL) of 1 mg/m3 [35]. At the same time, the existing evidence on the Al2O3 NP effects on human pulmonary cell lines seems to point out the minimal toxic effects caused by these NP that were considered less toxic when compared to cerium oxide (CeO2), titanium dioxide (TiO2), silicon dioxide (SiO2) and zinc oxide (ZnO) NP [36–39]. These findings are in line with our results showing that Al-rich APS-derived particles did not induce a marked cytotoxicity or increment in the ROS levels of A549 cells. Both tested thermal-spraying-derived particles, especially HVOF-emitted ones, are enriched in Cr and Ni. So far, the available in vitro and in vivo studies on Cr and Ni effects have shown pulmonary toxicity in response to exposure to these elements [40–45]. In this regard, human lung cells incubated with Cr(VI) have been reported to exhibit significant levels of oxidative DNA damage [46] as well as increasing levels of H2AX- Ser139 phosphorylation [47]. Evidence of cell cycle arrest at G2/M has also been found in alveolar A549 cells exposed for 24 h to Cr(VI) [48]. On the other hand, Ding et al. 3. Discussion 3. Discussion showed that exposure to Ni triggered G2/M cell cycle arrest and proliferation blockage in human bronchial epithelial cells (BEAS-2B) [49]. In the nanoscale form, DNA damage accompanied by increased phosphorylation of DNA damage response-associated proteins ATM serine/threonine protein kinase (Ser1981), p53 tumour protein (Ser15) and H2AX (ser139) has been reported by Mo et al. in BEAS-2B cells exposed to Ni NP for 24 h [50]. ( ) p y p In response to DNA damage, the cell goes through various checkpoint mechanisms that are essential to survival, but when these fail, rapid cell death is a potential result [51]. DNA damage occurring throughout interphase will elicit a cell cycle arrest that allows Int. J. Mol. Sci. 2022, 23, 4278 9 of 18 9 of 18 time for repair mechanisms to occur prior to progression to the subsequent phases of the cell cycle [52]. For instance, depending on the cell cycle phase at which a double strand break occurs, the repair mechanism used by the cell differs [53]. One mechanism of double strand break repair is through the phosphorylation-dependent recruitment of DNA damage repair factors to sites of DNA damage, such as the phosphorylation of Ser139 on histone H2AX (γ-H2AX) [54]. In the current study, flow cytometry data showed that exposure to any type of thermal-spraying-derived particles induced cell cycle arrest at the S and G2/M phases in human alveolar epithelial A549 cells, most likely triggered in response to DNA damage. Indeed, following DNA damage, the S-phase checkpoint delays DNA synthesis, while the G2 cell cycle checkpoint prevents cells from entering mitosis, inhibiting cell proliferation [52]. In addition, for every particle, a concentration-dependent increase in the number of apoptotic sub-G1 phase cells after 24 h of exposure was observed. Under our experimental conditions, an overall increase in γ-H2AX levels was found in A549 cells, especially in cells at the S and G2/M phases. For both types of process-generated particles, PGNP were more effective in increasing γ-H2AX levels compared to PGFP. Interestingly, a more prominent effect on γ-H2AX levels was observed in cells incubated with fine or nano-sized APS-derived particles. On the other hand, although both fractions of HVOF- emitted particles increased the oxidative DNA damage, in cells exposed to PGNP, that effect was visible at lower concentrations. At the same time, oxidative DNA lesions were only observed in cells exposed to the fine fraction of APS-derived particles. 3. Discussion 3. Discussion Therefore, our data suggest that mechanisms involved in the genotoxicity of the tested thermal-spraying- emitted particles might differ between them. While APS particles caused a marked increase in histone H2AX phosphorylation at serine-139 as an early cellular response to the induction of DNA double-strand breaks, 8-oxo-dG oxidative DNA lesions increased significantly after exposure to the HVOF particles, most likely caused by the increased intracellular ROS levels that were observed. We have recently reported the effect of both fractions of the HVOF-derived parti- cles studied herein in human 3D bronchial epithelial cultures (MucilAir™) under ALI conditions [22]. We found that PGFP aerosols affected cell viability at dose levels as low as 9 µg/cm2, which was not seen for the aerosolised PGNP. However, exposure to PGNP (4.5 mg/cm2) caused an increase in the oxidative DNA damage of MucilAir™cultures. In the present study, under submerged conditions, a stronger toxic response was observed, as both fractions of HVOF particles induced a pronounced decrease in cell viability and higher levels of oxidative DNA damage at lower concentrations after 24 h of exposure in A549 cells. Differences in the magnitude of the responses to the HVOF particles within the two studies may be explained by differences in the attained deposited doses as well as in the sensitivity of the cell models used. While aerosolised particles directly deposit on cell surfaces, in submerged conditions, particles in suspension may react with the culture medium and agglomerate/aggregate into larger particles [55,56]. On the other hand, human primary cultures under ALI conditions have been described as more resistant than the traditional 2D monoculture models since they exhibit a higher degree of complexity, with active ciliary beating and mucus production that mimic the mucociliary clearance defence system that occurs in vivo [57,58], which might have considerably attenuated the uptake and cellular effects of the HVOF-derived particles [22]. Our simplified test system does not account for the differences in pulmonary deposition of PGFP and PGNP, whereas it is well-established that the smaller sizes may penetrate deeper into the lung and more efficiently reach the more vulnerable alveoli. Statements on the actual human health risk are, therefore, not possible in the absence of actual personal exposure levels. 4.3. Cell Culture Lung adenocarcinoma epithelial A549 cells from the American Type Culture Collection (ATCC®, CCL-185™) were cultured in RPMI 1640 medium with Glutamax™and 25 mM HEPES and supplemented with 10% heat-inactivated foetal bovine serum (FBS), 50 U/mL penicillin and 50 µg/mL streptomycin. Cells were maintained in a humidified atmosphere with 5% CO2 at 37 ◦C. To carry out the submerged exposure experiments, cells were seeded in 96-well (1.0 × 104 cells/well) or 24-well plates (5.0 × 104 cells/well) and allowed to adhere for 48 h at 37 ◦C and 5% CO2. 4.2. Fine and Nano-Sized Particle Suspensions and Characterisation Incidental process-generated fine (PGFP; <2.5 µm MMAD) and nano-sized particles (PGNP; <0.200 µm MMAD) that are emitted during APS and HVOF spraying were collected directly from the inside of the spraying booths at an industrial-scale mechanical workshop in the vicinity of Barcelona, as previously described [2]. Regarding the APS spraying, the collection was performed during the injection of a Cr/Ni (50/50) and Al2O3 + TiO2 feedstock blend, while for HVOF it was performed during the injection of a tungsten carbide (WC)—chromium carbon (CrC)–Ni–cobalt (Co) feedstock blend, as described in [2]. Both the PGFP and PGNP fractions were sampled directly as stock suspensions for toxicity testing, using an aerosol concentration enrichment system, as previously described [59]. The collected samples were subjected to gamma-ray irradiation to ensure the required sterility prior to the cell incubations. y p The hydrodynamic size and concentration (number of particles/mL) of the aqueous particle suspensions under study were determined by a nanoparticle tracking analysis (NTA) using a NanoSight LM20 (NANOSIGHT Ltd., Salisbury, UK). The particle oxidative potential (acellular ROS production) was determined by electron spin resonance (ESR) based on the trapping of NP-induced hydroxyl radicals (OH) that are generated in the presence of hydrogen peroxide (H2O2) using DMPO (5,5-dimethyl-1-pyrroline-N-oxide) as a spin trap, as previously described [60]. Briefly, the particle suspensions were mixed with 0.5 M H2O2 and 0.05 M DMPO, followed by incubation for 15 min at 37 ◦C in a heated shaking water bath prior to the ESR analysis. The ESR quantification was conducted with the Analysis Software (2.0 Magnettech GmbH, Berlin, Germany) on first derivation of ESR signals of the DMPOeOH quartet as the average of total amplitudes and was expressed in arbitrary units (A.U.) per sampled volume [60]. 4. Materials and Methods 4.1. Chemicals Dimethyl sulfoxide (DMSO), sodium hydroxide (NaOH), sodium chloride (NaCl), potas- sium chloride (KCl) and potassium hydroxide (KOH) were purchased from Merck KGaA (Darmstadt, Germany). Triton X-100, bovine serum albumin (BSA), low melting point (LMP) Int. J. Mol. Sci. 2022, 23, 4278 10 of 18 agarose, Tris hydrochloride (Tris-HCl), silver nitrate (AgNO3), 4-(2-hydroxyethyl)piperazine- 1-ethanesulfonic acid (HEPES), methyl methanesulfonate (MMS), propidium iodide (PI), a Roche cytotoxicity detection kit (LDH) and cell proliferation reagent water-soluble tetra- zolium (WST-1) were bought from Sigma-Aldrich (Madrid, Spain). Tris-base and disodium salt dihydrate (Na2EDTA) were supplied from Merck Millipore (Madrid, Spain). Normal melting point (NMP) agarose was purchased from Bioline (London, UK). Potassium bro- mate (KBrO3) and camptothecin were supplied from Alfa Aesar (Karlsruhe, Germany). Formamidopyrimidine-DNA glycosylase (FPG) was purchased from New England Bio- labs (Ipswich, MA, USA). Guava ICF instrument cleaning fluid was supplied by Luminex Corporation (Austin, TX, USA), and pH 7.4 flow cytometry grade PBS from Gibco was pur- chased from Life Technologies Corp. (Carlsbad, CA, USA). RNAse A from bovine pancreas (DNAse-free) from Applichem Panreac, eBioscience™phospho-histone H2A.X (Ser139) Alexa Fluor® 488-conjugated monoclonal antibody (CR55T33), Invitrogen™SYBR® Gold dye and CM-H2DCFDA (General Oxidative Stress Indicator) were bought from Thermo Fisher Scien- tific (Madrid, Spain). All cell culture reagents were purchased from Gibco, Thermo Fisher Scientific (Madrid, Spain). All chemicals used were of high purity or analytical grade. 4.2. Fine and Nano-Sized Particle Suspensions and Characterisation 4.4. Exposure Conditions All particle stock suspensions under study were dispersed by indirect probe soni- cation using a Branson sonifier (model 450) equipped with a disruptor cup horn accord- Int. J. Mol. Sci. 2022, 23, 4278 11 of 18 11 of 18 ing with the standard operation procedure (SOP) for the preparation of NP suspensions developed within the NanoToxClass project [61]. The selected concentrations of each particle fraction depended on the stock’s concentrations and the volume available. In addition, the tested concentrations were chosen based on the daily alveolar mass dose of 0.13 µg/cm2, which was expected to achieve a worst-case occupational exposure scenario with a maximum accumulated lifetime dose of 420 µg/cm2, according to Paur et al. [62]. Accordingly, serial dilutions of the stock suspensions were carried out in incubation media (FBS-free cell culture medium), and A549 cells were exposed for 24 h at 37 ◦C and 5% CO2. For APS, the tested particle concentrations ranged from 0.31 to 5.00 µg/cm2 and from 0.16 to 2.50 µg/cm2 for PGFP and PGNP, respectively, while, for HVOF particles, the con- centrations ranged between 2.50 and 40.00 µg/cm2 and between 0.63 and 10.00 µg/cm2 for PGFP and PGNP, respectively. At least three independent experiments with three replicates each were performed. 4.5. Cytotoxicity Assessment To assess the impact of the tested particles in human alveolar epithelial cells, two end- points were evaluated: LDH release and WST-1 reduction, indicators of plasma membrane integrity and cell metabolic activity, respectively. LDH release was determined using a Roche Cytotoxicity Detection Kit (Roche, Mannheim, Germany) according to the manufacturer’s instructions. After exposure and prior to analy- sis, samples were carefully transferred to 96-well round bottom plates and then centrifuged at 2210× g for 5 min to remove the cell debris and residual (nano)particles. Cells lysed with 2% Triton X-100 (30 min) were used as PC. Briefly, 100 µL of freshly prepared reaction mixture was added to 100 µL of each sample and incubated up to 30 min at room tempera- ture and protected from light. The absorbance was measured at 490 nm and 630/690 nm (reference wavelength) in a microplate reader (SpectraMax® iD3 Molecular Devices, San Jose, CA, USA). The LDH release values were normalised considering the PC mean value (total LDH release). The cell metabolic activity and viability were assessed using the WST-1 Cell Pro- liferation Reagent Kit (Roche, Mannheim, Germany), according to the manufacturer’s instructions. After exposure and prior to analysis, cells were washed with PBS pH 7.4. Afterwards, 100 µL/well of WST-1 reagent diluted to 1:10 was added for a 2 h incubation period at 37 ◦C and 5% CO2. The sample’s absorbance was measured at 450 nm and 630/690 nm (reference wavelength) in a microplate reader (SpectraMax® iD3 Molecular Devices, San Jose, CA, USA). The WST-1 reduction values were normalised considering the NC mean value. To test for possible particle interferences with the assays, the PC was determined in the absence and in the presence of the highest tested concentration of particle liquid suspensions. None of tested particles seemed to interfere in the conducted cytotoxicity assays since no significant differences in the PC values in the absence vs. in the presence of the highest tested concentration of PGFP and PGNP were detected. 4.6. Intracellular Reactive Oxygen Species Generation The generation of ROS was estimated using the InvitrogenTM CM-H2DCFDA General Oxidative Stress Indicator probe (Thermo Fisher Scientific, Madrid, Spain) according to the manufacturer’s instructions. Briefly, 1.0 × 104 cells/well were seeded in 96-well black clear- bottom plates and the medium was renewed after 24 h. At 48 h post-seeding, cells were loaded with 5 µM CM-H2DCFDA probe for 1 h at 37 ◦C and 5% CO2. Then, the medium was aspirated, and cells were exposed to the tested particles over a 24 h period. Following exposure, the fluorescence was measured at 492 nm/527 nm (excitation/emission) in a microplate reader (SpectraMax® iD3 Molecular Devices, San Jose, CA, USA). The ROS production was normalised considering the mean fluorescence (arbitrary units) of the NC. Int. J. Mol. Sci. 2022, 23, 4278 12 of 18 12 of 18 4.7. Cellular Uptake, Cell Cycle and Histone Gamma-H2AX Phosphorylation Analysis by Flow Cytometry 4.7. Cellular Uptake, Cell Cycle and Histone Gamma-H2AX Phosphorylation Analysis by Flow Cytometry The determination of cellular particle uptake, changes in the cell cycle by determining cellular distribution in the different phases (G0/G1, S, G2/M and Sub-G1) and DNA double- strand breaks assessed via phosphorylation of the Ser-139 residue of the histone variant H2AX (γ-H2AX) were carried out by flow cytometry using a Guava® easyCyte™flow cytometer (Merck KGaA, Darmstadt, Germany). Briefly, 5.0 × 104 cells/well were seeded onto 24-well plates, with medium renewal after 24 h. At 48 h post-seeding, cells were exposed to three non-cytotoxic concentrations of each particle over a 24 h period, followed by medium removal and the washing of the cells with pH 7.4 PBS. Cells were detached using 0.05% trypsin-EDTA, inactivated with incubation medium and centrifuged at 900× g for 5 min. The supernatant was gently removed, and the cells were permeabilised and fixed with ice-cold 70% ethanol and left overnight at −20 ◦C. To remove the ethanol, the samples were centrifuged, washed with PBS with 1% BSA and once again centrifuged at 900× g for 5 min. Then, the cells were labelled with 5 µg/mL Phospho-Histone H2A.X (Ser139) Alexa Fluor® 488-conjugated monoclonal antibody for 15 min at room temperature and protected from light, followed by a washing step with PBS with 1% BSA and centrifugation at 900× g for 5 min. 4.6. Intracellular Reactive Oxygen Species Generation Prior to analysis, a final 15 min staining at room temperature with a 50 µg/mL RNAse and 50 µg/mL PI solution was performed to ensure that only nuclear DNA was stained. Acquisitions were made with approximately 5000 events/per sample and recorded at a low flow rate (0.24 µL/s). For estimating the potential of particles to enter cells, the analysis was carried out by measuring the size (forward scatter, FSC) and complexity (side scatter, SSC) of the cells, following the protocol described by Suzuki, et al. [63]. Debris and doublets were gated out by plotting SSC-width vs SSC-area. A cell cycle analysis was performed by evaluating the relative cellular DNA content from the PI signal detection, as previously described by Rosário, et al. [64], while γ-H2AX was measured by assessing the Alexa Fluor® 488 and PI channel intensities, as described by Valdiglesias, et al. [65]. Camptothecin at 3.5 µg/mL was used as a PC to help define where cells were positive for γ-H2AX. The data were analysed using the Guava® InCyteTM Software (Merck KGaA, Darmstadt, Germany). 5. Conclusions HVOF particles were more cytotoxic compared to APS particles, most likely due to differences in their elemental composition. As hypothesised, PGNP derived from HVOF were more cytotoxic to A549 cells than PGFP, while both fractions of APS-emitted particles did not induce significant cytotoxic effects in A549 cells. Notwithstanding, particles emitted from the two thermal spraying processes under study were genotoxic to human alveolar epithelial cells. While APS particles markedly increased the levels of H2AX phosphoryla- tion, HVOF particles caused 8-oxo-dG oxidative DNA lesions, and the effects were evident at lower concentrations of PGNP compared to PGFP. Our data highlight that workers from industries employing high-energy processes may be at (increased) risk of adverse health effects depending on the actual inhaled dose, i.e., exposure levels and duration. Occupational epidemiological studies are urgently needed to establish this risk, whereas a better understanding of the cellular mechanisms involved in process-generated particle-induced biological effects, ultimately contributing to controlling exposures to these particles in the workplace, would facilitate reducing the health risks. The availability of information obtained from real-world exposure scenarios is deemed essential to establishing realistic preventive and corrective measures adapted to the different work scenarios (manufacturing technologies and/or chemical composition of materials). Author Contributions: Conceptualization: S.F. and J.P.T.; Methodology: M.J.B., P.H.B.F., D.L.A.C.L., A.J.F.B., F.R.C., A.S., M.V. and S.F.; Investigation: M.J.B., F.B., D.L.A.C.L. and A.S.; Formal anal- ysis: M.J.B., D.L.A.C.L., F.R.C., A.S., M.V. and S.F.; Writing—original draft preparation: M.J.B.; writing—review and editing: F.B., P.H.B.F., D.L.A.C.L., A.J.F.B., F.R.C., A.S., M.V., E.M., S.F. and J.P.T.; Supervision: S.F. and J.P.T.; Resources: F.R.C., M.V. and J.P.T.; Project administration: S.F. and J.P.T.; Funding acquisition: M.V. and J.P.T. All authors have read and agreed to the published version of the manuscript. Author Contributions: Conceptualization: S.F. and J.P.T.; Methodology: M.J.B., P.H.B.F., D.L.A.C.L., A.J.F.B., F.R.C., A.S., M.V. and S.F.; Investigation: M.J.B., F.B., D.L.A.C.L. and A.S.; Formal anal- ysis: M.J.B., D.L.A.C.L., F.R.C., A.S., M.V. and S.F.; Writing—original draft preparation: M.J.B.; writing—review and editing: F.B., P.H.B.F., D.L.A.C.L., A.J.F.B., F.R.C., A.S., M.V., E.M., S.F. and J.P.T.; Supervision: S.F. and J.P.T.; Resources: F.R.C., M.V. and J.P.T.; Project administration: S.F. and J.P.T.; Funding acquisition: M.V. and J.P.T. All authors have read and agreed to the published version of the manuscript. Funding: This research was funded by the project CERASAFE with the support of ERA-NET SIINN (project id:16) and the Portuguese Foundation for Science and Technology (FCT; SIINN/0004/2014). 4.9. Statistical Analysis A statistical analysis was performed using SPSS (version 26.0, Armonk, NY, USA) and GraphPad Prism (version 6.0, San Diego, CA, USA) statistical software. The experimental data were expressed as means ± standard deviations (SD). The data were tested for normal- ity and homogeneity of variances by the Shapiro–Wilk and Levene’s tests, respectively. For each assessed timepoint, the differences between the tested concentrations and NC were estimated using a one-way ANOVA followed by a post-hoc Dunnett’s test for multiple comparisons. A p value < 0.05 was considered significant. 4.8. DNA Damage Assessment All slides were immersed in electrophoresis solution (Na2EDTA 1 mM, and NaOH 0.3 M, pH 13) in the electrophoresis platform for 40 min, followed by electrophoresis for 30 min at a constant 25 V (0.9 V/cm) and 400 mA. For slide washing, these were first covered by cold PBS (pH 7.2) and then by deionised H2O for 10 min each. At the end of electrophoresis, slides were neutralised and fixed as described elsewhere [67]. For comet scoring, slides were initially hydrated in TE buffer (Tris-HCl 10 mM and EDTA 1 mM, pH 7.5–8) and stained at room temperature with a 1:10,000 dilution of SYBR® Gold in TE buffer for 40 min. Comets were visualised using a Motic BA410 ELITE Series microscope equipped with a Complete EPI-Fluorescence Kit and scored using the Comet Assay IV image analysis software (Perceptive Instruments, Staffordshire, UK). At least 100 cells/experimental group (50 in each replicate gel) were scored. The comet tail DNA percentage (% tail intensity) was used as a DNA damage descriptor. 4.8. DNA Damage Assessment Primary and oxidative DNA damage were assessed by the standard alkaline and FPG- modified comet assay versions, respectively, as previously described [60]. The Minimum Information for Reporting Comet Assay procedures and results (MIRCA) recommendations were followed in this manuscript [66]. Briefly, 5.0 × 104 cells/well were seeded onto 24-well plates, with medium renewal after 24 h. At 48 h post-seeding, cells were exposed for 24 h to three non-cytotoxic concentrations of each tested particle. After exposure, cells were washed twice with PBS pH 7.4, scrapped and suspended in PBS pH 7.4. Cells exposed to 500 µM MMS and 2.5 mM of KBrO3 for 30 min were included as a PC for primary and oxidative DNA damage assessment, respectively. The cells were counted in a Neubauer’s chamber and 6.0 × 103 cells were transferred to a microcentrifuge tube, centrifuged at 700× g for 5 min and then embedded in 100 µL of 1% LMP agarose. Five µL of each sample was placed on microscope slides precoated with 1% NMP using a high-throughput system of a 12-gel comet assay unit (Severn Biotech Ltd.®, Kidderminster, UK) and placed for 5 min at 4 ◦C. Duplicates of each sample were added per slide. Slides were performed in triplicate, one for the alkaline version and the other two for the enzymatic version of the comet assay (with or without the FPG enzyme). Then, slides were immersed in an ice-cold lysis solution (NaCl 2.5 M, Na2EDTA 100 mM, Tris-base 10 mM, NaOH 10 M, pH 10, Triton-X 100 1%) for 2 h at 4 ◦C. For the enzymatic version, the slides were washed in freshly prepared ice-cold buffer F solution (HEPES 400 mM, KCl 1 M, Na2EDTA 5 mM, BSA 2 mg/mL, pH 8.0) (3 × 5 min) at 4 ◦C. A 30 µL solution of buffer F or FPG enzyme (2.7 U/mL) was added to each well and incubated for 30 min at 4 ◦C. For this to happen, slides were previously placed on an ice-cold metal base of a 12-gel chamber apparatus (Severn Biotech Ltd.®, Int. J. Mol. Sci. 2022, 23, 4278 13 of 18 13 of 18 Kidderminster, UK) covered by a silicon rubber 12-well mould, followed by a top plate and clamped. Meanwhile, slides for the alkaline version remained in lysis solution. Author Contributions: Conceptualization: S.F. and J.P.T.; Methodology: M.J.B., P.H.B.F., D.L.A.C.L., A.J.F.B., F.R.C., A.S., M.V. and S.F.; Investigation: M.J.B., F.B., D.L.A.C.L. and A.S.; Formal anal- ysis: M.J.B., D.L.A.C.L., F.R.C., A.S., M.V. and S.F.; Writing—original draft preparation: M.J.B.; writing—review and editing: F.B., P.H.B.F., D.L.A.C.L., A.J.F.B., F.R.C., A.S., M.V., E.M., S.F. and J.P.T.; Supervision: S.F. and J.P.T.; Resources: F.R.C., M.V. and J.P.T.; Project administration: S.F. and J.P.T.; Funding acquisition: M.V. and J.P.T. All authors have read and agreed to the published version of the manuscript. 5. Conclusions This work was also supported by the project NanoBioBarriers (PTDC/MED-TOX/31162/2017), co- financed by the Operational Program for Competitiveness and Internationalization (POCI) through European Regional Development Funds (FEDER/FNR) and FCT and the Spanish Ministry of Sci- Int. J. Mol. Sci. 2022, 23, 4278 14 of 18 14 of 18 ence and Innovation (projects PCIN-2015-173-C02-01 and CEX2018-000794-S-Severo Ochoa). M.J. Bessa (SFRH/BD/120646/2016) and F. Brandão (SFRH/BD/101060/2014) are recipients of FCT PhD scholarships under the framework of the Human Capital Operating Program (POCH) and European Union funding. The Doctoral Program in Biomedical Sciences of the ICBAS—University of Porto offered additional funds. S. Fraga thanks FCT for funding through program DL 57/2016—Norma transitória (Ref. DL-57/INSA-06/2018). Thanks are also due to FCT/MCTES for the financial support to EPIUnit and ITR (UIDB/04750/2020 and LA/P/0064/2020). 2, 23, x FOR PEER REVIEW Institutional Review Board Statement: Not applicable. Informed Consent Statement: Not applicable. Informed Consent Statement: Not applicable. Acknowledgments: The authors volved in the CERASAFE project. Informed Consent Statement: Not applicable. Acknowledgments: The authors w volved in the CERASAFE project. Acknowledgments: The authors would like to take this opportunity to thank all institutions involved in the CERASAFE project. The authors would also like to acknowledge Jüergen Schnekenburger (Uni- versity of Müenster, Germany) for gamma-ray sterilization of the particle aqueous stock suspensions. Conflicts of Interest: The authors declare no conflict of interest. p j g g burger (University of Müenster, Germany) for gamma-ray sterilization of the particle aqueo suspensions. Conflicts of Interest: The authors declare no conflict of interest. Appendix A Appendix A Figure A1. Representative flow cytometry graphs obtained for particle uptake, cell H2AX analysis in human alveolar epithelial cells incubated for 24 h with the highest t tration of process-generated fine (PGFP) and nano-sized (PGNP) particles released velocity oxy-fuel spraying (HVOF). Figure A1. Representative flow cytometry graphs obtained for particle uptake, cell cycle and γ-H2 analysis in human alveolar epithelial cells incubated for 24 h with the highest tested concentrat of process-generated fine (PGFP) and nano-sized (PGNP) particles released during high-veloc oxy-fuel spraying (HVOF). Figure A1. Representative flow cytometry graphs obtained for particle uptake, cell cycle H2AX analysis in human alveolar epithelial cells incubated for 24 h with the highest tested tration of process-generated fine (PGFP) and nano-sized (PGNP) particles released durin velocity oxy-fuel spraying (HVOF). Figure A1. Representative flow cytometry graphs obtained for particle uptake, cell cycle and γ-H2AX analysis in human alveolar epithelial cells incubated for 24 h with the highest tested concentration of process-generated fine (PGFP) and nano-sized (PGNP) particles released during high-velocity oxy-fuel spraying (HVOF). 15 of 18 of 19 15 of 18 of 19 Int. J. Mol. Sci. 2022, 23, 4278 t. J. Mol. Sci. 2022, 23, x FOR PEE Figure A2. Representative comet assay images (100× magnification) of human alveolar epithelial cells exposed to the highest tested concentration of process-generated fine (PGFP) and nano-sized PGNP) particles released during high-velocity oxy-fuel spraying (HVOF) and respective experi- mental controls. Figure A2. Representative comet assay images (100× magnification) of human alveolar epithe- lial cells exposed to the highest tested concentration of process-generated fine (PGFP) and nano- sized (PGNP) particles released during high-velocity oxy-fuel spraying (HVOF) and respective experimental controls. gure A2. Representative comet assay images (100× magnification) of human alveolar epithelial ls exposed to the highest tested concentration of process-generated fine (PGFP) and nano-sized GNP) particles released during high-velocity oxy-fuel spraying (HVOF) and respective experi- ental controls. Figure A2. Representative comet assay images (100× magnification) of human alveolar epithe- lial cells exposed to the highest tested concentration of process-generated fine (PGFP) and nano- sized (PGNP) particles released during high-velocity oxy-fuel spraying (HVOF) and respective experimental controls. Salmatonidis, A.; Ribalta, C.; Sanfélix, V.; Bezantakos, S.; Biskos, G.; Vulpoi, A.; Simion, S.; Monfort, E.; Viana, M. Workplace Exposure to Nanoparticles during Thermal Spraying of Ceramic Coatings. Ann. Work Exp. Health 2018, 63, 91–106. 9. Salmatonidis, A.; Ribalta, C.; Sanfélix, V.; Bezantakos, S.; Biskos, G.; Vulpoi, A.; Simion, S.; Monfort, E.; Viana, M. Workplace Exposure to Nanoparticles during Thermal Spraying of Ceramic Coatings. Ann. Work Exp. Health 2018, 63, 91–106. [CrossRef] eferences Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and hazard in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297. Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.; et al. Characterizing the Chemical Profile of Incidental Ultrafine Particles for Toxicity Assessment Using an Aerosol Concentrator Ann Work Exp Health 2021 65 966–978 1. Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and hazard in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297. [CrossRef] 2. Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.; et al. Characterizing the Chemical Profile of Incidental Ultrafine Particles for Toxicity Assessment Using an Aerosol Concentrator. Ann. Work Exp. Health 2021, 65, 966–978. [CrossRef] eferences References Concentrator. Ann. Work Exp. Health 2021, 65, 966–978. Ribalta, C.; Koivisto, A.J.; Salmatonidis, A.; López-Lilao, A.; Monfort, E.; Viana, M. Modeling of High Nanoparticle Exposure in an Indoor Industrial Scenario with a One-Box Model. Int. J. Environ. Res. Public Health 2019, 16, 1695. p 3. Ribalta, C.; Koivisto, A.J.; Salmatonidis, A.; López-Lilao, A.; Monfort, E.; Viana, M. Modeling of High Nanoparticle Exposure in an Indoor Industrial Scenario with a One-Box Model. Int. J. Environ. Res. Public Health 2019, 16, 1695. [CrossRef] an Indoor Industrial Scenario with a One Box Model. Int. J. Environ. Res. Public Health 2019, 16, 1695. Salmatonidis, A.; Viana, M.; Pérez, N.; Alastuey, A.; Germán, F.; Angurel, L.A.; Sanfélix, V.; Monfort, E. Nanoparticle formation and emission during laser ablation of ceramic tiles J Aerosol Sci 2018 126 152–168 4. Salmatonidis, A.; Viana, M.; Pérez, N.; Alastuey, A.; Germán, F.; Angurel, L.A.; Sanfélix, V.; Monfort, E. Nanoparticle formation and emission during laser ablation of ceramic tiles. J. Aerosol Sci. 2018, 126, 152–168. [CrossRef] and emission during laser ablation of ceramic tiles. J. Aerosol Sci. 2018, 126, 152 168. Salmatonidis, A.; Viana, M.; Biskos, G.; Bezantakos, S. Particle size distributions and hygroscopic restructuring of ultrafine particles emitted during thermal spraying Aerosol Sci Technol 2020 54 1359–1372 5. Salmatonidis, A.; Viana, M.; Biskos, G.; Bezantakos, S. Particle size distributions and hygroscopic restructuring of ultrafine particles emitted during thermal spraying. Aerosol Sci. Technol. 2020, 54, 1359–1372. [CrossRef] particles emitted during thermal spraying. Aerosol Sci. Technol. 2020, 54, 1359 1372. Fonseca, A.S.; Maragkidou, A.; Viana, M.; Querol, X.; Hämeri, K.; de Francisco, I.; Estepa, C.; Borrell, C.; Lennikov, V.; de la Fuente, G.F. Process-generated nanoparticles from ceramic tile sintering: Emissions, exposure and environmental release. Sci. Total Environ 2016 565 922–932 6. Fonseca, A.S.; Maragkidou, A.; Viana, M.; Querol, X.; Hämeri, K.; de Francisco, I.; Estepa, C.; Borrell, C.; Lennikov, V.; de la Fuente, G.F. Process-generated nanoparticles from ceramic tile sintering: Emissions, exposure and environmental release. Sci. Total Environ. 2016, 565, 922–932. [CrossRef] Total Environ. 2016, 565, 922 932. Fonseca, A.; Viana, M.; Querol, X.; Moreno, N.; De Francisco, I.; Estepa, C.; De La Fuente, G. Ultrafine and nanoparticle formation and emission mechanisms during laser processing of ceramic materials J Aerosol Sci 2015 88 48–57 7. Fonseca, A.; Viana, M.; Querol, X.; Moreno, N.; De Francisco, I.; Estepa, C.; De La Fuente, G. Concentrator. Ann. Work Exp. Health 2021, 65, 966–978. Ribalta, C.; Koivisto, A.J.; Salmatonidis, A.; López-Lilao, A.; Monfort, E.; Viana, M. Modeling of High Nanoparticle Exposure in an Indoor Industrial Scenario with a One-Box Model Int J Environ Res Public Health 2019 16 1695 p [ ] 3. Ribalta, C.; Koivisto, A.J.; Salmatonidis, A.; López-Lilao, A.; Monfort, E.; Viana, M. Modeling of High Nanoparticle Exposure in an Indoor Industrial Scenario with a One-Box Model. Int. J. Environ. Res. Public Health 2019, 16, 1695. [CrossRef] hazard in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297. Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.; et al. Characterizing the Chemical Profile of Incidental Ultrafine Particles for Toxicity Assessment Using an Aerosol Concentrator Ann Work Exp Health 2021 65 966–978 y p y 2. Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.; et al. Characterizing the Chemical Profile of Incidental Ultrafine Particles for Toxicity Assessment Using an Aerosol Concentrator. Ann. Work Exp. Health 2021, 65, 966–978. [CrossRef] eferences Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and hazard in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297. Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.; 1. Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and hazard in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297. [CrossRef] 2. Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.; et al. h h h l fil f d l l fi l f l formation and emission mechanisms during laser processing of ceramic materials. J. Aerosol Sci. 2015, 88, 48 57. Viana, M.; Fonseca, A.S.; Querol, X.; López-Lilao, A.; Carpio, P.; Salmatonidis, A.; Monfort, E. Workplace exposure and release of ultrafine particles during atmospheric plasma spraying in the ceramic industry. Sci. Total Environ. 2017, 599–600, 2065–2073. Salmatonidis A ; Ribalta C ; Sanfélix V ; Bezantakos S ; Biskos G ; Vulpoi A ; Simion S ; Monfort E ; Viana M Workplace 8. Viana, M.; Fonseca, A.S.; Querol, X.; López-Lilao, A.; Carpio, P.; Salmatonidis, A.; Monfort, E. Workplace exposure and release of ultrafine particles during atmospheric plasma spraying in the ceramic industry. Sci. Total Environ. 2017, 599–600, 2065–2073. [CrossRef] Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and hazard in the ceramic industry: An overview of potential sources toxicity and health effects Environ Res 2020 184 109297 1. Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and hazard in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297. [CrossRef] an Indoor Industrial Scenario with a One Box Model. Int. J. Environ. Res. Public Health 2019, 16, 1695. Salmatonidis, A.; Viana, M.; Pérez, N.; Alastuey, A.; Germán, F.; Angurel, L.A.; Sanfélix, V.; Monfort, E. Nanoparticle formation and emission during laser ablation of ceramic tiles J Aerosol Sci 2018 126 152–168 4. Salmatonidis, A.; Viana, M.; Pérez, N.; Alastuey, A.; Germán, F.; Angurel, L.A.; Sanfélix, V.; Monfort, E. Nanoparticle formation and emission during laser ablation of ceramic tiles. J. Aerosol Sci. 2018, 126, 152–168. [CrossRef] Total Environ. 2016, 565, 922 932. Fonseca, A.; Viana, M.; Querol, X.; Moreno, N.; De Francisco, I.; Estepa, C.; De La Fuente, G. Ultrafine and nanoparticle formation and emission mechanisms during laser processing of ceramic materials J Aerosol Sci 2015 88 48–57 7. Fonseca, A.; Viana, M.; Querol, X.; Moreno, N.; De Francisco, I.; Estepa, C.; De La Fuente, G. Ultrafine and nanoparticle formation and emission mechanisms during laser processing of ceramic materials. J. Aerosol Sci. 2015, 88, 48–57. [CrossRef] eferences References Assessment of personal exposure to particulate air pollution during commuting in European cities–recommendations and policy implications. Sci. Total Environ. 2014, 490, 785–797. [CrossRef] during commuting in European cities–recommendations and policy implications. Sci. Total Environ. 2014, 490, 785–797. [CrossRef] 16. Stone, V.; Miller, M.R.; Clift, M.J.D.; Elder, A.; Mills, N.L.; Moller, P.; Schins, R.P.F.; Vogel, U.; Kreyling, W.G.; Alstrup Jensen, K.; et al. Nanomaterials Versus Ambient Ultrafine Particles: An Opportunity to Exchange Toxicology Knowledge. Environ. Health Perspect 16. Stone, V.; Miller, M.R.; Clift, M.J.D.; Elder, A.; Mills, N.L.; Moller, P.; Schins, R.P.F.; Vogel, U.; Kreyling, W.G.; Alstrup Jensen, K.; et al. Nanomaterials Versus Ambient Ultrafine Particles: An Opportunity to Exchange Toxicology Knowledge. Environ. Health Perspect 2017, 125, 106002. [CrossRef] g y g p materials Versus Ambient Ultrafine Particles: An Opportunity to Exchange Toxicology Knowledge. Environ. 125, 106002. [CrossRef] 17. Anderson, J.O.; Thundiyil, J.G.; Stolbach, A. Clearing the air: A review of the effects of particulate matter air pollution on human health. J. Med. Toxicol. 2012, 8, 166–175. [CrossRef] 18. Hamanaka, R.B.; Mutlu, G.M. Particulate Matter Air Pollution: Effects on the Cardiovascular System. Front. Endocrinol. 2018, 9, 680. [CrossRef] 19. Trethowan, W.N.; Burge, P.S.; Rossiter, C.E.; Harrington, J.M.; Calvert, I.A. Study of the respiratory health of employees in seven European plants that manufacture ceramic fibres. Occup. Environ. Med. 1995, 52, 97–104. [CrossRef] p p p 20. Jaakkola, M.S.; Sripaiboonkij, P.; Jaakkola, J.J. Effects of occupational exposures and smoking on lung function in tile factory workers. Int. Arch. Occup. Environ. Health 2011, 84, 151–158. [CrossRef] p 21. Kargar, F.; Shahtaheri, S.J.; Golbabaei, F.; Barkhordari, A.; Rahimi-Froushani, A.; Khadem, M. Eva Exposure of Glazers of a Ceramic Industry to Cobalt Blue Dye. Iran J. Public Health 2013, 42, 868–875. 22. Bessa, M.J.; Brandão, F.; Fokkens, P.; Cassee, F.R.; Salmatonidis, A.; Viana, M.; Vulpoi, A.; Simon, S.; Monfort, E.; Teixeira, J.P.; et al. Toxicity assessment of industrial engineered and airborne process-generated nanoparticles in a 3D human airway epithelial in vitro model. Nanotoxicology 2021, 15, 542–557. [CrossRef] [PubMed] gy 23. Cediel-Ulloa, A.; Isaxon, C.; Eriksson, A.; Primetzhofer, D.; Sortica, M.A.; Haag, L.; Derr, R.; Hendriks, G.; Löndahl, J.; Gudmundsson, A.; et al. Toxicity of stainless and mild steel particles generated from gas–metal arc welding in primary human small airway epithelial cells. Sci. Rep. 2021, 11, 21846. [CrossRef] [PubMed] 24. Pavlovska, I.; Ramata-Stunda, A.; Martinsone, Z.; Boroduskis, M.; Patetko, L.; Martinsone, I.; Seile, A.; Vanadzins, I. eferences References In vitro impact preliminary assessment of airborne particulate from metalworking and woodworking industries. Sci. Rep. 2021, 11, 20181. [CrossRef] [PubMed] 25. Manke, A.; Wang, L.; Rojanasakul, Y. Mechanisms of nanoparticle-induced oxidative stress and toxicity. Biomed. Res. Int. 2013, 2013, 942916. [CrossRef] 26. Peixoto, M.S.; de Oliveira Galvão, M.F.; Batistuzzo de Medeiros, S.R. Cell death pathways of particulate matter toxicity. Chemosphere 2017, 188, 32–48. [CrossRef] 27. Jederlinic, P.J.; Abraham, J.L.; Churg, A.; Himmelstein, J.S.; Epler, G.R.; Gaensler, E.A. Pulmonary fibrosis in aluminum oxide workers. Investigation of nine workers, with pathologic examination and microanalysis in three of them. Am. Rev. Respir. Dis. 1990, 142, 1179–1184. [CrossRef] , L.; Edström, C.; Nilsson, T. Long-term follow-up study of mortality and the incidence of cancer in a cohor 28. Björ, O.; Damber, L.; Edström, C.; Nilsson, T. Long-term follow-up study of mortality and the incidence of cancer in a cohort of workers at a primary aluminum smelter in Sweden. Scand J. Work Environ. Health 2008, 34, 463–470. [CrossRef] 28. Björ, O.; Damber, L.; Edström, C.; Nilsson, T. Long-term follow-up study of mortality and the incidence of cancer in a cohort of workers at a primary aluminum smelter in Sweden. Scand J. Work Environ. Health 2008, 34, 463–470. [CrossRef] 29 Th Y K h W D kh W Elli D G Sk N P J db kk L A D bl P W i b h S Ul fi 29. Thomassen, Y.; Koch, W.; Dunkhorst, W.; Ellingsen, D.G.; Skaugset, N.P.; Jordbekken, L.; Arne Drabløs, P.; Weinbruch, S. Ultrafine particles at workplaces of a primary aluminium smelter. J. Environ. Monit. 2006, 8, 127–133. [CrossRef] 29. Thomassen, Y.; Koch, W.; Dunkhorst, W.; Ellingsen, D.G.; Skaugset, N.P.; Jordbekken, L.; Arne Drabløs, P.; Weinbruch, S. Ultrafine particles at workplaces of a primary aluminium smelter. J. Environ. Monit. 2006, 8, 127–133. [CrossRef] k h f b h 30. Park, E.J.; Lee, S.J.; Lee, G.H.; Kim, D.W.; Yoon, C.; Lee, B.S.; Kim, Y.; Chang, J.; Lee, K. Comparison of su of four different types of aluminum-based nanoparticles. J. Appl. Toxicol. 2018, 38, 575–584. [CrossRef] g p r different types of aluminum-based nanoparticles. J. Appl. Toxicol. 2018, 38, 575–584. [CrossRef] yp p pp 31. Salnikow, K.; Zhitkovich, A. Genetic and Epigenetic Mechanisms in Metal Carcinogenesis and Cocarcinogenesis: Nickel, Arsenic, and Chromium. Chem. Res. Toxicol. 2008, 21, 28–44. [CrossRef] 32. Halasova, E.; Adamkov, M.; Matakova, T.; Kavcova, E.; Poliacek, I.; Singliar, A. eferences References Ultrafine and nanoparticle formation and emission mechanisms during laser processing of ceramic materials. J. Aerosol Sci. 2015, 88, 48–57. [CrossRef] formation and emission mechanisms during laser processing of ceramic materials. J. Aerosol Sci. 2015, 88, 48 57. Viana, M.; Fonseca, A.S.; Querol, X.; López-Lilao, A.; Carpio, P.; Salmatonidis, A.; Monfort, E. Workplace exposure and release of ultrafine particles during atmospheric plasma spraying in the ceramic industry. Sci. Total Environ. 2017, 599–600, 2065–2073. Salmatonidis A Ribalta C Sanfélix V Bezantakos S Biskos G Vulpoi A Simion S Monfort E Viana M Workplace 8. Viana, M.; Fonseca, A.S.; Querol, X.; López-Lilao, A.; Carpio, P.; Salmatonidis, A.; Monfort, E. Workplace exposure and release of ultrafine particles during atmospheric plasma spraying in the ceramic industry. Sci. Total Environ. 2017, 599–600, 2065–2073. [CrossRef] Salmatonidis, A.; Ribalta, C.; Sanfélix, V.; Bezantakos, S.; Biskos, G.; Vulpoi, A.; Simion, S.; Monfort, E.; Viana, M. Workplace Exposure to Nanoparticles during Thermal Spraying of Ceramic Coatings. Ann. Work Exp. Health 2018, 63, 91–106. 9. Salmatonidis, A.; Ribalta, C.; Sanfélix, V.; Bezantakos, S.; Biskos, G.; Vulpoi, A.; Simion, S.; Monfort, E.; Viana, M. Workplace Exposure to Nanoparticles during Thermal Spraying of Ceramic Coatings. Ann. Work Exp. Health 2018, 63, 91–106. [CrossRef] Int. J. Mol. Sci. 2022, 23, 4278 16 of 18 10. Fonseca, A.; Viana, M.; Querol, X.; Moreno, N.; de Francisco, I.; Estepa, C.; de la Fuente, G. Workplace Exposure to Process- Generated Ultrafine and Nanoparticles in Ceramic Processes Using Laser Technology. In Indoor and Outdoor Nanoparticles; Springer: Berlin/Heidelberg, Germany, 2015; pp. 159–179. g, y, ; pp O. Deposition and clearance of inhaled particles. Environ. Health Perspect 1984, 55, 369–390. [CrossRef] p g g y pp 11. Stuart, B.O. Deposition and clearance of inhaled particles. Environ. Health Perspect 1984, 55, 369–390 12. Geiser, M.; Kreyling, W.G. Deposition and biokinetics of inhaled nanoparticles. Part. Fibre Toxicol. 2010 reyling, W.G. Deposition and biokinetics of inhaled nanoparticles. Part. Fibre Toxicol. 2010, 7, 2. [CrossRef] y g p p 13. Xing, Y.-F.; Xu, Y.-H.; Shi, M.-H.; Lian, Y.-X. The impact of PM2.5 on the human respiratory system. J. Thorac. Dis. 2016, 8, E69–E74. y g p p 13. Xing, Y.-F.; Xu, Y.-H.; Shi, M.-H.; Lian, Y.-X. The impact of PM2.5 on the human respiratory system. J. 14. Schraufnagel, D.E. The health effects of ultrafine particles. Exp. Mol. Med. 2020, 52, 311–317. [CrossRef 15. Karanasiou, A.; Viana, M.; Querol, X.; Moreno, T.; de Leeuw, F. eferences References g g g 41. Wise, J.P.; Wise, S.S.; Little, J.E. The cytotoxicity and genotoxicity of particulate and soluble hexavalent chromium in human lung cells. Mutat. Res. Genet. Toxicol. Environ. Mutagenesis 2002, 517, 221–229. [CrossRef] g 42. Zhang, Q.; Kusaka, Y.; Zhu, X.; Sato, K.; Mo, Y.; Kluz, T.; Donaldson, K. Comparative toxicity of standard nickel and ultrafine nickel in lung after intratracheal instillation. J. Occup. Health 2003, 45, 23–30. [CrossRef] [PubMed] 43. Morimoto, Y.; Hirohashi, M.; Ogami, A.; Oyabu, T.; Myojo, T.; Hashiba, M.; Mizuguchi, Y.; Kambara, T.; Lee, B.W.; Kuroda, E. Pulmonary toxicity following an intratracheal instillation of nickel oxide nanoparticle agglomerates. J. Occup. Health 2011, 53, 293–295. [CrossRef] [PubMed] Å [ ] [ ] 44. Åkerlund, E.; Cappellini, F.; Di Bucchianico, S.; Islam, S.; Skoglund, S.; Derr, R.; Odnevall Wallinder, I.; Hendriks, G.; Karlsson, H.L. Genotoxic and mutagenic properties of Ni and NiO nanoparticles investigated by comet assay, γ-H2AX staining, Hprt mutation assay and ToxTracker reporter cell lines. Environ. Mol. Mutagen 2018, 59, 211–222. [CrossRef] [PubMed] 45. Roedel, E.Q.; Cafasso, D.E.; Lee, K.W.M.; Pierce, L.M. Pulmonary toxicity after exposure to military-relevant heavy metal tungsten alloy particles Toxicol Appl Pharmacol 2012 259 74–86 [CrossRef] 44. Åkerlund, E.; Cappellini, F.; Di Bucchianico, S.; Islam, S.; Skoglund, S.; Derr, R.; Odnevall Wallinder, I.; Hendriks, G.; Karlsson, H.L. Genotoxic and mutagenic properties of Ni and NiO nanoparticles investigated by comet assay, γ-H2AX staining, Hprt mutation assay and ToxTracker reporter cell lines. Environ. Mol. Mutagen 2018, 59, 211–222. [CrossRef] [PubMed] y p g 45. Roedel, E.Q.; Cafasso, D.E.; Lee, K.W.M.; Pierce, L.M. Pulmonary toxicity after exposure to military-r alloy particles. Toxicol. Appl. Pharmacol. 2012, 259, 74–86. [CrossRef] 46. Reynolds, M.; Armknecht, S.; Johnston, T.; Zhitkovich, A. Undetectable role of oxidative DNA damage in cell cycle, cytotoxic and clastogenic effects of Cr(VI) in human lung cells with restored ascorbate levels. Mutagenesis 2012, 27, 437–443. [CrossRef] 47. DeLoughery, Z.; Luczak, M.W.; Ortega-Atienza, S.; Zhitkovich, A. DNA Double-Strand Breaks by Cr(VI) Are Targeted to Euchromatin and Cause ATR-Dependent Phosphorylation of Histone H2AX and Its Ubiquitination. Toxicol. Sci. 2014, 143, 54–63. [CrossRef] 48. Zhang, Z.; Leonard, S.S.; Wang, S.; Vallyathan, V.; Castranova, V.; Shi, X. Cr (VI) induces cell growth arrest through hydrogen peroxide-mediated reactions. Mol. Cell. Biochem. 2001, 222, 77–83. [CrossRef] 49. Ding, J.; He, G.; Gong, W.; Wen, W.; Sun, W.; Ning, B.; Huang, S.; Wu, K.; Huang, C.; Wu, M.; et al. eferences References Effects of nickel on cyclin expression, cell cycle progression and cell proliferation in human pulmonary cells. Cancer Epidemiol. Biomark. Prev. 2009, 18, 1720–1729. [CrossRef] Mo, Y.; Zhang, Y.; Zhang, Y.; Yuan, J.; Mo, L.; Zhang, Q. Nickel nanoparticle-induced cell transformation: damage and DNA repair defect through HIF-1α/miR-210/Rad52 pathway. J. Nanobiotechnol. 2021, 19, 370 g p g p y 51. Ma, A.; Dai, X. The relationship between DNA single-stranded damage response and double-stranded damage response. Cell Cycle 2018, 17, 73–79. [CrossRef] 52. Barnum, K.J.; O’Connell, M.J. Cell cycle regulation by checkpoints. Methods Mol. Biol. 2014, 1170, 29–40. [PubMed] 53. Mjelle, R.; Hegre, S.A.; Aas, P.A.; Slupphaug, G.; Drabløs, F.; Saetrom, P.; Krokan, H.E. Cell cycle regulation of human DNA repair and chromatin remodeling genes. DNA Repair 2015, 30, 53–67. [CrossRef] [PubMed] 54. Podhorecka, M.; Skladanowski, A.; Bozko, P. H2AX Phosphorylation: Its Role in DNA Damage Response and Cancer Therapy. J. Nucleic Acids 2010, 2010, 920161. [CrossRef] [PubMed] 55. Lacroix, G.; Koch, W.; Ritter, D.; Gutleb, A.C.; Larsen, S.T.; Loret, T.; Zanetti, F.; Constant, S.; Chortarea, S.; Rothen-Rutishauser, B.; et al. Air–Liquid Interface In vitro Models for Respiratory Toxicology Research: Consensus Workshop and Recommendations. Appl. Vitr. Toxicol. 2018, 4, 91–106. [CrossRef] [PubMed] 56. Loret, T.; Peyret, E.; Dubreuil, M.; Aguerre-Chariol, O.; Bressot, C.; le Bihan, O.; Amodeo, T.; Trouiller, B.; Braun, A.; Egles, C.; et al. Air-liquid interface exposure to aerosols of poorly soluble nanomaterials induces different biological activation levels compared to exposure to suspensions. Part. Fibre Toxicol. 2016, 13, 58. [CrossRef] [PubMed] p p 57. Frieke Kuper, C.; Gröllers-Mulderij, M.; Maarschalkerweerd, T.; Meulendijks, N.M.M.; Reus, A.; van Acker, F.; Zondervan-van den Beuken, E.K.; Wouters, M.E.L.; Bijlsma, S.; Kooter, I.M. Toxicity assessment of aggregated/agglomerated cerium oxide nanoparticles in an in vitro 3D airway model: The influence of mucociliary clearance. Toxicol. Vitr. 2015, 29, 389–397. [CrossRef] 57. Frieke Kuper, C.; Gröllers-Mulderij, M.; Maarschalkerweerd, T.; Meulendijks, N.M.M.; Reus, A.; van Acker, F.; Zondervan-van den Beuken, E.K.; Wouters, M.E.L.; Bijlsma, S.; Kooter, I.M. Toxicity assessment of aggregated/agglomerated cerium oxide nanoparticles in an in vitro 3D airway model: The influence of mucociliary clearance. Toxicol. Vitr. 2015, 29, 389–397. [CrossRef] 58. George, I.; Uboldi, C.; Bernard, E.; Sobrido, M.S.; Dine, S.; Hagège, A.; Vrel, D.; Herlin, N.; Rose, J.; Orsière, T.; et al. Toxicological Assessment of ITER-Like Tungsten Nanoparticles Using an In vitro 3D Human Airway Epithelium Model. Nanomaterials 2019, 9, 1374. [CrossRef] 58. eferences References Lung cancer incidence and survival in chromium exposed individuals with respect to expression of anti-apoptotic protein survivin and tumor suppressor P53 protein. Eur. J. Med. Res. 2010, 15, 55. [CrossRef] [PubMed] n, L.-C. Health effects of concentrated ambient air particulate matter (CAPs) and its components. Crit. Rev –913. [CrossRef] [PubMed] 33. Lippmann, M.; Chen, L.-C. Health effects of concentrated ambient air particulate matter (CAPs) and i Toxicol. 2009, 39, 865–913. [CrossRef] [PubMed] 34. Phillips, J.I.; Green, F.Y.; Davies, J.C.; Murray, J. Pulmonary and systemic toxicity following exposure to nickel nanoparticles. Am. J. Ind. Med. 2010, 53, 763–767. [CrossRef] [PubMed] 34. Phillips, J.I.; Green, F.Y.; Davies, J.C.; Murray, J. Pulmonary and systemic toxicity following exposure to nickel nanoparticles. Am. J. Ind. Med. 2010, 53, 763–767. [CrossRef] [PubMed] 35. Kim, Y.-S.; Chung, Y.-H.; Seo, D.-S.; Choi, H.-S.; Lim, C.-H. Twenty-Eight-Day Repeated Inhalation Toxicity Study of Aluminum Oxide Nanoparticles in Male Sprague-Dawley Rats. Toxicol. Res. 2018, 34, 343–354. [CrossRef] 35. Kim, Y.-S.; Chung, Y.-H.; Seo, D.-S.; Choi, H.-S.; Lim, C.-H. Twenty-Eight-Day Repeated Inhalation Toxicity Study of Aluminum Oxide Nanoparticles in Male Sprague-Dawley Rats. Toxicol. Res. 2018, 34, 343–354. [CrossRef] 36. Kim, I.-S.; Baek, M.; Choi, S.-J. Comparative cytotoxicity of Al2O3, CeO2, TiO2 and ZnO nanoparticles to human lung cells. J. Nanosci. Nanotechnol. 2010, 10, 3453–3458. [CrossRef] 36. Kim, I.-S.; Baek, M.; Choi, S.-J. Comparative cytotoxicity of Al2O3, CeO2, TiO2 and ZnO nanoparticles to human lung cells. J. Nanosci. Nanotechnol. 2010, 10, 3453–3458. [CrossRef] 37. Zhang, X.Q.; Yin, L.H.; Tang, M.; Pu, Y.P. ZnO, TiO2, SiO2, and Al2O3 Nanoparticles-induced Toxic Effects on Human Fetal Lung Fibroblasts. Biomed. Environ. Sci. 2011, 24, 661–669. 37. Zhang, X.Q.; Yin, L.H.; Tang, M.; Pu, Y.P. ZnO, TiO2, SiO2, and Al2O3 Nanoparticles-induced Toxic Effects on Human Fetal Lung Fibroblasts. Biomed. Environ. Sci. 2011, 24, 661–669. 17 of 18 Int. J. Mol. Sci. 2022, 23, 4278 38. Ivask, A.; Titma, T.; Visnapuu, M.; Vija, H.; Kakinen, A.; Sihtmae, M.; Pokhrel, S.; Madler, L.; Heinlaan, M.; Kisand, V. Toxicity of 11 metal oxide nanoparticles to three mammalian cell types in vitro. Curr. Top. Med. Chem. 2015, 15, 1914–1929. [CrossRef] p yp p 39. Tsaousi, A.; Jones, E.; Case, C.P. The in vitro genotoxicity of orthopaedic ceramic (Al2O3) and metal (CoCr alloy) particles. Mutat. Res. Genet. Toxicol. Environ. Mutagenesis 2010, 697, 1–9. [CrossRef] g 40. IARC. Chromium, nickel and welding. IARC Monogr. Eval. Carcinog. Risks Hum. 1990, 49, 677. eferences References George, I.; Uboldi, C.; Bernard, E.; Sobrido, M.S.; Dine, S.; Hagège, A.; Vrel, D.; Herlin, N.; Rose, J.; Orsière, T.; et al. Toxicological Assessment of ITER-Like Tungsten Nanoparticles Using an In vitro 3D Human Airway Epithelium Model. Nanomaterials 2019, 9, 1374. [CrossRef] 59. Kim, S.; Jaques, P.A.; Chang, M.; Froines, J.R.; Sioutas, C. Versatile aerosol concentration enrichment system (VACES) for simultaneous in vivo and in vitro evaluation of toxic effects of ultrafine, fine and coarse ambient particles Part I: Development and laboratory characterization. J. Aerosol Sci. 2001, 32, 1281–1297. [CrossRef] y 60. Bessa, M.J.; Brandão, F.; Fokkens, P.H.B.; Leseman, D.; Boere, A.J.F.; Cassee, F.R.; Salmatonidis, A.; Viana, M.; Vulpoi, A.; Simon, S.; et al. In vitro Toxicity of Industrially Relevant Engineered Nanoparticles in Human Alveolar Epithelial Cells: Air- Liquid Interface versus Submerged Cultures. Nanomaterials 2021, 11, 3225. [CrossRef] 61. NanoToxclass Standard Operation Procedure—Preparation of Nanoparticle Suspensions by Cup Horn Sonication. Available online: https://www.nanopartikel.info/files/projekte/NanoToxClass/NanoToxClassSOP_Dispersion_by_cup_horn_sonication_ V2.0.pdf (accessed on 1 December 2021). Int. J. Mol. Sci. 2022, 23, 4278 18 of 18 62. Paur, H.-R.; Cassee, F.R.; Teeguarden, J.; Fissan, H.; Diabate, S.; Aufderheide, M.; Kreyling, W.G.; Hänninen, O.; Kasper, G.; Riediker, M. In-vitro cell exposure studies for the assessment of nanoparticle toxicity in the lung—A dialog between aerosol science and biology. J. Aerosol Sci. 2011, 42, 668–692. [CrossRef] gy J 63. Suzuki, H.; Toyooka, T.; Ibuki, Y. Simple and easy method to evaluate uptake potential of nanopartic a flow cytometric light scatter analysis. Environ. Sci. Technol. 2007, 41, 3018–3024. [CrossRef] [PubM 64. Rosário, F.; Bessa, M.J.; Brandão, F.; Costa, C.; Lopes, C.B.; Estrada, A.C.; Tavares, D.S.; Teixeira, J.P.; Reis, A.T. Unravelling the Potential Cytotoxic Effects of Metal Oxide Nanoparticles and Metal(Loid) Mixtures on A549 Human Cell Line. Nanomaterials 2020, 10, 447. [CrossRef] [PubMed] 65. Valdiglesias, V.; Laffon, B.; Pásaro, E.; Méndez, J. Evaluation of okadaic acid-induced genotoxicity in human cells using the micronucleus test and γH2AX analysis. J. Toxicol. Environ. Health A 2011, 74, 980–992. [CrossRef] [PubMed] 66. Møller, P.; Azqueta, A.; Boutet-Robinet, E.; Koppen, G.; Bonassi, S.; Mili´c, M.; Gajski, G.; Costa, S.; Teixeira, J.P.; Costa Pereira, C.; et al. Minimum Information for Reporting on the Comet Assay (MIRCA): Recommendations for describing comet assay procedures and results. Nat. Protoc. 2020, 15, 3817–3826. [CrossRef] [PubMed] y p 67. Bessa, M.J.; Brandao, F.; Querido, M.M.; Costa, C.; Pereira, C.C.; Valdiglesias, V.; Laffon, B.; Carriere, M.; Teixeira, J.P.; Fraga, S. 62. Paur, H.-R.; Cassee, F.R.; Teeguarden, J.; Fissan, H.; Diabate, S.; Aufderheide, M.; Kreyling, W.G.; Hänninen, O.; Kasper, G.; Riediker, M. In-vitro cell exposure studies for the assessment of nanoparticle toxicity in the lung—A dialog between aerosol science and biology. J. Aerosol Sci. 2011, 42, 668–692. [CrossRef] y p 67. Bessa, M.J.; Brandao, F.; Querido, M.M.; Costa, C.; Pereira, C.C.; Valdiglesias, V.; Laffon, B.; Carriere, M.; Teixeira, J.P.; Fraga, S. Optimization of the harvesting and freezing conditions of human cell lines for DNA damage analysis by the alkaline comet assay. Mutat. Res. 2019, 845, 402994. [CrossRef] [PubMed] y g y 64. Rosário, F.; Bessa, M.J.; Brandão, F.; Costa, C.; Lopes, C.B.; Estrada, A.C.; Tavares, D.S.; Teixeira, J.P.; Reis, A.T. Unravelling the Potential Cytotoxic Effects of Metal Oxide Nanoparticles and Metal(Loid) Mixtures on A549 Human Cell Line. Nanomaterials 2020, 10, 447. [CrossRef] [PubMed] 65. Valdiglesias, V.; Laffon, B.; Pásaro, E.; Méndez, J. Evaluation of okadaic acid-induced genotoxicity in human cells using the micronucleus test and γH2AX analysis. J. Toxicol. Environ. Health A 2011, 74, 980–992. [CrossRef] [PubMed] 66. Møller, P.; Azqueta, A.; Boutet-Robinet, E.; Koppen, G.; Bonassi, S.; Mili´c, M.; Gajski, G.; Costa, S.; Teixeira, J.P.; Costa Pereira, C.; et al. Minimum Information for Reporting on the Comet Assay (MIRCA): Recommendations for describing comet assay procedures and results. Nat. Protoc. 2020, 15, 3817–3826. [CrossRef] [PubMed] gy J [ ] 63. Suzuki, H.; Toyooka, T.; Ibuki, Y. Simple and easy method to evaluate uptake potential of nanoparticles a flow cytometric light scatter analysis. Environ. Sci. Technol. 2007, 41, 3018–3024. [CrossRef] [PubMed gy J [ ] ki, H.; Toyooka, T.; Ibuki, Y. Simple and easy method to evaluate uptake potential of nanoparticles in mamma w cytometric light scatter analysis Environ Sci Technol 2007 41 3018 3024 [CrossRef] [PubMed] eferences References Optimization of the harvesting and freezing conditions of human cell lines for DNA damage analysis by the alkaline comet assay. Mutat. Res. 2019, 845, 402994. [CrossRef] [PubMed]
https://openalex.org/W4297338209
https://www.researchsquare.com/article/rs-1707079/latest.pdf
English
null
A critical role of calcineurin in stress responses, hyphal formation, and virulence of the pathogenic fungus Trichosporon asahii
Scientific reports
2,022
cc-by
7,161
A critical role of calcineurin in stress responses, hyphal formation, and virulence of the pathogenic fungus Trichosporon asahii Yasuhiko Matsumoto  (  ymatsumoto@my-pharm.ac.jp ) Meiji Pharmaceutical University Asami Yoshikawa  Meiji Pharmaceutical University Tae Nagamachi  Meiji Pharmaceutical University Yu Sugiyama  Meiji Pharmaceutical University Tsuyoshi Yamada  Teikyo University Institute of Medical Mycology Takashi Sugita  Meiji Pharmaceutical University Article Keywords: Trichosporon asahii, calcineurin, stress response, virulence, calcineurin Posted Date: June 7th, 2022 DOI: https://doi.org/10.21203/rs.3.rs-1707079/v1 License:   This work is licensed under a Creative Commons Attribution 4.0 International License.   Read Full License A critical role of calcineurin in stress responses, hyphal formation, and virulence of the pathogenic fungus Trichosporon asahii Yasuhiko Matsumoto  (  ymatsumoto@my-pharm.ac.jp ) Meiji Pharmaceutical University Asami Yoshikawa  Meiji Pharmaceutical University Tae Nagamachi  Meiji Pharmaceutical University Yu Sugiyama  Meiji Pharmaceutical University Tsuyoshi Yamada  Teikyo University Institute of Medical Mycology Takashi Sugita  Meiji Pharmaceutical University Article Keywords: Trichosporon asahii, calcineurin, stress response, virulence, calcineurin Posted Date: June 7th, 2022 DOI: https://doi.org/10.21203/rs.3.rs-1707079/v1 License:   This work is licensed under a Creative Commons Attribution 4.0 International License. Read Full License A critical role of calcineurin in stress responses, hyphal formation, and virulence of the pathogenic fungus Trichosporon asahii Yasuhiko Matsumoto  (  ymatsumoto@my-pharm.ac.jp ) Meiji Pharmaceutical University Article License:   This work is licensed under a Creative Commons Attribution 4.0 International License. R d F ll Li Page 1/14 Page 1/14 Page 1/14 Abstract Trichosporon asahii is a conditional pathogenic fungus that causes severe and sometimes fatal infections in immunocompromised patients. While calcineurin, an essential component of a calcium- dependent signaling pathway, is known to regulate stress resistance and virulence of some pathogenic fungi, its role in T. asahii has not been investigated. Here, we demonstrated that calcineurin gene-deficient T. asahii mutants are sensitive to high temperature as well as cell-membrane and cell-wall stress, and exhibit decreased hyphal formation and virulence against silkworms. Growth of T. asahii mutants deficient in genes encoding subunits of calcineurin, cna1 and cnb1, was delayed at 40˚C. The cna1 and cnb1 gene-deficient mutants also showed sensitivity to sodium dodecyl sulfate, Congo red, dithiothreitol, and tunicamycin. On the other hand, these mutants exhibited no sensitivity to caffeine, sorbitol, monensin, CaCl2, LiCl, NaCl, amphotericin B, fluconazole, or voriconazole. The ratio of hyphal formation in the cna1 and cnb1 gene-deficient mutants was decreased. Moreover, the virulence of the cna1 and cnb1 gene-deficient mutants against silkworms was attenuated. These phenotypes were restored by re- introducing each respective gene into the gene-deficient mutants. Our findings suggest that calcineurin also has a role in regulating the cellular stress response and virulence of T. asahii. Introduction Although mammalian experimental models such as mice are usually used in studies of infectious diseases24, the requirements of specialized experimental facilities and large numbers of animals as well as the ethical considerations are severely limiting25. T. asahii infection experiments are also not easy to perform in mice because immunosuppressive drugs must be administered26–27. The use of an invertebrate silkworm model for these types of experiments is highly advantageous because silkworms are less costly to house and rear in large numbers, and fewer ethical problems are associated with their use. In the present study, we used a recently developed technique28 to generate calcineurin gene-deficient T. asahii mutants and characterized the phenotypes related to stress resistance and virulence in the silkworm infection model. The cna1 and cnb1 gene-deficient mutants exhibited sensitivity to chemicals known to cause membrane damage and ER stress, as well as attenuated hyphal formation and virulence against silkworms. Our findings suggest that calcineurin controls cellular stress responses and virulence of T. asahii via a calcineurin-signaling pathway. Introduction Trichosporon asahii is a basidiomycete yeast widely distributed in the environment and is often isolated from human blood, sputum, skin, feces, and urine1–6. T. asahii causes severe fungal infections in immunocompromised patients7–9, and the mortality rate of deep mycoses caused by T. asahii is twice as high as that caused by Candida albicans (80% vs 40%)10. T. asahii is resistant to echinocandin antifungals, and thus patients treated with micafungin are susceptible to the development of severe infections11. Amphotericin B- and azole antifungal-resistant T. asahii strains have also been isolated from patients12,13. T. asahii commonly forms a biofilm comprising microbe aggregates and extracellular matrix on indwelling medical devices14 that confers its resistance to antifungal drugs13. Several morphologic forms of T. asahii exist, such as yeast, hyphae (filament form), and arthroconidia (chains of cells and asexual spores)4. Arthroconidia of T. asahii contribute to biofilm formation by promoting cellular adhesion15. These features of T. asahii make it a highly problematic clinical pathogen9. Calcineurin, a calcium-calmodulin-activated phosphatase consisting of a heterodimer with the catalytic and regulatory subunits Cna1 and Cnb116 controls the expression of several genes by dephosphorylating the transcriptional regulator Crz1 through binding to calmodulin, a calcium sensor17,18. It is essential for the growth of Cryptococcus neoformans, a pathogenic basidiomycete yeast like T. asahii, at 37°C, as well as its virulence in a rabbit model of cryptococcal meningitis and cation homeostasis19,20. In addition, calcineurin contributes to resistance to cell membrane damage, cell wall damage, osmotic stress, and endoplasmic reticulum (ER) stress21,22. The role of calcineurin in the virulence of T. asahii, however, has remained unclear. Page 2/14 Page 2/14 To elucidate the virulence of T. asahii, we used an established silkworm infection model23. Although mammalian experimental models such as mice are usually used in studies of infectious diseases24, the requirements of specialized experimental facilities and large numbers of animals as well as the ethical considerations are severely limiting25. T. asahii infection experiments are also not easy to perform in mice because immunosuppressive drugs must be administered26–27. The use of an invertebrate silkworm model for these types of experiments is highly advantageous because silkworms are less costly to house and rear in large numbers, and fewer ethical problems are associated with their use. To elucidate the virulence of T. asahii, we used an established silkworm infection model23. Function of calcineurin in stress resistance of T. asahii. Generation of cna1, cnb1 gene-deficient mutants, and their gene-reintroduced strains. Generation of cna1, cnb1 gene-deficient mutants, and their gene-reintroduced strains. The ku70 gene-deficient strain of the T. asahii MPU129 strain has high homologous recombination efficiency, making it useful as a parent strain28. Using this strain, we generated the cna1 gene-deficient mutant. The targeting DNA fragment used to generate the cna1 gene-deficient mutant contains the NAT1 gene, which leads to nourseothricin resistance (Fig. 1a). Introducing this DNA fragment into the T. asahii genome confers resistance to nourseothricin (Fig. 1a). Nourseothricin-resistant strains were obtained by introducing the DNA fragment through electroporation (Fig. 1b). The genomes were extracted from the transformants and the deficiency of the cna1 gene was checked by polymerase chain reaction (PCR) (Fig. 1c and d). Secondary genetic mutations such as point mutations may occur during the generation of gene-deficient mutants. Therefore, it is necessary to establish a revertant strain in which the gene is reintroduced into the gene-deficient mutant to confirm that the phenotype of the gene-deficient strain is due to a deficiency of the targeted gene. Next, we generated a revertant strain of the cna1 gene-deficient mutant. The targeting DNA fragment used to generate the revertant strain of the cna1 gene-deficient mutant contains the hgh gene, which leads to hygromycin B resistance (Fig. 1a). Hygromycin B-resistant strains were obtained by introducing the DNA fragment through electroporation (Fig. 1b). Reintroduction of the cna1 gene was checked by PCR using the genomes extracted from the transformants (Fig. 1c and d). The results confirmed the generation of the cna1 gene-deficient T. asahii mutant and the cna1 gene- reintroduced revertant. Similarly, a cnb1 gene-deficient mutant and its revertant were also generated (Fig. 1e-h). Function of calcineurin in stress resistance of T. asahii. Function of calcineurin in stress resistance of T. asahii. Page 3/14 Page 3/14 In C. neoformans, cna1 and cnb1 gene-deficient mutants show growth defects at 37°C 29,30. Growth of the cna1 and cnb1 gene-deficient T. asahii mutants was delayed at 40°C (Fig. 2). The high-temperature sensitive phenotype of these gene-deficient mutants was suppressed in their revertants (Fig. 2). In Cryptococcus gattii and C. neoformans, cna1 gene-deficient mutants are sensitive to sodium dodecyl sulfate (SDS), which damages the cell membrane, and Congo red, which damages the cell wall21. The cna1 gene-deficient mutant of C. Generation of cna1, cnb1 gene-deficient mutants, and their gene-reintroduced strains. neoformans is also sensitive to caffeine, which inhibits the cell wall integrity (CWI) signaling pathway, which promotes cell wall integrity; and sorbitol, which is an osmotic stressor 22. Growth was delayed in cna1 and cnb1 gene-deficient T. asahii mutants treated with SDS and Congo red, but not affected by treatment with caffeine or sorbitol (Fig. 3). In C. neoformans, the cna1 gene-deficient mutant is sensitive to dithiothreitol (DTT) and tunicamycin (TM), which stress the ER; brefeldin A (BFA), which inhibits intracellular vesicle formation and protein trafficking between the ER and the Golgi apparatus; and monensin, which is involved in intracellular transport22. Growth was delayed in cna1 and cnb1 gene-deficient T. asahii mutants treated with DTT and TM, but not in those treated with BFA and monensin (Fig. 3). The presence of Ca2+ or Li+ inhibits the growth of the cna1 gene-deficient Cryptococcus gattii mutant, but not that of the cna1 gene-deficient C. neoformans mutant21. The growth of cna1 and cnb1 gene-deficient T. asahii mutants was not altered by treatment with CaCl2, LiCl, or NaCl (Fig. 3). Moreover, the presence of antifungal drugs such as amphotericin B, fluconazole, and voriconazole did not cause growth defects in the cna1 and cnb1 gene-deficient T. asahii mutants (Fig. 3). The stress-sensitive phenotypes of these gene-deficient mutants were suppressed in the revertants (Fig. 3). These findings suggest that the cna1 and cnb1 genes are involved in resistance to cell membrane and cell wall damage, and ER stress in T. asahii. Role of calcineurin in hyphal formation by T. asahii. T. asahii has several morphologic forms: yeast, hyphae (filament form), and arthroconidia (chains of cells and asexual spores) 4. We examined whether cna1 and cnb1 gene deficiencies affect hyphal formation in T. asahii. In Sabouraud dextrose medium, the hyphae ratio was lower in the cna1 and cnb1 gene-deficient mutants than in the parental strain (Fig. 4). The phenotype of lower hyphal forming activities in these gene-deficient mutants was suppressed in their revertants (Fig. 4). These observations suggest that the cna1 and cnb1 genes contribute to hyphal formation by T. asahii. Discussion The present study using cna1 and cnb1 gene-deficient mutants demonstrated that calcineurin in T. asahii plays a vital role in stress resistance and virulence against silkworms. Our findings suggest that the pathogenicity of T. asahii is regulated via the calcineurin-signaling pathway. The calcineurin-signaling pathway is required for normal growth of T. asahii under a high-temperature condition (40˚C). Severe growth defects of the cna1 and cnb1 gene-deficient T. asahii mutants were observed at 40˚C compared with those at 27˚C and 37˚C. In C. neoformans, calcineurin is required for the growth at 37˚C 29,30. Therefore, the high-temperature stress response is partially regulated by calcineurin in T. asahii compared with C. neoformans. In Cryptococcus gattii and C. neoformans, calcineurin plays an important role in cell membrane homeostasis, cell wall integrity, the ER stress response, cation homeostasis, and fluconazole tolerance 21,22. Calcineurin in T. asahii is related to resistance against cell membrane and cell wall damage, and ER stress, but not cell wall integrity dependent on the CWI pathway, osmotic stress resistance, cation homeostasis, or antifungal drug resistance. The cna1 gene-deficient mutant of C. neoformans exhibits sensitivities to SDS, Congo red, caffeine, sorbitol, BFA, monensin, DTT, TM, CaCl2, LiCl, NaCl, and fluconazole 21,22,32−34. Therefore, the roles of calcineurin in cell wall integrity dependent on the CWI pathway, osmotic stress resistance, cation homeostasis, and antifungal drug resistance differ between T. asahii and C. neoformans. T. asahii forms hyphae in Sabouraud dextrose medium and in silkworm hemolymph via calcineurin. Moreover, calcineurin is required for T. asahii virulence in a silkworm infection model. In, the calcineurin- signaling pathway regulates hyphal growth and virulence 35–37. Therefore, as in Candida dubliniensis, Candida tropicalis, and Aspergillus fumigatus, the calcineurin signaling pathway in T. asahii regulates hyphal growth and virulence. T. asahii forms hyphae in the hemolymph of silkworms infected with T. asahii 23. Hyphal growth of T. asahii in blood vessels causes necrotic thrombi and may contribute to infection 38. Moreover, we demonstrated that the calcineurin contributes to arthroconidia and hyphal formation of T. asahii in human serum. Therefore, morphological change of T. asahii regulated by calcineurin might contribute to its virulence against silkworms and humans. Further studies are needed to reveal the role of the calcineurin in T. asahii virulence using a mouse infection model. The calcineurin in C. neoformans regulates gene expression via dephosphorylation of the transcription factors 39. We speculate that the calcineurin in T. Calcineurin-dependency of T. asahii virulence against silkworms. Calcineurin-dependency of T. asahii virulence against silkworms. Calcineurin-dependency of T. asahii virulence against silkworms. In C. neoformans, the cna1 gene is required for virulence against silkworms31. We examined whether deficiencies of the cna1 and cnb1 genes reduced the virulence of T. asahii against silkworms. Survival times of silkworms injected with the cna1 and cnb1 gene-deficient mutants were longer than those of the parental strain (Fig. 5a and b). The half-maximal lethal dose (LD50) values of the cna1 and cnb1 gene- deficient mutants was more than 10-fold higher that of the parent strain (Fig. 5c, d, and Table 1). In the silkworm hemolymph, the hyphal ratio in the cna1 and cnb1 gene-deficient mutants was lower than that of the parent strain (Fig. 6). In human serum, the hyphae and arthroconidia ratio was also lower in the Page 4/14 Page 4/14 cna1 and cnb1 gene-deficient mutants than in the parental strain (Fig. 7). These phenotypes were suppressed in their revertants (Fig. 5, 6, 7, and Table 1). These findings suggest that the cna1 and cnb1 genes are involved in the virulence of T. asahii against silkworms and in the morphological change in the host environments. Methods Reagents. SDS, sorbitol, DTT, NaCl, and LiCl were purchased from Wako Pure Chemical Industries (Osaka, Japan). Fluconazole, voriconazole, hygromycin B, caffeine, and monensin sodium salt were purchased from Tokyo Chemical Industry Co., Ltd. (Tokyo, Japan). Nourseothricin was purchased from Jena Bioscience (Dortmund, Germany). Congo red was purchased from Sigma-Aldrich (St. Louis, MO, USA). G418 was purchased from Enzo Life Science, Inc. (Farmingdale, NY, USA). CaCl2 was purchased from Kanto Chemical Co., Inc. (Tokyo, Japan). Tunicamycin was purchased from Cayman Chemical Company (Ann Arbor, MI, USA). Brefeldin A (BFA) was purchased from Funakoshi Co., Ltd. (Tokyo, Japan). Human serum [(from male AB clotted whole blood), USA origin, sterile-filtered] (Product ID: H6914) was purchased from Sigma-Aldrich (St. Louis, MO, USA). Culture of T. asahii.The T. asahii strain (MPU129 ku70 gene-deficient mutant) used in this study was generated as previously reported 28. The T. asahii MPU129 ku70 gene-deficient mutant was grown on Sabouraud dextrose agar (SDA) (1% hipolypepton [Nihon Pharmaceutical Co., Ltd., Tokyo, Japan], 4% dextrose, and 1.5% agar [both from FUJIFILM Wako Pure Chemical Industries, Osaka, Japan]) containing G418 (50 μg/ml) and incubated at 27°C for 2 days. Construction of gene-deficient T. asahii mutants and their revertants.The plasmid for gene-deficient T. asahii strains was constructed according to a previous report40. To generate the cna1 or cnb1 gene- deficient strains, the 5’-UTR and 3’-UTR of the cna1 or cnb1 gene were introduced into a pAg1-NAT1 vector41. To generate their revertants, the hygromycin phosphotransferase gene (hph) cassette and the cna1 or cnb1 gene were introduced into pAg1-cna1(5’UTR)-NAT1-cna1(3’UTR) or pAg1-cnb1(5’UTR)- NAT1-cnb1(3’UTR). Cloning was performed by the infusion method (In-Fusion HD Cloning Kit, Takara, Shiga, Japan) or ligation method (DNA Ligation Kit Ver.2.1, Takara, Shiga, Japan). The primers used for PCR amplification of each DNA region are shown in Table 2. Competent cells for electroporation were prepared according to a previous report 28. T. asahii was spread on an SDA plate and cultured at 27°C for 1 day. T. asahii cells on agar were suspended by physiologic saline solution (2 ml), and the suspension was transferred to a 1.5-ml tube. The fungal cells were collected by centrifugation at 8000 rpm for 3 min (TOMY-MX100, TOMY Digital Biology Co. Ltd, Tokyo, Japan) and suspended by adding 1 ml of ice-cold water and centrifuged at 8000 rpm for 3 min. This washing process was repeated 4 times. Discussion asahii regulates hyphal formation-related gene expression. Identifying the crucial genes involved in hyphal formation regulated by calcineurin in T. asahii will be an important next step. Page 5/14 Page 5/14 In conclusion, we demonstrated that calcineurin in T. asahii has roles in the stress response and hyphal formation. The stress response system and hyphal formation regulated by calcineurin might contribute to the virulence of T. asahii. In conclusion, we demonstrated that calcineurin in T. asahii has roles in the stress response and hyphal formation. The stress response system and hyphal formation regulated by calcineurin might contribute to the virulence of T. asahii. Methods The washed cells were suspended by adding 1 ml of 1.2 M sorbitol solution and centrifuged at 8000 rpm for 3 min. The obtained fungal cells were suspended with 0.2 ml of 1.2 M sorbitol solution as competent cells. The PCR-amplified 5'-UTR (cna1) -NAT1-3'-UTR (cna1), 5'-UTR (cna1) -cna1-hph-3'-UTR (cna1), 5'-UTR (cnb1) -NAT1-3'-UTR (cnb1), or 5'-UTR (cnb1) -cnb1- hph-3'-UTR (cnb1) fragments (180 ng/2 µl) were added to the T. asahii competent cells (40 µl) and placed Page 6/14 Page 6/14 on ice for 15 min. The suspension was added to a 0.2-cm gap cuvette (Bio-Rad Laboratories, Inc.) and electroporated (Time constant protocol: 1800 V, 5 ms) using a Gene Pulser Xcell (Bio-Rad Laboratories, Inc.). The cells were suspended by adding 500 µl YPD containing 0.6 M sorbitol and incubated at 27°C for 3 h. After incubation, the cells were collected by centrifugation at 10,000 rpm for 5 min and suspended in 100 µl of physiologic saline solution and applied to SDA containing nourseothricin (300 µg/ml) or hygromycin B (300 µg/ml). The cells were incubated at 27°C for 3 days and the growing colonies were isolated as gene-deficient strain or revertant candidates. Introduction of the mutation into the genome of the candidate strains was confirmed using the extracted genome as a template DNA by PCR with the primers shown in Table 2. The information of strains were shown in Table 3. Temperature sensitivity test. The T. asahii strains were grown on SDA containing G418 (50 μg/ml) and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution (0.9% w/v NaCl) and filtered through a 40-μm cell strainer (Corning Inc., Corning, NY, USA). Absorbance of 630 nm of the T. asahii cell suspension was adjusted to 1. Series of 10-fold dilution of the fungal suspension were prepared using saline. Five microliters of each cell suspension was spotted on the SDA. The agar plates were incubated at 27, 37, or 40˚C for 24 h, and photographs were obtained. For growth on liquid medium, Sabouraud liquid medium (1% hipolypepton, 4% dextrose) was used in this study. Suspensions of the T. asahii parent strain (Parent) the cna1 gene-deficient mutant (∆cna1), the revertant from ∆cna1 (CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant from ∆cnb1 (CNB1) were prepared with Sabouraud medium and adjusted to 0.005 on absorbance at 630 nm. The T. Methods asahii suspensions were incubated at 27°C, 37°C, or 40˚C for 4 days and absorbance at 630 nm was measured using a microplate reader (iMark™ microplate reader; Bio-Rad Laboratories Inc., Hercules, CA, USA). Drug sensitivity test. The T. asahii strains were grown on SDA containing G418 (50 μg/ml) and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution (0.9% w/v NaCl) and filtered through a 40-μm cell strainer (Corning Inc.). Absorbance of 630 nm of the T. asahii cell suspension was adjusted to 1. Series of 10-fold dilution of the fungal suspension were prepared using saline. Five microliters of each cell suspension was spotted on the SDA containing SDS (0.00625%), Congo red (100 µg/mL), caffeine (0.65 mg/mL), sorbitol (1.5 M), DTT (12 mM), TM (1 µg/mL), BFA (10 µg/mL), Monensin (1 mg/mL), CaCl₂ (0.4 M), LiCl (55 mM), NaCl (1 M), amphotericin B (0.4 µg/mL), fluconazole (6.4 µg/mL), or voriconazole (0.12 µg/mL). Each agar plate was incubated at 37°C for 24 h, and photographs were obtained. Observation of T. asahii morphology. The T. asahii strains were grown on SDA containing G418 (50 μg/ml) and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell strainer (Corning Inc.). Absorbance of 630 nm of the T. asahii cell suspension was adjusted to 1–1.5. The cell suspension (10 µl) was added to Sabouraud dextrose medium, harvested silkworm hemolymph, or human serum (100 µl). The solutions were incubated at 37˚C for 48 h. The incubated solution was placed on glass slides and covered by a glass coverslip. Samples Page 7/14 Page 7/14 Page 7/14 were examined with bright light under a microscope (CH-30; Olympus, Tokyo, Japan). The pictures were randomly obtained. The morphology of T. asahii was determined according to a previous report 15. The numbers of the 3 types of cells, yeast, arthroconidia, and hyphae, were counted. Silkworm infection experiments. Silkworm infection experiments were performed according to a previous report 23. Eggs of silkworms (Hu・Yo × Tukuba・Ne) were purchased from Ehime-Sanshu Co, Ltd. (Ehime, Japan), disinfected, and hatched at 25–27°C. The silkworms were fed an artificial diet, Silkmate 2S, containing antibiotics purchased from Ehime-Sanshu Co., Ltd. Fifth instar larvae were used in the infection experiments. Silkworm fifth instar larvae were fed the artificial diet (Silkmate 2S; Ehime-Sanshu Co., Ltd.) overnight. T. Methods asahii grown on SDA plates was suspended in physiologic saline solution (0.9% w/v NaCl) and filtered through a 40-μm cell strainer (Corning Inc.). A 50-µl suspension of T. asahii cells was administered to the silkworm hemolymph by injecting the silkworm dorsally using a 1-ml tuberculin syringe (Terumo Medical Corporation, Tokyo, Japan). Silkworms injected with T. asahii cells were placed in an incubator and their survival was monitored. LD50 measurement. The dose of T. asahii required to kill half of the silkworms (LD50) was determined according to the previous report 23. T. asahii strains (1×102 to 2×107 cells/50 µl) were injected into the silkworm hemolymph and the silkworms were incubated at 37˚C. Survival of the silkworms (n = 4/group) at 48 h was recorded. The LD50 was determined from the combined data of 2–3 independent experiments by a simple logistic regression model using Prism 9.1.2 (GraphPad Software, LLC, San Diego, CA, USA, https://www.graph pad.com/scientific -software/prism/). Statistical analysis. All experiments were performed at least twice and representative results are shown. The significance of differences between groups in the silkworm infection experiments was calculated by the log-rank test based on curves determined by the Kaplan-Meier method using Prism 9.1.2. Data availability. The datasets generated during the present study are available from the corresponding author on reasonable request. Acknowledgements We thank Eri Sato, Hiromi Kanai, and Sachi Koganesawa (Meiji Pharmaceutical University) for their technical assistance rearing the silkworms. This study was supported by JSPS KAKENHI grant number JP20K07022 (Scientific Research (C) to Y.M.) and in part by the Research Program on Emerging and Re- emerging Infectious Diseases of the Japan Agency for Medical Research and Development, AMED (Grant number JP20fk0108135h0201 to T.S.). Competing interests The authors declare no competing interests. Author contributions Page 8/14 Study conception and design: Y.M. Acquisition of data: Y.M., A.Y., T.N., Y.S., T.Y. Analysis and interpretation of data: Y.M., A.Y., T.N., Y.S. Drafting of manuscript: Y.M. Critical revision: Y.M., A.Y., T.N., T.Y., T.S. All authors have read and approved the final version of the manuscript. Study conception and design: Y.M. Acquisition of data: Y.M., A.Y., T.N., Y.S., T.Y. Analysis and interpretation of data: Y.M., A.Y., T.N., Y.S. Drafting of manuscript: Y.M. Critical revision: Y.M., A.Y., T.N., T.Y., T.S. All authors have read and approved the final version of the manuscript. Study conception and design: Y.M. Acquisition of data: Y.M., A.Y., T.N., Y.S., T.Y. Analysis and interpretation of data: Y.M., A.Y., T.N., Y.S. Drafting of manuscript: Y.M. Critical revision: Y.M., A.Y., T.N., T.Y., T.S. All authors have read and approved the final version of the manuscript. References 1. Sugita, T., Nishikawa, A., Ichikawa, T., Ikeda, R. & Shinoda, T. Isolation of Trichosporon asahii from environmental materials. Med. Mycol. 38, 27–30 (2000). 1. Sugita, T., Nishikawa, A., Ichikawa, T., Ikeda, R. & Shinoda, T. Isolation of Trichosporon asahii from environmental materials. Med. Mycol. 38, 27–30 (2000). 2. Sugita, T. et al. Genetic diversity and biochemical characteristics of Trichosporon asahii isolated from clinical specimens, houses of patients with summer-type-hypersensitivity pneumonitis, and environmental materials. J. Clin. Microbiol. 39, 2405–2411 (2001). 3. Zhang, E., Sugita, T., Tsuboi, R., Yamazaki, T. & Makimura, K. The opportunistic yeast pathogen Trichosporon asahii colonizes the skin of healthy individuals: analysis of 380 healthy individuals by age and gender using a nested polymerase chain reaction assay. Microbiol. Immunol. 55, 483–488 (2011). 4. Colombo, A. L., Padovan, A. C. B. & Chaves, G. M. Current knowledge of Trichosporon spp. and Trichosporonosis. Clin. Microbiol. Rev. 24, 682–700 (2011). 5. Gouba, N., Raoult, D. & Drancourt, M. Eukaryote culturomics of the gut reveals new species. PLoS ONE 9, e106994 (2014). 6. Cho, O., Matsukura, M. & Sugita, T. Molecular evidence that the opportunistic fungal pathogen Trichosporon asahii is part of the normal fungal microbiota of the human gut based on rRNA genotyping. Int. J. Infect. Dis. 39, 87–88 (2015). 7. Walsh, T. J. et al. Experimental Trichosporon infection in persistently granulocytopenic rabbits: implications for pathogenesis, diagnosis, and treatment of an emerging opportunistic mycosis. J. Infect. Dis. 166, 121–133 (1992). 8. Walsh, T. J., Melcher, G. P., Lee, J. W. & Pizzo, P. A. Infections due to Trichosporon species: new concepts in mycology, pathogenesis, diagnosis and treatment. Curr Top Med Mycol 5, 79–113 (1993). 9. Duarte-Oliveira, C. et al. The Cell Biology of the Trichosporon-Host Interaction. Front Cell Infect Microbiol 7, 118 (2017). 10. Krcmery, V. et al. Hematogenous trichosporonosis in cancer patients: report of 12 cases including 5 during prophylaxis with itraconazol. Support Care Cancer 7, 39–43 (1999). 11. Kimura, M. et al. Micafungin Breakthrough Fungemia in Patients with Hematological Disorders. Antimicrob. Agents Chemother. 62, 324 (2018). Page 9/14 Page 9/14 12. Toriumi, Y., Sugita, T., Nakajima, M., Matsushima, T. & Shinoda, T. Antifungal pharmacodynamic characteristics of amphotericin B against Trichosporon asahii, using time-kill methodology. Microbiol. Immunol. 46, 89–93 (2002). 13. Iturrieta-González, I. A., Padovan, A. C. B., Bizerra, F. C., Hahn, R. C. & Colombo, A. L. References Multiple species of Trichosporon produce biofilms highly resistant to triazoles and amphotericin B. PLoS ONE 9, e109553 (2014). 14. Di Bonaventura, G. et al. Biofilm formation by the emerging fungal pathogen Trichosporon asahii: development, architecture, and antifungal resistance. Antimicrob. Agents Chemother. 50, 3269–3276 (2006). 15. Kurakado, S. et al. Role of arthroconidia in biofilm formation by Trichosporon asahii. Mycoses 64, 42–47 (2021). 16. Hemenway, C. S. & Heitman, J. Calcineurin. Structure, function, and inhibition. Cell Biochem Biophys 30, 115–151 (1999). 17. Kozubowski, L., Lee, S. C. & Heitman, J. Signaling pathways in the pathogenesis of Cryptococcus. Cell. Microbiol. 11, 370–380 (2009). 18. Iyer, K. R., Robbins, N. & Cowen, L. E. The role of Candida albicans stress response pathways in antifungal tolerance and resistance. iScience 25, 103953 (2022). 19. Odom, A. et al. Calcineurin is required for virulence of Cryptococcus neoformans. EMBO J. 16, 2576– 2589 (1997). 20. Rutherford, J. C., Bahn, Y.-S., van den Berg, B., Heitman, J. & Xue, C. Nutrient and Stress Sensing in Pathogenic Yeasts. Front Microbiol 10, 442 (2019). 21. Chen, Y.-L., Lehman, V. N., Lewit, Y., Averette, A. F. & Heitman, J. Calcineurin governs thermotolerance and virulence of Cryptococcus gattii. G3 (Bethesda) 3, 527–539 (2013). 22. Hu, G. et al. The monothiol glutaredoxin Grx4 influences thermotolerance, cell wall integrity, and Mpk1 signaling in Cryptococcus neoformans. G3 (Bethesda) 11, (2021). 23. Matsumoto, Y. et al. A novel silkworm infection model with fluorescence imaging using transgenic Trichosporon asahii expressing eGFP. Sci Rep 10, 10991–11 (2020). 24. Matsumoto, Y. Facilitating Drug Discovery in Human Disease Models Using Insects. Biol. Pharm. Bull. 43, 216–220 (2020). 24. Matsumoto, Y. Facilitating Drug Discovery in Human Disease Models Using Insects. Biol. Pharm. Bull. 43, 216–220 (2020). 25. Flecknell, P. Replacement, reduction and refinement. ALTEX 19, 73–78 (2 26. Gokaslan, A. & Anaissie, E. A novel murine model of disseminated trichosporonosis. Infect. Immun. 60, 3339–3344 (1992). 26. Gokaslan, A. & Anaissie, E. A novel murine model of disseminated trichosporonosis. Infect. Immun. 60, 3339–3344 (1992). 27. Montoya, A. M. et al. In vivo pathogenicity of Trichosporon asahii isolates with different in vitro enzymatic profiles in an immunocompetent murine model of systemic trichosporonosis. Med. Mycol. 56, 434–441 (2018). 27. Montoya, A. M. et al. In vivo pathogenicity of Trichosporon asahii isolates with different in vitro enzymatic profiles in an immunocompetent murine model of systemic trichosporonosis. Med. Mycol. 56, 434–441 (2018). 28. Matsumoto, Y. Tables Tables 1 to 3 are available in the Supplementary Files section. References Trichosporon asahii septic thrombophlebitis following lower extremity amputation in an immunocompetent host. BMJ Case Rep 2018, bcr–2017–221441 (2018). 39. Matsumoto, Y. et al. Induction of signal transduction pathways related to the pathogenicity of Cryptococcus neoformans in the host environment. Drug Discov Ther 13, 177–182 (2019). 39. Matsumoto, Y. et al. Induction of signal transduction pathways related to the pathogenicity of Cryptococcus neoformans in the host environment. Drug Discov Ther 13, 177–182 (2019). 40. Yamada, T. et al. Enhanced gene replacements in Ku80 disruption mutants of the dermatophyte, Trichophyton mentagrophytes. FEMS Microbiol. Lett. 298, 208–217 (2009). 40. Yamada, T. et al. Enhanced gene replacements in Ku80 disruption mutants of the dermatophyte, Trichophyton mentagrophytes. FEMS Microbiol. Lett. 298, 208–217 (2009). 41. Alshahni, M. M., Makimura, K., Yamada, T., Takatori, K. & Sawada, T. Nourseothricin acetyltransferase: a new dominant selectable marker for the dermatophyte Trichophyton mentagrophytes. Med. Mycol. 48, 665–668 (2010). 41. Alshahni, M. M., Makimura, K., Yamada, T., Takatori, K. & Sawada, T. Nourseothricin acetyltransferase: a new dominant selectable marker for the dermatophyte Trichophyton mentagrophytes. Med. Mycol. 48, 665–668 (2010). References et al. Development of an efficient gene-targeting system for elucidating infection mechanisms of the fungal pathogen Trichosporon asahii. Sci Rep 11, 18270–10 (2021). 28. Matsumoto, Y. et al. Development of an efficient gene-targeting system for elucidating infection mechanisms of the fungal pathogen Trichosporon asahii. Sci Rep 11, 18270–10 (2021). Page 10/14 Page 10/14 Page 10/14 29. Cruz, M. C., Sia, R. A., Olson, M., Cox, G. M. & Heitman, J. Comparison of the roles of calcineurin in physiology and virulence in serotype D and serotype A strains of Cryptococcus neoformans. Infect. Immun. 68, 982–985 (2000). 30. Fox, D. S. et al. Calcineurin regulatory subunit is essential for virulence and mediates interactions with FKBP12-FK506 in Cryptococcus neoformans. Mol. Microbiol. 39, 835–849 (2001). 31. Matsumoto, Y. et al. Quantitative evaluation of cryptococcal pathogenesis and antifungal drugs using a silkworm infection model with Cryptococcus neoformans. J. Appl. Microbiol. 112, 138–146 (2012). 32. Park, H.-S. et al. Calcineurin Targets Involved in Stress Survival and Fungal Virulence. PLoS Pathog. 12, e1005873 (2016). 33. Chow, E. W. L. et al. Elucidation of the calcineurin-Crz1 stress response transcriptional network in the human fungal pathogen Cryptococcus neoformans. PLOS Genetics 13, e1006667 (2017). 34. Fu, C., Donadio, N., Cardenas, M. E. & Heitman, J. Dissecting the Roles of the Calcineurin Pathway in Unisexual Reproduction, Stress Responses, and Virulence in Cryptococcus deneoformans. Genetics 208, 639–653 (2018). 35. Chen, Y.-L. et al. Calcineurin controls drug tolerance, hyphal growth, and virulence in Candida dubliniensis. Eukaryotic Cell 10, 803–819 (2011). 35. Chen, Y.-L. et al. Calcineurin controls drug tolerance, hyphal growth, and virulence in Candida dubliniensis. Eukaryotic Cell 10, 803–819 (2011). 36. Chen, Y.-L. et al. Calcineurin controls hyphal growth, virulence, and drug tolerance of Candida tropicalis. Eukaryotic Cell 13, 844–854 (2014). 36. Chen, Y.-L. et al. Calcineurin controls hyphal growth, virulence, and drug tolerance of Candida tropicalis. Eukaryotic Cell 13, 844–854 (2014). 37. Juvvadi, P. R., Lamoth, F. & Steinbach, W. J. Calcineurin-mediated regulation of hyphal growth, septation, and virulence in Aspergillus fumigatus. Mycopathologia 178, 341–348 (2014). 37. Juvvadi, P. R., Lamoth, F. & Steinbach, W. J. Calcineurin-mediated regulation of hyphal growth, septation, and virulence in Aspergillus fumigatus. Mycopathologia 178, 341–348 (2014). 38. Mada, P. K., Ayoade, F., Li, A. & Todd, J. Trichosporon asahii septic thrombophlebitis following lower extremity amputation in an immunocompetent host. BMJ Case Rep 2018, bcr–2017–221441 (2018) 38. Mada, P. K., Ayoade, F., Li, A. & Todd, J. Figure 2 Temperature sensitivity of cna1 or cnb1 gene-deficiency in T. asahii. (a) The T. asahii parent strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1 (CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were grown on SDA and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell strainer. Series of 10-fold dilution of the fungal suspension were prepared using saline. Five microliters of each cell suspension was spotted on the SDA. Agar plates were incubated at 27°C, 37°C, or 40˚C for 24 h. (b, c) The T. asahii parent strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1 (CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were inoculated on Sabouraud medium and incubated at 27°C, 37°C, or 40˚C. Absorbance of the culture at 630 nm was monitored. Data are shown as means ± standard error of the mean (SEM). Figure 1 (e) Strategy for generating the cnb1 gene-deficient mutant (∆cnb1) and its revertant (Rev.). Predicted genomes of the cnb1 gene-deficient mutant and its revertant are shown. (f) The parent strain (Parent), cnb1 gene-deficient mutant (∆cnb1), and its revertant (Rev.) were spread on SDA with nourseothricin (Nou) (100 µg/ml) or hygromycin B (Hyg) (100 µg/ml) and incubated at 27°C for 2 days. (g) Location of the primers for confirming the genome structure of the cnb1 gene-deficient candidate by PCR using extracted genome DNA. (h) Confirmation of the genotypes of the cnb1 gene-deficient mutant (∆cnb1) and its revertant (Rev.) by PCR using extracted genome DNA. Cropped blots were used. Full-length blots are presented in Supplementary Fig. S1. Figures Page 11/14 Figure 1 Generation of the cna1 and cnb1 gene-deficient T. asahii mutants and their revertants. (a-d) Generation of the cna1 gene-deficient mutant and its revertant in T. asahii. (a) Strategy for generating the cna1 gene- deficient mutant (∆cna1) and its revertant (Rev.). Predicted genomes of the cna1 gene-deficient mutant and its revertant are shown. (b) The parent strain (Parent), cna1 gene-deficient mutant (∆cna1), and its revertant (Rev.) were spread on SDA with nourseothricin (Nou) (100 µg/ml) or hygromycin B (Hyg) (100 µg/ml) and incubated at 27°C for 2 days. (c) Location of the primers for confirming the genome structure of the cna1 gene-deficient candidate by PCR using extracted genome DNA. (d) Confirmation of the genotypes of the cna1 gene-deficient mutant (∆cna1) and its revertant (Rev.) by PCR using extracted genome DNA. (e-h) Generation of the cna1 gene-deficient mutant and its revertant in T. asahii. (e) Strategy for generating the cnb1 gene-deficient mutant (∆cnb1) and its revertant (Rev.). Predicted genomes of the cnb1 gene-deficient mutant and its revertant are shown. (f) The parent strain (Parent), cnb1 gene-deficient mutant (∆cnb1), and its revertant (Rev.) were spread on SDA with nourseothricin (Nou) (100 µg/ml) or hygromycin B (Hyg) (100 µg/ml) and incubated at 27°C for 2 days. (g) Location of the primers for confirming the genome structure of the cnb1 gene-deficient candidate by PCR using extracted genome DNA. (h) Confirmation of the genotypes of the cnb1 gene-deficient mutant (∆cnb1) and its revertant (Rev.) by PCR using extracted genome DNA. Cropped blots were used. Full-length blots are presented in Supplementary Fig. S1. Generation of the cna1 and cnb1 gene-deficient T. asahii mutants and their revertants. (a-d) Generation of the cna1 gene-deficient mutant and its revertant in T. asahii. (a) Strategy for generating the cna1 gene- deficient mutant (∆cna1) and its revertant (Rev.). Predicted genomes of the cna1 gene-deficient mutant and its revertant are shown. (b) The parent strain (Parent), cna1 gene-deficient mutant (∆cna1), and its revertant (Rev.) were spread on SDA with nourseothricin (Nou) (100 µg/ml) or hygromycin B (Hyg) (100 µg/ml) and incubated at 27°C for 2 days. (c) Location of the primers for confirming the genome structure of the cna1 gene-deficient candidate by PCR using extracted genome DNA. (d) Confirmation of the genotypes of the cna1 gene-deficient mutant (∆cna1) and its revertant (Rev.) by PCR using extracted genome DNA. (e-h) Generation of the cna1 gene-deficient mutant and its revertant in T. asahii. Figure 3 Sensitivity of the cna1 and cnb1 gene-deficient mutants against stress inducers. The T. asahii parent strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1 (CNA1), the cnb1 gene- deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were grown on SDA and incubated at 27°C Page 12/14 Page 12/14 for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell strainer. Series of 10-fold dilution of the fungal suspension were prepared using saline. Five microliters of each cell suspension was spotted on the SDA containing SDS (0.00625%), Congo red (100 µg/mL), caffeine (0.65 mg/mL), sorbitol (1.5 M), DTT (12 mM), TM (1 µg/mL), BFA (10 µg/mL), monensin (1 mg/mL), CaCl₂ (0.4 M), LiCl (55 mM), NaCl (1 M), amphotericin-B (0.4 µg/mL), fluconazole (6.4 µg/mL), or voriconazole (0.12 µg/mL). Each agar plate was incubated at 37°C for 24 h. for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell strainer. Series of 10-fold dilution of the fungal suspension were prepared using saline. Five microliters of each cell suspension was spotted on the SDA containing SDS (0.00625%), Congo red (100 µg/mL), caffeine (0.65 mg/mL), sorbitol (1.5 M), DTT (12 mM), TM (1 µg/mL), BFA (10 µg/mL), monensin (1 mg/mL), CaCl₂ (0.4 M), LiCl (55 mM), NaCl (1 M), amphotericin-B (0.4 µg/mL), fluconazole (6.4 µg/mL), or voriconazole (0.12 µg/mL). Each agar plate was incubated at 37°C for 24 h. for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell strainer. Series of 10-fold dilution of the fungal suspension were prepared using saline. Five microliters of each cell suspension was spotted on the SDA containing SDS (0.00625%), Congo red (100 µg/mL), caffeine (0.65 mg/mL), sorbitol (1.5 M), DTT (12 mM), TM (1 µg/mL), BFA (10 µg/mL), monensin (1 mg/mL), CaCl₂ (0.4 M), LiCl (55 mM), NaCl (1 M), amphotericin-B (0.4 µg/mL), fluconazole (6.4 µg/mL), or voriconazole (0.12 µg/mL). Each agar plate was incubated at 37°C for 24 h. Figure 4 Effect of cna1 or the cnb1 gene-deficiency on T. asahii morphology in Sabouraud dextrose medium. The T. asahii parent strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1 (CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were grown on SDA and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell strainer. Absorbance at 630 nm of the T. asahii cell suspension was adjusted to 1– 1.5. The cell suspension (10 µl) was added to Sabouraud dextrose medium (100 µl). The solutions were incubated at 37˚C for 48 h. The incubated solution was placed on glass slides and covered by a glass coverslip. (a) Samples were examined with bright light under a microscope. The scale bar indicated 50 µm. (b) The pictures were randomly obtained. The numbers of 3 cell types: yeast, arthroconidia, and hyphae, were counted. Figure 5 Attenuated pathogenicity in the cna1 or the cnb1 gene-deficient T. asahii mutants against silkworms. Attenuated pathogenicity in the cna1 or the cnb1 gene-deficient T. asahii mutants against silkworms. (a, b) The T. asahii parent strain (Parent; 2.9×105 cells/larva), the cna1 gene-deficient mutant (∆cna1; 7.4×105 cells/larva), the revertant from ∆cna1 (CNA1; 4.2×105 cells/larva), the cnb1 gene-deficient mutant (∆cnb1; 6.1×105 cells/larva), or the revertant from ∆cnb1 (CNB1; 7.1×105 cells/larva) were injected into the silkworm hemolymph and the silkworms were incubated at 37°C. Silkworm survival was monitored for 72 h. The significance of differences between the parent strain group and the cnb1 gene- deficient mutant groups was calculated by the log-rank test based on the curves by the Kaplan-Meier method. n = 10/group. (c, d) Number of surviving silkworms at conditions under 37˚C was determined at 48 h after administration of the fungal cells (50 to 1.2×106 cells/larva) into the silkworm hemolymph. Surviving and dead silkworms are indicated as 1 and 0, respectively. n = 4/group. Curves were drawn from combined data of 2–3 independent experiments by a simple logistic regression model. Figure 6 Figure 7 Effect of cna1 or the cnb1 gene-deficiency on T. asahii morphology in human serum. Effect of cna1 or the cnb1 gene-deficiency on T. asahii morphology in human serum. Effect of cna1 or the cnb1 gene-deficiency on T. asahii morphology in human serum. The T. asahii parent strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1 (CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were grown on SDA and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell strainer. Absorbance at 630 nm of the T. asahii cell suspension was adjusted to 1– 1.5. The cell suspension (10 µl) was added to human serum (100 µl) and the solutions were incubated at 37˚C for 48 h. The incubated solution was placed on glass slides and covered by a glass coverslip. (a) Samples were examined with bright light under a microscope. The scale bar indicated 50 µm. (b) The pictures were randomly obtained. The numbers of 3 cell types: yeast, arthroconidia, and hyphae, were counted. Figure 6 Page 13/14 Low hyphal growth of cna1 or the cnb1 gene-deficient T. asahii mutants in harvested silkworm hemolymph. Low hyphal growth of cna1 or the cnb1 gene-deficient T. asahii mutants in harvested silkworm hemolymph. The T. asahii parent strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1 (CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were grown on SDA and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell strainer. Absorbance at 630 nm of the T. asahii cell suspension was adjusted to 1– 1.5. The cell suspension (10 µl) was added to harvested silkworm hemolymph (100 µl) and the solutions were incubated at 37˚C for 48 h. The incubated solution was placed on glass slides and covered by a glass coverslip. (a) Samples were examined with bright light under a microscope. The scale bar indicated 50 µm. (b) The pictures were randomly obtained. The numbers of 3 cell types: yeast, arthroconidia, and hyphae, were counted. Supplementary Files This is a list of supplementary files associated with this preprint. Click to download. Supplementaryinformation.pdf Table1.docx Table2.docx Table3.docx Page 14/14
https://openalex.org/W2896623050
https://europepmc.org/articles/pmc6186987?pdf=render
English
null
False Positive 18F-FDG Positron Emission Tomography Findings in Schwannoma—A Caution for Reporting Physicians
Frontiers in medicine
2,018
cc-by
3,059
False Positive 18F-FDG Positron Emission Tomography Findings in Schwannoma—A Caution for Reporting Physicians Paul Boré 1*, Renaud Descourt 1, Luc Ollivier 2, Pierre-Yves Le Roux 3 and Ronan Abgral 3 1 Service d’Oncologie Médicale, Centre Hospitalier Régional et Universitaire de Brest, Université de Bretagne Occidentale, Brest, France, 2 Service de Radiothérapie, Centre Hospitalier Régional et Universitaire de Brest, Université de Bretagne Occidentale, Brest, France, 3 Service de Médecine Nucléaire, EA 3878 (GETBO) IF 148, Centre Hospitalier Régional et Universitaire de Brest, Université de Bretagne Occidentale, Brest, France Schwannoma is a rare source of false-positive 18F-fluorodeoxyglucose (18F-FDG) uptake in Positron-emission tomography (PET/CT), inducing potential errors in staging of several solid cancer, with implications for patient management. This clinical case reports the situation of a patient undergoing an 18F-FDG-PET/CT for initial staging of an ovarian adenocarcinoma. We found a high paramediastinal hypermetabolic mass suspicious of remote extension or secondary synchronous primitive tumor. The biopsy finally reveals a histopathology of Schwannoma, allowing the patient to be eligible for a surgical procedure of her ovarian adenocarcinoma by rejecting the hypothesis of malignancy. Edited by: Edited by: Anil Kumar Mishra, Institute of Nuclear Medicine & Allied Sciences (DRDO), India Edited by: Anil Kumar Mishra, Institute of Nuclear Medicine & Allied Sciences (DRDO), India Reviewed by: Baljinder Singh, Post Graduate Institute of Medical Education and Research (PGIMER), India Ramin Sadeghi, Mashhad University of Medical Sciences, Iran *Correspondence: Reviewed by: Baljinder Singh, Post Graduate Institute of Medical Education and Research (PGIMER), India Ramin Sadeghi, Mashhad University of Medical Sciences, Iran C Reviewed by: Baljinder Singh, Post Graduate Institute of Medical Education and Research (PGIMER), India Reviewed by: Baljinder Singh, Post Graduate Institute of Medical Education and Research (PGIMER), India Baljinder Singh, Post Graduate Institute of Medical Education and Research (PGIMER), India Ramin Sadeghi, Mashhad University of Medical Sciences, Iran *Correspondence: Paul Boré paul.bore@chu-brest.fr Keywords: positron-emission tomography, schwannoma, neoplasm staging, ovarian neoplasms, mediastinal neoplasms *Correspondence: Paul Boré Even if they are considered as benign tumors, high FDG uptake can be seen in schwannomas, providing a risk of false-positive interpretation with consequences on tumor staging and also management of patient. Even if they are considered as benign tumors, high FDG uptake can be seen in schwannomas, providing a risk of false-positive interpretation with consequences on tumor staging and also management of patient. g p For example Martinez-Esteve et al. (1) have reported the case of a patient with a locally advanced HER2 overexpressed breast tumor treated by chemotherapy and Trastuzumab showing a hypermetabolic retro-tracheal lymphadenopathy [15 × 17 mm and standardized uptake value (SUVmax) 4.5]. On the 18F-FDG PET-CT intermediate therapeutic assessment, there was a complete metabolic response except for the retro tracheal lymphadenopathy. The histopathological analysis of this finally excluded a metastatic lesion related to breast cancer and revealed a benign Schwannoma, allowing to continue initial therapeutic strategy. Specialty section: This article was submitted to Nuclear Medicine, a section of the journal Frontiers in Medicine Received: 26 July 2018 Accepted: 10 September 2018 Published: 08 October 2018 Citation: Boré P, Descourt R, Ollivier L, Le Roux P-Y and Abgral R (2018) False Positive 18F-FDG Positron Emission Tomography Findings in Schwannoma—A Caution for Reporting Physicians. Front. Med. 5:275. doi: 10.3389/fmed.2018.00275 Specialty section: This article was submitted to Nuclear Medicine, a section of the journal Frontiers in Medicine Received: 26 July 2018 Accepted: 10 September 2018 Published: 08 October 2018 g p gy Moreover, Gorospe et al. (2) have published a case of difficult initial staging of a pulmonary adenocarcinoma of the right upper lobe. Indeed, 18F-FDG PET/CT findings concluded to a suspicious supraclavicular right lymph node (SUVmax 2.6 vs. 2.8 for the primary) and the patient’s tumor was restaged into a T3N3M0 IIIB lung cancer vs. T3N0M0 IIB according to WHO classification (3). Before modifying treatment management of patient based on 18F-FDG PET/CT findings, a surgical biopsy was performed and finally concluded again to a schwannoma. CASE REPORT published: 08 October 2018 doi: 10.3389/fmed.2018.00275 CASE REPORT BACKGROUND *Correspondence: Paul Boré paul.bore@chu-brest.fr *Correspondence: Paul Boré Citation: Boré P, Descourt R, Ollivier L, Le Roux P-Y and Abgral R (2018) False Positive 18F-FDG Positron Emission Tomography Findings in Schwannoma—A Caution for Reporting Physicians. Front. Med. 5:275. doi: 10.3389/fmed.2018.00275 Several other case reports show that schwannomas are usually associated with a high 18F-FDG uptake on PET-CT (4–6). But, cases of schwannomas with low uptake exist even if they are less frequent (7). October 2018 | Volume 5 | Article 275 Frontiers in Medicine | www.frontiersin.org Schwannoma—A Caution for Reporting Physicians Boré et al. Only few cases of schwannoma located in the mediastinum with an 18F-FDG uptake have already been reported in literature. FIGURE 1 | Fusion image in cross section. Image of peritoneal carcinomatosis of the patient. CASE PRESENTATION A 75-year-old female patient with previous hystory of active smoking at 75 year-package associated with other cardiovascular risk factors (hypertension, hypercholesterolemia, non-insulin- dependant diabetes, and obesity) has been sent to our university hospital for a suspicion of strangulated umbilical hernia. An abdomen and pelvis CT scan was then performed and found a diffuse infiltration of mesenteric fat evoking a peritoneal carcinosis without primary tumor clearly identified. An exploring laparoscopy showed a visual aspect of inflammatory peritoneum with a thickened epiploon and non-tumorous ovaries. On the contrary, histopathological examinations (biopsy and cytology) suggested an immunohistochemical profile compatible with high-grade serous papillary carcinoma of ovarian or peritoneal origin. The therapeutic strategy included neo-adjuvant chemotherapy by CARBOPLATIN-PACLITAXEL and interval surgery after 3 cycles. FIGURE 1 | Fusion image in cross section. Image of peritoneal carcinomatosis of the patient. Moreover, an 18F-fluorodeoxyglucose (18F–FDG) Positron-emission tomography (PET/CT) was performed not to ignore a supra-diaphragmatic remote extension of disease that would exclude surgery indication. In addition to multiple hypermetabolic known peritoneal carcinomatosis lesions (Figure 1), PET CT found fortuitly a pathological 18F-FDG uptake upon a high paramediastinal tissue 3 cm mass located at the left pulmonary apex (SUV max: 12.8) (Figures 2–4). Due to this suspicion of remote extension of disease or secondary primary tumor, a biopsy under CT scan was performed. The histolopatological analysis concluded with an appearance of Schwannoma, without any sign suggestive of malignancy. FIGURE 2 | Fusion image in axial cut. It is found that the mass is well-located behind the tracheabronchial axis. While awaiting the histological characterization of this mass, the patient finally benefited from 6 cycles of chemotherapy before surgery by laparotomy. Unfortunately due to carcinomatosis extended to the entire abdominal cavity with a peritoneal index at 19 (8) a complete resection surgery was not possible and new courses of CARBOPLATIN TAXOL were scheduled. FIGURE 2 | Fusion image in axial cut. It is found that the mass is well-located behind the tracheabronchial axis. Frontiers in Medicine | www.frontiersin.org DISCUSSION complex, or schwannomatosis. There are also some variants of schwannomas which are cellular schwannoma, plexiform schwannoma, and melanotic schwannoma (13). Schwannomas are the most common nerve sheath tumors (9) and are usually solitary. Majority of lesions are benign tumors that usually grow slowly [only 2% of them may evolve into a malignant form (10, 11)]. They are often asymptomatic and fortuitly revealed. Microscopically they are well circumscribed with a surrounding capsule and are composed by a clonal population of Schwann cells. There are two components, a highly ordered cellular called Antoni A area (hypercellular area) and a looser myxoid component called Antoni B area. In immunohistochemistry they express the S100 protein (12). Most of them are sporadic tumors. However in few cases, they are associated with neurofibromatosis type 2 disease, Carney’s This tumor consists of an abnormal proliferation of Schwann cells developped from nerves. The most frequent locations of schwannomas are the brachial plexus or the large nerve trunks of the limbs (particularly elbow, wrist, or knee). Deep forms in retroperitoneum or mediastinum exist and are often of large size (14). In the mediastinum, nerve tumors such as schwannoma are located in the posterior compartment where they account for two-third to 80% of tumors in this localization (15–17). The other most common masses of the posterior mediastinum are meningoceles, para esophageal cysts, goiter, and lymphoma. Three compartments are described in the October 2018 | Volume 5 | Article 275 2 Schwannoma—A Caution for Reporting Physicians Boré et al. The anterior mediastinum is the prevascular zone and the middle mediastinum is the peri-tracheoesophageal zone (17). Regarding the other compartments, lymphoma, germinal tumor, and thymic tumors are typically located in the anterior (19) and lymphadenopathy and lymphoma in the middle mediastinum. FIGURE 3 | Maximal intensity projection of our patient. Acquisition of broadcoast images realized 60 min after injection of 252 Megabecquerels of FDG-IBA in a vein of the right wrist. Visualization of the supra-diaphragmatic isolated hypermetabolism. FIGURE 3 | Maximal intensity projection of our patient. Acquisition of broadcoast images realized 60 min after injection of 252 Megabecquerels of FDG-IBA in a vein of the right wrist. Visualization of the supra-diaphragmatic isolated hypermetabolism. FIGURE 4 | Sagittal cut, fusion image, 30 mm mass above aortic stock, maximum standardized uptake value of 12.8. DISCUSSION mediastinum The posterior mediastinum is the paravertebral On imaging, schwannomas occur on the path of a nerve, are well-limited, often oval and unique. The metabolic characteristics of schwannomas on 18F-FDG PET-CT are not well-described in literature to differentiate benign or malignant forms. Ahmed et al. did not found an association between SUV and benign schwannoma or malignant tumor (20). Beaulieu et al. (21) compared the FDG uptake with Schwannoma cellularity, tumor size and tumor proliferation rate (Ki-67 index). The SUVmax varied from 1.9 to 7.2 (mean = 4.6; n = 9). They found that the SUV max of the hypocellular tumors was significantly lower than the SUV max of the hypercellular tumors (composed by a larger; p = 0.010). They did not found an association between SUVmax and tumor size or Ki-67 index. They did not find why there is a high FDG accumulation in benign tumors such as schwannoma. In a study of 22 histologically proven schwannomas, Miyake et al. (22) did not find a correlation between expression of glucose transporters (GLUTs) and SUVmax of the lesions that could explain why there is a high FDG accumulation in this tumors. Moreover, SUVmax ranged from 1.5 to 17.3 with a median of 3.7 and factors significantly associated with higher SUVmax were gastrointestinal origin (p = 0.007) and the presence of peri-tumor lymph nodes (p < 0.001). FIGURE 3 | Maximal intensity projection of our patient. Acquisition of broadcoast images realized 60 min after injection of 252 Megabecquerels of FDG-IBA in a vein of the right wrist. Visualization of the supra-diaphragmatic isolated hypermetabolism. More recently it has been showed that schwannomas with18F- Dihydroxyphenylalanine (DOPA) uptake (23) and also in 68Ga- Prostate-specific membrane antigen (PSMA) PET-CT (24). It therefore seems difficult to conclude to a diagnosis of Schwannoma only based on SUV characteristics on PET-CT since their SUVmax seems to vary enormously. There is also several other causes of known false positives such as infectious and inflammatory processes. FIGURE 4 | Sagittal cut, fusion image, 30 mm mass above aortic stock, maximum standardized uptake value of 12.8. Several cases reporting masses to PET-CT with hypermetabolism in follows-up of tumoral pathologies have been described, and these hypermetabolisms are generally associated with malignant tumors. However as described earlier that is not always true. Schwannomas with an 18F-FDG uptake have been described but especially outside the mediastinum. DISCUSSION To our knowledge only few publications report this situation in the mediastinum. This case confirms the necessity to be aware of a neurogenic tumor when the PET reader concludes to a hypermetabolic mass of the posterior mediastinum and especially if it can lead to a change in patient care. October 2018 | Volume 5 | Article 275 REFERENCES diagnosis, management, and results. Ann Thorac Surg. (1987) 44:229–37. doi: 10.1016/S0003-4975(10)62059-0 diagnosis, management, and results. Ann Thorac Surg. (1987) 44:229–37. doi: 10.1016/S0003-4975(10)62059-0 1. Martínez-Esteve A, Álvarez-Pérez RM, Pachón-Garrudo VM, González- Mancha R, Borrego-Dorado I. Mediastinal schwannoma mimicking lymph node metastasis from locally advanced breast cancer in a (18)F- FDG PET/CT study. Rev Esp Med Nucl Imagen Mol. (2016) 35:272–3. doi: 10.1016/j.remn.2015.11.001 1. Martínez-Esteve A, Álvarez-Pérez RM, Pachón-Garrudo VM, González- Mancha R, Borrego-Dorado I. Mediastinal schwannoma mimicking lymph node metastasis from locally advanced breast cancer in a (18)F- FDG PET/CT study. Rev Esp Med Nucl Imagen Mol. (2016) 35:272–3. doi: 10.1016/j.remn.2015.11.001 16. Pavlus J, Carter B, Tolley M, Keung E, Khorashadi L, Lichtenberger J. Imaging of thoracic neurogenic tumors. Am J Roentgenol. (2016) 207:552–61. doi: 10.2214/AJR.16.16018 17. Fujimoto K, Hara M, Tomiyama N, Kusumoto M, Sakai F, Fujii Y. Proposal for a new mediastinal compartment classification of transverse plane images according to the Japanese Association for Research on the Thymus (JART) general rules for the study of mediastinal tumors. Oncol Rep. (2013) 31:565– 72. doi: 10.3892/or.2013.2904 2. Gorospe L, Rioja-Martín ME, Santos-Carre-o AL, Pacios-Blanco RE, Mu- oz-Molina GM. Supraclavicular schwannoma mimicking a lymphadenopathy in a lung cancer patient: PET/CT findings. Lung Cancer (2017) 110:74–6. doi: 10.1016/j.lungcan.2017.06.001 18. Whitten C, Khan S, Munneke G, Grubnic S. A diagnostic approach to mediastinal abnormalities. Radiographics (2007) 27:657–71. doi: 10.1148/rg.273065136 3. Goldstraw P. The 7th Edition of the TNM Classification for Lung Cancer: Proposals from the IASLC Staging Project. Eur J Cancer Suppl. (2007) 5:15–22. doi: 10.1016/S1359-6349(07)70018-6 3. Goldstraw P. The 7th Edition of the TNM Classification for Lung Cancer: Proposals from the IASLC Staging Project. Eur J Cancer Suppl. (2007) 5:15–22. doi: 10.1016/S1359-6349(07)70018-6 19. Jeanbourquin D. Diagnostic des masses médiastinales de l’adulte. Radiol Imagerie Méd. (2010) 5:1–29. doi: 10.1016/S1169-7768(10)52870-4 4. Wang S, Luo D, Chen G, Liu E, Wang S. FDG PET/CT of intercostal schwannoma. Clin Nuclear Med. (2016) 41:e310–2. doi: 10.1097/RLU.0000000000001151 20. Ahmed A, Watanabe H, Aoki J, Shinozaki T, Takagishi K. Schwannoma of the extremities: the role of PET in preoperative planning. Eur J Nucl Med Mol Imaging (2001) 28:1541–51. doi: 10.1007/s002590100584 5. Yap J, Huang Y, Lin M. Detection of synchronous gastric schwannoma on FDG PET/CT aided by discordant metabolic response. Clin Nuclear Med. (2015) 40:e287–9. doi: 10.1097/RLU.0000000000000724 21. Beaulieu S, Rubin B, Djang D, Conrad E, Turcotte E, Eary JF. CONCLUDING REMARKS FIGURE 4 | Sagittal cut, fusion image, 30 mm mass above aortic stock, maximum standardized uptake value of 12.8. Schwannoma is a potential cause of 18F-FDG false positive uptake in PET-CT, inducing risk of worse staging or therapeutic assessment, with consequences on patient management. Currently there are no reliable argument to differentiate a benign Schwannoma from a malignant tumor only on 18F-FDG-PET- CT imaging. This case report also recalls the need to biopsy mediastinum. The posterior mediastinum is the paravertebral zone bounded by the posterior trachea and pericardium, the diaphragm, the vertebral column, and the thoracic inlet (18). October 2018 | Volume 5 | Article 275 Frontiers in Medicine | www.frontiersin.org 3 Schwannoma—A Caution for Reporting Physicians Boré et al. not required in accordance with the national and institutional requirements. The patient provided written informed consent. doubtful lesions fortuitly discovered on 18F-FDG-PET-CT in order to avoid a loss of chance and possible complications related to unnecessary treatment toxicities. ETHICS STATEMENT PB provided details of the patient and provided initial draft of submission. RD provided details of the patient and helped draft the initial submission. P-YL and RA provided images, image analysis, and helped draft the initial submission. LO helped draft the initial submission. All procedures performed in this study were in accordance with the ethical standards of the institutional research committee on human experimentation and with the Helsinki Declaration of 1975, as revised in 2008. Ethical review and approval was REFERENCES Positron emission tomography of schwannomas: emphasizing its potential in preoperative planning. Am J Roentgenol. (2004) 182:971–4. doi: 10.2214/ajr.182.4.1820971 6. Perniola G, Tomao F, Fischetti M, Lio S, Pecorella I, Benedetti Panici P. Benign schwannoma in supraclavicular region: a false-positive lymph node recurrence of breast cancer suspected by PET scan. Arch Gynecol Obstetr. (2014) 290:583–6. doi: 10.1007/s00404-014-3241-5 22. Miyake KK, Nakamoto Y, Kataoka TR, Ueshima C, Higashi T, Terashima T, et al. Clinical, morphologic, and pathologic features associated with increased fdg uptake in schwannoma. Am J Roentgenol. (2016) 207:1288–96. doi: 10.2214/AJR.15.14964 7. Roger PA, Berna P, Merlusca G, Joly JP, Auquier MA, Sevestre H, et al. [Schwannoma of the vagus nerve: diagnostic strategy and therapeutic approach]. Rev Mal Respir. (2012) 29:70–3. doi: 10.1016/j.rmr.2011.06.016 23. Berends A, Kerstens M, Bolt J, Links T, Korpershoek E, de Krijger R et al. False-positive findings on 6-[18F]fluor-l-3,4-dihydroxyphenylalanine PET (18F-FDOPA-PET) performed for imaging of neuroendocrine tumors. Eur J Endocrinol. (2018) 179:127–135. doi: 10.1530/EJE-18-0321 8. Sugarbaker PH. Pritoneal Carcinomatosis: Principles of Management. Boston, MA: Springer (1996). 9. Bouvier C, Maues de Paula A, Roche PH, Chagnaud C, Figarella-Branger D. Tumeurs du système nerveux périphérique. EMC Neurol. (2013) 10:1–11. doi: 10.1016/S0246-0378(12)58206-0 24. Dias A, Bouchelouche K. Prostate-specific membrane antigen PET/CT incidental finding of a schwannoma. Clin Nuclear Med. (2018) 43:267–8. doi: 10.1097/RLU.0000000000001988 10. WoodruffJM, Selig AM, Crowley K, Allen PW. Schwannoma (Neurilemoma) with malignant transformation a rare, distinctive peripheral nerve tumor. Am J Surg Pathol. (1994) 18:882–95. doi: 10.1097/00000478-199409000-00003 Conflict of Interest Statement: The authors declare that the research was conducted in the absence of any commercial or financial relationships that could be construed as a potential conflict of interest. 11. Enzinger FM. Soft Tissue Tumor. 2nd ed. Washington, DC: SWCMC (1988). 11. Enzinger FM. Soft Tissue Tumor. 2nd ed. Washington, DC: M. Soft Tissue Tumor. 2nd ed. Washington, DC: SWCMC (1988). 12. Mordant P, Le Pimpec-Barthes F, Riquet M. Tumeurs nerveuses du médiastin de l’adulte. Rev Pneumol Clin. (2010) 66:81–94. doi: 10.1016/j.pneumo.2009.12.010 Copyright © 2018 Boré, Descourt, Ollivier, Le Roux and Abgral. This is an open- access article distributed under the terms of the Creative Commons Attribution License (CC BY). The use, distribution or reproduction in other forums is permitted, provided the original author(s) and the copyright owner(s) are credited and that the original publication in this journal is cited, in accordance with accepted academic practice. Frontiers in Medicine | www.frontiersin.org REFERENCES No use, distribution or reproduction is permitted which does not comply with these terms. 13. Hilton DA, Hanemann CO. Schwannomas and their pathogenesis. Brain Pathol. (2014) 24:205–20. doi: 10.1111/bpa.12125 14. Lapierre F, Rigoard P, Wager M. Tumeurs des nerfs périphériques. Neurochirurgie (2009) 55:413–20. doi: 10.1016/j.neuchi.2009.09.004 15. Davis RD Jr, Oldham HN Jr, Sabiston DC Jr. Primary cysts and neoplasms of the mediastinum: recent changes in clinical presentation, methods of October 2018 | Volume 5 | Article 275 Frontiers in Medicine | www.frontiersin.org
https://openalex.org/W4241381621
https://journal.iainlangsa.ac.id/index.php/tibyan/article/download/1157/1053
Indonesian
null
TAFSIR AKADEMIK KARYA MAHMUD YUNUS: CORAK ILMIAH, SOSIAL DAN INTELEKTUAL DALAM TAFSIR AL-QUR’AN AL-KARIM
Jurnal At-Tibyan: jurnal ilmu alqur`an dan tafsir/Jurnal At-Tibyan : Jurnal Ilmu Alquran dan Tafsir
2,020
cc-by
7,833
Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir Volume 5 No. 1, Juni 2020 (h.104-119) P ISSN 2442-594X | E ISSN 2579-5708 http://journal.iainlangsa.ac.id/index.php/tibyan TAFSIR AKADEMIK KARYA MAHMUD YUNUS: CORAK ILMIAH, SOSIAL DAN INTELEKTUAL DALAM TAFSIR AL-QUR’AN AL-KARIM Academic Tafsir Work Of Mahmud Yunus: Scientific, Social And Intellectual Types In Al-Qur'an Al-Karim Tafsir Nurus Syarifah Program Studi Interdisciplinary Islamic Studies Pascasarjana UIN Sunan Kalijaga Yogyakarta nurussyarifah29@gmail.com DOI: 10.32505/tibyan.v5i1.1157 Submitted: 07-10-2019 Revised: 22-06-2020 Accepted: 26-06-2020 Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir Volume 5 No. 1, Juni 2020 (h.104-119) P ISSN 2442-594X | E ISSN 2579-5708 http://journal.iainlangsa.ac.id/index.php/tibyan Nurus Syarifah Program Studi Interdisciplinary Islamic Studies Pascasarjana UIN Sunan Kalijaga Yogyakarta nurussyarifah29@gmail.com DOI: 10.32505/tibyan.v5i1.1157 Submitted: 07-10-2019 Revised: 22-06-2020 Accepted: 26-06-2020 Abstract: This article describes the academic aspects of the interpretation of Mahmud Yunus which is named Tafsir Al-Qur’an al-Karim. This interpretation is one of the pioneers of Indonesian-language interpretation works that are widely used by the majority of Muslims in Indonesia. He dared to introduce the use of Latin letters for translation and interpretation of the Qur'an. The method used in this research is descriptive method. The conclusion of this study is that the academic aspects of Mahmud Yunus' interpretation work include scientific, social and intellectual styles. The scientific style in its interpretation is a new style that is associated with developing science, so its interpretation seems to emphasize the close relationship between the Qur'an and the development of science and technology which are the main characteristics of modern thought. The social and intellectual patterns are more demonstrated by Mahmud Yunus through the use of elements of common expressions, as well as traditions, customs and socio-cultural phenomena in their interpretation. Keywords: Mahmud Yunus, Tafsir Al-Qur’an al-Karim, Academic Aspects. ds: Mahmud Yunus, Tafsir Al-Qur’an al-Karim, Academic Aspects. Hak Cipta @ 2020. Dimiliki oleh Penulis, dipublikasikan oleh Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir. Artikel dengan akses terbuka. Lisensi: CC-BY Hak Cipta @ 2020. Dimiliki oleh Penulis, dipublikasikan oleh Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir. Artikel dengan akses terbuka. Lisensi: CC-BY 1Nashruddin Baidan dan Erwati Aziz, Perkembangan Tafsir Al-Qur’an di Asia Tenggara (Yogyakarta: Pustaka Pelajar, 2019), 1-2. 2Howard M. Federspiel, Kajian Al-Qur’an di Indonesia; dari Mahmud Yunus hingga Quraish Shihab, terj. Tajul Arifin (Bandung: Penerbit Mizan, 1996), 25. Lebih lanjut juga lihat Mahmud Yunus, Tafsir Al-Qur’an al-Karim (Djakarta: PT Hidakarya Agung, 1983), iii. 3Federspiel, Kajian Al-Qur’an di Indonesia, 129. 4Federspiel, Kajian Al-Qur’an di Indonesia, 129. Abstrak: Artikel ini menjelaskan tentang aspek akademik dari tafsir Mahmud Yunus yang diberi nama Tafsir Al-Qur’an al-Karim. Tafsir ini merupakan salah satu pionir karya tafsir berbahasa Indonesia yang banyak digunakan oleh mayoritas umat Islam di Indonesia. Ia berani memperkenalkan pemakaian huruf Latin untuk terjemahan dan tafsir Al-Qur’annya. Metode yang digunakan dalam penelitian ini adalah metode deskriptif. Adapun kesimpulan dari penelitian ini bahwa aspek akademik dalam karya tafsir Mahmud Yunus ini meliputi corak ilmiah, corak sosial dan corak intelektual. Corak ilmiah dalam penafsirannya Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 105 105 merupakan sebuah corak baru yang dikaitkan dengan ilmu pengetahuan yang sedang berkembang, sehingga penafsirannya terkesan menegaskan dan menunjukkan hubungan yang erat antara Al-Qur’an dengan perkembangan ilmu pengetahuan dan teknologi yang mana hal ini menjadi ciri utama pemikiran modern. Adapun corak sosial dan corak intelektual lebih ditunjukkan Mahmud Yunus melalui penggunaan unsur ungkapan umum, maupun tradisi, adat dan fenomena sosial budaya dalam penafsirannya. Kata Kunci: Mahmud Yunus, Tafsir Al-Qur’an al-Karim, dan Aspek Akademik. Kata Kunci: Mahmud Yunus, Tafsir Al-Qur’an al-Karim, dan Aspek Akademik. 1Nashruddin Baidan dan Erwati Aziz, Perkembangan Tafsir Al-Qur’an di Asia Tenggara Yogyakarta: Pustaka Pelajar, 2019), 1-2. 2 5Taufikurrahman, “Dinamika Kajian Al-Qur’an di Indonesia,” Ibn Abbas: Jurnal Ilmu Al-Qur’an dan Tafsir 2, no. 1 (2019): 218. 6Taufikurrahman, “Dinamika Kajian Al-Qur’an di Indonesia,”, 219. 7Rithon Igisani, “Kajian Tafsir Mufassir di Indonesia,”Jurnal Potret 22, no. 1 (2018) : 11-31. 8Zulyadain,“Kerangka Paradigmatik Tafsir Al-Qur’an Al-Karim Karya Mahmud Yunus,”Jurnal Al- A’raf 15, no. 1 (2018): 127-145. 9M. Amursid dan Amaruddin Asra, “Studi Tafsir al-Qur’an al-Karim Karya Mahmud Yunus,”Jurnal Syahadah, 3, no. 2 (2015): 2. 10Saiful Amin Ghofur, Profil Para Mufasir al-Qur’an, (Yogyakarta: Pustaka Insan Madani, 2008), 197. Pendahuluan Islam telah menjadi agama mayoritas bangsa-bangsa Asia Tenggara, atau populer disebut Asean. Secara inklusif, begitu Islam masuk ke suatu wilayah, maka penafsiran kitab suci Al-Qur’an secara otomatis ikut masuk ke wilayah tersebut. Hal ini dikarenakan, Islam tidak dapat dipahami tanpa penafsiran kitab sucinya, apalagi bagi bangsa-bangsa ‘ajam (non-Arab) seperti bangsa Asean.1 Begitupun yang terjadi di Indonesia ketika Islam masuk, mulai bermunculan berbagai kitab penerjemahan dan penafsiran Al-Qur’an dengan menggunakan bahasa Indonesia. Semua ini dimaksudkan untuk mempermudah bagi siapapun masyarakat Indonesia yang ingin mempelajari dan memahami Al-Qur’an, walaupun pada awal penerjemahan dan penafsiran ke dalam bahasa Indonesia sempat dinyatakan haram oleh para ulama Islam saat itu.2 Merujuk pada apa yang ditulis Howard M. Federspiel tentang periodisasi sejarah perkembangan penerjemahan dan penafsiran Al-Qur’an ke dalam bahasa Indonesia, ia membaginya menjadi tiga generasi. Generasi pertama mulai dari sekitar abad ke-20 sampai awal tahun 1960-an, ditandai dengan penerjemahan dan penafsiran yang masih terpisah-pisah. Generasi kedua muncul pada pertengahan tahun 1960, merupakan penyempurnaan atas upaya generasi pertama, penerjemahan lengkap ini biasanya memiliki beberapa catatan, catatan kaki, terjemahan kata per-kata, dan kadang disertai dengan suatu indeks yang sederhana. Adapun generasi ketiga mulai muncul pada tahun 1970-an, merupakan penafsiran yang lengkap, seringkali memberikan komentar- komentar yang luas terhadap teks bersamaan terjemahannya, memiliki bagian pengantar dan indeks yang memperluas isi, tema-tema atau asbab al-nuzul Al-Qur’an.3 Menurut Federspiel ada beberapa karya yang cukup representatif dalam mewakili tafsir generasi kedua, yaitu al-Furqon karya Ahmad Hassan, Tafsir Al-Qur’an karya Hamidy, dan Tafsir Al-Qur’an al-Karim karya Mahmud Yunus.4 Berbeda dengan periodisasi yang disajikan oleh Islah Gusmian, ketiga tafsir ini masuk dalam Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 106 kategorisasi periode pertama yang ia susun. Menurutnya, ketiga tafsir ini muncul pada pertengahan dan akhir tahun 1950-an. Hal ini sesuai dengan kategorisasi yang ia susun, yang mana periode pertama memiliki rentang waktu awal abad ke-20 sampai tahun 1960. Adapun periode kedua menurut Islah Gusmian yaitu antara tahun 1970-an sampai tahun 1980-an. Sedangkan rentang waktu untuk periode ketiga adalah mulai tahun 1990-an sampai seterusnya.5 Adanya perbedaan periodisasi di atas dapat disebabkan beberapa hal, di antaranya pemilahan tahun perperiode yang berbeda, sudut pandang yang berbeda terhadap objek kajian, dan juga perolehan data yang berbeda oleh para peneliti.6 Walaupun terdapat perbedaan periodisasi antar peneliti, tidak dapat dipungkiri bahwa tafsir karya Mahmud Yunus merupakan salah satu karya monumental pada kelompok periodenya maupun generasinya. Pendahuluan Karya tafsir Mahmud Yunus ini memudahkan para pembacanya untuk berinteraksi dengan Al-Qur’an.7 Hal ini karena tafsir yang ia susun memang berusaha agar makna Al-Qur’an dapat diterima oleh seluruh kalangan masyarakat.8 Karya ini merupakan salah satu pionir dalam karya tafsir berbahasa Indonesia yang banyak digunakan oleh orang-orang berbahasa Melayu9 karena penggunaan huruf Latin dalam penerjemahan dan penafsiran Al-Qur’annya. Karenanya, Mahmud Yunus juga dianggap sebagai pelopor pola baru penulisan tafsir Al-Qur’an di Indonesia. Pola baru lain yang ditemukan dalam karya tafsirnya ini menjadikannya tergolong tafsir akademik. Sehingga dalam tulisan ini akan membahas aspek-aspek akademik dalam Tafsir Al- Qur’an al-Karim sebagai tafsir akademik karya Mahmud Yunus. 11Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim Karya Mahmud Yunus, (Yogyakarta: Tesis Mahasiswa UIN Sunan Kalijaga, 2019), 21. 12Malta Rina, Pemikiran dan Karya-Karya Prof. Dr. H. Mahmud Yunus tentang Pendidikan Islam (1920-1982), (Padang: Ilmu Sejarah Pascasarjana UNAND, 2011), 3. 13Herry Mohammad, dkk, Tokoh-Tokoh Islam yang Berpengaruh Abad 20, Cet ke-2, (Jakarta: Gema Insani, 2008), 85-86. 14Malta Rina, Pemikiran dan Karya-Karya Prof. Dr. H. Mahmud Yunus, 170-174. 15Lebih lanjut lihat Herry Mohammad, dkk, Tokoh-Tokoh Islam, 85-86. Lihat juga Saiful Amin Ghofur, Profil Para Mufasir al-Qur’an, 197-199. 16Lebih lanjut lihat Herry Mohammad, dkk, Tokoh-Tokoh Islam, 85-86. Lihat juga Saiful Amin Ghofur, Profil Para Mufasir al-Qur’an, 197-199. 17Lebih lanjut lihat Herry Mohammad, dkk, Tokoh-Tokoh Islam, 86-91. Lihat juga Saiful Amin Ghofur, Profil Para Mufasir al-Qur’an, 199-200. 18Lebih lanjut lihat Herry Mohammad, dkk, Tokoh-Tokoh Islam, 86-91. Lihat juga Malta Rina, Pemikiran dan Karya-Karya Prof. Dr. H. Mahmud Yunus, 176-180. Lihat juga Saiful Amin Ghofur, g Riwayat Hidup dan Pendidikan Mahmud Yunus lahir pada hari Sabtu di Sungayang, Batusangkar, Sumatra Barat, tanggal 10 Februari 1899 M bertepatan dengan 30 Ramadan 1316 H. Ia Berasal dari keluarga yang agamis. Ayahnya bernama Yunus bin Incek, pengajar di surau. Ibunya bernama Hafsah binti Imam Samiun. Kakek Ibunya yaitu Engku Gadang M. Tahir bin Ali, merupakan seorang pendiri dan pengasuh surau di wilayah tersebut.10 Selain mengajar di surau dan menjadi imam dengan sebutan Imam Nagari, ayah Mahmud Yunus berasal dari suku Mandailing. Ia juga bekerja sehari-hari sebagai petani. Adapun sang ibu buta huruf karena tidak pernah mengenyam pendidikan di Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 107 desanya, memiliki panggilan Posa dari suku Chaniago,11 dan pekerjaan hariannya menenun kain tradisional Minangkabau.12 Mahmud Yunus sejak kecil mulai belajar Al- Qur’an pada kakeknya.13 Ia merupakan satu-satunya anak laki-laki dalam keluarganya. Mahmud Yunus mempunyai lima orang istri dan dengannya dikarunai 18 orang anak.14 Awal tahun 1970 kesehatan Mahmud Yunus menurun dan keluar-masuk rumah sakit, dan akhirnya ia menghembuskan napas terakhirnya pada tahun 1982. Sejak kecil Mahmud Yunus sudah dididik dalam lingkungan yang agamis. Ia belajar Al-Qur’an dan praktik ibadah serta ilmu-ilmu ke-Islaman lainnya dengan kakeknya, sejak tahun 1906 M. Pernah masuk Sekolah Rakyat. tetapi hanya sampai tahun keempat. Selanjutnya ia masuk Madrasah School yang didirikan oleh H. M. Thaib Umar, seorang tokoh pembaru Islam di Minangkabau. Prestasi Mahmud di Madrasah sangat cemerlang, sehingga ia dipercaya untuk mengajar beberapa kitab, antara lain al-Mahally, Alfiyah ibn Aqil, dan Jam’ al-Jawami. Saat itu usianya baru 16 tahun.15 Selanjutnya Mahmud Yunus belajar di Universitas al-Azhar Kairo, Mesir, pada tahun 1924 M. Ia pun melanjutkan studi ke Dar al-‘Ulum, Universitas Kairo, Mesir. Pada tahun 1929 ia lulus dan kembali ke kampung halamannya.16 Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 11Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim Karya Mahmud Yunu (Yogyakarta: Tesis Mahasiswa UIN Sunan Kalijaga, 2019), 21. 12 Profil Para Mufasir al-Qur’an\, 200. Lihat juga Sulaiman Ibrahim, Pendidikan dan Tafsir; Kiprah Mahmud Yunus dalam Pembaruan Islam, (Jakarta: LEKAS, 2011), 42. 19Lebih lanjut lihat Mahmud Yunus dalam mukadimah Tafsir Al-Qur’an al-Karim, iii-vii. Lihat juga Sulaiman Ibrahim, Pendidikan dan Tafsir, 84. 20Lebih lanjut lihat Mahmud Yunus dalam mukadimah Tafsir Al-Qur’an al-Karim, iii-vii. Lihat juga Sulaiman Ibrahim, Pendidikan dan Tafsir, 84. 21Yunus, Tafsir Al-Qur’an al-Karim, iii-vii. 22Ghofur, Profil Para Mufasir al-Qur’an, 200-201. Karir dan Karya-Karya Karir Mahmud Yunus di antarnya mendirikan dan memimpin lembaga pendidikan Islam bernama al-Jami’ah al-Islamiyyah di Sungayang dan Normal Islam di Padang pada tahun 1931 M. Ia juga memimpin Sekolah Islam Tinggi (SIT) di Padang, mendirikan Akademi Dinas Ilmu Agama (ADIA) dan sekaligus menjadi dekannya tahun 1957-1960. Mahmud Yunus juga berhasil mendirikan dan memimpin Sekolah Menengah Islam (SMI) di Bukittinggi. Tahun 1960, ia diangkat menjadi Dekan Fakultas Tarbiyah UIN Syarif Hidayatullah Jakarta, dan menjadi Rektor IAIN Imam Bonjol Padang.17Adapun karya-karya yang dihasilkan Mahmud Yunus di bidang pendidikan, bahasa Arab, fikih, tafsir, akhlak, sejarah, dan ada juga karya di bidang lainnya. Karyanya yang paling monumental dan paling banyak berpengaruh adalah Tafsir Al-Qur’an al-Karim, terbit pada tahun 1938 M dan sudah mengalami cetak berulang kali. 18 Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 108 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Al-Qur’an al-Karim Karya Mahmud Yunus Latar Belakang Penulisan Kitab Menurut keterangan Mahmud Yunus, karya tafsirnya ini merupakan hasil “penyelidikan” yang dilakukan mendalam oleh dirinya sendiri selama kurang lebih 53 tahun, sejak ia berusia 20 hingga 73 tahun. Selama ia menyelesaikan kitabnya, muncul berbagai protes dan reaksi dari berbagai kalangan yang menantang kegiatannya dalam menerjemahkan dan menafsirkan Al-Qur’an ke dalam bahasa Indonesia. Banyak yang menganggap bahwa hal tersebut langka dan haram dilakukan.19 Penulisan kitab tafsir ini dimulai pada tahun 1922 M dan berhasil diterbitkan untuk juz pertama, kedua dan ketiga. Selang dua tahun, pada 1924 M Mahmud Yunus menghentikan penulisan karena ia ingin melanjutkan studi ke al-Azhar Kairo, Mesir. Saat belajar di Mesir inilah, Mahmud Yunus mengetahui tentang kebolehan menerjemahkan dan menafsirkan Al-Qur’an ke dalam bahasa asing –selain bahasa Arab. Hal ini boleh dilakukan dengan tujuan agar bangsa non-Arab yang tidak paham dengan bahasa Arab juga dapat memahami dan mempelajarinya. Karenanya, setelah Mahmud Yunus pulang dari Mesir, ia pun melanjutkan penulisannya pada tahun 1935 M. Pada saat itu, Mahmud Yunus pun berhasil menamai kitab ini dengan “Tafsir Al- Qur’an al-Karim”. Selanjutnya, penafsiran ini diterbitkan satu juz tiap dua bulan. Adapun dalam penerjemahan juz tujuh sampai juz 18 dibantu oleh H. M. K. Bakry, dan akhirnya pada bulan April 1938 M, 30 juz Al-Qur’an pun khatam.20 Karya tafsir ini, seperti yang diakui Mahmud Yunus, berorientasi mulia, dalam artian “menjelaskan petunjuk-petunjuk Al-Qur’an agar diamalkan oleh kaum Muslimin khususnya dan umat manusia pada umumnya, sebagai petunjuk universal.” Menurutnya pula, tujuan dari penulisan tafsir ini adalah untuk memberikan keterangan dan penjelasan tentang petunjuk-petunjuk Al-Qur’an agar dapat dimengerti dengan mudah, cepat, dan dapat dipraktikkan masyarakat dalam kehidupan sehari-hari. Selain itu, karya ini juga disuguhkan untuk kalangan pelajar dan mahasiswa sebagai bahan praktis mempelajari bahasa Al-Qur’an dan juga untuk masyarakat umum yang ingin mendalami isi kitab suci.21 Dari sini tersirat betapa Mahmud ingin menjadikan karyanya ini sebagai tafsir yang bersahaja, praktis, dan dapat dipelajari semua orang. 23Yunus, Tafsir Al-Qur’an al-Karim, iii-vii. 24Tri Hermawan, Putri Rafa Salihah, Muhammad Hafizh, “The Concept of Women’s Dress in Tafsir Nusantara: A Comparative Study of Four Indonesian Exegeses,” Ulumuna: Journal of Islamic Studies 21, no. 2 (2017): 370-390. 25Mahmud Yunus, Tafsir Al-Qur’an al-Karim, h. iii-vii. Lihat juga Khader Ahmad dkk, “Ketokohan Mahmud Yunus dalam Bidang Tafsir Al-Qur’an: Kajian terhadap Kitab Tafsir Quran Karim,” The 2nd Annual International Qur’anic Conference, Centre of Quranic Research (CQR), Tahun 2012, 202-207. 26Howard M. Federspiel menambahkan beberapa metode yang digunakan Mahmud Yunus dalam menulis kitab Tafsir Al-Qur’an al-Karim, sebagai berikut; 1) Dalam penafsiran, Mahmud Yunus memberi keterangan singkat terhadap istilah-istilah yang berada dalam Al-Qur’an. contoh dalam hal ini, seperti kata Rabb yang dalam bahasa Arab memiliki arti percipta dan pemelihara, pengatur dan pendidik, yang menata dan mengatur segala sesuatu dalam cara yang paling baik, bijak dan sempurna. Oleh karena itu, Rabb berarti “pemimpin atau pengarah” dalam bahasa Indonesia, meskipun pemaknaan tersebut tidak memberikan arti yang pasti. 2) Mahmud Yunus memberikan informasi mengenai konsep- konsep tentang dasar keyakinan dan praktik-praktik yang ditemukan dalam Al-Qur’an. 3) Memberikan penjelasan-penjelasan tentang poin-poin penting yang terdapat dalam setiap surah Al-Qur’an, sebagai petunjuk bagi pembacanya. 4) Sekitar 60% dari catatan kaki yang ditemukan dalam tafsir ini digunakan untuk menjelaskan kata-kata atau kalimat tertentu dan untuk mengungkap kembali teks agar lebih jelas maksudnya. 5) Menjelaskan secara singkat tentang proses turun Al-Qur’an, pengumpulan dan pemeliharaannya. 6) Menyajikan daftar kata-kata yang disusun secara alfabetis dengan merujuk pada halaman-halaman tertentu (indeks dan daftar kata). Lebih lanjut lihat Federspiel, Kajian Al-Qur’an di Indonesia, 129-137. Metodologi Penafsiran g Tafsir Al-Qur’an al-Karim ini menggunakan metode penafsiran ijmali (global). 22 Adapun sumber rujukan tafsirnya sebagai berikut; tafsir al-Thabari juz 1 halaman 42, tafsir Ibnu Katsir juz 1 halaman 3, tafsir al-Qasimy juz 1 halaman 7, Fajrul Islam juz 1 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 109 109 halaman 199, dan Zhuhurul Islam juz 2 halaman 40-43 dan juz 3 halaman 37.23 Sedangkan, sumber ataupun materi penafsirannya mengombinasikan dua metode, yaitu penafsiran dari teks (bi al-ma’tsur) dan penafsiran dari akal (bi al-ra’y).24 Metode- metode tersebut di antaranya:251) Menafsirkan ayat Al-Qur’an dengan Al-Qur’an, 2) Menafsirkan ayat Al-Qur’an dengan hadis Rasulullah saw., 3) Menafsirkan dengan perkataan sahabat, tetapi khusus dengan menjelaskan sebab-sebab turunnya ayat Al- Qur’an, 4) Menafsirkan dengan perkataan tabiin, jika mereka berijmak atas suatu tafsir, 5) Menafsirkan dengan mengemukakan kata-kata pepatah, 6) Menafsirkan dengan ijtihad bagi yang ahli, atau melalui pandangan akal, 7) Menafsirkan dengan bahasa Arab atau dengan makna kalimah, 8) Menafsirkan ayat-ayat Al-Qur’an dengan mengemukakan kisah nabi-nabi dan umat-umat terdahulu.26 27Ibrahim, Pendidikan dan Tafsir, 87-102. Q 24Tri Hermawan, Putri Rafa Salihah, Muhammad Hafizh, “The Concept of Women’s Dress in afsir Nusantara: A Comparative Study of Four Indonesian Exegeses,” Ulumuna: Journal of Islamic tudies 21, no. 2 (2017): 370-390. 25 28Contoh yang cukup mewakili hal ini adalah ketika Mahmud Yunus menjelaskan makna persatuan (integrasi) umat pada surah Ali Imran ayat 103:وَاﻋْﺘَﺼِﻤُﻮا ﲝَِﺒْﻞِ اﱠِ ﲨَِﻴﻌًﺎ وَﻻَ ﺗـَﻔَﺮﱠﻗُﻮا (Dan berpeganglah kamu semuanya kepada tali (agama) Allah, dan janganlah kamu bercerai berai). Demikian juga mengenai 25Mahmud Yunus, Tafsir Al-Qur’an al-Karim, h. iii-vii. Lihat juga Khader Ahmad dkk, “Ketokohan ahmud Yunus dalam Bidang Tafsir Al-Qur’an: Kajian terhadap Kitab Tafsir Quran Karim,” The 2nd nnual International Qur’anic Conference, Centre of Quranic Research (CQR), Tahun 2012, 202-207. 23Yunus, Tafsir Al-Qur’an al-Karim, iii-vii. 24Tri Hermawan, Putri Rafa Salihah, Muhammad Hafizh, “The Concept of Women’s Dress in Tafsir Nusantara: A Comparative Study of Four Indonesian Exegeses,” Ulumuna: Journal of Islamic Studies 21, no. 2 (2017): 370-390. 25Mahmud Yunus, Tafsir Al-Qur’an al-Karim, h. iii-vii. Lihat juga Khader Ahmad dkk, “Ketokohan Mahmud Yunus dalam Bidang Tafsir Al-Qur’an: Kajian terhadap Kitab Tafsir Quran Karim,” The 2nd Annual International Qur’anic Conference, Centre of Quranic Research (CQR), Tahun 2012, 202-207. 26Howard M. Federspiel menambahkan beberapa metode yang digunakan Mahmud Yunus dalam menulis kitab Tafsir Al-Qur’an al-Karim, sebagai berikut; 1) Dalam penafsiran, Mahmud Yunus memberi keterangan singkat terhadap istilah-istilah yang berada dalam Al-Qur’an. contoh dalam hal ini, seperti kata Rabb yang dalam bahasa Arab memiliki arti percipta dan pemelihara, pengatur dan pendidik, yang menata dan mengatur segala sesuatu dalam cara yang paling baik, bijak dan sempurna. Oleh karena itu, Rabb berarti “pemimpin atau pengarah” dalam bahasa Indonesia, meskipun pemaknaan tersebut tidak memberikan arti yang pasti. 2) Mahmud Yunus memberikan informasi mengenai konsep- konsep tentang dasar keyakinan dan praktik-praktik yang ditemukan dalam Al-Qur’an 3) Memberikan Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 23Yunus, Tafsir Al-Qur’an al-Karim, iii-vii. 26Howard M. Federspiel menambahkan beberapa metode yang digunakan Mahmud Yunus dalam menulis kitab Tafsir Al-Qur’an al-Karim, sebagai berikut; 1) Dalam penafsiran, Mahmud Yunus memberi keterangan singkat terhadap istilah-istilah yang berada dalam Al-Qur’an. contoh dalam hal ini, seperti kata Rabb yang dalam bahasa Arab memiliki arti percipta dan pemelihara, pengatur dan pendidik, yang menata dan mengatur segala sesuatu dalam cara yang paling baik, bijak dan sempurna. Oleh karena itu, Rabb berarti “pemimpin atau pengarah” dalam bahasa Indonesia, meskipun pemaknaan tersebut tidak memberikan arti yang pasti. 2) Mahmud Yunus memberikan informasi mengenai konsep- konsep tentang dasar keyakinan dan praktik-praktik yang ditemukan dalam Al-Qur’an. 3) Memberikan penjelasan-penjelasan tentang poin-poin penting yang terdapat dalam setiap surah Al-Qur’an, sebagai petunjuk bagi pembacanya. 4) Sekitar 60% dari catatan kaki yang ditemukan dalam tafsir ini digunakan untuk menjelaskan kata-kata atau kalimat tertentu dan untuk mengungkap kembali teks agar lebih jelas maksudnya. 5) Menjelaskan secara singkat tentang proses turun Al-Qur’an, pengumpulan dan pemeliharaannya. 6) Menyajikan daftar kata-kata yang disusun secara alfabetis dengan merujuk pada halaman-halaman tertentu (indeks dan daftar kata). Lebih lanjut lihat Federspiel, Kajian Al-Qur’an di Indonesia, 129-137. Karakteristik Kitab Sebagai sebuah karya, Tafsir Al-Qur’an al-Karim mempunyai karakteristik terkait beberapa aspek, yaitu sistematika penerjemahan/ penafsiran, sistematika penyusunan, teknik penerjemahan dan keterangan (catatan kaki), analisis istilah dan konsep-konsep, serta kandungan kesimpulan isi Al-Qur’an.27 Pertama yaitu sistematika penerjemahan/ penafsiran. Format terjemahannya dengan meletakkan posisi teks Al-Qur’an di sebelah kanan dan terjemahannya di sebelah kiri. Format seperti ini memudahkan orang untuk mengetahui terjemah dari masing-masing ayat. Pada sisi lain, Mahmud Yunus menguraikan objek tertentu dengan cukup panjang.28 26Howard M. Federspiel menambahkan beberapa metode yang digunakan Mahmud Yunus dalam menulis kitab Tafsir Al-Qur’an al-Karim, sebagai berikut; 1) Dalam penafsiran, Mahmud Yunus memberi keterangan singkat terhadap istilah-istilah yang berada dalam Al-Qur’an. contoh dalam hal ini, seperti kata Rabb yang dalam bahasa Arab memiliki arti percipta dan pemelihara, pengatur dan pendidik, yang menata dan mengatur segala sesuatu dalam cara yang paling baik, bijak dan sempurna. Oleh karena itu, Rabb berarti “pemimpin atau pengarah” dalam bahasa Indonesia, meskipun pemaknaan tersebut tidak memberikan arti yang pasti. 2) Mahmud Yunus memberikan informasi mengenai konsep- konsep tentang dasar keyakinan dan praktik-praktik yang ditemukan dalam Al-Qur’an. 3) Memberikan penjelasan-penjelasan tentang poin-poin penting yang terdapat dalam setiap surah Al-Qur’an, sebagai petunjuk bagi pembacanya. 4) Sekitar 60% dari catatan kaki yang ditemukan dalam tafsir ini digunakan untuk menjelaskan kata-kata atau kalimat tertentu dan untuk mengungkap kembali teks agar lebih jelas maksudnya. 5) Menjelaskan secara singkat tentang proses turun Al-Qur’an, pengumpulan dan pemeliharaannya. 6) Menyajikan daftar kata-kata yang disusun secara alfabetis dengan merujuk pada halaman-halaman tertentu (indeks dan daftar kata). Lebih lanjut lihat Federspiel, Kajian Al-Qur’an di Indonesia, 129-137. 28Contoh yang cukup mewakili hal ini adalah ketika Mahmud Yunus menjelaskan makna persatuan (integrasi) umat pada surah Ali Imran ayat 103:وَاﻋْﺘَﺼِﻤُﻮا ﲝَِﺒْﻞِ اﱠِ ﲨَِﻴﻌًﺎ وَﻻَ ﺗـَﻔَﺮﱠﻗُﻮا (Dan berpeganglah kamu semuanya kepada tali (agama) Allah, dan janganlah kamu bercerai berai). Demikian juga mengenai Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 110 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah Contoh Format Penerjemahan29 Surah al-Fatihah (Pembukaan) Diturunkan di Makkah, 7 ayat 1. Dengan nama Allah yang Maha Pengasih lagi Maha Penyayang. ِﺑِﺴْﻢِ ﷲِ اﻟﺮﱠﲪَْﻦِ اﻟﺮﱠﺣِﻴْﻢ 2. Segala puji bagi Allah, (Yang Mendidik) semesta alam. َاﳊَْﻤْﺪُ ِﱠِ رَبِّ اﻟْﻌَﺎﻟَﻤِﲔ 3. Yang Maha Pengasih lagi Maha Penyayang. ِاﻟﺮﱠﲪَْﻦِ اﻟﺮﱠﺣِﻴﻢ 4. Lagi mempunyai (penguasa) hari pembalasan. ِﻣَﺎﻟِﻚِ ﻳـَﻮْمِ اﻟﺪِّﻳﻦ 5. Hanya Engkaulah yang kami samba dan hanya kepada Engkaulah kami meminta pertolongan. ُإِ1ﱠكَ ﻧـَﻌْﺒُﺪُ وَإِ1ﱠكَ ﻧَﺴْﺘَﻌِﲔ 6. perpecahan (desintegrasi) umat pada surah al-An’am ayat 159: ْإِنﱠ اﻟﱠﺬِﻳﻦَ ﻓـَﺮﱠﻗُﻮا دِﻳﻨـَﻬُﻢْ وَﻛَﺎﻧُﻮا ﺷِﻴـَﻌًﺎ ﻟَﺴْﺖَ ﻣِﻨـْﻬُﻢْ ﰲِ ﺷَﻲ ٍء (Sesungguhnya orang-orang yang memecah belah agamanya dan mereka (terpecah) menjadi beberapa golongan, tidak ada sedikit pun tanggung jawabmu terhadap mereka). Hal terpenting dari uraian ini adalah ia berusaha menyisipkan suatu pesan moral kepada para pembacanya agar dalam kehidupan bermasyarakat senantiasa menjaga nilai-nilai kebersamaan dan rasa persatuan. Mahmud Yunus, Tafsir Al Qur an al Karim, 1. 30 Iskandar, “Tafsir Qur’an Karim Karya Mahmud Yunus; Kajian atas Karya Tafsir Nusantara,” Jurnal Suhuf, Vol. 3, No. 1, 2010, h. 5. Lihat juga Mahmud Yunus, Tafsir Al-Qur’an al-Karim, (Djakarta: PT Hidakarya Agung, 1983). Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 y j g p 29 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 1. y j g 29 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 1. 31 Sebagai contoh penerjemahannya pada surah al-Isra’ ayat 29: َ“وَﻻَ ﲡَْﻌَﻞْ ﻳَﺪَكَ ﻣَﻐْﻠُﻮﻟَﺔً إِﱃَ ﻋُﻨُﻘِﻚjanganlah engkau jadikan tangan engkau terbelenggu ke kuduk engkau (jangan bakhil)”. Hal ini terlihat pada ayat- ayat Al-Qur’an yang menggunakan lafal konotatif. Mahmud juga mengakui bahwa penerjemahan harfiah tidak cukup memadai, sehingga diperlukan penerjemahan maknawi untuk menjelaskan pengertian yang sebenarnya dari suatu ayat. Karakteristik Kitab Tunjukilah kami jalan yang lurus, َاﻫْﺪِ5َ اﻟﺼِّﺮَاطَ اﻟْﻤُﺴْﺘَﻘِﻴﻢ 7. yaitu jalan orang-orang yang telah Engkau berikan nikmat-nikmat kepada mereka. ْﺻِﺮَاطَ اﻟﱠﺬِﻳﻦَ أَﻧـْﻌَﻤْﺖَ ﻋَﻠَﻴْﻬِﻢ Sedang mereka itu orang-orang yang dimurkai ْﻏَﲑِْ اﻟْﻤَﻐْﻀُﻮبِ ﻋَﻠَﻴْﻬِﻢ dan bukan pula orang-orang yang sesat. َوَﻻَ اﻟﻀﱠﺎﻟِّﲔ Contoh Format Penerjemahan29 Kedua ialah sistematika penyusunan. Penerjemahan teks Al-Qur'an Mahmud Yunus terdapat 924 halaman. Cover, Lembar Pengesahan dan Pendahuluan menghabiskan tujuh halaman (halaman i-vii). Selebihnya, 27 halaman tambahan (halaman i - xxvii) digunakan sebagai lampiran yang berisi Daftar Surah dan Isi Tafsir, Daftar Isi Surah Berdasarkan Alfabet, dan Daftar Juz-Juz Al-Qur'an –hal ini merupakan suatu terobosan yang tentu sangat membantu pembaca dalam mencari ayat, surah, dan juz Al-Qur'an. Sedangkan pada bagian paling akhir, ia menyertakan karyanya ini dengan 32 halaman khusus berisikan kesimpulan isi Al-Qur'an, menyangkut hukum, etika (akhlak), ilmu pengetahuan, ekonomi, sejarah, dan lain-lain.30 Selanjutnya yang ketiga ialah teknik penerjemahan dan keterangan (catatan kaki). Hampir 60 persen karya Mahmud Yunus berisi terjemahan ayat Al-Qur’an dan 40 persen sisanya merupakan keterangan dalam bentuk catatan kaki terhadap beberapa istilah dan konsep agama. Adapun untuk teknik penerjemahan, ia menggunakan teknik penerjemahan harfiah (literal). Walupun demikian, terdapat juga terjemahan maknawi Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 111 yang ditandai dengan dua tanda kurung dan selebihnya dalam bentuk catatan kaki.31 Karakteristik keempat selanjutnya yaitu analisis istilah dan konsep-konsep. Mahmud Yunus memiliki kecenderungan ketika menerjemahkan suatu kata (istilah) yaitu dengan menekankan pada pengertian leksikal dan semantik sesuai dengan perkembangan bahasa yang terpakai pada saat Al-Qur’an diturunkan.32 Adapun karakteristik yang terakhir adalah kandungan kesimpulan isi Al-Qur’an. Adanya subbab “Kesimpulan Isi Al-Qur'an” pada bagian akhir, kurang lebih 32 halaman, yang mana memuat persoalan umum meliputi hukum, etika, ilmu pengetahuan, ekonomi, sejarah, dan lain-lain. Tujuannya, membantu para pembaca yang ingin menggali lebih jauh hukum-hukum dan pesan penting Al-Qur'an. 33 Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, h. 43-44. Lebih lanjut lihat M. Anwar Syarifuddin dan Jauhar Azizy, “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir Al-Qur’an Indonesia”, Jurnal Ilmu Ushuluddin, Vol. 2, No. 3, Januari-Juni 2015, 331-332. Aspek Akademik Tafsir Al-Qur’an Al-Karim Aspek akademik dalam kitab tafsir karya Mahmud Yunus ini terlihat dari corak- corak penafsiran yang digunakannya. Corak-corak penafsiran tersebut merupakan corak pembaharuan yang ada di Indonesia, dan Mahmud Yunus merupakan pelopor pembaharuan berbagai corak tersebut. Adapun corak penafsiran yang muncul dari Tafsir Al-Qur’an al-Karim ini adalah corak ‘ilmi, corak sosial dan corak intelektual. Corak-corak tersebut banyak menonjolkan sisi ilmiah, ilmu pengetahuan, nilai-nilai dan kondisi sosial, serta moral kehidupan dan juga fenomena pendidikan saat itu. Maka pantas, dan tidak heran jika munculnya corak-corak di atas menjadikan Tafsir Al- Qur’an al-Karim karya Mahmud Yunus ini termasuk dalam golongan tafsir yang berbasis akademis. y y 32 Hal ini terlihat dalam penerjemahan kata “ ِّ ”ﻣُﺘـَﻮَﰲpada surah Ali Imran ayat 55: ِّإِذْ ﻗَﺎلَ اﱠُ 1َ ﻋِﻴﺴَﻰ إِﱐ (( ﻣُﺘـَﻮَﻓِّﻴﻚَ وَرَاﻓِﻌُﻚَ إِﱄَﱠ Ingatlah), ketika Allah berfirman: "Hai Isa, sesungguhnya Aku akan menyampaikan kamu kepada akhir ajalmu dan mengangkat kamu kepada-Ku). Kata “ ِّ ”ﻣُﺘـَﻮَﰲdalam ayat ini diterjemahkan secara leksikal dengan ‘mewafatkan’, karena menurutnya pengertian ini yang biasa terpakai dalam bahasa Arab dan tidak ada indikasi lain yang dapat memutarnya pada pengertian lain. Lebih lanjut lihat Iskandar, “Tafsir Qur’an Karim Karya Mahmud Yunus,” h. 5. 36M. Anwar Syarifuddin dan Jauhar Azizy, “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir Al-Qur’an Indonesia,” 326. Lebih lanjut dalam jurnalnya dibahas panjang lebar mengenai corak ‘ilmi dan contoh-contohnya, tafsir rasional, demitologisasi, dan juga keterpengaruhan Muhammad ‘Abduh terhadap Mahmud Yunus. Sedangkan Nama al-Manar pada awalnya adalah nama majalah yang menyuarakan gagasan-gagasan pembaruan Muhammad ‘Abduh. Namun atas ide Rasyid Rida akhirnya gagasan-gagasan ‘Abduh dikumpulkan dalam sebuah kitab. Itulah cikal bakal kelahiran kitab tafsir al- Manar. , , 35Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, 44. Lebih lanjut lihat M. Anwar Syarifuddin dan Jauhar Azizy, “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir Al-Qur’an Indonesia,” 332. 34Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, 43-44. Lebih lanjut lihat M. Anwar Syarifuddin dan Jauhar Azizy, “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir Al-Qur’an Indonesia,”, 331-332. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Corak ‘Ilmi Adanya corak ilmiah dalam kitab tafsir Mahmud Yunus ini sesuai dengan tujuan dalam penulisan karyanya, yaitu untuk menggali hubungan harmoni antara Al-Qur’an sebagai sumber pokok ajaran Islam dan mengelaborasinya dengan ilmu pengetahuan dan teknologi yang menjadi ciri utama modernitas yang semakin hari semakin meningkat. Untuk mempertegas corak ini, pada bagian kitab juga terdapat indeks- indeks ayat yang terkait dengan ilmu pengetahuan dan teknologi.33 33 Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, h. 43-44. Lebih lanjut lihat M. Anwar Syarifuddin dan Jauhar Azizy, “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir Al-Qur’an Indonesia”, Jurnal Ilmu Ushuluddin, Vol. 2, No. 3, Januari-Juni 2015, 331-332. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 112 2 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah Hal lain yang mendukung adanya corak ilmiah dalam kitab Tafsir Al-Qur’an al-Karim ini di antaranya; pertama, Mahmud Yunus memberikan penjelasan terhadap ayat-ayat Al-Qur’an sesuai perspektif teori ilmiah modern. Kedua, ia menggunakan temuan-temuan dan kemajuan ilmiah modern untuk memperkokoh kemukjizatan Al- Qur’an dan ketinggian nilai-nilai ajaran Islam. Ketiga, ia tak luput mengemukakan temuan-temuan ilmiah modern sebagai bahan dan materi perbandingan dalam fenomena dan pesan-pesan ajaran Al-Qur’an untuk menyeimbangkannya dengan kondisi yang kekinian.34 Corak ilmiah yang mulai dimasukkan Mahmud Yunus sebagai corak baru dalam penafsiran ini, merupakan sebuah pengaruh besar yang didapatkannya dari gagasan pembaruan Muhammad ‘Abduh yang diterimanya melalui Rasyid Ridha. Hal demikian, dapat dilihat ketika Mahmud Yunus menuntut ilmu di Mesir, maupun dari tulisan-tulisan dalam majalah al-Manar.35 Pengaruh Muhammad ‘Abduh terhadap Mahmud Yunus juga dapat terlihat dari aktivitas pergerakan pembaruan Islam di Sumatra yang diikuti oleh Mahmud Yunus yang mana bertujuan untuk menguatkan perkenalannya dengan gagasan-gagasan pembaruan Muhammad ‘Abduh dan Muhammad Rasyid Rida lewat majalah al-Manar.36 Adapun contoh penafsiran corak ilmiah yang ada di kitab tafsir Mahmud Yunus ini, di antaranya: Surah al-Fiil ayat 1-5 Surah al-Fiil ayat 1-5 Surah al-Fiil ayat 1-5 َأَﱂَْ ﺗـَﺮَ ﻛ ﻴْﻒَ ﻓـَﻌَﻞَ رَﺑﱡﻚَ Uَِﺻْﺤَﺎبِ اﻟْﻔِﻴﻞِ . أَﱂَْ ﳚَْﻌَﻞْ ﻛَﻴْﺪَﻫُﻢْ ﰲِ ﺗَﻀْﻠِﻴﻞٍ . وَأَرْﺳَﻞَ ﻋَﻠَﻴْﻬِﻢْ ﻃَﻴـْﺮًا أَYَﺑِﻴﻞَ . ﺗـَﺮْﻣِﻴﻬِﻢْ ﲝِِﺠَﺎرَةٍ ﻣِﻦْ ﺳِﺠِّﻴﻞٍ . ﻓَﺠَﻌَﻠَﻬُﻢْ ﻛَﻌَﺼْﻒٍ ﻣَﺄْﻛُﻮلٍ . َأَﱂَْ ﺗـَﺮَ ﻛ ﻴْﻒَ ﻓـَﻌَﻞَ رَﺑﱡﻚَ Uَِﺻْﺤَﺎبِ اﻟْﻔِﻴﻞِ . أَﱂَْ ﳚَْﻌَﻞْ ﻛَﻴْﺪَﻫُﻢْ ﰲِ ﺗَﻀْﻠِﻴﻞٍ . وَأَرْﺳَﻞَ ﻋَﻠَﻴْﻬِﻢْ ﻃَﻴـْﺮًا أَYَﺑِﻴﻞَ . ﺗـَﺮْﻣِﻴﻬِﻢْ ﲝِِﺠَﺎرَةٍ ﻣِﻦْ ﺳِﺠِّﻴﻞٍ . ﻓَﺠَﻌَﻠَﻬُﻢْ ﻛَﻌَﺼْﻒٍ ﻣَﺄْﻛُﻮلٍ . ٍ Artinya: “1) Tiadakah engkau tahu, bagaimana Tuhanmu memperbuat terhadap orang- orang yang mempunyai gajah. 2) Tiadakah ia menjadikan tipu daya mereka jadi sia-sia. 3) Dan mengirim kepada mereka burung berbondong-bondong. 4) Yang melempar mereka dengan batu dari tanah yang keras. 5) Lalu Allah jadikan mereka seperti daun yang dimakan (ulat)”. Dalam penafsirannya, Mahmud Yunus menjelaskan ayat yang ada di atas bahwa Dalam penafsirannya, Mahmud Yunus menjelaskan ayat yang ada di atas bahwa: Dalam penafsirannya, Mahmud Yunus menjelaskan ayat yang ada di atas bahwa: “Adapun bala tentara yang bergajah itu, ialah Raja Yaman yang datang ke Negeri Dalam penafsirannya, Mahmud Yunus menjelaskan ayat yang ada di atas bahwa: “Adapun bala tentara yang bergajah itu, ialah Raja Yaman yang datang ke Negeri Makkah hendak meruntuhkan Ka’bah dengan membawa laskar dan gajah yang “Adapun bala tentara yang bergajah itu, ialah Raja Yaman yang datang ke Negeri Makkah hendak meruntuhkan Ka’bah dengan membawa laskar dan gajah yang p y g g j , j y g g g Makkah hendak meruntuhkan Ka’bah dengan membawa laskar dan gajah yang Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 113 kuat. Setelah mereka hampir masuk ke Negeri Makkah, lalu beberapa burung menjatuhkan batu (tanah yang keras), boleh jadi di dalamnya banyak hama penyakit cacar, sehingga mereka semuanya dihinggapi penyakit itu, akhirnya badan mereka hancur luluh seperti daun kayu dimakan binatang atau ulat. Pendeknya maksud mereka hendak meruntuhkan Ka’bah tiadalah berhasil adanya.”37 Dari surat al-Fiil di atas terdapat penggunaan kata “penyakit cacar”. Penggunaan kata ini sangat terlihat jelas aspek ilmiah yang digunakan oleh Mahmud Yunus. Cara Mahmud Yunus memberikan penafsiran juga terkesan sangat akademis sekali, sesuai dengan yang ada di masa sekarang dan dapat diterima oleh masyarakat. Mahmud Yunus menggunakan penafsiran “hama”, bahkan “penyakit cacar” yang sangat ilmiah dan banyak diketahui kalangan masyarakat, sehingga penafsirannya lebih mudah dipahami dan diterima khalayak umum. Surah Fushshilat ayat 13 38Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 705. 37Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 918-919. 38Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 705. 37Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 918-919. 38 37Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 918-919. 38Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 705. 40Sulaiman Ibrahim, Pendidikan dan Tafsir, 117. Lebih lanjut lihat Iskandar, “Tafsir Qur’an Karim Karya Mahmud Yunus,” 8-10. Surah Fushshilat ayat 13 َﻓَﺈِنْ أَﻋْﺮَﺿُﻮا ﻓـَﻘُﻞْ أَﻧْﺬَرْﺗُﻜُﻢْ ﺻَﺎﻋِﻘَﺔً ﻣِﺜْﻞ ﺻَﺎﻋِﻘَﺔِ ﻋَﺎدٍ وَﲦَُﻮدَ Artinya: “Jika mereka berpaling katakanlah: Aku beri peringatan kamu dan petir (siksa), seumpama siksa (yang menimpa kaum) ‘Ad dan Tsamud”. Artinya: “Jika mereka berpaling katakanlah: Aku beri peringatan kamu dan petir (siksa), seumpama siksa (yang menimpa kaum) ‘Ad dan Tsamud”. Artinya: “Jika mereka berpaling katakanlah: Aku beri peringatan kamu dan petir (siksa), seumpama siksa (yang menimpa kaum) ‘Ad dan Tsamud”. Mahmus Yunus menjelaskan ayat tersebut dalam kitab tafsirnya bahwa: Mahmus Yunus menjelaskan ayat tersebut dalam kitab tafsirnya bahwa: “Arti ( ً )ﺻَﺎﻋِﻘَﺔyang jamaknya adalah ( )ﺻﻮاﻋﻖialah petir, geledek, halilintar, yaitu yang keras sekali di udara dan biasanya bersama kilat. Dalam Al-Qur’an ada tiga model penafsiran, yakni; pertama, ‘mati’ seperti ‘maka matilah siapa yang di langit dan siapa yang di bumi‘ ( َﻓ ,)ﺼَﻌِﻖَ ﻣَﻦْ ﰲِ اﻟﺴﱠﻤﺎوَاتِ وَﻣَﻦْ ﰲِ اﻷَْرْضِ kedua, ‘azab’ seperti ‘Aku beri peringatan kamu dan petir (siksa), seumpama siksa (yang menimpa kaum) ‘Ad dan Tsamud’ ( ٍأَﻧْﺬَرْﺗُﻜُﻢْ ﺻَﺎﻋِﻘَﺔً ﻣِﺜْﻞَ ﺻَﺎﻋِﻘَﺔِ ﻋَﺎد ,)وَﲦَُﻮدَ ketiga ‘api’ (kilat) seperti ‘Dia mengirim api (kilat), lalu mengenai siapa yang dikehendakinya.’ Sebenarnya ketiga-tiganya itu adalah hasil dari petir ( ُ”.)وَﻳـُﺮْﺳِﻞُ اﻟﺼkﻮَاﻋِﻖَ ﻓـَﻴُﺼِﻴْﺐُ iَِﺎ ﻣَﻦْ ﻳَﺸَﺎء38 Begitupun dengan penafsiran yang terdapat dalam surah Fushshilat ini. Penjelasan yang dipaparkan oleh Mahmud Yunus mengenai “petir” disertai dengan penjelasan ilmiah yang dapat memberikan pemahaman yang lebih luas bagi para pembacanya. Hal ini memang sesuai dengan tujuan ditulisnya tafsir ini oleh Mahmud Yunus, yaitu untuk memberikan keterangan dan penjelasan tentang petunjuk-petunjuk Al-Qur’an agar dapat dimengerti dengan mudah, cepat, dan dapat dipraktikkan masyarakat dalam kehidupan sehari-hari. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 114 4 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah Surah al-Baqarah ayat 22 ِاﻟﱠﺬِي ﺟَﻌَﻞَ ﻟَﻜُﻢُ اﻷَْرْضَ ﻓ ﺮَاﺷًﺎ وَاﻟﺴﱠﻤَﺎءَ ﺑِﻨَﺎءً وَأَﻧـْﺰَلَ ﻣِﻦَ اﻟﺴﱠﻤَﺎءِ ﻣَﺎءً ﻓَﺄَﺧْﺮَجَ ﺑِﻪِ ﻣِﻦَ اﻟﺜﱠﻤَﺮَاتِ رِزْﻗًﺎ ﻟَﻜُﻢْ ﻓَﻼَ ﲡَْﻌَﻠُﻮا ِﱠِ أَﻧْﺪَادًا وَأَﻧـْﺘُﻢْ ﺗـَﻌْﻠَﻤُﻮنَ ِاﻟﱠﺬِي ﺟَﻌَﻞَ ﻟَﻜُﻢُ اﻷَْرْضَ ﻓ ﺮَاﺷًﺎ وَاﻟﺴﱠﻤَﺎءَ ﺑِﻨَﺎءً وَأَﻧـْﺰَلَ ﻣِﻦَ اﻟﺴﱠﻤَﺎءِ ﻣَﺎءً ﻓَﺄَﺧْﺮَجَ ﺑِﻪِ ﻣِﻦَ اﻟﺜﱠﻤَﺮَاتِ رِزْﻗًﺎ ﻟَﻜُﻢْ ﻓَﻼَ ﲡَْﻌَﻠُﻮا ِﱠِ أَﻧْﺪَادًا وَأَﻧـْﺘُﻢْ ﺗـَﻌْﻠَﻤُﻮنَ Artinya: “(Dia) yang menjadikan bumi untukmu sebagai tikar dan langit sebagai atap (bina) dan Dia menurunkan air hujan dari langit, lalu ditumbuhkanNya dengan air itu buah-buahan sebagai rezeki bagimu; sebab itu janganlah kamu menjadikan Allah beberapa sekutu, sedang kamu mengetahuinya”. Artinya: “(Dia) yang menjadikan bumi untukmu sebagai tikar dan langit sebagai atap (bina) dan Dia menurunkan air hujan dari langit, lalu ditumbuhkanNya dengan air itu buah-buahan sebagai rezeki bagimu; sebab itu janganlah kamu menjadikan Allah beberapa sekutu, sedang kamu mengetahuinya”. Dalam penafsirannya Mahmus Yunus menjelaskan ayat tersebut bahwa: “Bumi ini seperti tikar. Sebagaimana tikar bisa diduduki, berdiri dan tidur di atasnya, begitu pulalah bumi ini, dapat kita perbuat yang sedemikian itu. Ada orang yang mengatakan bumi ini datar sebagai tikar. Tetapi itu menurut pandangan manusia saja, karena sebenarnya ia bulat. Tetapi karena sangat besar, maka memang sebagiannya menjadi datar. Bertambah besar suatu bulatan, bertambah luas datarannya.”39 Penafsiran yang diberikan Mahmud Yunus mengenai bentuk bumi dalam ayat di atas, tidak bertentangan dengan teori ilmiah dan ilmu pengetahuan yang ada. Ia menjelaskan bahwa bumi itu berbentuk bulat, dan jika bumi ini dianggap datar, itu karena luasnya bulatan bumi itu sendiri, sehingga nampak luas datarannya, dan seakan- akan bumi datar. Hal ini dituliskan Mahmud Yunus dalam penafsirannya agar dapat lebih mudah untuk diterima masyarakat, dan juga untuk menegaskan kesesuaian teori ilmu pengetahuan dan pernyataan ayat Al-Qur’an. Dari contoh di atas, dapat terlihat bahwa penafsiran dari Mahmud Yunus dalam kitab tafsirnya memiliki nuansa ilmiah dan akademis, mulai dari penggunaan “hama” dan “penyakit cacar,” penjelasan ilmiah tentang petir, hingga tentang bentuk bumi yang bulat. 39Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 6. 40Sulaiman Ibrahim, Pendidikan dan Tafsir, 117. Lebih lanjut lihat Iskandar, “Tafsir Qur’an Karim Karya Mahmud Yunus,” 8-10. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 39Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 6. 40 39Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 6. 40 42 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 280-281. 41 Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, 79-81. Corak Sosial Corak lain yang nampak dalam kitab ini dan membuatnya lebih terkesan akademis adalah corak sosial. Mahmud Yunus dalam karya tafsirnya sangat menonjolkan penyampaian nilai-nilai sosial. Hal ini merupakan sebuah jalan yang ditempuhnya untuk merealisasikan salah satu tujuan Mahmud Yunus dalam menulis kitabnya, yaitu untuk menyampaikan dakwah islamiah dan menjadikan ajaran dasar Al- Qur’an sebagai petunjuk universal.40 Adapun cara Mahmud Yunus dalam menonjolkan nilai-nilai sosial tersebut nampak melalui penafsirannya yang menggunakan adat dan tradisi sosial budaya, khususnya Minangkabau sebagai tempat kelahirannya. Ia menjadikan ungkapan- ungkapan adat Minangkabau sebagai sumber penafsiran guna menjelaskan makna dari ayat-ayat Al-Qur’an. Selain itu, dalam penafsirannya Mahmud Yunus juga mengkritik Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 115 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 115 sosial budaya yang ada dalam masyarakat Minang.41 Hal ini juga dilakukannya guna untuk memudahkan masyarakat memahami penafsirannya karena sesuai dengan sosial budaya di masyarakat. Adapun contoh penafsiran corak sosial yang ada di kitab tafsir Mahmud Yunus ini, di antaranya: urah al-Taubah ayat 79 Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al Qur an Karim, 79 81. 42 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 280-281. 1 Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, 79-81. 2 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 280-281. Surah al-Taubah ayat 79 Surah al-Taubah ayat 79 َاﻷَْﻋْﺮَابُ أَﺷَﺪﱡ ﻛُﻔْﺮًا وَﻧِﻔَﺎﻗًﺎ وَأَﺟْﺪَرُ أَﻻﱠ ﻳـَﻌْﻠَﻤُﻮا ﺣُﺪُودَ ﻣَﺎ أَﻧـْﺰَلَ اﱠُ ﻋَﻠَﻰ رَﺳُﻮﻟِﻪِ وَاﱠُ ﻋ ﻠِﻴﻢٌ ﺣَﻜِﻴﻢٌ Artinya: “Orang-orang Arab Baduwi lebih kuat kekafiran dan kemunafikannya (dari pada orang kota) dan lebih patut, tidak mengetahui peraturan yang diturunkan Allah kepada rasul-Nya. Allah Maha Mengetahui, lagi Maha Bijaksana. Artinya: “Orang-orang Arab Baduwi lebih kuat kekafiran dan kemunafikannya (dari pada orang kota) dan lebih patut, tidak mengetahui peraturan yang diturunkan Allah kepada rasul-Nya. Allah Maha Mengetahui, lagi Maha Bijaksana. Adapun penafsiran Mahmud Yunus terhadap ayat di atas sebagai berikut: “Bahwa sesungguhnya orang-orang Arab Baduwi itu kuat dengan kekafiran dan kemunafikannya, disebabkan oleh kurangnya pengetahuan tentang hukum-hukum yang diturunkan Allah kepada Rasul-Nya. Terlebih karena mereka tidak bisa membaca dan menulis untuk mendalami agama. Di kampung-kampung sendiri sebenarnya sangat sulit untuk menyampaikan kebenaran agama, disebabkan oleh jauhnya dari tempat pendidikan dan banyaknya buta huruf. Di situlah tugas kita sebenarnya memberantas buta huruf dan menyampaikan pendidikan agama di kampung-kampung yang sulit dijangkau. Tidak dipungkiri sebenarnya pelajaran- pelajaran agama itu sendiri sudah tersebar di kampung-kampung dengan perantara tabligh-tabligh, namun pelajaran tersebut hanya didengarkan melalui tabligh saja dan akan mudah hilang karena jarang diulang. Padahal pepatah mengatakan “Lancar dikaji karena disebut, pasar jalan karena diturut”.42 Dalam menafsirkan ayat tersebut, Mahmud Yunus memasukkan sebuah ungkapan atau pepatah daerah/ petuah lokal, yaitu “lancar dikaji karena disebut, pasar jalan karena diturut”, yang mana maksudnya adalah kepandaian atau kemahiran didapat karena latihan. Ini merupakan salah satu ungkapan yang ada di wilayah Minangkabau saat itu. Guna menyampaikan nilai sosial yang ada dalam tafsir tersebut, Mahmud Yunus menggunakan bahasa yang lebih sesuai dengan keadaan sosial saat itu, sehingga dakwah islamiah yang ada di dalam ayat Al-Qur’an tersebut lebih mudah dipahami masyarakat. Surah al-Isra’ ayat 26 َوَآَتِ ذَا اﻟْﻘُﺮْﰉَ ﺣَﻘﱠﻪُ وَاﻟْﻤِﺴْﻜِﲔَ وَاﺑْﻦ اﻟﺴﱠﺒِﻴﻞِ وَﻻَ ﺗـُﺒَﺬِّرْ ﺗـَﺒْﺬِﻳﺮًا Artinya: “Berikanlah kepada karib-kerabat haknya masing-masing dan kepada orang miskin dan musafir dan janganlah kamu mubazir (pemboros) dengan semubazir-mubazirnya”. Artinya: “Berikanlah kepada karib-kerabat haknya masing-masing dan kepada orang miskin dan musafir dan janganlah kamu mubazir (pemboros) dengan semubazir-mubazirnya”. Dalam penafsirannya, Mahmud Yunus menjelaskan ayat yang ada di atas bahwa Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 116 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah “Hendaklah engkau berikan karib kerabatmu haknya masing-masing, umpamanya orang tua wajib memberikan nafkah kepada anak-anak dan istrinya, karena nafkah itu adalah hak mereka, yang wajib dibayarkan kepadanya. Surah al-Taubah ayat 79 Tapi beribu kali sayang sebagian orang tua di negeri kita, lebih-lebih di Minangkabau tidak ada membayarkan kewajibannya kepada anak-anaknya, apalagi bila ia telah bercerai dengan ibu anaknya itu. Inilah suatu dosa yang terbesar di negeri kita, yang wajib kita bersama-sama membasminya, karena hal itu merusakkan masyarakat umum. Bukan sedikit anak-anak yang terlantar dan teraniaya, karena ditinggalkan orang tuanya bertahun-tahun lamanya dengan tidak diberi nafkah sedikit pun, seolah- olah anak itu telah menjadi yatim piatu, sedangkan orang tuanya masih hidup. Insyaflah hai orang yang mempunyai anak!.”43 Terlihat dari penafsiran di atas bahwa Mahmud Yunus mengkritik adat atau kebiasaan Minangkabau khususnya, yaitu sebagian orang tua tidak diwajibkan untuk menafkahi anak-anaknya, apalagi jika kedua orang tua dari anak tersebut telah bercerai. Ini juga merupakan salah satu segi sosial budaya yang ada di wilayah Minangkabau. Penggunaan fenomena realitas sosial budaya yang ada saat itu, guna memudahkan untuk diterima dan dipahami oleh masyarakat, sehingga ajaran-ajaran yang ada di dalam Al-Qur’an lebih mudah untuk tersampaikan melalui usaha penafsiran Mahmud Yunus melalui cara tersebut. Selain adat dan tradisi sosial budaya Minangkabau, Mahmud Yunus juga tak luput memasukkan unsur kebudayaan masyarakat Indonesia, mulai dari sistem religi, sistem mata pencaharian, sistem pengetahuan hingga organisasi sosial.44 Selanjutnya nuansa keindonesiaan yang terkait dengan dinamika keadaan sosial budaya masyarakat pun muncul dalam karyanya.45 Dari penafsiran dan penjelasan dengan memasukkan adat dan tradisi, serta dengan memasukkan unsur kebudayaan masyarakat Indonesia ini, tafsir Mahmud Yunus menjadi tafsir dengan konteks dan nuansa sosial keindonesiaan yang begitu akademis, yang mana penjelasan penafsirannya banyak menyasar latar budaya Indonesia dengan menghadirkan nilai-nilai maupun pesan moral yang sesuai dengan fenomena sosial budaya mayarakat Indonesia saat itu. Penjelasan penafsirannya ini tentunya disesuaikan dengan substansi dari ayat yang ia tafsirkan. Q 44Anwar Mujahidin, “Hubungan Kebudayaan Tafsir Indonesia (Analisis Kisah Ibrahim dan Musa dalam Tafsir Karya Mahmud Yunus, Hamka, dan M. Quraish Shihab),” Jurnal Nun 3, no. 1 (2017):89- 116. 45Khairunnas Jamal, “Wawasan Keindonesiaan dalam Tafsir Al-Qur’an Al-Karim Karya Mahmud Yunus,” Al-Fikra: Jurnal Ilmiah Keislaman, Vol. 16, No. 1, Tahun 2017, h. 43. 43Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 405. 44Anwar Mujahidin, “Hubungan Kebudayaan Tafsir Indonesia (Analisis Kisah Ibrahim dan Musa dalam Tafsir Karya Mahmud Yunus, Hamka, dan M. Quraish Shihab),” Jurnal Nun 3, no. 1 (2017):89- 116. 45Khairunnas Jamal “Wawasan Keindonesiaan dalam Tafsir Al-Qur’an Al-Karim Karya Mahmud 43Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 405. Jurnal At Tibyan: Jurnal Ilmu Alqur’an dan Tafsir Vol 5 No 1 Juni 2020 43Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 405. 44Anwar Mujahidin, “Hubungan Kebudayaan Tafsir Indonesia (Analisis Kisah Ibrahim dan Musa dalam Tafsir Karya Mahmud Yunus, Hamka, dan M. Quraish Shihab),” Jurnal Nun 3, no. 1 (2017):89- 116. 45Khairunnas Jamal, “Wawasan Keindonesiaan dalam Tafsir Al-Qur’an Al-Karim Karya Mahmud Yunus,” Al-Fikra: Jurnal Ilmiah Keislaman, Vol. 16, No. 1, Tahun 2017, h. 43. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 46Sulaiman Ibrahim, Pendidikan dan Tafsir, h. 117. Lebih lanjut lihat Iskandar, “Tafsir Qur’an Karim Karya Mahmud Yunus,” h. 8-10. 47 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, h. 138-139. Corak Intelektual Adapun corak lain yang mendukung sisi akademis tafsir Mahmud Yunus adalah corak intelektual yang ditandai dengan hadirnya karya ini di tengah-tengah masyarakat yang belum banyak mengerti akan bahasa kitab suci Al-Qur’an. Hal ini menunjukkan bahwa karya Mahmud sebagai sebuah medium dan perantara untuk mengantarkan generasi intelektual dalam membimbing mereka dan umat manusia untuk Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 117 mengamalkan ajaran Islam.46 Salah satu cara yang dilakukannya adalah dengan menambahkan ungkapan umum yang banyak diketahui dan dikenal oleh masyarakat Indonesia saat itu. Dengan menambahkan ungkapan umum, diharapkan masyarakat dan umat manusia lebih berintelek dalam memahami dan mengamalkan ajaran-ajaran Islam. Adapun contoh penafsiran corak intelektual yang ada di kitab ini, di antaranya: Surah al-Nisa’ ayat 148 ﻻَ ﳛُِﺐﱡ اﱠُ اﳉَْﻬْﺮَ Yِﻟﺴﱡﻮءِ ﻣِﻦَ اﻟْﻘَﻮْلِ إِﻻﱠ ﻣَﻦْ ﻇُﻠِﻢَ وَﻛَﺎنَ اﱠُ ﲰَِﻴﻌًﺎ ﻋَﻠِﻴﻤًﺎ Artinya: “Allah tidak menyukai mengeraskan perkataan yang jahat,kecuali (bagi) orang yang teraniaya. Allah Maha Mendengar, lagi Maha Mengetahui”. Artinya: “Allah tidak menyukai mengeraskan perkataan yang jahat,kecuali (bagi) orang yang teraniaya. Allah Maha Mendengar, lagi Maha Mengetahui”. Mahmus Yunus menjelaskan ayat tersebut dalam kitab tafsirnya bahwa: “Allah tidak menyukai perkataan jahat yang keluar dari mulut seseorang, yaitu perkataan bergunjing, mengumpat, mencela orang dsb. Karena perkataan demikian adalah bibit permusuhan, perpecahan, perkelahian, dan pembunuhan, sedang dalam agama Islam, kita harus selalu menjaga persatuan dan hubungan silaturrahim antara seseorang dan seseorang, antara golongan dengan golongan, antara partai dengan partai untuk menjaga kepentingan bersama. Sebab itulah kita harus menjaga lidah dari perkataan: “Mulutmu harimaumu” yang akan merengkah kepalamu maka jagalah ucapanmu, peliharalah mulutmu! Hanya orang yang teraniaya yang boleh mengeluarkan perkataan jahat, untuk mengadukan halnya kepada pengadilan, supaya terlepas dari keaniayaan itu.”47 Dari salah satu contoh penafsiran Mahmud Yunus di atas, ia menyisipkan sebuah peribahasa umum dalam penafsirannya, yaitu “mulutmu harimaumu” yang artinya keselamatan dan harga diri bergantung pada perkataan sendiri, atau tajamnya setiap perkataan yang diungkapkan akan mencelakakan diri sendiri. Ungkapan umum yang digunakannya ini berorientasi untuk mengintrodusir wawasan keindonesiaan dalam tafsirnya, yang mana hal ini bertujuan untuk meningkatkan generasi yang lebih berintelek dalam memahami ayat-ayat dan kandungan nilai-nilai yang ada di dalam Al- Qur’an sebagai kitab suci umat Islam sepanjang masa. Penutup Tafsir Al-Qur’an al-Karim karya Mahmud Yunus merupakan sebuah tafsir yang tergolong akademik karena banyaknya sisi-sisi akademis yang ia munculkan dalam penafsirannya. Aspek-aspek maupun sisi-sisi akademis tersebut nampak begitu terlihat dalam corak penafsiran yang ia gunakan. Mulai dari corak ilmiah, corak sosial hingga corak intelektual. Ketiga corak inilah yang menjadikan tafsir Mahmud Yunus begitu bersifat akademis. Corak ilmiah dalam penafsirannya ditunjukkan dengan mengaitkan bagian yang ditafsirkannya dengan ilmu pengetahuan yang sedang berkembang, sehingga penafsiran Mahmud Yunus terkesan menegaskan hubungan erat antara Al- Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 118 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah Qur’an dengan perkembangan ilmu pengetahuan dan teknologi. Adapun corak sosial dan corak intelektual lebih ditunjukkan Mahmud Yunus melalui penggunaan unsur ungkapan umum atau ungkapan bahasa, maupun tradisi, adat dan fenomena sosial budaya masyarakat Indonesia dalam penafsirannya. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 DAFTAR PUSTAKA Ahmad, Khader dkk. “Ketokohan Mahmud Yunus dalam Bidang Tafsir Al-Qur’an: Kajian terhadap Kitab Tafsir Quran Karim.” The 2nd Annual International Qur’anic Conference, Centre of Quranic Research (CQR), 2012: 195-211. Asra, Amaruddin dan M. Amursid. “Studi Tafsir al-Qur’an al-Karim Karya Mahmud Yunus.” Jurnal Syahadah 3, no. 2, (2015): 1-19. Baidan, Nashruddin dan Erwati Aziz. Metodologi Khusus Penelitian Tafsir. Yogyakarta: Pustaka Pelajar, 2016. ______. Perkembangan Tafsir Al-Qur’an di Asia Tenggara. Yogyakarta: Pustaka Pelajar, 2019. Federspiel, Howard M. Kajian Al-Qur’an di Indonesia; dari Mahmud Yunus hingga Quraish Shihab. Terj. Tajul Arifin. Bandung: Penerbit Mizan, 1996. Ghofur, Saiful Amin. Profil Para Mufasir al-Qur’an. Yogyakarta: Pustaka Insan Madani, 2008. Hermawan, Tri, Putri Rafa Salihah, dan Muhammad Hafizh. “The Concept of Women’s Dress in Tafsir Nusantara: A Comparative Study of Four Indonesian Exegeses.” Ulumuna: Journal of Islamic Studies 21, no. 2 (2017): 370-390. Ibrahim, Sulaiman. Pendidikan dan Tafsir; Kiprah Mahmud Yunus dalam Pembaruan Islam. Jakarta: LEKAS, 2011. Ibrahim, Sulaiman. “Karakteristik Tafsir Al-Qur’an al-Karim Karya Mahmud Yunus.” Jurnal Al-Ulum 11, no. 2 (2011): 397-420. Igisani, Rithon. “Kajian Tafsir Mufassir di Indonesia.”Jurnal Potret 22, no. 1 (2018): 11-31. Iskandar. “Tafsir Qur’an Karim Karya Mahmud Yunus; Kajian atas Karya Tafsir Nusantara.” Jurnal Suhuf 3, no. 1 (2010): 1-11. Jamal, Khairunnas. “Wawasan Keindonesiaan dalam Tafsir Al-Qur’an Al-Karim Karya Mahmud Yunus.” Al-Fikra: Jurnal Ilmiah Keislaman 16, no. 1 (2017): 28-44. Mauliddin, Arif Iman. Unsur Lokal dalam Tafsir Al-Qur’an Karim Karya Mahmud Yunus. Tesis Mahasiswa UIN Sunan Kalijaga. Yogyakarta, 2019. Mohammad, Herry dkk. Tokoh-Tokoh Islam yang Berpengaruh Abad 20. Jakarta: Gema Insani, 2008. Mujahidin, Anwar. “Hubungan Kebudayaan Tafsir Indonesia (Analisis Kisah Ibrahim dan Musa dalam Tafsir Karya Mahmud Yunus, Hamka, dan M. Quraish Shihab).” Jurnal Nun 3, no. 1 (2017) : 89-116. Rina, Malta. Pemikiran dan Karya-Karya Prof. Dr. H. Mahmud Yunus tentang Pendidikan Islam (1920-1982). Padang: Ilmu Sejarah Pascasarjana UNAND, 2011. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 119 Syarifuddin, M. Anwar dan Jauhar Azizy. “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir Al-Qur’an Indonesia.” Jurnal Ilmu Ushuluddin 2, no. 3 (2015): 323-343. ( ) Taufikurrahman. “Dinamika Kajian Al-Qur’an di Indonesia.” Ibn Abbas: Jurnal Ilm Al-Qur’an dan Tafsir 2, no. 1 (2019): 213-230. Yunus, Mahmud. Tarjamah Al-Qur’an al-Karim. Bandung: PT al-Ma’arif, 1967. ______. Tafsir Al-Qur’an al-Karim. Djakarta: PT Hidakarya Agung, 1983. Zulyadain. “Kerangka Paradigmatik Tafsir Al-Qur’an Al-Karim Karya Mahmud Yunus.”Jurnal Al-A’raf 15, no 1 (2018): 127-146.
https://openalex.org/W1601880398
https://hal.inria.fr/hal-01061315/document
English
null
Schemes for Privately Computing Trust and Reputation
IFIP advances in information and communication technology
2,010
cc-by
9,399
To cite this version: Nurit Gal-Oz, Niv Gilboa, Ehud Gudes. Schemes for Privately Computing Trust and Reputation. 4th IFIP WG 11.11 International on Trust Management (TM), Jun 2010, Morioka, Japan. pp.1-16, ￿10.1007/978-3-642-13446-3_1￿. ￿hal-01061315￿ Schemes for Privately Computing Trust and Reputation Nurit Gal-Oz, Niv Gilboa, Ehud Gudes To cite this version: Nurit Gal-Oz, Niv Gilboa, Ehud Gudes. Schemes for Privately Computing Trust and Reputation. 4th IFIP WG 11.11 International on Trust Management (TM), Jun 2010, Morioka, Japan. pp.1-16, ￿10.1007/978-3-642-13446-3_1￿. ￿hal-01061315￿ Distributed under a Creative Commons Attribution 4.0 International License Schemes for Privately Computing Trust and Reputation Nurit Gal-Oz, Niv Gilboa, Ehud Gudes To cite this version: Nurit Gal-Oz, Niv Gilboa, Ehud Gudes. Schemes for Privately Computing Trust and Reputation. 4th IFIP WG 11 11 International on Trust Management (TM) Jun 2010 Morioka Japan pp 1 16 Schemes for Privately Computing Trust and Reputation Nurit Gal-Oz, Niv Gilboa, Ehud Gudes HAL Id: hal-01061315 https://inria.hal.science/hal-01061315v1 Submitted on 24 Nov 2017 L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés. HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers. Distributed under a Creative Commons Attribution 4.0 International License Schemes for privately computing trust and reputation Nurit Gal-Oz, Niv Gilboa and Ehud Gudes Dept. of Computer Science and Deutsche Telekom Laboratories at Ben-Gurion University Beer-Sheva, 84105 Israel e-mail:galoz@cs.bgu.ac.il, gilboan@bgu.ac.il, ehud@cs.bgu.ac.il Dept. of Computer Science and Deutsche Telekom Laboratories at Ben-Gurion University Beer-Sheva, 84105 Israel Dept. of Computer Science and Deutsche Telekom Laboratories at Ben-Gurion University Beer-Sheva, 84105 Israel e-mail:galoz@cs.bgu.ac.il, gilboan@bgu.ac.il, ehud@cs.bgu.ac.il Abstract. Trust and Reputation systems in distributed environments attain widespread interest as online communities are becoming an inher- ent part of the daily routine of Internet users. Several models for Trust and Reputation have been suggested recently, among them the Knots model [8]. The Knots model provides a member of a community with a method to compute the reputation of other community members. Repu- tation in this model is subjective and tailored to the taste and choices of the computing member and those members that have similar views, i.e. the computing member’s Trust-Set. A discussion on privately comput- ing trust in the Knots model appears in [16]. The present paper extends and improves [16] by presenting three efficient and private protocols to compute trust in trust based reputation systems that use any trust-sets based model. The protocols in the paper are rigorously proved to be pri- vate against a semi-honest adversary given standard assumptions on the existence of an homomorphic, semantically secure, public key encryp- tion system. The protocols are analyzed and compared in terms of their privacy characteristics and communication complexity. 1 Introduction Recent years have seen a substantial growth of virtual communities across the Internet. These enable people to gather around some common goal or shared interest. The accessibility of information and services offered by these communi- ties, makes it both possible and legitimate to communicate with strangers and carry out interactions anonymously, as rarely done in ”real” life. On the other hand, virtual communities are prone to many types of deception - possibly ex- posing users to various threats - ranging from people forging their identity and imposing as others, to people giving extremely bad or extremely good ratings to other members unrelated to the service they have received from them. Trust and Reputation systems provide communities with means to reduce the poten- tial risk when communicating with people hiding behind virtual identities. These systems utilize the experience and knowledge accumulated and shared by all par- ticipants for assigning reputation values to individuals. Moreover, they attempt to identify dishonest members and prevent their negative effect. Centralized reputation systems, such as the commercial system eBay [1] , collect and store reputation ratings from feedback providers in a centralized reputation database. In eBay, for example, both buyers and sellers participating in a transaction, may provide one of three possible feedbacks: positive (+1), neutral (0), and negative (-1). The reputation score of a user is simply the sum of her accumulated ratings over a period of six months. Several authors have noted that reputation is a much more complex concept than simply aggregation of ratings. It may depend on interaction of multiple attributes (also exist in eBay), on the certainty of the rating [18], on the time the interaction and rating was performed, and on the trust between members. The last factor, trust between members, is crucial in obtaining reputation which is specifically compatible with a user profile or preferences. One usually gives much higher weight to ratings provided by people she has trust in. Trust between members is considered among others by [5], and when anonymity of users is required, trust between members may be computed based on the similarity of their past ratings. (see [8] ). However, in the above systems and models the reputation engine assumes knowledge of all ratings and other reputation factors, and does the computation centrally. As a result, the raters suffer a severe loss of privacy. 1 Introduction Trust is a subjective expectation a member has about another member’s future behavior, based on the history of their encounters, while Reputation is the perception that an agent creates through past actions about its intentions and norms, and is computed by some aggregation of members ratings of previous interactions. Normally, the trust we have in an unknown person is based on their reputation. The exact use of these two terms in our paper will become clearer in Section 3. The rest of the paper is organized as follows. Section 2 provides an overview of the related work. In section 3, we formally define our trust-set-aware model which is essential for understanding the rest of the paper, while in Section 4 we formally define secure computation in our context. Section 5 describes the three different schemes and in Section 6 we conclude and give some future research directions. els that use the feedback of a set of trusted members (trust-set) to compute reputation. We present three different methods for computing trust and reputa- tion privately and discuss their comparative advantages and disadvantages. Each method offers a slightly different degree of privacy and communication overhead. We use the terms Trust and Reputation, as introduced by [19]. Trust is a subjective expectation a member has about another member’s future behavior, based on the history of their encounters, while Reputation is the perception that an agent creates through past actions about its intentions and norms, and is computed by some aggregation of members ratings of previous interactions. Normally, the trust we have in an unknown person is based on their reputation. The exact use of these two terms in our paper will become clearer in Section 3. The rest of the paper is organized as follows. Section 2 provides an overview of the related work. In section 3, we formally define our trust-set-aware model which is essential for understanding the rest of the paper, while in Section 4 we formally define secure computation in our context. Section 5 describes the three different schemes and in Section 6 we conclude and give some future research directions. 1 Introduction An empirical study conducted by [27] on data sets extracted from eBay’s reputation system reported a high correlation between buyer and seller ratings. Moreover, most of the feedback provided was positive. A possible explanation for these results is that when feedback providers’ identities (or pseudo-identities) are known, reputation ratings are provided based on reasons of reciprocation and retaliation, not properly reflecting the trustworthiness of the rated parties. Thus preserving privacy while computing reputation becomes an important issue. Decentralized reputation systems, on the other hand, do not make use of a central repository to collect and report reputation ratings [32]. In these types of systems, both the reputation of users and the ratings they have given may be stored locally and known only to the corresponding user. The challenge in these system it to compute the reputation without revealing the private data. Its important to emphasize that depending on the reputation model, there may be different data which may be considered private, such as the rating itself, the weight assigned to any specific rating, the identity of the raters, the trust between members, etc. A recent paper on this topic [24] suggested several privacy preserving schemes for computing reputation when the reputation computation is very simple (sim- ilar to eBay). That is, the reputation is based on the summation of reputation scores. The current paper advances the state of the art as it uses a more advanced model of reputation computation which considers the trust members have in one another. We use some notations of the Knots model [8] to demonstrate and formulate our schemes however it is important to note that the ideas presented may apply to any model in which trust between members is an important factor in computing reputation. Specifically we refer to trust based reputation mod- els that use the feedback of a set of trusted members (trust-set) to compute reputation. We present three different methods for computing trust and reputa- tion privately and discuss their comparative advantages and disadvantages. Each method offers a slightly different degree of privacy and communication overhead. We use the terms Trust and Reputation, as introduced by [19]. 2 Background and Related Work A community (virtual or online community) is a group of entities (e.g. people, nodes, peers or agents acting on behalf of people), interacting via computer networks for a common interest. Different communities serve various needs of social groups through different levels of interactions. A community of strangers is a community of anonymous entities who would like to participate, i.e. con- tribute to and benefit from the community activities, without revealing personal information. This is in contrast to the recently popular Internet communities of identified users (e.g. ’Facebook’, ’LinkedIn’ etc.) A review on trust and reputation systems is provided by Josang et. al in [2]. Their review discusses the semantics of the trust and reputation concepts and the relations between them. The authors also provide an overview of reputa- tion computation models and existing applications of online reputation systems. Sabater et al [28] also present an overview of several computational trust and reputation models that have been implemented and classify them according to several criteria, such as the source of the information used, the assumptions made on agents behavior, the visibility of trust, and whether reputation is con- sidered as a personal/subjective property or as a global property. The concern for privacy in communities in general, and the privacy of reputation information in particular, was discussed in several papers [19, 17, 30, 26, 7] as explained next. In [19] the authors discuss the issues of privacy in a P2P network where the reputation information is distributed among the P2P nodes. The following aspects are analyzed: How the requirements for fair use practices reflect on the system design? What classes of information may be leaked? How to manage the risks related to social and technical issues? However, a specific method of computing reputation is not discussed. In [17] a distributed trust management system which is constructed from a two level hierarchy is described. The high level is composed of brokers which are responsible for aggregating trust infor- mation from their individual local nodes. This provides some privacy from one broker to another, although no privacy is provided at a single broker’s network. Steinbrecher in [30] presents an information theoretic model of reputation privacy. She tries to model the amount of privacy lost when a single user uses different pseudonyms in the same community or in different communities, or when a user change his/her pseudonym. 2 Background and Related Work Her measure enables the estimate of unlinkability provided by such a pseudonym change. In [26] the authors discuss the issue of privacy when a single user is a member in multiple communities and requires the transfer of the reputation between these communities creat- ing the concept of cross-community reputation. Cross community reputation requirements were analyzed in [7] including the issues of privacy, user control vs. community control, ontology matching and others. The closest paper to the present work and the one in [16] is the paper by Pavlov et. al [24] for privately computing reputation information, when the rep- utation is defined as an additive reputation system (e.g. the Beta reputation system by Josang [18]). The authors present three algorithms for computing ad- ditive reputation information with various degrees of privacy and with different abilities for protecting against malicious users. The paper starts with a method for “witness selection” which reduces the risk of selecting dishonest witnesses. Then, a simple scheme is presented which is very efficient but is vulnerable to collusion of even two witnesses. The second scheme is more resilient towards curious users although still vulnerable to collusions and uses a secret splitting scheme. The last method provides the most secure protocol which uses the verifi- able secret sharing scheme [25] which is based on Shamir’s secret sharing scheme [29]. The complexity of the scheme is quite high since it requires O(n3) messages where n is the number of contributing nodes. Another relevant paper was pre- sented recently by Nin et. al [21]. [21] also uses Homomorphic encryption similar to two of our schemes, but their reputation model is quite different and is not a Trust-set based model like ours. Finally, in our previous paper [16] we described three methods for computing reputation privately, where the last one uses the scheme of [24]. The contributions of the present paper over [16] are in two areas: 1. Out of the three presented protocols, two are completely new and use the idea of Homomorphic encryption [23]. In addition, some of the strong assumptions made in [16] are removed here. 2. We present a formal framework for the three protocols and define precisely the concept of privacy in our context. Then, using this framework we prove rigorously the correctness of the three protocols. 3 Computing reputation based on Trust sets The Trust-Set of a member at some point in time is the subset of community members she trusts above some level. The idea behind the trust-set concept is to allow every member to rely on members that provided her with accurate feedback in the past. The benefit of using trust-sets is in limiting the recommendation process to a smaller group of members that are better qualified for the task, while increasing the chance of getting more accurate results. While many trust based reputation systems (e.g. [31, 33]) use trust-sets, they differ in two major aspects: the criteria they use to generate these sets and the method for calculating trust in each member of the trust-set. These aspects have no affect on the privacy preserving schemes we present and therefore they are out of the scope of this paper. The Knots model is a trust-based reputation model introduced in a previ- ous work [8] for large-scale virtual communities. It is designed for communities in which members typically do not reveal their real identities. We consider for example communities in which experts in specific fields offer their advice and con- sulting services to community members seeking such services. The Knot model uses trust-sets as well as Knots, a relaxed form of trust-set. Knots are designed among other things to cope with the problem of sparsity i.e. insufficient number of trust relations between members in the community. Without loss of general- ity we adopt the notation form the knot-aware model, however the underlying approach of using trust relations among members as a weight when computing reputation exists in other models as well: – TrustMember (TM) is trust in the context of recommendations. More specifi- cally, it is a trust value that quantifies the extent by which one member relies on another member to rate experts “correctly”. – TrustExpert (TE) is trust in the context of experts. More specifically, it is a trust value that quantifies the extent by which a member relies on an expert to successfully provide the service it requires. – An α - Trust Set of a member A, is the set of all members whom A trusts with level α or more. The motivation for our current paper is to provide trust based reputation models (such as the knot model), with a means to compute reputation in a distributed manner while preserving private information. 3 Computing reputation based on Trust sets In this context the trust one mem- ber has in another (TM) and the trust a member has in an expert (TE), are considered private information. One would prefer not to reveal her trust in a member from which she gets recommendations since this trust value is used rel- ative importance. On the other hand the recommending party may prefer to keep her recommendation private due to the fear of retaliation. Revealing these values to malicious parties exposes the community to the risk of manipulating recommendations. The problem of privacy we address can be described as follows. Member A needs to compute its trust in an expert x, based on the experience other members of the community have had with this expert. Using the terms introduced in [8], this trust can vary from using the concept of Trust Expert based only on A’s own trust-set, to using the expert’s local reputation based on the Knot to which A belongs to, to using the expert’s global reputation based on the entire community. We focus on Trust-set based computation since the other options are quite similar. The trust of A in x using the experience of her Trust-set can be computed according to: TE(A, x) = P Bi∈T rustSet(A), DT E(Bi,x)̸=⊥ DT E(Bi,x)·T M(A,Bi) P Bi∈T rustSet(A), DT E(Bi,x)̸=⊥ T M(A,Bi) where: – DT E(Bi,x) - the trust member Bi has in expert x based on her own accumu- lated experience. p – T M(A,Bi) - the trust member A has in member Bi. We assume that TM(A, B) is known to agent A since it reflects her private information. Therefore the denominator in this formula is easy to compute by A without disclosing private information. The nominator is a sum of products of two terms, the first one is assumed to be known only to the individual agents Bi and the second one is known to A. Therefore the challenge we face is to privately compute the following sum of products, denoted by ρ(A, x): ρ(A, x) = |S| X Bi=1 DTE(Bi, x) · TM(A, Bi) where S denotes the trust-set of A. Each product in this sum expresses the indirect trust that member A has in expert x based on Bi’s direct trust in x, denoted ITM(A, Bi, x) = TM(A, Bi) · DTE(Bi, x) We use this notation in Section 5 to explain our schemes. 4 Formal framework We now define the exact notion of secure computation in our context. Members of a trust set wish to jointly compute a function of their private inputs so that one of these members obtains an output, while no member obtains information on the input of other members. We assume that the participants in our protocols are semi-honest. In other words, each player executes the protocol as required, but may attempt to learn information on the input of other parties. Thus, a com- putation is secure if it is private for each of the parties, leaking no unnecessary information about a party’s input. Let Π be a protocol for k parties to compute a function g. The input of the i-th party is denoted xi and the protocol output g(x1, . . . , xk) is obtained by the first party, denoted by A. An adversary controls a set I of parties and receives the ”view” of every party in I. The view of a party includes its input, output (if any) and all intermediate messages that it receives. Informally, we say that a protocol is private if for every adversary there is a probabilistic, polynomial time algorithm with access only to the adversary’s input and output, that simulates the view of the adversary. Intuitively, if the view of an adversary can be simulated from this adversary’s input and output, then the adversary learns nothing about the input of other parties from an execution of Π. Our formal definitions follow the full framework set in [10] and [11]. We use only those elements of the definition framework that are necessary in our setting. Definition 1. A function µ : IN −→IN is negligible if for every polynomial p : IN −→[0, 1], there exists N such that µ(n) < 1 p(n) for every n > N. Definition 1. A function µ : IN −→IN is negligible if for every polynomial p : IN −→[0, 1], there exists N such that µ(n) < 1 p(n) for every n > N. Two distribution ensembles are computationally indistinguishable if no ef- ficient algorithm can decide with good probability, whether its input is chosen according to the first distribution or the second distribution. We regard a dis- tribution ensemble as a collection of distributions that are indexed by two pa- rameters: a binary string a and a security parameter n represented in unary form. 4 Formal framework In our setting, a is the input for a protocol, the distribution is over all the messages of a protocol (for a subset of parties) and is induced by coin tosses of each party as it executes its part of the protocol. The security parameter 1n determines the required length of cryptographic keys to ensure privacy of the protocol. Formally: Definition 2. Let X = {X(a, 1n)}n∈IN,a∈{0,1}∗and Y = {Y (a, 1n)}n∈IN,a∈{0,1}∗ be two distribution ensembles. We say that X and Y are computationally indis- tinguishable if for every probabilistic, polynomial time algorithm D , there exists a negligible function µ such that for every a ∈{0, 1}∗: |Pr[D(X(a, 1n)) = 1] −Pr[D(Y (a, 1n)) = 1]| < µ(n). We denote computational indistinguishability of two ensembles by X c≡Y . We denote computational indistinguishability of two ensembles by X c≡Y . We restrict an adversary to corrupting a subset of parties statically. In other words, the adversary controls the same subset of parties throughout the execu- tion of a protocol. The adversary may corrupt only specific subsets of parties. Definition 3. Let Π be a communication protocol for k parties to compute a function g. Let 2{1,...,k} be the set of all subsets of parties in the protocol. We say that U is the adversary structure if U ⊆2{1,...,k} includes exactly all subsets of parties, I, such that the adversary can corrupt all parties in I simultaneously. We denote by viewΠ I (XI, 1n) the aggregated input, output and protocol mes- sages of all parties in I = {i1, . . . , iℓ} as they execute a protocol Π with security parameter 1n on input XI = (xi1, . . . , xiℓ). Next, we formally define multi-party private computation. Definition 4. Let g : ({0, 1}∗)k −→{0, 1}∗be a function mapping k binary strings to a single binary string. Let Π be a communication protocol for k par- ties, such that if the i-th party has input xi for i = 1, . . . , k then after the parties execute Π, the first party has output g(x1, . . . , xk). Let U be an adversary struc- ture. For every subset of parties I, such that I = {i1, . . . , iℓ}, denote by XI the input vector (xi1, . . . , xiℓ) and by OI the output obtained by members of I. Π privately computes g if for every I such that I ∈U, there exists a probabilistic, polynomial time algorithm S such that when n ranges over IN and XI ranges over ({0, 1}∗)|I|: input vector (xi1, . . . , xiℓ) and by OI the output obtained by members of I. Π privately computes g if for every I such that I ∈U, there exists a probabilistic, polynomial time algorithm S such that when n ranges over IN and XI ranges over ({0, 1}∗)|I|: {S(XI, OI, 1n)} c≡ © viewΠ I (XI, 1n) ª We use semantically-secure public-key encryption [14] to construct our proto- cols is . Semantic security means that a ciphertext does not leak any information about the plaintext when the private key is unknown. Furthermore, even if an adversary has some a-priori knowledge about the plaintext (e.g. We denote computational indistinguishability of two ensembles by X c≡Y . a possible range of values for the plaintext) it cannot infer additional information from the ci- phertext. Let f(·) be information on the plaintext that the adversary is trying to obtain and let h(·) be information on the plaintext that the adversary already knows. Let an encryption scheme be three algorithms: a key generation algorithm G, an encryption algorithm E and a decryption algorithm D. On input 1n, G outputs a randomly chosen key of appropriate length. Intuitively, an algorithm that has an encryption E(X) and h(X) does not have significant advantage computing f(X) compared to an algorithm that has only h(X). The formal definition follows [11]: Definition 5. Let (G, E, D) be a public key encryption scheme. (G, E, D) is semantically-secure if for any probabilistic, polynomial time algorithm P there exists a probabilistic, polynomial time algorithm P ′ such that for probability en- semble {Xn}n∈IN, with |Xn| polynomial in n, and two polynomially bounded functions f, h, there exists a negligible function µ such that for every n ¯¯Pr[PXn(E, h) = f(Xn)] −Pr[P ′ Xn(h) = f(Xn)] ¯¯ < µ(n) where PXn(E, h) △= P(1n, E(Xn), h(Xn)) and P ′ Xn(h) △= P ′(1n, 1|Xn|, h(Xn)) = f(Xn) where PXn(E, h) △= P(1n, E(Xn), h(Xn)) and P ′ Xn(h) △= P ′(1n, 1|Xn|, h(Xn)) = f(Xn) Intuitively, semantic security enables one party in a multi-party computation to send encrypted data to another party without compromising privacy. A simu- lator for the receiving party can simulate this encrypted data by encrypting some data that it generates. Semantic security ensures that real encrypted data can’t be distinguished from simulated encrypted data. This intuition is formalized in Lemma 1. Due to space limitations we leave out the proof of this lemma. Lemma 1. Let (G, E, D) be a semantically secure public key encryption scheme, let n be a security parameter and let x1, . . . , xℓbe chosen according to a distri- bution D that can be efficiently constructed. Let Π be a polynomial time (in n) multi-party protocol to compute a function g and let I be a set of parties, such that viewΠ I (XI, 1n) is comprised of XI, OI and E(x1), . . . , E(xℓ). G(1n) generates a public and private key pair. Members of I know the public key, but not the private key. 1 Set β = EK(0) and let the binary representation of c be c = ckck−1 . . . c0. Go over the bits ck, . . . , c0 in descending order. If cj = 0 set β = φ(β, β) and if cj = 1 set β = φ(φ(β, β), EK(x)). If φ is modular multiplication, this algorithm is identical to regular modular exponentiation. 5 The Protocols In this section we present three different schemes for privately computing reputa- tion and we prove the correctness of these schemes based on the above framework under the assumption of semi-honest participants. In all three schemes we com- pute the reputation of x in the eyes of A ρ(A, x), using input from A’s trust-set S (see section 3). We denote computational indistinguishability of two ensembles by X c≡Y . Then Π privately computes g for an adversary structure U, U = {I}. 5.1 Scheme 1: An external party Algorithm 1 Computing a scalar product Algorithm 1 Computing a scalar product 1: A runs G(1n) and obtains a private-public key pair. 2: A sends to Bi the ciphertext EKA(TM(A, Bi) mod m), for every Bi ∈S. 3: for all Bi ∈S do 4: Bi uses EKA(TM(A, Bi) mod m) and DTE(Bi, x) to compute EKA(ITM(A, Bi, x) mod m). 5: Bi sends EKA(ITM(A, Bi, x) mod m) to Z. 6: Z uses φ to compute EKA(P Bi∈S ITM(A, Bi, x) mod m) and sends this encrypted value to A. 6: Z uses φ to compute EKA(P Bi∈S ITM(A, Bi, x) mod m) an value to A. 7: A obtains ρ(A, x) = P Bi∈S ITM(A, Bi, x) by decryption. Let the adversary structure U include all subsets I of © A, Z, B1, . . . , B|S| ª s.t. |I T {A, Z}| ≤1. Then, the protocol in Algorithm 1 privately computes g. Let the adversary structure U include all subsets I of © A, Z, B1, . . . , B|S| ª s.t. |I T {A, Z}| ≤1. Then, the protocol in Algorithm 1 privately computes g. Proof. If the adversary controls I = {A, Bi1, . . . , Biℓ}, then the view of the adversary is identical to its input and output, hence simulation is trivial. Proof. If the adversary controls I = {A, Bi1, . . . , Biℓ}, then the view of the adversary is identical to its input and output, hence simulation is trivial. If the adversary controls I = {Bi1, . . . , Biℓ} (without A), then its view in- cludes aside from its input, the elements © EKA(TM(A, Bij) mod m) ª j=1,...,ℓ. By Lemma 1, Π privately computes g with respect to I. If the adversary controls I = {Z, Bi1, . . . , Biℓ}, then its view includes aside from its input, the encrypted elements © EKA(ITM(A, Bij, x) mod m) ª j=1,...,ℓ. Again, Lemma 1 shows that Π privately computes g with respect to I. ⊓⊔ 1: A runs G(1n) and obtains a private-public key pair. 5.1 Scheme 1: An external party In this scheme, A learns only ρ(A, x) = P|S| Bi=1 DTE(Bi, x) · TM(A, Bi) (see section 3), while Bi receives no information at all, for every i. We assume the existence of an additional party Z that must not collude with A. The main tool we use in this scheme is public-key, homomorphic encryption. In such encryption there is a modulus m and an efficiently computable function φ that maps a pair of encrypted values (EK(x), EK(y)), where 0 ≤x, y ≤m, to a single encrypted element φ(EK(x), EK(y)) = EK(x + y mod m). In many homomorphic encryption systems the function φ is multiplication modulo some integer N. Given a natural number c and an encryption EK(x), it is possible to compute EK(c · x mod m), without knowing the private key 1. There are quite a few examples of homomorphic encryption schemes known in the cryptographic literature, including [14, 3, 20, 22] and [23]. There are also systems that allow both addition and multiplication of two encrypted plaintexts, e.g. [4] (only a single multiplication is possible for a pair of ciphertexts) and [9]. All of these examples of homomorphic cryptosystems are currently assumed to be semantically secure. We assume that all participants in the protocol know prior to the beginning of the protocol a semantically-secure, public key and homomorphic encryption scheme (G, E, D), an associated function φ and a security parameter n. We can assume that the modulus m of the homomorphism is large enough, that is m > ρ(A, x), since in many of the well-known homomorphic cryptosystems the key can be chosen to accommodate an arbitrarily large m. We require that for every i, TM(A, Bi) and DTE(Bi, x) have integral values. The total computational complexity of this scheme is O(|S|) encryptions, decryptions and multiplications. The total communication complexity is O(|S|) times the size of a ciphertext. Proposition 1. Let A, Z, B1, . . . , B|S| be the parties, let the input of A be TM(A, B1), . . . , TM(A, B|S|) and for all i = 1, . . . , |S| let the input of Bi be DTE(Bi, x). Let g be a function that maps the ordered sequence of pairs ⟨TM(A, Bi), DTE(Bi, x)⟩i=1,...,|S| to the value ρ(A, x) = P Bi∈S ITM(A, Bi, x). 2: A sends to Bi the ciphertext EKA(TM(A, Bi) mod m), for every Bi ∈S. 4: Bi uses EKA(TM(A, Bi) mod m) and DTE(Bi, x) to compute EKA(ITM(A, Bi, x) mod m). 5.2 Scheme 2: No outside help In this scheme, we dispense with the additional party Z. A learns only ρ(A, x) = P ∀B∈S ITM(A, B, x), while for every i, Bi receives no information at all. A protocol without Z is obviously desirable for those situations in which such a semi-trusted party is not available. The disadvantage of the current protocol is its greater communication complexity compared to Algorithm 1. As is often the case in distributed, cryptographic protocols, the parties use secret sharing to distribute the input [29]. The number of distributed shares, and thus the communication complexity depends on the possible number of colluding adversarial parties. We denote this threshold by t and assume that it is part of the protocol’s input. We assume that all participants in the protocol know a semantically-secure, public key and homomorphic encryption scheme (G, E, D), an associated func- tion φ and a security parameter n prior to the beginning of the protocol. We assume that the modulus m of the homomorphism satisfies the inequality m > ρ(A, x). Using algorithm 2, A computes the correct result because: Pt j=1 P|S| i=1 TM(A, Bi) · ri j + qi j mod m = P|S| i=1 TM(A, Bi) · (Pt j=1 ri j) + Pt j=1 qi j mod m = P|S| i=1 TM(A, Bi) · DTE(Bi, x) mod m = ρ(A, x) Algorithm 2 No outside help 1: A runs G(1n) and obtains a private-public key pair. 1: A runs G(1n) and obtains a private-public key pair. 2: A sends to Bi the ciphertext EKA(TM(A, Bi) mod m), for every Bi ∈S. 3: for all Bi ∈S do 4: Bi chooses ri 1, ri 2, . . . , ri t and qi 1, qi 2, . . . , qi t uniformly at random from {0, . . . , m −1} so that Pt j=1 ri j ≡DTE(Bi, x) mod m and Pt j=1 qi j ≡0 mod m. 5: for all Bi ∈S do 6: Bi computes the values: EKA(TM(A, Bi) · ri j + qi j mod m), for j = 1, . . . , t. f ll d 7: for all j = 1, . . . , t do 7: for all j = 1, . . . , t do 8: Bi sends EKA(TM(A, Bi) · ri j + qi j mod m) to Bj. 5.2 Scheme 2: No outside help 10: Bj uses φ on EKA(TM(A, B1) · r1 j + q1 j mod m), . . . , EKA(TM(A, B|S|) · r|S| j + q|S| j mod m) to compute EKA(P|S| i=1 TM(A, Bi) · ri j + qi j mod m). Bj sends this value to A. |S| 11: A decrypts and sums up all the values to obtain ρ(A, x) = Pt j=1 P|S| i=1 TM(A, Bi)· ri j + qi j mod m. 11: A decrypts and sums up all the values to obtain ρ(A, x) = Pt j=1 P|S| i=1 TM(A, Bi)· ri j + qi j mod m. ri j + qi j mod m. Denoting the maximum length of a ciphertext in this protocol by |E(·)|, the communication complexity of steps 1-4 is O(|S| · |E(·)|, the communication complexity of step 5 is O(t |S|·|E(·)|) and the communication complexity of steps 6, 7 is O(t · |E(·)|. Hence the total communication complexity of the protocol is O(t |S| · |E(·)|). Proposition 2. Let A, B1, . . . , B|S| be the parties, let the input of A be TM(A, B1), . . . , TM(A, B|S|) and for all i = 1, . . . , |S| let the input of Bi be DTE(Bi, x). Let g be a function that maps the ordered sequence of pairs ⟨TM(A, Bi), DTE(Bi, x)⟩i=1,...,|S| to the value ρ(A, x) = P Bi∈S ITM(A, Bi, x). Let the adversary structure U include all subsets I of A, B1, . . . , B|S| such that |I| ≤t. Then, the protocol in Algorithm 2 privately computes g. Proposition 2. Let A, B1, . . . , B|S| be the parties, let the input of A be TM(A, B1), . . . , TM(A, B|S|) and for all i = 1, . . . , |S| let the input of Bi be DTE(Bi, x). Let g be a function that maps the ordered sequence of pairs ⟨TM(A, Bi), DTE(Bi, x)⟩i=1,...,|S| to the value ρ(A, x) = P Bi∈S ITM(A, Bi, x). Let the adversary structure U include all subsets I of A, B1, . . . , B|S| such that |I| ≤t. Then, the protocol in Algorithm 2 privately computes g. Proof. If the adversary controls I = {Bi1, . . . 2: A sends to Bi the ciphertext EKA(TM(A, Bi) mod m), for every Bi ∈S. 1: A runs G(1n) and obtains a private-public key pair. 5.2 Scheme 2: No outside help , t + 1. – P|S| i=1 TM(A, Bi) · ri j mod m, for every j = 1, . . . , t + 1. |{i1, . . . , iℓ}| ≤t −1 because |I| ≤t and therefore there exists some j ∈ {1, . . . , t} such that j ̸∈{i1, . . . , iℓ}. Thus, each set EKA(TM(A, Bi) · ri i1 + qi i1 mod m), . . ., EKA(TM(A, Bi) · ri iℓ+ qi iℓmod m), is an encryption of at most |{i1, . . . , iℓ}| ≤t −1 because |I| ≤t and therefore there exists some j ∈ {1, . . . , t} such that j ̸∈{i1, . . . , iℓ}. Thus, each set EKA(TM(A, Bi) · ri i1 + qi i1 mod m), . . ., EKA(TM(A, Bi) · ri iℓ+ qi iℓmod m), is an encryption of at most t −1 random elements in the range {0, . . . , m −1}. Since for each i = 1, . . . , |S|, these sets are chosen independently, a simulator can simulate all these encrypted elements by choosing |S| · |i1, . . . , iℓ| random elements in {0, . . . , m −1} and encrypting them. i1 ) A( ( ) iℓ iℓ ) t −1 random elements in the range {0, . . . , m −1}. Since for each i = 1, . . . , |S|, these sets are chosen independently, a simulator can simulate all these encrypted elements by choosing |S| · |i1, . . . , iℓ| random elements in {0, . . . , m −1} and encrypting them. Similar reasoning works for simulating P|S| i=1 TM(A, Bi) · ri j + qi j mod m, for every j = 1, . . . , t. For an index η such that η ̸∈{i1, . . . , iℓ}, each sum P|S| i=1 TM(A, Bi) · ri j + qi j mod m includes a summand qη j , which is random (until all the elements qη 1, . . . , qη t are summed up). Therefore, the t elements P|S| i=1 TM(A, Bi) · ri j + qi j mod m can be simulated as t random elements in the range 0, . . . 5.2 Scheme 2: No outside help , m −1 whose sum modulo m is exactly ρ(A, x). ⊓⊔ ⊓⊔ 5.2 Scheme 2: No outside help , Biℓ} then its view includes aside from its input, the following: – EKA(TM(A, Bi1) mod m), . . . ,EKA(TM(A, Biℓ) mod m). { } T { } – EKA(TM(A, Bi1) mod m), . . . ,EKA(TM(A, Biℓ) mod m). – For every Bj such that j ∈{i1, . . . , iℓ} T {1, . . . , t}, a sequence of encrypted elements: EKA(TM(A, B1) · r1 j mod m) + q1 j , . . ., EKA(TM(A, B|S|) · r|S| j + q|S| j mod m). – For every Bj such that j ∈{i1, . . . , iℓ} T {1, . . . , t}, a sequence of encrypted elements: EKA(TM(A, B1) · r1 j mod m) + q1 j , . . ., EKA(TM(A, B|S|) · r|S| j + q|S| j mod m). A simulator chooses all the necessary values to simulate TM(A, Bi) and DTE(Bi, x) from an appropriate distribution. The simulator can then encrypt all these TM(A, Bi) and choose uniformly at random ri 1, . . . , ri t and qi 1, . . . , qi t from {0, . . . , m −1} so that Pt j=1 ri j ≡DTE(Bi, x) mod m and Pt j=1 qi j ≡0 mod m. The simulator can then use the homomorphic properties of E to compute EKA(TM(A, B1) · r1 j mod m) + q1 j , . . ., EKA(TM(A, B|S|) · r|S| j + q|S| j mod m). According to Lemma 1 the result is indistinguishable from the protocol view of If the adversary controls I = {A, Bi1, . . . , Biℓ}, then its view includes aside from its input and output: – For every Bj such that j ∈{i1, . . . , iℓ} T {1, . . . , t}, a sequence of encrypted elements: EKA(TM(A, B1) · r1 j + q1 j mod m), . . ., EKA(TM(A, B|S|) · r|S| j + q|S| j mod m). – For every Bj such that j ∈{i1, . . . , iℓ} T {1, . . . , t}, a sequence of encrypted elements: EKA(TM(A, B1) · r1 j + q1 j mod m), . . ., EKA(TM(A, B|S|) · r|S| j + q|S| j mod m). – P|S| i=1 TM(A, Bi) · ri j mod m, for every j = 1, . . . 5.3 Scheme 3: Improved online communication complexity A drawback of Algorithm 2 is that if the threshold is linear in the number of participants, |S|, then the total communication and the total computational complexity are quadratic in |S|. The next scheme improves this result by having two phases, an offline phase and an online phase. The offline phase occurs only once for each member that enters the system and may be viewed as an initialization phase in which the new member ex- changes keys with all other members as a preparation for future information sharing. The online phase occurs whenever a member wishes to compute some other member’s reputation. The offline phase requires O(|S|2) communication and computation, but the online phase requires only linear communication and O(|S|2) computation. In this scheme we use a Pseudo-Random Function family, F = {F}k, [12] in addition to homomorphic encryption as in the previous schemes. All the functions in F have the same domain and range. Additionally, a polynomially bounded adversary can’t distinguish between the output of a random function chosen from the family and the output of a completely random function with the same domain and range. There are various theoretical constructions of pseudo- random function families. However, for practical purposes any block cipher can be regarded as such a family, where a function in the family is given by a spe- cific key for the block cipher (such a key determines a function from a block of plaintext to a block of ciphertext). In the offline phase, each pair of members Bi and Bj chooses a random function Fi,j ∈F. No one other than Bi and Bj may know the identity of their function. Bi and Bj will each use Fi,j in the online phase of the scheme, one of them will use it with a plus sign, and the other with a minus sign. Let signi,j = 1 if i > j and signi,j = −1 if i < j. Algorithm 3 presents the online phase of the scheme. This protocol has two logical stages (although both take place in the same communication round). In the first stage, A and B1, . . . , B|S| re-share their values so instead of having to compute a scalar product for ρ(A, x) they have to compute a sum. The second stage involves private and efficient computation of this sum using the functions Fi,j. Algorithm 3 Improved communication complexity 1: A runs G(1n) and obtains a private-public key pair. 2: A chooses a random element RND in the domain of the functions in F. 3: for all Bi ∈S do 4: A sends to Bi the values RND and EKA(TM(A, Bi) mod m). 5: for all Bi ∈S do 6: Bi chooses ri uniformly at random from {0, . . . , m −1}. 7: Bi computes the value ρi △= EKA(TM(A, Bi) · DTE(Bi, x) −ri mod m). 8: Bi computes the value Ri △= ri + P|S| j=1,j̸=i Fi,j(RND) · signi,j mod m. 9: Bi sends Ri and ρi to A. 10: A decrypts the values ρ1, . . . , ρ|S|. 5.3 Scheme 3: Improved online communication complexity Algorithm 3 Improved communication complexity 1: A runs G(1n) and obtains a private-public key pair. 2: A chooses a random element RND in the domain of the functions in F. 3: for all Bi ∈S do 4: A sends to Bi the values RND and EKA(TM(A, Bi) mod m). 5: for all Bi ∈S do 6: Bi chooses ri uniformly at random from {0, . . . , m −1}. 7: Bi computes the value ρi △= EKA(TM(A, Bi) · DTE(Bi, x) −ri mod m). 8: Bi computes the value Ri △= ri + P|S| j=1,j̸=i Fi,j(RND) · signi,j mod m. 9: Bi sends Ri and ρi to A. 10: A decrypts the values ρ1, . . . , ρ|S|. Algorithm 3 Improved communication complexi 11: A computes ρ(A, x) = P|S| i=1 TM(A, Bi) · DTE(Bi, x) −ri + Ri mod m. A computes the correct result because: A computes the correct result because: P|S| i=1 TM(A, Bi) · DTE(Bi, x) −ri + Ri mod m = ρ(A, x) + P|S| i=1 P|S| j=1,j̸=i Fi,j(RND) · signi,j mod m = ρ(A, x) Each value Fi,j(RND) appears exactly twice in the sum, once with a plus sign and once with a minus sign, and thus the contribution of each summand Fi,j(RND) to the sum is 0. Each value Fi,j(RND) appears exactly twice in the sum, once with a plus sign and once with a minus sign, and thus the contribution of each summand Fi,j(RND) to the sum is 0. The communication complexity of steps 3 and 4 is O(|S| · |E(·)|) and the communication complexity of step 9 is O(|E(·)|) for each of B1, . . . , B|S|. Thus, the total communication complexity of Algorithm 3 is O(|S| · |E(·)|). The to- tal computational complexity is O(|S|2) times the time required to compute Fi,j(RND), due to step 7. The privacy of the protocol can be shown against any adversary that controls no more than |S|−2 parties. The proof is very similar to the proof of Algorithm 2 with the pseudo-random values Fi,j(RND) replacing the truly random values qi j in Algorithm 2. qi j in Algorithm 2. 5.4 Faults and a Malicious adversary The protocols we present assume that the adversary is honest-but-curious. That is, even corrupted parties correctly perform the protocols, but may attempt to discover private information about other members. Our protocols can be adapted to be secure in the presence of a malicious adversary as long as there is an honest majority, by using standard methods, e.g. [13]. Even without malicious intent, users in community-based protocols, such as we propose, may often be absent during protocol execution, thus causing unintentional faults (Bi expects that Bj is part of the computation, but Bj is not present). Our first protocol is robust against such faults while the second and third protocols can be extended to be robust by using secret sharing. We will present these robust protocols in the full version of our paper. A malicious adversary may do more than simply attempt to subvert the pro- tocols we proposed. An adversary that controls A learns ρ(A, x) = P|S| i=1 TM(A, Bi)· DTE(Bi, x), where A itself determines the values TM(A, Bi). Setting TM(A, Bi) = 0 for any i except for i = i′ provides A with the exact value of DTE(Bi, x). If A can repeatedly compute ρ(A, x) then the adversary can learn the private values of many participants. y p p Even if A proves (by a zero-knowledge protocol) that the values TM(A, Bi) do not form a unit vector, the adversary may still learn all the values DTE(Bi, x). Let M be some non-singular |S|×|S| matrix. A executes the protocol |S|, chang- ing the values of TM(A, B1), . . . , TM(A, B|S|) to be the value of the next row of M. Multiplying the results by M −1 yields DTE(B1, x), . . . , DTE(B|S|, x). | | A possible approach to overcome a malicious adversary is to compute an approximation of ρ(A, x) and achieve differential privacy [6]. The idea is that querying data sets that differ only slightly does not provide information about the data in which they differ. The main tool to achieve differential privacy is by adding noise to the data sets. In our case, the data sets are the values TM(A, B1), . . . , TM(A, B|S|) that A holds. The members Bi can add noise to this data in all of our protocols by using the properties of homomorphic encryption. 6 Conclusions In this paper we discussed the problem of computing reputation of members in a community while preserving the privacy of sensitive information. Such informa- tion includes the rating of individual members and the trust that one member has in another. The paper presents three schemes for privacy preserving compu- tation and analyzes their privacy characteristics and communication overhead. The presented schemes apply techniques for secure summation and use these as primitives in a virtual community oriented setting. Our constructions extend state of the art work to elevate existing trust based models in which privacy is a major concern. Although the reputation computation formula was presented in the context of a specific trust and reputation model, the Knots model, it may be used by any Trust-set based model which take into account the same sensitive informa- tion (members ratings and members trust). In future work we will deal with some other privacy issues not dealt with in the current paper. One issue is the frequency of Update. How one can avoid leakage of private rating information if the reputation is updated frequently (e.g. after every expert/member inter- action). Another issue is the private computation and presentation (amount of drill-down) of reputation information in case reputation is accumulated from multiple communities (see [15]). References 1. ebay, http://www.ebay.com/. 2. J. Audun, I. Roslan, and B. Colin. A survey of trust and reputation systems for online service provision. Decis. Support Syst., 43(2):618–644, March 2007. 3. J. Benaloh. Dense probabilstic encryption. In Proc. of the Workshop on Selected Areas of Cryptography, pages 120–128, May 1994. 4. D. Boneh, E. Goh, and K. Nissim. Evaluating 2-dnf formulas on ciphertexts. In Proc. of TCC, pages 325–341, 2005. 5. S. Chakraborty and I. Ray. Trustbac: integrating trust relationships into the rbac model for access control in open systems. In Proc. of the eleventh ACM symposium on Access control models and technologies (SACMAT ’06), pages 49–58, New York, NY, USA, 2006. ACM. 6. Cynthia Dwork. Differential privacy. In in ICALP, pages 1–12. Springer, 2006. 7. N. Gal-Oz, T. Grinshpoun, E. Gudes, and A. Meisels. Cross-community reputation: Policies and alternatives. In Proc. of International Conference on Web Based Communities (IADIS - WBC2008), 2008. 8. N. Gal-Oz, E. Gudes, and D. Hendler. A robust and knot-aware trust-based rep- utation model. In Proceedings of the 2nd Joint iTrust and PST Conferences on Privacy, Trust Management and Security (IFIPTM’08), volume 263, pages 167– 182, Trondheim, Norway, June 2008. 9. C. Gentry. Fully homomorphic encryption using ideal lattices. In Proc. of STOC, pages 169–178, 2009. 10. O. Goldreich. Foundations of Cryptography: Basic Tools. Cambridge University Press, New York, NY, USA, 2000. 11. O. Goldreich. Foundations of Cryptography: Volume 2, Basic Applications. Cam- bridge University Press, New York, NY, USA, 2004. 12. O. Goldreich, S. Goldwasser, and S. Micali. How to construct random functions. JACM, 33(4):792–807, October 1986. 13. O. Goldreich, S. Micali, and A. Wigderson. How to play any mental game (extended abstract). In STOC87, pages 218–229, 1987. 14. S. Goldwasser and S. Micali. Probabilistic encryption. Journal of Computer and systems science, 28:270–299, 1984. 15. Tal Grinshpoun, Nurit Gal-Oz, Amnon Meisels, and Ehud Gudes. Ccr: A model for sharing reputation knowledge across virtual communities. In Web Intelligence, pages 34–41, 2009. 16. E. Gudes, N. Gal-Oz, and A. Grubshtein. Methods for computing trust and rep- utation while preserving privacy. In Proc. of DBSEC, Montreal, Canada, 2009. Springer Lecture Notes 5645, pages 291–298, 2009. 17. J. Yung-Jen Hsu, K. Lin, T. Chang, C. Ho, H. Huang, and W. Jih. Parameter learning of personalized trust models in broker-based distributed trust manage- ment. Information Systems Frontiers, 8(4):321–333, 2006. 18. A. Josang and R. Ismail. The beta reputation system. References In proceedings of 15th Bled Electronic Commerce Conference e-Reality: Constructing the e-Economy, June 2002. 19. L. Mui, M. Mohtashemi, and A. Halberstadt. A computational model of trust and reputation for e-businesses. In Proc. of the 35th Annual Hawaii International Conference on System Sciences (HICSS’02)-Volume 7, page 188, Washington, DC, USA, 2002. 20. D. Naccache and J. Stern. A new public key cryptosystem based on higher residues. In Proc. of ACM Conference on Computer and Communications Security, pages 59–66, 1998. 21. J. Nin, B. Carminati, E. Ferrari, and V. Torra. Computing reputation for collabo- rative private networks. In 33rd IEEE Int. COMPSAC conference, pages 246–253, 2009. 22. T. Okamoto and S. Uchiyama. A new public-key cryptosystem as secure as factor- ing. In Proc. of EUROCRYPT, pages 308–318, 1998. 23. P. Paillier. Public-key cryptosystems based on composite degree residuosity classes. In Proc. of EUROCRYPT, pages 223–238, 1999. 24. E. Pavlov, J. S. Rosenschein, and Z. Topol. Supporting privacy in decentralized additive reputation systems. In Proc. of 2nd Intl. Conf. on Trust Mgmt (iTrust’04), pages 108–119, 2004. 25. T.P. Pedersen. Non-interactive and information-theoretic secure verifiable secret sharing. In Proc. of CRYPTO, pages 129–140, 1991. 26. F. Pingel and S. Steinbrecher. Multilateral secure cross-community reputation systems for internet communities. In proceedings of TrustBus (TrustBus ’08), pages 69–78, 2008. 27. P. Resnick and R. Zeckhauser. Trust among strangers in Internet transactions: Empirical analysis of eBay’s reputation system. In Michael R. Baye, editor, The Economics of the Internet and E-Commerce, volume 11 of Advances in Applied Microeconomics, pages 127–157. Elsevier Science, 2002. 28. J. Sabater and C. Sierra. Review on computational trust and reputation models. Artificial Intelligence Review, 24(1):33–60, 2005. 29. A. Shamir. How to share a secret. Commun. ACM, 22(11):612–613, 1979. 30. S. Steinbrecher. Design options for privacy-respecting reputation systems within centralised internet communities. In Proc. of the IFIP TC-11 21st International Information Security Conference (SEC 2006), pages 123–134, 2006. 31. Zenggang Xiong, Yang Yang, Xuemin Zhang, Dairong Yu, and Li Liu. A trust- based reputation system in peer-to-peer grid. In HCI (15), pages 228–235, 2007. 32. B. Yu and M. Singh. Detecting deception in reputation management. In proceedings of Second International Joint Conference on Autonomous Agents and Multi-Agent Systems, pages 73–80, 2003. 33. Bin Yu, Munindar P. Singh, and Katia Sycara. Developing trust in large-scale peer-to-peer systems. In Proceedings of First IEEE Symposium on Multi-Agent Security and Survivability, pages 1–10, 2004.
https://openalex.org/W4382060258
https://bmcmedgenomics.biomedcentral.com/counter/pdf/10.1186/s12920-023-01569-w
English
null
Clinical and genetic analysis of a case of late onset carbamoyl phosphate synthase I deficiency caused by CPS1 mutation and literature review
BMC medical genomics
2,023
cc-by
7,551
Wang et al. BMC Medical Genomics (2023) 16:145 https://doi.org/10.1186/s12920-023-01569-w Wang et al. BMC Medical Genomics (2023) 16:145 https://doi.org/10.1186/s12920-023-01569-w BMC Medical Genomics BMC Medical Genomics Open Access Clinical and genetic analysis of a case of late onset carbamoyl phosphate synthase I deficiency caused by CPS1 mutation and literature review Shangyu Wang1†, Jinglin Chen2†, Xiaoqi Zhu2†, Tingting Huang1, Haifeng Xu1, Guohuan Ying1, Hao Qian1, Wenxin Lin1, Yiehen Tung1, Kaleem Ullah Khan1, Hu Guo1, Guo Zheng1, Haiying Lu1 and Gang Zhang1* © The Author(s) 2023. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://​creat​iveco​mmons.​org/​licen​ses/​by/4.​0/. The Creative Commons Public Domain Dedication waiver (http://​creat​iveco​ mmons.​org/​publi​cdoma​in/​zero/1.​0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Abstract Background  Carbamoyl phosphate synthetase I defect (CPS1D) is a rare disease with clinical case reports mainly in early neonates or adults, with few reports of first onset in late neonatal to childhood. We studied the clinical and genotypic characteristics of children with childhood onset CPS1D caused by two loci mutations (one of these is a rarely reported non-frame shift mutation) in the CPS1. Case presentation  We present a rare case of adolescent-onset CPS1D that had been misdiagnosed due to atypi- cal clinical features, and further investigations revealed severe hyperammonemia (287µmol/L; reference range 11.2 ~ 48.2umol/L). MRI of the brain showed diffuse white matter lesions. Blood genetic metabolic screening showed elevated blood alanine (757.06umol/L; reference range 148.8 ~ 739.74umol/L) and decreased blood citrul- line (4.26umol/L; reference range 5.45 ~ 36.77umol/L). Urine metabolic screening showed normal whey acids and uracil. Whole-exome sequencing revealed compound heterozygous mutations in the CPS1, a missense mutation (c.1145 C > T) and an unreported de novo non-frame shift mutation (c.4080_c.4091delAGG​CAT​CCT​GAT​), respectively, which provided a clinical diagnosis. Conclusion  A comprehensive description of the clinical and genetic features of this patient, who has a rare age of onset and a relatively atypical clinical presentation, will facilitate the early diagnosis and management of this type of late onset CPS1D and reduce misdiagnosis, thus helping to reduce mortality and improve prognosis. It also provides a preliminary understanding of the relationship between genotype and phenotype, based on a summary of previ- ous studies, which reminds us that it may help to explore the pathogenesis of the disease and contribute to genetic counselling and prenatal diagnosis. Keywords  Hyperammonemia, CPS1 gene variant, Emerging mutations, Urea cycle disorder/carbamoyl phosphate synthase I deficiency †Shangyu Wang, Jinglin Chen and Xiaoqi Zhu contributed equally to this work. *Correspondence: Gang Zhang zhanggangnjmu@126.com Full list of author information is available at the end of the article *Correspondence: Gang Zhang zhanggangnjmu@126.com Full list of author information is available at the end of the article *Correspondence: Gang Zhang zhanggangnjmu@126.com Full list of author information is available at the end of the article Background population, and will alert us to explore potential mecha- nisms of disease pathogenesis. g Carbamoyl phosphate synthase I deficiency (CPS1D) is an autosomal recessive inherited metabolic disorder which is one of the rarer types of urea cycle disorder (UCD), with sudden onset, rapid deterioration, atypical symptoms, low morbidity, death before diagnosis and a poor prognosis for survivors. The incidence of this type of disease is approximately 1/50,000 ~ 1/300,000 and can be classified as neonatal onset or late onset depending on the age of onset. Previous clinical cases have reported that the neonatal type is more common, with severe clin- ical manifestations and extremely high mortality [1, 2], with fewer reports of late onset cases. More importantly, the clinical presentation of children with late onset dis- ease is more unspecific and can be easily misdiagnosed. Furthermore, as the normal function of the CPS1 enzyme requires N-acetylglutamate as a metabolic activator, deficiency of CPS1 and N-acetylglutamate synthase can exhibit the same biochemical alterations (Fig. 1), mak- ing genetic testing the gold standard for the diagnosis of CPS1D. © The Author(s) 2023. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://​creat​iveco​mmons.​org/​licen​ses/​by/4.​0/. The Creative Commons Public Domain Dedication waiver (http://​creat​iveco​ mmons.​org/​publi​cdoma​in/​zero/1.​0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Wang et al. BMC Medical Genomics (2023) 16:145 Wang et al. BMC Medical Genomics (2023) 16:145 Page 2 of 10 Case presentation BMC Medical Genomics (2023) 16:145 Table 1  Clinical characteristics and laboratory tests of the children admitted to our hospital on two occasions 1  Clinical characteristics and laboratory tests of the children admitted to our hospital on two occasions Table 1  Clinical characteristics and laboratory tests of the children admitted to our hospital on two occasions Onset time 2018.01.14 2020.05.21 Clinical symptoms   Fever + -   Vomiting + +   Headache - +   Irritable + -   Dispirited + +   Coma - -   Poor appetite and sleep + +   Urination and defecation Normal Normal Arterial blood gas analysis Lost information   PH (reference, 7.25–7.45) - 7.348   PO2 (reference, 50-80mmHg) - Lost information   PCO2 (reference, 40-60mmHg) - Lost information   HCO3- (reference, 19-30mmol/L) - 22.5   BE (reference, –3 to + 3mmol/L) - -1.3   Lac (reference, 0.5 to 2.2mmol/L) - 1.8 Three routine (blood,urine, feces) Normal Normal Blood biochemical tests Normal Normal Blood ammonia (reference, 11.2 ~ 48.2µmol/L) Not Sent 287↑ Blood mass spectrometry profile Not done   Citrulline (reference, 5.45–36.77µmol/L) - 4.26↓   Alanine (reference, 148.80-739.74µmol/L) - 757.06↑ Urinary organic acids Not done   Urinary orotic acid (reference, 0-2mmol/L) - 0.0   Urinary uracil (reference, 0-8mmol/L) - 0.0 Cerebrospinal fluid Normal Normal Cephalometric MRI(Abnormal signals in the white matter of the brain) + + Abdominal Imaging (Hepatomegaly) + + Electroencephalogram (Background activity slowing down) - + CPS1 sequencing Not done   Allele 1 (from father) - c.1145 C > T   Allele 2 (from mother) - c.4080_c.4091delAGG​ CAT​CCT​GAT​ Table 1  Clinical characteristics and laboratory tests of the children admitted to our hospital on two occasions Onset time 2018.01.14 2020.05.21 Clinical symptoms   Fever + -   Vomiting + +   Headache - +   Irritable + -   Dispirited + +   Coma - -   Poor appetite and sleep + +   Urination and defecation Normal Normal Arterial blood gas analysis Lost information   PH (reference, 7.25–7.45) - 7.348   PO2 (reference, 50-80mmHg) - Lost information   PCO2 (reference, 40-60mmHg) - Lost information   HCO3- (reference, 19-30mmol/L) - 22.5   BE (reference, –3 to + 3mmol/L) - -1.3   Lac (reference, 0.5 to 2.2mmol/L) - 1.8 Three routine (blood,urine, feces) Normal Normal Blood biochemical tests Normal Normal Blood ammonia (reference, 11.2 ~ 48.2µmol/L) Not Sent 287↑ Blood mass spectrometry profile Not done   Citrulline (reference, 5.45–36.77µmol/L) - 4.26↓   Alanine (reference, 148.80-739.74µmol/L) - 757.06↑ Urinary organic acids Not done   Urinary orotic acid (reference, 0-2mmol/L) - 0.0   Urinary uracil (reference, 0-8mmol/L) - 0.0 Cerebrospinal fluid Normal Normal Cephalometric MRI(Abnormal signals in the white matter of the brain) + + Abdominal Imaging (Hepatomegaly) + + Electroencephalogram (Background activity slowing down) - + CPS1 sequencing Not done   Allele 1 (from father) - c.1145 C > T   Allele 2 (from mother) - c.4080_c.4091delAGG​ CAT​CCT​GAT​ were healthy and non-consanguineous Chinese, but her mother had an unexplained miscarriage at 28 weeks of gestation in G1. Case presentation A 13-year-old and 6-month-old girl was brought to our attention because she was hospitalized twice in our hos- pital (Table 1). The first complaint was “fever and vomit- ing for 2 days with abnormal mental behavior for 1 day”. The fever peaked at 39.2℃. 1  day earlier, she suddenly babbled, had disorientation of persons and places, was markedly irritable, and alternated with delirium indif- ference. Cerebrospinal fluid routine, biochemical, pres- sure, virus, and culture were negative. Cranial MRI suggested multiple punctate abnormal signal shadows in the white matter of the frontoparietal brain on both sides, considering the possibility of intracranial infec- tious lesions, diagnosed as “viral encephalitis”. After 10 days of treatment with acyclovir antiviral, dexametha- sone anti-inflammatory, supplemented with mannitol dehydration to lower cranial pressure, the above symp- toms soon disappeared. However, a review of liver func- tion showed that alanine aminotransferase (ALT436U/L; reference range 5 ~ 40U/L) and aspartate aminotrans- ferase (AST96.7 U/L; reference range 5 ~ 40 U/L) indica- tors were elevated, suggesting liver function impairment, and liver ultrasound indicated liver enlargement, so acy- clovir was discontinued and liver-protective treatment was given, while hepatitis virus was perfected and blood In this case, we have clinically, biochemically and molecularly characterized a rare child with late onset CPS1D and identified for the first time a new and rare non-frame shift mutation locus that may explain the late onset and good prognosis of this child. This result expands the mutational spectrum of the CPS1, facilitates early identification and genetic counselling of this patient Fig. 1  Diagram of urea cycle Fig. 1  Diagram of urea cycle Fig. 1  Diagram of urea cycle Page 3 of 10 Wang et al. Case presentation The patient showed appropriate growth and normal psychomotor milestones, but with academic failure. Physical examination: drowsiness, poor mental status, normal development, non-specific cardiopulmo- nary and abdominal examination, negative neurologi- cal examination. The blood ammonia concentration was 287umom/L and hyperammonemia was considered at the moment. The EEG suggested a slow background, but the cerebrospinal fluid examination was not abnormal. In combination with an abdominal CT suggesting a slightly hypodense liver and brain MRI findings: abnormal nodal signal in the white matter of the brain (Fig. 2), genetic metabolic disease was considered. Further refinement ammonia was sent. However, because the blood ammo- nia needed to be sent for out-of-hospital testing at that time, which was a cumbersome process, and because the parents believed that the child’s liver function and condition had improved significantly, they temporar- ily refused. After 1 week of hepatoprotective treatment, liver function and head MRI were normal, so the child was discharged on oral hepatoprotective medication. More than two years later, the child was readmitted with “vomiting for 1 week and headache with poor mental response for 3 days”, after having been treated for 1 week at an external hospital for a proposed diagnosis of “viral encephalitis” with poor results, and was then referred to our hospital. History taken: The patient was G2P1, with no abnormalities recorded during birth. Her parents Wang et al. BMC Medical Genomics (2023) 16:145 Wang et al. BMC Medical Genomics (2023) 16:145 Page 4 of 10 CPS1 (NM_001875), a missense mutation (c.1145 C > T, p. Pro382Leu) and an unreported de novo non-frame shift mutation (c.4080_c.4091delAGG​CAT​CCT​GAT​, p.Lys1360_I le1364delinsLys), respectively. of the blood genetic metabolic screening showed ele- vated blood alanine (757.06umol/L; reference range 148.8 ~ 739.74µmol/L) and decreased blood citrulline (4.26umol/L; reference range 5.45 ~ 36.77umol/L). Urine organic acid gas mass spectrometry showed normal whey acids and urea, suggesting impaired urea cycling. Immediately after admission, the child was given a low protein diet, arginine to promote ammonia excretion (100 ~ 200  mg/(kg-d)), coenzyme Q10 (10 ~ 20  mg/(kg- d)) and levocarnitine (30 ~ 200  mg/(kg-d)) to regulate metabolism, lactulose to improve ammonia metabolism, vitamin B complex to promote nerve repair, and intra- venous fluids to The child was given intravenous fluids to promote urinary ammonia excretion. Mutational analysis and pathogenicity prediction Mutational analysis and pathogenicity prediction CPS1 is localized on chromosome 2q34 and con- tains 43 exons spanning over 120  kb and encoding 1500 amino acids [3]. We performed mutation screen- ing using high-throughput sequencing technology, and all detected CPS1 mutations were lineage veri- fied by Sanger sequencing, aligned with the human genome (GRCh37 / hg19) reference sequence provided by the UCSC database, and compared with the cur- rently known human CPS1 sequence (National Center for Biotechnology Information, transcript number NM_001875). The database of mutant loci and single nucleotide polymorphisms (dbSNP) (http://​www.​ncbi.​ nlm.​nih.​gov/​SNP/), the Human Gene Mutation Data- base (HGMD) (http://​www.​hgmd.​cf.​ac.​uk/​ac/​index.​php) and the Millennium Genome Database (http://​brows​er.​ Fig. 2  Brain MRI of the patient at the time of the first study. Brain MRI (3.0T) were performed at the Children’s Hospital of Nanjing Medical University. Axial T1 images (A, D), T2 images (B, E), and T2 fluid-attenuated inversion recovery images (C, F). B, E Small lamellar slightly long T2 signal shadow in the white matter of the frontoparietal brain on both sides, and high signal intensity on T2 FLAIR (C, F) images involving the white frontoparietal white matter on both sides (red arrows) Fig. 2  Brain MRI of the patient at the time of the first study. Brain MRI (3.0T) were performed at the Children’s Hospital of Nanjing Medical University. Axial T1 images (A, D), T2 images (B, E), and T2 fluid-attenuated inversion recovery images (C, F). B, E Small lamellar slightly long T2 signal shadow in the white matter of the frontoparietal brain on both sides, and high signal intensity on T2 FLAIR (C, F) images involving the white frontoparietal white matter on both sides (red arrows) Fig. 2  Brain MRI of the patient at the time of the first study. Brain MRI (3.0T) were performed at the Children’s Hospital of N Axial T1 images (A, D), T2 images (B, E), and T2 fluid-attenuated inversion recovery images (C, F). B, E Small lamellar slightly in the white matter of the frontoparietal brain on both sides, and high signal intensity on T2 FLAIR (C, F) images involving white matter on both sides (red arrows) Fig. 2  Brain MRI of the patient at the time of the first study. Brain MRI (3.0T) were performed at the Children’s Hospital of Nanjing Medical University. Axial T1 images (A, D), T2 images (B, E), and T2 fluid-attenuated inversion recovery images (C, F). Case presentation After 1 week of treatment, the child’s headache and vomiting resolved significantly and she was discharged with instructions to follow a strict low-protein diet and to recheck her blood ammonia regularly. During hospitalization to clarify the type of urea cycle disorder, further refine- ment of whole exome sequencing after seeking parental consent identified compound heterozygous mutations in CPS1 (NM_001875), a missense mutation (c.1145 C > T, p. Pro382Leu) and an unreported de novo non-frame shift mutation (c.4080_c.4091delAGG​CAT​CCT​GAT​, p.Lys1360_I le1364delinsLys), respectively. of the blood genetic metabolic screening showed ele- vated blood alanine (757.06umol/L; reference range 148.8 ~ 739.74µmol/L) and decreased blood citrulline (4.26umol/L; reference range 5.45 ~ 36.77umol/L). Urine organic acid gas mass spectrometry showed normal whey acids and urea, suggesting impaired urea cycling. Immediately after admission, the child was given a low protein diet, arginine to promote ammonia excretion (100 ~ 200  mg/(kg-d)), coenzyme Q10 (10 ~ 20  mg/(kg- d)) and levocarnitine (30 ~ 200  mg/(kg-d)) to regulate metabolism, lactulose to improve ammonia metabolism, vitamin B complex to promote nerve repair, and intra- venous fluids to The child was given intravenous fluids to promote urinary ammonia excretion. After 1 week of treatment, the child’s headache and vomiting resolved significantly and she was discharged with instructions to follow a strict low-protein diet and to recheck her blood ammonia regularly. During hospitalization to clarify the type of urea cycle disorder, further refine- ment of whole exome sequencing after seeking parental consent identified compound heterozygous mutations in Mutational analysis and pathogenicity prediction B, E Small lamellar slightly long T2 signal shadow in the white matter of the frontoparietal brain on both sides, and high signal intensity on T2 FLAIR (C, F) images involving the white frontoparietal white matter on both sides (red arrows) Wang et al. BMC Medical Genomics (2023) 16:145 Page 5 of 10 1000g​enomes.​org/​index.​html) for comparative annota- tion. Finally, two compound heterozygous mutations were found in CPS1 of this child, the missense muta- tion c.1145  C > T (p.Pro382Leu) (NM_001875) and the non-frame shift mutation c.4080_c.4091delAGG​CAT​ CCT​GAT​ (p.Lys1360_Ile1364delinsLys) (NM_001875), where c.1145  C > T is a reported pathogenic muta- tion in CPS1D [4], while the non-shifted mutation c.4080_c.4091delAGG​CAT​CCT​GAT​ is found in OMIM, UCSC, HGMD, dbSNP, 1000 Genome, ExAC and gno- mAD publications and public databases are new and not reported. The missense mutation c.1145 C > T results in an amino acid change from the non-polar amino acid proline (P) to the non-polar amino acid leucine (L), and the non-shift mutation c.4080_c.4091delAGG​CAT​CCT​ GAT​ would result in an amino acid deletion at posi- tions 1361–1364 (isoleucine-leucine-isoleucine-glycine), 1000g​enomes.​org/​index.​html) for comparative annota- tion. Finally, two compound heterozygous mutations were found in CPS1 of this child, the missense muta- tion c.1145  C > T (p.Pro382Leu) (NM_001875) and the non-frame shift mutation c.4080_c.4091delAGG​CAT​ CCT​GAT​ (p.Lys1360_Ile1364delinsLys) (NM_001875), where c.1145  C > T is a reported pathogenic muta- tion in CPS1D [4], while the non-shifted mutation c.4080_c.4091delAGG​CAT​CCT​GAT​ is found in OMIM, UCSC, HGMD, dbSNP, 1000 Genome, ExAC and gno- mAD publications and public databases are new and not reported. The missense mutation c.1145 C > T results in an amino acid change from the non-polar amino acid proline (P) to the non-polar amino acid leucine (L), and the non-shift mutation c.4080_c.4091delAGG​CAT​CCT​ GAT​ would result in an amino acid deletion at posi- tions 1361–1364 (isoleucine-leucine-isoleucine-glycine), resulting in a protein length change. The pathogenicity of these two mutant loci was further analyzed using various prediction tools (SIFT, Polyphen2_HDIV, PROVEAN, MutationTaster, M-CAP, REVEL, GERP, phyloP20way, phastCons20way), Fig. 3A shows the pathogenicity using Mutation Taster for the pathogenicity prediction. Two variants were classified as “possibly pathogenic” accord- ing to the variant classification criteria of the American College of Medical Genetics and Genomics (ACMG 2015), and these variants were verified by Sanger sequencing in a family with a mother carrying the c. 4080_c.4091delAGG​CAT​CCT​GAT​ heterozygous muta- tion and a father with the c.1145  C > T heterozygous mutation (Fig. Follow up Although the child complied with a low protein diet for a short time after discharge and had regular blood ammo- nia checks, due to poor compliance, he was rushed to our PICU more than 8 months after his second discharge due to vomiting and coma after a large high-protein diet (hot pot), and in combination with the cause of this onset and the underlying disease of CPS1D, the emer- gency blood ammonia was 301 µmol/L (reference range 11.2 ~ 48.2umol/L). As the child was in a critical condi- tion and in a coma, he was immediately given haemodi- alysis 7 times (1 time/day), fluid infusion, arginine and sodium benzoate to promote ammonia excretion, levo- carnitine to promote metabolism, lactulose to reduce ammonia build-up in the intestine and B vitamins, as well as a ban on oral feeding and low amino acid intravenous According to the The Human Gene Mutation Database (HGMD), more than 270 CPS1 mutations have been reported internationally so far, but there are few cases in China [1, 5]. These mutations are unevenly distributed in the CPS1, which implies that certain regions are primar- ily responsible for enzyme folding and function. The CPS1 protein is divided into six domains (Fig. 6), of which two phosphorylation structural domains and the large subunit of the NAG-binding structural domain are important for enzyme activation, and mutation sites occurring at these sites are more likely to be pathogenic [2, 4]. The clinical presentation and biochemical response of this patient are consistent with the mutational find- ings, suggesting that the current understanding of the CPS1 protein structure can be used to explain the Fig. 4  We constructed the above CPS1 models using the 6w2j.1.A human homology template in Swiss-Model software, respectively. The red marker in Figure A and the green marker in Figure C represent the 382 Pro position, the red marker in Figure B and the green marker in Figure D represent the 382 Leu position, the purple area in Figure D represents the amino acids and their functional residues near the missense mutation site, and the yellow areas in Figure C and Figure D represent the hydrogen bonding of amino acids to other sites. Mutational analysis and pathogenicity prediction 3B), but without clinical manifestations, were consistent with an autosomal recessive disease pathogenesis pattern. Protein structure maps were gen- erated using Swiss-pdb Viewer 4.10.The CPS1 protein Fig. 3  Pathogenicity was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger sequencing (B), i.e. c.4080_c.4091 delAGG​CAT​CCT​GAT​ heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation carried by the father city was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger . c.4080_c.4091 delAGG​CAT​CCT​GAT​ heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation er Fig. 3  Pathogenicity was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger sequencing (B), i.e. c.4080_c.4091 delAGG​CAT​CCT​GAT​ heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation carried by the father city was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger . c.4080_c.4091 delAGG​CAT​CCT​GAT​ heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation er Fig. 3  Pathogenicity was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger sequencing (B), i.e. c.4080_c.4091 delAGG​CAT​CCT​GAT​ heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation carried by the father Fig. 3  Pathogenicity was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger sequencing (B), i.e. c.4080_c.4091 delAGG​CAT​CCT​GAT​ heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation carried by the father Wang et al. BMC Medical Genomics (2023) 16:145 Page 6 of 10 structure of the missense mutation c.1145 C > T is shown in Fig. 4, and the CPS1 protein structure of the non- frame shift mutation c.4080_c.4091delAGG​CAT​CCT​ GAT​ is shown in Fig. 5, with a theoretical 25% risk of disease in either fetus at the time of parental birth. nutrition. The child’s consciousness turned clear on the 7th day of treatment, the blood ammonia completely decreased to normal on the 43rd day, and he was dis- charged from the hospital on the 46th day. No hospital admissions for hyperammonemia at follow-up to date. Follow up The mutation at the Pro position disrupts the primary and secondary structure of the original protein, and the amino acid loop at this position is ruptured, while the hydrogen bonding of the amino acid at this position to other amino acids is not significantly altered Fig. 4  We constructed the above CPS1 models using the 6w2j.1.A human homology template in Swiss-Model software, respectively. The red marker in Figure A and the green marker in Figure C represent the 382 Pro position, the red marker in Figure B and the green marker in Figure D represent the 382 Leu position, the purple area in Figure D represents the amino acids and their functional residues near the missense mutation site, and the yellow areas in Figure C and Figure D represent the hydrogen bonding of amino acids to other sites. The mutation at the Pro position disrupts the primary and secondary structure of the original protein, and the amino acid loop at this position is ruptured, while the hydrogen bonding of the amino acid at this position to other amino acids is not significantly altered Page 7 of 10 Wang et al. BMC Medical Genomics (2023) 16:145 Fig. 5  The c.4080_c.4091delAGG​CAT​CCT​GAT​ frameshift mutation did not result in a change in the reading frame, but only in an amino acid deletion, resulting in a change in protein length and structure. A is the wild type and B is the mutant. The protein prediction software SWISS-MODEL was used to predict the three-dimensional structure of the protein, with the red arrows pointing to the protein structure where the mutant differs from the wild type. C is the wild type and D is the mutant Fig. 5  The c.4080_c.4091delAGG​CAT​CCT​GAT​ frameshift mutation did not result in a change in the reading frame, but only in an amino acid deletion, resulting in a change in protein length and structure. A is the wild type and B is the mutant. The protein prediction software SWISS-MODEL was used to predict the three-dimensional structure of the protein, with the red arrows pointing to the protein structure where the mutant differs from the wild type. C is the wild type and D is the mutant Fig. 5  The c.4080_c.4091delAGG​CAT​CCT​GAT​ frameshift mutation did not result in a change in the reading frame, but only in an amino acid deletion, resulting in a change in protein length and structure. Follow up A is the wild type and B is the mutant. The protein prediction software SWISS-MODEL was used to predict the three-dimensional structure of the protein, with the red arrows pointing to the protein structure where the mutant differs from the wild type. C is the wild type and D is the mutant the locus. Homology modeling by Swiss-Model showed that the mutation at position 382 Pro disrupted the primary and secondary structure of the original pro- tein, resulting in a break in the amino acid loop at this position, but no significant change in the hydrogen bonding force between the amino acid at this position and other amino acids, which we speculate may also account for the late onset, good outcome and low neu- rological damage in our child. Similarly Swiss-Model shows that c.4080_c.4091delAGG​CAT​CCT​GAT​ (p.Lys1360_Ile1364delinsLys) is located in the NAG- binding structural domain of the CPS1 enzyme (Fig. 5), the deletion of four amino acids occurs at a highly evo- lutionarily conserved position with a lysine inserted, and a small deletion likely disrupts the conformation genetic mutation in this child. Genetic analysis of this patient revealed that c.1145 C > T (p.P382L) is located in the N-terminal subunit of the enzyme, and we sum- marized 20 case reports of CPS1D published in the open literature base over the past 5 years (Table 2), of which 5 were late onset cases (4 double allele variants and 1 single allele variant) [10, 13, 14], and all children with late double allele variants had a mutation in the N-terminal subunit. These cases had a good progno- sis with onset at puberty, which is basically consistent with the “atypical” late onset features, suggesting that probably mutations in this region have no significant effect on enzyme function. In addition, analysis of the etiology from the site of the missense mutation may be related to the insignificant location of the mutation in Wang et al. BMC Medical Genomics (2023) 16:145 Page 8 of 10 Fig. 6  Structural basis of CPS1 function and defects. Follow up The question marks indicate the so-called oligomeric structural domains of EcCPS all single allele variants occurred in the same 20  kDa unknown functional structure and had a variable prog- nosis [9, 12, 14]. This requires further studies to deter- mine whether CPS1 activity in such patients could be influenced by certain acquired factors. In any case, this may have some clinical implications for the diagnosis and prognosis of this patient. of the structural domain at the NAG binding site, thereby disrupting NAG binding to CPS1 and further inhibiting enzyme activation. To our knowledge, there are only four previous reports of small deletion muta- tions in CPS1. We conclude that although previous studies have shown that mutant sites are more likely to be pathogenic when located in the structural domain encoding the NAG binding site, not all mutation types result in severe clinical manifestations, especially when there is already a mutation located in the N-terminal structural domain. We hypothesize that in this case, although the NAG structural domain remains an entry site for ammonia substrates, it has little effect on the Km of ammonia in CPS1, while it cannot be excluded that these two mutant sites act as a mutual check and balance, however, further functional studies are still needed to elucidate the molecular pathogenesis of the new mutation. p g p In conclusion, CPS1D is usually sporadic and diffi- cult to diagnose due to the multi-organ nature of its clinical manifestations, mostly in the early fatal neo- natal period [17], but atypical late onset cases should not be ignored. Therefore, in clinical practice, children with recurrent gastrointestinal symptoms, impaired consciousness, abnormal psychiatric behaviour, veg- etarian habits and unexplained neuropsychological developmental delays should be alerted to such dis- orders and undergo early blood ammonia screening to minimize misdiagnosis. If hyperammonaemia is detected, early blood and urine amino acid analysis and genetic testing should be performed, thus helping to reduce mortality and improve prognosis. Follow up A bar chart consisting of the structural domains of the CPS1 peptide, color coded with the different structural domains, with arrows at the top of the bar chart indicating the position of all amino acid substitutions in Table 2, red font for late onset, red bold font for the mutation site in the child with this case, and black font for early onset, with the number of the first and last residue of each structural domain given at the bottom of the bar chart. The color codes of the different structural domains are also used in the other panels. The masses of the different structural domains, in kDa, are shown in black in the bar chart. The question marks indicate the so-called oligomeric structural domains of EcCPS Fig. 6  Structural basis of CPS1 function and defects. A bar chart consisting of the structural domains of the CPS1 peptide, color coded with the different structural domains, with arrows at the top of the bar chart indicating the position of all amino acid substitutions in Table 2, red font for late onset, red bold font for the mutation site in the child with this case, and black font for early onset, with the number of the first and last residue of each structural domain given at the bottom of the bar chart. The color codes of the different structural domains are also used in the other panels. The masses of the different structural domains, in kDa, are shown in black in the bar chart. The question marks indicate the so-called oligomeric structural domains of EcCPS Fig. 6  Structural basis of CPS1 function and defects. A bar chart consisting of the structural domains of the CPS1 peptide, color coded with the different structural domains, with arrows at the top of the bar chart indicating the position of all amino acid substitutions in Table 2, red font for late onset, red bold font for the mutation site in the child with this case, and black font for early onset, with the number of the first and last residue of each structural domain given at the bottom of the bar chart. The color codes of the different structural domains are also used in the other panels. The masses of the different structural domains, in kDa, are shown in black in the bar chart. Follow up We first identified two mutations in CPS1 that may counterbal- ance each other in a Chinese patient with a compound heterozygous mutation and comprehensively charac- terized their clinical features, which may facilitate our exploration of the underlying mechanisms of disease In addition, using 20 case reports of CPS1D that could be found in publicly available databases over the past 5 years (Table 2), we initially explored the intrinsic gen- otype-phenotype relationship of CPS1D and identified all variant loci on the structural domain of the CPS1 enzyme (Fig. 6). The majority of the 20 patients had a double allele variant and a few cases (6, 10, 16;2 neo- natal onset and 1 late) had a single allele variant, and Wang et al. Follow up BMC Medical Genomics (2023) 16:145 Page 9 of 10 Table 2  Summary of reported mutation loci in CPS1D cases in the last 5 years Case Variable loci Structural Domain Clinical Type Ending References Case1 p.Gly58Val N-Terminal Early-onset Survival (short-term) Chen et al., 2018 [6] p.Gly266Arg Case2 p.Pro983Ser Carbamate phosphorylation Early-onset Death Bai et al., 2022 [7] p.Arg850Cys 20 kDa unknown functional structural Case3 p.Pro846Leu 20 kDa unknown functional structural Early-onset Death Zhang et al., 2017 [1] p.Met1148Lys Carbamate phosphorylation Case4 p.Cys600Tyr Bicarbonate phosphorylation Early-onset Death Zhang et al., 2017 [1] p.Leu 1363_Ile1366del NAG binding Case5 p.Gln194* N-Terminal Early-onset Survival (short-term) Choi R et al., 2017 [8] p.Gly516Alafs*5 Bicarbonate phosphorylation Case6 p.Asp920His 20 kDa unknown functional structural Early-onset Unknown M.Sc et al., 2018 [9] Case7 p.Pro265Thr Ancestral inactive glutaminase Late-onset Survival (short-term) Lin et al., 2022 [10] p.Leu1398Argfs*25 NAG binding Case8 p.Arg787* Bicarbonate phosphorylation Early-onset Survival (short-term) Sugiyama Y et al., 2020 [11] p.Val1187Phe Carbamate phosphorylation Case9 p.Thr544Met Bicarbonate phosphorylation Early-onset Death Yan et al., 2020 [12] p.Gly661Cys Case10 p.Glu966X 20 kDa unknown functional structural Early-onset Death Yan et al., 2020 [12] Case11 p.Ala160Thr N-Terminal Late-onset Survival (long-term) Fan et al., 2020 [13] p.Pro382Leu Ancestral inactive glutaminase Case12 p.Thr955Thrfs*12 20 kDa unknown functional structural Early-onset Survival (short-term) Fan et al., 2020 [13] p.Arg1317Trp Carbamate phosphorylation Case13 p.Val653Gly Bicarbonate phosphorylation Late-onset Survival (long-term) Fan et al., 2020 [13] p.Pro382Leu Ancestral inactive glutaminase Case14 p.Trp1315X Carbamate phosphorylation Early-onset Survival (short-term) Fan et al., 2020 [13] p.Arg587His Bicarbonate phosphorylation Case15 p.Glu379Val Ancestral inactive glutaminase Late-onset Survival (long-term) Fan et al., 2020 [13] p.Pro1265Ser Carbamate phosphorylation Case16 p.Arg850His 20 kDa unknown functional structural Late-onset Survival (long-term) Ishikawa et al., 2022 [14] Case17 p.Arg787X Bicarbonate phosphorylation Early-onset Survival (long-term) IMATAKA et al., 2021 [15] c.236 + 6T > C - Case18 p.Arg721Gln Bicarbonate phosphorylation Early-onset Survival (long-term) Zhou et al., 2020 [16] p.Giy980Ser Carbamate phosphorylation Case19 p.Leu1245His Carbamate phosphorylation Early-onset Survival (long-term) Zhou et al., 2020 [16] p.Arg1262∗ Case20 p.Arg803Gly Bicarbonate phosphorylation Early-onset Survival (short-term) Yang et al., 2017 [5] p.Gly108Glu N-Terminal Table 2  Summary of reported mutation loci in CPS1D cases in the last 5 years pathogenesis and thus further clarify the genotype and phenotype associated with the disease. This study also illustrates the impact of genetic counseling on families and contributes to the prevention of birth defects. Authors’ contributions SW and JC and XZ collected the data and wrote the manuscript, TH and HX contributed significantly to analysis and manuscript preparation, GY and HQ analyzed the data and revised the manuscript, and WL and YT diagnosed the disease, KUK, HG, GZ and HL helped perform the analysis with constructive discussions. All the authors have accepted responsibility for the entire content of this submitted manuscript and approved submission. All authors read and approved the final manuscript. Abbreviations CPS1D Carbamoyl phosphate synthetase I defect UCD Urea cycle disorder CP Carbamoyl phosphate NAG N-acetylglutamate HGMD Human Gene Mutation Database Author details 1 17. Diez-Fernandez C, Häberle J. Targeting CPS1 in the treatment of Carba- moyl phosphate synthetase 1 (CPS1) deficiency, a urea cycle disorder. Expert Opin Ther Targets. 2017;21(4):391-9. 17. Diez-Fernandez C, Häberle J. Targeting CPS1 in the treatment of Carba- moyl phosphate synthetase 1 (CPS1) deficiency, a urea cycle disorder. Expert Opin Ther Targets. 2017;21(4):391-9. 1 Department of Neurology, Children’s Hospital of Nanjing Medical University, No.72 Guangzhou Road, Nanjing, Jiangsu, China. 2 Nanjing Medical University, Nanjing, China. Received: 18 September 2022 Accepted: 2 June 2023 Springer Nature remains neutral with regard to jurisdictional claims in pub- lished maps and institutional affiliations. Competing interests The authors declare that they have no competing interests. Consent for publication We obtained informed written consent from the patient’s parents for the publication of this case report. yi y 16. Zhou Q, Huang H, Ma L, Zhu T. The Application of Next-Generation Sequencing (NGS) in Neonatal-Onset Urea Cycle Disorders (UCDs): Clinical Course, Metabolomic Profiling, and Genetic Findings in Nine Chinese Hyperammonemia Patients. Biomed Res Int. 2020;2020:5690915. Published 2020 Aug 31. 16. Zhou Q, Huang H, Ma L, Zhu T. The Application of Next-Generation Sequencing (NGS) in Neonatal-Onset Urea Cycle Disorders (UCDs): Clinical Course, Metabolomic Profiling, and Genetic Findings in Nine Chinese Hyperammonemia Patients. Biomed Res Int. 2020;2020:5690915. Published 2020 Aug 31. Funding Thi d This study was partly supported by the Postdoctoral Research Foundation of China (2020M671550), the Epilepsy Research Fund of Chinese Anti-Epilepsy Association (CU-A-2021-17), the Nanjing Municipal Health Bureau key project Page 10 of 10 Wang et al. BMC Medical Genomics (2023) 16:145 (ZKX21046), and the Jiangsu Province College Students Innovation and Entre- preneurship Training Program (202010312062Z). 1 deficiency-Lessons learned. Mol Genet Metab Rep. 2022;33:100942. Published 2022 Nov 26. 1 deficiency-Lessons learned. Mol Genet Metab Rep. 2022;33:100942. Published 2022 Nov 26. 1 deficiency-Lessons learned. Mol Genet Metab Rep. 2022;33:100942. Published 2022 Nov 26. 11. Sugiyama Y, Shimura M, Ogawa-Tominaga M, et al. Therapeutic effect of N-carbamylglutamate in CPS1 deficiency. Mol Genet Metab Rep. 2020;24:100622. Published 2020 Jul 8. 11. Sugiyama Y, Shimura M, Ogawa-Tominaga M, et al. Therapeutic effect of N-carbamylglutamate in CPS1 deficiency. Mol Genet Metab Rep. 2020;24:100622. Published 2020 Jul 8. Ethics approval and consent to participate This study has been performed in accordance with the Declaration of Helsinki and has been approved by the ethic committee of Children’s Hospital Affili- ated to Nanjing Medical University. Written informed consent to participate was obtained from patient’s parents. 14. Ishikawa R, Sugimoto T, Abe T, et al. A 36-year-old Man with Repeated Short-term Transient Hyperammonemia and Impaired Consciousness with a Confirmed Carbamoyl Phosphate Synthase 1 Gene Monoallelic Mutation. Intern Med. 2022;61(9):1387-92. 14. Ishikawa R, Sugimoto T, Abe T, et al. A 36-year-old Man with Repeated Short-term Transient Hyperammonemia and Impaired Consciousness with a Confirmed Carbamoyl Phosphate Synthase 1 Gene Monoallelic Mutation. Intern Med. 2022;61(9):1387-92. 15. Imataka G, Ishii J, Ando Y, et al. Long-term survival of a patient with acute neonatal-onset metabolic encephalopathy with carbamoyl phosphate synthetase 1 deficiency. Eur Rev Med Pharmacol Sci. 2020;24(19):10051-3. Availability of data and materials The datasets used or analysed during the current study are available from the corresponding author on reasonable request. 12. Yan B, Wang C, Zhang K, et al. Novel Neonatal Variants of the Carbamoyl Phosphate Synthetase 1 Deficiency: Two Case Reports and Review of Literature. Front Genet. 2019;10:718. Published 2019 Aug 22. References 1. Zhang G, Chen Y, Ju H, Bei F, Li J, Wang J, Sun J, Bu J. Carbamoyl phos- phate synthetase 1 deficiency diagnosed by whole-exome sequencing. J Clin Lab Anal. 2018;32(2):e22241. 1. Zhang G, Chen Y, Ju H, Bei F, Li J, Wang J, Sun J, Bu J. Carbamoyl phos- phate synthetase 1 deficiency diagnosed by whole-exome sequencing. J Clin Lab Anal. 2018;32(2):e22241. 2. Ali EZ, Khalid MKNM, Yunus ZM, Yakob Y, Chin CB, Latif KA, et al. Carba- moylphosphate synthetase 1 (CPS1) deficiency: clinical, biochemical, and molecular characterization in malaysian patients. Eur J Pediatrics. 2016;175:339–46. 2. Ali EZ, Khalid MKNM, Yunus ZM, Yakob Y, Chin CB, Latif KA, et al. Carba- moylphosphate synthetase 1 (CPS1) deficiency: clinical, biochemical, and molecular characterization in malaysian patients. Eur J Pediatrics. 2016;175:339–46. 3. Diez-Fernandez C, Häberle J. Targeting CPS1 in the treatment of Carba- moyl phosphate synthetase 1 (CPS1) deficiency, a urea cycle disorder. Expert Opin Ther Targets. 2017;21(4):391–9. 3. Diez-Fernandez C, Häberle J. Targeting CPS1 in the treatment of Carba- moyl phosphate synthetase 1 (CPS1) deficiency, a urea cycle disorder. Expert Opin Ther Targets. 2017;21(4):391–9. 4. Haberle J, Shchelochkov OA, Wang J, et al. Molecular defects in human carbamoy phosphate synthetase I: mutational spectrum, diagnostic and protein structure considerations. Hum Mutat. 2011;32(6):579–89. 4. Haberle J, Shchelochkov OA, Wang J, et al. Molecular defects in human carbamoy phosphate synthetase I: mutational spectrum, diagnostic and protein structure considerations. Hum Mutat. 2011;32(6):579–89. 5. Yang X, Shi J, Lei H, Xia B, Mu D. Neonatal-onset carbamoyl phosphate synthetase I deficiency: a case report. Med (Baltim). 2017;96(26):e7365. 6. Rüegger CM, Lindner M, Ballhausen D, Baumgartner MR, Beblo S, Das A, g carbamoy phosphate synthetase I: mutational spectrum, diagnostic and protein structure considerations. Hum Mutat. 2011;32(6):579–89. 5. Yang X, Shi J, Lei H, Xia B, Mu D. Neonatal-onset carbamoyl phosphate synthetase I deficiency: a case report Med (Baltim) 2017;96(26):e7365 protein structure considerations. Hum Mutat. 2011;32(6):579–89. 5. Yang X, Shi J, Lei H, Xia B, Mu D. Neonatal-onset carbamoyl phosphate synthetase I deficiency: a case report Med (Baltim) 2017;96(26):e7365 5. Yang X, Shi J, Lei H, Xia B, Mu D. Neonatal-onset carbamoyl phosphate synthetase I deficiency: a case report. Med (Baltim). 2017;96(26):e7365. i 6. Declarations 13. Fan L, Zhao J, Jiang L, et al. Molecular, biochemical, and clinical analyses of five patients with carbamoyl phosphate synthetase 1 deficiency. J Clin Lab Anal. 2020;34(4):e23124. References Rüegger CM, Lindner M, Ballhausen D, Baumgartner MR, Beblo S, Das A, Gautschi M, Glahn EM, Grünert SC, Hennermann J, Hochuli M, Huemer M, Karall D, Kölker S, Lachmann RH, Lotz-Havla A, Möslinger D, Nuoffer JM, Plecko B, Rutsch F, Santer R, Spiekerkoetter U, Staufner C, Stricker T, Wijburg FA, Williams M, Burgard P, Häberle J. Cross-sectional observational study of 208 patients with non-classical urea cycle disorders. J Inherit Metab Dis. 2014;37(1):21–30. 7. Bai R, He A, Guo J, et al. Novel pathogenic variant (c.2947C>T) of the car- bamoyl phosphate synthetase 1 gene in neonatal-onset deficiency. Front Neurosci. 2022;16:1025572. Published 2022 Oct 21. 7. Bai R, He A, Guo J, et al. Novel pathogenic variant (c.2947C>T) of the car- bamoyl phosphate synthetase 1 gene in neonatal-onset deficiency. Front Neurosci. 2022;16:1025572. Published 2022 Oct 21. • fast, convenient online submission • thorough peer review by experienced researchers in your field • rapid publication on acceptance • support for research data, including large and complex data types • gold Open Access which fosters wider collaboration and increased citations maximum visibility for your research: over 100M website views per year • At BMC, research is always in progress. Learn more biomedcentral.com/submissions Ready to submit your research Ready to submit your research ? Choose BMC and benefit from: ? Choose BMC and benefit from: • fast, convenient online submission • thorough peer review by experienced researchers in your field • rapid publication on acceptance • support for research data, including large and complex data types • gold Open Access which fosters wider collaboration and increased citations maximum visibility for your research: over 100M website views per year • At BMC, research is always in progress. Learn more biomedcentral.com/submissions Ready to submit your research Ready to submit your research ? Choose BMC and benefit from: ? Choose BMC and benefit from: • fast, convenient online submission • thorough peer review by experienced researchers in your field • rapid publication on acceptance • support for research data, including large and complex data types • gold Open Access which fosters wider collaboration and increased citations maximum visibility for your research: over 100M website views per year • At BMC, research is always in progress. Learn more biomedcentral.com/submissions Ready to submit your research Ready to submit your research ? Choose BMC and benefit from: ? Choose BMC and benefit from: 8. 10. Lin HT, Enchautegui-Colon Y, Huang YR, Zimmerman C, DeMarzo D, Tsai AC. Novel compound heterozygote variants: c.4193_4206delinsG (p.Leu1398Argfs*25), c.793C>A (p.Pro265Thr), in the CPS1 gene (NM_001875.4) causing late onset carbamoyl phosphate synthetase 9. Talebi M, Yahya Vahidi Mehrjardi M, Kalhor K, Dehghani M. Is there any relationship between mutation in CPS1 Gene and pregnancy loss? Int J Reprod Biomed. 2018;17(5):371-4. Published 2018 Jun 13. Publisher’s Note Received: 18 September 2022 Accepted: 2 June 2023 Received: 18 September 2022 Accepted: 2 June 2023 • fast, convenient online submission • thorough peer review by experienced researchers in your field • rapid publication on acceptance • support for research data, including large and complex data types • gold Open Access which fosters wider collaboration and increased citations maximum visibility for your research: over 100M website views per year • At BMC, research is always in progress. Learn more biomedcentral.com/submissions Ready to submit your research Ready to submit your research ? Choose BMC and benefit from: ? Choose BMC and benefit from: References Choi R, Park HD, Yang M, et al. Novel Pathogenic Variant (c.580C>T) in the CPS1 Gene in a Newborn With Carbamoyl Phosphate Synthetase 1 Deficiency Identified by Whole Exome Sequencing. Ann Lab Med. 2017;37(1):58-62. 8. Choi R, Park HD, Yang M, et al. Novel Pathogenic Variant (c.580C>T) in the CPS1 Gene in a Newborn With Carbamoyl Phosphate Synthetase 1 Deficiency Identified by Whole Exome Sequencing. Ann Lab Med. 2017;37(1):58-62. 9. Talebi M, Yahya Vahidi Mehrjardi M, Kalhor K, Dehghani M. Is there any relationship between mutation in CPS1 Gene and pregnancy loss? Int J Reprod Biomed. 2018;17(5):371-4. Published 2018 Jun 13. 10. Lin HT, Enchautegui-Colon Y, Huang YR, Zimmerman C, DeMarzo D, Tsai AC. Novel compound heterozygote variants: c.4193_4206delinsG (p.Leu1398Argfs*25), c.793C>A (p.Pro265Thr), in the CPS1 gene (NM_001875.4) causing late onset carbamoyl phosphate synthetase
https://openalex.org/W2290682686
https://www.nrel.gov/docs/fy13osti/55203.pdf
English
null
Hot Water Distribution System Model Enhancements
null
2,012
public-domain
7,341
Hot Water Distribution M. Hoeschele and E. Weitzel Alliance for Residential Building Innovation (ARBI) November 2012 November 2012 Printed on paper containing at least 50% wastepaper, including 20% postconsumer waste NOTICE This report was prepared as an account of work sponsored by an agency of the United States government. Neither the United States government nor any agency thereof, nor any of their employees, subcontractors, or affiliated parties makes any warranty, express or implied, or assumes any legal liability or responsibility for the accuracy, completeness, or usefulness of any information, apparatus, product, or process disclosed, or represents that its use would not infringe privately owned rights. Reference herein to any specific commercial product, process, or service by trade name, trademark, manufacturer, or otherwise does not necessarily constitute or imply its endorsement, recommendation, or favoring by the United States government or any agency thereof. The views and opinions of authors expressed herein do not necessarily state or reflect those of the United States government or any agency thereof. Available electronically at http://www.osti.gov/bridge Available for a processing fee to U.S. Department of Energy and its contractors, in paper, from: U.S. Department of Energy Office of Scientific and Technical Information P.O. Box 62 Oak Ridge, TN 37831-0062 phone: 865.576.8401 fax: 865.576.5728 email: mailto:reports@adonis.osti.gov Available for sale to the public, in paper, from: U.S. Department of Commerce National Technical Information Service 5285 Port Royal Road Springfield, VA 22161 phone: 800.553.6847 fax: 703.605.6900 email: orders@ntis.fedworld.gov online ordering: http://www.ntis.gov/ordering.htm Available electronically at http://www.osti.gov/bridge Available for a processing fee to U.S. Department of Energy and its contractors, in paper, from: U.S. Department of Energy Office of Scientific and Technical Information P.O. Box 62 Oak Ridge, TN 37831-0062 phone: 865.576.8401 fax: 865.576.5728 email: mailto:reports@adonis.osti.gov Printed on paper containing at least 50% wastepaper, including 20% postconsumer waste Printed on paper containing at least 50% wastepaper, including 20% postconsumer waste [This page left blank] iv iv List of Figures g Figure 1. Comparison of lab and simulated uninsulated pipe UAs ....................................................... 7 Figure 2. Insulated pipe UAs as a function of insulation conductivity ................................................. 8 Figure 3. Comparison of lab and simulated insulated pipe UAs ............................................................ 9 Unless otherwise noted, all figures were created by the ARBI team. List of Tables Table 1. HWSIM Required Inputs for Combined Convective/Radiant Heat Transfer Modeling .......... 4 Table 2. Combined Convective/Radiant Heat Transfer Modeling Algorithms ...................................... 5 Table 3. Comparison of Lab and Simulated Plastic Pipe Outlet Temperatures and UAs .................... 6 Table 4. Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs ................... 6 Unless otherwise noted, all tables were created by the ARBI team. Figure 1. Comparison of lab and simulated uninsulated pipe UAs ....................................................... 7 Figure 2. Insulated pipe UAs as a function of insulation conductivity ................................................. 8 Figure 3. Comparison of lab and simulated insulated pipe UAs ............................................................ 9 Figure 1. Comparison of lab and simulated uninsulated pipe UAs ....................................................... 7 Figure 2. Insulated pipe UAs as a function of insulation conductivity ................................................. 8 Figure 3. Comparison of lab and simulated insulated pipe UAs ............................................................ 9 Unless otherwise noted, all figures were created by the ARBI team. Contents Contents List of Figures ............................................................................................................................................ vi List of Tables .............................................................................................................................................. vi Definitions .................................................................................................................................................. vii Executive Summary ................................................................................................................................. viii 1 Introduction ........................................................................................................................................... 1 1.1 Background and Motivation ................................................................................................1 1.1.1 HWSIM Background ...............................................................................................2 1.2 Research Questions ..............................................................................................................3 2 Methodology ......................................................................................................................................... 4 2.1 Modeling Methodology .......................................................................................................4 3 Results ................................................................................................................................................... 5 4 Conclusions and Recommendations ................................................................................................. 9 References ................................................................................................................................................. 11 Contents List of Figures ............................................................................................................................................ vi List of Tables .............................................................................................................................................. vi Definitions .................................................................................................................................................. vii Executive Summary ................................................................................................................................. viii 1 Introduction ........................................................................................................................................... 1 1.1 Background and Motivation ................................................................................................1 1.1.1 HWSIM Background ...............................................................................................2 1.2 Research Questions ..............................................................................................................3 2 Methodology ......................................................................................................................................... 4 2.1 Modeling Methodology .......................................................................................................4 3 Results ................................................................................................................................................... 5 4 Conclusions and Recommendations ................................................................................................. 9 References ................................................................................................................................................. 11 v List of Tables Table 1. HWSIM Required Inputs for Combined Convective/Radiant Heat Transfer Modeling .......... 4 Table 2. Combined Convective/Radiant Heat Transfer Modeling Algorithms ...................................... 5 Table 3. Comparison of Lab and Simulated Plastic Pipe Outlet Temperatures and UAs .................... 6 Table 4. Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs ................... 6 Unless otherwise noted, all tables were created by the ARBI team. vi vi Definitions ARBI Alliance for Residential Building Innovation ARIES Advanced Residential Integrated Energy Solutions AET Applied Energy Technology CARB Consortium for Advanced Residential Buildings CEC California Energy Commission CU University of Colorado CPVC Chlorinated Polyvinyl Chloride DEG Davis Energy Group k Thermal conductivity LBNL Lawrence Berkeley National Laboratory PIER Public Interest Energy Research PEX Cross-linked Polyethylene UA Product of overall heat transfer coefficient (U) and pipe surface area (A) Definitions ARBI Alliance for Residential Building Innovation ARIES Advanced Residential Integrated Energy Solutions AET Applied Energy Technology CARB Consortium for Advanced Residential Buildings CEC California Energy Commission CU University of Colorado CPVC Chlorinated Polyvinyl Chloride DEG Davis Energy Group k Thermal conductivity LBNL Lawrence Berkeley National Laboratory PIER Public Interest Energy Research PEX Cross-linked Polyethylene UA Product of overall heat transfer coefficient (U) and pipe surface area (A) vii vii 1.1 Background and Motivation g The delivery characteristics of hot water distribution systems are a critical factor affecting overall water heating system performance in terms of both energy and water use (and waste). Accurate simulation tools, such as the HWSIM distribution system model and recent modeling work completed by CU Boulder and NREL (Maquire et al 2011), are needed to quantify the The delivery characteristics of hot water distribution systems are a critical factor affecting overall water heating system performance in terms of both energy and water use (and waste). Accurate simulation tools, such as the HWSIM distribution system model and recent modeling work completed by CU Boulder and NREL (Maquire et al 2011), are needed to quantify the impacts of distribution system performance, which is the first step in identifying cost-effective improvement options that will contribute to Building America’s goal of 30%-50% energy savings. Little data currently exists in quantifying distribution losses, especially in terms of understanding how climate, plumbing practices (i.e. pipe layout and house vintage), hot water usage patterns, and user behavior affect overall losses. A variety of factors contribute to this poor understanding of distribution system performance, including the following: • Detailed monitoring of water heater energy and water flows to use points is challenging and expensive, since remote temperature sensors and individual flow meters are required. Few studies have been completed that accurately assess distribution losses in single family homes. • Modeling tools have historically been limited in their predictive capability, especially given the uncertainties of typical piping layouts, hot water usage patterns, and how pipe (surrounding) environment temperatures affect thermal losses. The short duration of typical residential water heating loads (typically 20-60 minutes of hot water flow per day), results in hourly simulation tools being largely ineffective at accurately modeling these high resolution events. • For many homes and apartments, much of the distribution piping is largely hidden from view, making accurate quantification of pipe routing, and pipe lengths and diameters difficult. Without knowledge of the pipe layout, it is challenging to understand the system interactions. • Hot water loads, usage patterns, and user behavior varies widely among households and vary significantly from day to day. How loads are imposed on a system can significantly affect distribution system performance in terms of heat loss and water waste. Addressing all of these issues is critical in developing a better understanding of distribution system performance. 1 http://www.aceee.org/files/pdf/conferences/hwf/2010/3D_Jim_Lutz.pdf Executive Summary Hot water distribution systems deliver heated water from the heat source to the use points throughout the house. As house size and number of fixtures has increased in recent years, the impact of distribution systems on overall performance has become more significant. Inefficient distribution systems contribute to unnecessary energy and water waste, as well as excessive hot water wait time. This project involves enhancement of the HWSIM distribution system model to more accurately model pipe heat transfer. Recent laboratory testing efforts have indicated that the modeling of radiant heat transfer effects is needed to accurately characterize piping heat loss. An analytical methodology for integrating radiant heat transfer was implemented with HWSIM. Laboratory test data collected in another project was then used to validate the model for a variety of uninsulated and insulated pipe cases (copper, PEX, and CPVC). Results appear favorable, with typical deviations from lab results less than 8%. Improving the modeling capabilities of distribution system models is a critical step in improving the accuracy of projecting hot water distribution system performance. Future efforts should include using detailed field data from the National Renewable Energy Laboratory’s (NREL) Solar Row project (Barley et al 2010) to further validate the HWSIM model, as well as a recently developed TRNSYS model. viii viii 1.1.1 g In 2004, working under funding from the Building America team Consortium for Advanced Residential Buildings (CARB), DEG began an extensive enhancement of the HWSIM distribution system model. (The model was originally developed in a simplistic BASIC coded form for use in DEG’s development of the 1990 detailed California Title 24 water heating methodology.) The 2004 Building America funding was designed to increase the analytical rigor and flexibility of the modeling tool, improve the user interface, and develop a user’s manual for the public domain software tool. HWSIM was originally designed to model in detail the energy and water use (and waste) effects associated with residential-scale hot water distribution systems. Impacts of pipe heat loss both during draws and between draws are modeled. The software requires the user to specify a water heater setpoint temperature, a plumbing network (separated into elements of various lengths, with each pipe element characterized by pipe material, pipe diameter, insulation, and pipe environment temperature), plumbing environment temperatures, and hot water end use points. The piping network serves individual use points such as showers, tubs, sinks, and appliances. A full weekly schedule of hot water draws is then input to characterize the various demands of hot water through the course of a day. Seasonal effects are captured by varying monthly cold water inlet temperatures and the temperatures of the pipe heat loss environments, which can vary both monthly and hourly. Draws are characterized by start time, flow rate, volume or energy content desired, and minimum use temperature (in the case of showers or other draws where a comfort threshold applies). The representative week of draws is scaled to develop monthly, and ultimately, annual summaries of piping energy waste, hot and cold water wasted, and water heater energy consumption (Springer et al 2008). Each unique pipe element is comprised of a series of nodes of discrete volume (dV) to improve the resolution of the heat transfer calculations. Typical node size is 0.075 gallons, although the user has the ability to increase or decrease with resulting implications on both computing time and resolution. Heat transfer from the pipe to the environment is calculated continuously as each dV flows through the piping network towards the use point. As the piping network moves from the water heater to the use points, the pipe environment and pipe diameter may change, varying the calculated heat loss. 1.1 Background and Motivation Work is proceeding in some of the identified gap areas, but additional effort is needed to generate the input data and improve tools required to properly assess distribution system performance. Jim Lutz of Lawrence Berkeley National Laboratory (LBNL) has been working for several years on developing a database for archiving high resolution hot water use data from field monitoring studies1. The Building America team, Advanced Residential Integrated Energy Solutions (ARIES), is starting a field effort to assess the impact of water heater and distribution system upgrades at three or more existing homes in central New York. Davis Energy Group (DEG), who leads the ARBI team, is currently completing simulation enhancements to HWSIM (focused on integrating both gas storage and gas tankless water heater models with the distribution 1 model), as part of a California Energy Commission (CEC) Public Interest Energy Research (PIER) sponsored advanced water heating project being led by the Gas Technology Institute. The PIER simulation enhancement work complements the work presented in this report. model), as part of a California Energy Commission (CEC) Public Interest Energy Research (PIER) sponsored advanced water heating project being led by the Gas Technology Institute. The PIER simulation enhancement work complements the work presented in this report. 1.1.1 During periods between draws, the distribution piping undergoes a thermal decay based on material properties, presence of insulation, and the hourly surrounding environment temperature. As part of the CEC PIER project currently underway, the following program enhancements are being implemented: As part of the CEC PIER project currently underway, the following program enhancements are being implemented: • Integrate the center flue storage water heater simulation program TANK (originally developed by Batelle in the early 1990’s) with HWSIM to more accurately simulate system performance by recognizing the interactions between the water heater and the distribution system. 2 • Integrate the single node tankless water heater model used in TRNSYS (Type 940 model) to evaluate tankless water heater performance in terms of efficiency, hot water delivery characteristics, and water waste. • Integrate the single node tankless water heater model used in TRNSYS (Type 940 model) to evaluate tankless water heater performance in terms of efficiency, hot water delivery characteristics, and water waste. • Utilize test data on pipe heat loss performance developed by Applied Energy Technology (AET) to validate the HWSIM model. • Utilize test data on pipe heat loss performance developed by Applied Energy Technology (AET) to validate the HWSIM model. The AET laboratory testing led to the conclusion that integrating radiant heat transfer was needed to accurately model pipe heat transfer. During lab testing of plastic piping, it was observed that uninsulated ¾ in. PEX piping exhibited considerably higher heat loss per foot than uninsulated ¾ in. copper pipe, while the addition of identical pipe insulation to each resulted in roughly comparable heat loss between PEX and copper pipes (Hiller 2005; 2006; 2008; 2011). Further investigation indicated that the surface emissivity of PEX (and other plastic pipes) is equal to 0.91, while copper piping has a much lower emissivity, depending upon the level of oxidation on the pipe surface. An extreme case for highly polished copper suggests an emissivity of 0.02, although any level of oxidation will quickly increase the surface emissivity2. This laboratory finding suggested the need for radiant heat transfer integration within HWSIM. Integrating radiant heat transfer is just the first step of the process, since now an assumption must be made for the mean radiant temperature for each pipe environment that is being modeled. 1.1.1 Specification of the air temperature is challenging enough for many applications such as attics or garages, where conditions can vary significantly, especially in summer months. With input from AET, we have simplified the assumption that pipe radiant environment temperature is equal to the surrounding air temperature. Future monitoring and model validation efforts will provide insights to the validity of this assumption. 2 Standard heat transfer reference texts present typical emissivity values for copper ranging from 0.02 for highly polished, 0.04-0.05 for “polished”, 0.07 for “scraped, shiny”, 0.15 for “slightly polished”, to 0.78 for “black oxidized”. 1.2 Research Questions The work presented here represents a key step in the development of the tools needed to assess the performance of distribution systems. A better understanding of distribution systems, hot water usage magnitude and patterns, and use behavior, are all critical building blocks to accurately assessing the overall performance of existing and alternative hot water systems, and identifying cost-effective strategies leading to the Building America goal of 30%-50% whole house energy savings. The enhancement of the HWSIM program is an important step in improving understanding of system performance. The following research questions have been identified for this technical report: • What analytical method should be used to accurately model pipe heat transf • How well does the model predict performance relative to detailed laboratory measurements? • What are the limitations of the model? • What should be the next step in the model validation process? 3 2.1 Modeling Methodology g gy The development of the combined convective/radiant pipe heat transfer relied on calculating a combined surface heat transfer coefficient based on the input parameters shown in Table 1. The development of the combined convective/radiant pipe heat transfer relied on calculating a combined surface heat transfer coefficient based on the input parameters shown in Table 1. Table 1. HWSIM Required Inputs for Combined Convective/Radiant Heat Transfer Modeling Variable Description Equation (or value) INPUTS Tw, water temperature (deg F) Te, environment temperature (deg F) Tr, Mean radiant temperature (deg F) F, flow rate (gpm) kp, pipe conductivity (Btu/hr-ft-degF) ki, insulation conductivity (Btu/hr-ft-degF) Li, insulation thickness (inches) S, Stephan-Boltzmann constant (Btu/hr-ft^2-degR^4) 1.714 x 10−9 e, surface emissivity (non-dimensional) Ri, inside pipe radius (ft) Ro, outside pipe radius (ft) Rs, outer surface radius (ft) Ro+Li/12 Tsi, initial surface temperature estimate (deg F) (Tw+Te)/2 The calculation methodology, outlined in Table 2, is based on standard heat transfer calculations for free convection and radiation (Kreith 1973). The calculation process involves first determining an exterior surface coefficient based on an initial estimate of surface temperature equal to the average of the pipe element water temperature and the surrounding environment temperature. The initial coefficient was calculated using standard pipe heat transfer modeling for horizontal cylinders at moderate surface temperatures. The interior coefficient is then calculated based on the pipe fluid velocity. The methodology utilizes Newton’s method to iterate in estimating a final surface temperature to be used for determination of the combined convective and radiant heat transfer. This technique is then used for each dV of the piping network where water is flowing, accommodating changes in fluid temperature (from one dV to the next), environment air and mean radiant temperature, and fluid velocity (as pipe diameters change). Table 1. HWSIM Required Inputs for Combined Convective/Radiant Heat Transfer Modeling Variable Description Equation (or value) INPUTS Tw, water temperature (deg F) Te, environment temperature (deg F) Tr, Mean radiant temperature (deg F) F, flow rate (gpm) kp, pipe conductivity (Btu/hr-ft-degF) ki, insulation conductivity (Btu/hr-ft-degF) Li, insulation thickness (inches) S, Stephan-Boltzmann constant (Btu/hr-ft^2-degR^4) 1.714 x 10−9 e, surface emissivity (non-dimensional) Ri, inside pipe radius (ft) Ro, outside pipe radius (ft) Rs, outer surface radius (ft) Ro+Li/12 Tsi, initial surface temperature estimate (deg F) (Tw+Te)/2 Table 1. 2.1 Modeling Methodology Combined Convective/Radiant Heat Transfer Modeling Algorithms Table 2. Combined Convective/Radiant Heat Transfer Modeling Algorithms Variable Description Equation CALCULATIONS hoi, initial surface air film estimate (Btu/hr-ft^2-degF) V, fluid velocity (ft/sec) hi, inside film coefficient estimate (Btu/hr-ft^2-degF) Ui, inside total U-value (Btu/hr-ft^2-degF) f, Ts written as a function f/, derivative of f Tsf, final surface temperature (deg F) ho, final surface air film (Btu/hr-ft^2-degF) Q/l, heat flow to environment (Btu/hr-ft) UA, overall pipe UA (Btu/ft-degF) Q / (Tw - Te) 2.1 Modeling Methodology HWSIM Required Inputs for Combined Convective/Radiant Heat Transfer Modeling Variable Description Equation (or value) INPUTS Tw, water temperature (deg F) Te, environment temperature (deg F) Tr, Mean radiant temperature (deg F) F, flow rate (gpm) kp, pipe conductivity (Btu/hr-ft-degF) ki, insulation conductivity (Btu/hr-ft-degF) Li, insulation thickness (inches) S, Stephan-Boltzmann constant (Btu/hr-ft^2-degR^4) 1.714 x 10−9 e, surface emissivity (non-dimensional) Ri, inside pipe radius (ft) Ro, outside pipe radius (ft) Rs, outer surface radius (ft) Ro+Li/12 Tsi, initial surface temperature estimate (deg F) (Tw+Te)/2 Table 1. HWSIM Required Inputs for Combined Convective/Radiant Heat Transfe The calculation methodology, outlined in Table 2, is based on standard heat transfer calculations for free convection and radiation (Kreith 1973). The calculation process involves first determining an exterior surface coefficient based on an initial estimate of surface temperature equal to the average of the pipe element water temperature and the surrounding environment temperature. The initial coefficient was calculated using standard pipe heat transfer modeling for horizontal cylinders at moderate surface temperatures. The interior coefficient is then calculated based on the pipe fluid velocity. The methodology utilizes Newton’s method to iterate in estimating a final surface temperature to be used for determination of the combined convective and radiant heat transfer. This technique is then used for each dV of the piping network where water is flowing, accommodating changes in fluid temperature (from one dV to the next), environment air and mean radiant temperature, and fluid velocity (as pipe diameters change). The calculation methodology, outlined in Table 2, is based on standard heat transfer calculations for free convection and radiation (Kreith 1973). The calculation process involves first determining an exterior surface coefficient based on an initial estimate of surface temperature equal to the average of the pipe element water temperature and the surrounding environment temperature. The initial coefficient was calculated using standard pipe heat transfer modeling for horizontal cylinders at moderate surface temperatures. The interior coefficient is then calculated based on the pipe fluid velocity. The methodology utilizes Newton’s method to iterate in estimating a final surface temperature to be used for determination of the combined convective and radiant heat transfer. This technique is then used for each dV of the piping network where water is flowing, accommodating changes in fluid temperature (from one dV to the next), environment air and mean radiant temperature, and fluid velocity (as pipe diameters change). 4 Table 2. Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs For the plastic pipe cases, HWSIM underpredicts the lab UAs by 0% to 10%. This falls within a reasonable range of accuracy given the expected experimental accuracy in the lab of utilizing immersion thermocouples. UA is highly sensitive to the accuracy in the entering and leaving water temperature measurements, which in some of the lab test cases varied by as little as 3°F from inlet water to outlet. For the copper pipe data shown in Table 4, the rigid piping simulated cases (with the 0.4 emissivity assumption) show good correlation with the lab data. The last four columns show a second ¾ in. rolled copper tubing case tested in the lab. HWSIM results are shown for two cases (0.02 and 0.20 emissivity), in an attempt to approximate the actual “new Pipe 1/2 Cu 1/2 Cu 3/4 Cu 3/4 Cu 3/4 Cu 3/4 Cu 3/4 Cu 3/4 Cu Rolled Rolled Rolled Rolled Pipe Insulation Level R-0 R-0 R-0 R-0 R-0 R-0 R-0 R-0 Insulation Conductivity Assumption n/a n/a n/a n/a n/a n/a n/a n/a Assumed Surface Emissivity (e) 0.4 0.4 0.4 0.4 0.02 0.02 0.2 0.2 Hot Water Inlet Temperature (F) 136 136 136 136 133 133 133 133 Air and Radiant Environment Temp (F) 65 65 58 58 56 56 56 56 Flow Rate (gpm) 1.0 2.0 1.0 2.0 1.0 2.0 1.0 2.0 Lab Test Results Pipe "UA per foot" target (Btu/hr-ft-F) 0.345 0.360 0.417 0.421 0.334 0.334 0.334 0.334 Calculate Outlet Temperature (F) 131.16 133.47 129.57 132.75 127.91 130.46 127.91 130.46 HWSIM RESULTS Calculate Outlet Temperature (F) 131.30 133.60 129.10 132.44 127.66 130.26 126.97 129.90 Calculated Pipe "UA per foot" (Btu/hr-ft-F) 0.335 0.342 0.447 0.461 0.351 0.359 0.396 0.407 UA Difference vs. Lab Data (%) -3.0% -5.0% 7.3% 9.6% 5.0% 7.6% 18.5% 21.8% Outlet Temperature Difference vs. Lab (F) 0.14 0.13 -0.47 -0.31 -0.26 -0.19 -0.94 -0.55 Table 4. Table 3. Comparison of Lab and Simulated Plastic Pipe Outlet Temperatures and UAs Table 4. Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs For the plastic pipe cases, HWSIM underpredicts the lab UAs by 0% to 10%. This falls within a reasonable range of accuracy given the expected experimental accuracy in the lab of utilizing immersion thermocouples. UA is highly sensitive to the accuracy in the entering and leaving water temperature measurements, which in some of the lab test cases varied by as little as 3°F Pipe 3/4PEX 3/4PEX 1/2PEX 1/2PEX 3/8PEX 3/8PEX 3/4CPVC 3/4CPVC Pipe Insulation Level R-0 R-0 R-0 R-0 R-0 R-0 R-0 R-0 Insulation Conductivity Assumption 0 0 0 0 0 0 0 0 Assumed Surface Emissivity (e) 0.91 0.91 0.91 0.91 0.91 0.91 0.91 0.91 Hot Water Inlet Temperature (F) 135 135 136 136 135 135 137 137 Air and Radiant Environment Temp (F) 54 54 55 55 56 56 70 70 Flow Rate (gpm) 1.0 2.0 1.0 2.0 1.0 2.0 1.0 2.0 Lab Test Results Pipe "UA per foot" target (Btu/hr-ft-F) 0.545 0.555 0.438 0.438 0.368 0.368 0.460 0.480 Calculate Outlet Temperature (F) 126.27 130.55 128.98 132.49 129.25 132.13 130.91 133.82 HWSIM RESULTS Calculate Outlet Temperature (F) 127.00 130.86 129.53 132.68 129.88 132.39 130.97 133.90 Calculated Pipe "UA per foot" (Btu/hr-ft-F) 0.503 0.520 0.406 0.417 0.330 0.336 0.458 0.472 UA Difference vs. Lab Data (%) -7.7% -6.3% -7.2% -4.8% -10.3% -8.6% -0.5% -1.8% Outlet Temperature Difference vs. Lab (F) 0.73 0.31 0.55 0.19 0.63 0.26 0.07 0.08 Pipe 1/2 Cu 1/2 Cu 3/4 Cu 3/4 Cu 3/4 Cu 3/4 Cu 3/4 Cu 3/4 Cu Rolled Rolled Rolled Rolled Pipe Insulation Level R-0 R-0 R-0 R-0 R-0 R-0 R-0 R-0 Insulation Conductivity Assumption n/a n/a n/a n/a n/a n/a n/a n/a Assumed Surface Emissivity (e) 0.4 0.4 0.4 0.4 0.02 0.02 0.2 0.2 Hot Water Inlet Temperature (F) 136 136 136 136 133 133 133 133 Air and Radiant Environment Temp (F) 65 65 58 58 56 56 56 56 Flow Rate (gpm) 1.0 2.0 1.0 2.0 1.0 2.0 1.0 2.0 Lab Test Results Pipe "UA per foot" target (Btu/hr-ft-F) 0.345 0.360 0.417 0.421 0.334 0.334 0.334 0.334 Calculate Outlet Temperature (F) 131.16 133.47 129.57 132.75 127.91 130.46 127.91 130.46 HWSIM RESULTS Calculate Outlet Temperature (F) 131.30 133.60 129.10 132.44 127.66 130.26 126.97 129.90 Calculated Pipe "UA per foot" (Btu/hr-ft-F) 0.335 0.342 0.447 0.461 0.351 0.359 0.396 0.407 UA Difference vs. Lab Data (%) -3.0% -5.0% 7.3% 9.6% 5.0% 7.6% 18.5% 21.8% Outlet Temperature Difference vs. Lab (F) 0.14 0.13 -0.47 -0.31 -0.26 -0.19 -0.94 -0.55 Table 3. Comparison of Lab and Simulated Plastic Pipe Outlet Temperatures and UAs Pipe 3/4PEX 3/4PEX 1/2PEX 1/2PEX 3/8PEX 3/8PEX 3/4CPVC 3/4CPVC Pipe Insulation Level R-0 R-0 R-0 R-0 R-0 R-0 R-0 R-0 Insulation Conductivity Assumption 0 0 0 0 0 0 0 0 Assumed Surface Emissivity (e) 0.91 0.91 0.91 0.91 0.91 0.91 0.91 0.91 Hot Water Inlet Temperature (F) 135 135 136 136 135 135 137 137 Air and Radiant Environment Temp (F) 54 54 55 55 56 56 70 70 Flow Rate (gpm) 1.0 2.0 1.0 2.0 1.0 2.0 1.0 2.0 Lab Test Results Pipe "UA per foot" target (Btu/hr-ft-F) 0.545 0.555 0.438 0.438 0.368 0.368 0.460 0.480 Calculate Outlet Temperature (F) 126.27 130.55 128.98 132.49 129.25 132.13 130.91 133.82 HWSIM RESULTS Calculate Outlet Temperature (F) 127.00 130.86 129.53 132.68 129.88 132.39 130.97 133.90 Calculated Pipe "UA per foot" (Btu/hr-ft-F) 0.503 0.520 0.406 0.417 0.330 0.336 0.458 0.472 UA Difference vs. Lab Data (%) -7.7% -6.3% -7.2% -4.8% -10.3% -8.6% -0.5% -1.8% Outlet Temperature Difference vs. Lab (F) 0.73 0.31 0.55 0.19 0.63 0.26 0.07 0.08 ble 3. Comparison of Lab and Simulated Plastic Pipe Outlet Temperatures and UAs Table 4. 3 Results Upon implementation of the heat transfer calculation methodology outlined in Table 2, a series of runs were completed to compare results to the laboratory data collected by AET over the past several years. Tables 3 and 4 summarize the findings for various uninsulated pipe cases with plastic pipes listed in Table 3 and copper in Table 4. The surface emissivity of plastic and copper pipe was assumed to be 0.91 and 0.40, respectively. Hot water inlet temperature, air and radiant environment temperature (assumed equal), and fluid flow rates were all specified to match the reported test conditions for horizontal pipes in air. Outlet water temperatures were calculated based on the lab-reported UAs, inlet hot water temperature, and environment (air and radiant) temperatures. These input conditions were also fed into the model to simulate a 100-foot long pipe section. A 20-gal draw was imposed and the end of draw outlet temperature (reported in the Tables) was used to calculate the steady state “UA per foot” listed under HWSIM Results. 5 5 Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs Pipe 1/2 Cu 1/2 Cu 3/4 Cu 3/4 Cu 3/4 Cu 3/4 Cu 3/4 Cu 3/4 Cu Rolled Rolled Rolled Rolled Pipe Insulation Level R-0 R-0 R-0 R-0 R-0 R-0 R-0 R-0 Insulation Conductivity Assumption n/a n/a n/a n/a n/a n/a n/a n/a Assumed Surface Emissivity (e) 0.4 0.4 0.4 0.4 0.02 0.02 0.2 0.2 Hot Water Inlet Temperature (F) 136 136 136 136 133 133 133 133 Air and Radiant Environment Temp (F) 65 65 58 58 56 56 56 56 Flow Rate (gpm) 1.0 2.0 1.0 2.0 1.0 2.0 1.0 2.0 Lab Test Results Pipe "UA per foot" target (Btu/hr-ft-F) 0.345 0.360 0.417 0.421 0.334 0.334 0.334 0.334 Calculate Outlet Temperature (F) 131.16 133.47 129.57 132.75 127.91 130.46 127.91 130.46 HWSIM RESULTS Calculate Outlet Temperature (F) 131.30 133.60 129.10 132.44 127.66 130.26 126.97 129.90 Calculated Pipe "UA per foot" (Btu/hr-ft-F) 0.335 0.342 0.447 0.461 0.351 0.359 0.396 0.407 UA Difference vs. Lab Data (%) -3.0% -5.0% 7.3% 9.6% 5.0% 7.6% 18.5% 21.8% Outlet Temperature Difference vs. Lab (F) 0.14 0.13 -0.47 -0.31 -0.26 -0.19 -0.94 -0.55 4. Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs For the plastic pipe cases, HWSIM underpredicts the lab UAs by 0% to 10%. This falls within a reasonable range of accuracy given the expected experimental accuracy in the lab of utilizing immersion thermocouples. UA is highly sensitive to the accuracy in the entering and leaving water temperature measurements, which in some of the lab test cases varied by as little as 3°F from inlet water to outlet. For the copper pipe data shown in Table 4, the rigid piping simulated cases (with the 0.4 emissivity assumption) show good correlation with the lab data. The last four columns show a second ¾ in. rolled copper tubing case tested in the lab. HWSIM results are shown for two cases (0.02 and 0.20 emissivity), in an attempt to approximate the actual “new For the plastic pipe cases, HWSIM underpredicts the lab UAs by 0% to 10%. This falls within a reasonable range of accuracy given the expected experimental accuracy in the lab of utilizing immersion thermocouples. UA is highly sensitive to the accuracy in the entering and leaving water temperature measurements, which in some of the lab test cases varied by as little as 3°F from inlet water to outlet. The reason for this and 0.368 0.330 0.438 0.406 0.545 0.503 0.460 0.458 0.345 0.335 0.417 0.447 0.334 0.351 0.396 0.00 0.10 0.20 0.30 0.40 0.50 0.60 3/8" PEX 3/8" PEX 1/2" PEX 1/2" PEX 3/4" PEX 3/4" PEX 3/4" CPVC 3/4" CPVC 1/2" CU 1/2" CU 3/4" CU 3/4" CU Rolled 3/4" CU Rolled 3/4" CU 0.02 Rolled 3/4" CU 0.20 Pipe UA per Foot (Btu/hr-ft-deg F) 3/8" PEX Lab Simulated Figure 1 plots the lab and simulated UA values for each of the cases reported in Tables 3 and 4. ots the lab and simulated UA values for each of the cases reported in Tables 3 and 4 ots the lab and simulated UA values for each of the cases reported in Tables 3 and 4 Figure 1 plots the lab and simulated UA values for each of the cases reported in Tables 3 and 4. Figure 1. Comparison of lab and simulated uninsulated pipe UAs 0.368 0.330 0.438 0.406 0.545 0.503 0.460 0.458 0.345 0.335 0.417 0.447 0.334 0.351 0.396 0.00 0.10 0.20 0.30 0.40 0.50 0.60 3/8" PEX 3/8" PEX 1/2" PEX 1/2" PEX 3/4" PEX 3/4" PEX 3/4" CPVC 3/4" CPVC 1/2" CU 1/2" CU 3/4" CU 3/4" CU Rolled 3/4" CU Rolled 3/4" CU 0.02 Rolled 3/4" CU 0.20 Pipe UA per Foot (Btu/hr-ft-deg F) 3/8" PEX Lab Simulated Figure 1 plots the lab and simulated UA values for each of the cases reported in Tables 3 and 4. Figure 1. Comparison of lab and simulated uninsulated pipe UAs 0.368 0.330 0.438 0.406 0.545 0.503 0.460 0.458 0.345 0.335 0.417 0.447 0.334 0.351 0.396 0.00 0.10 0.20 0.30 0.40 0.50 0.60 3/8" PEX 3/8" PEX 1/2" PEX 1/2" PEX 3/4" PEX 3/4" PEX 3/4" CPVC 3/4" CPVC 1/2" CU 1/2" CU 3/4" CU 3/4" CU Rolled 3/4" CU Rolled 3/4" CU 0.02 Rolled 3/4" CU 0.20 Pipe UA per Foot (Btu/hr-ft-deg F) 3/8" PEX Lab Simulated Figure 1. Comparison of lab and simulated uninsulated pipe UAs The second step in the validation process was to model insulated piping and compare to the laboratory test data. Prior AET lab findings suggested that pipe insulation performance was not meeting the manufacturer’s performance specifications with typical reported conductivity values of 0.02-0.021 Btu/hr-ft-°F (or 0.25 Btu-inch/hr-ft2-°F). For the copper pipe data shown in Table 4, the rigid piping simulated cases (with the 0.4 emissivity assumption) show good correlation with the lab data. The last four columns show a second ¾ in. rolled copper tubing case tested in the lab. HWSIM results are shown for two cases (0.02 and 0.20 emissivity), in an attempt to approximate the actual “new 6 pipe” condition when it was tested. The sensitivity in UA to emissivity is evident. To achieve a match to within 10% of the lab test value of 0.334, a highly polished emissivity of 0.02 was assumed. It is not clear why the rolled copper tubing comparison of lab versus simulated differs to a greater extent that the rigid ½ in. and ¾ in. copper results. to a greater extent that the rigid ½ in. and ¾ in. copper results. Figure 1 plots the lab and simulated UA values for each of the cases reported in Tables 3 and 4. Figure 1. Comparison of lab and simulated uninsulated pipe UAs The second step in the validation process was to model insulated piping and compare to the laboratory test data. Prior AET lab findings suggested that pipe insulation performance was not meeting the manufacturer’s performance specifications with typical reported conductivity values of 0.02-0.021 Btu/hr-ft-°F (or 0.25 Btu-inch/hr-ft2-°F). HWSIM runs performed prior to the incorporation of the current heat transfer methodology suggested that an insulation conductivity of ~ 0.042 Btu/hr-ft-°F provided the best match with the lab data. With the enhanced radiant/convective heat loss model in place, a series of runs were completed to assess the best fit”k” value for each pipe configuration. Figure 2 summarizes the findings for the case of a 100- ft pipe at a 1 gpm flow rate. The values of 0.02 and 0.042 Btu/hr-ft-°F insulation conductivity are presented to bound the range, with the corresponding calculated UAs shown. The blue-shaded values represent the best modeling match with the lab data. Other than the ¾ in. PEX with ¾ in. insulation, all plastic pipe and copper pipe cases center in fairly tight conductivity ranges, however, the difference between copper and plastic is fairly significant. HWSIM runs performed prior to the incorporation of the current heat transfer methodology suggested that an insulation conductivity of ~ 0.042 Btu/hr-ft-°F provided the best match with the lab data. With the enhanced radiant/convective heat loss model in place, a series of runs were completed to assess the best fit”k” value for each pipe configuration. Figure 2 summarizes the findings for the case of a 100- ft pipe at a 1 gpm flow rate. The values of 0.02 and 0.042 Btu/hr-ft-°F insulation conductivity are presented to bound the range, with the corresponding calculated UAs shown. The blue-shaded values represent the best modeling match with the lab data. Other than the ¾ in. PEX with ¾ in. insulation, all plastic pipe and copper pipe cases center in fairly tight conductivity ranges, however, the difference between copper and plastic is fairly significant. The reason for this and 7 7 the deviation of the ¾ in. PEX case are not entirely clear, and may be an artifact related to the laboratory testing. Averaging the eight cases results in a mean conductivity value of 0.030 Btu/hr-ft-°F. the deviation of the ¾ in. PEX case are not entirely clear, and may be an artifact related to the laboratory testing. Averaging the eight cases results in a mean conductivity value of 0.030 Btu/hr-ft-°F. Figure 3 shows the comparison of insulated pipe data from the lab relative to the simulated cases. With the exception of the ¾ in. PEX with ¾ in. insulation, all of the UA comparisons fall within 10% of the lab values. Since the thermal characteristics of the pipe insulation dominate the heat transfer, one would expect the performance of the ¾ in. PEX case to fall more in line with the other values. Our hypothesis is that the lab result for this particular case may be inaccurate. Figure 3 shows the comparison of insulated pipe data from the lab relative to the simulated cases. With the exception of the ¾ in. PEX with ¾ in. insulation, all of the UA comparisons fall within 10% of the lab values. Since the thermal characteristics of the pipe insulation dominate the heat transfer, one would expect the performance of the ¾ in. PEX case to fall more in line with the other values. Our hypothesis is that the lab result for this particular case may be inaccurate. Figure 2. Insulated pipe UAs as a function of insulation conductivity 3/4" PEX 1/2" PEX 3/8" PEX 3/4" CPVC 1/2" CU 1/2 Cu 3/4" CU 3/4" CU 3/4" Insl 3/4" Insl 3/4" Insl 3/4" Insl 1/2" Insl 3/4" Insl 1/2" Insl 3/4" Insl 0.02 0.108 0.093 0.081 0.107 0.105 0.091 0.133 0.112 0.021 0.022 0.023 0.024 0.025 0.132 0.026 0.117 0.165 0.027 0.028 0.148 0.029 0.03 0.031 0.032 0.121 0.033 0.130 0.160 0.034 0.035 0.036 0.037 0.038 0.039 0.04 0.188 0.041 0.042 0.191 0.165 0.149 0.189 0.185 0.165 0.231 0.202 Insl Conductivity (Btu/hr-ft-°F) Figure 2. Insulated pipe UAs as a function of insulation conductivity 8 Figure 3. Comparison of lab and simulated insulated pipe UAs 0.121 0.110 0.1300.126 0.180 0.147 0.160 0.144 0.132 0.146 0.117 0.126 0.165 0.184 0.148 0.155 0.00 0.02 0.04 0.06 0.08 0.10 0.12 0.14 0.16 0.18 0.20 3/8" PEX 3/4" 3/8" PEX 3/4" 1/2" PEX 3/4" 1/2" PEX 3/4" 3/4" PEX 3/4" 3/4" PEX 3/4" 3/4" CPVC 3/4" 3/4" CPVC 3/4" 1/2" Cu 1/2" 1/2" Cu 1/2" 1/2" Cu 3/4" 1/2" Cu 3/4" 3/4" Cu 1/2" 3/4" Cu 1/2" 3/4" Cu 3/4" 3/4" Cu 3/4" Pipe UA per Foot (Btu/hr-ft-deg F) 3/8" PEX 3/4" Lab Simulated Figure 3. Comparison of lab and simulated insulated pipe UAs 4 Conclusions and Recommendations The implementation of standard horizontal pipe heat transfer calculation utilizing fluid velocity for determining interior pipe heat transfer coefficient, and a combined radiant and convective outside coefficient was found to provide a good match with AET laboratory data. On average, simulation results are within 8% of the laboratory findings. Some level of uncertainty lies in the identification of the mean radiant temperature, both in the lab environment, and more significantly, in many real-world piping applications such as attics and garages. In addition, copper surface emissivities, which will vary over time due to oxidation, are difficult to determine. Overall, based on the validation results, we feel confident that the enhanced HWSIM model, and the recently developed TRNSYS model (Maguire et al 2011), are ready for the next validation step of using detailed site monitoring data (NREL’s Solar Row dataset) to drive the model. Model outputs in the form of end use point hot water outlet temperatures can then be compared to model-predicted outlet temperatures. This work has been proposed by ARBI for 2012, with the primary validation effort focused on the TRNSYS model. The development and validation of these enhanced tools is a critical step in the process towards accurately evaluating the performance of residential distribution systems and the resulting impact on the water heater. Much fundamental work needs to be completed to address the broader water heating research questions presented earlier in this technical report. For residential, non- recirculating distribution systems, the authors estimate that distribution losses may range from 9 10%-40% of annual hot water energy consumption, depending upon factors such as plumbing layout, pipe sizing and location, and hot water use quantity and patterns. Critical factors that affect the magnitude of the distribution loss include the layout of the distribution system and the magnitude and pattern of hot water loads within the household, which are highly variable from one house to the next. Both of these factors are currently not well understood, especially in terms of how they vary in different vintages of homes and what effect climate has in affecting heat loss due to varying environment temperatures and pipe locations (attic piping is common in milder regions). Improved knowledge in all these fronts will lead to validated simulation tools that can reliably provide results for a range of applications and climates. 4 Conclusions and Recommendations 10%-40% of annual hot water energy consumption, depending upon factors such as plumbing layout, pipe sizing and location, and hot water use quantity and patterns. Critical factors that affect the magnitude of the distribution loss include the layout of the distribution system and the magnitude and pattern of hot water loads within the household, which are highly variable from one house to the next. Both of these factors are currently not well understood, especially in terms of how they vary in different vintages of homes and what effect climate has in affecting heat loss due to varying environment temperatures and pipe locations (attic piping is common in milder regions). Improved knowledge in all these fronts will lead to validated simulation tools that can reliably provide results for a range of applications and climates. 10%-40% of annual hot water energy consumption, depending upon factors such as plumbing layout, pipe sizing and location, and hot water use quantity and patterns. Critical factors that affect the magnitude of the distribution loss include the layout of the distribution system and the magnitude and pattern of hot water loads within the household, which are highly variable from one house to the next. Both of these factors are currently not well understood, especially in terms of how they vary in different vintages of homes and what effect climate has in affecting heat loss due to varying environment temperatures and pipe locations (attic piping is common in milder regions). Improved knowledge in all these fronts will lead to validated simulation tools that can reliably provide results for a range of applications and climates. 10 Springer, D.; Rainer, L.; and Hoeschele, M. (2008). “HWSIM: Development and Validation of a Residential Hot Water Distribution System Model,” Proceedings of the 2008 ACEEE Summer Study on Energy Efficiency in Buildings. References Barley, C. Dennis; Hendron, R.; and Magnusson, L. (2010). “Field Test of a DHW Distribution System: Temperature and Flow Analyses.” NREL/PR-550-48385. Presented at the 2010 ACEEE Hot Water Forum. Accessed at: http://www.nrel.gov/docs/fy10osti/48385.pdf . Hiller, C. (2005). Hot Water Distribution System Research – Phase I Final Report. California Energy Commission report 500-2005-161. Hiller, C. (2006a). Hot Water Distribution System Piping Time, Water, and Energy Waste - Phase I Test Results. ASHRAE Transactions, vol. 114, pt. 1, 415-425. Hiller, C. (2006b). Hot Water Distribution System Piping Heat Loss Factors - Phase I Test Results. ASHRAE Transactions, vol. 114, pt. 1, 436-446. Hiller, C. (2008). Hot Water Distribution System Piping Heat Loss Factors, Both In-air and Buried--Phase II: Test Results. ASHRAE paper no. SL-08-010. Hiller, C. (2011). Hot Water Distribution System Piping Time, Water, and Energy Waste--Phase III: Test Results. ASHRAE Transactions, vol 117, pt. 1. Kreith, F. (1973). Principles of Heat Transfer, Third Edition. New York: Harper and Row. 1973. Lutz, J.D. (2008). Water Heaters and Hot Water Distribution Systems. California Energy Commission, PIER Buildings End-Use Energy Efficiency. CEC-500-2005-082. Maguire, J.; Krarti, M.; and Fang, X. (2011). “An Analysis Model for Domestic Hot Water Distribution Systems,” Conference Paper. NREL/CP-5500-51674. Accessed at: http://www.nrel.gov/docs/fy12osti/51674.pdf Springer, D.; Rainer, L.; and Hoeschele, M. (2008). “HWSIM: Development and Validation of a Residential Hot Water Distribution System Model,” Proceedings of the 2008 ACEEE Summer Study on Energy Efficiency in Buildings. DOE/GO-102012-3626 ▪ November 2012 DOE/GO-102012-3626 ▪ November 2012 Printed with a renewable-source ink on paper containing at least 50% wastepaper, including 10% post-consumer waste.
https://openalex.org/W2788494624
https://aacr.figshare.com/articles/journal_contribution/Supplementary_Figure_S6_from_Interleukin_33_Signaling_Restrains_Sporadic_Colon_Cancer_in_an_Interferon-_Dependent_Manner/22539691/1/files/40003015.pdf
English
null
Interleukin 33 Signaling Restrains Sporadic Colon Cancer in an Interferon-γ–Dependent Manner
Cancer immunology research
2,018
cc-by
1,434
0 2 4 6 8 10 Treg numbers/ colon (x104) % Treg/ CD45+ cells 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 Foxp3 St2 35% 35% 28% 1.5% CD4 CD4 A B WT St2-/- 0 2 4 6 8 WT St2-/- WT St2-/- C 0 10 20 30 40 % St2+ cells/ Foxp3+ CD4+ T cells ns ns plementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons. cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A) esentative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+ AM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency n CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are d from two independent experiments, are expressed as Mean ± SEM and each symbol represents dual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or red t-test with Welsh’s correction (B, left panel). n.s. = not significant. 0 2 4 6 8 10 Treg numbers/ colon (x104) % Treg/ CD45+ cells 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 Foxp3 St2 35% 35% 28% 1.5% CD4 CD4 A B WT St2-/- 0 2 4 6 8 WT St2-/- WT St2-/- C 0 10 20 30 40 % St2+ cells/ Foxp3+ CD4+ T cells ns ns 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 Foxp3 St2 35% 35% 28% 1.5% CD4 CD4 A WT St2-/- 0 2 4 6 8 10 Treg numbers/ colon (x104) % Treg/ CD45+ cells B 0 2 4 6 8 WT St2-/- WT St2-/- C 0 10 20 30 40 % St2+ cells/ Foxp3+ CD4+ T cells ns ns C 0 10 20 30 40 % St2+ cells/ Foxp3+ CD4+ T cells C A B Supplementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons. Flow cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A) Representative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+ EpCAM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency within CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen- cy of colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are pooled from two independent experiments, are expressed as Mean ± SEM and each symbol represents individual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or unpaired t-test with Welsh’s correction (B, left panel). n.s. = not significant. Supplementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons. Flow cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A) Representative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+ EpCAM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency within CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). 0 2 4 6 8 10 Treg numbers/ colon (x104) % Treg/ CD45+ cells 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 Foxp3 St2 35% 35% 28% 1.5% CD4 CD4 A B WT St2-/- 0 2 4 6 8 WT St2-/- WT St2-/- C 0 10 20 30 40 % St2+ cells/ Foxp3+ CD4+ T cells ns ns plementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons. cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A) esentative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+ AM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency n CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are d from two independent experiments, are expressed as Mean ± SEM and each symbol represents dual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or red t-test with Welsh’s correction (B, left panel). n.s. = not significant. 0 2 4 6 8 10 Treg numbers/ colon (x104) % Treg/ CD45+ cells 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 Foxp3 St2 35% 35% 28% 1.5% CD4 CD4 A B WT St2-/- 0 2 4 6 8 WT St2-/- WT St2-/- C 0 10 20 30 40 % St2+ cells/ Foxp3+ CD4+ T cells ns ns plementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons. cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A) esentative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+ AM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency n CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are d from two independent experiments, are expressed as Mean ± SEM and each symbol represents dual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or red t-test with Welsh’s correction (B, left panel). n.s. = not significant. 0 2 4 6 8 10 Treg numbers/ colon (x104) % Treg/ CD45+ cells 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 0 102 103 104 105 Foxp3 St2 35% 35% 28% 1.5% CD4 CD4 A B WT St2-/- 0 2 4 6 8 WT St2-/- WT St2-/- C 0 10 20 30 40 % St2+ cells/ Foxp3+ CD4+ T cells ns ns plementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons. cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A) esentative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+ AM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency n CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are d from two independent experiments, are expressed as Mean ± SEM and each symbol represents dual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or red t-test with Welsh’s correction (B, left panel). n.s. = not significant. (C) Frequen- cy of colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are pooled from two independent experiments, are expressed as Mean ± SEM and each symbol represents individual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or unpaired t-test with Welsh’s correction (B, left panel). n.s. = not significant. Flow cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A) Representative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+ EpCAM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency within CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen- cy of colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are pooled from two independent experiments, are expressed as Mean ± SEM and each symbol represents individual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or unpaired t-test with Welsh’s correction (B, left panel). n.s. = not significant.
https://openalex.org/W4289134365
https://pub.uni-bielefeld.de/download/2964767/2964899
English
null
Multilevel Modelling of Individual, Community and Regional Level Factors Associated with Insecticide-Treated Net Usage among Pregnant Women in Ethiopia
Healthcare
2,022
cc-by
7,879
Keywords: Ethiopia; insecticide-treated net; malaria; mosquitoes; pregnant women Citation: Kuse, K.A.; Chikako, T.U.; Bacha, R.H.; Hagan, J.E., Jr.; Seidu, A.-A.; Ahinkorah, B.O. Multilevel Modelling of Individual, Community and Regional Level Factors Associated with Insecticide-Treated Net Usage among Pregnant Women in Ethiopia. Healthcare 2022, 10, 1418. https://doi.org/10.3390/ healthcare10081418 Academic Editor: Abdel-Latif Mohamed Received: 23 May 2022 Accepted: 25 July 2022 Published: 29 July 2022 * Correspondence: elvis.hagan@ucc.edu.gh Abstract: Background: Pregnant women who are infected with malaria usually have more severe symptoms and negative health outcomes than women who are not pregnant, with higher rates of miscarriage, intrauterine demise, premature delivery, low-birth-weight neonates, and neonatal death. Based on evidence from the 2016 Ethiopia Demographic and Health Survey, this study assessed the variation in insecticide-treated nets (ITNs) usage and its associated factors among pregnant women in Ethiopia. Methods: Data from a total of 1122 women who were pregnant at the time of the survey were included in the final analysis. Bivariate and multilevel analyses were conducted. Multilevel modeling with fixed and random coefficients was used to estimate the variation in pregnant women’s ITNs usage across communities (residence areas) and regions of Ethiopia. Results: Out of the total 1122 pregnant women, 58.37% slept under a net and 41.63% did not sleep under nets. Significant variations were observed in pregnant women’s ITNs usage across communities (residence areas) and regions of Ethiopia, with between variations in pregnant women’s ITNs usage across communities (residence areas) and regions. In addition, the region, place of residence, wealth index, educational level, and age of the women as well as whether they believed that mosquito bites cause malaria were significant factors in pregnant women’s usage of ITNs. Pregnant women in Ethiopia had moderate usage of ITNs with varied risk factors at the individual, community, and regional levels. Conclusion: Based on the factors identified, there is a need to implement and/or strengthen programs (e.g., regular sensitization) that intensify high coverage of ITNs for effective malaria prevention in Ethiopia, especially among pregnant women who do not use ITNs. Publisher’s Note: MDPI stays neutral with regard to jurisdictional claims in published maps and institutional affil- iations. Publisher’s Note: MDPI stays neutral with regard to jurisdictional claims in published maps and institutional affil- iations. Copyright: © 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article distributed under the terms and conditions of the Creative Commons Attribution (CC BY) license (https:// creativecommons.org/licenses/by/ 4.0/). healthcare healthcare healthcare healthcare Kenenisa Abdisa Kuse 1 , Teshita Uke Chikako 2 , Reta Habtamu Bacha 3 , John Elvis Hagan, Jr. 4,5,* , Abdul-Aziz Seidu 6,7,8 and Bright Opoku Ahinkorah 9 Kenenisa Abdisa Kuse 1 , Teshita Uke Chikako 2 , Reta Habtamu Bacha 3 , John Elvis Hagan, Jr. 4,5,* , Abdul-Aziz Seidu 6,7,8 and Bright Opoku Ahinkorah 9 1 Department of Statistics, Bule Hora University, Bule Hora P.O. Box 144, Ethiopia; abdisakenenisa40@gmail.com g 2 Wondo Genet College of Forestry and Natural Resource, Hawassa University, Hawassa P.O. Box 05, Ethiopia; teshitauke@hu.edu.et 2 Wondo Genet College of Forestry and Natural Resource, Hawassa University, Hawassa P.O. Box 05, Ethiopia; teshitauke@hu.edu.et 3 Department of Statistics, Jimma University, Jimma P.O. Box 378, Ethiopia; reta.habtamu@ju.edu.et 4 Department of Health, Physical Education, and Recreation, University of Cape Coast, Cape Coast PMB TF0494, Ghana 5 Neurocognition and Action-Biomechanics-Research Group, Faculty of Psychology and Sport Sciences, Bielefeld University, 33501 Bielefeld, Germany 6 Department of Population and Health, University of Cape Coast, Cape Coast PMB TF0494, Ghana; abdul-aziz.seidu@stu.ucc.edu.gh g 7 College of Public Health, Medical and Veterinary Sciences, James Cook University, Townsville, QLD 4811, Australia g 7 College of Public Health, Medical and Veterinary Sciences, James Cook University, T ill QLD 4811 A t li Citation: Kuse, K.A.; Chikako, T.U.; Bacha, R.H.; Hagan, J.E., Jr.; Seidu, A.-A.; Ahinkorah, B.O. Multilevel Modelling of Individual, Community and Regional Level Factors Associated with Insecticide-Treated Net Usage among Pregnant Women in Ethiopia. Healthcare 2022, 10, 1418. https://doi.org/10.3390/ healthcare10081418 Academic Editor: Abdel-Latif Mohamed Received: 23 May 2022 Accepted: 25 July 2022 Published: 29 July 2022 Publisher’s Note: MDPI stays neutral with regard to jurisdictional claims in published maps and institutional affil- iations. Copyright: © 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article distributed under the terms and conditions of the Creative Commons Attribution (CC BY) license (https:// creativecommons.org/licenses/by/ 4.0/). 8 Department of Estate Management, Takoradi Technical University, Takoradi P.O. Box 256, Ghana Department of Estate Management, Takoradi Technical University, Takoradi P.O. Box 256, Ghana 9 School of Public Health, Faculty of Health, University of Technology Sydney, Sydney, NSW 2007, Australia; bright.o.ahinkorah@student.uts.edu.au 1. Introduction Malaria is a preventable and curable life-threatening disease caused by parasites that are transmitted from person to person through bites of infected female Anopheles https://www.mdpi.com/journal/healthcare Healthcare 2022, 10, 1418. https://doi.org/10.3390/healthcare10081418 Healthcare 2022, 10, 1418 2 of 12 mosquitoes [1]. For many countries affected by malaria, it is a leading cause of illness and death [2]. In areas with high prevalence, the most vulnerable groups are young children, who have not yet developed immunity to malaria, and pregnant women, whose immunity has been decreased due to pregnancy [3]. In low-prevalence areas, the women generally have developed no immunity to malaria [4]. Malaria infection is the major cause of maternal anemia, premature delivery, and fetal loss [3,4]. For equal exposure, adult men and women are equally vulnerable to malaria infection, but pregnant women are at greater risk of malaria infection [4,5]. In 2018 and 2020, available statistics showed that more than 228 million malaria cases with 405,000 deaths and 241 million cases of malaria with 627,000 deaths were observed, respectively [6,7]. Of these estimates, approximately 93% of malaria cases and 94% of the malaria deaths occurred in Africa and malaria is considered one of the main indirect reasons for maternal and infant mortality [6]. The WHO has found that the African region carries a disproportionately high share of the global malaria burden, and that the region was home to 95% of malaria cases and 96% of malaria deaths in 2020 [1,8]. A new cause-of-death methodology was applied to 32 countries in sub-Saharan Africa and it was found that this region shoulders about 93% of all malaria deaths globally [1,9]. The case fatality is quite dominant among pregnant women and children under five years of age as these are the cohorts with the higher risk of infection and adverse effects [10] For instance, an estimated 25 million pregnancies in sub-Saharan Africa are at risk of malaria, with serious implications for both mother and fetus (e.g., maternal anemia, stillbirths, low birth weight, and intrauterine growth restriction) [11]. If appropriately and regularly used, insecticide-treated nets (ITNs) have been recog- nized as a cost-effective malaria-prevention intervention that decreases malaria morbidity and mortality by decreasing the contact and bites of mosquitoes [12,13] Previous research has shown that ITN usage is the most cost-effective intervention to reduce malaria trans- mission in developing countries [14,15]. 1. Introduction Empirical evidence suggests that ITNs minimize malaria deaths from all causes of mortality in malaria by nearly 20% [16]. Studies suggest that ITN utilization among pregnant women in sub-Saharan countries is quite low [17–19], with cited factors accounting for poor ITN utilization including poor educational and knowledge levels, ITN accessibility, sufficiency, quality, physical condition, maintenance, replacement, and effectiveness [20,21]. However, the effect of these socio- demographic factors may vary across countries and within and between contexts and over time. Malaria continues to be a major public-health problem in Ethiopia which is one of the countries with the highest prevalence of malaria among pregnant women. Approximately 68% of Ethiopian people live in malaria-risk areas, with about 75% of the landmass of Ethiopia being malaria-endemic and it is one of the most malaria-prone countries in Africa [22]. Given that pregnant women and their unborn children are a vulnerable group and susceptible to malaria and its adverse effects, providing current empirical information on ITN utilization and its related factors may guide authorities in planning appropriate interventions or programs aimed at contributing to national malaria-prevention- and control-policy development. There has been no study conducted at the national level regarding ITN utilization among pregnant women in Ethiopia that considers ITN utilization at the regional and household level. Therefore, based on the data obtained from the 2016 Ethiopian Demographic and Health Survey (EDHS) this study aimed to assess the variation in ITN usage and its associated factors among pregnant women in Ethiopia. 2.2. Study Population The target population was women who were pregnant during the survey time. All women who were usual members of the selected households and those who spent the night before the survey in the selected households were eligible to be interviewed in the survey. A total weighted sample of 1122 pregnant women was included in the final analysis of this study. 2.4.3. Regional Level Variables Region (Tigray, Affar, Amhara, Oromia, Somalia, Benishanshangul-Gumuz, SNNPR, Gambela, Harari, Dire Dawa, Addis Ababa). 2.4.2. Community Level Variables Place of residence (urban, rural). Place of residence (urban, rural). 2. Materials and Methods 2.1. Data Source The data used for this study were obtained from the 2016 EDHS. Based on a na- tionally representative sample, the survey was conducted from 18 January 2016 to 27 June 2016, and provided national, regional, and rural estimates [23]. In 2016, the EDHS sample was stratified and selected in two stages. Each region was stratified into urban Healthcare 2022, 10, 1418 3 of 12 3 of 12 and rural areas, yielding 21 sampling strata. Samples of EAs (enumeration areas) were selected independently in each stratum in the two stages. A total of 645 EAs was selected in the first stage (202 in urban areas and 443 in rural areas), with probability proportional to EA size (based on the 2007 population and housing census) and independent selec- tions. In the second stage of selection, a fixed number of 28 households per cluster were selected with an equal probability of systematic selection [23]. Details of the EDHS method- ology and sampling have been published in the EDHS report, which is also available online at https://dhsprogram.com/publications/publication-fr328-dhs-finalreports.cfm? cssearch=351226_1 (see Supplementary Materials: accessed on 8 January 2022). 2.3. Study Variables Outcome Variable Pregnant women’s usage of ITNs was the outcome variable of the study. It was measured as dichotomous as follows: Pregnant women′s usage of an ITN (Yi) =  0 : woman slept under a net 1 : woman did not sleep under a net (1) (1) 2.4. Independent Variables 2.4.1. Individual Level Variables 2.4.1. Individual Level Variables The ages of the women (15–24, 25–34, 35–44, 45–49), their educational level (no educa- tion, primary, secondary, higher), their working status (working, not working), their wealth index (poorest, poorer, middle, richer, richest), the sex of the household head (male, female), the household size (less than five, five or more), the current marital status of women (never in a union, married/living with a partner, widowed/divorced/separated), and belief that mosquito bites cause malaria (no, yes) were the individual-level variables. 2.4.2. Community Level Variables Place of residence (urban, rural). 2.5. Data Analyses Bivariate and multilevel logistic regression analysis were conducted. The variables with p-values less than 0.25 in the bivariate analysis were considered to be relevant for the multilevel analysis. A three-level multilevel logistic regression analysis was applied to assess the effects of individual-, community-, and regional-level factors on ITNs usage among pregnant women in Ethiopia. The three-level multilevel logistic regression model was as follows: (2) Yijk = β0 + U0jk + ε0ijk (2) where Yijk is the ith pregnant woman in the jth community and the kth is those who slept under a net, β0, β1, β2, . . . , βp are the standard logistic regression parameters of the variables associated with ITN usage among the pregnant women, X1 X1, X2,...,Xp are independent variables related to the pregnant women’s usage of an ITN, and Uojk is the random effect at levels two and three. Healthcare 2022, 10, 1418 4 of 12 2.5.1. Multilevel Logistic Regression Intercept-Only Model 2.5.1. Multilevel Logistic Regression Intercept-Only Model An intercept-only model is a model without explanatory variables and it serves as a point of reference with which other models are compared. The three-level intercept-only multilevel logistic regression model is expressed as follows: (3) Yijk = β0 + U0jk + ε0ijk (3) where the index i indicates individual women, j indicates community-level factors, k indicates regional level factors, U0jk is level two and three errors, ε0ij is a level one error, β0 is the overall average of pregnant women’s usage of ITNs, and Yijk is the pregnant ith woman’s usage of an ITN in the jth community and kth region. 2.5.2. Random-Intercept Multilevel Logistic Regression Model 2.5.2. Random-Intercept Multilevel Logistic Regression Model In the random-intercept model, the intercept is the only random effect, meaning that the groups differ with respect to the average value of the ITN usage among the pregnant women, but the relationship between factors and response variables cannot differ between groups. The random intercept model expresses the log-odds, (i.e., the logit of π) as a sum of a linear function of the explanatory variables. That is, log  π 1 −π  = β0j + β1Xi11 + β2Xi22+, . . . , βjXijk (4) (4) where π is the probability that the pregnant woman slept under a net and the intercept term β0j is assumed to vary randomly and is given by the sum of intercept β0 and group- dependent deviations Uujk. That is β0j = β0 + Uojk. 2.5.3. Multilevel Logistic Regression Random-Coefficient Model In this model, the coefficients of the explanatory variables are considered as random. 2.5.3. Multilevel Logistic Regression Random-Coefficient Model In this model, the coefficients of the explanatory variables are considered as random. 2.5.3. Multilevel Logistic Regression Random Coefficient Model In this model, the coefficients of the explanatory variables are considered as random. g g In this model, the coefficients of the explanatory variables are considered as random. log  π 1 −π  = βoj + β1jXi11 + β2jXi22+, . . . , βPjXiPj + Uoj (5) log  π 1 −π  = βoj + β1jXi11 + β2jXi22+, . . . , βPjXiPj + Uoj (5) d h k (5) Letting βoj = βo + Uojk, and βhj = βh + Uhjk h = 1,2, . . . ,k. We get log  π 1 −π  = βo k ∑ h=1 βhxhij + Uojk + k ∑ h=1 Uhjkxhijk (6) (6) where βo k ∑ h=1 βhxhij is the fixed part of the model, Uojk + k ∑ h=1 Uhjkxhijk is the random part of the model, π is the probability that the pregnant woman slept under a net, and the intercept term β0j is assumed to vary randomly and is given by the sum of intercept β0 and group-dependent deviations Uujk. That is β0j = β0 + Uojk. 2.5.7. Bayesian Information Criterion (BIC) The Bayesian information criterion (BIC) is a criterion for model selection among a finite set of models [27]. It is based, in part, on the likelihood function, and is closely related to the Akaike information criterion (AIC). It is given as: BIC = −2LL + log(N)k (10) (10) where k is the degrees of freedom calculated as the rank of a variance–covariance matrix of the parameters and N is the number of observations used in the estimation or, more precisely, the number of independent terms in the likelihood. Thus, based on these two commonly used model-comparison approaches, the model with smallest AIC or BIC become the best data-fitted model. 3. Results 2.5.6. Model Comparisons In this study, model comparisons were made between four models. Model I was the empty model or null model, Model II included individual-level factors, Model III included community-level factors, and Model IV accounted for both individual- and community- level factors of the study. The model with a small value of AIC is the optimal model, which means the best data-fitted model and the model which has few parameters to be estimated [26]. AIC is defined as: AIC = −2ln(likelihood) + 2k (9) (9) where k is the degrees of freedom calculated as the rank of a variance–covariance matrix of the parameters. 2.5.7. Bayesian Information Criterion (BIC) 2.5.5. Measures of Variation Intra-cluster correlation (ICC) measures the proportion of variance in the outcome explained by the grouping structure and is determined as follows: ICC(Community) = δ2community δ2 community+δ2Region+π2 3 ICC attributable to level 2 (7) ICC(Region) = δ2Region δ2 community+δ2Region+π2 3 ICC attributable to level 3 (8) ICC(Community) = δ2community δ2 community+δ2Region+π2 3 ICC attributable to level 2 (7) ICC(Region) = δ2Region δ2 community+δ2Region+π2 3 ICC attributable to level 3 (8) (7) ICC(Region) = δ2Region δ2 community+δ2Region+π2 3 ICC attributable to level 3 (8) (8) where π2 3 denotes the variation of lower (individual) level unit, δ2community denotes the variation between communities, and δ2Region denotes the variation between regions. where π2 3 denotes the variation of lower (individual) level unit, δ2community denotes the variation between communities, and δ2Region denotes the variation between regions. 2.5.4. Parameter Estimation of Multilevel Logistic Regression Analyses 2.5.4. Parameter Estimation of Multilevel Logistic Regression Analyses Multilevel models are also generally estimated using maximum likelihood methods. Combining multilevel and generalized linear models leads to complex models and estima- tion procedures. The most frequently used methods are based on a first- or second-order Taylor expansion of the link function. When the approximation is around the estimated fixed part, it is called the marginal quasi-likelihood (MQL) and when it is around an estimate for the fixed plus random part, it is called penalized or predictive quasi-likelihood [24,25]. Healthcare 2022, 10, 1418 5 of 12 2.5.5. Measures of Variation 2.5.5. Measures of Variation 3. Results 3.1. Descriptive Statistics on the Sample Characteristics 3.1. Descriptive Statistics on the Sample Characteristics 3.1. Descriptive Statistics on the Sample Characteristics Of the 1122 women included in the study, 467 (41.63%) did not sleep under a net. Of the 1122 women included in the study, 467 (41.63%) did not sleep under a net. The study found that 58.37% of the pregnant women slept under a net and 41.63% of pregnant women did not sleep under a net during the survey time. Table 1 shows that of the 1122 pregnant women included in the study, 197 (17.55%) resided in urban areas, and 925 (82.44%) resided in rural areas. About 698 (62.2%) of the women had no education, 299 (26.7%) had primary education, 74 (6.6%) had secondary education, and 51 (4.5%) had a higher education. Of the women, 548 (48.8%) were aged between 15 and 24, 507 (45.2%) were aged between 25 and 34, and 67 (6%) were aged between 35 and 44. Healthcare 2022, 10, 1418 6 of 12 Table 1. Result of descriptive and bivariate analyses. 3. Results Pregnant Women’s ITN Usage Variables Categories Women Who SleptUnder a Net Women Who Did Not Sleep under a Net Total p-Value For X2 Place of residence Urban 138 59 197 (17.55%) <0.001 Rural 517 408 925 (82.45%) Region Tigray 91 14 105 (9.56%) <0.001 Afar 34 46 80 (7.13%) Amhara 56 45 101 (9%) Oromi 74 61 135 (12.03% Somalia 162 91 253 (22.55%) Benishangul-Gumuz 37 55 92 (8.2%) SNNPR 107 86 193 (17.02%) Gambela 21 8 29 (2.58%) Harari 23 13 36 (3.21%) Addis Ababa 46 8 54 (4.8%) Dire Dawa 4 40 44 (3.92%) Educational level No education 393 305 698 (62.2%) 0.001 Primary 170 129 299 (26.7%) Secondary 56 18 74 (6.6%) Higher 36 15 51 (4.5%) Wealth index Poorest 197 176 373 (33.24%) 0.014 Poorer 131 86 217 (19.34%) Middle 90 61 151 (13.46%) Richer 69 66 135 (12.03%) Richest 168 78 246 (21.93%) Age 15–24 301 247 548(48.8%) <0.001 25–34 301 206 507 (45.2%) 35–44 53 14 58 (6%) Current marital status Never in a union 2 0 2 (0.2%) 0.0018 Married 643 455 1098 (97.86%) Separated 10 12 22 (1.94%) Working status Not working 461 316 777 (69.25%) 0.450 Working 194 151 345 (30.75%) Belief that mosquito bites cause malaria No 397 279 676 (60.3%) 0.0024 Yes 258 188 446 (39.7%) Household size <5 2 5 7 (0.62%) 0.785 ≥5 653 462 1115 (99.38%) Sex of household head Male 535 350 885 (78.87%) <0.001 Female 120 117 237 (21.13%) Table 1. Result of descriptive and bivariate analyses. Pregnant Women’s ITN Usage 7 of 12 7 of 12 Healthcare 2022, 10, 1418 3.2. Bivariate Analysis Variable Null Model (Model I) Model II Model III Model IV Fixed effect AOR (95% CI) AOR (95% CI) AOR (95% CI) AOR (95% CI) Constant 0.67 (0.44–1.83) Age 15–24 (reference category) 25–34 0.782 (0.533–1.46) 1.38 (1.024–3.11) ** 35–44 0.351 (0.187–1.45) 0.78 (0.246–1.32) 45 and above 0.867 (0.125–2.79) 0.35 (0.110–1.76) No education (reference category) Primary 0.521 (0.290–1.88) 1.331 (1.026–1.94) * Secondary 0.657 (0.335–1.28) 1.346 (1.314–1.59) * Higher 0.761 (0.438–1.99) 1.225 (1.14–1.77) * 3.3. Model Comparisons From Table 2, the AIC and BIC for pregnant women’s usage of ITNs in Model IV (individual-, community-, and regional-level factors) was small compared to the other three models. Thus, Model IV (individual-, community-, and regional-level factors) was the best-fitted to the study data. Table 2. Model comparison. Response Model Comparison Criteria Null Model (Model I) Individual-Level Factors (Model II) Community-Level Factors (Model III) Individual- and Community-Level Factors (Model IV) Pregnant women’s usage of ITNs AIC 1436.051 1431.974 1414.482 1389.77 BIC 1532.432 1479.779 1446.097 1438.32 Table 2. Model comparison. 3.2. Bivariate Analysis 3.2. Bivariate Analysis From Table 1, variables with a p-value less than 0.25 were candidate variables for the multilevel logistic regression analysis. The age, educational level, wealth index, current marital status, region, place of residence, sex of the household head and belief that mosquito bites cause malaria had a p-value of less than 0.25. These were the candidate variables for the multilevel analysis but women’s working status and household size were not candidate variables and were not considered for further analysis. y g variables and were not considered for further analysis. 3.3. Model Comparisons From Table 2, the AIC and BIC for pregnant women’s usage of ITNs in Model IV (individual-, community-, and regional-level factors) was small compared to the other three models. Thus, Model IV (individual-, community-, and regional-level factors) was the best-fitted to the study data. Table 2. Model comparison. Response Model Comparison Criteria Null Model (Model I) Individual-Level Factors (Model II) Community-Level Factors (Model III) Individual- and Community-Level Factors (Model IV) Pregnant women’s usage of ITNs AIC 1436.051 1431.974 1414.482 1389.77 BIC 1532.432 1479.779 1446.097 1438.32 3.4. Result of Multilevel Logistic Analysis Before considering the multilevel analysis with all independent variables, the authors tried to identify whether there was heterogeneity in the pregnant women’s usage of ITNs at the community and regional levels by using the null (empty) model. This model contained the response variable and the community- and regional-level variables. Table 3 shows that the estimated variance in the pregnant women’s usage of ITNs for model I was 0.767 and 0.345, respectively, for the community level and the regional level. This suggested that there was a significant variation of pregnant women’s usage of ITNs between communities and between regions. The ICC for the intercept-only model (Model I) was 0.174 at the community level and 0.078 at the regional level. This shows that about 17.4% and 7.8% of the variation in pregnant women’s usage of ITNs was due to variations at the community level and regional level, respectively. Table 3. Results of multilevel logistic regression random-coefficient model of pregnant women’s usage of ITNs. 3.4. Result of Multilevel Logistic Analysis 3.4. Result of Multilevel Logistic Analysis Before considering the multilevel analysis with all independent variables, the authors tried to identify whether there was heterogeneity in the pregnant women’s usage of ITNs at the community and regional levels by using the null (empty) model. This model contained the response variable and the community- and regional-level variables. Table 3 shows that the estimated variance in the pregnant women’s usage of ITNs for model I was 0.767 and 0.345, respectively, for the community level and the regional level. This suggested that there was a significant variation of pregnant women’s usage of ITNs between communities and between regions. The ICC for the intercept-only model (Model I) was 0.174 at the community level and 0.078 at the regional level. This shows that about 17.4% and 7.8% of the variation in pregnant women’s usage of ITNs was due to variations at the community level and regional level, respectively. Table 3. Results of multilevel logistic regression random-coefficient model of pregnant women’s usage of ITNs. Variable Null Model (Model I) Model II Model III Model IV Fixed effect AOR (95% CI) AOR (95% CI) AOR (95% CI) AOR (95% CI) Constant 0.67 (0.44–1.83) Age 15–24 (reference category) 25–34 0.782 (0.533–1.46) 1.38 (1.024–3.11) ** 35–44 0.351 (0.187–1.45) 0.78 (0.246–1.32) 45 and above 0.867 (0.125–2.79) 0.35 (0.110–1.76) No education (reference category) Primary 0.521 (0.290–1.88) 1.331 (1.026–1.94) * Secondary 0.657 (0.335–1.28) 1.346 (1.314–1.59) * Higher 0.761 (0.438–1.99) 1.225 (1.14–1.77) * Table 3. Results of multilevel logistic regression random-coefficient model of pregnant women’s usage of ITNs. No education (reference category) Healthcare 2022, 10, 1418 8 of 12 Table 3. Cont. 3.4. Result of Multilevel Logistic Analysis Variable Null Model (Model I) Model II Model III Model IV Wealth index Poorest (reference category) Poorer 0.338 (0.136-.87) * 1.688 (1.237–3.44) * Middle 0.651 (0.366–2.19] 1.754 (1.396–2.74) * Richer 0.846 (0.761–1.57) 1.142 (0.66–1.49) Richest 0.289 (0.167–0.42) * 1.021 (0.992–1.534) Sex of household head Male (reference category) Female 1.440 (1.338–2.67) * 0.62 ([0.356–1.33) Current marital status Never in union (reference category) Married/living with partner 0.342 (0.153–1.466) 0.49 (0.313–1.55) Widowed/divorced/separated 0.130 (0.065–1.51) 0.193 (0.064–2.91) Belief that mosquito bites cause malaria No (reference category) Yes 1.384 (0.766–1.93) 1.49 (1.224–1.854) * Place of residence Urban (reference category) Rural 1.158 (0.531–1.73) 1.248 (1.0145–2.97) * Region Tigray(reference category) Afar 0.94 (0.641–3.24) 0.87 (0.65–9.46) Amhara 1.49 (1.159–2.53) * 1.48 (1.160–2.52) * Oromia 2.52 (2.981–4.21) * 2.54 (2.987–4.199) * Somali 2.451 (1.352–5.35) * 2.452 (1.354–5.33) * Benishangul-Gumuz 2.94 (0.137–4.748] 2.941 (0.945–4.743) SNNPR 5.26 (3.681–9.58) * 5.27 (3.684–9.54) * Gambela 3.24 (0.686–9.323) 3.22 (0.685–9.320) Harari 2.868 (0.773–8.59) 4.865 (0.776–18.55) Addis Ababa 5.89 (0.261–17.479) 5.87 (0.264–17.476) Dire Dawa 4.99 (2.72–7.23) * 4.89 (2.76–7.03) * Random effect Variance (community) 0.767 (0.588–976) 0.601 (0.322–3.89) 0.927 1.607 ICC (community) 0.174 0.143 0.194 0.264 Variance (region) 0.345 (0.177–514) 0.299 (0.151–1.96) 0.540 1.182 ICC (region) 0.078 0.071 0.113 0.19 * p < 0.05, ** p < 0.01; AOR=adjusted odds ratio; CI=confidence interval Table 3. Cont. Healthcare 2022, 10, 1418 9 of 12 9 of 12 From the final model (model IV), region, place of residence, belief that mosquito bites cause malaria, and the women’s wealth index, educational level, and age were the significant factors in their usage of ITNs. The intra-community correlation coefficient of pregnant women’s usage of ITNs in model IV was estimated to be 0.264. This means that about 26.4% of the total variability in pregnant women’s usage of ITNs was due to differences across the community (place of residence), with the remaining 73.6% of variation in pregnant women’s usage of ITNs attributable to individual differences. The intra-region correlation coefficient of pregnant women’s usage of ITNs in model IV was estimated to be 0.19. This means that 19% of the total variability in pregnant women’s usage of ITNs was due to differences across the region, with the remaining 81% of variation in pregnant women’s usage of ITNs attributable to individual differences. 3.4. Result of Multilevel Logistic Analysis g Controlling other variables in the model as a constant, the odds of usage of ITNs among pregnant women aged between 25 and 34 were 13.8% more than among those aged between 15 and 24. The odds of usage of ITNs among pregnant women with primary, secondary, or higher educational levels were 13.31%, 13.46%, and 12.25%, respectively, more than among pregnant women with no education. The odds of usage of ITNs for poorer- and middle-wealth-index women were 16.88% and 17.54%, respectively, more than among the poorest pregnant women. The odds of usage of ITNs among pregnant women who believed that mosquito bites cause malaria were about 14.9% more than among those who believed mosquito bites do not cause malaria. The odds of usage of ITNs among pregnant women who resided in rural areas were 12.48% more than those who resided in urban areas. Controlling other regions in the variable as a constant, the odds of usage of ITNs among pregnant women in the Amhara, Oromia, Somali, SNNP, and Dire Dawa regions were about 14.8%, 25.4%, 24.5%, 52.7%, and 48.9% more, respectively, than those from the Tigray region. 4. Discussion Based on data obtained from the 2016 EDHS, the current study focused on pregnant women’s usage of ITNs in Ethiopia and, using bivariate and multilevel logistic regression analysis, identified the factors associated with usage of the nets. The study found that 58.37% of pregnant women slept under a net. This result is consistent with previous stud- ies [28–32]. Women’s educational level was associated with ITNs usage among pregnant women; those with secondary or higher educational levels were more likely to sleep un- der a net than those who had no education. A similar study conducted in Nigeria [33] confirmed this finding and argued that based on the demographic profile, the majority of women had either attained a secondary or higher educational level. The high literacy level, no doubt, played a significant role in their knowledge because educated women are able to comprehend the information provided by the newspapers and other mass media. Education promotes empowerment and ensures development benefit through a continuous learning process, so that the pregnant women learn more about ITNs usage [34] We also found that the richest women were more likely to use ITNs during pregnancy than the poorest women. However, a study conducted in Kinshasa showed that the poorest women were more likely to use a net during pregnancy than other women [35]. Owning more than one net was associated with a nearly two-fold increased likelihood of using a net in pregnancy [36]. This finding is possibly due to pressure caused by poverty and a low incidence of malaria and shows that intensified education among the poorest women is crucial because they may have ITNs but may use them for other purposes or even sell them to make a living due to unavailability of food and other necessities of their families [37]. The ages of the pregnant women were significant to their usage of ITNs. Pregnant women aged 45 years and above were less likely to use ITNs than younger women. There was a similar finding in a study conducted in southern Ethiopia [38]. Place and region of residence were significant factors in pregnant women’s usage of ITNs. Specifically, pregnant women from rural areas were less likely to use ITNs than women from urban areas. A similar study argued that relative to rural women, women of urban residence Healthcare 2022, 10, 1418 10 of 12 10 of 12 were more likely to use ITNs [39]. 4. Discussion This is perhaps because they are more familiar with the education and health systems and how the nets are used. It is well established in literature that ownership of ITNs does not necessarily translate into utilization. Given that most health-care facilities in sub-Saharan Africa are predominantly concentrated in urban locations, being prompted and motivated to use their ITNs by healthcare professionals is a necessity [39,40]. y Other findings indicate that women in rural areas are more likely to use ITNs. This outcome shows that rural residents in Ethiopia have a higher chance of using ITNs than urban residents following a national mass-distribution exercise. This finding is similar to that of other studies in Ghana and Cameroon [41,42]. In contrast, Ameyaw et al. [31] noted that rural residents in Uganda have a lower chance of using ITNs than urban residents following a national mass-distribution exercise. g The regional factor was another significant factor in ITNs utilization. This is because of malaria-endemic areas that might have forced households to use ITNs for fear of malarial infection. The sex of the household head was not significant in this study. This contradicted the studies conducted by Krah et al. and Renne et al. [43,44]. The ratio of ITNs to household members is the reason for this outcome. With fewer ITNs, and taking into account the traditional messaging on ITNs use by women and children under five, men should give preference to females when there are not enough ITNs available. The reason for this is that women often sleep under the same net as the children under five, who are the most vulnerable. This explanation contradicts some suggestions that give males in the household the power of decision-making, and the belief that males will use ITNs if there are not enough for all household members. The marital status of women was also not a significant factor in ITNs use, a finding similar to that of a study conducted in Nigeria by Onoriode Ezire et al. [45]. Other studies have shown that interpersonal communication and community en- gagement are excellent ways to build skills and increase knowledge [46,47]. Although ownership of a net is very significant, we did not find a significant relationship between the number of nets owned, the length of time the household had owned the net, and its actual use. 4. Discussion Accordingly, having the right information and skills are more important than owning a large number of nets. 5. Conclusions Conflicts of Interest: The authors declare no conflict of interest. References 1. WHO: World Health Organization. 2021 World Malaria Report. Available online: https://www.malariapartnersinternational. org/world-health-organization-releases-2021-world-malaria-report/ (accessed on 18 January 2022). 2. WHO: World Health Organization. World Malaria Report 2018. Available online: http://apps.who.int/i 665/275867/9789241565653-eng.pdf. (accessed on 1 February 2022). g p y 3. CDC.: Center for Disease Control and Prevention. Parasites-Malaria. 2020. Available online: https://www.cdc.gov/parasites/ malaria/index.html (accessed on 12 February 2022). 4. Okiring, J.; Epstein, A.; Namuganga, J.F.; Kamya, E.V.; Nabende, I.; Nassali, M.; Sserwanga, A.; Gonahasa, S.; Muwema, M.; Kiwuwa, S.M.; et al. Gender difference in the incidence of malaria diagnosed at public health facilities in Uganda. Malar. J. 2022, 21, 22. [CrossRef] [PubMed] , [ ] [ ] 5. Gender and Health. Gender, Health and Malaria. Available online: https://www.who.int/gender/documents/gender_health_ malaria.pdf (accessed on 23 February 2022). 6. Yirsaw, A.N.; Gebremariam, R.B.; Getnet, W.A.; Mihret, M.S. Insecticide-treated net utilization and associated factors among pregnant women and under-five children in East Belessa District, Northwest Ethiopia: Using the Health Belief model. Malar. J. 2021, 20, 130. [CrossRef] ] M.; Show, K.L. Utilization of insecticide-treated bed nets among pregnant women in Myanmar–analysis of the phic and Health Survey. PLoS ONE 2022, 17, e0265262. [CrossRef] 7. Aung, P.L.; Win, K.M.; Show, K.L. Utilization of insecticide-treated bed nets among pregnant women in 2015–2016 Demographic and Health Survey. PLoS ONE 2022, 17, e0265262. [CrossRef] 8. Asumah, M.N.; Akugri, F.A.; Akanlu, P.; Taapena, A.; Boateng, F. Utilization of insecticides treated mosquito bed nets among pregnant women in Kassena-Nankana East municipality in the upper east region of Ghana. Public Health Toxicol. 2021, 1, 1. [CrossRef] 9. Babalola, O.J.; Sambo, M.N.; Idris, S.H.; Ajayi, I.-O.O.; Ajumobi, O.; Nguku, P. Factors associated with ut women of child-bearing age in Igabi, Kaduna State, Nigeria. Malar. J. 2019, 18, 412. [CrossRef] [PubMe 10. Desai, M.; ter Kuile, F.O.; Nosten, F.; McGready, R.; Asamoa, K.; Brabin, B.; Newman, R.D. Epidemiology and burden of malaria in pregnancy. Lancet Infect. Dis. 2007, 7, 93–104. [CrossRef] 11. World Health Organization. World Malaria Report: 2012. World Health Organization; 2012. Available online: https://reliefweb. int/report/world/world-malaria-report-2012 (accessed on 15 January 2022). p p y 12. Lengeler, C. Insecticide-treated bed nets and curtains for preventing malaria. Cochrane Database Syst Rev. 2004, 2, CD000363. [CrossRef] 13. World Health Organization. Insecticide-Treated Mosquito Nets: A WHO position statement; World Health Organization: Geneva, Switzerland, 2008. 14. Kleinschmidt, I.; Schwabe, C.; Shiva, M.; Segura, J.L.; Sima, V.; Mabunda, S.J.A.; Coleman, M. Combining Indoor Residual Spraying and Insecticide-Treated Net Interventions. 5. Conclusions The study found that the prevalence of ITNs usage is relatively low in Ethiopia. The region, place of residence, belief that mosquito bites cause malaria, and wealth index, educational level, and age of the women were the significant factors associated with pregnant women’s usage of ITNs. In light of these findings, it is necessary to analyze and improve current ITNs inventions. Specifically, awareness creation by the community and health-extension workers of the importance of ITNs usage in Ethiopia is necessary. The Ethiopian government should provide awareness to pregnant women across primary healthcare centers and expand public knowledge on the importance of ITNs through targeted and multimedia approaches. It was found that the prevalence of ITNs use in the study area was lower than the national target and its main barriers were misconceptions and misperceptions regarding ITNs and malaria. Therefore, improving ITNs utilization would require reversal of the community’s misconceptions about malaria and ITNs through information, education, communication, and behavioral change. Supplementary Materials: Supplementary information about the DHS data usage and ethical stan- dards are available at http://goo.gl/ny8T6X (accessed on 8 January 2022). Author Contributions: K.A.K. and T.U.C. developed the study concept and performed the analysis; K.A.K., T.U.C., R.H.B., J.E.H.J., A.-A.S. and B.O.A. drafted and revised the manuscript. All authors have read and agreed to the published version of the manuscript. Healthcare 2022, 10, 1418 11 of 12 11 of 12 Funding: The authors sincerely thank Bielefeld University, Germany for providing financial support through the Open Access Publication Fund for the article processing charge. Funding: The authors sincerely thank Bielefeld University, Germany for providing financial support through the Open Access Publication Fund for the article processing charge. Funding: The authors sincerely thank Bielefeld University, Germany for providing financial support through the Open Access Publication Fund for the article processing charge. Institutional Review Board Statement: Ethical clearance was obtained by the Institutional Review Board of ICF International. Permission was also sought from each woman during the fieldwork. The authors requested and officially received approval from the DHS Program to use the dataset for this study. Informed Consent Statement: Informed consent was obtained from all subjects involved in the study. Data Availability Statement: The dataset used for the study is available at: https://dhsprogram. com/data/available-datasets.cfm. Article, Communication, Brief Report, Case Report, Proceedings, Data Descriptor, Project Report (accessed on 8 January 2022). Conflicts of Interest: The authors declare no conflict of interest. References Am. J. Trop. Med. Hyg. 2009, 81, 519–524. [CrossRef] [PubMed] 15. Rashed, S.; Johnson, H.; Dongier, P.; Moreau, R.; Lee, C.; Lambert, J.; Schaefer, C. Economic impact of febrile morbidity and use of permethrin-impregnated bed-nets in a malarious area I. Study of demographics, morbidity, and household expenditures associated with febrile morbidity in the Republic of Benin. Am. J. Trop. Med. Hyg. 2000, 62, 173–180. [CrossRef] [PubMed] y p p yg 16. Kinfu, G.; Gebre-Selassie, S.; Fikrie, N. Therapeutic efficacy of artemether lumefantrine for the trea Plasmodium falciparum malaria in Northern Ethiopia. Malar. Res. Treat. 2012, 2012, 548710. [CrossRef y p p yg 16. Kinfu, G.; Gebre-Selassie, S.; Fikrie, N. Therapeutic efficacy of artemether lumefantrine for the treatment of uncomplicated Plasmodium falciparum malaria in Northern Ethiopia. Malar. Res. Treat. 2012, 2012, 548710. [CrossRef] 17 Alonso P; Noor A M The global fight against malaria is at crossroads Lancet 2017 390 2532 2534 [CrossRef] 16. Kinfu, G.; Gebre-Selassie, S.; Fikrie, N. Therapeutic efficacy of artemether lumefantrine for the treatment of uncomplicated Plasmodium falciparum malaria in Northern Ethiopia. Malar. Res. Treat. 2012, 2012, 548710. [CrossRef] 16. Kinfu, G.; Gebre-Selassie, S.; Fikrie, N. Therapeutic efficacy of artemether lumefantrine for the treatment of unc Plasmodium falciparum malaria in Northern Ethiopia. Malar. Res. Treat. 2012, 2012, 548710. [CrossRef] 17. Alonso, P.; Noor, A.M. The global fight against malaria is at crossroads. Lancet 2017, 390, 2532–2534. [CrossRef] p y Plasmodium falciparum malaria in Northern Ethiopia. Malar. Res. Treat. 2012, 2012, 548710. [CrossRef] 17 Al P N A M Th l b l fiht i t l i i t d L t 2017 390 2532 2534 [C R f] p p A.M. The global fight against malaria is at crossroads. Lancet 2017, 390, 2532–2534. [CrossRef] g g g 18. Dombrowski, J.G.; de Souza, R.M.; Silva, N.R.M.; Barateiro, A.; Epiphanio, S.; Gonçalves, L.A.; Marinho, C.R.F. Malaria during pregnancy and newborn outcome in an unstable transmission area in Brazil: A population-based record linkage study. PLoS ONE 2018, 13, e0199415. [CrossRef] [PubMed] 19. Omer, S.A.; Idress, H.E.; Adam, I.; Abdelrahim, M.; Noureldein, A.N.; Abdelrazig, A.M.; Elhassan, M.O.; Sulaiman, S.M. Placental malaria and its effect on pregnancy outcomes in Sudanese women from Blue Nile State. Malar. J. 2017, 16, 374. [CrossRef] 12 of 12 12 of 12 Healthcare 2022, 10, 1418 20. Atkinson, J.-A.M.; Fitzgerald, L.; Toaliu, H.; Taleo, G.; Tynan, A.; Whittaker, M.; Riley, I.; Vallely, A. References Community participation for malaria elimination in Tafea Province, Vanuatu: Part I. Maintaining motivation for prevention practices in the context of disappearing disease. Malar. J. 2010, 9, 93. [CrossRef] [PubMed] pp g J 21. Debo, G.W.; Kassa, D.H. Prevalence of malaria and associated factors in Benna Tsemay district of pas Ethiopia. Trop. Dis. Travel Med. Vaccines 2016, 2, 16. [CrossRef] p p 22. Alemu, M.B.; Asnake, M.A.; Lemma, M.Y.; Melak, M.F.; Yenit, M.K. Utilization of insecticide treated bed net and associated factors among households of Kola Diba town, North Gondar, Amhara region, Ethiopia. BMC Res. Notes 2018, 11, 575. [CrossRef] [PubMed] 23. Central Statistical Agency (CSA); ICF. Ethiopia Demographic and Health Survey 2016; CSA: Addis Calverton, MA, USA, 2016. 23. Central Statistical Agency (CSA); ICF. Ethiopia Demographic and Health Survey 2016; CSA: Addis Ababa, Ethiopia, 2016; ICF: Calverton, MA, USA, 2016. 4 G ld H M l il l S i i l M d l J h W l S H b k NJ USA 11 24. Goldstein, H. Multilevel Statistical Models; John Wiley & Sons: Hoboken, NJ, USA, 2011. 25. Oztruk, Z.; Cengiz, M.A. Comparison of Markov Chain Monte Carlo Convergence Diagnostic test for Bayesian logistic Random Effect Models. Int. J. Res. Med. Health Sci. 2016, 9, 1–10. 26. Agresti, A. Categorical Data Analysis; John Wiley & Sons: Hoboken, NJ, USA, 2002. 27. Alston, C.; Kuhnert, P.; Choy, L.S.; McVinish, R.; Mengersen, K. Bayesian model comparison: Review and discussion. In Proceedings of the International Statistical Institute: 55th Session, Sydney, Australia, 5–12 April 2005. 28. Tesfaye, T.; Alemu, B.M.; Egata, G.; Bekele, H.; Merga, B.T.; Eshetu, B.; Balis, B. Insecticide-Treated Nets Utilization and Associated Factors Among Pregnant Women in Miesso Woreda, Eastern Ethiopia: Observational Study. Int. J. Womens Health 2022, 14, 445–453. [CrossRef] [PubMed] 29. Berkessa, T.; Oljira, D.; Tesfa, B. Insecticide treated nets use and its determinants among settlers of Southwest Ethiopia. BMC Public Health 2015, 16, 106. [CrossRef] 30. Mekuria, M.; Binegde, D.N.; Derega, J.; Bala, E.T.; Tesfa, B.; Deriba, B.S. Insecticide-Treated Bed Net Utilization and Associated Factors Among Households in Ilu Galan District, Oromia Region, Ethiopia. Environ. Health Insights 2022, 16, 11786302221078122. [CrossRef] [ ] 31. Ameyaw, E.K.; Kareem, Y.O.; Yaya, S. Individual, community and region level predictors of insecticide-treated net use among women in Uganda: A multilevel analysis. Malar. J. 2020, 19, 337. [CrossRef] [PubMed] 32. National Bureau of Statistics Dar es Salaam, Tanzania. References Tanzania Demographic and Health Survey 2004–2005; ORC Macro: Calverton, MD, USA, 2005. 33. Musa, O.I.; Salaudeen, G.A.; Jimoh, R.O. Awareness and use of insecticide treated nets among women attending ante-natal clinic in a northern state of Nigeria. J. Pak. Med Assoc. 2009, 59, 354–358. [PubMed] g 34. Aluko, J.O.; Oluwatosin, A.O. Utilization of insecticide treated nets during pregnancy among postp 34. Aluko, J.O.; Oluwatosin, A.O. Utilization of insecticide treated nets during pregnancy among postpartum women in Ibadan, Nigeria: A cross-sectional study. BMC Pregnancy Childbirth 2012, 12, 21. [CrossRef] [PubMed] g p g y g p Nigeria: A cross-sectional study. BMC Pregnancy Childbirth 2012, 12, 21. [CrossRef] [PubMed] Nigeria: A cross-sectional study. BMC Pregnancy Childbirth 2012, 12, 21. [CrossRef] [PubMed] f l k ll b l d l h k h d b f d Nigeria: A cross-sectional study. BMC Pregnancy Childbirth 2012, 12, 21. [CrossRef] [PubMed] 35. Pettifor, A.; Taylor, E.; Nku, D.; Duvall, S.; Tabala, M.; Mwandagalirwa, K.; Meshnick, S.; Behets, F. Free distribution of insecticide Nigeria: A cross-sectional study. BMC Pregnancy Childbirth 2012, 12, 21. [CrossRef] [PubMed] 35. Pettifor, A.; Taylor, E.; Nku, D.; Duvall, S.; Tabala, M.; Mwandagalirwa, K.; Meshnick, S.; Behets, F. Free distribution of insecticide treated bed nets to pregnant women in Kinshasa: An effective way to achieve 80% use by women and their newborns. Trop. Med. 35. Pettifor, A.; Taylor, E.; Nku, D.; Duvall, S.; Tabala, M.; Mwandagalirwa, K.; Meshnick, S.; Behets, F. Free distribution of insecticide treated bed nets to pregnant women in Kinshasa: An effective way to achieve 80% use by women and their newborns. Trop. Med. Int. Health 2009, 14, 20–28. [CrossRef] [PubMed] 36. Ameyaw, E.K. Individual, community and societal correlates of insecticide treated net use among pregnant women in sub-Saharan Africa: A multi-level analysis. BMC Public Health 2021, 21, 1592. [CrossRef] [PubMed] y 37. Maslow, A.H. A theory of human motivation. Psychol. Rev. 1943, 50, 370–396. [CrossRef] y y 38. Tassew, A.; Hopkins, R.; Deressa, W. Factors influencing the ownership and utilization of long-lasting insecticidal nets for malaria prevention in Ethiopia. Malar. J. 2017, 16, 262. [CrossRef] [PubMed] 39. Dominic, A.; Ogundipe, A.; Ogundipe, O. Determinants of Women Access to Healthcare Services in Sub-Saharan Africa. Open Public Health J. 2019, 12, 504–514. [CrossRef] , N. Measuring Empowerment in Practice: Structuring Analysis and Framing Indicators; World Bank Publications SA, 2005. 40. Alsop, R.; Heinsohn, N. 47. Ezeama, M.; Ezeamah, F. Geneva Health Forum. Online. 2013. Available online: http://ghf.g2hp.net/ insecticide-treated-nets-among-pregnant-women-in-nigeria/#.VE-j7NhOUlY (accessed on 28 October References Measuring Empowerment in Practice: Structuring Analysis and Framing Indicat Washington, DC, USA, 2005. g 41. Ricotta, E.; Oppong, S.; Yukich, J.O.; Briët, O.J.T. Determinants of bed net use conditional on access in population surveys in Ghana. Malar. J. 2019, 18, 63. [CrossRef] J [ ] 42. Fokam, E.B.; Kindzeka, G.F.; Ngimuh, L.; Dzi, K.T.J.; Wanji, S. Determination of the predictive factors of long-lasting insecticide- treated net ownership and utilisation in the Bamenda Health District of Cameroon. BMC Public Health 2017, 17, 263. 42. Fokam, E.B.; Kindzeka, G.F.; Ngimuh, L.; Dzi, K.T.J.; Wanji, S. Determination of the predictive factors of long-lasting insecticide- t t d t hi d tili ti i th B d H lth Di t i t f C BMC P bli H lth 2017 17 263 43. Okrah, J.; Traore, C.; Pale, A.; Sommerfeld, J.; Muller, O. Community factors associated with malaria prevention by mosquito nets: An exploratory study in rural Burkina Faso. Trop. Med. Int. Health 2002, 7, 240–248. [CrossRef] 43. Okrah, J.; Traore, C.; Pale, A.; Sommerfeld, J.; Muller, O. Community factors associated with malaria p An exploratory study in rural Burkina Faso. Trop. Med. Int. Health 2002, 7, 240–248. [CrossRef] 44. Renne, E.; Kirby, K.; Akkineni, R. Bednet use and malaria knowledge in Zaria City, Nigeria. J. Int. y g y g 45. Ezire, O.; Adebayo, S.B.; Idogho, O.; Bamgboye, E.A.; Nwokolo, E. Determinants of use of insecticide-treated nets among pregnant women in Nigeria. Int. J. Womens Health 2015, 7, 655. [CrossRef] [PubMed] g 46. Ukibe, S.N.; Mbanugo, J.I.; Ukibe, N.R.; Ikeakor, L.C. Level of awareness and use of insecticide treated bed nets among pregnant women attending antenatal clinics in Anambra State, South Eastern Nigeria. J. Public Health Epdemiol. 2013, 5, 391–396. 47. Ezeama, M.; Ezeamah, F. Geneva Health Forum. Online. 2013. Available online: http://ghf.g2hp.net/2013/07/19/the-use-of- insecticide-treated-nets-among-pregnant-women-in-nigeria/#.VE-j7NhOUlY (accessed on 28 October 2014).
W2086031318.txt
https://zenodo.org/records/1518935/files/article.pdf
de
Die Bildung der Dreikanter
Geologische Rundschau
1,913
public-domain
3,236
W. I~'A~XVC~ -- :Die Bildung der Dreikanter. 311 157, 158. LSB, Umstadt (Hessen), HaarlaB b. Heidelberg, WZRLn~G. 159--161. LSI~, Ringsheim, Wasenweiler, Ringsheim, Se~I~G. 162--169. LSB, Malagiieno(Argent.), Canadon yon Pueara, Alvear, Talu, Rosario, Talu, Alvear (Argent.), Umstadt (Hessen), W~LI~G. 170. L5B, Gottenheim, Sc~E~I~G. 171--174. LSB, HShnheim, HaidingsIeld, Langen-Weddingen,Manet a. d. Elsenz, WERLIlgG. 175--179. Grauwaeke,Lohra, Lohra, Altenldrchen, Heiliger Berg b. l%oth., Erdhausen b. Gladenbaeh, WALTJ~ER. 180. Zeehsteinkonglomerat,Saehsenberg, WALTHE~. 181--=183. Grauwaeke,Hermershausen, Oberstadtfeldt, Unkel a. Rhein, W~tT.T~m Die Bildung der Dreikanter. Von San.-Rat Dr. Wilhelm Pfannkueh (Cassel.) (Mit 19 Textfiguren und Tafel X.) In dem Berieht fiber die Versammlungen des Niederrheinischen geo]ogischen Vereins yore Jahre 1911 finder sieh ein Vortrag des tlerrn L. Lo~I~-Utrecht fiber: ,>DieBildung der Dreikanter <,, aus dem hervorgeht, dal~ eine Einigung tier Anschanungen tiber die Entstehung dieser interessanten Gebilde noch nicht erreieht ist. W~hrend die einen den ttanptfaktor fiir die Bildung der Flgchen und Kanten in der abschleifenden Wirkung des Sandflugs erblieken, heben die anderen die Priiformierung der Kantengeschiebe dutch die jedem Gestein eigentfimliehe Spaltbarkeit in verschiedenen Ebenen hervor und gestehen dem Windsehliff nnr eine sekundgre, nicht einmal immer fSrderliche Bedeutung zu. Wenn iek als Late mir erlaube, in dieser Frage das Wort zu ergreifen, so stfitze ieh reich dabei auf sorgfgltige Beobaehtungen, die ieh bet wiederholtem Aufenthalt anf Sylt an den dort zahlreich zu findenden Kantern gemaeht habe, und auf Grnnd deter ich zu der ~berzeugung gekommen bin, dal~ die Winderosion die Hauptursaehe der Kantenbildung ist, und dal~ man, yon dieser Annahme ansgehend, mit Hilfe einfaeher physikaliseher Gesetze die Entstehnng einer jeden Kanterform leieht nnd nngezwungen erkl~ren kann. Die Kantengesehiebe finden sieh in Sylt, gemiseht unter anderes gewShnliehes Gesehiebe, sowohl am Strand, hauptsgehlieh in einem Streifen, der der jeweiligen Flutgrenze entsprieht, als aaeh in den Kiesgruben und Aufsehliissen im Innern tier Insel, sowie in den Sehiehten, die in dem yon Westerland zum l~oten Kli~f sieh hinziehenden Steilabsturz der Kiiste zutage treten. Diesen Sehiehten entstammen aueh die jetzt am Strand liegenden, vom Neere ausgeworfenen Kiesel, da ja bekanntlieh ein Teil der Insel gegenw~rtig yore Neere fiberflutet ist. Diese Gesehiebe sind in der Diluvialzeit mit dem Norgnensehutt nnd Gesehiebelehm der naeh Siiden vorrfiekenden nordisehen Gletseher hierher transportiert ~nd auf dem tertigren Kern der Insel abgelagert 312 I. Aufs~ttze und Mitteilungen. worden. Die Kanter sind also nicht etwa in Sylt entstanden. In ihrer Gesamtheit bieten sie eine wahre Musterkarte der skandinavisehen Gebirge. Neben Quarzen, Quarziten, feinern nnd grSbern Sandsteinen liegen versehiedenartige Porphyre, Granite, Gneise und andere Schiefer, sowie wunderliche, oft Seeigel und Museheln enthaltende Feuersteinknollen, die mehr dem Ostseegebiet angehSren. Aueh nnter den abgesehliffenen Kantern sind alle diese Gesteinsarten vertreten, am hiiufigsten die Quarze nnd Quarzite, am seltensten die Feuersteine. Sieht man davon ab, dab bet den homogenen Gesteinen (z. B. Quarzen) die Kanten schSner und sehgrfer ausgepriigt, nud die Fliiehen glatter sind als bet den aus ungleieh hartem MateriM zusammengesetzten (z. B. Porphyren, Graniten), so fgllt ohue weiteres auf, dab alle Kanter trotz ihrer versehiedenen Herkunft eine so verbliiffende ~hnliehkeit in Form und Anlage zeigen, dal3 nicht in den Gesteinen selbst liegende Griinde, wie die Spalt- oder Kluftbarkeit, fiir ihre Entstehung maBgebend gewesen sein k6nnen, sondern dal~ eine yon aul~en kommende, fiir alle Kanter gleiehe, gesetzmiil]ig wirkende Kraft ihre Bildung herbeigefiihrt haben mug. Diese Kraft kann nut der Sandflug geweseri sein. Vorbedinging war allerdings, dal~ die Gesteinstriimmer, ehe sie ibm ausgesetzt waren, in eine giinstige Form gebracht wurden, denn aus rohen, unregelmiigigen Stricken kann der Sandflug keine so regelmiil]igen Kanter herstelten, wie wit sie auf Sylt finden. Erst mugten die Gesteinstriimmer in flieBendem Wasser dutch Sand and gegenseitige Reibnng abgerundet und zu Geschieben oder GerSllen werden, ~ihnlieh denen unserer inliindischen Fliisse. Die mehr oder weniger gewSlbten Fliiehen soleher Kiesel boten erst den notwendigen Angriffspunkt fiir den Flugsand, nnd ihre gan.ze Form erst die MSglichkeit des Sehliffes von bestimmten Fliiehen nnd Kanten. Gegen die Theorie der Winderosion hat man nun e!ngewendet, dal~ es sehwer verstiindlich set, wie der Wind, der, selbst wo I-Iauptriehtungen vorherrschen, doch immerhin 5fters wechsele, so regelmiil3ige Schliffe hervorrufen kSnne, nm so weniger, als auch die Kiesel, besonders die kleinen, nicht immer still liigen, sondern schon von mgl~igen Winden vielfach hin nnd her geschoben uud gerollt wiirden. Um diesen Einwand zn entkrgften, mtissen wit den ganzen Vorgang etwas n~iher untersnchen. Nehmen wir den einfachsten Fall, dalt ein spindelf6rmiger Kiesel in ether sandigen Ebene derart liegt, dal~ er dem Winde eine Spitze zuwendet. Dann wirbelt der Flngsand gegen die Spitze nnd brieht sich hier, wie tier Flul~ an einem Eisbrecher in zwei StrSme, die beide Seiten bestreiehen und abschleifen. Auf diese Weise entsteht eine in der Lgngsrichtnng ziehende Kante. Dasselbe gesehieht natiirlich, wenn der Wind umspringt nnd gegen die andere Spitze weht. Dreht sich abet der Wind nm 90 ~ so trifft er reehtwinklig gegen eine Seite, dann spriiht der Flugsand nach oben fiber den Stein bin, sehleifg die ihm zugewandte Seite zu einer Flgche ab nnd bildet mit der anf der anderen Seite bet W. PFA~r~UeH -- Die Bildung der Dreikanter.t 313 entgegengesetzter Windrichtung in gleicher Weise entstehenden Fliiche ebenfalls eine scharfe Kante, die mit der obigen sich deckt. Es bedarf keines besonderen Beweises, da$ auch die aus einer l%benrichtung kommenden Winde in demselben Sinne arbeiten, indem sie bald die Schleifwirkung des einen, bald die des anderen Hauptwindes unterstfitzen. Das Resultat ist immer dasselbe: aus dem spindelf5rmigen Kiesel wird ein-Einkanter. Hat nun tier Kiesel eine dreieckige Gsundfl~che, mag sie gleichseitig oder ungleichseitig, langgestreckt odes herzfSrmig sein, so wickelt sich des Yorgang genau in derselben Weise ab. Yon den drei Spitzen aus bilden sich drei Kanten, die nach des Mitte hin ziehen und sich dost treffen, und yon den drei Seiten aus bilden sich drei Fliiehen, die in diesen Kanten zusammenstoSen. Das Resultat ist ein Dreikanter. I n der n~m3ichen Weise bildet sich aus einem vieseckigen Kiesel, wenn er mehr quadratisch ist, ein u und wenn es, wie gew5hnlich, mehr l~nglich sechteckig ist, ein Ffinfkanter usw., i n d e m s t e t s die e n t s t e h e n d e n K a n t e n n a c h Zahl u n d Lage den I-Ialbierungsl i n i e n der die E c k e n b i l d e n d e n W i n k e l e n t s p r e c h e n . Ein Blick auf die Abbildungen (Fig. A D u. 1--7) l~$t die Richtigkeit dieser Ausffihsungen ohne weiteres eskennen. Man kann sie in den Satz zusammenfassen, dai3 die Zahl der K a n t e n u n d F l ~ c h e n , die d u r c h W i n d e r o s i o n an e i n e m K i e s e l e n t s t e h e n , b e s t i m m t Wird d u s e h s e i n e n GrundriI~, i n d e m y o n e i n e r E c k e aus s t e t s eine K a n t e u n d fiber eine~ Seite s t e t s eine Sehlifff l ~ c h e sioh bildet. Das ist so gesetzm~$ig, da$, wenn z. B. von einem dreieckigen Kiesel eine Ecke abgebrochen ist, fiber des Bruehstelle jedesmal ein kleines abgeschliffenes Dreieek sich finder, yon dessen Spitze dann esst die normale Kante ausgeht, nnd dal~ andeserseits, wenn an einer Seite eine unregelm~l~ige Eeke vosspringt, yon dieses Stelle stets eine, mindestens angedeutete, kleine Nebenkante nach innen zieht (Fig. 8 u. 9). Auch andere Unregelmii~igkeiten stSren oft das nosmale Bild, abes immes im Rahmen des Gesetzes. Ist z. B. die Oberfl~che auf des einen Seite vorgebuckelt und auf der anderen vertieft, so verl~uft die Mittelkante dementspreehend gekriimmt, konvex naeh der WSlbung, konkav nach des Einsenkung (Fig. 9). Lehsreich sind in dieser Beziehung auch die sog. Doppelkantes, die den Kantenschliff auf beiden Seiten zeigen. Da finder man mit grol~er Regelm~i$igkeit auf beiden Seiten denselben Typus: Einkanter sitzt auf Einkantes, Dreikanter auf Dreikanter, oft yon iiberraschender Ahnlichkeit, und nur dann gibt es davon Abweichungen, wenn besondere Unregelm~l~igkeiten der Form dazu genStigt haben (Fig. 10 u. 11). Um nun den Sandflug etwas eingehender zu studiesen, steckte ich eines Tages bei scharfem Nordwest an einer geeigneten Stelle in den Sylter Dfinen eine Glasscherbe mit des Front gegen den Wind in den (} Fig. 3 Fig. 2 Fig. Fig, A I -Fig. C Fig. ~ -~~-:~ _ Fig. B Fig. 5a Fig. 6a :Fig. 5b Fig. 6b Fig. D Fig. 7 Fig. Fig. 9 Fig. t0a Fig. 10b Fig. l l a Fig. l i b Fig. A--D. Schemata der einzelnen Kanterformen. - - Fig. i. SpindelfSrmiger Einkanter (Quarz}. - Fig. 2. Elliptischer Einkanter (Quarz). - - Fig. 3. Breit ellipi~ischerEinkanter (Art Granit) mit Nebenkanten, ~bergang zum Fiinfkanter. - - Fig. ~. Dreikanter (Quarzit). - - Fig. 5. Viereckiger Ffinfkanter (Sandsiein): a) Oberseite, b) Unterseite mit unebener Bruchfliiche und abgeschliffenem Rand. - Fig. 6. u Fiinfkanter (Sandstein) : a) Oberseite, t)) Unterseite mit grol~er, glatter Ruhefliiche und abgeschliffenem Rand. - - Fig. 7. Sechskanter (Qaarzitartiger Sandstein). - - Fig. 8. Dreikanter (Sandstein) rait abgestumpfter Ecke und Nebenkant~n. - - Fig. 9. Unregelm~i~iger Dreikanter (Quarzit) mit bogenfi~rmiger Hauptkante und mehreren I'~ebenkanten. - - Fig. 10. Scharfkantiger DoppelEinkanter(Quarzit): a) Oberseite, b) Unterseite.-- F i g . i i . Scharfkantiger Doppel-Dreikanter (Quarzit): a) Oberseite, b) Unterseite: (Fig. l - - l l Verkleinerung auf 2/5.) W. PIr~t~KCCI~ -- Die Bildung der Dreikanter. 315 Sand und beobachtete, was gesehah. Im Nu bildete sieh vor der Seherbe dureh den Riickstol~ der Luft ein Graben, der sieh um beide Seitenkanten herumzog und, nach hinten and innen gekriimmt, allm~hlich sieh verlief. In diesem Graben wirbelten die SandkSrner mit Maeht um die Seherbe herum und bombardierten sie, in den Windsehatten zuriiekgeworfen, auch lebhaft yon riickwiirts. Aus diesem Experiment geht deutlieh hervor, dal3 der Flugsand unter Umstgnden ein Hindernis von allen Seiten zugleieh angreift, und zwar am stiirksten yon vorn, dab abet aueh die naeh hinten verlaufenden, abgewandten Seiten bestrichen wetden kSnnen. Aueh aus diesem Grunde diirften also die Windriehtungen, speziell die sog. regelm~l~igen Winde, nieht die Bedeutung haben, die manehe ihnen zusehreiben mSehten.. Analysiert man die Art und Weise, wie der Flugsand wirkt, noeh weiter, so ergibt sieh, dal~ jedes gegen einen Stein gesehleuderte Sandkorn unter seinem Aufsehlagwinkel wieder abprallt und entweder zuriiekgesehleudert wird (wie bei der oben besehriebenen Grabenbildung), oder die Oberll~iehe streifend in der urspriingliehen Riehtung weiterflieg~. Die dabei gegen den Stein gegul3erte Kraft kann man naeh dem bekannten Parallelogramm der Krgfte in zwei Komponenten zerlegen, eine senkreeht gegen die Obel~l~iehe wirkende und eine ihr parallele. Die GrSl~e beider Komponenten hgngt~ yon dem Auisehlagwinkel ab, sie stehen zueinander in umgekehrtem Yerhgltnis. Bei horizontalem Sandflug und sanft gegen den Wind geneigter Oberflgehe des Kiesels treffen die SandkSrner letztere unter spitzem Winkel, ihre Hauptwirkung ist deshalb eine sehleifende, sie glgtten und polieren die Oberflgehe und geben ihr den eigentiimliehen matten Glanz, den man ats Fettglanz bezeiehnet hat. Bietet abet der Kiesel dem Wind eine mehr steil abfallende Fl~ehe dar, oder fliegen die SandkSrner aus anderen Griinden mehr senkreeht gegen den Stein, so bohren sie in seine Oberflgehe die dieht nebeneinander stehenden kleinen Griibehen, die ebenfalls so sehr eharakteristiseh fiir die Sandflugwirkung sind. WundersehSn sieht man beides an dem grol~en Dreikanter, einem Quarzit, dessen Photographie (Tar. X) ieh beifiige. VermSge seiner Sehwere hat er sieher lange Zeit in unverriiekter Lage dem Sandflug seine Oberfliiehe dargeboten und war sp~iter am Wattenmeer, wo er im Sehliek bei Munkmarseh gefunden worden ist, dem zerstSrenden Einflul~ sandfiihrender Wellen entzogen. Von seinen drei dutch seharfe Kanten getrennten Flgehen sind die beiden naeh der Spitze des Dreieeks sanft geneigten glatt poliert und mattgliinzend mit nut spgrliehen Griibehen naeh riiekwgrts zu, wghrend die dritte,'die steil naeh der Basis abfiillt, narbig nnd mit Griibehen dieht bedeekt ist. Ebenso erkennt man ansgezeichnet, wie in diesem Falle der Flugsand den oben besehriebenen Graben rings nm den Stein gezogen hatte, wodureh namentlieh die Spitze freigelegt nnd nnterminiert wurde, und wie anf diese Weise der gar~ze i~and nebst einem Teil der Unterflgehe abgesehliffen nnd poliert worden ist his zu dem feat- 316 I. Aufsgtze und Mitteilungen. ~ufliegenden mittleren Tell, der yon einer deutliehen Kante begrenzt ist (vergl. Fig. 5b, 6b). HSehst merkwiirdig sind die musehel- nnd triehterfSrmigen Vertiefungen anf dieser unteren Fliiehe, ob sie Drnckerseheinungen sind oder auf Strndelwirkung beruhen, wage ieh nieht zu entseheiden. Das Verhalten der Kanter hinsiehtlieh ihrer Unterflgehe ist ein versehiedenes. Viele sind vom Wind umgedreht nnd zu Doppelkantern geworden, wie wit bereits oben sahen. Andere haben, wie jener grol3e Dreikanter, lange ruhig gelegen wegen ihrer GrSl~e und Schwere, dann Jst ihre Unterfl/iehe entweder kuglig gewSlbt oder im Gegenteil abgeplattet, oft vom Aussehen einer Brueh- oder Spaltfl~iehe. Aber aueh kleinere Kanter haben oft eine glatte und geradezu gesehliffene UnterII~iehe, die dureh Hin- nnd Hersehieben auf dam Sand entstanden sein k6nnte. An vielen Kantern des Weststrandes sind die Spnren des Sandtlugs nieht mehr so seharf ausgepriigt, well sie in der Brandung bereits einer ge~dssen Riiekbildung unterliegen. Die Wellen, die bei jeder Flut einen betrgehtliehen Tell des Strandes und bei Hoehwasser sogar den ganzen Strand iiberfluten, reigen nnd rollen die Kanter mit Maeht bin nnd her und sehleifen sie dureh den mitgefiihrten Sand yon neuem ab, so dal~ Glanz und Griibehen versehwinden, nnd die Kanten wieder abgerundet werden, bis der Kanter sehlieNieh wieder ein einfaeher Kiesel geworden ist. Wenn man dem spiel der Wellen zusieht, kann man sich leieht von diesem Riiekbildungsprozel3 iiberzeugen und zugleieh yon dem fundamentalen Untersehied zwisehen Flugsandsehliff und Wassersehliff. Der Sand in freiem Flug streift den Stein, wirkt gewissermagen tangential, deshalb bildeg er glatte Flgehen und seharfe Kanten; das mit Sand besohwerte Wasser umflutet den Stein, rollt nnd rundet ihn nnd verwiseht alle vorspringenden Ecken und Kanten. Wenn deshalb Loms (a. a. O. S. 21) sagt, er habe bei seinen Wanderungen am Nordseestrand zahlreiche Fglle von Windsehliff beobachtet und an den grogen Steinb15cken der Buhnen, sowie an 1osen Ger~llen, zerbrochenen Flaschen, Ziegelsteinen usw. ausnahmslos gesehen, dal~ alle Fliiehen geglgttet, alle Kanten und Ecken abgerundet waren, so kann ich naeh meinen Beobaehtnngen auf Sylt dis Vermntung nicht unterdriicken, da$ es sich dabei nicht um Windschliff, sondern hm Wasserschliff gehandelt hat. Die Sylter Kanter sind, wie ich eingangs bemerkte, nieht in Sylt entstanden, sondern dortkin importiert, und wenn ieh aneh nieht bestreiten will, dag auch in Sylt noeh gegenw~rtig Kanter entstehen kSnnen, so ist mindestens die Gelegen_heit dazu nieht gerade giinstig. In Betraeht kommen kann nut der Strand; die ausgeworfenen Kiesel und Museheln liegen zumeist an der Flutgrenze, davon seew~rts ist der Sand feueht, diinenwiirts aber liegen die Kiesel unter dem Sand. Erst bier gibt es bei den vorherrsehenden Westwinden Sandflug gegen die Diinen hin, wiihrend gegen den Ostwind die Diinen Sehutz gewghren. W. P~A_w~xuc~ ~ Die Bildung dcr Dreikanter. 817 Ebenso werden die Buhnen regelm~l~ig iiberflutet oder liegen landeinwgrts im Sand begraben. Ich habe vergeblich an den Buhnen den Windschliff zu stndieren versncht. Abgerundete Dreikanter aus Ziegelstein habe ich nut im Bereich der Brandung gefunden, ihre Abrundung verdanken sie nnzweifelhaft dem Wasser, und ihre zuweilen noch wohl erhaltenen seharfen Kanten und mit dem Fabrikationsglanz versehenen Fl~chen offenbaren sie dentlich als abgebrochene Eeken yon Backsteinen, die mit Sandflug gar nichts zu tun haben. Ebensowenig kann ich der Annahme des Grafen zu LEINI~GEN beitreten, wenn er (a. a. O. S. 22) sagt: ,>Wenn der Windschliff fortdanert, so mul~ die scharf ausgepr~gte Form der Einkanter, Dreikanter usw. eine Ab~nderung erleiden, der Wind ~eift nicht immer absolut genau in der gleichen Richtung die Fl~ehen und Kanten an, und damit wird das scharf umrissene Bild des Kanters nndentlich; es entsteht ein Stein mit Schlifffl~chen, abet ohne ausgepr~igte Kanten nnd Ecken, und mehr nnd mehr ~hnelt das Prodnkt des Sandschliffs den Rollsteinen, wie wir sie in einem Flul~bett linden. <~ Diese Darstellung paint ebenfalls vollst~ndig auf die dutch Wasserschliff in Riickbildung begriffenen Kanter. Die Berufung anf die wechselnden Windriehtungen nnd ihre Folgen widerspricht den Tatsachen und den physikalischen Gesetzen. Der fortdanernde Windscbliff kann erst dann die Kanten, die er hervorgerufen hat, wieder zerst6ren, wenn dutch zunehmende Abschleifung ihre Winkel = 2 t~, nnd damit die Oberfl~che zu einer Ebene geworden ist. Auf diese Weise kommen abet keine Rollsteine, ~>wie wit sie in einem Flnl3bett finden<~, zustande; diese werden hie dutch Wind und Sand, sondern einzig dutch Wasser und Sand gebildet, wie dies ia schon in dem Namen Gesohiebe oder Ger611e ansgedriickt ist. Wenn ich somit den Hauptnashdruck bei der Bildung der Kanter auf den Windschliff lege, so gestehe ich andererseits auch der natiirlichen Spaltf~higkeit tier Gesteine einen gewissen Einflul] zn. Grol~ kann er schon um deswillen nicht sein, weft die verschiedensten Gesteine ganz gleichartige Kanter liefern. Ich sehe ihn mehr darin, dal] die ganze Form des Kiesels bereits davon abhgngt, in welsher Weise ein Gestein sich zerkliiftet. So wird z. B. der rechteckig kliiftende Sandstein gem viereckige Kiesel liefern. Ist abet der Kiesel erst einmal fertig, so bestimmt einzig sein Grundril3, was fiir ein Kanter aus ibm wird. War jedoch bereits ~dutch die Spaltung ein Produkt entstanden~ das die nahezu vollendete Form eines Ein- oder Dreikanters trug, so war das selbstverst~ndlich fiir die AbsGhleifung besonders giinstig. Bei einem Fiinf- oder Sechskanter vdrd ein solcher Zufall wohl kanm zu erwarten sein. Manshe Xanter lassen eine noeh rohe oder gegl~ttete Spalt- oder Bruchfl~che dentlich erkennen oder wenigstens vermuten, meistens an ihrer Unterseite als l~uhefl~che. Bei anderen seheint eine Schlifffl~ch~ 318 I. Aufshtze und Mit~eilungen. der Oberseite aus natiirlicher Spaltung hervorgegangen, sie kann dann in das gew6hnliche Bild eingepaBt sein oder es modifizieren, ohne jedoeh seine GesetzmiiBigkeit aufzuheben. Notwendig sind diese Spaltfl~chen abet nieht, da der Sandflug aus jedem gewShnlichen Kiesel unter giinstigen Bedingungen einen Kanter schleifen kann. Unter den 86 Kantern, die ieh in Sylt als bemerkenswert gesammelt habe, befinden sieh nur einige wenige, in Kiesgruben gefundene Dreikanter yon hoher Pyramideaform, die mit groBer Wahrscheinlichkeit der natfirlichen Spaltung ihre Form and dem Sandflug nut ihren Sehliff verdanken. Ich fasse das Gesagte zmn SchluB in folgenden S~tzen zusammen: 1. Die Kanter Sylts (und wohl der Nordseekiiste iiberhaupt) sind gebildet dutch Flugsandschliff aus Kieseln (Gesehieben und GerSllen) versehiedener Gesteinsarten. 2. MaBgebend fiir die Zahl und Anordnung der Kanten und Fl~chen ist der Grundril3 des Kiesels. 3. Gesetz ist, dab yon einer Eeke des Grundrisses aus stets eine Kante nnd yon einer Seite aus stets eine Flgehe sieh bildet. 4. Von untergeordneter Bedeutung ist dabei die Windriehtung. Winde aus allen Riehtungen erzengen stets die dem GrnndriB des Kiesels entsprechende Xanterform. 5. Die Spaltf~higkeit des Gesteins kann diesen Vorgang begiinstigen, meier wirkt sie aber wohl mehr indirekt. Erkl~rung zu Tafel X. Q u a r z i ~ - D r e i k a n t e r (1/~ nat. Gr.) Gewieht: 938 g, L~nge 15 am, Brei~e: 11 cm, Dicke: 5 r Fig. 1. Obere SeiSe: a, b, c, die 3 Itauptfl/~chen, geschieden dutch scharfe Kanten. a, b, sanf~ abfMlend, glatb polierb mi~ m~ttem Glanz und sehr sp~rliohen Grtib then Jn der N~he des Schei~els. c, steil abfallend, narbig mit sehr zahlreichen, ~iefen Grlibchen. d, kleine dreieckige Nebenfl~che. e, wulstiger, vom Sand polier~er Rand. Fig. 2. Untere Seite: e, Fortsetzung des Randwulstes auf die untere Seite. f, glatte, scharfumrandete Ruhefl~che des Dreikanters. g~ glaSte, flach muszhelfSrmige Vertiefungen. h, spitze, kegelfSrmige Ver~iefung. Geologische Rundsehau Bd. IV. Pfannkuch. Tafel X. Verlag yon Wilhelm Engelmann in Leipzig und Berlin.
W3191586607.txt
https://www.nature.com/articles/s41598-021-95268-0.pdf
en
Potential of rice landraces with strong culms as genetic resources for improving lodging resistance against super typhoons
Scientific reports
2,021
cc-by
9,320
www.nature.com/scientificreports OPEN Potential of rice landraces with strong culms as genetic resources for improving lodging resistance against super typhoons Tomohiro Nomura1, Yoshiaki Seki1, Makoto Matsuoka2, Kenji Yano3, Koki Chigira1, Shunsuke Adachi4, Francisco J. Piñera‑Chavez5, Matthew Reynolds5, Satoshi Ohkubo1 & Taiichiro Ookawa1* It is generally believed that rice landraces with long culms are susceptible to lodging, and have not been utilized for breeding to improve lodging resistance. However, little is known about the structural culm strength of landraces and their beneficial genetic loci. Therefore, in this study, genome-wide association studies (GWAS) were performed using a rice population panel including Japanese rice landraces to identify beneficial loci associated with strong culms. As a result, the landraces were found to have higher structural culm strength and greater diversity than the breeding varieties. Genetic loci associated with strong culms were identified, and it was demonstrated that haplotypes with positive effects of those loci were present in a high proportion of these landraces. These results indicated that the utilization of the strong culm-associated loci present in Japanese rice landraces may further improve the lodging resistance of modern breeding varieties that have relied on semi-dwarfism. Increasing grain yield is important to meet the global demand for major crops, which is expected to increase at least until 2­ 0501–3. In the 1960s, as a result of semidwarf 1 (sd1) being introduced into rice, plant height was reduced, and since then, lodging-resistant varieties have been developed and are widely used. This event averted a food security crisis and along with similar interventions in wheat and other cereals has been recognized as the “Green Revolution”4–6. However, the short stature promoted by sd1 in improved rice varieties, is not enough to avoid lodging especially under strong typhoons that will further increase intensity in East and Southeast A ­ sia7, 8. It has also been suggested that semi-dwarf varieties have reduced culm strength and plant biomass compared to the original ­variety7, 9. Therefore, it is important to aim for high yields by increasing lodging resistance provided by increased culm strength instead of relying solely on culm dwarfism in the future. There are two types of lodging resistance in transplanting rice cultivation: bending-type and breaking-type ­lodging10. Breaking-type lodging can cause the panicles to fall to the surface, making harvesting d ­ ifficult11 and causing viviparous germination of grains soaked in water that will reduce the grain eating q ­ uality12. Therefore, enhancing breaking-type lodging resistance is an important issue for crop production. The bending moment at breaking (BM) of basal culm is an index of breaking-type lodging ­resistance13. It is composed of section modulus, which in turn is affected by the diameter and thickness of a culm, and bending stress, which is affected by the chemical composition such as cellulose and lignin and their densities in culm cell ­wall14, 15. Identification and pyramiding of quantitative trait loci (QTLs) associated with strong culms in addition to sd1 constitute an important approach to breeding rice varieties with high breaking strength to withstand typhoons of increasing intensity. In our previous studies, superior alleles of STRONG CULM 1 and 2 (SCM1 and SCM2) QTLs, which increase culm strength, were detected in an indica variety H ­ abataki16, similarly STRONG CULM 3 and 4 (SCM3 and SCM4) QTLs were detected in a tropical japonica variety Chugoku 1­ 1717, and the genes responsible for SCM2 and SCM3 were identified as APO1 ABERRANT PANICLE ORGANIZATION 1 1 Graduate School of Agriculture, Tokyo University of Agriculture and Technology, 3‑5‑8 Saiwai‑cho, Fuchu, Tokyo 183‑8509, Japan. 2Bioscience and Biotechnology Center, Nagoya University, Furo‑cho, Chikusa, Nagoya 464‑8601, Japan. 3Statistical Genetics Team, RIKEN Center for Advanced Intelligence Project, Nihonbashi 1‑chome Mitsui Building, 15th floor, 1‑4‑1 Nihonbashi, Chuo‑ku, Tokyo 103‑0027, Japan. 4College of Agriculture, Ibaraki University, 3‑21‑1 Chuo, Ami, Inashiki, Ibaraki 300‑0393, Japan. 5Global Wheat Program, International Maize and Wheat Improvement Center (CIMMYT), Texcoco, Mexico 56237, Mexico. *email: ookawa@cc.tuat.ac.jp Scientific Reports | (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 1 Vol.:(0123456789) www.nature.com/scientificreports/ Figure 1.  Frequency distribution of lodging resistance-associated traits. Histograms of phenotypic values: (a) ODMI in 2018; (b) BM in 2018; (c) culm length in 2018; (d) ODMI in 2019; (e) BM in 2019; (f) culm length in 2019. The yellow, blue and black bars indicate landraces, breeding varieties and unidentified varieties, respectively. (APO1)16, 18 and FINE CULM 1 (FC1)17, 19, 20, respectively. In addition, many other QTLs associated with strong culms have been i­ dentified21–28. It has been reported that, japonica landrace varieties in Japan have more agriculturally useful traits when compared with japonica breeding varieties. For instance, under phosphorus-limiting conditions, the japonica landrace Akamai developed an extensive root system compared with that of the japonica breeding variety Koshihikari to obtain more phosphorus and efficiently redistributed it within the p ­ lant29. However, few studies have comprehensively compared various varieties for culm-associated traits among Japanese genetic r­ esources13, 28. Therefore, we hypothesize that there are novel QTLs that could enhance culm strength in japonica varieties cultivated in Japan, including landrace varieties that have not been used for breeding yet. To date, the progeny of crosses between two parents have often been used as materials for analysing and identifying Q ­ TLs30–32. However, this method of analysis has the disadvantages of requiring cross-breeding to grow the materials, limiting the number of varieties that can be analysed at one time. On the other hand, the development of next-generation sequencing has recently enabled the use of GWAS, which have been shown to be powerful tools for solving the abovementioned problems, as these studies allow comprehensive analysis of varieties without the need for ­crossing33–36. Therefore, to test our hypothesis, we used GWAS to search for strong culm-associated QTLs in Japanese japonica varieties, including landraces. Thus, in the current study, we examined the phenotypic characteristics of lodging resistance associated traits in Japanese rice varieties and novel QTLs associated with strong culms from japonica varieties using GWAS. Furthermore, we investigated the proportions of the superior alleles between landraces and breeding varieties. Results Phenotypic analysis of traits associated with lodging resistance in Japanese rice. In GWAS, it is necessary that phenotypes in rice panels are highly diverse to detect QTLs ­efficiently35. Therefore, traits associated with lodging resistance were measured to evaluate the phenotypic diversity. Figure 1 shows the frequency distribution of phenotypes of Japanese rice, including both landraces (in yellow) and breeding varieties (in blue). For the outer diameter of the minor axis (ODMI), the landraces ranged from 3.78 to 7.68 mm in 2018 and 3.56–7.50 mm in 2019, while the breeding varieties ranged from 3.69 to 5.74 mm in 2018 and 3.59–6.09 mm in 2019. For the BM, the landraces ranged from 740 to 3,997 gf cm in 2018 and 611–4,288 gf cm in 2019, while the breeding varieties ranged from 800 to 2,439 gf cm in 2018 and 643–2,169 gf cm in 2019. With respect to culm length, the landraces ranged from 84.3 to 143.0 cm in 2018 and 67.9–155.7 cm in 2019, while the breeding varieties ranged from 64.8–116.6 cm in 2018 and 68.7–118.7 cm in 2019. The minimum value was nearly the same between the landraces and the breeding varieties except for the value of culm length in 2018. However, the maximum value of ODMI was 34% higher in 2018 and 23% higher in 2019. Moreover, the maximum value of BM was 64% higher in 2018 and 98% higher in 2019, and the maximum culm length was 23% higher in 2018 and 31% higher in 2019. A comparison of the variance of the mean phenotypic values of landraces and breeding varieties showed that the variance of each trait was higher in landraces than in breeding varieties in both years (Supplementary Data 1). Broad-sense heritability was in the order of culm length, ODMI and BM, from highest to lowest, in both years (Supplementary Data 2). Furthermore, the characteristics of lodging resistance-associated traits were investigated for each landrace and breeding variety. Figure 2 shows the mean values of the landraces and the breeding varieties. The mean value of landraces for ODMI, BM and culm length were higher than that of breeding varieties for both years (P < 0.001). These results showed that the phenotypes for the lodging resistanceScientific Reports | Vol:.(1234567890) (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 2 www.nature.com/scientificreports/ 4 3 2 1 0 7 Outer diameter of the major axis (mm) Bending moment at breaking (gf cm) 5 e *** 6 5 4 3 2 1 0 Landraces Breeding varieties *** c 140 1,500 1,000 500 2,500 100 80 60 40 20 0 Landraces Breeding varieties *** f 140 Landraces Breeding varieties *** 120 2,000 1,500 1,000 500 0 *** 120 2,000 0 Landraces Breeding varieties Bending moment at breaking (gf cm) Outer diameter of the minor axis (mm) d 6 *** 2,500 Culm length (cm) b 7 Culm length (cm) a 100 80 60 40 20 Landraces Breeding varieties 0 Landraces Breeding varieties Figure 2.  Trait values of landraces vs. breeding varieties. Bar graphs of mean (SD) phenotypic values: (a) ODMI in 2018; (b) BM in 2018; (c) culm length in 2018; (d) ODMI in 2019; (e) BM in 2019; (f) culm length in 2019. The yellow and blue bars indicate landraces and breeding varieties, respectively. *** indicates significant differences at P < 0.001 (two-tailed Welch’s t-test). Two-tailed Welch’s t-test was performed by R software (https://​www.R-​proje​ct.​org/)65. associated traits were continuously distributed and varied widely, and that the landraces were more diverse than the breeding varieties and have thicker and stronger culms as well as culm length. To investigate the relationship between each trait, correlation coefficients were calculated for all varieties and for landraces and breeding varieties separately (Supplementary Fig. 1). For all varieties, BM and culm length were highly positively correlated with ODMI (r ≥ 0.7). Comparing landraces and breeding varieties, BM and culm length were more positively correlated with ODMI for landraces in each year. In all cases, the correlation coefficient between BM and culm length was lower than that between the other traits. The genetic change of rice varieties in Japan in terms of lodging resistance was identified based on their phenotypic values. Figure 3 and Supplementary Fig. 2 shows the phenotypic changes of the varieties arranged in chronological order from the left for each of the lodging resistance-associated traits (data from 2019 were used, those whose year of establishment was unclear were removed). The ODMI and the BM tended to decrease with time. Among the breeding varieties, only Zengokuwase, which was established in 1917, showed thick culms that were greater than 6.00 mm (ODMI), and no breeding varieties with thick culms (greater than 5.00 mm) after the year 2000 were found. For the BM, no varieties with values larger than 2,000 gf cm existed after Nadahikari, which was established in 1977. The culm length tended to decrease with time, and among the varieties released since 1960, only three varieties had long culms (more than 100 cm). Scientific Reports | (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 3 Vol.:(0123456789) www.nature.com/scientificreports/ Figure 3.  Phenotypic values of the studied varieties arranged in chronological order. Bar graphs of trait values of the varieties arranged by year of establishment, from left to right: (a) ODMI; (b) BM; (c) culm length. The 2019 data of phenotypic values were used, those whose year of establishment was unclear were removed. The yellow and blue bars indicate landraces and breeding varieties, respectively. Identification of QTLs associated with strong culms via GWAS. Using GWAS, we tried to identify QTLs containing superior alleles associated with a strong culm present among landraces. It has been reported that false positives are likely to occur if the population structure of the panel used for GWAS is ­segregated35. Therefore, before conducting our GWAS, the genetic structure of the Japanese rice varieties (excluding varieties in Hokkaido) was determined. Figure 4 shows first and second principal component (PC1 and PC2, respectively) from a principal component analysis based on the whole-genome data of the 168 and 326 varieties. These results showed that although there were no clear and strong clusters in the temperate japonica tested in this study, there were loose population structures between landraces and breeding varieties in PC1 and PC2. No distinct population structures between landraces and cultivars were found in PC3 and PC4 (Supplementary Fig. 3). Therefore, in addition to the GWAS without principal components (PCs), GWAS with PC1 and GWAS with PC1 and PC2 were also performed. Next, GWAS was performed to identify QTLs associated with a strong culm. Figure 5 and Table 1 show Manhattan plots for each trait and the QTLs identified in both years without PCs as fixed factors. Q–Q plots, Local Manhattan plots and linkage disequilibrium (LD) can be found as Supplementary Figs. 4–10. For the ODMI, the same peaks above the threshold (− ­log10 (P) > 5) were detected on chromosomes (chrs.) 2S, 2L, 6L, 8L and 10S in both years. With respect to the BM, the same peaks above the threshold (− ­log10 (P) > 5) were detected on chr. 3S in both years. Peaks above the threshold (− ­log10 (P) > 5) were detected for culm length in each year, but they were not overlapping in both years. The peaks at 1S for ODMI and BM were slightly different from year to year. Peaks at 8L were detected for the ODMI. On the other hand, the peak positions were slightly different for the BM between 2018 and 2019. Among these abovementioned peaks, the peak at 2L in 2019 showed the highest value Scientific Reports | Vol:.(1234567890) (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 4 www.nature.com/scientificreports/ b 300 300 200 200 100 100 PC2 (8.3%) PC2 (7.2%) a 0 -100 0 -100 -200 -200 -300 -300 -400 -300 -200 -100 0 100 200 300 400 -400 -300 -200 -100 0 PC1 (9.1%) 100 200 300 400 500 PC1 (9.4%) Figure 4.  Genetic structure of temperate japonica rice varieties in Japan. Principal component analysis of temperate japonica rice in Japan based on whole-genome sequence data, with the x-axis representing the PC1 and the y-axis representing the PC2: (a) 2018; (b) 2019. Values in parentheses indicate the percentage contribution of each principal component. The yellow, blue and black markers indicate landraces, breeding varieties and unidentified varieties, respectively. Principal component analysis was performed using the package ‘pcaMethods’67 for R software (https://​www.R-​proje​ct.​org/)65. Figure 5.  Manhattan plots of lodging resistance-associated traits. (a) ODMI in 2018; (b) BM in 2018; (c) culm length in 2018; (d) ODMI in 2019; (e) BM in 2019; (f) culm length in 2019. The x-axis indicates the SNPs or indels that physically mapped on each chromosome. The red and blue dashed lines indicate the threshold lines (− ­log10 (P) = 5) set in this study and the Bonferroni correction, respectively. Manhattan plots were created using the package ‘rrBLUP’68 for R software (https://​www.R-​proje​ct.​org/)65. Trait Outer diameter of the minor axis Bending moment at breaking Chr Interval (Mb) 2S 3.8–4.0 Peak maker position in 2018 3,949,848 Peak maker position in 2019 3,963,409 − ­log10 (P) in 2018 − ­log10 (P) in 2019 5.78 5.62 2L 28.7–29.3 29,197,385 28,876,750 6.35 9.89 6L 22.7 22,664,648 22,658,357 6.40 6.81 26,259,466 26,259,466 8L 26.2–26.8 5.51 7.32 10S 0.0–0.1 75,142 27,796 5.25 5.46 3S 0.5–0.9 836,083 920,744 6.61 9.21 Table 1.  Positions of peaks identified in both years. Scientific Reports | (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 5 Vol.:(0123456789) www.nature.com/scientificreports/ Figure 6.  Combined effects of QTLs for lodging resistance-associated traits. Box plots of the trait values by the genotypes classified at the peak marker position in 2019: (a) ODMI; (b) BM; (c) culm length. Test results: (d) ODMI; (e) BM; f culm length. “2L” and “3S” mean the peak positions on chrs. 2L and 3S, respectively. “(−)” and “(+)” indicate the reference and alternative genotypes, respectively (based on the Nipponbare genome). The white, grey and black boxplots indicate the genotype combinations where both are references, one is a reference and the other is an alternative, and both alternatives, respectively. In the boxplots, different letters indicate significant differences at P < 0.05 (Steel–Dwass’s test). In the table, n.s. indicates no significant difference. *, **, *** indicate significant differences at P < 0.05, 0.01 and 0.001, respectively (Steel–Dwass’s test). Steel–Dwass test was performed using the package ‘NSM3’ for R software (https://​www.R-​proje​ct.​org/)65. (− ­log10 (P) = 9.89) for the ODMI, and the peak at 3S in 2019 showed the highest value (− ­log10 (P) = 9.21) for the BM. A peak at 3S was also detected for ODMI in 2019 and culm length in 2018. When PC1 was considered as a fixed factor, the peaks showed less variation compared to when PCs were not considered, but the peak at 2L was higher for ODMI in 2019 (Fig. 5, Supplementary Fig. 11). When PC1 and PC2 were considered as fixed factors, only the peaks at 2L were above the threshold for ODMI in both years (Fig. 5, Supplementary Fig. 12). The peaks at 3S, which were above the threshold (− ­log10 (P) > 5) for ODMI in 2019, for BM in 2018 and 2019 and for culm length in 2018 when PCs were not considered, remained above the threshold (− ­log10 (P) > 5), although the peak was reduced in all cases when PC1 and PC2 were considered as fixed factors (Fig. 5, Supplementary Fig. 12). Q–Q plots with PC1 considered and those with PC1 and PC2 considered can be found as Supplementary Figs. 13, 14. Pleiotropic effects and combined effects of the QTLs. From the results of the GWAS, QTLs with particularly low P-values for ODMI or BM were detected on chrs. 2L and 3S, respectively. Therefore, targeting these QTLs, the pleiotropic effects and combined effects associated with lodging resistance were investigated. Figure 6 shows box plots of the trait values by the genotypes classified at the peak marker position in 2019. The genotypes for each variety can be found as Supplementary Data 3. The varieties in which the reference genotype (based on the Nipponbare genome) of the QTLs on chr. 2L was replaced by the alternative genotype had significantly higher ODMI and culm length values than those that was not replaced. In the comparison of breeding varieties only, the mean values of all traits were increased in varieties where the QTL of chr. 2L was replaced by the alternative genotype, but the differences were not significant (Supplementary Fig. 15). The varieties in which the reference genotype of the QTL on chr. 3S was replaced by an alternative genotype were significantly higher in ODMI, BM and culm length than those in which this QTL was not replaced. These results indicated that the substitution of the reference genotype for the alternative genotype of the QTL on chr. 2L had a pleiotropic effect on increasing the ODMI and the culm length, and the substitution of the reference genotype for the alternative genotype of the QTL on chr. 3S had a pleiotropic effect on increasing the ODMI, BM and the culm length. The varieties in which alternative genotypes of the QTLs were substituted on both chrs. 2L and 3S presented ODMI and culm length values that were significantly higher than those of any other variety group, and an increasing combined effect of QTLs on these traits was observed. To investigate the genetic origin of the two QTLs, the genotypes were classified according to peak SNPs for each landrace and breeding variety. Figure 7 shows the ratio of genotypes per QTL for the landraces and breeding varieties. For the QTL on chr. 2L, 29% of the landraces and 5% of the breeding varieties had the alternative genotype with positive effects. For the QTL on chr. 3S, 20% of the landraces and 2% of the breeding varieties had the alternative genotype with positive effects. Scientific Reports | Vol:.(1234567890) (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 6 www.nature.com/scientificreports/ Figure 7.  Ratio of genotypes per QTL for landraces and breeding varieties. Stacked bar graphs showing the ratio of genotypes at the peak: (a) on chr. 2L; (b) on chr. 3S. The grey and red bars indicate the reference and alternative genotypes, respectively. The numbers on the bars indicate the ratio, and the numbers in parentheses indicate the number of varieties. Chr Position (bp) MSU ID RAP ID 2L 28,939,788–28,947,843 LOC_Os02g47410 Os02g0702500 Gene symbol Annotation 2L 28,967,587–28,971,989 LOC_Os02g47440 Os02g0702800 2L 29,026,099–29,028,176 LOC_Os02g47510 Os02g0704000 2L 29,059,400–29,062,130 LOC_Os02g47560 Os02g0704300 2L 29,069,440–29,072,094 LOC_Os02g47570 Os02g0704500 2L 29,206,676–29,208,686 LOC_Os02g47770 Os02g0706600 OsZHD7 ZF-HD protein dimerisation region containing protein, expressed 2L 29,270,114–29,274,643 LOC_Os02g47770 Os02g0708100 GAT1 Class I glutamine amidotransferase, putative, expressed 2L 29,324,774–29,328,372 LOC_Os02g47940 Os02g0709200 3S 781,076–781,879 LOC_Os03g02280 Os03g0113900 3S 800,033–809,279 LOC_Os03g02320 Os03g0114300 STE_PAK_Ste20_STLK.3 -STE kinases include homologs to sterile 7, sterile 11 and sterile 20 from yeast, expressed 3S 812,826–814,725 LOC_Os03g02330 Os03g0114400 AAA-type ATPase family protein, putative, expressed 3S 848,054–849,141 LOC_Os03g02390 Os03g0114900 3S 850,769–851,768 LOC_Os03g02400 Os03g0115000 3S 852,383–857,144 LOC_Os03g02410 Os03g0115100 GHMP kinases ATP-binding protein, putative, expressed 3S 861,320–862,938 LOC_Os03g02430 Os03g0115300 PPR repeat domain containing protein, putative, expressed 3S 884,706–886,943 LOC_Os03g02460 Os03g0115700 Retinol dehydrogenase, putative, expressed 3S 906,127–909,697 LOC_Os03g02480 Os03g0116000 Inner membrane protein, putative, expressed Protein kinase, putative, expressed Syntaxin, putative, expressed OsCCD4a 9-cis-epoxycarotenoid dioxygenase 1, chloroplast precursor, putative, expressed DNA-binding protein, putative, expressed Phosphatase, putative, expressed Aminotransferase, classes I and II, domain containing protein, expressed OsS40-4 DUF584 domain containing protein, putative, expressed Mitochondrial import inner membrane translocase subunit Tim17, putative, expressed OsENODL10 Plastocyanin-like domain containing protein, putative, expressed Table 2.  List of candidate genes with amino acid replacements or deletions. Genes of unclear function and genes related to transposon were removed. Candidate genes for QTLs associated with strong culms. In LD for the QTL on chr. 2L, there were total of 66 genes according to the MSU Rice Genome Annotation Project (MSU) database and 49 genes according to the RAP-DB (RAP) database. In LD for the QTL on chr. 3S, there were total of 34 genes according to the MSU database and 30 genes according to the RAP database. From these, the candidate genes for each QTL were estimated. Table 2 shows the candidate genes that have mutations in coding DNA sequences (CDSs) and amino Scientific Reports | (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 7 Vol.:(0123456789) www.nature.com/scientificreports/ acid replacements or deletions in LD for each QTL. For the QTL on chr. 2L, eight candidate genes with amino acid replacements or deletions were evaluated. Among them, LOC_Os02g47410 was related to protein kinases, LOC_Os02g47570 was related to phosphatases, and LOC_Os02g47770 was related to zinc-finger homeodomain proteins. In contrast, GS2 was included in candidate genes with mutations in the putative promoter region (see Supplementary Table 1). For the QTL on chr. 3S, nine candidate genes with amino acid replacements were evaluated. Among them, LOC_Os03g02320 and LOC_Os03g02410 were kinase-associated genes. Discussion Phenotypic characteristics of lodging resistance in Japanese temperate japonica rice varie‑ ties. To date, few studies have evaluated the traits associated with strong culms of ­landraces13, 28. However, in this study, by comprehensively analysing the lodging resistance of a large number of varieties, we found that some landraces showed very high culm strength (Fig. 1). According to previous reports, the BM of Takanari, a semi-dwarf strong-culm indica and temperate japonica cross variety, was approximately 1,276–2,266 gf ­cm7, 24, 27, while that of its sister variety Habataki was approximately 1,650 gf ­cm17. In the present study, among the landrace varieties in Japan, there were varieties with a BM of approximately 4,000 gf cm (Fig. 1). Therefore, it was thought that some semi-dwarf varieties had high lodging resistance and that landraces in Japan had low lodging resistance because they are generally too tall and the effect of strong culms is not enough to counteract the bending moment given by a high centre of gravity, but it was found that some landraces have phenotypic characteristics associated with extremely strong culms. Although stronger culms are required to prevent the long culm plants from lodging, the effect on increasing lodging resistance given by improved strength from the landraces have a potential to be superior than the effect of plant height on decreasing lodging resistance. Transition of breeding for lodging resistance in Japanese rice varieties. It has been reported that rice breeding for lodging resistance in Asia has been performed by shortening ­culms4, 37. In this study, it was shown that, compared with the landraces, the breeding varieties had shorter culms (Figs. 1, 2). Furthermore, it was confirmed that culm length tended to decrease over time (Fig. 3, Supplementary Fig. 2). In contrast, the traits associated with strong culms also tended to decrease over time (Fig. 3, Supplementary Fig. 2), and compared with the landraces, the breeding varieties had thinner and weaker culms (Figs. 1, 2). These results suggest that the improvement of lodging resistance has been dependent on breeding for relatively short culms and that breeding for relatively strong culms has not been carried out. Both beneficial QTLs for strong culm-associated traits on chr. 2L and 3S were found to be present in a relatively high proportion of landraces (Fig. 7). Previous research showed that haplotypes exhibiting a panicle weight-type phenotype of SPINDLY (OsSPY; involved in gibberellin signalling)38 were present at a higher proportion in landraces than in breeding ­varieties39. Moreover, it has been shown that there is a trade-off between panicle weight and panicle ­number17. From these findings, it was suggested that, during the process of breeding, the emphasis on panicle weight changed to panicle number, and at the same time, the culm strength decreased. Genetic population structure and strong culm‑related loci in Japanese rice varieties detected via GWAS. The risk of false positives has been pointed out in GWAS when the genetic population structure to be analysed is ­separated35. In the panel of Japanese temperate japonica varietiess analyzed in this study, no clear separation of population structures as reported for rice ­subpopulations40 was found, while loose population structures were found between landraces and breeding varieties in PC1 and PC2 (Fig. 4). Therefore, in this study, in addition to GWAS without considering PCs, GWAS was also performed considering up to PC2 to increase the reliability of the detected QTLs. Since the detected QTLs may change due to changes in expressed genes caused by environmental factors such as meteorological ­conditions41, 42, it is necessary to perform GWAS in multiple years to isolate more general loci. In this study, common peaks were detected at chrs. 2S, 2L, 6L, 8L and 10S for ODMI and at chr. 3S for BM in both 2018 and 2019, among which a particularly high peak was detected at chr. 2L for ODMI and at chr. 3S for BM (Fig. 5, Supplementary Fig. 5–10, Table 1). The peaks at chr. 2L for ODMI and 3S for BM remained above the threshold even when PC1 and PC2 were taken into account (Fig. 5, Supplementary Fig. 12). A QTL for culm diameter on chr. 5L was identified in a previous study on 135 temperate japonica varieties from different ­panels28, but was not detected in this study. Conversely, the QTLs on chr. 2L and 3S identified in this study were not detected in that previous ­study28. Unlike that previous ­study28, the panel used in the present study included temperate japonica varieties from the rice core collection of Japanese landraces composed by National Agriculture and Food Research Organization (NARO) and landraces from Okinawa, which may have unique genetic variations due to geographical factors. Therefore, it is possible that a novel QTL that was not previously detected was identified in this study. On the other hand, the APO1 and FC1 identified in previous s­ tudies16, 17 were not detected in this study. This suggests that the genes that enhance culm strength are different between temperate japonica and other rice subpopulations, such as indica and tropical japonica, and that the novel QTLs detected in this study may be unique to temperate japonica. The QTL on the long arm of chromosome 2. As a result of investigating candidate genes of this QTL, eight candidate genes with amino acid replacements or deletions were evaluated (Table 2). Among them, LOC_Os02g47770 is a gene associated with a zinc-finger homeodomain (ZF-HD) ­protein43. Members of the rice ZF-HD gene family OsZHD1 and OsZHD2 have been reported to affect leaf morphogenesis and root meristem activity, ­respectively44, 45. These results suggested that, among the candidate genes, OsZHD7 might be the gene responsible for modulating culm diameter. On the other hand, GRAIN SIZE 2 (GS2) was included in the genes with mutations in the region presumed to be the promoter (Supplemental Table 1). Since it has been reported Scientific Reports | Vol:.(1234567890) (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 8 www.nature.com/scientificreports/ that GS2 affects grain size and w ­ eight46, 47, it might be possible that GS2 has pleiotropic effects not only on grains but also on culm morphogenesis. The QTL on the short arm of chromosome 3. The interval of QTL on chr. 3S was identified as 0.5– 0.9 Mb (Table 1). To date, QTLs for grain eating quality have been reported to be at around the 0.5 Mb mark on the short arm of chromosome 3, where the simple sequence repeat marker RM4108 (synonymous with RM14281) is ­located48–50. These previous studies have reported that Koshihikari, which is a good-tasting variety in Japan, has a beneficial allele related to grain eating quality near this marker, but this allele was not present in varieties such as Moritawase and Nipponbare. However, the haplotypes of the QTL located within 0.5–0.9 Mb associated with BM in this study were similar among Koshihikari, Moritawase, and Nipponbare (Table 1, Supplementary Data 4). This suggests that QTLs for BM and grain eating quality are likely to exist outside of LD. This means that there is a strong possibility that some of the varieties already have both strong culm-related and good-grain eating quality-related alleles at the position of chr. 3S. Therefore, these varieties can be used for breeding to improve lodging resistance without decreasing grain eating quality. It has been shown that genes such as APO1 and FC1 have pleiotropic effects on the traits associated with strong culm and panicle m ­ orphogenesis16, 17. In this study, each trait was positively correlated, and peaks were detected in this QTL not only for BM but also for ODMI and culm length (Supplementary Fig. 1, 7, Fig. 5). From these results, it is necessary to clarify the pleiotropic and physiological functions of this QTL, including panicle morphogenesis, and to evaluate the usefulness of this QTL other than its effect on culm strength. As a result of investigating candidate genes of this QTL, nine candidate genes with amino acid replacements were evaluated (Table 2). Among them, LOC_Os03g02320 is related to serine/threonine protein kinase, and LOC_Os03g02410 is related to GHMP kinase (Table 2). Serine/threonine protein kinases have been reported to affect plant ­morphogenesis51–53. In addition, it has been suggested that GHMP kinases may be involved in multiple responses stimulated by various plant hormones in Arabidopsis thaliana54. These results suggest that these candidate genes might be responsible for strong culms. In addition, two variants of SNPs replacing amino acid sequences in the CDS of LOC_Os03g02320 (Supplementary Data 5) were found by the database to be reference types in the indica varieties IR8 and Teqing (https://​riceg​enome.​dna.​affrc.​go.​jp/). Therefore, if this is the responsible gene, the alternative allele might be available for breeding these indica varieties to enhance culm strength. However, it has been reported that DNA sequence variation in the promoter region and epigenetic mutations such as DNA methylation can modulate plant ­traits55, 56, thus it is necessary to carefully identify the responsible genes by focusing not only on their coding DNA sequence but also on gene expression levels. Combined effects of QTLs on culm thickness. Pyramiding QTLs is an important breeding ­strategy57, and it has been reported that additive effects of pyramiding and combining have been achieved for culm ­thickness17, 27. In the present study, as a result of examining the combined effects of QTLs, an additive combined effect was confirmed for the two identified QTLs (Fig. 6). From these results, it was suggested that culm thickness is a trait that tends to have an additive effect due to the accumulation of QTLs, and this trait may have not yet reached its maximum limit. In other words, it was suggested that additional strong-culm lines can be bred by pyramiding these QTLs and the genes associated with strong culms, such as APO116 and FC117, both of which have been identified thus far. The combination of QTLs with the highest value for ODMI comprised alternative (non-Nipponbare) types on both chrs. 2L and 3S, and the combination that showed the lowest value comprised the reference (Nipponbare) type (Fig. 6). The QTLs on chrs. 2L and 3S of Koshihikari, Hitomebore, Hinohikari and Akitakomachi, which are the most widely cultivated varieties in ­Japan58, were all of the reference type (Supplementary Data 3). These varieties have weak to medium lodging resistance (https://​ineweb.​narcc.​affrc.​go.​jp/​index.​html), and rice breeding for lodging resistance in Japan has depended on reduced culm length so far (Fig. 3, Supplementary Fig. 2). Therefore, it was suggested that these major Japanese varieties can be improved for lodging resistance by pyramiding the QTLs of these alternative types. Prospect of breeding strategy for the “Next Green Revolution”. In this study, the landrace Houmanshindenine had an ODMI of more than 6.25 mm and a BM of approximately 4,000 gf cm (Fig. 1 and Supplementary Fig. 16). In addition, the genotype of the peak at chr. 2 of Houmanshindenine was an alternative type (Supplementary Data 3), suggesting that it may have a superior allele for strong culm-associated traits. For these reasons, the presence of beneficial alleles that enhance culm strength in landraces has been unutilised for many years; thus, these landraces have not been used as breeding materials and have been rarely inherited in modern breeding varieties. To achieve high rice grain yields that contribute to food security and constitute the “Next Green Revolution”, one key strategy is to breed varieties with culms strong enough to withstand typhoons of increasing intensity, in addition to the strategy of semi-dwarf. A further increase in lodging resistance by increasing culm strength would also make it possible to obtain next generation plant type with larger above-ground biomass and panicles. The use of superior alleles of these landraces as breeding materials to dramatically increase fertility in the future may help to achieve this strategy. Conclusion In this study, we conducted a comprehensive phenotypic analysis of strong culm-associated traits in temperate japonica varieties in Japan. As a result, it was suggested that the improvement of lodging resistance in temperate japonica varieties in Japan by breeding was dependent of shortening culms. Furthermore, novel QTLs for culm strength-associated traits were identified using GWAS, and it was suggested that these superior haplotypes mainly Scientific Reports | (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 9 Vol.:(0123456789) www.nature.com/scientificreports/ exist in landraces. In other words, we have shown that the use of superior strong culm-related genes present in landraces that were previously thought to have low lodging resistance due to their long culm could further improve the lodging resistance of modern breeding varieties. Methods Plant material and cultivation. Landrace and breeding varieties collected from various regions in Japan except Hokkaido were used for rice (Oryza sativa L.) panels. A total of 168 varieties were grown in 2018, and 326 were grown in 2019. The entire list of varieties can be found as Supplementary Data 6. Some of these varieties had the same variety name but were registered under different IDs, and these were tested as different varieties. The realized additive relation matrix was calculated to determine the kinship between the varieties, and the data can be found in Supplementary Data 7 (in 2019; variety numbers are the same as in Supplementary Data 6). All plant seeds used in the current study are owned by Nagoya University and these seeds were obtained under a collaboration agreement with Nagoya University. Experimental research and field studies on plants, including the collection of plant materials in the current study, was carried out in compliance with relevant institutional, national and international guidelines and legislation. Field experiments were carried out in a paddy field in the Field Museum Honmachi, Field Science Center, Faculty of Agriculture, Tokyo University of Agriculture and Technology. The seeds were sown in germination boxes on May 7, 2018, and May 7, 2019. The seedlings at the four-leaf stage were transplanted to a paddy field on May 24, 2018, and May 23, 2019, with one seedling per hill. The planting density was 22.2 hills ­m−2, and the spacing was 15 × 30 cm. The residue of rice from the previous year was ploughed as compost during the winter, and N, P ­ 2O5 and K ­ 2O were applied at 50 kg ­ha−1, 60 kg ­ha−1 and 60 kg ­ha−1, respectively. Weed and pest control were performed as needed, and the fields were cultivated under irrigated conditions. Phenotyping. Approximately 15 days after heading, the main culm of eight and three moderately growing individuals (dough stage) were used for phenotypic measurements in 2018 and 2019, respectively. The arithmetic mean of the traits of this individual replication for each variety was determined as the phenotypic value of the variety for each year. The leaf sheaths wrapped at the basal elongated internodes (the elongated internodes were defined as internodes that extended 4 cm or more) were removed. The ODMI at the centre of the basal elongated nodes was measured using a digital calliper. The BM was measured by a three-point bending test using a Tensilon universal material testing machine (RTG-1210; A&D, Tokyo, Japan) according an established method previously ­reported13. The basal elongated internodes were placed on fulcrums 4 cm apart, and a load was applied to the centre of the internodes and was measured at the time of breaking. BM was calculated by the following Eq. (1): M= PL 4 (1) where M is the BM, P is the load at breaking and L is the distance between fulcrums. The culm length was defined as the length of the main culm from the base to the neck of panicle in the stretched state, measured using a ruler. Cross sections of basal elongated internodes were stained with toluidine blue and photographed using a stereoscopic microscope (SZX12; Olympus, Tokyo, Japan). Genotyping. DNA extraction and sequencing were performed as described in a previous ­study35. Total DNA was extracted from leaves per variety using the DNeasy Plant Mini Kit (Qiagen, Hilden, Germany). Total DNA was sheared into −500 bp fragments by Covaris S2 (Covaris, Massachusetts, USA) and a DNA library was constructed using the NEBNext DNA Library Prep Reagent Set for Illumina (New England Biolabs, Massachusetts, USA). The DNA library was sequenced by the Illumina HiSeq 2000 (Illumina, California, USA). All reads were mapped to the Os-Nipponbare-Reference-IRGSP-1.0 pseudomolecules by BWA-MEM with the -M option in BWA ­software59. The mapped reads were realigned using RealignerTargetCreator and indelRealigner in GATK s­ oftware60. The SNPs and indels were labelled using GATK’s UnifiedGenotyper with the -glm BOTH option. Nucleotide variants with a missing rate of > 0.2 and a minor allele frequency of < 0.05 were removed, resulting in the identification of 435,768 SNPs and indels in the 168-variety panel, and 477,640 SNPs and indels in the 326-variety panel. For the classification of polymorphisms, the promoter region was defined as the 2 kb region upstream of the translation start of each gene. The effects of genomic variants on gene function were predicted using SnpEff software (version 4.3 T)61. The information on gene location and coding sequence was obtained from Generic Feature Format Version 3 (GFF3) of the MSU Rice Genome Annotation Project (http://​ rice.​plant​biolo​gy.​msu.​edu/)62. Annotation information for genes was based on the content within the MSU Rice Genome Annotation Project and the RAP-DB (http://​rapdb.​dna.​affrc.​go.​jp/)62, 63. LD heatmaps were constructed using the package ‘LDheatmap’ (version 0.99–7)64 for R ­software65. Genes with CDS variations and amino acid replacements or deletions and genes with promoter variations in the LD of each QTL were estimated as candidate genes (Genes of unclear function and genes related to transposon were removed). Sequence information for indica varieties for comparison of a candidate gene was obtained from TASUKE + (https://​riceg​enome.​dna.​ affrc.​go.​jp/)66. GWAS. The genetic structure of the analysed population was estimated using the “nipals” parameter of the package ‘pcaMethods’ (version 1.78.0)67 for R ­software65. The GWAS was performed using a linear mixed model (LMM) represented by the following Eq. (2): Scientific Reports | Vol:.(1234567890) (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 10 www.nature.com/scientificreports/ y = Xβ + Zu + ε (2) where y is the vector of phenotypes, X is the matrix of fixed effects containing the nucleotide polymorphism, the grand mean and PCs calculated by genetic relationship analysis, β is the vector of effects, Z is the incidence matrix relating y and u. The variable u is a model of the genetic background of each variety as a random effect, with u ∼ N(0, Kσ2g), where K is the kinship matrix calculated from the nucleotide polymorphisms and σ2g is the genetic variance. ɛ is the matrix of residual effects, with ɛ ∼ N(0, Iσ2e), where I is the identity matrix and σ2e is the residual variance. The realized additive relation matrix was computed using a function “A.mat” and GWAS was performed without considering the principal component, with a fixed factor (PC1) and with fixed factors (PC1 and PC2) for the landraces and the breeding varieties using a function “GWAS” in the package ‘rrBLUP’ (version 4.6.1)68 for R s­ oftware65. In the present GWAS, the threshold was set at − ­log10 (P) > 5, which was higher than that of several previous studies using rice p ­ anels69–71. Statistical analysis. Two-tailed Welch’s t-test was performed by R software (version 4.0.5)65 to compare whether there was a difference in the means of phenotypic trait values between the groups of landraces and breeding varieties and between breeding varieties with and without a QTL. Steel–Dwass test was performed using the “pSDCFlig” function with “Asymptotic” method of the package ‘NSM3’ (version 1.16) for R s­ oftware65 to compare the multiple groups classified by genotypes. The correlation coefficients between phenotypic trait values were calculated using R ­software65. The coefficients of determination (R2) and the adjusted R2 for the year of variety establishment and phenotypic values were calculated using R ­software65. Broad-sense heritability was calculated by the following Eq. (3)–(6)72, 73: H2 = Vg Vg + Ve (3) Vg = Mg − Me r (4) Ve = Me r = (n − 1) −1 n 2  ri ri − i=1 n i=1 i=1 ri  n  (5) (6) where H2 is broad-sense heritability, Mg and Me are the mean sums of squares for genotype and residual error, obtained from analysis of variance (ANOVA), r is the number of replications per genotype. Received: 12 May 2021; Accepted: 16 July 2021 References 1. Godfray, H. C. J. et al. Food security: the challenge of feeding 9 billion people. Science 327, 812–818 (2010). 2. Tilman, D., Balzer, C., Hill, J. & Befort, B. L. Global food demand and the sustainable intensification of agriculture. Proc. Natl. Acad. Sci. USA 108, 20260–20264 (2011). 3. Ray, D. K., Ramankutty, N., Mueller, N. D., West, P. C. & Foley, J. A. Recent patterns of crop yield growth and stagnation. Nat. Commun. 3, 1293. https://​doi.​org/​10.​1038/​ncomm​s2296 (2012). 4. Hargrove, T. R. & Cabanilla, V. L. The impact of semidwarf varieties on Asian rice-breeding programs. Bioscience 29, 731–735 (1979). 5. Khush, G. S. Green revolution: preparing for the 21st century. Genome 42, 646–655 (1999). 6. Hedden, P. The genes of Green Revolution. Trends Genet. 19, 5–9 (2003). 7. Ookawa, T. et al. Precise estimation of genomic regions controlling lodging resistance using a set of reciprocal chromosome segment substitution lines in rice. Sci. Rep. 6, 30572. https://​doi.​org/​10.​1038/​srep3​0572 (2016). 8. Mei, W. & Xie, S. P. Intensification of landfalling typhoons over the northwest Pacific since the late 1970s. Nat. Geosci. 9, 753–757 (2016). 9. Okuno, A. et al. New approach to increasing rice lodging resistance and biomass yield through the use of high gibberellin producing varieties. PLoS ONE 9, e86870. https://​doi.​org/​10.​1371/​journ​al.​pone.​00868​70 (2014). 10. Hirano, K., Ordonio, R. L. & Matsuoka, M. Engineering the lodging resistance mechanism of post-green revolution rice to meet future demands. Proc. Jan. Acad. Ser. B Phys. Biol. Sci. 93, 220–233 (2017). 11. Xangsayasane, P., Phongchanmisai, S., Bounphanousai, C. & Fukai, S. Combine harvesting efficiency as affected by rice field size and other factors and its implication for adoption of combine contracting service. Plant Prod. Sci. 22, 68–76 (2019). 12. Islam, M. S. et al. Lodging-related morphological traits of hybrid rice in a tropical irrigated ecosystem. Field Crops Res. 101, 240–248 (2007). 13. Ookawa, T. & Ishihara, K. Varietal difference of physical characteristics of the culm related to lodging resistance in paddy rice. Jpn. J. Crop Sci. 61, 419–425 (1992). 14. Ookawa, T. & Ishihara, K. Varietal difference of the cell wall components affecting the bending stress of the culm in relation to the lodging resistance in paddy rice. Jpn. J. Crop Sci. 62, 378–384 (1993). 15. Zhang, W. et al. Nitrogen fertilizer application affects lodging resistance by altering secondary cell wall synthesis in japonica rice (Oryza sativa). J. Plant Res. 130, 859–871 (2017). 16. Ookawa, T. et al. New approach for rice improvement using a pleiotropic QTL gene for lodging resistance and yield. Nat. Commun. 1, 132. https://​doi.​org/​10.​1038/​ncomm​s1132 (2010). Scientific Reports | (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 11 Vol.:(0123456789) www.nature.com/scientificreports/ 17. Yano, K. et al. Isolation of a novel lodging resistance QTL gene involved in strigolactone signaling and its pyramiding with a QTL gene involved in another mechanism. Mol. Plant 8, 303–314 (2015). 18. Ikeda, K., Nagasawa, N. & Nagato, Y. ABERRANT PANICLE ORGANIZATION 1 temporally regulates meristem identity in rice. Dev. Biol. 282, 349–360 (2005). 19. Takeda, T. et al. The OsTB1 gene negatively regulates lateral branching in rice. Plant J. 33, 513–520 (2003). 20. Minakuchi, K. et al. FINE CULM1 (FC1) works downstream of strigolactones to inhibit the outgrowth of axillary buds in rice. Plant Cell Physiol. 51, 1127–1135 (2010). 21. Kashiwagi, T. & Ishimaru, K. Identification and functional analysis of a locus for improvement of lodging resistance in rice. Plant Physiol. 134, 676–683 (2004). 22. Ishimaru, K. et al. New target for rice lodging resistance and its effect in a typhoon. Planta 227, 601–609 (2008). 23. Kashiwagi, T. Identification of quantitative trait loci for resistance to bending-type lodging in rice (Oryza sativa L.). Euphytica 198, 353–367 (2014). 24. Mulsanti, I. W. et al. Finding the superior allele of japonica-type for increasing stem lodging resistance in indica rice varieties using chromosome segment substitution lines. Rice 11, 25. https://​doi.​org/​10.​1186/​s12284-​018-​0216-3 (2018). 25. Jiang, M. et al. Mapping of QTLs associated with lodging resistance in rice (Oryza sativa L.) using the recombinant inbred lines derived from two high yielding cultivars, Tachisugata and Hokuriku 193. Plant Growth Regul. 87, 267–276 (2019). 26. Samadi, A. F. et al. Identification of quantitative trait loci for breaking and bending types lodging resistance in rice, using recombinant inbred lines derived from Koshihikari and a strong culm variety Leaf Star. Plant Growth Regul. 89, 83–98 (2019). 27. Nomura, T. et al. Next generation long-culm rice with superior lodging resistance and high grain yield, Monster Rice 1. PLoS ONE 14, e0221424. https://​doi.​org/​10.​1371/​journ​al.​pone.​02214​24 (2019). 28. Chigira, K. et al. Landraces of temperate japonica rice have superior alleles for improving culm strength associated with lodging resistance. Sci. Rep. 10, 19855. https://​doi.​org/​10.​1038/​s41598-​020-​76949-8 (2020). 29. Dissanayaka, D. M. S. B., Maruyama, H., Nishida, S., Tawaraya, K. & Wasaki, J. Landrace of japonica rice, Akamai exhibits enhanced root growth and efficient leaf phosphorus remobilization in response to limited phosphorus availability. Plant Soil 414, 327–338 (2017). 30. Xiao, J., Li, J., Yuan, L. & Tanksley, S. D. Identification of QTLs affecting traits of agronomic importance in a recombinant inbred population derived from a subspecific rice cross. Theor. Appl. Genet. 92, 230–244 (1996). 31. Mei, H. W. et al. Gene actions of QTLs affecting several agronomic traits resolved in a recombinant inbred rice population and two backcross populations. Theor. Appl. Genet. 110, 649–659 (2005). 32. Kwon, S. J. et al. QTL mapping of agronomic traits using an RIL population derived from a cross between temperate japonica cultivars in rice (Oryza sativa L.). Breed. Sci. 58, 271–279 (2008). 33. Huang, X. et al. Genome-wide association studies of 14 agronomic traits in rice landraces. Nat. Genet. 42, 961–967 (2010). 34. Zhao, K. et al. Genome-wide association mapping reveals a rich genetic architecture of complex traits in Oryza sativa. Nat. Commun. 2, 467. https://​doi.​org/​10.​1038/​ncomm​s1467 (2011). 35. Yano, K. et al. Genome-wide association study using whole-genome sequencing rapidly identifies new genes influencing agronomic traits in rice. Nat. Genet. 48, 927–934 (2016). 36. Wang, Q., Tang, J., Han, B. & Huang, X. Advances in genome-wide association studies of complex traits in rice. Theor. Appl. Genet. 133, 1415–1425 (2020). 37. Asano, K. et al. Artificial selection for a green revolution gene during japonica rice domestication. Proc. Natl. Acad. Sci. USA 108, 11034–11039 (2011). 38. Shimada, A. et al. The rice SPINDLY gene functions as a negative regulator of gibberellin signaling by controlling the suppressive function of the DELLA protein, SLR1, and modulating brassinosteroid synthesis. Plant J. 48, 390–402 (2006). 39. Yano, K. et al. GWAS with principal component analysis identifies a gene comprehensively controlling rice architecture. Proc. Natl. Acad. Sci. USA 116, 21262–21267 (2019). 40. McCouch, S. R. et al. Open access resources for genome-wide association mapping in rice. Nat. Commun. 7, 10532. https://​doi.​ org/​10.​1038/​ncomm​s10532 (2016). 41. Cao, G. et al. Impact of epistasis and QTL×environment interaction on the developmental behavior of plant height in rice (Oryza sativa L.). Theor. Appl. Genet. 103, 153–160 (2001). 42. Zhang, Z. H., Qu, X. S., Wan, S., Chen, L. H. & Zhu, Y. G. Comparison of QTL controlling seedling vigour under different temperature conditions using recombinant inbred lines in rice (Oryza sativa). Ann. Bot. 95, 423–429 (2005). 43. Hu, W., DePamphilis, C. W. & Ma, H. Phylogenetic analysis of the plant-specific zinc finger-homeobox and mini zinc finger gene families. J. Integr. Plant Biol. 50, 1031–1045 (2008). 44. Xu, Y. et al. Overexpression of OsZHD1, a zinc finger homeodomain class homeobox transcription factor, induces abaxially curled and drooping leaf in rice. Planta 239, 803–816 (2014). 45. Yoon, J. et al. Homeobox transcription factor OsZHD2 promotes root meristem activity in rice by inducing ethylene biosynthesis. J. Exp. Bot. 71, 5348–5364 (2020). 46. Hu, J. et al. A rare allele of GS2 enhances grain size and grain yield in rice. Mol. Plant 8, 1455–1465 (2015). 47. Duan, P. et al. Regulation of OsGRF4 by OsmiR396 controls grain size and yield in rice. Nat. Plants 2, 15203. https://​doi.​org/​10.​ 1038/​nplan​ts.​2015.​203 (2016). 48. Wada, T., Ogata, T., Tsubone, M., Uchimura, Y. & Matsue, Y. Mapping of QTLs for eating quality and physicochemical properties of the japonica rice ‘Koshihikari’. Breed. Sci. 58, 427–435 (2008). 49. Takeuchi, Y. et al. Major QTLs for eating quality of an elite Japanese rice cultivar, Koshihikari, on the short arm of chromosome 3. Breed. Sci. 58, 437–445 (2008). 50. International Rice Genome Sequencing Project & Sasaki, T. The map-based sequence of the rice genome. Nature 436, 793–800 (2005). 51. Li, J. et al. BAK1, an Arabidopsis LRR receptor-like protein kinase, interacts with BRI1 and modulates brassinosteroid signalling. Cell 110, 213–222 (2002). 52. Mao, X., Zhang, H., Tian, S., Chang, X. & Jing, R. TaSnRK2.4, an SNF1-type serine/threonine protein kinase of wheat (Triticum aestivum L.), confers enhanced multistress tolerance in Arabidopsis. J. Exp. Bot. 61, 683–696 (2010). 53. Song, M. et al. A leaf shape mutant provides insight into PINOID Serine/Threonine Kinase function in cucumber (Cucumis sativus L.). J. Integr. Plant Biol. 61, 1000–1014 (2019). 54. Xiao, W. et al. Genome-wide identification, classification and expression analysis of GHMP genes family in Arabidopsis thaliana. Plant Syst. Evol. 301, 2125–2140 (2015). 55. Duan, P. et al. Natural variation in the promoter of GSE5 contributes to grain size diversity in rice. Mol. Plant 10, 685–694 (2017). 56. Miura, K. et al. A metastable DWARF1 epigenetic mutant affecting plant stature in rice. Proc. Natl. Acad. Sci. USA 106, 11218–11223 (2009). 57. Ashikari, M. & Matsuoka, M. Identification, isolation and pyramiding of quantitative trait loci for rice breeding. Trends Plant Sci. 11, 344–350 (2006). 58. Kobayashi, A., Hori, K., Yamamoto, T. & Yano, M. Koshihikari: a premium short-grain rice cultivar—Its expansion and breeding in Japan. Rice 11, 15. https://​doi.​org/​10.​1186/​s12284-​018-​0207-4 (2018). Scientific Reports | Vol:.(1234567890) (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 12 www.nature.com/scientificreports/ 59. Li, H. Aligning sequence reads, clone sequences and assembly contigs with BWA-MEM. Preprint at https://​arxiv.​org/​abs/​1303.​ 3997 (2013). 60. DePristo, M. A. et al. A framework for variation discovery and genotyping using next-generation DNA sequencing data. Nat. Genet. 43, 491–498 (2011). 61. Cingolani, P. et al. A program for annotating and predicting the effects of single nucleotide polymorphisms, SnpEff: SNPs in the genome of Drosophila melanogaster strain w1118; iso-2; iso-3. Fly (Austin) 6, 80–92 (2012). 62. Kawahara, Y. et al. Improvement of the Oryza sativa Nipponbare reference genome using next generation sequence and optical map data. Rice 6, 4. https://​doi.​org/​10.​1186/​1939-​8433-6-4 (2013). 63. Sakai, H. et al. Rice Annotation Project Database (RAP-DB): an integrative and interactive database for rice genomics. Plant Cell Physiol. 54, 6. https://​doi.​org/​10.​1093/​pcp/​pcs183 (2013). 64. Shin, J.-H., Blay, S., McNeney, B. & Graham, J. LDheatmap: an R function for graphical display of pairwise linkage disequilibria between single nucleotide polymorphisms. J. Stat. Softw. 16, 3 (2006). 65. R Core Team. R: A language and environment for statistical computing. R Foundation for Statistical Computing https://w ​ ww.R-p ​ roje​ ct.​org/ (2021). 66. Kumagai, M. et al. TASUKE+: a web-based platform for exploring GWAS results and large-scale resequencing data. DNA Res. 26, 445–452 (2019). 67. Stacklies, W., Redestig, H., Scholz, M., Walther, D. & Selbig, J. pcaMethods—a bioconductor package providing PCA methods for incomplete data. Bioinformatics 23, 1164–1167 (2007). 68. Endelman, J. B. Ridge regression and other kernels for genomic selection with R package rrBLUP. Plant Genome 4, 250–255 (2011). 69. Wissuwa, M. et al. Unmasking novel loci for internal phosphorus utilization efficiency in rice germplasm through genome-wide association analysis. PLoS ONE 10, e0124215. https://​doi.​org/​10.​1371/​journ​al.​pone.​01242​15 (2015). 70. Zhu, Y. et al. Identification and fine mapping of a stably expressed QTL for cold tolerance at the booting stage using an interconnected breeding population in rice. PLoS ONE 10, e0145704. https://​doi.​org/​10.​1371/​journ​al.​pone.​01457​04 (2015). 71. Li, C. et al. Genome-wide association mapping of resistance against rice blast strains in South China and identification of a new Pik allele. Rice 12, 47. https://​doi.​org/​10.​1186/​s12284-​019-​0309-7 (2019). 72. Singh, M., Ceccarelli, S. & Hamblin, J. Estimation of heritability from varietal trials data. Theor. Appl. Genet. 86, 437–441 (1993). 73. Kruijer, W. et al. Marker-based estimation of heritability in immortal populations. Genetics 199, 379–398 (2015). Acknowledgements This work was supported by JSPS Grant-in-Aid for JSPS Fellows Grant Number 20J13277. Author contributions T.N. and T.O. conceived and designed the study, wrote the manuscript and secure funding. T.N., Y.S. and K.Y. designed the data analysis. T.N., Y.S., K.C. S.A. and O.S. performed the experiments and analysed the data. M.M. and K.Y. provided the plant materials and genome data. F.P. and M.R. reviewed and edited the manuscript. All authors commented the manuscript. Competing interests The authors declare no competing interests. Additional information Supplementary Information The online version contains supplementary material available at https://​doi.​org/​ 10.​1038/​s41598-​021-​95268-0. Correspondence and requests for materials should be addressed to T.O. Reprints and permissions information is available at www.nature.com/reprints. Publisher’s note Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://​creat​iveco​mmons.​org/​licen​ses/​by/4.​0/. © The Author(s) 2021 Scientific Reports | (2021) 11:15780 | https://doi.org/10.1038/s41598-021-95268-0 13 Vol.:(0123456789)
https://openalex.org/W3118459567
https://www.sicot-j.org/10.1051/sicotj/2020047/pdf
English
null
Comparison of clinical outcomes with and without volar lunate facet fragments in dorsal displaced distal radius fractures
SICOT-J
2,021
cc-by
4,202
Hiroyuki Obata, Kiyohito Naito*, Yoichi Sugiyama, Nana Nagura, Kenji Goto, Ayaka Kaneko, So Kawakita, and Kazuo Kaneko epartment of Orthopaedics, Juntendo University School of Medicine, 2-1-1 Hongo, Bunkyo-ku, 113-8421 Tokyo, Japan Received 23 July 2020, Accepted 13 December 2020, Published online 8 January 2021 Abstract – Introduction: Although many clinical studies about distal radius fracture (DRF) accompanied by volar lunate facet fragments (VLFF) have recently been reported, none focus on the direction of displacement of distal fragments. Many previous cases with difficulty in treating DRF with VLFF were volar-displaced fractures. Thus, the postoperative risk for re-displacement is different between volar- and dorsal-displaced fractures with VLFF. The aim of this study is to compare the outcome of dorsal-displaced fractures treated using proximal volar locking plates (PVLP) between those with VLFF and those without, in order to reconsider the indications of distal volar locking plates (DVLP) and investigate the possibility of treating dorsal-displaced DRF with VLFF using PVLP. Methods: The subjects were 122 patients with dorsal-displaced DRFs treated using PVLP (42 males and 80 females, mean age: 59.2 years old). The patients were divided into 13 patients with VLFF group and 109 patients without VLFF group, and the clinical outcomes at 12 months after surgery were compared. Results: No significant difference was noted on any evaluation between the groups. In addition, no postoperative re-displacement of VLFF was observed and bone union was confirmed. Furthermore, no osteoarthritic change was noted in all patients. Conclusions: We confirmed that surgical treatment for dorsal-displaced DRF using PVLP is possible even in cases of DRF with VLFF. In addition, DVLP is an implant with a high complication risk; therefore, it may be necessary to reconsider the use of DVLP for dorsal-displaced DRF with VLFF treatable by PVLP. Key words: Distal radius fractures, Volar lunate facet fragments, Dorsal displaced fractures, Proximal volar locking plates. *Corresponding author: knaito@juntendo.ac.jp This is an Open Access article distributed under the terms of the Creative Commons Attribution License (https://creativecommons.org/licenses/by/4.0), which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Introduction Among DRFs with VLFF, many with difficulty in treatment due to postoperative re-displacement are of volar-displaced fractures [12–14]. Our algorithm for treating distal radius fractures uses proximal volar locking plates (PVLP) for dorsal displaced fractures and DVLP for volar displaced fractures [15]. Therefore, in this study, based on the hypothesis that PVLP can be used to treat dorsally displaced fractures even with VLFF, the clinical outcomes of PVLP fixation for dorsally displaced fractures with and without VLFF were compared. The purpose of this study is to prevent unnecessary use of DVLP, which has many postoperative complications, just because “VLFF is small”. Many studies on the treatment strategy for distal radius fracture (DRF) with volar lunate facet fragments (VLFF) have recently been reported [1–4]. In 2014, Beck et al. reported that a 15-mm or smaller longitudinal diameter of VLFF in the lateral view on plain radiography is a risk factor for postoperative re-displacement [5], and after this report, many treatments strategies based on the size of VLFF have been discussed. However, volar locking plates are often selected based on the VLFF size and to our knowledge, there has not been reported that importance to the displacement direction of distal bone fragments. Indeed, distal volar locking plates (DVLP) are frequently used because of the small size of VLFF [6, 7]. However, many complications of DVLP, such as flexor tendon injury and crushing of VLFF, have been reported, demonstrat- ing them to be an implant with a high risk for postoperative complications [8–11]. Therefore, reconsideration of their indi- cations may be necessary. SICOT-J 2021, 7, 1  The Authors, published by EDP Sciences, 2021 https://doi.org/10.1051/sicotj/2020047 SICOT-J 2021, 7, 1  The Authors, published by EDP Sciences, 2021 https://doi.org/10.1051/sicotj/2020047 Available online at: www.sicot-j.org Available online at: www.sicot-j.org OPEN ACCESS ORIGINAL ARTICLE OPEN ACCESS ORIGINAL ARTICLE Patients This study was approved by the ethics committee for medical research of our university (No. 17-250), and informed consent was received from all patients. *Corresponding author: knaito@juntendo.ac.jp This is an Open Access article distributed under the terms of the Creative Commons Attribution License (https://creativecommons.org/licenses/by/4.0), which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. H. Obata et al.: SICOT-J 2021, 7, 1 2 The subjects were 122 patients with dorsal-displaced DRFs treated by reduction and fixation using PVLP (42 males and 80 females, mean age: 59.2 years old) between January 2012 and December 2018. In the distal fragments of the distal radius fractures, the free bone fragments in the volar lunate facet fragment in which the longitudinal diameter of the volar bone cortex is 10 mm or less are defined as the volar lunate facet fragment [16]. The patients were divided into 13 patients with VLFF (VLFF (+) group: 9 males and 4 females, mean age: 60.0 years old) and 109 patients without VLFF (VLFF () group: 33 males and 76 females, mean age: 59.2 years old), and the clinical outcomes at 12 months after surgery were com- pared. The range of motion of the wrist, visual analog scale (VAS), quick disabilities of the arm, shoulder and hand (Q-DASH) score, and Mayo wrist score were investigated as evaluation items. The fracture type according to the AO classi- fication on preoperative plain X-ray images was C1 in 4 patients, C2 in 2, and C3 in 7 in the VLFF (+) group, and A2 in 32, A3 in 5, C1 in 65, C2 in 5, and C3 in 2 in the VLFF () group. PVLP was used in all patients regardless of VLFF. cross the watershed line and the dorsal side of the radial joint surface was able to be supported by inserting distal locking screws (Figures 1E, 1F, and 2). The volar radius also presents a concave profile in the sagittal plane (the pronator fossa). This feature is limited distally by a ridge called the watershed line and allows the application of implants of substantial profile [18]. After distal locking screws insertion, shortening of the fracture region and reduction of ulnar displacement of proximal bone fragments were performed according to the Condylar stabilizing technique [19], followed by fixation by proximal cortical screw insertion (Figures 1G and 1H). Patients Immobilization after surgery was not necessary, and movement of the wrist joint and fingers permitted early after surgery. Results 2. Acu-Loc 2 proximal plate (Nihon Medical Next, Osaka, Japan) for 23.  On evaluation at 12 months after surgery, in the VLFF (+) group, the range of motion of the wrist joint was 72.6 ± 6.9 flexion and 69.2 ± 8.5 extension, and forearm pronation and supination were 83.0 ± 6.9 and 84.6 ± 7.1, respectively. The VAS, Q-DASH score, and Mayo wrist score were 1.3 ± 1.2/10, 10.3 ± 7.1/100, and 93.1 ± 4.8/100, respectively. In the VLFF () group, the range of motion of the wrist joint was 73.3 ± 10.7 flexion and 73.6 ± 10.7 extension, and fore- arm pronation and supination were 83.6 ± 7.7 and 85.2 ± 7.2, respectively. The VAS, Q-DASH score, and Mayo wrist score were 0.9 ± 1.0/10, 9.6 ± 10.0/100, and 93.5 ± 7.0/100, respec- tively. There were no major perioperative complications in either group. No significant difference was noted in any evalu- ation between the groups (Table 1). In addition, no postopera- tive re-displacement of VLFF was observed and the bone union was confirmed. Furthermore, no osteoarthritic change was noted in all patients. 3. DVR (Zimmer Boimet, Tokyo, Japan) for 21.  4. Dual-Loc V17 (MEIRA, Aichi, Japan) for 9. 4. Dual-Loc V17 (MEIRA, Aichi, Japan) for 9. ( p ) 5. Stellar 2 (HOYA, Tokyo, Japan) for one. The selection of VLP depended on the timing of the surgery, not the plate design. VLP fixation was applied through the trans-FCR approach. Statistical analysis Data are presented as the mean ± standard deviation (SD) and were analyzed for significant differences by the Mann– Whitney U test (Prism 4, GraphPad Software, San Diego, CA). Differences were considered significant at P < 0.05. 1. VA-TCP 2.4 (Depuy Synthes, Tokyo, Japan) for 68 patients. Surgical technique Zenke et al have classified it as “intramedullary” when the volar cortex of the distal bone fragment was invaginated medially to the proximal part, “anatomical” when the volar cortex met the volar cortex, and “extramedullary” when the volar cortex of the distal bone fragment was located laterally to the proximal part [17]. In surgery, 1.8-mm Kirschner wire was first inserted from the dorsal side of the fracture region, and dorsal displacement of distal bone fragments was reduced from “intramedullary” to “anatomical” or “extramedullary” using the Kapandji technique (Figures 1A and 1B). This was targeted by placing the plate to prevent it from lifting from dis- tal bone fragments. Then, in the VLFF (+) group, an elevator was inserted into the intramedullary canal from the volar side of the fracture region when there was an intramedullary depressed bone fragment, and a reduction was applied by lifting the depressed bone fragment from the intramedullary canal in order to press it to the lunate bone. In addition, the volar frag- ment was pushed to the dorsal fragment over the plate to reduce the gap in the fracture site (Figures 1C and 1D). For the plate, PVLP was selected because the distal screw is inserted on the dorsal side of the radial facet to support the dorsal-displaced bone fragment displaced toward the dorsal. The plate placement site was set at a level at which the plate placement site did not Discussion The treatment strategy for DRF with VLFF focuses only on the size of VLFF and the displacement direction of frac- tures is not taken into consideration in many cases. However, many cases that were difficult to treat due to postoperative re-displacement were of volar-displaced DRF with VLFF, and re-displacement on the volar side developed after surgery because PVLP was selected for these volar-displaced fractures or DVLP was selected, but the plate placement site was inap- propriate [12–14]. Based on these reports, we cover VLFF and sufficiently apply buttress fixation as a treatment strategy using DVLP, considering that volar-displaced DRF with VLFF has a high risk for postoperative displacement [15]. In 2004, Harness et al. reported that treatment of DRF with VLFF using an existing volar locking plate is difficult due to its anatomical H. Obata et al.: SICOT-J 2021, 7, 1 3 (A) (B) (C) (D) (E) (F) (G) (H) Figure 1. Surgical procedure for distal radius fractures with dorsal-displaced VLFF. From the dorsal side of the fracture region, 1.8-mm Kirschner wire was inserted and dorsal displacement of distal bone fragments was reduced using the Kapandji technique ((A) PA view, B) Lateral view). Dorsal volar bone fragments were pressed to each other to be bound to reduce the gap in the fracture region ((C) PA view, D) Lateral view). The plate was placed at a position at which distal locking screws support the dorsal side of the radial joint surface (E) PA view, (F) Lateral view). The distal bone fragment was reduced and fixed according to the condylar stabilizing method ((G) PA view, H) Lateral view). (A) (C) (B) (D) (D) (C) (A) (B) (E) (H) (G) (F) (E) (G) (H) (F) Figure 1. Surgical procedure for distal radius fractures with dorsal-displaced VLFF. From the dorsal side of the fracture region, 1.8-mm Kirschner wire was inserted and dorsal displacement of distal bone fragments was reduced using the Kapandji technique ((A) PA view, (B) Lateral view). Dorsal volar bone fragments were pressed to each other to be bound to reduce the gap in the fracture region ((C) PA view, (D) Lateral view). The plate was placed at a position at which distal locking screws support the dorsal side of the radial joint surface ((E) PA view, (F) Lateral view). The distal bone fragment was reduced and fixed according to the condylar stabilizing method ((G) PA view, (H) Lateral view). characteristics [20]. Discussion However, new DVLP applicable to volar- displaced fractures distal to the watershed line have recently been developed, and treatment of volar-displaced DRF with VLFF using DVLP has improved [15, 21]. of volar tilt [23, 24]. Orbay et al. treated patients with postoper- ative volar re-displacement of dorsal-displaced DRF with VLFF by open wedge osteotomy and achieved favorable postoperative outcomes by reducing volar tilt. They mentioned the importance of reducing the load on VLFF even by allowing slight dorsal volar tilt. They also stated that excess reconstruction of volar tilt is a risk factor for volar re-displacement [23]. Thus, we consid- ered that the risk for postoperative re-displacement can be prevented by avoiding loading on VLFF by not excessively moving the load axis toward the volar side through avoiding excess reconstruction of volar tilt. In this study, the mean postoperative volar tilt was 8.5 (2–15) due to the use of PVLP in the VLFF (+) group and no over-correction-induced volar re-displacement developed after surgery in any patient. On the other hand, in dorsal-displaced fractures with VLFF, we consider secondary displacement to be caused by pulling by the short radiolunate ligament attached to VLFF through the dorsal displacement of carpal VLFF. Therefore, to prevent post- operative re-displacement of VLFF, prevention of carpal dorsal displacement is necessary, for which support of the dorsal side of the radial joint surface is important [22]. Accordingly, the selection of PVLP in which distal locking screws support the dorsal side of the radial joint surface is rational. Cases of postoperative volar re-displacement of dorsal-displaced DRF with VLFF have been occasionally reported, but most may have been due to excess reconstruction When DVLP are selected for dorsal-displaced DRF with VLFF, the carpal bone may be re-displaced toward the dorsal H. Obata et al.: SICOT-J 2021, 7, 1 4 Figure 2. The theory of osteosynthesis and surgical technique of PVLP. In order to prevent dorsal re-displacement, it will be more important to obtain good subchondral support of the dorsal side of the radial facet with PVLP compared with buttress effect by covering the volar lunate facet fragment (yellow arrow: the dislocation direction of the carpal, red line: the dorsal side of the radial facet supported by the locking screw). because the bone mass and bony tissue are insufficient. Declarations Figure 2. The theory of osteosynthesis and surgical technique of PVLP. In order to prevent dorsal re-displacement, it will be more important to obtain good subchondral support of the dorsal side of the radial facet with PVLP compared with buttress effect by covering the volar lunate facet fragment (yellow arrow: the dislocation direction of the carpal, red line: the dorsal side of the radial facet supported by the locking screw). Figure 2. The theory of osteosynthesis and surgical technique of PVLP. In order to prevent dorsal re-displacement, it will be more important to obtain good subchondral support of the dorsal side of the radial facet with PVLP compared with buttress effect by covering the volar lunate facet fragment (yellow arrow: the dislocation direction of the carpal, red line: the dorsal side of the radial facet supported by the locking screw). Availability of data and material The datasets during and/or analysed during the current study available from the corresponding author on reasonable request. VLFF: volar lunate facet fragment, F: flexion, E: extension, P: pronation, S: supination, VAS: visual analog scale, Q-DASH: quick disabilities of the arm, shoulder, and hand, N.S.: no significant difference. Authors’ contributions HO (first author) mainly wrote this manuscript, acquisition of data, analysis and interpretation of data. KN (corresponding author), KG, YS, and KK mainly performed the conception and design of this study. HO, KG, AK, and NN performed acquisi- tion of data, analysis and interpretation of data. Discussion It may cause blood circulation disorder, inducing crushing and necrosis of VLFF because the surrounding soft tissue is dis- sected to try to fix VLFF, and screws and wire are inserted. We fixed dorsal-displaced DRF with VLFF using PVLP in this study. As a dissection of soft tissue attached to VLFF was min- imized, there was no crushing or necrosis of VLFF, and the bone union was confirmed in all patients. In conclusion, the clinical outcomes of dorsal-displaced DRF were compared between patients with and without VLFF. It was comparable regardless of VLFF, clarifying that reduction and fixation of the dorsal-displaced fracture using PVLP are possible even in cases of DRF with VLFF. DVLP is an implant with risks of many complications and their use should be limited to volar-displaced fractures. Informed consent was received from all patients. Informed consent was received from all patients. Ethics approval The study was approved by the ethics committee for medical research of our university (No. 17-250). Table 1. Comparison of clinical outcomes at 12 months after surgery between VLFF (+) and VLFF () groups. Table 1. Comparison of clinical outcomes at 12 months after surgery between VLFF (+) and VLFF () groups. Table 1. Comparison of clinical outcomes at 12 months after surgery between VLFF (+) and VLFF () groups. VLFF (+) VLFF () P-value Cases 13 109 N.S. Wrist F/E () 72.6/69.2 73.3/73.6 N.S. Forearm P/S () 83.0/84.6 83.6/85.2 N.S. VAS 1.3 0.9 N.S. Q-DASH score 10.3 9.6 N.S. Mayo score 93.1 93.5 N.S. VLFF: volar lunate facet fragment, F: flexion, E: extension, P: pronation, S: supination, VAS: visual analog scale, Q-DASH: quick disabilities of the arm, shoulder, and hand, N.S.: no significant difference. Code availability The datasets during and/or analysed during the current study available from the corresponding author on reasonable request. side after surgery because the distal locking screws mainly support the center of the radial joint surface and VLFF may be secondarily displaced by being pulled by the short radiolu- nate ligament. Regarding the relationship between volar tilt and the flexor tendon, Wurtzel et al. pointed out that insufficient reconstruction of volar tilt may increase the risk for postopera- tive flexor tendon injury [25]. Moreover, the pronator quadratus muscle is damaged in many cases of dorsal-displaced DRF and covering the plate after repairing the pronator quadratus muscle after plate placement is often difficult. Therefore, when DVLP are selected for dorsal-displaced DRF with VLFF, they cannot be covered with the pronator quadratus muscle and volar tilt usually decreases due to re-displacement, increasing the risk for postoperative iatrogenic flexor tendon injury. side after surgery because the distal locking screws mainly support the center of the radial joint surface and VLFF may be secondarily displaced by being pulled by the short radiolu- nate ligament. Regarding the relationship between volar tilt and the flexor tendon, Wurtzel et al. pointed out that insufficient reconstruction of volar tilt may increase the risk for postopera- tive flexor tendon injury [25]. Moreover, the pronator quadratus muscle is damaged in many cases of dorsal-displaced DRF and covering the plate after repairing the pronator quadratus muscle after plate placement is often difficult. Therefore, when DVLP are selected for dorsal-displaced DRF with VLFF, they cannot be covered with the pronator quadratus muscle and volar tilt usually decreases due to re-displacement, increasing the risk for postoperative iatrogenic flexor tendon injury. Consent to participate Informed consent was received from all patients. VLFF (+) VLFF () P-value Cases 13 109 N.S. Wrist F/E () 72.6/69.2 73.3/73.6 N.S. Forearm P/S () 83.0/84.6 83.6/85.2 N.S. VAS 1.3 0.9 N.S. Q-DASH score 10.3 9.6 N.S. Mayo score 93.1 93.5 N.S. Conflict of interest The authors declare that they have no conflict of interest. The authors declare that they have no conflict of interest. Ethics approval The authors declare that they have no conflict of interest. 1. Marcano A, Taormina DP, Karia R, Paksima N, Posner M, Egol KA (2015) Displaced intra-articular fractures involving the volar rim of the distal radius. J Hand Surg Am 40, 42–48. Consent for publication Informed consent was received from all patients. References Some recent studies stated the importance of fixation of VLFF [26–28], but it may be difficult to fix VLFF even though additional fixation with screws, anchors, or wire is applied H. Obata et al.: SICOT-J 2021, 7, 1 5 2. Waters MJ, Ruchelsman DE, Belsky MR, Lelbman MI (2014) Headless bone screw fixation for combined volar lunate facet distal radius fracture and capitate fracture: case report. J Hand Surg Am 39, 1489–1493. 16. Obata H, Naito K, Kaneko A, Goto K, Sugiyama Y, Nagura N, Kawakita S, Iwase Y, Kaneko K (2020) Clinical outcomes in distal radius fractures accompanied by volar lunate facet fragments: A comparison between dorsal and volar displaced fractures. J Hand Surg Asian Pac Vol 25, 417–422. 3. O’Shaughnessy MA, Shin AY, Kakar S (2016) Stabilization of volar ulnar rim fractures of the distal radius: Current techniques and review of the literature. J Wrist Surg 5, 113–119. 17. Zenke Y, Furukawa K, Furukawa H, Maekawa K, Tajima T, Yamanaka Y, Hirasawa H, Menuki K, Sakai A (2019) Radio- graphic measurements as a predictor of correction loss in conservative treatment of colles’ fracture. J UOEH 41, 139–144. 4. Spiteri M, Ng W, Matthews J, Power D (2017) Functional outcome of fixation of complex intra-articular dital radius fractures with a variable-angle distal radius volar rim plate. J Hand Microsurg 9, 11–16. 18. Orbay JL, Touhami A (2006) Current concepts in volar fixed- angle fixation of unstable distal radius fractures. Clin Orthop Relat Res 445, 58–67. 5. Beck JD, Harness NG, Spencer HT (2014) Volar plate fixation failure for volar shearing distal radius fractures with small lunate facet fragments. J Hand Surg Am 39, 670–678. 19. Kiyoshige Y (2005) Condylar stabilizing technique for intra- articular fracture of distal radius. Tech Hand Up Extrem Surg 9, 17–20. 6. Moore AM, Dennison DG (2014) Distal radius fractures and the volar lunate facer fragment: Kirschner wire fixation in addition to volar-locked plating. Hand (NY) 9, 230–236. 20. Harness NG, Jupiter JB, Orbay JL, Raskin KB, Fernandes DL (2004) Loss of fixation of the volar lunate facet fragment in fractures of the distal part of the radius. J Bone Joint Surg Am 86, 1900–1908. 7. Gokkus K, Sagtas E, Kesgin E, Aydin AT (2018) Comminuted distal radial fracture with large rotated palmar medial osteo- chondral fragment in the joint. J Orthop Case Rep 8, 27–31. 21. References Kachooei AR, Tarabochia M, Jupiter JB (2016) Distal radius volar rim fracture fixation using Depuy-Synthes volar rim plate. J Wrist Surg 5, 2–8. 8. Kara A, Celik H, Bankaoglu M, Oc Y, Bulbul M, Sugun TS (2016) Ultrasonic evaluation of the flexor pollicis longus tendon following volar plate fixation for distal radius fractures. J Hand Surg Am 41, 374–380. 22. Kawasaki K, Nemoto T, Inagaki K, Tomita K, Ueno Y (2014) Variable-angle locking plate with or without double-tiered subchondral support procedure in the treatment of intra-articular distal radius fracture. J Orthop Traumatol 15, 271–274. 9. Kara A, Celik H, Oc Y, Uzun M, Erdil M, Tetik C (2016) Flexor tendon complication in comminuted distal radius frac- tures treated with anatomic volar rim locking plates. Acta Orthop Traumatol Turc 50, 665–669. 23. Orbay JL, Rubio F, Vemon LL (2016) Prevent collapse and salvage failures of the volar rim of the distal radius. J Wrist Surg 5, 17–21. 10. Spiteri M, Roberts D, Ng W, Matthews J, Power D (2017) Distal radius volar rim plate: Technical and radiographic considerations. World J Orthop 8, 567–573. 24. Ruch DS, Wray WH 3rd, Papadonikolakis A, Richard MJ, Leversedge FJ, Goldner RD (2010) Corrective osteotomy for isolated malunion of the palmar lunate facet in distal radius fractures. J Hand Surg Am 35, 1779–1786. 11. Foo TL, Gan AW, Sch T, Chew WY (2013) Mechanical failure of the distal radius volar locking plate. J Orthop Surg (Hong Kong) 21, 332–336. 25. Wurtzel CNW, Bums GT, Zhu AF, Ozer K (2017) Effects of volar tilt, wrist extension, and plate position on contact between flexor pollicis longus tendon and volar plate. J Hand Surg Am 42, 996–1001. 12. Andermahr J, Lozano-Calderon S, Trafton T, Crisco JJ, Ring D (2006) The volar extension of the lunate facet of the distal radius: a quantitative anatomic study. J Hand Surg Am 31, 892–895. 26. Bakker AJ, Shin AY (2014) Fragment-specific volar hook plate for volar marginal rim fractures. Tech Hand Up Extem Surg 18, 56–60. 13. Obata H, Baba T, Futamura K, Obayashi O, Mogami A, Kaneko K (2017) Difficulty in fixation of the volar lunate facet fragment in distal radius fracture. Case Rep Othop 2017, 6269081. 27. O’Shaughnessy MA, Shin AY, Kakar S (2015) Volar marginal rim fracture fixation with volar fragment-specific hook plate fixation. J Hand Surg Am 40, 1563–1570. 14. Cite this article as: Obata H, Naito K, Sugiyama Y, Nagura N, Goto K, Kaneko A, Kawakita S & Kaneko K (2021) Comparison of clinical outcomes with and without volar lunate facet fragments in dorsal displaced distal radius fractures. SICOT-J 7, 1 References Kitay A, Mudgal C (2014) Volar carpal subluxation following lunate facet fracture. J Hand Surg Am 39, 2335–2341. 15. Naito K, Sugiyama Y, Kinoshita M, Obata H, Goto K, Nagura N, Iwase Y, Obayashi O, Kaneko K (2019) Functional outcomes in volar-displaced distal radius fractures patients with marginal rim fragment treated by volar distal locking plates. J Hand Microsurg 11, 100–105. 28. Harness NG (2016) Fixation options for the volar lunate facet fracture: Thinking outside the box. J Wrist Surg 5, 9–16.
https://openalex.org/W1982113188
https://journals.plos.org/plosone/article/file?id=10.1371/journal.pone.0080073&type=printable
English
null
Metabolic Changes in the Visual Cortex of Binocular Blindness Macaque Monkeys: A Proton Magnetic Resonance Spectroscopy Study
PloS one
2,013
cc-by
5,244
Lingjie Wu1, Zuohua Tang1*☯, Xinghuai Sun2*☯, Xiaoyuan Feng3, Wen Qian1, Jie Wang1, Lixin Jin4 1 Department of Radiology, Eye and ENT Hospital of Shanghai Medical School, Fudan University, Shanghai, China, 2 Department of Ophthalmology, Eye and ENT Hospital, State Key Laboratory of Medical Neurobiology, Institutes of Brain Science, Fudan University, Shanghai, China, 3 Department of Radiology, Huashan Hospital of Shanghai Medical School, Fudan University, Shanghai, China, 4 Siemens Ltd. Healthcare Sector, Shanghai, China Abstract The funders had no role in study design, data collection and analysis, decision to publish, or preparation of the manuscript. Competing interests: Co-author Lixin Jin is employed by Siemens Ltd. There are no patents, products in development or mark This does not alter the authors adherence to all the PLOS ONE policies on sharing data and materials. Co-author Lixin Jin is employed by Siemens Ltd. There are no patents, products in development or marketed products to declare. uthors adherence to all the PLOS ONE policies on sharing data and materials. * E-mail: tzh518sunny@163.com (ZHT); xhsun@shmu.edu.cn (XHS) ☯ These authors contributed equally to this work. Abstract Purpose: To evaluate proton magnetic resonance spectroscopy (1H-MRS) in a study of cross-modal plasticity in the visual cortex of binocular blindness macaque monkeys. Materials and Methods: Four healthy neonatal macaque monkeys were randomly divided into 2 groups, with 2 in each group. Optic nerve transection was performed in both monkeys in the experimental group (group B) to obtain binocular blindness. Two healthy macaque monkeys served as a control group (group A). After sixteen months post- procedure, 1H-MRS was performed in the visual cortex of all monkeys. We compared the peak areas of NAA, Cr, Cho, Glx and Ins and the ratios of NAA/Cr, Cho/Cr, Glx/Cr and Ins/Cr of each monkey in group B with group A. Results: The peak area of NAA and the NAA/Cr ratio in the visual cortex of monkey 4 in group B were found to be dramatically decreased, the peak area of NAA slightly decreased and the NAA/Cr ratio clearly decreased in visual cortex of monkey 3 in group B than those in group A. The peak area of Ins and the Ins/Cr ratio in the visual cortex of monkey 4 in group B slightly increased. The peak area of Cho and the Cho/Cr ratio in the visual cortex of all monkeys in group B dramatically increased compared with group A. The peak area of Glx in the visual cortex of all monkeys in group B slightly increased compared with group A. Conclusions: 1H-MRS could detect biochemical and metabolic changes in the visual cortex and therefore this technique can be used to provide valuable information for investigating the mechanisms of cross-modal plasticity of binocular blindness in a macaque monkey model. Editor: Jie Tian, Institute of Automation, Chinese Academy of Sciences, China Received June 15, 2013; Accepted October 9, 2013; Published November 5, 2013 Received June 15, 2013; Accepted October 9, 2013; Published November 5, 2013 Copyright: © 2013 Wu et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Funding: The Grant of Science and Technology Commission of Shanghai Municipality (No.09ZR1405600), http://www.stcsm.gov.cn/; The Funds for International Cooperation and Exchange of the National Natural Science Foundation of China (Grant No. 81020108017), http://www.nsfc.gov.cn/Portal0/ default152.htm. Citation: Wu L, Tang Z, Sun X, Feng X, Qian W, et al. (2013) Metabolic Changes in the Visual Cortex of Bino Magnetic Resonance Spectroscopy Study. PLoS ONE 8(11): e80073. doi:10.1371/journal.pone.0080073 Metabolic Changes in the Visual Cortex of Binocular Blindness Macaque Monkeys: A Proton Magnetic Resonance Spectroscopy Study Metabolic Changes in the Visual Cortex of Binocular Blindness Macaque Monkeys: A Proton Magnetic Resonance Spectroscopy Study Magnetic resonance spectroscopy 1H-MRS was performed using a Siemens–Magnetom Verio 3.0T scanner (Germany), with a gradient of 45mT/m and maximum switchover rate of 200T/m/s. Anesthetized macaque monkeys were placed in the knee coil in a supine position with their heads in the central location. Thin sheets were used to keep monkeys warm at approximately 38°C. Materials and Methods For all macaque monkeys, single voxel 1H-MRS was performed in the same MR unit in the visual cortex of the occipital lobe. The volume of interest (VOI) for acquiring 1H- MRS was chosen based on criteria including the largest possible voxel within the visual cortex. To preselect the VOI, a fast spin-echo (FSE) in three planes was used to acquire high resolution anatomical images for position the voxel of 1H-MRS along standard anatomical orientation. The location of 1H-MRS was achieved in sagittal T2WI images. The VOI was positioned to include the bilateral visual cortex as far as possible while avoiding the inclusion of skull, fat and air sinus. Six saturated zones were placed around the VOI to reduce the effect of surrounding tissues. Shimming and tuning were achieved with automated procedures before scanning. Water signals were suppressed with selective water signal inversion. 1H-MRS scanning started when the FWHM (full width at half maximum) between 47 and 53 Hz, the water suppression (WS) ≧98%. Spectra were recorded with the following parameters: TR=2000ms, TE=30ms, thickness=15mm, averages=180, FOV=140×140mm2, NEX=2, Voxel=18×20×15 mm3. Animal preparation and experimental protocol p p p p Healthy neonatal macaque monkeys (n=4) were randomly divided into 2 groups, with 2 in each group. In this study, optic nerve transection was performed in bilateral eyes of each monkey in the experimental group (Group B, monkey 3 and monkey 4) at postnatal day 40 with 0.3ml ketamine-xylazine mixture anaesthesia to obtain binocular blindness. Through an incision in the bitamporal conjunctiva, we transected the superior oblique and bluntly dissected the fascia tissue around eyeball until the optic nerve was clearly exposed, then we transected the retrobulbar optic nerve at the site of 0.5mm away from the sclera. In addition, a small section of optic nerve was removed from the surgical eye to ensure the optic nerve was completely transected. Finally, the eyeball of the macaque was reset into the orbit again, sutured the incision in the conjunctiva and swabbed Tobrex oculentum within the conjunctival sac. This operation is believed to result in less drastic morphological changes and surgical trauma than the binocular enucleated model. Separate, healthy macaque monkeys were kept as a control group (Group A, monkey 1 and monkey 2). Sixteen months after operation, 1H-MRS was performed in the visual cortex of all monkeys. Therefore, our study utilized macaque monkeys to establish a neonatal binocular blindness model to investigate the mechanisms of cross-modal plasticity in the visual cortex of binocular blind subjects by detecting biochemical and metabolic changes in vivo using 1H-MRS at 3T. Such alterations in the metabolism of the visual cortex maybe valuable to future studies of biochemistry, changes in metabolism and cortical reorganization associated with the adaptive reactions caused by visual loss or other sensory deprivations. To our knowledge, we are the first to report the investigation of biochemical and metabolic changes in the visual cortex of early binocular blindness macaque monkeys in vivo using 1H-MRS. Metabolic Changes of Binocular Blind Macaque Metabolic Changes of Binocular Blind Macaque In vivo 1H-MRS is a powerful tool for noninvasively investigating metabolism in a specific region of the brain. There have even been reports about biochemical and metabolic changes detected in the visual cortex with this approach [8-10]. Chan et al[10] reported a reduction in choline (Cho) in the visual cortex of rats with glaucoma, which may be due to the dysfunction of the cholinergic system in the visual system caused by progressive visual loss. In addition, reduction of NAA and taurine (Tau) levels in the visual cortex contralateral to the enucleated eye of neonatal monocular enucleated rats was reported by Chow et al [8]. Such results may reflect a reduction of neurons and overall neuronal activity in the visual cortex of monocular blind rats. Furthermore, 1H-MRS also has been applied to humans with acquired blindness at different ages to reveal a significant increase of myo-inositol (Ins) in the visual cortex, which suggests that glial cells may play an active role in the reorganization of the cortex in response to visual deprivation [9]. These studies suggest that measurements of metabolites in the visual cortex can provide valuable information to study the metabolic changes associated with cross-modal plasticity following progressive vision loss (glaucoma), monocular blindness in rats and late-stage blindness in humans; however, no studies have been conducted on neonatal binocular blind subjects. and maintenance of macaque monkeys supervised their health. Prior to optic nerve transection of monkeys, they were anesthetized with a 0.3ml ketamine-xylazine mixture. Postoperatively, each monkey received cefotaxime (75 mg/kg body weight) and an analgesic, diclofenac sodium (1 mg/kg body weight), twice daily for 5 days. No monkey was sacrificed during the study. Introduction audition and olfaction [3]. Therefore, it seems that the visual cortex of the blind is capable of adapting to accommodate these non-visual inputs through cross-modal plasticity [1]. However, the exact mechanisms underlying cross-modal plasticity in the visual cortex of vision loss subjects is a major question in the research field. Although some previous studies have reported morphological, functional, behavioral and biochemical changes, which have been used to explain cellular and synaptic plasticity mechanisms that uphold anatomical and functional adaptations in the cerebral cortex, the biochemical and metabolic changes in the visual cortex after loss of sight are not clear [4-7]. The loss of any one modality can lead to signal generation in the deprived cortical area from inputs originating from other modalities, illustrating the remarkable capacity of the cerebral cortex for plasticity [1]. This phenomenon, in which a change in one sensory system alters the development of the remaining sensory systems in different stage of life, is called cross-modal plasticity [2]. For instance, congenital or early visual loss subjects acquire important anatomical and functional reorganization of the visually-deprived cortex that becomes activated by a variety of non-visual stimuli, such as touch, November 2013 | Volume 8 | Issue 11 | e80073 PLOS ONE | www.plosone.org 1 Metabolic Changes of Binocular Blind Macaque Results The peak areas of NAA, Cho, Ins, Cr and Glx in the visual cortex of all monkeys are summarized in Table 1. Concentration ratios of NAA/Cr, Cho/Cr, Glx/Cr and Ins/Cr in the visual cortex of all monkeys are displayed in Table 2. Note that if the peak area or the ratio of each metabolite increased or decreased by 5%-15%, 16%-29% or more than 30% compared with the group A, we ruled that the differences were slight, clear and dramatic, respectively. The peak area of NAA and the NAA/Cr ratio in the visual cortex of monkey 4 in group B were found to be dramatically decreased compared with the corresponding mean value of group A, meanwhile the peak area of NAA slightly decreased and the NAA/Cr ratio clearly decreased in visual cortex of monkey 3 in group B than those in group A (Figure 1, Table 1 and 2). The peak area of Ins in the visual cortex of monkey 4 clearly increased, while the Ins/Cr ratio slightly increased, whereas the peak area of Ins and the Ins/Cr ratio of monkey 3 clearly decreased. The peak area of Cho and the Cho/Cr ratio in the visual cortex of all monkeys in group B dramatically increased than group A (Figure 1, Table 1 and 2). The peak area of Glx in the visual cortices of all monkeys in group B slightly increased, while the Glx/Cr ratio slightly decreased (Figure 1, Table 1 and 2). vision loss. However, the biochemical and metabolic changes associated with cross-modal plasticity in the visual cortex following vision loss are not clear. Hence, in our study, we investigated the biochemical and metabolic changes in the visual cortex of macaque monkeys after binocular blindness to determine their effects on cross-modal plasticity in models of vision deprivation. N-acetyl-aspartate (NAA) is an amino acid derivative synthesized in neurons and transported down axons, and it is found exclusively in the neuron and axon [12]. To our knowledge, several studies have correlated the concentration of NAA in brain with the number of neurons measured [8,12-22]. Some reports demonstrated that a decrease of NAA levels is a specific marker for the reduction of neurons and axons, as well as the degeneration including the dysfunction, structural damage and reduced cell size of neurons and axons [8,12-19,22]. Ethics statement This study was carried out in strict accordance with the recommendations in the Guide for the Care and Use of Laboratory Animals of Fudan University and according to local and international ethical guidelines. The protocol was approved by the Committee on the Ethics of Animal Experiments of the Eye & ENT Hospital. All macaque monkeys were housed in an air-conditioned room with an ambient temperature of 21–25°C, a relative humidity of 40%–60% and a 12 h light/dark cycle. During the light period, all monkeys were free to roam the air- conditioned room, which had swings, erect wood and toys such as basketballs and puzzles. During the dark period, all monkeys were housed in individual 100 cm×70 cm×80 cm cages with visual, auditory and olfactory contacts with their peers. In addition, all monkeys were provided a balanced diet including fresh fruits, vegetables, cereals, bread and vitamins twice daily, in addition to water that was freely available. Furthermore, veterinarians that were skilled in the healthcare November 2013 | Volume 8 | Issue 11 | e80073 PLOS ONE | www.plosone.org 2 Metabolic Changes of Binocular Blind Macaque Table 1. The peak areas of NAA, Cho, Glx, Cr and Ins in the visual cortex. Group A Group B Monkey 1 Monkey 2 Mean Monkey3 Monkey4 Mean NAA 6.71 7.50 7.11 6.66 ↓ 4.32 ↓↓↓ 5.49↓↓ Cr 6.32 7.39 6.86 7.82 ↑ 7.45 ↑ 7.64 ↑ Ins 10.71 11.16 10.94 8.50 ↓↓ 12.66 ↑↑ 10.58 ↓ Cho 1.77 1.89 1.83 2.85↑↑↑ 3.71↑↑↑ 3.28 ↑↑↑ Glx 9.85 9.54 9.70 10.29 ↑ 10.34 ↑ 10.32 ↑ Note: Group A: normal control macaques, Group B: binocular blind macaques; ↑/↓ increased/decreased 5%-15%; ↑↑/↓↓ increased/decreased 16%-29%; ↑↑↑/↓↓↓ increased/decreased more than 30%. doi: 10.1371/journal.pone.0080073.t001 Results In our study, the peak area of NAA and the NAA/Cr ratio in the bilateral visual cortex of monkey 4 in group B were found to be dramatically decreased, while the peak area of NAA slightly decreased and the NAA/Cr ratio clearly decreased in the bilateral visual cortex of monkey 3 in group B than those in group A, which is consistent with previous studies regarding the decrease of NAA and NAA/Cr in unilateral visual cortex of monocular blind rat model [8,22]. So, our results were likely due to the reduction of neurons in the visual cortex of two binocular blind monkeys in group B [8,13-18,22]. In addition, Data post-processing Table 1. The peak areas of NAA, Cho, Glx, Cr and Ins in the visual cortex. Spectra analysis was performed on a Siemens MR post- processing work station (Siemens–Magnetom, Verio, 3.0T MR, Germany). Five experienced operators performed all MRS post-processing independently. Resonance peaks in the spectrum was determined as NAA (2.02ppm), Cr (3.02ppm), Cho (3.2ppm), Ins (3.5-3.65ppm) and Glx (2.1-2.5ppm and 3.74ppm). Furthermore the peak area of the metabolites was measured automatically by calculating the integral area under the curve of the metabolites using the MR post-processing work station, which represented their relative concentrations. Concentration ratios of NAA, Cho, Ins and Glx were calculated in reference to Cr, which was considered an internal standard for the examination. We compared the relative concentrations of the metabolites mentioned above and the NAA/Cr, Cho/Cr, Glx/Cr and Ins/Cr ratios in the visual cortex of each monkey in group B with those in group A. Table 2. The ratios of NAA/Cr, Cho/Cr, Glx/Cr and Ins/Cr in the visual cortex. Group A Group B Monkey 1 Monkey 2 Mean Monkey 3 Monkey 4 Mean NAA/Cr 1.06 1.01 1.04 0.85↓↓ 0.58 ↓↓↓ 0.72↓↓ Ins/Cr 1.69 1.51 1.60 1.09↓↓ 1.70 ↑ 1.40 ↓ Cho/Cr 0.28 0.26 0.27 0.36 ↑↑↑ 0.50 ↑↑↑ 0.43 ↑↑↑ Glx/Cr 1.56 1.29 1.43 1.32 ↓ 1.39 ↓ 1.36 ↓ Note: Group A: normal control macaques, Group B: binocular blind macaques; ↑/↓ increased/decreased 5%-15%; ↑↑/↓↓ increased/decreased 16%-29%; ↑↑↑/↓↓↓ increased/decreased more than 30%. doi: 10.1371/journal.pone.0080073.t002 Table 2. The ratios of NAA/Cr, Cho/Cr, Glx/Cr and Ins/Cr in the visual cortex. Discussion The peak area of Cho and the Cho/Cr ratio in the visual cortex of all monkeys in group B dramatically increased. The peak area of Glx in the visual cortices of all monkeys in group B slightly increased compared with group A. NAA: N-acetyl aspartate, Cho: choline, Cr: creatine, Glx: glutamate + glutamine, Ins: myo-inositol. doi: 10.1371/journal.pone.0080073.g001 the reduction of axons which transmitted visual inputs to the visual cortex may also lead to the decrease of NAA and NAA/Cr ratio in the visual cortex of two binocular blind monkeys in group B [8,13,14]. What’s more, the degeneration of neurons and axons in the visual cortex can play an important role in resulting in the decrease of NAA and NAA/Cr ratio in visual cortex of two monkeys in group B as well [8,13,14,16,19]. Therefore, in our study the decrease of NAA and NAA/Cr ratio in the visual cortex can indicate the reduction of neurons and axons, as well as the degeneration of neurons and axons in the visual cortex of two binocular blind monkeys in group B. increased numbers of cells, increased membrane synthesis, or increased membrane break down, such as in demyelination [28]. In our results, the ratio of Cho/Cr in the visual cortex of all monkeys in group B dramatically increased compared with group A. We can therefore infer that neurons or glial cells proliferated, that membranes were disrupted, such as in axonal demyelination, and/or that the visual cortex was activated by the remaining sensory systems through cross-modal plasticity. However, a larger sample is needed for further validation. the reduction of axons which transmitted visual inputs to the visual cortex may also lead to the decrease of NAA and NAA/Cr ratio in the visual cortex of two binocular blind monkeys in group B [8,13,14]. What’s more, the degeneration of neurons and axons in the visual cortex can play an important role in resulting in the decrease of NAA and NAA/Cr ratio in visual cortex of two monkeys in group B as well [8,13,14,16,19]. Therefore, in our study the decrease of NAA and NAA/Cr ratio in the visual cortex can indicate the reduction of neurons and axons, as well as the degeneration of neurons and axons in the visual cortex of two binocular blind monkeys in group B. Glutamate (Glu) and glutamine (Gln) are referred to as Glx. Discussion Visual deprivation during early life could cause the visual cortex to be activated by other sensory systems through cross- modal plasticity, which has been demonstrated in previous experiments [4,11]. There are two hypotheses regarding the mechanisms of cross-modal plasticity in the visual cortex after visual deprivation [1]. The first hypothesis proposes that early deprived visual cortical circuits can be rewired and/or cross- wired with other modalities and formatted with new permanent connections from other sensory receptors. The second hypothesis suggests that physically present but functionally silent connections between the deprived visual cortex and spared cortices could be activated and/or enhanced following November 2013 | Volume 8 | Issue 11 | e80073 PLOS ONE | www.plosone.org 3 Metabolic Changes of Binocular Blind Macaque Figure 1. Biochemical and metabolic spectra in the visual cortex. 1H-MRS spectra were obtained from the visual cortex of normal control macaque monkeys in group A (A) and sixteen months after binocular visual deprivation in monkey 3 (B) and monkey 4 (C) in group B. The peak area of NAA and the NAA/Cr ratio in the visual cortex of monkey 4 in group B were found to be dramatically decreased, while the peak area of NAA slightly decreased and the NAA/Cr ratio clearly decreased in visual cortex of monkey 3 in group B than those in group A. The Ins/Cr ratio of monkey 4 slightly increased. The peak area of Cho and the Cho/Cr ratio in the visual cortex of all monkeys in group B dramatically increased. The peak area of Glx in the visual cortices of all monkeys in group B slightly increased compared with group A. NAA: N-acetyl aspartate, Cho: choline, Cr: creatine, Glx: glutamate + glutamine, Ins: myo-inositol. doi: 10.1371/journal.pone.0080073.g001 Figure 1. Biochemical and metabolic spectra in the visual cortex. 1H-MRS spectra were obtained from the visual cortex of normal control macaque monkeys in group A (A) and sixteen months after binocular visual deprivation in monkey 3 (B) and monkey 4 (C) in group B. The peak area of NAA and the NAA/Cr ratio in the visual cortex of monkey 4 in group B were found to be dramatically decreased, while the peak area of NAA slightly decreased and the NAA/Cr ratio clearly decreased in visual cortex of monkey 3 in group B than those in group A. The Ins/Cr ratio of monkey 4 slightly increased. Discussion Glu is the major excitatory neurotransmitter in the mammalian central nervous system and is released by neurons in the stimulated state and taken up by surrounding glial cells and converted into Gln [29]. In our study, we found that the peak area of Glx slightly increased in the visual cortex of all monkeys in group B compared with that of group A. This may be due to an imbalance of the Glu-Gln cycle between glutamatergic neurons and astrocytes, and suggests that the neurotransmitter (glutamatergic neurons) may take part in visual cortex reorganization [30]. However, the ratio of Glx/Cr slightly decreased, which indicates that the alteration of Glx maybe unstable or that cross-modal plasticity following vision loss may not lead to the changes of Glx, as was previously reported [31]. To resolve these opposing views, a larger sample size is required. In contrast to NAA, Ins is found at high concentrations in glial cells [23] and is therefore considered a marker of this cell type [16,24]. A study of blind humans found elevated Ins in the visual cortex compared with normal-sighted individuals, which suggested a proliferation of glial cells, an increase in glial cell size, and/or glial cell participation in the reorganization of the visual cortex in response to vision loss [9]. In our study, the peak area of Ins and the Ins/Cr ratio of monkey 4 slightly increased, which was in accordance with a previous study [9] and suggested that glial cells may take part in visual cortex reorganization in binocular blindness. However, the peak area of Ins and the Ins/Cr ratio of monkey 3 clearly decreased, which may have resulted from individual differences or immune responses to nerve degeneration [25]; therefore, further investigation with a larger sample size is recommended. 1H-MRS has been widely used to investigate developmental neurobiology in mammalian brains [32,33] to study the metabolite profiles for measuring cross-modal plasticity in response to vision loss or other forms of sensory deprivation [34,35]. There were several limitations in the current study. First, the findings are preliminary, given the limited samples (N=2 for each group), and therefore a larger sample is needed in future studies to improve the reliability of the results. Second, the voxel size used in this study was bigger than the visual The choline (Cho) signal reflects cytosolic choline-containing compounds, 98% of which are phosphocholine and glycerophosphocholine [26]. November 2013 | Volume 8 | Issue 11 | e80073 References 1. Desgent S, Ptito M (2012) Cortical GABAergic interneurons in cross- modal plasticity following early blindness. Neural Plast, 2012: 590725. PubMed: 22720175 15. Mountford CE, Stanwell P, Lin A, Ramadan S, Ross B (2010) Neurospectroscopy: the past, present and future. Chem Rev 110: 3060-3086. doi:10.1021/cr900250y. PubMed: 20387805. 2. Karlen SJ, Krubitzer L (2009) Effects of bilateral enucleation on the size of visual and nonvisual areas of the brain. Cereb Cortex 19: 1360-1371. doi:10.1093/cercor/bhn176. PubMed: 18842663. 16. Choi JK, Dedeoglu A, Jenkins BG (2007) Application of MRS to mouse models of neurodegenerative illness. NMR Biomed 20: 216-237. doi: 10.1002/nbm.1145. PubMed: 17451183. 17. Moffett JR, Ross B, Arun P, Madhavarao CN, Namboodiri AM (2007) N-Acetylaspartate in the CNS: from neurodiagnostics to neurobiology. Prog Neurobiol 81: 89-131. doi:10.1016/j.pneurobio.2006.12.003. PubMed: 17275978. 3. Merabet LB, Pascual-Leone A (2010) Neural reorganization following sensory loss: the opportunity of change. Nat Rev Neurosci 11: 44-52. doi:10.1038/nrn2758. PubMed: 19935836. 4. Bavelier D, Neville HJ (2002) Cross-modal plasticity: where and how? Nat Rev Neurosci 3: 443-452. PubMed: 12042879. 18. Steen RG, Hamer RM, Lieberman JA (2005) Measurement of brain metabolites by 1H magnetic resonance spectroscopy in patients with schizophrenia: a systematic review and meta-analysis. Neuropsychopharmacology 30: 1949-1962. doi:10.1038/sj.npp. 1300850. PubMed: 16123764. 5. Rauschecker JP (1995) Compensatory plasticity and sensory substitution in the cerebral cortex. Trends Neurosci 18: 36-43. doi: 10.1016/0166-2236(95)93948-W. PubMed: 7535489. ( ) 6. Schroeder CE, Smiley J, Fu KG, McGinnis T, O'Connell MN et al. (2003) Anatomical mechanisms and functional implications of multisensory convergence in early cortical processing. Int J Psychophysiol 50: 5-17. doi:10.1016/S0167-8760(03)00120-X. PubMed: 14511832. 19. Ross B, Bluml S (2001) Magnetic resonance spectroscopy of the human brain. Anat Rec 265: 54-84. doi:10.1002/ar.1058. PubMed: 11323770. 20. Howe FA, Maxwell RJ, Saunders DE, Brown MM, Griffiths JR (1993) Proton spectroscopy in vivo. Magn Reson Q 9: 31-59. PubMed: 8512831. 7. Stein BE, Stanford TR (2008) Multisensory integration: current issues from the perspective of the single neuron. Nat Rev Neurosci 9: 255-266. doi:10.1038/nrm2357. PubMed: 18354398. 21. Simmons ML, Frondoza CG, Coyle JT (1991) Immunocytochemical localization of N-acetyl-aspartate with monoclonal antibodies. Neuroscience 45: 37-45. doi:10.1016/0306-4522(91)90101-S. PubMed: 1754068. 8. Chow AM, Zhou IY, Fan SJ, Chan KW, Chan KC et al. (2011) Metabolic changes in visual cortex of neonatal monocular enucleated rat: a proton magnetic resonance spectroscopy study. Int J Dev Neurosci 29: 25-30. doi:10.1016/j.ijdevneu.2010.10.002. PubMed: 20950681. 22. References Ribak CE, Robertson RT (1986) Effects of neonatal monocular enucleation on the number of GAD-positive puncta in rat visual cortex. Exp Brain Res 62: 203-206. PubMed: 3007193. 9. Bernabeu A, Alfaro A, García M, Fernández E (2009) Proton magnetic resonance spectroscopy (1H-MRS) reveals the presence of elevated myo-inositol in the occipital cortex of blind subjects. Neuroimage 47: 1172-1176. doi:10.1016/j.neuroimage.2009.04.080. PubMed: 19426816. 23. Font C, Garía-Campos M, Hansen AJ, Siemkowicz E, Gjedde A (1982) Simultaneous diffusion of inositol and mannitol in the rat brain. Rev Esp Fisiol 38: 317-319. PubMed: 6818625. 24. Brand A, Richter-Landsberg C, Leibfritz D (1993) Multinuclear NMR studies on the energy metabolism of glial and neuronal cells. Dev Neurosci 15: 289-298. doi:10.1159/000111347. PubMed: 7805581. 10. Chan KC, So KF, Wu EX (2009) Proton magnetic resonance spectroscopy revealed choline reduction in the visual cortex in an experimental model of chronic glaucoma. Exp Eye Res 88: 65-70. doi: 10.1016/j.exer.2008.10.002. PubMed: 18992243. 25. Mountford C, Lean C, Malycha P, Russell P (2006) Proton spectroscopy provides accurate pathology on biopsy and in vivo. J Magn Reson Imaging 24: 459-477. doi:10.1002/jmri.20668. PubMed: 16897689. 11. Newton JR, Sikes RW, Skavenski AA (2002) Cross-modal plasticity after monocular enucleation of the adult rabbit. Exp Brain Res 144: 423-429. doi:10.1007/s00221-002-1087-8. PubMed: 12037628. 26. Dowling C, Bollen AW, Noworolski SM, McDermott MW, Barbaro NM et al. (2001) Preoperative proton MR spectroscopic imaging of brain tumors: correlation with histopathologic analysis of resection specimens. AJNR Am J Neuroradiol 22: 604-612. PubMed: 11290466. 12. Moffett JR, Namboodiri MA, Neale JH (1993) Enhanced carbodiimide fixation for immunohistochemistry: application to the comparative distributions of N-acetylaspartylglutamate and N-acetylaspartate immunoreactivities in rat brain. J Histochem Cytochem 41: 559-570. doi:10.1177/41.4.8450195. PubMed: 8450195. 27. Fournier GN, Semba K, Rasmusson DD (2004) Modality- and region- specific acetylcholine release in the rat neocortex. Neuroscience 126: 257-262. doi:10.1016/j.neuroscience.2004.04.002. PubMed: 15207343. 13. Zhang Y, Chen X, Wen G, Wu G, Zhang X (2013) Proton Magnetic Resonance Spectroscopy ((1)H-MRS) Reveals Geniculocalcarine and Striate Area Degeneration in Primary Glaucoma. PLOS ONE 8: e73197. 28. Gujar SK, Maheshwari S, Björkman-Burtscher I, Sundgren PC (2005) Magnetic resonance spectroscopy. J Neuroophthalmol 25: 217-226. doi:10.1097/01.wno.0000177307.21081.81. PubMed: 16148633. 14. You Y, Gupta VK, Graham SL, Klistorner A (2012) Anterograde degeneration along the visual pathway after optic nerve injury. PLOS ONE 7: e52061. doi:10.1371/journal.pone.0052061. PubMed: 23300590. 29. Shen J, Petersen KF, Behar KL, Brown P, Nixon TW et al. Author Contributions In conclusion, our results demonstrated that biochemical and metabolic alterations occur in the visual cortex of neonatal binocular blind macaque monkeys, as measured with 1H-MRS in vivo. These changes were mainly caused by cross-modal plasticity that was associated with the reduction of neurons and axons, the degeneration of neurons and axons, as well as the activation of connections. Such alterations could provide valuable information to investigate the mechanism of cross- Conceived and designed the experiments: LJW ZHT XHS XYF WQ. Performed the experiments: LJW ZHT JW LXJ. Analyzed the data: ZHT LJW JW LXJ. Contributed reagents/materials/ analysis tools: ZHT XHS XYF. Wrote the manuscript: LJW ZHT JW. Acknowledgements We want to thank Xinpei Ye and Shenjiang Wang for assistance during scanning. Discussion These compounds can provide Cho for the synthesis of the neurotransmitter acetylcholine (ACh), which is considered as a marker of visual cortex activation [27]. Moreover, according to previous studies in the literature, increased Cho has been observed in conditions with PLOS ONE | www.plosone.org November 2013 | Volume 8 | Issue 11 | e80073 4 Metabolic Changes of Binocular Blind Macaque modal plasticity in neonatal visual deprivation and other neuroplasticity models. cortex for the purpose of ensuring high signal to noise ratio (SNR), which means that signals that were acquired tended to average metabolite concentrations of gray matter, white matter and cerebrospinal fluid. To reduce voxel volume, higher magnetic field MR equipment would be needed. Lastly, we investigated biochemical and metabolic changes in the whole visual cortex, and in future studies we hope to detect these changes in different regions of the visual cortex. 35. Pajonk FG, Wobrock T, Gruber O, Scherk H, Berner D et al. (2010) Hippocampal plasticity in response to exercise in schizophrenia. Arch Gen Psychiatry 67: 133-143. doi:10.1001/archgenpsychiatry.2009.193. PubMed: 20124113. determined by in vivo 1H NMR spectroscopy. Magn Reson Med 50: 24-32. doi:10.1002/mrm.10497. PubMed: 12815675. Metabolic Changes of Binocular Blind Macaque References (1999) Determination of the rate of the glutamate/glutamine cycle in the human brain by in vivo 13C NMR. Proc Natl Acad Sci U S A 96: 8235-8240. doi:10.1073/pnas.96.14.8235. PubMed: 10393978. November 2013 | Volume 8 | Issue 11 | e80073 5 PLOS ONE | www.plosone.org Metabolic Changes of Binocular Blind Macaque Metabolic Changes of Binocular Blind Macaque Metabolic Changes of Binocular Blind Macaque determined by in vivo 1H NMR spectroscopy. Magn Reson Med 50: 24-32. doi:10.1002/mrm.10497. PubMed: 12815675. 30. Xu S, Yang J, Li CQ, Zhu W, Shen J (2005) Metabolic alterations in focally activated primary somatosensory cortex of alpha-chloralose- anesthetized rats measured by 1H MRS at 11.7 T. Neuroimage 28: 401-409. doi:10.1016/j.neuroimage.2005.06.016. PubMed: 16182571. 34. Bernabeu A, Alfaro A, García M, Fernández E (2009) Proton magnetic resonance spectroscopy (1H-MRS) reveals the presence of elevated myo-inositol in the occipital cortex of blind subjects. Neuroimage 47: 1172-1176. doi:10.1016/j.neuroimage.2009.04.080. PubMed: 19426816. j g 31. Vizuete ML, Steffen V, Machado A, Cano J (1992) Effects of neonatal enucleation on catecholamine and serotonin turnover and amino acid levels in lateral geniculate nucleus and visual cortex of the adult rat. Brain Res 575: 231-237. doi:10.1016/0006-8993(92)90084-M. PubMed: 1373983. 32. Larvaron P, Bielicki G, Boespflug-Tanguy O, Renou JP (2006) Proton MRS of early post-natal mouse brain modifications in vivo. NMR Biomed 19: 180-187. doi:10.1002/nbm.997. PubMed: 16470692. 33. Tkác I, Rao R, Georgieff MK, Gruetter R (2003) Developmental and regional changes in the neurochemical profile of the rat brain PLOS ONE | www.plosone.org PLOS ONE | www.plosone.org November 2013 | Volume 8 | Issue 11 | e80073 6
https://openalex.org/W2883011897
http://www.apsijournal.com/index.php/psyjournal/article/download/217/147
Russian
null
ЕВРИСТИЧНИЙ І РОЗВИВАЮЧИЙ ПОТЕНЦІАЛ ГЕНЕТИКО-МОДЕЛЮЮЧОГО МЕТОДУ В ПСИХОЛОГІЇ
Psihologìčnij časopis
2,015
cc-by
6,856
Эвристический и развивающий потенциал генетико-моделирующего метода в психологии Анотація. У статті розглядаються основні, істотні риси і принципи генетико-моделюючого методу. Доводиться, що цей метод — один з небагатьох в психології (поряд з лонгітюдним), що дають можливість дослідити розвиток психіки, а отже, і її сутнісні особливості. Розкрива- ються можливості методу для вікової та консультативної психології. у у Ключові слова: генетико-моделюючий метод, психологія особистості, дослідження, мето- дологія, розвиток, криза, допомогу. Современное состояние исследования психологии личности характеризуется наличием большого количества разнооб- разных теорий. Каждая из них, безуслов- но, несет в себе определенное позитивное содержание. С другой стороны, поскольку психика человека личностна по своей при- роде, можно говорить и о том, что все пси- хологические исследования, какими бы частными и специфическими они ни были, вносят свой вклад в сумму знаний психо- логии о личности. И все-таки, в этой об- ласти явно необходим принципиально и качественно новый подход к исследова- нию. Объясняется это тем, что абсолютное большинство теорий личности созданы на основании идей автора и житейских (а не научных) фактов. К этой группе фак- тов мы относим и те, что получены в прак- тически-психологической деятельности, поскольку не существует методологически обоснованных способов добывания при психологической помощи собственно на- учной информации. моразвития и самоорганизации, остаются лишь декларациями, не подтвержденными реальными адекватными исследованиями. моразвития и самоорганизации, остаются лишь декларациями, не подтвержденными реальными адекватными исследованиями. Проблема приобретает особую акту- альность, если мы обратимся к реальной жизни, например, к процессу обучения и воспитания ребенка. Срезовые, стимул- реактивные методы дают частную инфор- мацию, не затрагивая важнейших вопросов собственной активности, уникальности и неповторимости каждого ребенка, его внутренней интринсивной мотивации, а также, что особенно важно, содержатель- ной и уникально-неповторимой связи лич- ности с естественным и культурным окру- жением. Проблема приобретает особую акту- альность, если мы обратимся к реальной жизни, например, к процессу обучения и воспитания ребенка. Срезовые, стимул- реактивные методы дают частную инфор- мацию, не затрагивая важнейших вопросов собственной активности, уникальности и неповторимости каждого ребенка, его внутренней интринсивной мотивации, а также, что особенно важно, содержатель- ной и уникально-неповторимой связи лич- ности с естественным и культурным окру- жением. Разработанный Л. С. Выготским и блес тяще реализованный его ученика- ми и последователями экспериментально- генетический метод остается единс- твенным вариантом (кроме лонгитюда) не стимул-реактивной процедуры, однако он направлен на формирование (и изуче- ние этого процесса) отдельных способнос- тей путем интериоризации и не может уже в силу того, что так он сконструирован, охватить процесс становления уникальной целостной личности. ПСИХОЛОГІЧНИЙ ЧАСОПИС ПСИХОЛОГІЧНИЙ ЧАСОПИС С. Д. Максименко, доктор психологічних наук, Інститут психології імені Г. С. Костюка НАПН України (Київ) К. С. Максименко, кандидат психологічних наук, Київський національний університет імені Тараса Шевченка (Київ) К. С. Максименко, кандидат психологічних наук, Київський національний університет імені Тараса Шевченка (Київ) Эвристический и развивающий потенциал генетико-моделирующего метода в психологии С другой стороны, эмпирические науч- ные факты, полученные в разрозненных исследованиях, также не проясняют кар- тину личности, ведь они очень разрознены и получены в результате исследований, ба- зирующихся на самых разных методологи- ческих основаниях. Новый подход к изучению личности и состоит, собственно, в преодолении ука- занных недостатков и редукций. Однако, как отмечал Л. С. Выготский, новый под- ход требует нового метода. Мы считаем, что таковым может стать особый, гене- Таким образом, наиболее существен- ные, атрибутивные качества личности, та- кие как целостность, закономерности са- 46 № 1 (1) / 2015 обучения и развития личности, следует от- метить, что обучение действительно долж- но «забегать» вперед развития, но с учетом того момента, который конституирует из- начальность этого отношения. Ведь нужда порождает и актуальный уровень, и зону ближайшего развития, поскольку является, собственно, тем исходным, что определяет психическое бытие личности как таковое. Если вернуться теперь к истокам и меха- низмам формирования личности слепог- лухонемого ребенка, необходимо принять ко вниманию важное положение Э. В. Ильен- кова, который установил, что является изначальным в этом процессе. Он заост- рил значение социального влияния, и это очень правильно, но дело не только в нем. Эти влияния очень сложные, дидактичес- ки и методически очень тяжелы, и они действительно позволяют ребенку (при условии влияния на ведущие анализато- ры) становиться личностью [5]. Но важна и другая сторона: у этих детей существует изначальная, биосоциальная нужда стать личностью. Биологическое оказывается настолько пластичным, что под влиянием социальной среды, существуя в единой динамической паре, дает возможность раз- виваться идеальному психическому, даже при условиях существенных отклоне- ний. И в этом — суть проблемы. Если бы не было нужды, которая выступает нача- лом и окончанием личности, не было бы и этого биосоциального порождения ново- го единства — личности человека. тико-моделирующий метод. Наша долгая теоретико-аналитическая работа над ус- тановлением сущности этого метода под- тверждает выдвинутое предположение. Здесь будет изложена сущность данного метода и намечены его возможности, уже частично подтвержденные исследователь- ской практикой. Сущность генетико-моделирующего метода состоит в том, что он позволяет моделировать генез целостной личности. Здесь учитывается то непреложное поло- жение психологии, что любое психоло- гическое явление (функцию) можно изу- чать, лишь изучая его в процессе развития (становления). При этом метод позволяет влиять на развитие личности в целом, хотя это влияние связано с иной, непривычной трактовкой данного процесса (коротко — оно вовсе не сводится к направленному присвоению). Эвристический и развивающий потенциал генетико-моделирующего метода в психологии Понимание нужды как единой противо- речивой целостности биологического и со- циального дает возможность более содер- жательно рассмотреть её специфические порождения — психологические средства, социальные стремления и другие струк- туры, формирование которых определя- ет направленность и само существование личности. Возвращаясь к анализу разных теорий, отметим, что они, на наш взгляд, просто «охватывают» отдельные моменты и аспекты существования и развития нуж- ды (Г. С. Костюк, П. Я. Гальперин, Ж. Пи- аже, Л. С. Выготский). Направляясь раз- личными теоретическими путями, ученые приходили к одному и тому же (хотя и не эксплицированному положению) — меха- низм порождения психического укоренен в нужде. Тут — единство биологическо- го и социального, телесного и духовного. Мы, фактически, фиксируем сейчас нали- чие различных путей к одному и тому же фундаментальному противоречивому ос- нованию личности. Нужда, таким образом, является тем генетически исходным образованием, которое конституирует в единой дихото- мической паре дозревание биологического индивида и психологическое проявление социальных влияний, что и порождает личность. Собственно говоря, социальное появляется «на сцене» дважды: сначала как разделенная функция между двумя ин- дивидами, потом происходит присвоение людских качеств и вступает в силу закон нужды, но в ином активно-воплощающем виде. Так в подростковом возрасте нужда определяет социальный контекст продол- Нам кажется, что такое понимание от- крывает новые возможности в изучении конкретных проблем, в том числе и тех, что уже давно и продуктивно изучаются. Так, рассматривая вопрос о соотношении 47 ПСИХОЛОГІЧНИЙ ЧАСОПИС жения рода. Это и есть «второе» рождение личности. том порождает не только удовольствие от этого «участка» нужды, она порождает познание. Так появляется познавательная потребность, которая далее развивает ин- теллект, образуя, в конечном счете, целост- ную когнитивную сферу личности. Но об- ратите внимание — мы говорим, что все начинается с выражения нужды, то есть с собственной активности, и именно это, а вовсе не давление и обреченность отно- сительно социального окружения, вызы- вает процесс интериоризации. Но чтобы эмпирически исследовать все это, необхо- дим адекватный метод — генетико-моде- лирующий эксперимент. Понятно, почему нас склоняет к теоре- тико-методологическому анализу загадоч- ность феномена зарождения-порождения именно человеческой жизни. Стержневым моментом тут является введение в катего- риальную сетку понятия нужды. Почему мы к нему обращаемся? Дело в том, что ка- тегория нужды выступает объяснитель- ным принципом относительно моделиру- ющей природы психики человека, и тогда можно вести речь о методе исследования личности. Когда Л. С. Выготский анализировал в своих произведениях данную пробле- му, он создал первый метод, называя его каузально-динамическим, генетическим, инструментальным, экспериментально-ге- нетическим [2]. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии Нужда выступает и носителем вековечного опыта человека (и как биологического, и как со- циального существа) и, вместе с тем, она есть исток личностной активности — ак- тиватор, энергия которого никогда не пога- сает, так как она воплощается и восстанав- ливается в новой жизни. является условием, основой и базисом функционирования (так, именно развитие психики есть условие и основание воз- никновения и функционирования высших психических функций). является условием, основой и базисом функционирования (так, именно развитие психики есть условие и основание воз- никновения и функционирования высших психических функций). Научные данные показывают, что, изу- чая становление человека, мы имеем дело с явлением проектирования (самопроекти- рования!) высших психических функций в уникальном пространстве социальной ситуации развития. Здесь в единое целое связываются собственно генезис, идущий по объективным законам, своеобразная активность личности и система социаль- но-педагогических условий ее функцио- нирования и развития. Осознание этого предопределяет поиск новой методичес- кой процедуры, которая давала бы возмож- ность более адекватно исследовать и по- нять упомянутое сложное явление. Нам представляется, что такой процедурой мо- жет стать генетико-моделирующий метод (как модификация генетического метода). Если мы наблюдаем (исследуем) чело- веческого ребенка в первый период его су- ществования после физического рождения, наш чувственный опыт (или эксперимент) предоставляет информацию об отдельных частях, их взаимосвязи, функционирова- нии. При этом что-то очень главное, сущес- твенное, остается вне нашего чувственно- го опыта, но мы знаем об этом. Мы знаем, что это — живое, человеческое существо, в основе существования которого — дей- ствие биосоциальной нужды, что оно, су- щество, уже сейчас является воплощением всего естественного и культурного опыта и конкретно — своих родителей, что оно готово стать личностью, и мы можем вооб- разить, каким оно станет (и биологически, и социально). Это знание не менее реаль- но, чем-то, что мы получаем в чувствен- ном плане, оно просто другое. И.-В. Гете очень давно назвал такое знание удиви- тельно удачно — «точная фантазия» [3]: то есть, это наше свободное построение, но оно как бы «не совсем» свободное, пос- кольку является вместе с тем и точным, ибо основывается на надежных эмпири- ческих данных. Это есть проектирование целостного объекта изучения. Но эта «точ- ная фантазия» не охватывается существу- ющими в психологии исследовательскими процедурами. Она или «имеется в виду», или подменяется какими-то частичными понятиями-домыслами, которые, в общем- Генетико-моделирующий метод имеет целью изучения саму целостную личность в развитии. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии В одном месте он говорит о генетически-моделирующем методе, ко- торый, в отличие от экспериментально-ге- нетического, должен работать в социальной плоскости, открывая механизмы присвое- ния способностей, запрограммированных социумом, а также с явлением моделирова- ния и воссоздания этого присвоения. С чего оно начинается? Мы уверены, что оно на- чинается с нужды. Когда опредмеченная нужда двух индивидов противоположного пола прорастает в новую жизнь, тогда но- вообразованием выступает биосоциальное существо, появляющееся на свет. И прав был Г. С. Костюк, когда говорил, что чело- век рождается биологическим существом, но имея потенцию стать личностью [6]. «Имея потенцию» — это означает, что он сам в себе уже несет биосоциальную нуж- ду, как исторический смысл воспроизводс- тва рода человеческого. Решая задачу познания момента зарож- дения и становления психического, мы будем использовать генетически-моде- лирующий метод, центральным принци- пом которого является принцип единства биологического и социального. Противо- поставление биологического и социаль- ного, на наш взгляд, скорее «подогнано» под исследовательскую проблематику оп- ределенного ученого. На самом деле (в ло- гике объекта) сложно разделить, где у лич- ности биологическое, а где социальное, тем более, что в онтогенезе социальное становится биологическим. С. Л. Рубинштейн отмечал, что орга- низм развивается, функционируя; взрос- лый человек развивается, работая; ребенок развивается, учась. В этом, по его мнению, состоит основной закон психического раз- вития ребенка. Отсюда вытекает, что функ- ционирование является первичным (по- рождающим) по отношению к развитию. Но, с другой стороны, следует учесть, что именно функционирование есть пре- вращенная история развития, поскольку последнее представляет собой основной способ существования человеческой пси- хики. Именно применение генетико-мо- делирующего метода дало возможность получить данные, которые удостоверяют «равноправие» частей исходного проти- воречивого единства (функционирования и развития). И мы можем сейчас сказать, что, как функционирование служит осно- вой и базисом развития, так и развитие Наше понимание категории нужды поз- воляет говорить не столько о присвоении, сколько о моделировании: психическое, подталкиваемое нуждой, вызывает осо- бенное — личностное действие человека. Это действие вначале (в раннем онтогене- зе) является исключительно аффективным (но все же оно личностное, уникальное и неповторимое в планировании, в испол- нении). Встреча такого действия с объек- 48 № 1 (1) / 2015 и воплощается в странное создание — но- вое биологическое существо, но не толь- ко биологическое, а именно — биосо- циальное. Нужда двух, биосоциальная по природе, нужда их друг в друге и нужда в собственном продолжении — творении, порождает это творение и продолжается в нем, реализуясь в разных потребностях, и обеспечивает, в том числе, и то, что на- зывается «врастанием в культуру». Эвристический и развивающий потенциал генетико-моделирующего метода в психологии В связи с этим возникла необ- ходимость поиска «единиц» совсем другой природы, и было установлено, что таковой является нужда, как противоречивое ис- ходное единство биологического и соци- ального, которое предопределяет сущест- вование личности. Принципы построения метода отражают природу существования объекта изучения. Технология метода (при- нцип единства генетической и эксперимен- тальной линий развития) предусматривает проведение исследования в максимально «естественных» условиях существова- ния личности и создание актуального пространства реализации самой лич- ностью многочисленных возможностей моделирования собственного развития и существования. Живое существо, которое начинает- ся в материнском лоне, есть изначально «плоть от плоти» произведение двух че- ловеческих существ. Социальное (весь не- объятный опыт поколений, присвоенный и сконцентрированный в двух любящих существах — родителях) опредмечивается 49 ПСИХОЛОГІЧНИЙ ЧАСОПИС то, отношения к объекту изучения не име- ют. Это феномен, перед которым психоло- гия во всех ее направлениях и проявлениях всегда останавливалась, и заявляла, что да- леко не все может быть дано в опыте. называется генетико-моделирующим экс- периментом и отождествляется с форми- рующим учебным экспериментом. Нам ка- жется, что такое отождествление является просто недоразумением). Личность — это сложная система, ко- торая саморазвивается, то есть сама моде- лирует и реализует собственный генезис. Для того, чтобы научно исследовать этот процесс, то есть исследовать саму лич- ность, мы должны создать такие способы и формы изучения, которые бы не преры- вали и не останавливали развитие искусст- венно, а вызывали его, сосуществовали бы с ним. В идеале — это сосуществование по принципу сопряжения (Г. С. Костюк): мы должны дать возможность личности (объекту изучения) свободно функциони- ровать и развиваться по собственным за- конам, но, вместе с тем, предоставлять ей такие возможности (естественные и соци- альные), которые подлежат эмпирической фиксации и верификации. Мы считаем иначе, если чувственный опыт оказывается недостаточным в объ- яснении феномена личности, нет смысла ни останавливаться, ни приучать мысль к спекулятивным хитросплетениям. Надо преодолеть данный недостаток путем расширения и качественного изменения опыта. Подчеркнем: речь идет не только о расширении (сколько бы новых мето- дик и техник мы не применяли, если они опираются на существующие парадигмы, то ничем не помогут). Необходимо имен- но качественное изменение, то есть совсем иной и новый опыт, который отвечал бы сущности самого явления, которое изуча- ется. В данном случае существенным являет- ся единство: природа — очеловечена, чело- век — оприроднен. Сама эта фраза, конеч- но, ничего не дает в познании, но без нее мы не можем идти дальше, она — точка отсчета. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии Ведь очеловеченная природа и оп- риродненный человек — это есть феномен (а не только констатация), и как таковой он имеет разные формы существования. Одна из них — биосфера как единство, а дру- гая — человеческое существо как единс- тво. В последней это единство вызывается и удерживается нуждой, биосоциальной по своей сущности. ф р ф Генетико-моделирующий метод, как уже сказано, не является, собственно, анали- зом. Вместе с тем, он, как и любой научный метод, обязательно имеет аналитическую составляющую. Не на основании только данных чувственного опыта, и не на осно- вании только эмпирического мышления, а в результате объединения этих двух со- ставляющих с третьей — «точной фанта- зией» (или — креативностью), мы должны выделить в целостной личности такие со- держательные единицы, которые были бы самостоятельными и самодостаточными, несли в себе всю целостность и обеспечи- вали в своей совокупности ее (целостнос- ти) саморазвитие и функционирование. Последнее — главное и существенное: «единица» системы, которая саморазвива- ется и саморегулируется, принципиально отличается от тех «единиц», что устанав- ливались в экспериментально-генетичес- ком методе. Образно и, вместе с тем, аб- солютно точно говоря — она должна быть живой. Соблюдение этого и будет означать отход от редукции. Обретение качественно нового опы- та требует нового метода исследования, адекватного и объекту, и исходным поло- жениям. Это не может быть аналитичес- кий метод, поскольку нужда как исходное противоречивое единство биологического и социального не раскладывает, а создает, интегрирует целостную личность в про- цессе ее онтогенеза. Итак, это должен быть метод, который бы моделировал генезис личности. Мы назовем его генетико-моде- лирующим, поскольку это название макси- мально отвечает его сущности. (Необходи- мо заметить, что в теории развивающего обучения генетико-моделирующий метод И не следует забывать, что и сама лич- ность является реальной «единицей» су- 50 № 1 (1) / 2015 ференциация интегрированного единства личности. ществования и развития человеческой пси- хики. И в этой своей ипостаси она дальше не раскладывается. Психика человека — личностная, и это выражение означает, что любое исследование любого частично- го процесса или явления будет адекватным лишь тогда, когда это последнее будет рас- сматриваться как содержательное разветв- ление личности, и лишь тогда оно станет понятным (заметим, что это не учитывает- ся в психологии и является в ней не более, чем декларацией). Таким образом, аналитическая составля- ющая генетически-моделирующего метода направлена на выделение содержательных подвижных единиц генезиса и самомоде- лирование. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии Штерн, очень внима- тельно рассматривая проблему взаимо- действия биологического и социального в личности, сформулировал «принцип конвергенции». Его сущность заключается в том, что ни о какой функции личности, ни о каком ее свойстве нельзя сказать, воз- никают они извне или изнутри. Надо разо- браться, что в них возникает извне, а что — изнутри, поскольку и одно, и другое бе- рут участие — но неодинаковое — в ее осу- ществлении [8]. Вопрос, однако, намного сложнее. Мы считаем, что сложное проти- воречивое взаимодействие биологического и социального есть смысл рассматривать в двух плоскостях — как факторы, которые действуют на личность, и как факторы, ко- торые образуют личность и обеспечивают ее существование и развитие «изнутри». Первая плоскость анализа представляет собой взаимодействие «личность — окру- жающий мир». В ней действительно мож- но в определенной степени выделять собс- твенно биологические (естественные) факторы и социальные. альное воплощение и психосоматические явления, которые интенсивно исследуются современной наукой, являются наилучшим подтверждением этого. Принцип единства биологического и со- циального открывает реальную сущност- ную природу истоков активности личности. Когда психология твердит, что такими ис- токами являются потребности, она ошиба- ется. Ведь есть очень простые и уместные вопросы: а откуда возникают потребнос- ти? Кроме того, действием потребностей нельзя объяснить самодвижение, самораз- витие той сложной открытой системы, ко- торой является личность. Так и возникает представление о духе как первоисточнике активности, а он ведь не может быть иссле- дован в рамках современной науки. Снова наиболее интересное и самое главное ис- чезает из психологии (между прочим, тер- мин «душа» в древней Греции и означал источник активности). Мы утверждаем, что такой исходный первоисточник активности личности на са- мом деле существует, и он целиком подле- жит научному исследованию. И это есть нужда. В. В. Давыдов отмечал: «Нужда служит глубинной основой потребности… Проблема заключается в том, как эта нуж- да у человека превращается в соответству- ющую потребность» [4, c. 44]. Далее отме- чается, что этого еще никто в психологии не изучал, и это есть правда. В. В. Давыдов рассматривает нужду в контексте деятель- ности (а не личности), как ее важную со- ставляющую, и совсем не старается анали- зировать ее психологическое содержание, отмечая, что это «очень сложный будущий разговор…» [4, c. 44]. Хотя последние, на самом деле, никог- да не являются только исключительно со- циальными, все они представляют продукт человека (человечества), в котором опре- деленным образом воплощено не только социальное, но и биологическое того це- лостного, биосоциального существа, кото- рое их создавало. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии И хотя это принципиально от- личается от установления единиц в рамках экспериментально-генетических, мы ос- тавляем без изменений название первого принципа нашего метода — принцип ана- лиза по единицам. Как установить в анализе содержатель- ные «единицы» личности? Обратимся снова к «точной фантазии»: генезис, су- ществование, оформление, саморазвитие личности обеспечиваются особой и уни- кальной биосоциальной силой — нуждой. Нужда выступает как противоречивое, под- вижное и энергетическое единство биоло- гического и социального, как воплощение и возможность дальнейшего бесконечного воплощения человеческого в человеческое, как то, что моделирует и реализует движе- ние личности, и является исходной всеоб- щей единицей — носителем личностной природы психики человека. В своем «раз- вертывании» нужда «встречается» с со- циальными и биологическими факторами окружения человека и задает содержатель- ные точки — единицы тезауруса личности. Они, эти единицы, являются и узелками структуры, и вместе с тем — линиями раз- вития личности. Анализ по единицам дает возможность выяснять и интерпретировать реальные связи и отношения, что образовывают дан- ное явление. Такой анализ должен объяс- нить возникновение, происхождение вне- шних признаков психического процесса. Это возможно при полном динамическом развертывании всех моментов психическо- го процесса, который требует всегда опре- деленного замедления в переходе процес- сов и достигается лучше всего тогда, когда их переход осложнен. р Согласно нашей методологической па- радигме, применение генетико-модели- рующего метода позволит, в конце кон- цов, «вернуть человека в психологию», поскольку метод дает возможность про- анализировать и, вместе с тем, интегри- ровать то исходное системообразующее начало личности, которым является нужда как уникальное единство биологического и социального и их активатор. Разработка метода, таким образом, является первооче- редной и наиболее актуальной проблемой. На данном этапе нами разработаны основ- ные принципы его построения и примене- ния (первый из них — «анализ по едини- цам»). Существование (функционирование, развитие) отдельных линий развития личности (содержательных «узелков» ее структуры) имеет, таким образом, доста- точно жесткую двойную обусловленность- детерминированность. Всеобщее течение человеческой нуж- ды «встречается» с факторами окружения (биологическими, социальными). Возни- кают разветвления нужды — потребности, которые, реализуясь, образовывают опре- деленные межфункциональные системы, которые специализируются, оставаясь при этом частями и носителями целостности (аналогия с тканями и органами челове- ческого организма). Так возникает диф- Другой важный принцип генетико- моделирующего метода изучения личности отображает ее изначальную природу. Это принцип единства биологического и со- циального. Статус принципа научного ме- тода не позволяет только декларировать данное единство, поскольку в этом случае он перестанет быть принципом. Необхо- димо четко осознать, что именно имеется в виду, что понимается под единством? 51 ПСИХОЛОГІЧНИЙ ЧАСОПИС В свое время В. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии Если же рассматривать биологическое и социальное как внутрен- нее, личностное, нужно признать, что мы никогда не имеем в этом случае их отдель- ности. Мы отступаем от традиционного рас- смотрения биологического как наследст- венного и телесного: «внутри» личнос- ти биологические и социальные факторы не существуют как отдельные, каждый из них представляет собой инобытие друго- го. Любая мысль, образ, идея, потребность невозможна вне биологических струк- тур и функций организма. Также верным является и обратное — каждая телесная структура, каждая биологическая функция человека — это проявление человеческого естества, то есть это то, что изначально не- сет в себе как биологическое, так и соци- Мы исходим из того, что нужда есть исходное энергетическое начало личнос- ти, биосоциальное по своей природе. Он- тогенез личности начинается значительно ранее, нежели она рождается физически. Его начало — опредмечивание-воплоще- ние нужд двух людей, которые любят друг друга. Возникает новая форма существо- вания нужды, последняя просто не может существовать без материального носителя (по крайней мере, современная наука не зна- 52 № 1 (1) / 2015 ет другого способа существования биосо- циальной нужды, кроме существования ее в качестве социобиологической энергети- ческой основы личности человека). признаком личности — это высшая форма активности. Активность, которая создает и оставляет след, воплощается. С другой стороны, креативность означает стремле- ние выразить свой внутренний мир. Когда А. Ф. Лосев называет выражение одним из атрибутивных признаков личности, он четко определяет, что это выражение на са- мом деле, в то же время, является и актом создания этого мира. Соблюдение принципа единства био- логического и социального в границах генетико-моделирующего метода означа- ет изучение онтогенеза от его реального начала, исследование механизмов возник- новения потребностей из нужды. В це- лом, это означает рассмотрение в любом конкретно-психологическом исследовании существования личности как способного к саморазвитию исходного биосоциально- го единства. Соблюсти принцип креативности в ана- лизе (и в исследовании) личности означа- ет «взять» ее существование в целом, в ее уникальном целенаправленном единстве, в котором она лишь и существует. Это оз- начает реально учесть многозначность, не- ожиданность и непредсказуемость личнос- ти. С другой стороны, это означает отдавать себе отчет в том, что не все однозначно и прогнозируемо. Все, что мы стараемся получить в современных экспериментах, есть, на самом деле, даже не конкретный случай, а настоящий артефакт. И в этом — главный недостаток исследований в об- ласти психологии личности. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии ной науки к прагматическому схематизи- рованию приводит к очень упрощенным представлениям относительно личности человека. Принцип релятивизма (относи- тельности) предостерегает от схематиз- ма и поверхностных прогнозов — наши знания являются ограниченными и всег- да будут такими: мы надежно знаем лишь о наличии рефлексивно-творческого по- тенциала человека и о беспредельности его проявлений. В связи с этим открыва- ется реальная ограниченность и несерьез- ность попыток схематизирования либо мо- делирования личности. В связи с этим же открывается реальная глубина страданий человека, которым манипулируют, или ко- торый сам манипулирует. Вместе с тем, принципы креативности и релятивизма открывают реальное со- держание явления субъектности: нужда в онтогенезе будто разветвляется. Часть ее существует и функционирует так, как это было в раннем детстве, как было вначале: без ведома данного человека обеспечи- вается его жизнеспособность и течение жизни в целом. Другая «ветвь» нужды направляется исключительно на встречу с социальным миром. Именно эти встречи порождают высшие психические функции, формируя целеполагание, пристрастность внутреннего мира, креативность. Так рож- дается субъект. Эта целостная личность выходит на пер- вый план в генетико-моделирующем ис- следовании. И мы легко склоняемся к фе- номенологическому направлению, когда даем себе отчет, что здесь (см. принцип креативности) ничего «смоделировать» нельзя, не нарушив филигранно тонкий процесс самомоделирования и саморазви- тия. Итак, остается только описание? Нет, мы уверены, что объединение этой «естес- твенно» — генетической линии развития с экспериментальной возможно, но не пу- тем формирования — присвоения способ- ностей, а путем создания в эксперименте особых условий развертывания и «замед- ления» становления целостных единиц анализа. Это может происходить на фоне разнообразных (но фиксированных) воз- можностей для самомоделирования. Последний принцип генетико-моде- лирующего исследовательского метода изучения личности — единство экспери- ментальной и генетической линий раз- вития. На наш взгляд, это очень сущест- венный момент характеристики не только нашего метода, а и общего состояния дел в психологии личности. Изучая развитие посредством формирующего эксперимен- та, мы сами формируем, и то, что фор- мируем — то и изучаем. А как на самом деле, без нашего вмешательства? Остроту этого вопроса, к сожалению, не замети- ли многие. И напрасно: психология стала «формирующей», формирующий экспери- мент и сейчас является необходимым атри- бутом диссертаций. Но, вспомним, наука должна изучать объект в его собственной Возвратимся снова к Л. С. Выготскому, который утверждал (и абсолютно справед- ливо), что новый концептуальный подход требует нового, адекватного исследова- тельского приема [1]. Мы считаем, что ге- нетико-моделирующий метод (в нашем его понимании) отражает те сущностные идеи, которые необходимо реализовать в исследо- вании личности как целостности. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии Последнее мы считаем очень важным, прежде всего ме- тодически, и потому формулируем следу- ющий, четвертый принцип — рефлек- сивного релятивизма, который фиксирует принципиальную невозможность устанав- ливать точные измерения и фиксировать окончательно высшие уникально-творчес- кие проявления личности. Следующим важным принципом пост- роения генетико-моделирующего метода есть принцип креативности. «Встречи» нужды с многочисленными и разнообраз- ными объектами и явлениями не просто порождают потребности, они предопреде- ляют целеполагание и развитие собствен- ных и уникальных средств достижения це- лей. Это есть, фактически, творчество. Именно в этом смысле мы употребляем термин «креативность». Итак, речь идет о творческой уникальности личности, ко- торая пронизывает весь ее жизненный путь. Уже само начало нового человека есть ничто иное как результат творческого акта опредмечивания своей нужды двумя любящими существами. Уже сама по себе личность является результатом и продук- том творчества. И нужда, воплощенная в ней, имеет огромный креативный потен- циал, который обнаруживается в уникаль- ности, гетерогенности, самоосознании, самодостаточности в целом. Реальная та- инственность и загадочная уникальность человеческого сознания заключается в его способности к моделированию и само- моделированию. Именно это приводит, в частности, к абсолютно своеобразно- му соотношению в сознании прошлого, настоящего и будущего. Сознание само- моделируется, присваивая способность, и моделирует дальнейшее существование человека. Ведь самодетерминация через собствен- ную нужду открывает человеку принципи- ально ненасыщаемую и неограниченную возможность разнообразия буквально всех проявлений и свойств. Наличие рефлексии как одного из наиболее интересных и за- гадочных следствий встречи нужды с жиз- нью человека делает эту жизнь беспре- дельно своеобразной, открывает человеку реальную бесконечность ресурсов самоиз- менения в каждый момент времени. В целом это явление хорошо известно: вспомните хотя бы настойчивое утверж- дение Ф. М. Достоевского о необъятной глубине и непредсказуемости «реальной, основательной личности» каждого челове- ка. Вместе с тем, стремление положитель- Креативность является глубинным, из- начальным и абсолютно «естественным» 53 ПСИХОЛОГІЧНИЙ ЧАСОПИС логике, а не логику исследователя в объ- екте. Вопрос остался без внимания, а на- сколько же он заострится, если «в психо- логию вернется человек»? Ведь главным станет то, на что сейчас просто никто не об- ращает внимания: если у ребенка искусст- венно формируется (и изучается), скажем, опосредствованное запоминание способом «врастания-присвоения», но сам-то ре- бенок при этом существует и развивается как целостность. Мы изучаем дискретный момент — как оно врастает, как присваи- вается. А что происходит при этом с ребен- ком, с его другими функциями и явления- ми? Возникает кардинальный вопрос, а как это происходит у других детей, у тех, у кого никто ничего не формирует специально? Эвристический и развивающий потенциал генетико-моделирующего метода в психологии Целост- ности саморазвивающейся благодаря дейс- твию биосоциальной основы — нужды, которая опредметилась в данной личности. Мы можем указать сейчас, что психоло- гия не имеет теории развития целостной 54 № 1 (1) / 2015 личности из-за одного существенного мо- мента: утрачена «третья составляющая» развития, а именно — саморазвитие. В свое время Г. С. Костюк отмечал, что не- достаточность существующих противопо- ложных подходов для понимания развития личности должно преодолеваться «науч- ным пониманием процесса становления человеческой личности как самодвиже- ния, что определяется единством его вне- шних и внутренних условий» [6, c. 130]. 30 лет спустя эта же мысль высказывает- ся В. И. Слободчиковым и Е. И. Исаевым: «Речь должна идти о развитии не только сущности природы (созревание), не толь- ко сущности социума (формирование), а прежде всего о сущности человека — о саморазвитии: как фундаментальной способности человека становиться и быть соответствующим действительности субъ- ектом своей собственной жизни» [7, c. 13]. Итак, ничего положительного в данном направлении за эти годы в психологии личности не состоялось… Поэтому мы и предлагаем приложить генетико-моде- лирующий метод, который, как было по- казано, включает принцип саморазвития, значит, дальнейший наш анализ будет осу- ществляться именно с опорой на данный феномен как ключевой, именно этот карди- нальный подход означает, что есть смысл поставить фундаментальный вопрос, кото- рый не был поставлен ни Г. С. Костюком, ни В. И. Слободчиковым (как, впрочем, и другими исследователями): это вопрос об истоках, движущих силах саморазви- тия целостной личности. Здесь снова ра- ботает генетическая логика: констатация наличия явления (саморазвития), его опи- сание совсем не означает его соответству- ющее действительности понимание, если мы не решим, как, благодаря каким исто- кам это явление возникает и развивается. С другой стороны, внимание к феномену саморазвития не является случайным — ведь это сущностная, ключевая функция личности. Можно сказать даже так: лич- ность существует как целостная структу- ра, которая обеспечивает реализацию фун- Итак, процедура применения генети- ко-моделирующего метода состоит в со- здании контролируемых исследователем условий свободного проявления собс- твенной активности каждой уникальной личности с фиксированием соответству- ющих результатов. При этом учитывает- ся центральный принцип генетической психологии, согласно которому развитие целостного человеческого существа (лич- ности) определяется действием нужды в единстве её биологических и социаль- ных составляющих. Кроме этого, развитее осуществляется в условиях диалогичес- кого взаимодействия личности с социаль- ным и биологическим окружением, т. е. теми сферами, которые родственны соот- ветствующим параметрам нужды, но ещё не входят в её состав. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии В ц лом это — позиция направленной помощ а суть помощи определяется периодом он тогенеза и индивидуальными особенност ми развития данного конкретного ребенк необходимо определить, какая составляю щая нужды в данный момент доминируе и соответственно этому выстраивать стр тегию и тактику педагогических и корре ционных воздействий. Так, например, и Рис. 1. С — социальное, Б — биологическое, по оси ординат — годы жизни Рис. 1. Рис. 1. С — социальное Б — биологическое по оси ординат — годы жизни Рис. 1. С — социальное, Б — биологическое, по оси ординат — годы жизни Рис. 1. С — социальное, Б — биологическое, по оси ординат — годы жизни я тот факт, что установленная омерность имеет объективный характер, необходимо приме- денные данные в воспитатель- ной работе, а также в практике сихологической помощи. На- жет быть объяснена причина кризиса (отметим, что эти не рефлексирует этого, и поэтому нахо ся в растеренном, дисгармоничном со нии (кризис). Однако процесс социаль созревания идет, «подтягивая» за с биологическое. Так ситуация гармон руется и кризис проходит. Всё сказанное касается не только, с венно, кризиса. Наши эмпирические Рис. 1. С — социальное, Б — биологическое, по оси ординат — годы жизни не рефлексирует этого, и поэтому находит- ся в растеренном, дисгармоничном состоя- нии (кризис). Однако процесс социального созревания идет, «подтягивая» за собой биологическое. Так ситуация гармонизи- руется и кризис проходит. Учитывая тот факт, что установленная нами закономерность имеет объективный и всеобщий характер, необходимо приме- нять приведенные данные в воспитатель- ной и учебной работе, а также в практике оказания психологической помощи. На- пример, может быть объяснена причина возрастного кризиса (отметим, что эти кризисы приходятся на период активности социальной составляющей нужды). Осваи- вая на протяжении того или иного возраст- ного периода социальный опыт, ребенок вместе с тем созревает биологически, ибо в это время активной является биологичес- кая составляющая нужды. В определенное время, социальная её составляющая, по- полненная новым опытом, активизируется и «требует» своей реализации в активности ребенка. Последний, однако, оказывается не готов к этой реализации в полной мере, поскольку биологически он подготовлен только к той активности, которую уже может проявлять («зона актуального раз- вития»). Поэтому, он оказывается фруст- рированным и ему следует не реализовы- вать социальный опыт, а как бы закреплять его, находя сответствие социального и био- логического в себе. Ребенок, безусловно, Всё сказанное касается не только, собст- венно, кризиса. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии Анализ онтогенеза человека с приме- нением генетико-моделирующего метода позволяет сделать вывод о том, что био- логическая и социальная составляющая нужды не только определяют этот процесс, но и сами активно участвуют в нём, при- чем их участие является неравномерным. Периоды большей активности биологичес- кой составляющей сменяются периодами активизации социальной. Это отражается (и определяет) всю содержательную сто- рону онтогенеза и его динамику. Наблю- дается как бы обратная закономерность — период активизации биологической со- ставляющей нужды (рост, усиление обмена веществ и т. п.) определяет направленность ребенка на активное «вхождение» в среду социальной жизни. И наоборот, активиза- ция социальной составляющей определяет некоторую пассивность собственно соци- альной жизни и вызывает повышенный интерес ребенка к своему телесному (свое- му или другого человека, в зависимости от возраста). В принципе, было замечено, что эта закономерность распространяется не только на детский и юношеский возраст, но и на весь онтогенез человека до глубо- кой старости. Используя общепринятые возрастные маркеры онтогенеза, это мож- но выразить наглядно. 55 ПСИХОЛОГІЧНИЙ ЧАСОПИС ПСИХОЛОГІЧНИЙ ЧАСОПИ читывая тот факт, что установленная и закономерность имеет объективный еобщий характер, необходимо приме- приведенные данные в воспитатель- и учебной работе, а также в практике ания психологической помощи. На- мер, может быть объяснена причина астного кризиса (отметим, что эти исы приходятся на период активности иальной составляющей нужды). Осваи- на протяжении того или иного возраст- периода социальный опыт, ребенок те с тем созревает биологически, ибо о время активной является биологичес- составляющая нужды. В определенное мя, социальная её составляющая, по- ненная новым опытом, активизируется ребует» своей реализации в активности нка. Последний, однако, оказывается отов к этой реализации в полной мере, ольку биологически он подготовлен ко к той активности, которую уже ет проявлять («зона актуального раз- я»). Поэтому, он оказывается фруст- ованным и ему следует не реализовы- социальный опыт, а как бы закреплять находя сответствие социального и био- ческого в себе. Ребенок, безусловно, не рефлексирует этого, и поэтому находи ся в растеренном, дисгармоничном состо нии (кризис). Однако процесс социальног созревания идет, «подтягивая» за собо биологическое. Так ситуация гармонизи руется и кризис проходит. Всё сказанное касается не только, собс венно, кризиса. Наши эмпирические дан ные (особенно полученные под нашим р ководством данные изучения микрогене внутреннего мира) свидетельствуют о том что учет сложных объективных тенденци биологической и социальной составляю щей нужды (а не опора лишь на социал ное присвоение), позволяют глубже понят процессы становления целостной лично ти, и, с другой стороны, определить п зицию и направление влияния взрослог который находится рядом с ребенком. Эвристический и развивающий потенциал генетико-моделирующего метода в психологии Наши эмпирические дан- ные (особенно полученные под нашим ру- ководством данные изучения микрогенеза внутреннего мира) свидетельствуют о том, что учет сложных объективных тенденций биологической и социальной составляю- щей нужды (а не опора лишь на социаль- ное присвоение), позволяют глубже понять процессы становления целостной личнос- ти, и, с другой стороны, определить по- зицию и направление влияния взрослого, который находится рядом с ребенком. В це- лом это — позиция направленной помощи, а суть помощи определяется периодом он- тогенеза и индивидуальными особенностя- ми развития данного конкретного ребенка: необходимо определить, какая составляю- щая нужды в данный момент доминирует и соответственно этому выстраивать стра- тегию и тактику педагогических и коррек- ционных воздействий. Так, например, из- 56 № 1 (1) / 2015 ции идеографического подхода (в отечест- венной психологии данному термину отве- чает понятие «клинический подход»). вестная тяга подростков к употреблению алкоголя, курению и наркозависимости оп- ределяется как тяга к зависимости. И она связана с тем, что доминирующая сейчас социальная составляющая нужды не мо- жет реализоваться. Другими словами, суть помощи — в том, чтобы дать социальному опыту созреть и начать реализовываться. И конечно, медицина в этом случае не мо- жет рассматриваться как эффективная сто- рона воздействия на ребенка. ции идеографического подхода (в отечест- венной психологии данному термину отве- чает понятие «клинический подход»). Эксплицировать и описать личность как саморазвивающуюся целостность — кардинальная задача генетической пси- хологии личности, отрасли психологичес- кой науки, у которой впереди — большие перспективы. Субъектная парадигма в со- четании с генетико-моделирующим мето- дом исследования, акцептация новейших постмодернистских взглядов на сущность и структуру уникальной человеческой жизни, корректное транспонирование луч- ших наработок отечественной психологии личности в деятельности — вот та мето- дологическая платформа, на которой сто- ит генетическая психология в стремлении раскрыть сущностные характеристики са- мого удивительного психологического фе- номена — феномена личности, ее динами- ки и структуры. В целом следует отметить, что теорети- ко-методологические поиски и полученный эмпирический материал подтверждают идею о чрезвычайной научной и приклад- ной продуктивности генетико-моделирую- щего метода. Таким образом, генетическая психо- логия (и генетико-моделирующий ме- тод как ее основа) является той областью психологического знания, которая может обеспечить прогнозирование развития личности, но только при условии реализа- Список использованных источников: 1. Выготский Л. С. История развития высших психических функций : cобр. соч. / Л. С. Вы- готский. — М. : Педагогика, 1983. — Т. 3. — 366 с. 1. Выготский Л. С. История развития высших психических функций : cобр. соч. / Л. С. Вы- готский. — М. : Педагогика, 1983. — Т. 3. — 366 с. , 2. Выготский Л. С. Педагогическая психология / Л. С. Выготский. — М. : Педагогика, 1991. — 480 с. 2. Выготский Л. С. Педагогическая психология / Л. С. Выготский. — М. : Педагогика, 1991. — 480 с. 3. Гете Г. Собрание сочинений : в 10 т. — Т.7. / Л. С. Выготский.— М., 1976. р 4. Давыдов В. В. Последние выступления / В. В. Давыдов. — М., 1998. — С. 87. Ильенков Э. В. Что же такое личность? — С чего начинается личность / Э. В. Ильенков // Под. ред. Р. И. Косолапова. — М. : Политиздат, 1991. — С. 319-357. р 6. Костюк Г. С. Принцип развития в психологии / Г. С. Костюк // Методологические и тео- ретические проблемы психологии. — М. : Наука, 1969. — С. 118-152. 6. Костюк Г. С. Принцип развития в психологии / Г. С. Костюк // Методологические и тео- ретические проблемы психологии. — М. : Наука, 1969. — С. 118-152. р р у 7. Слободчиков В. И. Антропологический принцип в психологии развития / В. И. Слобод- чиков, Е. И. Исаев // Вопросы психологии. — 1998. — № 6. — С. 3-17. 8. Штерн В. Персоналистическая психология / В. Штерн // История зарубежной психоло- гии. — М. : Изд-во Моск. ун-та, 1986. — С. 186-200. Аннотация. В статье рассматриваются основные, существенные черты и принципы гене- тико-моделирующего метода. Доказывается, что этот метод — один из немногих в психологии (наряду с лонгитюдным), дающих возможность исследовать развитие психики, а следователь- но, и ее сущностные особенности. Раскрываются возможности метода для возрастной и кон- сультативной психологии. Аннотация. В статье рассматриваются основные, существенные черты и принципы гене- тико-моделирующего метода. Доказывается, что этот метод — один из немногих в психологии (наряду с лонгитюдным), дающих возможность исследовать развитие психики, а следователь- но, и ее сущностные особенности. Раскрываются возможности метода для возрастной и кон- сультативной психологии. у Ключевые слова: генетико-моделирующий метод, психология личности, исследование, ме- тодология, развитие, кризис, помощь. Ключевые слова: генетико-моделирующий метод, психология личности, исследование, ме- тодология, развитие, кризис, помощь. Abstract. The main essential traits and principles of the genetical modelling method are described in the article. Список использованных источников: It is proven that this method is one of the few in psychology (together with the longitude), which gives the opportunity to investigate the psychical development and thus its essential peculiarities. The possibilities of the method for the developmental and counseling psychology are revealed. Abstract. The main essential traits and principles of the genetical modelling method are described in the article. It is proven that this method is one of the few in psychology (together with the longitude), which gives the opportunity to investigate the psychical development and thus its essential peculiarities. The possibilities of the method for the developmental and counseling psychology are revealed. p f f p g p y gy Keywords: genetical modelling method, personality psychology, investigation, methodology, devel- opment, crisis, help. Keywords: genetical modelling method, personality psychology, investigation, methodology, devel- opment, crisis, help. 57 57
https://openalex.org/W4372353515
https://jamsi.jurnal-id.com/index.php/jamsi/article/download/724/515
Indonesian
null
Sosialisasi Pencegahan Stunting pada Baduta dan Pentingnya Pemberian MP-ASI Mengenai Asupan Gizi Anak di Desa Mekarjaya Kabupaten Lebak Provinsi Banten
Jurnal Abdi Masyarakat Indonesia
2,023
cc-by
3,375
Sosialisasi Pencegahan Stunting pada Baduta dan Pentingnya Pemberian MP-ASI Mengenai Asupan Gizi Anak di Desa Mekarjaya Kabupaten Lebak Provinsi Banten Sosialisasi Pencegahan Stunting pada Baduta dan Pentingnya Pemberian MP-ASI Mengenai Asupan Gizi Anak di Desa Mekarjaya Kabupaten Lebak Provinsi Banten Sosialisasi Pencegahan Stunting pada Baduta dan Pentingnya Pemberian MP-ASI Mengenai Asupan Gizi Anak di Desa Mekarjaya Kabupaten Lebak Provinsi Banten Abstrak Salah satu program kerja pada kegiatan kuliah kerja Mahasiswa (KKM) Universitas Sultan Ageng Tirtayasa di Desa Mekarjaya. Sasaran kegiatan ini adalah ibu-ibu yang memiliki anak di Desa Mekarjaya, Kecamatan Cijaku, Kabupaten Lebak. Karena masih banyak para ibu di desa Mekarjaya yang belum memahami tentang stunting, hal ini menyebabkan jumlah anak stunting terus meningkat setiap tahunnya. Hal ini tentunya menjadi permasalahan bersama yang perlu segera diatasi karena anak-anak tersebut akan menjadi penerus bangsa. Metode yang digunakan untuk peningkatan kapasitas ibu baduta terkait MP-ASI ini adalah dengan melakukan sosialisasi terkait pentingnya pemberian MP-ASI yang sesuai dengan umur dan kondisi anak (baduta). Hal ini dilakukan bertujuan agar ibu baduta mampu mengatur pola pemberian MP- ASI yang benar dan diharapkan akan mencegah terjadinya stunting pada anak mereka. Materi sosialisasi membahas tentang ASI Eksklusif, Stunting, MP-ASI (pentingnya pemberian MP-ASI) yang sesuai dengan umur dan kondisi anak (baduta) agar dapat mencegah stunting pada anak mereka. Semua peserta mengikuti kegiatan ini dengan antusias, hal ini terbukti dengan banyaknya peserta yang bertanya saat diskusi dan peserta dapat menjawab pertanyaan dari pemateri ketika ditanya kembali apa isi materi yang telah dipaparkan. Dapat disimpulkan bahwa semua peserta memiliki pengetahuan setelah mengikuti kegiatan sosialisasi ini. 1Pendidikan Vokasional Teknik Mesin, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng Tirtayasa, Indonesia 2Teknologi Pangan, Fakultas Pertanian, Universitas Sultan Ageng Tirtayasa, Indonesia 3Ilmu Gizi, Fakultas Kedokteran, Universitas Sultan Ageng Tirtayasa, Indonesia 4Pendidikan Guru Sekolah Dasar, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng Tirtayasa, Indonesia 5Agribisnis, Fakultas Pertanian, Universitas Sultan Ageng Tirtayasa, Indonesia * il i d id l h1234@ il 1 *e-mail: indaaidatulazpah1234@gmail.com1 Vol. 3, No. 3 Mei 2023, Hal. 823-828 DOI: https://doi.org/10.54082/jamsi.724 Vol. 3, No. 3 Mei 2023, Hal. 823-828 DOI: https://doi.org/10.54082/jamsi.724 Jurnal Abdi Masyarakat Indonesia (JAMSI) https://jamsi.jurnal-id.com Keywords: Baduta, MP-ASI, Socialization, Stunting Inda Aidatul Azpah*1, Ilham Ramadhan2, Indrianti Widjaya3, Meylinda Ika Sari4, Nila Sari5 1Pendidikan Vokasional Teknik Mesin, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng Tirtayasa, Indonesia 2Teknologi Pangan, Fakultas Pertanian, Universitas Sultan Ageng Tirtayasa, Indonesia 3Ilmu Gizi, Fakultas Kedokteran, Universitas Sultan Ageng Tirtayasa, Indonesia 4Pendidikan Guru Sekolah Dasar, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng Tirtayasa, Indonesia 1Pendidikan Vokasional Teknik Mesin, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng Tirtayasa, Indonesia 2Teknologi Pangan, Fakultas Pertanian, Universitas Sultan Ageng Tirtayasa, Indonesia 3Ilmu Gizi, Fakultas Kedokteran, Universitas Sultan Ageng Tirtayasa, Indonesia 4Pendidikan Guru Sekolah Dasar, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng Tirtayasa, Indonesia 1Pendidikan Vokasional Teknik Mesin, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng Tirtayasa, Indonesia 2Teknologi Pangan, Fakultas Pertanian, Universitas Sultan Ageng Tirtayasa, Indonesia 3Ilmu Gizi, Fakultas Kedokteran, Universitas Sultan Ageng Tirtayasa, Indonesia 4Pendidikan Guru Sekolah Dasar, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng Tirtayasa, Indonesia 1. PENDAHULUAN Malnutrisi merupakan masalah yang saling berkaitan dengan stunting. Kekurangan gizi yang terjadi sepanjang seribu hari pertama gaya hidup merupakan hal yang menyebabkan stunting pada anak. Gangguan yang tidak dapat diperbaiki pada perkembangan tubuh anak merupakan akibat dari kekurangan gizi, sehingga menyebabkan penurunan kompetensi kognitif dan motorik anak. Anak-anak stunting memiliki rata-rata Intelligence Quotient (IQ) lebih rendah dari rata-rata skor IQ anak biasa. Masalah peningkatan dan perkembangan pada anak akibat gizi buruk jika tidak selalu mendapat intervensi sejak dini akan bertahan hingga dewasa. j p j gg Indeks PB/U atau TB/U dimana dalam persyaratan antropometrik untuk menilai popularitas pada gizi anak dari hasil ukuran berada di ambang batas (Z-rating) <-2 SD hingga -3 SD (pendek/stunted) dan < -3 SD (sangat pendek/sangat pendek) yang mendasari status gizi disebut (stunting). Adanya kekurangan asupan gizi dalam jangka panjang karena pemberian makanan yang tidak selalu sesuai dengan standar gizi yang baik dapat menimbulkan masalah gizi buruk pada anak. Stunting bisa terjadi karena janin masih berada di dalam kandungan dan akan terlihat saat anak berusia dua tahun (RI, 2016). Selain itu, stunting juga dapat disebabkan oleh kurang tepatnya pemberian makanan pendamping ASI (MPASI), karena pada usia 6 bulan kebutuhan bayi akan energi dan vitamin sudah mulai tumbuh dan tidak dapat dipenuhi dengan baik melalui konsumsi ASI. Dalam pemberian MPASI, sangat penting untuk mengetahui waktu pemberian, jumlah yang cukup, pendekatan manajemen, tekstur, jangkauan, dan konsep kebersihan. Kurangnya konsumsi protein, sayuran dan buah dapat mengakibatkan kurangnya konsumsi nutrisi, terutama protein yang berhubungan dengan gangguan pertumbuhan tubuh yang sulit pada anak di bawah 5 tahun. (Wangiyana, dkk. 2020). Menurut hasil Riskesdas tahun 2018 menunjukkan bahwa prevalensi stunting di Indonesia sudah mencapai 30,8%. Sedangkan, Provinsi Banten sendiri menunjukkan prevalensi stunting sebesar 8,70% dan Kabupaten Lebak memiliki prevalensi stunting sebesar 16,40%. Semakin diperhatikannya stunting karena dapat berdampak pada tumbuh kembang anak hingga dewasa, khususnya risiko gangguan perkembangan tubuh dan kognitif jika tidak ditangani dengan baik. Dalam kurun waktu cepat, dampak stunting dapat berupa penurunan potensi belajar karena kurangnya peningkatan kognitif. Sementara itu, pada akhirnya, hal itu dapat mengurangi keistimewaan gaya hidup anak muda sebagai orang dewasa karena berkurangnya kemungkinan pendidikan, kemungkinan pekerjaan, dan keuntungan yang lebih baik. Selain itu, ada juga risiko kelebihan berat badan di kemudian hari dalam gaya hidup, yang dapat meningkatkan risiko berbagai penyakit tidak menular, seperti tekanan darah tinggi, diabetes, kanker, dan lain-lain (Nirmalasari, 2020). Desa Mekarjaya berpenduduk sekitar 2.866 jiwa. 1. PENDAHULUAN Tujuan dari sosialisasi ini adalah untuk memberikan informasi dan pengetahuan baru kepada warga dan untuk meningkatkan kesadaran terutama bagi ibu dan calon ibu tentang pentingnya menjaga kebugaran ibu hamil, memberikan ASI khusus untuk anak-anak, memberikan makanan pendamping ASI (MP-ASI) dan nutrisi yang cukup. untuk anak-anak. Itulah salah satu upaya mencegah stunting. Berdasarkan uraian di atas, dapat didiagnosa bahwa Salah satu penyebab stunting adalah karena rendahnya pengetahuan ibu (pengasuh) tentang vitamin, yang meliputi contoh pemberian MP-ASI pada balita dan sosialisasi yang terbatas tentang gizi seimbang pada bayi. MP-ASI. Abstract One of the work programs in the Student Work Lecture (KKM) of Sultan Ageng Tirtayasa University in Mekarjaya Village. The target of this activity is mothers who have children in Mekarjaya Village, Cijaku District, Lebak Regency. Because there are still many mothers in Mekarjaya village who do not understand stunting, this causes the number of stunted children to continue to increase every year. This is of course a common problem that needs to be addressed immediately because these children will be the future of the nation. The method used to increase the capacity of under-aged mothers regarding MP-ASI is by conducting outreach regarding the importance of providing MP-ASI that is appropriate to the age and condition of the child (baduta). This is done with the aim that under-two mothers are able to regulate the correct pattern of complementary feeding and it is hoped that this will prevent stunting in their children. Socialization materials discussed exclusive breastfeeding, stunting, MP-ASI (the importance of giving MP-ASI) according to the age and condition of the child (baduta) in order to prevent stunting in their children. All participants took part in this activity enthusiastically, this was proven by the large number of participants who asked questions during the discussion and the participants were able to answer questions from the presenters when asked again what the contents of the material had been presented. It can be concluded that all participants have knowledge after participating in this socialization activity. P-ISSN 2807-6605 | E-ISSN 2807-6567 823 Jurnal Abdi Masyarakat Indonesia (JAMSI) https://jamsi.jurnal-id.com Vol. 3, No. 3 Mei 2023, Hal. 823-828 Vol. 3, No. 3 Mei 2023, Hal. 823-828 DOI: https://doi.org/10.54082/jamsi.724 3. HASIL DAN PEMBAHASAN Program kegiatan pengabdian kepada masyarakat yang dilakukan oleh Lembaga Pendidikan yakni Universitas Sultan Ageng Tirtayasa pada kegiatan Kuliah Kerja Mahasiswa (KKM) yang bertujuan untuk menurunkan angka kejadian stunting khususnya di Desa Mekarjaya Kecamatan Cijaku Kabupaten Lebak-Banten. Acara dimulai pukul 10.00 WIB s/d selesai. Kegiatan sosialisasi diawali dengan sambutan pembukaan dari ketua kelompok, dilanjut sambutan kedua oleh koordinator BKKBN kecamatan Cijaku dan ketiga sambutan dari bidan Kecamatan Cijaku. Sebelum pelaksanaan, tim melakukan koordinasi awal dengan Kepala Desa dan Humas untuk membantu koordinasi dengan kader posyandu yang ada di wilayah Desa Mekarjaya. Desa Mekarjaya memiliki kasus stunting, namun tidak banyak lagi, dan akan lebih baik apabila stunting dapat dicegah dan masyarakat sendiri diberikan pengetahuan tentang bahaya stunting. karena stunting akan berdampak buruk bagi anak. Sampai saat ini stunting masih menjadi masalah kesehatan masyarakat di Indonesia. Stunting pada balita dapat menurunkan produktivitas dan sumber daya manusia Indonesia di masa depan. Masalah stunting pada anak di Indonesia disebabkan oleh gizi buruk yang terus menerus dan penyakit radang. Penyuluhan ini dilakukan sebagai bentuk sosialisasi kepada masyarakat sekitar tentang stunting yang membahas tentang apa itu stunting, ciri-ciri stunting, penyebab stunting, akibat stunting dan cara mengatasi stunting. Demikian pula penyuluhan juga dilakukan untuk menumbuhkan pengetahuan masyarakat sekitar tentang stunting. Stunting sendiri bisa terjadi karena asupan makanan yang tidak sesuai. Selain karena unsur lingkungan, bisa juga karena faktor genetik dan hormonal, namun penyebab stunting sebagian besar adalah karena kurang gizi, maka dilakukan juga penyuluhan tentang bahan pelengkap untuk mencegah stunting. Stunting disebabkan karena konsumsi makanan yang tidak sesuai dalam waktu yang lama akibat pemberian makanan yang tidak tepat dengan kebutuhan gizi dan jika tidak diimbangi dengan trap-up boom yang berakibat pada pertumbuhan yang terhambat, masalah stunting merupakan masalah kesehatan masyarakat. dikaitkan dengan kemungkinan morbiditas, mortalitas, dan pengerdilan yang lebih tinggi pada perkembangan motorik dan intelektual. Stunting terbentuk melalui pertumbuhan yang tersendat dan peningkatan trap-up yang tidak memadai yang mencerminkan kurangnya kemampuan untuk menuai pertumbuhan yang paling dapat diandalkan (Rahmadhita, 2020). Permasalahan stunting dilihat dari asupan gizi yang bisa dimulai dari masa kehamilan dan anak sudah lahir. Pemberian edukasi mengenai MP-ASI yang baik yang sesuai dengan sesuai standar gizi agar pemberian makanan pendamping ASI dapat terlaksana dengan baik, diperlukan juga informasi pemberian makanan pendamping ASI yang tepat. Seluruh anggota mengikuti kegiatan sosialisasi tersebut dari awal hingga selesai dengan antusias, terbukti dari banyaknya orang yang bertanya kepada pemateri. 2. METODE Kegiatan pengabdian kepada masyarakat ini dilaksanakan pada tanggal 25 Januari 2023 bertepatan dengan hari Gizi Nasional di aula Aula Majlis Kp. Kubang Ds. Mekarjaya Kec. Cijaku- Lebak. Sasaran dalam kegiatan sosialisasi ini terdiri dari berbagai perwakilan masyarakat khususnya koordinator BKKBN kecamatan, kade posyandu kecamatam. Ibu bidan kecamatan, serta perwakilan ibu-ibu yang memiliki anak dari masing-masing RT/RW desa Mekarjaya. Metode pelaksanaannya menggunakan teknik sosialisasi langsung. Tahapan pelaksanaan kegiatan sosialisasi ini meliputi 4 tahap yaitu tahap pertama pembinaan (penyerahan, P-ISSN 2807-6605 | E-ISSN 2807-6567 824 Vol. 3, No. 3 Mei 2023, Hal. 823-828 Vol. 3, No. 3 Mei 2023, Hal. 823-828 DOI: https://doi.org/10.54082/jamsi.724 Jurnal Abdi Masyarakat Indonesia (JAMSI) https://jamsi.jurnal-id.com penertiban izin dan praktik pengabdian), tahap kedua sosialisasi (pelaksanaan olahraga), tahap 1/3 pelatihan laporan, tahap keempat pelatihan laporan pelatihan. keluaran fakta (artikel e- book). Kegiatan pengabdian kepada masyarakat ini dilaksanakan pada tanggal 25 Januari 2023 bertepatan dengan hari Gizi Nasional di aula Aula Majlis Kp. Kubang Ds. Mekarjaya Kec. Cijaku- Lebak. Sasaran dalam kegiatan sosialisasi ini terdiri dari berbagai perwakilan masyarakat khususnya koordinator BKKBN kecamatan, kade posyandu kecamatam. Ibu bidan kecamatan, serta perwakilan ibu-ibu yang memiliki anak dari masing-masing RT/RW desa Mekarjaya. Metode pelaksanaannya menggunakan teknik sosialisasi langsung. Tahapan pelaksanaan kegiatan sosialisasi ini meliputi 4 tahap yaitu tahap pertama pembinaan (penyerahan, penertiban izin dan praktik pengabdian), tahap kedua sosialisasi (pelaksanaan olahraga), tahap 1/3 pelatihan laporan, tahap keempat pelatihan laporan pelatihan. keluaran fakta (artikel e- book). 3. HASIL DAN PEMBAHASAN Hasil penelitian menunjukkan bahwa ada keterkaitan antara informasi ibu tentang ASI dan MP-ASI pada anak usia di bawah dua tahun (baduta) dengan tanda BB/U dan PB/U. Kegiatan sosialisasi ini dapat meningkatkan P-ISSN 2807-6605 | E-ISSN 2807-6567 825 Jurnal Abdi Masyarakat Indonesia (JAMSI) Vol. 3, No. 3 Mei 2023, Hal. 823-828 https://jamsi.jurnal-id.com DOI: https://doi.org/10.54082/jamsi.724 pemahaman bagi ibu-ibu di bawah usia lanjut yang awalnya kurang memperhatikan vitamin untuk anak-anaknya untuk memahami betapa pentingnya memberikan MP-ASI untuk memenuhi nutrisi anak dan dapat mengubah pola pemberian ASI pendamping. yang baik dan benar untuk mencegah stunting pada anak usia dibawah dua tahun. Adanya peningkatan yang baik terhadap metode ceramah (sosialisasi) yang menginformasikan mengenai MP-ASI. Para peserta yang sudah mengikuti kegiatan sosialisasi dapat mengatur pola MP-ASI secara benar sehingga hal tersebut dapat mencegah terjadinya stunting pada anak. Jurnal Abdi Masyarakat Indonesia (JAMSI) https://jamsi.jurnal-id.com Vol. 3, No. 3 Mei 2023, Hal. 823-828 Vol. 3, No. 3 Mei 2023, Hal. 823-828 DOI: https://doi.org/10.54082/jamsi.724 , , DOI: https://doi.org/10.54082/jamsi.724 pemahaman bagi ibu-ibu di bawah usia lanjut yang awalnya kurang memperhatikan vitamin untuk anak-anaknya untuk memahami betapa pentingnya memberikan MP-ASI untuk memenuhi nutrisi anak dan dapat mengubah pola pemberian ASI pendamping. yang baik dan benar untuk mencegah stunting pada anak usia dibawah dua tahun. Adanya peningkatan yang baik terhadap metode ceramah (sosialisasi) yang menginformasikan mengenai MP-ASI. Para peserta yang sudah mengikuti kegiatan sosialisasi dapat mengatur pola MP-ASI secara benar sehingga hal tersebut dapat mencegah terjadinya stunting pada anak. pemahaman bagi ibu-ibu di bawah usia lanjut yang awalnya kurang memperhatikan vitamin untuk anak-anaknya untuk memahami betapa pentingnya memberikan MP-ASI untuk memenuhi nutrisi anak dan dapat mengubah pola pemberian ASI pendamping. yang baik dan benar untuk mencegah stunting pada anak usia dibawah dua tahun. Adanya peningkatan yang baik terhadap metode ceramah (sosialisasi) yang menginformasikan mengenai MP-ASI. Para peserta yang sudah mengikuti kegiatan sosialisasi dapat mengatur pola MP-ASI secara benar sehingga hal tersebut dapat mencegah terjadinya stunting pada anak. Gambar 1. Penyampaian Materi Gambar 2. Dokumentasi Kegiatan Sosialisasi Gambar 1. Penyampaian Materi Gambar 2. Dokumentasi Kegiatan Sosialisasi Gambar 1. Penyampaian Materi Gambar 1. Penyampaian Materi Gambar 2. Dokumentasi Kegiatan Sosialisasi Hal ini membuktikan bahwa kegiatan sosialisasi dapat meningkatkan pengetahuan para peserta yaitu ibu-ibu dan wanita usia produktif di Desa Mekarjaya mengenai pemberian MPASI serta cara pemberiannya yang tepat sebagai salah satu upaya pencegahan stunting. 3. HASIL DAN PEMBAHASAN Penelitian yang dilakukan oleh Sari et al (2020) menemukan bahwa pengetahuan ibu yang lebih rendah dapat meningkatkan risiko stunting pada masa anak-anak (OR= 12,67; p <0,001). Makanan Pendamping ASI (MPASI) adalah makanan dan minuman yang diberikan kepada anak usia 6–24 bulan untuk pemenuhan kebutuhan gizinya. WHO bersama dengan Kementerian Kesehatan dan Ikatan Dokter Anak Indonesia (IDAI) telah menegaskan bahwa bayi baru lahir hingga usia 6 bulan hanya diberikan ASI saja (ASI eksklusif). Oleh karena itu, MPASI baru bisa diperkenalkan kepada bayi ketika bayi berusia 6 bulan keatas (Riksani, 2012). MPASI disebut sebagai makanan pergantian dari ASI ke makanan keluarga yang dilakukan secara bertahap baik dari jenis, frekuensi pemberian, jumlah porsi dan bentuk makanan yang disesuaikan dengan umur dan kemampuan bayi untuk mencerna makanan. Tujuan dari pemberian MPASI adalah sebagai pelengkap zat gizi setelah pemberian ASI eksklusif, karena dengan pertambahan usia anak, maka bertambah pula kebutuhan zat gizi yang tidak terpenuhi lagi oleh ASI. Pemberian MPASI juga mengembangkan kemampuan anak untuk menerima berbagai variasi makanan dengan bermacam–macam rasa dan tekstur sehingga dapat meningkatkan kemampuan bayi untuk mengunyah, menelan, dan beradaptasi terhadap makanan baru. Usia yang paling tepat untuk memperkenalkan MP-ASI kepada bayi adalah saat bayi berusia enam bulan. Pada umumnya kebutuhan nutrisi bayi yang kurang dari enam bulan masih dapat dipenuhi oleh ASI. Tetapi, setelah berumur enam bulan bayi umumnya membutuhkan energi dan zat gizi yang lebih untuk tetap bertumbuh lebih cepat sampai dua kali atau lebih dari P-ISSN 2807-6605 | E-ISSN 2807-6567 826 Jurnal Abdi Masyarakat Indonesia (JAMSI) https://jamsi.jurnal-id.com Vol. 3, No. 3 Mei 2023, Hal. 823-828 Vol. 3, No. 3 Mei 2023, Hal. 823-828 DOI: https://doi.org/10.54082/jamsi.724 itu. Selain itu pada umur enam bulan saluran cerna bayi sudah dapat mencerna sebagian makanan keluarga seperti tepung (Nur, 2014). itu. Selain itu pada umur enam bulan saluran cerna bayi sudah dapat mencerna sebagian makanan keluarga seperti tepung (Nur, 2014). Waktu pemberian MPASI yang tidak tepat dapat mengakibatkan berbagai masalah kesehatan khususnya pada pencernaan seperti diare, konstipasi infeksi usus, dan lainnya. Menurut penelitian yang dilakukan oleh Nur (2014) menyatakan bahwa sebanyak 89,8% ibu yang memberikan MPASI pada waktu yang tepat, maka bayi cenderung memiliki status gizi baik, sedangkan ibu dengan pemberian MPASI yang tidak tepat waktu akan memiliki status gizi kurang yaitu sebesar 8,3%. 4. KESIMPULAN Semua peserta memiliki pengalaman setelah mengikuti kegiatan sosialisasi terkait pentingnya pemberian MP-ASI untuk menyelamatkan stunting. Sosialisasi Pencegahan Stunting Bagi Baduta dan Pentingnya Penyampaian MP-ASI terkait Konsumsi Gizi Anak di Desa Mekarjaya berjalan dengan lancar, para peserta memiliki antusiasme yang tinggi selama mengisi waktu luang, para anggota juga merasa senang karena mendapatkan ilmu tentang MP -ASI. Kegiatan ini juga melibatkan berbagai unsur perwakilan masyarakat, khususnya koordinator BKKBN kecamatan dan perwakilan bidan desa di kecamatan Cijaku. Maka tujuan dari sosialisasi ini kurang lebih dilakukan yaitu ingin memberikan ilmu dan pengetahuan baru kepada para anggota disamping untuk menumbuhkan kesadaran masyarakat desa Mekarjaya khususnya ibu- ibu dan calon ibu akan pentingnya menjaga kesehatan pada ibu hamil, pemberian ASI eksklusif pada anak yang baik, pemberian Makanan Pendamping ASI (MP-ASI), serta kecukupan gizi pada anak merupakan salah satu bentuk upaya dalam pencegahan terjadinya stunting. 3. HASIL DAN PEMBAHASAN g y Hasil tersebut juga diperkuat oleh hasil penelitian yang dilakukan oleh Khasanah et al (2014) yang menyebutkan bahwa anak yang mendapatkan MPASI tidak tepat waktu pemberiannya mempunyai risiko 2,8 kali untuk menjadi stunting dengan z score < -2. Hasil ini memiliki makna bahwa kejadian stunting memiliki hubungan yang signifikan dengan waktu mulai pemberian MPASI. Permatasari et al (2021) juga menyatakan bahwa pola asuh pemberian makan yang rendah berisiko 6,496 kali lebih besar mengalami kejadian stunting dibandingkan balita yang memperoleh pola asuh pemberian makan yang baik. DAFTAR PUSTAKA Badan Penelitian dan Pengembangan Kesehatan Republik Indonesia. Hasil Utama Riskesdas 2018. Jakarta: Badan Penelitian dan Pengembangan Kesehatan, Kementerian Kesehatan Republik Indonesia, 2018. Badan Penelitian dan Pengembangan Kesehatan Republik Indonesia. Hasil Utama Riskesdas 2018. Jakarta: Badan Penelitian dan Pengembangan Kesehatan, Kementerian Kesehatan Republik Indonesia, 2018. Badan Penelitian dan Pengembangan Kesehatan Republik Indonesia. Laporan Provinsi Banten Riskesdas 2018. Jakarta: Badan Penelitian dan Pengembangan Kesehatan, Kementerian Kesehatan Republik Indonesia, 2019. Badan Penelitian dan Pengembangan Kesehatan Republik Indonesia. Laporan Provinsi Banten Riskesdas 2018. Jakarta: Badan Penelitian dan Pengembangan Kesehatan, Kementerian Kesehatan Republik Indonesia, 2019. Khasanah, DP., Hadi H., dan Paramashanti BA. 2016. Waktu Pemberian Makanan Pendamping ASI (MP-ASI) Berhubungan dengan Kejadian Stunting Anak Usia 6- 23 Bulan di Kecamatan Sedayu. Jurnal Gizi dan Dietetik Indonesia. Vol 4(2) : 105. Nirmalasari, N. O. (2020). Stunting Pada Anak: Penyebab dan Faktor Risiko Stunting di Indonesia. Qawwam. https://journal.uinmataram.ac.id/index.php/qawwam/article/view/2372 Nur, D. 2014. Hubungan Pemberian Makanan Pendamping ASI (MPASI) dengan Status Gizi pada Anak Usia 1 – 2 Tahun di Yogyakarta. Sekolah Tinggi Ilmu Kesehatan "Aisyiyah, Yogyakarta Permatasari T.A.E, Dayuningsih dan Supriyatna N. 2021. Pengaruh Pola Asuh Pemberian Makan Terhadap Kejadian Stunting Pada Balita. Jurnal Kesehatan Masyarakat Andalas. Vol 14(2). pp 3-11. Rahmadhita, K. (2020). Permasalahan stunting dan pencegahannya. Jurnal Ilmiah Kesehatan Sandi …. https://akper-sandikarsa.e-journal.id/jiksh/article/view/253 P-ISSN 2807-6605 | E-ISSN 2807-6567 827 Jurnal Abdi Masyarakat Indonesia (JAMSI) https://jamsi.jurnal-id.com Vol. 3, No. 3 Mei 2023, Hal. 823-828 Vol. 3, No. 3 Mei 2023, Hal. 823-828 DOI: https://doi.org/10.54082/jamsi.724 DOI: https://doi.org/10.54082/jamsi.724 Riksani, R. 2012. Variasi Olahan Makanan Pendamping ASI. Dunia Kreasi. Jakarta. RI, K. (2016). Infodatin situasi balita pendek. Jakarta: Kementrian Kesehatan Republik Indonesia. Riksani, R. 2012. Variasi Olahan Makanan Pendamping ASI. Dunia Kreasi. Jakarta. RI, K. (2016). Infodatin situasi balita pendek. Jakarta: Kementrian Kesehatan Republik Indonesia. Riksani, R. 2012. Variasi Olahan Makanan Pendamping ASI. Dunia Kreasi. Jakarta. RI, K. (2016). Infodatin situasi balita pendek. Jakarta: Kementrian Kesehatan Republik Indonesia. Sari, M. T., Daryanto., dan Oesmani, M. 2020. Maternal Characteristics And Knowledge On The Risk Of Childhood Stunting At Simpang Kawat Community Health Center, Jambi. The 7th International Conference on Public Health Solo, Indonesia. 279-284. https://doi.org/10.26911/the7thicph-FP.03.32 Wangiyana, N. K. A. S., Karuniawaty, T. P., John, R. E., Qurani, R. M., Tengkawan, J., Septisari, A. A., & Ihyauddin Z. (2020). Praktik Pemberian MP-ASI Terhadap Risiko Stunting Pada Anak Usia 6-12 Bulan di Lombok Tengah. Penelitian Gizi dan Makanan. https://ejournal2.litbang.kemkes.go.id/index.php/pgm/article/view/4118/2361 Wangiyana, N. K. A. S., Karuniawaty, T. P., John, R. E., Qurani, R. Riksani, R. 2012. Variasi Olahan Makanan Pendamping ASI. Dunia Kreasi. Jakarta. RI, K. (2016). Infodatin situasi balita pendek. Jakarta: Kementrian Kesehatan Repu Wangiyana, N. K. A. S., Karuniawaty, T. P., John, R. E., Qurani, R. M., Tengkawan, J., Septisari, A. A., & Ihyauddin Z. (2020). Praktik Pemberian MP-ASI Terhadap Risiko Stunting Pada Anak Usia 6-12 Bulan di Lombok Tengah. Penelitian Gizi dan Makanan. https://ejournal2.litbang.kemkes.go.id/index.php/pgm/article/view/4118/2361 DAFTAR PUSTAKA M., Tengkawan, J., Septisari, A. A., & Ihyauddin Z. (2020). Praktik Pemberian MP-ASI Terhadap Risiko Stunting Pada Anak Usia 6-12 Bulan di Lombok Tengah. Penelitian Gizi dan Makanan. https://ejournal2.litbang.kemkes.go.id/index.php/pgm/article/view/4118/2361 P-ISSN 2807-6605 | E-ISSN 2807-6567 828
https://openalex.org/W2166440047
https://retrovirology.biomedcentral.com/counter/pdf/10.1186/1742-4690-6-S2-P34
English
null
Differential regulation of LTR retrotransposons during the transition from totipotency to pluripotency in mammalian embryos
Retrovirology
2,009
cc-by
762
BioMed Central Retrovirology Open Access Poster presentation Differential regulation of LTR retrotransposons during the transition from totipotency to pluripotency in mammalian embryos Véronique Duranthon*1, Alexei Evsikov2, Daulat Khan1, Linh Chi Bui1, Roger Leandri1, Adriana Rodrigues1, Catherine Archilla1, Alice Jouneau1 and Jean Paul Renard1 Address 1INRA UMR 1198 Biologie du Dé eloppement et Reproduction F 78352 Jou en Josas France and 2The Jackson Laborator Bar Harbor BioMed Central Retrovirology Open Access Poster presentation Differential regulation of LTR retrotransposons during the transition from totipotency to pluripotency in mammalian embryos Véronique Duranthon*1, Alexei Evsikov2, Daulat Khan1, Linh Chi Bui1, Roger Leandri1, Adriana Rodrigues1, Catherine Archilla1, Alice Jouneau1 and Jean Paul Renard1 Address 1INRA UMR 1198 Biologie du Dé eloppement et Reproduction F 78352 Jou en Josas France and 2The Jackson Laborator Bar Harbor BioMed Central BioMed Central Background l blastocyst, and further progressively lost concomitantly with their differentiation. g Preimplantation mammalian embryo development is characterized by fundamental changes in nuclear function as genomes of gametes, egg and sperm unite to give rise to a totipotent embryonic genome. This totipotency is how- ever a transient property since the first events of differen- tiation occur after few cell cycles, giving rise to the trophectoderm cells that co-exist with the pluripotent and no more totipotent cells of the inner cell mass at the blas- tocyst stage. Concomitantly to these cellular events, the newly formed embryonic genome becomes progressively transcriptionally active. We analyzed embryonic gene expression over this period in both the rabbit [1] and the bovine species. We have chosen these species as embry- onic models in preference to the mouse since contrarily to this later species, embryonic genome activation (EGA) spans over several cell cycles and is preceded by progres- sive epigenetic modifications. References 1. Leandri RD, Archilla C, Bui LC, et al.: Revealing the dynamics of gene expression during embryonic genome activation and first differentiation in the rabbit embryo with a dedicated array screening. Physiol Genomics 2009, 36:98-113. y g y 2. Bui LC, Evsikov AV, Khan DR, Archilla C, Peynot N, Hénaut A, LeB- ourhis D, Vignon X, Renard JP, Duranthon V: Retrotransposon expression as a defining event of genome reprogramming in fertilized and cloned bovine embryos. Reproduction 2009 in press. p 3. Evsikov AV, de Vries WN, Peaston AE, Radford EE, Fancher KS, Chen FH, Blak JA, Bult CJ, Latham KE, Solter D, Knowles BB: Systems biology of the 2-cell mouse embryo. Cytogenetic and Genome Research 2004, 105:240-250. Conclusion Our results not only extend to other mammalian species data previously established in the mouse both at EGA [3,4] and at the pluripotent stage [5] but the expression pattern of LTR retrotransposons we have evidenced sug- gest a functional involvement of these sequences in the control of the transition between toti and pluripotency. Poster presentation Differential regulation of LTR retrotransposons during the transition from totipotency to pluripotency in mammalian embryos Véronique Duranthon*1, Alexei Evsikov2, Daulat Khan1, Linh Chi Bui1, Roger Leandri1, Adriana Rodrigues1, Catherine Archilla1, Alice Jouneau1 and Jean Paul Renard1 Address: 1INRA, UMR 1198 Biologie du Développement et Reproduction, F-78352 Jouy en Josas, France and 2The Jackson Laboratory, Bar Harbor, ME, USA * C di h * Corresponding author from Frontiers of Retrovirology: Complex retroviruses, retroelements and their hosts Montpellier, France. 21-23 September 2009 Published: 24 September 2009 Retrovirology 2009, 6(Suppl 2):P34 doi:10.1186/1742-4690-6-S2-P34 Published: 24 September 2009 Retrovirology 2009, 6(Suppl 2):P34 doi:10.1186/1742-4690-6-S2-P34 This abstract is available from: http://www.retrovirology.com/content/6/S2/P34 © 2009 Duranthon et al; licensee BioMed Central Ltd. Page 1 of 1 (page number not for citation purposes) Retrovirology Open Access Results In both of the former species we evidenced a huge tran- scriptional activation of LTR retrotransposons at EGA. This transcriptional activation is faithfully reprogrammed following the transfer of a somatic cell nucleus into the oocyte cytoplasm (somatic cloning) [2]. Very interestingly the expression of some of these retrotransposons is then restricted to the pluripotent inner cell mass cells of the 4. Peaston AE, Evsikov AV, Graber JH, de Vries WN, Holbrook AE, Sol- ter D, Knowles BB: Retrotransposons regulate host genes in mouse oocytes and preimplantation embryos. Developmental Cell 2004, 7:597-606. 5. Brûlet P, Condamine H, Jacob F: Spatial distribution of tran- scripts of the long repeated ETn sequence during early mouse embryogenesis. Proceedings of National Academy of Science USA 1985, 82:2054-2058. 5. Brûlet P, Condamine H, Jacob F: Spatial distribution of tran- scripts of the long repeated ETn sequence during early mouse embryogenesis. Proceedings of National Academy of Science USA 1985, 82:2054-2058. Page 1 of 1 (page number not for citation purposes) Page 1 of 1 (page number not for citation purposes)
https://openalex.org/W2886601757
https://link.springer.com/content/pdf/10.1007/s10840-018-0417-0.pdf
English
null
Minimally interrupted novel oral anticoagulant versus uninterrupted vitamin K antagonist during atrial fibrillation ablation
Journal of interventional cardiac electrophysiology
2,018
cc-by
4,409
Abstract Purpose The safety and efficacy of a minimally interrupted novel oral anticoagulant (NOAC) strategy at the time of atrial fibrillation (AF) ablation is uncertain. The purpose of this study was to compare rates of bleeding and thromboembolic events between minimally interrupted NOAC and uninterrupted vitamin K antagonist (VKA) in patients undergoing AF ablation. Purpose The safety and efficacy of a minimally interrupted novel oral anticoagulant (NOAC) strategy at the time of atrial fibrillation (AF) ablation is uncertain. The purpose of this study was to compare rates of bleeding and thromboembolic events between minimally interrupted NOAC and uninterrupted vitamin K antagonist (VKA) in patients undergoing AF ablation. Methods This was a retrospective single-center cohort study of consecutive patients who underwent AF catheter ablation between January 2013 and April 2017. Endpoints included major bleeding, clinically relevant non-major bleeding and systemic p y y y p g gy fibrillation (AF) ablation is uncertain. The purpose of this study was to compare rates of bleeding and thromboembolic events between minimally interrupted NOAC and uninterrupted vitamin K antagonist (VKA) in patients undergoing AF ablation. Methods This was a retrospective single-center cohort study of consecutive patients who underwent AF catheter ablation between January 2013 and April 2017. Endpoints included major bleeding, clinically relevant non-major bleeding and systemic thromboembolic event from the time of ablation through 30 days. Bleeding events were defined by the Bleeding Academic Research Consortium (BARC) and International Society on Thrombosis and Haemostasis (ISTH). Methods This was a retrospective single-center cohort study of consecutive patients who underwent AF catheter ablation between January 2013 and April 2017. Endpoints included major bleeding, clinically relevant non-major bleeding and systemic thromboembolic event from the time of ablation through 30 days. Bleeding events were defined by the Bleeding Academic Research Consortium (BARC) and International Society on Thrombosis and Haemostasis (ISTH). Results A total of 637 patients were included in the analysis, 520 patients used uninterrupted VKA and 117 patients minimally interrupted NOAC (dabigatran: n = 68; apixaban: n = 30; rivaroxaban, n = 14; edoxaban, n = 5). The rate of clinically relevant non-major bleeding was lower in the NOAC group in comparison to the VKA group (BARC type 2: 2.6% versus 8.3%, P = 0.03; ISTH: 0% versus 3.8%, P = 0.03). Abstract Rates of major bleeding were similar between groups (BARC type 3 to 5: 3.4% versus 4.2%, P = NS; ISTH: 6.0% versus 8.7%, P = NS; for NOAC and VKA groups, respectively). Rates of systemic embolism were 0% with minimally interrupted NOAC, and 0.6% with uninterrupted VKA (P = NS). Conclusions In patients undergoing AF ablation, anticoagulation with minimally interrupted NOAC was associated with fewer clinically relevant non-major bleeding events in comparison with uninterrupted VKA without compromising thromboembolic safety. Keywords Atrial fibrillation . Novel oral anticoagulation . Vitamin-K antagonist . Catheter ablation . Bleeding . Stroke Keywords Atrial fibrillation . Novel oral anticoagulation . Vitamin-K antagonist . Catheter ablation . Ble 1 Department of Cardiology, Erasmus Medical Center, P.O. Box 2040, 3000 CA Rotterdam, the Netherlands Minimally interrupted novel oral anticoagulant versus uninterrupted vitamin K antagonist during atrial fibrillation ablation John De Heide1 & Christiaan J. Vroegh1 & Rohit E. Bhagwandien1 & Sip A. Wijchers1 & Tamas Sz Mattie J. Lenzen1 & S. C. Yap1 Received: 10 May 2018 /Accepted: 18 July 2018 /Published online: 3 August 2018 # The Author(s) 2018 * S. C. Yap s.c.yap@erasmusmc.nl Journal of Interventional Cardiac Electrophysiology (2018) 53:341–346 https://doi.org/10.1007/s10840-018-0417-0 Journal of Interventional Cardiac Electrophysiology (2018) 53:341–346 https://doi.org/10.1007/s10840-018-0417-0 2 Methods Primary bleeding endpoints were major bleeding (within 30 days) as defined by the Bleeding Academic Research Consortium (BARC) and International Society on Thrombosis and Haemostasis (ISTH) [17, 18]. The reason to choose both classifications is that clinical trials reporting ma- jor bleeding either use ISTH and/or BARC classification. In our study, BARC types 3 to 5 were considered a major bleed- ing. Secondary bleeding endpoints were the individual BARC bleeding types (types 2, 3a, 3b, 3c, 5), clinically relevant non- major bleeding (CRNMB) according to ISTH [19], and any clinically relevant bleeding (BARC types 2 to 5; ISTH major bleeding and CRNMB). BARC type 2 bleeding most closely aligns with the ISTH CRNMB [19]. 2.5 Statistical analysis All patients received therapeutic oral anticoagulation for at least 3 weeks prior to ablation. In patients using VKA the target INR level at the day of the procedure was 2.0 to 2.5. In patients using NOACs, anticoagulation was withheld for 24 h before the procedure (1 or 2 doses withheld). A cardiac CT was routinely performed weeks to months prior to abla- tion. CT imaging was mainly used to assess PV anatomy. Rarely, a left atrial thrombus could be found as an incidental finding. A preprocedural transesophageal echocardiogram was routinely performed on the same day or 1 day prior to ablation to exclude left atrial appendage (LAA) thrombus. In the case of LAA thrombus the procedure was canceled or postponed. During the procedure, a bolus of heparin was ad- ministered after sheath placement. Furthermore, immediately after transseptal puncture another bolus of heparin was given and a continuous heparin pump was started and adjusted to maintain an ACT of at least 300 s. We did not administer protamine routinely at the end of the procedure. Continuous parameters are presented as the mean ± SD as they were normally distributed. Categorical data are presented as frequencies and percentages. Comparisons between groups were performed with an independent Student t test, chi-square tests, or Fisher exact test. A P-value < 0.05 was considered sta- tistically significant. Statistical analyses were performed using SPSS software (SPSS, version 21; IBM, Chicago, Illinois). 2.1 Study population We evaluated consecutive patients who underwent catheter ablation of AF from January 2013 to April 2017 in the Erasmus Medical Center, Rotterdam, the Netherlands. We in- cluded patients with 2 specific anticoagulation regimens. The first group included patients who used periprocedural uninter- rupted VKA (either acenocoumarol or marcoumar). The strat- egy of uninterrupted VKAwas introduced in our institution at the end of 2012. The second group included patients who used periprocedural minimally interrupted NOAC (1 or 2 doses withheld). In February 2013, our first patient underwent cath- eter ablation using a minimally interrupted NOAC strategy. Patients who did not use oral anticoagulation and were accept- ed for catheter ablation of AF usually received a NOAC. The primary thromboembolic endpoint was a composite of stroke, transient ischemic attack (TIA), or other systemic em- bolism within 30 days. 1 Introduction have several advantages, including a rapid onset of therapeutic range of anticoagulation, predictability of the anticoagulant effect, and relatively short time to reversal of anticoagulation when the medication is withheld [2]. Several observational and randomized controlled trials (RCTs) have demonstrated that uninterrupted NOAC is as safe and effective in compari- son to uninterrupted VKA in patients undergoing AF ablation [3–13]. A recent meta-analysis demonstrated that NOAC was even associated with less major bleeding compared with VKA in pooled RCTs [14]. The 2016 ESC guidelines give a class IIa indication to perform AF ablation with continuous oral anticoagulation with either VKA or NOAC [15]. Catheter ablation is increasingly used for the treatment of symptomatic atrial fibrillation (AF). Although catheter abla- tion of AF is considered safe, it may be associated with a low risk of stroke. One of the strategies to reduce this risk is to perform AF ablation with continuous oral anticoagulation. This strategy has been shown to be safe and effective with vitamin K antagonists (VKAs) [1]. However, there is an in- creased use of novel oral anticoagulants (NOACs) in the cur- rent AF population undergoing catheter ablation. NOACs However, the uninterrupted NOAC strategy does not reflect current clinical practice as most centers still use a minimally interrupted NOAC strategy [16]. There is limited data demon- strating the safety and efficacy of a minimally interrupted NOAC strategy. The aim of the present study was to compare the * S. C. Yap s.c.yap@erasmusmc.nl J Interv Card Electrophysiol (2018) 53:341–346 342 incidence of bleeding and thromboembolic complications of minimally interrupted NOAC versus uninterrupted VKA in pa- tients undergoing catheter ablation of AF. restarted NOAC in the evening of the procedure. Patients con- tinued their oral anticoagulation for at least 3 months after the procedure. 3 Results A total of 637 patients (mean age 60 ± 9 years, 69% male) were included in the analysis, 520 patients (82%) used unin- terrupted VKAs and 117 patients (18%) had a minimally interrupted NOAC strategy. In the NOAC group, the follow- ing NOACs were used: dabigatran (n = 68), apixaban (n = 30), rivaroxaban (n = 14), and edoxaban (n = 5). The NOAC group comprised more patients with long-standing persistent AF and a lower proportion of patients with a CHA2DS2-VASc ≥2 (Table 1). All other baseline variables were similar between groups. Figure 1 demonstrates the increased use of NOAC over the years in our AF ablation population. 2.3 Postprocedural protocol VKA patients, who had an INR 2.0 or greater at the day of the procedure, continued their anticoagulation regimen with a tar- get INR level of 2.0–3.0. VKA patients who had an INR below 2.0 at the day of the procedure were bridged with in- travenous UFH for 24 h (starting 2 h after removal of sheaths). After these 24 h they received low molecular weight heparin until their INR level was equal or above 2.0. NOAC patients 3.1 Bleeding complications No patient in either group had a BARC type 3c (i.e., intracranial bleeding) or type 5 bleeding (i.e., fatal bleeding). Cardiac tamponade occurred in 4 patients (0.8%) of the VKA group and in 1 patient (0.9%) of the NOAC group (P = 1.00). 3.1 Bleeding complications The rates of major bleeding, either by BARC or ISTH criteria, were similar between groups (Table 2). The rate of any clini- cally relevant bleeding (BARC types 2–5; composite of ISTH J Interv Card Electrophysiol (2018) 53:341–346 343 Table 1 Baseline characteristics Characteristic Uninterrupted Interrupted P- value VKA NOAC N = 520 N = 117 Age (years), mean ± SD 60 ± 10 60 ± 9 0.55 Male sex, n (%) 354 (68) 84 (72) 0.43 Atrial fibrillation, n (%): 0.048 Paroxysmal 392 (76) 86 (74) Persistent 116 (22) 24 (20) Long-standing persistent 10 (2) 7 (6) Hypertension 217 (42) 44 (38) 0.41 Diabetes mellitus 52 (10) 5 (4) 0.05 Coronary artery disease 62 (12) 7 (6) 0.06 Congestive heart failure 20 (4) 2 (2) 0.25 Left ventricular dysfunction 18 (3) 5 (4) 0.58 LA diameter (mm), mean ± SD 42 ± 6 43 ± 7 0.56 CHA2DS2-VASc score ≥2, n (%) 245 (47) 40 (34) 0.02 HAS-BLED score ≥3, n (%) 31 (6) 4 (3) 0.30 Body mass index, mean ± SD (kg/m2) 27.7 ± 4.1 27.2 ± 3.3 0.23 Technique of catheter ablation, n (%): 0.09 Cryoballoon 100 (19) 33 (28) Radiofrequency 402 (78) 83 (71) Laser 18 (3) 1 (1) LA = left atrium, NOAC = novel oral anticoagulant, VKA = vitamin K antagonist vertebrobasilar stroke 3 days after the procedure. Three months after the procedure, this patient had a modified Rankin score of 1. Furthermore, 2 patients (0.4%) in the VKA group experienced a TIA 1 day after the procedure. They had an uneventful recovery. No patient in the NOAC group experienced a systemic thromboembolic event. No deaths occurred. major bleeding and CRNMB) was lower with NOACs com- pared with VKAs. This difference was mainly due to a differ- ence in clinically relevant non-major bleeding (CRNMB or BARC type 2) (Table 2). No patient in either group had a BARC type 3c (i.e., intracranial bleeding) or type 5 bleeding (i.e., fatal bleeding). Cardiac tamponade occurred in 4 patients (0.8%) of the VKA group and in 1 patient (0.9%) of the NOAC group (P = 1.00). major bleeding and CRNMB) was lower with NOACs com- pared with VKAs. This difference was mainly due to a differ- ence in clinically relevant non-major bleeding (CRNMB or BARC type 2) (Table 2). CRNMB, n (%) CRNMB, n (%) ISTH major bleeding and CRNMB, n (%) ISTH major bleeding and CRNMB, n (%) Primary thromboembolic endpoint Primary thromboembolic endpoint Stroke, TIA, or other systemic embolism, n (%) Stroke, TIA, or other systemic embolism, n (%) BARC = Bleeding Academic Research Consortium, CRNMB = clinically relevant non-major bleeding, ISTH = Internat Haemostasis, NOAC= novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist BARC = Bleeding Academic Research Consortium, CRNMB = clinically relevant non-major bleeding, ISTH = International Society on Thrombosis and Haemostasis, NOAC= novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist the Apixaban Evaluation of Interrupted Or Uninterrupted anticoagulation for ablation of atrial fibrillation (AEIOU) ran- domized trial showed no difference between continuous apixaban compared with minimally interrupted apixaban (1 dose withheld) with regard to major bleeding (BARC 3–5) or thromboembolic events (Table 3) [21]. Finally, a recent meta-analysis of 4 randomized and 9 prospective observation- al studies (N = 5463) found that minimally interrupted and continuous NOAC strategy were both safe and non-inferior strategies compared with uninterrupted VKA [14]. Our study extends on these results demonstrating less clinically relevant non-major bleeding events with minimally interrupted NOAC in comparison with uninterrupted VKA without compromis- ing thromboembolic safety. In clinical practice, however, most centers still use a min- imally interrupted NOAC strategy [16]. The European Snapshot Survey on Procedural Routines in Atrial Fibrillation Ablation (ESS-PRAFA) in 2015 demonstrated that AF ablations were performed with a minimally interrupted NOAC strategy (1–2 doses withheld) in 53% of procedures, interrupted NOAC ≥2 days in 34%, and an unin- terrupted NOAC strategy in 14% [16]. The ABlation peRIoperative DabiGatran in use Envisioning in Japan (ABRIDGE-J) randomized trial demonstrated that anticoagulation with minimally interrupted dabigatran (1 or 2 doses withheld) was associated with fewer ISTH major bleeding complications than uninterrupted VKA with no in- crease in thromboembolic events (Table 3) [13]. *Statistically significant difference in comparison to the VKA group. BARC = Bleeding Academic Research Consortium, ISTH = International Society on Thrombosis and Haemostasis, NA = not available, NOAC = novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist 4 Discussion There were no differences in the systemic thromboembolic event rates between both groups (0.6% versus 0%, P = 1.00) (Table 2). In the VKA group, 1 patient (0.2%) experienced a The main findings of our study are that (1) the rate of clinically relevant non-major bleeding was lower in patients with a min- imally interrupted NOAC strategy compared with those with an uninterrupted VKA strategy, and (2) the rates of major bleeding and thromboembolic events were similar between groups. Fig. 1 Proportion of periprocedural NOAC and VKA use over the years Uninterrupted use of vitamin K antagonists (VKA) as periprocedural anticoagulant is currently widely accepted for patients undergoing catheter ablation of AF who are using VKA. However, there is an increased use of NOACs in the current AF ablation population. Despite initial concerns on the safety of using periprocedural NOAC [20], nowadays, several large RCTs have demonstrated the safety and efficacy of un- interrupted use of NOACs (i.e., dabigatran, rivaroxaban, apixaban) during AF ablation [5, 6, 12] (Table 3). Fig. 1 Proportion of periprocedural NOAC and VKA use over the years J Interv Card Electrophysiol (2018) 53:341–346 344 Table 2 Primary and secondary end points Table 2 Primary and secondary end points Uninterrupted Interrupted P- value VKA NOAC N = 520 N = 117 Primary bleeding endpoints BARC 3–5 bleeding, n (%) 22 (4.2) 4 (3.4) 0.70 ISTH major bleeding, n (%) 45 (8.7) 7 (6.0) 0.34 Secondary bleeding endpoints Bleeding requiring medical attention that does not fit the criteria for types 3–5 (BARC 2), n (%) 43 (8.3) 3 (2.6) 0.03 Bleeding with hemoglobin drop of 30 to < 50 g/L or requiring transfusion (BARC 3a), n (%) 10 (1.9) 3 (2.6) 0.72 Bleeding with hemoglobin drop of ≥50 g/L, or requiring surgery or iv vasoactive agents, or cardiac tamponade (BARC 3b), n (%) 12 (2.3) 1 (0.9) 0.48 BARC 2–5 bleeding, n (%) 65 (12.5) 7 (6.0) 0.04 CRNMB, n (%) 20 (3.8) – 0.03 ISTH major bleeding and CRNMB, n (%) 65 (12.5) 7 (6.0) 0.04 Primary thromboembolic endpoint Stroke, TIA, or other systemic embolism, n (%) 3 (0.6) – 1.00 BARC = Bleeding Academic Research Consortium, CRNMB = clinically relevant non-major bleeding, ISTH = International Society on Thrombosis and Haemostasis, NOAC= novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist CRNMB, n (%) In addition, Table 3 Overview of major bleeding and thromboembolic events in large randomized controlled trials comparing periprocedural NOAC and VKA in patients undergoing catheter ablation of AF Trial BARC 3–5 bleedings ISTH major bleeding Thrombo-embolic events RE-CIRCUIT [5] – VKA, N = 318 NA 6.9% 0.3% RE-CIRCUIT [5] – uninterrupted dabigatran, N = 317 NA 1.6%* 0.0% VENTURE-AF [6] – VKA, N = 124 NA 0.8% 0.8% VENTURE-AF [6] – uninterrupted rivaroxaban, N = 124 NA 0.0% 0.0% AXAFA [12] – VKA, N = 315 4.1% 4.4% 0.0% AXAFA [12] – uninterrupted apixaban, N = 318 2.5% 3.1% 0.6% ABRIDGE-J [13] – VKA, N = 222 NA 5.0% 0.5% ABRIDGE-J [13] – interrupted dabigatran, N = 220 NA 1.4%* 0.0% AEIOU [21] – uninterrupted apixaban, N = 150 1.3% NA 0.7% AEIOU [21] – interrupted apixaban, N = 145 2.1% NA 0.7% *Statistically significant difference in comparison to the VKA group. BARC = Bleeding Academic Research Consortium, ISTH = International Society on Thrombosis and Haemostasis, NA = not available, NOAC = novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist *Statistically significant difference in comparison to the VKA group. BARC = Bleeding Academic Research Consortium, ISTH = International Society on Thrombosis and Haemostasis, NA = not available, NOAC = novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist J Interv Card Electrophysiol (2018) 53:341–346 345 One of the reasons to choose an uninterrupted NOAC strat- egy instead of a minimally interrupted NOAC strategy is to maximally reduce the incidence of thromboembolic events. However, the risk of a systemic thromboembolic event using a minimally interrupted NOAC strategy is already low (< 0.7%) [13, 14, 21]. Furthermore, continuous anticoagulation does not prevent all acute brain lesions, which can be caused by debris from ablation lesions, air emboli, or small thrombi [22]. This was demonstrated by the MRI substudy of the AXAFA trial in which acute brain lesions occurred in 27% of patients despite uninterrupted apixaban [12]. Further re- search is required to establish the optimal NOAC dosing strat- egy (minimally interrupted or uninterrupted) with regard to both bleeding and thromboembolic risk. Another question is whether every NOAC is effective in preventing periprocedural thromboembolic complications. 4.1 Study limitations 2. Jackson LR 2nd, Becker RC. Novel oral anticoagulants: pharma- cology, coagulation measures, and considerations for reversal. J Thromb Thrombolysis. 2014;37(3):380–91. There were differences in baseline characteristics between the study groups. The VKA group had a higher proportion of patients with a CHA2DS2-VASc ≥2 in comparison to the NOAC group (47% versus 34%). This difference can be ex- plained by the fact that in patients who did not use an oral anticoagulant (low CHA2DS2-VASc score) and were accepted for catheter ablation, a NOAC was preferentially started as periprocedural anticoagulation regime. This difference in CHA2DS2-VASc score could potentially lower the risk of thromboembolic and bleeding events in the NOAC group. Furthermore, patients used different NOACs in the present study. The limited number of NOAC patients precluded fur- ther subanalysis for the different NOACs. 3. Di Biase L, Lakkireddy D, Trivedi C, Deneke T, Martinek M, Mohanty S, et al. Feasibility and safety of uninterrupted periprocedural apixaban administration in patients undergoing ra- diofrequency catheter ablation for atrial fibrillation: results from a multicenter study. Heart Rhythm. 2015;12(6):1162–8. 4. Aryal MR, Ukaigwe A, Pandit A, Karmacharya P, Pradhan R, Mainali NR, et al. Meta-analysis of efficacy and safety of rivaroxaban compared with warfarin or dabigatran in patients un- dergoing catheter ablation for atrial fibrillation. Am J Cardiol. 2014;114(4):577–82. 5. Calkins H, Willems S, Gerstenfeld EP, Verma A, Schilling R, Hohnloser SH, et al. Uninterrupted dabigatran versus warfarin for ablation in atrial fibrillation. N Engl J Med. 2017;376(17):1627–36. 6. Cappato R, Marchlinski FE, Hohnloser SH, Naccarelli GV, Xiang J, Wilber DJ, et al. Uninterrupted rivaroxaban vs. uninterrupted vita- min K antagonists for catheter ablation in non-valvular atrial fibril- lation. Eur Heart J. 2015;36(28):1805–11. CRNMB, n (%) RCTs with dabigatran (RE-CIRCUIT) and rivaroxaban (VENTURE- AF) did not show any thromboembolic events [5, 6], while RCTs with apixaban (AXAFA, AEIOU) showed a low throm- boembolic event rate [12, 21]. subjected to the Dutch Medical Research Involving Human Subjects Act. The study was carried out according to the ethical principles for medical research involving human subjects established by Declaration of Helsinki, protecting the privacy of all the participants and the confi- dentiality of their personal information. Conflict of interest The authors declare that they have no conflict of interest. Conflict of interest The authors declare that they have no conflict of interest. Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0 International License (http:// creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided you give appro- priate credit to the original author(s) and the source, provide a link to the Creative Commons license, and indicate if changes were made. 5 Conclusions 7. Hohnloser SH, Camm AJ. Safety and efficacy of dabigatran etexilate during catheter ablation of atrial fibrillation: a meta- analysis of the literature. Europace. 2013;15(10):1407–11. In patients undergoing catheter ablation of AF, a minimally interrupted NOAC strategy was associated with fewer clini- cally relevant non-major bleeding compared with uninterrupt- ed VKA. The risk of major bleeding and thromboembolic events was similar between both strategies. Our study rein- forces the safety and efficacy of a minimally interrupted NOAC strategy as periprocedural anticoagulant in patients undergoing catheter ablation of AF. 8. Kaess BM, Ammar S, Reents T, Dillier R, Lennerz C, Semmler V, et al. Comparison of safety of left atrial catheter ablation procedures for atrial arrhythmias under continuous anticoagulation with apixaban versus phenprocoumon. Am J Cardiol. 2015;115(1):47– 51. 9. Lakkireddy D, Reddy YM, Di Biase L, Vallakati A, Mansour MC, Santangeli P, et al. Feasibility and safety of uninterrupted rivaroxaban for periprocedural anticoagulation in patients undergo- ing radiofrequency ablation for atrial fibrillation: results from a multicenter prospective registry. J Am Coll Cardiol. 2014;63(10): 982–8. References 1. Di Biase L, Burkhardt JD, Santangeli P, Mohanty P, Sanchez JE, Horton R, et al. Periprocedural stroke and bleeding complications in patients undergoing catheter ablation of atrial fibrillation with dif- ferent anticoagulation management: results from the role of coumadin in preventing thromboembolism in atrial fibrillation (AF) patients undergoing catheter ablation (COMPARE) random- ized trial. Circulation. 2014;129(25):2638–44. 1. Di Biase L, Burkhardt JD, Santangeli P, Mohanty P, Sanchez JE, Horton R, et al. Periprocedural stroke and bleeding complications in patients undergoing catheter ablation of atrial fibrillation with dif- ferent anticoagulation management: results from the role of coumadin in preventing thromboembolism in atrial fibrillation (AF) patients undergoing catheter ablation (COMPARE) random- ized trial. Circulation. 2014;129(25):2638–44. Compliance with ethical standards 10. Santarpia G, De Rosa S, Polimeni A, Giampa S, Micieli M, Curcio A, et al. Efficacy and safety of non-vitamin K antagonist oral anti- coagulants versus vitamin K antagonist oral anticoagulants in The Medical Ethics Committee of the Erasmus Medical Center reviewed the study (MEC-2015-073), and this retrospective study was not 346 J Interv Card Electrophysiol (2018) 53:341–346 patients undergoing radiofrequency catheter ablation of atrial fibril- lation: a meta-analysis. PLoS One. 2015;10(5):e0126512. 17. Mehran R, Rao SV, Bhatt DL, Gibson CM, Caixeta A, Eikelboom J, et al. Standardized bleeding definitions for cardiovascular clinical trials: a consensus report from the bleeding academic research con- sortium. Circulation. 2011;123(23):2736–47. 11. 11. Wu S, Yang YM, Zhu J, Wan HB, Wang J, Zhang H, et al. Meta- analysis of efficacy and safety of new oral anticoagulants compared with uninterrupted vitamin K antagonists in patients undergoing catheter ablation for atrial fibrillation. Am J Cardiol. 2016;117(6): 926–34. 18. Schulman S, Kearon C, Subcommittee on Control of Anticoagulation of the Scientific, Standardization Committee of the International Society on Thrombosis and Haemostasis. Definition of major bleeding in clinical investigations of antihemostatic medicinal products in non-surgical patients. J Thromb Haemost. 2005;3(4):692–4. 12. Kirchhof P, Haeusler KG, Blank B, De Bono J, Callans D, Elvan A et al. Apixaban in patients at risk of stroke undergoing atrial fibril- lation ablation. Eur Heart J. 2018. https://doi.org/10.1093/eurheartj/ ehy176. 19. Kaatz S, Ahmad D, Spyropoulos AC, Schulman S, Subcommittee on Control of Anticoagulation. Definition of clinically relevant non- major bleeding in studies of anticoagulants in atrial fibrillation and venous thromboembolic disease in non-surgical patients: commu- nication from the SSC of the ISTH. J Thromb Haemost. 2015;13(11):2119–26. 13. Nogami A, Machino T, Harada T, Nakano Y, Yoshida Y, Goya M, et al. Clinical benefit of minimally-interrupted dabigatran versus un- interrupted warfarin for catheter ablation of atrial fibrillation: a pro- spective randomized multicenter trial. Anaheim: American Heart Association Scientific Sessions; 2017. 20. Lakkireddy D, Reddy YM, Di Biase L, Vanga SR, Santangeli P, Swarup V, et al. Feasibility and safety of dabigatran versus warfarin for periprocedural anticoagulation in patients undergoing radiofre- quency ablation for atrial fibrillation: results from a multicenter prospective registry. J Am Coll Cardiol. 2012;59(13):1168–74. 14. Ha FJ, Barra S, Brown AJ, Begley DA, Grace AA, Agarwal S. Continuous and minimally-interrupted direct oral anticoagulant are both safe compared with vitamin K antagonist for atrial fibril- lation ablation: an updated meta-analysis. Compliance with ethical standards Int J Cardiol. 2018;262: 51–6. 15. Kirchhof P, Benussi S, Kotecha D, Ahlsson A, Atar D, Casadei B, et al. 2016 ESC guidelines for the management of atrial fibrillation developed in collaboration with EACTS. Eur Heart J. 2016;37(38): 2893–962. 21. Reynolds MR, Scott Allison J, Natale A, Weisberg IL, Ellenbogen KA, Richards M et al. A prospective randomized trial of apixaban dosing during atrial fibrillation ablation. JACC Clin Electrophysiol. 2018;4(5):580–8. 16. Potpara TS, Larsen TB, Deharo JC, Rossvoll O, Dagres N, Todd D, et al. Oral anticoagulant therapy for stroke prevention in patients with atrial fibrillation undergoing ablation: results from the first European snapshot survey on procedural routines for atrial fibrilla- tion ablation (ESS-PRAFA). Europace. 2015;17(6):986–93. 22. Takami M, Lehmann HI, Parker KD, Welker KM, Johnson SB, Packer DL. Effect of left atrial ablation process and strategy on microemboli formation during irrigated radiofrequency catheter ab- lation in an in vivo model. Circ Arrhythm Electrophysiol. 2016;9(1):e003226.
https://openalex.org/W4386919110
https://link.springer.com/content/pdf/10.1007/978-3-031-43849-3_18.pdf
English
null
A Graph Neural Network Approach for Evaluating Correctness of Groups of Duplicates
Lecture notes in computer science
2,023
cc-by
5,341
1 Istituto di Scienza e Tecnologie dell’Informazione “A. Faedo” - ISTI (CNR) Pisa, Italy 1 Istituto di Scienza e Tecnologie dell’Informazione “A. Faedo” - ISTI (CNR) Pisa, Italy {michele.debonis,paolo.manghi,fabrizio.falchi}@isti.cnr.it 2 {michele.debonis,paolo.manghi,fabrizio.falchi}@isti.cnr.it 2 OpenAIRE AMKE, Pisa, Italy paolo.manghi@openaire.eu 3 TIM S.p.A., Pisa, Italy filippo.minutella@telecomitalia.it {michele.debonis,paolo.manghi,fabrizio.falchi}@isti.cnr.it 2 OpenAIRE AMKE, Pisa, Italy paolo.manghi@openaire.eu 3 TIM S.p.A., Pisa, Italy filippo.minutella@telecomitalia.it } 2 OpenAIRE AMKE, Pisa, Italy paolo.manghi@openaire.eu 3 TIM S.p.A., Pisa, Italy filippo.minutella@telecomitalia.it Abstract. Unlabeled entity deduplication is a relevant task already studied in the recent literature. Most methods can be traced back to the following workflow: entity blocking phase, in-block pairwise compar- isons between entities to draw similarity relations, closure of the result- ing meshes to create groups of duplicate entities, and merging group entities to remove disambiguation. Such methods are effective but still not good enough whenever a very low false positive rate is required. In this paper, we present an approach for evaluating the correctness of “groups of duplicates”, which can be used to measure the group’s accuracy hence its likelihood of false-positiveness. Our novel approach is based on a Graph Neural Network that exploits and combines the con- cept of Graph Attention and Long Short Term Memory (LSTM). The accuracy of the proposed approach is verified in the context of Author Name Disambiguation applied to a curated dataset obtained as a sub- set of the OpenAIRE Graph that includes PubMed publications with at least one ORCID identifier. Keywords: entity deduplication · correctness · graph neural networks · author name disambiguation c ⃝The Author(s) 2023 O. Alonso et al. (Eds.): TPDL 2023, LNCS 14241, pp. 207–219, 2023. https://doi.org/10.1007/978-3-031-43849-3 18 A Graph Neural Network Approach for Evaluating Correctness of Groups of Duplicates Michele De Bonis1(B) , Filippo Minutella3, Fabrizio Falchi1 , and Paolo Manghi1,2 Michele De Bonis1(B) , Filippo Minutella3, Fabrizio Falchi1 , and Paolo Manghi1,2 1 Introduction Entity deduplication (or disambiguation) refers to the process of identifying duplicates within a given collection of entity metadata descriptions. The primary objective of this process is to group the equivalent entities into distinct groups of duplicates, thereby increasing the data quality and saving storage space. The deduplication process is particularly relevant for providers who curate collections that must be indexed and made available for user search. Before the advent of machine learning, the most popular approaches were based on a three-stage workflow: 208 M. De Bonis et al. Blocking preliminary blocking stage to group “potentially equivalent” entities to limit the number of comparisons; Blocking preliminary blocking stage to group “potentially equivalent” entities to limit the number of comparisons; Similarity match pairwise comparisons stage inside each block to check for equivalence and to draw similarity relationships between equivalent entities; Deduplication identification of groups of duplicates (equivalent entities) by closing the meshes in the graph resulting from the previous phase. Similarity match pairwise comparisons stage inside each block to check for equivalence and to draw similarity relationships between equivalent entities; q y p q ; Deduplication identification of groups of duplicates (equivalent entities) by closing the meshes in the graph resulting from the previous phase. Deduplication identification of groups of duplicates (equivalent entities) by closing the meshes in the graph resulting from the previous phase. This type of approach persists nowadays when the entities bear a well-described set of metadata attributes and the collection curator demands strong control and explainability over the results [1–3]. On the other hand, evaluating the quality (e.g. via metrics) of the groups of duplicates when these are label-less becomes as challenging as inefficient. Measuring quality is essential, to refine or improve the results, or to provide a level of confidence to the consumers of the deduplicated collection. Given the nature of the problem, where the main objective is to have a low number of wrong groups of duplicates, it is important to have an evaluation measure able to give a score to a group independently from the others. In this way, the data quality can be increased by excluding from the final graph all the groups with a low score by cutting their similarity relations. 1 https://pubmed.ncbi.nlm.nih.gov. 2 https://graph.openaire.eu. 1 Introduction In this paper, we address this problem by exploiting a Graph Neural Network (GNN) approach, relying on a twofold intuition: (i) the similarity match stage described above generates a graph where nodes represent the entities and rela- tionships indicate the equivalence between two nodes; and (ii) the deduplication stage generates a set of distinct graphs, whose nodes have no relationships with nodes of other graphs. In the last few years, many different architectures involv- ing deep learning and graphs have been proposed, with GNN methods becoming very popular in the research community. Typically, such methods encode the information in every node of the graph through a feature-extraction algorithm and subsequently generate node embeddings by encoding information about the node’s topology via message passing with other nodes in the neighborhood. GNN methods have been proven effective in node and graph classification, where node embeddings are merged to represent the whole graph. Most popular examples of GNNs are the Graph Convolutional Network (GCN) [4], the Graph Attention Network (GAT) [5], Graph Isomorphism Network (GIN) [6] and Graphormer [7], which brings the concept of NLP transformers on Graphs. In light of these observations, we propose a custom model capable of pro- cessing groups of duplicates to evaluate their correctness regarding a percentage indicator. The model is then applied in a real-case scenario of scholarly commu- nication to duplicate author names. More specifically, it is trained in a supervised way using a custom dataset of ORCID-provided authors coming from PubMed1 article metadata records collected by the OpenAIRE Graph2 [8–10]. To define the model, a preliminary analysis of known Graph Neural Networks has been carried out and a 3-layered GAT was identified as the most promising. The model has been customized in two ways. Firstly, by adding edge weights that reflect the similarity match between two nodes and a node betweenness centrality [11] A GNN Approach for Evaluating Correctness of Groups of Duplicates 209 measure that reflects the pivotal role of a node in a graph in terms of shortest paths. Secondly, by adding a further LSTM layer [12], before the classifier for the prediction. A sigmoid function is subsequently applied to the classifier output to transform the result into a percentage measure of correctness. Once the model has been trained over labeled data, it can be used to classify groups with no available labels (i.e. 1 Introduction the majority of those resulting from a real-case scenario) as the nature of groups of duplicates depends on the algorithm used for the deduplication and therefore remains the same. Our experiments have shown the approach to be effective with both big and small groups with an accuracy of circa 90%. The paper is organized as follows: Sect. 2 describes the current status of the research on the topic; Sect. 3 describes the methodology used to conduct the research; Sect. 4 provides a description of the developed architecture together with the experimental results; Sect. 5 discusses the obtained results; Sect. 6 con- cludes the paper providing some hints for the future directions of this research. 3 https://github.com/miconis/dedup-groups-evaluator. 4 https://www.dgl.ai. 3 Methodology The research of this paper has been conducted by following three steps: (i) the preparation of the dataset to be used as training, validation, and testing set; (ii) the preliminary experiments on base Graph Neural Network architecture to highlight the advantages and the disadvantages of each model; and (iii) the implementation, training, and validation of the final model architecture to be used for the classification of groups of duplicates. The dataset preparation has been performed by mimicking a real-case sce- nario when a standard framework for deduplication has been applied. In this research we used FDup [16], a framework for efficient data deduplication using decision tree-based matching. The FDup framework delivers a full deduplica- tion workflow in a single easy-to-use software based on Apache Spark Hadoop, where developers can customize the blocking and the similarity matching via an intuitive configuration file. In particular, the similarity matching function is engi- neered as a decision tree that drives the comparisons of the fields of two records as branches of predicates and allows early-exit strategies to save computation time. The code is available on GitHub3 and it is written in Python by using the Deep Graph Library4 (DGL), a Pytorch-based library which implements fast and memory-efficient message passing primitives for training Graph Neural Net- works. All the models have been trained using an NVIDIA GeForce RTX 3060 Laptop GPU. 2 State of the Art The literature does not address the problem of assessing the quality of groups of duplicate entities. However, since the groups created after a deduplication process correspond to clusters of equivalent data (entities), clustering evalu- ation metrics may be considered a valuable solution. Two classes of metrics exist: “extrinsic measures” when the ground truth label is required, and “intrin- sic measures” when the ground truth label is not required. Known metrics in these fields are the Rand Index, the Mutual Information, the V-measure, and the Fowlkes-Mallow score when speaking about intrinsic measure, while the Sil- houette Coefficient, the Calinski-Harabasz Index, and the Davies-Bouldin Index when speaking about extrinsic measure. In order to use such metrics for the evaluation it is important to think of the group of duplicates as a set of points in an n-dimensional space, and in some cases to define a measure of distance between such points. The evaluation of deduplication by means of the metrics described above does not allow the evaluation of each group independently from the others, as the final score provided by the formulas of each metric is either inefficient to be computed or descriptive of the whole deduplication. The evaluation of a deduplication result can be sometimes performed by heavily relying on persistent identifiers of entities [13] (e.g. the DOI) but it is not guaranteed that the measure is trusty, as the persistent identifier for the evaluation is not often available for every entity in the collection of a real-case scenario. The graph classification problem has been studied in literature and surveys on this topic summarise several methods [14,15]. The methods described in the surveys classify molecules and proteins in a supervised fashion by giving accept- able accuracy ranges. Nonetheless, such methods are not directly applicable to groups of duplicates because of the different and particular nature of such groups, having a dense or sparse distribution of relations that is not directly indicative of the correctness of the group. 210 M. De Bonis et al. As claimed by the authors, the best approach for classifying a graph is Graphormer [7], which brings the transformer concept into Graph Neural Net- works. Nonetheless, the nature of transformers makes such architectures’ training and inference process extremely slow or feasible only when a high computation power is available, which is not the case in most scenarios. 4 https://www.dgl.ai. 4.1 Dataset Preparation Since this is aimed to be classified as a supervised way of training a Graph Neural Network for graph classification, the main objective of the research is to have a proper dataset to test the goodness of the findings. We decided to use Author Names Disambiguation as an example, and we extracted only Authors with an ORCID identifier provided by PubMed records in the OpenAIRE Graph. The identifier will be used as a label to determine the correctness of a group. The first step of the dataset preparation consists of extracting the authors from PubMed records. Every author extracted from a publication comprises personal fields and fields inherited by the respective publication. Such fields are: A GNN Approach for Evaluating Correctness of Groups of Duplicates 211 A GNN Approach for Evaluating Correctness of Groups of Duplicates – full name (i.e. “Surname, Name” or “Surname, N.”) – full name (i.e. “Surname, Name” or “Surname, N.”) – the co-authors list (i.e. the list of authors belonging to the same publication as a list of strings) – the co-authors list (i.e. the list of authors belonging to the same publication as a list of strings) – the abstract of the publication Since the deduplication algorithm needs meaningful information for the compari- son, the abstract of the publications has been processed with the Latent Dirichlet Allocation (LDA) [17]. To this aim, the abstracts of the publications have been tokenized (i.e. transformed into vectors of words excluding the stop-words), and vectorized (by means of a Bag of Word model) using the Dewey Decimal Classi- fication [18] as a dictionary. Various models of LDA have been trained over the vectorized abstracts by varying the number of topics. The perplexity score over the testing set has been fined-tuned to reach the optimal number of topics for the collection, which resulted in 15, as depicted in Fig. 1. Fig. 1. LDA perplexity score varying the number of topics Fig. 1. LDA perplexity score varying the number of topics Once the optimal LDA model in terms of perplexity is obtained, every abstract has been processed to produce a 15-sized topic vector assigned to the publication’s author names to describe authors in terms of the topics they touched upon. The collection of enriched author names is deduplicated at this stage by applying FDup. 4.1 Dataset Preparation The framework has been configured as follows: – preliminary Last Name First Initial (LNFI) blocking stage to identify poten- tially equivalent authors as authors sharing the surname and the first letter of the first name; in particular, authors having the same surname and the same initial letter of the name are considered potentially equivalent and there- fore processed by the similarity matching function (i.e. “Sandra Smith” and “Steven Smith” will end up in the same block as they share the same blocking key - “smiths”); – preliminary Last Name First Initial (LNFI) blocking stage to identify poten- tially equivalent authors as authors sharing the surname and the first letter of the first name; in particular, authors having the same surname and the same initial letter of the name are considered potentially equivalent and there- fore processed by the similarity matching function (i.e. “Sandra Smith” and “Steven Smith” will end up in the same block as they share the same blocking key - “smiths”); M. De Bonis et al. 212 – pairwise similarity matching based on comparing the co-authors lists and LDA topic vectors. The similarity on the co-authors’ lists is measured by counting the number of common names among the lists (i.e. number of similar names), while the cosine similarity measures the similarity on the topic vectors. Note that the threshold of the co-authors similarity has been set empirically to 2, while the threshold of the topic vectors similarity has been set to 0.5 after a False Positive - False Negative analysis varying the threshold on all the possible comparisons. The FDup decision tree used for this purpose is depicted in Fig. 2. Fig. 2. FDup decision tree used for authors’ disambiguation Fig. 2. FDup decision tree used for authors’ disambiguation The result of the deduplication creates groups of authors sharing at least 2 co- authors and/or having a cosine similarity of their topic vectors greater than 0.5. Such groups have been processed and prepared to be the proper training set for the Graph Neural Network. To this aim, they have been labeled and manually classified into positive groups (i.e. all the authors in the group have the same ORCID), or negative groups (i.e. the group has authors with different ORCIDs). Subsequently, 2-sized groups have been removed (i.e. they are pairs), and the dataset has been balanced to have the same number of positive and negative samples. 4.1 Dataset Preparation Statistics on the groups are reported in Table 1. The dataset used for this research is available on Zenodo.org [19]. Note that the total number of posi- tive and negative groups has been balanced, but the dataset reflects the common situation in real-case scenarios where the number of wrong groups increases with the size of the groups. 4.2 Preliminary Experiments In order to provide meaningful features to the Neural Networks, the abstract associated with each author has been further processed via a pre-trained BERT Sentence Embedding model called bert-base-multilingual-cased. BERT [20] is a method of language representation able to extract high-quality language features from text data, guaranteeing that similar texts produce similar embeddings. A GNN Approach for Evaluating Correctness of Groups of Duplicates 213 Table 1. Training dataset statistics Table 1. Training dataset statistics positive negative global 25,450 25,450 groups of 3 12,291 6,699 groups of 4 to 10 11,882 12,107 groups of more than 10 1,277 6,644 total 50,900 Once the BERT embedding for each graph node has been created, the dataset has been divided into training, validation, and testing set with a ratio of 60%, 20%, and 20%. The idea is to exploit the message passing to update node embeddings with topology information coming from the neighborhood and con- sequently apply a readout (e.g. aggregation of node embeddings) to have the final graph embedding classified (as usual in graph classification tasks). We decided to test 3 base architectures using the most popular GNN layers. Such architectures are described below: – GCN3: a 3-layered Graph Convolutional Network; – GAT3: a 3-layered Graph Attention Network; – Graphormer: a 6-layered graph transformer with Spacial Encoding and Degre – Graphormer: a 6-layered graph transformer with Spacial Encoding and Degree Encoding, as described in the original paper [7]. – Graphormer: a 6-layered graph transformer with Spacial Encoding and Degree Encoding, as described in the original paper [7]. Encoding, as described in the original paper [7]. In every case, the network is finalized by a Linear transformation layer inputted to a sigmoid function to obtain the value as a percentage to be used as a score for evaluating a group. Each architecture has been trained and tested to stop the training process once the overfitting condition was verified (i.e. the loss on the testing set increasing for more than 20 epochs). We chose the best model for each architecture by taking the one from the epoch with the lower loss. Subsequently, models have been evaluated by measuring their performances on the validation set. Results depicted in Table 2 showed the GAT3 model to be the most promising approach for this kind of activity, confirming the outcomes of the literature claiming that putting attention on neighborhoods’ features brings better results. Table 2. 4.2 Preliminary Experiments Preliminary experiments on base Graph Neural Networks model Acc TPR TNR FPR FNR Precision F1-Score Graphormer 75.91 85.02 66.56 33.43 14.97 72.29 78.14 GCN3 78.76 81.63 75.81 24.18 18.36 77.59 79.59 GAT3 81.73 87.16 76.17 23.82 12.83 78.96 82.86 Table 2. Preliminary experiments on base Graph Neural Networks 214 M. De Bonis et al. 4.3 Final Model Architecture Once the best base model has been pointed out, the final architecture to be used for the purpose of this research has been developed. The intuition behind the approach is in the intrinsic characteristics that make a group of duplicates wrong. The first source of errors is in the clustering key that defines initial blocks to limit the number of comparisons. In other words, each node in the graph must include in its encoding also some sort of encoding for the field used for the blocking. Since the strategy adopted for the purpose of this experiment is to apply the LNFI on the authors’ names, the encoding of each node should include also an encoding for author names. The type of encoding used for this purpose is a Bag of Letters-like method, a simplifying representation that imitates the most common Bag of Words representation used in natural language processing and information retrieval. Each author name is coded in a 55-sized feature vector in which each element indicates the frequency of a specific letter in the name (the size of 55 indicates the number of characters in the alphabet used as a dictionary). Such kind of encoding is sufficient to achieve good results since it guarantees a good representation of typos, which may be present in author names but are still coded in similar vectors (in case of typing errors leading to letters swapped in positions, the encoding is exactly the same). An example of how an author name is encoded is shown in Fig. 3. To better describe the differences among the names in the group, each edge has been weighted with the Jaro-Winkler distance between the two names. This way each edge is normalized with the degree of similarity of the names of its nodes. Fig. 3. Simplified example of the author name encoding Fig. 3. Simplified example of the author name encoding The second source of error lies in one (or more) nodes leading to the cre- ation of bigger groups. Such nodes have been identified as “bridges” because they are usually poorly described nodes (with a missing first name, and missing co-authors) matching with nodes belonging to different groups for their intrinsic characteristics, creating bigger groups putting together different entities. Exam- ples of bridges are depicted in Fig. 4, where authors with missing first names matched with authors with two different names resulting in the creation of a big wrong group of duplicates after the closure of the meshes. In order to emphasize such nodes, we developed a centrality encoder that gives a higher weight to nodes which can be potentially a bridge. For this purpose, we used the betweenness centrality measure, which detects the influence a node has over the flow of information in a graph. It is often used to find nodes that serve as a bridge from one part of a graph to another because it measures how A GNN Approach for Evaluating Correctness of Groups of Duplicates 215 Fig. 4. Example of bridges in a disambiguation graph Fig. 4. Example of bridges in a disambiguation graph many times, in proportion, the path needs to pass from a specific node to reach another. To complete the model, we added an LSTM to process the output of the GAT convolutional layers. This intuition comes from the fact that groups in the dataset are not of the same length and a smaller group may be flattened by passing through a high number of convolutional layers. On the contrary, bigger groups must pass through more layers for better representation. In this economy, the concatenation of the outcome of every GAT convolutional layer is inputted to the LSTM which will be able to learn to which extent to consider the results of the first layers of the network (meaningful for small groups) combining them with results of the last layer of the network (meaningful for big groups). Following the previous description, our final architecture is depicted in Fig. 5. p p , p g Table 3 reports the results obtained for the testing set using the newly created model, dividing them on the nature of the block to better describe how the model behaves. Fig. 3. Simplified example of the author name encoding It is shown as the model has an accuracy of about 90% on each class of groups. Table 3. Experiments on the final architecture model Acc TPR TNR FPR FNR Precision F1-Score GAT3NamesEdgesCentrality 89.87 93.03 86.62 13.37 6.96 87.71 90.29 (in groups of 3) 88.56 95.05 76.75 23.24 4.94 88.14 91.46 (in groups of 4 to 10) 88.77 91.48 85.98 14.01 8.59 87.08 89.22 (in groups of more than 10) 96.25 88.64 97.81 2.18 11.35 89.29 88.97 Table 3. Experiments on the final architecture A GNN Approach for Evaluating Correctness of Groups of Duplicates A fixed threshold has been set on the network output for training. Such threshold identifies a correct group when the output score is greater than 0.5, while identifies a wrong group when the output score is lower than 0.5. A thresh- old analysis on the scores of the False Negatives and False Positives allows the fine-tuning of such threshold to reduce the number of errors. Increasing the threshold on the final score increases the model’s overall accuracy. The outcome of the Graph Neural Network can be consequently used to correct wrong groups (i.e. those with a low score) and to promote correct groups (i.e. those with a high score). In the end, it is important to mention that the approach is meant to work also for other types of entities since the correctness of a group depends on attributes of the same nature (e.g. titles when the deduplication is performed over pub- lications, legal names when the deduplication is performed over organizations, etc.). The concept of the bridge remains the same in every scenario and does not depend on the type of entity to be deduplicated. 5 Discussion Usually, a deduplication process ends up with a series of groups with different sizes: smaller groups are the most probable while bigger groups are less. Con- versely, the number of wrong groups among bigger groups is higher because 216 M. De Bonis et al. Fig. 5. Final architecture for the classification of a group of duplicates Fig. 5. Final architecture for the classification of a group of duplicates finding bridges on a more extensive set of nodes is easier. The dataset we cre- ated for this research perfectly reflects the environment described above, as table numbers suggest a coherent distribution among wrong and correct groups. Note that the accuracy of the process is not directly comparable to any other archi- tecture of the literature as emerged that the use case was not studied in other research. The results in terms of accuracy and other metrics depicted in tables for each model architecture tested in this research showed that the main lack of base approach was the misalignment of the accuracies on groups of different sizes. Smaller groups tend to bring down the whole accuracy because the information of the first layers is lost as the other layers of the network process the input. Adding the LSTM at the end of the network allows for overcoming this limitation as it considers meaningful information coming from previous processing steps when needed. In fact, the results of the final model with the LSTM show a balanced accuracy between smaller groups, leading to a higher average accuracy among all the groups in the dataset. It is important to notice that the accuracy of groups with more than 10 entities is very promising, as such groups are the most difficult to be individuated. The percentages of True Positives, True Negatives, False Positives, and False Negatives fit with the use case, as in this kind of activities is important not to have False Negatives which tend to bring the quality of the data to a lower level. 217 A GNN Approach for Evaluating Correctness of Groups of Duplicates References 1. Manghi, P., Atzori, C., De Bonis, M., Bardi, A.: Entity deduplication in big data graphs for scholarly communication. Data Technol. Appl. 54(4), 409–435 (2020) 2. He, Q., Li, Z., Zhang, X.: Data deduplication techniques. In: 2010 International Conference on Future Information Technology and Management Engineering, vol. 1, pp. 430–433. IEEE (2010) ( ) 3. Kolb, L., Thor, A., Rahm, E.: Dedoop: efficient deduplication with hadoop. Proc. VLDB Endow. 5(12), 1878–1881 (2012). https://doi.org/10.14778/2367502. 2367527 4. Zhang, S., Tong, H., Xu, J., Maciejewski, R.: Graph convolutional networks: a comprehensive review. Comput. Soc. Netw. 6(1), 1–23 (2019). https://doi.org/10. 1186/s40649-019-0069-y / 5. Veliˇckovi´c, P., Cucurull, G., Casanova, A., Romero, A., Lio, P., Bengio, Y.: Graph attention networks. arXiv preprint arXiv:1710.10903 (2017) 6. Xu, K., Hu, W., Leskovec, J., Jegelka, S.: How powerful are graph neural networks? arXiv preprint arXiv:1810.00826 (2018) 7. Ying, C., et al.: Do transformers really perform badly for graph representation? Adv. Neural Inf. Process. Syst. 34, 28877–28888 (2021) 8. Manghi, P., Houssos, N., Mikulicic, M., J¨org, B.: The data model of the OpenAIRE scientific communication e-infrastructure. In: Dodero, J.M., Palomo-Duarte, M., Karampiperis, P. (eds.) MTSR 2012. CCIS, vol. 343, pp. 168–180. Springer, Hei- delberg (2012). https://doi.org/10.1007/978-3-642-35233-1 18 9. Manghi, P., et al.: The openaire research graph data model. Zenodo (2019) ( ) 10. Manghi, P., et al.: Openaire research graph dump (2022) 11. Ausiello, G., Firmani, D., Laura, L.: The (betweenness) centrality of critical nodes and network cores, pp. 90–95, July 2013 12. Hochreiter, S., Schmidhuber, J.: Long short-term memory. Neural Comput. 9, 1735–1780 (1997) 13. Vichos, K., et al.: A preliminary assessment of the article deduplication algorithm used for the openaire research graph (2022) 14. Errica, F., Podda, M., Bacciu, D., Micheli, A.: A fair comparison of graph neural networks for graph classification. CoRR abs/1912.09893 (2019). http://arxiv.org/ abs/1912.09893 / 15. Tsuda, K., Saigo, H.: Graph classification, pp. 337–363. Springer, US, Boston, MA (2010). https://doi.org/10.1007/978-1-4419-6045-0 11 16. De Bonis, M., Manghi, P., Atzori, C.: FDup: a framework for general-purpose and efficient entity deduplication of record collections. PeerJ. Comput. Sci. 8, e1058 (2022) ( ) 17. Blei, D.M., Ng, A.Y., Jordan, M.I.: Latent dirichlet allocation. J. Mach. Learn. Res. 3, 993–1022 (2003) 18. Scott, M.L., SCOTT, M.L.: Dewey Decimal Classification. Libraries Unlimited (1998) 19. De Bonis, M.: Deduplication groups evaluator data benchmark. https://doi.org/ 10.5281/zenodo.7997279, June 2023 20. 6 Conclusions and Future Works In this paper, we presented a Graph Neural Network based on the Graph Atten- tion mechanism and the Long Short Term Memory to classify groups of duplicates created by a standard deduplication algorithm. The architecture is provided with a custom encoding for the betweenness centrality of each node and a Bag Of Let- ters model for the name of the author encoding. The experiments performed on the custom dataset created for this purpose showed acceptable measures of accuracy considering the typical use case of the deduplication activity. Accuracy can be further increased by including in the encodings entity attributes used by the deduplication algorithm in charge of performing the pair- wise comparisons, as experiments suggested that the source of errors lies in poorly described fields. y The approach described in this paper uses the Author Name Disambiguation as an example use case but it is possible to turn it into a general purpose app- roach. The “bridge” problem depends not on the entity type being deduplicated but on the 3-stage entity linking paradigm formed by entity blocking, pairwise matching, and closing meshes. To turn the approach into a general purpose, it is sufficient to act on the feature type used to feed the Graph Neural Network in a way that they describe the entity attribute responsible for the equivalence of a pair of entities. The initial ground truth to train the Graph Neural Network with can be created by performing the deduplication on entities with identifiers (e.g. ORCID) to be used for the labeling of groups. Once the network has been trained over the ground truth, it can be used to evaluate the correctness of groups even when they do not contain entities with an identifier. Acknowledgements. This work was partially funded by the EC H2020 projects OpenAIRE-Nexus (Grant agreement 101017452) and FAIRCORE4EOSC (Grant agree- ment 101057264). M. De Bonis et al. 218 References Devlin, J., Chang, M., Lee, K., Toutanova, K.: BERT: pre-training of deep bidi- rectional transformers for language understanding. CoRR abs/1810.04805 (2018). http://arxiv.org/abs/1810.04805 219 A GNN Approach for Evaluating Correctness of Groups of Duplicates A GNN Approach for Evaluating Correctness of Groups of Duplicates Open Access This chapter is licensed under the terms of the Creative Commons Attribution 4.0 International License (http://creativecommons.org/licenses/by/4.0/), which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons license and indicate if changes were made. Access This chapter is licensed under the terms of the Creative Commons ution 4.0 International License (http://creativecommons.org/licenses/by/4.0/), The images or other third party material in this chapter are included in the chapter’s Creative Commons license, unless indicated otherwise in a credit line to the material. If material is not included in the chapter’s Creative Commons license and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder.
https://openalex.org/W2971515279
http://openaccess.sgul.ac.uk/111111/5/ntz151.pdf
English
null
Interest in and Use of Smoking Cessation Support Across Pregnancy and Postpartum
Nicotine & tobacco research
2,019
cc-by
7,922
Felix Naughton PhD1, , Luis Reeves Vaz PhD2, Tim Coleman MD2, Sophie Orton PhD2, Katharine Bowker PhD2, Jo Leonardi-Bee PhD3, Sue Cooper PhD2, Laura Vanderbloemen PhD4, Stephen Sutton PhD5, Michael Ussher PhD6,7 Felix Naughton PhD1, , Luis Reeves Vaz PhD2, Tim Coleman MD2, Sophie Orton PhD2, Katharine Bowker PhD2, Jo Leonardi-Bee PhD3, Sue Cooper PhD2, Laura Vanderbloemen PhD4, Stephen Sutton PhD5, Michael Ussher PhD6,7 Downloaded from https://academic.oup.com/ntr/article-abstract/22/7/1178/5553845 by guest on 23 June 2020 1School of Health Sciences, University of East Anglia, Norwich, NR4 7TJ, UK; 2Division of Primary Care, UK Centre for Tobacco and Alcohol Studies and National Institute for Health Research School for Primary Care Research, University of Nottingham, Nottingham, UK; 3Division of Epidemiology and Public Health, University of Nottingham, Nottingham, UK; 4Department of Primary Care and Public Health, Imperial College London, London, UK; 5Behavioural Science Group, Institute of Public Health, University of Cambridge, CB2 0SR, UK; 6Population Health Research Institute, St Georges, University of London, London, UK; 7Institute for Social Marketing and Health, University of Stirling, Stirling, UK Corresponding Author: Felix Naughton, PhD, School of Health Sciences, University of East Anglia, Norwich, NR4 7TJ, UK; Telephone: 44 (0) 1603 593459; E-mail: f.naughton@uea.ac.uk This is an Open Access article distributed under the terms of the Creative Commons Attribution License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted reuse, distribution, and reproduction in any medium, provided the original work is properly cited. © The Author(s) 2019. Published by Oxford University Press on behalf of the Society for Research on Nicotine and Tobacco. Nicotine & Tobacco Research, 2020, 1178–1186 doi:10.1093/ntr/ntz151 Original investigation Received May 19, 2019; Editorial Decision August 12, 2019; Accepted August 15, 2019 Nicotine & Tobacco Research, 2020, 1178–1186 doi:10.1093/ntr/ntz151 Original investigation Received May 19, 2019; Editorial Decision August 12, 2019; Accepted August 15, 2019 © The Author(s) 2019. Published by Oxford University Press on behalf of the Society for Research on Nicotine and Tobacco. Abstract lower quitting confidence.13 Accepting a referral or accessing spe- cialist cessation support is associated with having a mental health problem, when pregnant women with and without mental health problems were compared,14 and, among postpartum smokers, higher education.15 However, these cross-sectional studies have only inves- tigated a relatively narrow range of potential predictors. Identifying predictors of interest and uptake of a variety of cessation support in this population will help guide and inform interventions that aim to increase support engagement. Abstract Background:  Limited research exists on interest in and use of smoking cessation support in preg- nancy and postpartum. Methods:  A longitudinal cohort of pregnant smokers and recent ex-smokers were recruited in Nottinghamshire, United Kingdom (N = 850). Data were collected at 8–26 weeks gestation, 34–36 weeks gestation, and 3 months postpartum and used as three cross-sectional surveys. Interest and use of cessation support and belief and behavior measures were collected at all waves. Key data were adjusted for nonresponse and analyzed descriptively, and multiple regression was used to identify associations. Results:  In early and late pregnancy, 44% (95% CI 40% to 48%) and 43% (95% CI 37% to 49%) of smokers, respectively, were interested in cessation support with 33% (95% CI 27% to 39%) inter- ested postpartum. In early pregnancy, 43% of smokers reported discussing cessation with a mid- wife and, in late pregnancy, 27% did so. Over one-third (38%) did not report discussing quitting with a health professional during pregnancy. Twenty-seven percent of smokers reported using any National Health Service (NHS) cessation support and 12% accessed NHS Stop Smoking Services during pregnancy. Lower quitting confidence (self-efficacy), higher confidence in stopping with support, higher quitting motivation, and higher age were associated with higher interest in sup- port (ps ≤ .001). A recent quit attempt and greater interest in support was associated with speaking to a health professional about quitting and use of NHS cessation support (ps ≤ .001). Conclusions:  When asked in early or late pregnancy, about half of pregnant smokers were inter- ested in cessation support, though most did not engage. Cessation support should be offered throughout pregnancy and after delivery. Implications:  There is relatively high interest in cessation support in early and late pregnancy and postpartum among smokers; however, a much smaller proportion of pregnant or postpartum women access any cessation support, highlighting a gap between interest and engagement. 1178 1179 Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 Reflecting women’s interest, offers of cessation support should be provided throughout pregnancy and after delivery. Increasing motivation to quit and confidence in quitting with assistance may enhance interest in support, and promoting the discussion of stopping smoking between women and health practitioners may contribute to higher support engagement rates. Participants Women aged 16 years or above, between 8 and 26 weeks pregnant, and who self-reported being either current smokers (self-reported occasional smokers or daily smokers) or having smoked in the 3  months prior to becoming pregnant were eligible for participa- tion. Women who were unable to understand study procedures suffi- ciently to provide consent or were unable to read or understand the written questionnaires in English were excluded. A likely important factor in accessing or accepting the offer of ces- sation support in pregnancy is an individual’s interest in the support being offered. There have been very few assessments of interest in cessation support among pregnant smokers and, when undertaken, this has been only for a limited selection of interventions. An English cross-sectional study conducted in 2004 found that 60% of preg- nant smokers interviewed in early pregnancy indicated an interest in receiving help with stopping, with interest highest for in-person behavioral support followed closely by self-help materials.9 We are not aware of any longitudinal studies examining interest in cessation support over time during pregnancy, nor for a wider selection of intervention types, though findings have shown that quit attempts continue throughout pregnancy and postpartum, suggesting interest may be maintained over time.10 Findings from such work could help prioritize which type of support to offer and when. For example, in recent years, self-help has emerged as a promising and low-cost ap- proach to supporting cessation in pregnancy. Reviews have demon- strated that self-help11 and digital self-help12 cessation interventions are effective in pregnancy. Currently, though, we do not know how pregnant smokers view these types of interventions and how inter- ested they are in using them. Design Three cross-sectional surveys, taken from a longitudinal cohort of pregnant and postpartum women (the Pregnancy Lifestyle Survey), were used for this study.10,16 Data were collected at 8–26 weeks ges- tation (wave 1), 34–36 weeks gestation (wave 2), and 3 months after childbirth (wave 3). Introduction Reducing smoking rates in pregnancy remains a global public health priority.1 While smoking in pregnancy rates have continued to reduce over the last decade,2 rates remain relatively high in many European and American nations. The United Kingdom is among the countries with the highest smoking in pregnancy rates.2 Based on routinely collected data at the time of delivery in England in 2018,3 recent reductions of smoking in pregnancy rates appears to have stalled, remaining at 11%. Increased efforts and new approaches are likely needed in order to reach the English national ambition of no more than 6% of women smoking in pregnancy by the end of 2022.4 The primary aim of this study was to assess the interest in, use of, and attitudes toward smoking cessation support during preg- nancy and the immediate postpartum period among current or re- cent ex-smokers. Our secondary aims were to identify predictors of interest in and use of cessation support during pregnancy and to identify perceived barriers to using self-help cessation support over the pregnancy and postpartum period. One key approach to reducing smoking in pregnancy is the provision of smoking cessation support. Guidance from the UK National Institute for Health and Care Excellence (NICE) recom- mends that all pregnant women are carbon monoxide (CO) breath tested, with all those identified as smokers provided with risk infor- mation and referred to local National Health Service (NHS) Stop Smoking Services (SSS) for specialist behavioral support and nico- tine replacement therapy (NRT) where appropriate.5 This “opt-out” referral pathway can increase both access rates to the English SSS, from 11% to 18% in one site,6 and abstinence rates.6,7 Use of other smoking cessation support among pregnant smokers is largely un- known. This includes discussions about stopping smoking with health professionals, the use of the NHS telephone helpline, and use of NRT outside of the SSS other than in primary care, where NRT prescription rates around the time of pregnancy are estimated to be 11%.8 Measures Copies of the questionnaires used at each wave can be found in a separate publication.10 The questions used in the current study are described below and used a range of response formats including yes/ no responses, multiple choices, and five-point Likert-type scales for attitudinal items. Interest, Use, and Attitudes Toward Smoking Cessation Support At all three waves, participants were asked to rate their interest in receiving help with stopping smoking in general and their interest in, difficulty in using, and perceived usefulness of nine different types of smoking cessation support using a 1–5 scale (“not at all” to “ex- tremely”). These were split into health practitioner-orientated sup- port (telephone helpline, group sessions, and one-to-one sessions) and self-help support (booklet, DVD, web site, text messages, e-mail, and smartphone/digital device application). Participants were also asked to indicate whether they had accessed any of the cessation support offered by the NHS, though not necessarily delivered by the NHS, since finding out they were pregnant (wave 1) or since com- pleting the last survey (waves 2 and 3). These included talking to a General Practitioner (GP)/nurse or midwife about stopping smoking, attending an NHS Stop Smoking Service group or individual session, calling a stop smoking helpline, or using NRT (from any source). At baseline only, participants were asked about their access to elec- tronic/digital devices for using self-help. In all three waves, parti- cipants were asked to indicate from a list of statements, informed by prior work,13 any potential barriers toward accessing or using self-help cessation support. For the exploratory analysis investigating potential correlates of general interest in cessation support at baseline, discussion of stop- ping smoking with a health professional at baseline, and use of NHS cessation support (telephone helpline, group sessions, one-to-one sessions, or NRT) in late pregnancy, we used linear regression and logistic regression to test the univariable associations with base- line characteristics. Interest was measured on a 1–5 scale and use was coded as a binary “use” or “nonuse” variable. Following this, all predictors that were associated with interest in or use of cessa- tion support in the univariable analyses at p < .1 were included in multivariable models,30 providing they were not found to be col- linear (variance inflation factor ≥10). Procedure Recruitment to the Pregnancy Lifestyle Survey took place between August 2011 and August 2012 at two antenatal clinics within Nottingham University Hospitals NHS Trust (City Hospital and Queen’s Medical Centre). To ensure representative sampling, re- searchers attended on average five different clinic sessions per week. All women self-reporting to be between 8 and 26 weeks gestation attending routine antenatal appointments at these clinics were in- vited by a researcher or a member of clinic staff to complete an anonymous screening questionnaire to determine study eligibility. Those who met the criteria were directed to read a participant infor- mation sheet describing the study and, if willing, to then complete a baseline questionnaire; women could also seek further informa- tion from the researcher/staff member. On completion of the baseline questionnaire, women were offered a £5 high street shopping vou- cher as recognition for the time taken to complete the questionnaire. Written informed consent was obtained from those who wished to complete the two follow-up questionnaires, who made up the sample of the study. Little is also known about which characteristics of pregnant smokers are associated with interest in or the uptake of cessation support. Existing studies have shown that interest in cessation coun- seling among pregnant smokers is associated with being older, having a lower income, having a significant other who advises quitting, and Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 1180 partner’s smoking status, nicotine dependence using the “Heaviness of Smoking Index,” 26 intentions and determination to quit smoking and confidence (self-efficacy) in achieving this,27 support for stop- ping smoking from friends/family, beliefs about the harm of smoking during pregnancy,27 and whether participant had talked to a health professional (midwife, nurse, or GP) about quitting. Smoking-related norm predictors included injunctive norm (“people important to me think I should stop smoking”) and descriptive norm (knowing others who smoked throughout pregnancy).28 All participants were posted a second questionnaire at 34–36 weeks gestation. In addition, participants who provided an e-mail address were e-mailed a link to a web-based version of the ques- tionnaire and sent one e-mail reminder. Nonrespondents were sent one postal/e-mail reminder letter and then contacted by telephone; if no response was received, participants were texted a reminder. Participants who were successfully contacted via telephone were in- vited to complete the questionnaire during the call. Measures Missing data for the predictor variables (i.e., not having answered survey questions at either base- line or late pregnancy follow-up) were addressed through including missing data as either an additional category for categorical vari- ables or using a dummy variable to indicate missingness for con- tinuous variables. As two out of three of the predictor analyses were cross-sectional and they were part of a secondary aim of the study, we did not perform multiple imputation for these. Sample Size and Analysis A more detailed description of the procedure for enrollment and data collection and sample characteristics is provided else- where.16 The study was approved by Derbyshire Research Ethics Proportionate Review Sub-Committee (11/EM/0078). Analysis Descriptive statistics were used to report interest in and use of smoking cessation services as well as attitudes to smoking cessation support and barriers to self-help use for all three waves. For the preva- lence estimates of interest in and attitudes toward smoking cessation support among smokers, responses were dichotomized by grouping the five possible responses: not at all/a little (no interest) versus mod- erately/very much/extremely (interest), with the same thresholds for determining low versus high perceived usefulness and difficulty ac- cessing/using. Multiple imputation using chained equations was per- formed using 20 iterations29 for the percentage who were interested in cessation support at late pregnancy and postpartum. Missing data on interest in and attitudes toward smoking cessation support was imputed using a logit imputation method based on the following baseline factors: maternal age, ethnicity, highest educational quali- fication, gestation of pregnancy, smoking status, urge to smoke, general health status, depression status, parity, and smoking status in previous pregnancy. Predetermined Predictor Variables of Interest and Use of Cessation Support A broad range of potential demographic and psychosocial predictors were included based on previous evidence in predicting interest or uptake in cessation support13–15 and cessation17,18; although relatively little is known about this, we had no prior hypotheses regarding potential associations. Background and health predictors included gestation, general health (general health rating from excellent to poor and whether they had a long-standing physical or mental illness or disability),19 depression (during the past month bothered by feeling down, depressed, or hopeless or having little interest or pleasure in doing things),20 the Perceived Stress Scale 4 (PSS-4),21 ethnicity, age, and index of multiple deprivation.22 Smoking-related predictors included general smoking behavior,23,24 urges to smoke,25 Procedure Participants were sent the final questionnaire 3 months after their delivery using the same method as described above for follow-up in later pregnancy. All participants who completed follow-up question- naires were sent a £5 shopping voucher for each follow-up. Sample Size and Analysis The sample size calculation for the cohort survey was based on estimating the number of quit attempts initiated during pregnancy among smokers and is reported elsewhere.16 Factors Associated With Discussing Stopping Smoking With a Health Professional Among Smokers in Early Pregnancy Factors Associated With Discussing Stopping Smoking With a Health Professional Among Smokers in Early Pregnancy One-third reported that the current pregnancy was their first and, among those who had been pregnant before, around two-thirds smoked during their last pregnancy. Fifty-seven percent reported being current smokers and, among these, over half had a partner who smoked. Almost all respondents owned a mobile phone (97%) and 71% percent owned a smartphone. Ten out of 23 prespecified baseline variables were univariable correlates (p < .05) of whether or not smokers reported having had a discussion with a health professional (midwife, nurse, or GP) about quitting smoking in early pregnancy (Supplementary Table S1). Of these, two remained statistically significant in the multivariable ana- lysis: having previously tried to quit during the current pregnancy (odds ratio [OR] 3.0, 95% CI 2.0 to 4.6) and interest in support (OR 5.4, 95% CI 3.6 to 8.2). Predictors of use of NHS cessation support among smokers by late pregnancy Nine baseline variables were associated with use of NHS-provided cessation support by late pregnancy (p < .05) among baseline smokers (Table 4). Three variables remained statistically significant in the multivariable model: having previously tried to quit during the current pregnancy (OR 2.7, 95% CI 1.3 to 5.5), older age (OR 1.1, 95% CI 1.0 to 1.1), and interest in support (OR 1.8 95% CI 1.4 to 2.3). Interest and Use of Cessation Support and Perceived Barriers to Accessing Self-Help At baseline, during early pregnancy, 44% (95% CI 40% to 48%) of current smokers (Table 2) and 9% (95% CI 6% to 12%) of re- cent ex-smokers (not shown in table) reported being interested in receiving help with stopping smoking. Among smokers, the spe- cific support types rated of most interest were one-to-one sessions (42%), followed by self-help booklets (39%). Imputed survey results showed that interest in support to stop smoking, among smokers, changed little in late pregnancy (43%; 95% CI 37% to 49%) rela- tive to early pregnancy but dropped to 33% (95% CI 27% to 39%) 3 months postpartum. Self-help booklets were of most interest (49%) followed by self-help web sites (45%) in late pregnancy. Across all timepoints, one-to-one sessions had the highest perceived usefulness and self-help support had the lowest levels of perceived difficulty to access and use. Results At the late pregnancy and postpartum follow-ups, 509 (60%) and 476 (56%) of baseline participants completed a questionnaire re- spectively. Table 1 presents the baseline sample characteristics (N = 850), full details of which are reported elsewhere.16 On average, participants were 26 years old and 16 weeks gestation at baseline. Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 1181 Table 1. Characteristics of the cohort (N = 850) Table 1. Characteristics of the cohort (N = 850) Characteristic Mean (SD) Gestation (weeks) (n = 806) 15.6 (4.1) Age (n = 847) 25.8 (5.6) Perceived stress scale (PSS-4) (n = 819) 10.6 (3.5)* n (%)** Qualifications: GCSEs or similar*** 594/850 (69.9) Home ownership 166/846 (19.6) Cars or vans available for use in household 446/839 (53.2) In paid work 383/850 (45.1) Ethnicity: Caucasian 783/844 (92.8) Baseline smoker 488/850 (57.4) First pregnancy 275/839 (32.8) If pregnant before, smoked during last pregnancy 368/561 (65.6) Owns a mobile phone 776/797 (97.4) Owns a smartphone 547/774 (70.7) Mobile phone bundle includes free text messages 610/778 (78.4) common type of support used was NRT without additional behav- ioral support (Table 3). In early pregnancy, the most common barriers for using self-help cessation support was preferring to receive support from a health professional (19% smokers, 6% recent ex-smokers) and thinking self-help would not be of much help with quitting (14% smokers, 7% recent ex-smokers). These remained the two most common bar- riers at the two follow-up timepoints. Factors Associated With Interest in Cessation Support Among Smokers in Early Pregnancy Among smokers, 11 out of 23 prespecified variables were univariable correlates of interest in receiving cessation support in general at base- line (p < .05; Table 4). When these were entered into a multivariable model, the following five predictors remained statistically significant: higher determination to quit (B = 0.42, 95% CI 0.31 to 0.54), lower confidence in stopping until the end of pregnancy (B = −0.23, 95% CI −0.35 to −0.12), higher confidence in stopping with health profes- sional support (B = 0.22, 95% CI 0.11 to 0.33), having spoken to a health professional about stopping (B = 0.77, 95% CI 0.55 to 0.98), and higher age (B = 0.03, 95% CI 0.01 to 0.05). *Maximum score on PSS-4 is 16. **Numbers may not add up to 850 (total sample size) due to missing data. ***General Certificate of Secondary Education (GCSE) is a qualification/exam taken by school students in the United Kingdom (except Scotland) usually when aged between 14 and 16 years old. Discussion This study found that a substantial minority of pregnant smokers are interested in getting smoking cessation support and that this level of interest is as high at the end of pregnancy and drops only a modest amount by 3  months postpartum. While there is relatively high interest in cessation support, a much smaller proportion of women accessed any cessation support in pregnancy, highlighting a gap be- tween interest and engagement. Our study indicates that speaking to a health care professional about stopping smoking, being motivated to stop, and having low confidence in doing so without assistance could influence interest in NHS-provided cessation support. Interest in support, in turn, prospectively predicted use of NHS cessation support. However, women who had not tried to quit early on in their pregnancy were less likely to have used support later on in pregnancy compared with those who had tried to quit, independent of quitting motivation and interest in support. This suggests that the In early pregnancy, less than half of smokers (43%) reported having talked to a midwife about stopping smoking and fewer had spoken to a GP or nurse (27%) about this (Table 3). Between early and late pregnancy, 27% of smokers reported speaking to a mid- wife about stopping. Across the whole of pregnancy, over one-third (38%) of smokers did not report having talked with either a mid- wife, GP, or nurse about stopping smoking (not shown in table). Out of those participants who smoked at all during pregnancy, 12% reported accessing Stop Smoking Service support (group or one-to-one support) at some point in their pregnancy (not shown in table). Across the whole of pregnancy 17% of participants reported accessing at least one form of NHS-provided cessation support, which rose to 27% when restricted to those reporting smoking at both baseline and end of pregnancy (not shown in table). The most Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 1182 Table 2. Discussion Interest in and attitudes toward smoking cessation support among smokers (N = 488) Type of support* Early pregnancy (8–26 weeks gestation) Late pregnancy (34–36 weeks gestation)** Postpartum (3 months)** n (%, 95% CI) % (95% CI) % (95% CI) Interest in receiving help with stopping 212 (44.0, 39.5 to 48.4) 42.8 (37.0 to 48.6) 32.9 (26.9 to 38.8) Health professional telephone helpline   Interest 92 (20.5) 25.2 21.8   Perceived usefulness 112 (24.7) 24.6 25.5   Difficulty accessing/using 153 (34.3) 30.9 31.9 Health professional group sessions   Interest 62 (14.1) 14.9 12.2   Perceived usefulness 128 (28.3) 28.0 24.9   Difficulty accessing/using 179 (40.3) 39.5 43.0 Health professional one-to-one   Interest 190 (41.7) 43.9 38.1   Perceived usefulness 225 (49.2) 49.8 48.3   Difficulty accessing/using 155 (34.9) 33.0 34.0 Self-help booklet   Interest 177 (39.3) 48.9 39.3   Perceived usefulness 182 (40.1) 46.0 36.6   Difficulty accessing/using 135 (30.1) 21.5 20.3 Self-help DVD   Interest 154 (34.8) 37.9 29.0   Perceived usefulness 163 (36.1) 39.8 29.8   Difficulty accessing/using 130 (29.3) 20.5 24.8 Self-help web site   Interest 148 (33.9) 44.7 37.0   Perceived usefulness 160 (35.5) 42.2 32.1   Difficulty accessing/using 132 (30.1) 24.2 27.7 Self-help text messages   Interest 133 (30.5) 40.5 30.4   Perceived usefulness 138 (30.5) 40.2 30.3   Difficulty accessing/using 128 (28.8) 23.1 22.6 Self-help emails   Interest 112 (25.7) 32.8 24.2   Perceived usefulness 124 (27.5) 32.2 24.7   Difficulty accessing/using 138 (31.0) 25.8 24.3 Self-help phone app   Interest 146 (33.2) 40.2 36.3   Perceived usefulness 159 (35.3) 43.3 37.0   Difficulty accessing/using 136 (30.7) 25.4 22.7 *Responses were dichotomized by grouping the five possible responses: not at all/a little (no interest) versus moderately/very much/extremely (interest). The same Interest in and attitudes toward smoking cessation support among smokers (N = 488) process of trying and failing to quit may be helpful for some by prompting them to seek assistance. the impact of this by performing multiple imputation for key variables, this is a limitation. A further limitation is that we did not collect data during the second trimester of participant’s preg- nancies, and so there may have been fluctuations in variables of interest that we were unable to capture. Also, we did not collect data on views and use of e-cigarettes in this survey as, when the survey was carried out, e-cigarette usage was still relatively low. Discussion We have now undertaken research to explore this in pregnancy in several separate recent studies.31,32 Similarly, the use of smart- phone apps were somewhat lower when the study was undertaken compared to current usage, and interest in this may have grown in recent years. While our analysis investigating predictors of use of support was prospective, the correlates of interest in cessation support and discussion about stopping smoking analyses were cross-sectional and so we are limited in our ability to indicate pos- sible directions of causality. the impact of this by performing multiple imputation for key variables, this is a limitation. A further limitation is that we did not collect data during the second trimester of participant’s preg- nancies, and so there may have been fluctuations in variables of interest that we were unable to capture. Also, we did not collect data on views and use of e-cigarettes in this survey as, when the survey was carried out, e-cigarette usage was still relatively low. We have now undertaken research to explore this in pregnancy in several separate recent studies.31,32 Similarly, the use of smart- phone apps were somewhat lower when the study was undertaken compared to current usage, and interest in this may have grown in recent years. While our analysis investigating predictors of use of support was prospective, the correlates of interest in cessation support and discussion about stopping smoking analyses were cross-sectional and so we are limited in our ability to indicate pos- sible directions of causality. Implications for Practice One key implication is that, based on findings related to interest levels, the offer of cessation support should be provided throughout pregnancy and postpartum. In the United Kingdom at least, cur- rently policy relating to the offer of cessation support is weighted toward early pregnancy, even if strictly following NICE guidance.5 This is reflected by our findings, where we found far fewer smokers reporting a discussion with a health professional about stopping smoking in mid-to-late pregnancy compared with early pregnancy. This matches other research showing that less than one quarter of health professionals follow up women after an initial discussion about smoking,14,44 which can inadvertently reassure women that quitting smoking may not be a priority.46 Despite relatively high rates of interest in one-to-one cessation support among baseline smokers (42%), only a small proportion (12%) of our cohort who smoked at all during pregnancy reported using the NHS Stop Smoking Services. This very closely matches the 11% access rate identified from NHS records in another study in the same region, prior to implementation of an opt-out pathway.6 Low rates of access to specialist cessation support among pregnant smokers has been reported historically33,34 and can be increased using an opt-out referral pathway,6,7, which also increases abstinence. The most common type of cessation support used by women in our co- hort that the NHS provides was NRT. This is despite safety concerns and reluctance to recommend NRT among many practitioners.35,36 However, use of NRT without guidance or behavioral support is unlikely to be effective in pregnancy as even with guidance and sup- port it is only of borderline efficacy37 and use of over-the-counter NRT is not associated with abstinence in the general population.38 Suboptimal adherence39,40 and increased nicotine metabolism41 indi- cate that higher doses of NRT combined with adherence support is likely required to make NRT more effective in pregnancy. To promote interest in cessation support, which was predictive of accessing support, our findings suggest that increasing motiv- ation to stop smoking, ensuring health professionals discuss stop- ping smoking, and enhancing women’s confidence that their chances of stopping smoking are higher if they receive professional support are important targets for interventions. Findings in Context with a health professional’s help and support interest, which had not been examined before. Prior international research has found that while most practitioners working with pregnant women ask about smoking status,42,43 far fewer discuss cessation and only around one-third discuss treatment options.42–44 Our findings broadly sup- port this from the U.K. pregnant women’s perspective – fewer than two-thirds of smokers in our sample reported discussing stopping smoking with a practitioner. U.K. research undertaken over the last two decades report similar findings suggesting that little has changed in this regard.13,45 Our finding that just under half of pregnant smokers were interested in receiving cessation support in early pregnancy corresponds closely with Ussher et al.9 who found in 2004 that 60% of women were interested in cessation support in early pregnancy. As with this prior study, our data also showed similar interest levels between self-help and one-to-one cessation support, with low interest in group support. However, in our study, the point estimates for difficulty accessing one-to-one support were higher across all waves than the self-help options, suggesting perceived access could inhibit uptake, particu- larly in late pregnancy. No studies have previously explored the rela- tive interest in different types of self-help among pregnant women. Booklets were of most interest across all waves and with mostly the highest perceived usefulness compared to other estimates for self-help types. Though there were only minor differences between the self-help types, e-mail appeared to be of least interest and perceived usefulness. Strengths and Limitations Reported use of National Health Service (NHS) provided smoking cessation support split by smoking status Early pregnancy Early–late pregnancy** Postpartum use of National Health Service (NHS) provided smoking cessation support split by smoking status *Noncumulative support usage. Rates in each time period do not include usage in earlier time period and represent what was reported in each questionnaire. **Period between the early pregnancy questionnaire and the late questionnaire. Includes 10 women who had given birth prior to completing the 34-week questionnaire Strengths and Limitations We believe this was the first longitudinal cohort study looking at smoking cessation support interest and use over pregnancy and into the postpartum period. We examined women’s views and use of a broad range of support types, across the three timepoints in a large cohort. Although participants were recruited from one area, the sample as a whole demonstrated similar characteristics to preg- nant smokers in national cohort studies16 and so key findings may be generalizable to pregnant smokers across the United Kingdom. Furthermore, very few prior studies have examined a wide range of potential predictors of interest and use of cessation support. Common to many cohort studies, we experienced moderate at- trition at follow-ups. Although not excessive and we minimized Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 1183 Table 3. Reported use of National Health Service (NHS) provided smoking cessation support split by smoking status Type of support* Early pregnancy Early–late pregnancy** Postpartum Recent ex-smoker (N = 362) Smoker (N = 488) Recent ex-smoker (N = 265)*** Smoker (N = 256)*** Recent ex-smoker (N = 196) Smoker (N = 280) n (%) n (%) n (%) n (%) n (%) n (%) Talked to GP/Nurse about giving up 22 (6.1) 132 (27.0) 3 (1.1) 28 (10.9) 3 (1.5) 36 (12.9) Talked to midwife about giving up 36 (9.9) 211 (43.2) 16 (6.0) 68 (26.6) 3 (1.5) 24 (8.6) Accessed/used any NHS smoking cessation support 29 (8.0) 90 (18.4) 21 (7.9) 66 (25.8) 6 (3.1) 38 (13.6)   Attended NHS stop smoking service group session 3 (0.8) 21 (4.3) 1 (0.4) 10 (3.9) 0 (0.0) 5 (1.8)   Attended solo/individual NHS stop smoking service session 10 (2.8) 25 (5.1) 15 (5.7) 23 (9.0) 1 (0.5) 7 (2.5)   Called a stop smoking telephone helpline 5 (1.4) 18 (3.7) 3 (1.1) 7 (2.7) 0 (0.0) 5 (1.8)   Used nicotine replacement therapy 25 (6.9) 64 (13.1) 16 (6.0) 57 (22.3) 6 (3.1) 31 (11.1) *Noncumulative support usage. Rates in each time period do not include usage in earlier time period and represent what was reported in each questionnaire. **Period between the early pregnancy questionnaire and the late questionnaire. Includes 10 women who had given birth prior to completing the 34-week questionnaire Table 3. Implications for Practice Practitioners often do not initiate discussions about quitting smoking with pregnant clients because of low levels of confidence, feelings of being underskilled, and concern about damaging the client relationship.35 The use of carbon monoxide monitoring may help with facilitating a discus- sion about stopping smoking, from both the perspective of prac- titioners35,47 and pregnant women,48 and enhance motivation to quit. When combined with an opt-out referral, it can increase the uptake of support.6,7 Training health practitioners can also increase In line with a further study,13 we found higher age and lower quitting self-efficacy associated with interest in receiving support. We also found a positive association between confidence in quitting 1184 Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 Table 4. None declared. None declared. 17. Riaz  M, Lewis  S, Naughton  F, Ussher  M. Predictors of smoking cessa- tion during pregnancy: a systematic review and meta-analysis. Addiction. 2018;113(4):610–622. Conclusion Almost half of pregnant smokers in our cohort were interested in help to stop smoking and this changed little from early to late pregnancy. Yet rates of discussing stopping smoking with a health professional reduced after early pregnancy and a substantial minority of pregnant smokers did not report having a discussion with a health profes- sional about stopping at any point in pregnancy. With one-quarter of smokers accessing any NHS-provided support and less than half of these accessing stop smoking services, the gap between support interest and access indicates a missed opportunity. Our findings in- dicate that increasing motivation to quit, enhancing interest in sup- port, the discussion of stopping smoking with health practitioners, and confidence in quitting with cessation support may contribute to higher support use rates. In addition, nonroutine forms of cessation support, including self-help, should be promoted given evidence of effectiveness, low cost, and their popularity among this population. 8. Dhalwani NN, Szatkowski L, Coleman T, Fiaschi L, Tata LJ. Prescribing of nicotine replacement therapy in and around pregnancy: a population- based study using primary care data. Br J Gen Pract. 2014;64(626):e554– 560. doi: 10.3399/bjgp14X681361. 9. Ussher  M, West  R, Hibbs  N. A survey of pregnant smokers’ interest in different types of smoking cessation support. Patient Educ Couns. 2004;54(1):67–72. 10. Cooper  S, Orton  S, Leonardi-Bee  J, et  al. Smoking and quit attempts during pregnancy and postpartum: a longitudinal UK cohort. BMJ Open. 2017;7(11):e018746. 11. Naughton F, Prevost AT, Sutton S. Self-help smoking cessation interven- tions in pregnancy: a systematic review and meta-analysis. Addiction. 2008;103(4):566–579. 12. Griffiths SE, Parsons J, Naughton F, Fulton EA, Tombor I, Brown KE. Are digital interventions for smoking cessation in pregnancy effective? A sys- tematic review and meta-analysis. Health Psychol Rev. 2018;12(4):333– 356. doi: 10.1080/17437199.2018.1488602. Implications for Practice 22, No. 7 1185 the assessment of smoking and support provision49, and the use of prompts in maternity paperwork and electronic systems may also facilitate appropriate discussions.35 In terms of factors influencing uptake of support, being younger was associated with a reduced like- lihood of using practitioner-orientated cessation support. This sug- gests a potential targeting opportunity. Supplementary Material 13. Ussher  M, Etter  JF, West  R. Perceived barriers to and benefits of at- tending a stop smoking course during pregnancy. Patient Educ Couns. 2006;61(3):467–472. Supplementary data are available at Nicotine and Tobacco Research online. 14. Howard  LM, Bekele  D, Rowe  M, Demilew  J, Bewley  S, Marteau  TM. Smoking cessation in pregnant women with mental disorders: a cohort and nested qualitative study. BJOG. 2013;120(3):362–370. References 1. Ussher M, Naughton F, Notley C, Bauld L. Smoking and pregnancy: risk factors, women’s experiences, and interventions. In: Ussher J, Chrisler J, Perz J, eds. Routledge International Handbook of Women’s Sexual and Reproductive Health. London, UK: Routledge; 2019. 2. Lange S, Probst C, Rehm J, Popova S. National, regional, and global preva- lence of smoking during pregnancy in the general population: a systematic review and meta-analysis. Lancet Glob Health. 2018;6(7):e769-e776. doi: 10.1016/S2214-109X(18)30223–7. Our findings also reinforce previous research9 by highlighting the popularity of self-help cessation support. Current UK guidance only recommends promoting self-help to those who accept the offer of formal cessation support but who are struggling to engage.5 This may be a missed opportunity, given recent evidence of effectiveness of digital self-help approaches for pregnant smokers,12 particularly when delivered by SMS text message.27,50 3. Health and Social Care Information Centre. Statistics on Women’s Smoking Status at Time of Delivery, England—2017–18. 2018; http://con- tent.digital.nhs.uk/catalogue/PUB20899/stat-wome-smok-time-deli-eng- q4-15-16-rep.pdf. Accessed May 26, 2018. 4. Department of Health and Social Care. Tobacco Control Delivery Plan 2017–2022. London, UK: Department of Health and Social Care; 2018. 4. Department of Health and Social Care. Tobacco Control Delivery Plan 2017–2022. London, UK: Department of Health and Social Care; 2018. One less prominent but nonetheless important finding was that some of the most predictive factors in determining smoking and a failure to quit smoking in pregnancy, that is, socioeconomic status/de- privation, nicotine dependence, and having a partner that smokes,17 did not predict interest in or use of support in our cohort. From a public health perspective, this is positive and suggests these factors may not inhibit the seeking of and acceptance of cessation support. 5. National Institute for Health and Care Excellence. Quitting Smoking in Pregnancy and Following Childbirth. NICE Public Health Guidance 26. London, UK: National Institute for Health and Care Excellence; 2010. 6. Campbell KA, Cooper S, Fahy SJ, et al. “Opt-out” referrals after identifying pregnant smokers using exhaled air carbon monoxide: impact on engage- ment with smoking cessation support. Tob Control. 2017;26(3):300–306. doi: 10.1136/tobaccocontrol-2015–052662. 7. Bell R, Glinianaia SV, Waal ZV, et al. Evaluation of a complex healthcare intervention to increase smoking cessation in pregnant women: inter- rupted time series analysis with economic evaluation. Tob Control. 2018;27(1):90–98. Implications for Practice Univariable and multivariable models for correlates/predictors among smokers of (1) general interest in cessation support at baseline and (2) use of National Health Service cessation support in late pregnancy Baseline variables Dependent variable: interest in cessation support at baseline (N = 482) Dependent variable: use of cessation support in late pregnancy (N = 263) Univariable model Multivariable model Univariable model Multivariable model Beta p 95% CI Beta p 95% CI OR p 95% CI OR p 95% CI Smoked in a prior pregnancy −0.126 .336 −0.38, 0.13 0.89 .690 0.51, 1.56 Heaviness of Smoking Index 0.039 .396 −0.05, 0.13 1.08 .486 0.87, 1.34 Urges to smoke 0.009 .791 −0.06, 0.07 1.00 .972 0.88, 1.15 Has tried to quit (y/n) 0.716 <.001 0.47, 0.96 3.03 .001 1.60, 5.73 2.70 .006 1.34, 5.46 Number of 24-h quit attempts −0.022 .036 −0.04, 0.00 0.97 .465 0.89, 1.06 Seriously planning to quit 0.491 <.001 0.40, 0.58 1.65 <.001 1.30, 2.08 Determination to stop till baby born 0.507 <.001 0.42, 0.59 0.423 <.001 0.31, 0.54 1.71 <.001 1.32, 2.20 Confidence to stop till baby born 0.217 <001 0.12, 0.31 −0.231 <.001 −0.35, −0.12 1.24 .049 1.00, 1.54 Confidence to stop alone 0.026 .596 −0.07, 0.12 0.89 .339 0.71, 1.13 Confidence to stop with health professional help 0.425 <.001 0.33, 0.52 0.216 <.001 0.11, 0.33 1.36 .008 1.08, 1.70 Beliefs on harms of smoking to baby 0.774 <.001 0.43, 1.11 3.05 .026 1.14, 8.11 Knows others who smoked in pregnancy −0.035 .863 −0.43, 0.36 1.40 .484 0.54, 3.61 People important to me think I should stop 0.605 <.001 0.33, 0.88 1.69 .132 0.85, 3.33 Has support to stop 0.304 .025 0.04, 0.57 1.73 .104 0.89, 3.36 Partner smokes 0.041 .760 −0.22, 0.30 0.90 .729 0.50, 1.62 Spoken to health professional about stopping 1.212 <.001 0.99, 1.43 0.765 <.001 0.55, 0.98 3.29 <.001 1.80, 6.01 General health −0.206 .244 −0.55, 0.14 1.67 .283 0.66, 4.24 Depression 0.169 .276 −0.14, 0.47 0.94 .877 0.46, 1.95 Perceived Stress Scale 0.008 .706 −0.04, 0.05 0.99 .871 0.90, 1.10 Gestation (weeks) −0.022 .152 −0.05, 0.01 0.97 .386 0.91, 1.04 Ethnic minority −0.143 .609 −0.69, 0.41 0.76 .640 0.24, 2.39 Age 0.032 .006 0.01, 0.05 0.030 .001 0.01, 0.05 1.09 .001 1.03, 1.14 1.08 .006 1.02, 1.15 Deprivation (Index of Multiple Deprivation) −0.004 .274 −0.01, 0.00 1.00 .638 0.98, 1.01 Interest in support at baseline — — — — — — 1.91 <.001 1.53, 2.37 1.80 <.001 1.43, 2.27 Downloaded from https://academic.oup.com/ntr/article-abstract/22/7/1178/5553845 by guest on 23 June 2020 Nicotine & Tobacco Research, 2020, Vol. Funding This article presents independent research funded by the National Institute for Health Research (NIHR) under the Programme Grants for Applied Research programme RP-PG-0109-10020. The views expressed in this publication are those of the authors and not necessarily those of the NIHR or the Department of Health and Social Care. 15. Röske  K, Hannöver  W, Kelbsch  J, Thyrian  JR, John  U, Hapke  U. The readiness of women, after they have given birth to children, to participate in individualized counselling for smoking cessation. Gesundheitswesen. 2004;66(10):697–702. 16. Orton  S, Bowker  K, Cooper  S, et  al. Longitudinal cohort survey of women’s smoking behaviour and attitudes in pregnancy: study methods and baseline data. BMJ Open. 2014;4(5):e004915. Acknowledgments Downloaded from https://academic.oup.com/ntr/article-abstract/22/7/1178/5553845 by guest on 23 June 2020 26. Heatherton  TF, Kozlowski  LT, Frecker  RC, Rickert  W, Robinson  J. Measuring the heaviness of smoking: using self-reported time to the first cigarette of the day and number of cigarettes smoked per day. Br J Addict. 1989;84(7):791–799. 41. Dempsey  D, Jacob  P III, Benowitz  NL. Accelerated metabolism of nicotine and cotinine in pregnant smokers. J Pharmacol Exp Ther. 2002;301(2):594–598. doi: 10.1124/jpet.301.2.594. 42. Jordan  TR, Dake  JR, Price  JH. Best practices for smoking cessation in pregnancy: do obstetrician/gynecologists use them in practice? J Womens Health (Larchmt). 2006;15(4):400–441. 27. Naughton F, Prevost AT, Gilbert H, Sutton S. Randomized controlled trial evaluation of a tailored leaflet and SMS text message self-help intervention for pregnant smokers (MiQuit). Nicotine Tob Res. 2012;14(5):569–577. 43. Okoli  CTC, Greaves  L, Bottorff  JL, Marcellus  LM. Health care pro- viders’ engagement in smoking cessation with pregnant smokers. J Obstet Gynecol Neonatal Nurs. 2010;39(1):64–77. 28. Ajzen  I, Fishbein  M. The Influence of attitudes on behaviour. In: Albarracin D, Johnson BT, Zanna MP, eds. The Handbook of Attitudes. Mahwah, NJ: Lawrence Erlbaum Associates Publishers; 2005:173–221. 44. Abatemarco DJ, Steinberg MB, Delnevo CD. Midwives’ knowledge, per- ceptions, beliefs, and practice supports regarding tobacco dependence treatment. J Midwifery Womens Health. 2007;52(5):451–457. 29. Royston P, White IR. Multiple imputation by chained equations (MICE): implementation in Stata. J Stat Softw. 2011;45(4):1–20. doi: 10.18637/jss. v045.i04. 45. Owen L, Penn G. Smoking and Pregnancy: A Survey of Knowledge, Attitudes and Behaviour 1992–1999. London, UK: Health Education Authority; 1999. 30. Bursac Z, Gauss CH, Williams DK, Hosmer DW. Purposeful selection of variables in logistic regression. Source Code Biol Med. 2008;3:17. doi: 10.1186/1751-0473-3-17. 46. Naughton F, Eborall H, Sutton S. Dissonance and disengagement in preg- nant smokers: a qualitative study. J Smoking Cessation. 2013;8(1):24–32. doi: 10.1017/jsc.2013.4. 31. Bowker K, Orton S, Cooper S, et al. Views on and experiences of electronic cigarettes: a qualitative study of women who are pregnant or have recently given birth. BMC Pregnancy Childbirth. 2018;18(1):233. 47. Campbell KA, Bowker KA, Naughton F, Sloan M, Cooper S, Coleman T. Antenatal clinic and stop smoking services staff views on “Opt-Out” re- ferrals for smoking cessation in pregnancy: a framework analysis. Int J Environ Res Public Health. 2016;13(10). doi: 10.3390/ijerph13101004. 32. Cooper S, Orton S, Campbell KA, et al. Attitudes to e-cigarettes and ces- sation support for pregnant women from English stop smoking services: A mixed methods study. Acknowledgments 18. Orton  S, Coleman  T, Coleman-Haynes  T, Ussher  M. Predictors of postpartum return to smoking: a systematic review. Nicotine Tob Res. 2018;20(6):665–673. The authors would like to thank Nottingham University Hospital NHS Trust for facilitating this research. We also thank Rachel Whitemore for invaluable assistance in setting up this research. Tim Coleman acknowledges the sup- port of the East Midlands Collaboration for Leadership in Applied Health Research and Care (CLARHC). Prof. Coleman is an NIHR Senior Investigator. 19. National Centre for Longitudinal Studies. Millennium Cohort Study, First Survey: CAPI Questionnaire Documentation. London, UK: Centre for Longitudinal Studies; 2003. Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 1186 20. National Institute for Health and Care Excellence. Antenatal and Postnatal Mental Health: Clinical Management and Service Guidance. London, UK: National Institute for Health and Care Excellence; 2007. 36. Flemming K, Graham H, McCaughan D, Angus K, Sinclair L, Bauld L. Health professionals’ perceptions of the barriers and facilitators to pro- viding smoking cessation advice to women in pregnancy and during the post-partum period: a systematic review of qualitative research. BMC Public Health. 2016;16:290. doi: 10.1186/s12889-016-2961-9. 21. Cohen S, Williamson GM. Perceived stress in a probability sample of the United States. Soc Psychol Health. 1988;1:31–67. 22. Noble  M, McLennan  D, Wilkinson  K, et  al. The English Indices of Deprivation 2007. London, UK: Whetherby; 2007. 37. Coleman  T, Chamberlain  C, Davey  MA, Cooper  SE, Leonardi-Bee  J. Pharmacological interventions for promoting smoking cessation during pregnancy. Cochrane Database Syst Rev. 2015;12:CD010078. doi: 10.1002/14651858.CD010078.pub2. 23. Coleman T, Thornton J, Britton J, et al. Protocol for the smoking, nico- tine and pregnancy (SNAP) trial: double-blind, placebo-randomised, con- trolled trial of nicotine replacement therapy in pregnancy. BMC Health Serv Res. 2007;7:2. doi: 10.1186/1472-6963-7-2. 38. Kotz D, Fidler J, West R. Factors associated with the use of aids to cessa- tion in English smokers. Addiction. 2009;104(8):1403–1410. 24. Mullen  PD, Carbonari  JP, Tabak  ER, Glenday  MC. Improving dis- closure of smoking by pregnant women. Am J Obstet Gynecol. 1991;165(2):409–413. 39. Fish  LJ, Peterson  BL, Namenek  Brouwer  RJ, et  al. Adherence to nico- tine replacement therapy among pregnant smokers. Nicotine Tob Res. 2009;11(5):514–518. doi: 10.1093/ntr/ntp032. 25. West R, Hajek P. Evaluation of the mood and physical symptoms scale (MPSS) to assess cigarette withdrawal. Psychopharmacology (Berl). 2004;177(1–2):195–199. 40. Coleman  T, Cooper  S, Thornton  JG, et  al. A randomized trial of nicotine-replacement therapy patches in pregnancy. N Engl J Med. 2012;366(9):808–818. doi: 10.1056/NEJMoa1109582. Acknowledgments Int J Environ Res Public Health. 2019;16(1). doi: 10.3390/ijerph16010110. 48. Sloan M, Campbell KA, Bowker K, et al. Pregnant women’s experiences and views on an “Opt-Out” referral pathway to specialist smoking cessation support: a qualitative evaluation. Nicotine Tob Res. 2016;18(5):900–905. 33. Taylor  T, Hajek  P. Smoking Cessation Services for Pregnant Women. London, UK: Health Development Agency; 2001. 49. Althabe F, Aleman A, Berrueta M, et al. A multifaceted strategy to im- plement brief smoking cessation counseling during antenatal care in Argentina and Uruguay: a cluster randomized trial. Nicotine Tob Res. 2016;18(5):1083–1092. doi: 10.1093/ntr/ntv276. 34. Klerman LV, Spivey C, Raykovich KT. Smoking reduction activities in a federal program to reduce infant mortality among high risk women. Tob Control. 2000;9 (suppl 3):III51–55. doi: 10.1136/tc.9.suppl_3.iii51. 50. Naughton F, Cooper S, Foster K, et al. Large multi-centre pilot random- ized controlled trial testing a low-cost, tailored, self-help smoking cessa- tion text message intervention for pregnant smokers (MiQuit). Addiction. 2017;112(7):1238–1249. doi: 10.1111/add.13802. 35. Naughton F, Hopewell S, Sinclair L, McCaughan D, McKell J, Bauld L. Barriers and facilitators to smoking cessation in pregnancy and in the post-partum period: the health care professionals’ perspective. Br J Health Psychol. 2018;23(3):741–757.
https://openalex.org/W4389032867
http://e-journal.stmik-bnj.ac.id/index.php/jb/article/download/92/91
Indonesian
null
Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah
Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya
2,023
cc-by
3,985
Abstract The role of the Lecturer is very important where the main task is to transform, develop and disseminate science, technology and art through education, research and community service. STMIK Bina Nusantara Jaya Lubuklinggau is one of the tertiary institutions in Lubuklinggau which has 1 Study Program (Information System), the number of courses and powerful lecturers makes the Chair of the Study Program (Kaprodi) determine the Effective Lecturer for each subject is still not optimal, there are still lecturers which are not in accordance with the qualifications for the subject being taught. So far, in determining the lecturers for the course, they have only looked at the results of the recapitulation of the lecture gems questionnaire obtained in the form of Index Interpretation (Quite Good, Good and Very Good). Teaching, Evaluation along with Lecturers and Lectures). Therefore the authors conducted research in determining the effective lecturers for the course not only looking at the results of the recapitulation of the questionnaires distributed to students, there were other criteria, for example Lecturer Status, Education, Competence, Years of Service and Absence. The purpose of this research is to determine the course lecturers who are very helpful to the Head of Study Program. The author uses the MOORA method for the process of determining and later testing results can help the performance of the Head of Study Program in determining recommendations for lecturers for courses according to the established criteria. Keywords: Decision Support System, Lecturer, Course, MOORA Keywords: Decision Support System, Lecturer, Course, MOORA Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Assessment Analysis Using MOORA in Determining Lecturers for Courses Ahmadi1), Hengki Juliansa2) 1Program Studi Sistem Informasi, STMIK Bina Nusantara Jaya Lubuklinggau 2Program Studi Teknik Informatika, Politeknik Sekayu 1Jl. Yos Sudarso No. 97 A Kel. Jawa Kanan Kota Lubuklinggau, Sumatera Selatan Telp : 0733-322307 2 Jalan Bupati Oesman Bakar LK. I Kel. Kayuara Kec. Sekayu, Sumatera Selatan 30711 E-mail : ahmadi.bnj@gmail.com1), hengki.juliansa@gmail.com2) Ahmadi1), Hengki Juliansa2) 1Program Studi Sistem Informasi, STMIK Bina Nusantara Jaya Lubuklinggau 2Program Studi Teknik Informatika, Politeknik Sekayu 1Jl. Yos Sudarso No. 97 A Kel. Jawa Kanan Kota Lubuklinggau, Sumatera Selatan Telp : 0733-322307 Ahmadi1), Hengki Juliansa2) 1Program Studi Sistem Informasi, STMIK Bina Nusantara Jaya Lubuklinggau 2Program Studi Teknik Informatika, Politeknik Sekayu 1Jl. Yos Sudarso No. 97 A Kel. Jawa Kanan Kota Lubuklinggau, Sumatera Selatan Telp : 0733-322307 2 Jalan Bupati Oesman Bakar LK. I Kel. Kayuara Kec. Sekayu, Sumatera Selatan 30711 E-mail : ahmadi.bnj@gmail.com1), hengki.juliansa@gmail.com2) Jalan Bupati Oesman Bakar LK. I Kel. Kayuara Kec. Sekayu, Sumatera Selatan E-mail : ahmadi.bnj@gmail.com1), hengki.juliansa@gmail.com2) Abstrak Peran Dosen sangat penting dimana tugas utamanya mentransformasikan, mengembangkan, dan menyebarkan ilmu pengetahuan, teknologi, dan seni melalui pendidikan, penelitian dan pengabdian kepada masyarakat. STMIK Bina Nusantara Jaya Lubuklinggau merupakan salah satu Perguruan Tinggi di Lubuklinggau yang memiliki 1 Program Studi (Sistem Informasi), banyaknya mata kuliah dan dosen pengampuh membuat Ketua Program Studi (Kaprodi) dalam menentukan Dosen Pengampuh pada setiap mata kuliah masih belum maksimal, masih ada dosen yang tidak sesuai dengan kualifikasi terhadap mata kuliah yang diampuh. Selama ini dalam menentukan dosen pengampu mata kuliah hanya melihat pada hasil rekapan kuisioner permata kuliah yang didapat berupa Interprestasi Index (Cukup Baik, Baik dan Sangat Baik) Skala penilaian yang dilihat pada Kuisioner yang disebarkan kepada mahasiswa dilihat pada beberapa aspek (Persiapan Mengajar, Kegiatan Belajar Mengajar, Evaluasi beserta Dosen dan Perkuliahan). Maka dari itu penulis melakukan penelitian dalam penentuan dosen pengampuh mata kuliah tidak hanya melihat dari hasil rekapan kuisioner yang disebarkan kepada mahasiswa ada kriteria lagi misalkan Status Dosen, Pendidikan, Kompetensi, Masa Kerja dan Absensi. Tujuan dari penelitian ini adalah untuk menentukan Dosen Pengampu Mata Kuliah yang sangat membantu Kaprodi. Penulis menggunakan metode MOORA untuk proses penentuan dan hasil pengujian nantinya dapat membantu kinerja Kaprodi dalam menentukan rekomendasi dosen pengampuh mata kuliah sesuai dengan kriteria yang ditetapkan. Kata kunci: Sistem Pendukung Keputusan, Dosen, Mata Kuliah, MOORA MIK Bina Nusantara Jaya Bina Nusantara Jaya Lubuklinggau saat ini dilakukan dengan cara menentukan secara langsung dengan melihat pada hasil rekapan kuisioner permata kuliah yang didapat berupa Interprestasi Index (Cukup Baik, Baik dan Sangat Baik) Skala penilaian yang dilihat pada Kuisioner yang disebarkan kepada mahasiswa dilihat pada beberapa aspek (Persiapan Mengajar, Kegiatan Belajar Mengajar, Evaluasi beserta Dosen dan Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya 1. Pendahuluan Dosen mempunyai peran yang sangat penting yang mana tugas utamanya mentransformasikan, mengembangkan, dan menyebarluaskan ilmu pengetahuan, teknologi, dan seni melalui pendidikan, penelitian dan pengabdian kepada masyarakat. Penunjukan dosen pengampuh matakuliah pada STMIK Bina Nusantara Jaya Lubuklinggau saat ini dilakukan dengan cara menentukan secara langsung dengan melihat pada hasil rekapan kuisioner permata kuliah yang didapat berupa Interprestasi Index (Cukup Baik, Baik dan Sangat Baik) Skala penilaian yang dilihat pada Kuisioner yang disebarkan kepada mahasiswa dilihat pada beberapa aspek (Persiapan Mengajar, Kegiatan Belajar Mengajar, Evaluasi beserta Dosen dan y y Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 1. Pendahuluan Jurnal Ilmiah Binary STM Dosen mempunyai peran yang sangat penting yang mana tugas utamanya mentransformasikan, mengembangkan, dan menyebarluaskan ilmu pengetahuan, teknologi, dan seni melalui pendidikan, penelitian dan pengabdian kepada masyarakat. Penunjukan dosen pengampuh matakuliah pada STMIK Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 29 Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah 2.2 Multi-Objecttive Optimization on The Basic of Ratio Analysis (MOORA) 2.2 Multi-Objecttive Optimization on The Basic of Ratio Analysis (MOORA) Metode MOORA perkalian digunakan untuk menghubungkan rating atribut, dimana rating atribut harus dipangkatkan dahulu dengan bobot yang ada pada setiap kolomnya, Preferensi untuk alternatif Si, Secara umum prosedur MOORA meliputi langkah- langkah[11][12] : Perkuliahan). Peranan dosen sangatlah penting bagi mahasiswa, karena peranan tersebut memiliki arti akan tugasnya masing -masing bagi seorang dosen seperti mendidik mahasiswa. Hal ini untuk menimbang seorang dosen agar dalam menunjukan sebagai dosen pengampuh dapat meningkatkan kualitas hasil ajar didalam kelas. Metode MOORA perkalian digunakan untuk menghubungkan rating atribut, dimana rating atribut harus dipangkatkan dahulu dengan bobot yang ada pada setiap kolomnya, Preferensi untuk alternatif Si, Secara umum prosedur MOORA meliputi langkah- langkah[11][12] : Maka dari itu penulis melakukan penelitian dalam penentuan dosen pengampu mata kuliah tidak hanya melihat dari hasil rekapan kuisioner yang disebarkan kepada mahasiswa ada kriteria lagi misalkan Status Dosen, Pendidikan, Kompetensi, Masa Kerja dan Absensi. Tujuan dari penelitian ini adalah untuk menentukan dosen pengampuh mata kuliah yang mana ini akan sangat membantu ketua program studi. 1. Menentukan Nilai Matrix 𝑋= [ 𝑋11 𝑋12 𝑋1𝑛 𝑋21 𝑋22 𝑋2𝑛 𝑋31 𝑋32 𝑋3𝑛 ] (1) (1) x merupakan nilai kriteria masing-masing kriteria yang dipresentasikan sebagai matriks. p g 2. Normalisasi Matriks Dalam penelitian sebelumnya Multi Objective Optimization On The Basic Of Ratio Analysis dapat menilai optimasi karyawan sebagai nilai akhir penilaian [1][2][3][4]. Penelitian yang lain juga membahas hal yang sama dengan Metode AHP-MOORA Pada Sistem Pendukung Keputusan pemilihan paket wisata dapat membantu pengambil keputusan dalam masalah pemilihan wisata secara cepat dan mudah[5]. Penelitian lain juga dilakukan, Metode MOORA mampu digunakan untuk dapat menilai tiap-tiap alternatif sehingga menghasilkan rekomendasi pemilihan smartphone dari beberapa kriteria pengambilan keputusan [6]. Metode Moora mampu menentukan nilai bobot dengan sederhana [7][8][1]. 4. Melakukan Penentuan Hasil Prefrensi/Optimasi p Nilai Yi bias bersifat positif atau negatif tergantung dari jumlah total maksimal dan minimal pada matriks keputusan. Urutan peringkat dan Yi menujukan pilihan terakhir. Dengan demikian alternatif terbaik memiliki nilai Yi tertinggi, sedangkan alternatif terburuk memiliki nilai yang rendah. 𝑌𝑖= ∑ 𝑊𝑗 𝑋𝑖𝑗∗ ∗ ∑ 𝑊𝑗 𝑛 𝑗=𝑔+1 𝑊𝑖𝑗 ∗ 𝑔 𝑗=1 (4) Keterangan (4) Keterangan i : 1,2,3,……g adalah attribute atau kriteria dengan status maksimal i : 1,2,3,……g adalah attribute atau kriteria dengan status maksimal 2.3 Dosen Menurut Anggrey Aditya Saputri dan kawan-kawan bahwa dalam penentuan dosen pengampu matakuliah tidak hanya berdasarkan rapat awal semester saja dikarenakan masih ada yang tidak sesuai kualifikasi terhadap matakuliah yang diampu oleh dosen oleh karena itu untuk membantu prodi maka dibutuhkanlah sistem pendukung keputusan [9]. sedangkan menurut Gellysa Urva1 dan Ari Sellyana menentukan dosen pengampu atau beban mengajar dosen salah satu kegiatan yang sering dihadapi pada saat semester baru dan manjadi permasalahan yang komplek [10]. Dosen mempunyai peran yang sangat penting yang mana tugas utamanya mentransformasikan, mengembangkan, dan menyebarluaskan ilmu pengetahuan, teknologi, dan seni melalui pendidikan, penelitian dan pengabdian kepada masyarakat [10]. 2.1 Analisis Penelitian Terdahulu 2.1 Analisis Penelitian Terdahulu dengan status minimal Penelitian yang mengangkat topik tentang menentukan dosen pengampu matakuliah telah ada beberapa dilakukan oleh peneliti terdahulu. y*j : Matriks Normalisasi max-min alternative j y*j : Matriks Normalisasi max-min alternative j 2.3 Dosen 2. Tinjauan Pustaka j : g+1, g+2, g+3,…..,n adalah attribute atau kriteria dengan status minimal j : g+1, g+2, g+3,…..,n adalah attribute atau kriteria dengan status minimal 1. Pendahuluan Dari beberapa refrensi yang sudah dikemukakan maka penulis menggunakan metode Multi Objective Optimization On the basis of Ratio Analysis (MOORA) untuk proses penentuan atau perhitungan menggunakan Metode Multi Objective Optimization On the basis of Ratio Analysis (MOORA). Dari hasil pengujian dengan metode MOORA nantinya dapat membantu kinerja ketua program studi dalam menentukan rekomendasi dosen pengampuh mata kuliah sesuai dengan kriteria yang ditetapkan. 𝑋∗𝑖𝑗−𝑋𝑖𝑗/√[∑ 𝑋𝑖𝑗 2 𝑚 𝑖=1 (2) (2) Keterangan : g Xij : Respon alternative j pada kriteria i j p j p X*ij: Normalisasi j pada kriteria i j j p 3. Melakukan Normalisasi Terbobot 3. Melakukan Normalisasi Terbobot 𝑊𝑗 𝑥 𝑋𝑖𝑗 (3) Keterangan : (3) Keterangan : Wij : Bobot Kriteria Xij : Hasil Normalisasi alternative j pada kriteria i. 4. Melakukan Penentuan Hasil Prefrensi/Optimasi 3. Metodologi Penelitian 3. Penentuan Bobot Sub Kriteria Kompentensi 2.4 Mata Kulaih Mata kuliah merupakan kelompok bahan kajian dan pembelajaran yang ditunjukan terutama untuk memberikan landasan pembentukan keahlian, baik untuk kepentingan profesi maupun bahan pengembangan ilmu teknologi [9]. Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 30 Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah 3. Penentuan Bobot Sub Kriteria Kompentensi Tabel 4 Bobot Sub Kriteria Kompetensi No Sub Kriteria Bobot 1 Sesuai 5 2 Tidak Sesuai 2 3.1 Kerangka Penelitian Untuk membantu penulisan ini, dibutuhkan sebuah kerangka penelitian. Kerangka Penelitian dapat dilihat pada gambar di bawah ini. 4. Penentuan Bobot Sub Kriteria Jenjang Jabatan 4. Penentuan Bobot Sub Kriteria Jenjang Jabatan Tabel 5 Bobot Sub Kriteria Jenjang Jabatan No Sub Kriteria Bobot 1 Guru Besar 5 2 Lektor Kepala 4 3 Lektor 3 4 Asisten Ahli 2 5 Tenaga Pengajar 1 Gambar 1. Kerangka Penelitian 5. Penentuan Bobot Sub Kriteria Masa Kerja 5. Penentuan Bobot Sub Kriteria Masa Kerja 5. Penentuan Bobot Sub Kriteria Masa Kerja Tabel 6 Bobot Sub Kriteria Masa Kerja Tabel 6 Bobot Sub Kriteria Masa Kerja No Sub Kriteria Bobot 1 >5 Tahun 4 2 3-4 Tahun 3 3 1-2 Tahun 2 4 <6 Bulan 1 Gambar 1. Kerangka Penelitian 4. Hasil dan Pembahasan 6. Penentuan Bobot Sub Kriteria Absensi Tabel 7 Bobot Sub Kriteria Absensi No Sub Kriteria Bobot 1 >80% 5 2 <60% 3 Sampel yang penulis gunakan 18 dosen sebagai koresponden dalam menentukan kriteria. Dari hasil perhitungan uji validitas yang diperoleh 7 buah kriteria, berikut hasil dari 7 buah kriteria yang sudah didapatkan. Tabel 1 Kriteria No Ket Kriteria Bobot Jenis 1 C1 Status Dosen 20% Benefit 2 C2 Pendidikan 20% Benefit 3 C3 Kompetensi 15% Benefit 4 C4 Jenjang Jabatan 15% Benefit 5 C5 Masa Kerja 10% Cost 6 C6 Absensi 10% Cost 7 C7 Kuisioner Mahasiswa 10% Benefit 7. Penentuan Bobot Sub Kriteria Kuisioner Mahasiswa Tabel 8 Bobot Sub Kriteria Kuisioner Mahasiswa No Sub Kriteria Bobot 1 Sangat Baik 5 2 Baik 3 3 Cukup Baik 1 4.2. Analisa Perhitungan Metode MOORA 7. Penentuan Bobot Sub Kriteria Kuisioner Mahasiswa Setelah bobot masing-masing krtiera dan sub kriteria yang diperoleh, langkah berikutnya adalah melakukan perhiungan dengan metode MOORA, berikut tahapannya. 4. Hasil dan Pembahasan Tabel 2 Bobot Sub Kriteria Status Dosen No Sub Kriteria Bobot 1 Tetap 5 2 Tidak Tetap 2 31 Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Tabel 9 Data Awal Alternatif Per Kriteria Alternatif Kriteria C1 C2 C3 C4 C5 C6 C7 Arie Yandi Saputra, M.Kom Tetap S2 Sesuai Lektor >5 Th <60% Cukup Baik Robi Yanto, M.Kom Tetap S2 Sesuai Lektor >5 Th >80% Sangat Baik Deni Apriadi, M.Kom Tetap S2 Sesuai Asisten Ahli >5 Th >80% Sangat Baik Alfiarini, S.Kom., M.M Tetap S2 Sesuai Asisten Ahli >5 Th >80% Sangat Baik Yogi Primadasa, M.Kom Tetap S2 Sesuai Asisten Ahli >5 Th <60% Cukup Baik Ria Putri Santri, M.Pd Tetap S2 Tidak Sesuai Tenaga Pengajar 3-4 Th >80% Sangat Baik Novi Yanti, M.Pd Tetap S2 Sesuai Tenaga Pengajar 3-4 Th >80% Cukup Baik Sismarwiyanti, S.Kom., M.Cs Tidak Tetap S2 Sesuai Tenaga Pengajar 3-4 Th <60% Sangat Baik Syafi’ul Hamidani, M.Kom Tetap S2 Sesuai Tenaga Pengajar 3-4 Th >80% Cukup Baik Rakhmad Kuswandhie, M.Kom Tetap S2 Sesuai Asisten Ahli 1-2 Th >80% Sangat Baik Ahmadi, M.Kom Tetap S2 Sesuai Asisten Ahli 1-2 Th >80% Sangat Baik Hengki Juliansa, M.Kom Tetap S2 Sesuai Asisten Ahli 1-2 Th >80% Sangat Baik Ayub, M.Si Tetap S2 Tidak Sesuai Asisten Ahli >5 Th <60% Cukup Baik Dedi, M.Pd Tetap S2 Sesuai Asisten Ahli >5 Th <60% Cukup Baik H. Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 4. Hasil dan Pembahasan Sutiman, M.Si Tidak Tetap S2 Tidak Sesuai Tenaga Pengajar >5 Th <60% Cukup Baik Veradilla Amalia, M.Kom Tetap S2 Sesuai Tenaga Pengajar 1-2 Th >80% Baik Yayang Eluis Bali M, S.Kom., M.Cs Tetap S2 Sesuai Tenaga Pengajar 1-2 Th >80% Baik Endang Etriyanti, M.Kom Tidak Tetap S2 Sesuai Tenaga Pengajar <6 Th >80% Baik Dari table diatas, maka langkah selanjtunya menntukan bobot alternative perkriteria, bobot alternative perkriteria terdapat pada table berikut: e diatas, maka langkah selanjtunya menntukan bobot alternative perkriteria, bobot alternative perkriteria pada table berikut: Tabel 10 Data Pembobotan Alternatif Per Kriteria Tabel 10 Data Pembobotan Alternatif Per Kriteria Tabel 10 Data Pembobotan Alternatif Per Kriteria Tabel 10 Data Pembobotan Alternatif Per Kriteria Alternatif Kriteria C1 C2 C3 C4 C5 C6 C7 Arie Yandi Saputra, M.Kom 5 5 5 3 4 3 1 Robi Yanto, M.Kom 5 5 5 3 4 5 5 Deni Apriadi, M.Kom 5 5 5 2 4 5 5 Alfiarini, S.Kom., M.M 5 5 5 2 4 5 5 Yogi Primadasa, M.Kom 5 5 5 2 4 3 1 Ria Putri Santri, M.Pd 5 5 2 1 3 5 5 Novi Yanti, M.Pd 5 5 5 1 3 5 1 Sismarwiyanti, S.Kom., M.Cs 2 5 5 1 3 3 5 Syafi’ul Hamidani, M.Kom 5 5 5 1 3 5 1 Rakhmad Kuswandhie, M.Kom 5 5 5 2 2 5 5 Ahmadi, M.Kom 5 5 5 2 2 5 5 Hengki Juliansa, M.Kom 5 5 5 2 2 5 5 Ayub, M.Si 5 5 2 2 4 3 1 Dedi, M.Pd 5 5 5 2 4 3 1 H. Sutiman, M.Si 2 5 2 1 4 3 1 Veradilla Amalia, M.Kom 5 5 5 1 2 5 3 Yayang Eluis Bali M, S.Kom., M.Cs 5 5 5 1 2 5 3 Endang Etriyanti, M.Kom 2 5 2 1 1 5 3 32 Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Dari data diatas maka lankah selajutnya melakukan perhitungan matrik, menggunakan persamaan (1). 4. Hasil dan Pembahasan 𝐴= [ 5 5 5 3 4 3 1 5 5 5 3 4 5 5 5 5 5 2 5 5 5 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 2 5 2 1 1 5 3 ] = 5/√25 + 25 + 25 + 25 + 25 + 25 + 25 + 4 + 25 + 25 + 25 + 25 + 25 + 4 + 25 + 25 + 2 = 5/√362 = 0,254 Langkah selanjutnya adalah melakukan normalisasi setiap alternative perkriteria. Cara ini dilakukan dengan menggunakan persamaan (2). Hasil keselurhan normalisasi terdapat pada table berikut : Langkah selanjutnya adalah melakukan normalisasi setiap alternative perkriteria. Cara ini dilakukan dengan menggunakan persamaan (2). Hasil keselurhan normalisasi terdapat pada table berikut : = 5/√25 + 25 + 25 + 25 + 25 + 25 + 25 + 4 + 25 + 25 + 25 + 25 + 25 + 4 + 25 + 25 + 2 Tabel 11 Hasi Keseluruhan Normalisasi Alternatif Kriteria C1 C2 C3 C4 C5 C6 C7 Arie Yandi Saputra, M.Kom 0.002 0.002 0.002 0.267 0.016 0.000 0.001 Robi Yanto, M.Kom 0.002 0.002 0.002 0.267 0.016 0.002 0.002 Deni Apriadi, M.Kom 0.002 0.002 0.002 0.178 0.016 0.002 0.002 Alfiarini, S.Kom., M.M 0.002 0.002 0.002 0.178 0.016 0.002 0.002 Yogi Primadasa, M.Kom 0.002 0.002 0.002 0.178 0.016 0.000 0.001 Ria Putri Santri, M.Pd 0.002 0.002 0.001 0.089 0.012 0.002 0.002 Novi Yanti, M.Pd 0.002 0.002 0.002 0.089 0.012 0.000 0.002 Sismarwiyanti, S.Kom., M.Cs 0.001 0.002 0.002 0.089 0.012 0.002 0.001 Syafi’ul Hamidani, M.Kom 0.002 0.002 0.002 0.089 0.012 0.000 0.002 Rakhmad Kuswandhie, M.Kom 0.002 0.002 0.002 0.178 0.008 0.002 0.002 Ahmadi, M.Kom 0.002 0.002 0.002 0.178 0.008 0.002 0.002 Hengki Juliansa, M.Kom 0.002 0.002 0.002 0.178 0.008 0.002 0.002 Ayub, M.Si 0.002 0.002 0.001 0.178 0.016 0.000 0.001 Dedi, M.Pd 0.002 0.002 0.002 0.178 0.016 0.000 0.001 H. Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 5. Kesimpulan [4] M. Mesran, S. D. A. Pardede, A. Harahap, and A. P. U. Siahaan, “Sistem Pendukung Keputusan Pemilihan Peserta Jaminan Kesehatan Masyarakat (Jamkesmas) Menerapkan Metode MOORA,” J. Media Inform. Budidarma, vol. 2, no. 2, pp. 16–22, 2018, doi: 10.30865/mib.v2i2.595. 5.1 Simpulan Pada penelitian ini dapat ditarik kesimpulan metode moora mampu menilai semua kriteria dengan menentukan matrik keputusan dan melakukan normalisasi matrik sehingga hasil akhir dari pernilaian tersebut berupa nilai optimasi, yang mana nilai optimasi tersebut menjadi suatu pendukung kaprodi untuk menentukan dosen pengampuh. Dari hasil optimasi didapatkan, kaprodi dapat mengevaluasi yang mana nilai hasil optimasi yang tinggi dapat menjadi pendukung keputusan untuk menentukan dosen pengampu. [5] [6] [7] Pada penelitian ini dapat ditarik kesimpulan metode moora mampu menilai semua kriteria dengan menentukan matrik keputusan dan melakukan normalisasi matrik sehingga hasil akhir dari pernilaian tersebut berupa nilai optimasi, yang mana nilai optimasi tersebut menjadi suatu pendukung kaprodi untuk menentukan dosen pengampuh. Dari hasil optimasi didapatkan, kaprodi dapat mengevaluasi yang mana nilai hasil optimasi yang tinggi dapat menjadi pendukung keputusan untuk menentukan dosen pengampu. [5] [6] [7] I. G. Hendrayana and G. S. Mahendra, “Perancangan Metode AHP-MOORA Pada Sistem Pendukung Keputusan Pemilihan Paket Wisata,” Pros. Semin. Nas. Pendidik. Tek. Inform. Ke-10, vol. 1, no. 1, pp. 143–149, 2019. I. Hidayatulloh, T. Purwokerto, and M. Z. Naf’an, “Metode Moora Dengan Pendekatan Price-Quality Ratio Untuk,” Semin. Nas. Teknol. Inf. dan Apl. Komput., vol. 1, no. November, pp. 62–68, 2017. A. Y. Saputra, Y. Primadasa, P. Sisteminformasi, and K. T. Pengajar, “Penerapan Metode Moora Dalam Pemilihan Sekolah Dasar,” SISTEMASI, vol. 8, pp. 305–312, 2019. 4. Hasil dan Pembahasan Bangunan di Toko Megah Gracindo Jaya,” InfoTekJar (Jurnal Nas. Inform. dan Teknol. Jaringan), vol. 3, no. 1, pp. 95–99, 2018, doi: 10.30743/infotekjar.v3i1.524. Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 5.2 Saran [8] [8] E. Laudia Olivianita and Rudy Ariyanto, “Sistem Pendukung Keputusan Kelayakan Hasil Cetakan Buku Menggunakan Metode MOORA,” Semin. Inform. Apl., no. 9, pp. 1–6, 2016. Penulis menyarankan agar penelitian ini dapat diterapkan dan dikembangkan kembali dalam penentuan dosen pengampu matakuliah sehingga dapat membantu kaprodi dalam mengambil keputusan. [9] Penulis menyarankan agar penelitian ini dapat diterapkan dan dikembangkan kembali dalam penentuan dosen pengampu matakuliah sehingga dapat membantu [9] dosen pengampu matakuliah sehingga dapat membantu kaprodi dalam mengambil keputusan. [9] A. A. Saputri, N. Dengen, and I. Islamiyah, “Sistem Pendukung Keputusan Penentuan Dosen Pengampu Mata Kuliah Dengan Metode MOORA,” J. Rekayasa Teknol. Inf., vol. 3, no. 1, p. 11, 2019, doi: 10.30872/jurti.v3i1.2452. [10] [2] Y. Primadasa and P. S. Informasi, “Sistem Pendukung Keputusan Penilaian Kinerja Karyawan Menggunakan Pembobotan Ahp Dan Moora Decision Support System Of Employee Performance,” vol. 5, no. 2, 2019. [12] 4. Hasil dan Pembahasan Sutiman, M.Si 0.001 0.002 0.001 0.089 0.016 0.000 0.001 Veradilla Amalia, M.Kom 0.002 0.002 0.002 0.089 0.008 0.001 0.002 Yayang Eluis Bali M, S.Kom., M.Cs 0.002 0.002 0.002 0.089 0.008 0.001 0.002 Endang Etriyanti, M.Kom 0.001 0.002 0.001 0.089 0.004 0.001 0.002 Langkah yang dapat dilakukan berikutnya adalah melakukan perhitungan nilai optimasi terbobot dengan menggunakan persamaan (3) Berikut hasil nilai optimasi terbobot untuk semua dosen pengampuh Tabel 11 Hasi Keseluruhan Normalisasi Langkah yang dapat dilakukan berikutnya adalah melakukan perhitungan nilai optimasi terbobot dengan menggunakan persamaan (3). Berikut hasil nilai optimasi terbobot untuk semua dosen pengampuh. Langkah yang dapat dilakukan berikutnya adalah melakukan perhitungan nilai optimasi terbobot dengan menggunakan persamaan (3). Berikut hasil nilai optimasi terbobot untuk semua dosen pengampuh. Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 Tabel 12 Nilai Optimasi Keseluruhan Alternatif Kriteria Hasil Optimasi C1 C2 C3 C4 C5 C6 C7 Arie Yandi Saputra, M.Kom 0,0508 0,0471 0,0392 0,0591 0,0294 0,0065 0,0159 0,2482 Robi Yanto, M.Kom 0,0508 0,0471 0,0392 0,0591 0,0294 0,0327 0,0266 0,2849 Deni Apriadi, M.Kom 0,0508 0,0471 0,0392 0,0394 0,0294 0,0327 0,0266 0,2652 Alfiarini, S.Kom., M.M 0,0508 0,0471 0,0392 0,0394 0,0294 0,0327 0,0266 0,2652 Yogi Primadasa, M.Kom 0,0508 0,0471 0,0392 0,0394 0,0294 0,0065 0,0159 0,2285 Ria Putri Santri, M.Pd 0,0508 0,0471 0,0157 0,0197 0,0221 0,0327 0,0266 0,2147 Novi Yanti, M.Pd 0,0508 0,0471 0,0392 0,0197 0,0221 0,0065 0,0266 0,2120 Sismarwiyanti, S.Kom., M.Cs 0,0203 0,0471 0,0392 0,0197 0,0221 0,0327 0,0159 0,1971 Syafi’ul Hamidani, M.Kom 0,0508 0,0471 0,0392 0,0197 0,0221 0,0065 0,0266 0,2120 Rakhmad Kuswandhie, M.Kom 0,0508 0,0471 0,0392 0,0394 0,0147 0,0327 0,0266 0,2505 Ahmadi, M.Kom 0,0508 0,0471 0,0392 0,0394 0,0147 0,0327 0,0266 0,2505 Tabel 12 Nilai Optimasi Keseluruhan 33 Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Hengki Juliansa, M.Kom 0,0508 0,0471 0,0392 0,0394 0,0147 0,0327 0,0266 0,2505 Ayub, M.Si 0,0508 0,0471 0,0157 0,0394 0,0294 0,0065 0,0159 0,2049 Dedi, M.Pd 0,0508 0,0471 0,0392 0,0394 0,0294 0,0065 0,0159 0,2285 H. Sutiman, M.Si 0,0203 0,0471 0,0157 0,0197 0,0294 0,0065 0,0159 0,1547 Veradilla Amalia, M.Kom 0,0508 0,0471 0,0392 0,0197 0,0147 0,0196 0,0266 0,2178 Yayang Eluis Bali M, S.Kom., M.Cs 0,0508 0,0471 0,0392 0,0197 0,0147 0,0196 0,0266 0,2178 Endang Etriyanti, M.Kom 0,0203 0,0471 0,0157 0,0197 0,0074 0,0196 0,0266 0,1564 Bangunan di Toko Megah Gracindo Jaya,” InfoTekJar (Jurnal Nas. Inform. dan Teknol. Jaringan), vol. 3, no. 1, pp. 95–99, 2018, doi: 10.30743/infotekjar.v3i1.524. Daftar Rujukan G. Urva and A. Sellyana, “Aplikasi Penentuan Beban Sks Mengajar Dosen Pengampu Mata Kuliah,” J. Unitek, vol. 11, no. 2, pp. 144–154, 2020, doi: 10.52072/unitek.v11i2.37. [1] Y. Sa’adati, S. Fadli, and K. Imtihan, “Analisis Penggunaan Metode AHP dan MOORA untuk Menentukan Guru Berprestasi Sebagai Ajang Promosi Jabatan,” SinkrOn, vol. 3, no. 1, pp. 82–90, 2018, [Online]. Available: https://jurnal.polgan.ac.id/index.php/sinkron/article/view/1 89. [11] M. Ashari and F. Mintarsih, “QUERY : Jurnal Sistem Informasi Volume : 01 , Number : 02 , October 2017 ISSN 2579-5341 ( online ) Aplikasi Pemilihan Bibit Budidaya Ikan Air Tawar dengan Metode MOORA – Entropy QUERY : Jurnal Sistem Informasi Volume : 01 , Number : 02 , October 2017 ISSN,” Sist. Inf., vol. 1, no. October, 2017. [2] Y. Primadasa and P. S. Informasi, “Sistem Pendukung Keputusan Penilaian Kinerja Karyawan Menggunakan Pembobotan Ahp Dan Moora Decision Support System Of Employee Performance,” vol. 5, no. 2, 2019. [12] M. Ashari, Arini, and F. Mintarsih, “Aplikasi Pemilihan Bibit Budidaya Ikan Air Tawar dengan Metode MOORA – Entropy,” Query, vol. 1, no. 2, pp. 63–72, 2017. [3] [3] A. Revi, I. Parlina, and S. Wardani, “Analisis Perhitungan Metode MOORA dalam Pemilihan Supplier Bahan 34
https://openalex.org/W2443985281
https://hal.sorbonne-universite.fr/hal-01408919/document
English
null
Towards improved and more routine Earth system model evaluation in CMIP
Earth system dynamics
2,016
cc-by
15,812
To cite this version: Veronika Eyring, Peter J. Gleckler, Christoph N Heinze, Ronald J. Stouffer, Karl E. Taylor, et al.. Towards improved and more routine Earth system model evaluation in CMIP. Earth System Dynamics, 2016, 7 (4), pp.813 - 830. ￿10.5194/esd-7-813-2016￿. ￿hal-01408919￿ Veronika Eyring, Peter J. Gleckler, Christoph N Heinze, Ronald J. Stouffer, Karl E. Taylor, V. Balaji, Éric Guilyardi, Sylvie Joussaume, Stephan Kindermann, Bryan N. Lawrence, et al. Distributed under a Creative Commons Attribution 4.0 International License Saclay, France y 10Deutsches Klimarechenzentrum, Hamburg, Germany 11Centre for Environmental Data Analysis, STFC Rutherford Appleton Laboratory, Didcot, UK 12 11Centre for Environmental Data Analysis, STFC Rutherford Appleton Laboratory, Didcot, UK 12National Center for Atmospheric Research (NCAR) Boulder CO USA 12National Center for Atmospheric Research (NCAR), Boulder, CO, USA Correspondence to: Veronika Eyring (veronika.eyring@dlr.de) Received: 14 June 2016 – Published in Earth Syst. Dynam. Discuss.: 16 June 2016 Revised: 4 October 2016 – Accepted: 6 October 2016 – Published: 1 November 2016 Abstract. The Coupled Model Intercomparison Project (CMIP) has successfully provided the climate commu- nity with a rich collection of simulation output from Earth system models (ESMs) that can be used to understand past climate changes and make projections and uncertainty estimates of the future. Confidence in ESMs can be gained because the models are based on physical principles and reproduce many important aspects of observed climate. More research is required to identify the processes that are most responsible for systematic biases and the magnitude and uncertainty of future projections so that more relevant performance tests can be developed. At the same time, there are many aspects of ESM evaluation that are well established and considered an essential part of systematic evaluation but have been implemented ad hoc with little community coordination. Given the diversity and complexity of ESM analysis, we argue that the CMIP community has reached a critical juncture at which many baseline aspects of model evaluation need to be performed much more efficiently and consis- tently. Here, we provide a perspective and viewpoint on how a more systematic, open, and rapid performance assessment of the large and diverse number of models that will participate in current and future phases of CMIP can be achieved, and announce our intention to implement such a system for CMIP6. Accomplishing this could also free up valuable resources as many scientists are frequently “re-inventing the wheel” by re-writing analy- sis routines for well-established analysis methods. A more systematic approach for the community would be to develop and apply evaluation tools that are based on the latest scientific knowledge and observational reference, are well suited for routine use, and provide a wide range of diagnostics and performance metrics that compre- hensively characterize model behaviour as soon as the output is published to the Earth System Grid Federation (ESGF). HAL Id: hal-01408919 https://hal.sorbonne-universite.fr/hal-01408919v1 Submitted on 5 Dec 2016 L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés. HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers. Distributed under a Creative Commons Attribution 4.0 International License Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ doi:10.5194/esd-7-813-2016 © Author(s) 2016. CC Attribution 3.0 License. Published by Copernicus Publications on behalf of the European Geosciences Union. Towards improved and more routine Earth system model evaluation in CMIP Veronika Eyring1, Peter J. Gleckler2, Christoph Heinze3,4, Ronald J. Stouffer5, Karl E. Taylor2, V. Balaji5,6, Eric Guilyardi7,8, Sylvie Joussaume9, Stephan Kindermann10, Bryan N. Lawrence8,11, Gerald A. Meehl12, Mattia Righi1, and Dean N. Williams2 1 Introduction rewards of the coordinated experiments and data standards have yet to be realized to further capitalize on the CMIP multi-model and observational infrastructure already in place (Williams et al., 2015). High-profile reports such as the Intergovernmental Panel on Climate Change (IPCC) Fifth Assessment Report (AR5; IPCC, 2013) attest to the exceptional societal interest in un- derstanding and projecting future climate. The climate sim- ulations considered in IPCC AR5 are mostly based on Earth system model (ESM) experiments defined and internation- ally coordinated as part of the World Climate Research Pro- gramme (WCRP) Coupled Model Intercomparison Project Phase 5 (CMIP5; Taylor et al., 2012). The objective of CMIP is to better understand past, present, and future cli- mate changes in a multi-model context. However, adequate use of the simulations requires an awareness of their limi- tations. Therefore, it is essential to systematically evaluate models with available observations (Flato et al., 2013). More generally, model evaluation and intercomparison provides a necessary albeit insufficient perspective on the reliability of models and also facilitates the prioritization of research that aims at improving the models. Here, we provide a perspective for developing standard- ized analysis procedures that could routinely be applied to CMIP model output at the time of publication to the ESGF, and we announce our intention to implement such a sys- tem in time for the sixth phase of CMIP (CMIP6; Eyring et al., 2016a). The goal is to produce – along with the model output and documentation – a set of informative di- agnostics and performance metrics that provide a broad, al- beit incomplete, overview of model performance and simu- lation behaviour. With this paper we aim to attract input and development of established, yet innovative analysis codes from the broad community of scientists analysing CMIP re- sults, including the CMIP6-Endorsed model intercomparison projects (MIPs). The CMIP standard evaluation procedure should utilize open-source and community-based evaluation tools, flexibly designed in order to allow their improvement and extension over time. Our discussion here specifically ad- dresses the crucial infrastructure requirements generated by such community tools for ESM analysis and evaluation, in- cluding how such requirements lead to reliance on the infras- tructure supporting ESM output and relevant Earth system observations. Saclay, France The CMIP infrastructure enforces data standards and conventions for model output and documentation accessible via the ESGF, additionally publishing observations (obs4MIPs) and reanalyses (ana4MIPs) for model Published by Copernicus Publications on behalf of the European Geosciences Union 814 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP intercomparison projects using the same data structure and organization as the ESM output. This largely facil- itates routine evaluation of the ESMs, but to be able to process the data automatically alongside the ESGF, the infrastructure needs to be extended with processing capabilities at the ESGF data nodes where the evaluation tools can be executed on a routine basis. Efforts are already underway to develop community-based evaluation tools, and we encourage experts to provide additional diagnostic codes that would enhance this capability for CMIP. At the same time, we encourage the community to contribute observations and reanalyses for model eval- uation to the obs4MIPs and ana4MIPs archives. The intention is to produce through the ESGF a widely accepted quasi-operational evaluation framework for CMIP6 that would routinely execute a series of standardized evalua- tion tasks. Over time, as this capability matures, we expect to produce an increasingly systematic characterization of models which, compared with early phases of CMIP, will more quickly and openly identify the strengths and weaknesses of the simulations. This will also reveal whether long-standing model errors remain evident in newer models and will assist modelling groups in improving their models. This framework will be designed to readily incorporate updates, including new observations and additional diagnostics and metrics as they become available from the research community. 1http://esgf.llnl.gov/ 2http://es-doc.org 1 Introduction An overarching theme is that, if we are to cap- italize on the community effort devoted to model develop- ment, analysis, documentation, and evaluation and if we are to fully exploit the value of coordinated multi-model simu- lation activities like CMIP, then further infrastructure devel- opment and maintenance will be needed. Given the CMIP6 timeline and the complex and integrated nature of the in- frastructure, it is expected that requirements will have to be satisfied by modifications and additions to the current in- frastructure, rather than development and deployment of a completely new approach. The proposed infrastructure re- lies on conventions for data and for recording model and ex- p g Output from CMIP5 models is archived in a common for- mat and structure and is accessible via a distributed data archive, namely the Earth System Grid Federation (ESGF).1 The scientific contents of the models and the details of the simulations are further described via the Earth System Doc- umentation (ES-DOC) effort.2 This has enabled a diverse community of scientists with more than 27 000 registered users (Williams et al., 2015) to readily search, retrieve, and analyse these simulations. Since CMIP5, there has also been a large effort to provide observations and reanalysis prod- ucts to end users of CMIP results as part of the observations (obs4MIPs; Teixeira et al., 2014) and reanalysis (ana4MIPs) for model intercomparison projects. Together, these efforts have the potential to facilitate comparisons of model simu- lations with observations and reanalyses. However, the full Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 815 open-source, community-developed diagnostic packages that would be routinely applied to standardized model output pro- duced under common experiment conditions. The CMIP Di- agnostic, Evaluation and Characterization of Klima (DECK) experiments and the CMIP historical simulations (Eyring et al., 2016a) lend themselves to this purpose. periment documentation that have been developed over the last two decades. Its backbone is the distributed data archive and the delivery system developed by the ESGF, which with CMIP5’s success and WCRP’s encouragement is increas- ingly being adopted by the climate research community. We hope the overview presented here inspires additional, fo- cused efforts toward improved and more routine evaluation in CMIP. The workflow for routinely analysing and evaluating the CMIP simulations is shown in Fig. 1. 2.1 Access to CMIP model output and observations in common formats The CMIP5 archive of multi-model output constitutes an enormous and valuable resource that efficiently enables progress in climate research. This diverse repository, in ex- cess of 2 PB (see Table 1), of commonly formatted climate model data also has proved valuable in the preparation of climate assessment reports such as the IPCC and in serv- ing the needs of downstream users of climate model out- put such as impact researchers. The CMIP data format re- quirements are based on the Climate and Forecast (CF) self- describing Network Common Data Format (NetCDF) stan- dards and naming convention4 and tools such as Climate Model Output Rewriter (CMOR).5 As a result, the CMIP model output conforms to a common standard with metadata that enables automated interpretation of file contents. The layout of data in storage and the definition of discovery meta- data have also been standardized in the data reference syntax (DRS),6 which provides for logical and automated ways to access data across all models. This has enabled development of analysis tools capable of treating data from all models in the same way and effectively independent of the platform on which they are executed. This paper is organized as follows. In Sect. 2 we argue for the development of community evaluation tools that would be routinely applied to CMIP model output as soon as it be- comes available from the ESGF, and we identify the asso- ciated software infrastructural needs. In Sect. 3, we discuss some of the scientific gaps and challenges that might be ad- dressed through innovative diagnostics that could be incorpo- rated into future, more comprehensive evaluation tools. Sec- tion 4 closes with a summary and outlook. 1 Introduction It utilizes community tools and relies on the ESGF infrastructure and relevant Earth system observations. The workflow assumes CMIP model output and observations are accessible in a common format on ESGF data nodes (Sect. 2.1), open-source software eval- uation tools exist (Sect. 2.2), and the existing ESGF infras- tructure, which is now mainly a data archive, is enhanced with additional processing capabilities enabling evaluation tools to be directly executed on at least some of the ESGF nodes (Sect. 2.3). Plans for making evaluation results trace- able, well documented, and visually rendered are also dis- cussed (Sect. 2.4). We emphasize that routine evaluation of the ESMs can- not and is not meant to replace the cutting-edge and in-depth explorative analysis and research that makes use of CMIP output, which will remain essential to close gaps in our sci- entific understanding. Rather, we suggest to make the well- established parts of ESM evaluation that have demonstrated their value in the peer-reviewed literature, for example, as part of the IPCC climate model evaluation chapters (Flato et al., 2013) more routine. This will leave more time for innova- tive research, for example on additional guidance in reducing systematic biases and on new diagnostics that can reduce the uncertainty in future projections. Our assessment draws substantially on responses to a CMIP5 survey3 of representatives from the climate science community. The summer 2013 survey was developed by the CMIP Panel, a subcommittee of the WCRP Working Group on Coupled Modelling (WGCM), which is responsible for direct coordination of CMIP. The scientific gaps and recom- mendations for CMIP6 that were identified through this com- munity survey are summarized by Stouffer et al. (2016). 3http://www.wcrp-climate.org/wgcm-cmip/wgcm-cmip6 4http://cfconventions.org 5https://pcmdi.github.io/cmor-site/ 6http://cmip-pcmdi.llnl.gov/cmip5/docs/cmip5_data_ reference_syntax.pdf www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Figure 1. Schematic diagram of the workflow for routinely producing a broad characterization of model performance for CMIP model output using community evaluation tools that utilize relevant observations and reanalyses and rely on the ESGF infrastructure. Figure 1. Schematic diagram of the workflow for routinely producing a broad characterization of model performance for CMIP model output using community evaluation tools that utilize relevant observations and reanalyses and rely on the ESGF infrastructure. Figure 1. Schematic diagram of the workflow for routinely producing a broad characterization of model performance for CMIP model output using community evaluation tools that utilize relevant observations and reanalyses and rely on the ESGF infrastructure. Figure 1. Schematic diagram of the workflow for routinely producing a broad characterization of model performance for CMIP model output using community evaluation tools that utilize relevant observations and reanalyses and rely on the ESGF infrastructure. Table 1. Participation statistics for CMIP3 and CMIP5 and those estimated for CMIP6. Table 1. Participation statistics for CMIP3 and CMIP5 and those estimated for CMIP6. Participation statistics for CMIP3 and CMIP5 and those estimated for CMIP6. Table 1. Participation statistics for CMIP3 and CMIP5 and those estimated for CMIP6. CMIP3 CMIP5 CMIP6 (estimated) Modelling groups 17 29 > 30 Models 25 60 > 60 Mean number of simulated years per model ∼2800 ∼5500 ∼7500 Data volume (terabytes) ∼36 > 2000 ∼20 000–40 000 are set by the WGCM Infrastructure Panel (WIP), and through the ESGF’s own governance structure these are in- tegrated with demands from other projects. The individual, funded projects comprising the ESGF ultimately determine what can be realized by volunteering to respond to the prior- itized needs and requirements. The model evaluation activity advocated here depends on the ESGF providing automated and robust access to all published model output and relevant observational data. The quantity of data made available un- der CMIP5 was about 50 times larger than under CMIP3. The data volume is expected to grow by another factor of 10–20 for CMIP6, resulting in a database of between 20 and 40 PB, depending on model resolution and the number of modelling centres ultimately participating in the project (Table 1). 2 Evaluation tools and corresponding infrastructure needs for routine model evaluation in CMIP With the increasing complexity and resolution of ESMs, it is a daunting challenge to systematically analyse, evaluate, understand, and document their behaviour. Thus, it is an especially attractive idea to engage a wide range of scien- tific and technical experts in the development of community- based diagnostic packages. The value of a broad suite of performance metrics that summarize overall model perfor- mance across the atmospheric, oceanic, and terrestrial do- mains is recognized by model developers, among others, as one way to obtain a broad picture of model behaviour. An obvious way to avoid duplication of effort across the model development and research community would be to adopt The infrastructure supporting the publication of CMIP5 data was developed by the ESGF, which archives data ac- cessible via a common interface but distributed among data nodes hosted by modelling and data centres. The CMIP5 sur- vey noted that this first generation of a distributed infrastruc- ture to serve the model data did not initially perform well, Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 816 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Similar documentation efforts for observations specifi- cally meant for use in model evaluation can be found at the National Center for Atmospheric Research (NCAR) climate data guide.7 Ideally, standard technical documentation as de- fined by obs4MIPs will be adopted broadly by the interna- tional observational community and will be hosted alongside (or integrated with) the CMIP model and simulation standard documentation (ES-DOC). Additionally, there are proposals being considered to include non-gridded data in obs4MIPs (e.g. data collected by ground stations or during aircraft cam- paigns), and the possibility that auxiliary data such as land– sea masks, averaging kernels, and additional uncertainty data might also be provided. Whatever datasets are used for model evaluation, it will be important to determine the size of ob- servational error relative to the errors in the models. One ap- proach being developed is to provide ensembles of observa- tional estimates, all based on a single sensor or product and generated by making many different choices of retrieval al- gorithms or parameters, all considered to be reasonable. The goal is to be able to extend obs4MIPs in order to better char- acterize observational uncertainty. The convenience of dealing with CMIP output that adheres to well-defined standards and conventions is a major reason why the data have been used extensively in research. An- other requirement of any model evaluation activity is well- characterized observational data. Traditionally, observations from different sources have been archived and documented in a variety of ways and formats. To encourage a more uni- fied approach, the obs4MIPs initiative (Teixeira et al., 2014) has defined a set of specifications and criteria for techni- cally aligning observational datasets with CMIP model out- put (with common file format, data, and metadata structure). Over 50 gridded datasets that conform to these standards are now archived on the ESGF alongside CMIP model output, and the archive continues to rapidly expand (Ferraro et al., 2015). Data users have enthusiastically received obs4MIPs, and the WCRP Data Advisory Council’s (WDAC) has es- tablished a task team to encourage the project and provide guidance and governance at the international level. The ex- pansion of the obs4MIPs project, with additional observa- tional products directly relevant to Earth’s climate system components and process evaluation, is a clear opportunity to facilitate routine evaluation of ESMs in CMIP. A sister project, ana4MIPs, provides selected fields well suited for model evaluation from major atmospheric reanalyses. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP The CMIP6 routine model evaluation activity discussed here will initially rely mostly on well-observed and commonly anal- ysed fields, so this activity is not expected to increase the which, retrospectively, is not surprising given that it was a first major application of a distributed approach to archiving CMIP data and given the limited time and resources avail- able for development and testing. Storing, testing, and deliv- ering these data have relied on a distributed infrastructure de- veloped largely through community-based coordination and short-term funding. This relatively fragile approach to pro- viding climate modelling infrastructure will face even stiffer challenges in the future. Climate modelling and evaluation, which already involves management of enormous amounts of data, is a big data challenge confronted with demands for prompt access and availability (Laney, 2012). Unless we meet the challenge of dealing with increasing volumes of data, it will be difficult to routinely and promptly evaluate CMIP models. Improvements in the functionality of the ESGF require a coordinated international undertaking. Priorities for CMIP Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CM 817 CMIP6 data request beyond the CMIP6-Endorsed MIP de- mands. Table 2. Examples of existing diagnostic tools that are available for CMIP6. Some of the tools focus on the broad characterization of the models and others on specific scientific applications. For details on diagnostics and performance metrics included in these tools and a description on how to contribute to the developments, we refer the reader to the individual literature and websites given below. Short name of tool Long name of tool Focus Reference Language Further information Coupled to the ESGF running locally and on specific supernodes in CMIP6 (see text and Fig. 5) ESMValTool Earth System Model Evaluation Tool Diagnostics and performance metrics for the Eyring et al. (2016b) Backend in Python, diagnostics http://www.esmvaltool.org/ broad characterization of CMIP6 models in NCL, R, Python PMP PCMDI Metrics Package Summary statistics and associated diagnostics for Gleckler et al. 7https://climatedataguide.ucar.edu V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP (2016) Python https://github.com/PCMDI/pcmdi_metrics the broad characterization of CMIP6 models Examples of evaluation tools targeting specific applications or phenomena CREM∗ Cloud regime error metric Clouds Williams and Webb (2009) Python – CLIMDEX∗ Climate extremes indices Core indices of extreme climate – R https://cran.r-project.org/web/packages/climdex.pcic/ ILAMB International Land Modeling Benchmarking Project Carbon cycle and land surface processes i Luo et al. (2012) NCL, Python http://www.ilamb.org/ NCAR CVDP* NCAR Climate Variability Diagnostics Package Major modes of climate variability Phillips et al. (2014) NCL https://www2.cesm.ucar.edu/ SOCCOM∗ Southern Ocean Climate Model Atlas Southern Ocean – Ferret http://southernocean.arizona.edu/ ∗These tools are also included as separate namelists in the ESMValTool and will be applied to CMIP6 models together with other ESMValTool diagnostics and performance metrics as soon as the output is published to the ESGF earth-syst-dynam.net/7/813/2016/ The convenience of dealing with CMIP output that adheres to well-defined standards and conventions is a major reason why the data have been used extensively in research. An- other requirement of any model evaluation activity is well- characterized observational data. Traditionally, observations from different sources have been archived and documented in a variety of ways and formats. To encourage a more uni- fied approach, the obs4MIPs initiative (Teixeira et al., 2014) has defined a set of specifications and criteria for techni- cally aligning observational datasets with CMIP model out- put (with common file format, data, and metadata structure). Over 50 gridded datasets that conform to these standards are now archived on the ESGF alongside CMIP model output, and the archive continues to rapidly expand (Ferraro et al., 2015). Data users have enthusiastically received obs4MIPs, and the WCRP Data Advisory Council’s (WDAC) has es- tablished a task team to encourage the project and provide guidance and governance at the international level. The ex- pansion of the obs4MIPs project, with additional observa- tional products directly relevant to Earth’s climate system components and process evaluation, is a clear opportunity to facilitate routine evaluation of ESMs in CMIP. A sister project, ana4MIPs, provides selected fields well suited for model evaluation from major atmospheric reanalyses. The obs4MIPs protocol requires every dataset submitted to be ac- companied by a technical note, which includes, for example, discussion of uncertainties and guidance as to aspects of the data product that are particularly relevant to model evalua- tion. www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Dynam., 7, 813–830, 2016 2.2 Community tools for Earth system model evaluation ready for CMIP6 It is envisaged that well-established plots produced by the standardize evaluation process outlined here will eventually be archived and become part of model documentation. In the meantime they can also be included in publications on model evaluation: since the tools that produce them are open- source, the resulting plots are also effectively freely avail- able. However, we would expect users to cite both software versions and technical papers produced by the tool develop- ers to provide the formal provenance for the plots. There is growing awareness that community-shared software could facilitate more comprehensive and efficient evaluation of ESMs and that this could help increase the pace of un- derstanding model behaviour and consequentially also the rate of model improvement. Here we highlight several ex- amples of capabilities that are currently under development and relevant to the goal of developing routine evaluation of CMIP simulations. Table 2 provides examples for existing diagnostic tools that can be used within CMIP6. Specifics of the design and the diagnostics included in these tools are de- tailed in the corresponding documentations of the tools that we refer to in the text and Table 2. Here, we only provide a brief overview and show a few examples of the type of plots that could be produced as soon as the model output is sub- mitted to the ESGF. An up-to-date version of available tools will be catalogued by the WCRP’s Working Group on Nu- merical Experimentation (WGNE)/WGCM Climate Model Diagnostics and Metrics Panel and maintained via an Earth System CoG site. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 818 Figure 2. Examples of performance metrics and diagnostics that will be calculated from CMIP6 models with the ESMValTool (Eyring et al., 2016b) as soon as the output is submitted to the ESGF. (a) Taylor diagram showing the 20-year annual average performance of CMIP5 models for total cloud fraction as compared to MODIS satellite observations, (b) aerosol optical depth from ESA-CCI satellite data (contours) compared with station measurements by AERONET (circles), (c) an emergent constraint on the carbon cycle–climate feedback (γLT) based on the short-term sensitivity of atmospheric CO2 to interannual temperature variability (γIAV) in the tropics, (d) modelled and observed time series of September mean Arctic sea-ice extent, (e) RMSD metric of several components of the global carbon cycle, and (f) annual-mean precipitation rate (mm day−1) bias from the CMIP5 multi-model mean compared to the Global Precipitation Climatology Project. Figure 2. Examples of performance metrics and diagnostics that will be calculated from CMIP6 models with the ESMValTool (Eyring et al., 2016b) as soon as the output is submitted to the ESGF. (a) Taylor diagram showing the 20-year annual average performance of CMIP5 models for total cloud fraction as compared to MODIS satellite observations, (b) aerosol optical depth from ESA-CCI satellite data (contours) compared with station measurements by AERONET (circles), (c) an emergent constraint on the carbon cycle–climate feedback (γLT) based on the short-term sensitivity of atmospheric CO2 to interannual temperature variability (γIAV) in the tropics, (d) modelled and observed time series of September mean Arctic sea-ice extent, (e) RMSD metric of several components of the global carbon cycle, and (f) annual-mean precipitation rate (mm day−1) bias from the CMIP5 multi-model mean compared to the Global Precipitation Climatology Project. 2.2 Community tools for Earth system model evaluation ready for CMIP6 2.2 Community tools for Earth system model evaluation ready for CMIP6 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP The obs4MIPs protocol requires every dataset submitted to be ac- companied by a technical note, which includes, for example, discussion of uncertainties and guidance as to aspects of the data product that are particularly relevant to model evalua- tion. Similar documentation efforts for observations specifi- cally meant for use in model evaluation can be found at the National Center for Atmospheric Research (NCAR) climate data guide.7 Ideally, standard technical documentation as de- fined by obs4MIPs will be adopted broadly by the interna- tional observational community and will be hosted alongside (or integrated with) the CMIP model and simulation standard documentation (ES-DOC). Additionally, there are proposals being considered to include non-gridded data in obs4MIPs (e.g. data collected by ground stations or during aircraft cam- paigns), and the possibility that auxiliary data such as land– sea masks, averaging kernels, and additional uncertainty data might also be provided. Whatever datasets are used for model evaluation, it will be important to determine the size of ob- servational error relative to the errors in the models. One ap- proach being developed is to provide ensembles of observa- tional estimates, all based on a single sensor or product and generated by making many different choices of retrieval al- gorithms or parameters, all considered to be reasonable. The goal is to be able to extend obs4MIPs in order to better char- acterize observational uncertainty. Earth Syst. Dynam., 7, 813–830, 2016 Earth Syst. Dynam., 7, 813–830, 2016 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 2.2.1 Evaluation tools targeting the broad characterization of ESMs in CMIP6 Example plots produced with PMP are shown in Fig. 3. The first examines how well simulated sea ice agrees with measurements on sector scales and demon- strates that the classical measure of total sea-ice area is often misleading because of compensating errors (Ivanova et al., 2016). The second highlights the am- plitude and phase of the diurnal cycle of precipitation (Covey et al., 2016), and the third example is given by a “portrait plot” comparing different versions of the same model (Gleckler et al., 2016) in Atmospheric Model In- tercomparison Project (AMIP) mode. Both software packages are open-source, have a wide range of functionalities, and are being developed as com- munity tools with the involvement of multiple institutions. CMIP6 modelling groups and users of the CMIP6 data can make use of the evaluation results that are produced with these tools which will be made available to the wider com- munity. They can also download the source code and can run the tools locally before submission of the results to the ESGF for an additional quality check of the simulations. Here we summarize some aspects of these tools but refer the reader to their respective documentation in the literature for further details. – The ESMValTool (Eyring et al., 2016b) consists of a workflow manager and a number of diagnostic and graphical output scripts. The workflow manager is writ- ten in Python, whereas multi-language support is pro- vided for the diagnostic and graphic routines. The ES- MValTool workflow is controlled by a main namelist file defining the model and observational data to be read, the variables to be analysed, and the diagnostics to be ap- plied. The priority of the effort so far has been to target specific scientific themes focusing on selected essential climate variables (ECVs); a range of known systematic biases common to ESMs, such as coupled tropical cli- mate variability, monsoons, Southern Ocean processes, continental dry biases and soil hydrology–climate in- teractions; atmospheric CO2 budgets; tropospheric and stratospheric ozone; and tropospheric aerosols. ESM- ValTool v1.0 includes a large collection of standard namelists for reproducing the analysis of many variables across atmosphere, ocean, and land domains, with diag- nostics and performance metrics focusing on the mean state, trends, variability and important processes, phe- nomena, and emergent constraints. 2.2.1 Evaluation tools targeting the broad characterization of ESMs in CMIP6 The collection of standard namelists allows for reproduction of, for ex- ample, the figures from the climate model evaluation chapter of IPCC AR5 (Chapt. 9; Flato et al., 2013) and parts of the projection chapter (Chapt. 12; Collins et al., 2013b), a portrait diagram comparing the time- mean root mean square difference (RMSD) over dif- ferent subdomains as in Gleckler et al. (2008) and for land and ocean components of the global carbon cycle as in Anav et al. (2013). ESMValTool v1.0 also includes stand-alone packages such as the NCAR CVDP and the cloud regime metric developed by the Cloud Feed- back MIP (CFMIP) community (Williams and Webb, 2009), as well as detailed diagnostics for monsoon, El Niño–Southern Oscillation (ENSO), and the Madden– Julian Oscillation (MJO). Example plots that illustrate the type of plots that will be produced with ESMVal- Both tools are under rapid development with a priority of providing a diverse suite of diagnostics and performance metrics for all DECK and historical simulations in CMIP6 to researchers and model developers suitable for use soon after each simulation is published on the ESGF. Since these tools are freely available, modelling groups participating in CMIP can additionally make use of these packages. They could choose, for example, to utilize the tools during the model development process in order to identify relative strengths and weaknesses of new model versions also in the context of the performance of other models or they could run the tools locally before publishing the model output to the ESGF. The tools are therefore highly portable and have been tested across different platforms. The packages are designed to en- able community contributions, with all results made highly traceable and reproducible. Collectively, the ESMValTool, PMP, and other efforts such as those mentioned in Sect. 2.2.2 below offer valuable capabilities that will be crucial for the systematic evaluation of the wide variety of models and model versions contributing to CMIP6. 8https://verc.enes.org/models/support-service-for-model-users-1 2.2.1 Evaluation tools targeting the broad characterization of ESMs in CMIP6 Our initial goal is the coupling of two capabilities to the ESGF to produce a broad characterization of CMIP6 DECK and historical simulations as soon as new model experiments are published on the CMIP6 archive: the Earth System Model Evaluation Tool (ESMValTool), which includes other model evaluation packages such as the NCAR Climate Variability Diagnostics Package (CVDP; see Sect. 2.2.2 and Table 2), and the PCMDI Metrics Package (PMP). The foundation that will enable this quasi-operation evaluation of the models to be efficient and systematic is the community-based experi- Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 819 Tool for CMIP6 are illustrated in Fig. 2, and we refer the reader to the corresponding literature and the ESM- ValTool website (see Table 2) for full details. mental protocols and conventions of CMIP, including their aforementioned extensions to obs4MIPs and ana4MIPs (see Sect. 2.1). These evaluation tools are designed to exploit the data standards used in CMIP. – The PMP (Gleckler et al., 2016) includes a diverse suite of summary statistics to objectively gauge the level of agreement between model simulations and observa- tions across a broad range of space and timescales. It is built on the Python and Ultrascale Visualization Cli- mate Data Analysis Tools (UV-CDAT; Williams, 2014), a powerful software tool kit that provides cutting-edge data management, diagnostic, and visualization capabil- ities. Example plots produced with PMP are shown in Fig. 3. The first examines how well simulated sea ice agrees with measurements on sector scales and demon- strates that the classical measure of total sea-ice area is often misleading because of compensating errors (Ivanova et al., 2016). The second highlights the am- plitude and phase of the diurnal cycle of precipitation (Covey et al., 2016), and the third example is given by a “portrait plot” comparing different versions of the same model (Gleckler et al., 2016) in Atmospheric Model In- tercomparison Project (AMIP) mode. – The PMP (Gleckler et al., 2016) includes a diverse suite of summary statistics to objectively gauge the level of agreement between model simulations and observa- tions across a broad range of space and timescales. It is built on the Python and Ultrascale Visualization Cli- mate Data Analysis Tools (UV-CDAT; Williams, 2014), a powerful software tool kit that provides cutting-edge data management, diagnostic, and visualization capabil- ities. 2.2.2 Evaluation tools targeting specific applications or phenomena Some other tools are being developed specifically to address targeted applications or phenomena. For example, the Euro- pean Network for Earth System Modelling (ENES) portal8 provides open-source evaluation tools for specific applica- tions that include chemistry–climate models (Gettelman et www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Dynam., 7, 813–830, 2016 Earth Syst. Dynam., 7, 813–830, 2016 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 820 Figure 3. Examples of the kind of summary statistics that will be calculated from CMIP6 models with the PMP (Gleckler et al., 2016) as soon as the output is submitted to the ESGF: (a) harmonic dial plots of the amplitude and phase of Fourier components, after vector averaging over land and ocean areas separately, (b) model ranking using mean-square error (MSE) of the total sea-ice area annual cycle versus an MSE constructed to include spatial information on sector scales, and (c) relative error measures of different developmental tests of the Geophysical Fluid Dynamics Laboratory (GFDL) model in AMIP mode. Figure 3. Examples of the kind of summary statistics that will be calculated from CMIP6 models with the PMP (Gleckler et al., 2016) as soon as the output is submitted to the ESGF: (a) harmonic dial plots of the amplitude and phase of Fourier components, after vector averaging over land and ocean areas separately, (b) model ranking using mean-square error (MSE) of the total sea-ice area annual cycle versus an MSE constructed to include spatial information on sector scales, and (c) relative error measures of different developmental tests of the Geophysical Fluid Dynamics Laboratory (GFDL) model in AMIP mode. al., 2012), the aerosol component of ESMs, a satellite simula- tor package for satellite observations of ocean surface fluxes, and an objective recognition algorithm for properties of mid- latitude storms. the same scientific metrics incorporated into different techni- cal frameworks. The wider community is being encouraged to contribute to the development of these tools by adding code for addi- tional diagnostics. We refer the reader to the literature of the individual tools for details on how the development teams invite these contributions. The free availability of the codes should facilitate this task and also help to increase code qual- ity. 2.2.2 Evaluation tools targeting specific applications or phenomena We stress again that the focus of these evaluation tools is on reproducing standard evaluation tasks and not on per- forming generic data processing task, such as extracting, for example, monthly or zonal means, or reducing or regridding model data. Although they could be in principle used just for data processing, this is not their main goal and they may not include all the functionalities typically covered by pure data- processing tools. Other examples are the NCAR CVDP, which has been de- signed to work on CMIP output and provides analysis of the major modes of climate variability in models and observa- tions (Phillips et al., 2014). The NCAR CVDP is also imple- mented as a stand-alone namelist in the ESMValTool. Fig- ure 4 shows a comparison of the CMIP5 models with ob- servations for the Pacific Decadal Oscillation (PDO) to il- lustrate the kind of plots that can be produced with CVDP. Other available model evaluation packages that could be ap- plied to CMIP6 output are the International Land Modeling Benchmarking Project (ILAMB), focusing on the represen- tation of the carbon cycle and land surface processes in cli- mate models via extensive comparison of model results with observations (Luo et al., 2012). Still other packages target model evaluation methods that are computationally demand- ing such as the parallel toolkit for extreme climate analysis (TECA; Prabhat et al., 2012). 2.3 Integration of evaluation tools in ESGF infrastructure 2.3 Integration of evaluation tools in ESGF infrastructure In order to connect multivariate results from multiple mod- els and multiple observational datasets (Sect. 2.1) with tools for a quasi-operational evaluation of the CMIP models (Sect. 2.2), an efficient ESGF infrastructure is needed that can handle the vast amount of data and execute the evalua- tion tools. At the same time the workflow should be captured so that the evaluation procedure can be reproduced as new model output becomes available. This will allow changes in model performance to be monitored over a time frame of many years. Our expectation is that, for CMIP6, the ESMVal- Tool and PMP, with contributions from other efforts such as the NCAR CVDP and ILAMB packages, will be able to oper- ate directly on the data served by the major ESGF data nodes. While it was and is possible to run analysis tools over the CMIP5 archive, it was difficult, error-prone, and not widely done. The proposed new functionality for CMIP6 is a step to- There is some overlap in function between the ESMVal- Tool and PMP and the other tools mentioned above, but ef- forts are underway to provide some coordination between these developing capabilities to reduce duplication of effort and to help ensure they advance in a way that best serves the CMIP modelling and research communities, including the modelling groups themselves. In any case, encouraging a diversity of technical approaches and tools rather than a single one may at this stage be beneficial as it will provide experience that will help guide a more integrated approach in the longer term, perhaps as the community prepares for CMIP7 and beyond. Current testing with the same RMSD and ENSO metrics implemented in both the ESMValTool and PMP should inform such comparisons and reliability tests of Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP wards improved and more routine Earth system model evaluation in CMIP 821 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 821 Figure 4. Examples of the kind of plots that will be calculated from CMIP6 models with the NCAR CVDP (Phillips et al., 2014) ESMValTool namelist as soon as the output is submitted to the ESGF. 2.3 Integration of evaluation tools in ESGF infrastructure The figure shows the PDO as simulated by 41 CMIP5 models (individual panels labelled by model name) and observations (upper left panel) for the historical period 1900–2005. Figure 4. Examples of the kind of plots that will be calculated from CMIP6 models with the NCAR CVDP (Phillips et al., 2014) ESMValTool namelist as soon as the output is submitted to the ESGF. The figure shows the PDO as simulated by 41 CMIP5 models (individual panels labelled by model name) and observations (upper left panel) for the historical period 1900–2005. Figure 4. Examples of the kind of plots that will be calculated from CMIP6 models with the NCAR CVDP (Phillips et al., 2014) ESMValTool namelist as soon as the output is submitted to the ESGF. The figure shows the PDO as simulated by 41 CMIP5 models (individual panels labelled by model name) and observations (upper left panel) for the historical period 1900–2005. ward what should become a tighter integration of model anal- ysis tools with data servers. This advancement will be partic- ularly advantageous given the very large and complex CMIP data archive. Here we describe the necessary associated in- frastructural changes that need to be made to enable this for CMIP6. As we provide an overview of the challenges emerg- ing from the desire to move towards more routine evaluation of the models in future CMIP phases, it should be understood that actual implementation will require specification of many important technical details not addressed here. vations used by the evaluation tools. Although these repli- cas typically represent a significant subset of the data vol- ume available on the ESGF, especially at the larger ESGF nodes, the complete replication of the entire CMIP model output at a single ESGF site cannot be achieved. As a con- sequence, some of the required CMIP model output used in the evaluation tools might still not be available even on the largest ESGF nodes. There are two practical solutions: (1) to distribute the processing of the evaluation tools at different ESGF nodes, and (2) to acquire and potentially cache data as needed for the evaluation tools. We regard the first option as not being practical in the CMIP6 time frame but a possibly promising option in the long term. It is envisaged that the evaluation tools will be executed at one or more of the ESGF sites that host copies (i.e. www.earth-syst-dynam.net/7/813/2016/ 2.3 Integration of evaluation tools in ESGF infrastructure Schematic diagram of the envisaged evaluation tool pro- cessing stream for CMIP6. The schematic displays how the tools will be executed directly on ESGF supernodes exploiting opti- mized ESGF data organization and software solutions (see details in Sect. 2.3). The second option that we envisage to be feasible for CMIP6 is schematically displayed in Fig. 5. The evaluation tools are executed with specific user configurations (e.g. the ESMValTool namelists; Eyring et al., 2016b). These user configurations also include the list of model and observa- tional data to be analysed. Tools such as esgf-pyclient9 and synda10 exist which allow interrogation of local and dis- tributed node data and which could transfer the necessary data into either a cache or the ESGF replica storage. OPeN- DAP11 could also be used without the necessity for a cache. However, the workflow for managing this process does not yet exist and needs to be developed. Given the huge vol- umes of the ESGF data collections, it is realistic to assume that the requisite data will be maintained only at specific ESGF nodes where the evaluation tools will be executed. It is therefore realistic that within CMIP6 the evaluation tools will be installed and operated on selected ESGF supernodes only, currently expected to be those hosted by seven climate data centres on four continents (Beijing Normal University (China), Centre for Environmental Data Analysis (CEDA, UK), Deutsches Klimarechenzentrum (DKRZ, Germany), Institut Pierre Simon Laplace (IPSL, France), Lawrence Liv- ermore National Laboratory (LLNL, USA), National Com- A coordinated set of community-based diagnostic pack- ages will require standards and conventions to be adopted governing the analysis interface and the output produced by the diagnostic procedures. Clear documentation of the pro- cedures and codes is required, as are standards for all key interfaces. Because working towards a community-based ap- proach represents a shift in CMIP procedure, like the data standards themselves it will likely take considerable time and effort to establish agreed-upon software standards. In the in- terim, substantial progress can be made by expert teams de- veloping diagnostic tools if they follow a set of best practices and reasonable efforts are made to coordinate them where possible. During this period the different approaches avail- able can be assessed, and further experience with them can help lead to advancing community-based interfaces. 2.3 Integration of evaluation tools in ESGF infrastructure “repli- cas”) of most of the required CMIP datasets and the obser- Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 822 putational Infrastructure (NCI, Australia), and the University of Tokyo (Japan); see Williams et al., 2015). These supern- odes will need to provide the necessary storage and com- puting resources and be integrated into the ESGF replication infrastructure, which optimizes data transport between core ESGF sites. Since it will take substantial time to replicate all output from the CMIP DECK and historical simulations to the supernodes (similar replications took months in CMIP5), we have recommended to the ESGF teams that the data used by the CMIP evaluation tools be replicated with higher pri- ority. This should substantially speed up the evaluation of model results after submission of the simulation output to the ESGF. A prerequisite for this is that the evaluation tools pro- vide an overview of the experiments, the subset of data from the CMIP6 data request, and the observations and reanaly- ses that are used. In the long term (e.g. in time for CMIP7), more automatic and rapid procedures could be developed so that the evaluation tools could be run as part of the publica- tion process of the model output. Figure 5. Schematic diagram of the envisaged evaluation tool pro- cessing stream for CMIP6. The schematic displays how the tools will be executed directly on ESGF supernodes exploiting opti- mized ESGF data organization and software solutions (see details in Sect. 2.3). Executing the evaluation tools directly alongside the ESGF may also require the extension of the current hardware and software infrastructure to implement processing capabil- ities where the tools can be run. This infrastructure will need to include new interfaces to computers, and should allow for flexible deployment and usage scenarios since we can foresee application in a spectrum of possible environments discussed above. Given the large amount of data involved, paralleliza- tion of the data handling in the evaluation tools themselves needs to be considered in order to efficiently process the large amount of data. A number of different technical solutions are possible, but in Europe at least, it is likely that supernodes will deploy web processing services12 exposing the diagnos- tic codes as “capabilities” to new ESGF portals which exploit backend computing and access to the ESGF data nodes. Figure 5. 9https://pypi.python.org/pypi/esgf-pyclient 10https://github.com/Prodiguer/synda 11http://www.opendap.org 12http://www.opengeospatial.org/standards/wps www.earth-syst-dynam.net/7/813/2016/ Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 823 Figure 6. Schematic diagram of routine evaluation of CMIP DECK experiments and the CMIP historical simulations that is envisaged in the long term. The evaluation tools would be executed quasi-operationally to produce a broad characterization of model performance as part of the ESGF publishing workflow, as could documentation and visual displays of the evaluation results with records of provenance. This example shows four different models that contribute with different model versions (V1–4) over time throughout CMIP6 and following phases. Figure 6. Schematic diagram of routine evaluation of CMIP DECK experiments and the CMIP historical simulations that is envisaged in the long term. The evaluation tools would be executed quasi-operationally to produce a broad characterization of model performance as part of the ESGF publishing workflow, as could documentation and visual displays of the evaluation results with records of provenance. This example shows four different models that contribute with different model versions (V1–4) over time throughout CMIP6 and following phases. tomatically and made available within the ESGF web service as well as in the local viewer. that early ESGF resources will be allocated to the tool devel- opers to provide diagnostics products centrally rather than for open computing on demand by multiple users. Multiple users could, however, still make profitable use of the tools by downloading the source codes and running them on their own local systems. For more information regarding ESGF’s infrastructure and progress towards computing and tool inte- gration, please see the 2016 5th Annual ESGF Face-to-Face Conference Report.13 To summarize, we will begin in the CMIP6 time frame with the deployment of a subset of packages, in particu- lar the ESMValTool (which itself includes other well-known packages such as NCAR CVDP) and PMP and run them on or alongside ESGF supernodes. Starting with available data in existing CMIP5 replica caches, the evaluation pack- age developments are tested at dedicated sites (some of the supernodes) and prepared for CMIP6. In parallel, develop- ments with respect to the supporting infrastructure (replica- tion, cache maintenance, provenance recording, parallel pro- cessing) are starting. We expect this initial effort to spur de- velopments toward a uniform approach to analytic package deployment. 13http://esgf.llnl.gov/media/pdf/2015-ESGF_F2FConference_ report_web.pdf 2.3 Integration of evaluation tools in ESGF infrastructure During this time it will also be possible to experiment with different approaches to delivering the required computing within or alongside the ESGF. Given that the amount of necessary and affordable computing resources is not yet clear, it is likely Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CM www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Dynam., 7, 813–830, 2016 3 Current Earth system model evaluation approaches and scientific challenges Establishing a more routine evaluation approach based on performance metrics and diagnostics that have been com- monly used in ESM evaluation in the peer-reviewed literature will complement model evaluation analyses existing at each individual modelling group and will more rapidly allow mod- elling groups and users of CMIP output to identify strengths and weaknesses of the simulations in a shared and multi- model framework. This will constitute an important step for- ward that will help uncover some of the main characteristics of CMIP models. However, in order to fill some of the main long-standing scientific gaps around systematic biases in the models and the spread of the models’ responses to external forcings as evident, for example, in the large spread in equi- librium climate sensitivity in CMIP5 models (Collins et al., 2013b), additional research is required so that more relevant performance tests can be developed that could at a later stage be added to the community tools. The interpretation of the model evaluation results requires a precise understanding of a model’s configuration and the experimental conditions. Although these requirements are not new for CMIP, the plan to carry out routine model eval- uation increases the priority for enhancing documentation in these respects. In CMIP5 with over 1000 different model– experiment combinations, the first attempt was made to cap- ture structured metadata describing the models and the sim- ulations themselves (Guilyardi et al., 2013). Based upon the Common Information Model (CIM; Lawrence et al., 2012), the European Metafor and US Earth System Curator projects worked together to provide tools to capture documentation of models and simulations. This effort is now continuing as part of the international ES-DOC activity, which defines common controlled vocabularies (CVs) that describe models, simula- tions, forcings, and conformance to MIP protocols. Informa- tion from this structured representation of models and ex- periments can be extracted to provide comparative views of differences across models. Feedback from the CMIP5 survey indicates that improvements in methodology used to record model documentation consistent with the CIM are needed. These developments are currently underway and will be im- plemented in time for CMIP6. With the focus here on model evaluation, we anticipate expanding model documentation in the longer term to include metrics of the model scientific per- formance in order to help characterize the simulations. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMI 824 2.4 Data documentation, provenance, and visualization tion of the evaluation diagnostics and metrics generated by the tools is also envisaged for CMIP6; see also Sect. 2.3. 2.4 Data documentation, provenance, and visualization For CMIP6, a specific goal will be to use the analysis tools currently being developed and to execute them on the ESGF once CMIP6 model output is published to provide a com- prehensive evaluation of model behaviour. To document the process and to ensure traceability and reproducibility of the evaluation tool results, a catalogue will be created, including all the relevant information about models, observations, and versions of the tools used for evaluation along with informa- tion on the creation date of running the script, applied diag- nostics and variables, and corresponding references. In this way, a record of model evolution and performance through different CMIP phases would be preserved and tracked over time (see Fig. 6). In the long term, such an evaluation could be part of the publication workflow (Sect. 2.3). 3 Current Earth system model evaluation approaches and scientific challenges Unlike numerical weather prediction models, which can routinely be tested against observations on a daily ba- sis, ESMs produce their own interannual variability and “weather”, meaning that they cannot be compared with ob- servations of a specific day, month, or year but rather only evaluated in a statistical sense over a longer, climate-relevant time period, except when they are run in offline mode and nudged towards, for example, observed meteorology (e.g. Righi et al., 2015). Confidence in ESMs relies on them be- ing based on physical principles and able to reproduce many important aspects of observed climate (Flato et al., 2013). Assessing ESMs’ performance is essential as they are used to understand historical and present-day climate and to make scenario-based projections of the Earth’s climate over many decades and centuries. While significant progress has been made in ESM evaluation over the last decades, there are still many important scientific research opportunities and challenges for CMIP6 that will be addressed by the vari- ous CMIP6-Endorsed MIPs with the seven WCRP Grand Challenges as their scientific backdrop (Eyring et al., 2016a). Stouffer et al. (2016) summarize the main CMIP5 scientific gaps and here we review and discuss briefly only those sci- entific challenges specifically related to model evaluation. In addition, proper data citation and provenance is re- quired. Both model output and the observations serve as the basis for large numbers of scientific papers. It is recognized that sound science and due credit require (1) that data be cited in research papers to give appropriate credit for the data cre- ator and (2) that the provenance of data be recorded to enable results to be verified. Although these requirements were rec- ognized in CMIP5, an automated system to generate appro- priate data citation information and provenance information remained immature. For CMIP6 the WIP encourages con- certed efforts in this area to meet the growing demand for formal scientific literature to cite all datasets used. Visualiza- A critical aspect in ESM evaluation is that, despite signif- icant progress in observing the Earth’s climate, the ability to evaluate model performance is often still limited by deficien- cies or gaps in observations (Collins et al., 2013a; Flato et al., 2013). Additional investment in sustained observations is required, while at the same time some improvements can be made by fully exploiting existing observational data and by more thoroughly taking into account observational uncer- www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Eventually we aspire to put in place a robust and agile framework whereby new diagnostics developed by individual scientists can quickly and routinely be deployed on the large scale. p In support of the ESGF infrastructure, a library will pro- vide a system for indexing the output of the community- based diagnostics packages and automatically generate a user-friendly web interface for looking through the results (i.e. “viewer”). This library will integrate with an ESGF web service to provide a simple workflow for uploading diagnos- tics results to a server and share them with collaborators. Each diagnostics run will generate provenance data that will track data used for input, the version of the community-based package, who ran the diagnostics and at which location, etc. This information would then be bundled with the output au- Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Dynam., 7, 813–830, 2016 3 Current Earth system model evaluation approaches and scientific challenges Other examples include constraints on the CO2 fertilization effect (Wenzel et al., 2016a), equilibrium climate sensitivity and clouds (Fa- sullo et al., 2015; Fasullo and Trenberth, 2012; Klein and Hall, 2015; Sherwood et al., 2014), the austral jet stream (Wenzel et al., 2016b), total column ozone (Karpechko et al., 2013), and sea ice (Mahlstein and Knutti, 2012; Massonnet et al., 2012). One should keep in mind, however, that the “emer- gent constraint” approach is based on relationships which are uncovered in models themselves. Moreover, we must rule out the possibility that some apparent relationship might simply occur by chance or because the representation of the underly- ing physics is too simplistic. The key is whether the processes underlying the constraints are understood and simple enough to likely govern changes on multiple timescales (Caldwell et al., 2014; Karpechko et al., 2013; Klocke et al., 2011). In addition, different studies should not lead to contradictory re- sults but rather confirm each other. As the approach is fairly new, more work is needed to consolidate its applicability. Re- lated to the topic on emergent constraints, more research is required to explore the value of weighting multi-model pro- jections based on both model performance (e.g. Knutti et al., 2010) and model interdependence (Sanderson et al., 2015), as well as the statistical interpretation of the model ensemble (Tebaldi and Knutti, 2007). A wide variety of observational datasets, including the al- ready identified ECVs (GCOS, 2010), can be used to as- sess the evolving climate state (e.g. means, trends, extreme events, and variability) on a range of temporal and spatial scales. Examples include the evaluation of the simulated an- nual and seasonal mean surface air temperature, precipitation rate, and cloud radiative effects (e.g. Fig. 9.2–9.5 of Flato et al., 2013). In evaluating the climate state, many studies are limited to the end result of the combined effects of all pro- cesses represented in CMIP simulations, and as determined by the prescribed boundary conditions, forcings, and other experiment specifications. While a necessary part of model evaluation, a limitation of this approach is that it rarely reveals the extent to which com- pensating model errors might be responsible for any realistic- looking behaviour, and it often fails to reveal the origins of model biases. 3 Current Earth system model evaluation approaches and scientific challenges Dynam., 7, 813–830, 2016 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 825 compared with the observational palaeo-record (Braconnot et al., 2012; Otto-Bliesner et al., 2009). Another increasingly explored option is to identify apparent relationships across an ensemble of models, between some aspect of long-term Earth system sensitivity and an observable trend or variation in the current climate. Such relationships are termed “emer- gent constraints”, referring to the use of observations to con- strain a simulated future Earth system feedback. If physically plausible relationships can be found between, for example, changes occurring on seasonal or interannual timescales and changes found in anthropogenically forced climate change, then models that correctly simulate the seasonal or interan- nual responses could be considered more likely to make more reliable projections. For example, Hall and Qu (2006) used the observable variation in the seasonal cycle of the snow albedo as a proxy for constraining the unobservable feed- back strength to climate warming, and Cox et al. (2013) and Wenzel et al. (2014) found a good correlation between the carbon cycle–climate feedback and the observable sensitivity of interannual variations in the CO2 growth rate to tempera- ture variations in an ensemble of models, enabling the pro- jections to be constrained with observations. Other examples include constraints on the CO2 fertilization effect (Wenzel et al., 2016a), equilibrium climate sensitivity and clouds (Fa- sullo et al., 2015; Fasullo and Trenberth, 2012; Klein and Hall, 2015; Sherwood et al., 2014), the austral jet stream (Wenzel et al., 2016b), total column ozone (Karpechko et al., 2013), and sea ice (Mahlstein and Knutti, 2012; Massonnet et al., 2012). One should keep in mind, however, that the “emer- gent constraint” approach is based on relationships which are uncovered in models themselves. Moreover, we must rule out the possibility that some apparent relationship might simply occur by chance or because the representation of the underly- ing physics is too simplistic. The key is whether the processes underlying the constraints are understood and simple enough to likely govern changes on multiple timescales (Caldwell et al., 2014; Karpechko et al., 2013; Klocke et al., 2011). In addition, different studies should not lead to contradictory re- sults but rather confirm each other. As the approach is fairly new, more work is needed to consolidate its applicability. www.earth-syst-dynam.net/7/813/2016/ 3 Current Earth system model evaluation approaches and scientific challenges Re- lated to the topic on emergent constraints, more research is required to explore the value of weighting multi-model pro- jections based on both model performance (e.g. Knutti et al., 2010) and model interdependence (Sanderson et al., 2015), as well as the statistical interpretation of the model ensemble (Tebaldi and Knutti, 2007). With the ever-expanding range of scientific questions and communities using CMIP output model evaluation also tainty so that model performance can be advanced. In addi- tion, the comparability of models and observations will need to be further improved, for example, through the develop- ment of simulators that take into account the features of the specific instrument (Aghedo et al., 2011; Bodas-Salcedo et al., 2011; Jöckel et al., 2010; Santer et al., 2008; Schutgens et al., 2016). Model evaluations must also take into account the details of any model tuning (Hourdin et al., 2016; Mauritsen et al., 2012) which necessitate comprehensive information and documentation about what tuning went into setting up the model, so that evaluations can be cognizant of any conse- quences. ES-DOC will be collecting the relevant information to aid this process. compared with the observational palaeo-record (Braconnot et al., 2012; Otto-Bliesner et al., 2009). Another increasingly explored option is to identify apparent relationships across an ensemble of models, between some aspect of long-term Earth system sensitivity and an observable trend or variation in the current climate. Such relationships are termed “emer- gent constraints”, referring to the use of observations to con- strain a simulated future Earth system feedback. If physically plausible relationships can be found between, for example, changes occurring on seasonal or interannual timescales and changes found in anthropogenically forced climate change, then models that correctly simulate the seasonal or interan- nual responses could be considered more likely to make more reliable projections. For example, Hall and Qu (2006) used the observable variation in the seasonal cycle of the snow albedo as a proxy for constraining the unobservable feed- back strength to climate warming, and Cox et al. (2013) and Wenzel et al. (2014) found a good correlation between the carbon cycle–climate feedback and the observable sensitivity of interannual variations in the CO2 growth rate to tempera- ture variations in an ensemble of models, enabling the pro- jections to be constrained with observations. 3 Current Earth system model evaluation approaches and scientific challenges To learn more about the sources of errors and uncertainties in models and thereby highlight specific areas that require improvements, evaluation of the underlying pro- cesses and phenomena is necessary. This approach hones in on the sources of model errors by performing process- or regime-oriented evaluations (Bony et al., 2006, 2015; Eyring et al., 2005; Waugh and Eyring, 2008; Williams and Webb, 2009). Indeed, the metrics need to be sufficiently broad in scope in order to avoid tuning towards a small subset of met- rics. As an example of broad metrics applied successfully on a process-based manner to models, we refer the reader to the SPARC CCMVal report (SPARC-CCMVal, 2010). Other targeted diagnostics can determine the extent to which spe- cific phenomena (such as natural, unforced modes of climate variability like ENSO) are accurately represented by models (Bellenger et al., 2014; Guilyardi et al., 2009; Sperber et al., 2013). With the ever-expanding range of scientific questions and communities using CMIP output, model evaluation also needs to be expanded to develop more downstream, user- oriented diagnostics and metrics that are relevant for impact studies, such as statistics (e.g. frequency and severity) of ex- treme events that can potentially have a significant impact on ecosystems and human activities (e.g. Ciais et al., 2005), or diagnostics for water management (e.g. Sun et al., 2007) or the energy sector (e.g. Schaeffer et al., 2012). Another long-standing open scientific question is the miss- ing relation between model performance and future projec- tions. While the evaluation of the evolving climate state and processes can be used to build confidence in model fidelity, this does not guarantee the correct response to changing forc- ings in the future. One strategy is to compare model results against palaeo-observations. The response of ESMs to forc- ings that have been experienced during, for example, the Last Glacial Maximum or the mid-Holocene can be assessed and Earth Syst. Dynam., 7, 813–830, 2016 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMI V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 826 mation would, for example, help the climate community to analyse the multi-model ensemble and would facilitate the comparison of models more generally. 4 Summary and discussion We provide a viewpoint here that advocates the develop- ment of community evaluation tools and the associated in- frastructure that as part of CMIP6 will enable increasingly systematic and efficient ESM evaluation. This is an improve- ment over the existing CMIP infrastructure, which mainly only supports access to the data in the CMIP database. The initial goal is to make available in shared, common anal- ysis packages a fairly comprehensive suite of performance metrics and diagnostics, including those that appeared in the IPCC’s AR5 chapter on climate model evaluation (Flato et al., 2013). Over time, an expanding collection of per- formance metrics and diagnostics would be produced for successive model generations. These baseline measures of model performance, applied at the time new model results are archived, would also likely uncover obvious mistakes in data processing and metadata information, thereby providing an additional level of quality control on output submitted to the CMIP archive. Routine evaluation of the ESMs cannot and is not meant to replace cutting-edge and in-depth explo- rative multi-model analysis and research, in particular within the various CMIP6-Endorsed MIPs. Rather, the routine eval- uation would complement CMIP research by providing com- prehensive baseline documentation of broad aspects of model behaviour. Furthermore, the use of the broad set of diagnos- tics offered by the tools highlighted here also reduces the risk that model performance is tuned to a single or limited set of metrics. y Modelling centres now periodically produce and distribute data compliant with the CMIP data standards and conven- tions. These standards critically underpin the multi-model analyses that play an ever-increasing role in supporting and enabling climate science. Development of an analysis and evaluation framework requires ongoing maintenance and evolution of that existing infrastructure. Observational and reanalysis data are also produced now in accordance with well-defined specifications and are stored on ESGF data nodes as part of obs4MIPs and ana4MIPs. The modelling, observational, and reanalysis communities should continue to nurture these efforts and ensure that these datasets include documentation in the form of technical notes, uncertainty in- formation, and any special guidance on how to use the obser- vations to evaluate models. This encapsulates ongoing efforts of the WCRP’s data advisory council. 3 Current Earth system model evaluation approaches and scientific challenges In addition, the diag- nostic tools could also be run locally by individual modelling groups to provide an initial check of the quality of their sim- ulations before submission to the ESGF, thereby accelerat- ing the model development/improvement process. The ES- MValTool (Eyring et al., 2016b) and the PMP (Gleckler et al., 2016) are now available to directly run on CMIP6 model output and observations alongside the ESGF and will form the starting point for routine evaluation of CMIP6 models. An international strategy is required to organize and present results from these tools and to develop a set of performance metrics and diagnostics that are most relevant for climate change studies. The WGNE/WGCM Climate Model Diag- nostics and Metrics Panel is in the process of defining such a strategy in collaboration with the CMIP Panel and the CMIP community. Such a strategy should also propose a way to mitigate the risk of restricting the evaluation of models to a predefined set of – possibly rapidly aging – metrics, however comprehensive, or to a limited subset of models or model en- sembles. It should, for instance, ensure that performance and process-based metrics definitions evolve as scientific knowl- edge progresses. This requires that the relevant science ex- pert groups be involved in the development so that they can directly feed new metrics into the evaluation infrastructure. In summary, there is a large demand for substantially more research in the area of ESM evaluation. The evaluation tools proposed here will support this by making established ap- proaches more routine, thus leaving more time to develop in- novative diagnostics targeting open scientific questions such as the ones discussed above, which will then be included in the system as research progresses. www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Dynam., 7, 813–830, 2016 References Aghedo, A. M., Bowman, K. W., Shindell, D. T., and Faluvegi, G.: The impact of orbital sampling, monthly averaging and vertical resolution on climate chemistry model evaluation with satellite observations, Atmos. Chem. Phys., 11, 6493–6514, doi:10.5194/acp-11-6493-2011, 2011. Anav, A., Friedlingstein, P., Kidston, M., Bopp, L., Ciais, P., Cox, P., Jones, C., Jung, M., Myneni, R., and Zhu, Z.: Evaluating the Land and Ocean Components of the Global Carbon Cycle in the CMIP5 Earth System Models, J. Climate, 26, 6801–6843, 2013. Bellenger, H., Guilyardi, E., Leloup, J., Lengaigne, M., and Vialard, J.: ENSO representation in climate models: from CMIP3 to CMIP5, Clim. Dynam., 42, 1999–2018, 2014. Acknowledgements. This work was supported in part by the European Commission’s 7th Framework Programme “InfraS- tructure for the European Network for Earth System Modelling Phase 2 (IS-ENES2)” project under grant agreement no. 312979. Veronika Eyring acknowledges additional funding received from the European Union’s Horizon 2020 research and innovation programme under grant agreement no. 641816 (CRESCENDO). V. Balaji acknowledges funding from an ExArch grant (NSF award 1119308) and support by the Cooperative Institute of Climate Science from the National Oceanic and Atmospheric Administra- tion, US Department of Commerce (award NA08OAR4320752). Gerald A. Meehl acknowledges support from the National Science Foundation and from the Regional and Global Climate Modeling Program of the US Department of Energy’s Office (DOE) of Biological & Environmental Research (cooperative agreement no. DE-FC02-97ER62402). Karl E. Taylor and Peter J. Gleckler acknowledge support from the same DOE programme under Lawrence Livermore National Laboratory as a contribution to the US Department of Energy, Office of Science, Climate and Environmental Sciences Division, Regional and Global Climate Modeling Program, under contract DE-AC52-07NA27344. The authors thank all representatives of the climate science community Bodas-Salcedo, A., Webb, M. J., Bony, S., Chepfer, H., Dufresne, J. L., Klein, S. A., Zhang, Y., Marchand, R., Haynes, J. M., Pin- cus, R., and John, V. O.: COSP Satellite simulation software for model assessment, B. Am. Meteor. Soc., 92, 1023–1043, 2011. Bony, S., Colman, R., Kattsov, V. M., Allan, R. P., Bretherton, C. S., Dufresne, J.-L., Hall, A., Hallegatte, S., Holland, M. M., Ingram, W., Randall, D. A., Soden, B. J., Tselioudis, G., and Webb, M. J.: How Well Do We Understand and Evaluate Climate Change Feedback Processes?, J. Climate, 19, 3445–3482, 2006. Bony, S., Stevens, B., Frierson, D. M. W., Jakob, C., Kageyama, M., Pincus, R., Shepherd, T. G., Sherwood, S. 4 Summary and discussion The effort devoted to conforming data to well-defined standards should pay off in the long term and lead to a better process-level understand- ing of the models and the Earth’s climate system while fully exploiting existing observations. Our experience with past MIPs has been that initially the threshold effort required for standardizing data output (CMORization) is perceived as an obstacle by many groups, but time and experience has shown that this effort is well worth it. We have found that only standardized data get widely used by the community, and the analysis of those data, especially by researchers outside the major modelling cen- tres, has been central to CMIP’s success. Once the output is collected in a common format, a more routine and system- atic approach to model evaluation in CMIP has clear benefits for the scientific community. The recording of a set of in- formative diagnostics and metrics, along with publication of the model output itself and the model and simulation docu- mentation, would enable anyone interested in CMIP model output to obtain a broad overview of model behaviour soon after the simulation has been published to the ESGF, and with a level of efficiency that was not possible before. The infor- With an eventual multi-model evaluation infrastructure es- tablished, we can look forward to revolutionary advancement in how climate models are evaluated. Specifically, results from a comprehensive suite of important climate characteris- tics should become available soon after simulations are made publicly available, with extensive documentation and work- flow traceability. Moreover, modelling centres will be able to incorporate these codes into their own development-phase workflows to gain a more comprehensive understanding of Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 827 the performance of new model versions. The infrastructure will enable groups of experts to develop and contribute both standard and novel analysis codes to community-developed diagnostic packages. The ongoing efforts to establish uni- form standards across models and observations will lead to standard ways to develop and integrate codes across analysis packages and languages. who responded to the CMIP5 survey that formed much of the basis for this and an accompanying paper on scientific needs for CMIP6. 5 Data availability The model output from CMIP simulations as well as obser- vations and reanalyses for model evaluation from obs4MIPs and ana4MIPs are distributed through the Earth System Grid Federation (ESGF) with digital object identifiers (DOIs). The model output and obs4MIPs/ana4MIPs data are freely acces- sible through data portals after registration. An example of a dataset DOI can be found here: http://dx.doi.org/10.1594/ WDCC/CMIP5.MXELpc. Additional observations used for model evaluation in the example plots shown here produced with the ESMValTool, NCAR CVDP, and PMP are described in the documentation papers of these tools. 4 Summary and discussion We thank Ingo Bethke, Björn Brötz, Tony Del Genio, Larry Horowitz, Martin Juckes, John Krasting, and Bjorn Stevens for helpful comments on an earlier version of this manuscript, and Sébastien Denvil for many related discussions. Thanks to Luisa Sartorelli for her help with the figures and to Simon Read for helpful discussions and recommendations on the coupling of the evaluation tools to the ESGF. We acknowledge the World Climate Research Programme’s (WCRP’s) Working Group on Coupled Modelling (WGCM), which is responsible for CMIP, and we thank the climate modelling groups for producing and making available their model output. The statements, findings, conclusions, and recommendations are those of the authors and do not necessarily reflect the views of any government agency or department. Successful realization of these plans will require our com- munity to make a long-term commitment to support the envi- sioned infrastructure. Moreover, the wider climate research community will need encouragement to contribute innova- tive analysis codes to augment the community-developed tools already being developed. The resulting suite of diag- nostic codes will constitute a CMIP evaluation capability that is expected to evolve over time and be run routinely on CMIP model simulations. At the same time, continuous innovative scientific research on model evaluation is required if metrics and diagnostics are to be discovered that might help in nar- rowing the spread in future climate projections. The article processing charges for this open-access publication were covered by a Research Centre of the Helmholtz Association. Edited by: B. Kravitz Reviewed by: three anonymous referees Edited by: B. Kravitz Reviewed by: three anonymous referees V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 828 Fasullo, J. T., Sanderson, B. M., and Trenberth, K. E.: Recent Progress in Constraining Climate Sensitivity With Model En- sembles, Current Climate Change Reports, 1, 268–275, 2015. Ciais, P., Reichstein, M., Viovy, N., Granier, A., Ogee, J., Allard, V., Aubinet, M., Buchmann, N., Bernhofer, C., Carrara, A., Cheval- lier, F., De Noblet, N., Friend, A. D., Friedlingstein, P., Grun- wald, T., Heinesch, B., Keronen, P., Knohl, A., Krinner, G., Lous- tau, D., Manca, G., Matteucci, G., Miglietta, F., Ourcival, J. M., Papale, D., Pilegaard, K., Rambal, S., Seufert, G., Soussana, J. F., Sanz, M. J., Schulze, E. D., Vesala, T., and Valentini, R.: Europe- wide reduction in primary productivity caused by the heat and drought in 2003, Nature, 437, 529–533, 2005. Ferraro, R., Waliser, D. E., Gleckler, P., Taylor, K. E., and Eyring, V.: Evolving obs4MIPs to Support the Sixth Coupled Model In- tercomparison Project (CMIP6), B. Am. Meteor. Soc., ES131– ES133, doi:10.1175/BAMS-D-14-00216.1, 2015. Flato, G., Marotzke, J., Abiodun, B., Braconnot, P., Chou, S. C., Collins, W., Cox, P., Driouech, F., Emori, S., Eyring, V., Forest, C., Gleckler, P., Guilyardi, E., Jakob, C., Kattsov, V., Reason, C., and Rummukainen, M.: Evaluation of Climate Models. In: Cli- mate Change 2013: The Physical Science Basis. Contribution of Working Group I to the Fifth Assessment Report of the Inter- governmental Panel on Climate Change, edited by: Stocker, T. F., Qin, D., Plattner, G.-K., Tignor, M., Allen, S. K., Boschung, J., Nauels, A., Xia, Y., Bex, V., and Midgley, P. M., Cambridge University Press, Cambridge, UK and New York, NY, USA, 741– 866, 2013. Collins, M., Achuta Rao, K., Ashok, K., Bhandari, S., Mitra, A. K., Prakash, S., Srivastava, R., and Turner, A.: CORRESPON- DENCE: Observational challenges in evaluating climate models, Nat. Clim. Change, 3, 940–941, 2013a. Collins, M., Knutti, R., Arblaster, J., Dufresne, J.-L., Fichefet, T., Friedlingstein, P., Gao, X., Gutowski, W. J., Johns, T., Krinner, G., Shongwe, M., Tebaldi, C., Weaver, A. J., and Wehner, M.: Long-term Climate Change: Projections, Commitments and Irre- versibility, in: Climate Change 2013: The Physical Science Ba- sis, Contribution of Working Group I to the Fifth Assessment Re- port of the Intergovernmental Panel on Climate Change, edited by: Stocker, T. F., Qin, D., Plattner, G.-K., Tignor, M., Allen, S. K., Boschung, J., Nauels, A., Xia, Y., Bex, V., and Midgley, P. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP M., Cambridge University Press, Cambridge, UK and New York, NY, USA, 1029–1136, 2013b. GCOS: Implementation Plan for the Global Observing System for Climate in Support of the UNFCCC, August 2010, 1–29, 2010. Gettelman, A., Eyring, V., Fischer, C., Shiona, H., Cionni, I., Neish, M., Morgenstern, O., Wood, S. W., and Li, Z.: A com- munity diagnostic tool for chemistry climate model validation, Geosci. Model Dev., 5, 1061–1073, doi:10.5194/gmd-5-1061- 2012, 2012. M., Cambridge University Press, Cambridge, UK and New York, NY, USA, 1029–1136, 2013b. Covey, C., Gleckler, P. J., Doutriaux, C., Williams, D. N., Dai, A., Fasullo, J., Trenberth, K., and Berg, A.: Metrics for the Diurnal Cycle of Precipitation: Toward Routine Benchmarks for Climate Models, J. Climate, 29, 4461–4471, 2016. Gleckler, P. J., Taylor, K. E., and Doutriaux, C.: Performance met- rics for climate models, J. Geophys. Res., 113, D06104, 2008. Gleckler, P. J., Doutriaux, C., Durack P. J., Taylor K. E., Zhang, Y., Williams, D. N., Mason, E., and Servonnat, J.: A more powerful reality test for climate models, Eos Trans. AGU, 97, 2016. Cox, P. M., Pearson, D., Booth, B. B., Friedlingstein, P., Hunting- ford, C., Jones, C. D., and Luke, C. M.: Sensitivity of tropical carbon to climate change constrained by carbon dioxide variabil- ity, Nature, 494, 341–344, 2013. Guilyardi, E., Wittenberg, A., Fedorov, A., Collins, M., Wang, C. Z., Capotondi, A., van Oldenborgh, G. J., and Stockdale, T.: Un- derstanding El Nino in Ocean-Atmosphere General Circulation Models Progress and Challenges, B. Am. Meteor. Soc., 90, 325, 2009. y Eyring, V., Harris, N. R. P., Rex, M., Shepherd, T. G., Fahey, D. W., Amanatidis, G. T., Austin, J., Chipperfield, M. P., Dameris, M., Forster, P. M. D., Gettelman, A., Graf, H. F., Nagashima, T., Newman, P. A., Pawson, S., Prather, M. J., Pyle, J. A., Salawitch, R. J., Santer, B. D., and Waugh, D. W.: A Strategy for Process- Oriented Validation of Coupled Chemistry–Climate Models, B. Am. Meteor. Soc., 86, 1117–1133, 2005. Guilyardi, E., Balaji, V., Lawrence, B., Callaghan, S., Deluca, C., Denvil, S., Lautenschlager, M., Morgan, M., Murphy, S., and Taylor, K. E.: Documenting Climate Models and Their Simula- tions, B. Am. Meteor. Soc., 94, 2013. Eyring, V., Bony, S., Meehl, G. A., Senior, C. A., Stevens, B., Stouffer, R. J., and Taylor, K. E.: Overview of the Coupled Model Intercomparison Project Phase 6 (CMIP6) experimen- tal design and organization, Geosci. References C., Siebesma, A. P., Sobel, A. H., Watanabe, M., and Webb, M. J.: Clouds, circulation and climate sensitivity, Nat. Geosci., 8, 261–268, 2015. Braconnot, P., Harrison, S. P., Kageyama, M., Bartlein, P. J., Masson-Delmotte, V., Abe-Ouchi, A., Otto-Bliesner, B., and Zhao, Y.: Evaluation of climate models using palaeoclimatic data, Nat. Clim. Change, 2, 417–424, 2012. Caldwell, P. M., Bretherton, C. S., Zelinka, M. D., Klein, S. A., Santer, B. D., and Sanderson, B. M.: Statistical significance of climate sensitivity predictors obtained by data mining, Geophys. Res. Lett., 41, 1803–1808, 2014. Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 829 Geosci. Model Dev., 8, 733–768, doi:10.5194/gmd-8-733-2015, 2015. Geosci. Model Dev., 8, 733–768, doi:10.5194/gmd-8-733-2015, 2015. Karpechko, A. Y., Maraun, D., and Eyring, V.: Improving Antarc- tic Total Ozone Projections by a Process-Oriented Multiple Di- agnostic Ensemble Regression, J. Atmos. Sci., 70, 3959–3976, 2013. Sanderson, B. M., Knutti, R., and Caldwell, P.: Addressing Interde- pendency in a Multimodel Ensemble by Interpolation of Model Properties, J. Climate, 28, 5150–5170, 2015. Klein, S. A. and Hall, A.: Emergent Constraints for Cloud Feed- backs, Current Climate Change Reports, 1, 276–287, 2015. Santer, B. D., Thorne, P. W., Haimberger, L., Taylor, K. E., Wigley, T. M. L., Lanzante, J. R., Solomon, S., Free, M., Gleckler, P. J., Jones, P. D., Karl, T. R., Klein, S. A., Mears, C., Nychka, D., Schmidt, G. A., Sherwood, S. C., and Wentz, F. J.: Consistency of modelled and observed temperature trends in the tropical tro- posphere, Int. J. Climatol., 28, 1703–1722, 2008. Klocke, D., Pincus, R., and Quaas, J.: On Constraining Estimates of Climate Sensitivity with Present-Day Observations through Model Weighting, J. Climate, 24, 6092–6099, 2011. Knutti, R., Abramowitz, G., Collins, Eyring, V., Gleckler, P. J., Hewitson, B., and Mearns., L.: Good Practice Guidance Paper on Assessing and Combining Multi Model Climate Projections, IPCC Working Group I Technical Support Unit, University of Bern, Bern, Switzerland, 0165-0009, 2010. Schaeffer, R., Szklo, A. S., de Lucena, A. F. P., Borba, B. S. M. C., Nogueira, L. P. P., Fleming, F. P., Troccoli, A., Harrison, M., and Boulahya, M. S.: Energy sector vulnerability to climate change: A review, Energy, 38, 1–12, 2012. Laney, D.: The Importance of Big Data: A Definition, 2012. Schutgens, N. A. J., Gryspeerdt, E., Weigum, N., Tsyro, S., Goto, D., Schulz, M., and Stier, P.: Will a perfect model agree with per- fect observations? The impact of spatial sampling, Atmos. Chem. Phys., 16, 6335–6353, doi:10.5194/acp-16-6335-2016, 2016. Lawrence, B. N., Balaji, V., Bentley, P., Callaghan, S., DeLuca, C., Denvil, S., Devine, G., Elkington, M., Ford, R. W., Guilyardi, E., Lautenschlager, M., Morgan, M., Moine, M.-P., Murphy, S., Pascoe, C., Ramthun, H., Slavin, P., Steenman-Clark, L., Tous- saint, F., Treshansky, A., and Valcke, S.: Describing Earth system simulations with the Metafor CIM, Geosci. Model Dev., 5, 1493– 1500, doi:10.5194/gmd-5-1493-2012, 2012. Sherwood, S. C., Bony, S., and Dufresne, J. L.: Spread in model climate sensitivity traced to atmospheric convective mixing, Na- ture, 505, 37–42, 2014. Luo, Y. Q., Randerson, J. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP T., Abramowitz, G., Bacour, C., Blyth, E., Carvalhais, N., Ciais, P., Dalmonech, D., Fisher, J. B., Fisher, R., Friedlingstein, P., Hibbard, K., Hoffman, F., Huntzinger, D., Jones, C. D., Koven, C., Lawrence, D., Li, D. J., Mahecha, M., Niu, S. L., Norby, R., Piao, S. L., Qi, X., Peylin, P., Prentice, I. C., Riley, W., Reichstein, M., Schwalm, C., Wang, Y. P., Xia, J. Y., Zaehle, S., and Zhou, X. H.: A framework for benchmarking land models, Biogeosciences, 9, 3857–3874, doi:10.5194/bg-9- 3857-2012, 2012. SPARC-CCMVal: SPARC Report on the Evaluation of Chemistry- Climate Models, edited by: Eyring, V., Shepherd, T. G., and Waugh, D. W., SPARC Report No. 5, WCRP-132, WMO/TD- No. 1526, 2010. Sperber, K., Annamalai, H., Kang, I. S., Kitoh, A., Moise, A., Turner, A., Wang, B., and Zhou, T.: The Asian summer mon- soon: an intercomparison of CMIP5 vs. CMIP3 simulations of the late 20th century, Clim. Dynam., 41, 2711–2744, 2013. Stouffer, R. J., Eyring, V., Meehl, G. A., Bony, S., Senior, C., Stevens, B., and Taylor, K. E.: CMIP5 Scientific Gaps and Rec- ommendations for CMIP6, BAMS, accepted, doi:10.1175/bams- d-15-00013.1, 2016. Mahlstein, I. and Knutti, R.: September Arctic sea ice predicted to disappear near 2 degrees C global warming above present, J. Geophys. Res.-Atmos., 117, doi:10.1029/2011jd016709, 2012. Sun, Y., Solomon, S., Dai, A., and Portmann, R. W.: How often will it rain?, J. Climate, 20, 4801–4818, 2007. Massonnet, F., Fichefet, T., Goosse, H., Bitz, C. M., Philippon- Berthier, G., Holland, M. M., and Barriat, P. Y.: Constraining projections of summer Arctic sea ice, The Cryosphere, 6, 1383– 1394, doi:10.5194/tc-6-1383-2012, 2012. Taylor, K. E., Stouffer, R. J., and Meehl, G. A.: An Overview of Cmip5 and the Experiment Design, B. Am. Meteor. Soc., 93, 485–498, 2012. Mauritsen, T., Stevens, B., Roeckner, E., Crueger, T., Esch, M., Giorgetta, M., Haak, H., Jungclaus, J., Klocke, D., Matei, D., Mikolajewicz, U., Notz, D., Pincus, R., Schmidt, H., and Tomassini, L.: Tuning the climate of a global model, J. Adv. Modl. Earth Syst., 4, doi:10.1029/2012ms000154, 2012. Tebaldi, C. and Knutti, R.: The use of the multi-model ensemble in probabilistic climate projections, Philos. T. R. Soc. A, 365, 2053–2075, 2007. Teixeira, J., Waliser, D., Ferraro, R., Gleckler, P., Lee, T., and Potter, G.: Satellite Observations for CMIP5: The Genesis of Obs4MIPs, B. Am. Meteor. Soc., 95, 1329–1334, 2014. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Model Dev., 9, 1937–1958, doi:10.5194/gmd-9-1937-2016, 2016a. Hall, A. and Qu, X.: Using the current seasonal cycle to constrain snow albedo feedback in future climate change, Geophys. Res. Lett., 33, doi:10.1029/2005gl025127, 2006. Hourdin, F., Mauritsen, T., Gettelman, A., Golaz, J.-C., Balaji, V., Duan, Q., Folini, D., Ji, D., Klocke, D., Qian, Y., Rauser, F., Rio, C., Tomassini, L., Watanabe, M., and Williamson, D.: The art and science of climate model tuning, B. Am. Meteor. Soc., doi:10.1175/bams-d-15-00135.1, 2016. Eyring, V., Righi, M., Lauer, A., Evaldsson, M., Wenzel, S., Jones, C., Anav, A., Andrews, O., Cionni, I., Davin, E. L., Deser, C., Ehbrecht, C., Friedlingstein, P., Gleckler, P., Gottschaldt, K.-D., Hagemann, S., Juckes, M., Kindermann, S., Krasting, J., Kunert, D., Levine, R., Loew, A., Mäkelä, J., Martin, G., Mason, E., Phillips, A. S., Read, S., Rio, C., Roehrig, R., Senftleben, D., Sterl, A., van Ulft, L. H., Walton, J., Wang, S., and Williams, K. D.: ESMValTool (v1.0) – a community diagnostic and perfor- mance metrics tool for routine evaluation of Earth system models in CMIP, Geosci. Model Dev., 9, 1747–1802, doi:10.5194/gmd- 9-1747-2016, 2016b. IPCC: Climate Change 2013: The Physical Science Basis. Contri- bution of Working Group I to the Fifth Assessment Report of the Intergovernmental Panel on Climate Change, Cambridge Univer- sity Press, Cambridge, UK and New York, NY, USA, 1535, 2013. Ivanova, D. P., Gleckler, P. J., Taylor, K. E., Durack, P. J., and Mar- vel, K. D.: Moving beyond the Total Sea Ice Extent in Gauging Model Biases, J. Climate, doi:10.1175/jcli-d-16-0026.1, 2016. Jöckel, P., Kerkweg, A., Pozzer, A., Sander, R., Tost, H., Riede, H., Baumgaertner, A., Gromov, S., and Kern, B.: Development cycle 2 of the Modular Earth Submodel System (MESSy2), Geosci. Model Dev., 3, 717–752, doi:10.5194/gmd-3-717-2010, 2010. Fasullo, J. T. and Trenberth, K. E.: A Less Cloudy Future: The Role of Subtropical Subsidence in Climate Sensitivity, Science, 338, 792–794, 2012. Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP www.earth-syst-dynam.net/7/813/2016/ Williams, K. and Webb, M.: A quantitative performance assessment of cloud regimes in climate models, Clim. Dynam., 33, 141–157, 2009. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Otto-Bliesner, B., Schneider, R., Brady, E., Kucera, M., Abe-Ouchi, Otto-Bliesner, B., Schneider, R., Brady, E., Kucera, M., Abe-Ouchi, A., Bard, E., Braconnot, P., Crucifix, M., Hewitt, C., Kageyama, M., Marti, O., Paul, A., Rosell-Melé, A., Waelbroeck, C., Weber, S., Weinelt, M., and Yu, Y.: A comparison of PMIP2 model sim- ulations and the MARGO proxy reconstruction for tropical sea surface temperatures at last glacial maximum, Clim. Dynam., 32, 799–815, 2009. A., Bard, E., Braconnot, P., Crucifix, M., Hewitt, C., Kageyama, Waugh, D. W. and Eyring, V.: Quantitative performance met- rics for stratospheric-resolving chemistry-climate models, At- mos. Chem. Phys., 8, 5699–5713, doi:10.5194/acp-8-5699-2008, 2008. Wenzel, S., Cox, P. M., Eyring, V., and Friedlingstein, P.: Emer- gent constraints on climate-carbon cycle feedbacks in the CMIP5 Earth system models, J. Geophys. Res.-Biogeosci., 119, 2014. Phillips, A. S., Deser, C., and Fasullo, J.: Evaluating Modes of Vari- ability in Climate Models, Eos Trans. AGU, 95, 453–455, 2014. Wenzel, S., Cox, P. M., Eyring, V., and Friedlingstein, P.: Projected land photosynthesis constrained by changes in the seasonal cycle of atmospheric CO2, Nature, doi:10.1038/nature19772, 2016a. Prabhat, Rubel, O., Byna, S., Wu, K. S., Li, F. Y., Wehner, M., and Bethel, W.: TECA: A Parallel Toolkit for Extreme Climate Anal- ysis, Procedia Comput. Sci., 9, 866–876, 2012. Wenzel, S., Eyring, V., Gerber, E. P., and Karpechko, A. Y.: Con- straining Future Summer Austral Jet Stream Positions in the CMIP5 Ensemble by Process-Oriented Multiple Diagnostic Re- Righi, M., Eyring, V., Gottschaldt, K.-D., Klinger, C., Frank, F., Jöckel, P., and Cionni, I.: Quantitative evaluation of ozone and selected climate parameters in a set of EMAC simulations, Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Earth Syst. Dynam., 7, 813–830, 2016 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 830 Williams, K. and Webb, M.: A quantitative performance assessment of cloud regimes in climate models, Clim. Dynam., 33, 141–157, 2009. Williams, K. and Webb, M.: A quantitative performance assessment of cloud regimes in climate models, Clim. Dynam., 33, 141–157, 2009. gression, J. Climate, 673–687, doi:10.1175/JCLI-D-15-0412.1, 2016b. gression, J. Climate, 673–687, doi:10.1175/JCLI-D-15-0412.1, 2016b. Williams, D. N.: Visualization and Analysis Tools for Ultrascale Climate Data, Eos, Trans. Am. Geophys. Union, 95, 377–378, 2014. Williams, D. N., Balaji, V., Cinquini, L., Denvil, S., Duffy, D., Evans, B., Ferraro, R., Hansen, R., Lautenschlager, M., and Tren- ham, C.: A Global Repository for Planet-Sized Experiments and Observations, B. Am. Meteor. Soc., 803–816, doi:10.1175/bams- d-15-00132.1, 2015. Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/
https://openalex.org/W4211040222
https://acp.copernicus.org/articles/10/169/2010/acp-10-169-2010.pdf
English
null
Oxidant and particle photochemical processes above a south-east Asian tropical rain forest (the OP3 project): introduction, rationale, location characteristics and tools
null
2,009
cc-by
24,202
Overview: oxidant and particle photochemical processes above a south-east Asian tropical rainforest (the OP3 project): introduction, rationale, location characteristics and tools Yin5 1Lancaster Environment Centre, Lancaster University, Lancaster LA1 4YQ, UK Lancaster Environment Centre, Lancaster University, Lancaster LA1 4YQ, UK , y, Q, National Centre for Atmospheric Science, University of York, York YO10 5DD, UK p y 3School of GeoSciences, University of Edinburgh, Edinburgh EH9 3JW, UK 4Environment Department, University of York, York YO10 5DD, UK 4Environment Department, University of York, York YO10 5DD, UK Centre for Atmospheric Science, Department of Chemistry, Cambridge University, Cambridge, CB2 6School of Earth, Atmospheric and Environmental Sciences, University of Manchester, Manchester M13 3PL, UK 6School of Earth, Atmospheric and Environmental Sciences, University of Manchester, Manch 8School of Chemistry, University of Leeds, Leeds LS2 9JT, UK 8School of Chemistry, University of Leeds, Leeds LS2 9JT, UK y y 9CETEMPS – Dipartimento di Fisica, Universit`a di L’Aquila, 67010 Coppito, L’Aquila, Italy 9CETEMPS – Dipartimento di Fisica, Universita di L Aquila, 67010 Coppito, L Aquila, Italy 10Biogeochemistry Programme, Centre for Ecology and Hydrology, Penicuik, EH26 0QB, UK 10Biogeochemistry Programme, Centre for Ecology and Hydrology, Penicuik, EH26 0QB, UK School of the Environment, University of Leeds, Leeds, LS2 9JT, UK 11School of the Environment, University of Leeds, Leeds, LS2 9JT, UK National Center for Atmospheric Research, Boulder CO 80301, USA 12National Center for Atmospheric Research, Boulder CO 80301, USA Department of Chemistry, University of York, York YO10 5DD, UK 13Department of Chemistry, University of York, York YO10 5DD, UK Department of Chemistry, University of Leicester, Leicester LE1 7RH, UK 15Retired, formerly at Malaysian Meteorological Department, Jalan Sultan, Petaling Jaya, Selangor Darul Ehsan, Malaysia 16S h l f E i t l S i U i it f E t A li N i h NR4 7TJ UK alaysian Meteorological Department, Jalan Sultan, Petaling Jaya, Selangor Darul Ehsan, Malaysia Retired, formerly at Malaysian Meteorological Department, Jalan Sultan, Petaling Jaya, Selangor D Received: 8 July 2009 – Published in Atmos. Chem. Phys. Discuss.: 11 September 2009 Revised: 4 December 2009 – Accepted: 9 December 2009 – Published: 12 January 2010 est” (OP3) project. Fluxes and concentrations of trace gases and particles were made from and above the rainfor- est canopy at the Bukit Atur Global Atmosphere Watch sta- tion and at the nearby Sabahmas oil palm plantation, using both ground-based and airborne measurements. Here, the measurement and modelling strategies used, the character- istics of the sites and an overview of data obtained are de- scribed. Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ © Author(s) 2010. This work is distributed under the Creative Commons Attribution 3.0 License. Atmospheric Chemistry and Physics Overview: oxidant and particle photochemical processes above a south-east Asian tropical rainforest (the OP3 project): introduction, rationale, location characteristics and tools C. N. Hewitt1, J. D. Lee2, A. R. MacKenzie1, M. P. Barkley3, N. Carslaw4, G. D. Carver5, N. A. Chappell1, H. Coe6, C. Collier7, R. Commane8,*, F. Davies7, B. Davison1, P. DiCarlo9, C. F. Di Marco10, J. R. Dorsey6, P. M. Edwards8, M. J. Evans11, D. Fowler10, K. L. Furneaux**,†, M. Gallagher6, A. Guenther12, D. E. Heard8, C. Helfter10, J. Hopkins13, T. Ingham8, M. Irwin6, C. Jones13, A. Karunaharan14, B. Langford1, A. C. Lewis13, S. F. Lim15, S. M. MacDonald8, A. S. Mahajan8, S. Malpass4, G. McFiggans6, G. Mills16, P. Misztal10,17, S. Moller13, P. S. Monks14, E. Nemitz10, V. Nicolas-Perea14, H. Oetjen8, D. E. Oram16, P. I. Palmer3, G. J. Phillips10, R. Pike5, J. M. C. Plane8, T. Pugh1, J. A. Pyle5, C. E. Reeves16, N. H. Robinson6, D. Stewart16,***, D. Stone8,11, L. K. Whalley8, and X. Yin5 1Lancaster Environment Centre, Lancaster University, Lancaster LA1 4YQ, UK 2National Centre for Atmospheric Science, University of York, York YO10 5DD, UK 3School of GeoSciences, University of Edinburgh, Edinburgh EH9 3JW, UK 4Environment Department, University of York, York YO10 5DD, UK 5Centre for Atmospheric Science, Department of Chemistry, Cambridge University, Cambridge, CB2 1EW, UK 6School of Earth, Atmospheric and Environmental Sciences, University of Manchester, Manchester M13 3PL, UK 7Centre for Environmental Systems Research, University of Salford, Salford M5 4WT, UK 8School of Chemistry, University of Leeds, Leeds LS2 9JT, UK 9CETEMPS – Dipartimento di Fisica, Universit`a di L’Aquila, 67010 Coppito, L’Aquila, Italy 10Biogeochemistry Programme, Centre for Ecology and Hydrology, Penicuik, EH26 0QB, UK 11School of the Environment, University of Leeds, Leeds, LS2 9JT, UK 12National Center for Atmospheric Research, Boulder CO 80301, USA 13Department of Chemistry, University of York, York YO10 5DD, UK 14Department of Chemistry, University of Leicester, Leicester LE1 7RH, UK 15Retired, formerly at Malaysian Meteorological Department, Jalan Sultan, Petaling Jaya, Selangor Darul Ehsan, Malaysia 16School of Environmental Sciences, University of East Anglia, Norwich NR4 7TJ, UK 17Department of Chemistry, University of Edinburgh, Edinburgh EH9 3JW, UK *now at: School of Engineering and Applied Sciences, Harvard University, MA, USA **formerly at: School of Chemistry, University of Leeds, Leeds LS2 9JT, UK ***now at: Department of Chemistry, University of Reading, Reading RG6 6AH, UK †deceased Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ © Author(s) 2010. This work is distributed under the Creative Commons Attribution 3.0 License. Atmospheric Chemistry and Physics Overview: oxidant and particle photochemical processes above a south-east Asian tropical rainforest (the OP3 project): introduction, rationale, location characteristics and tools C. N. Hewitt1, J. D. Lee2, A. R. MacKenzie1, M. P. Barkley3, N. Carslaw4, G. D. Carver5, N. A. Chappell1, H. Coe6, C. Collier7, R. Commane8,*, F. Davies7, B. Davison1, P. DiCarlo9, C. F. Di Marco10, J. R. Dorsey6, P. M. Edwards8, M. J. Evans11, D. Fowler10, K. L. Furneaux**,†, M. Gallagher6, A. Guenther12, D. E. Heard8, C. Helfter10, J. Hopkins13, T. Ingham8, M. Irwin6, C. Jones13, A. Karunaharan14, B. Langford1, A. C. Lewis13, S. F. Lim15, S. M. MacDonald8, A. S. Mahajan8, S. Malpass4, G. McFiggans6, G. Mills16, P. Misztal10,17, S. Moller13, P. S. Monks14, E. Nemitz10, V. Nicolas-Perea14, H. Oetjen8, D. E. Oram16, P. I. Palmer3, G. J. Phillips10, R. Pike5, J. M. C. Plane8, T. Pugh1, J. A. Pyle5, C. E. Reeves16, N. H. Robinson6, D. Stewart16,***, D. Stone8,11, L. K. Whalley8, and X. 1 Introduction Tropical and equatorial forests account for over half of the World’s forests (1.8 billion ha) and act as a massive source of matter and energy to the lower atmosphere. They exhibit some of the most dynamic yet poorly understood biogeo- chemical behaviour on Earth. This behaviour is driven by solar radiation and is largely mediated by its transformation into latent and sensible heat, with the concomitant uptake of carbon by photosynthesis and the associated emission of re- active, less-reactive and un-reactive trace gases, water vapour and energy into the atmosphere. Simultaneously, ozone and other trace gases, aerosol particles, and momentum, are lost to the forest surface. A further important consequence of the large solar radiation flux in the tropics is the very vigorous convective uplift that occurs, which results in the rapid move- ment of chemical species emitted at or near ground level into the free troposphere, as shown, for example, in Surinam (An- dreae et al., 2001). Hence reactive trace gas emissions from the surface in the tropics may take part in chemical processes at greater distances and at higher altitudes from their sources than might otherwise occur. In common with the other tropical forest regions, SE Asia is undergoing very rapid, and in some cases catastrophic, rates of land use change. For example, in Malaysia, the area of total land cover dedicated to oil palm plantations has in- creased from ∼1% in 1974 to ∼13% (FAO, 2005; MPOC, 2008). In spite of attempts to implement policies to conserve rainforest, logging of this dwindling resource continues at a rapid rate, and natural forests are being replaced by crop monocultures. The multi-national OP3 (“Oxidant and particle photo- chemical processes above a south-east Asian tropical rain- forest”) project had the goal of better understanding the inter- actions that exist between natural forests, atmospheric com- position and the Earth’s climate system. The project had the specific objectives of (a) understanding how emissions of reactive trace gases from a tropical rainforest mediate the regional scale production and processing of oxidants and particles, and (b) better understanding the impacts of these processes on local, regional and global scale atmospheric composition, chemistry and climate. Overview: oxidant and particle photochemical processes above a south-east Asian tropical rainforest (the OP3 project): introduction, rationale, location characteristics and tools Composition measurements show that the rainforest Abstract. In April–July 2008, intensive measurements were made of atmospheric composition and chemistry in Sabah, Malaysia, as part of the “Oxidant and particle photochem- ical processes above a South-East Asian tropical rainfor- Correspondence to: C. N. Hewitt (n.hewitt@lancaster.ac.uk) Correspondence to: C. N. Hewitt (n.hewitt@lancaster.ac.uk) Published by Copernicus Publications on behalf of the European Geosciences Union. Published by Copernicus Publications on behalf of the European Geosciences Union. Published by Copernicus Publications on behalf of the European Geosciences Union. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 170 site was not significantly impacted by anthropogenic pollu- tion, and this is confirmed by satellite retrievals of NO2 and HCHO. The dominant modulators of atmospheric chemistry at the rainforest site were therefore emissions of BVOCs and soil emissions of reactive nitrogen oxides. At the observed BVOC:NOx volume mixing ratio (∼100 pptv/pptv), current chemical models suggest that daytime maximum OH con- centrations should be ca. 105 radicals cm−3, but observed OH concentrations were an order of magnitude greater than this. We confirm, therefore, previous measurements that suggest that an unexplained source of OH must exist above tropical rainforest and we continue to interrogate the data to find ex- planations for this. Amazonia (e.g. the LBA project: Andreae et al., 2002; Avis- sar et al., 2002), with less in Africa (e.g. the AMMA project: Redelsperger et al., 2006) and very little in SE Asia. Un- like the LBA and AMMA domains, which are contiguous continental regions, the complex mosaic of tropical seas and islands that exists in SE Asia makes the likely atmospheric chemistry occurring there somewhat different to that else- where. Structurally and floristically, the lowland dipterocarp forest of SE Asia is very different to the rainforest of Ama- zonia, and it is not known what differences this may cause in the speciation and rates of emission of VOCs and hence in atmospheric composition and chemistry. Furthermore, there is strong evidence that transport from the boundary layer in this “maritime continent” region into the upper troposphere, and possibly subsequently into the stratosphere, is particu- larly efficient (Fueglistaler and Haynes, 2005), so that the region’s importance to global atmospheric processes may be disproportionately large. 2.1 Equatorial climate and forest formations The equatorial tropics are characterised by rain throughout the year, i.e., an absence of marked seasonal droughts. This climatic regime covers: (i) Malaysia, Papua New Guinea and much of Indonesia within tropical monsoon Asia, (ii) coastal regions of Liberia, Nigeria and Cameroon, and central Congo in Africa, and (iii) western Amazonia and a belt extend- ing from the western Caribbean coast to the Pacific coast in Ecuador in tropical America (McGregor and Nieuwolt, 1998; Walsh, 1996). The equatorial tropics can be further clas- sified into tropical superwet, tropical wet and tropical wet seasonal, using a perhumidity index, based on a cumulative annual score of the number of months with >200 mm (+2 in- dex value), 100–199 mm (+1), 50–99 mm (−1) and <50 mm (−2) of rainfall (Walsh, 1996). The extent of tropical super- wet and wet climates (with a perhumidity index >10) shown in Walsh (1996) is similar to the extent of tropical climates of Asia and America lacking marked dry seasons shown in McGregor and Nieuwolt (1998). Similarly, current models suggest that secondary organic aerosol (SOA) in the tropics is dominated by biogenic aerosol (e.g. Kanakidou et al., 2005), but the measurement database is sparse. Emerging first measurements by aerosol mass spectrometry indicate that sub-micrometre organic aerosol concentrations are at the lower end of the model estimates, with median concentrations of around 1 µg m−3 observed in subtropical West Africa and Amazonia (Capes et al., 2009). Despite recent progress, our picture of the formation pro- cesses of biogenic SOA (BSOA) is still far from complete (Hallquist et al., 2009). Again, the suite of measurements during OP3 was designed to improve our understanding of the levels, composition and formation processes of BSOA in the SE Asian domain. With the exception of the central Congo and the western Caribbean, there is a good correspondence of regions with a tropical wet or superwet climate and the extent of tropi- cal lowland evergreen broadleaf rainforest. This forest for- mation dominates within the majority of the Asian, West African and American wet/superwet zone of the equatorial tropics (Whitmore, 1998), and is the most common forest formation in the tropics as a whole (Schmitt et al., 2008). However, in areas locally above 750–1200 m altitude, low- land evergreen broadleaf rainforest grades into lower mon- tane and then upper montane forest. 1 Introduction By very closely cou- pling ground-based and airborne measurements of surface fluxes and atmospheric composition of reactive trace gases and particles with modelling studies of chemical processes, the project aimed to address the following questions: Globally, tropical and equatorial forests are estimated to account for almost half of all biogenic reactive volatile organic compound (VOC) emissions into the atmosphere (Guenther et al., 1995, 2006: global total 1150 Tg C/y, es- timate for tropical forests ∼500 Tg C/y). These compounds are believed to play a major role in mediating the chem- istry of the atmosphere, yet their roles in controlling chem- ical budgets and processes in the atmosphere on the local, regional and global scales are poorly understood, with con- siderable and surprising gaps and uncertainties in knowledge remaining (e.g. Lelieveld et al., 2008). In addition, it is pos- sible that biological primary and secondary organic particles play a pivotal role in the formation of cloud condensation nu- clei (CNN) and thus control precipitation patterns in forested regions (Barth et al., 2005). 1. What are the rates of transfer of organic compounds emitted from the tropical forest? 2. How are these organic compounds chemically pro- cessed immediately after release? 3. To what extent do the regional organic emissions con- tribute to the atmospheric aerosol in the region, and what are the effects of the aerosol? What is the com- position of the organic fraction of the aerosol? 4. What are the effects of these biogenic emissions on global chemistry and climate? Most previous work on the interactions between tropical forests and atmospheric composition has been carried out in Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 171 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools The OH radical initiates the oxidative degradation of biogeni- cally emitted VOCs, and its concentration defines the rate of production of secondary products. A consistent and impor- tant finding from field studies conducted in forested environ- ments, characterised by high emissions of isoprene and low levels of NOx, is the significant underestimation of OH by models (Lelieveld et al., 2008; Ren et al., 2008; Butler et al., 2008; Carslaw et al., 2001; Martinez et al., 2008; Tan et al., 2001; Kubistin et al., 2009). These model underestima- tions scale with isoprene concentration and indicate a current inability to correctly describe isoprene oxidation. 1 Introduction The OP3 project provided an excellent opportunity to confirm these findings and to seek an explanation. Atmospheric chemistry models, constrained to measured isoprene emission rates, predict dramatic reductions in ambient OH concentrations in forested areas, in contrast to observations and, as a conse- quence, predict unrealistically high concentrations of other trace gas constituents (Guenther et al., 2008). Simultane- ous measurements of the OH concentration, isoprene con- centration and fluxes and isoprene oxidation products were made during OP3, together with many species that control the rate of production and destruction of OH, providing a stringent set of model constraints to investigate in detail any modelled/measured discrepancies for OH. used in the project are also described, as are some prelimi- nary conclusions. Atmos. Chem. Phys., 10, 169–199, 2010 2.2 Local climate and forest formations Tangki (2008) demonstrated that Dipterocarpaceae were the most abundant tree family recorded for the 225 km2 area as a whole (comprising of only lowland evergreen broadleaf rainforest), but Euphobiaceae had become more abundant in Coupe 88 following timber harvesting. – Malua Forest Reserve, but is less than 5 km east of the 438 km2 area of PFE Protection Forest known as the Danum Valley Conservation Area (DVCA). The Ulu Segama – Malua Forest Reserve is 2411 km2 in area and is divided into annual timber harvesting coupes. The GAW tower lies at the centre of the 22.6 km2 “Coupe 88” which was sub- jected to selective timber harvesting in 1988. An average of 96 m3 of timber ha−1 was cut by both tractor and high-lead harvesting (Tangki and Chappell, 2008). The central area of this coupe was subsequently rehabilitated by enrichment planting (Moura-Costa, 1996). As part of a study covering a 225 km2 area Tangki and Chappell (2008) calculated an av- erage tree biomass of 172 t ha−1 for Coupe 88, (using five inventory plots surveyed in March 1997), and demonstrated a strong correlation (r2=0.76) between such coupe-averaged values and Landsat-5 TM band 4 (near-infra red) radiance. Tangki (2008) demonstrated that Dipterocarpaceae were the most abundant tree family recorded for the 225 km2 area as a whole (comprising of only lowland evergreen broadleaf rainforest), but Euphobiaceae had become more abundant in Coupe 88 following timber harvesting. Fig. 1. Land cover maps of Sabah showing (a) the extent of Perma- nent Forest Estate (PFE) based on Sabah Forest Department (1998) data, where dark green shows PFE Protection Forest, and light green PFE Production Forest; non-PFE commercial timber plantation is also shown in light brown, and (b) extent of oil palm (orange) and other land covers based on a preliminary classification of remote sensing imagery. The satellite data used to produce this map was medium resolution data from Landsat7-ETM+. Eight images from 2005 to 2008 were used. All the images were first geo-referenced using 1:50 000 topographic maps of Sabah. After refinements of the training area collection, the data were reclassified into the eight land cover classes, excluding cloud and shadow. did however range from 9 (1997) to 23 (1999) as a result of the 4–5 year cycle in the rainfall caused by El Ni˜no South Oscillation phenomena (Chappell et al., 2001). 2.1 Equatorial climate and forest formations Such areas of mountain forests are noted particularly in the wet/superwet zones of the Asian tropics. Within low-lying areas of the wet and super- wet zone, peat swamp, freshwater swamp and heath forest are also present. In areas of podzolic sands, limestone or ul- trabasic rocks other forest formations are developed locally. As described below, the focus of activity was the Global Atmosphere Watch (GAW) station at Bukit Atur, Sabah, Malaysia, on the island of Borneo (4◦58′49.33′′ N, 117◦50′39.05′′ E, 426 m a.s.l.) (http://gaw.empa.ch/gawsis/). Two field campaigns were held during the periods 7 April–4 May 2008 (OP3-I) and 23 June–23 July 2008 (OP3-III). Dur- ing OP3-III, the UK’s largest atmospheric science research aircraft, a converted BAe 146–301, was based at Kota Kina- balu International Airport during the period 8–23 July 2008 and operated for over 60 h over northern Borneo. Between these two forest campaigns, a sub-set of instruments were de- ployed in an oil palm plantation, where measurements were made during the period 11 May–20 June 2008 (OP3-II). The key exception to the link between climate and the extent of lowland evergreen rainforest is found within cen- tral Congo and the western Caribbean, where tropical semi- evergreen rainforest dominates in areas classified as tropi- cal wet. This semi-evergreen forest formation is important throughout the surrounding seasonal tropics of continental tropical Asia, north-east Australia, and eastern and southern Amazonia (Whitmore, 1998). Within the equatorial tropics, the dominant lowland ever- green broadleaf rainforest is characterised by a lofty (45 m or taller) and dense canopy with a large number of differ- ent tree species occurring together. Usually over two thirds of the upper canopy comprises tree species not contributing In this paper, the land use, vegetation and climate char- acteristics of the ground-based measurement sites are de- scribed, together with an overview of the chemical clima- tology of the region. The measurement and modelling tools Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools excluding cloud and shadow. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools excluding cloud and shadow. 172 Fig. 1. 2.1 Equatorial climate and forest formations Land cover maps of Sabah showing (a) the extent of Perma- nent Forest Estate (PFE) based on Sabah Forest Department (1998) data, where dark green shows PFE Protection Forest, and light green PFE Production Forest; non-PFE commercial timber plantation is also shown in light brown, and (b) extent of oil palm (orange) and other land covers based on a preliminary classification of remote sensing imagery. The satellite data used to produce this map was medium resolution data from Landsat7-ETM+. Eight images from 2005 to 2008 were used. All the images were first geo-referenced using 1:50 000 topographic maps of Sabah. After refinements of the training area collection, the data were reclassified into the eight land cover classes, excluding cloud and shadow. more than 1% to the total number (Whitmore, 1998). The soils typically associated with the occurrence of this forest formation in tropical Asia are the Ultisol group, and within western Amazonia the Oxisol group (Baillie, 1996; Chappell et al., 2007). 2.2 Local climate and forest formations The majority of the island of Borneo (total area 743 330 km2) has a superwet climate (Walsh, 1996) and the most extensive forest formation is lowland evergreen broadleaf rainforest, occupying some 257 000 km2 (Schmitt et al., 2008). A sim- ilar situation is observed at the 76 115 km2 regional scale of the state of Sabah, Malaysian Borneo. Within Borneo Island, and elsewhere within equatorial Asia, the lowland evergreen rainforest typically has a tree family dominance of Diptero- carpaceae (Whitmore, 1984). Most of the state of Sabah was once covered with rainforest (Schmitt et al., 2008), particu- larly such mixed dipterocarp forest. Currently, some 47% (36 049 km2) of the state lies within Permanent Forest Estate (PFE: Fig. 1a). Most of this PFE (74%) is maintained un- der a selective harvesting system (PFE Production Forest), while the remaining 26% is classified as PFE Protection For- est. Within eastern Sabah, most of the cleared lands are now used for the cultivation of oil palm trees (Fig. 1b). Some commercial timber plantations are also present within Sabah. The Bukit Atur GAW tower used for OP3 sampling is lo- cated within the PFE Production Forest of the Ulu Segama The Bukit Atur GAW tower used for OP3 sampling is lo- cated within the PFE Production Forest of the Ulu Segama – Malua Forest Reserve, but is less than 5 km east of the 438 km2 area of PFE Protection Forest known as the Danum Valley Conservation Area (DVCA). The Ulu Segama – Malua Forest Reserve is 2411 km2 in area and is divided into annual timber harvesting coupes. The GAW tower lies at the centre of the 22.6 km2 “Coupe 88” which was sub- jected to selective timber harvesting in 1988. An average of 96 m3 of timber ha−1 was cut by both tractor and high-lead harvesting (Tangki and Chappell, 2008). The central area of this coupe was subsequently rehabilitated by enrichment planting (Moura-Costa, 1996). As part of a study covering a 225 km2 area Tangki and Chappell (2008) calculated an av- erage tree biomass of 172 t ha−1 for Coupe 88, (using five inventory plots surveyed in March 1997), and demonstrated a strong correlation (r2=0.76) between such coupe-averaged values and Landsat-5 TM band 4 (near-infra red) radiance. 2.2 Local climate and forest formations Dashed lines on temperature and PAR graphs show ap- proximate sunrise and sunset times. Dotted lines on the PAR graph show 5th and 95th percentiles. 2.3 Campaign meteorology Most of the OP3 measurements were undertaken within the four-month period of April to July 2008. This period was 124% more wet than normal, with 1045 mm of rainfall. No- tably, the driest month according to the longer-term record, April, received 170% of the normal rainfall at 263 mm. The April–July 2008 period was also cooler, with a mean temper- ature of 27.1 ◦C, which was 99% of the norm for April–July 2001–2008. A clear diurnal cycle in the rainfall is observed, even within the records of the relatively short OP3 campaign pe- riod of April–July (Fig. 2a). The presence of a late afternoon peak in rainfall at DVFC, which is more pronounced when several years of data are summarised, as in Bidin and Chap- pell (2006), results from the diurnal development of convec- tive rainfall cells, which is consistent with LIDAR observa- tions (peak rainfall typically observed around 15:00 LT) and measurements of radiation and heat fluxes at the site (Pear- son et al., 2010; Helfter et al., 2010). The predominance of rainfall delivery by convective events also results in an ex- treme localisation of the rainfall field. Within a 5 km2 region encompassing the summit of Bukit Atur, Bidin and Chap- pell (2003) demonstrated that inter-gauge correlation in an- nual rainfall totals fell to 0.90 over distances of only 1.1 km, which is short even by comparison with other convective sys- tems. Figure 2 also shows median temperatures at various heights at Bukit Atur for the combined periods of OP3-I and OP3-III, measured with aspirated thermocouples. The over- all median temperature at 30 m was 25.1±1.6 ◦C. This is sim- ilar to the long-term surface temperature data from DVFC, taking into account a typical temperature gradient with alti- tude. During the campaign, the atmospheric stability varied from strongly stable at night to strongly unstable during the middle of the day, as would be expected for a convective re- gion with low wind speeds. Fig. 2. Local-time diurnal cycles in (top panel) mean rainfall, (mid- dle panel) median temperature at various heights on the Bukit Atur GAW tower, and (bottom) median canopy-top photosynthetically active radiation (PAR), over the OP3 campaign months of April– July 2008. Dashed lines on temperature and PAR graphs show ap- proximate sunrise and sunset times. Dotted lines on the PAR graph show 5th and 95th percentiles. very frequently in nocturnal radiation fogs. 2.2 Local climate and forest formations During the OP3 campaign year of 2008, the perhumidity index was 22, and therefore identical to the longer-term average. The 23-year mean rainfall (1986–2008 inclusive) for the DVFC rain gauge is 2840 mm (±438 mm standard devia- tion). The wettest month is typically January with 310 mm precipitation. April is typically the driest month with 155 mm on average, but it also has the most variable rain- fall total with a coefficient of variation (CV) of 69% against Within the immediate vicinity of the Bukit Atur GAW tower, we calculate the average perhumidity index to be 22 (using the daily rainfall data for the period 1996–2008 from the Danum Valley Field Centre (DVFC), located 8 km from Bukit Atur at 4◦58′ N, 117◦48′′ E, 100 m a.s.l.). Hence Bukit Atur is classified as having a superwet climate. The index Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 173 tion characteristics and tools 17 Fig. 2. Local-time diurnal cycles in (top panel) mean rainfall, (mid- dle panel) median temperature at various heights on the Bukit Atur GAW tower, and (bottom) median canopy-top photosynthetically active radiation (PAR), over the OP3 campaign months of April– a mean monthly CV of 46%. Indeed, the three-month pe- riod from February to April has the least predictable rainfall totals, with CV values all over 57%. This variability in rain- fall totals may relate to the period being at the change from the northeast monsoon (approximately November–April) to the southwest monsoon (approximately May–October: Bidin and Chappell, 2006). Rainfall in 2008 totalled 3220 mm, the fifth wettest year in the 23-year record with 113% of normal rainfall. The mag- nitude of the seasonal variations in rainfall was the smallest on record with a CV of 23%, against the long-term average monthly CV of 47%. This lack of marked seasonality was also shown in the number of days with rainfall. A total of 257 rain-days, the largest number in the 23-year record, were observed in 2008 against an average of 226 rain-days. Fig. 2. Local-time diurnal cycles in (top panel) mean rainfall, (mid- dle panel) median temperature at various heights on the Bukit Atur GAW tower, and (bottom) median canopy-top photosynthetically active radiation (PAR), over the OP3 campaign months of April– July 2008. 2.3 Campaign meteorology LIDAR data (not shown) demonstrate this, and also suggest a day-time (10:00–18:00 LT) mixing height of ∼800 m. The strong When the boundary layer was stable, the rainforest canopy was decoupled from the overlying atmosphere, resulting Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools over that area in the last 24 hours. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools over that area in the last 24 hours. 174 Fig. 3. Air mass residency times for air reaching Bukit Atur (black circle) during (top panel) OP3-I and (bottom panel) OP3-III. No colour means no trajectories passed over that area in the last 24 h. daytime turbulence, along with weak winds, makes chemi- cal box-modelling a reasonable strategy for interpretation of daytime atmospheric composition (Sect. 5, below), but un- derstanding measurements made at night, when the atmo- sphere near the surface is strongly stratified, requires more careful consideration of vertical mixing (Pugh et al., 2010a). The bottom panel of Fig. 2 shows the diurnal cycle in pho- tosynthetically active radiation (PAR), measured at canopy- top height. There is a tail of dull days (shown by the 5th percentile) but, on the whole, the period of the campaign was bright. The warm temperatures and bright sunshine produced substantial emissions of biogenic volatile organic compounds (BVOCs) from the forest (Sect. 4.2.2, below). Turning from vertical mixing/convective effects, to take a more horizontal/advective view, backwards air mass tra- jectories were analysed in order to characterise the origins of chemical species measured at Bukit Atur during the mea- surement campaigns. They were calculated by the British At- mospheric Data Centre (BADC) Web Trajectory Service us- ing European Centre for Medium-Range Weather Forecasts (ECMWF) wind fields. A series of trajectories was calcu- lated, with one trajectory for every hour during OP3-I and OP3-III. These were then analysed to give an ensemble rep- resentation of air mass residency time as a function of loca- tion for the whole of each campaign (Ashbaugh et al., 1985). Back trajectories are calculated for the 24 h before arrival at Bukit Atur, with a time resolution of 30 min, and a final pressure altitude of 950 hPa. Back trajectories that touch the ground have been removed. 2.3 Campaign meteorology Figure 3a and b show air mass residency time on a 0.1◦×0.1◦grid for all back trajectories from the first and third campaign periods, respectively. The first campaign period (OP3-I) was influenced by air masses from most directions, in contrast to OP3-III when the air was predominantly from the south. The southern air in the third period can be split into two main areas of origin: the SE air from the sea with a minimal fetch over land, and the SW air which is exclusively over land. This can be used to identify and compare periods of marine and terrain influ- enced air. It is possible to extend this analysis by using only trajectories from periods when a certain measurement is ele- vated, giving a coloured probability distribution of the source of the measured quantity. A subsequent paper will use these techniques to present a more in-depth analysis of chemical origins in the future. Fig. 3. Air mass residency times for air reaching Bukit Atur (black circle) during (top panel) OP3-I and (bottom panel) OP3-III. No colour means no trajectories passed over that area in the last 24 h. tempts to characterize regional BVOC emissions, especially in highly diverse tropical forests. Guenther et al. (1995) estimated global biogenic VOC emissions using the highest resolution (0.5◦) and most de- tailed global map of land-cover and land-use (Olson, 1992) available at that time. Figure 4 (top left panel) illustrates the Olson (1992) classification of Borneo landscapes, which include six unmanaged land-cover types, dominated by trop- ical rainforest (50%), marsh/swamp (14%) and tropical mon- tane (7%) and three managed land-cover types dominated by re-growing woods (9%) and paddy rice (7%). The associ- ated isoprene emission factor map shown in Fig. 4 (top right panel) characterizes the gross features of Borneo but does not represent the full diversity of landscapes in this region. A major limitation of the Olson global ecosystem approach is that, for example, all re-growing woods are lumped together and observations from North American and European forests C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al. 2006) right). N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al. 2006) (b right). Fig. 4. Land cover distributions for Borneo used by the global biogenic VOC emissions inventory of Guenther et al., 1995) (top left) and by MEGAN (Guenther et al., 2006) (bottom left) and associated isoprene emission factor (µg m−2 h−1) map used by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al., 2006) (bottom right). Fig. 4. Land cover distributions for Borneo used by the global biogenic VOC emissions inventory of Guenther et al., 1995) (top left) and by MEGAN (Guenther et al., 2006) (bottom left) and associated isoprene emission factor (µg m−2 h−1) map used by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al., 2006) (bottom right). 48 8% of the total. While the total area associated with broad types (e.g. tropical forest, montane forest) agree reasonably well with the Olson (1992) database, the details differ con- siderably. Figure 4 (bottom right) shows that land-cover re- sults in considerable differences between the isoprene emis- sion factor distribution of Guenther et al. (1995) and the MEGAN model (Guenther et al., 2006) which uses the Ol- son et al. (2001) eco-region map and satellite derived PFT (e.g. crop, broadleaf tree, shrub) cover fractions. In addition, MEGAN uses plant species composition estimates from the Olson et al. (2001) global terrestrial eco-region database and the Leff et al. (2004) crop species distribution database. Al- though the spatial pattern is quite different, the annual iso- prene emission for Borneo differs by less than 5% when the MEGAN land-cover is used in place of Guenther et al. (1995) land-cover data. This good agreement, however, is the result of major offsetting differences between these two land-cover databases. The Guenther et al. (1995) foliar density and LAI estimates are about 50% higher, resulting in about 25% more isoprene, but the emission factors are about 25% lower. The result is a very similar annual isoprene emission but for dif- ferent reasons. were used to assign a single isoprene emission factor to all occurrences of this land-cover type across the globe. The Guenther et al. (1995) estimate of annual isoprene emission from Borneo is about 10 Tg of carbon, which is 2% of the estimated global total. 2.4 Land-cover classification and VOC emissions modelling Biogenic VOC emissions are highly sensitive to land-cover characteristics and can vary over several orders of magni- tude across different landscapes. This is partly due to vari- ability in total biomass density but is greatly enhanced by variability among different plant species, especially for com- pounds such as isoprene that are emitted by less than a third of all plant species. This presents a daunting challenge for at- Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al. 2006) (b right). 175 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al. 2006) right). The availability of satellite observations has greatly im- proved quantitative estimates of eco-region distributions and other land-cover variables, including leaf area indices (LAI) and plant functional type (PFT) cover fractions. In addi- tion, the development of a global geo-referenced eco-region map by Olson et al. (2001) represents an additional major advance for biogenic emission modeling. This high reso- lution digital map is the product of over 1000 biogeogra- phers, taxonomists, conservation biologists and ecologists from around the world. Each of the 867 eco-regions rep- resented on this map has relatively uniform species com- position and is accompanied by an online database (http: //www.nationalgeographic.com/wildworld/) that includes a description of the dominant plant species. Figure 4 (lower left) shows that this database divides Borneo into seven eco- regions with Borneo lowland rainforests covering just over half of the total land area, Borneo montane rainforests and Sundaland heath forests together comprise about 25%, and the remaining four ecoregions (Kinabalu montane alpine meadows, Borneo peat swamp forests, Borneo freshwater swamp forests, Sunda Shelf mangroves) each make up 1 to The MEGAN framework can be used to estimate re- gional to global biogenic VOC emissions but the accuracy of the results is dependent on the availability of representative measurements of individual ecoregions. A lack of BVOC Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 176 particle size distribution and composition, as well as tem- perature, relative humidity, radiation and turbulence. Four platforms were strapped against an emergent tree (Canarium decumanum), at 8, 16, 24, 32 m. Each platform sup- ported sonic anemometers, inlets to a gradient system for O3/NO/NO2 and fine thermocouples. In addition, an auto- mated winch system continuously raised and lowered a tem- perature/humidity probe, a PAR sensor, an optical particle spectrometer (GRIMM 1.08) and an inlet leading to a PTR- MS. This gave vertical gradient measurements between 2 and 28 m (Ryder et al., 2010). In a clearing near the in-canopy site, LIDAR measurements were made of wind speed and di- rection and of aerosol backscatter throughout the boundary layer. measurements from Borneo resulted in the assignment of MEGAN version 2.1 emission factors to the ecoregions of Borneo that were based on observations from other tropical regions. 3.1.3 Concentration and flux measurements at Bukit Atur The overall measurement strategy for OP3 was to perform integrated measurements from the forest-floor, through the forest canopy, above the canopy and then up-scaled to the regional scale using airborne measurements, with clear link- ages between measurements made at the different sites at the different scales. The largest number of ground-based measurements were made at the Bukit Atur GAW station, which routinely records CO2 and O3 mixing ratios, and various aerosol parame- ters. The station consists of a main building with four air- conditioned laboratories at the base of a 100 m tower, all lo- cated in a large (∼150×50 m) clearing on the top of a hill and surrounded by forest. The surrounding forest canopy ex- tends ∼10 m above the base of the tower. Four mobile sea- container laboratories were deployed around the base of the tower to provide extra instrument accommodation. Electri- cal power was provided by generators, located 2 km E of the station. Pollution events, attributable to individual vehicles arriving on site, the generators, or to small leaks of reactive compounds on site, were identified by elevated concentra- tions of the oxides of nitrogen and by wind direction analy- sis, and are excluded from subsequent data analysis. Table 1 summarises the measurements made at Bukit Atur: the criti- cal measurements included: 3.1.1 Forest floor (soil) NOx flux measurements The fluxes of NOx from forest soil were measured using a continuous automated dynamic chamber system at the “in- canopy site”. Seven spatially distributed chambers were used in order to represent the spatial variation inherent in soil NOx emissions at each site. The chamber construction and oper- ation is described in Pilegaard (2001) while the flux calcula- tion method was modified from Conrad (1994), with further details available in Dorsey and Gallagher (2010). In addition, fluxes of nitrous oxide (N2O) and methane (CH4) were made at the “in-canopy site”, at a near-by undisturbed primary for- est site, at a heavily disturbed road-side site and from the soils at the oil palm plantation (see below), using static soil chambers (Siong et al., 2009; Ryder et al., 2010). – eddy covariance and gradient flux measurements of trace gases and particles; – speciated concentration measurements of trace gases and particles; – measurements of aerosol size-dependent hygroscopicity and critical supersaturations for cloud growth; – concentration measurements of OH, HO2, and the sum of hydroperoxy and organic peroxy radicals; – OH reactivity measurements (the rate at which OH is removed from the atmosphere); – characteristics of boundary layer turbulence and mix- ing. 3.1 Ground based measurements Ground based measurements were centred on the 100 m tower at the Bukit Atur GAW station (4◦58′49.33′′ N, 117◦50′39.05′′ E, 426 m a.s.l.) (http://gaw.empa.ch/gawsis/). An “in-canopy” sampling site was established 2 km E of the Bukit Atur tower (4◦58′49.10′′ N, 117◦51′19.12′′ E) and a further “oil palm plantation” sampling site was established at the Sabahmas oil palm estate, 70 km NE of Bukit Atur (5◦14′58.69′′ N, 118◦27′15.76′′ E). C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al. 2006) right). Improved estimates for future versions of MEGAN and other models are highly dependent on the availability of observations characterizing the dominant plant functional types within major global ecoregions. In fact, our initial anal- ysis of emissions from Bukit Atur show that the default base emission rates in MEGAN prior to the OP3 observations are a factor of four too high for this forest ecoregion. We also confirm that, unusually for a species classified as crop in MEGAN, oil palm is an intense isoprene emitter. 3.1.2 Within-canopy concentration profiles At the “in-canopy site”, measurements were made of the vertical gradients (from the ground to 32 m height) of the concentrations of ozone, NOx, volatile organic compounds, www.atmos-chem-phys.net/10/169/2010/ Atmos. Chem. Phys., 10, 169–199, 2010 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools The underlying map is as shown in Fig. 1b. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools The underlying map is as shown in Fig. 1b. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools The underlying map is as shown in Fig. 1b. 177 Fig. 5. Flight tracks of the BAe 146 research aircraft over Sabah during OP3-III. The underlying map is as shown in Fig. 1b. Fig. 5. Flight tracks of the BAe 146 research aircraft over Sabah during OP3-III. The underlying map is as shown in Fig. 1b. 3.1.4 Concentration and flux measurements at the Sabamas oil palm plantation profiles, allowing a picture to be built up of the concentra- tions of trace gases and particles during the daytime. Two flights were also made over the ocean up- and down-wind of Sabah. The Sabahmas oil palm plantation measurement site used during OP3-II was located in a 33 ha flat area of oil palm (Elaeis guineensis × Elaeis oleifera hybrid, progeny “Guthrie”) trees. The trees were of uniform age (12 years) and height (12 m). The site comprised a 15 m tower and an 8 m canopy access platform. Instruments were housed in a hut at the base of the platform. The analytical methods used were the same as at Bukit Atur, including the measurements of aerosol sub-micrometre composition, fluxes of aerosol, BVOCs, ozone and CO2, although the suite of measurements made was not as comprehensive. In particular, measurements of OH and other radicals and of the oxides of nitrogen were not made. 49 In order to link the ground-based and airborne measure- ments, the aircraft flew past the Bukit Atur measurement sta- tion on more than ten occasions, at the same height above sea-level as the base of the GAW tower and at approximately 500 m horizontal separation. Table 2 summarises the flights made during the OP3 deployment and Fig. 5 shows the geo- graphical extent of the flights over Sabah. 3.1.5 Airborne measurements Species Method/ Analytical Technique Ground† Air Temporal Resolution NMHC, includ- ing isoprene and oxygenates Disjunct eddy covariance flux measurement with continu- ous flow and analysis by PTR-MS √BA, OP Fluxes: 30 min Mixing ratios: ∼7 s NMHC, includ- ing isoprene and oxygenates Automated PTR-MS gradient √IC Gradient ev- ery 7 min NMHC, includ- ing isoprene, monoterpenes and oxygenates Dual Channel Gas Chro- matograph with Flame ionisa- tion detectors (DC-GC-FID) √BA √ 1 h ground variable air Terpenoids, al- cohols, aldehy- des GC-PID, portable mass spectrometer √BA CO2/H2O flux Eddy- covariance flux using infrared gas analyser Li-Cor 7000/7500 √BA, OP 30 min fluxes NO2 flux Eddy covari- ance using laser induced fluorescence √BA 30 min fluxes HNO3, HCl, HNO2, NH3, SO2, NH+ 4 , NO− 3 , Cl−, SO2− 4 Wet effluent denuder & steam jet aerosol collec- tor, online IC (GRAEGOR) √BA 1 h Turbulence, sensible heat flux Eddy- covariance using sonic anemometry √BA 30 min fluxes Soil NO flux Dynamic auto- chamber using NO analyser √IC Table 1. Overview of the measurements made in OP3. 3.1.5 Airborne measurements Satellite observations of key tropospheric trace gases allow the surface and aircraft trace gas measurements above the rainforest surrounding Bukit Atur to be put in a wider context relative to Borneo and the larger south-east Asian region. We focus on formaldehyde (HCHO) and nitrogen dioxide (NO2), which are good indicators of emissions and photochemical activity, to examine the atmospheric chemistry over Borneo during the OP3 campaigns in 2008. Global background con- centrations of HCHO are determined by the balance between the source (from the oxidation of methane) and the OH sink. Concentrations are typically much larger over continents due to additional sources from the oxidation of biogenic and an- thropogenic VOCs, and from biomass burning (either di- rectly released or from the oxidation of co-emitted VOCs) (Palmer et al., 2003; Fu et al., 2007). Anthropogenic activi- ties, biomass burning and soil emissions are the main source Airborne measurements (see Table 1) were made dur- ing OP3-III using the Natural Environment Research Council/UK Meteorological Office’s BAe 146–301 Facility for Airborne Atmospheric Measurements (FAAM) aircraft (Lewis et al., 2007), deployed to Kota Kinabalu airport, less than 30 min flying time from Bukit Atur. In general, the same type of flight plan was executed on each flight, with one pro- file up and one down, interrupted by straight and level runs at altitudes of 100–250, 1500, 3000 and 6000 m above ground over the rainforest (centred on Bukit Atur), over an exten- sive and homogeneous agro-industrial oil palm landscape surrounding and including the Sabahmas oil palm plantation estate, and in transects between the two sites. Flights were made morning and afternoon giving typically four stacked Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 178 Table 1. Overview of the measurements made in OP3. 3.1.5 Airborne measurements Species Method/ Analytical Technique Ground† Air Temporal Resolution Detection Limit Measurement Uncertainty Reference NMHC, includ- ing isoprene and oxygenates Disjunct eddy covariance flux measurement with continu- ous flow and analysis by PTR-MS √BA, OP Fluxes: 30 min Mixing ratios: ∼7 s Fluxes: < 0.05 mg m−2 h−1 Mixing ra- tios: 10–100 pptv Fluxes: Precision = ∼±30% Mixing ratios ∼±10% (Langford et al., 2009) NMHC, includ- ing isoprene and oxygenates Automated PTR-MS gradient √IC Gradient ev- ery 7 min 10–100 pptv (Karl et al., 2007) NMHC, includ- ing isoprene, monoterpenes and oxygenates Dual Channel Gas Chro- matograph with Flame ionisa- tion detectors (DC-GC-FID) √BA √ 1 h ground variable air 1 pptv variable, typ- ically around 10% (Lewis et al., 2007; Lewis et al., 2005) Terpenoids, al- cohols, aldehy- des GC-PID, portable mass spectrometer √BA CO2/H2O flux Eddy- covariance flux using infrared gas analyser Li-Cor 7000/7500 √BA, OP 30 min fluxes (Aubinet et al., 2000) NO2 flux Eddy covari- ance using laser induced fluorescence √BA 30 min fluxes (Farmer et al., 2006) HNO3, HCl, HNO2, NH3, SO2, NH+ 4 , NO− 3 , Cl−, SO2− 4 Wet effluent denuder & steam jet aerosol collec- tor, online IC (GRAEGOR) √BA 1 h (Thomas et al., 2009) Turbulence, sensible heat flux Eddy- covariance using sonic anemometry √BA 30 min fluxes Soil NO flux Dynamic auto- chamber using √IC (Pilegaard et al 2006) Table 1. Overview of the measurements made in OP3. (Pilegaard et al., 2006) Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 179 Table 1. Continued. 3.1.5 Airborne measurements Species Method/ Analytical Technique Ground† Air Temporal Resolution Detection Limit Measurement Uncertainty Reference Soil N2O/CH4 flux Static soil chamber with off-line GC analysis √IC, OP 1 h OH, HO2 FAGE (Fluorescence Assay by Gas Expansion) laser-induced fluorescence √BA 10 s (OH) 2.4×105 molecule cm−3 (3 min av.) (HO2) 3.8×106 molecule cm−3 (3 min av.) 44 % (OH) 50 % (HO2) (2σ) (Whalley et al., 2010a, b) OH, HO2 FAGE (Fluorescence Assay by Gas Expansion) laser-induced fluorescence √ 60 s (OH) 2.3×106 molecule cm−3 (1 min av.) (HO2) 2.0×106 molecule cm−3 (1 min av.) 28 % (OH & HO2) (2σ) OH Reactivity FAGE √BA 1 min 22 % (2σ) (Ingham et al., 2009) 6RO2 + HO2, HO2 PERCA (PEr- oxy Radical Chemical Am- plifier), dual in- let √BA √ 1 min 0.4 pptv (10 min) 38% (1σ) (Fleming et al., 2006) NO3, CH2O, NO2, HONO, O3, CHOCHO Differential Optical Ab- sorption Spectroscopy √BA 10min 2 pptv, 480 pptv, 80 pptv, 150 pptv, 4.6 ppbv, 150 pptv 1.5 pptv, 500 pptv, 60 pptv, 130 pptv, 4 ppbv, 130 pptv (Plane and Saiz-Lopez, 2006) NO2, HCHO, CHOCHO MAX-DOAS √BA (Leigh et al., 2006) Photolysis fre- quencies (incl. j(O1D),j(NO2)) Calibrated filter (2π and 4π sr) radiometers and spectral- radiometer √BA/IC √ 1s n/a 14% and 13% 0–90◦SZA (Bohn et al., 2008; Edwards and Monks, 2003; Volz- Thomas, et al., 1996) C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 179 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools witt et al.: The OP3 project: introduction, rationale, location characteristics and tools 179 Atmos. Chem. Phys., 10, 169–199, 2010 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 180 Table 1. Continued. Table 1. Continued. 3.1.5 Airborne measurements Species Method/ Analytical Technique Ground† Air Temporal Resolution Detection Limit Measurement Uncertainty Reference O3 flux eddy correlation Dry chemilu- minescence √BA, OP 30 min fluxes from 0.05 s 0.1 ppbv (G¨usten et al., 1990; Gusten and Heinrich, 1996) O3/NO/NO2 gradient Chemilu- minescence (O3), thermal converter √BA/IC 15 min NO NO2 6NOy, 6NOy-HNO3 NO/O3 chemi- luminescence detectors Pho- tochemical convertor + above Gold tube/CO converter + above Gold tube con- vertor and de- nuder √BA 10 min 3 pptv for NO, 7 pptv for NO2 15% for NO and 20% for NO2 at 50 pptv Pike et al., 2009 NO NO2 6NOy, 6NOy-HNO3 NO/O3 chemi- luminescence detectors Pho- tochemical convertor + above Gold tube/CO converter + above Gold tube con- vertor and de- nuder √ 10 s 3 pptv for NO and 15 pptv for NO2 8% for NO at 1 ppbv and 9% for NO2 at 1 ppbv (Brough et al., 2003; Stewart, et al., 2008) NO2 Laser-induced fluorescence (LIF) √BA 1 Hz 3.6 pptv/60 s 20% (Dari- Salisburgo et al., 2009) 6PNs Thermal- dissociation LIF √BA 1 Hz 13 pptv/60 s 40% (Dari- Salisburgo et al., 2010) 6ANs Thermal- dissociation LIF √BA 1 Hz 13 pptv/60 s 40% (Aruffo et al., 2010) NO2 flux LIF-Eddy covariance √BA 10 Hz 11 pptv/60s 20% (Dari- Salisburgo et al., 2010) √ 10 s 3 pptv for NO and 15 pptv for NO2 8% for NO at 1 ppbv and 9% for NO2 at 1 ppbv (Brough et al., 2003; Stewart, et al., 2008) Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 181 Table 1. Continued. Species Method/ Analytical Technique Ground† Air Temporal Resolution Detection Limit Measurement Uncertainty Reference H2O2, 6 ROOH Dual-channel fluorometric detector √ 1 min 50 pptv 14% (1σ) (Penkett et al., 1995) H2O vapour Dew point hygrometer √BA √ H2O flux Eddy- covariance using UV Absorption √BA 30 min fluxes 100 Hz 8% (q- dependent) (Coe et al., 1995) CH2O Fluorometric detection (Hantzsh reaction) √BA 1 min 100 pptv 17% (2σ) (Still et al., 2006) Speciated alde- hydes, ketones and alcohols NMHC, includ- ing isoprene and oxygenates GC/GC detec- tion, PTR-MS √ 15 s 50–120 pptv 13–16% (1σ) >C7 NMHC (e.g. 3.1.5 Airborne measurements terpenes) Adsorbent tubes & GC/TOF-MS √ Variable 50 pptv ±(5%+20 pptv) (Capes et al., 2009) CO Chemilu- minesence √BA √ (Gerbig et al., 1999) PAN GC/ECD (elec- tron capture de- tection) √ 90 s 5 pptv 5% (Whalley et al., 2004) PAN GC/ECD (elec- tron capture de- tection) √BA 10 min PAN:15 pptv, PPAN, MPAN:25 pptv 20% (2σ) (Harrison et al., 2006) Alkyl nitrates, organic N GC and neg- ative ion CI GC/MS √BA √ G: 1 h A: variable 0.005 pptv 13% (2σ) (Reeves et al., 2007; Worton et al., 2008) Reactive halocarbons GC/MS √BA √ G: 1 h A: variable 0.005 pptv 15% (2σ) (Worton et al., 2008) Halocarbons GC/ECD √BA ∼15 min ∼0.5 pptv 5–10% (Gostlow et al., 2009) www.atmos-chem-phys.net/10/169/2010/ Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ Atmos. Chem. Phys., 10, 169–199, 2010 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 182 Table 1. Continued. Species Method/ Analytical Technique Ground† Air Temporal Resolution Detection Limit Measurement Uncertainty Reference Aerosol number concentration CPCs total particle number concentration (>3 nm); √BA √ 30 min (ground) 1 s (aircraft) N/A N/A Aerosol size distribution SMPS ground: 3< Dmd <700 nm Air: 3< Dmd <350 nm √BA/IC √ 30 min (ground) 1 min (aircraft) N/A N/A Optical and aerodynamic particle counters (0.3/0.1– 20/3µm) √BA/IC √ 30 min (ground) 1 s (aircraft) in-canopy gradients (2–32 m) N/A N/A Ultra-fine particle fluxes Eddy Correla- tion Dp >3 nm, >10 nm, inde- pendent CPCs √BA Fluxes 30 min. Raw 0.3 s. < 0.01 particle/cm3 ±10% @ 3×105 particles/cm3. 3.1.5 Airborne measurements (Buzorius et al., 1998) Aerosol size segregated chemical composition Aerodyne Aerosol Mass Spectro- meter (40 nm< Dvad < 0.8 µm), non-refractory SO2− 4 , NO− 3 , NH+ 4 , organic species √BA, OP √ 30 min (ground) 10 s (profile) 30 s (SLR) Ground: 3 ng m−3 (NO− 3 , SO2− 4 ) and 11 ng m−3 (NH+ 4 ), 10 min average, high res mode Air: 3 ng m−3 (NO− 3 , SO2− 4 ) and 30 ng m3 (NH+ 4 ) 30 s average 15% Ground: (Aiken et al., 2008; Cana- garatna et al., 2007) Aircraft: (Crosier et al., 2007) Size segregated chemically spe- ciated aerosol mass fluxes Eddy- covariance using Aero- dyne Aerosol Mass Spec- √BA, OP 30-min fluxes 10 ng m−2 s−1 ±10 ng m−2 s−1 (Nemitz et al., 2008) 30-min fluxes Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 183 183 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 183 Table 1. Continued. Species Method/ Analytical Technique Ground† Air Temporal Resolution Detection Limit Measurement Uncertainty Reference Size-segregated bioaerosol WIBS √BA, IC (Kaye et al., 2005) Genetic bioaerosol Genetic analy- sis of filters √BA, IC, OP 12-h Cloud liquid water Gerber PVM- 100 √ 0.1 s 0.005 g m−3 (Gerber, 1991) Aerosol Scat- tering proper- ties 3 wavelength nephelometer √ 2 mm−1 5% (Osborne et al., 2008) Cloud Conden- sation Nuclei Activity CCN spectrometer √BA (single) √(two) 1 h (ground) (Roberts and Nenes, 2005) Aerosol hygro- scopicity Hygroscopic Tandem Differ- ential Mobility Analyser √BA 1 h (Gysel et al., 2007) Meteorological parameters (Wind speed & direction, solar radiation, PAR, precipita- tion, wetness, pressure, tem- perature, RH, turbulence, sen- sible heat flux) Standard mete- orological sen- sors (aspirated thermocouples, Vaisala WXT) √BA, IC, OP 30 min temperature gradients Boundary Layer Height LIDAR √BA 1 s 20–60 m (Pearson et al., 2009) † – BA=Bukti Atur site; IC=In-canopy site; OP=oil-palm site (OP3-II). (Pearson et al., 2009) (Pearson et al., 2009) † – BA=Bukti Atur site; IC=In-canopy site; OP=oil-palm site (OP3-II). † – BA=Bukti Atur site; IC=In-canopy site; OP=oil-palm site (OP3-II). 3.1.5 Airborne measurements of variability in the tropospheric NO2 columns (Martin et al., 2002, 2003). the HCHO columns onto a coarser 2.5◦×2.0◦grid (to im- prove the signal-to-noise ratio), since it is a much weaker absorber and because global coverage is only achieved by SCIAMACHY at the Equator every 6 days. Scenes with frac- tional cloud coverage >40% are excluded from our analysis. Figure 6a and b shows HCHO and NO2 column distribu- tions over Borneo during April–July 2008, quantified using UV spectroscopic measurements taken by the nadir-viewing data from SCIAMACHY (HCHO; De Smedt et al., 2008) and OMI (NO2; ATBD-OMI-02) instruments respectively. NO2 is a strong absorber at UV wavelengths and, because the OMI instrument provides daily coverage, the NO2 col- umn data can be averaged onto a fine resolution grid of 1.0◦×1.0◦(longitude × latitude). In contrast, we average Figure 6b shows that NO2 measurements from OMI iden- tify anthropogenic NOx signals from Bangkok, Jakarta, Surabaya and Singapore. Enhanced HCHO also seen over these cities indicates intense photochemical activity, likely associated with polluted conditions. Over Indochina in April, elevated HCHO and NO2 columns are loosely correlated Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 184 Table 2. Overview of aircraft flights made in OP3. Flight Flight description Date in 2008 Take off- Landing Times (UTC) B384 Survey flight (Bukit Atur, oil palm, SW of Kota Kinabalu) 9 July 02:13–05:32 B385 Bukit Atur (ground sampling site) and SW of Kota Kinabalu 10 July 01:10–05:04 07:04–10:41 B386 Bukit Atur 12 July 01:02–04:48 06:10–9:59 B387 Maliau Basin, S of Sabah. N of Bukit Atur and W of oil palm plantation 13 July 00:54–06:01 06:30–10:10 B388 Bukit Atur and oil palm 15 July 00:54–04:43 06:01–09:33 B389 Ocean flight SE of Sabah 16 July 00:49–04:31 05:39–09:40 B390 CASCADE (Marine flight, W and NW of Sabah) 18 July 22:57–03:14 B391 SW of Bukit Atur, oil palm 19 July 00:54–05:06 06:15–09:48 B392 Mainly oil palm plantation 21 July 00:48–04:46 05:53–09:46 B393 Ocean flight (NW and SE of Sabah) 22 July 00:43–05:10 Table 2. Overview of aircraft flights made in OP3. Local Time is (UTC+8). with AATSR fire-counts (not shown) (Arino et al., 2005) and hence are probably due to fire emissions (Fu et al., 2007). 3.1.5 Airborne measurements During May, enhanced HCHO columns over the Gulf of Thailand may reflect outflow from fires occurring in Sumatra and from the Sibu area of eastern Borneo. However, dur- ing the OP3 campaigns, fire activity over Malaysian Borneo was minimal and the levels of HCHO and NO2 were gen- erally low, with their column amounts typically approach- ing their background values of ∼5×1015 molecules cm−2 and ∼5×1014 molecules cm−2, respectively. These low val- ues also suggest that during the OP3 measurement period the HCHO source from biogenic VOC oxidation was weak. We observe a slight HCHO enhancement during April over Danum Valley (Fig. 6a), but it is difficult to assign source attribution. ATSR/AATSR instruments (Arino et al., 2001, 2005). High correlations between HCHO and NO2 columns and the fire- count data suggest that biomass burning over Borneo drives observed variability of these trace gases. We find that anoma- lously high HCHO and NO2 columns were due to intense burning periods associated with strong El Nino conditions, indicated here by the Multivariate El Nino Southern Oscilla- tion (ENSO) Index (Wolter and Timlin, 1998), as expected. For example, during 1997/98 an increased number of forest and peat fires during the warmer and drier El Nino condi- tions (Levine, 1999) led to extremely high trace gas column concentrations. Our recent analysis shows that spatial correlations be- tween the 12-year HCHO and NO2 data, and the associated assimilated meteorological data, vegetation activity and fire- counts were strongest in southernmost Borneo and not over the Bukit Atur (Danum Valley) region (Barkley et al., 2009). The low trace gas columns observed over this region during 2008 are consistent with our understanding of past variabil- ity. In Fig. 6c we show the monthly-mean 12-year time series of (continuous) HCHO and (non-continuous) NO2 columns, retrieved from the GOME and SCIAMACHY instruments (De Smedt et al., 2008; Martin et al., 2002, 2003), to- gether with the total number of fire-counts detected by the Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 185 Fig. 6. (a). Monthly averaged SCIAMACHY HCHO columns on a 2.5◦×2.0◦(longitude × latitude) grid, with cloud coverage ≤40%. (b) Monthly averaged OMI NO2 columns on a 1.0◦×1.0◦grid, with cloud coverage ≤40%. 3.1.5 Airborne measurements (c) The (deseasonalized and normalized) monthly- mean time series anomalies over Borneo of HCHO (red) and NO2 (grey) columns retrieved by the GOME and SCIAMACHY instruments (De Smedt et al., 2008; Martin et al., 2002). The total number of firecounts detected by the ATSR/AATSR instruments (Arino et al., 2001, 2005) (black) and the Multivariate El Nino Southern Oscillation Index (MEI) (Wolter and Timlin, 1998) (blue) are also shown. The correlation of the MEI with the HCHO, NO2 and firecount timeseries is given in the plot-title; the correlation of the HCHO timeseries with NO2 and firecounts are shown inset. Fig. 6. (a). Monthly averaged SCIAMACHY HCHO columns on a 2.5◦×2.0◦(longitude × latitude) grid, with cloud coverage ≤40%. (b) Monthly averaged OMI NO2 columns on a 1.0◦×1.0◦grid, with cloud coverage ≤40%. (c) The (deseasonalized and normalized) monthly- mean time series anomalies over Borneo of HCHO (red) and NO2 (grey) columns retrieved by the GOME and SCIAMACHY instruments (De Smedt et al., 2008; Martin et al., 2002). The total number of firecounts detected by the ATSR/AATSR instruments (Arino et al., 2001, 2005) (black) and the Multivariate El Nino Southern Oscillation Index (MEI) (Wolter and Timlin, 1998) (blue) are also shown. The correlation of the MEI with the HCHO, NO2 and firecount timeseries is given in the plot-title; the correlation of the HCHO timeseries with NO2 and firecounts are shown inset. 4.2 In-situ observations 50 the plantation significantly higher (2–5 times higher; 5000– 10 000 pptv). This is consistent with the higher emission rate of isoprene from oil palm trees (Elaeis guineensis) compared to most rainforest tree species (Wilkinson et al., 2006). The plantation landscape also contains associated agro-industrial activities (e.g. road traffic, oil palm processing plants and ni- trogenous fertiliser application) and as a result, NOx concen- trations were also higher compared to the rainforest. How- ever, whereas the higher isoprene concentrations observed tended to be in the west of the oil palm plantation area, higher NOx levels were concentrated in the north and east of the plantation area, where the majority of plantation pro- cessing plants were observed to be situated. In this area, typ- ical NOx levels were 1000–1500 pptv, with up to >2000 pptv observed when flying through or close to the plume of a pro- cessing plant. Further south in the plantation area, closer to the boundary with the rainforest, NOx was much lower, with levels typically <300 pptv, which is similar to levels that are observed over the rainforest. 4.2.1 Airborne measurements The in-situ observations made during the OP3 project were centred on sites representative of natural rainforest and oil palm plantations (see above), with aircraft flights over each landscape and over the up- and down-wind oceans (see above). Figure 7 shows aircraft measurements of six species taken on flights near to the Bukit Atur GAW station and the adjacent oil palm plantations. Data are shown from flights (a) below 500 m above ground level, representative of the boundary layer and (b) above 2500 m, representative of the free troposphere. Also indicated on the plots is the approx- imate boundary between the natural rainforest and the palm oil plantations. Within the boundary layer (Fig. 7a), the most striking concentration difference between the rainforest and plan- tation is for isoprene. Concentrations over the rainfor- est were typically 1000–3000 pptv, with concentrations over Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 186 Fig. 7a. Flight track of all data collected from the aircraft below 500 m (above ground level), coloured by NOx, isoprene, ozone and organic/sulphate aerosol concentrations. Fig. 7a. Flight track of all data collected from the aircraft below 500 m (above ground level), coloured by NOx, isoprene, ozone and organic/sulphate aerosol concentrations. Fig. 7b. Flight track of all data collected from the aircraft above 2500 m (in the free troposphere), coloured by NOx, isoprene, ozone and organic/sulphate aerosol content. Fig. 7b. Flight track of all data collected from the aircraft above 2500 m (in the free troposphere), coloured by NOx, isoprene, ozone and organic/sulphate aerosol content. Fig. 7b. Flight track of all data collected from the aircraft above 2500 m (in the free troposphere), coloured by NOx, isoprene, ozone and organic/sulphate aerosol content. Fig. 7a. Flight track of all data collected from the aircraft below 500 m (above ground level), coloured by NOx, isoprene, ozone and organic/sulphate aerosol concentrations. In the free troposphere (Fig. 7b), very little isoprene or sul- phate aerosol was observed over either the rainforest or plan- tation and levels of CO were similar over both areas (∼50– 60 ppbv). 4.2.1 Airborne measurements NOx levels were higher in the eastern plantation re- gion (200–300 pptv) compared to the rainforest (<50 pptv); however this did not lead to increased ozone in the free tro- posphere over the plantation. This is likely to be due to the very low levels of isoprene and other biogenic VOCs, which do not have a long enough lifetime to escape the boundary layer. Organic aerosol was also very low over both planta- tion and rainforest in the free troposphere, with an average organic loading of 0.03 µg m−3. CO shows a similar behaviour to NOx, with higher levels (100–110 ppbv) observed over the northern and eastern plan- tation area compared to further south and over the rainforest (70–90 ppbv). Levels of sulphate aerosol show little differ- ence between the two land use areas, with both exhibiting aerosol loading of 0.25–1 µg m−3. The result of the increased levels of primary pollutants over the oil palm plantation compared to the rainforest can be seen in the observed ozone, a species that is not directly emitted into the atmosphere but produced photochemically. Ozone was significantly higher (20–25 ppbv) over the eastern area of oil palm plantation, corresponding to the area where NOx was generally higher. Over the western area of oil palm plantation, where NOx levels are lower but isoprene levels are still high, and over the natural rainforest, where both NOx and isoprene are lower, ozone is observed to be 8–15 ppbv. This demonstrates the need for increased NOx emissions, as well as isoprene, in order for significant extra ozone produc- tion to occur (Hewitt et al., 2009). More organic particulate was observed over the oil palm plantation than the rainfor- est, with average loadings of 0.67 µg m−3 and 0.48 µg m−3 respectively, which is consistent with our ground based mea- surements (see below) and could be due to enhanced produc- tion of secondary organic material, although primary emis- sions from the processing plants and human settlements may also be contributing. As described above, some flights were also undertaken over the ocean, both upwind and downwind of Sabah. Levels of isoprene and NOx were very low in both cases and there was no obvious enhancement in ozone in the upwind flights. 4.2.1 Airborne measurements These data were collected on only two days; however our ini- tial interpretation of this is that Sabah is not a large exporter of primary or processed pollutants to the wider region. 4.2.2 Bukit Atur measurements Data were taken within the rainforest at the Bukit Atur GAW station during two four-week intensive measurement periods (OP3-I and OP3-III). The GAW station has made ozone mea- surements since January 2007 and these data are shown in Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 187 Fig. 9a. Average diurnal concentration profiles for NOx, iso- prene, ozone and organic/sulphate aerosol content for the Bukit Atur ground site and aircraft data taken over surrounding rainforest below 500 ms above ground level (BL) and in the free troposphere above 2500 m (FT). The error bars on the aircraft data indicate 1σ standard deviations for data taken on the four flights. Fig. 8. Ground level ozone concentrations measured at the Bukit Atur GAW site 2007–2008. Data are shown as hourly points with a 24 h running average. Fig. 9a. Average diurnal concentration profiles for NOx, iso- prene, ozone and organic/sulphate aerosol content for the Bukit Atur ground site and aircraft data taken over surrounding rainforest below 500 ms above ground level (BL) and in the free troposphere above 2500 m (FT). The error bars on the aircraft data indicate 1σ standard deviations for data taken on the four flights. Fig. 8. Ground level ozone concentrations measured at the Bukit Atur GAW site 2007–2008. Data are shown as hourly points with a 24 h running average. Fig. 8. Gaps in the data are due to lightning strikes rendering the instrument inoperable. However the plot shows that the levels of ozone observed during the OP3 intensive periods in 2008 are typical for the site. night. NO2 exhibits a clear diurnal cycle peaking at around midnight at 300 pptv, with a minimum of ∼150 pptv in mid-afternoon. These values are comparable to NOx mea- surements made in Amazonia (e.g. Ganzeveld et al., 2008) and over West Africa during the AMMA experiments (e.g. Saunois et al., 2009). Campaign daytime (10:00–14:00) average isoprene and total monoterpene fluxes measured at 75 m on the GAW tower were 1.2 and 0.3 mg m−2 h−1 respectively during OP3- I and 2.1 and 0.49 mg m−2 h−1 during OP3-III (Langford et al., 2010). 4.2.2 Bukit Atur measurements These values were comparable to measurements made above regions of the Congo during the EXPRESSO field campaigns (Greenberg et al., 1999; Klinger et al., 1998; Serca et al., 2001) and are somewhat smaller than values re- ported above regions of the Amazon (Karl et al., 2007; Kuhn et al., 2007). The typical monoterpene to isoprene ratio was between 0.2–0.25, which is within the upper range of ratios reported in other tropical regions (Guenther et al., 2008). The fluxes of other biogenic VOCs, including methanol, acetone and acetaldehyde, were very much smaller, accounting for just 2% of the total measured VOC emissions. 53 Boundary layer aircraft measurements of NO and NO2 were in reasonable agreement with the ground based mea- surements, although airborne NO levels were consistently lower. This, along with the non-zero night-time levels, sug- gests a local NO source that was diluted throughout the boundary layer. NO and NO2 levels in the free troposphere were much lower, being <10 pptv and ∼20 pptv, respec- tively. A full description of ground level NOx data and dis- cussion of the chemistry is given by Pike et al. (2009) and Pugh et al. (2010b). Isoprene was the most abundant terpenoid compound ob- served and showed a clear diurnal cycle with very low (<40 pptv) levels at night and a peak of ∼2000 pptv in mid afternoon. This was caused by the dependence of isoprene emission from trees on temperature and light (Guenther et al., 1993). Boundary layer isoprene measurements from the aircraft were in good agreement with the ground-based Bukit Atur measurements, and free tropospheric isoprene levels were, as expected, very low. Limonene, alpha-pinene and beta-pinene were the most abundant monoterpene com- pounds observed. Relatively high concentrations of 2-ethyl hexanol and some aldehydes were also seen in samples taken from within the forest canopy in the vicinity of Bukit Atur. Figure 9a shows hourly averaged median diurnal cycles for NO, NO2, O3, isoprene and sulphate and organic aerosol mass concentration, taken at Bukit Atur during June and July 2008. Only data from the six days when flights took place over the station were used in the averaging for a direct com- parison between the ground-based and aircraft data in the boundary layer and free troposphere over the rainforest. Atmos. Chem. Phys., 10, 169–199, 2010 4.2.2 Bukit Atur measurements The mean net ozone production rate may then be calculated using: N(O3) = kp[NO][HO2 +RO2] −{f ·j(O1D)+k1[OH]+k2[HO2]}[O3] where kp is a combined rate coefficient for the oxidation of NO to NO2 by all peroxy radicals and f ·j(O1D)[O3] repre- sents the fraction of ozone photolysed to yield O(1D) atoms and then OH (with f being the proportion of O(1D) atoms which react with H2O to give OH rather than being colli- sionally deactivated). The rate constants k1 and k2 are from the ozone loss reactions: Concentrations of OH display a clear diurnal cycle, peaking at solar noon, with significant concentrations ob- served: up to 8.7×106 molecules cm−3 (60 min average) was recorded on one day. During the GABRIEL campaign above Amazonia, average midday boundary layer OH concentra- tions were 5.75×106 molecules cm−3 (Martinez et al., 2008). Although j(O1D) levels and humidity were high, the rela- tively low O3 concentrations limit primary OH production. The measured OH reactivity was very high, up to 87 s−1 (cor- responding to a lifetime for OH approaching 10 ms). Accord- ing to the measurements of reactive hydrocarbons (above), this reactivity is dominated by reaction with isoprene, indi- cating that significant OH sources must be present – in ad- dition to primary production following ozone photolysis – in order to maintain the elevated levels of OH levels recorded (Whalley et al., 2010b). The OH diurnal profile was asym- metric (i.e., lower post-noon than the equivalent time pre- noon). This may be due to its main measured sink, iso- prene, being present at higher concentrations in the after- noon, but the asymmetric profile could also result from other factors that have yet to be identified. OH concentrations up to 6×105 molecule cm−3 (60 min average) were also recorded on several nights, consistent with measurements by other groups in forested environments (Tan et al., 2001), with some residual OH observed after j(O1D) had dropped to zero. Measured concentrations of HO2 and the sum of HO2+RO2 displayed similar profiles. OH+O3 = HO2 +O2 (R1) HO2 +O3 = OH+2O2 (R2) (R1) (R2) The net formation of ozone was found to be strongly depen- dent on the concentration of isoprene, having a linear sensi- tivity (e.g. dln(P(O3))/dln(isoprene)=1)). 4.2.2 Bukit Atur measurements Ozone vertical profiles were therefore more like those ob- served during the monsoon over northern Australia, than those observed during monsoon break periods (Heyes et al., 2009) RO2NO2 compounds are produced in the oxidation of iso- prene and other terpenoids, this result provides evidence for the oxidation of BVOC in the vicinity of the forest canopy. Additional evidence for the active photochemical processing of isoprene is provided by the increase in concentrations of its oxidation products, methyl vinyl ketone and methacrolein, observed in the afternoons. than uptake on background aerosol in this environment, be- cause, as discussed earlier, aerosol mass loadings were low. cause, as discussed earlier, aerosol mass loadings were low. There was a slight diurnal trend in ground-based O3 mea- surements, with levels of ∼5 ppbv at 06:00, rising to ∼8 ppbv in mid afternoon. Note that the very small amplitude in the diurnal pattern is typical of a hill-top site (Fowler et al., 2008) and contrasts with that observed at the in-canopy site and over the low-lying palm plantations (see below). These values are comparable to above canopy measurements made above regions of Amazonia (Karl et al., 2007). Boundary layer O3 levels also show an increase throughout the day, but at higher levels (10–13 ppbv), probably because the bound- ary layer O3 is less depleted by deposition to the canopy (Matsuda et al., 2006; Cros et al., 2000). These boundary layer values are slightly less than those measured over Ama- zonia and West Africa during the GABRIEL and AMMA campaigns (Ganzveld et al., 2008; Saunois et al., 2009). There is little vertical structure in the O3 mixing ratio at higher heights above the rainforest, with levels in the free tro- posphere being very similar to those in the boundary layer. Ozone vertical profiles were therefore more like those ob- served during the monsoon over northern Australia, than those observed during monsoon break periods (Heyes et al., 2009). The concentrations of HO2+RO2 were measured at Bukit Atur using PEroxy Radical Chemical Amplification (PERCA) technology (Karunaharan et al., 2009) over 20 days in OP3-I and 29 days in OP3-III. Mean midday mixing ratio of 33.5±3.3 and 35.5±3.5 parts per trillion (pptv) were calculated from the continuous measurements of the sum of the inorganic and organic peroxy radicals from OP3-I and OP3-III respectively. 4.2.2 Bukit Atur measurements Note that since Bukit Atur is on a ridge, some of the boundary layer data collected by the aircraft over the surrounding for- est were at the same or lower altitude (above sea level) as the GAW tower. For NO, a peak of ∼100 pptv was observed between 07:00 and 08:00 local time, which corresponds to the onset of NO2 photolysis. This was followed by a drop to ∼40 pptv by 11:00, with NO then remaining fairly constant through- out the day, until a further drop to ∼20 pptv occurred at around 17:00. NO then remained constant throughout the The concentrations of NO2, peroxy nitrate (RO2NO2) and alkyl nitrate (RONO2) were measured at Bukit Atur with a laser induced fluorescence system (Aruffo et al., 2009). The diurnal cycle of RO2NO2 followed the isoprene diurnal cy- cle, with maximum concentrations in the afternoon. Since Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 188 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools than uptake on background aerosol in this environment, be- cause, as discussed earlier, aerosol mass loadings were low. There was a slight diurnal trend in ground-based O3 mea- surements, with levels of ∼5 ppbv at 06:00, rising to ∼8 ppbv in mid afternoon. Note that the very small amplitude in the diurnal pattern is typical of a hill-top site (Fowler et al., 2008) and contrasts with that observed at the in-canopy site and over the low-lying palm plantations (see below). These values are comparable to above canopy measurements made above regions of Amazonia (Karl et al., 2007). Boundary layer O3 levels also show an increase throughout the day, but at higher levels (10–13 ppbv), probably because the bound- ary layer O3 is less depleted by deposition to the canopy (Matsuda et al., 2006; Cros et al., 2000). These boundary layer values are slightly less than those measured over Ama- zonia and West Africa during the GABRIEL and AMMA campaigns (Ganzveld et al., 2008; Saunois et al., 2009). There is little vertical structure in the O3 mixing ratio at higher heights above the rainforest, with levels in the free tro- posphere being very similar to those in the boundary layer. 4.2.3 Oil palm plantation measurements This is indicative of the high NOx con- centrations observed in certain areas of the plantation land- scape, as described above. Free troposphere NO and NO2 levels over the plantation were again much lower and very similar to those observed over the rainforest. Ground based isoprene data show a similar diurnal cycle to the rainforest, with near zero levels at night, but with an earlier peak at around 12:00. Isoprene concentrations are much higher in the plantation, with peak daytime levels of ∼16 000 pptv. Isoprene concentrations in the boundary layer over the plantation show a very similar diurnal profile, but with a significantly lower peak of ∼5000 pptv. The ground- based measurements were made at the top of the oil palm canopy, and hence this difference may be explained by dilu- tion. Also, since the oil palm plantations are generally situ- ated in low-lying, flat land, the aircraft measurements were always made at a significant height above the ground level measurements, unlike at Bukit Atur where the aircraft was able to fly past the base of the GAW tower, located on a hill. Slightly larger aerosol concentrations were measured from the aircraft than the ground, both over the rainforest and oil palm, with mean total loadings in the boundary layer of 1.66 and 1.78 µg m−3, respectively. Aerosol loadings were much lower in the free troposphere, with an average total of 0.22 µg m−3. Free-tropospheric aerosol showed a larger sul- phate contribution of 69%, compared with 43% in the bound- ary layer. The water uptake ability of the atmospheric aerosol at Bukit Atur was probed in both the sub- and super-saturated regimes with the use of a Hygroscopicity Tandem Differen- tial Mobility Analyser (HTDMA; Cubison et al., 2005; Gy- sel et al., 2007) and Cloud Condensation Nucleus counter (CCNc; Roberts et al., 2005), respectively. Aerosol hygro- scopic growth factors (GF) at 90% relative humidity (RH) for particles of dry diameter (D0) from 27 to 217 nm showed the aerosol to be externally mixed, with a mean growth fac- tor (GFD0,90%) ranging between 1.3 and 1.6 with increasing dry diameter and multiple growth factor modes at each dry size evident. A Scanning Mobility Particle Analyser (SMPS; TSI 3080) was operated upstream of the CCNc, to supply quasi-monodisperse aerosol in the size range 30 to 220 nm. 4.2.3 Oil palm plantation measurements at the surface. A full description of the OH, HO2 and OH reactivity measurements is given in Whalley et al. (2009, 2010a) and Edwards et al. (2009, 2010). Campaign daytime average (10:00–14:00) isoprene fluxes measured at 15 m at the Sabahmas oil palm plantation site were 8.6 mg m−2 h−1 during OP3-II (Misztal et al., 2010a). This is four to seven times greater than the isoprene flux mea- sured at Bukit Atur (see above). The fluxes of other biogenic VOCs, including oxygenated species and more exotic com- pounds (e.g. estragole: Misztal et al., 2010b), were smaller, contributing ∼15% of the total measured VOC emissions. Net fluxes of monoterpenes were very small (<1% of total VOC flux). The non-refractory sub-micrometre aerosol as measured by aerosol mass spectrometry at the Bukit Atur ground site was mostly composed of organics, sulphate, and ammonium, with low levels of nitrate and chloride. Average loadings were 0.74, 0.61, 0.21, 0.04 and 0.01 µg m−3, respectively, giving a total aerosol loading of 1.61 µg m−3. The sulphate was observed to be largely neutralised to ammonium sul- phate. Organics showed a diurnal profile peaking around 21:00. The ensemble organic spectrum had a m/z=44 to total organics ratio of 0.15%, with prominent peaks at m/z=55 and 53, features which would be considered typical of a partially oxygenated organic aerosol (e.g., Hallquist et al., 2009). The sulphate showed no distinct diurnal profile, suggesting it was regional in nature, potentially from the anthropogenic back- ground, volcanoes or oxidised dimethyl sulphate originating from marine phytoplankton (Dacey and Wakeham, 1986). Of all the gas and aerosol species measured at Bukit Atur, sul- phate aerosol most clearly showed the influence of regional- scale transport rather than local sources and sinks. Both ni- trate and chloride showed strong nocturnal peaks that could be caused by partitioning from the gas phase as the tempera- ture falls and humidity increases at night. Figure 9b shows diurnal cycles of data taken at the ground- based site within the Sabahmas oil palm plantation. Species plotted are the same as for the Bukit Atur rainforest ground site, with the exception of NO and NO2 which were not mea- sured at ground level at Sabahmas. Boundary layer NO and NO2 levels show slightly higher levels compared to the rain- forest but the scatter on the data (indicated by the 1σ error bars) is much larger. 4.2.2 Bukit Atur measurements Since HO2+RO2 are produced during the oxidation of isoprene and other ter- penoids, taken together with the observations of MVK and methacrolein formation, this result provides evidence for the oxidation of BVOC in the vicinity of the forest canopy and of the role of isoprene in the formation of ozone in the near- canopy environment during the daytime. Evidence of BVOC reactivity also comes from differen- tial optical absorption spectroscopy (DOAS) measurements. DOAS was used at Bukit Atur to make the first measure- ments in a tropical rainforest of glyoxal (CHOCHO), one of the major products of isoprene oxidation by OH. Mixing ra- tios much higher than in other rural locations were observed, with a maximum of 1.6 ppbv and average around 600 pptv. HCHO was also measured, peaking at 4.5 ppbv and with an average around 3 ppbv. Both species were closely correlated to isoprene (which should be their major source in this envi- ronment), and peaked in the early afternoon. A box model indicates that the production efficiency of glyoxal from iso- prene is ∼10%. Although glyoxal was significantly scav- enged during rain showers, it is mostly removed by reaction with OH and photolysis (lifetime at midday ∼2.3 h) rather Boundary layer OH concentrations recorded on the aircraft over Bukit Atur were similar to those measured at ground level, whereas aircraft HO2 concentrations were higher than measured at the ground, a reflection of the elevated NO levels Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 189 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 5 Modelling and assessment As stated in the introduction above, a fundamental aim of the OP3 project was to understand the role played by bio- genic emissions from the tropical rainforest: what is the na- ture of the emissions, how are they transformed and how do these processes then impact local, regional and hemispheric scale atmospheric chemistry; what will be the implications of global change for these processes and their impacts? To address these questions, the OP3 project employed a range of models, varying in their spatial scale of interest and chemical complexity, as shown in Table 3. Thus, a model of transport and chemistry through and above the forest canopy has been used to address the canopy measurements, to study vertical transport of gas and aerosol species, their emission and deposition, and chemical transformation (Ryder et al., 2009). A range of chemical box models (some run along air parcel trajectories) has been employed to study local chem- istry, addressing both the ground based and aircraft measure- ments. These very detailed models aim to inform the chemi- cal mechanisms used in our regional and global models that, in turn, are used to study the impact of the biogenic emis- sions at the regional and wider scales. They are also used to investigate transport and variability. Fig. 9b. Average diurnal profiles for isoprene, ozone and or- ganic/sulphate aerosol content for the oil palm plantation ground site and aircraft data (also with NOx) taken over surrounding oil palm plantations and below 500 m above ground level (BL) and in the free troposphere above 2500 m (FT). The error bars on the air- craft data indicate 1σ standard deviations for data taken on the four flights. deposition to the oil palm trees, reaction with NOx from local sources, and reaction with isoprene, are three possible con- tributing factors for the low concentrations and earlier peak of day-time O3 observed on the ground in the plantation. Understanding the fast photochemistry processes (mainly involving HOx and ROx) is carried out using constrained box models. These use the observed concentrations of species providing HOx sources, sinks and inter-conversion pathways, to calculate the concentrations of OH, HO2 and other short lived species such as the sum of peroxy radicals (RO2), for comparison with observations. 5 Modelling and assessment Insight from these calcula- tions allows our understanding of the complex organic chem- istry occurring in this region to be evaluated, the level of chemical complexity required to capture these processes to be quantified and the impact of the approximations made in the chemical transport models to be evaluated. The total aerosol loading, as measured by the AMS, at the oil palm site was on average 1.6 µg m−3, similar to the aerosol loading measured by AMS at the forest site (Nemitz et al., 2009, 2010). The mass was dominated by organic aerosol, which made up on average 65% of the total mass, with sulphate contributing 20% of the total mass. The or- ganic aerosol exhibits a clear diurnal trend with two maxima, occurring at approximately 08:00 and 15:00 local time. The ensemble mass spectrum measured at the oil palm resem- bles the classic oxygenated organic aerosol spectrum (e.g. Hallquist et al., 2009), dominated by mass fragment m/z 44, resulting from carboxylic acid functionality. An examination of mass fragment-specific diurnal profiles indicates that frag- ments thought to be associated with less oxygenated organic aerosol make a smaller contribution to the afternoon max- imum in the organic mass relative to those masses arising from oxygenated fragments, e.g. m/z 44. p The constrained-box-model focus is split between the ground-based and aircraft data. One investigation has used the Master Chemical Mechanism, a near-explicit mechanism that considers the degradation of a suite of hydrocarbons in the atmosphere (Jenkin et al., 2003; Saunders et al., 2003). For both ground and aircraft data, a zero-dimensional box model is constrained with the observed concentrations of longer-lived species such as hydrocarbons, NOx, O3, rele- vant meteorological data and observed photolysis rates; the models predict radical concentrations which can be com- pared with those measured. The ground-based model is a continuation of a previous modelling framework (e.g. Em- merson et al., 2007) that has been used extensively for sim- ilar comparisons (Heard and Pilling, 2003). The aircraft based model uses the Dynamically Simple Model of Atmo- spheric Chemical Complexity (DSMACC) (Emmerson and Evans, 2009) model and follows previous aircraft based work (Jaegle et al, 2000; Olson et al., 2006). Preliminary results show that for the first (April–May) ground-based campaign, Sulphate aerosol shows a slightly different trend in mass to the total organics, with a broader maximum during the day- time, although there was large day-to-day variability. 4.2.3 Oil palm plantation measurements Critical supersaturations (Sc) derived from fraction activated CCN spectra, showed a diurnal variation in supersaturation between 0.2 and 0.8% required to activate particles of a given D0, primarily in the dry diameter range 50 to 120 nm. y p Measurements of O3 at the ground in the plantation ex- hibit a very different diurnal cycle compared to the rainfor- est, with near zero night-time concentrations and a peak of ∼5 ppbv at 11:00–12:00. This is followed by a steady de- crease throughout the day until O3 reaches close to zero at around 23:00. This general pattern is typical of that for a low- lying site, where O3 lost by reaction with NO emitted from fertilised plantation soils and deposition at night is not re- plenished by mixing from aloft, due to the more ready estab- lishment of a stable boundary layer compared with elevated, more windy, sites (Fowler et al., 2008). Data taken in the boundary layer above the plantation show a similar diurnal cycle to the rainforest, with an increase throughout the day to a peak of ∼15 ppbv. This mean value is 2 to 3 ppbv higher than the rainforest levels, but as indicated by the 1σ error bars there is scatter in this value, which reflects the variabil- ity in the NOx and its impact on O3 concentrations. Increased www.atmos-chem-phys.net/10/169/2010/ Atmos. Chem. Phys., 10, 169–199, 2010 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 190 Fig. 9b. Average diurnal profiles for isoprene, ozone and or- ganic/sulphate aerosol content for the oil palm plantation ground site and aircraft data (also with NOx) taken over surrounding oil palm plantations and below 500 m above ground level (BL) and in the free troposphere above 2500 m (FT). The error bars on the air- craft data indicate 1σ standard deviations for data taken on the four flights. Atmos. Chem. Phys., 10, 169–199, 2010 5 Modelling and assessment Both the nitrate and chloride fractions showed an obvious max- imum, coincident with the morning organic aerosol maxi- mum, but both lacked the increase in mass observed in the organic fraction during the afternoon. Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools Table 3. Modelling tools employed in the OP3 project. Model name Brief description Domain References Canopy model 1-D transport and chemistry Ground to canopy top – six levels Ryder et al. (2009) MCM – York 4500 species, >12 500 reactions. Near-explicit chemistry; long lived gases constrained by observations Ground-based box Emmerson et al. (2007) Dynamically Simple Model of Atmospheric Chemical Complexity (DSMACC) Reduced chemistry; long lived gases constrained by observations Steady state calcula- tions along aircraft flight track Emmerson and Evans (2009) CiTTyCAT 200 species, >800 reactions including MIM2 isoprene scheme, Jenkin alpha- pinene and RACM limonene Boundary layer: one well-mixed layer in daytime, two at night. Pugh et al. (2010b) Cambridge p- TOMCAT chemical transport model 63 species, 177 reac- tions. Simple organic mechanism, including isoprene. Separate bro- mocarbon scheme. Global. Variable reso- lution, usually 3◦×3◦ or 0.5◦×0.5◦ Cook et al. (2007), Voulgarakis et al. (2009) p-TOMCAT box As above Box model Pike et al. (2009) C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 191 Global. Variable reso- lution, usually 3◦×3◦ or 0.5◦×0.5◦ Cook et al. (2007), Voulgarakis et al. (2009) Global. Variable reso- lution, usually 3◦×3◦ or 0.5◦×0.5◦ Pike et al. (2009) p-TOMCAT box As above p-TOMCAT box Pike et al. (2009) Box model Box model become an even more dominant crop, replacing the rainfor- est. Hewitt et al. (2009) show that under these circumstances, what happens to local and regional-scale emissions of NOx will be crucial. Without control of NOx emissions, the levels of ozone could become unacceptably high, damaging both crop and human health. there is reasonable agreement between modelled and mea- sured OH on some days, but an under-prediction on oth- ers. The OH loss for the OP3 campaigns was dominated by isoprene chemistry, with smaller contributions from γ t terpinene and limonene. γ -Terpinene becomes much more important at night-time, when isoprene emissions are effec- tively zero. 6 Conclusions The overall aim of the OP3 project was to better understand the interactions that exist between SE Asian rainforests, at- mospheric composition and, ultimately, the Earth’s climate system. In pursuing this aim, an extensive field deployment was carried out in 2008, supported by satellite data retrievals and modelling studies. The field deployment, from April to the end of July 2008, comprised extensive composition and flux measurements within and above the rainforest canopy, along with a more limited set of measurements in and above an oil palm plantation. Composition measurements across most of the state of Sabah in northern Borneo, and out to sea on both windward and leeward sides of the island, were pro- vided by flights of the FAAM BAe 146. Remote sensing of land cover has shown that the chosen sites were representa- tive of large areas of Borneo and the rest of insular SE Asia; long-term meteorological and ozone data gathered as part of the Global Atmosphere Watch programme show that weather and ozone mixing ratios during the time period of the field deployment were typical of the long term record. Fig. 10. Mean surface ozone concentrations (ppbv) for April 2008 taken from two integrations of the Cambridge p-TOMCAT chem- ical transport model. The upper plot shows mean ozone from an integration at 3×3 degrees horizontal resolution. At this resolu- tion, Borneo is poorly represented and ozone is over estimated. The lower plot shows the same result but when the model is run at 0.5×0.5 degree horizontal resolution. Ozone concentrations have improved and there is a noticeable land-sea difference consistent with the shape of the island. oil palm plantation. By an accident of the non-linearity of boundary-layer chemistry, ozone mixing ratios over the two landscapes were similar, although plumes of higher ozone were observed in air impacted by emissions from oil-palm processing plants. Composition measurements show that the rainforest site was not impacted significantly by anthropogenic pollution, and this is confirmed by satellite retrievals of NO2 and HCHO. The dominant modulators of atmospheric chemistry at the rainforest site were therefore emissions of BVOCs and soil emissions of reactive nitrogen oxides. At the observed BVOC:NOx volume mixing ratio (∼100 pptv/pptv), current chemical models suggest that daytime maximum OH con- centrations should be ca. 105 radicals cm−3, but observed OH concentrations were an order of magnitude greater than this. 5 Modelling and assessment Modelling of the aircraft data is in a more pre- liminary state but shows relatively good agreement between the observed and simulated HO2 with poorer agreement for the OH. Whether this reflects issues with making OH obser- vations from aircraft or with our understanding of the chem- istry of isoprene will require further analysis. We find that CiTTyCAT can represent the broad features of atmospheric composition above a tropical rainforest (Pugh et al., 2010a). In particular, the model can fit daytime NOx and O3 chemistry. Ambient concentration measurements have been used to estimate a net NO flux of 5 µg N m−2 h−1. De- position of intermediate VOC oxidation products can have a very significant influence on their concentrations and the chemistry of the boundary layer, highlighting the need for further investigation into deposition processes over tropical forests. Reduced chemical mechanisms, of the kind traditionally employed in global chemical transport models, have also been used in box model mode, to compare against the mea- sured constituent data and to investigate the significance of processes. Thus, the CiTTyCAT model (Wild et al., 1996; Evans et al., 2000; Emmerson et al., 2004; Donovan et al., 2005) has been used to study the chemical regimes probed by the OP3 measurements, both over the rainforest and over palm oil plantations, and to explore how local air quality could be affected should palm oil (a major isoprene-emitter) Another box model study with a reduced chemical mech- anism has focussed on the ground-based measurements of ozone and NOx (Pike et al., 2009). This study suggests that the chemical mechanism included in the Cambridge global chemistry transport model, p-TOMCAT (Cook et al., 2007; Voulgarakis et al., 2009a, b) can reproduce the measurements Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 192 oject: introduction, rationale, location characteristics and tools         Fig. 10. Mean surface ozone concentrations (ppbv) for April 2008 taken from two integrations of the Cambridge p-TOMCAT chem- ical transport model. The upper plot shows mean ozone from an integration at 3×3 degrees horizontal resolution. At this resolu- tion, Borneo is poorly represented and ozone is over estimated. 5 Modelling and assessment The lower plot shows the same result but when the model is run at 0.5×0.5 degree horizontal resolution. Ozone concentrations have improved and there is a noticeable land-sea difference consistent with the shape of the island. if a parametrization of mixing out of and into the boundary layer is included. The Cambridge p-TOMCAT global model has been used to look at regional-scale chemistry. Figure 10 (Pike et al., 2009) shows surface ozone concentrations from two calcu- lations for April 2008, with the model run at two differ- ent spatial resolutions (approx 3◦×3◦and 0.5◦×0.5◦, re- spectively). At the lower resolution (typical of multi-annual integrations), the model significantly overestimates surface ozone over Borneo. Little spatial structure is evident and de- tailed flight track comparisons (not shown) fail to reproduce much observed structure. In contrast, at the high resolution, the model now captures a significant land – sea difference in surface ozone, driven by deposition over the land. Modelled ozone concentrations are still somewhat higher than observed but are now closer to the observations. 6 Conclusions Acknowledgements. The OP3 project was funded by the UK Natural Environment Research Council (NE/D002117/1). Mea- surements made during OP3-II were, in part, performed as part of the ACES (Aerosol Coupling in the Earth System; NE/E011179/1) project of the NERC APPRAISE (Aerosol Properties, PRocesses And Influences on the Earth’s Climate) programme. We thank the Malaysian and Sabah Governments for their permission to conduct research in Malaysia; the Malaysian Meteorological Department (MMD) for access to the Bukit Atur Global Atmosphere Watch station and their long term ozone record; Leong Chow Peng (formerly of MMD) for her support in the early stages of the project; Wilmar International Ltd (and particularly Simon Siburat and his staff) for access to and considerable logistical support at their PPB Oil Palms Bhd Sabahmas Estate; Waidi Sinun of Yayasan Sabah and his staff and Glen Reynolds of the Royal Society’s South East Asian Rainforest Research Programme and his staff for logistical support at the Danum Valley Field Centre; the ground staff, engineers, scientists and pilots of the UK Natural Environment Research Council/UK Meteorological Office’s BAe 146-301 large atmospheric research aircraft; the NERC Facility for Ground-based Atmospheric Measurements and Halo Photonics for support with the LIDAR deployment; Phua Mui How of the Universiti Malaysia Sabah for his help with the land cover map; and the rest of the OP3 project team for their individual and collective efforts. Isabelle De Smedt and Michel Van Roozendael (Belgian Institute for Space Aeronomy) provided the GOME and SCIAMACHY HCHO products and the OMI NO2 product was downloaded from the NASA Data and Information Services Center. This is paper number 501 of the Royal Society’s South East Asian Rainforest Research Programme and is dedicated to the memory of Kate Furneaux, a core member of the OP3 project team, who was killed in a traffic accident while cycling in Leeds on 28 July 2009. Arino, O., Plummer, S., and Defrenne, D.: Fire disturbance: the ten years time series of the ATSR world fire atlas. Proceedings of the MERIS-AATSR workshop 2005, Frascati, Italy, September 2005. Arino, O., Simon, M., Piccolini, I., and Rosaz, J. M.: The ERS-2 ATSR-2 World Fire Atlas and the ERS-2 ATSR-2 World Burnt Surface Atlas projects. Proceedings of the 8th ISPRS conference on Physical Measurement and Signatures in Remote Sensing, Aussois, 8–12 January 2001. 6 Conclusions We confirm, therefore, previous measurements which sug- gest that an unexplained source of OH must exist above trop- ical forests (Lelieveld et al., 2008) and continue to interrogate the data to find explanations for this. The land-sea mosaic of SE Asia makes it difficult for global atmospheric chemistry-and-transport models run at typical resolution to capture the observed atmospheric com- position; runs at higher horizontal resolution provide much better agreement with measurements. A missing OH source notwithstanding, simple chemistry schemes, as currently im- plemented in most global models, can match observed ozone and NOx diurnal patterns, if a parametrization of mixing out of and into the boundary layer is included. Marked differences in BVOC and NOx concentrations, and in BVOC fluxes, were measured in the rainforest and the Overall, the SE Asian rainforest has shown itself to have significant differences from the more intensively studied Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 193 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools Amazon rainforest – in tree speciation and, hence, in BVOC emission potential, and in the apparent lack of seasonality of emissions. It also exhibits significant differences to the oil palm plantations that are replacing it. A striking simi- larity, however, is the sustained oxidative capacity of the at- mosphere above the rainforest in both SE Asia and Amazo- nia. Our current inability to adequately explain this limits the confidence we can have in our projections of how atmo- spheric composition and climate may change in the future. J. H. C., Grace, J., Kabat, P., Lelieveld, J., Malhi, Y., Manzi, A. O., Meixner, F. X., Nobre, A. D., Nobre, C., Ruivo, M., Silva-Dias, M. A., Stefani, P., Valentini, R., von Jouanne, J., and Waterloo, M. J.: Biogeochemical cycling of carbon, wa- ter, energy, trace gases, and aerosols in amazonia: The LBA- EUSTACH experiments, J. Geophys. Res.-Atmos., 107, 8066, doi:10.1029/2001JD000524, 2002. Andreae, M. O., Artaxo, P., Fischer, H., Freitas, S. R., Gregoire, J. M., Hansel, A., Hoor, P., Kormann, R., Krejci, R., Lange, L., Lelieveld, J., Lindinger, W., Longo, K., Peters, W., de Reus, M., Scheeren, B., Dias, M., Strom, J., van Velthoven, P. F. J., and Williams, J.: Transport of biomass burning smoke to the upper troposphere by deep convection in the equatorial region, Geo- phys. Res. Lett., 28, 951–954, 2001. 6 Conclusions Aruffo E., Di Carlo P., Dari Salisburgo C., and Giammaria F.: Thermal-dissociation Laser Induced fluorescence (TD-LIF) in- strument for NOy speciation: observations of total peroxy nitrate and total alkyl nitrate, Atmos. Chem. Phys. Discuss., in prepara- tion, 2010. Ashbaugh, L. L., Malm, W. C., and Sadeh, W. Z.: A residence time probability analysis of sulfur concentrations at Grand Canyon National Park, Atmos. Environ., 19, 1263–1270, 1985. ATBD-OMI-02: OMI Algorithm Theoretical Basis Document Vol- ume IV OMI Trace Gas Algorithms, edited by: Chance, K., Smithsonian Astrophysical Observatory Cambridge, MA, USA, Version 1.0, September 2001. p Aubinet, M., Grelle, A., Ibrom, A., Rannik, U., Moncrieff, J., Fo- ken, T., Kowalski, A. S., Martin, P. H., Berbigier, P., Bernhofer, C., Clement, R., Elbers, J., Granier, A., Grunwald, T., Morgen- stern, K., Pilegaard, K., Rebmann, C., Snijders, W., Valentini, R., and Vesala, T.: Estimates of the annual net carbon and water ex- change of forests: The EUROFLUX methodology, in Advances in Ecological Research, Vol 30, Academic Press Inc, San Diego, 113–175, 2000. Avissar, R., Dias, P. L. S., Dias, M., and Nobre, C.: The large-scale biosphere-atmosphere experiment in Amazonia (LBA): Insights and future research needs, J. Geophys. Res.-Atmos., 107, 8086, doi:10.1029/2002JD002704, 2002. Edited by: W. T. Sturges References Baillie, I. C.: Soils of the humid tropics, in: The tropical rainforest (Second edition), edited by: Richards P. W., Cambridge Univer- sity Press, Cambridge, 256–286, 1996. Aiken, A. C., Decarlo, P. F., Kroll, J. H., Worsnop, D. R., Huff- man, J. A., Docherty, K. S., Ulbrich, I. M., Mohr, C., Kimmel, J. R., Sueper, D., Sun, Y., Zhang, Q., Trimborn, A., Northway, M., Ziemann, P. J., Canagaratna, M. R., Onasch, T. B., Alfarra, M. R., Prevot, A. S. H., Dommen, J., Duplissy, J., Metzger, A., Baltensperger, U., and Jimenez, J. L.: O/C and OM/OC ra- tios of primary, secondary, and ambient organic aerosols with high-resolution time-of-flight aerosol mass spectrometry, Envi- ron. Sci. Technol., 42, 4478–4485, 2008. Barkley, M. P., Palmer, P. I., De Smedt, I., Karl, T., Guenther, A., and Van Roozendael, M.: Regulated large-scale annual shut- down of amazonian isoprene emissions?, Geophys. Res. Lett., 36, L04803, doi:10.1029/2008GL036843, 2009. Barth, M., McFadden, J., Sun, J., Wiedinmyer, C., Chuang, P., Collins, D., Griffin, R., Hannigan, M., Karl, T., Kim, S.-W., Lasher-Trapp, S., Levis, S., Litvak, M., Mahowald, N., Moore, K., Nandi, S., Nemitz, E., Nenes, A., Potosnak, M., Raymond, T., Smith, J., Still, C., and Stroud, C.: Coupling between land Barth, M., McFadden, J., Sun, J., Wiedinmyer, C., Chuang, P., Collins, D., Griffin, R., Hannigan, M., Karl, T., Kim, S.-W., Lasher-Trapp, S., Levis, S., Litvak, M., Mahowald, N., Moore, K., Nandi, S., Nemitz, E., Nenes, A., Potosnak, M., Raymond, T., Smith, J., Still, C., and Stroud, C.: Coupling between land Andreae, M. O., Artaxo, P., Brandao, C., Carswell, F. E., Cic- cioli, P., da Costa, A. L., Culf, A. D., Esteves, J. L., Gash, Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 194 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools Conrad, R.: Compensation Concentration as Critical Variable for Regulating the Flux of Trace Gases between Soil and Atmo- sphere, Biogeochemistry, 27, 155–170, 1994. ecosystems and the atmospheric hydrologic cycle through bio- genic aerosol pathways, B. Am. Meteor. Soc., 86(12), 1738– 1742, 2005. ecosystems and the atmospheric hydrologic cycle through bio- genic aerosol pathways, B. Am. Meteor. Soc., 86(12), 1738– 1742, 2005. Bidin, K. and Chappell, N. A.: TECHNICAL NOTE: First evidence of a structured and dynamic spatial pattern of rainfall within a small humid tropical catchment, Hydrol. Earth Syst. References Dari-Salisburgo C., Di Carlo P., Aruffo E., Langford B., Dorsey J., and Giammaria F.: Flux measurements of NO2 in Asian tropical rainforest using laser induced fluorescence and eddy covariance, Atmos. Chem. Phys. Discuss., in preparation 2010. Buzorius, G., Rannik, ¨U., M¨akel¨a, J. M., Vesala, T., and Kulmala, M.: Vertical aerosol particle fluxes measured by eddy covariance technique using condensational particle counter, J. Aerosol Sci., 29, 157–171, 1998. Canagaratna, M. R., Jayne, J. T., Jimenez, J. L., Allan, J. D., Al- farra, M. R., Zhang, Q., Onasch, T. B., Drewnick, F., Coe, H., Middlebrook, A., Delia, A., Williams, L. R., Trimborn, A. M., Northway, M. J., DeCarlo, P. F., Kolb, C. E., Davidovits, P., and Worsnop, D. R.: Chemical and microphysical characterization of ambient aerosols with the Aerodyne aerosol mass spectrometer, Mass Spectrom. Rev., 26, 185–222, 2007. Dari-Salisburgo, C., Di Carlo, P., Giammaria, F., Kajii, Y., and D’Altorio, A.: Laser induced fluorescence instrument for NO2 measurements: observations at a central Italy background site, Atmos. Environ., 43, 970–977, 2009. De Smedt, I., M¨uller, J.-F., Stavrakou, T., van der A, R., Eskes, H., and Van Roozendael, M.: Twelve years of global observations of formaldehyde in the troposphere using GOME and SCIA- MACHY sensors, Atmos. Chem. Phys., 8, 4947–4963, 2008, http://www.atmos-chem-phys.net/8/4947/2008/. Capes, G., Murphy, J. G., Reeves, C. E., McQuaid, J. B., Hamilton, J. F., Hopkins, J. R., Crosier, J., Williams, P. I., and Coe, H.: Secondary organic aerosol from biogenic VOCs over West Africa during AMMA, Atmos. Chem. Phys., 9, 3841–3850, 2009, http://www.atmos-chem-phys.net/9/3841/2009/. Donovan, R. G., Hope, E. S., Owen, S. M., Mackenzie, A. R., and Hewitt, C. N.: Development and Application of an Urban Tree Air Quality Score for Photochemical Pollution Episodes Using the Birmingham, United Kingdom, Area as a Case Study, Envi- ron. Sci. Technol., 39, 6730–6738, 2005. Carslaw, N., Creasey, D. J., Harrison, D., Heard, D. E., Hunter, M. C., Jacobs, P. J., Jenkin, M. E., Lee, J. D., Lewis, A. C., Pilling, M. J., Saunders, S. M., and Seakins, P. W.: OH and HO2 radical chemistry in a forested region of north-western Greece, Atmos. Environ., 35, 4725–4737, 2001. Dorsey, J. R and Gallagher, M. W.: NOx flux measurements from a south east Asian tropical rainforest soil, Atmos. Chem. Phys. Discuss., in preparation, 2010. Edwards, G. D. and Monks, P. References Sci., 7, 245– 253, 2003, http://www.hydrol-earth-syst-sci.net/7/245/2003/. Cook, P. A., Savage, N. H., Turquety, S., Carver, G. D., O’Connor, F. M., Heckel, A., Stewart, D., Whalley, L. K., Parker, A. E., Schlager, H., Singh, H. B., Avery, M. A., Sachse, G. W., Brune, W., Richter, A., Burrows, J. P., Purvis, R., Lewis, A. C., Reeves, C. E., Monks, P. S., Levine, J. G., and Pyle, J. A.: Forest fire plumes over the north Atlantic: p-TOMCAT model simulations with aircraft and satellite measurements from the ITOP/ICARTT campaign, J. Geophys. Res.-Atmos., 112, D10S43, doi:10.1029/2006JD007563, 2007. http://www.hydrol-earth-syst-sci.net/7/245/2003/. Bidin, K. and Chappell, N. A.: Characteristics of rain events at an inland locality in northeastern Borneo, Malaysia, Hydrol. Pro- cess., 20, 3835–3850, 2006. Bohn, B., Corlett, G. K., Gillmann, M., Sanghavi, S., Stange, G., Tensing, E., Vrekoussis, M., Bloss, W. J., Clapp, L. J., Kortner, M., Dorn, H.-P., Monks, P. S., Platt, U., Plass-D¨ulmer, C., Mi- halopoulos, N., Heard, D. E., Clemitshaw, K. C., Meixner, F. X., Prevot, A. S. H., and Schmitt, R.: Photolysis frequency measure- ment techniques: results of a comparison within the ACCENT project, Atmos. Chem. Phys., 8, 5373–5391, 2008, http://www.atmos-chem-phys.net/8/5373/2008/. Cros, B., Delon, C., Affre, C., Marion, T., Druilhet, A., Perros, P. E., and Lopez, A.: Sources and sinks of ozone in savanna and forest areas during EXPRESSO: Airborne turbulent flux mea- surements, J. Geophys. Res.-Atmos., 105, 29347–29358, 2000. Crosier, J., Allan, J. D., Coe, H., Bower, K. N., Formenti, P., and Williams, P. I.: Chemical composition of summertime aerosol in the Po Valley (Italy), northern Adriatic and Black Sea, Q. J. Roy. Meteorol. Soc., 133, 61–75, 2007. Brough, N., Reeves, C. E., Penkett, S. A., Stewart, D. J., Dewey, K., Kent, J., Barjat, H., Monks, P. S., Ziereis, H., Stock, P., Huntrieser, H., and Schlager, H.: Intercomparison of aircraft instruments on board the C-130 and Falcon 20 over southern Germany during EXPORT 2000, Atmos. Chem. Phys., 3, 2127– 2138, 2003, http://www.atmos-chem-phys.net/3/2127/2003/. Cubison, M. J., Coe, H., and Gysel, M.: A modified hygroscopic tandem DMA and a data retrieval method based on optimal esti- mation, J. Aerosol Sci., 36, 846–865, 2005. Dacey, J. W. H. and Wakeham, S. G.: Oceanic dimethylsulfide - pro- duction during zooplankton grazing on phytoplankton, Science, 233, 1314–1316, 1986. References M., and Pyle, J. A.: µDirac: an autonomous instrument for halocarbon measurements, Atmos. Meas. Tech. Discuss., 2, 2123–2159, 2009, http://www.atmos-meas-tech-discuss.net/2/2123/2009/. Emmerson, K. M., Carslaw, N., and Pilling, M. J.: Urban Atmo- spheric Chemistry during the PUMA Campaign. 2: Radical bud- gets for OH, HO2 and RO2, J. Atmos. Chem., 52(2), 165–183, 2005. Gostlow, B., Robinson, A. D., Harris, N. R. P., O’Brien, L. M., Oram, D. E., Mills, G. P., Newton, H. M., and Pyle, J. A.: Dirac: an autonomous instrument for halocarbon measurements, Atmos. Meas. Tech. Discuss., 2, 2123-2159, 2009, http://www.atmos-meas-tech-discuss.net/2/2123/2009/. European Centre for Medium-Range Weather Forecasts, ECMWF Trajectories: British Atmospheric Data Centre, 2006–2009, on- line available at: http://badc.nerc.ac.uk/data/ecmwf-trj/, March 2009. Evans, M. J., Shallcross, D. E., Law, K. S., Wild, J. O. F., Sim- monds, P. G., Spain, T. G., Berrisford, P., Methven, J., Lewis, A. C., McQuaid, J. B., Pilling, M. J., Bandy, B. J., Penkett, S. A., And Pyle, J. A.: Evaluation of a Langrangian box model us- ing field measurements from EASE (Eastern Atlantic Summer Experiment) 1996, Atmos. Environ., 34, 3843–3863, 2000. Greenberg, J. P., Guenther, A. B., Madronich, S., Baugh, W., Gi- noux, P., Druilhet, A., Delmas, R., and Delon, C.: Biogenic volatile organic compound emissions in central Africa during the experiment for the regional sources and sinks of oxidants (EX- PRESSO) biomass burning season, J. Geophys. Res.-Atmos., 104, 30659–30671, 1999. Guenther, A., Hewitt, C. N., Erickson, D., Fall, R., Geron, C., Graedel, T., Harley, P., Klinger, L., Lerdau, M., McKay, W. A., Pierce, T., Scholes, B., Steinbrecher, R., Tallamraju, R., Tay- lor, J., and Zimmerman, P.: A global-model of natural volatile organic-compound emissions, J. Geophys. Res.-Atmos., 100, 8873–8892, 1995. Farmer, D. K., Wooldridge, P. J., and Cohen, R. C.: Applica- tion of thermal-dissociation laser induced fluorescence (TD-LIF) to measurement of HNO3, 6alkyl nitrates, 6peroxy nitrates, and NO2 fluxes using eddy covariance, Atmos. Chem. Phys., 6, 3471–3486, 2006, http://www.atmos-chem-phys.net/6/3471/2006/. Fleming, Z. L., Monks, P. S., Rickard, A. R., Heard, D. E., Bloss, W. J., Seakins, P. W., Still, T. J., Sommariva, R., Pilling, M. J., Morgan, R., Green, T. J., Brough, N., Mills, G. P., Penkett, S. A., Lewis, A. C., Lee, J. D., Saiz-Lopez, A., and Plane, J. M. C.: Peroxy radical chemistry and the control of ozone photochem- istry at Mace Head, Ireland during the summer of 2002, Atmos. Chem. Phys., 6, 2193–2214, 2006, http://www.atmos-chem-phys.net/6/2193/2006/. References S.: Performance of a single- monochromator diode array spectroradiometer for the determi- nation of actinic flux and atmospheric photolysis frequencies, J. Geophys. Res., 108, 8546, doi:10.1029/2002JD002844, 2003. Chappell, N. A., Sherlock, M., Bidin, K., Macdonald, R., Najman, Y., and Davies, G.: Runoff processes in Southeast Asia: role of soil, regolith and rock type, in: Forest Environments in the Mekong River Basin, edited by: Sawada, H., Araki, M., Chap- pell, N. A., LaFrankie, J. V., and Shimizu ,A., Springer Verlag, Tokyo, 3–23, 2007. Edwards, P. M., Edwards, P., Whalley, L. K., Heard, D. E., et al.: OH reactivity measurements in a South-East Asian tropical Rain- forest, Atmos. Chem. Phys. Discuss., in preparation, 2010. Chappell, N. A., Bidin, K., and Tych, W.: Modelling rainfall and canopy controls on net-precipitation beneath selectively-logged tropical forest, Plant Ecol., 153, 215–229, 2001. Emmerson, K. M., MacKenzie, A. R., Owen, S. M., Evans, M. J., and Shallcross, D. E.: A Lagrangian model with simple primary and secondary aerosol scheme 1: comparison with UK PM10 data, Atmos. Chem. Phys., 4, 2161–2170, 2004, http://www.atmos-chem-phys.net/4/2161/2004/. Coe, H., Gallagher, M. W., Choularton, T. W., and Dore, C.: Canopy Scale Measurements of Stomatal and Cuticular O3 Uptake by Sitka Spruce, Atmos. Environ., 29, 1413–1423, 1995. Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 195 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools a Laser-Diffraction Instrument, Appl. Optics, 30, 4824–4831, 1991. a Laser-Diffraction Instrument, Appl. Optics, 30, 4824–4831, 1991. Emmerson, K. M. and Evans, M. J.: Comparison of tropospheric gas-phase chemistry schemes for use within global models, At- mos. Chem. Phys., 9, 1831–1845, 2009, http://www.atmos-chem-phys.net/9/1831/2009/. Gerbig, C., Schmitgen, S., Kley, D., Volz-Thomas, A., Dewey, K., and Haaks, D.: An improved fast-response vacuum-UV reso- nance fluorescence CO instrument, J. Geophys. Res., 104, 1699– 1704, 1999. Emmerson, K. M., Carslaw, N., Carslaw, D. C., Lee, J. D., McFig- gans, G., Bloss, W. J., Gravestock, T., Heard, D. E., Hopkins, J., Ingham, T., Pilling, M. J., Smith, S. C., Jacob, M., and Monks, P. S.: Free radical modelling studies during the UK TORCH Cam- paign in Summer 2003, Atmos. Chem. Phys., 7, 167–181, 2007, http://www.atmos-chem-phys.net/7/167/2007/. Global Forest Resources: Assessment 2005, FAO, Rome, ISBN-92- 5-105481-9, 2006. Gostlow, B., Robinson, A. D., Harris, N. R. P., O’Brien, L. M., Oram, D. E., Mills, G. P., Newton, H. References Guenther, A., Karl, T., Harley, P., Wiedinmyer, C., Palmer, P. I., and Geron, C.: Estimates of global terrestrial isoprene emissions using MEGAN (Model of Emissions of Gases and Aerosols from Nature), Atmos. Chem. Phys., 6, 3181–3210, 2006, http://www.atmos-chem-phys.net/6/3181/2006/. Guenther, A. B., Zimmerman, P. R., Harley, P. C., Monson, R. K., and Fall, R.: Isoprene and monoterpene emission rate variability - model evaluations and sensitivity analyses, J. Geophys. Res.- Atmos., 98, 12609–12617, 1993. Fowler, D.: Ground-level ozone in the 21st century: future trends, impacts and policy implications, Royal Society, London, 2008. Guenther, A., Hewitt, C. N., Karl. T., Harley, P., and Reeves. C.: Biogenic VOC emissions from African American and Asian tropical rainforests, Eos Trans. AGU, 89(53), Fall Meet. Suppl., Abstract A14C-04, 2008. Fu, T.-M., Jacob, D. J., Palmer, P. I., Chance, K., Wang, Y. X., Barletta, B., Blake, D. R., Stanton, J. C., and Pilling, M. J.: Space-based formaldehyde measurements as constraints on volatile organic compound emissions in east and south Asia and implications for ozone, J. Geophys. Res., 112, D06312, doi:10.1029/2006JD007853, 2007. G¨usten, H., Heinrich, G., Schmidt, R. W. H., and Schurath, U.: A Novel Ozone Sensor for Direct Eddy Flux Measurements, paper presented at 7th International Symp of the Commission for At- mospheric Chemistry and Global Pollution : the Chemistry of the Global Atmosphere, Kluwer Academic Publ, Chamrousse, France, 5–11 September, 1990. Fueglistaler, S. and Haynes, P. H.: Control of interannual and longer-term variability of stratospheric water vapor, J. Geophys. Res.-Atmos., 110, D24108, doi:10.1029/2005JD006019, 2005. Ganzeveld, L., Eerdekens, G., Feig, G., Fischer, H., Harder, H., K¨onigstedt, R., Kubistin, D., Martinez, M., Meixner, F. X., Scheeren, H. A., Sinha, V., Taraborrelli, D., Williams, J., Vil´a- Guerau de Arellano, J., and Lelieveld, J.: Surface and boundary layer exchanges of volatile organic compounds, nitrogen oxides and ozone during the GABRIEL campaign, Atmos. Chem. Phys., 8, 6223–6243, 2008, http://www.atmos-chem-phys.net/8/6223/2008/. Gusten, H. and Heinrich, G.: On-line measurements of ozone sur- face fluxes .1. methodology and instrumentation, Atmos. Envi- ron., 30, 897–909, 1996. Gysel, M., Crosier, J., Topping, D. O., Whitehead, J. D., Bower, K. N., Cubison, M. J., Williams, P. I., Flynn, M. J., McFiggans, G. B., and Coe, H.: Closure study between chemical composition and hygroscopic growth of aerosol particles during TORCH2, Atmos. Chem. Phys., 7, 6131–6144, 2007, http://www.atmos-chem-phys.net/7/6131/2007/. http://www.atmos-chem-phys.net/8/6223/2008/. Gerber, H.: Direct Measurement of Suspended Particulate Vol- ume Concentration and Far-Infrared Extinction Coefficient with http://www.atmos-chem-phys.net/7/6131/2007/. References Gerber, H.: Direct Measurement of Suspended Particulate Vol- ume Concentration and Far-Infrared Extinction Coefficient with http://www.atmos chem phys.net/7/6131/2007/. Hallquist, M., Wenger, J. C., Baltensperger, U., Rudich, Y., Simp- Hallquist, M., Wenger, J. C., Baltensperger, U., Rudich, Y., Simp- Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 196 son, D., Claeys, M., Dommen, J., Donahue, N. M., George, C., Goldstein, A. H., Hamilton, J. F., Herrmann, H., Hoff- mann, T., Iinuma, Y., Jang, M., Jenkin, M. E., Jimenez, J. L., Kiendler-Scharr, A., Maenhaut, W., McFiggans, G., Mentel, Th. F., Monod, A., Pr´evˆot, A. S. H., Seinfeld, J. H., Surratt, J. D., Szmigielski, R., and Wildt, J.: The formation, properties and im- pact of secondary organic aerosol: current and emerging issues, Atmos. Chem. Phys., 9, 5155–5235, 2009, http://www.atmos-chem-phys.net/9/5155/2009/. B. G., Kondo, Y., Sachse, G. W., Anderson, B., Gregory, G. L., Singh, H. B., Pueschel, R., Ferry, G., Blake, D. R., and Shetter, R. E.: Photochemistry of HOx in the upper troposphere at north- ern midlatitudes, J. Geophys. Res.-Atmos., 105(D3), 3877–3892, 2000. son, D., Claeys, M., Dommen, J., Donahue, N. M., George, C., Goldstein, A. H., Hamilton, J. F., Herrmann, H., Hoff- mann, T., Iinuma, Y., Jang, M., Jenkin, M. E., Jimenez, J. L., Kiendler-Scharr, A., Maenhaut, W., McFiggans, G., Mentel, Th. Jenkin, M. E., Saunders, S. M., Wagner, V., and Pilling, M. J.: Pro- tocol for the development of the Master Chemical Mechanism, MCM v3 (Part B): tropospheric degradation of aromatic volatile organic compounds, Atmos. Chem. Phys., 3, 181–193, 2003, http://www.atmos-chem-phys.net/3/181/2003/. http://www.atmos-chem-phys.net/9/5155/2009/. p p y Harrison, R. M., Yin, J., Tilling, R. M., Cai, X., Seakins, P. W., Hopkins, J. R., Lansley, D. L., Lewis, A. C., Hunter, M. C., Heard, D. E., Carpenter, L. J., Creasy, D. J., Lee, J. D., Pilling, M. J., Carslaw, N., Emmerson, K. M., Redington, A., Derwent, R. G., Ryall, D., Mills, G., and Penkett, S. A.: Measurement and modelling of air pollution and atmospheric chemistry in the UK West Midlands conurbation: Overview of the PUMA Con- sortium project, Sci. Total Environ., 360, 5–25, 2006. Kanakidou, M., Seinfeld, J. H., Pandis, S. N., Barnes, I., Dentener, F. J., Facchini, M. References A., Plane, J. M. C., Saiz-Lopez, A., Worton, D., Monks, P. S., Fleming, Z., Rickard, , , , , , , , , , , M., Flynn, M., McFiggans, G., Gallagher, M., Norton, E. G., Langford, B., Davison, B., Nemitz, E., and Hewitt, C. N.: Mix- ing ratios and eddy covariance flux measurements of volatile or- ganic compounds from an urban canopy (Manchester, UK), At- mos. Chem. Phys., 9, 1971–1987, 2009, http://www.atmos-chem-phys.net/9/1971/2009/. Flynn, M., McFiggans, G., Gallagher, M., Norton, E O’Dowd, C. D., Shillito, J., Topping, D., Vaughan, G., Williams, P., Bitter, M., Ball, S. M., Jones, R. L., Povey, I. M., O’Doherty, S., Simmonds, P. G., Allen, A., Kinnersley, R. P., Beddows, D. C. S., Dall’Osto, M., Harrison, R. M., Donovan, R. J., Heal, M. C. S., Dall’Osto, M., Harrison, R. M., Donovan, R. J., Heal, M. R., Jennings, S. G., Noone, C., and Spain, G.: The North Atlantic Marine Boundary Layer Experiment (NAMBLEX). Overview of the campaign held at Mace Head, Ireland, in summer 2002, At- mos. Chem. Phys., 6, 2241–2272, 2006, http://www.atmos-chem-phys.net/6/2241/2006/. Langford, B., Misztal, P. Nemitz, E., Davison, B., Helfter, C., Lee, J., MacKenzie, A. R., and Hewitt, C. N.: Fluxes of volatile or- ganic compounds from a south-east Asian tropical rainforest, At- mos. Chem. Phys. Discuss., in preparation, 2010. Leff, B., Ramankutty, N., and Foley, J. A.: Geographic distribution of major crops across the world, Global Biogeochem. Cy., 18, GB1009, doi:10.1029/2003GB002108, 2004. Heard, D. E. and Pilling, M. J.: Measurement of OH and HO2 in the troposphere, Chem. Rev., 103, 5163–5198, 2003. Leigh, R. J., Corlett, G. K., Friess, U., and Monks, P. S.: Concurrent multiaxis differential optical absorption spectroscopy system for the measurement of tropospheric nitrogen dioxide, Appl. Optics, 45, 7504–7518, 2006. Helfter, C., Phillips, G. J., Coyle, M., Di Marco, C. F., Langford, B., Whitehead, J., Dorsey, J. R., Gallagher, M. W., Sei, E. Y., Fowler, D., and Nemitz, E.: Momentum and heat exchange above South East Asian rainforest in complex terrain. Atmos. Chem. Phys. Discuss., in preparation, 2010. Lelieveld, J., Butler, T. M., Crowley, J. N., Dillon, T. J., Fischer, H., Ganzeveld, L., Harder, H., Lawrence, M. G., Martinez, M., Taraborrelli, D., and Williams, J.: Atmospheric oxidation capac- ity sustained by a tropical forest, Nature, 452, 737–740, 2008. Hewitt, C. N., MacKenzie, A. R., Di Carlo, P., Di Marco, C. F., Dorsey, J. R., Evans, M., Fowler, D., Gallagher, M. References C., Van Dingenen, R., Ervens, B., Nenes, A., Nielsen, C. J., Swietlicki, E., Putaud, J. P., Balkanski, Y., Fuzzi, S., Horth, J., Moortgat, G. K., Winterhalter, R., Myhre, C. E. L., Tsigaridis, K., Vignati, E., Stephanou, E. G., and Wilson, J.: Organic aerosol and global climate modelling: a review, Atmos. Chem. Phys., 5, 1053–1123, 2005, http://www.atmos-chem-phys.net/5/1053/2005/. R. G., Ryall, D., Mills, G., and Penkett, S. A.: Measurement and modelling of air pollution and atmospheric chemistry in the UK West Midlands conurbation: Overview of the PUMA Con- sortium project, Sci. Total Environ., 360, 5–25, 2006. Heard, D. E., Read, K. A., Methven, J., Al-Haider, S., Bloss, W. J., Johnson, G. P., Pilling, M. J., Seakins, P. W., Smith, S. C., Sommariva, R., Stanton, J. C., Still, T. J., Ingham, T., Brooks, B., De Leeuw, G., Jackson, A. V., McQuaid, J. B., Morgan, R., Smith, M. H., Carpenter, L. J., Carslaw, N., Hamilton, J., Hop- kins, J. R., Lee, J. D., Lewis, A. C., Purvis, R. M., Wevill, D. J., Brough, N., Green, T., Mills, G., Penkett, S. A., Plane, J. M. C., Saiz-Lopez, A., Worton, D., Monks, P. S., Fleming, Z., Rickard, A. R., Alfarra, M. R., Allan, J. D., Bower, K., Coe, H., Cubison, M., Flynn, M., McFiggans, G., Gallagher, M., Norton, E. G., O’Dowd, C. D., Shillito, J., Topping, D., Vaughan, G., Williams, P., Bitter, M., Ball, S. M., Jones, R. L., Povey, I. M., O’Doherty, S., Simmonds, P. G., Allen, A., Kinnersley, R. P., Beddows, D. C. S., Dall’Osto, M., Harrison, R. M., Donovan, R. J., Heal, M. R., Jennings, S. G., Noone, C., and Spain, G.: The North Atlantic Marine Boundary Layer Experiment (NAMBLEX). Overview of the campaign held at Mace Head, Ireland, in summer 2002, At- mos. Chem. Phys., 6, 2241–2272, 2006, http://www.atmos-chem-phys.net/6/2241/2006/. Kaye, P. H., Stanley, W. R., Hirst, E., Foot, E. V., Baxter, K. L., and Barrington, S. J.: Single particle multichannel bio-aerosol fluorescence sensor, Optics Express, 13(10), 3583–3593, 2005. Klinger, L. F., Greenberg, J., Guenther, A., Tyndall, G., Zimmer- man, P., M’Bangui, M., and Moutsambote, J. M.: Patterns in volatile organic compound emissions along a savanna-rainforest gradient in central Africa, J. Geophys. Res.-Atmos., 103, 1443– 1454, 1998. Smith, M. H., Carpenter, L. J., Carslaw, N., Hamilton, J., Hop kins, J. R., Lee, J. D., Lewis, A. C., Purvis, R. M., Wevill, D. J., Brough, N., Green, T., Mills, G., Penkett, S. References and Nieuwolt, S.: Tropical climatology: an in- troduction to the climates of the low latitudes (Second Edition), John Wiley & Sons, Chichester, 339 pp., 1998. Penkett, S. A., Bandy, B. J., Reeves, C. E., McKenna, D., and Hignett, P.: Measurements of peroxides in the atmosphere and their relevance to the understanding of global tropospheric chem- istry, paper presented at Faraday Discussions on Atmospheric Chemistry – Measurements, Mechanics and Models, Royal Soc Chemistry, E Anglia, England, 19–21 April, 1995. Misztal, P. K., Nemitz, E., Langford, B., Coyle, M., Ryder, J., Di- Marco, C., Phillips, G., Oram, D., Owen, S., and Cape, J. N.: First direct ecosystem fluxes of VOCs from oil palms in SE Asia, Atmos. Chem. Phys. Discuss., in preparation, 2010a. Pike, R. C., Lee, J. D., Young, P. J., Moller, S., Carver, G. D., Yang, X., Misztal, P., Langford, B., Stewart, D., Reeves, C. E., Hewitt, C. N., and Pyle, J. A.: Can a global model chemical mechanism reproduce NO, NO2, and O3 measurements above a tropical rain- forest?, Atmos. Chem. Phys. Discuss., 9, 27611–27648, 2009, http://www.atmos-chem-phys-discuss.net/9/27611/2009/. Misztal, P. K., Owen, S., Guenther, A., Geron, C., Rasmussen, C., Phillips, G., Ryan, A., Edwards, D. P., Hewitt, C. N., Nemitz, E., and Cape, J. N.: Large estragole fluxes from oil palms in Borneo, Atmos. Chem. Phys. Discuss., submitted, 2010b. //www.atmos-chem-phys-discuss.net/9/27611/2009/. Moura-Costa, P. H., Yap, S. W., Ong, C. L., Ganing, A., Nussbaum, R., and Mojiun, T.: Large scale enrichment planting with dipte- rocarps as an alternative for carbon offset – methods and pre- liminary results, 1996, in: Proceedings of the Fifth Round Table Conference on Dipterocarps, edited by: Appanah, S. and Khoo, K. C., Chiang Mai, Thailand, November 1994. Pilegaard, K.: Air-soil exchange of NO, NO2 and O3 in forests, Water Air Soil Pollut., 1, 79–88, 2001. Pilegaard, K., Skiba, U., Ambus, P., Beier, C., Br¨uggemann, N., Butterbach-Bahl, K., Dick, J., Dorsey, J., Duyzer, J., Gallagher, M., Gasche, R., Horvath, L., Kitzler, B., Leip, A., Pihlatie, M. K., Rosenkranz, P., Seufert, G., Vesala, T., Westrate, H., and Zechmeister-Boltenstern, S.: Factors controlling regional differ- ences in forest soil emission of nitrogen oxides (NO and N2O), Biogeosciences, 3, 651–661, 2006, http://www.biogeosciences.net/3/651/2006/. Pilegaard, K., Skiba, U., Ambus, P., Beier, C., Br¨uggemann, N., Butterbach-Bahl, K., Dick, J., Dorsey, J., Duyzer, J., Gallagher, M., Gasche, R., Horvath, L., Kitzler, B., Leip, A., Pihlatie, M. MPOC.: Fact sheet, Malaysian Palm Oil Council, Brussels, 2008. References F., Wettengel, W. W., Hedao, P., and Kassem, K. R.: Terrestrial Ecoregions of the World: A New Map of Life on Earth, BioScience, 51(11), 933–938. 2001. http://www.atmos-chem-phys.net/5/1963/2005/. Martin, R. V., Jacob, D. J., Chance, K., Kurosu, T. P., Palmer, P. I., and Evans, M. J.: Global inventory of nitrogen oxide emis- sions constrained by space-based observations of NO2 columns, J. Geophys. Res., 108(D17), 4537, doi:10.1029/2003JD003453, 2003. Olson, J. R., Crawford, J. H., Chen, G., Brune, W. H., Faloona, I. C., Tan, D., Harder, H., and Martinez, M.: A reevaluation of airborne Hox observations from Nasa field campaigns, J. Geophys. Res.- Atmos., 111, D10301, doi:10.1029/2005JD006617, 2006. Martin, R. V., Chance, K., Jacob, D. J., Kurosu, T. P., Spurr, R. J. D., Bucsela, E., Gleason, J. F., Palmer, P. I., Bey, I., Fiore, A. M., Li, Q. B., Yantosca, R. M., and Koelemeijer, R. B. A.: An im- proved retrieval of tropospheric nitrogen dioxide from gome, J. Geophys. Res.-Atmos., 107, 4437, doi:10.1029/2001JD001027, 2002. Osborne, S. R., Johnson, B. T., Haywood, J. M., Baran, A. J., Harrison, M. A. J., and McConnell, C. L.: Physical and optical properties of mineral dust aerosol during the Dust and Biomass-burning Experiment, J. Geophys. Res.-Atmos., 113(14), D00C03, doi:10.1029/2007JD009551, 2008. Palmer, P. I., Jacob, D. J., Fiore, A. M., Martin, R. V., Chance, K., and Kurosu, T. P.: Mapping isoprene emissions over North America using formaldehyde column observations from space, J. Geophys. Res., 108(D6), 4180, doi:10.1029/2002JD002153, 2003. Martinez, M., Harder, H., Kubistin, D., Rudolf, M., Bozem, H., Eerdekens, G., Fischer, H., Gurk, C., Kl¨upfel, T., K¨onigstedt, R., Parchatka, U., Schiller, C. L., Stickler, A., Williams, J., and Lelieveld, J.: Hydroxyl radicals in the tropical troposphere over the Suriname rainforest: airborne measurements, Atmos. Chem. Phys. Discuss., 8, 15491–15536, 2008, http://www.atmos-chem-phys-discuss.net/8/15491/2008/. Pearson, G., Davies, F., and Collier, C. G.: An analysis of the per- formance of the UFAM pulsed Doppler LIDAR for observing the boundary layer, J. Atmos. Ocean. Tech., 26, 240–250, 2009. Matsuda, K., Watanabe, I., Wingpud, V., Theramongkol, P., and Ohizumi, T.: Deposition velocity of O3 and SO2 in the dry and wet season above a tropical forest in northern Thailand, Atmos. Environ., 40, 7557–7564, 2006. Pearson, G., Davies, F., and Collier, C. G.: Remote sensing of the tropical rainforest boundary layer using pulsed Doppler lidar, At- mos. Chem. Phys., in preparation, 2010. McGregor, G. R. References W., Hopkins, J. R., Jones, C. E., Langford, B., Lee, J. D., Lewis, A. C., Lim, S. F., McQuaid, J., Misztal, P., Moller, S. J., Monks, P. S., Ne- mitz, E., Oram, D. E., Owen, S. M., Phillips, G. J., Pugh, T. A. M., Pyle, J. A., Reeves, C. E., Ryder, J., Siong, J., Skiba, U., and Stewart, D. J.: Nitrogen management is essential to prevent trop- ical oil palm plantations from causing ground-level ozone pollu- tion, P. Natl. Acad. Sci. USA, 106, 18447–18451, 2009. Levine, J.: The 1997 Fires in Kalimantan and Sumatra, Indonesia: Gaseous and Particulate Emissions, Geophys. Res. Lett., 26(7), 815–818, 1999. Lewis, A. C., Evans, M. J., Methven, J., Watson, N., Lee, J. D., Hopkins, J. R., Purvis, R. M., Arnold, S. R., McQuaid, J. B., Whalley, L. K., Pilling, M. J., Heard, D. E., Monks, P. S., Parker, A. E., Reeves, C. E., Oram, D. E., Mills, G., Bandy, B. J., Stew- art, D., Coe, H., Williams, P., and Crosier J.: Chemical compo- sition observed over the mid-Atlantic and the detection of pollu- tion signatures far from source regions, J. Geophys. Res.-Atmos., 112, D10S39, doi:10.1029/2006JD007584, 2007. Ingham, T., Goddard, A., Whalley, L. K., Furneaux, K. L., Edwards, P. M., Seal, C. P., Self, D. E., Johnson, G. P., Read, K. A., Lee, J. D., and Heard, D. E.: A flow-tube based laser-induced fluo- rescence instrument to measure OH reactivity in the troposphere, Atmos. Meas. Tech., 2, 465–477, 2009, http://www.atmos-meas-tech.net/2/465/2009/. Lewis, A. C., Hopkins, J. R., Carpenter, L. J., Stanton, J., Read, K. A., and Pilling, M. J.: Sources and sinks of acetone, methanol, http://www.atmos-meas-tech.net/2/465/2009/. Jaegle, L., Jacob, D. J., Brune, W. H., Faloona, I., Tan, D., Heikes, Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 197 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools and acetaldehyde in North Atlantic marine air, Atmos. Chem. Phys., 5, 1963–1974, 2005, http://www atmos-chem-phys net/5/1963/2005/ D., Powell, G. V. N., Underwo Strand, H. E., Morrison, J. C. etts T H Kura Y Lamoreu C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools and acetaldehyde in North Atlantic marine air, Atmos. Chem. Phys., 5, 1963–1974, 2005, http://www.atmos-chem-phys.net/5/1963/2005/. D., Powell, G. V. N., Underwood, E. C., D’Amico, J. A., Itoua, I., Strand, H. E., Morrison, J. C., Loucks, C. J., Allnutt, T. F., Rick- etts, T. H., Kura, Y., Lamoreux, J. References Soc., 87, 1739–1746, 2006. Tangki, H.: Biomass variation across selectively logged forest in Borneo and its prediction by Landsat TM data, Unpublished MPhil thesis, Lancaster University, UK, 2008. Reeves, C. E., Slemr, J., Oram, D. E., Worton, D., Penkett, S. A., Stewart, D. J., Purvis, R., Watson, N., Hopkins, J., Lewis, A., Methven, J., Blake, D. R., and Atlas, E.: Alkyl nitrates in out- flow from North America over the North Atlantic during Inter- continental Transport of Ozone and Precursors 2004, J. Geophys. Res.-Atmos., 112(21), D10S37, doi:10.1029/2006JD007567, 2007. Tangki, H., and Chappell, N. A.: Biomass variation across selec- tively logged forest within a 225 km2 region of Borneo and its prediction by Landsat TM, Forest Ecol. Manage., 256, 1960– 1970, 2008. Thomas, R. M., Trebs, I., Otjes, R., Jongejan, P. A. C., Ten Brink, H., Phillips, G., Kortner, M., Meixner, F. X., and Nemitz, E.: An Automated Analyzer to Measure Surface-Atmosphere Exchange Fluxes of Water Soluble Inorganic Aerosol Compounds and Re- active Trace Gases, Environ. Sci. Technol., 43, 1412–1418, 2009. Roberts, G. C. and Nenes, A.: A continuous-flow streamwise thermal-gradient CCN chamber for atmospheric measurements, Aerosol Sci. Tech., 39, 206–221, 2005. Ryder, J., Langford, B., Oram, D., Coyle, M., Phillips, G., Helfter, C., Misztal, P., Cape, N., and Nemitz, E.: Sources and sinks of BVOCs inside a SE Asian rainforest canopy, Atmos. Chem. Phys. Discuss., in preparation, 2010. UNEP-WCMC: Global Distribution of Original and Remaining Forests, United Nations Environment Programme – World Con- servation Monitoring Centre (UNEP-WCMC), online available at: http://www.unep-wcmc.org/forest/original.htm, 2000. Saunders, S. M., Jenkin, M. E., Derwent, R. G., and Pilling, M. J.: Protocol for the development of the Master Chemical Mech- anism, MCM v3 (Part A): tropospheric degradation of non- aromatic volatile organic compounds, Atmos. Chem. Phys., 3, 161–180, 2003, http://www.atmos-chem-phys.net/3/161/2003/. Voulgarakis, A., Savage, N. H., Wild, O., Carver, G. D., Clemit- shaw, K. C., and Pyle, J. A.: Upgrading photolysis in the p- TOMCAT CTM: model evaluation and assessment of the role of clouds, Geosci. Model Dev., online available at: www. geosci-model-dev.net/2/59/2009/2, 59–72, 2009. http://www.atmos-chem-phys.net/3/161/2003/. Saunois, M., Reeves, C. E., Mari, C. H., Murphy, J. G., Stewart, D. J., Mills, G. P., Oram, D. E., and Purvis, R. M.: Factors control- ling the distribution of ozone in the West African lower tropo- sphere during the AMMA (African Monsoon Multidisciplinary Analysis) wet season campaign, Atmos. Chem. Phys., 9, 6135– 6155, 2009, http://www.atmos-chem-phys.net/9/6135/2009/. Voulgarakis, A., Savage, N. References Nemitz, E., Jimenez, J. L., Huffman, J. A., Ulbrich, I. M., Cana- garatna, M. R., Worsnop, D. R., and Guenther, A. B.: An eddy- covariance system for the measurement of surface/atmosphere exchange fluxes of submicron aerosol chemical species - First application above an urban area, Aerosol Sci. Tech., 42, 636– 657, 2008. Plane, J. M. C. and Saiz-Lopez, A.: Analytical Techniques for At- mospheric Measurement, in: Analytical Techniques for Atmo- spheric Measurement, edited by: Heard, D. E., Blackwell, Ox- ford, 2006. Nemitz, E., Phillips, G. J., Di Marco, C. F., Misztal, P. K., Farmer, D., Kimmel, J., and Jimenez, J. L.: Concentrations and sur- face/atmosphere exchange of aerosol chemical components in PM1 above an oil palm plantation in Sabah, Malaysia, Atmos. Chem. Phys. Discuss., in preparation, 2010. Pugh, T. A. M., MacKenzie, A. R., and Hewitt, C. N.: Modelling of nighttime near-surface chemistry in a South-East Asian tropical rainforest, Atmos. Chem. Phys., in preparation, 2010a. Olson, J.: World ecosystems (WE1.4): Digital raster data on a 10 minute geographic 1080 x 2160 grid. Global Ecosytems Database, Version 1.0: Disc A. N. G. D. Center, Boulder CO, Nat. Ocean. Atmos. Admin., 1992. Pugh, T. A. M., MacKenzie, A. R., Hewitt, C. N., Langford, B., Edwards, P. M., Furneaux, K. L., Heard, D. E., Hopkins, J. R., Jones, C. E., Karunaharan, A., Lee, J., Mills, G., Misztal, P., Moller, S., Monks, P. S., and Whalley, L. K.: Simulating atmo- spheric composition over a South-East Asian tropical rainforest: Olson, D. M., Dinerstein, E., Wikramanayake, E. D., Burgess, N. Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 198 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools http://www.atmos-chem-phys.net/6/2711/2006/. performance of a chemistry box model, Atmos. Chem. Phys. Dis- cuss., accepted, 2010b. http://www.atmos-chem-phys.net/6/2711/2006/. Tan, D., Faloona, I., Simpas, J. B., Brune, W., Shepson, P. B., Couch, T. L., Sumner, A. L., Carroll, M. A., Thronberry, T., Apel, E., Riemer, D., and Stockwell, W.: HOx budgets in a de- ciduous forest: Results from the PROPHET summer 1998 cam- paign, J. Geophys. Res.-Atmos., 106(D20), 24407–24427, 2001. Redelsperger, J.-L., Thorncroft, C. D., Diedhiou, A., Lebel, T., Parker, D. J., and Polcher, J.: African Monsoon Multidisciplinary Analysis: An International Research Project and Field Cam- paign, B. Am. Meteor. References H., Braesicke, P., Wild, O., Carver, G. D., and Pyle, J. A.: Interannual variability of tropospheric com- position: the influence of changes in emissions, meteorology and clouds, Atmos. Chem. Phys. Discuss., 9, 14023–14057, 2009, http://www.atmos-chem-phys-discuss.net/9/14023/2009/. http://www.atmos-chem-phys-discuss.net/9/14023/2009 Volz-Thomas, A., Lerner, A., Patz, H. S., Schultz, M., McKenna, D., Schmitt, R., Madronich, S., and Roth, E.: Airborne Measure- ments of the Photolysis of NO2, J. Geophys. Res.-Atmos., 101, 18613–18627, 1996. p p y Schmitt, C., Belokurov, A., Besanc¸on, C., Boisrobert, L., Burgess, N.D., Campbell, A., Coad, L. Fish, L., Gliddon, D., Humphries, K., Kapos, V., Loucks, C., Lysenko, I., Miles, L., Mills, C., Min- nemeyer, S., Pistorius, T., Ravilious, C., and Winkel, G.: Global Ecological Forest Classification and Forest Protected Area Gap Analysis: Analyses and Recommendations in view of the 10% target for forest protection under the Convention on Biological Diversity (CBD). Freiburg University Press, Freiburg, Germany, 2008. Walsh, R. P. D.: Climate. The Tropical Rain Forest, edited by: Richards, P. W., 159–205, Cambridge University Press, Cam- bridge, 352 pp., 1996. Whalley, L. K., Furneaux, K. L., Goddard, A., Lee, J. D., Mahajan, A., Oetjen, H., Read, K. A., Carpenter, L. J., Lewis, A. C., Plane, J. M. C., Saltzman, E. S., and Heard, D. E.: The Chemistry of OH and HO2 in the Boundary Layer over the tropical Atlantic Ocean, Atmos. Chem. Phys. Discuss., in preparation, 2010a. Serca, D., Guenther, A., Klinger, L., Vierling, L., Harley, P., Druil- het, A., Greenberg, J., Baker, B., Baugh, W., Bouka-Biona, C., and Loemba-Ndembi, J.: Expresso flux measurements at upland and lowland Congo tropical forest site, Tellus B, 53, 220–234, 2001. Whalley, L. K., Furneaux, K. L., Heard, D. E.: Measurements of hydroxyl radicals over a SE Asian tropical rainforest, Atmos. Chem. Phys Discuss., in preparation, 2010b. Stewart, D. J., Taylor, C. M., Reeves, C. E., and McQuaid, J. B.: Biogenic nitrogen oxide emissions from soils: impact on NOx and ozone over west Africa during AMMA (African Monsoon Multidisciplinary Analysis): observational study, Atmos. Chem. Phys., 8, 2285–2297, 2008, http://www.atmos-chem-phys.net/8/2285/2008/. Whalley, L. K., Lewis, A. C., McQuaid, J. B., Purvis, R. M., Lee, J. D., Stemmler, K., Zellweger, C. and Ridgeon, P.: Two high- speed, portable GC systems designed for the measurement of non-methane hydrocarbons and PAN: Results from the Jungfrau- joch High Altitude Observatory, J. Environ. Monit., 6, 234–241, 2004. Whitmore, T. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools Wilkinson, M. J., Owen, S. M., Possell, M., Hartwell, J., Gould, P., Hall, A., Vickers, C., and Hewitt, C. N.: Circadian control of isoprene emissions from oil palm (Elaeis guineensis), The Plant Journal, 47, 960–968, doi:10.1111/j.1365-313X.2006.02847.x, 2006. the North Atlantic region during August 1993, J. Geophys. Res., 101, 29269–29288, 1996. Wilkinson, M. J., Owen, S. M., Possell, M., Hartwell, J., Gould, P., Hall, A., Vickers, C., and Hewitt, C. N.: Circadian control of isoprene emissions from oil palm (Elaeis guineensis), The Plant Journal, 47, 960–968, doi:10.1111/j.1365-313X.2006.02847.x, 2006. the North Atlantic region during August 1993, J. Geophys. Res., 101, 29269–29288, 1996. References C.: Tropical rain forests of the Far East, 2nd edition, Oxford University Press, Oxford, 1984. Still, T. J., Al-Haider, S., Seakins, P. W., Sommariva, R., Stanton, J. C., Mills, G., and Penkett, S. A.: Ambient formaldehyde mea- surements made at a remote marine boundary layer site during the NAMBLEX campaign – a comparison of data from chro- matographic and modified Hantzsch techniques, Atmos. Chem. Phys., 6, 2711–2726, 2006, Whitmore, T. C.: An introduction to tropical rain forests, 2nd edi- tion, Clarendon, Oxford, 1998. Wild, O., Law, K. S., McKenna, D. S., Bandy, B. J., Penkett, S. A., and Pyle, J. A.: Photochemical trajectory modeling studies of Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 199 Wolter, K. and Timlin, M. S.: Measuring the strength of ENSO – how does 1997/98 rank?, Weather, 53, 315–324, 1998. Worton, D. R., Mills, G. P., Oram, D. E., and Sturges, W. T.: Gas chromatography negative ion chemical ionization mass spec- trometry: Application to the detection of alkyl nitrates and halo- carbons in the atmosphere, J. Chromatogr. A, 1201, 112–119, 2008. Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/
https://openalex.org/W2921006415
https://www.ojcmt.net/download/exploring-the-extrinsic-and-intrinsic-motivations-in-blogging-a-survey-on-hong-kong-university.pdf
English
null
Exploring the Extrinsic and Intrinsic Motivations in Blogging: A Survey on Hong Kong University Students
Online journal of communication and media technologies
2,012
cc-by
6,126
Ying LI, City University of Hong Kong, Hong Kong & Gongcheng LIN, Sun Yat-Sen University, China Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 University Students Ying LI, City University of Hong Kong, Hong Kong & Gongcheng LIN, Sun Yat-Sen Abstract Blogging stickiness and motivations have become a frequently studied topic in blogging research for several years. Yet few research pay attention to the difference between the initial motivation and current motivations. This study proposes to investigate and understand bloggers behaviors through specifying the intrinsic and extrinsic components of their motivations. Two major questions were raised and explored in this study: 1. what the reasons that promote students to initiate blogs are; 2. how the blogging motivations and behavior patterns interact in blog maintaining. Based on a survey of 186 bloggers among City University of Hong Kong, it is found that: three major motivations (practicing a new type of diary, curiosity and thoughts on following the crowd) are the most important motivations in initiating blogging. In maintaining a blog, the hypothesis that social connection motivation is positively related to interaction-oriented behavior while emotion pouring motivation is positively related to self-restriction behavior in expression is supported. Keywords: Blogging, motivations, blogging behavior 96 © Online Journal of Communication and Media Technologies Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Primitive studies on blogging were more like commentary or summary on the trend based on personal observation and experiences since they were mostly authored by media or IT practitioners (Jin, 2007). Main focus of blog study is the functional aspects of blog and the social implication it brings to the media (Chou, 2005); limited effort have been put on the producer side, which may actually compose a fundamental component of studying blogging. Earlier studies on why people blog mostly treated reasons for starting blogging and motivations of stickiness to blogging as a whole, with exploratory approaches mostly adopted. An important study was carried out by Efimova (2003) who used her own blog as a platform of data collection to analyze “the stickiness factor” of blogs. Efimova figured out that curiosity, improving personal learning and interest in communication are most frequently quoted as reasons to start blogging. As for stickiness factors, Efimova concluded that personality and technology convenience enabled adoption of blog most. © Online Journal of Communication and Media Technologies © Online Journal of Communication and Media Technologies 97 Abstract In 2004, Veigas conducted a study of blogging behavior and found that most blogs (83%) were “personal ramblings” in nature, a feature still characterizes the blogosphere today. Also in 2004, Nardi, Schiano, Gumbrecht, and Swartz examined the motivation of blogging in depth. As an exploratory study, they adopted ethnographic interviews and summed up five blogging motivations: “to document life experiences, to provide commentary and opinions, to express deeply felt emotions, to articulate ideas through writing, and to form and maintain community forums.” This study has been widely consulted by later studies. Although divergent rationales for the reasons and motivations for blogging have been provided, quite a number of the reasons are actually overlapping. Later research on blogging motivations began to integrate social psychology theories or frameworks into investigating deep incentives underlying bloggers’ behavior based on the earlier descriptions of motivations or behavior, raising a series of elementary models for further study. In 2006, Brady proposed a positive feedback system framework bridging reading and posting behavior together in analyzing blogging and found that positive feedback © Online Journal of Communication and Media Technologies 97 97 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 from readers was a fundamental motivation promoting bloggers to stick to blogging. Brady also suggested that reasons to begin blogging are often different from the eventual motivations they have to continue to blog but he didn’t offer a detailed analysis on this argument. Enlightened by Nardi’s study, several Taiwanese scholars designed a survey among Taiwanese and validated a framework addressing blogger’s motivations, behaviors, and management effort heterogeneity together, clarifying the relationships among them (Huang, Shen, Lin, Chang, 2007). In this model, blogging behavior was decomposed into interaction-oriented behavior and information-oriented behavior. The study validated the model proposed through testing the relationship between motivations clarified by Nardi and the behaviors pattern of blog management. In a more recent study, Liu, Liao and Zeng (2007) addressed expectancy theory into analyzing motivations for blogging, figuring out that rewards played an important role in motivating bloggers. © Online Journal of Communication and Media Technologies 98 © Online Journal of Communication and Media Technologies Abstract Thus bloggers may behave under the dual motivations of both satisfying extrinsic need and the need of protecting privacy and safety. This phenomenon might be more common among youth as they are still experiencing identity formation and have relatively less ability or power in coping with contingencies. This study proposes to examine the relation between young bloggers’ motivation and behavior under the proposed framework of the dual motivation as an exploratory investigation for further studying the complicated behavior patterns and underlying motivations. Abstract Bloggers in their study ranked pouring out feelings and connecting with people respectively as their two most valued rewards; those bloggers with high motivation for rewards have higher level of blogging intention and are willing to spend more time on maintaining their blog. Generally speaking, research on blogging motivation started from exploration with qualitative methods or descriptive survey roughly probing into the motivations and gradually proceeded to establishing relationships between motivations and behaviors including blogging and other online activities. In this procedure, main efforts were put into measuring different sublevels of motivation yet the behavior dimension was primarily measured by energy or time spent on it. This study argues that blogging is a multi-dimensional behavior corresponding to multi motivations since bloggers’ behavior is not homogeneous and even the same blogger may behave differently based on various motivations. With the advantages of anonymity brought by Internet, people may bring quite a lot of goals which are oftentimes difficult to obtain in real life: tension may be released through pouring out feelings in blogs and at the same time, social network may be maintained or expanded in the same sphere. Despite of that advantage, © Online Journal of Communication and Media Technologies 98 98 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 it is possible that attention from readers may bring potential trouble to the bloggers. Consequence, many bloggers may be cautious in content generating and may even self-censor their blogs before posting the article. Thus bloggers may behave under the dual motivations of both satisfying extrinsic need and the need of protecting privacy and safety. This phenomenon might be more common among youth as they are still experiencing identity formation and have relatively less ability or power in coping with contingencies. This study proposes to examine the relation between young bloggers’ motivation and behavior under the proposed framework of the dual motivation as an exploratory investigation for further studying the complicated behavior patterns and underlying motivations. it is possible that attention from readers may bring potential trouble to the bloggers. Consequence, many bloggers may be cautious in content generating and may even self-censor their blogs before posting the article. © Online Journal of Communication and Media Technologies 99 © Online Journal of Communication and Media Technologies Research Question and Hypotheses This study proposes to understand young generation’s blogging behavior based on two general motivations: extrinsic motivation and intrinsic motivation. The distinction between the two motivations has been asserted by cognitive psychologists that intrinsic motivation usually leads to engaging in an activity for the sake of the inherently interesting or satisfying process whereas extrinsic motivation is oftentimes related with the reinforcement of the rewards or the potential value of the outcomes (Ryan & Deci, 2000). Extrinsic motivation in this study is defined as the social-oriented motivations in search of satisfaction from exterior social environments. For young people, extrinsic motivation mainly refers to connection with friends or fame-seeking. Intrinsic motivation basically indicates that bloggers blog for their inherent satisfaction or four pouring private emotions rather than external rewards. On behavioral level, it is proposed that bloggers tend to behave based on weighing the psychological rewards corresponding to the intrinsic and extrinsic motivation. Before exploring motivations underlying maintenance behaviors, this study firstly asks a general question: why students start to blog? As for why students keep blogging, several assumptions are proposed on testing relationships between motivations and behaviors: (a) bloggers are more likely to be driven by intrinsic motivation when they initiate blogs; (b) in maintaining blogging, bloggers will be motivated by an integration of the two types of © Online Journal of Communication and Media Technologies 99 99 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 motivations; (c) in order to achieve best psychological and social rewards, bloggers will create more opportunities to facilitate extrinsic motivation and (d) bloggers consciously restrict their blog content so that they will release intrinsic motivations safely. The proposed model drawn from assumptions discussed above is presented in figure 1. Figure 1. Proposed model of this study H3+ Self-restriction on expression Interaction-oriented behavior Extrinsic motivation Intrinsic motivation H1- H2+ H4- Extrinsic motivation Self-restriction on expression Intrinsic motivation Interaction-oriented behavior Figure 1. Proposed model of this study Based on the framework, the more specific hypotheses are as follows: Based on the framework, the more specific hypotheses are as follows: H1: Extrinsic motivation is negatively related to self-restriction on expression, such that the more blogging is motivated by extrinsic motivation, the less possible that the author will restrict their expression in blog. © Online Journal of Communication and Media Technologies Survey design A paper survey was utilized in this study targeting at individual students in City University of Hong Kong who maintain their personal blog. According to a telephone survey conducted by Pew Internet& American Life Project, more than half of the bloggers (those who own their own blogs) are under the age of 30, similar findings were also reported by Technorati, the 2008 worldwide blogger survey figured out that among the Asian survey subjects, 69% are college graduate and 73% are 18-34 years old (Technorati, 2009). Therefore, university students compose a typical group of bloggers not only for the research purpose of this study, but also may be useful for other studies. 400 copies of the questionnaires were distributed among students selected through stratified sampling framework regarding class time and classroom location in April, 2009. To alleviate privacy concerns, no identifying information was tracked or requested of the respondents. Responses from the survey were compiled into a SPSS file and analyzed. Research Question and Hypotheses H2: Extrinsic motivation is positively related to interaction-oriented behavior. Such that the more blogging is motivated by extrinsic motivation, the more likely they will pay attention to affiliating to online social interaction involved in blogosphere. H2: Extrinsic motivation is positively related to interaction-oriented behavior. Such that the more blogging is motivated by extrinsic motivation, the more likely they will pay attention to affiliating to online social interaction involved in blogosphere. H3: Intrinsic motivation is positively related to self-restriction on expression. Such that the more the blogger tend to satisfy their intrinsic motivation in blog, the more restriction they will put on expression and be more cautious in expression. H3: Intrinsic motivation is positively related to self-restriction on expression. Such that the more the blogger tend to satisfy their intrinsic motivation in blog, the more restriction they will put on expression and be more cautious in expression. H4: Intrinsic motivation is negatively related to interaction-oriented behavior. Such that the more the blogger tend to satisfy their intrinsic motivation in blog, the less they less likely they will pay attention to affiliating to online social interaction involved in blogosphere. © Online Journal of Communication and Media Technologies 100 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 © Online Journal of Communication and Media Technologies 101 © Online Journal of Communication and Media Technologies 102 Survey Description and Measurement Construction The blogger background section concerns with basic information of bloggers such as gender, age, home region, educational background and student status in university. Motivation and behavior was evaluated by 5-point Likert scales, with 1 being “strongly disagree” and 5 being “strongly agree”. Updating conduct was indicated by the number of articles posted and time spent on wring each article. Since the measurements in this study are largely established on a mix of items adopted in other surveys and items designed by the researcher of this study, it is necessary to validate them before being further analyzed. In the initial measurements, there are altogether 6 items assigned to the construct of motivation and 6 items assigned to behavior. This study began with the exploratory factor analysis as the first step to validate the measurements. After two rounds of analyses, for each construct, 5 items survived and 2 factors emerged. Result is © Online Journal of Communication and Media Technologies 101 101 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 shown in Table 1 and Table 2. Compared to initial measurements, the most salient differences between before and after factor analysis are (a) emotion pouring scale became a single-item scale and (b) originality was excluded in construction of behavior. The two factors for motivation construction altogether explained 58.93% of the total variance while the two factors for behavior construction altogether explained 56.52% of the total variance. Table 1. Factor analysis for motivation items Motivation Items Component Social connection Emotion release Gaining support on my viewpoint from others .745 Communicating with other bloggers .721 Becoming a focus person .659 Sharing my materials .615 Pouring out my thoughts/emotion .958 Table 2. Factor analysis for behavior items Behavior Items Component Self-restriction on expression Interaction-oriented behavior Limited expression .788 Unwillingness of sharing blog .788 Linking to blogosphere .796 Showing more linkage .675 Attention to others’ reaction .521 Table 1. Factor analysis for motivation items Motivation Items Component Social connection Emotion release Gaining support on my viewpoint from others .745 Communicating with other bloggers .721 Becoming a focus person .659 Sharing my materials .615 Pouring out my thoughts/emotion .958 Table 1. Factor analysis for motivation items Table 2. © Online Journal of Communication and Media Technologies Survey Description and Measurement Construction Factor analysis for behavior items Behavior Items Component Self-restriction on expression Interaction-oriented behavior Limited expression .788 Unwillingness of sharing blog .788 Linking to blogosphere .796 Showing more linkage .675 Attention to others’ reaction .521 Secondly, the reliability of each scale was tested. Result is shown in Table 3. Cronbach’s α coefficients of the two factors for behavior construction are .40 and .45, which could be marginally accepted. Reliability of behavior construction was not very high, indicating that the scales need to be improved in further studies. 102 Table 3. Result of reliability testing Motivation Behavior Social connection Emotion release Self-restricted expression Social-interaction oriented behavior Cronbach’s α .63 1.00a .40 .45 Note: a single item scale Description of Participants From the 400 questionnaires distributed, a total of 247 responses were returned. Finally, 61 responses in the 247 were eliminated from the analysis because the respondents: (a) indicated they did not have their own blogs (n=59) or (b) assigned same scores on each of the items under the same measurement in the questionnaire (n=2). Among the 186 effective responses, female students were a little more on the number than male students, with 52% identifying themselves as female and 48% identified as male. 94% of respondents were between the ages of 18-25, with 61% identifying themselves as 18-21 years of age and 33% identifying themselves as 22-25 years of age. Survey participants were mostly Hong Kong local residents (90%, n=166), with the next highest group being 9% participants who identified as mainland Chinese. Only 1% of the participants were oversea students. As for the education status, 90.66% are pursuing Bachelor degree or below, with 36.81% of them sub-degree students and 53.85% are undergraduate students. 73.08% of the respondents got University granted committee funding while 26.92% are self-financed. 95.6% of the respondents are full-time students. Demographical distributions of the sample are presented in Table 4. In a whole, the sample could represent Hong Kong university student group. 103 © Online Journal of Communication and Media Technologies Table 4. Description of survey participants Blogger Background Item No. Participants Percentage of Total Valid percentage Gender Female 95 51.1% 51.9% Male 88 47.3% 48.1% No response 3 1.6% Age range <=17 years 1 0.5% 0.5% 18-21 years 112 60.2% 61.2% 22-25 years 60 32.3% 32.8% 26-29 years 3 1.6% 1.6% >=33 years 7 3.8% 3.8% No response 3 1.6% Home region Hong Kong permanent Residents 166 89.2% 90.2% Mainland Chinese Residents 17 9.1% 9.2% Oversea Residents 1 0.5% 0.5% No response 2 1.1% Education background Sub-degree students 67 36.0% 36.8% Undergraduates 98 52.7% 53.8% Table 4. Description of survey participants © Online Journal of Communication and Media Technologies 104 © Online Journal of Communication and Media Technologies 104 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Taught post graduates 11 5.9% 6.0% Research post graduates 6 3.2% 3.3% No response 4 2.2% © Online Journal of Communication and Media Technologies 106 © Online Journal of Communication and Media Technologies Blog Usage Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 active users who frequently updated their blogs last month. The main body of the respondents Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 active users who frequently updated their blogs last month. The main body of the respondents spent limited time on each article. The usage pattern implied that blogging may firmly exist as part of the respondents’ daily life. Blog Usage As illustrated in figure 2, a remarkable majority of the respondents (83.78%) has maintained their blogs for more than one year with 43.78% of them (n=81) indicating they had maintained their blogs for 1-3 years and 40.00% (n=74) with more than 3 years. Only 30 of the 186 respondents had not more than 1 year’s blogging experience. Figure 2. Reported time length of blogs that had been maintained, from the day it was initiated Figure 2. Reported time length of blogs that had been maintained, from the day it was initiated As shown in figure 3, nearly two thirds of the respondents indicated that they had updated their blogs last month. Among them, 52.15% (n=97) updated 1-7 times and 12.90% are even more active. There are still 34.95% (n=65) of the respondents reported that they didn’t update their blog. © Online Journal of Communication and Media Technologies 105 © Online Journal of Communication and Media Technologies 105 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Figure 3. Reported frequency of updating blog in last month. Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Figure 3. Reported frequency of updating blog in last month. As for the average time length for a single piece of blog article, most of the respondents spent not more than one hour. 61.08% (n=113) of the respondents write one article within 30 minutes while it cost 30 minutes to 1 hour for another 30.27% (56) to write a piece of blog article. Figure 4. Reported time lengths on one piece of blog Figure 4. Reported time lengths on one piece of blog To sum up, the majority of the respondents are experienced blogger; most respondents are To sum up, the majority of the respondents are experienced blogger; most respondents are 106 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 active users who frequently updated their blogs last month. The main body of the respondents spent limited time on each article. The usage pattern implied that blogging may firmly exist as part of the respondents’ daily life. Why Bloggers Start a Blog As shown in Table 5, when asked to select main reasons for initiating a blog, the highest percentage (34.7%) of responses indicated that the main reason was documenting everyday feelings. Other reasons endorsed most were following the Crowd (16.6%), expressing opinion (14.5%), and storing material (10.0%). Less emphasis was put on social interaction oriented reasons; for others’ invitations, sharing materials, making more friends and for fame together composed 20.5% of selection. A notable reason reflecting influence of others is following the crowd; however, this factor also implies that bloggers may be promoted by curiosity. Table 5. Reasons of Initiating a Blog Reasons responses N Percentage Documenting everyday feelings 132 34.7% Following the flow 63 16.6% Expressing opinions 55 14.5% Storing materials 38 10.0% For others’ invitations 35 9.2% Sharing materials 29 7.6% Making more friends 11 2.9% Other reasons 9 2.4% Assisting study or work 5 1.3% For fame 3 0.8% © Online Journal of Communication and Media Technologies 107 107 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 How bloggers maintain blogs: relationship between motivation and behavior Bloggers evaluated the 5 motivations of blogging and 5 behavior characteristics. Highest mean score was found on pouring out thoughts/emotion while lowest mean score was on using blog to become a focus person. Other items obtained relatively medium scores. Mean scores for each item and factors were presented in Table 6, Table 7 and Table 8. © Online Journal of Communication and Media Technologies 108 scores for each item and factors were presented in Table 6, Table 7 and Table 8. Table 6. Evaluations of Items Motivation Items Mean Std. Deviation Gaining support on viewpoint form others 3.03 1.15 Communicating with other bloggers 2.66 1.18 Using blogs to become a focus person 1.72 0.90 sharing materials 3.05 1.10 Pouring out thoughts/emotion 4.06 0.91 Behavior Items Mean Std. Deviation I’m unwilling to share my blog to those who are not familiar to me 3.08 1.24 If there is more attention, I will spend more energy on writing blog 3.32 1.07 I would like to express my thoughts restrictedly 3.17 1.05 I would like to show more linkage in my blog 2.68 1.06 I would like to link my blog to blogospheres 2.75 1.70 Table 7. Evaluation for Motivation Factors Motivation factors Mean Std. Deviation Social connection 2.61 0.75 Table 6. Evaluations of Items Motivation Items Mean Std. Deviation Gaining support on viewpoint form others 3.03 1.15 Communicating with other bloggers 2.66 1.18 Using blogs to become a focus person 1.72 0.90 sharing materials 3.05 1.10 Pouring out thoughts/emotion 4.06 0.91 Behavior Items Mean Std. Deviation I’m unwilling to share my blog to those who are not familiar to me 3.08 1.24 If there is more attention, I will spend more energy on writing blog 3.32 1.07 I would like to express my thoughts restrictedly 3.17 1.05 I would like to show more linkage in my blog 2.68 1.06 I would like to link my blog to blogospheres 2.75 1.70 Table 7. Evaluation for Motivation Factors Motivation factors Mean Std. Deviation Social connection 2.61 0.75 © Online Journal of Communication and Media Technologies 108 108 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Life documenting 3.14 0.63 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Life documenting Table 8. Evaluation for Behavior Factors Motivation Items Mean Std. © Online Journal of Communication and Media Technologies How bloggers maintain blogs: relationship between motivation and behavior Deviation Self-restriction on expression 2.35 0.78 Interaction-oriented behavior 2.89 0.73 Table 8. Evaluation for Behavior Factors Relationships between motivations and behaviors were tested by partial correlations; controlling gender, age, blogging experience, as well as other determinants. Main findings of the study are shown in Table 9. Table 9. Result of Model Testing Self-restriction on expression Interaction-oriented behavior Partial correlation coefficient p Partial correlation coefficient p Social connection -.013 .865 .544 .000 Emotion pouring .170 .025 .094 .218 Table 9. Result of Model Testing Table 9. Result of Model Testing More specifically, this study found following findings: 1. Social connection motivation is significantly positively related to interaction-oriented behavior, such that the higher blogging is deemed to increase social connection, the more interaction the blogger will tend to exhibit in blogging. Therefore, hypothesis 2 is supported. 1. Social connection motivation is significantly positively related to interaction-oriented behavior, such that the higher blogging is deemed to increase social connection, the more interaction the blogger will tend to exhibit in blogging. Therefore, hypothesis 2 is supported. 2. Emotion pouring motivation is positively related to self-restriction on expression, so that the more the blogger tend to pour their emotion in blog, the more restriction they will put on expression and be more cautious in expression. Therefore, hypothesis 3 is supported. 3. Social connection motivation is not significantly related to self-restriction. Hypothesis 1 is rejected. 3. Social connection motivation is not significantly related to self-restriction. Hypothesis 1 is rejected. © Online Journal of Communication and Media Technologies 109 109 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 4. Emotion pouring motivation is not significantly related to Interaction-oriented behavior; hence, hypothesis 4 is rejected. 4. Emotion pouring motivation is not significantly related to Interaction-oriented behavior; hence, hypothesis 4 is rejected. For further investigation, this study also found that gender has significant effect on blogging behavior. Female students were found to put more self-restriction on expression in blogging (r=-.162, p<.05). It is also found in females that, emotion pouring motivation is positively related to self-restriction behavior (r=.246, p<.05), while there is no such significant relationship among that of males (r=.082, p=.463). © Online Journal of Communication and Media Technologies 110 Discussion and Conclusion This study starts by the question of relationships between motivation and behavior pattern, which may partly help explaining the reasons of stickiness to blog and self-disclosure or self-censorship in blogging. Among various previous studies, Nardi’s classification on motivations (Nardi, etc, 2003), models raised by Huang, etc (Huang, Shen, Lin, and Chang, 2007) and questions mentioned in Jin’s research on stickiness to blogging (Jin, 2007) are especially stimulating in developing the model adopted in this study. Compared to these studies, the most prominent difference involved in this study is that both the constructs of motivation and behavior are briefly divided into two sub-dimensions concerning extrinsic stimulation and intrinsic dynamic. In terms of reasons for initiating blogs, intrinsic motivations were ranked at the front instead of extrinsic motivations. It is understandable that university students’ social network is of relatively smaller size comparing with people of older ages; thus, practicing a new type of diary, curiosity and thoughts on following the crowd may have more influence rather than the social connection motivations in registering a new blog. In regards of testifying the model, as shown in figure 5, only the hypothesis that social connection motivation is positively related to interaction-oriented behavior and emotion pouring motivation is positively related to self-restriction behavior are supported. These 110 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 findings imply that: (a) social connection motivation may not be conflicting with self-restriction on expression; people may be highly involved into online social connection activities and protect their privacy or be cautious about speaking out true opinion at the same time; (b) the similar rationale may also be applicable to relationship between emotion pouring motivation and interaction-oriented behaviors since bloggers may release their tensions or talk out feelings to their intimate friends or those who are outside of the bloggers’ real life circle, therefore, this motivation may also increase degree of online social interaction. Note: Significant path Non significant path Figure 5. Results of hypothesis testing H3+ Self-restriction on expression Interaction-oriented behavior Social connection Emotion pouring H1- H2+ H4- Self-restriction on expression Social connection H3+ Interaction-oriented behavior Figure 5. Results of hypothesis testing Further more, gender has significant influence on behavior, females tends to put more self-restriction on expression. © Online Journal of Communication and Media Technologies 111 Discussion and Conclusion The positive relationship between emotion pouring motivation and self-restriction behavior noticed in the whole sample is largely contributed by behavior of females since there was no such significant relationship found in that of males. Although not included in the proposed research design, a series of regressions were still conducted to predict blog usage pattern (years of blogging, update times in last month and time spent on each article). It is found that, as shown in Table 10, gender and age have larger effect on predicting blog usage pattern. Compared with males, females tend to update blogs more frequently last month and spent more time on each article. Older bloggers had longer experience of blogging and spent more time on each article. As for the motivations, only the 111 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 motivation of communicating with other bloggers is significantly related to update times in last month, indicating that the more the bloggers are motivated by communication need, the more frequently they may update their blogs. Table 10. Blog Usage Pattern Years of blogging (β) Update times in last month (β) Time spend on each article (β) Motivation items Communicating with other bloggers .163* Becoming a focus person Sharing my materials Document my thoughts/emotion .182* Gaining supports from others on my viewpoint Demographics Gender (reference=female) -.198** -.153* Age .223** R2 .077 .060 .079 Adjusted R2 4.0% 2.2% 4.2% Notes: # p<.1; * p<.05 Table 10. Blog Usage Pattern This undesignedly extended analysis not only reveals the limitation of this study but also hints further directions in this topic. For the first thing, it confirms that the reliability and validity of the original scale need a great deal of improvement; for the second thing, the blog management is greatly affected by gender and age, suggesting that the model proposed in this study may also affected by the demographic factors; third, the categorization of the motivations and behaviors are still too rough that the intention of this study to categorize bloggers simply by the factors and items adopted in this study may be confronted with a great number of challenges. Therefore, a more specific scale needs to be addressed into analyzing blogging motivation, behavior and update management. Discussion and Conclusion Models concerning more moderators like personality and demographic factors might be more convincing in investigating blogging motivations and behaviors. © Online Journal of Communication and Media Technologies © Online Journal of Communication and Media Technologies 112 112 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Reference Documenting everyday feelings B. Following the flow C. Storing materials D. Expressing personal opinions E. Making more friends F. Sharing materials G. For fame H. For others’ invitations I. Assisting study or work J. Other reasons Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 © Online Journal of Communication and Media Technologies Reference Brady, M. (2006). Blogs: Motivations behind the Phenomenon. Information Communication and Society Conference, 12-14. September 2006, University of York, York, UK. Available at http://www.essex.ac.uk/chimera/content/pubs/wps/CWP-2006-17-blog-motivations.pd f. Retrieved on Mar, 17, 2009. http://www.essex.ac.uk/chimera/content/pubs/wps/CWP-2006-17-blog-motivations.pd f. Retrieved on Mar, 17, 2009. f. Retrieved on Mar, 17, 2009. Chou, L-H (2005). The Research of Blog User and User Behavior. Unpublished Master Thesis. Taiwan: Dept. of Information Communication, Yuan-ze University. Efimova, L. (2003). Blogs: The stickiness factor. Available at https://doc.telin.nl/dscgi/ds.py/Get/File-34088. Retrieved on Mar, 16, 2009. Fung, H-Y. (2006). Weblogging in Hong Kong: Motivations and Self-Disclosure. Graduation project for Master of Science in New Media, School of Journalism and Communication, The Chinese University of Hong Kong. Huang, C-Y., Shen, Y-Z., Lin, H-X., and Chang, S-S. (2007), Bloggers’ Motivations and Behaviors: A Model. Journal of Advertising Research, 47(4): 472-484. Jin, J-B. (2007), The stickiness determinants of blogging: from the perspective of user acceptance of information technology. Conference Papers -- International Communication Association, 2007 Annual Meeting. Lenhart, A., & Fox ,S. (2006). Bloggers: a portrait of the Internet’s news storytellers. Pew Internet & American Life Report, July 19, 2006: Available at http://www.pewinternet.org/~/media//Files/Reports/2006/PIP%20Bloggers%20Report %20July%2019%202006.pdf.pdf. Retrieved on Mar, 17, 2009. Liu, S-H., Liao, H-L., and Zeng, Y-T. (2007) Why people blog: an expectancy theory analysis. Issues in Information System, 8(2):232-237. Menchen-Trevino, E. (2005) Blogger motivations: power, pull and positive feedback. Available at http://blog.erickamenchen.net/MenchenBlogMotivations.pdf. Retrieved on April, 3, 2009. Nardi, B. A., Schiano, D.J. , Gumbrecht, M. & Swartz, L. (2004). Why We Blog. Communications of the ACM. 47 (12): 41-46. Available at http://technorati.com/blogging/state-of-the-blogosphere/. Retrieved on Mar 17, 2009. Ryan, R., & Deci, E. (2000). Intrinsic and extrinsic motivations: classic definitions and new directions. Contemporary Educational Psychology. 25(4): 54-67. Viegas, F. (2004). Blog Survey: Expectations of Privacy and Accountability. Available at http://web.media.mit.edu/~fviegas/survey/blog/results.htm. Retrieved on April, 20. 113 © Online Journal of Communication and Media Technologies Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 Appendix: Key items and scales Reasons for initiating blogging (you could chose more than one A. Documenting everyday feelings B. Following the flow C. Storing materials D. Expressing personal opinions E. Making more friends F. Sharing materials G. For fame H. For others’ invitations I. Assisting study or work J. Other reasons Appendix: Key items and scales Reasons for initiating blogging (you could A. © Online Journal of Communication and Media Technologies Appendix: Key items and scales Reasons for initiating blogging (you could chose more than one reason) Motivations of maintaining blog (5-point scale, with 1 refers to “strongly disagree” and 5 f t “ t l ”) E. Gaining support on my viewpoint from others Behaviors (5-point scale, with 1 refers to “strongly disagree” and 5 refers to “strongly agree”) A. Unwilling to share my blog to those who are not familiar to me B. There are more articles originated by me rather than others in my blog C. If there is more attention, I will spend more energy on writing blog D. I will express my thoughts restrictedly E. I would like to show more linkage in my blog F. I would like to link my blog to blogospheres Updating management 1. When did you originally register the blog A. <1 month B. 1-6 months C. 6-12 months D. 1-3 years E. > 3 years 2. How many times did you update your blog in last month? A. 0 B. 1-7 C. 8-14 114 © Online Journal of Communication and Media Technologies Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 D. 15-21 E. 22-28 F. 29 or more Online Journal of Communication and Media Technologies Volume: 1 – Issue: 4 – January - 2012 D. 15-21 E. 22-28 F. 29 or more 3. How long will you spend on writing an article in your blog in average? 3. How long will you spend on writing an article in your blog in average? 3. How long will you spend on writing an article in your blog in average? A. <30 minutes B. 31-60 minutes C. 61-120 minutes D. >120 minutes 115 © Online Journal of Communication and Media Technologies © Online Journal of Communication and Media Technologies
https://openalex.org/W1975885903
https://www.scielo.br/j/spmj/a/jc5t4ZMPMSxLfKGYjMmkwLp/?lang=en&format=pdf
English
null
Iron stores and coagulation parameters in patients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: the effect of phlebotomies
São Paulo medical journal
1,997
cc-by
4,576
José Antônio Baddini Martinez, Celso Carlos de Campos Guerra, Luiz Eduardo Nery, José Roberto de Brito Jardim José Antônio Baddini Martinez, Celso Carlos de Campos Guerra, Luiz Eduardo Nery, José Roberto de Brito Jardim Iron stores and coagulation parameters in patients with hypoxem' c polycythemia secondary to chronic obstructive pulmonary disease: The effect of phlebotomies p y p From the Respiratory and Hematology Divisions, Universidade Federal de São Paulo/Escola Paulista tle Medicina - São Paulo, Brazil. This study was designed to determine the effects of phlebotomy on iron body contents and coagulation tests of COPO patients with po'ycythemia secondary to hypoxemia. Seventeen patients with COPO and hematocrits higher than 54 percent (mean Hct: 57 :t 0.49 percent ), who had not received anti-inflammatory or antiplatelet aggregation agents recently.Their mean forced expiratory volume at 1 second (FEV1) was 0.92:t 0.11 L. Intervention: Blood work was collected to evaluate the following: serum iron and ferritin leveis, total iron binding capacity, transferrin saturation index, fibrinogen plasma leveis, activated partial thromboplastin time, platelet count, plate- let aggregation measurements, and thromboelastography coagulation parameters. The blood samples were obtained before and about 7 days after the hematocrit correction by 300-400 ml phlebotomies done every other day.The mean number of phlebotomies done for each patient was 4.4. Postphlebotomy iron serum leveis decreased from 90.1 :t 14.8 to 59.7:t 9.9 mg/dl and the ferritin serum leveis from 133.8 :t 37.9 to 70.8 :t 32.7 ng/ml (p< 0.05). Regarding the coagulation studies, there were significant increases in the platelet count, from 227,300 :t 13,900 to 312,500 :t 30,200 per mm3, and in the maximum clot amplitude (a) obtained by thromboelastography ( from 53.6 :t 1.4 percent to 60.4 :t 1.1 percent). The coagulation time (k) of the thromboelastography also decreased significantly, from 7.5 :t 0.7mm prephlebotomy to 4.5 :t 0.3mm postphlebotomy. Although the coagulation changes were small amount, the observed significant decrease in iron contents may have important clinicai implications. UNITERMS: Secondary polycythemia; repetitive phlebotomies; iron deficiency; coagulation; chronic obstructive pulmonary disease UNITERMS: Secondary polycythemia; repetitive phlebotomies; iron deficiency; coagulation; chronic obstr São Paulo Medicai Journal/RPM 115(2): 1395-1402, 1997 MARTINEZ, J.A.B.; GUERRA,C.C.C,; NERY, L.E. et aI. - lron stores and coagulation parameters in patients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: The effect of phlebotomies INTRODUCTION In a group of patients performing exercise studies in ergometer, the maximum workload and oxygen consumption have increased 31 and 16 percent respectively, when the mean Htc had decreased from 62 to 50 percent,x These effects are not secondary to changes in respiratory mechanics or blood gases.2.4.S.7-10Rather, it seems they result from improvements in hemodynamic conditions related to a better blood viscosity.3.11-13 B B loodlettings, or phlebotomies, are still adyocated in the care of chronic obstructive pulmonary disease (COPD) patients with cor pulmonale and severe secondary polycythemia.1 Several authors have shown that hematocrit (Hct) reductions in hypoxemic patients with COPD and polycythemia are followed by improvement in general symptoms,2-S mental activity2-6 and exercise performance.2-4.7.8 Although a great deal has been published in this field, no attention has been paid to the potential hematological consequences of phlebotomies. Similarly to what happens with blood donors and during the treatment of hemochromatosis, repeated phlebotomies in COPD patients could lead to reductions in their iron body contents.14.1S Iron deficiency states may run with decrements in work performance secondary to drops in Address for correspondence: José A. B. Martinez MO Address for correspondence: José A. B. Martinez MO Address for correspondence: José A. B. Martinez MO Disciplina de Pneumologia (Lung Division) UNIFESP/EPM Rua Botucatu, 740 - Vila Clementino São Paulo/SP - Brasil - CEP 04023-900 Address for correspondence: José A. B. Martinez MO Address for correspondence: José A. B. Martinez MO Disciplina de Pneumologia (Lung Division) UNIFESP/EPM Rua Botucatu, 740 - Vila Clementino São Paulo/SP - Brasil - CEP 04023-900 Disciplina de Pneumologia (Lung Division) UNIFESP/EPM Rua Botucatu, 740 - Vila Clementino São Paulo/SP - Brasil - CEP 04023-900 São Paulo/SP - Brasil - CEP 04023-900 1396 with readings made with a Colelnan 6/20 spectrophotometer. Ferritin serum leveIs were also evaluated by a commercially available enzymatic immunoassay (FerrizYlne TM@- Abbot Laboratories). The transferrin saturation index (TSI) was calculated as the percentile ratio between serum iron leveIs and TIBC. helTIoglobin leveIs, and disturbances in muscular oxidative metaboIism.1ó In the case of reductions in iron body contents actualIy deveIoping in COPD patients folIowing phlebotomies, the former could act as limiting factors for expected exercise improvements. In addition, polycythemia is a welI known risk factor for thrombosis,17 and lnany studies. suggest that COPD patients have a higher tendency to have thromboembolic episodes.IX-20 SOlne studies of thrombotic risk in COPD have shown an increased tendency towards coagulation with altered values in the throlnboelastogram, hyperfibrinogemia and increased platelet aggregation.1x'21-2 Therefore, we hypothesized that a reduction in Hct leveIs by phlebotolnies could aIso have a favorable effect on decreasing s'uch thrombotic risk. - PlateIet count, made in an automatic counter Clay Adams modeI Ultra-FIo. - PlateIet count, made in an automatic counter Clay Adams modeI Ultra-FIo. - Platelet aggregation determinations by the Born lnethod in a Chronolog aggregometer.2ó The aggregation agents ADP in concentrations of 1 mM and 3 mM, epinephrine at 1:1000 dilution, and hUlnan colIagen were used in salnples froln each patient. The percentage of aggregated pIatelets was caIculated at a curve point corresponding to an interval of 5 minutes from the initial. stimulus for each aggregation agent. PATIENTS AND METHODS Patient Selection Patient Selection - Throlnboelastography (TEG), using a Hartert throlnboelastograph lnade by HelIige. This test exalnines the entire bloocl coaguIation process and the interaction of alI involvecl cOlnponents.27 The reaction tilne r, the coagulation time k, and the lnaxil11um cIot alnpIitude a , were lneasured using a special ruIer on the developed filmo Seventeen with COPD and polycythelnia ( Hct 54 percent or more) patients were studied after signing an informed consent formo All patients were in stable respiratory conditions, without clinicaI evidence of right or left ventricular faiIure. They had not been under any antiplatelet or anti-inflammatory agent for at least the prior 10 days, and.during the study period there were no changes in their daily medications. None of the patients showed clinicaI evidence ofblood loss or were using oxygen at that time. Statistical Methods All data are expressed as the mean :t standard error. The WiIcoxon test was used in the statistical analysis for the nonindependent variables. A. leveI of 5 percent was fixed as the litnit for rejection of the null hypothesis. Following an initiallaboratory evaIuation, phlebotomies of 300 to 400 ml were perfonned every other day until a venous Hct value around 45 percent was reached (range: 41- 48 percent). A second set of laboratory tests was then performed about 7 days after the last phlebotomy 'session. MARTINEZ, J.A.B.; GUERRA,C.C.C,; NERY, L.E. et aI. - Iron stores and coagulation parameters in patients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: The effect of phlebotomies São Paulo Medicai Journal/RPM 115(2): 1395-1402, 1997 Coagulation Studies Coagulation tests were performed on 3.8 percent sodium citrate venous blood samples collected simuItaneously with the iron blood work. The following determinations were made: - Activated paltial thromboplastin time (APTT) using human cephalin.24 The results were expressed as the ratio to the control values for the Iaboratory on that day. The present study investigates the effects of the Hct correction by repeated phlebotomies on paralneters of hemostasis and body iron contents in COPD patients with severe secondary hypoxemic polycythemia. - Fibrinogen plasma leveIs, assessed by the Ratnoff- Menzie Inethocl.25 - PlateIet count, made in an automatic counter Clay Adams modeI Ultra-FIo. Coagulation Studies Coagulation Studies studies. The second set of blood tests were collected 8.7 :t 1.3 days after the Iast phlebotomy. The time between blood collection and actuaI sample analysis was no longer than two hours in every case. Coagulation studies obtained before and after phlebotomies are listed in Table 3. Ali the initial Inean values were within the norlnal limits' of the authors' laboratory except for the r paralneter of the TEG, vvhich was slightly increased. No significant decreases were seen in the Inean APTT and fibrinogen leveIs after phlebotolnies. The platelet count significantly increased fronl 227,3001Inln3 to 312,000/mm3 after the procedure. Fifteen patients (88.2 percent) showed an increase in the MARTINEZ, J.A.B.; GUERRA,C.C.C,; NERY, L.E. et aI. - lron stores and coagulation parameters in pa~ients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: The effect of phlebotomies São Paulo Medicai JournallRPM 115(2): 1395-1402, 1997 Iron Stores Measurements Thirteen male and four female patients were studiecl. Most of theln had severe or 1110derate COPD with arterial hypoxemia (Table 1). The mean Hct fell frol1157 percent before phebotolnies to 45 percent at the time of the final Venous blood samples with no anticoagulant were collected from fasting patients in the Inorning. Iron seruln leveIs and seruln total iron binding capacity (TIBC) were measured using a commercialIy available kit (Iron Roche@) 1397 Table 1 Patient Summary Age FEV1 FVC/FEV1 Pa02 Hct Pre Hct Post No. Gender yr L % mmHg % % 1 M 53 1.17 50 47 54 45 2 M 44 0.82 38 39 55 48 3 M' 60 0.71 35 44 54 44 4 M 63 0.59 31 49 57 45 5 M 44 0.65 38 45 60 45 6 F 36 0.47 47 42 57 41 7 M 50 1.46 50 46 63 44 8 F 72 0.48 45 38 56 46 9 M 28 0.57 36 42 58 47 10 M 75 1.19 45 49 60 47 11 M 67 1.41 60 53 58 44 12 M 70 1.68 60 51 55 45 13 F 42 0.65 32 46 56 43 14 F 68 0.44 37 49 58 44 15 M 70 0.62 35 53 57 46 16 M 35 1.88 49 52 55 45 17 M 66 0.93 28 59 55 42 Mean 55:t3.6 0.92:t .11 42:t2.4 47:t1.2 57:t.49 45:t.49 Coagulation Studies MARTINEZ, J.A.B.; GUERRA,C.C.C,; NERY, L.E. et aI. - lron stores and coagulation parameters in pa~ients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: The effect of phlebotomies São Paulo Medicai JournallRPM 115(2): 1395-1402, 1997 Iron Measurements Figure 1- Iron and ferritin individual values for COPO patients submitted to sequencial phlebotomies. platelet count, 4 of them with final measurements beyond 400,OOO/mm.3 Studies of platelet aggregation made with different stimulant agents did not show any significant postphlebotomies change. Adequate thromboelastography studies before and after phIebotomies could not be obtained in 4 patients due to technical problems. In the 13 studied subjects, a significant decrease was noticed in k during the final studies. Although r also experienced a decrease, such change did not reach statistical significance. Finally, a values showed a significant postphlebotomies increase. Experimental studies on rats have found that mild and severe iron deficiency are associated with deficits 9f cytochrome c and mioglobin in skeletal muscle.33 FINCH et a1.34 completed studies of work performance on iron- deficient rats, keeping hemoglobin leveIs constant through exchange transfusions. It was seen that iron-deficient rats had a significant shorter running time than çontrols with similar hemoglobin leveIs. After 4 days of iron administration, the iron-deficient group achieved normal running times. Iron Measurements TIBC: serum total iron *p< 0.05 Iron cont There were significant decreases in the serunl leveIs of iron, ferritin and TSI postphlebotolny (Table 2). Twelve Norm 50 20 2 Iron, mg/dl TIBC, mg/dl TSI, % a decrease in iron patients (70 percent) showed concentrations and in 7 of these it remained below 50 percent of the initial value. Falls in ferritin leveIs were seen in 16 patients (94 percent). Such decreases were greater than 50 percent from the baseline values in 12 (70 percent) of the subjects. In 8 patients (47 percent), the final ferritin values were below 10 ng/ Inl, indicating severe iron depletion (Fig. 1). TIBC: serum total iron binding capacity; TSI: transferin saturation indexo *p< 0.05 Table 2 Iron contents measurements (Mean :!: SE) obtained pre-and postphlebotomy Postphlebotomy 59.7:t 9.9* 399.9 :t 20.0 16.7:t 3.6* Prephlebotomy 90.1 :t 14.8 393.6 :t 27.6 25.4 :t 4.9 Normal Range 50-150 200-400 20-50 Iron, mg/dl TIBC, mg/dl TSI, % Table 2 Iron contents measurements (Mean :!: SE) obtained pre-and postphlebotomy 1398 2). Serum ferritin is a good indicator of iron body stores, and the drop in its leveIs denotes that the tissue iron contents28,29 were also affected. 'OST PK.EBOTOMY r-PCO.os -, PRE PHELEBOTOMY ,-- pc 0.05 -, 300 410 400 250 1 _ 350 E 200 .5._ I z z t= o ~ 250 e: 150 ~ 200 100 150 100 50 50 PRE 'OST PHELEBOTOMY PK.EBOTOMY Figure 1- Iron and ferritin individual values for COPO patients submitted to sequencial phlebotomies. Iron deficiency states may have effects on red blood cells and solid organ tissues. Although it would be expected that iron deficiency could have an inhibitory effect on COPD hypoxic hemopoietic response, this is not always the case. Secondary polycythemia associated to iron deficiency in COPD patients has been described.30,31 Some authors report that iro,n depletion may not be an impeding factor to increases in red cell mass, and that in such cases polycythemia is associated with hypochromic erythrocytes.32 PK.EBOTOMY MY An iron deficiency state may also ed to sequencial di sturb the mu scular oxidati ve metabolism, interfering with the patient's work performance. 16 The tissue haem iron compounds include the cytoçhromes, myoglobin, catalase and peroxidase. In additiQD, muscles harbor non-haem iron-containing enzymes such as NADH dehydrogenase, succinic dehydrogenase and xanthine oxidase. Finally, some enzymes such as aconitase and tryptophan pyrrolase require iron or haem as a cofactor. MARTINEZ, J.A.B.; GUERRA,C.C.C,; NERY, L.E. et aI. - Iron stores and coagulation parameters in patients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: The effect of phlebotomies São Paulo Medicai Journal/RPM 115(2): 1395-1402, 1997 DISCUSSION Biochemical analysis done at that time suggested that an increase in the rate of oxidative phosphorylation with a-glycerophosphate as a substrate played a key role in the improvement of work performance. Non-published data from our laboratory have shown small but significant increases in the maximal work load and oxygen consumption reached by 15 iron-deficient, anemic wom' 4 days after administration ofIV iron-dextran, ev~n though their hemoglobin leveIs had not changed. Phlebotomy may be used in the care of COPD patients in an attempt to reduce detrimental cardiovascular effects of blood hyperviscosity due to polycythemia. The basis for this procedure is the effect of phIebotomy in improving hemodynamic conditions and exercise performance in such patients.2-4,7,8,11-13 However, the effects of this kind of therapy on hemostasis and iron reserves of COPD patients had not been thoroughIy examined before. Therefore, we can hypothesize that COPD patients who show ameIioration of exercise performance after phIebotomies lnight have this effect attenuated if simuItaneous iron deficiency states deveIop. The Our present resuIts showed that the normalization of hematocrits by phlebotomies led to an important reduction in iron body contents. This became apparent by the significant decreases in serum iron, ferritin and TSI (Table 1399 Table 3 Results of coagulation studies (Mean :!: SE) obtained pre-and postphlebotomy Normal Range Prephlebotomy Postphlebotomy APTT 0.90-1.25 1.14:t 0.06 1.06 :t 0.04 Fibrinogen, mg/dl 200-400 262:t 12 236.5 :t 13.2 Platelets/mm3 200,000-400,000 227,300:t 13,900 312,500:t 30.2* Platelet Aggregation ADP 3mM, % 60-80 65.8 :t 5.1 74.1 :t 3.9 ADP 1mM, % 60-80 63.0 :t 6.4 69.8 :t 4.7 Epinephrine, % 60-80 63.3 :t 6.4 64.6 :t 5.9 Collagen, % 60-80 80.0 :t 2.8 78.2 :t 3.2 Thromboelastography# ',mm 7.2-9.6 9.9 :t 0.7 9.0 :t 0.5 k,mm 5.8-7.8 7.5 :t 0.7 4.5 :t 0.3* a,mm 48-60 53.6:t 1.4 60.4:t 1.1* APTT: activated partial thromboplastin time; ADP: adenosine diphosphate; r: reaction time; k coagulation time; a: maximum clot amplitude *p < 0.05; # data from 13 patients Table 3 Results of coagulation studies (Mean :!: SE) obtained pre-and postphlebotomy development of hypochromic red ceIls in such situations could impair oxygen transport to the tissues, even with the presence of a high hematocrit. Furthermore, iron depletion at the skeletal muscle leveI could lead to poor enzymatic function and oxygen utilization. MARTINEZ, J.A.B.; GUERRA,C.C.C,; NERY, L.E. et aI. - Iron stores and coagulation parameters in patients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: The effect of phlebotomies São Paulo Medicai Journal/RPM 115(2): 1395-1402, 1997 MARTINEZ, J.A.B.; GUERRA,C.C.C,; NERY, L.E. et aI. - Iron stores and coagulation parameters in patients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: The effect of phlebotomies São Paulo Medicai Journal/RPM 115(2): 1395-1402, 1997 PTT: activated partial thromboplastin time; ADP: adenosine diphosphate; r: reaction time; DISCUSSION losses during surgery have been described.41 Such changes were documented even 2 hours after surgery and could have accounted for cathecolamine releases related to stress, and the entry into circulation of coagulation factors froln the hepatic interstitial fluido However, our final coagulation tests were performed about 7 days after the last phlebotomy, again making this interpretation less probable. Another possibility is that decreased helnatocrits led to falls in viscosity with better liver perfusion and oxygenation, promoting improvelnent its production of coagulation factors. losses during surgery have been described.41 Such changes were documented even 2 hours after surgery and could have accounted for cathecolamine releases related to stress, and the entry into circulation of coagulation factors froln the hepatic interstitial fluido However, our final coagulation tests were performed about 7 days after the last phlebotomy, again making this interpretation less probable. Another possibility is that decreased helnatocrits led to falls in viscosity with better liver perfusion and oxygenation, promoting improvelnent its production of coagulation factors. In summary, the coagulation tests made after phlebotolny have shown slnall changes towards an augmented coagulability. Such changes could be the result of an organic reaction to bleeding, especially the increase in platelet counting. Although the precise clinicaI meaning of these findings are unknown, the literature contains a reference to a patient with pulmonary artery thrombosis following phlebotomies.42 However, alnong the different tests done, only k reached a final value out of our normal laboratory range. Therefore, we speculate that the detected changes do not represent a harmful thrombotic risk related to the phlebotomies The increase in a Inay also be related to the en)argement' of the platelet counting. Although the fibrinogen leveIs have not changed, the growth in a postphlebotomy may also be in part secondary to a higher availability of fibrinogen for the fibrin network making. In high Hct samples, the total alnount of fibrinogen may not be enough to make a fibrin network capable of strongly containing an increased nUlnber of red cells. Low Hct samples may have proportionally Inore fibrinogen to be Based in the present results, we do oot think the prophylactic adlninistration of anticoagulant agents after phlebotomies in COPD patients is necessary. In addition, we recolnmend oral iron supplementation after phlebotolnies for polycythelnic COPD patients in order to avoid iron deficiency. MARTINEZ, J.A.B.; GUERRA,C.C.C,; NERY, L.E. et aI. - Iron stores and coagulation parameters in patients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: The effect of phlebotomies DISCUSSION inhibitory effect of this metal in throbopoiesis has been described.35 Other studies suggest the presence of an humoral factor, the thrombopoietin, in plasma from animaIs with posthemorrhagic thrombocytosis.37 In opposition to previous reports on COPD patients, we did not observe an increase in platelet aggregation after phlebotomy.'XJX-40Those reports attempted to relate their findings to increases in circulating cathecolamines, especial1y serotonin, secondary to the bleeding. The differences between present and former results lnay be explained by the fact that our blood samples were collected later, around one week after the Iast phlebotomy, when normalization of cathecolamine leveIs probably had already occurred. In order to evaluate the effects of Het correction by phlebotomies on the hemostasis of COPD polycythemic patients, tests were done to assess the intrinsic pathway, platelet and fibrinogen concentrations, platelet aggregation and TEG. A renewed interest in TEG monitoring has been seen recently because its tracing represents the shear elasticity of a blood clot as it forms, matures, retracts and eventuaIIy lyses. This test is extremely sensitive to identify hypercoagulabi lity. 27 The initial evaluation prephlebotomy did not show any evidence of hypercoagulability, since most of the test resuIts were within the normal range for our coagulation laboratory (Table 3). The only exception was the reaction time r, which represents the time required for initiaI fibrin fornlation, which was slightly increased. This last finding indeed is lnore compatible with a hypocoagulability condition. Other significant postphlebotomy changes were an extension of a and shortening of k in the TEG tracings (Table 3). The paralneter a represents the lnaximuln clot strength. The parameter k represents the ~peed of clot forlnation, fibrin crosslinking and platelet-fibrin interaction. Both parameters may be decreased in cases of throlnbocytopenia or hypofibrinogenemia. Although with no statistical significance, the r value also decreased postphlebotomy. The mean platelet count increased significantly after phlebotomy from 227,300 to 312,500 mm3 (Table 3). Increases in platelet number have been reported after chronic and acute blood 10ss.35.36The lnechanisms involved in such rises may be related to iron depletion, since an These last results suggest that improvements in thrombin fonnation have occurred postphlebotomy. This could be a non-specific reaction to bleeding, as increases in coagulation activity measured by TGE following blood 1400 used in the fibrin network, producing clots with greater texture. São Paulo Medicai Journal/RPM 115(2): 1395-1402, 1997 São Paulo Medicai Journal/RPM 115(2): 1395-1402, 1997 REFERENCES 17. Schafer AL. The hypercoagulable states. Ann Intern Med 1985; 102:814-28. 18. Cordova C, Musca A, Violi F, Perrone F, Alessandri C, Marigliano V, Balsano F. Pathophysiological and clinicaI research on the platelet hyperaggregation in patients with chronic respiratory failure. BulI Europ Physiopatol Respir 1980;16:113-5. 1. Kingler JR, HiU NS. Right ventricular dysfunction in chronic obstructive pulmonary disease. Chest 1991 ;99:715-23. 2. Harrison BDW, Gregory RJ, Clark TJH, ScoU BW. Exchange transfusion with Dextran 40 in polycythaemia secondary to hypoxic lung disease. Br Med J 1971 ;4:7136. 19. MitchelI RS, Silvers G, Dart GA, Petty TL, Vicent TN, Ryan SF, FilIey GF. ClinicaI and morphologic correlations in chronic airway obstruction. Am Rev Respir Dis 1968;97:54- 62. 3. Harrison BDW, Daws J, Madgwick RG, Evans M. The effects of therapeutic decrease in packed cell volume on the responses to exercise of patients with polycythaemia secondary to lung disease. Clin Sci 1973;45:833-47. 20. Ryan SF. Pulmonary embolism and thrombosis in chronic obstructive emphysema. Am J Pathol 1963;43:767-73. 21. Balsano F, Cordova C, Musca A, Perone A, Violi F. Ruolo deI metabolismo pulmonary sull'emocoagulazione in fisiologia in clinica ed in terapia. CI Terap 1977;80:513-7. 4. Wedzicha JA, Rudd RM, Apps MCP, Cotter FE, Newland AC, Empey DW. Erythrapheresis in patients with polycythaemia secondary to hypoxic lung disease. Br Med J 1983;286:511-4. 22. Brun J, Biot N, Perryn-FayolIe M, Sab H. Les troubles de la coagulation sanguine au cours de I'insuffisance respiratoire cronique: Deductions therapeutiques. Poumon Couer 1962;18:181-194. 5. Dayton LM, McCullough RE, Scheinhorn DJ, Well JV. Symptomatic and pulmonary response to acute phlebotomy in secondary polycythemia. Chest 1975;68:785-90. 23. Gaida A, Ghio G. Emocoagulazione e fibrinolisi nelI'enfisema polmonare. Minerva Med 1964;55:2122-5. 6. Bornstein R, Meron D, York E, Sproule B, Zak C. Effects of venesection on cerebral function in chronic lung disease. Can J Neurol Sci 1980;7:293-6. 24. Chanarin L Laboratory haematology: an account of laboratory techniques, 1st ed. Edinburgh: Churchill Livingstone, 1989:274-5. 7. Chetty KG, Brown SE, Light RW. Improved exercise tolerance of the polycythemic lung patient following phlebotomy. Am J Med 1983;74:415-20. 25. Ratnoff OD, Menzie C. A new method for determination of fibrinogen in small samples of plasma. J Lab Clin Med 1951 ;37:316-20. 8. Chetty KO, Light RW, Stansbury DW, Milne N. Exercise performance of polycythemic chronic obstructive pulmonary disease: Effect of phlebotomies. Chest 1990;98: 1073-7. 26. Born GVR. MARTINEZ, J.A.B.; GUERRA,C.C.C,; NERY, L.E. et aI. - lron stores and coagulation parameters in patients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: The effect of phlebotomies São Paulo Medicai JournallRPM 115(2): 1395-1402, 1997 Aggregation of blood platelets by adenosine diphosphate and its reversal. Nature 1962; 194:327-9. 9. Massaro D, Katz F. Effect of venesection on arterial gas values and ventilatory function in patients with chronic bronchitis. Thorax 1965 ;20:441-6. 27. Spiess BD, DavalIe M. Coagulation monitoring in the surgical intensive care unit. Crit Care Clin 1988;4:605-20. 28. Milnan N, Pedersen NS, Visfeldt 1. Serum ferritin in healthy Danes: Relation to marrow haemosiderin iron stores. Dan Med BulI 1983;30: 116-20. 10. Patakas DA, Christaki PI, Louridas GE, Sproule BJ. Control of breathing in patients with chronic obstructi ve lung disease and secondary polycythemia after venesection. Respiration 1986;49:257-62. 29. Walters GO, Miller FE, Worwood M. Serum ferritin concentration and iron stores in normal subjects. J Clin Path 1973;26:770-2. 11. Rakita L, Gillespie DG, Sancetta SM. The acute and chronic effects of phlebotomy on general hemodynamics and pulmonary functions of patients with pulmonary elnphysema. Am Heart J ] 965;70:466-75. 30. Tura S, Pollycove M, Gelpi AP. Erythrocyte and ironkinetics in patients with chronic pulmonary emphysema. J Nucl Med 1962;3: 110-25. 12. Segel N, Bishop JM. The circulation in patients with chronic bronchitis and emphysenla at rest and during exercise, with special reference to the influence of changes in blood viscosity and blood volume on the pulmonary circulation. J Clin Invest 1966;45: 1555-68. 31. Shaw DB, Simpson T. Polycythemia in emphysema. Q J Med 1961 ;30: 135-52. 32. Stradling JR, Lane DJ. Development of secondary polycythaemia in chronic airways obstruction. Thorax 1981 ;36:321-5. 13. Weisse AB, Moschos CB, Frank MJ, Levinson GE, Cannila JE, Regan T1. Hemodynamic effects of staged helnatocrit reduction in patients with stable cor puhnonale and severel elevated hematocrit leveIs. Am J Med 1975;58:92-8. 33. Siimes MA, Refino C, Dallman PRo Manifestations of iron deficiency at various leveIs of dietary iron intake. Am J Clin Nutr 1980;33:570-4. 34. Finch CA, Miller LR, Inamdar AR, Person R, Seiler K, Mackler B. Iron deficiency in the rat: Physiological and biochemical studies of muscle dysfunction .. J Clin Invest 1976;58:447-53. 14. Lieden G. Iron state in regular blood donors. Scand J I-Iaematol.1973;11 :342-9. 15. Propper R, Nathan D. ClinicaI removal of iron. Ann Rev Med 1982;33:509-19. 35. Krizsa A. Study on the development of posthaemorrhagic thrombocytosis in rats. Acta Haemat 1971 ;46:228-31. 16. Dallman PRo Manifestations of iron deficiency. Semin Hematol 1982; 19: 19-30. São Paulo Medicai JournallRPM 115(2): 1395-1402, 1997 1402 36. MARTINEZ, J.A.B.; GUERRA,C.C.C,; NERY, L.E. et aI. - lron stores and coagulation parameters in patients with hypoxemic polycythemia secondary to chronic obstructive nl Jlm()n~ rv rli~A~~A' ThA AffAr.t ()f nhIAh()t()miA~ São Paulo Medicai Journal/RPM 115(2): 1395-1402, 1997 Karpaktin S, Garg SK, Fredman ML. Role of iron as a regulator of thrombopoiesis.Am J Med 1974;57:521-5. 40. Cordova C, Musea A, Perrone A, Violi F, Alessandri C, Marigliano V. Possibile ruolo deIla serotonina nel determinismo deIla iperaggregazione piastriniea dopo sal asso in pazienti eon insufieienza respiratoria eroniea. CI Terap 1979;90:489-501. 37. Weintraub A, Khan I, Karpatkin S. A splenie dependent thrombopoietie faetor in ehronie blood loss plaslna. Clin Res 1974;22:411A. 41. Tuman KJ, Spiess BD, Me Carthy RJ, Ivankovieh AD. Etfeets of progressive blood Ioss on eoagulation as measures by thromboelastography. Anesth AnaIg 1987;66:856-63. 38. Cordova C, Musea A, Violi F, Alessandri A, Perrone A, Balsano F. Platelet hyperfunetion in patients with ehronie airways obstruetion. Eur J Respir Dis 1985;66:9-12 42. Chamberlain DA, MilIard FJC. The treatment of polyeythaemia seeondary to hypoxie lung disease by continuous oxygen administration. Q J Med 1963;32:341-50. 39. Musea A, Cordova C, Violi F. The thrombogenie risk in ehronie res .ratory failure. Adv Exp Med Bio11984; 164:369- 375.
https://openalex.org/W2158415064
https://europepmc.org/articles/pmc3368319?pdf=render
English
null
Circulating Tumor Cells Measurements in Hepatocellular Carcinoma
International journal of hepatology
2,012
cc-by
15,023
Hindawi Publishing Corporation International Journal of Hepatology Volume 2012, Article ID 684802, 16 pages doi:10.1155/2012/684802 Hindawi Publishing Corporation International Journal of Hepatology Volume 2012, Article ID 684802, 16 pages doi:10.1155/2012/684802 Hindawi Publishing Corporation International Journal of Hepatology Volume 2012, Article ID 684802, 16 pages doi:10.1155/2012/684802 Review Article Circulating Tumor Cells Measurements in Hepatocellular Carcinoma Franck Chiappini INSERM U785, AP-HP Hˆopital Paul Brousse, Centre H´epato-Biliaire, Universit´e Paris-Sud. 14 avenue Paul Vaillant-Couturier, 94800 Villejuif, France Correspondence should be addressed to Franck Chiappini, franck.chiappini@inserm.fr Received 12 January 2012; Accepted 24 March 2012 Academic Editor: Shigeru Marubashi Copyright © 2012 Franck Chiappini. This is an open access article distributed under the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Liver cancer is the fifth most common cancer in men and the seventh in women. During the past 20 years, the incidence of HCC has tripled while the 5-year survival rate has remained below 12%. The presence of circulating tumor cells (CTC) reflects the aggressiveness nature of a tumor. Many attempts have been made to develop assays that reliably detect and enumerate the CTC during the development of the HCC. In this case, the challenges are (1) there are few markers specific to the HCC (tumor cells versus nontumor cells) and (2) they can be used to quantify the number of CTC in the bloodstream. Another technical challenge consists of finding few CTC mixed with million leukocytes and billion erythrocytes. CTC detection and identification can be used to estimate prognosis and may serve as an early marker to assess antitumor activity of treatment. CTC can also be used to predict progression-free survival and overall survival. CTC are an interesting source of biological information in order to understand dissemination, drug resistance, and treatment-induced cell death. Our aim is to review and analyze the different new methods existing to detect, enumerate, and characterize the CTC in the peripheral circulation of patients with HCC. International Journal of Hepatology 2 International Journal of Hepatology 2 to indicate tumor cells found in distant organs, the tumor spread circulating of liver-derived cells [20, 37, 38]. 2.1. Relevance of Cytokines in HCC Circulating Tumor Cells. HCC tumor has shown to secret a lot of cytokines related to the development of the tumor, like vascular endothelial growth factor (VEGF), transforming growth factor-beta 1 (TGF-β1), Interleukin 8 (IL-8), or tumor-specific growth factor (TSGF). These serum markers are useful to follow-up the development and the prognosis of the HCC but useless to follow-up circulating tumor cells in blood [69]. Because of that the detection of the cytokine(s) and the mRNA marker(s) simultaneously increases the specificity and the sensitivity the methods of detecting CTC. The presence of CTC reflects the aggressiveness nature of a solid tumor. Many attempts have been made to develop assays that reliably detect and enumerate these cells. The clinical results obtained with such assays suggest that in some tumor types, CTC detection and identification can be used to estimate prognosis and may serve as an early marker to assess antitumor activity of treatment. In addition, CTC can be used to predict progression-free survival and overall survival. CTC are an interesting source of biological information in order to understand dissemination, drug resistance and treatment-induced cell death [22, 23, 39–50]. In HCC animal models showed that 10 to 10 000 CTC are capable to initiate new metastasis [20, 51–53]. Even after curative resection, the tumor recurrence rate remains high. Although CTC detection has been applied and well documented in different types of cancer, especially breast cancer, CTC detection is not routinely performed in HCC follow-up and remains in the experimental field. However, CTC detection might bring new interesting information of metastatic process might be used as diagnostic tool of early recurrence and may allow a better patient selection for liver transplantation. Mechanisms of tumor recurrence are still poorly understood. Several arguments point out that HCC tumor cells can infiltrate the blood system as shown by the presence of alpha-fetoprotein mRNA [54–64]. CTC seem to be correlated with poor survival in many types of tumors [54, 55, 57, 58, 62, 64]. 2.2. α-Fetoprotein (AFP). The serum α-fetoprotein (AFP) levels show high levels in newborns and then decline progressively below 10 ng/mL in 300 days of life. International Journal of Hepatology An increase of serum AFP levels can be observed during pregnancy, and in patients with mucoviscidosis, acute hepatitis (30%– 50%), chronic hepatitis (15%–50%), cirrhosis (11%–47%) and other cancers (gastrointestinal, pancreatic, biliary, non- seminomatous germ-cell testicular, and germ cell ovarian). Serum level AFP sensitivity is between 39% to 64% with approximately 60% for a cutoffof 20 ng/mL and decrease to 22% if higher cutoffof 200 ng/mL is used [9, 70–74]. AFP specificity is around 76%–91% with a low predictive value between 9%–32% [9, 70–72]. In addition, the serum AFP level is correlated with the tumor size. 80% of small HCC (<2 cm) do not express AFP. In the other hand, AFP level can be elevated in patients with chronic liver disease with high degree of hepatocytes regeneration such as HCV-infection that show a high level of AFP in absence of malignancy [75, 76]. For these reasons, some additional serological markers used in combination with AFP seem to improve the performance of this biomarker alone, especially in term of sensitivity. However, HCC circulating cells are still difficult to detect, and their presence and amount are poorly correlated with either long-term survival or recurrence in the setting of HCC. Methods of CTC detection have to be highly sensitive and specific. The first technical challenge in this field consists of finding exceptional cells. Just a few CTC are mixed with the approximately 10 million leukocytes and 5 billion erythrocytes in 1 mL of blood. To be useful, the method used to identify circulating tumor cells must also detect all tumor cells and discriminate them from nontumor cells. [22, 37, 39, 40, 43, 47, 48, 65–67]. It is important first to have circulating hepatoma-specific biomarkers to be able to detect the CTC and further to be useful to early diagnosis, monitoring metastasis, or posttreatment recurrences of HCC [68]. Studies were done by using one or two more markers like des-γ carboxyprothrombin (DCP) also called prothrombin induced by vitamin K absence II (PIVKAII) and glycosylated AFP-L3 (Lens culinaris Agglutinin-Reactive AFP) fraction serum levels to diagnose earlier HCC and increasing the sensitivity especially when HCC is associate with cirrhosis, HCV or HBV infection [71, 74, 77–81]. But there is no study that correlates their serum levels and the circulating tumor cell during the HCC development. Because of that serum AFP and mRNA AFP detection can be used. International Journal of Hepatology In this paper, we will first focus on the specific markers of HCC used to detect CTC, follow by the different methods of enrichment of CTC and finally we will describe the new promising methods to study and detect the CTC from the HCC. The relevance of AFP mRNA as a marker of circulating tumor cells is better but is also controversial because these cells have not been further characterized, and it has been shown that they may correspond to normal circulating hepatocytes [58, 82, 83]. Furthermore, these tumor cells have mostly been sought and detected shortly after liver resection [56, 58, 62, 82, 83]. This finding suggests that CTC could spread following liver mobilization or manipulation. Although the mechanisms leading to intra, and extrahepatic recurrences are still unknown, some observations suggest that bone marrow (BM) could also be a specific reservoir of CTC. Indeed, several reports have suggested that tumor cells are from BM origin [84–86]. Hepatic tumor stem cells may 1. Introduction HCC is one of the most aggressive cancers. Patients who show progress over the terminal stage have 1-year survival of less than 10%. The choice of the therapy and the prognosis are dictated by the severity of the liver function, portal hypertension, and medical comorbidities. National and international consensus was established to choose the best treatment adapted for each case and obtain the best prognosis [1, 5–21, 24, 25, 27, 30, 35, 36]. Hepatocellular carcinoma (HCC) is responsible for signifi- cant morbidity and mortality in cirrhosis and also accounts for between 85% and 90% of primary liver cancer [1–3]. Most of HCCs in the world occur in the setting of cirrhosis and over half-million of people develop liver cancer every year and an almost equal number die of it [1, 2, 4]. The most important causes leading to HCC are the HBV and HCV infections, heavy alcohol consumption, aflatoxin B1, age and gender (males are more susceptible than females), race (Asian and African over 20 years old), tobacco consumption, obesity associated with nonalcoholic fatty liver disease, and the increase of the Diabetes II mellitus (that rises the risk factor between 2 and 3), genetic hemochromatosis, primary biliary cirrhosis, and alpha1-antitrypsin deficiency and autoimmune hepatitis [1, 2, 5–32]. In the field of biology of tumors, some expressions have been coined for the different types of circulating cellular elements. The term circulating tumor cells (CTC) defines specifically the tumor cells detected in blood or lymphatic vessels. Circulating cells in the bloodstream or in the lymphatic system are considered to be tumoral microemboli (CTM) and represent a collective migration. The terms disseminated tumor cells (DTCs) and isolated tumor cell (ITC) can be also found in the literature but are usually used to define the cells that can be detected in both the organs and the bloodstream. The word micrometastasis is usually used Usually, HCC develops during a long process of inflam- mation and fibrosis, eventually leading to cirrhosis [2, 16, 33, 34]. 2. HCC Markers and Their Applications for CTC The amplification of AFP mRNA by means of reverse transcription (RT) and a nested polymerase chain reaction (PCR) is the highly sensitive method for the detection of residual HCC cells in peripheral blood. The qualitative (positive versus negative) detection of HCC circulating tumor cells in blood samples from individual patients is of limited value in predicting the risk of disease progression. Because the level of AFP mRNA is increased in HCC tissue compared with in normal hepatocytes, the quantification of AFP transcripts seems to be a more reliable indicator of disease progression. A more highly sensitive assay based on TaqMan technology to quantify AFP mRNA in “real time” should be preferred [59, 87–89]. Even using this methodology, reported results are not homogeneous and contradictory [72]. The main studies which have evaluated AFP mRNA are summarized in Table 1. The false-positive results can be obtained using AFP mRNA. 2.5. Insulin-Like Growth Factor (IGF)-II. Studies using amplified fragments of IGF-II mRNA by RT-PCR showed that the lowest sensitivity with 2 ng/L of total RNA. Dong et al., showed that the positive frequencies of IGF-II mRNA were 100% in HCC, around 50% in paracancerous and 0% in noncancerous tissues respectively. But, the positive frequency of circulating IGF-II mRNA was 34% in HCC, and no amplification was found in other liver diseases, extrahepatic tumors, and normal control, meaning that IGF-II is specific of the HCC but not really sensitive. Associated to other circulating markers IGF-II can be helpful to detect CTC. The circulating IGF-II mRNA was correlated with the stage of HCC (incidence = 100%) with extrahepatic metastasis and 35% with AFP-negative. No difference was found between tumor size and circulating IGF-II mRNA [99, 100] but these results are controversial [101]. 2.3. Alpha Albumin (ALF). For more than a decade, we know that mRNAs of hepatocytes-specific albumin genes are detected in peripheral blood by RT-PCR. It was shown that there is evidence that detection of albumin mRNA associated with the detection of AFP mRNA is strongly associated with the presence of metastases [57, 61, 94, 95]. Wong et al., showed that circulating hepatocellular carcinoma cells can be detected and be semiquantified by albumin RT-PCR [96]. On the other hand, Resto et al., showed that downregulation of alpha-albumin (ALF) specifically in HCC-circulating cells can be used as a specific marker to discriminate the normal hepatocellular circulating cells that express abundantly ALF. 2. HCC Markers and Their Applications for CTC The hepatocellular carcinomas can synthesize various tumor-related proteins, polypeptides, and isoenzymes more or less specific of the hepatoma tissues as well as the corresponding mRNA. It is important to have tumor-specific markers of HCC to detect CTC in the bloodstream or lymphatic system. International Journal of Hepatology 3 Table 1: Evaluation of serum alpha fetoprotein as a marker of circulation tumor cell in different hepatocellular carcinoma studies. nRT-PCR, nested RT-PCR; qRT-PCR, quantitative RT-PCR. Author PCR Sensitivity Cases Samples Positivity Predictability of recurrence [55] qRT-PCR 1 CHC/107 37 136 Blood BM 18% 28% No Yes [64] qRT-PCR 1 CHC/106 38 25 Blood BM 10% 48% Yes No [56] nRT-PCR 5 cells/1 mL 24 Blood BM 29% 43% Suspect [54] Competitive RT 10 cells/9 mL 22 11 Blood BM 26% 45% NA [90] RT-PCR NA 18 BM 93% No [61, 62] nRT-PCR 33 Blood 52% Extrahepatic metastases [57] nRT-PCR 15 cells/mL 64 Blood 36% Extrahepatic metastases [58] nRT-PCR 1CHC/105 mono 20 Blood 25% No [91] nRT-PCR 10−6 μg/μL of RNA 33 Blood 54% Yes [92] nRT-PCR 1CHC/105 mono 87 Blood 36% Yes [93] nRT-PCR 1 CHC/107 mono 85 Blood 26–45% No [88] RT-PCR 1 CHC/106 52 Blood 25% No Table 1: Evaluation of serum alpha fetoprotein as a marker of circulation tumor cell in different hepatocellular carcinoma studies. nRT-PCR, nested RT-PCR; qRT-PCR, quantitative RT-PCR. Table 1: Evaluation of serum alpha fetoprotein as a marker of circulation tumor cell in different hepatocellular carcinoma studies. nRT-PCR, nested RT-PCR; qRT-PCR, quantitative RT-PCR. 2.4. Transforming Growth Factor Beta-1 (TGF-β1). The levels of circulating TGF-β1 and TGF-β1 mRNA were significantly higher in the HCC patients than any other group of patients. The sensitivity and specificity of circulating TGF- β1 level (>1.2 μg/L) were 90% and 94% for HCC diagnosis, but no significant correlation was found between TGF- β1 expression an AFP levels or tumor size. The combined detection of TGF-β1 and serum AFP could raise the detection rate of HCC up to 97%. Both of circulating TGF-β1 and TGF- β1 mRNA could be used as sensitive biomarkers for diagnosis and prognosis of HBV-induced HCC [98, 99]. Unfortunately, TGF-β1 mRNA was poorly studied and further investigations have to be done to use circulating TGF-β1 mRNA as a marker of circulating tumor cells in HCC. take advantage of the potential for stem cell support of the BM microenvironment. 2. HCC Markers and Their Applications for CTC RT-PCR ALF in association with RT-PCR AFP have been proposed to distinguish normal or malignant hepatocytes in peripheral blood, but the interpretation of the results is still debated [97]. 2.6. Prostate-Specific Antigen (PSA). The Prostate-Specific Antigen (PSA) had shown to be well-established reliability marker and remained a valid prostate marker in patients 4 International Journal of Hepatology showed that SSX-1 can be potential used in peripheral blood, with short-term recurrence rate at 46% (6/13) in patients whose peripheral blood expressed SSX-1 mRNA, while the recurrence rate in patients with negative SSX-1 mRNA was 28.6% (4/14) [107]. In another study, Peng et al., showed that specific expression of CT antigens was observed in AFP- negative HCC, suggesting the application of their mRNA as tumor markers to detect circulating HCC cells [108]. Yang et al., showed that FATE/BJ-HCC-2 (another CTA) mRNA expression was detected in the peripheral blood mononuclear cells (PBMCs) of 46.67% patients, whose HCC tissue samples were cut offand positive for FATE/BJ-HCC-2 mRNA, which implicated tumor cell dissemination in blood circulation and related to the metastasis of HCC. These studies suggest that CT antigens expressions can be used in peripheral blood to detect HCC circulating cells but also can be associated to the research of AFP mRNA to increases the specificity and the frequency of the method. This group of markers seems promising and further studies have to be done first to determine the panel of CT antigens to be used as markers of HCC circulating cells. with acute hepatitis and HCC [102]. But these results are controversial, PSA and mRNA PSA seem to do not be specific to the tissue and frequently detected in peripheral blood cells from healthy patients [17]. In addition, like the cytokines, serum PSA cannot be used as hepatocellular carcinoma marker for circulating tumor cells. 2.7. Heat Shock Protein (HSP). Heat shock proteins (HSPs) are stimulated under perturbation or stressors by the tissue. HSPs are ubiquitous molecules and can be also expressed during carcinogenesis. Different HSPs have been related to the development of the hepatocellular carcinoma like gp96 or GRP94, HSP70 and HSP27, but none of them were used as a specific marker of circulating tumor cell [99]. 2.8. Human Telomerase Reverse Transcriptase (hTERT). Human telomerase is a ribonucleic protein composed by the association of three structures: human telomerase RNA com- ponent (hTERC); human telomerase-associated protein 1 (hTEP1); human telomerase reverse transcriptase (hTERT). 3. New Approaches to Discover New Markers To attempt the lack of CTC markers, new techniques and technologies are used such as microarray/mRNA large analyses, proteomic and “secretome” analyses and finally microRNA testing. 3.1. Microarray/mRNA Large Analyses. DNA chips were used to measure and find new markers to diagnose HCC but also to use these as CTC markers. The studies showed the expression of mRNAs for members of the glypican and syndecan families of heparin sulfate proteoglycans such as GPC3. GPC3 can be a good CTC marker that can be used in human or mouse models [109, 110]. Another interesting marker was discovered called Snail. Snail mRNA was studied in blood of patients with HCC and metastasis [80]. But further investigation has to be done to figure out the specificity and the sensitivity of those markers. 2.9. Cancer-Testis Antigens (CTA). Cancer-testis antigens (CTAs) represent a category of tumor-associated antigens normally expressed in male germ cells but not in adult somatic tissues [105]. CTAs are heterogeneous group of anti- gens. Actually, more than 44 distinct CT “gene” or “antigen” families have been reported in literature. Certain CT gene families contain multiple members, as well as splice variants and today more than 89 distinct transcripts are known to be encoded by CT genes [105]. A number of CT antigens have been found expressed with high percentage and specificity in HCC. The expression of the CT antigens mRNA was investigated by Wu et al., in HCC and corresponding peripheral blood of 37 patients with HCC, 15 samples of cirrhotic tissues and 15 normal tissues with the same method. Two CT antigens SSX-2 and SSX-5 showed in this study high specific and high frequent expression only in HCC tissues. In corresponding peripheral blood of HCC tissues, the positive expressions rate of these two CT antigens mRNA was not very high [106]. The same group of researchers used another two CT antigens SSX-1 and NY-ESO1 in the same group of patients and with the same methods (RT-PCR) with the corresponding peripheral blood. They 3.2. Proteomic and Secretome Analyzes. In the process to find new markers for CTC, a number of teams started to work with proteomic analysis such as quadrupole IT-TOF, SELDI- TOF MALDI-TOF/TOF mass spectrometry. Their objective is tracking earlier the development and the progression of the HCC. 2. HCC Markers and Their Applications for CTC hTERT is the catalytic unit of the complex. Also, telomerase is expressed in embryonic cells, in most human cancer cells or immortal cell lines, but not in normal somatic cell lines or tissues. For these reasons hTERT was investigated as a marker of diagnosis and prognosis of HCC, but the results are controversial and appear that false-positive results can be observed because of lymphocytes, precancerous liver parenchymal cells, and micrometastasis maybe responsible (for review [69, 99, 103]). Recently, Kong et al. investigated hTERT in peripheral blood in HCC from 343 Korean patients. There is no association between hTERT expression and clinical features and not a relationship between AFP and hTERT mRNA. Their conclusion is that AFP and hTERT mRNA expression in peripheral blood is useless as HCC prognostic markers [104]. 3. New Approaches to Discover New Markers Few markers or group of markers were identified by these methods such as the usual markers AFP, AFP- L3, TGF-β1, and PIVKA-II but also vitronectin, alpha- 1-fucosidase (AFU) and DCP, Golgi protein-73 (GP73), hepatocyte growth factor (HGF), and nervous growth factor (NGF) [111–117]. Interestingly, the proteomic analyses were able to detect new markers in the serum secreted (which is called “secre- tome”) by the carcinoma cells. [118–120]. Over 90 proteins in some studies compiled with high powerful biocomputa- tional analysis where identified and used to diagnose HCC early [111, 113, 115, 116]. Unfortunately these studies did 5 International Journal of Hepatology not analyze the real usefulness of these markers to identify CTC in the patients with HCC. be specific by the nature of the primers used it can amplify the signal by increasing the number of copies of mRNA originally presents in the sample. A subgroup of HCC was identified by these techniques expressing stem cell markers (CD133, CD90, CD44, EpCAM, CD13 or neural cell adhesion molecule; NCAM) defining what is called now liver cancer stem cell, but unfortunately these markers were not study in the area of circulating tumor cells [121–123], but they are very promising markers. Another group of markers very promising to detect CTC belong to the chemokine receptors such as CXCR4, CX3CR1, and CCR6 express during HCC progression [123, 124], but none of them were tested during a clinical trial. Interestingly, the Milan Criteria and Model for End-Stage Liver Disease (MELD) system for the allocation of livers in the United States do not include CTC markers to select the recipient [134]. Among all of these CTC markers described above, only AFP is routinely available before transplant. Although its performance as a screening test is unsatisfactory [135], but it is a valuable predictor of HCC recurrence and patients survival after transplant [136, 137]. In Korea, a scoring system incorporating tumor size, number, and AFP has been proposed for the selection of transplant candidates [138]. These data suggest that serum AFP could be integrated with the Milan Criteria and the MELD system’s HCC to improve selection criteria for prioritization patients on the waiting list. Following this idea, it will be interesting to assess the consequences of including more than one CTC markers in the scoring system to select HCC patients for liver transplantation and their followup. 3.3. MicroRNA Markers: A New Hope. 3. New Approaches to Discover New Markers Around 28 years ago, microRNA (miRNA) was discovered and showed the regulation of genes [125, 126] such as oncogenes or tumor suppressor genes at the level of the mRNA. More than 35 studies focused on the identification of miRNA or a group of miRNAs to be used as marker of early diagnosis or metastasis. miR-122/-122a, miR-221/222, miR-145, miR-146a, miR-26 (NFκB pathway), miR-199a-3p (mTOR pathway), and miR- 26 (MYC pathway) were strongly linked to the development and metastasis of the HCC and also a group of miRNAs were used to identify and classify HCC [127–132], but none of them were used as a CTC marker and tested during a clinical trial. But before using these markers, it is necessary to concentrate the number of CTC from the peripheral blood in a smaller volume. The next paragraph will describe these methods. 4. Conclusion In conclusion, we can observe that not too many specific HCC markers are available and useful for the detection of the CTC. This is certainly due to the heterogeneity of the hepatocellular carcinoma. The most important marker used in clinical routine is the detection of serum AFP mRNA expression (Table 1). But this marker is not expressed in all HCC and by consequence in all CTC leading false-negative results. Some propose to combine the research of more than one marker to increase the specificity and the sensitivity of CTC detection method. One of promising marker is Cancer- Testis Antigens, but more studies need to be done to select one or more CTA combined (or not) with the detection of the AFP mRNA expression. As we notice previously, CTC are very rare in peripheral blood. We saw also that real-time polymerase chain reaction is a method that in addition to 5. Enrichment of the Sample CTC are usually detected in the peripheral circulation, but we can find CTC in other body fluids like the cerebrospinal fluids or the urines. The limitations to discover the CTC in these fluids are the same than in the blood circulation. However, it is possible to extract a relatively big amount of blood without harming the patient and much easier. 3.4. Cancer Stem Cell (CSC) Marker in HCC Associated with Flow Cytometry. Fan et al. described a multicolor flow cytometry used to detect the number of circulating CSCs (CD45−CD90+ CD44+) in the peripheral circulation HCC patients. Circulating CSCs predicted posthepatectomy HCC recurrence with high accuracy. They may be the target of eradication in the prevention of posthepatectomy HCC metastasis, recurrence and also will be used to monitor the efficiency of postsurgery treatment of the HCC [133]. The major problem of this technique beside the cost of the equipment is the fact that it detects only a part (cancer stem cells) and not the whole CTC decreasing the sensitivity of the method and increasing false-negative results. We will focus on the methods of CTC detection in the blood. As we describe above, CTC in the peripheral circulation occur at an estimated number of one CTC per 105−7 peripheral blood mononuclear cell or PBMC. Because of the scarcity of the target cells, it is necessary to concentrate the sample. Since enrichment will inevitably be accompanied by some loss of CTC, irrespective of the method, some essays are performed directly in whole blood [89]. Two different groups of techniques can be used to enrich samples, the nonspecific and the specific enrichment techniques. The nonspecific enrichment techniques use physicochemical CTC properties (size, density, etc.). The specific enrichment technique uses markers expressed by the CTC. Advantages of the nonspecific and specific enrichment techniques are summarized in the Table 2 and described in the following paragraphs. 6. The Nonspecific Enrichment Techniques 6.1. Density Gradient(s) Centrifugation. The tumor cells, epithelial cells, platelets, and low-density leukocytes from leukocytes and erythrocytes can be separated by the propri- ety of their particular density (Table 2). Density gradient cen- trifugation is the preferred method to purify cells, subcellular organelles, and macromolecules. Density gradients can be 6 International Journal of Hepatology Table 2: Summary of advantages and disadvantages of the methods of CTC enrichment. CTC, circulating tumor cell; CTC-Chip, circulating tumor cell chip; EPIPSPOT, epithelial immunospot; FACS, fluorescence-activated cell sorting = flow cytometric; FAST, fiber-optic array scanning technology; ICH, immunocytochemistry; ISET, isolation by size of epithelial tumor cells; MACS, magnetic cell sorting; MEMS, microelectromechanical system scanning technology; ICH, immunocytochemistry; ISET, isolation by size of epithelial tumor cells; MACS, magnetic cell sorting; MEMS, microelectromechanical system. Methods of enrichment Advantages Disadvantages References Nonspecific Density (OncoQuick, Ficoll, UNI-Set) (1) Isolation of whole and living CTC, (2) using another method of enrichment more specific (immunomagnetic beads), (3) cytopathology, cytological staining, ICH, FISH, and so forth can be performed (4) RNA, DNA extractions followed by RT-PCR or PCR, respectively, can be done. (1) Nonspecific, (2) rare CTC can be lost in the plasma fraction or trapped among erythrocytes and neutrophils, (3) low and variable sensitivity, (4) Depends on the type of CTC, temperature, and centrifuge, (5) expensive. [47, 65, 139, 140] Size (MEMS, ISET) (1) Easy, (2) precise counting of the cells per mL of blood, independently of the volume of the blood treated, (3) Allowing cytopathology, cytological staining, ICH, FISH, and so forth, (4) Allowing Microdissection followed by (5) RNA, DNA extraction followed by RT-PCR or PCR respectively (6) Avoiding multiple steps, (7) Increasing sensitivity (1 single CTC can be detect from 1 mL of blood). (1) Nonspecific, (2) CTC can go through the filter, (3) cells can be damaged, (4) expensive, but less than the immunomagnetic beads. [47, 68, 124, 141, 142] Cytospin (1) Easy, (2) Allowing cytopathology, cytological staining, ICH, FISH, and so forth, (3) Allowing Microdissection followed by (4) RNA, DNA extraction follow by RT-PCR or PCR, respectively. (1) Increasing the mortality of the CTC. [65, 143–146] Lysis Buffer (Qiagen) (1) Easy, (2) the cells harvested by this method can be reenriched or analysed by the methods already described, (3) low cost. (1) Increasing the mortality of the CTC, (2) low sensitivity. 6. The Nonspecific Enrichment Techniques Once this quasi- equilibrium is reached, the length of centrifugation does not have any influence on the migration of the particle. A common example for this method is separation of nucleic acids in a CsCl gradient. A variety of gradient media can be used for isopycnic separations [157–161]. 6.3. Cytocentrifugation (Cytospin). The cytocentrifugation was designed for hypocellular fluids; it spins at lower speeds and has more gradual acceleration and deceleration than normal centrifuges. Some are able to deposit cells directly onto a slide for examination. Cytocentrifugation could be used in research purposes and is also widely used in the routine surgical pathology practice. This method is fast and affordable [65, 144, 145, 164]. In the context of the CTC enrichment by centrifugation the isopycnic separation is the method usually used. The cells that have a density higher than the density of the buffer will stay in the bottom of the tube. If the density of the cells is lower than the buffer, they will remain on the top of the liquid, forming a ring. On the contrary, if the density of the cells is the same than the buffer, the cells will form a ring in the middle of the tube. A well-known example of the method is the commercial buffer Ficoll tube or Ficoll-Paque PLUS (GE Healthcare Bioscience, Amersham Biosciences AB) or Lymphoprep (Nicomed) to separate the red blood cells from the other cells including CTC (Table 2). Methods to identify CTC can after be used (see below). As it occurs with magnetic beads, cytospin increases mor- tality of the target cells (Table 2). Because enrichment by cytocentrifugation is a critical step, addition of 10% buffered formaldehyde solution added to the blood sample can preserve morphology of the cells and will certainly preserve nucleic acids integrity [143], but the disadvantage of this method is that formaldehyde kills the cells (Table 2). Liquid- based cytology (LBC) using a filtration process and computer assisted thin layer deposition of cells has been developed as a replacement for cytocentrifugation and/or smearing, owing to its improved cell recovery capabilities and better cell preservation. In most published series, LBC allows a good interobserver reproducibility [165–167]. OncoQuick (Greiner) method uses a specific buffer able to isolate the CTC [47, 139, 140]. These methods are usually fast but expensive and found in a context of clinical laboratory used in routine diagnosis (Table 2). 6. The Nonspecific Enrichment Techniques [147–149] Specific ImmunoMagnetic Beads (MACS system, CellSearch) (1) Specific, (2) morphological analysis of CTC, cytopathology, cytological staining, ICH, FISH, and so forth, (3) multiple labelling of antigens on CTC, (4) direct quantification of CTC. (1) Subjective analyses for CTC identification, (2) time-consuming screening of tumor cells, (3) needing specific marker(s) and antibody available, (4) expensive [40, 150–152] EPISPOT (1) High sensitivity, (2) detection of viable CTC, (3) detection of secreted proteins (1) Protein must be actively secreted, shed, or released, (2) no identification and isolation of secreting cell possible. [40, 150–152] FACS (1) High sensitivity, (2) technique for counting, examining, and sorting microscopic particles (CTC) suspended, (3) simultaneous multiparametric analyses of the physical and/or chemical characteristics. (1) Need the apparatus, (2) high cost. [140, 153, 154] 7 7 International Journal of Hepatology Table 2: Continued. Methods of enrichment Advantages Disadvantages References FAST (1) High sensitivity, (2) can detect rare events. (1) Fluorescent dyeconjugated antibodies, (2) specificity depend on the antibodies, (3) very expensive. [48, 89, 141, 155] CTC-Chip (1) High sensitivity, (2) detection of viable CTC, (1) Detecting only cytokeratin ± CTC, (2) needing to control precisely laminar flow conditions, (3) expensive. [40, 156] is centrifuged and the pellets will contain the CTC. Some companies provide a kit with lysis buffers ready to use. After lysis, the next step is the extraction of DNA or RNA (e.g., Red Lysis Buffer from Qiagen or Panomics) or the extracted cells can be purified by immunomagnetic beads enrichment [147–149]. However, methods using lysis buffer can induce the death of a lot of cells including the CTC and it is not appropriate if the sample contains few CTC leading to false negative results. generated by placing layer after layer of gradient media such as sucrose in a tube with the heaviest layer at the bottom and the lightest at the top in either a discontinuous or continuous mode. The cell fraction to be separated is placed on top of the layer and centrifuged. Density gradient separation can be classified into two categories: (1) Rate-zonal (size) separation. (2) Isopycnic (density) separation. Rate-zonal separation takes advantage of particle size and mass instead of particle density for sedimentation [157]. In isopycnic separation, a particle of a particular density will sink during centrifugation until a position is reached where the density of the surrounding solution is exactly the same as the density of the particle. International Journal of Hepatology After the CTC, are captured in the filter, electrical lysis of cells on membrane filter is applied and the DNA as well as RNA can be extracted and analyzed by PCR or RT-PCR, respectively. CTC enrichment is performed by either gradient centrifugation of CTC based on their buoyant density or magnetic separation of epithelial CTC, both of which are laborious procedures with variable efficiency, and CTC identification is typically done by trained pathologists through visual observation of stained cytokeratin-positive epithelial CTC. These processes may take hours, if not days. The Micro-Electro-Mechanical System (MEMS-) based makes the process simpler faster and better to separate CTC (∼90% recovery) from blood cells. Since enrichment will inevitably be accompanied by loss of CTC, irrespective of the exact method, some essays are performed directly in whole blood [89]. But the disadvantages of this technique are that morphology of the cells is lost, besides markers also and the capacity to count exactly the number of CTC (Table 2). 6.4. Filters. A nonspecific method of enrichment using filters can captured the cells with a certain size. The cells captured on the filter can after be transferred and analyzed on a slide. In this case the samples can come from blood or body fluids (urines, cerebrospinal fluid, and ascites). We will describe tow kinds of methods using this technology and usually used to isolate CTC (Table 2): the Isolation by Size of Epithelial Tumor Cells (ISET) method and the Micro- Electro-Mechanical System (MEMS). 6.4.1. The Isolation by Size of Epithelial Tumor Cells. (ISET) method (Metagenex, Paris, France, http://www .metagenex.fr/) separates cells by size with a filter. Cells larger than 10 μm, including tumor cells from carcinomas, are enriched from leukocytes (erythrocytes are lysed, see above) on a filter. Enriched cells are stained on the filter and CTC are precisely counted after cytopathological evaluation. The cells on the filter can be also studied by immunolabelling, FISH, TUNEL, and molecular analysis. Molecular analysis can be performed specifically to CTC after laser microdissection. The filter can be also mounted between slide and coverslip for routine microscope observation and storage. Although promising, this method is expensive, time consuming, and the filters are not easily available [47, 68, 141]. Cells should be better characterized using morphological methods that allow both detection and characterization. International Journal of Hepatology International Journal of Hepatology 8 cytotechnologists to these fields where they are evaluated. This can cut down on technologists’ screening time (Table 2). Vona et al. reported that microemboli and isolated CTC could be detected in HCC patient [142]. Presence of CTC was associated with a shorter survival. This work also showed the feasibility of molecular studies of individual circulating cells. Indeed, β-Catenin mutations were searched in samples of 60 single microdissected CTC. β-Catenin mutations were found in only 3 CTC that highlighted the weak impact of these mutations in the initial step of tumor cell invasion. Further studies are needed. Vona et al. reported that microemboli and isolated CTC could be detected in HCC patient [142]. Presence of CTC was associated with a shorter survival. This work also showed the feasibility of molecular studies of individual circulating cells. Indeed, β-Catenin mutations were searched in samples of 60 single microdissected CTC. β-Catenin mutations were found in only 3 CTC that highlighted the weak impact of these mutations in the initial step of tumor cell invasion. Further studies are needed. g g There are also some disadvantages, which include increased manpower needed to prepare the smears and the dependence of smear preparation on the instrument. This technique cannot be used directly from blood samples. The red blood cells need to be eliminated (See Table 2) and after the sample can be processed by this technique (Table 2). However, optimization of cell capture and fixation can be achieved by methods other than Cytyc Thinprep LBC, par- ticularly while using meticulous modern cytocentrifugation methods in the study of hypocellular fluids [166, 167]. In their study, Piaton et al. conclude that Cytyc Thinprep LBC and modern cytocentrifugation techniques are appropriate methods for cytology-based molecular studies. From an economical point of view (standard cytocentrifugation are around $ 538 compared to Cytyc ThinprepH $ 1,278), and taking into account the value of a meticulous tech- nique, cytocentrifugation with disposable sample chambers remains the quality standard for current treatment of urinary samples for example [166]. 6.4.2. The Micro-Electro-Mechanical System (MEMS). It is a parylene membrane microfilter device for single stage capture and electrolysis of circulating tumor cells in human blood and the potential of this device to allow genomic analysis. International Journal of Hepatology A second potential main advantage is that CTC could be compared to the primary tumor in order to better understand the mechanism of metastatic process. However, this approach has been rarely performed and neither firm recommendation nor conclusion could be drawn. The technique also avoids damaging the tumor cell which can be diagnosed using a simple pathologist analysis. However, the pathologist should get use to this technique to avoid a misinterpretation with others types of cells. The use of ISET technology to detect and characterize CTC in HCC has been reported in one study. 6. The Nonspecific Enrichment Techniques Alternative and cheaper methods can be used by preparing in the laboratory the gradient/density buffers. The same tube can contain one, two or three gradient buffers to increase the specificity of the separation between the different cells present in the blood [27, 47, 162, 163]. There are several advantages to this system. One is that it produces a thin layer of cells which is easier to evaluate than a thick smear. The morphology of the cells is also better. In addition, the entire cell sample is captured in the fixative vial which leads to a more representative smear being prepared. One of the most important advantages of this test is that the material that is left over after a smear has been prepared can be used for adjunctive testing. A further advantage is that the smears may be initially subjected to image analysis. Computer software “reads” the smears and registers the coordinates of the fields with what it regards as the most abnormal cells. On review, the system directs the 6.2. Lysis Buffers. The content of different cells has different osmotic pressures. It is possible to expose the samples to buffer(s) that can be hypo-or hyperosmotic to any cell different to the target cells. After the lysis step the mix 7. The Specific Enrichment Techniques The specific enrichment techniques can use specifically protein tumoral markers expressed by the CTC. These methods use antibodies against the protein tumoral markers coupled to steel beads, by applying a magnetic field the cells expressing the marker can be captured. Several immune- magnetic methods (MACS system, Deanabeads Invitrogen, macroiron beads, ferrofluid(colloidal iron-) based systems) to enrich the sample have been used successfully [168]. Another approach to enrich the sample is to use the properties of CTC to grow-up in a specific culture cell medium. A method (EPISPOT) that combines the capacity of CTC to secret specific markers and grow-up in specific cell medium was developed (see Table 2). 7.1. Magnetic Separation. To use immune-magnetic detec- tion system the first step is to deplete the whole blood of the red cells (by lysis buffers or density gradient) to obtain the PBMC. After, the magnetic particles coated and surrounded by a specific antibody are added to the PBMC supposing containing the CTC. Labeled cells are then collected by applying a magnetic force while nonlabeled cells are containing in the supernatant and are discerned. This use 7.1. Magnetic Separation. To use immune-magnetic detec- tion system the first step is to deplete the whole blood of the red cells (by lysis buffers or density gradient) to obtain the PBMC. After, the magnetic particles coated and surrounded by a specific antibody are added to the PBMC supposing containing the CTC. Labeled cells are then collected by applying a magnetic force while nonlabeled cells are containing in the supernatant and are discerned. This use International Journal of Hepatology 9 of magnetic beads to catch specifically CTC is called “positive selection” [40, 47, 49]. CTC, the primary tumor cells can be cultured in the specific culture medium [169]. The good conditions of culture growth and specially the culture medium leading the growth of the CTC, but not the other epithelial or nonepithelial cells, has to be determined through an experiment. Some companies propose commercial kits. For example, The Cancer Cell Isolation Kit from Panomics includes lysis buffer to increase the number of CTC. One of the main problems is that cultured cells can lose their original markers and derive. Mimicry of tumoral microenvironment in vitro is particularly difficult because for most tumors it is largely unknown. 7. The Specific Enrichment Techniques Another problem is that the samples containing the CTC are usually contaminated by stromal cells like fibroblasts, which create competition in the Petri dish. After few days, only the fibroblasts are present in the flask. Since a large number of leukocytes (potential source of false negative CTC) still remain trapped with the cells, some methods include a “negative selection” of leukocytes (with anti-CD 45 beads for example) followed with a “positive selection” with antibodies specific to epithelial cells (EpCAM, CK) [47, 169, 170]. The problem of this procedure is that gets ride the majority of leukocytes but still hold in nonmalignant epithelial cells and loses tumor cells which whish do not express epithelial antigens and/or are lysed during the first step [47, 171]. g p [ ] The methods using antibodies like immune-magnetic methods (MACS system, Deanabeads Invitrogen, macroiron beads, ferrofluid(colloidal iron-) based systems) to enrich the sample will induce false-positive extraction [168]. For exam- ple, antibodies against cytokeratin (CK) or other epithelial- specific antigens have been reported to bind both specifically and nonspecifically to macrophages, plasma cells and nucle- ated hematopoietic cells precursors. The nonspecific binding of the antibodies involves Fc receptor-bearing leukocytes and monocytes or illegitimate expression of epithelial antigens in normal hematopoietic cells. Some of these positive cells are morphologically difficult to distinguish from CTC. Variable numbers of epithelial cells have been found in peripheral blood of subject without malignancy in some physiopathological conditions like benign epithelial prolif- erative diseases, inflammation, surgeries, and tissue trauma [47, 65, 169, 172–174]. Moreover, epithelial CTC may lose epithelial markers during dissemination through the process called epithelial-to-mesenchymal transition (EMT). Since the epithelial markers that get lost during EMT may include markers used for CTC measurement, underestimation of the actual CTC number may occur, inducing de facto false- negative results [46, 47, 49, 175, 176]. In the case that the method induce false positive, the problem can be diminished avoided using a second marker or a full panel of markers and techniques (see below) to characterize the CTC, like RT-PCR, immunocytochemistry or immunefluorescence, morphology by optical microscopy [37, 47, 49]. In another hand, in the case of the false negative results the doubt persist, and only strict followup of the patient by repeating the detection of the CTC can potentially eliminate this doubt. No available antibodies are 100% tumor or tissue specific [13, 47, 172]. 7. The Specific Enrichment Techniques To isolate CTC a method using a ligand biotinylated was used. Biotinylated asialofetuin, a ligand of asialoglycoprotein receptor, was experimented and followed by magnetic separation or density gradient (Ficoll-Paque PLUS; GE Healthcare). The cells were iden- tified by microscopy, FISH, immunofluorescence staining, flux cytometry, and RT-PCR. This technique shows 81% specificity and 20 cells/5 mL for the sensitivity [177]. This promising approach has to be confirmed in a larger cohort of patients and still depends on the receptors expressed at the surface of the CTC. 7.3. Epithelial ImmunoSPOT (EPISPOT). A technique that allows the detection of only viable cells after a CD45+ cell depletion was introduced for CTC analysis from bone marrow aspirates and blood samples [40, 43, 151]. This tech- nique was designated EPISPOT (epithelial ImmunoSPOT). It is a protein-secreting profiling based on the secretion or active release of specific marker proteins using an adaptation of the enzyme-linked immunospot technology. As immunospots are the protein fingerprint left only by the viable releasing epithelial cells, a cell culture is needed to accumulate a sufficient amount of the released marker proteins (Table 2). The dying cells do not secrete adequate amounts of protein and are not detected [40, 150–152]. This assay can also provide important information on the profile of secreted proteins potentially relevant for metastasis formation. However, this technique has still to be validated in large-scale clinical studies on cancer patients [40, 151]. After the enrichment and isolation of the CTC, the next step is to identify, characterize, and finally enumerate them. The CTC can be identified by indirect or direct methods. But these important steps need tumor markers specific to the CTC seeked. 8. Experimental Models 8.1. HCC Mouse Models. Over decades, different HCC mouse models have been developed. 8.1. HCC Mouse Models. Over decades, different HCC mouse models have been developed. Chemically induced HCC-models are diverse and not always reproducible. The chemicals usually used are diethyl- nitrosamine (DEN), peroxisome proliferators, aflatoxine, carbon tetrachloride (CCl4), choline deficient diet or thi- acetamide [178, 179]. Transgenic mouse models were also developed, for example, mice that contained HBV or HCV viruses or expressed specifically oncogenes (c-myc, c-myc + E2F1) or growth factors (TGF-α, TGF-α + c-myc, EGF, FGF19, GMNT, PDGF, α1-antitrypsin) [178]. Circulating tumor cells were not looked for in any of these animal models. One reason is the huge differences between models and the presence of specific markers for each situation. In order to solve these problems, researchers developed ectopic implantation that is fast and easy to perform. However, there is still many differences between the cell lines, 7.2. Culture of CTC. After isolation of the CTC by the different methods described above, to increase the number of International Journal of Hepatology 10 no direct interaction with the liver tissues and difficulty to export to humans [178]. attached to an antibody that detects the CTC or fluorescently labelled cells as described in Li et al. paper [185]. Briefly, fluorescence signal from a given circulating cell population is recorded as the cells pass through the slit of light. Confocal detection of the excited fluorescence enables continuous monitoring of labeled cells in the upper layers of scattering tissue, such as the skin of a mouse ear. Based on algorithm and data analysis the computer is able to estimate the number of CTC in the blood stream. This method is still used in animal models to detect CTC from HCC but as promising future to detect CTC in human patients. 8.2. Orthotopic Implantation. Orthotopic implantation is a more suitable model because the cells are directly implanted in the liver tissue. Nevertheless, the procedure is challenging. There are big differences between cell lines and the choice of the markers is still limited [178]. Mechanisms leading to tumoral cells spreading are ill known. Currently, there are few models of orthotopic implantation of human tumoral cells [180, 181]. An experimental model of human orthotopic HCC transplantation in NOD/SCID (nonobese diabetic/several compromise immunodeficient) mice allows to generate and to modulate CTC [180, 181]. 9. Conclusion The idea is to bind luminescence tag (luciferase, yellow fluorescence, or red fluorescence proteins) in the hepatoma cell lines injected in the liver that be detected by bioluminescence machine. For example, thymidine kinase-luciferase was placing under the transcriptional control of endogenous AFP promoter to develop a transgenic mouse model that injected with DEN will develop HCC [182]. The development of the HCC was followed in the live animal by bioluminescence and PET analyses. The inconvenient of this method is that the HCC model has to express AFP. To avoid this problem hepatoma cell lines where engineered with luciferase (HCC-LM3) [183] or red luminescence protein [184]. This approach to study CTC in the context of HCC is very promising, but the major problem is the sensitivity of the bioluminescence machine. This approach has not yet studied in the context of CTC in the blood or in organs other than liver. 8. Experimental Models In this mouse model, tumoral spreading is an early event during tumoral development and the number of CTC is directly correlated to the tumor size. 9. Conclusion There are two major problems to detect circulating hepa- tocarcinoma cells in the human blood. The first problem is the low number of specific markers known. The second problem is that few cells are present in the bloodstream. To overcome these problems, few years ago new approaches have been developed such as the techniques to study membrane proteins by mass spectrometry and the development of fluorescent hepatoma cells. When injected under the liver capsule, a primary tumor develops and continuously yields circulating tumor cells. In addition, the CTC could be modulated after tumor removal. Liver tumor removal led to a very low level of tumoral cells in blood 30 days later. After complete tumor removal, the number of CTC significantly decreases but still remains detectable even at a low level. The FACS was used to detect CTC (detection of human HLA marker in mouse bloodstream). The reality of CTC was then demonstrated. An important finding is that the bone marrow could be early and permanently colonized by CTC [181]. Nowadays, these procedures are not suitable in clinical practice. However, it is undeniable that early detection of tumors and metastasis is urgently needed in medicine and these new exciting techniques and findings are changing our point of view of carcinogenesis very fast. In the future, CTC detection will certainly be an important diagnostic tool in cancer patients, providing a new and accurate assessment of lesion staging. 8.3. Small Imaging Animal Models. With the recent develop- ment of the small imaging apparatus (example: IVIS Lumina II XR Imaging System, positron emission tomography) to study development and the progression of diseases in the live animals like rheumatism, a new area to study CTC in live animals is open. This technique was applied to study the CTC in ectopic or orthotopic HCC cell lines implantation. 8.3. Small Imaging Animal Models. With the recent develop- ment of the small imaging apparatus (example: IVIS Lumina II XR Imaging System, positron emission tomography) to study development and the progression of diseases in the live animals like rheumatism, a new area to study CTC in live animals is open. This technique was applied to study the CTC in ectopic or orthotopic HCC cell lines implantation. As we discuss below, the lack of specific HCC markers makes CTC studies very challenging. International Journal of Hepatology F. Yao, Z. Z. Dong, and M. Yao, “Specific molecular markers in hepatocellular carcinoma,” Hepatobiliary and Pancreatic Diseases International, vol. 6, no. 3, pp. 241–247, 2007. [15] M. M. Hassan, A. Frome, Y. Z. Patt, and H. B. El-Serag, “Rising prevalence of hepatitis C virus infection among patients recently diagnosed with hepatocellular carcinoma in the United States,” Journal of Clinical Gastroenterology, vol. 35, no. 3, pp. 266–269, 2002. [31] M. C. Yu, J. M. Yuan, S. Govindarajan, and R. K. Ross, “Epi- demiology of hepatocellular carcinoma,” Canadian Journal of Gastroenterology, vol. 14, no. 8, pp. 703–709, 2000. [16] R. Idilman, N. De Maria, A. Colantoni, and D. H. Van Thiel, “Pathogenesis of hepatitis B and C-induced hepatocellular carcinoma,” Journal of Viral Hepatitis, vol. 5, no. 5, pp. 285– 299, 1998. [32] S. Z. Yu, “Primary prevention of hepatocellular carcinoma,” Journal of Gastroenterology and Hepatology, vol. 10, no. 6, pp. 674–682, 1995. [17] T. Ishikawa, H. Kashiwagi, Y. Iwakami et al., “Expression of α-fetoprotein and prostate-specific antigen genes in several tissues and detection of mRNAs in normal circulating blood by reverse transcriptase-polymerase chain reaction,” Japanese Journal of Clinical Oncology, vol. 28, no. 12, pp. 723–728, 1998. [33] B. J. McMahon, “The natural history of chronic hepatitis B virus infection,” Hepatology, vol. 49, no. 5, pp. S45–S55, 2009. [34] M. R. C. Britto, L. A. Thomas, N. Balaratnam, A. P. Griffiths, and P. D. Duane, “Hepatocellular carcinoma arising in non- cirrhotic liver in genetic haemochromatosis,” Scandinavian Journal of Gastroenterology, vol. 35, no. 8, pp. 889–893, 2000. [18] R. Jung, W. Kr¨uger, S. Hosch et al., “Specificity of reverse transcriptase polymerase chain reaction assays designed for the detection of circulating cancer cells is influenced by cytokines in vivo and in vitro,” British Journal of Cancer, vol. 78, no. 9, pp. 1194–1198, 1998. [35] R. B. Freeman, A. Mithoefer, R. Ruthazer et al., “Optimizing staging for hepatocellular carcinoma before liver transplanta- tion: a retrospective analysis of the UNOS/OPTN database,” Liver Transplantation, vol. 12, no. 10, pp. 1504–1511, 2006. [19] J. M. Llovet, C. Br´u, and J. Bruix, “Prognosis of hepatocellular carcinoma: the BCLC staging classification,” Seminars in Liver Disease, vol. 19, no. 3, pp. 329–337, 1999. [36] G. SanchezAntolin, F. GarciaPajares, E. Perez et al., “Milan criteria versus San Francisco criteria in hepatocellular carci- noma: our center’s experience,” Transplantation Proceedings, vol. 41, no. 3, pp. 1012–1013, 2009. [20] K. J. Luzzi, I. C. International Journal of Hepatology 11 [24] B. Naume, “New methods for early detection of breast cancer metastasis,” Tidsskrift for den Norske laegeforening, vol. 118, no. 3, p. 354, 1998. [8] CLIP, “A new prognostic system for hepatocellular carci- noma: a retrospective study of 435 patients: the Cancer of the Liver Italian Program (CLIP) investigators,” Hepatology, vol. 28, no. 3, pp. 751–755, 1998. [25] B. Naume, E. Borgen, J. M. Nesland et al., “Increased sensitivity for detection of micrometastases in bone- marrow/peripheral-blood stem-cell products from breast- cancer patients by negative immunomagnetic separation,” International Journal of Cancer, vol. 78, no. 5, pp. 556–560, 1998. [9] J. Collier and M. Sherman, “Screening for hepatocellular carcinoma,” Hepatology, vol. 27, no. 1, pp. 273–278, 1998. [10] J. A. Davila, R. O. Morgan, Y. Shaib, K. A. McGlynn, and H. B. El-Serag, “Hepatitis C infection and the increasing incidence of hepatocellular carcinoma: a population-based study,” Gastroenterology, vol. 127, no. 5, pp. 1372–1380, 2004. [26] K. Okuda, T. Ohtsuki, H. Obata et al., “Natural history of hepatocellular carcinoma and prognosis in relation to treatment. Study of 850 patients,” Cancer, vol. 56, no. 4, pp. 918–928, 1985. [11] F. Donato, U. Gelatti, R. M. Limina, and G. Fattovich, “Southern Europe as an example of interaction between various environmental factors: a systematic review of the epidemiologic evidence,” Oncogene, vol. 25, no. 27, pp. 3756– 3770, 2006. [27] E. Racila, D. Euhus, A. J. Weiss et al., “Detection and characterization of carcinoma cells in the blood,” Proceedings of the National Academy of Sciences of the United States of America, vol. 95, no. 8, pp. 4589–4594, 1998. [12] H. B. El-Serag, “Hepatocellular carcinoma: an epidemiologic view,” Journal of Clinical Gastroenterology, vol. 35, no. 5, pp. S72–S78, 2002. [28] K. Sch¨utte, J. Bornschein, and P. Malfertheiner, “Hepatocel- lular carcinoma—epidemiological trends and risk factors,” Digestive Diseases, vol. 27, no. 2, pp. 80–92, 2009. [13] H. B. El-Serag, “Hepatocellular carcinoma: recent trends in the United States,” Gastroenterology, vol. 127, pp. S27–S34, 2004. [29] G. X. Wu, Y. M. Lin, T. H. Zhou, H. Gao, and G. Pei, “Significant down-regulation of alpha-albumin in human hepatoma and its implication,” Cancer Letters, vol. 160, no. 2, pp. 229–236, 2000. [14] H. B. El-Serag, J. A. Davila, N. J. Petersen, and K. A. McGlynn, “The continuing increase in the incidence of hepatocellular carcinoma in the United States: an update.,” Annals of internal medicine, vol. 139, no. 10, pp. 817–823, 2003. [30] D. References [1] S. Caldwell and S. H. Park, “The epidemiology of hepatocel- lular cancer: from the perspectives of public health problem to tumor biology,” Journal of Gastroenterology, vol. 44, no. 19, pp. 96–101, 2009. [2] K. Hussain and H. B. El-Serag, “Epidemiology, screening, diagnosis and treatment of hepatocellular carcinoma.,” Min- erva Gastroenterologica e Dietologica, vol. 55, no. 2, pp. 123– 138, 2009. As we discuss below, the lack of specific HCC markers makes CTC studies very challenging. The idea is to bind luminescence tag (luciferase, yellow fluorescence, or red fluorescence proteins) in the hepatoma cell lines injected in the liver that be detected by bioluminescence machine. [3] P. Tandon and G. Garcia-Tsao, “Prognostic indicators in hepatocellular carcinoma: a systematic review of 72 studies,” Liver International, vol. 29, no. 4, pp. 502–510, 2009. [4] H. B. El-Serag, “Hepatocellular carcinoma,” New England Journal of Medicine, vol. 365, no. 12, pp. 1118–1127, 2011. [5] E. Banks, G. Reeves, V. Beral et al., “Hormone replacement therapy and false positive recall in the Million Women Study: patterns of use, hormonal constituents and consistency of effect,” Breast Cancer Research, vol. 8, no. 1, article no. R8, 2005. [6] E. Borgen, K. Beiske, S. Trachsel et al., “Immunocytochemical detection of isolated epithelial cells in bone marrow: non- specific staining and contribution by plasma cells directly reactive to alkaline phosphatase,” Journal of Pathology, vol. 185, no. 4, pp. 427–434, 1998. [7] P. J. Bostick, S. Chatterjee, D. D. Chi et al., “Limitations of specific reverse-transcriptase polymerase chain reaction markers in the detection of metastases in the lymph nodes and blood of breast cancer patients,” Journal of Clinical Oncology, vol. 16, no. 8, pp. 2632–2640, 1998. In vivo flow cytometry method to detect CTC from HCC has been developed. This method combined the flow cytom- etry technology that can detect specific fluorochromes based on their wavelengths, the specificity of these fluorochromes International Journal of Hepatology International Journal of Hepatology 12 [56] P. Kienle, J. Weitz, R. Klaes et al., “Detection of isolated dis- seminated tumor cells in bone marrow and blood samples of patients with hepatocellular carcinoma,” Archives of Surgery, vol. 135, no. 2, pp. 213–218, 2000. [41] K. Pantel, R. H. Brakenhoff, and B. Brandt, “Detection, clinical relevance and specific biological properties of dissem- inating tumour cells,” Nature Reviews Cancer, vol. 8, no. 5, pp. 329–340, 2008. [42] S. Riethdorf, H. Wikman, and K. Pantel, “Review: Biological relevance of disseminated tumor cells in cancer patients,” International Journal of Cancer, vol. 123, no. 9, pp. 1991– 2006, 2008. [57] T. Komeda, Y. Fukuda, T. Sando et al., “Sensitive detection of circulating hepatocellular carcinoma cells in peripheral venous blood,” Cancer, vol. 75, no. 9, pp. 2214–2219, 1995. [58] A. Lemoine, T. L. Bricon, M. Salvucci et al., “Prospective evaluation of circulating hepatocytes by alpha-fetoprotein mRNA in humans during liver surgery,” Annals of Surgery, vol. 226, no. 1, pp. 43–50, 1997. [43] S. Braun, F. D. Vogl, B. Naume et al., “A pooled analysis of bone marrow micrometastasis in breast cancer,” New England Journal of Medicine, vol. 353, no. 8, pp. 793–802, 2005. [44] V. M¨uller, N. Stahmann, S. Riethdorf et al., “Circulating tumor cells in breast cancer: correlation to bone marrow micrometastases, heterogeneous response to systemic ther- apy and low proliferative activity,” Clinical Cancer Research, vol. 11, no. 10, pp. 3678–3685, 2005. [59] M. Matsumura, “AFP mRNA in the circulation,” Nippon Rinsho, vol. 59, pp. 377–382, 2001. [60] M. Matsumura, M. Ijichi, Y. Shiratori et al., “Simple quanti- tative assay of alpha-fetoprotein mRNA in liver tissue using the real-time detection polymerase chain reaction assay—its application for clinical use,” Hepatology Research, vol. 20, no. 1, pp. 84–96, 2001. [45] K. Pantel and U. Woelfle, “Detection and molecular char- acterisation of disseminated tumour cells: implications for anti-cancer therapy,” Biochimica et Biophysica Acta - Reviews on Cancer, vol. 1756, no. 1, pp. 53–64, 2005. [61] M. Matsumura, Y. Niwa, Y. Hikiba et al., “Sensitive assay for detection of hepatocellular carcinoma associated gene tran- scription (alpha-fetoprotein mRNA) in blood,” Biochemical and Biophysical Research Communications, vol. 207, no. 2, pp. 813–818, 1995. [46] B. Willipinski-Stapelfeldt, S. Riethdorf, V. Assmann et al., “Changes in cytoskeletal protein composition indica- tive of an epithelial-mesenchymal transition in human micrometastatic and primary breast carcinoma cells,” Clin- ical Cancer Research, vol. 11, no. 22, pp. 8006–8014, 2005. [62] M. Matsumura, Y. International Journal of Hepatology Niwa, N. Kato et al., “Detection of α- fetoprotein mRNA, an indicator of hematogenous spreading hepatocellular carcinoma, in the circulation: a possible pre- dictor of metastatic hepatocellular carcinoma,” Hepatology, vol. 20, no. 6, pp. 1418–1425, 1994. [47] P. Paterlini-Brechot and N. L. Benali, “Circulating tumor cells (CTC) detection: clinical impact and future directions,” Cancer Letters, vol. 253, no. 2, pp. 180–204, 2007. [48] D. N. Curry, R. T. Krivacic, H. B. Hsieh et al., “High-speed detection of occult tumor cells in peripheral blood,” in 26th Annual International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC ’04), pp. 1267–1270, September 2004. [63] M. Matsumura, Y. Shiratori, Y. Niwa et al., “Presence of α-fetoprotein mRNA in blood correlates with outcome in patients with hepatocellular carcinoma,” Journal of Hepatol- ogy, vol. 31, no. 2, pp. 332–339, 1999. [64] O. Morimoto, H. Nagano, A. Miyamoto et al., “Association between recurrence of hepatocellular carcinoma and α- fetoprotein messenger RNA levels in peripheral blood,” Surgery Today, vol. 35, no. 12, pp. 1033–1041, 2005. p [49] S. Sleijfer, J. W. Gratama, A. M. Sieuwerts, J. Kraan, J. W. M. Martens, and J. A. Foekens, “Circulating tumour cell detection on its way to routine diagnostic implementation?” European Journal of Cancer, vol. 43, no. 18, pp. 2645–2650, 2007. [65] S. Becker, G. Becker-Pergola, T. Fehm, R. Emig, D. Wall- wiener, and E. F. Solomayer, “Image analysis systems for the detection of disseminated breast cancer cells on bone- marrow cytospins,” Journal of Clinical Laboratory Analysis, vol. 19, no. 3, pp. 115–119, 2005. [50] M. H. Strijbos, J. W. Gratama, J. Kraan, C. H. Lamers, M. A. Den Bakker, and S. Sleijfer, “Circulating endothelial cells in oncology: pitfalls and promises,” British Journal of Cancer, vol. 98, no. 11, pp. 1731–1735, 2008. [66] A. A. Ross, B. W. Cooper, H. M. Lazarus et al., “Detection and viability of tumor cells in peripheral blood stem cell collec- tions from breast cancer patients using immunocytochemical and clonogenic assay techniques,” Blood, vol. 82, no. 9, pp. 2605–2610, 1993. [51] A. C. Groom, I. C. MacDonald, E. E. Schmidt, V. L. Morris, and A. F. Chambers, “Tumour metastasis to the liver, and the roles of proteinases and adhesion molecules: new concepts from in vivo videomicroscopy,” Canadian Journal of Gastroenterology, vol. 13, no. 9, pp. 733–743, 1999. [67] J. B. Smerage and D. F. International Journal of Hepatology MacDonald, E. E. Schmidt et al., “Multistep nature of metastatic inefficiency: dormancy of solitary cells after successful extravasation and limited survival of early micrometastases,” American Journal of Pathology, vol. 153, no. 3, pp. 865–873, 1998. [37] F. Sch¨uler and G. D¨olken, “Detection and monitoring of minimal residual disease by quantitative real-time PCR,” Clinica Chimica Acta, vol. 363, no. 1-2, pp. 147–156, 2006. [38] V. Zieglschmid, C. Hollmann, and O. B¨ocher, “Detection of disseminated tumor cells in peripheral blood,” Critical Reviews in Clinical Laboratory Sciences, vol. 42, no. 2, pp. 155– 196, 2005. [21] M. Mendizabal and K. R. Reddy, “Current management of hepatocellular carcinoma,” Medical Clinics of North America, vol. 93, no. 4, pp. 885–900, 2009. [22] S. Mocellin, D. Hoon, A. Ambrosi, D. Nitti, and C. R. Rossi, “The prognostic value of circulating tumor cells in patients with melanoma: a systematic review and meta-analysis,” Clinical Cancer Research, vol. 12, no. 15, pp. 4605–4613, 2006. [39] T. Nakagawa, S. R. Martinez, Y. Goto et al., “Detection of circulating tumor cells in early-stage breast cancer metastasis to axillary lymph nodes,” Clinical Cancer Research, vol. 13, no. 14, pp. 4105–4110, 2007. [23] S. Mocellin, U. Keilholz, C. R. Rossi, and D. Nitti, “Circu- lating tumor cells: The “leukemic phase” of solid cancers,” Trends in Molecular Medicine, vol. 12, no. 3, pp. 130–139, 2006. [40] C. Alix-Panabi`eres, S. Riethdorf, and K. Pantel, “Circulating tumor cells and bone marrow micrometastasis,” Clinical Cancer Research, vol. 14, no. 16, pp. 5013–5021, 2008. International Journal of Hepatology 13 [72] J. Bruix, M. Sherman, J. M. Llovet et al., “Clinical man- agement of hepatocellular carcinoma. Conclusions of the Barcelona-2000 EASL conference. European Association for the Study of the Liver,” Journal of Hepatology, vol. 35, no. 3, pp. 421–430, 2001. [87] S. T. Cheung, C. L. Liu, J. P. Chow et al., “Preoperative plasma transcript AA454543 level is an independent prognostic fac- tor for hepatocellular carcinoma after partial hepatectomy,” Neoplasia, vol. 8, no. 9, pp. 696–701, 2006. [88] M. Gross-Goupil, R. Saffroy, D. Azoulay et al., “Real- time quantification of AFP mRNA to assess hematogenous dissemination after transarterial chemoembolization of hep- atocellular carcinoma,” Annals of Surgery, vol. 238, no. 2, pp. 241–248, 2003. [73] F. Trevisani, P. E. D’Intino, A. M. Morselli-Labate et al., “Serum α-fetoprotein for diagnosis of hepatocellular car- cinoma in patients with chronic liver disease: influence of HBsAg and anti-HCV status,” Journal of Hepatology, vol. 34, no. 4, pp. 570–575, 2001. [89] Y. Lu, L. Q. Wu, Z. H. L¨u, X. J. Wang, and J. Y. Yang, “Expression of SSX-1 and NY-ESO-1 mRNA in tumor tissues and its corresponding peripheral blood expression in patients with hepatocellular carcinoma,” Chinese Medical Journal, vol. 120, no. 12, pp. 1042–1046, 2007. [74] S. Fujiyama, M. Tanaka, S. Maeda, H. Ashihara, R. Hirata, and K. Tomita, “Tumor markers in early diagnosis, follow-up and management of patients with hepatocellular carcinoma,” Oncology, vol. 62, no. 1, pp. 57–63, 2002. [75] H. Toyoda, T. Kumada, S. Kiriyama et al., “Changes in the characteristics and survival rate of hepatocellular carcinoma from 1976 to 2000: analysis of 1365 patients in a single institution in Japan,” Cancer, vol. 100, no. 11, pp. 2415–2421, 2004. [90] R. Sutcliffe, D. Maguire, P. Murphy et al., “Detection and clinical significance of bone marrow micrometastases in patients undergoing liver transplantation for hepatocellular carcinoma,” Transplantation, vol. 80, no. 1, pp. 88–94, 2005. [91] F. Miyazono, S. Natsugoe, S. Takao et al., “Surgical maneuvers enhance molecular detection of circulating tumor cells during gastric cancer surgery,” Annals of Surgery, vol. 233, no. 2, pp. 189–194, 2001. [76] P. Vejchapipat, P. Tangkijvanich, A. Theamboonlers, V. Chongsrisawat, S. Chittmittrapap, and Y. Poovorawan, “Association between serum hepatocyte growth factor and survival in untreated hepatocellular carcinoma,” Journal of Gastroenterology, vol. 39, no. 12, pp. 1182–1188, 2004. [92] M. Ijichi, T. Takayama, M. Matsumura, Y. Shiratori, M. Omata, and M. International Journal of Hepatology Makuuchi, “α-fetoprotein mRNA in the circulation as a predictor of postsurgical recurrence of hepatocellular carcinoma: a prospective study,” Hepatology, vol. 35, no. 4, pp. 853–860, 2002. [77] K. Dohmen, H. Shigematsu, K. Irie, and H. Ishibashi, “Clinical characteristics among patients with hepatocellular carcinoma according to the serum levels of α-fetoprotein and des-γ-carboxy prothrombin,” Hepato-Gastroenterology, vol. 50, no. 54, pp. 2072–2078, 2003. [93] H. Witzigmann, F. Geißler, F. Benedix et al., “Prospec- tive evaluation of circulating hepatocytes by α-fetoprotein messenger RNA in patients with hepatocellular carcinoma,” Surgery, vol. 131, no. 1, pp. 34–43, 2002. [78] A. S. Lok, R. K. Sterling, J. E. Everhart et al., “Des-γ-carboxy prothrombin and α-fetoprotein as biomarkers for the early detection of hepatocellular carcinoma,” Gastroenterology, vol. 138, no. 2, pp. 493–502, 2010. [94] S. Hillaire, V. Barbu, E. Boucher, M. Moukhtar, and R. Poupon, “Albumin messenger RNA as a marker of circulating hepatocytes in hepatocellular carcinoma,” Gastroenterology, vol. 106, no. 1, pp. 239–242, 1994. [79] T. Suehiro, K. Sugimachi, T. Matsumata, H. Itasaka, A. Take- tomi, and T. Maeda, “Protein induced by vitamin K absence or antagonist II as a prognostic marker in hepatocellular carcinoma. Comparison with alpha-fetoprotein,” Cancer, vol. 73, no. 10, pp. 2464–2471, 1994. [95] S. Kar and B. I. Carr, “Detection of liver cells in peripheral blood of patients with advanced- stage hepatocellular carci- noma,” Hepatology, vol. 21, no. 2, pp. 403–407, 1995. [80] A. L. Min, J. Y. Choi, H. Y. Woo et al., “High expression of Snail mRNA in blood from hepatocellular carcinoma patients with extra-hepatic metastasis,” Clinical and Experi- mental Metastasis, vol. 26, no. 7, pp. 759–767, 2009. [96] I. H. N. Wong, T. Leung, S. Ho, W. Y. Lau, M. Chan, and P. J. Johnson, “Semiquantification of circulating hepatocellular carcinoma cells by reverse transcriptase polymerase chain reaction,” British Journal of Cancer, vol. 76, no. 5, pp. 628– 633, 1997. [81] S. A. Gonzalez and E. B. Keeffe, “Diagnosis of hepatocellular carcinoma: role of tumor markers and liver biopsy,” Clinics in Liver Disease, vol. 15, no. 2, pp. 297–306, 2011. [97] V. A. Resto, O. L. Caballero, M. R. Buta et al., “A putative oncogenic role for MPP11 in head and neck squamous cell cancer,” Cancer Research, vol. 60, no. 19, pp. 5529–5535, 2000. [82] M. Louha, J. Nicolet, H. Zylberberg et al., “Liver resection and needle liver biopsy cause hematogenous dissemination of liver cells,” Hepatology, vol. 29, no. International Journal of Hepatology Hayes, “The measurement and therapeutic implications of circulating tumour cells in breast cancer,” British Journal of Cancer, vol. 94, no. 1, pp. 8–12, 2006. [52] P. Hermanek, R. V. Hutter, L. H. Sobin, and C. Wittekind, “International Union Against Cancer. Classification of iso- lated tumor cells and micrometastasis,” Cancer, vol. 86, no. 12, pp. 2668–2673, 1999. [68] A. Mejean, G. Vona, B. Nalpas et al., “Detection of circulating prostate derived cells in patients with prostate adenocarci- noma is an independent risk factor for tumor recurrence,” Journal of Urology, vol. 163, no. 6, pp. 2022–2029, 2000. [53] L. A. Liotta, J. Kleinerman, and G. M. Saidel, “Quantitative relationships of intravascular tumor cells, tumor vessels, and pulmonary metastases following tumor implantation,” Cancer Research, vol. 34, no. 5, pp. 997–1004, 1974. [69] L. Zhou, J. Liu, and F. Luo, “Serum tumor markers for detection of hepatocellular carcinoma,” World Journal of Gastroenterology, vol. 12, no. 8, pp. 1175–1181, 2006. [54] H. Aselmann, H. Wolfes, F. Rohde et al., “Quantification of α1-fetoprotein mRNA in peripheral blood and bone marrow: a tool for perioperative evaluation of patients with hepatocellular carcinoma,” Langenbeck’s Archives of Surgery, vol. 386, no. 2, pp. 118–123, 2001. [70] K. Okuda, “Early recognition of hepatocellular carcinoma,” Hepatology, vol. 6, no. 4, pp. 729–738, 1986. [55] T. Kamiyama, H. Miyakawa, K. Tajiri, F. Marumo, and C. Sato, “Ischemic hepatitis in cirrhosis: clinical features and prognostic implications,” Journal of Clinical Gastroenterology, vol. 22, no. 2, pp. 126–130, 1996. [71] R. Saffroy, P. Pham, M. Reffas, M. Takka, A. Lemoine, and B. Debuire, “New perspectives and strategy research biomarkers for hepatocellular carcinoma,” Clinical Chemistry and Laboratory Medicine, vol. 45, no. 9, pp. 1169–1179, 2007. International Journal of Hepatology International Journal of Hepatology Geng, “Chemokines and hepatocellular carcinoma,” World Journal of Gastroenterology, vol. 16, no. 15, pp. 1832–1836, 2010. [107] A. Bergamaschi, E. Tagliabue, T. Sorlie et al., “Extracellular matrix signature identifies breast cancer subgroups with different clinical outcome,” Journal of Pathology, vol. 214, no. 3, pp. 357–367, 2008. [124] N. Li, W. Guo, J. Shi et al., “Expression of the chemokine receptor CXCR4 in human hepatocellular carcinoma and its role in portal vein tumor thrombus,” Journal of Experimental and Clinical Cancer Research, vol. 29, no. 1, article no. 156, 2010. [108] J. R. Peng, H. S. Chen, D. C. Mou et al., “Expression of cancer/testis (CT) antigens in Chinese hepatocellular carcinoma and its correlation with clinical parameters,” Cancer Letters, vol. 219, no. 2, pp. 223–232, 2005. [125] R. C. Lee, R. L. Feinbaum, and V. Ambros, “The C. elegans heterochronic gene lin-4 encodes small RNAs with antisense complementarity to lin-14,” Cell, vol. 75, no. 5, pp. 843–854, 1993. [109] M. Suzuki, K. Sugimoto, J. Tanaka et al., “Up-regulation of glypican-3 in human hepatocellular carcinoma,” Anticancer Research, vol. 30, no. 12, pp. 5055–5062, 2010. [126] B. J. Reinhart, F. J. Slack, M. Basson et al., “The 21-nucleotide let-7 RNA regulates developmental timing in Caenorhabditis elegans,” Nature, vol. 403, no. 6772, pp. 901–906, 2000. [110] M. Yao, D. F. Yao, Y. Z. Bian et al., “Oncofetal antigen glypican-3 as a promising early diagnostic marker for hep- atocellular carcinoma,” Hepatobiliary and Pancreatic Diseases International, vol. 10, no. 3, pp. 289–294, 2011. [127] Y. Hoshida, S. Toffanin, A. Lachenmayer, A. Villanueva, B. Minguez, and J. M. Llovet, “Molecular classification and novel targets in hepatocellular carcinoma: recent advance- ments,” Seminars in Liver Disease, vol. 30, no. 1, pp. 35–51, 2010. [111] Z. Dai, J. Zhou, S. J. Qiu, Y. K. Liu, and J. Fan, “Lectin- based glycoproteomics to explore and analyze hepatocellu- lar carcinoma-related glycoprotein markers,” Electrophoresis, vol. 30, no. 17, pp. 2957–2966, 2009. [128] J. Ji and X. W. Wang, “New kids on the block: diagnostic and prognostic microRNAs in hepatocellular carcinoma.,” Cancer biology & therapy, vol. 8, no. 18, pp. 1686–1693, 2009. [112] M. Donati, G. Brancato, and A. Donati, “Clinical biomarkers in hepatocellular carcinoma (HCC),” Frontiers in Bioscience (Scholar edition), vol. 2, pp. 571–577, 2010. [129] T. A. Kerr, K. M. Korenblat, and N. O. Davidson, “MicroR- NAs and liver disease,” Translational Research, vol. 157, no. 4, pp. 241–252, 2011. [113] V. Paradis, F. International Journal of Hepatology 14 [117] X. Liu, X. Wan, Z. Li, C. Lin, Y. Zhan, and X. Lu, “Golgi protein 73(GP73), a useful serum marker in liver diseases,” Clinical Chemistry and Laboratory Medicine, vol. 49, no. 8, pp. 1311–1316, 2011. mRNA in metastasis of hepatocellular carcinoma,” American Journal of Clinical Pathology, vol. 134, no. 5, pp. 799–806, 2010. [102] B. Malavaud, M. Mi´edoug´e, J. L. Payen et al., “Prostate- specific antigen in acute hepatitis and hepatocellular carci- noma,” Prostate, vol. 41, no. 4, pp. 258–262, 1999. [118] M. Makridakis and A. Vlahou, “Secretome proteomics for discovery of cancer biomarkers,” Journal of Proteomics, vol. 73, no. 12, pp. 2291–2305, 2010. [103] F. Grizzi, B. Franceschini, C. Hamrick, E. E. Frezza, E. Cobos, and M. Chiriva-Internati, “Usefulness of cancer-testis antigens as biomarkers for the diagnosis and treatment of hepatocellular carcinoma,” Journal of Translational Medicine, vol. 5, article no. 3, 2007. [119] G. Malaguarnera, M. Giordano, I. Paladina, M. Berretta, A. Cappellani, and M. Malaguarnera, “Serum markers of hepatocellular carcinoma,” Digestive Diseases and Sciences, vol. 55, no. 10, pp. 2744–2755, 2010. [120] D. Niu, H. Feng, and W. N. Chen, “Proteomic analysis of HBV-associated HCC: insights on mechanisms of disease onset and biomarker discovery,” Journal of Proteomics, vol. 73, no. 7, pp. 1283–1290, 2010. [104] S. Y. Kong, J. W. Park, J. O. Kim et al., “Alpha-fetoprotein and human telomerase reverse transcriptase mRNA levels in peripheral blood of patients with hepatocellular carcinoma,” Journal of Cancer Research and Clinical Oncology, vol. 135, no. 8, pp. 1091–1098, 2009. [121] L. L. Liu, D. Fu, Y. Ma, and X. Shen, “The power and the promise of liver cancer stem cell markers,” Stem Cells and Development, vol. 20, no. 12, pp. 2023–2030, 2011. [105] M. J. Scanlan, A. O. Gure, A. A. Jungbluth, L. J. Old, and Y. T. Chen, “Cancer/testis antigens: an expanding family of targets for cancer immunotherapy,” Immunological Reviews, vol. 188, pp. 22–32, 2002. [122] T. Chiba, A. Kamiya, O. Yokosuka, and A. Iwama, “Cancer stem cells in hepatocellular carcinoma: recent progress and perspective,” Cancer Letters, vol. 286, no. 2, pp. 145–153, 2009. [106] I. H. Benoy, H. Elst, M. Philips et al., “Real-time RT-PCR detection of disseminated tumour cells in bone marrow has superior prognostic significance in comparison with circulating tumour cells in patients with breast cancer,” British Journal of Cancer, vol. 94, no. 5, pp. 672–680, 2006. [123] F. Huang and X. P. International Journal of Hepatology 3, pp. 879–882, 1999. [98] Z. Z. Dong, D. F. Yao, M. Yao et al., “Clinical impact of plasma TGF-β1 and circulating TGF-β1 mRNA in diagnosis of hepatocellular carcinoma,” Hepatobiliary and Pancreatic Diseases International, vol. 7, no. 3, pp. 288–295, 2008. [83] M. Minata, N. Nishida, T. Komeda et al., “Postoperative detection of alpha-fetoprotein mRNA in blood as a predic- tor for metastatic recurrence of hepatocellular carcinoma,” Journal of Gastroenterology and Hepatology, vol. 16, no. 4, pp. 445–451, 2001. [99] Y. L. Wang, G. Li, D. Wu, Y. W. Liu, and Z. Yao, “Analysis of alpha-fetoprotein mRNA level on the tumor cell hematogenous spread of patients with hepatocellular carcinoma undergoing orthotopic liver transplantation,” Transplantation Proceedings, vol. 39, no. 1, pp. 166–168, 2007. [84] J. Houghton, C. Stoicov, S. Nomura et al., “Gastric cancer originating from bone marrow-derived cells,” Science, vol. 306, no. 5701, pp. 1568–1571, 2004. [100] Z. Z. Dong, D. F. Yao, D. B. Yao et al., “Expression and alteration of insulin-like growth factor II-messenger RNA in hepatoma tissues and peripheral blood of patients with hepatocellular carcinoma,” World Journal of Gastroenterology, vol. 11, no. 30, pp. 4655–4660, 2005. [85] S. K. Agarwal, A. L. Burns, K. E. Sukhodolets et al., “Molecular pathology of the MEN1 gene,” Annals of the New York Academy of Sciences, vol. 1014, pp. 189–198, 2004. [86] S. Sell, “Cellular origin of hepatocellular carcinomas,” Sem- inars in Cell and Developmental Biology, vol. 13, no. 6, pp. 419–424, 2002. [101] J. Qian, D. Yao, Z. Dong et al., “Characteristics of hepatic IGF-II expression and monitored levels of circulating IGF-II International Journal of Hepatology Rosenberg, “The use of flow cytometry in assessing malignancy in bone and soft tissue tumors,” Clinical Orthopaedics and Related Research, no. 397, pp. 95–105, 2002. [155] H. B. Hsieh, D. Marrinucci, K. Bethel et al., “High speed detection of circulating tumor cells,” Biosensors and Bioelec- tronics, vol. 21, no. 10, pp. 1893–1899, 2006. [141] P. Pinzani, B. Salvadori, L. Simi et al., “Isolation by size of epithelial tumor cells in peripheral blood of patients with breast cancer: correlation with real-time reverse transcriptase-polymerase chain reaction results and feasibil- ity of molecular analysis by laser microdissection,” Human Pathology, vol. 37, no. 6, pp. 711–718, 2006. [156] S. Nagrath, L. V. Sequist, S. Maheswaran et al., “Isolation of rare circulating tumour cells in cancer patients by microchip technology,” Nature, vol. 450, no. 7173, pp. 1235–1239, 2007. [157] D. G. J. M. Rickwood, Biological Centrifugation, Springer, Berlin, Germany, 2001. [142] G. Vona, L. Estepa, C. B´eroud et al., “Impact of cytomorpho- logical detection of circulating tumor cells in patients with liver cancer,” Hepatology, vol. 39, no. 3, pp. 792–797, 2004. [158] T. C. Ford and J. M. Graham, An Introduction to Centrifuga- tion, BIOS Scientific, 1991. [143] A. Farina, A. Sekizawa, M. Iwasaki, R. Matsuoka, K. Ichizuka, and T. Okai, “Total cell-free DNA (beta-globin gene) distri- bution in maternal plasma at the second trimester: a new prospective for preeclampsia screening,” Prenatal Diagnosis, vol. 24, no. 9, pp. 722–726, 2004. [159] J. Graham and D. Rickwood, Subcellular Fractionation: A Practical Approach, Oxford University Press, 1997. [160] D. Rickwood, Preparative Centrifugation: A Practical Approach, IRL Press, Oxford, UK, 1992. [161] D. Rickwood, T. Ford, and J. Steensgaard, Centrifugation: Essential Data, John Wiley & Son, New York, NY, USA, 1994. [144] G. Kallergi, S. Agelaki, A. Kalykaki, C. Stournaras, D. Mavroudis, and V. Georgoulias, “Phosphorylated EGFR and PI3K/Akt signaling kinases are expressed in circulating tumor cells of breast cancer patients,” Breast Cancer Research, vol. 10, no. 5, article no. R80, 2008. [162] R. Gertler, R. Rosenberg, K. Fuehrer, M. Dahm, H. Nekarda, and J. R. Siewert, “Detection of circulating tumor cells in blood using an optimized density gradient centrifugation.,” Recent Results in Cancer Research, vol. 162, pp. 149–155, 2003. [145] J. Kollermann, B. Heseding, B. Helpap, M. W. Kollermann, and K. International Journal of Hepatology Degos, D. Darg`ere et al., “Identification of a new marker of hepatocellular carcinoma by serum protein profiling of patients with chronic liver diseases,” Hepatology, vol. 41, no. 1, pp. 40–47, 2005. [130] K. Kojima, A. Takata, C. Vadnais et al., “MicroRNA122 is a key regulator of alpha-fetoprotein expression and influences the aggressiveness of hepatocellular carcinoma,” Nature Communications, vol. 2, article 338, 2011. [114] X. Q. Peng, F. Wang, X. Geng, and W. M. Zhang, “Current advances in tumor proteomics and candidate biomarkers for hepatic cancer,” Expert Review of Proteomics, vol. 6, no. 5, pp. 551–561, 2009. [131] G. Kong, J. Zhang, S. Zhang, C. Shan, L. Ye, and X. Zhang, “Upregulated microRNA-29a by hepatitis B virus X protein enhances hepatoma cell migration by targeting PTEN in cell culture model,” PLoS One, vol. 6, no. 5, Article ID e19518, 2011. [115] T. C. W. Poon, T. T. Yip, A. T. C. Chan et al., “Comprehensive proteomic profiling identifies serum proteomic signatures for detection of hepatocellular carcinoma and its subtypes,” Clinical Chemistry, vol. 49, no. 5, pp. 752–760, 2003. [132] F. Sato, E. Hatano, K. Kitamura et al., “MicroRNA profile predicts recurrence after resection in patients with hepato- cellular carcinoma within the Milan criteria,” PLoS One, vol. 6, no. 1, Article ID e16435, 2011. [116] N. T. Zinkin, F. Grall, K. Bhaskar et al., “Serum proteomics and biomarkers in hepatocellular carcinoma and chronic liver disease,” Clinical Cancer Research, vol. 14, no. 2, pp. 470– 477, 2008. [133] S. T. Fan, Z. F. Yang, D. W. Ho, M. N. Ng, W. C. Yu, and J. Wong, “Prediction of posthepatectomy recurrence of International Journal of Hepatology 15 [148] Z. A. J. Khan, S. K. Jonas, N. Le-Marer et al., “p53 mutations in primary and metastatic tumors and circulating tumor cells from colorectal carcinoma patients,” Clinical Cancer Research, vol. 6, no. 9, pp. 3499–3504, 2000. hepatocellular carcinoma by circulating cancer stem cells: a prospective study,” Annals of Surgery, vol. 254, no. 4, pp. 569– 576, 2011. [134] D. M. Levi and S. Nishida, “Liver transplantation for hepa- tocellular carcinoma: lessons learned and future directions,” Clinics in Liver Disease, vol. 15, pp. 717–725, 2011. [149] R. Q. Wharton, S. K. Jonas, C. Glover et al., “Increased detection of circulating tumor cells in the blood of colorectal carcinoma patients using two reverse transcription-PCR assays and multiple blood samples,” Clinical Cancer Research, vol. 5, no. 12, pp. International Journal of Hepatology 4158–4163, 1999. [135] F. Farinati, D. Marino, M. DeGiorgio et al., “Diagnostic and prognostic role of alpha-fetoprotein in hepatocellular carcinoma: both or neither?” The American Journal of Gastroenterology, vol. 101, no. 3, pp. 524–532, 2006. [150] C. Alix-Panabi`eres, J. P. Brouillet, M. Fabbro et al., “Charac- terization and enumeration of cells secreting tumor markers in the peripheral blood of breast cancer patients,” Journal of Immunological Methods, vol. 299, no. 1-2, pp. 177–188, 2005. [136] M. Vivarelli, A. Cucchetti, G. L. Barba et al., “Liver trans- plantation for hepatocellular carcinoma under calcineurin inhibitors: reassessment of risk factors for tumor recurrence,” Annals of Surgery, vol. 248, no. 5, pp. 857–862, 2008. [151] C. Alix-Panabieres, J. P. Vendrell, O. Pelle et al., “Detection and characterization of putative metastatic precursor cells in cancer patients,” Clinical Chemistry, vol. 53, no. 3, pp. 537– 539, 2007. [137] F. Y. Yao, L. Xiao, N. M. Bass, R. Kerlan, N. L. Ascher, and J. P. Roberts, “Liver transplantation for hepatocellular carcinoma: validation of the UCSF-expanded criteria based on preopera- tive imaging,” American Journal of Transplantation, vol. 7, no. 11, pp. 2587–2596, 2007. [152] C. C. Czerkinsky, L. A. Nilsson, H. Nygren, O. Ouchter- lony, and A. Tarkowski, “A solid-phase enzyme-linked immunospot (ELISPOT) assay for enumeration of specific antibody-secreting cells,” Journal of Immunological Methods, vol. 65, no. 1-2, pp. 109–121, 1983. [138] S. H. Yang, K. S. Suh, H. W. Lee et al., “A revised scoring system utilizing serum alphafetoprotein levels to expand candidates for living donor transplantation in hepatocellular carcinoma,” Surgery, vol. 141, no. 5, pp. 598–609, 2007. [153] K. Lobodasch, F. Fr¨ohlich, M. Rengsberger et al., “Quan- tification of circulating tumour cells for the monitoring of adjuvant therapy in breast cancer: an increase in cell number at completion of therapy is a predictor of early relapse,” Breast, vol. 16, no. 2, pp. 211–218, 2007. [139] M. Balic, N. Dandachi, G. Hofmann et al., “Comparison of two methods for enumerating circulating tumor cells in carcinoma patients,” Cytometry B, vol. 68, no. 1, pp. 25–30, 2005. [154] K. Pachmann, J. H. Clement, C. P. Schneider et al., “Standardized quantification of circulating peripheral tumor cells from lung and breast cancer,” Clinical Chemistry and Laboratory Medicine, vol. 43, no. 6, pp. 617–627, 2005. [140] H. J. Mankin, G. Fondren, F. J. Hornicek, M. C. Gebhardt, and A. E. International Journal of Hepatology 16 urinary samples,” Journal of Clinical Pathology, vol. 57, no. 11, pp. 1208–1212, 2004. [182] X. Lu, H. Guo, J. Molter et al., “Alpha-fetoprotein-thymidine kinase-luciferase knockin mice: a novel model for dual modality longitudinal imaging of tumorigenesis in liver,” Journal of Hepatology, vol. 55, no. 1, pp. 96–102, 2011. pp [167] R. G. Wright and J. A. Halford, “Evaluation of thin-layer methods in urine cytology,” Cytopathology, vol. 12, no. 5, pp. 306–313, 2001. [183] X. Ma, Z. Liu, X. Yang et al., “Dual-modality monitoring of tumor response to cyclophosphamide therapy in mice with bioluminescence imaging and small-animal positron emission tomography,” Molecular Imaging, vol. 10, no. 4, pp. 278–283, 2011. [168] G. Sergeant, F. Penninckx, and B. Topal, “Quantitative RT-PCR detection of colorectal tumor cells in peripheral blood—a systematic review,” Journal of Surgical Research, vol. 150, no. 1, pp. 144–152, 2008. [184] C. L. Xiao, Z. H. Tao, L. Guo et al., “Isomalto oligosaccharide sulfate inhibits tumor growth and metastasis of hepatocellu- lar carcinoma in nude mice,” BMC Cancer, vol. 11, article no. 150, 2011. [169] W. J. Allard, J. Matera, M. C. Miller et al., “Tumor cells circulate in the peripheral blood of all major carcinomas but not in healthy subjects or patients with nonmalignant diseases,” Clinical Cancer Research, vol. 10, no. 20, pp. 6897– 6904, 2004. [185] Y. Li, J. Guo, C. Wang et al., “Circulation times of prostate cancer and hepatocellular carcinoma cells by in vivo flow cytometry,” Cytometry A, vol. 79, no. 10, pp. 848–854, 2011. [170] D. A. Smirnov, D. R. Zweitzig, B. W. Foulk et al., “Global gene expression profiling of circulating tumor cells,” Cancer Research, vol. 65, no. 12, pp. 4993–4997, 2005. [171] R. E. Zigeuner, R. Riesenberg, H. Pohla, A. Hofstetter, and R. Oberneder, “Isolation of circulating cancer cells from whole blood by immunomagnetic cell enrichment and unenriched immunocytochemistry in vitro,” Journal of Urology, vol. 169, no. 2, pp. 701–705, 2003. [172] J. C. Goeminne, T. Guillaume, and M. Symann, “Pitfalls in the detection of disseminated non-hematological tumor cells,” Annals of Oncology, vol. 11, no. 7, pp. 785–792, 2000. [173] B. Naume, E. Borgen, S. Tøssvik, N. Pavlak, D. Oates, and J. M. Nesland, “Detection of isolated tumor cells in peripheral blood and in BM: evaluation of a new enrichment method,” Cytotherapy, vol. 6, no. 3, pp. 244–252, 2004. [174] B. Naume and T. International Journal of Hepatology Pantel, “Comparative immunocytochemical assess- ment of isolated carcinoma cells in lymph nodes and bone marrow of patients with clinically localized prostate cancer,” International Journal of Cancer, vol. 84, pp. 145–149, 1999. [163] O. Zach and D. Lutz, “Tumor cell detection in peripheral blood and bone marrow,” Current Opinion in Oncology, vol. 18, no. 1, pp. 48–56, 2006. [164] B. Molnar, A. Ladanyi, L. Tanko, L. Sr´eter, and Z. Tulassay, “Circulating tumor cell clusters in the peripheral blood of colorectal cancer patients,” Clinical Cancer Research, vol. 7, no. 12, pp. 4080–4085, 2001. [146] B. M. Saraiva-Romanholo, V. Barnab´e, A. L. I. Carvalho, M. A. Martins, P. H. N. Saldiva, and M. D. P. T. Nunes, “Comparison of three methods for differential cell count in induced sputum,” Chest, vol. 124, no. 3, pp. 1060–1066, 2003. [165] J. L. Papillo and D. Lapen, “Cell yield: ThinPrep vs. cytocen- trifuge,” Acta Cytologica, vol. 38, no. 1, pp. 33–36, 1994. [147] K. R. Aryal, A. J. Lengyel, N. Purser, N. Harrison, N. Aluwi- hare, and B. Isgar, “Nipple core biopsy for the deformed or scaling nipple,” Breast, vol. 13, no. 4, pp. 350–352, 2004. [166] E. Piaton, K. Hutin, J. Faynel, M. C. Ranchin, and M. Cot- tier, “Cost efficiency analysis of modern cytocentrifugation methods versus liquid based (Cytyc Thinprep) processing of International Journal of Hepatology Espevik, “Effects of IL-7 and IL-2 on highly enriched CD56+ natural killer cells: a comparative study,” Journal of Immunology, vol. 147, no. 7, pp. 2208–2214, 1991. [175] J. Y. Wang, C. H. Wu, C. Y. Lu et al., “Molecular detection of circulating tumor cells in the peripheral blood of patients with colorectal cancer using RT-PCR: significance of the prediction of postoperative metastasis,” World Journal of Surgery, vol. 30, no. 6, pp. 1007–1013, 2006. [176] J. J. Christiansen and A. K. Rajasekaran, “Reassessing epithe- lial to mesenchymal transition as a prerequisite for carcinoma invasion and metastasis,” Cancer Research, vol. 66, no. 17, pp. 8319–8326, 2006. [177] W. Xu, L. Cao, L. Chen et al., “Isolation of circulating tumor cells in patients with hepatocellular carcinoma using a novel cell separation strategy,” Clinical Cancer Research, vol. 17, no. 11, pp. 3783–3793, 2011. [178] F. Heindryckx, I. Colle, and H. Van Vlierberghe, “Experimen- tal mouse models for hepatocellular carcinoma research,” International Journal of Experimental Pathology, vol. 90, no. 4, pp. 367–386, 2009. [179] K. H. Weylandt, L. F. Krause, B. Gomolka et al., “Suppressed liver tumorigenesis in fat-1 mice with elevated omega-3 fatty acids is associated with increased omega-3 derived lipid mediators and reduced TNF-α,” Carcinogenesis, vol. 32, no. 6, pp. 897–903, 2011. [180] O. Scatton, F. Chiappini, X. H. Liu et al., “Generation and modulation of hepatocellular carcinoma circulating cells: a new experimental model,” Journal of Surgical Research, vol. 150, no. 2, pp. 183–189, 2008. [181] O. Scatton, F. Chiappini, P. Riou et al., “Fate and characteriza- tion of circulating tumor cells in a NOD/SCID mouse model of human hepatocellular carcinoma,” Oncogene, vol. 25, no. 29, pp. 4067–4075, 2006.
https://openalex.org/W4385198460
https://bmcanesthesiol.biomedcentral.com/counter/pdf/10.1186/s12871-023-02207-9
English
null
Intensive care unit admissions with and without COVID-19 in Finland from 2017 to 2021: a retrospective register-based study
BMC anesthesiology
2,023
cc-by
5,937
Saara Jäntti1*, Ville Ponkilainen2, Ilari Kuitunen3,4, Mikko M. Uimonen2, Tuomas Huttunen5 and Ville M. Mattila1,6 Jäntti1*, Ville Ponkilainen2, Ilari Kuitunen3,4, Mikko M. Uimonen2, Tuomas Huttunen5 and Ville M. M Abstract Keywords  COVID-19, Intensive care unit, Critical care 3Mikkeli Central Hospital, Porrassalmenkatu 35-37, Mikkeli 50100, Finland 4School of Medicine, University of Eastern Finland, Yliopistonranta 1, Kuopio 70211, Finland 5Department of Cardiothoracic Anesthesia, Tampere Heart Hospital, Teiskontie 35, Tampere 33521, Finland 6Department of Orthopaedics and Traumatology, Tampere University Hospital, Teiskontie 35, Tampere PL2000, 33521, Finland *Correspondence: Saara Jäntti saara.jantti@tuni.fi 1Faculty of Medicine and Health Technology, Tampere University, Kauppi Campus, Arvo Ylpön katu 34, Tampere 33520, Finland 2Department of Surgery, Central Finland Hospital Nova, Hoitajantie 3, 40620 Jyväskylä, Finland *Correspondence: Saara Jäntti saara.jantti@tuni.fi 1Faculty of Medicine and Health Technology, Tampere University, Kauppi Campus, Arvo Ylpön katu 34, Tampere 33520, Finland 2Department of Surgery, Central Finland Hospital Nova, Hoitajantie 3, 40620 Jyväskylä, Finland BMC Anesthesiology BMC Anesthesiology Jäntti et al. BMC Anesthesiology (2023) 23:251 https://doi.org/10.1186/s12871-023-02207-9 Open Access Abstract Background  After the COVID-19 pandemic started, critical care resources were expanded in Finland to manage a possible surge in patients requiring intensive care. The aim of this study was to evaluate the incidence of overall ICU admissions, patient diagnoses, characteristics, and length of stay during the pandemic. Methods  This retrospective hospital register-based study was conducted in two large and one mid-size Finnish public hospitals. The required data were collected from ICU patient information systems and all adult patients were included. Monthly and yearly incidences with 95% confidence intervals (CI) were counted per 100 000 persons-years by Poisson exact method and compared by incidence rate ratios (IRR). Results  A total of 4407 admissions to ICUs for any cause occurred during 2020. In 2021, this figure was 4931. During the reference years (2017–2019), the mean number of admissions to ICU was 4781. In 2020 and 2021, the proportion of patients requiring intensive care due to COVID-19 was only 3%. The incidence of all-cause ICU admissions decreased during the lockdown in 2020 when compared to the reference years. Before the start of the lockdown in February 2020, the IRR of all-cause ICU admissions was 1.02 (CI: 0.89 to 1.18). During the lockdown period, however, the IRR of all-cause ICU admissions decreased to 0.78 (CI: 0.67 to 0.90) in March. When the lockdown ended, the incidence rebounded to the same level as before the lockdown. However, in 2021, the incidence of ICU admissions remained at the same level when compared to the reference years. The most prominent changes occurred in the incidence of diseases of the nervous system, which includes epilepsy and seizures and transient cerebral ischemic attacks, in diseases of the respiratory system, and neoplasms. Conclusions  According to the findings of this study, the incidence of all-cause ICU admissions decreased after the lockdown was implemented in 2020. Furthermore, the percentage of patients requiring intensive care due to COVID- 19 in Finland was only 3% in 2020 and 2021. These findings may serve to help in the planning and allocating of ICU resources during future pandemics. 3Mikkeli Central Hospital, Porrassalmenkatu 35-37, Mikkeli 50100, Finland 4School of Medicine, University of Eastern Finland, Yliopistonranta 1, Kuopio 70211, Finland 5Department of Cardiothoracic Anesthesia, Tampere Heart Hospital, Teiskontie 35, Tampere 33521, Finland 6Department of Orthopaedics and Traumatology, Tampere University Hospital, Teiskontie 35, Tampere PL2000, 33521, Finland © The Author(s) 2023. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Jäntti et al. BMC Anesthesiology (2023) 23:251 Jäntti et al. BMC Anesthesiology (2023) 23:251 Page 2 of 7 Jäntti et al. BMC Anesthesiology Tampere University Hospital, the mean age of population was 43 years, in Mikkeli Central Hospital catchment area 49 years and in Central Finland Hospital catchment area 43 years. The distribution by gender was similar in all areas, 50% were men and 50% women [8]. The required data were collected from the ICU patient information systems of the three hospitals. All adult patients (aged 18 or older) who were admitted to the ICUs of the par­ ticipating hospitals in 2020 and 2021 were included. As a reference, we used ICU admissions from 2017 to 2019. The classification of patients was done using Interna­ tional Classification of Diseases 10th Revision (ICD-10) diagnostic codes [9]. Data regarding ICU admission was collected using the first diagnosis of a patient and each treatment period was collected only once. The changes in the number of ICU admissions were collected and ana­ lyzed in categories based on the ICD-10 diagnostic codes (Table 1). The number of patients who were admitted to ICU and had tested positive for COVID-19 in the years 2020 and 2021 was collected using ICD-10 diagnostic codes starting with U07.1. Results A total of 4407 admissions to ICU occurred in 2020 and 4931 in 2021. During the reference years (2017–2019), the mean number of admissions to ICU was 4781. A total of 4864 admissions occurred in 2017, 4856 in 2018, and 4624 in 2019. In addition, a total of 110 (2.5% of all ICU admissions) COVID-positive patients were admitted to ICU units in the participating hospitals in 2020. During the year 2021, the number of COVID patients admitted was 141 (2.9% of all ICU admissions). We found three distinctive peaks of COVID patients being admitted to ICU: 27 patients in April 2020, 23 patients in December 2020, and 27 patients in December 2021 (Fig. 1). Ethics. Due to the register-based study design, we did not obtain ethical committee evaluation. As the law on the secondary use of routinely collected health care data is rather strict, we did not combine the patient data from the participating hospitals. Instead, we analyzed the data from each hospital separately and then combined the data anonymously. Previous literature has yielded conflicting results, as both increases and decreases in non-COVID-19 ICU admissions have been reported [5–7]. Therefore, the aim of this study was to evaluate the incidence of overall ICU admissions, patient demo­ graphics, and length of stay during the pandemic. Also, the number of confirmed COVID-19 patients in Finland requiring intensive care during the years 2020 and 2021 was assessed. Background During the COVID-19 pandemic, ICUs worldwide have faced numerous challenges. The increasing number of COVID-19 patients and a high number of patients requir­ ing respiratory support, in addition to other patients requiring ICU treatment, have placed high demands on ICU capacity [1]. At the start of the pandemic in Finland, critical care resources were expanded to deal with a pos­ sible surge in COVID-19 patients requiring intensive care. The number of ICU admissions due to COVID-19 began to increase in March 2020. In Finland, the peak prevalence in ICU admissions in patients who tested positive for COVID-19 was 1.5 per 100 000 in April 2020. The largest number of patients needing ICU treatment was 83 patients on April 7, 2020. Thereafter, the preva­ lence remained below 0.90 per 100 000 (50 patients) dur­ ing subsequent waves of the pandemic [2]. During the global outbreaks of SARS in 2002–2003 and a novel influenza H1N1 in 2009, a substantial increase in demand of ICU services was reported. According to pre­ vious research from New Zealand and Australia, during the H1N1 pandemic in winter 2009 the number of ICU admissions was 15 times the number of admissions due to viral pneumonitis in reference years. In 2002–2003, SARS pandemic created a strain on healthcare systems in Toronto. The supply of critical care staff was limited, and ICU beds were closed which caused limitation of beds for all critical ill patients [3, 4]. Statistical analysis hl d Monthly and yearly incidences with 95% confidence intervals (CI) were counted per 100 000 person-years by Poisson exact method and compared by incidence rate ratios (IRR). Median and interquartile range (IQR) was calculated for ICU stay duration. The analyses and figures were performed using R version 3.6.2 (R Foundation for Statistical Computing, Vienna, Austria). Ethics To our knowledge, the extent of the changes in over­ all ICU admissions and the length of ICU stay during the pandemic remains unclear. As the number of patients requiring intensive care due to COVID-19 has remained low during the pandemic in Finland, this is an important issue that needs to be addressed. Ethics. Methodsh childbirth and the puerperium 19 2.6 18 2.5 0.94 (0.49–1.79) 18 2.5 0.93 (0.49–1.78) S Injury. poisoning and other external causes 221 30.7 238 32.8 1.07 (0.89–1.28) 196 26.8 0.87 (0.72–1.06) T Injury. poisoning and other external causes 174 24.2 168 23.1 0.96 (0.77–1.18) 220 30.1 1.24 (1.02–1.52) U0* Covid patients 0 110 15.1 141 19.3 W External causes of morbidity 437 60.6 372 51.2 0.84 (0.74–0.97) 390 53.3 0.88 (0.77–1.01) R. H. L. Z Other and unspecified 572 79.3 486 66.9 0.84 (0.75–0.95) 569 77.8 0.98 (0.87–1.10) Fig. 1  The number of COVID-positive patients in three ICU units during the COVID-19 pandemic Table 1  The yearly number of ICU admissions and incidence in 2020 and 2021 compared to the mean yearly incidence of the reference years (2017–2019) by incidence rate ratios (IRR) with 95% confidence intervals 2017–2019 2020 2021 ICD code Explanation N Inc N Inc IRR (95% CI) N Inc IRR (95% CI) A. B Infectious and parasitic diseases 273 37.8 266 36.6 0.97 (0.82–1.14) 250 34.2 0.90 (0.76–1.07) C. D Neoplasms. diseases of the blood 608 84.4 534 73.5 0.87 (0.78–0.98) 555 75.8 0.90 (0.80–1.01) E Endocrine. nutritional and metabolic diseases 647 89.7 591 81.3 0.91 (0.81–1.01) 602 82.3 0.92 (0.82–1.02) F Mental. Behavioral and Neurodevelopmental disorders 212 29.4 202 27.8 0.95 (0.78–1.15) 221 30.2 1.03 (0.85–1.24) G Diseases of the nervous system 219 30.4 194 26.7 0.88 (0.72–1.06) 352 48.1 1.58 (1.34–1.87) I Diseases of the circulatory system 1542 213.8 1429 196.7 0.92 (0.86–0.99) 1711 233.8 1.09 (1.02–1.17) J Diseases of the respiratory system 163 22.6 125 17.2 0.76 (0.60–0.96) 116 15.9 0.70 (0.55–0.89) K Diseases of the digestive system 81 11.2 114 15.7 1.40 (1.05–1.86) 74 10.1 0.90 (0.66–1.23) M Diseases of the musculoskeletal system and connective tissue 21 3.0 13 1.8 0.60 (0.30–1.21) 16 2.2 0.74 (0.39–1.41) N Diseases of the genitourinary system 17 2.4 20 2.8 1.17 (0.61–2.23) 22 3.0 1.28 (0.68–2.40) O Pregnancy. childbirth and the puerperium 19 2.6 18 2.5 0.94 (0.49–1.79) 18 2.5 0.93 (0.49–1.78) S Injury. poisoning and other external causes 221 30.7 238 32.8 1.07 (0.89–1.28) 196 26.8 0.87 (0.72–1.06) T Injury. poisoning and other external causes 174 24.2 168 23.1 0.96 (0.77–1.18) 220 30.1 1.24 (1.02–1.52) U0* Covid patients 0 110 15.1 141 19.3 W External causes of morbidity 437 60.6 372 51.2 0.84 (0.74–0.97) 390 53.3 0.88 (0.77–1.01) R. H. L. Methodsh childbirth and the puerperium 19 2.6 18 2.5 0.94 (0.49–1.79) 18 2.5 0.93 (0.49–1.78) S Injury. poisoning and other external causes 221 30.7 238 32.8 1.07 (0.89–1.28) 196 26.8 0.87 (0.72–1.06) T Injury. poisoning and other external causes 174 24.2 168 23.1 0.96 (0.77–1.18) 220 30.1 1.24 (1.02–1.52) U0* Covid patients 0 110 15.1 141 19.3 W External causes of morbidity 437 60.6 372 51.2 0.84 (0.74–0.97) 390 53.3 0.88 (0.77–1.01) R. H. L. Z Other and unspecified 572 79.3 486 66.9 0.84 (0.75–0.95) 569 77.8 0.98 (0.87–1.10) Fig. 1  The number of COVID-positive patients in three ICU units during the COVID-19 pandemic lockdown period in 2020 (Fig. 2). The IRR of all-cause ICU admissions was 1.02 (CI: 0.89 to 1.18) before the lockdown in February 2020 when compared to refer­ ence years. During the lockdown period in 2020, the IRR of all-cause ICU admissions decreased, falling to 0.78 (CI: 0.67 to 0.90) in March. When the lockdown ended, the incidence rebounded to pre-pandemic levels and remained there until the end of that year. In 2021, the Table 1  The yearly number of ICU admissions and incidence in 2020 and 2021 compared to the mean yearly incidence of the reference years (2017–2019) by incidence rate ratios (IRR) with 95% confidence intervals 2017–2019 2020 2021 ICD code Explanation N Inc N Inc IRR (95% CI) N Inc IRR (95% CI) A. B Infectious and parasitic diseases 273 37.8 266 36.6 0.97 (0.82–1.14) 250 34.2 0.90 (0.76–1.07) C. D Neoplasms. diseases of the blood 608 84.4 534 73.5 0.87 (0.78–0.98) 555 75.8 0.90 (0.80–1.01) E Endocrine. nutritional and metabolic diseases 647 89.7 591 81.3 0.91 (0.81–1.01) 602 82.3 0.92 (0.82–1.02) F Mental. Behavioral and Neurodevelopmental disorders 212 29.4 202 27.8 0.95 (0.78–1.15) 221 30.2 1.03 (0.85–1.24) G Diseases of the nervous system 219 30.4 194 26.7 0.88 (0.72–1.06) 352 48.1 1.58 (1.34–1.87) I Diseases of the circulatory system 1542 213.8 1429 196.7 0.92 (0.86–0.99) 1711 233.8 1.09 (1.02–1.17) J Diseases of the respiratory system 163 22.6 125 17.2 0.76 (0.60–0.96) 116 15.9 0.70 (0.55–0.89) K Diseases of the digestive system 81 11.2 114 15.7 1.40 (1.05–1.86) 74 10.1 0.90 (0.66–1.23) M Diseases of the musculoskeletal system and connective tissue 21 3.0 13 1.8 0.60 (0.30–1.21) 16 2.2 0.74 (0.39–1.41) N Diseases of the genitourinary system 17 2.4 20 2.8 1.17 (0.61–2.23) 22 3.0 1.28 (0.68–2.40) O Pregnancy. Methodsh This retrospective hospital register-based study was con­ ducted in two large - Tampere University Hospital (ter­ tiary level unit), and Central Finland Hospital (secondary level unit) and one mid-size - Mikkeli Central Hospital (secondary level) Finnish public hospitals. In total, these hospitals cover a catchment area of approximately 700 000 adult inhabitants (remained unchanged during the study years). During the study period, the mean age in Finnish population was 43 years. In the catchment area of When compared to the reference years, the inci­ dence of all-cause ICU admissions decreased during the Page 3 of 7 Jäntti et al. BMC Anesthesiology (2023) 23:251 lockdown period in 2020 (Fig. 2). The IRR of all-cause ICU admissions was 1.02 (CI: 0.89 to 1.18) before the lockdown in February 2020 when compared to refer­ ence years. During the lockdown period in 2020, the IRR of all-cause ICU admissions decreased, falling to 0.78 (CI: 0.67 to 0.90) in March. When the lockdown ended, the incidence rebounded to pre-pandemic levels and remained there until the end of that year. In 2021, the Table 1  The yearly number of ICU admissions and incidence in 2020 and 2021 compared to the mean yearly incidence of the reference years (2017–2019) by incidence rate ratios (IRR) with 95% confidence intervals 2017–2019 2020 2021 ICD code Explanation N Inc N Inc IRR (95% CI) N Inc IRR (95% CI) A. B Infectious and parasitic diseases 273 37.8 266 36.6 0.97 (0.82–1.14) 250 34.2 0.90 (0.76–1.07) C. D Neoplasms. diseases of the blood 608 84.4 534 73.5 0.87 (0.78–0.98) 555 75.8 0.90 (0.80–1.01) E Endocrine. nutritional and metabolic diseases 647 89.7 591 81.3 0.91 (0.81–1.01) 602 82.3 0.92 (0.82–1.02) F Mental. Behavioral and Neurodevelopmental disorders 212 29.4 202 27.8 0.95 (0.78–1.15) 221 30.2 1.03 (0.85–1.24) G Diseases of the nervous system 219 30.4 194 26.7 0.88 (0.72–1.06) 352 48.1 1.58 (1.34–1.87) I Diseases of the circulatory system 1542 213.8 1429 196.7 0.92 (0.86–0.99) 1711 233.8 1.09 (1.02–1.17) J Diseases of the respiratory system 163 22.6 125 17.2 0.76 (0.60–0.96) 116 15.9 0.70 (0.55–0.89) K Diseases of the digestive system 81 11.2 114 15.7 1.40 (1.05–1.86) 74 10.1 0.90 (0.66–1.23) M Diseases of the musculoskeletal system and connective tissue 21 3.0 13 1.8 0.60 (0.30–1.21) 16 2.2 0.74 (0.39–1.41) N Diseases of the genitourinary system 17 2.4 20 2.8 1.17 (0.61–2.23) 22 3.0 1.28 (0.68–2.40) O Pregnancy. Methodsh Z Other and unspecified 572 79.3 486 66.9 0.84 (0.75–0.95) 569 77.8 0.98 (0.87–1.10) Table 1  The yearly number of ICU admissions and incidence in 2020 and 2021 compared to the mean yearly incidence of the eference years (2017–2019) by incidence rate ratios (IRR) with 95% confidence intervals lockdown period in 2020 (Fig. 2). The IRR of all-cause ICU admissions was 1.02 (CI: 0.89 to 1.18) before the lockdown in February 2020 when compared to refer­ ence years. During the lockdown period in 2020, the IRR of all-cause ICU admissions decreased, falling to 0.78 (CI: 0.67 to 0.90) in March. When the lockdown ended, the incidence rebounded to pre-pandemic levels and remained there until the end of that year. In 2021, the Fig. 1  The number of COVID-positive patients in three ICU units during the COVID-19 pandemic Fig. 1  The number of COVID-positive patients in three ICU units during the COVID-19 pandemic Fig. 1  The number of COVID-positive patients in three ICU units during the COVID-19 pandemic of all-cause ICU admissions decreased, falling to 0.78 (CI: 0.67 to 0.90) in March. When the lockdown ended, the incidence rebounded to pre-pandemic levels and remained there until the end of that year. In 2021, the lockdown period in 2020 (Fig. 2). The IRR of all-cause ICU admissions was 1.02 (CI: 0.89 to 1.18) before the lockdown in February 2020 when compared to refer­ ence years. During the lockdown period in 2020, the IRR Jäntti et al. BMC Anesthesiology (2023) 23:251 Page 4 of 7 (2023) 23:251 Jäntti et al. BMC Anesthesiology Fig. 2  Incidence of ICU admissions for any cause during the COVID-19 pandemic and the reference years (2017–2019). The darker line illustrates the mean of incidences in the reference years (2017–2019) with confidence intervals Fig. 2  Incidence of ICU admissions for any cause during the COVID-19 pandemic and the reference years (2017–2019). The darker line illustrates the mean of incidences in the reference years (2017–2019) with confidence intervals incidence of all-cause ICU admissions remained at the same level when compared to the reference years. respiratory system decreased during the study period. The incidence of diseases of the respiratory system was 22.6 per 100 000 person-years during the reference years but decreased to 17.2 per 100 000 person-years (IRR 0.76, CI:0.60 to 0.96) in 2020. Methodsh In 2021, the incidence was 15.9 per 100 000 person-years (IRR 0.70, CI: 0.55 to 0.89) when compared to the reference years. In the diseases of the blood and neoplasms, the incidence was 84.4 per 100 000 person-years during the reference years and then decreased, being the lowest (73.5) in 2020 (IRR: 0.87, CI: 0.78 to 0.98). The incidence increased slightly in 2021 to 75.8 per 100 000 person-years (IRR: 0.90, CI: 0.80 to 1.01). When compared the all-cause ICU admissions in dif­ ferent participating hospitals, the most prominent change in March 2020 was seen in Mikkeli Central Hospital (IRR: 0.69, CI: 0.55–0.86) and in Tampere University Hospital (IRR: 0.78, CI: 0.61-1.00). In Central Finland Central hos­ pital, the incidence of ICU admissions remained higher than in reference years during the year 2021, the IRR being 1.67 (CI: 1.25–2.23) in February 2021 and 1.41 (CI: 1.05–1.89) in September 2021. In Mikkeli Central Hos­ pital, the incidence of ICU admissions was lower than in reference years during 2021. In February 2021, the IRR was 0.84 (CI: 0.68–1.04) and in August 2021, the IRR was 0.86 (CI: 0.70–1.05). In Tampere University Hospital, the incidence remained similar than in reference years dur­ ing 2021.h The incidence of ICU admissions due to trauma (S) remained stable during the years 2020 and 2021 in com­ parison to the reference years (Fig. 3). During the lock­ down in April 2020, the IRR was 1.21 (CI: 0.59 to 2.44). In October, the IRR was 0.81 (CI: 0.41 to 1.61). The inci­ dence of ICU admissions due to trauma in 2021 remained similar to those in the reference years. The IRR was 0.92 (CI: 0.43 to 1.95) in April 2021 and 0.81 (0.41 to 1.60) in October 2021. The most prominent change occurred in the incidence of diseases of the nervous system (G), the incidence of diseases of the respiratory system (J), and the incidence of neoplasms (C and D) (Table 1). The incidence of the diseases of the nervous system decreased from 30.4 to 100 000 person-years in 2017–2019 to 26.7 per 100 000 person-years (IRR: 0.88 CI: 0.72 to 1.06) in 2020. There­ after, the incidence increased to 48.1 per 100 000 person- years (IRR: 1.58, CI: 1.34 to 1.87) in 2021 when compared to the reference years. Methodsh The incidence of diseases of the There were no changes in the length of ICU stay dur­ ing 2020 and 2021 when compared to the reference years (Table 2). Page 5 of 7 Jäntti et al. BMC Anesthesiology Fig. 3  Incidence of ICU admissions in the groups based on ICD-10 diagnostic codes during the COVID-19 pandemic and the reference years (2017–2019). The darker line illustrates the mean of incidences in the reference years (2017–2019) Fig. 3  Incidence of ICU admissions in the groups based on ICD-10 diagnostic codes during the COVID-19 pandemic and the reference years (2017–2019). The darker line illustrates the mean of incidences in the reference years (2017–2019) Table 2  Mean and standard deviation for ICU stay duration in days during the COVID-19 pandemic and pre-pandemic period (2017–2019) restrictions reduced the spread of other respiratory infec­ tions, which are one of the most common reasons for ICU admission [10, 11]. In this study, the most prominent change in all-cause ICU admissions during the lockdown 2020 was seen in Mikkeli Central Hospital, which is a mid-size hospital. The incidence remained lower than in reference years during 2021 in Mikkeli Central Hospital, while an increase was seen in larger Central Finland Cen­ tral Hospital. Based on the results of the present study, the incidence of severe diseases of the respiratory sys­ tem in patients requiring ICU treatment decreased dur­ ing the pandemic, which further supports the findings of previous studies. Moreover, after the announcement of a national lockdown in Finland in 2020, the overall number of emergency department visits and hospital inpatient admissions decreased, which may have also affected the number of ICU admissions [12, 13]. To our knowledge, the effect of the COVID-19 pandemic on the incidence of ICU admissions in Finland has not been previously published.h (2017–2019) Month Pre-pandemic 2017–2019 Pandemic 2020–2021 Mean SD Mean SD Jan 1,5 3,3 1,4 2,6 Feb 1,5 3,2 1,5 2,8 Mar 1,6 3,4 1,7 3,7 Apr 1,7 3,3 1,9 4,4 May 1,4 2,8 1,4 2,7 Jun 1,4 2,9 1,4 2,9 Jul 1,5 3,0 1,5 3,1 Aug 1,4 2,8 1,4 2,9 Sep 1,6 3,4 1,4 2,9 Oct 1,5 2,9 1,5 3,0 Nov 1,4 3,0 1,5 3,3 Dec 1,7 4,0 1,7 3,1 Data availability Research data are not publicly available due to Finnish research legislation as the Law on the secondary use of routinely collected healthcare data prohibits to share data. Persons interest in gaining access to data must submit official application and study protocol to institutional review boards and after the evaluation of the protocol access to data may be granted, but it must be noted that the current legislation prohibits the delivery of original data out of Finland. The data used in the current study available from the corresponding author on reasonable request. Discussionh The incidence of all-cause ICU admissions decreased after the lockdown was declared in 2020. At the same time, the number of COVID-positive patients in ICU units was highest in April 2020. The proportion of COVID-positive patients admitted to ICU was, however, only 3% in 2020 and 2021. In line with the findings of pre­ vious studies, the ongoing social distancing measures and The number of patients requiring intensive care due to COVID-19 remained low during the pandemic in Finland [2]. This can be explained by the lower incidence of coro­ navirus in 2020 and 2021 in Finland, compared to many other countries, and the measures implemented, where necessary, during the pandemic. Jäntti et al. BMC Anesthesiology (2023) 23:251 Page 6 of 7 Jäntti et al. BMC Anesthesiology (2023) 23:251 During the study period, the most remarkable change in ICU admissions occurred in diseases of the nervous system, diseases of the respiratory system, and neo­ plasms. The incidence of diseases of the nervous system in patients requiring ICU treatment was lowest in 2020 but increased notably in 2021. However, the incidence of neoplasms in patients requiring ICU treatment first decreased in 2020 when compared to the reference years and then increased slightly in 2021. ICU admissions due to neoplasm include patients who have undergone oncological surgery due to malignant tumor. A previous study showed that when the lockdown started in Finland in April, the incidence of oncological surgery decreased slightly but remained at the level of previous years [14]. In addition, caring for COVID-positive patients requires more ICU capacity than patients who do not need isola­ tion. Therefore, the total number of patients treated at the same time in ICUs may have been restricted. may have had more than one diagnosis and reason for ICU stay. Author contributions V.M., T.H. and V.P. conceived of the presented idea. S.J. and V.P. designed and performed the data analysis and analyzed the data. S.J. wrote the manuscript with input from all authors. All authors provided critical feedback, discussed the results, and helped shape the research and manuscript. V.M. and V.P. supervised the project. The incidence of ICU admissions due to trauma remained stable during the pandemic when compared to the reference years. According to a previous Finn­ ish study, the total number of emergency department visits due to injury decreased by 16% during the lock­ down period in 2020 [18]. Nevertheless, the incidence of severely injured trauma patients remained unchanged during the first wave of COVID-19 in Finland [19]. The social restrictions and recommendations to stay at home may have reduced the number of minor injuries because of the changes in peoples’ behavior. However, our find­ ings indicate that the rate of severe traumas and patients requiring ICU treatment because of live-threatening injury remained unchanged. According to the previ­ ous literature, the number of severe traumas globally decreased or remained stable during the pandemic [20–22]. Funding Th This research received no specific grant from any funding agency in the public, commercial, or not-for-profit sectors. i Open access funding provided by Tampere University including Tampere University Hospital, Tampere University of Applied Sciences (TUNI). Conclusions In conclusion, the incidence of all-cause ICU admissions decreased during the lockdown due to the COVID-19 pandemic. The proportion of patients with COVID-19 requiring intensive care in Finland was only 3% in 2020 and 2021. Restrictions implemented during the pandemic reduced the spread of respiratory infections, which are one of the most common reasons for ICU admission. When the lockdown started in Finland, a slight decrease was seen in the incidence of oncological surgery and the incidence of ICU admissions due to neoplasm decreased. However, the incidence of ICU admissions due to trauma remained stable during the pandemic compared to the reference years. Abbreviations According to previous studies, the number of ED vis­ its due to acute coronary syndrome decreased during the first wave of the COVID-19 pandemic [15–17]. Fear of infection may have caused a decreased willingness to seek treatment and delayed medical intervention may have caused a worsening of the patients’ cardiac disease. This may, therefore, be reflected in an increase in the number of ICU admissions during the second wave of the pandemic. ICU Intensive Care Unit CI Confidence Interval IRR Incidence Rate Ratio IQR Interquartile Range ICU Intensive Care Unit CI Confidence Interval IRR Incidence Rate Ratio IQR Interquartile Range Declarations The strengths of our study include the broad range of data from three large Finnish hospitals. Furthermore, many previous studies have only evaluated the impact of the COVID-19 pandemic in 2020. In this study, we were able to collect follow-up data from all patients during the first two years of the COVID-19 pandemic and to evalu­ ate the impact of the changing restrictions. Our current study also has a limitation that should be addressed. We only analyzed treatment periods according to a patient’s primary diagnosis, and therefore some of the patients References 1. Phua J, Weng L, Ling L, Egi M, Lim CM, Divatia JV, et al. Intensive care manage­ ment of coronavirus disease 2019 (COVID-19): challenges and recommenda­ tions. Lancet Respir Med. 2020;8(5):506–17. 18. Nygren H, Kopra J, Kröger H, Kuitunen I, Mattila VM, Ponkilainen V, et al. The effect of COVID-19 lockdown on the incidence of emergency department visits due to injuries and the most typical fractures in 4 finnish hospitals. Acta Orthop. 2022;93:360–6. 2. Koronatilastot [Available from. : https://www.koronatilastot.fi/fi/sairaala/. 2. Koronatilastot [Available from. : https://www.koronatilastot.fi/fi/sairaala/. 2. Koronatilastot [Available from. : https://www.koronatilastot.fi/fi/sairaala/. 3. Webb SA, Pettilä V, Seppelt I, Bellomo R, Bailey M, Cooper DJ, et al. Critical care services and 2009 H1N1 influenza in Australia and New Zealand. N Engl J Med. 2009;361(20):1925–34. 3. Webb SA, Pettilä V, Seppelt I, Bellomo R, Bailey M, Cooper DJ, et al. Critical care services and 2009 H1N1 influenza in Australia and New Zealand. N Engl J Med. 2009;361(20):1925–34. 19. Riuttanen A, Ponkilainen V, Kuitunen I, Reito A, Sirola J, Mattila VM. Severely injured patients do not disappear in a pandemic: incidence and character­ istics of severe injuries during COVID-19 lockdown in Finland. Acta Orthop. 2021;92(3):249–53. 4. Booth CM, Stewart TE. Severe acute respiratory syndrome and critical care medicine: the Toronto experience. Crit Care Med. 2005;33(1 Suppl):53–60.f 4. Booth CM, Stewart TE. Severe acute respiratory syndrome and critical care medicine: the Toronto experience. Crit Care Med. 2005;33(1 Suppl):53–60. 20. Walline JH, Hung KKC, Yeung JHH, Song PP, Cheung NK, Graham CA. The impact of SARS and COVID-19 on major trauma in Hong Kong. Am J Emerg Med. 2021;46:10–5. 5. Kj Adhikari N, Beane A, Devaprasad D, Fowler R, Haniffa R, James A, et al. Impact of COVID-19 on non-COVID intensive care unit service utilization, case mix and outcomes: a registry-based analysis from India. Wellcome Open Res. 2021;6:159. 5. Kj Adhikari N, Beane A, Devaprasad D, Fowler R, Haniffa R, James A, et al. Impact of COVID-19 on non-COVID intensive care unit service utilization, case mix and outcomes: a registry-based analysis from India. Wellcome Open Res. 2021;6:159. 21. van Aert GJJ, van der Laan L, Boonman-de Winter LJM, Berende CAS, de Groot HGW, van Boele P, et al. Effect of the COVID-19 pandemic during the first lockdown in the Netherlands on the number of trauma-related admis­ sions, trauma severity and treatment: the results of a retrospective cohort study in a level 2 trauma centre. Competing interests. Competing interests. Competing interests. The Authors declare that they have no competing interests. The Authors declare that they have no competing interests. 9. World Health Organization. ICD-10 Classifications [Available from: https:// www.who.int/classifications/icd/icdonlineversions/en/. Ethics approval and consent to participate The ethical committee evaluation was waived by the Tampere University Hospital ethical committee. Tampere University Hospital is the tertiary academic unit of the Pirkanmaa hospital district. According to the Finnish research legislation ethical committee evaluation is not needed when routinely collected healthcare data is analyzed and the participants are not contacted. All methods were carried out in accordance with relevant guidelines and Finnish regulations (Law on the secondary use of routinely collected healthcare data and Law of medical research). Page 7 of 7 Jäntti et al. BMC Anesthesiology (2023) 23:251 Jäntti et al. BMC Anesthesiology (2023) 23:251 Jäntti et al. BMC Anesthesiology (2023) 23:251 Jäntti et al. BMC Anesthesiology (2023) 23:251 12. Kuitunen I, Ponkilainen VT, Launonen AP, Reito A, Hevonkorpi TP, Paloneva J, et al. The effect of national lockdown due to COVID-19 on emergency department visits. Scand J Trauma Resusc Emerg Med. 2020;28(1):114. According to Finnish research law and the law on the secondary use of routinely collected healthcare data informed consent to participate is not required when instituitonal or national register data is analyzed retrospectively. Therefore, the need for informed consent was waived by the institutional review boards of the participating hospitals (Tampere University Hospital, Central Finland Hospital Nova and Mikkeli Central Hospital) and the ethical committee of the Tampere University Hospital. 13. Tuominen J, Hällberg V, Oksala N, Palomäki A, Lukkarinen T, Roine A. NYU-EDA in modelling the effect of COVID-19 on patient volumes in a finnish emer­ gency department. BMC Emerg Med. 2020;20(1):97. g y g 14. Kuitunen I, Ponkilainen VT, Uimonen MM, Paloneva J, Launonen AP, Mattila VM. Postponing elective surgery due to COVID-19 did not decrease the onco­ logical surgery rate in Finland. Br J Surg. 2021;108(5):e191–e3. Received: 10 October 2022 / Accepted: 14 July 2023 Received: 10 October 2022 / Accepted: 14 July 2023 Received: 10 October 2022 / Accepted: 14 July 2023 16. Pines JM, Zocchi MS, Black BS, Celedon P, Carlson JN, Moghtaderi A, et al. The effect of the COVID-19 pandemic on emergency department visits for seri­ ous cardiovascular conditions. Am J Emerg Med. 2021;47:42–51. 17. Olié V, Carcaillon-Bentata L, Thiam MM, Haeghebaert S, Caserio-Schönemann C. Emergency department admissions for myocardial infarction and stroke in France during the first wave of the COVID-19 pandemic: National temporal trends and regional disparities. Arch Cardiovasc Dis. 2021;114(5):371–80. References BMJ Open. 2021;11(2):e045015. 6. Bagshaw SM, Zuege DJ, Stelfox HT, Opgenorth D, Wasylak T, Fraser N, et al. Association between Pandemic Coronavirus Disease 2019 Public Health Mea­ sures and reduction in critical care utilization across ICUs in Alberta, Canada. Crit Care Med. 2022;50(3):353–62. 6. Bagshaw SM, Zuege DJ, Stelfox HT, Opgenorth D, Wasylak T, Fraser N, et al. Association between Pandemic Coronavirus Disease 2019 Public Health Mea­ sures and reduction in critical care utilization across ICUs in Alberta, Canada. Crit Care Med. 2022;50(3):353–62. 22. Giudici R, Lancioni A, Gay H, Bassi G, Chiara O, Mare C, et al. Impact of the COVID-19 outbreak on severe trauma trends and healthcare system reassess­ ment in Lombardia, Italy: an analysis from the regional trauma registry. World J Emerg Surg. 2021;16(1):39. 7. Galiatsatos P, Page KR, Chatterjee S, Maygers J, Sarker S, Jones V, et al. Com­ paring critical care admissions among urban populations before and during the COVID-19 pandemic. Health Secur. 2021;19(S1):34–s40. 8. Tilastokeskus. Statistics Finland’s PxWeb databases. Mean population accord­ ing to age and sex by area, 1981–2019. [Available from: http://pxnet2.stat.fi/ PXWeb/pxweb/en/StatFin/StatFin__vrm__vaerak/statfin_vaerak_pxt_11s1. px/. Competing interests. The Authors declare that they have no competing interests. p Not required due to the register-based study design. g g y g 15. Uimonen M, Ponkilainen V, Kuitunen I, Eskola M, Mattila VM. Emergency department visits due to coronary artery disease during COVID-19 in Finland: a register-based study. Scand J Public Health. 2022;50(1):117–23. Not required due to the register-based study design. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations. 10. Chu DK, Akl EA, Duda S, Solo K, Yaacoub S, Schünemann HJ. Physical distanc­ ing, face masks, and eye protection to prevent person-to-person transmis­ sion of SARS-CoV-2 and COVID-19: a systematic review and meta-analysis. Lancet. 2020;395(10242):1973–87. 11. Chen Y, Wang Y, Quan N, Yang J, Wu Y. Associations between wearing masks and respiratory viral infections: a Meta-analysis and systematic review. Front Public Health. 2022;10:874693. 11. Chen Y, Wang Y, Quan N, Yang J, Wu Y. Associations between wearing masks and respiratory viral infections: a Meta-analysis and systematic review. Front Public Health. 2022;10:874693.
https://openalex.org/W2806132127
http://www.scielo.br/pdf/bjps/v54n1/2175-9790-bjps-54-01-e17280.pdf
English
null
Antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis - an in vitro assay
Brazilian Journal of Pharmaceutical Sciences
2,018
cc-by
3,739
INTRODUCTION sources of natural antioxidants (Ebrahimzadeh et al., 2016; Ebrahimzadeh, Safdari, Khalili, 2015; Khalili, Ebrahimzadeh, Kosaryan, 2015). Free radicals, which refer to any molecular species containing unpaired electron in an atomic orbital, are unstable elements amenable to take part in chemical reactions (Yangthong, Hutadilok-Towatana, Phromkunthong, 2009). Reactive oxygen, nitrogen and sulfur species are free that produce superoxide anion, hydroxyl radical, hydrogen peroxide and nitric oxide. These compounds may cause diseases as diverse as cancer, diabetes, Alzheimer, and Parkinson through inducing oxidative stresses, cell damage and death (Lü et al., 2010; Yangthong, Hutadilok-Towatana, Phromkunthong, 2009; Ebrahimzadeh, Safdari, Khalili, 2015). A huge number of natural compounds have been proven to exhibit antioxidant activity and be applicable for treatment of oxidative-damage related diseases. Large number of plants (e.g. Salvia virgate and Silybum marianum), fungi (e.g. Cantharellus cibarius) and alga (e.g. Ecklonia cava and Stoechospermum marginatum) are regarded as major Recent studies have shown that marine algae are rich in bioactive compounds including polysaccharides, polyunsaturated fatty acids, polyphenolic compounds, antioxidants, peptides, essential vitamins and minerals (Kim et al., 2014; Fernando et al., 2017; Wang et al., 2017). These compounds exhibit wide range of pharmacological activities, including antioxidant, antibacterial, antifungal, anti-inflammatory, anti-aging, and anti-cancer activities (Mayer et al., 2009; Fernando et al., 2016; Agatonovic-Kustrin, Morton, 2017). In the current study, we evaluate the anti-oxidative activity of two marine alga, Nannochloropsis oculata and Gracilaria gracilis. *Correspondence: M. Khalili. Neuroscience Research Center, Golestan Uni­ versity of Medical Sciences, Gorgan, Iran. Tel/Fax: +981732420515. E-mail address: mkhalili_phs@goums.ac.ir; mkhalili_ps@yahoo.com Article Brazilian Journal of Pharmaceutical Sciences http://dx.doi.org/10.1590/s2175-97902018000117280 Mohammad Ali Ebrahimzadeh1, Masoumeh Khalili2,*, Abbas Ali Dehpour3 Mohammad Ali Ebrahimzadeh1, Masoumeh Khalili2,*, Abbas Ali Dehpour3 1Pharmaceutical Sciences Research Center, School of Pharmacy, Mazandaran University of Medical Sciences, Sari, Iran, 2Neurosciences Research Center, Golestan University of Medical Sciences, Gorgan, Iran, 3Department of Biology, Islamic Azad University, Branch of Qaemshahr, Qaemshahr, Iran The aim of this study was to evaluate the antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis. The extracts were assayed for total phenol and flavonoid content, DPPH free radical scavenging capacity, nitric oxide activity, iron chelation activity, and reducing power activity. Total phenol and flavonoid content were found to be high in both algae. Ethyl acetate extracts of both algae were found to exhibit significant antioxidant activity. Ethyl acetate extract of N. oculata exhibited a good capacity for iron chelation, nitrate oxide, and scavenging DPPH free radicals (72.95±2.30, 73.73±1.76, and 39.03±0.97% inhibition at 400 µg mL-1 respectively). Keywords: Marine algae/antioxidant activity. Nannochloropsis Oculata/total phenol/total flavonoid/ Gracilaria Gracilis/total phenol/total flavonoid. Antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis – an in vitro assay Antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis – an in vitro assay Chemicals Ferrozine, trichloroacetic acid, 1, 1-diphenyl-2- picryl hydrazyl (DPPH), and potassium ferricyanide were purchased from Sigma Chemical Co. (Germany). Braz. J. Pharm. Sci. 2018;54(1):e17280 Page 1 / 6 Page 1 / 6 Page 1 / 6 M. A. Ebrahimzadeh, M. Khalili, A. A. Dehpour 54°39′20″E, 2015). G. gracilis samples were washed with water and then dried at 45 °C for 24 h using forced convection drying oven. butylated hydroxyanisole, ascorbic acid, sulfanilamide, N-(1-naphthyl)ethylenediamine dihydrochloride, ethylenediaminetetraacetic acid, and ferric chloride were purchased from Merck (Germany). Algae species N. oculata was cultivated to Walne medium (Walne 1970) (Table I). G. gracilis samples were kindly provided by Dr. Dehpour (Department of Biology, Islamic Azad University, Branch of Qaemshahr, Qaemshahr, Iran). The samples have been gathered from the beach of Persian Gulf (Bostaneh, Central District of Bandar Lengeh County, Hormozgan Province, Iran. Coordinates: 26°30′37″N Ethyl acetate extracts were obtained by percolating 10 g of powdered algae for 24 h at room temperature. The extracts were refined using Whatman filter paper (No. 1).The remaining samples were used to extract methanolic compounds. Both the extracts were filtered and then concentrated under reduced pressure at 40 °C using a rotary evaporator. All extracts were dried by vacuum freeze dryer. Determination of total flavonoid and phenolic contents TABLE I - Walne media for cultivated N. oculata Stocks Per 100 mL (1) Trace metal solution (TMS) ZnCl2 2.1 g CoCl2.6HO2 2.0 g (NH4)6Mo7O24.4HO2 0.9 g CuSO4.5H2O 2.0 g Make up to 100 mL with distilled water. This solution is normally cloudy. Acidify with a few drops of conc. HCl to give a clear solution. (2) Vitamin solution Vitamin B12. (Cyanocobalamin) 10.0 mg Vitamin B1(Thiamine.HCl) 10.0 mg Vitamin H (Biotin) 200.0 µg Make up to 100 ml with distilled water. (3) Nutrient solution per litre FeCl3.6H02 1.3 g MnCl2.4H02 0.36 g H3BO3 33.6 g EDTA(Disodium salt) 45.0 g NaH2PO4.2HO2 20.0 g NaNO3 100.0 g TMS (1 above) 1.0 ml Make up to 1 litre with distilled water. Medium per litre Nutrient solution (3) 1.0 mL Vitamin solution (2) 0.1 mL Sterilised seawater 1.0 L Dispense nutrient and vitamin solutions separately into 10 mL and 1 mL respectively and autoclave at 15 psi for 15 minutes. Add an aliquot of each aseptically 10 L of sterilised seawater. TABLE I - Walne media for cultivated N. oculata To quantity total flavonoids in the algae species, 0.5 mL of each algal extract (Concentration: 800 µg mL-1) was mixed with 1.5 mL methanol, 0.1 mL 1 M potassium acetate, 0.1 mL aluminum chloride10%, and 2.8 mL distilled water, and then incubated at room temperature for 30 min. The absorbance was measured at 415 nm by spectrophotometer. Total flavonoid content was calculated as quercetin equivalents (QE) from a calibration curve as described previously (Ebrahimzadeh, Safdari, Khalili, 2015). Total phenolic content was measured using Folin–Ciocalteu method. Summarily, the extracts (0.5 mL) were mixed with 2.5 mL of Folin-Ciocalteau reagent (0.2 N) and 2.0 mL sodium carbonate (concentration of 75g/L) and subjected to absorbance measuring at 760 nm (spectrophotometer (UV-Visible EZ201, Perkin Elmer, Norwalk, Connecticut). More details on the procedure can be found in our previously published article (Ebrahimzadeh, Safdari, Khalili, 2015). The results were expressed as gallic acid equivalents (GAE). Metal chelating activity assay Metal chelating activity assay has been described in our previous work (Ebrahimzadeh, Safdari, Khalili, 2015). Summarily, 1 mL of each extracts (800 μg mL-1) was mixed with 0.5 mL of 2 mM FeCl (II) solution, to which 0.2 mL of ferrozine (5 mM) was added to initiate the reaction by adding. The absorbance of the solutions was measured at 562 nm. EDTA was used as a standard. Reducing power assay Each extract (at different concentrations, ranging from 100 to 1600 μg mL-1) was mixed with 1 mL potassium hexacyanoferrate and 1 mL phosphate buffer (0.2 M, pH 6.6) (1%), incubated at 50°C (in a water bath) for 20 min, and then received To terminate the reaction, 1 mL of TCA (10%) was added to each reaction. The upper portion of the solution (1 mL) was mixed with 1 mL distilled water and 0.2 mL iron (III) chloride solution (0.1%) and subjected to absorbance measuring at 700 nm (Ebrahimzadeh, Safdari, Khalili, 2015). We found the maximum phenolic compounds in ethyl acetate extract of algal species. Our results are consistent with the results of Duan et al. (2006). However, our findings are inconsistent with the reports of Farasat et al. (2014). They evaluated the total phenol and flavonoid content of some algae species driven from northern coasts of the Persian Gulf, and showed that methanolic extracts contain higher levels of flavonoid content. l Statistical analysis Both phenolic and flavonoid compounds have been demonstrated to exhibit wide range of advantageous biological activities, including antioxidant activity, free radical scavenging activity, anti-cancer and anti- atherosclerotic activities, and so forth (Balasundram, Sundram, Samman, 2006; Cox, Abu-Ghannam, Gupta, 2010; Duan et al., 2006; Li et al., 2007; Fernando et al., 2016). All the experiments included in this study were done in triplicate and the results expressed as means ± SD. The data were analyzed through one-way analysis of variance (ANOVA) using GrphPad Prism. The means were compared using Tukey multiple comparisons test (p<0.05). Nitric oxide scavenging activity assay Dispense nutrient and vitamin solutions separately into 10 mL and 1 mL respectively and autoclave at 15 psi for 15 minutes. Add an aliquot of each aseptically 10 L of sterilised seawater. 3 mL of each extract (800 µg mL-1) was added to 3 mL of each extract (800 µg mL-1) was added to Braz. J. Pharm. Sci. 2018;54(1):e17280 Braz. J. Pharm. Sci. 2018;54(1):e17280 Page 2 / 6 Page 2 / 6 Antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis – an in vitro assay l acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis – an in vitro assay Antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria and methanolic extracts of N. oculata were calculated to be 4.54 and 5.15 %, respectively. 1 mL of sodium nitroprusside (10 mM) and incubated at room temperature for 150 min. Afterward, 0.5 mL Griess reagent [1% sulfanilamide, 2% H3PO4, and 0.1% N-(1- naphthyl) ethylenediamine dihydro chloride] was added to the reaction and subjected to absorbance measuring at 546 nm. Quercetin (a flavonoid compound, PubChem CID: 5280343) was used as a positive control (Ebrahimzadeh, Safdari, Khalili, 2015). DPPH radical scavenging activity DPPH radical scavenging activity was assayed as described previously (Ebrahimzadeh, Safdari, Khalili, 2015). Summarily, 2 mL of DPPH solution (100 μM) was added to 2 mL of each fraction (concentration of 800 μg mL-1) and then incubated at room temperature for 15 min, the absorbance was recorded at 517 nm. The reaction was then subjected to absorbance measuring at 517 nm. BHA was used as standard control. Total phenol content was calculated using Folin- Ciocalteau method and linear gallic acid standard curve (y = 0.0054x +0.0623; r = 1). The content of total phenols in the algal species is shown in Table II. The maximum and the minimum amounts of phenolic compounds belonged to ethyl acetate extract of N. oculata and methanolic extract of the G. gracilis 41.45±1.42 and 29.39±2.01mg gallic acid equivalent g-1 of extract, respectively (Table II). Total phenol content of methanolic extract of N. oculata and ethyl acetate extract of G. gracilis were calculated to be 30.94±1.61 and 35.53±1.47 mg gallic acid equivalent g-1 of extract, respectively. Total flavonoid and phenolic contents Total flavonoid content of all the extracts is shown in Table II. Ethyl acetate extracts of both N. oculata and G. gracilis species were found to be rich in flavonoid compounds (71.79±2.32 and 66.48±1.87 mg quercetin equivalent g-1 of extract, respectively) while their methanolic extracts were found to contain less amounts of flavonoid compounds (42.08±1.09 and 26.47±1.203 mg quercetin equivalent g-1 of extract, respectively). Ethyl acetate and methanolic extracts of N. oculata and G. gracilis Ethyl acetate extracts of both algae species were found to have higher iron chelation activity than their methanolic extracts. . The maximum and the minimum iron chelation activities belonged to ethyl acetate extract of N. oculata (and the methanolic extract of G. gracilis - 72.95±2.30 and 19.49±1.46% inhibition at 400 µg mL-1, respectively. The correlation coefficient (r2) between The maximum and the minimum extraction efficiencies belonged to ethyl acetate extract of G. gracilis and methanolic extract of G. gracilis, 0.016 and 0.059 g/g DW, respectively. Extraction efficiencies for ethyl acetate Braz. J. Pharm. Sci. 2018;54(1):e17280 Page 3 / 6 Page 3 / 6 M. A. Ebrahimzadeh, M. Khalili, A. A. Dehpour TABLE II -Total phenol and flavonoid contents and antioxidant activities of ethyl acetate and methanolic extract of N. oculata and G. gracilis TABLE II -Total phenol and flavonoid contents and antioxidant activities of ethyl acetate and methanolic extract of N. oculata and G. gracilis Sample name N. oculata G. gracilis Extract Ethyl acetate extract Methanolic extract Ethyl acetate extract Methanolic extract EFFICIENCY (g/g DW) 0.045 0.051 0.016 0.059 Total Flavonoid content (mg quercetin equivalent g-1 of extract) 71.79±2.32 42.08±1.09 66.48±1.87 26.47±1.203 Total Phenol content (mg gallic acid equivalent g-1 of extract) 41.45±1.42 30.94±1.61 35.53±1.47 29.39±2.01 Iron chelation activity* percentage of inhibition at 400 µg mL-1 72.95±2.30 29.71±1.98 49.71±1.93 19.49±1.46 Nitric Oxide activity ** 73.73±1.76 65.6±1.54 65.33±2.54 34.8±1,59 DPPH*** 39.03±0.97 21.68±1.41 20.48±0.38 17.4±1.34 Each value is the mean of three replicate determinations ± SD; * EDTA was used as control (IC50 =18.27 ± 0.09 μg mL-1); ** Quercetin was used as control (IC50 =5.28 ± 0.2 μg mL-1); *** BHA was used as control (IC50 = 53.96 ± 3.1 μg mL-1). TABLE II -Total phenol and flavonoid contents and antioxidant activities of ethyl acetate and methanolic extract of N. oculata and G. gracilis inhibition at 400 µg mL-1) and the lowest activity belonged to methanolic extract of G. gracilis (17.4±1.34% inhibition at 400 µg mL-1). Methanolic extract of N. oculata and ethyl acetate extract of G. gracilis (at concentration of 400 µg mL-1) were found to inhibit DPPH free radicals up to 21.68±1.41 and 20.48±0.38%, respectively. DPPH was found to have a high correlation (r²= 0.81) with total phenolic compounds but not with total flavonoid compounds (r² = 0.49). Ethyl acetate and methanolic extracts of N. oculata and G. gracilis These findings are consistent with the results of our previous study (carried out on Cantharellus cibarius) and also with the results of Orhan and Üstün who investigated the correlation of phenol content and antioxidant activity of some Turkey mushrooms (Ebrahimzadeh, Safdari, Khalili, 2015; Orhan, Üstün, 2011; Duan et al., 2006). iron chelation activity and either “total phenol” or “flavonoid content “was calculated to b 0.99 and 0.89, respectively. Studies show that algae are rich in compounds with significant iron chelation activity (Bermejo, Piñero, Villar, 2008). Metal chelation ability depends on the type (flavonoid and phenolic acid), structure, and the number of available hydroxyl groups (Wang, Jónsdóttir, Ólafsdóttir, 2009). Reducing power activity Reducing power, which is an index for antioxidant activity, can be measured using a reaction in which Fe 3+ in potassium ferricyanide is converted into Fe 2+. The reaction product is measured using spectrophotometer at λ = 700 nm (Sharma, Gujral, Singh, 2012; Gontijo et al., 2012). As shown in Figure 1, reducing power of all the extracts increased in a dose dependent manner. In both N. oculata and G. gracilis species, ethyl acetate extracts werefound to have higher reduction capacity than methanolic extract (Figure 1). The least reduction power belonged Methanolic extract of G. gracilis. Vitamin C (the control) reached a plateau at concentration of 800µg/ml-1 (OD = 0.401), whereas the ethyl acetate extract of N. oculata and methanolic extract of G. gracilis exceeded this value and produced OD values of 0.73 and 0.531, respectively. At concentration of 1600µg/ml-1 reducing power was found Nitric oxide activity Nitric oxide activity of the algal extracts at concentration of 400 µg mL-1 for ethyl acetate extract of N. oculata, the methanolic extract of N. oculata, the ethyl acetate extract of G. gracilis, and ethyl acetate extract of G. gracilis were calculated to be 73.73±1.7 %, 65.6±1.54, 65.33±2.54 and 34.8±1.59% inhibition respectively. There was a low correlation between nitric oxide activity and either total phenol or flavonoid contents (r2 = 0.56 and r2 = 0.69 respectively). Reactive oxygen and nitrogen species are two main sources of oxidative substances, including hydrogen peroxide, superoxide, nitric oxide and peroxynitrite (ONOO−). These substances can damage proteins, lipids and DNA. (Thanigaivel et al., 2016). REFERENCES Agatonovic-Kustrin S, Morton DWJ. Quantification of polyphenolic antioxidants and free radical scavengers in marine algae. J Appl Phycol. 2017;29:1-8. Agatonovic-Kustrin S, Morton DWJ. Quantification of polyphenolic antioxidants and free radical scavengers in marine algae. J Appl Phycol. 2017;29:1-8. Irudayaraj and colleagues (2012) reported that ethyl acetate extract driven from leaves of Toddalia asiatica has potential anti-diabetic and antioxidant capacities. Al‑Saeedi, Al- Ghafri, Hossain (2016) reported that the ethyl acetate extract of Ziziphus jujuba L. has high levels of phenolic and flavonoid compounds. Therefore, the ethyl acetate extracts of N. oculata and G. gracilis could be used as a natural antioxidant for the treatment of different diseases related with free radicals and oxidative stress. Al-Saeedi AH, Al- Ghafri MTH, Hossain MA. Comparative evaluation of total phenols, flavonoids content and antioxidant potential of leaf and fruit extracts of Omani Ziziphus jujuba L. PSRA. 2016;18(1):78-83. Balasundram N, Sundram K, Samman S. Phenolic compounds in plants and agri-industrial by-products: antioxidant activity, occurrence, and potential uses. Food Chem. 2006;99(1):191- 203. DPPH radical scavenging activity DPPH color change from purple -to- yellow is an index for radical-scavenging activity, the more intense color transformation the higher scavenging activity is expected (Gontijo et al., 2012). As shown Table II, the highest DPPH radical scavenging activity belonged to the ethyl acetate extract of N. oculata (39.03±0.97% Page 4 / 6 Page 4 / 6 Braz. J. Pharm. Sci. 2018;54(1):e17280 Antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis – an in vitro assay FIGURE 1 - Reducing power of ethyl acetate and methanolic extracts of algal species. Each point on the graphs represents the mean of three repetitions. FIGURE 1 - Reducing power of ethyl acetate and methanolic extracts of algal species. Each point on the graphs represents the mean of three repetitions. FIGURE 1 - Reducing power of ethyl acetate and methanolic extracts of algal species. Each point on the graphs represents the mean of three repetitions. research council of Medical Sciences University of Mazandaran, Iran. to have a potent coloration with total phenolic (r2=0.98) and flavonoid (r2=0.92) compounds. Phenolic compounds and flavonoids are electron donor substances that play an important role in exhibiting reduction capacity (Sharma, Gujral, Singh, 2012). Therefore, high coloration between reducing power and total phenolic and flavonoid content may be a reason for high reducing power activity. CONCLUSION Bermejo P, Piñero E, Villar ÁM. Iron-chelating ability and antioxidant properties of phycocyanin isolated from a protean extract of Spirulinaplatensis. Food Chem. 2008;110(2):436-45. Ethyl acetate extracts of Nannochloropsis oculata and Gracilaria gracilis algae have considerable amounts of phenolic and flavonoid compounds. Ethyl acetate extracts driven from the both algae species exhibit significant antioxidant activity. There is a good correlation between total phenols and flavonoids content and iron chelation activity Cox S, Abu-Ghannam N, Gupta S. An assessment of the antioxidant and antimicrobial activity of six species of edible Irish seaweeds. Int Food Res J. 2010;17:205-20. ACKNOWLEDGMENTS Duan, XJ, Zhang, WW, Li XM, Wang BG. Evaluation of antioxidant property of extract and fractions obtained from a red alga, Polysiphonia urceolata. Food Chem. 2006;95(1):37-43. This research was supported by a grant from the This research was supported by a grant from the Braz. J. Pharm. Sci. 2018;54(1):e17280 Page 5 / 6 Page 5 / 6 M. A. Ebrahimzadeh, M. Khalili, A. A. Dehpour Lü JM, Lin PH, Yao Q, Chen C. Chemical and molecular mechanisms of antioxidants: experimental approaches and model systems. J Cell Mol Med. 2010;14(4):840-60. Lü JM, Lin PH, Yao Q, Chen C. Chemical and molecular mechanisms of antioxidants: experimental approaches and model systems. J Cell Mol Med. 2010;14(4):840-60. Ebrahimzadeh MA, Khalili M, Azadbakht M, Azadbakht M. Salvia virgata JACQ. and silibum marianum L. gaertn display significant iron-chelating activity. Int J Pharm Sci Res. 2016;9(7):3756-63. Mayer AM, Rodríguez AD, Berlinck RG, Hamann MT. Marine pharmacology in 2005-6: marine compounds with anthelmintic, antibacterial, anticoagulant, antifungal, anti-inflammatory, antimalarial, antiprotozoal, antituberculosis, and antiviral activities; affecting the cardiovascular, immune and nervous systems, and other miscellaneous mechanisms of action. Biochim Biophys Acta. 2009;1790(5):283-308. Ebrahimzadeh MA, Safdari Y, Khalili M. Antioxidant activity of different fractions of methanolic extract of the golden chanterelle mushroom Cantharellus cibarius (higher basidiomycetes) from Iran. Int J Med Mushrooms. 2015,17(6):557-65. Ebrahimzadeh MA, Safdari Y, Khalili M. Antioxidant activity of different fractions of methanolic extract of the golden chanterelle mushroom Cantharellus cibarius (higher basidiomycetes) from Iran. Int J Med Mushrooms. 2015,17(6):557-65. Farasat M, Khavari-Nejad RA, Nabavi SMB, Namjooyan F. Antioxidant activity, total phenolics and flavonoid contents of some edible green seaweeds from Northern coasts of the Persian Gulf. Iran J Pharm Res. 2014;13(1):163-70. Orhan I, Üstün O. Determination of total phenol content, antioxidant activity and acetylcholinesterase inhibition in selected mushrooms from Turkey. J Food Comp Anal. 2011;24(3):386-90. Fernando IS, Kim M, Son KT, Jeong Y, Jeon YJ. Antioxidant activity of marine algal polyphenolic compounds: a mechanistic approach. J Med Food. 2016;19(7):615-28. Sharma P, Gujral HS, Singh B. Antioxidant activity of barley as affected by extrusion cooking. Food Chem. 2012;131(4):1406- 13. Fernando IS, Sanjeewa KA, Samarakoon KW, Lee WW, Kim HS, Kim EA, Gunasekara U, Abeytunga D, Nanayakkara C, Silva E. FTIR characterization and antioxidant activity of water soluble crude polysaccharides of Sri Lankan marine algae. Algae. 2017;32(1):75-86. Thanigaivel S, Chandrasekaran N, Mukherjee A, John T. Seaweeds as an alternative therapeutic source for aquatic disease management. Aquaculture. 2016;464:529-36. Walne PR. Studies on the food value of nineteen genera of algae to juvenile bivalves of the genera Ostrea, Crassostrea, Mercenaria, and Mytilis. Fish Invest. 1970;26:1­62. This research was supported by a grant from the Gontijo VS, Souza TC, Rosa IA, Soares MG, Silva MA, Vilegas W, Viegas C, Santos MH. Isolation and evaluation of the antioxidant activity of phenolic constituents of the Garcinia brasiliensis epicarp. Food Chem. 2012;132(3):1230-5. Wang, T, Jónsdóttir R, Ólafsdóttir G. Total phenolic compounds, radical scavenging and metal chelation of extracts from Icelandic seaweeds. Food Chem. 2009;116(1):240-8. Irudayaraj SS, Sunil C, Duraipandiyan V, Ignacimuthu S. Antidiabetic and antioxidant activities of Toddalia asiatica (L.) Lam. leaves in Streptozotocin induced diabetic rats. J Ethnopharmacol. 2012;143(2):515-23. Wang H-MD, Li X-C, Lee D-G, Chang J-S. Potential biomedical applications of marine algae. Bioresour Technol., 2017. [In press]. Khalili M, Ebrahimzadeh MA, Kosaryan M. In vivo iron- chelating activity and phenolic profiles of the Angel’s Wings Mushroom, Pleurotus porrigens (Higher Basidiomycetes). Int J Med Mushrooms. 2015;17(9):847-56. Yangthong M, Hutadilok-Towatana N, Phromkunthong W. Antioxidant activities of four edible seaweeds from the southern coast of Thailand. Plant Foods Hum Nutr. 2009;64(3):218-23. Kim SY, Kim EA, Kang MC, Lee JH, Yang HW, Lee JS, Lim TI, Jeon YJ. Polyphenol-rich fraction from Ecklonia cava (a brown alga) processing by-product reduces LPS-induced inflammation in vitro and in vivo in a zebrafish model. Algae. 2014;29(2):165-74. Received for publication on 16th May 2017 Accepted for publication on 07th August 2017 Received for publication on 16th May 2017 Accepted for publication on 07th August 2017 Li HB, Cheng KW, Wong CC, Fan KW, Chen F, Jiang Y. Evaluation of antioxidant capacity and total phenolic content of different fractions of selected microalgae. Food Chem. 2007;102(3):771-6. Braz. J. Pharm. Sci. 2018;54(1):e17280 Page 6 / 6 Page 6 / 6
https://openalex.org/W4293186724
https://hal-insu.archives-ouvertes.fr/insu-03618558/document
English
null
The HIFI spectral survey of AFGL 2591 (CHESS)
Astronomy & astrophysics
2,014
cc-by
16,435
HAL Id: insu-03618558 https://insu.hal.science/insu-03618558v1 Submitted on 24 Mar 2022 The HIFI spectral survey of AFGL 2591 (CHESS). II. Summary of the survey M. Kaźmierczak-Barthel, F. F. S. van Der Tak, F. P. Helmich, L. Chavarría, K. -S. Wang, C. Ceccarelli To cite this version: M. Kaźmierczak-Barthel, F. F. S. van Der Tak, F. P. Helmich, L. Chavarría, K. -S. Wang, et al.. The HIFI spectral survey of AFGL 2591 (CHESS). II. Summary of the survey. Astronomy and Astrophysics - A&A, 2014, 567, ￿10.1051/0004-6361/201322819￿. ￿insu-03618558￿ To cite this version: M. Kaźmierczak-Barthel, F. F. S. van Der Tak, F. P. Helmich, L. Chavarría, K. -S. Wang, et al.. The HIFI spectral survey of AFGL 2591 (CHESS). II. Summary of the survey. Astronomy and Astrophysics - A&A, 2014, 567, ￿10.1051/0004-6361/201322819￿. ￿insu-03618558￿ Distributed under a Creative Commons Attribution 4.0 International License 1. Introduction forming regions and the differences between regions with dif- ferent masses/luminosities. The target sources of CHESS are the pre-stellar cores I16293E and L1544, the outflow shock spot L1157-B1, the low-mass protostar IRAS16293-2422, the intermediate-mass protostar OMC2-FIR 4, the intermediate- luminosity hot cores NGC 6334I and AFGL 2591, and the high- luminosity hot core W51e1/e2. Almost the entire spectral range of the HIFI instrument, that is, 480 to 1910GHz, has been used to observe these objects. In this paper we focus on the source AFGL 2591. Massive stars play a major role in the evolution of galaxies. From their birth in dense molecular clouds to their death as a su- pernova explosion, massive stars interact heavily with their sur- roundings by emitting strong stellar winds and by creating heavy elements (Zinnecker & Yorke 2007). They influence the forma- tion of nearby low-mass stars and planets (Bally et al. 2005) and the physical, chemical, and morphological structure of galaxies (e.g. Kennicutt & Evans 2012). Although massive stars are an important component of galaxies, their formation processes are still unclear. It is difficult to observe high-mass star forming re- gions because of high dust extinction and their large distances and rapid evolution (Tan et al. 2014). Spectral surveys simultaneously cover a wide variety of molecular and atomic lines. In this way they offer the possibil- ity to probe cold and warm gas and the fundamental processes that occur in star forming regions. Especially the wide frequency range of Herschel’s allowed us to cover molecular lines from very different energy levels, from light to heavier molecules, and thus to study the several species thoroughly. High-mass star forming regions are quite rare, so each ob- servational effort is very helpful in solving they represent. One of the goals of the Herschel Space Observatory (Pilbratt et al. 2010) was to improve our understanding of the high-mass star formation processes. Among the several key projects devoted to those studies, we focus here on the Herschel key program Chemical Herschel Survey of Star Forming Regions (CHESS, Ceccarelli et al. 2010). The aim of this project is to study the chemical composition of dense regions of the interstel- lar medium and to understand the chemical evolution of star AFGL 2591 is one of the CHESS sources. It is a relatively isolated high-mass protostellar object with a bipolar molecular outflow (Van der Tak et al. 1999). 1 The previous distance estimates were uncertain, with values between 1 and 2 kpc (e.g. Van der Tak et al. 1999, 2000b), thus luminosity at 1 kpc L = 2 × 104 L⊙. ⋆Herschel is an ESA space observatory with science instruments provided by European-led Principal Investigator consortia and with im- portant participation from NASA. ⋆⋆Appendix A is available in electronic form at http://www.aanda.org ABSTRACT Aims. This paper presents the richness of submillimeter spectral features in the high mass star forming region AFGL 2591. Methods. As part of the Chemical Herschel Survey of Star Forming Regions (CHESS) key programme, AFGL 2591 was observed by the Herschel (HIFI) instrument. The spectral survey covered a frequency range from 480 to 1240 GHz as well as single lines from 1267 to 1901 GHz (i.e. CO, HCl, NH3, OH, and [CII]). Rotational and population diagram methods were used to calculate column densities, excitation temperatures, and the emission extents of the observed molecules associated with AFGL 2591. The analysis was supplemented with several lines from ground-based JCMT spectra. pp g p Results. From the HIFI spectral survey analysis a total of 32 species were identified (including isotopologues). Although the lines are mostly quite weak (  TmbdV∼few K km s−1), 268 emission and 16 absorption lines were found (excluding blends). Molecular column densities range from 6 × 1011 to 1 × 1019 cm−2 and excitation temperatures from 19 to 175 K. Cold (e.g. HCN, H2S, and NH3 with temperatures below 70 K) and warm species (e.g. CH3OH, SO2) in the protostellar envelope can be distinguished. Key words. ISM: individual objects: AFGL 2591 – ISM: molecules – stars: formation – stars: massive The HIFI spectral survey of AFGL 2591 (CHESS) 1 SRON Netherlands Institute for Space Research, Landleven 12, 9747 AD Groningen, The Netherlands e-mail: maja.kazmierczak@gmail.com 2 Kapteyn Astronomical Institute, University of Groningen 3 2 Kapteyn Astronomical Institute, University of Groningen, PO Box 800, 9700 AV Groningen, The Netherlands 3 i id d d Chil C i d l Ob i 1515 C d S i Chil Kapteyn Astronomical Institute, University of Groningen, PO Box 800, 9700 AV Groningen, 3 Universidad de Chile, Camino del Observatorio 1515, Las Condes, Santiago, Chile 3 Universidad de Chile, Camino del Observatorio 1515, Las Condes, Santiago, Chile 4 4 Leiden Observatory, Leiden University, PO Box 9513, 2300 RA Leiden, The Netherlands 5 4 Leiden Observatory, Leiden University, PO Box 9513, 2300 RA Leiden, The N 5 5 Institute of Astronomy and Astrophysics, Academia Sinica, Taipei, Taiwan 6 UJF G bl 1/CNRS INSU I i d Pl é l i d’A h i d 5 Institute of Astronomy and Astrophysics, Academia Sinica, Taipei, Taiwan 6 UJF-Grenoble 1/CNRS-INSU, Institut de Planétologie et d’Astrophysique de Received 9 October 2013 / Accepted 16 May 2014 Received 9 October 2013 / Accepted 16 May 2014 HAL Id: insu-03618558 https://insu.hal.science/insu-03618558v1 Submitted on 24 Mar 2022 L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés. HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers. Distributed under a Creative Commons Attribution 4.0 International License Astronomy & Astrophysics Astronomy & Astrophysics A&A 567, A53 (2014) DOI: 10.1051/0004-6361/201322819 c⃝ESO 2014 A&A 567, A53 (2014) DOI: 10.1051/0004-6361/201322819 c⃝ESO 2014 1. Introduction A massive sub-Keplerian disk has been proposed to exist around source AFGL 2591–VLA 3 (Wang et al. 2012). AFGL 2591 is located in the Cygnus X re- gion, (l, b) = 78.◦9, 0.◦71. Based on VLBI parallax measurements of 22 GHz water maser, Rygl et al. (2012) have recently esti- mated the distance1 towards AFGL 2591 to be 3.33 ± 0.11 kpc, Article published by EDP Sciences A53, page 1 of 18 A&A 567, A53 (2014) Table 1. Overview of all HIFI bands for the observations of AFGL 2591 (bands 1a−5a are spectral scans, 5b−7b single-frequency settings). hence, the corresponding luminosity is L = 2 × 105 L⊙(Sanna et al. 2012). For a detailed source description see Van der Wiel et al. (2013, hereafter Paper I) and references therein. Band Freq. range Beam size rms Obs. time [GHz] [′′] [K] [s] 1a 483–558 41 0.030 4591 1b 555–636 36 0.029 4643 2a 631–722 31 0.026 9833 2b 717–800 28 0.067 6407 3a 800–859 26 0.039 4893 3b 858–960 23 0.067 8578 4a 950–1060 21 0.157 9137 4b 1051–1120 20 0.144 6300 5a 1110–1240 18 0.147 11931 5b 1266–1270 17 0.149 1380 5b 1251–1255 17 0.149 2255 6a 1496–1499 14 0.117 1440 6b 1611–1614 13 0.106 1392 7a 1726–1729 12 0.092 1575 7a 1762–1764 12 0.095 1423 7b 1840–1843 12 0.092 1711 7b 1900–1903 12 0.120 1452 0 5 10 15 20 25 500 600 700 800 900 1000 1100 1200 1300 1400 1500 1600 1700 1800 1900 Tmb [K] frequency [GHz] Fig. 1. Complete baseline-subtracted spectrum. The strongest lines be- long to CO and its isotopologues, while at 1901 GHz [CII] is seen. The richness of the detected lines in AFGL 2591 from the HIFI/CHESS spectral survey gives us the opportunity to gain detailed insight into its chemical and physical structure. Results from the spectral survey will be presented in a series of papers. The first one focused on highly excited linear rotor molecules (Van der Wiel et al. 2013). In the present work the entire HIFI spectral survey of AFGL 2591 is presented. Van der Wiel et al. (2013) studied linear rotor molecules (CO, HCO+, CS, HCN, HNC) in the high-mass protostellar en- velope. This work was based on the Herschel/HIFI data together with observations from the ground-based telescopes, JCMT and IRAM 30 m. 2 Data are available from www-laog.obs.ujf-grenoble.fr/heberges/hs3f 3 HIPE is a joint development by the Herschel Science Ground Segment Consortium, consisting of ESA, the NASA Herschel Science Center, and the HIFI, PACS and SPIRE consortia. 4 The James Clerk Maxwell Telescope is operated by the Joint Astronomy Centre on behalf of the Science and Technology Facilities Council of the United Kingdom, the Netherlands Organisation for Scientific Research, and the National Research Council of Canada. 1. Introduction The line profiles of the observed emissions con- sist of two components, a narrow one that corresponds to the envelope, and a broad component from the outflow. The same nomenclature is used in the present paper. This paper starts with the description of the observations and the data reduction of Herschel and JCMT spectra (Sect. 2). In Sect. 3 the general summary of the HIFI/CHESS spectral sur- vey of AFGL 2591 is given. Here, all of the observed species from that survey are presented together with emission and ab- sorption lines analysis. Discussions and conclusions are given in Sects. 5 and 6. Appendix A gives a table with all detected tran- sitions and plots of their line profiles. 2.1. 480−1850 GHz Herschel/HIFI data 2.1. 480−1850 GHz Herschel/HIFI data Fig. 1. Complete baseline-subtracted spectrum. The strongest lines be- long to CO and its isotopologues, while at 1901 GHz [CII] is seen. Observations of AFGL 2591 (α2000 = 20h29m24.s9, δ2000 = +40◦11′21′′) were obtained with the Heterodyne Instrument for the Far-Infrared (HIFI, de Graauw et al. 2010) on board the ESA Herschel Space Observatory as a part of the HIFI/CHESS guar- anteed time key programme2. each spectrum was checked and spectral regions with spurious features (spurs) were flagged. Next, the correction for stand- ing waves was made and a baseline was subtracted (polynomial of ∼3). The final single-sideband spectrum is presented in Fig. 1. each spectrum was checked and spectral regions with spurious features (spurs) were flagged. Next, the correction for stand- ing waves was made and a baseline was subtracted (polynomial of ∼3). The final single-sideband spectrum is presented in Fig. 1. Strong lines are known to create ghost features in the side- band deconvolution process (Comito & Schilke 2002). To check the importance of this effect on our data, the above steps were re- peated with strong lines (especially CO transitions) masked out in the same way as spurs. The term strong lines refers to features of T ∗ A > 1 K in band 1a to >8 K in band 5a, depending on the amount of lines and the noise level in a given band. Following the outlined data reduction procedure, two single-sideband spectra for bands 1a−5a were obtained. The first set of spectra was used to analyse strong lines (e.g. CO and its isotopologues, HCO+), the second for line measurements of weak features, that is, those that were not masked as strong lines (e.g. SO, CH3OH). A full spectral survey of AFGL 2591 of HIFI bands 1a−5a (480−1240 GHz, 18.4 h of observing time) was obtained. Nine additional selected frequencies were observed in 3.5 h of ob- serving time. The corresponding bands are 5b (lines: HCl, CO), 6a (CO), 6b (CO), 7a (NH3, CO) and 7b (CO, OH, [CII]). Strong lines are known to create ghost features in the side- band deconvolution process (Comito & Schilke 2002). To check the importance of this effect on our data, the above steps were re- peated with strong lines (especially CO transitions) masked out in the same way as spurs. 2.1. 480−1850 GHz Herschel/HIFI data The term strong lines refers to features of T ∗ A > 1 K in band 1a to >8 K in band 5a, depending on the amount of lines and the noise level in a given band. Following the outlined data reduction procedure, two single-sideband spectra for bands 1a−5a were obtained. The first set of spectra was used to analyse strong lines (e.g. CO and its isotopologues, HCO+), the second for line measurements of weak features, that is, those that were not masked as strong lines (e.g. SO, CH3OH). Although this is the second in a series of papers based on HIFI/CHESS data of AFGL 2591 and a detailed descrip- tion of its data reduction process has been provided in Paper I (Van der Wiel et al. 2013), basic information is recalled here as well. The spectral scan observations were carried out using the dual beam-switch (DBS) mode, with the Wide Band Spectrometer (WBS) with a resolution of 1.1 MHz, correspond- ing to 0.66 km s−1 at 500 GHz and 0.18 km s−1 at 1850 GHz. The single-frequency settings were obtained in the dual beam- switch mode as well, with the fast chop and stability optimiza- tion options selected. Table 1 gives information about the cov- ered frequency range, beam size, noise level, and integration time. 3.2. Absorption line analysis There are only a few absorption features observed toward AFGL 2591. A foreground cloud at Vlsr ∼ 0 km s−1 has been detected before, for example, Bruderer et al. (2010b), Emprechtinger et al. (2012), and Van der Wiel et al. (2013). In the CHESS/HIFI dataset we found 16 absorption lines; all mea- surements are listed together with emissions in Table A.1, and their lines profiles are presented in Fig. A.1. Most of them are red-shifted and associated with the foreground cloud at Vlsr ∼ 0 km s−1. Three broad, blue-shifted absorptions belong to the outflow lobe. Although the analysis of our survey revealed no new molecu- lar species, some of our observed species have not been detected toward AFGL 2591 before. HIFI with its broad spectral range gave the opportunity to observe for the first time transitions of HF (Emprechtinger et al. 2012), OH+, CH, CH+ (Bruderer et al. 2010b) or C+ and HCl (this work) in AFGL 2591. Within the object AFGL 2591, CH3OH, SO2, and SO show the highest number of detected transitions (54, 26, and 18 lines, respectively) among its identified species, followed by H2CO and CO and its isotopologues. For the other molecules, a few lines at most were observed. The strongest transitions originate from CO and its isotopologues, HCO+, H2O, and OH. In com- parison, the remaining detected lines are relatively weak because of fluxes below 1 K km s−1. We derived the molecular column densities using the follow- ing relations: Ntot = Nl Q(Tex) gl exp  El kTex  [cm−2] and (1) Nl = 8πν3 c3 gl guAul  τ · dv [cm−2], (2) (1) The lines were measured in the same way as described in Paper I. A Gaussian profile was fitted to each line, using the Levenberg-Marquardt fitter in the line analysis module of CASSIS. For most lines, a single Gaussian profile gave a good fit to the profile. However, for CO, 13CO, C18O, CI, [CII], HCO+, OH, and H2O, double Gaussian profiles were needed to fit suffi- ciently narrow and broad line components. The measured param- eters from Gaussian fits of the emission lines (central velocity and full width at half maximum) are plotted in Fig. 2 (together with the complementary JCMT data) as an average value for each molecule. 5 CASSIS (http://cassis.cesr.fr) has been developed by IRAP- UPS/CNRS.. 2.2. 330–373 GHz JCMT data The excitation analysis of several molecules was complemented by ground-based observations from the James Clerk Maxwell Telescope (JCMT)4. These data are part of the JCMT Spectral Legacy Survey (SLS, Plume et al. 2007). The observations were taken with the 16-element Heterodyne Array Receiver Programme B (BHARP-B) and the Auto-Correlation Spectral AFGL 2591 data were completely reduced with the with the Herschel interactive processing environment3 (HIPE; Ott 2010), version 8.1, using scripts written by the CHESS data reduc- tion team (Kama et al. 2013). After pipelining, the quality of A53, page 2 of 18 M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey Imaging System (ACSIS) correlator (Dent et al. 2000; Smith et al. 2008; Buckle et al. 2009). Table 2. Fit results for absorptions. Imaging System (ACSIS) correlator (Dent et al. 2000; Smith et al. 2008; Buckle et al. 2009). Molecule Vlsra ΔVa N [km s−1] [km s−1] [cm−2] CCH 0.82 2.58 3.3 ± 1.0 × 1017 CHb 0.21 2.19 3.1 ± 0.9 × 1013 CH+ 4.17 12.42 1.1 ± 0.4 × 1014 H2S 0.22 0.97 3.5 ± 0.9 × 1012 NH3 0.00 1.30 1.8 ± 0.8 × 1012 H2Ob −0.50 2.43 1.5 ± 0.6 × 1013 OH+b 3.65 9.13 3.0 ± 1.0 × 1013 HF −0.05 2.31 5.2 ± 1.3 × 1012 HF −3.88 2.50 5.5 ± 1.4 × 1012 H2O −11.98 13.75 2.3 ± 0.6 × 1013 CH+ −16.90 9.24 6.8 ± 1.3 × 1013 HF −12.58 8.81 1.8 ± 0.6 × 1013 Notes. (a) Errors of Vlsr and ΔV are listed in Table A.1. (b) The average of a few lines from the same velocity component: 2 lines of CH, 2 lines of H2O and 3 lines of OH+. The JCMT survey of AFGL 2591 covers the frequency range of 330−373GHz with a spectral resolution of 1 MHz (∼0.8 km s−1). The beam size of the JCMT at these frequencies is 14−15′′, the image size is 2′. Detailed information about the data reduction and analysis can be found in Van der Wiel et al. (2011). 3.1. Detections and line profiles From the Herschel/HIFI spectral survey, a total of 32 species (including isotopologues) were identified, resulting in 252 emis- sion and 16 absorption lines (218 different transitions). Blended features were excluded from the analysis. Herschel surveys to- ward different sources revealed many spectral features that we currently cannot identify (e.g. Wang et al. 2011). However, no unidentified lines were found in our spectra. Notes. (a) Errors of Vlsr and ΔV are listed in Table A.1. (b) The average of a few lines from the same velocity component: 2 lines of CH, 2 lines of H2O and 3 lines of OH+. For the line identification the JPL (Pickett et al. 1998) and CDMS (Müller et al. 2001, 2005) databases were used. Line analysis was made with the CASSIS software5. The presence of possible transitions resulting from an upper energy level Eup of less than 500 K was checked. Generally, detected lines have Eup < 400 K, except for the high-J CO transitions, which have Eup up to 752 K. and originate from the protostellar envelope. Their line widths are of the order of 3.7 ± 0.9 km s−1, whereas the broader line components (10.9 ± 4.2 km s−1) are caused by the outflows and are centred on −6.3 ± 0.7 km s−1. It was shown in Paper I that the outflow gas is not significantly different from that in the enve- lope, considering gas density, gas temperature, and the chemical balance of CO and HCO+. All the detected lines in the HIFI survey are presented in Table A.1, the entire spectrum is shown in Fig. 1, and corre- sponding line profiles can be found in Fig. A.1. For the sake of completeness all of the observed lines together with their pro- files and measurements are presented in Table A.1, including the datasets of Paper I (Van der Wiel et al. 2013) and the comple- mentary JCMT data. 3.3. Emission line analysis transitions. For the absorptions that arise from the excited states we used Eq. (1) and assumed an excitation temperature of 10 K, as was derived for the foreground cloud in Paper I (see Table 4 in Van der Wiel et al. 2013). To estimate column densities and excitation temperatures from the observed emissions we constructed rotational diagrams assuming that all lines for a given molecule have the same ex- citation temperature. This method is a useful tool for estimat- ing the column densities and the excitation temperatures when many transitions of a particular species are observed. However, in many cases its accuracy is limited because it is based on the assumption that the emission lines are optically thin and the emissions fill the beam. The tentative absorption lines from a foreground cloud at Vlsr ∼0 km s−1 were observed of CCH (77−66 at 611.265GHz), CH (two transitions: 3/22+−1/21−at 532.724 and 3/22−−1/21+ at 536.761GHz), CH+ (1−0 at 835.138GHz), H2S (212−101 at 736.034GHz), NH3 (10−00 at 572.498GHz), H2O (two tran- sitions: 110−101 at 556.936 and 111−000 at 1113.343GHz), OH+ (three transitions: J = 2−1, F = 3/2−1/2 at 971.805, J = 1−1, F = 3/2−1/2 at 1033.004 and J = 1−1, F = 3/2−3/2 at 1033.119GHz) and HF (1−0 at 1232.476GHz). The estimated column densities for these species are listed in the upper part of Table 2. Goldsmith & Langer (1999) improved this excitation anal- ysis method by introducing correction factors for the effects of the beam dilution and optical depth. Using this population di- agram method, we estimated the column density, the excitation temperature, and the emission extent for each molecule with the observed multiple transitions. With three free parameters (col- umn density, excitation temperature, and the beam filling factor), we used this method only when at least four lines for a given molecule were observed. Otherwise, only the rotational method was applied. The rotation diagram gives beam-averaged column densities, while the population diagram gives source-averaged values. Hereafter, all stated column densities (Ncol) or excita- tion temperatures (Tex) were derived from the population dia- grams, except those of HNC and N2H+, which were estimated from the rotational diagrams. At this point, the complementary JCMT data were crucial to increase the number of observed tran- sitions for a given molecule. Three broad absorptions are associated with the outflow (centred on ∼−13.8km s−1): H2O, CH+ and HF. 3.2. Absorption line analysis A&A 567, A53 (2014) 0 4 8 12 16 CO COo 13CO 13COo C17O C17Oo C18O C18Oo C Co HCO+ HCO+ o H13CO+ HCN HCNo H13CN HC15N HNC HNCo CCH CH CH+ OH OHo CN CS CSo H2S H2 34S HCl H37Cl NH3 N2H+ NO CH3OH H2CO SO SO2 H2O H2Oo HF mean FWHM [km/s] −7 −6 −5 −4 CO COo 13CO 13COo C17O C17Oo C18O C18Oo C Co HCO+ HCO+ o H13CO+ HCN HCNo H13CN HC15N HNC HNCo CCH CH CH+ OH OHo CN CS CSo H2S H2 34S HCl H37Cl NH3 N2H+ NO CH3OH H2CO SO SO2 H2O H2Oo HF mean V [km/s] molecule A&A 567, A53 (2014) Fig. 2. Average values of the line widths (top panel) and of the central velocity (bottom panel) from Gaussian fits for the observed emission lines of different molecules (”o” represents the outflow component). The emission lines of the envelope component are centred on −5.5 km s−1, as shown by the dashed line in the bottom panel. 3.2. Absorption line analysis (2) where Q(Tex) is the partition function computed at the excitation temperature Tex, ν is the frequency of the observed transition with the Einstein A-coefficient Aul and the statistical weights of the lower gl and upper levels gu; c is the speed of light, and k is the Boltzmann constant. The line opacity τ was calculated from the measured brightness temperature Tmb and the tempera- ture of the background continuum in a single side band Tc, using the relation τ = −ln  Tmb Tc  . Ntot and Nl are the total column density and the column den- sity in the lower state of transition. The Nl may be the same as total column density for the ground state lines when the exci- tation temperature is very low (Tex ∼2.73 K). Therefore we ap- plied Eq. (2) to calculate column densities for the ground-state The narrow and single-line components are centred on −5.5 ± 0.5 km s−1 (as derived before by Van der Tak et al. 1999) A53, page 3 of 18 A&A 567, A53 (2014) 0 4 8 12 16 CO COo 13CO 13COo C17O C17Oo C18O C18Oo C Co HCO+ HCO+ o H13CO+ HCN HCNo H13CN HC15N HNC HNCo CCH CH CH+ OH OHo CN CS CSo H2S H2 34S HCl H37Cl NH3 N2H+ NO CH3OH H2CO SO SO2 H2O H2Oo HF mean FWHM [km/s] −7 −6 −5 −4 CO COo 13CO 13COo C17O C17Oo C18O C18Oo C Co HCO+ HCO+ o H13CO+ HCN HCNo H13CN HC15N HNC HNCo CCH CH CH+ OH OHo CN CS CSo H2S H2 34S HCl H37Cl NH3 N2H+ NO CH3OH H2CO SO SO2 H2O H2Oo HF mean V [km/s] molecule Fig. 2. Average values of the line widths (top panel) and of the central velocity (bottom panel) from Gaussian fits for the observed emission lines of different molecules (”o” represents the outflow component). The emission lines of the envelope component are centred on −5.5 km s−1, as shown by the dashed line in the bottom panel. 3.3. Emission line analysis Parameters estimated from rotational and population diagrams methods (column densities, excitation temperatures, and emission extents) based on HIFI and JCMT data. Table 3. Parameters estimated from rotational and population diagrams methods (column densities, excitation temperatures, and emission extents) based on HIFI and JCMT data. Molecule V FWHM Rotational Population τ Eup range No of trans. 3.3. Emission line analysis [km s−1] [km s−1] Ncol[cm−2] Tex[K] Ncol[cm−2] Tex[K] size[′′] [K] CO −4.8±0.3 5.1±0.9 6.0 × 1016 +0.5 −0.5 162+10 −9 1.2 × 1019 +0.4 −0.6 62+4 −6 17+3 −7 0.1–144 33–752 12 −7.2±2.3 15.4±1.8 6.0 × 1016 +1.0 −1.0 89+10 −9 8.0 × 1018 +0.4 −0.4 42+2 −2 17+1 −1 0.01–34 33–752 12 HCO+ −5.6±0.2 3.4±0.4 2.3 × 1013 +1.0 −1.0 35+3 −3 1.0 × 1014 +1.0 −1.0 43+2 −3 11+1 −1 0.08–2.02 43–283 7 −6.8±0.6 7.3±2.0 2.2 × 1013 +4.2 −1.6 23+15 −15 2.0 × 1015 +3.3 −1.6 19+9 −2 9.7+0.8 −2.4 0.7–35 43–154 4 HCN −5.3±0.2 4.2±0.7 4.5 × 1013 +0.7 −0.5 31+14 −10 1.1 × 1015 +0.8 −0.7 35+1 −1 7.7+0.2 −0.2 0.2–4.4 43–234 6 HNCa −5.4±0.1 3.8±0.5 4.8 × 1012 +6.3 −0.5 43+9 −7 44–122 3 CCH −6.3±0.5 3.7±0.5 2.2 × 1014 +0.3 −0.2 22+3 −3 1.1 × 1016 +1.1 −0.5 25+6 −5 5.3+0.8 −0.6 0.3–7.1 42–151 4 CNa −5.6±0.2 3.2±0.5 9.7 × 1013 +0.8 −0.7 22+1 −1 1.3 × 1014 +0.3 −0.3 26+4 −3 23+6 −4 0.01–0.18 33–114 3 CS −5.5±0.4 3.9±0.5 7.4 × 1013 +0.5 −0.4 26+12 −10 4.9 × 1013 +14.6 −0.6 61+7 −19 14+4 −9 0.01–0.09 66–282 7 H2S −5.7±0.7 3.4±0.8 1.1 × 1013 +1.1 −0.7 56+25 −14 4.9 × 1014 +0.9 −0.6 26+3 −2 8.9+0.6 −0.7 0.01–5.6 55–350 5 NH3 −5.1±0.6 4.1±1.0 2.8 × 1013 +0.3 −0.2 67+6 −5 4.8 × 1013 +11 −2.4 28+3 −6 9.6+1.8 −0.6 0.1–1.6 28–170 5 N2H+a −5.9±0.2 2.8±0.3 5.6 × 1011 +0.1 −1.6 19+13 −3 45–125 3 NOa −4.8±0.5 5.8±2.8 7.2 × 1015 +0.7 −0.5 25+14 −10 1.7× 1016 +3.6 −0.5 54+9 −14 12+15 −6 0.015–0.021 36–115 2 CH3OH −5.7±0.5 3.3±0.6 1.8 × 1014 +1.0 −0.7 209+171 −62 1.5 × 1017 +0.4 −0.3 108+10 −7 1.5+0.1 −0.1 0.6–10.4 25–352 49 H2CO −5.4±0.3 3.6±0.7 2.0 × 1013 +1.0 −0.9 34+12 −6 9.9 × 1013 +0.1 −0.1 41+2 −2 7.3+0.1 −0.1 0.02–0.61 32–263 14 SO −5.5±0.4 4.9±0.7 1.5 × 1014 +0.2 −0.2 53+23 −20 1.9 × 1016 +0.4 −0.3 64+2 −4 2.7+0.3 −0.2 0.1–6.1 26–405 22 SO2 −5.1±0.4 4.6±0.9 3.0 × 1014 +2.0 −1.7 92+77 −43 5.4 × 1017 +0.7 −0.6 175+5 −4 0.9+0.1 −0.1 0.5–8.9 31-354 47 H2O −4.8±0.9 3.1±0.6 3.5 × 1013 +3.0 −1.4 63+17 −15 2.4 × 1015 +0.3 −0.5 38+1 −1 9.1+0.5 −0.6 0.4–104 53–305 8 −6.0±0.2 12.1±2.3 5.5 × 1013 +3.1 −1.9 43+35 −20 1.0 × 1016 +0.4 −0.4 31+3 −3 4.9+0.3 −0.4 0.2–5.7 101–305 6 Notes. 3.3. Emission line analysis Their column densities are presented in the lower part of Table 2. Bruderer et al. (2010b) analysed hydrides toward AFGL 2591 using HIFI. Our column density results agree well, with their measurements within the errors: 3.1 × 1013 and 2.6 × 1013 cm−2 for CH, 6.8 × 1013 and 1.8 × 1014 cm−2 for the CH+ outflow component, 1.1 × 1014 and 1.2 × 1014 cm−2 for CH+, and 3.0 × 1013 and 6.1 × 1013 cm−2 for OH+, our results and from (Bruderer et al. 2010b) respectively. Bruderer et al. (2010b) also found lines of NH and H2O+ in their spectra. These two species are not seen in our dataset, because of a slightly lower quality of spectral scans (Bruderer et al. 2010b have observations from the single frequency settings). The column densities of CO, HCN and HCO+ were obtained from their isotopologues (13CO, C18O, C17O, H13CN, HC15N, and H13CO+) using the standard isotopic ratios: 12C/13C = 60, 16O/18O = 500, 16O/17O = 2500, and 14N/15N = 270 (Wilson & Rood 1994). The column densities of CO, HCN and HCO+ were obtained from their isotopologues (13CO, C18O, C17O, H13CN, HC15N, and H13CO+) using the standard isotopic ratios: 12C/13C = 60, 16O/18O = 500, 16O/17O = 2500, and 14N/15N = 270 (Wilson & Rood 1994). Based on Herschel data, Barlow et al. (2013) recently detected emission lines of 36ArH+ in the Crab nebula. Absorptions of this ion are also seen toward sources from Herschel Observations of EXtra-Ordinary Sources (HEXOS) and PRobing InterStellar Molecules with Absorption line Studies (PRISMAS) Herschel key programs (Schilke et al. 2014). The 36ArH+ J = 1−0 transition at 617.525 GHz is not detected in our spectra. The upper limit of the column density is 7.7 × 1012 cm−2 for the width of an absorption line of 1 km s−1. All column densities and excitation temperatures values based on the rotational and population diagrams methods are given in Table 3. The opacities and emission sizes for each molecule derived from the population diagrams are listed in Table 3 as well. It also contains information about the covered energy Eup range for a given species and the number of lines from different energy levels that were used for the analysis. The values of the excitation temperatures and column densities A53, page 4 of 18 M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey Table 3. 3.3. Emission line analysis The second column shows the values of the central velocity of the observed lines. When there are two values, the first corresponds to the envelope component, the second to the outflow. The last 3 columns show first the range of optical depth τ for observed lines, then the Eup range, which is covered by observed features, and finally the number of lines from different energy levels used for the analysis; i.e., we observed 4 lines of NO, but they originate only from 2 different energy levels. Population diagram method was used when at least 4 lines of a given molecule were observed, which is why there are no values for HNC and N2H+. (a) Indicates higher uncertainty of measurements because e.g. only 3 different levels were observed. Notes. The second column shows the values of the central velocity of the observed lines. When there are two values, the first corresponds to the envelope component, the second to the outflow. The last 3 columns show first the range of optical depth τ for observed lines, then the Eup range, which is covered by observed features, and finally the number of lines from different energy levels used for the analysis; i.e., we observed 4 lines of NO, but they originate only from 2 different energy levels. Population diagram method was used when at least 4 lines of a given molecule were observed, which is why there are no values for HNC and N2H+. (a) Indicates higher uncertainty of measurements because e.g. only 3 different levels were observed. Notes. The second column shows the values of the central velocity of the observed lines. When there are two values, the first corresponds to the envelope component, the second to the outflow. The last 3 columns show first the range of optical depth τ for observed lines, then the Eup range, which is covered by observed features, and finally the number of lines from different energy levels used for the analysis; i.e., we observed 4 lines of NO, but they originate only from 2 different energy levels. Population diagram method was used when at least 4 lines of a given molecule were observed, which is why there are no values for HNC and N2H+. (a) Indicates higher uncertainty of measurements because e.g. only 3 different levels were observed. Notes. The second column shows the values of the central velocity of the observed lines. 3.3. Emission line analysis When there are two values, the first corresponds to the envelope component, the second to the outflow. The last 3 columns show first the range of optical depth τ for observed lines, then the Eup range, which is covered by observed features, and finally the number of lines from different energy levels used for the analysis; i.e., we observed 4 lines of NO, but they originate only from 2 different energy levels. Population diagram method was used when at least 4 lines of a given molecule were observed, which is why there are no values for HNC and N2H+. (a) Indicates higher uncertainty of measurements because e.g. only 3 different levels were observed 1e+12 1e+14 1e+16 1e+18 1e+20 CO COo HCO+ HCO+ o HCN CCH CS H2S NH3 CH3OH H2CO SO SO2 H2O H2Oo Ncol [cm−2] 0 50 100 150 200 CO COo HCO+ HCO+ o HCN CCH CS H2S NH3 CH3OH H2CO SO SO2 H2O H2Oo Tex [K] molecule Fig. 3. Column densities and excitation temperatures estimated from the population diagrams, without the uncertain measurements, “o” represents the outflow component. Fig. 3. Column densities and excitation temperatures estimated from the population diagrams, without the uncertain measurements, “o” represents the outflow component. s and excitation temperatures estimated from the population diagrams, without the uncertain measurements, “o” repres are plotted in Fig. 3, excluding the uncertain measurements (i.e. HNC, N2H+, CN, and NO). good approximations of the column densities and the excitation temperatures. The other molecular lines were characterised as optically thick. For these molecular species the population dia- gram method was more accurate. Based on the optical depths values from Table 3, the lines of CN, CS, NO, and H2CO can be characterised as optically thin (τ < 0.6). However, the results of CN and NO are uncertain because of only a few lines were observed. 3.3. Emission line analysis For optically thin lines calculations based on the rotational diagrams resulted in The emission extent of the analysed molecules associated with AFGL 2591 ranges from around 2′′ (species such as SO, A53, page 5 of 18 A53, page 5 of 18 A&A 567, A53 (2014) ln(Nu/gu -2] Eu CO (envelope) ln(Nu/gu -2] Eu HCO+ ln(Nu/gu -2] Eu HCN ln(Nu/gu -2] Eu CCH ln(Nu/gu -2] Eu CN ln(Nu/gu -2] Eu CS ln(Nu/gu -2] Eu H2S ln(Nu/gu -2] Eu NH3 ln(Nu/gu -2] Eu NO ln(Nu/gu -2] Eu H2O (envelope) ln(Nu/gu -2] Eu CH3OH ln(Nu/gu -2] Eu H2CO ln(Nu/gu -2] Eu SO ln(Nu/gu -2] Eu SO2 Fig. 4. Population diagrams. Open circles represent the observational data and crosses are the best-fit model from population diagram analysis. Dotted lines correspond to a linear fit to the rotational diagram. ln(Nu/gu -2] Eu CO (envelope) ln(Nu/gu -2] Eu HCO+ A&A 567, A53 (2014) A&A 567, A53 (2014) 2 ln(Nu/gu -2] Eu CS ln(Nu/gu -2] Eu CH3OH ln(Nu/gu -2] Eu H2CO ln(Nu/gu -2] Eu H2S ln(Nu/gu -2] Eu HCO+ ln(Nu/gu -2] Eu NH3 ln(Nu/gu -2] Eu HCN ln(Nu/gu -2] Eu SO ln(Nu/gu -2] Eu CCH ln(Nu/gu -2] Eu NO ln(Nu/gu -2] ln(Nu/gu -2] Eu H2O (envelope) ln(Nu/gu -2] Eu CN Fig. 4. Population diagrams. Open circles represent the observational data and crosses are the best-fit model from population diagram analysis. Dotted lines correspond to a linear fit to the rotational diagram. 4. Discussion SO2, and CH3OH) up to 23′′ (CN). For most species emission sizes are smaller than 17′′. SO2, and CH3OH) up to 23′′ (CN). For most species emission sizes are smaller than 17′′. A53, page 6 of 18 4.1. CI and CII From the comparison of the temperatures derived from the population diagrams (see the bottom panel of Fig. 3) it is possible to distinguish warm (e.g. CH3OH and SO2) and cold (e.g. HCN, H2S, and NH3) species. As cold species we clas- sify those with excitation temperatures of up to 70 K. Warm molecules have higher temperatures, up to 175 K for SO2. It is difficult to give an accurate borderline here and classify all species, but the wide range of excitation temperatures seems sig- nificant. Moreover,it was shown before by Bisschop et al. (2007) that some of the complex organic species can be classified as both warm and cold, which may indicate that they are present in multiple physical components. C and C+ are the only atomic species found in our HIFI spectral survey of AFGL 2591. Both fine-structure transitions of neu- tral carbon, 3P1−3P0 at 492 GHz and 3P2−3P1 at 809 GHz, were observed towards AFGL 2591. These transitions consist of two components originating from the envelope and the outflow, sim- ilar to the CO lines (see Fig. A.1). CI was observed previously in AFGL 2591 by Van der Tak et al. (1999), but [CII] was ob- served for the first time with Herschel. The [CII] 2P3/2−2P1/2 line, an important interstellar coolant, shows several velocity components, two of them correspond to those in CI and CO. The [CII] line profile is distorted by a contamination from the off-position even after applying corrections within HIPE (Fig. A.1). The population diagrams are presented in Fig. 4. They show evidence for an excitation gradient of several species (HCO+, HCN, CS, and SO), which means that the population diagram method may be not enough to analyse all observed molecules. This is a motivation to use more sophisticated method in the near future (i.e., radiative transfer modelling) to study our spectral survey. 4.2. CO and its isotopologues 4.4. N-bearing species Our spectra also revealed lines from the protostellar envelope and foreground clouds that belong to CCH, CH, CH+, OH, and OH+. CCH and CH show three absorption lines at ∼0 km s−1, OH+ three absorptions at ∼3.6 km s−1. Using HIFI, Bruderer et al. (2010b,a) found lines of CH, CH+, NH, OH+, and H2O+, while lines of NH+ and SH+ have not been detected. Bruderer et al. (2010b) concluded that absorption lines of NH, OH+ and H2O+ originate from a foreground cloud and an outflow lobe, while the emission lines of CH and CH+ are connected with the protostellar envelope (compare Sect. 3.2). Six N-bearing species were observed in the HIFI spectra: HCN, HNC, CN, NO, N2H+, and NH3. All of these molecules have been detected before in AFGL 2591 (e.g. Takano et al. 1986; Carr et al. 1995; Boonman et al. 2001). Lines of N-bearing species observed with the Herschel/HIFI are weaker than those of CO and were fitted with a single-Gaussian profile, revealing these species to be components of the protostellar envelope, cen- tred on −5.5 km s−1. Only o-NH3 shows a tentative absorption feature from a foreground cloud at Vlsr = 0 km s−1. Two fea- tures observed with the JCMT, HCN 4-3, and HNC 4−3 show a contribution from the outflow and double-Gaussian profiles were fitted to these lines. We did not find NH and NH2, which were detected in other HIFI spectral surveys (e.g. Zernickel et al. 2012). Upper limits are 0.8 K km s−1 for the NH 1−0 line near 946 GHz and 0.6 K km s−1 for the NH2 1−0 line near 953 GHz. Upper limits were measured in the same way as in Paper I, that is, considering 3 km s−1 a typical line width, hence using 5σrms × 3 km s−1. Among the observed features, two lines of vi- brationally excited HCN 4−3, υ = 1c and υ = 1d are found (JCMT data). Line υ = 1c was observed before by Van der Tak et al. (1999). Boonman et al. (2001) analysed excited HCN, the 4−3 and 9−8 transitions. The interferometric observations from Veach et al. (2013) showed vibrationally excited υ = 1 and also υ=2 HCN 4−3 lines. These authors suggested that the υ = 2 HCN lines might be a useful tool to study a protostellar disk. Takano et al. 4.8. HF HF is the only detected fluorine-bearing species in AFGL 2591. Its 1−0 transition at 1233 GHz was observed and analysed by Emprechtinger et al. (2012). They calculated an HF column density of 2 × 1014 cm−2 and 4 × 1013 cm−2 for emission and absorption. 4.2. CO and its isotopologues CO is one of the most often studied molecules (e.g. Mitchell et al. 1989; Black et al. 1990; Hasegawa & Mitchell 1995). A53, page 6 of 18 M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey H2S is classified as colder species with an excitation tempera- ture of 26 K. CS and SO have similar excitation temperatures, 61 K and 64 K. Van der Tak et al. (2003) studied the sulphur chemistry in the envelopes of massive star forming regions and found excitation temperatures of 185 K for SO2, which is a sim- ilar result to the one calculated in this work. However, the col- umn density of SO2 varies strongly, 5.2 × 1014 cm−2 Van der Tak et al. (2003), 5.4 × 1017 cm−2 our work. Results of column den- sity of CS also differ in one order of magnitude, 3 × 1013 cm−2 and 4.9 × 1014 cm−2 (Van der Tak et al. 2003) and our work, re- spectively. The population diagram method is a good first step for the spectral surveys analysis, but in some cases a more ad- vanced method is needed. Especially when there are not enough observed transitions from the lower energy levels for a given molecule, for example SO or CS and the excitation gradient is visible (see Fig. 4). We are planning to use radiative transfer modelling and estimate molecular abundances in the near future. Based on CO observation, Lada et al. (1984) found an extended bipolar outflow associated with AFGL 2591. Many strong lines of CO and its isotopologues (13CO, C18O, C17O) were also de- tected in our HIFI spectra, clearly showing the envelope and outflow components. The C17O lines are weaker and show only the envelope components. The abundance of CO = 3 × 10−5 was calculated in Paper I. The CO column density in this work was estimated at 1.2 × 1019 cm−2; Van der Tak et al. (2000b) derived a similar value of 3.4 × 1019 cm−2. 4.4. N-bearing species (1986) observed ammonia transitions (1, 1) and (2, 2) with the Effelsberg 100 m telescope. They found a compact NH3 cloud of around 0.6 pc diameter around the central source. These authors estimated a column density of 8 × 1013cm−2. In comparison, calculations of our work gave a column density of 4.8 × 1013cm−2. 4.3. HCO+ HCO+ was identified by intense lines in the HIFI and JCMT spectra. Moreover, three lines of H13CO+ were also positively detected. The abundance of HCO+ was estimated at 9 × 10−9 (Paper I) and column density at 1.0 × 1014 cm−2. Carr et al. (1995) estimated an abundance of 4 × 10−10 and Van der Tak et al. (1999) derived [HCO+] = 1 × 10−8 by using a model with lower H2 column density. 4.7. Water Water lines have also been detected in our spectra. We found four transitions of o-H2O (110−101 at 557 GHz, 312−303 at 1097 GHz, 312−221 at 1153GHz, and 321−312 at 1163 GHz) and four tran- sitions of p-H2O (211−202 at 752 GHz, 202−111 at 988 GHz, 111−000 at 1113 GHz, and 220−211 at 1229 GHz). They show dif- ferent profiles, mostly the envelope and outflow components, but also some absorptions (see Fig. A.1). For the envelope compo- nent we estimated a column density of 2.4 × 1015 cm−2, an exci- tation temperature of 38 K, and an emission extent of 9.1′′. The full analysis of water lines in AFGL 2591 as part of the Water In Star forming regions with Herschel (WISH) Project will be presented in the forthcoming paper of Choi et al. (2014). 4.8. HF 5. Conclusions Goldsmith, P. F., & Langer, W. D. 1999, ApJ, 517, 209 Hasegawa, T. I., & Mitchell, G. F. 1995, ApJ, 451, 225 The main conclusions from our AFGL 2591 spectral survey are as follows: g p Kama, M., López-Sepulcre, A., Dominik, C., et al. 2013, A&A, 556, A57 Kama, M., López-Sepulcre, A., Dominik, C., et al. 2013, Kennicutt, R. C., & Evans, N. J. 2012, ARA&A, 50, 531 Lada, C. J., Thronson, Jr., H. A., Smith, H. A., Schwartz, P. R., & Glaccum, W. 1984, ApJ, 286, 302 1. In the Herschel/HIFI spectral survey of AFGL 2591 we ob- served 268 lines (excluding blends) of a total of 32 species. No unidentified features were found in the spectra. JCMT data supplemented the excitation analysis of several species seen in emissions. Mitchell, G. F., Curry, C., Maillard, J.-P., & Allen, M. 1989, ApJ, 341, 1020 j i ff l 6 , , y, , , , , , p , , Monje, R. R., Lis, D. C., Roueff, E., et al. 2013, ApJ, 767, 81 Monje, R. R., Lis, D. C., Roueff, E., et al. 2013, ApJ, 767, 81 Müller, H. S. P., Thorwirth, S., Roth, D. A., & Winnewisser, G. 2001, A&A, 370, L49 Müller, H. S. P., Schlöder, F., Stutzki, J., & Winnewisser, G. 2005, J. Mol. Struct., 742, 215 2. Among the observed 268 lines, 16 absorptions were de- tected. Most of them belong to the known foreground cloud at Vlsr ∼0 km s−1. Three broad absorptions are associated with the outflow lobe. The estimated column densities agree well with previous work. Neufeld, D. A., Roueff, E., Snell, R. L., et al. 2012, ApJ, 748, 37 Neufeld, D. A., Roueff, E., Snell, R. L., et al. 2012, ApJ, 748, 37 Ott, S. 2010, in Astronomical Data Analysis Software and Systems XIX, eds. , , , , , , , p , , Ott, S. 2010, in Astronomical Data Analysis Software and Systems XIX, eds. Ott, S. 2010, in Astronomical Data Analysis Software and Syst Y. Mizumoto, K.-I. Morita, & M. Ohishi, ASP Conf. Ser., 434, 139 Pickett, H. M., Poynter, R. L., Cohen, E. A., et al. 1998, J. Quant. Spectr. Rad. Transf., 60, 883 3. Based on the population diagram method, the column den- sities and excitation temperatures were estimated. 5. Conclusions Molecular column densities range from 6 × 1011 to 1 × 1019 cm−2 and excitation temperatures range from 19 to 175 K. We can dis- tinguish between species of higher (e.g. CH3OH, and SO2) and lower (e.g. HCN, H2S, and NH3) excitation temperature. Pilbratt, G. L., Riedinger, J. R., Passvogel, T., et al. 2010, A&A, 518, L1 Plume, R., Fuller, G. A., Helmich, F., et al. 2007, PASP, 119, 102 Rygl, K. L. J., Brunthaler, A., Sanna, A., et al. 2012, A&A, 539, A79 Sanna A Reid M J Carrasco González C et al 2012 A Rygl, K. L. J., Brunthaler, A., Sanna, A., et al. 2012, A&A, 539, A79 Rygl, K. L. J., Brunthaler, A., Sanna, A., et al. 2012, A&A, 539, A79 Sanna, A., Reid, M. J., Carrasco-González, C., et al. 2012, Ap Sanna, A., Reid, M. J., Carrasco-González, C., et al. 2012, ApJ, 745, 191 191 Schilke, P., Neufeld, D. A., Müller, H. S. P., et al. 2014, A&A, 566, A29 Smith, H., Buckle, J., Hills, R., et al. 2008, in Proc. SPIE, 7020, 0Z ( g ) p 4. The population diagram method is a very useful tool for spectral survey analysis, but it is far from being perfect. Several species (HCO+, HCN, CS, and SO) show evidence of an excitation gradient, which is a motivation to use a more sophisticated method (i.e., radiative transfer modelling) in the near future to study molecules observed in the protostel- lar envelope of AFGL 2591. g p 4. The population diagram method is a very useful tool for spectral survey analysis, but it is far from being perfect. Several species (HCO+, HCN, CS, and SO) show evidence of an excitation gradient, which is a motivation to use a more sophisticated method (i.e., radiative transfer modelling) in the near future to study molecules observed in the protostel- lar envelope of AFGL 2591. Takano, T., Stutzki, J., Winnewisser, G., & Fukui, Y. 1986, A&A, 158, 14 Tan, J. C., Beltran, M. T., Caselli, P., et al. 2014, Protostars and Planets VI (University of Arizona Press), eds. H. Dishoeck, E. F. Klessen, C. Dullemond, & Th. Henning [arXiv:1402.0919] g Van der Tak, F. F. S., van Dishoeck, E. F., Evans, II, N. J., Bakker, E. J., & Blake, G. A. 1999, ApJ, 522, 991 Van der Tak, F. F. S., van Dishoeck, E. F., & Caselli, P. 4.10. Complex species 2014 A&A, submitted Codella, C., Ceccarelli, C., Bottinelli, S., et al. 2012, ApJ, 744, 164 Codella, C., Ceccarelli, C., Bottinelli, S., et al. 2012, ApJ, 744, 164 Comito, C., & Schilke, P. 2002, A&A, 395, 357 de Graauw, T., Helmich, F. P., Phillips, T. G., et al. 2010, A&A, 518, L6 Dent, W., Duncan, W., Ellis, M., et al. 2000, in Imaging at Radio through Submillimeter Wavelengths, eds. J. G. Mangum & S. J. E. Radford, ASP Conf. Ser., 217, 33 E hti M M j R R d T k F F S t l 2012 A J 756 Emprechtinger, M., Monje, R. R., van der Tak, F. F. S., et al. 2012, ApJ, 756, 136 Emprechtinger, M., Monje, R. R., van der Tak, F. F. S., et al. 2012, ApJ, 756, 136 Goldsmith P F & Langer W D 1999 ApJ 517 209 136 Goldsmith, P. F., & Langer, W. D. 1999, ApJ, 517, 209 A&A 567, A53 (2014) A&A 567, A53 (2014) Neufeld et al. (2012), neither lines of H2Cl+ nor lines of H237Cl+ toward AFGL 2591 were found. Neufeld et al. (2012), neither lines of H2Cl+ nor lines of H237Cl+ toward AFGL 2591 were found. References Bally, J., Moeckel, N., & Throop, H. 2005, in Chondrites and the Protoplanetary Disk, eds. A. N. Krot, E. R. D. Scott, & B. Reipurth, ASP Conf. Ser., 341, 81 Barlow, M. J., Swinyard, B. M., Owen, P. J., et al. 2013, Science, 342, 1343 Bisschop S E Jørgensen J K van Dishoeck E F & de Wachter E B M 4.10. Complex species Bisschop, S. E., Jørgensen, J. K., van Dishoeck, E. F., & de Wachter, E. B. M. 2007, A&A, 465, 913 From the HIFI spectral survey we found only two molecules (methanol and formaldehyde) that belong to complex organ- ics. Bisschop et al. (2007) showed before that AFGL 2591 is a line-poor source. These authors analysed complex organic molecules in massive young stellar objects and found only a few of them in AFGL 2591; all of the intensities of the observed lines were very low. Many weak CH3OH and H2CO lines were detected in our HIFI spectra. Their column densities and excita- tion temperatures are 1.5 × 1017 cm−2 and 108 K for CH3OH, and 9.9 × 1013 cm−2 and 41 K for H2CO. Van der Tak et al. (2000a) estimated 1.2 × 1015 cm−2 and 163 K for CH3OH, and 8.0 × 1013 cm−2 and 89 K for H2CO. From the rotational dia- grams Bisschop et al. (2007) derived 4.7 × 1016 cm−2 and 147 K for methanol. All of these results vary slightly, but also suggest that methanol represents warm species. Black, J. H., van Dishoeck, E. F., Willner, S. P., & Woods, R. C. 1990, ApJ, 358, 459 Boonman, A. M. S., Stark, R., van der Tak, F. F. S., et al. 2001, ApJ, 553, L63 p er, S., Benz, A. O., Bourke, T. L., & Doty, S. D. 2009, A&A, 503, y Bruderer, S., Benz, A. O., Stäuber, P., & Doty, S. D. 2010a, ApJ, 720, 1432 Bruderer, S., Benz, A. O., van Dishoeck, E. F., et al. 2010b, A&A, 521, L44 Buckle, J. V., Hills, R. E., Smith, H., et al. 2009, MNRAS, 399, 102 Buckle, J. V., Hills, R. E., Smith, H., et al. 2009, MNRAS, 399, 1026 Carr, J. S., Evans, II, N. J., Lacy, J. H., & Zhou, S. 1995, ApJ, 450, 667 Carr, J. S., Evans, II, N. J., Lacy, J. H., & Zhou, S. 1995, ApJ, 450, 667 Ceccarelli, C., et al. (CHESS Consortium) 2010, in 38th COSPAR Scientific Assembly, 38, 2476 Choi, Y., van der Tak, F. F. S., van Dishoeck, E. F., et al. 2014 A&A, submitted C d ll C C lli C B tti lli S t l 2012 A J 744 164 Choi, Y., van der Tak, F. F. S., van Dishoeck, E. F., et al. 4.5. S-bearing species Thanks to HIFI, many chlorine-bearing molecules (e.g. HCl, H37Cl, H2Cl+, H237Cl+) were observed in different envi- ronments, for example toward protostellar shocks (Codella et al. 2012), diffuse clouds (Monje et al. 2013), and star forming regions (Neufeld et al. 2012). HCl and H37Cl are the only observed chlorine-bearing species in our HIFI spec- tra of AFGL 2591. Three hyperfine components of HCl from the energy level of Eup = 30 K and two from the higher state Eup = 90.1 K were detected. In agreement with Of the S-bearing molecules we detected with HIFI CS, H2S, H234S, SO, and SO2. All of these molecules have been observed before in AFGL 2591 (e.g. Yamashita et al. 1987; Van der Tak et al. 2003; Bruderer et al. 2009). Additionally, from the JCMT dataset we have several lines of these molecules, and also isotopologues of CS, SO, and SO2 (13CS and C34S, 34SO, 34SO2), as well as OCS and o-H2CS. SO and SO2 show many weak lines of the envelope component. SO2 is an example of warm species with an excitation temperature of 175 K, whereas A53, page 7 of 18 Acknowledgements. We thank Matthijs van der Wiel for providing JCMT data and useful discussions. HIFI has been designed and built by a con- sortium of institutes and university departments from across Europe, Canada and the United States under the leadership of SRON Netherlands Institute for Space Research, Groningen, The Netherlands and with major contribu- tions from Germany, France and the US. Consortium members are: Canada: CSA, U.Waterloo; France: CESR, LAB, LERMA, IRAM; Germany: KOSMA, MPIfR, MPS; Ireland: NUI Maynooth; Italy: ASI, IFSI-INAF, Osservatorio Astrofisico di Arcetri-INAF; Netherlands: SRON, TUD; Poland: CAMK, CBK; Spain: Observatorio Astronómico Nacional (IGN), Centro de Astrobiologa (CSIC-INTA). Sweden: Chalmers University of Technology −MC2, RSS & GARD; Onsala Space Observatory; Swedish National Space Board, Stockholm University −Stockholm Observatory; Switzerland: ETH Zurich, FHNW; USA: Caltech, JPL, NHSC. 5. Conclusions Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey pendix A: HIFI/CHESS spectral survey -25 -20 -15 -10 -5 Tmb CO 5-4 6-5 7-6 8-7 9-8 10-9 -25 -20 -15 -10 -5 CO 11-10 13-12 14-13 15-14 16-15 -25 -20 -15 -10 -5 13CO 5-4 6-5 7-6 8-7 9-8 10-9 11-10 -25 -20 -15 -10 -5 C18O 5-4 6-5 7-6 8-7 9-8 10-9 -25 -20 -15 -10 -5 Tmb C17O 5-4 6-5 7-6 8-7 -25 -20 -15 -10 -5 HCO+ 6-5 7-6 8-7 9-8 10-9 11-10 -25 -20 -15 -10 -5 HCN 6-5 7-6 8-7 9-8 10-9 -25 -20 -15 -10 -5 H13CN 6-5 7-6 8-7 H13CO+ 4-3 6-5 -25 -20 -15 -10 -5 Tmb HNC 6-5 7-6 HC15N 5-4 -25 -20 -15 -10 -5 CN 566.731 566.947 680.047 680.264 -25 -20 -15 -10 -5 C 492.161 809.344 -25 -20 -15 -10 -5 CS 10-9 11-10 12-11 13-12 14-13 15-14 -25 -20 -15 -10 -5 Tmb Vlsr /s] CCH 66-55 65-54 77-66 76-65 88-77 87-76 -25 -20 -15 -10 -5 Vlsr /s] CH 532.724 532.793 -0.5 -30 -20 -10 Vlsr /s] CH+ -30 -20 -10 Vlsr /s] OH 1834.747 OH+ 971.805 1033.004 1033.119 A.1. Line profiles of all identified species in HIFI spectral survey of AFGL 2591. Molecules (e.g. HCl, CH) for which hyperfine compon e detected are plotted all together and are centred on the velocity of the middle line. Lines with multiply profiles (e.g. CO – envelope ow components; HF – emission and absorptions) are also presented in one figure and are centered at the velocity of the envelope compo se compare with Table A.1. 5. Conclusions 2000a, A&A, 361, 327 Van der Tak, F. F. S., van Dishoeck, E. F., Evans, II, N. J., & Blake, G. A. 2000b, ApJ, 537, 283 Acknowledgements. We thank Matthijs van der Wiel for providing JCMT data and useful discussions. HIFI has been designed and built by a con- sortium of institutes and university departments from across Europe, Canada and the United States under the leadership of SRON Netherlands Institute for Space Research, Groningen, The Netherlands and with major contribu- tions from Germany, France and the US. Consortium members are: Canada: CSA, U.Waterloo; France: CESR, LAB, LERMA, IRAM; Germany: KOSMA, MPIfR, MPS; Ireland: NUI Maynooth; Italy: ASI, IFSI-INAF, Osservatorio Astrofisico di Arcetri-INAF; Netherlands: SRON, TUD; Poland: CAMK, CBK; Spain: Observatorio Astronómico Nacional (IGN), Centro de Astrobiologa (CSIC-INTA). Sweden: Chalmers University of Technology −MC2, RSS & GARD; Onsala Space Observatory; Swedish National Space Board, Stockholm University −Stockholm Observatory; Switzerland: ETH Zurich, FHNW; USA: Caltech, JPL, NHSC. Van der Tak, F. F. S., Boonman, A. M. S., Braakman, R., & van Dishoeck, E. F. 2003, A&A, 412, 133 Van der Wiel, M. H. D., van der Tak, F. F. S., Spaans, M., et al. 2011, A&A, 532, A88 Van der Wiel, M. H. D., Pagani, L., van der Tak, F. F. S., Ka´zmierczak, M., & Ceccarelli, C. 2013, A&A, 553, A11 Wang, K.-S., van der Tak, F. F. S., & Hogerheijde, M. R. 2012, A&A, 543, A22 g, , , , g j , , , , Wang, S., Bergin, E. A., Crockett, N. R., et al. 2011, A&A, 527, A95 Wilson, T. L., & Rood, R. 1994, ARA&A, 32, 191 Wang, S., Bergin, E. A., Crockett, N. R., et al. 2011, A&A, 527, A95 g g Wilson, T. L., & Rood, R. 1994, ARA&A, 32, 191 Yamashita, T., Sato, S., Tamura, M., et al. 1987, PASJ, 39, 809 Zernickel, A., Schilke, P., Schmiedeke, A., et al. 2012, A&A, 546, A87 Zinnecker, H., & Yorke, H. W. 2007, ARA&A, 45, 481 Pages 9 to 18 are available in the electronic edition of the journal at http://www.aanda.org A53, page 8 of 18 M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey M. 5. Conclusions A53, page 9 of 18 A&A 567, A53 (2014) -25 -20 -15 -10 -5 Tmb o-H2S 505.565 736.034 993.102 1072.837 -25 -20 -15 -10 -5 p-H2S 568.051 687.304 H2 34S 734.269 0.0 1.0 2.0 3.0 4.0 5.0 -25 -20 -15 -10 -5 o-NH3 10-00 30-20 p-NH3 21-11 31-21 32-22 -25 -20 -15 -10 -5 N2H+ 6-5 7-6 NO 651.434 651.773 -25 -20 -15 -10 -5 Tmb o-H2O 556.936 1097.365 1153.127 1162.912 -25 -20 -15 -10 -5 p-H2O 752.033 987.927 1113.343 1228.789 -25 -20 -15 -10 -5 H2CO 491.968 510.156 510.238 525.666 561.899 600.331 -25 -20 -15 -10 -5 H2CO 631.703 656.465 674.810 505.834 513.076 -25 -20 -15 -10 -5 Tmb SO2 501.108 508.710 559.882 561.266 561.393 -25 -20 -15 -10 -5 SO2 613.076 626.087 632.193 639.651 651.300 -25 -20 -15 -10 -5 SO2 653.110 660.918 661.962 662.404 662.567 -25 -20 -15 -10 -5 SO2 662.799 662.877 662.934 665.247 670.366 -25 -20 -15 -10 -5 Tmb Vlsr /s] SO2 695.633 702.104 727.379 820.150 840.751 848.523 -25 -20 -15 -10 -5 Vlsr /s] SO 514.853 516.335 517.354 558.087 559.319 560.178 -25 -20 -15 -10 -5 Vlsr /s] SO 601.258 602.292 603.021 644.378 645.254 645.875 -25 -20 -15 -10 -5 Vlsr /s] SO 687.456 688.204 688.735 816.493 816.971 817.306 ig. A.1. continued. 5. Conclusions A53, page 9 o Appendix A: HIFI/CHESS spectral survey tral survey -25 -20 -15 -10 -5 CO 11-10 13-12 14-13 15-14 16-15 -25 -20 -15 -10 -5 C18O 5-4 6-5 7-6 8-7 9-8 10-9 -25 -20 -15 -10 -5 13CO 5-4 6-5 7-6 8-7 9-8 10-9 11-10 -25 -20 -15 -10 -5 Tmb CO 5-4 6-5 7-6 8-7 9-8 10-9 -25 -20 -15 -10 -5 Tmb C17O 5-4 6-5 7-6 8-7 -25 -20 -15 -10 -5 H13CN 6-5 7-6 8-7 H13CO+ 4-3 6-5 -25 -20 -15 -10 -5 HCN 6-5 7-6 8-7 9-8 10-9 -25 -20 -15 -10 -5 HCO+ 6-5 7-6 8-7 9-8 10-9 11-10 9-8 Tmb -25 -20 -15 -10 -5 CS 10-9 11-10 12-11 13-12 14-13 15-14 -25 -20 -15 -10 -5 C 492.161 809.344 -25 -20 -15 -10 -5 CN 566.731 566.947 680.047 680.264 -25 -20 -15 -10 -5 Tmb HNC 6-5 7-6 HC15N 5-4 -0.5 -30 -20 -10 Vlsr /s] CH+ -25 -20 -15 -10 -5 Vlsr /s] CH 532.724 532.793 -30 -20 -10 Vlsr /s] OH 1834.747 OH+ 971.805 1033.004 1033.119 -25 -20 -15 -10 -5 Tmb Vlsr /s] CCH 66-55 65-54 77-66 76-65 88-77 87-76 -20 -10 Vlsr /s] 15 10 5 Vlsr /s] 0 Vlsr /s] Vlsr /s] Fig. A.1. Line profiles of all identified species in HIFI spectral survey of AFGL 2591. Molecules (e.g. HCl, CH) for which hyperfine components were detected are plotted all together and are centred on the velocity of the middle line. Lines with multiply profiles (e.g. CO – envelope and outflow components; HF – emission and absorptions) are also presented in one figure and are centered at the velocity of the envelope component; please compare with Table A.1. Fig. A.1. continued. 5. Conclusions A&A 567, A53 (2014) -25 -20 -15 -10 -5 N2H+ 6-5 7-6 NO 651.434 651.773 -25 -20 -15 -10 -5 p-H2S 568.051 687.304 H2 34S 734.269 -25 -20 -15 -10 -5 Tmb o-H2S 505.565 736.034 993.102 1072.837 0.0 1.0 2.0 3.0 4.0 5.0 -25 -20 -15 -10 -5 o-NH3 10-00 30-20 p-NH3 21-11 31-21 32-22 Tmb Tmb -25 -20 -15 -10 -5 Tmb o-H2O 556.936 1097.365 1153.127 1162.912 -25 -20 -15 -10 -5 H2CO 491.968 510.156 510.238 525.666 561.899 600.331 -25 -20 -15 -10 -5 p-H2O 752.033 987.927 1113.343 1228.789 -25 -20 -15 -10 -5 H2CO 631.703 656.465 674.810 505.834 513.076 -25 -20 -15 -10 -5 Tmb SO2 501.108 508.710 559.882 561.266 561.393 -25 -20 -15 -10 -5 SO2 613.076 626.087 632.193 639.651 651.300 -25 -20 -15 -10 -5 SO2 662.799 662.877 662.934 665.247 670.366 -25 -20 -15 -10 -5 SO2 653.110 660.918 661.962 662.404 662.567 -25 -20 -15 -10 -5 Vlsr /s] SO 514.853 516.335 517.354 558.087 559.319 560.178 -25 -20 -15 -10 -5 Vlsr /s] SO 601.258 602.292 603.021 644.378 645.254 645.875 -25 -20 -15 -10 -5 Tmb Vlsr /s] SO2 695.633 702.104 727.379 820.150 840.751 848.523 -25 -20 -15 -10 -5 Vlsr /s] SO 687.456 688.204 688.735 816.493 816.971 817.306 Tmb 5 10 5 Vlsr /s] 5 10 5 Vlsr /s] 5 10 5 Vlsr /s] Vlsr /s] Vlsr /s] Fig. A.1. continued. Fig. A.1. continued. A53, page 10 of 18 M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey M. 5. Conclusions Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey -25 -20 -15 -10 -5 Tmb HCl 626 1251 H37Cl 625 -25 -20 -15 -10 -5 E-CH3OH 495.173 504.294 520.179 524.269 558.345 -25 -20 -15 -10 -5 E-CH3OH 568.566 581.092 601.849 602.233 616.980 -25 -20 -15 -10 -5 E-CH3OH 625.749 629.652 638.280 649.540 651.617 -25 -20 -15 -10 -5 Tmb E-CH3OH 665.442 672.903 675.773 685.505 705.182 -25 -20 -15 -10 -5 E-CH3OH 713.983 721.011 802.241 815.071 820.762 -25 -20 -15 -10 -5 A-CH3OH 492.279 493.699 538.571 542.001 542.082 -25 -20 -15 -10 -5 A-CH3OH 579.085 579.921 580.196 580.213 584.450 -25 -20 -15 -10 -5 Tmb Vlsr /s] A-CH3OH 622.659 626.626 629.921 633.423 638.818 -25 -20 -15 -10 -5 Vlsr /s] A-CH3OH 673.746 674.991 676.824 678.785 686.732 -25 -20 -15 -10 -5 Vlsr /s] A-CH3OH 687.225 728.863 771.576 829.891 830.349 -25 -20 -15 -10 -5 Vlsr /s] A-CH3OH 832.754 894.614 902.935 1071.514 Fig. A.1. continued. -25 -20 -15 -10 -5 Tmb HCl 626 1251 H37Cl 625 -25 -20 -15 -10 -5 E-CH3OH 625.749 629.652 638.280 649.540 651.617 -25 -20 -15 -10 -5 E-CH3OH 568.566 581.092 601.849 602.233 616.980 -25 -20 -15 -10 -5 E-CH3OH 495.173 504.294 520.179 524.269 558.345 -25 -20 -15 -10 -5 -25 -20 -15 -10 -5 -25 -20 -15 -10 -5 A-CH3OH 492.279 493.699 538.571 542.001 542.082 -25 -20 -15 -10 -5 E-CH3OH 713.983 721.011 802.241 815.071 820.762 -25 -20 -15 -10 -5 A-CH3OH 579.085 579.921 580.196 580.213 584.450 -25 -20 -15 -10 -5 Tmb E-CH3OH 665.442 672.903 675.773 685.505 705.182 -25 -20 -15 -10 -5 -25 -20 -15 -10 -5 Vlsr /s] A-CH3OH 832.754 894.614 902.935 1071.514 -25 -20 -15 -10 -5 Vlsr /s] A-CH3OH 673.746 674.991 676.824 678.785 686.732 -25 -20 -15 -10 -5 Tmb Vlsr /s] A-CH3OH 622.659 626.626 629.921 633.423 638.818 -25 -20 -15 -10 -5 Vlsr /s] A-CH3OH 687.225 728.863 771.576 829.891 830.349 15 10 5 Vlsr /s] 5 10 5 Vlsr /s] 5 10 5 Vlsr /s] 5 0 5 Vlsr /s] Vlsr /s] Fig. A.1. continued. Fig. A.1. continued. 5. Conclusions Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey Table A.1. continued. ontinued. 5. Conclusions A53, page 11 of 18 A&A 567, A53 (2014) , ( ) ts of line measurements of all identified species from the HIFI spectral survey of AFGL 2591 ( ∗indicates JCM Transition Frequency Eup/k Vlsr ΔV  TmbdV Tpeak [GHz] [K] [km s−1] [km s−1] [K km s−1] [K] CO 3−2∗ 345.796 33.2 −4.16 ± 0.01 4.13 ± 0.01 195.3 ± 0.2 44.40 ± 0.02 −14.03 ± 0.01 11.40 ± 0.02 170.8 ± 0.4 14.08 ± 0.01 5−4 576.268 83.0 −4.42 ± 0.02 4.98 ± 0.05 76.6 ± 0.1 14.45 ± 0.14 −6.70 ± 0.06 15.85 ± 0.12 155.7 ± 0.2 9.23 ± 0.13 6−5 691.473 116.2 −4.61 ± 0.01 5.39 ± 0.04 92.1 ± 0.1 16.07 ± 0.12 −7.23 ± 0.05 15.70 ± 0.10 145.5 ± 0.1 8.71 ± 0.11 7−6 806.652 154.9 −4.78 ± 0.01 5.52 ± 0.03 90.8 ± 0.1 15.45 ± 0.09 −7.36 ± 0.04 15.09 ± 0.09 119.5 ± 0.1 7.44 ± 0.09 8−7 921.800 199.1 −4.90 ± 0.02 5.96 ± 0.06 100.1 ± 0.2 15.77 ± 0.17 −7.21 ± 0.09 15.17 ± 0.18 105.9 ± 0.2 6.56 ± 0.17 9−8 1036.912 248.9 −5.02 ± 0.03 6.43 ± 0.09 109.9 ± 0.3 16.06 ± 0.27 −7.22 ± 0.18 15.96 ± 0.42 77.8 ± 0.5 4.58 ± 0.27 10−9 1151.985 304.2 −4.97 ± 0.02 6.01 ± 0.07 102.9 ± 0.2 16.08 ± 0.23 −7.29 ± 0.17 14.64 ± 0.35 66.1 ± 0.4 4.24 ± 0.23 11−10 1267.014 365.0 −5.05 ± 0.02 5.71 ± 0.06 100.8 ± 0.2 10.10 ± 0.12 −7.21 ± 0.17 14.87 ± 0.40 58.1 ± 0.4 2.23 ± 0.12 13−12 1496.923 503.1 −4.94 ± 0.01 4.82 ± 0.03 69.5 ± 0.1 9.34 ± 0.05 −4.95 ± 0.30 18.24 ± 0.84 34.7 ± 0.8 1.23 ± 0.06 14−13 1611.794 580.5 −5.00 ± 0.01 4.54 ± 0.02 62.2 ± 0.1 8.80 ± 0.03 −5.98 ± 0.11 17.47 ± 0.36 24.7 ± 0.4 0.91 ± 0.03 15−14 1726.603 663.4 −5.08 ± 0.01 4.22 ± 0.02 46.6 ± 0.1 7.01 ± 0.03 −6.07 ± 0.13 16.61 ± 0.41 18.0 ± 0.4 0.69 ± 0.03 16−15 1841.346 751.7 −4.82 ± 0.01 3.80 ± 0.03 23.1 ± 0.1 3.83 ± 0.03 −4.96 ± 0.11 13.34 ± 0.40 12.1 ± 0.4 0.57 ± 0.03 13CO 3−2∗ 330.588 31.3 −5.58 ± 0.01 3.68 ± 0.02 92.3 ± 0.6 23.56 ± 0.05 −7.33 ± 0.01 9.13 ± 0.04 97.3 ± 1.1 10.01 ± 0.02 5−4 550.926 79.3 −5.85 ± 0.01 3.78 ± 0.03 38.7 ± 0.1 9.61 ± 0.12 −6.34 ± 0.04 9.06 ± 0.14 31.6 ± 0.2 3.27 ± 0.12 6−5 661.067 111.1 −5.76 ± 0.01 3.58 ± 0.03 34.6 ± 0.1 9.07 ± 0.11 −6.41 ± 0.03 8.21 ± 0.11 31.0 ± 0.2 3.54 ± 0.11 7−6 771.184 148.1 −5.66 ± 0.01 3.63 ± 0.04 32.1 ± 0.2 8.31 ± 0.15 −6.34 ± 0.06 8.06 ± 0.19 22.4 ± 0.2 2.61 ± 0.16 8−7 881.273 190.4 −5.55 ± 0.01 3.18 ± 0.05 21.0 ± 0.2 6.21 ± 0.16 −5.92 ± 0.04 7.03 ± 0.17 20.8 ± 0.2 2.78 ± 0.17 9−8 991.329 237.9 −5.43 ± 0.02 2.94 ± 0.10 14.1 ± 0.3 4.51 ± 0.28 −5.77 ± 0.05 6.03 ± 0.21 18.5 ± 0.4 2.88 ± 0.29 10−9 1101.350 290.8 −5.33 ± 0.04 2.32 ± 0.18 6.2 ± 0.4 2.53 ± 0.32 −5.41 ± 0.04 5.19 ± 0.21 18.1 ± 0.4 3.28 ± 0.33 11−10 1211.330 348.9 −5.22 ± 0.03 3.81 ± 0.07 17.4 ± 0.1 4.29 ± 0.07 C18O 5−4 548.831 79.0 −5.79 ± 0.01 2.55 ± 0.05 6.2 ± 0.1 2.30 ± 0.07 −6.30 ± 0.04 5.72 ± 0.12 7.8 ± 0.1 1.29 ± 0.07 6−5 658.553 110.6 −5.69 ± 0.01 2.63 ± 0.06 6.3 ± 0.1 2.26 ± 0.08 −6.23 ± 0.06 5.84 ± 0.19 6.2 ± 0.2 0.99 ± 0.08 7−6 768.252 147.5 −5.47 ± 0.05 2.58 ± 0.19 4.6 ± 0.3 1.69 ± 0.19 −6.01 ± 0.17 5.71 ± 0.51 5.3 ± 0.5 0.87 ± 0.20 8−7 877.922 189.6 −5.41 ± 0.04 1.79 ± 0.15 1.7 ± 0.2 0.88 ± 0.10 −5.82 ± 0.06 4.32 ± 0.18 4.9 ± 0.2 1.07 ± 0.10 9−8 987.560 237.0 −5.30 ± 0.03 3.24 ± 0.06 4.1 ± 0.1 1.19 ± 0.07 10−9 1097.163 289.7 −5.51 ± 0.08 4.00 ± 0.19 3.8 ± 0.2 0.90 ± 0.05 C17O 3−2∗ 337.061 32.4 −5.64 ± 0.04 2.80 ± 0.10 9.8 ± 0.6 3.29 ± 0.08 −6.90 ± 0.20 5.70 ± 0.30 7.3 ± 1.0 1.20 ± 0.04 5−4 561.713 80.9 −5.63 ± 0.03 3.44 ± 0.07 4.3 ± 0.1 1.17 ± 0.02 6−5 674.009 113.2 −5.81 ± 0.03 3.51 ± 0.08 3.6 ± 0.1 0.97 ± 0.02 7−6 786.281 150.9 −5.60 ± 0.07 3.37 ± 0.16 2.8 ± 0.2 0.79 ± 0.03 8−7 898.523 194.1 −5.44 ± 0.06 3.04 ± 0.15 1.7 ± 0.1 0.51 ± 0.02 C 3P1−3P0 492.161 23.6 −5.72 ± 0.02 3.97 ± 0.06 13.66 ± 0.39 3.23 ± 0.05 −7.17 ± 0.06 10.19 ± 0.15 19.87 ± 0.79 1.83 ± 0.05 3P2−3P1 809.344 62.5 −5.30 ± 0.02 3.48 ± 0.05 13.33 ± 0.30 3.59 ± 0.04 −6.55 ± 0.05 10.96 ± 0.12 27.63 ± 0.71 2.37 ± 0.04 A53, page 12 of 18 M. 5. Conclusions continued. .1. continued. 5. Conclusions Transition Frequency Eup/k Vlsr ΔV  TmbdV Tpeak [GHz] [K] [km s−1] [km s−1] [K km s−1] [K] C+ 2P3/2−2P1/2 1900.537 91.2 −16.04 ± 0.05 4.95 ± 0.24 30.59 ± 4.62 5.81 ± 0.65 −5.42 ± 0.05 3.11 ± 0.12 29.51 ± 2.56 8.92 ± 0.51 −2.05 ± 0.03 3.21 ± 0.09 44.82 ± 2.94 13.10 ± 0.58 −19.48 ± 2.60 12.79 ± 2.79 17.55 ± 7.91 1.29 ± 0.38 −6.64 ± 0.71 9.05 ± 0.75 33.74 ± 6.24 3.51 ± 0.33 1.59 ± 0.04 1.75 ± 0.13 4.86 ± 0.65 2.61 ± 0.20 HCO+ 4−3∗ 356.734 42.8 −5.87 ± 0.01 4.18 ± 0.02 61.7 ± 0.5 13.87 ± 0.04 −7.61 ± 0.04 9.46 ± 0.08 39.8 ± 0.9 3.96 ± 0.02 6−5 535.061 89.9 −5.73 ± 0.03 3.48 ± 0.10 8.5 ± 0.2 2.30 ± 0.14 −6.65 ± 0.21 6.12 ± 0.37 4.0 ± 0.4 0.62 ± 0.15 7−6 624.208 119.8 −5.55 ± 0.04 3.15 ± 0.14 6.0 ± 0.2 1.80 ± 0.20 −6.42 ± 0.20 5.15 ± 0.27 4.5 ± 0.3 0.82 ± 0.20 8−7 713.342 154.1 −5.61 ± 0.01 3.10 ± 0.04 5.4 ± 0.1 1.65 ± 0.02 −6.62 ± 0.14 8.29 ± 0.38 2.2 ± 0.4 0.25 ± 0.02 9−8 802.458 192.6 −5.47 ± 0.03 3.27 ± 0.06 4.8 ± 0.1 1.37 ± 0.02 10−9 891.557 235.3 −5.47 ± 0.04 3.11 ± 0.09 3.4 ± 0.1 1.02 ± 0.03 11−10 980.637 282.4 −5.21 ± 0.10 3.52 ± 0.25 2.1 ± 0.3 0.56 ± 0.04 H13CO+ 4−3∗ 346.998 41.6 −5.60 ± 0.10 2.90 ± 0.10 5.74 ± 0.36 1.86 ± 0.05 6−5 520.460 87.4 −5.49 ± 0.13 4.25 ± 0.31 0.66 ± 0.08 0.15 ± 0.01 7−6 607.175 116.6 −5.34 ± 0.15 1.96 ± 0.35 0.25 ± 0.08 0.12 ± 0.02 HCN 4−3∗ 354.506 42.5 −5.51 ± 0.02 4.33 ± 0.04 36.20 ± 0.70 7.86 ± 0.28 −6.52 ± 0.06 8.40 ± 0.20 22.40 ± 1.30 2.51 ± 0.30 6−5 531.716 89.3 −5.52 ± 0.02 3.91 ± 0.05 3.49 ± 0.08 0.84 ± 0.01 7−6 620.304 119.1 −5.35 ± 0.04 4.02 ± 0.09 2.88 ± 0.12 0.67 ± 0.02 8−7 708.877 153.1 −5.30 ± 0.06 4.16 ± 0.14 2.11 ± 0.13 0.48 ± 0.02 9−8 797.434 191.4 −5.14 ± 0.07 3.46 ± 0.17 1.20 ± 0.10 0.33 ± 0.02 10−9 885.971 233.9 −4.98 ± 0.09 5.47 ± 0.20 2.07 ± 0.13 0.36 ± 0.01 HCN υ = 1c, 4−3 354.46043 1066.9 −5.22 ± 0.18 5.99 ± 0.45 2.29 ± 0.14 0.36 ± 0.10 HCN υ = 1d, 4−3 356.25556 1067.1 −5.08 ± 0.25 5.27 ± 0.68 1.54 ± 0.15 0.28 ± 0.07 H13CN 4−3∗ 345.340 41.4 −5.10 ± 0.10 5.40 ± 0.20 7.93 ± 0.44 1.38 ± 0.03 6−5 517.970 87.0 −5.44 ± 0.15 3.54 ± 0.36 0.46 ± 0.08 0.12 ± 0.02 7−6 604.268 116.0 −4.82 ± 0.14 3.38 ± 0.33 0.56 ± 0.09 0.16 ± 0.01 8−7 690.552 149.2 −4.92 ± 0.18 4.43 ± 0.44 0.64 ± 0.08 0.11 ± 0.01 HC15N 4−3∗ 344.200 41.3 −5.50 ± 0.20 4.30 ± 0.40 2.52 ± 0.30 0.55 ± 0.04 6−5 516.262 86.7 −4.17 ± 0.23 3.66 ± 0.55 0.32 ± 0.08 0.08 ± 0.01 HNC 4−3∗ 362.630 43.5 −5.51 ± 0.03 2.50 ± 0.10 8.20 ± 0.70 3.08 ± 0.13 −6.01 ± 0.07 4.80 ± 0.20 10.00 ± 2.00 1.96 ± 0.12 6−5 543.897 91.4 −5.37 ± 0.06 3.36 ± 0.14 0.86 ± 0.06 0.24 ± 0.01 7−6 634.511 121.8 −5.32 ± 0.08 3.55 ± 0.19 0.79 ± 0.07 0.21 ± 0.01 CCH 45-34∗ 349.338 41.9 −5.89 ± 0.04 3.80 ± 0.11 8.50 ± 0.19 2.12 ± 0.06 45-32∗ 349.401 41.9 −5.46 ± 0.32 4.01 ± 0.99 6.68 ± 1.21 1.56 ± 0.31 66−55 523.971 88.0 −6.41 ± 0.09 3.79 ± 0.21 0.85 ± 0.08 0.21 ± 0.01 65−54 524.033 88.0 −6.04 ± 0.11 4.13 ± 0.27 0.71 ± 0.08 0.16 ± 0.01 77−66 611.265 117.4 −6.26 ± 0.15 3.22 ± 0.35 0.47 ± 0.09 0.14 ± 0.01 0.82 ± 0.15 2.58 ± 0.36 −0.33 ± 0.08 -0.12 ± 0.02 76−65 611.328 117.4 −6.64 ± 0.14 2.86 ± 0.33 0.39 ± 0.09 0.14 ± 0.02 88−77 698.542 150.9 −6.89 ± 0.19 3.89 ± 0.46 0.35 ± 0.08 0.09 ± 0.01 87−76 698.604 150.9 −6.64 ± 0.19 3.62 ± 0.45 0.38 ± 0.08 0.09 ± 0.01 A53, page 13 of 18 A&A 567, A53 (2014) Table A.1. 5. Conclusions Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey Table A.1. continued. Table A.1. continued. .1. continued. 5. Conclusions Transition Frequency Eup/k Vlsr ΔV  TmbdV Tpeak [GHz] [K] [km s−1] [km s−1] [K km s−1] [K] CH 2Π3/2 3/22+−1/21− 532.724 25.7 −5.10 ± 0.07 4.84 ± 0.19 2.00 ± 0.13 0.39 ± 0.01 −0.32 ± 0.14 1.80 ± 0.33 −0.24 ± 0.07 -0.13 ± 0.02 3/21+−1/20− 532.793 25.7 −5.77 ± 0.14 4.83 ± 0.34 1.12 ± 0.13 0.22 ± 0.01 3/22−−1/21+ 536.761 25.8 −5.40 ± 0.08 5.68 ± 0.20 2.04 ± 0.12 0.34 ± 0.01 0.73 ± 0.15 2.57 ± 0.36 −0.31 ± 0.07 −0.11 ± 0.01 3/21−−1/21+ 536.782 25.8 −4.93 ± 0.25 3.64 ± 0.60 1.98 ± 0.10 0.09 ± 0.01 3/21−−1/20+ 536.796 25.8 −5.68 ± 0.15 4.92 ± 0.38 1.18 ± 0.12 0.19 ± 0.01 CH+ 1−0 835.138 40.1 4.17 ± 0.16 12.42 ± 0.43 −5.90 ± 0.33 −0.45 ± 0.01 −7.46 ± 0.12 3.50 ± 0.29 1.24 ± 0.17 0.33 ± 0.02 −16.90 ± 0.22 9.24 ± 0.59 −2.72 ± 0.28 −0.28 ± 0.01 OH 2Π1/2 J = 3/2−1/2, F = 2– −1+ 1834.747 269.8 −4.30 ± 0.18 3.42 ± 0.10 6.8 ± 0.3 1.27 ± 0.05 −5.12 ± 0.06 10.39 ± 0.28 9.5 ± 0.6 0.56 ± 0.05 OH+, F = 1−0 J = 2−1, F = 3/2−1/2 971.805 46.7 3.46 ± 0.28 11.87 ± 0.69 −7.66 ± 0.77 −0.61 ± 0.03 J = 1−1, F = 3/2−1/2 1033.004 49.6 3.88 ± 0.19 4.60 ± 0.47 −2.03 ± 0.36 −0.42 ± 0.04 J = 1−1, F = 3/2−3/2 1033.119 49.6 3.61 ± 0.25 10.92 ± 0.64 −5.78 ± 0.59 −0.51 ± 0.03 CN 303−203∗ 339.517 32.6 −5.66 ± 0.30 3.19 ± 0.80 0.67 ± 0.17 0.20 ± 0.02 303−202∗ 340.008 32.6 −5.47 ± 0.18 2.14 ± 0.34 0.83 ± 0.35 0.36 ± 0.04 303−202∗ 340.020 32.6 −5.45 ± 0.37 3.14 ± 0.50 1.15 ± 0.31 0.34 ± 0.05 303−202∗ 340.032 32.6 −5.47 ± 0.19 2.93 ± 0.46 5.77 ± 1.01 1.85 ± 0.11 303−202∗ 340.035 32.6 −5.60 ± 0.20 3.17 ± 0.57 5.90 ± 1.04 1.75 ± 0.12 505−404 566.731 81.6 −5.61 ± 0.09 3.56 ± 0.22 0.88 ± 0.09 0.23 ± 0.01 506−405 566.947 81.7 −5.66 ± 0.07 3.52 ± 0.16 1.11 ± 0.09 0.30 ± 0.01 606−505 680.047 114.2 −5.38 ± 0.09 2.87 ± 0.21 0.47 ± 0.06 0.16 ± 0.01 607−506 680.264 114.3 −5.85 ± 0.11 3.80 ± 0.25 0.75 ± 0.07 0.17 ± 0.01 CS 7−6∗ 342.883 65.8 −5.80 ± 0.02 3.10 ± 0.06 15.50 ± 0.50 4.70 ± 0.30 −7.30 ± 0.30 6.40 ± 0.30 5.00 ± 0.80 0.73 ± 0.29 10−9 489.751 129.3 −5.68 ± 0.06 3.69 ± 0.14 1.30 ± 0.10 0.33 ± 0.01 11−10 538.689 155.2 −5.71 ± 0.07 3.53 ± 0.17 1.01 ± 0.20 0.27 ± 0.01 12−11 587.616 183.4 −5.04 ± 0.11 4.52 ± 0.25 0.89 ± 0.30 0.18 ± 0.01 13−12 636.532 213.9 −5.24 ± 0.12 4.04 ± 0.29 0.61 ± 0.30 0.14 ± 0.01 14−13 685.435 246.8 −5.05 ± 0.12 3.93 ± 0.28 0.73 ± 0.30 0.18 ± 0.01 15−14 734.324 282.0 −5.66 ± 0.16 4.17 ± 0.38 0.70 ± 0.40 0.16 ± 0.01 13CS 8−7∗ 369.909 79.9 −5.20 ± 0.40 3.20 ± 0.80 0.85 ± 0.36 0.25 ± 0.05 C34S 7−6∗ 337.396 50.2 −5.00 ± 0.30 3.40 ± 0.60 1.52 ± 0.46 0.42 ± 0.06 OCS 28−27∗ 340.449 237.0 −4.91 ± 0.21 2.94 ± 0.40 0.77 ± 0.11 0.25 ± 0.0.3 29−28∗ 352.600 253.9 −4.85 ± 0.18 4.09 ± 0.44 1.12 ± 0.11 0.25 ± 0.0.3 30−29∗ 364.749 271.4 −5.37 ± 0.24 2.79 ± 0.80 0.80 ± 0.16 0.27 ± 0.0.4 o-H2S 32,1−31,2∗ 369.102 154.5 −5.27 ± 0.32 3.30 ± 0.58 1.29 ± 0.22 0.37 ± 0.04 221−212 505.565 79.4 −5.71 ± 0.08 3.10 ± 0.20 0.70 ± 0.08 0.22 ± 0.01 212−101 736.034 55.1 −5.40 ± 0.03 3.39 ± 0.07 4.00 ± 0.14 1.11 ± 0.02 0.22 ± 0.09 0.97 ± 0.22 −0.19 ± 0.08 -0.19 ± 0.04 303−212 993.102 350.1 −6.98 ± 0.16 4.34 ± 0.40 2.66 ± 0.42 0.58 ± 0.05 221−110 1072.837 79.4 −5.59 ± 0.19 4.05 ± 0.45 1.73 ± 0.30 0.38 ± 0.04 p-H2S 331−322 568.051 166.0 −4.96 ± 0.19 2.08 ± 0.45 0.19 ± 0.07 0.08 ± 0.02 202−111 687.304 54.7 −5.77 ± 0.05 3.49 ± 0.13 1.43 ± 0.09 0.39 ± 0.01 H34 2 S 212−101 734.269 55.0 −5.54 ± 0.18 1.94 ± 0.42 0.27 ± 0.12 0.15 ± 0.03 A53, page 14 of 18 M. 5. Conclusions continued. 5. Conclusions Transition Frequency Eup/k Vlsr ΔV  TmbdV Tpeak [GHz] [K] [km s−1] [km s−1] [K km s−1] [K] o-H2CS 101,10−91,9∗ 338.083 102.4 −5.60 ± 0.27 3.09 ± 1.07 0.96 ± 0.21 0.30 ± 0.03 101,9−91,8∗ 348.534 105.2 −5.25 ± 0.29 4.61 ± 0.86 1.31 ± 0.18 0.27 ± 0.03 111,11−101,10∗ 371.847 120.3 −5.62 ± 0.33 4.36 ± 0.71 0.98 ± 0.15 0.21 ± 0.03 HCl 13/2−03/2 625.902 30.0 −5.85 ± 0.04 3.63 ± 0.08 2.46 ± 0.10 0.64 ± 0.01 15/2−03/2 625.919 30.0 −5.68 ± 0.03 3.82 ± 0.08 2.45 ± 0.10 0.73 ± 0.01 11/2−03/2 625.932 30.0 −5.89 ± 0.06 3.89 ± 0.14 2.44 ± 0.10 0.42 ± 0.01 25/2−15/2 1251.434 90.1 −5.21 ± 0.12 2.22 ± 0.37 0.52 ± 0.28 0.30 ± 0.08 27/2−15/2 1251.452 90.1 −5.27 ± 0.03 4.51 ± 0.08 2.26 ± 0.20 0.47 ± 0.04 H37Cl 13/2−03/2 624.964 30.0 −5.74 ± 0.09 4.07 ± 0.23 1.15 ± 0.11 0.27 ± 0.01 15/2−03/2 624.978 30.0 −5.86 ± 0.07 3.19 ± 0.18 1.18 ± 0.12 0.42 ± 0.02 11/2−03/2 624.988 30.0 −5.74 ± 0.18 3.89 ± 0.45 0.17 ± 0.13 0.17 ± 0.01 o-NH3 10−00 572.498 27.5 −5.41 ± 0.03 4.13 ± 0.07 3.41 ± 0.10 0.78 ± 0.01 0.00 ± 0.15 1.30 ± 0.36 -0.12 ± 0.06 -0.09 ± 0.02 30−20 1763.524 170.4 −5.30 ± 0.13 5.41 ± 0.31 2.54 ± 0.25 0.44 ± 0.02 p-NH3 21−11 1168.452 79.3 −5.68 ± 0.11 2.68 ± 0.28 2.29 ± 0.41 0.80 ± 0.07 31−21 1763.601 165.1 −4.37 ± 0.09 4.18 ± 0.22 1.01 ± 0.32 0.23 ± 0.07 32−22 1763.823 149.1 −4.55 ± 0.15 3.92 ± 0.36 1.67 ± 0.25 0.40 ± 0.03 N2H+ 4−3∗ 372.673 44.7 −6.00 ± 0.10 2.90 ± 0.10 6.61 ± 0.39 2.14 ± 0.06 6−5 558.967 93.9 −5.68 ± 0.09 2.89 ± 0.21 0.76 ± 0.09 0.25 ± 0.02 7−6 652.096 125.2 −6.01 ± 0.09 2.47 ± 0.19 0.43 ± 0.06 0.16 ± 0.01 NO 2Π+1/2, J = 7/2−5/2, F = 7/2−5/2∗ 350.691 36.1 −4.40 ± 0.20 4.90 ± 0.30 4.32 ± 0.13 0.80 ± 0.10 2Π−1/2, J = 7/2−5/2, F = 7/2−5/2∗ 351.052 36.1 −4.62 ± 0.70 9.98 ± 1.50 2.01 ± 0.14 0.17 ± 0.10 2Π+1/2, J=13/2-11/2, F=11/2-9/2 651.434 115.4 −5.39 ± 0.17 4.46 ± 0.40 0.48 ± 0.08 0.10 ± 0.01 2Π−1/2, J=13/2-11/2, F=11/2-9/2 651.773 115.5 −4.92 ± 0.09 3.78 ± 0.22 0.58 ± 0.06 0.15 ± 0.01 E-CH3OH 70,0−6−1,0 495.173 70.2 −5.62 ± 0.20 3.16 ± 0.47 0.35 ± 0.10 0.11 ± 0.02 71,0−60,0 504.294 78.2 −6.25 ± 0.19 4.10 ± 0.46 0.49 ± 0.10 0.11 ± 0.01 2−2,0−1−1,0 520.179 25.0 −5.33 ± 0.13 3.57 ± 0.30 0.57 ± 0.09 0.15 ± 0.01 13−4,0−13−3,0 524.269 291.2 −5.86 ± 0.18 3.61 ± 0.44 0.40 ± 0.08 0.10 ± 0.01 112,0−101,0 558.345 167.6 −5.57 ± 0.24 3.10 ± 0.57 0.34 ± 0.11 0.10 ± 0.02 3−2,0−2−1,0 568.566 31.9 −5.87 ± 0.17 4.08 ± 0.41 0.58 ± 0.10 0.14 ± 0.01 12−2,0−11−2,0 581.092 199.2 −6.21 ± 0.20 2.55 ± 0.46 0.23 ± 0.07 0.09 ± 0.01 131,0−122,0 601.849 224.4 −6.24 ± 0.25 3.44 ± 0.60 0.30 ± 0.09 0.08 ± 0.01 91,0−80,0 602.233 117.6 −5.86 ± 0.21 2.86 ± 0.49 0.33 ± 0.10 0.11 ± 0.02 4−2,0−3−1,0 616.980 41.2 −5.63 ± 0.11 3.39 ± 0.27 0.62 ± 0.09 0.17 ± 0.01 130,0−120,0 625.749 215.9 −6.31 ± 0.31 4.52 ± 0.74 0.38 ± 0.11 0.08 ± 0.01 13−2,0−12−2,0 629.652 229.4 −6.56 ± 0.23 3.21 ± 0.55 0.30 ± 0.09 0.09 ± 0.01 100,0−9−1,0 638.280 132.7 −5.53 ± 0.18 2.98 ± 0.42 0.31 ± 0.08 0.10 ± 0.01 141,0−132,0 649.540 256.9 −5.84 ± 0.17 3.71 ± 0.42 0.27 ± 0.05 0.07 ± 0.01 101,0−90,0 651.617 140.8 −5.79 ± 0.12 3.79 ± 0.30 0.40 ± 0.06 0.10 ± 0.01 5−2,0−4−1,0 665.442 52.8 −5.53 ± 0.07 2.87 ± 0.16 0.54 ± 0.06 0.20 ± 0.01 17−1,0−160,0 672.903 352.0 −5.76 ± 0.14 3.09 ± 0.33 0.35 ± 0.06 0.11 ± 0.01 33,0−22,0 675.773 53.7 −5.81 ± 0.20 4.17 ± 0.49 0.44 ± 0.08 0.09 ± 0.01 110,0−10−1,0 685.505 158.2 −5.56 ± 0.23 4.30 ± 0.56 0.50 ± 0.08 0.09 ± 0.01 142,0−131,0 705.182 258.2 −5.11 ± 0.16 2.61 ± 0.38 0.23 ± 0.06 0.08 ± 0.01 6−2,0−5−1,0 713.983 66.8 −5.93 ± 0.10 3.47 ± 0.22 0.63 ± 0.07 0.17 ± 0.01 150,0−140,0 721.011 282.9 −6.11 ± 0.14 2.64 ± 0.33 0.44 ± 0.10 0.16 ± 0.02 131,0−120,0 802.241 224.4 −5.78 ± 0.13 2.14 ± 0.31 0.43 ± 0.11 0.19 ± 0.02 6−4,0−5−3,0 815.071 128.8 −5.41 ± 0.12 2.63 ± 0.28 0.43 ± 0.08 0.15 ± 0.01 63,0−52,0 820.762 88.6 −5.83 ± 0.22 3.45 ± 0.52 0.46 ± 0.12 0.13 ± 0.02 A53, page 15 of 18 A&A 567, A53 (2014) Table A.1. 5. Conclusions Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey Table A.1. continued. Table A.1. continued. 5. Conclusions Transition Frequency Eup/k Vlsr ΔV  TmbdV Tpeak [GHz] [K] [km s−1] [km s−1] [K km s−1] [K] A-CH3OH 41,+0−30,+0 492.279 37.6 −5.75 ± 0.11 3.44 ± 0.26 0.80 ± 0.11 0.22 ± 0.01 53,+0−42,+0 493.699 84.6 −5.41 ± 0.17 2.67 ± 0.41 0.30 ± 0.08 0.11 ± 0.01 51,+0−40,+0 538.571 49.1 −5.76 ± 0.07 3.03 ± 0.16 0.72 ± 0.07 0.22 ± 0.01 63,+0−52,+0 542.001 98.6 −5.60 ± 0.14 1.88 ± 0.33 0.31 ± 0.10 0.16 ± 0.02 63,−0−52,−0 542.082 98.6 −6.69 ± 0.19 3.43 ± 0.47 0.60 ± 0.14 0.16 ± 0.02 22,−0−11,−0 579.085 44.7 −5.44 ± 0.11 3.01 ± 0.27 0.54 ± 0.09 0.17 ± 0.01 22,+0−11,+0 579.921 44.7 −6.39 ± 0.21 4.30 ± 0.50 0.60 ± 0.13 0.13 ± 0.01 124,+0−114,+0 580.196 261.4 −5.87 ± 0.20 2.57 ± 0.49 0.20 ± 0.09 0.08 ± 0.02 123,−0−113,−0 580.213 230.8 −5.51 ± 0.26 3.53 ± 0.62 0.31 ± 0.10 0.09 ± 0.01 61,+0−50,+0 584.450 62.9 −5.54 ± 0.12 3.07 ± 0.27 0.66 ± 0.10 0.20 ± 0.02 131,+0−121,+0 622.659 223.8 −6.25 ± 0.18 3.58 ± 0.43 0.40 ± 0.09 0.10 ± 0.01 32,−0−21,−0 626.626 51.6 −6.25 ± 0.13 3.67 ± 0.31 0.71 ± 0.10 0.18 ± 0.01 71,+0−60,+0 629.921 79.0 −5.32 ± 0.11 3.16 ± 0.11 0.65 ± 0.10 0.19 ± 0.01 131,−0−121,−0 633.423 227.5 −6.74 ± 0.24 4.14 ± 0.59 0.50 ± 0.12 0.11 ± 0.01 83,−0−72,−0 638.818 133.4 −5.41 ± 0.13 3.13 ± 0.31 0.51 ± 0.09 0.15 ± 0.01 42,−0−31,−0 673.746 60.9 −5.70 ± 0.09 3.66 ± 0.22 0.69 ± 0.07 0.18 ± 0.01 81,+0−70,+0 674.991 97.4 −5.42 ± 0.09 3.18 ± 0.22 0.56 ± 0.07 0.17 ± 0.01 144,+0−134,+0 676.824 324.0 −5.48 ± 0.15 3.89 ± 0.36 0.47 ± 0.07 0.11 ± 0.01 42,+0−31,+0 678.785 60.9 −5.99 ± 0.09 4.13 ± 0.20 0.87 ± 0.07 0.20 ± 0.01 93,+0−82,+0 686.732 154.3 −5.36 ± 0.15 4.20 ± 0.37 0.54 ± 0.08 0.12 ± 0.01 93,−0−82,−0 687.225 154.3 −5.52 ± 0.23 2.70 ± 0.55 0.32 ± 0.11 0.11 ± 0.02 52,+0−41,+0 728.863 72.5 −5.46 ± 0.18 4.19 ± 0.43 0.95 ± 0.17 0.21 ± 0.02 160,+0−150,+0 771.576 315.2 −4.57 ± 0.19 3.21 ± 0.44 1.70 ± 0.31 0.41 ± 0.04 44,−0−33,−0 829.891 103.6 −5.26 ± 0.14 3.40 ± 0.36 0.67 ± 0.11 0.18 ± 0.02 72,+0−61,+0 830.349 102.7 −5.60 ± 0.12 2.67 ± 0.29 0.57 ± 0.11 0.20 ± 0.02 123,−0−112,−0 832.754 230.8 −5.45 ± 0.16 2.73 ± 0.38 0.49 ± 0.12 0.17 ± 0.02 131,+0−120,+0 894.614 223.8 −6.08 ± 0.18 3.59 ± 0.43 0.71 ± 0.15 0.19 ± 0.02 92,−0−81,−0 902.935 142.2 −5.45 ± 0.22 3.12 ± 0.52 0.62 ± 0.18 0.19 ± 0.03 94,+0−83,+0 1071.514 184.8 −4.69 ± 0.10 1.95 ± 0.23 0.97 ± 0.19 0.47 ± 0.05 o-H2CO 515−414∗ 351.769 31.7 −5.57 ± 0.02 3.51 ± 0.04 10.85 ± 0.10 2.91 ± 0.02 533−432∗ 364.275 158.4 −5.24 ± 0.16 4.78 ± 0.35 2.98 ± 0.21 0.58 ± 0.08 532−431∗ 364.289 158.4 −5.65 ± 0.26 4.21 ± 0.63 2.96 ± 0.38 0.66 ± 0.17 717−616 491.968 106.3 −5.75 ± 0.09 3.59 ± 0.21 0.98 ± 0.10 0.26 ± 0.01 735−634 510.156 203.9 −5.21 ± 0.56 3.19 ± 0.97 0.33 ± 0.15 0.10 ± 0.02 734−633 510.238 203.9 −5.43 ± 0.25 3.64 ± 0.60 0.31 ± 0.09 0.08 ± 0.01 716−615 525.666 112.8 −5.56 ± 0.09 3.56 ± 0.25 0.77 ± 0.09 0.20 ± 0.01 818−717 561.899 133.3 −4.69 ± 0.12 3.53 ± 0.28 0.80 ± 0.11 0.21 ± 0.02 817−716 600.331 141.6 −5.20 ± 0.15 3.53 ± 0.36 0.61 ± 0.11 0.16 ± 0.02 919−818 631.703 163.6 −5.09 ± 0.12 2.90 ± 0.28 0.53 ± 0.09 0.17 ± 0.01 936−835 656.465 263.4 −4.84 ± 0.22 4.43 ± 0.54 0.36 ± 0.05 0.08 ± 0.01 918−817 674.810 174.0 −5.18 ± 0.22 4.49 ± 0.52 0.49 ± 0.05 0.10 ± 0.01 p-H2CO 505−404∗ 362.736 52.3 −5.58 ± 0.04 3.47 ± 0.10 7.27 ± 0.16 1.96 ± 0.04 524−423∗ 363.946 99.5 −5.57 ± 0.21 3.85 ± 0.47 2.48 ± 0.27 0.61 ± 0.13 523−422∗ 365.363 99.7 −5.69 ± 0.10 3.53 ± 0.28 1.98 ± 0.12 0.53 ± 0.09 707−606 505.834 97.4 −5.53 ± 0.09 1.92 ± 0.20 0.36 ± 0.07 0.18 ± 0.02 725−624 513.076 145.4 −5.30 ± 0.17 2.29 ± 0.39 0.23 ± 0.07 0.09 ± 0.01 A53, page 16 of 18 M. 5. Conclusions continued. 5. Conclusions Transition Frequency Eup/k Vlsr ΔV  TmbdV Tpeak [GHz] [K] [km s−1] [km s−1] [K km s−1] [K] SO 33−32∗ 339.342 25.5 −5.39 ± 0.12 3.38 ± 0.32 1.58 ± 0.12 0.44 ± 0.05 78−67∗ 340.714 81.2 −5.78 ± 0.07 5.35 ± 0.17 7.99 ± 0.20 1.41 ± 0.10 88−77∗ 344.311 87.5 −5.76 ± 0.06 5.12 ± 0.13 8.57 ± 0.18 1.57 ± 0.10 98−87∗ 346.529 78.8 −5.56 ± 0.05 5.91 ± 0.14 10.42 ± 0.18 1.66 ± 0.10 1211−1110 514.853 167.6 −5.43 ± 0.18 4.51 ± 0.44 0.61 ± 0.10 0.13 ± 0.01 1212−1111 516.335 174.2 −4.97 ± 0.23 5.65 ± 0.55 0.72 ± 0.12 0.12 ± 0.01 1213−1112 517.354 165.8 −5.08 ± 0.18 5.15 ± 0.43 0.73 ± 0.11 0.13 ± 0.01 1312−1211 558.087 194.4 −5.83 ± 0.18 5.50 ± 0.44 0.95 ± 0.13 0.16 ± 0.01 1313−1212 559.319 201.1 −4.90 ± 0.20 5.73 ± 0.48 0.90 ± 0.13 0.15 ± 0.01 1314−1213 560.178 192.7 −6.30 ± 0.15 4.47 ± 0.36 0.75 ± 0.11 0.16 ± 0.01 1413−1312 601.258 223.2 −5.90 ± 0.18 5.08 ± 0.44 0.79 ± 0.12 0.15 ± 0.01 1414−1313 602.292 230.0 −4.87 ± 0.27 4.56 ± 0.65 0.53 ± 0.13 0.11 ± 0.01 1415−1314 603.021 221.6 −5.60 ± 0.17 5.04 ± 0.40 0.81 ± 0.11 0.15 ± 0.01 1514−1413 644.378 254.2 −5.47 ± 0.13 4.61 ± 0.32 0.80 ± 0.10 0.16 ± 0.01 1515−1414 645.254 260.9 −5.18 ± 0.15 5.14 ± 0.37 0.80 ± 0.10 0.14 ± 0.01 1516−1415 645.875 252.6 −5.51 ± 0.12 4.86 ± 0.29 0.86 ± 0.09 0.16 ± 0.01 1615−1514 687.456 287.2 −5.45 ± 0.12 4.91 ± 0.29 0.82 ± 0.08 0.15 ± 0.01 1616−1515 688.204 294.0 −5.24 ± 0.10 3.39 ± 0.25 0.62 ± 0.09 0.17 ± 0.01 1617−1516 688.735 285.7 −5.72 ± 0.16 5.36 ± 0.38 0.96 ± 0.08 0.14 ± 0.01 1918−1817 816.493 398.5 −6.06 ± 0.19 3.88 ± 0.46 0.68 ± 0.09 0.16 ± 0.02 1919−1818 816.971 405.4 −6.01 ± 0.20 4.64 ± 0.48 0.76 ± 0.13 0.15 ± 0.01 1920−1819 817.306 397.2 −5.32 ± 0.19 4.41 ± 0.47 0.76 ± 0.14 0.16 ± 0.01 34SO 78−67∗ 333.902 79.9 −5.12 ± 0.18 4.15 ± 0.43 1.74 ± 0.16 0.39 ± 0.05 88−77∗ 337.582 86.1 −5.41 ± 0.27 4.05 ± 0.62 1.12 ± 0.15 0.26 ± 0.04 98−87∗ 339.858 77.3 −5.18 ± 0.13 4.75 ± 0.30 2.06 ± 0.12 0.41 ± 0.05 SO2 212,20−211,21∗ 332.091 219.5 −4.74 ± 0.18 5.00 ± 0.43 1.81 ± 0.14 0.34 ± 0.04 43,1−32,2∗ 332.505 31.3 −5.41 ± 0.14 5.26 ± 0.36 2.80 ± 0.16 0.50 ± 0.07 82,6−71,7∗ 334.673 43.2 −5.25 ± 0.17 5.43 ± 0.37 3.52 ± 0.22 0.61 ± 0.08 233,21−232,22∗ 336.089 276.0 −4.55 ± 0.21 4.44 ± 0.46 1.87 ± 0.18 0.40 ± 0.06 184,14−183,15∗ 338.306 196.8 −5.03 ± 0.19 5.29 ± 0.41 2.31 ± 0.16 0.41 ± 0.06 201,19−192,18∗ 338.612 198.9 −6.55 ± 0.34 6.04 ± 0.50 3.95 ± 0.46 0.61 ± 0.09 191,19−180,18∗ 346.652 168.1 −5.11 ± 0.14 5.99 ± 0.33 3.45 ± 0.16 0.54 ± 0.07 242,22−233,21∗ 348.388 292.7 −4.98 ± 0.18 5.06 ± 0.40 2.47 ± 0.18 0.46 ± 0.06 106,4−115,7∗ 350.863 138.9 −5.41 ± 0.20 4.15 ± 0.40 0.82 ± 0.10 0.19 ± 0.03 53,3−42,2∗ 351.257 35.9 −5.16 ± 0.10 5.16 ± 0.21 3.30 ± 0.12 0.60 ± 0.07 144,10−143,11∗ 351.874 135.9 −5.10 ± 0.10 4.90 ± 0.22 2.31 ± 0.10 0.44 ± 0.05 124,8−123,9∗ 355.046 111.0 −5.02 ± 0.10 5.29 ± 0.21 3.84 ± 0.13 0.68 ± 0.08 134,10−133,11∗ 357.165 122.9 −5.12 ± 0.16 5.27 ± 0.34 2.70 ± 0.16 0.48 ± 0.06 154,12−153,13∗ 357.241 149.7 −5.25 ± 0.11 5.10 ± 0.26 2.54 ± 0.12 0.47 ± 0.06 114,8−113,9∗ 357.388 100.0 −5.11 ± 0.11 5.12 ± 0.22 2.99 ± 0.12 0.55 ± 0.06 84,4−83,5∗ 357.581 72.4 −5.01 ± 0.13 4.64 ± 0.26 2.58 ± 0.14 0.52 ± 0.06 94,6−93,7∗ 357.672 80.6 −5.14 ± 0.13 5.23 ± 0.32 2.85 ± 0.15 0.51 ± 0.06 74,4−73,5∗ 357.892 65.0 −4.85 ± 0.10 4.71 ± 0.18 3.02 ± 0.10 0.60 ± 0.06 64,2−63,3∗ 357.926 58.6 −5.24 ± 0.26 5.65 ± 0.63 2.98 ± 0.28 0.49 ± 0.06 44,0−43,1∗ 358.038 48.5 −5.32 ± 0.12 4.36 ± 0.25 2.07 ± 0.11 0.45 ± 0.05 200,20−191,19∗ 358.216 185.3 −4.97 ± 0.10 5.26 ± 0.22 3.78 ± 0.13 0.68 ± 0.08 214,18−213,19∗ 363.159 252.1 −5.39 ± 0.20 5.47 ± 0.48 2.62 ± 0.20 0.45 ± 0.06 152,14−141,13∗ 366.215 119.3 −5.18 ± 0.10 5.09 ± 0.23 3.17 ± 0.13 0.58 ± 0.06 63,3−52,4∗ 371.172 41.1 −5.19 ± 0.13 4.86 ± 0.29 2.75 ± 0.14 0.53 ± 0.06 280,28−271,27 501.108 354.3 −5.41 ± 0.17 3.12 ± 0.42 0.38 ± 0.09 0.11 ± 0.01 153,13−142,12 508.710 132.5 −4.63 ± 0.19 3.40 ± 0.46 0.41 ± 0.09 0.11 ± 0.01 186,12−185,13 559.882 245.5 −5.88 ± 0.24 3.06 ± 0.57 0.32 ± 0.11 0.10 ± 0.02 136,8−135,9 561.266 171.9 −5.27 ± 0.25 4.81 ± 0.61 0.61 ± 0.12 0.11 ± 0.01 126,6−125,7 561.393 160.0 −5.13 ± 0.21 2.96 ± 0.49 0.32 ± 0.09 0.10 ± 0.02 85,3−74,4 613.076 94.4 −4.86 ± 0.19 4.74 ± 0.45 0.53 ± 0.09 0.11 ± 0.01 144,10−133,11 626.087 135.9 −4.54 ± 0.10 2.23 ± 0.24 0.41 ± 0.08 0.17 ± 0.02 95,5−84,4 632.193 102.7 −5.09 ± 0.20 4.61 ± 0.48 0.56 ± 0.10 0.11 ± 0.01 A53, page 17 of 18 A&A 567, A53 (2014) Table A.1. 5. Conclusions Transition Frequency Eup/k Vlsr ΔV  TmbdV Tpeak [GHz] [K] [km s−1] [km s−1] [K km s−1] [K] 154,12−143,11 639.651 149.7 −5.16 ± 0.20 3.76 ± 0.48 0.37 ± 0.08 0.09 ± 0.01 105,5−94,6 651.300 111.9 −5.06 ± 0.15 5.06 ± 0.35 0.62 ± 0.07 0.11 ± 0.01 183,15−172,16 653.110 180.6 −4.83 ± 0.18 5.01 ± 0.44 0.55 ± 0.08 0.10 ± 0.01 227,15−226,16 660.918 352.8 −4.81 ± 0.21 3.69 ± 0.49 0.39 ± 0.09 0.10 ± 0.01 197,13−196,14 661.962 294.8 −5.00 ± 0.18 3.60 ± 0.44 0.35 ± 0.08 0.09 ± 0.01 177,11−176,12 662.404 260.8 −4.64 ± 0.25 4.50 ± 0.60 0.34 ± 0.08 0.07 ± 0.01 167,9−166,10 662.567 245.1 −4.99 ± 0.15 3.91 ± 0.36 0.42 ± 0.07 0.10 ± 0.01 147,7−146,8 662.799 216.6 −5.34 ± 0.19 4.12 ± 0.46 0.43 ± 0.08 0.10 ± 0.01 137,7−146,8 662.877 203.8 −5.19 ± 0.23 4.73 ± 0.57 0.36 ± 0.08 0.07 ± 0.01 127,5−126,6 662.934 191.8 −4.93 ± 0.22 3.92 ± 0.53 0.40 ± 0.08 0.08 ± 0.01 164,12−153,13 665.247 164.5 −4.75 ± 0.21 5.53 ± 0.49 0.59 ± 0.08 0.10 ± 0.01 115,7−104,6 670.366 122.0 −5.16 ± 0.16 4.07 ± 0.37 0.51 ± 0.08 0.12 ± 0.01 76,2−65,1 695.633 114.0 −4.89 ± 0.13 3.73 ± 0.30 0.51 ± 0.07 0.13 ± 0.01 194,16−183,15 702.104 214.3 −4.73 ± 0.17 4.19 ± 0.39 0.49 ± 0.08 0.11 ± 0.01 214,18−203,17 727.379 252.1 −5.61 ± 0.11 2.39 ± 0.26 0.71 ± 0.15 0.30 ± 0.03 195,15 −184,14 820.150 236.2 −5.26 ± 0.17 5.27 ± 0.41 0.94 ± 0.13 0.17 ± 0.01 205,15 −194,16 840.751 254.6 −4.79 ± 0.20 5.25 ± 0.49 0.70 ± 0.11 0.12 ± 0.01 156,10 −145,9 848.523 198.6 −4.85 ± 0.18 4.76 ± 0.43 0.78 ± 0.12 0.15 ± 0.01 34SO2 191,19−180,18∗ 344.581 167.7 −5.23 ± 0.24 4.15 ± 0.54 1.03 ± 0.12 0.23 ± 0.03 134,10−133,11∗ 344.808 121.6 −5.18 ± 0.28 3.49 ± 0.55 0.65 ± 0.10 0.17 ± 0.03 74,4−73,5∗ 345.520 63.7 −4.70 ± 0.24 3.06 ± 0.49 0.76 ± 0.12 0.23 ± 0.03 200,20−191,19∗ 357.102 184.8 −5.27 ± 0.20 3.04 ± 0.48 0.72 ± 0.10 0.23 ± 0.03 63,3−52,4∗ 362.158 40.7 −4.92 ± 0.28 3.40 ± 0.47 0.80 ± 0.16 0.22 ± 0.04 o-H2O 110−101 556.936 61.0 −3.63 ± 0.10 3.35 ± 0.13 3.82 ± 0.44 1.07 ± 0.02 −0.52 ± 0.17 2.25 ± 0.33 −0.66 ± 0.42 −0.28 ± 0.04 312−303 1097.365 249.4 −5.27 ± 0.05 2.85 ± 0.13 5.94 ± 0.46 1.96 ± 0.08 −6.34 ± 0.35 11.65 ± 1.02 6.38 ± 0.11 0.52 ± 0.07 312−221 1153.127 249.4 −5.10 ± 0.09 2.16 ± 0.25 2.18 ± 0.41 0.95 ± 0.09 −5.78 ± 0.35 10.93 ± 1.02 5.97 ± 1.11 0.51 ± 0.06 321−312 1162.912 305.3 −5.32 ± 0.04 2.89 ± 0.10 8.12 ± 0.50 2.65 ± 0.08 −6.04 ± 0.76 14.17 ± 1.44 6.79 ± 1.41 0.45 ± 0.04 p-H2O 211−202 752.033 136.9 −5.56 ± 0.03 3.45 ± 0.09 8.11 ± 0.36 2.21 ± 0.05 −6.20 ± 0.28 12.60 ± 0.93 5.48 ± 0.19 0.41 ± 0.05 202−111 987.927 100.9 −5.33 ± 0.04 3.82 ± 0.10 11.12 ± 0.45 2.74 ± 0.06 −5.81 ± 0.40 14.78 ± 1.30 8.01 ± 0.19 0.54 ± 0.05 111−000 1113.343 53.4 −3.30 ± 0.20 3.26 ± 0.34 6.17 ± 0.63 1.78 ± 0.11 −0.48 ± 0.20 2.60 ± 0.27 −3.88 ± 0.51 −1.40 ± 0.17 −11.98 ± 0.34 13.75 ± 0.84 −11.23 ± 0.93 −0.77 ± 0.03 220−211 1228.789 195.9 −5.24 ± 0.10 2.82 ± 0.27 6.23 ± 0.64 2.08 ± 0.20 −5.98 ± 0.91 8.47 ± 1.59 5.66 ± 1.80 0.63 ± 0.20 HF 1−0 1232.476 59.2 13.01 ± 0.13 1.17 ± 0.31 −1.16 ± 0.52 −0.93 ± 0.21 −0.05 ± 0.13 2.31 ± 0.31 −2.81 ± 0.76 −1.25 ± 0.16 −3.88 ± 0.15 2.50 ± 0.35 3.08 ± 0.79 1.21 ± 0.15 −12.58 ± 0.28 8.81 ± 0.71 −10.02 ± 1.39 −1.07 ± 0.07 A53, page 18 of 18
https://openalex.org/W2891044852
http://nectar.northampton.ac.uk/10526/7/Ofori_Attah_etal_EAL_2018_A_Survey_of_System_Level_Power_Management_Schemes_in_the_Dark_Silicon_Era_for_Many_Core_Architectures.pdf
English
null
A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures
EAI endorsed transactions on industrial networks and intelligent systems
2,018
cc-by
13,779
Abstract Power consumption in Complementary Metal Oxide Semiconductor (CMOS) technology has escalated to a point that only a fractional part of many-core chips can be powered-on at a time. Fortunately, this fraction can be increased at the expense of performance through the dark-silicon solution. However, with many- core integration set to be heading towards its thousands, power consumption and temperature increases per time, meaning the number of active nodes must be reduced drastically. Therefore, optimized techniques are demanded for continuous advancement in technology. Existing efforts try to overcome this challenge by activating nodes from different parts of the chip at the expense of communication latency. Other efforts on the other hand employ run-time power management techniques to manage the power performance of the cores trading-offperformance for power. We found out that, for a significant amount of power to saved and high temperature to be avoided, focus should be on reducing the power consumption of all the on-chip components. Especially, the memory hierarchy and the interconnect. Power consumption can be minimized by, reducing the size of high leakage power dissipating elements, turning-offidle resources and integrating power saving materials. Received on 10 August 2018; accepted on 03 September 2018; published on 19 August 2018 Keywords: Dark-Silicon, Many-Core, Multi-Core, NoC, Low Power NoC Architectures, Power Budgeting Copyright © 2018 Emmanuel Ofori-Attah et al., licensed to EAI. This is an open access article distributed under the terms of the Creative Commons Attribution license (http://creativecommons.org/licenses/by/3.0/), which permits unlimited use, distribution and reproduction in any medium so long as the original work is properly cited. doi:10.4108/eai.19-9-2018.155569 doi:10.4108/eai.19-9-2018.155569 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems Research Article A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures Emmannuel Ofori-Attah1, Xiaohang Wang2, Michael Opoku Agyeman1,* 1Department of Computing, University of Northampton, United Kingdom 2South China University of Technology, 1121 Haibin Road, Nansha, Guangzhou 1. Introduction applications that are currently being executed in many- core chips will be executed in the future at a time. The industrial approach to this solution is the fabrication of processor chips, designed to work within a thermal design constraint to prevent possible overheating and permanent damage. Unfortunately, as a trade-off, this solution prevents peak frequency level operation and thus novel techniques are needed to maximise the chip’s performance. Aggressive transistor scaling with technology has fuelled an unprecedented growth in the number of Processing Elements (PE) available in modern Systems- on-Chip (SoCs). However, due to the excess thermal issues caused by the breakdown of Dennard’s scaling, multi-core/many-core chips do not scale properly with die area. Continues scaling of the chip size aggravates the total power consumption and hence to meet the systems power budget, only a subset of nodes can be powered-on while the rest are powered- off(dark). To make things worse, researchers have already estimated that in the near future, 50% of a chip size at 8 nanometer (nm) technology will be powered-off. This implies that only half of the One possible solution for this challenge is application mapping, where specific nodes are selected for incom- ing applications. Unfortunately, prior works only focus on distributing application tasks in different regions on the chip without considering the performance of the applications. Another alternative solution is through Dynamic Thermal Management (DTM) techniques such as power-gating, Dynamic Voltage Frequency Scaling (DVFS) and Task migration. Unfortunately, this also ∗Corresponding author: Michael.OpokuAgyeman@northampton.ac.uk ∗Corresponding author: Michael.OpokuAgyeman@northampton.ac.uk EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 1 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman trades-offapplication performance to satisfy the tem- perature threshold by scaling the Voltage Frequency (V/F) levels of the cores. Nonetheless, there have been many works and techniques proposed through the dark- silicon solution, however only a few consider the power consumption of on-chip components such as the mem- ory hierarchy and the interconnect. Recently, Multi- Level Caches (MCA) and the Network-on-Chip (NoC) paradigm have replaced single-level caches and buses respectively as the standard components for many-core future chip designs [1–4]. However, these components increase the power consumption and impacts heavily on the temperature of the chip. In fact, the Last-Level- Caches and NoC in a 16-core machine [5] constitutes to 33% of the total power consumption. Therefore, to avoid high temperature, a reduction of power consump- tion in these elements is very essential. contributes to a higher percentage of the chip’s total power consumption at the deep-sub micron level [8– 10]. Consequently, high power density generates excess heat and increases the temperature of the chip. The consequence of such peak temperature is overheating, permanent damage, transient faults and faster ageing [11, 12]. Therefore, to reduce power consumption at the transistor level, designers adjust the equations above. Dynamic power consumption can be reduced by scaling the V/F level and reducing the activities. Leakage power consumption on the hand is reduced by utilizing low power cells or reducing the number of active transistors. An example of such a technique is the dark-silicon. Where, every chip is allocated a Thermal Design Power (TDP) for the chip to operate with. 3. Dark-Silicon: The Future For Emerging SoC Designs The remainder of this paper is organised as follows. Section II discuss the causes of power consumption. Section III introduce techniques for DCSCs while Section VI discusses the influence that the interconnect and memory sub-system have on the chip’s total power. Section V summarises all the techniques presented and finally, the conclusion is drawn in Section VI. Unfortunately, the TDP provided by the industries only allow DSCSs to operate at a feasible power budget to keep the thermal profile of the chip down. Thus, limiting them from operating at high V/F levels. Nonetheless, Intel’s Turbo Boost [13] and AMD’s Turbo CORE [14] violate the TDP constraint during short intervals by boosting the system for higher performance. When the threshold is violated, DTM techniques are used to cool down the chip. The result of such an action is performance degradation. Therefore, such techniques have to be used appropriately. Particularly, Task migration and DVFS. 2. Background For decades, Moore and Dennardian theories were the embodiment of exa-scale technology. Dennard’s scaling revealed that, by reducing the size of transistors, it can be utilised at lower power and voltage because, power density is equivalent to the square of applied voltage, therefore, it remains the same [6–8]. Consequently, by reducing the physical parameters of transistors, it has been possible to utilise them under lower power and voltage. Thus, enabling an advent in resource duplication for performance enhancement resulting in the multi-core/many-core technologies. 3.1. Task Migration Task migration is an optimized technique used to migrate tasks between nodes that are dissipating high temperature. For example, if a task causes a node to generate excess heat thus raising the temperature, that task is then migrated to a node in exchange for another task with low temperature. This is done to avoid excess heat which can have a negative effect on neighbouring tasks. Unfortunately, this technique only applies when some nodes are executing heavy loaded tasks. If all the nodes are executing heavy loaded tasks, task migration will not have any effect. Figure 3 depicts an image of task migration. The temperature of application 1 has been reduced because the task in node 1 has been migrated to node 7 because it has a lower temperature. Unfortunately, in application 3, because all the nodes are executing heavy load tasks, there is no difference in the overall temperature of the chip when the task is migrated to a different node [15]. y g Figure 2 depicts the effects of transistor scaling. A chip at 8nm with all its node activated will cause the chip’s temperature to be very high because of high of power consumption. To prevent this, the dark-silicon solution permits fractions of the chip to be powered- off. By switching parts of the chip off, the leakage power consumption reduces as well as the dynamic power consumption. Power consumption materialises as a subset of dynamic and leakage power in CMOS integrated circuits. Until the deep-submicron processes emerged, dynamic power consumption was held accountable for majority of the power consumption in CMOS technology. Unfortunately, transistor size reduction has caused a halt in voltage scaling down and resulted with an increase in the amount of sub-threshold leakage, as well the gate tunnelling leakage current caused by having thinner gate oxides. Therefore, it has been reported that leakage power 3.2. Dynamic Voltage Frequency Scaling 3.2. Dynamic Voltage Frequency Scaling DVFS is used to dynamically vary the V/F levels of a node that exhibits high temperature. This technique is EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 2 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures Figure 1. An Overview of Dark-Silicon Techniques Figure 1. An Overview of Dark-Silicon Techniques groups of cores to have different power constraints based on the incoming application. Therefore, for every floor-plan, a different power constraint is computed for the worst-case mappings. This is contrary to TDP architectures, where all the cores are judged to be functioning in their worst-case V/F. TSP worst case mapping is computed based on the number of active cores, their position, and the influence of neighbouring cores temperature. Therefore, TSP is considered as the most optimized thermal constraint because the amount of power the chip can operate on, is based on core alignment which is determined by application mapping [17, 18]. Chip Damage Wear Faster Ageing Over Heating High Power Density Increase in Leakage Power Consumption Chip Temperature Dark-Silicon Chip Temperature Hot Cold Hot Cold Transistor Scaling A2 A1 A3 A4 A2 A1 A2 A3 A4 65nm 4 nodes running at 1.8 Ghz 8nm 88 nodes running at 4 x 1.8 Ghz Ptotal (Pdynamic X Pleakage) < a Ptotal (Pdynamic X Pleakage) > a Figure 2. Effects of Transistor Scaling Similarly, Wang et al. [15] also introduced a new power budgeting technique for DSCSs. The proposed power budgeting technique advocates the number of cores that needs to be activated, as well as selecting the maximum power that every core can consume based on the current thermal profile of the chip. In addition to this, the proposed technique uses a model prediction method to generate a power budget for the chip for future mappings. 3.4. Run-Time Management Systems The purpose of a RTM is to monitor the power budget, reserve idle cores and allocate them to applications. In case there is not enough power available for an incoming application, the application is halted until an executing application leaves the system. However, due to the dynamic nature of workloads, the number of core count available for applications may change, depending on the requirement of an application [19]. This can result in a change of layout, increase in power consumption and deadline time for executing tasks. A biased RTM will result in impecunious resource allocation limiting the maximum achievement of the system. In a such a system, more stress is placed on regions where applications can be executed faster. Therefore, a run-time management system which incorporates design factors such as the layout of the processor chip, heterogeneity, uncore components (NoC and cache), architecture (2D, 3D and Wireless), temperature of the system and TDP/TSP power budget Figure 2. Effects of Transistor Scaling best used in a Run-Time Management (RTM) system because accommodating newly arrived applications can at sometimes cause an overshoot. During this process, DVFS is used to vary the V/F levels until the application has been successfully mapped. Although, this helps to reduce the temperature of the chip, the tasks in question suffer from performance loss. With such technique, tasks are likely to be executed beyond the deadline time [15]. 3.3. Thermal Design Power Techniques EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 3.3. Thermal Design Power Techniques For this purpose, Pagani et al. [16] proposed a power budgeting technique for DSCSs to operate at their highest power. Unlike TDP where all the cores are modelled with one power value, TSP allows different EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 3 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman Figure 3. An Example of Task Migration Figure 3. An Example of Task Migration [16]. In addition to this, the RTM needs to consider which DTM techniques to use for specific applications. execute the application. However, if it does not exceed the TSP/TDP constraint, the new application is added without any scaling. The only disadvantage with the proposed RTM is how application tasks are mapped. The dark nodes which are used to cool down the chip are only used to separate applications. Although external heat generated from neighbouring application nodes are minimized, internal heat is ignored. The mapping algorithms could be further enhanced to contain dark nodes inside the region which has been selected. In this way, internal heat is minimized. Run-time Management System Algorithms. Rahmani et al. [20] propose a dynamic power management with a multi-objective approach for NoC based dark-silicon many-core platforms. The proposed management system utilises per-core power-gating and DVFS based on the following characteristics: workload, network congestion and the power performance of the cores. The management system incorporates the following to measure the characteristics of the system: Application Power Calculator, Application Processor Utilization Calculator, Application Buffer Utilization Calculator, Application Injection Rate Calculator, a TSP Lookup Table, and Proportional Integral Derivative Controller. There are four algorithms which can be activated in the system. Salehi et al. [21] on the hand propose a power- constrained reliability Management System for dark- silicon chips (dsReliM) which considers the reliability of tasks. The model of the system has been categorised into four different parts. (Hardware Architecture, Application Model, Reliability Model, and Power Model). The hardware architecture model of the system consists of heterogeneous cores which can operate at different V/F levels through DVFS. A reliability compiler is utilised in the application model to compile multiple code versions for each application task with properties such as reliability and execution time. The purpose of dsRelim is to execute applications with minimum reliability loss while meeting deadlines. 3.3. Thermal Design Power Techniques Firstly, the code version with the highest reliability is chosen along with the maximum V/F level. If the selected code exceeds the TDP constraint, the V/F level is gradually adjusted. If the execution task of the system is violated after adjusting the V/F, another version of the task which meets the deadline but with a lesser reliability loss is chosen. However, if there are not any code versions which meets the deadline time, the code with the minimum execution task is chosen with a performance trade-off. The V/F level of the selected code version is scale down to meet the TDP constraint. y The first algorithm dynamically scales the V/F Level by monitoring various feedback from the system. The second algorithm downscale the applications with the lowest priority when there is an overshoot in the system. Among the lowest priority, the congested applications are chosen to be optimized since congested areas contributes to high power consumption. The third algorithm is used to scale up the applications when there is an undershoot. In particular, priority is given to applications that were previously downscaled, not congested and non-intensive. Since a newly added application can push the power consumption above the TSP/TDP constraint, algorithm four performs the following tasks: when a new application arrives, the algorithm checks the available power budget and determines if the new application can be mapped to nodes. After checking the new application, the algorithm predicts the power consumption of the system when the new application is executed. Rahmani et al. resolves the reliability problem by introducing a novel power controller unit [22]. If the application is likely to cause an overshoot, the currently running applications are scaled down to 3.5. Application Mapping As previously stated, application mapping ensures that specific nodes are selected on the chip for mapping. This can be done in several ways [17, 23, 27– 29]. Different mapping algorithms produces different results (temperature effects and power budget). The selection of the correct nodes enables more nodes to be activated to accommodate more applications and run tasks faster. Haghbayan et al. [23] also proposed a reliability- aware resource management for many-core systems which prioritises the younger cores than older cores. The proposed solution consists of two units (Reli- ability Analysis Unit (RAU) and Runtime Mapping Unit (RMU). The RAU monitors the ageing informa- tion/status of all the cores. The RMU on other hand, takes into the account the ageing status of the cores pro- vided by the RAU and then the total power consump- tion of system provided by a power monitor before mapping applications to cores. MapPro [24] is used to locate the first node, however regions with busy cores are ignored during the application mapping stage. Fur- thermore, during the application mapping, a reliability factor metric is applied to prioritize the selection of younger cores for performance enhancement. In DSCSs, application mapping is initiated in two stages. For clarification purposes, we refer to the first stage as region mapping and the second stage as task mapping. Region mapping is the process of finding a particular region on the chip with sufficient nodes available for task mapping. Task mapping on the hand refers to the process of identifying and assigning tasks to preferred nodes from the pool of nodes found using application mapping. The most applied method for region mapping is to find an optimal node and then map task to surrounding nodes to form a rectangular/square shape mapping. In practice, MapPro is used by many [17, 23] to automatically calculate and determine this approach. Similarly, Khan et al. [25] presents a hierarchical budget scheme which distributes resource and power budgets based on the system workload for clusters. Firstly, the scheme determines the number of cores required for an application to be executed successfully. For the inter clusters, several factors are used to determine which cluster is allocated more power. One factor that is used is the number of cores in a cluster. Another is the history of an application. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 4 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures The power controller contains an operating mode selector which monitors the workload or intensity of the system and selects the following modes for the system to operate at: overboosting mode and reliability aware. The overboosting mode is selected when there are high intensive applications which requires full system operation without considering the reliability performance. The other mode is reliability-aware. This mode is selected for applications with low priority. Unlike [21], during this mode, the system operates at feasible V/F where thermal hotspots are considered as well as good performance. opposite. Only one core is activated in each cluster to keep the temperature at a minimum. Consequently, each core in the node has various V/F levels which can meet an application’s demand. In addition to this, idle cores are turned-offto keep the temperature under the safe value. Furthermore, the active cores are physically decentralised to avoid possible heat dissipation. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 3.5. Application Mapping For example, an application with a history of requiring high power consumption is allocated more power at the next epoch. For the intra clusters, since different types of threads require different amount of power for execution, in video applications, data tiles which consists of high motion content are allocated more power. Therefore, in the inter clusters, cores are allocated power individually based on their data tile. Subsequently, existing application mapping algo- rithms can be categorized into groups. These are con- tiguous mapping and non-contiguous mapping. Figure 4 shows the impact of contiguous and non-contiguous mapping. Contiguous mapping is the process of activat- ing nodes in one region for an application to be mapped to reduce communication overhead between tasks. Non- contiguous mapping on the hand, assign application tasks to any available node. In practice, some techniques aim to monitor the temperature of nodes periodically in order to map incoming applications. These techniques predict and estimate the temperature and produce optimized mapping algorithms with minimum chip temperature [30]. Likewise, Yang et al. [26] proposed a run-time management system to handle a scalable hardware topology based on a Quad-core cluster. Quad-core cluster is a tile-based architecture which consists of heterogeneous cores ((High Performance (HP), General Purpose (GP), Power Saving (PA) and Low Energy (LE)) and a shared cache within each cluster. The purpose of having different cores is to utilise them based on the incoming application requirements. For example, the HP cores are used for high workloads and thus consumes the most power while the LE cores do the J. Wang et al. [28] propose an Ant-Colony (ACO) based thermal-ware thread-to-core mapping. The ACO- based thread-to-core mapping algorithm releases an ant colony into the system. Each ant conducts the thread- to-core mapping individually. After conducting the thread-to-core mapping, the ant with the best minimiz- ing Chip Multi Processors (CMP) peak temperature is chosen. The temperature of the results generated by the EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 5 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman Figure 4. Contiguous Mapping and Non-Contiguous Mapping mapped to cores located in the same region. However, due to the alignment of nodes directly next to each other, the dissipating heat generated by each node affects their neighbouring nodes gradually increasing the temperature of the system as applications are being executed. Furthermore, because contiguous mapping demands that an application is mapped in one region, an incoming application may be forced to wait when there are insufficient nodes available for it to be mapped in one region. As a matter of fact, in some cases, the application will be non-contiguously mapped to free nodes to satisfy the application deadline [31]. Nonetheless, to accommodate more applications on the chip, Ng et al. [31] propose an optimized technique called defragmentation. Defragmentation ensures that, all the free nodes which are dispersed on the chip are gathered into one region for an application to be mapped contiguously. Similarly, X. Wang et al. [32] introduced an application mapping algorithm which dynamically adjust and shift tasks onto different nodes for a contiguous mapping to take place. The algorithm proposed relocate tasks to different nodes to accommodate a new application in a square-shaped region. Figure 4. Contiguous Mapping and Non-Contiguous Mapping Figure 4. Contiguous Mapping and Non-Contiguous Mapping best ants are then used to map incoming applications to nodes. Similarly, Wang et al. [27] also proposed a thread- to-core mapping management system. However, this mapping systems uses two different types of virtual mapping algorithms to estimate the performance of applications when different number of dark cores are used. Upon the arrival of a new application, the virtual mapping process is used to estimate the performance of the application with different number of dark cores. In addition to this, the mapping system consists of two different modes: Computational and Communication. Applications which are affected by the task computation performances are mapped as far away from each other as possible. Applications whose performances are affected by their communication volume are mapped closer to each other. With this algorithm, it is possible to migrate a task from core to core to harness the best performance. Unfortunately, accommodating more applications means more hot regions on the chip as shown in Figure 4. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 For this purpose, Kanduri et al. [17] presented an optimized application mapping and patterning algorithm for DSCSs based on MapPro. The dense nodes from the region are activated as dark nodes to cool their active counterparts. During task mapping, the task with the highest communication volume is mapped to the first node. This process is repeated until the last task is assigned. After this process, one node in the square region is left un-occupied and used as a dark node to avoid hotspot. Similarly, Aghaaliakbari et al. [33] propose a contiguous mapping algorithm which positions dark nodes in between application tasks to reduce heat. Rezaei et al. [34] also proposed a contiguous mapping algorithm contiguous mapping algorithm called Round Rotary mapping which targets a hybrid Wireless NoC virtually divided into regions. The proposed algorithm map applications in a round robin approach to evenly distribute applications all over the chip. Li et al. [30] propose a Mixed Integer Linear Programming (MILP) thermal model which monitors all nodes and map applications while minimizing the temperature. The proposed algorithm works by predicting the temperature of chip when applications are mapped. This approach sorts out all applications into groups and execute them starting from the highest V/F to their lowest V/F. During this process, MILP is used find the best optimized mapping with the least minimized temperature. In addition, an efficient algorithm is proposed to release some applications from the list in case they violate the temperature threshold. Moreover, by placing dark nodes in contiguous mapping algorithms, the hot regions could be reduced thus allowing more nodes to be activated. In addition to this, prioritising younger cores is also an essential technique because ageing cores dissipate more heat when they are stressed. Furthermore, nodes are able to perform at peak V/F levels when dark nodes are activated near it. Therefore, it will be beneficial for contiguous mapping algorithms to incorporate dark- silicon patterning approaches for a trade-offbetween communication cost and hot regions by efficiently Application Mapping Techniques. Contiguous mapping algorithms are preferred choices for application map- ping because non-contiguous mapping techniques do not consider the increase in communication latency between tasks which requires inter communication. Contiguous mapping on the hand ensures that tasks are 6 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures positioning dark nodes in between tasks. Another alternative would be to incorporate heterogeneity in such a way that different resources are used to perform different computations. Every application has its own requirements for executing tasks. Computer- intensive applications require more power to execute applications while communication tasks require close connection with other tasks. These various applications could be executed using different nodes. consumed by each resource. Incorporating components which consists of power hungry elements results in high power consumption which increases the amount of heat being generated by the resources. By incorporating heterogeneity, power saving materials can be used to form low power architectures. p Moreover, one common action that all these tech- niques that we have review share is that, to reduce power consumption or temperature, they ignore uncore components such as the Last Level Cache (LLC) and the routers in NoC. Ignoring these components result in an increase in heat since they contribute to the power consumption. Additionally, these components consume a significant of on-chip power and therefore impacts heavily on the power budget. To ensure that, that the power budget allocated for a specific chip is sufficient enough for high performance computation, we target at reducing the power consumption in the NoC intercon- nect and the memory sub-system without performance degradation. 3.6. Architectural Heterogeneity It has been proven [35] that incorporating heterogeneity through diverse materials which offers extra power savings in DSCSs, reduces the dynamic and leakage power consumption at a cost of a slight degrade in performance [36]. For this purpose, many techniques have been proposed in literature that combines different materials, sizes etc. to offer more power for actual computation. Shafique et al. [19] conducted a survey about the challenges in dark-silicon trends. In the survey, Shafique addresses the challenges of dark-silicon by presenting factors which demands high emphasis on when designing a system. Particularly, high emphasis is placed on the importance of incorporating heterogeneity. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 4. The Dominance of Uncore components in Dark-Silicon Constraint Systems: The NoC Interconnect and Cache Architecture With the introduction of these components in many-core systems in which they scale proportionate to, processing power is set to increase [37]. Figure 5 depicts a DSCS node comprised of 3 cores, a cache and a router. It is therefore important to address the power consumption of these uncore components as many-core systems dominate modern technology. Evaluation results conducted with McPAT [38] shows that uncore components are responsible for nearly half of the chip’s total budget with the LLC and NoC interconnect being the largest consumers. chip temperature rises. [46–51]. Consequently, the router architecture has already been identified by many as the main component responsible for majority of the NoC’s total power. However, with the continues shrinkage of technology, the power consumption in the links have also increased along with the workload. NoC routers are composed of power consuming elements such as the buffers, arbiters, crossbars, input and output ports. In as much as all these elements imbibe the power budget of the NoC, buffers and the crossbars are identified as the main culprits to exaggerate above the power constraints [47, 52]. With the increasing dark fractions in many-core systems, a significant portion of power can be saved through optimized algorithms and components. However, a lot of factors must be considered before proposing schemes relating to the buffers. One thing to consider is that, the absence of buffers provokes network congestion leading to high latency while on the other hand, excessive use of buffers aggravates the chips power consumption. Therefore, a balance is required. Caches suffer from high leakage in cache storage cells caused by the size reduction in emerging chip resources. NoC’s power consumption on the other hand is down to its power-hungry elements. This problem becomes even worse when computational sprinting is applied on cores [39–41]. This affects the total power budget and makes it hard for more power to be used for actual computation. This part of the survey present techniques which can be applied to reduce the power consumption of these components but before we introduce a background information of each component. Run-time Power Consumption Techniques For NoC Architec- tures. Modarressi et al. [53] propose a NoC Architec- ture in which packets can bypass the dark regions of the chip. The proposed algorithm takes the CTG of an input application and the number of active cores and estab- lishes virtual long links among them. 4. The Dominance of Uncore components in Dark-Silicon Constraint Systems: The NoC Interconnect and Cache Architecture 4. The Dominance of Uncore components in Dark-Silicon Constraint Systems: The NoC Interconnect and Cache Architecture The power dominance of uncore components (memory hierarchy (L2/L3 caches), memory controllers (MCs) and Interconnect) are often ignored in DSCSs, with majority of the power budgeting techniques (V/F scaling, power-gating, dynamic cache resizing and pipeline reconfigurations) that are found in literature, either targeted at the processor level or chip level. Therefore, for more power to be available for executing applications, the power consumption in on-chip components needs to be addressed. Heterogeneous Cores. Zhang et al. [36] demonstrated that the employment of diverse materials to form processors can lead to less dark areas on the chip. Zhang proved that by integrating High-K (consists of big cores) and NEMS-CMOS (consists of small cores), the processor can operate more efficiently than the conventional CMPs formed with one material. In addition to this, because NEMS-CMOS consumes less power and generate less heat, the power density is smaller compared to CMPs formed with a single material. Figure 5. Router Architecture Yang et al. [26] approached the use of heterogeneity in a different design aspect by introducing a Quad- core Cluster Architecture which is not situated about the size of the core but rather the purpose of each core. The Quad-core Cluster Architecture consists of four different types of heterogeneous cores: High Performance (HP), General Purpose (GO), Power Saving (PA) and Low Energy (LE). The integration of these cores allows different types of applications to be executed on different cores depending on the workload. For example: In this architecture, the HP cores are used for intensive workloads which consumes the highest power consumption while the LE cores are used for workloads which consumes the lowest power consumption. Figure 5. Router Architecture Power consumption is one major factor which constitutes to the heat dissipated by the on-chip resources. The amount of heat generated by the resources is proportional to the amount of power Moreover, recent advances in technology have seen the NoC paradigm and MCA emerge as the standard interconnect for many-core systems, rapidly replacing 7 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman the traditional buses and single-level-caches. NoC supplies high level of parallelism through multiple working routers and links, clustered with cores and caches together to form a node. 4. The Dominance of Uncore components in Dark-Silicon Constraint Systems: The NoC Interconnect and Cache Architecture Furthermore, the router architecture of the dark nodes is optimized as follows: Firstly, the short-cut path of an input port that allows the pipeline stages of a router to be bypassed is selected. Secondly, incoming flits are then buffered using a register along a virtual long link which is estab- lished between two active nodes. Thirdly, the register indicates which output is part of the virtual link and which input port should be assigned to it. Bypassing the pipeline stages reduces the power consumption as power hungry elements such as buffers and virtual channels are avoided. In dynamic system workloads, the number of nodes available changes based on the arrival and departure of applications. In theory, active nodes can run at a higher frequency level if dark nodes are located near it for heat dissipation; this ultimately helps leverage the temperature of the system. Unfor- tunately, the downside of this is the communication latency between active cores. This proposed design allows the communication latency between two active cores to be minimized thus enhancing the performance of the system. Figure 6. Uncore Components Figure 6. Uncore Components 4.1. NoC: Router Architecture Conventional bus-based architectures inability to scale along with many-core systems, and supply performance proportionate to the number of nodes available in SoCs, have seen the NoC paradigm established itself as the standard interconnect for exa-scale computing [42–45]. NoC scales along with the size of the architecture and therefore amplifies the throughput equivalent to the system performance. A typical NoC architecture is comprised of routers and links. In the many- core system, NoC is used to form nodes as depicted in Figure 5. Routers communicate with each other through the links which establishes multiple access and communication channels between a source and a destination. However, the switching of activities of transistors during transmission causes an increase in dynamic power consumption and with leakage power already dominating power consumption, the overall Bokhari et al. [54] propose the Malleable NoC for DSCS CMPs. In the proposed architecture, each node contains multiple heterogeneous routers designed for their frequencies and voltage to be altered. Depending on the behaviour/characteristics of an application, a router from each node is selected and formed into a low power NoC Fabric while idle routers are switched off. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 8 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures Sharifiet al. [5] propose PEPON, a power budget distribution mechanism that shares the chip-wide power budget among the chip’s resources (cores, caches and NoC) based on the workload for an optimized performance while respecting their allocated budget. performance bottleneck that occur in bufferless router architectures, this technique is often disregarded. Buffers are used as temporal storage for packets which cannot be transmitted immediately. The absence of it causes packets to be deflected leading to livelock which also increases the power consumption. For this purpose, some techniques introduce heterogeneous architectures comprised of buffered and bufferless routers. Reducing Power Consumption in The NoC Router Architecture: Buffers. Input buffers occupy majority of power consumption in the router architecture [52, 55]. Therefore, by reducing the power consumption of the input buffers, the power consumption of the chip will be reduced. The following techniques either seek to avoid the use of input buffers during run time or activate and deactivate them depending on the workload. An effective way to reduce power consumption is reducing the number of pipeline stages that packets traverse to reach their destination. By reducing the pipeline stages, dynamic power is reduced as well reducing the workload latency [56, 57]. Fang et al. [66] propose a heterogeneous NoC architecture comprised of buffered and bufferless routers. Results show that the use of both these routers reduces the power consumption by 42%. Furthermore, this reduction in power allows more nodes to be activated compared to a generic buffered router. Naik et al. [67] introduces a heterogeneous NoC comprised of circuit switched buffered and bufferless routers. The use of this heterogeneous approach reduces the power consumption by 26% and 32% in area. Kodi et al. [68] on the other hand, introduced a dual- function links architecture called iDeal which unlike input buffers, does not consume a lot of power. iDeal uses a dynamic router buffer allocation to allocate incoming flits to any available buffer. Alternatively, virtual channels are employed in buffers to enable parallelism in one router. The Traffic- Based Virtual Channel Algorithm introduced in [58], enables the switch port of virtual channels to be organised into various cells. By grouping them, some of these cells can be powered-on or powered-offbased on the network traffic and congestion. Similarly, DiTomaso et al. [52] propose a power- efficient architecture called QORE, which saves power consumption through the use of multi-function chan- nel buffers and enhances the performance through reversible links. Li et al. [69] on the other hand, replaces the traditional SRAM with 3T_N eDRAM. The result of this is a reduction of 52% of power consumption and 43% of area. Virtual channels are employed in buffers to enable simultaneous use of one physical channel. However, this consumes power. To reduce the power consumption of virtual channels, Zhan et. [59] propose an algorithm which categorises the virtual channels of a switch port into different levels. The architecture consists of a level (lower level) designed with SRAM and another with STT-RAM. The use of STT-RAM trade-offleakage power for dynamic power which can be tolerated. In addition to this, the algorithm allows the SRAM level to be powered-on, offor left in a drowsy state. In case of heavy traffic, the STT-RAM levels are activated. Nasirian et al. [60] on the other hand, employs a power-gating control unit to disable buffers when they are in-active for a number of cycles. However, power- gating can cause a performance penalty and therefore, system performance needs to be considered. This is because, constantly turning-on and offrouters leads to non-negligible power overhead. Secondly, switched- offrouters block all paths it intersects with and therefore, arriving packets have to wait until the router is powered-on first before traversing to the next router. Nonetheless, power punch is presented by [61] to send a signal three hops ahead to alert routers that are switched-offare about to switched offor routers which are switched-offto stay activated. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 4.2. Reducing Power Consumption in the Cache Architecture 4.2. Reducing Power Consumption in the Cache Architecture On-chip cache memories account for a significant portion [70–77] of power consumption in embedded devices. Therefore, for mobile devices that run on batteries, efficient power optimization techniques are highly in demand as the sizes of transistors progressively decreases. The introduction of MCA trades-off performance for power expanding the fraction of chip area and on-chip power that caches account for [41, 70, 78]. Consequently, this increase in chip area and power can lead to thermal and reliability issues and therefore, reducing cache power consumption can avoid this and increase the power budget available for actual computation. While Last Level Caches (LLC) account for majority of leakage power due to their relatively large sizes, the First Level Cache (FLC) dominate dynamic power. Therefore, architectural techniques which seek to reduce the leakage power switches-offparts of the caches offand focus on minimizing transistor activity during cache accesses at the expense of performance. For lower memory caches, it is practical for sequential accesses of Another alternative to input buffers is the concept of bufferless routers. Bufferless Routers [62–65] have emerged as one possible solution to the leakage power consumption in routers. Unfortunately, due to the EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 9 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman meta-data and data arrays to take place to save energy because very few access occur [79]. However, for FLC caches, there is a performance penalty. As a matter of fact, the lower memories are only accessed when there is a cache miss. Figure 7 depicts an image of a typical cache architecture in many-core CMPS. L1 is generally referred as the FLC and L2/L3 is referred as the LLC. To avoid these challenges, several techniques have been proposed to address the power loss in set- associative FLC’s trading-offpower for design com- plexity or an increase in latency. These techniques can however be can classified into two categories (Tag Look up and Voltage Scaling). A. Tag Look up: Some of the techniques proposed perform tag lookup and data sequentially. Unfortu- nately, this increases the cache latency. Others on the hand, store parts of the data and retrieve way informa- tion before the FLC is accessed escaping the need for accessing all sets. 4.2. Reducing Power Consumption in the Cache Architecture Performing tag lookup and reading tags introduce extra cycles which consumes more power [81]. Therefore, optimized techniques are very essential because FLC performance plays an important role in processor efficiency. On a cache miss, the system suf- fers a performance penalty which further increases the power consumption. Figure 7. Cache Architecture For this purpose, Zhang et al. [82] propose an Early Tag Lookup (ETL) for FLC instruction caches. Unlike existing 2-phase methods, the proposed algorithm determines the matching way one cycle earlier than the actual cache access, eliminating non-matching way accesses without sacrificing performance. The technique proposed retains two instruction fetch addresses. One of these being the current fetch address stored in the program counter and the other in the next program counter. The matching way is determined by looking up the tag array using the next programming counter so when it is loaded up by the program counter, the matching way is already known. The program counter therefore accesses the matching way without accessing other ways. Figure 7. Cache Architecture Buffers and caches are similar because they are both used as temporal storage however, they consume a lot of power. Reducing the sizes of these two components can drastically affect the performance of the system. Chakraborty et al. [80] conducted a survey on caches and concluded that, turning-offcache banks trades-off performance for power. Results show that decreasing the cache banks from 16 to 8 caused a massive degrade in performance. However, when 12 banks are used, this degrade in performance is not as high. Although, power is reduced by shutting down cache banks, there is an increase in conflict misses. In this section of the paper, we present techniques for reducing power in both the FLC and LLC. Similarly, Dai et al. [83] proposed an early tag access cache technique which determines the location of most memory instructions before the FLC Data cache is accessed. The proposed technique operates by storing a part of the physical address in tag arrays while the conversion between the virtual address and physical address is performed by the Translation Look- aside Buffer (TLB). This data is used to locate the destination of a required memory instruction during the Load/Stage Queue before accessing the FLC data cache escaping the need for accessing all ways. First Level Cache Power Consumption. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 4.2. Reducing Power Consumption in the Cache Architecture First-Level Caches (FLC) are generally optimised for performance enhancement with less emphasis on power efficiency due to the impact and importance of having high associativity. For this purpose, designers trade-off power consumption for high performance in FLCs. Consequently, to improve the performance of memory, Set Associates Caches (SAC) are employed to enable blocks to be stored anywhere in the cache. This reduces cache miss rates and improves the performance of the system. Unlike associative caches where, a tag array has to be compared with each block in the cache, data is accessed parallel with a lookup tag. Unfortunately, during this process, power is wasted reading meta-data and looking up all the sets when only one set will be accessed after the cycle. Consider a 16-way set associative cache. A significant amount of power is wasted accessing all sets when the required data resides in only one set. Valls et al. [84] on the proposed the tag filter cache which unlike the first two techniques can be applied to all levels of the cache hierarchy. The proposed architecture filters the number of tags and data blocks to be checked when accessing the cache hierarchy by using the least significant bits of the tag part of address to determine which ways to access. The proposed architecture reduces power consumption between 74% and 85.9%. Sembrant et al. [85] proposed an extended TLB which will provide the location of cache lines in the data-array by adding an extra way index information 10 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures (way location and location of cache lines). This reduces extra data array reads and avoid tag comparisons. high, the FLC utilizes (SEC-MAECC) to correct the faulty cache lines and enable them for use. In contrast, Bardizbanyan et al. [81] argues that accessing ways sequentially by predicting the location of memory instructions affect the performance by incurring extra cycles due to additional switching of the clock. For this purpose, they propose load data dependency detection, a technique which decides when to sequentially access the FLC data based on the data dependency of the load. Similarly, Dayalan et al. [86] propose a technique which dynamically selects the best associativity of the cache during execution. The proposed technique operates by employing shadow tags to monitor how the cache would have performed if it was operating in the other mode. Saito et al. [90] proposed a FLC architecture which operate under different speed through Dynamic Voltage Frequency Scaling (DVFS). The proposed architecture dynamically selects the right speed depending on the type of performance that is required. Yan et al. [91] proposed two techniques which permit voltage scaling in FLCs (data and instruction caches) without a performance penalty (access latency). The first technique, Fault-Free Window (FFW) reduces the effect of defective words by only permitting cache lines to only store the most likely accesses. The second technique prevent the core from accessing defective words. Das et al. proposed a replacement policy algorithm which prioritise remote blocks to remain in the FLC to avoid latency. The proposed technique reduces power consumption by 14.85%. In conventional MCA, the FLC data cache and write buffer are accessed in parallel for the same data. During a write/read miss, both the FLC data cache and write buffer are updated. Lee et al. [70] proposed an architecture which functions opposite to this. In the proposed architecture, during write operations, only the write buffer is updated. The only time the FLC is updated is when data is retired or the write buffer is full. Last Level Cache Power Consumption. As previously mentioned, LLCs have been reported to occupy and consume majority of leakage power because of its large size. To improve the power efficiency, several techniques have been proposed forward. These techniques can however be classified into two categories: hybrid architectures and cache performance. B. Voltage Scaling: Alternatively, downscaling the supply voltage close to the transistors’ threshold is a technique which can effectively reduce the power consumption in FLCs. However, as a result of operating below the safe margin, persistent faults occur caused by voltage and temperature variations. Therefore, techniques which employ near-threshold scaling utilizes Error Correcting Codes (ECC) to overcome this challenge. ECC encoder generates parity bits when a data line is updated. During the reading of the data line, the decoder regenerates the parity bits to check and correct any existing faults. This process requires extra cycles and consume power causing a performance penalty which FLCs cannot tolerate. This gets even worse, when the fault rate is very high which is normal in near threshold scaling [87, 88]. A. Hybrid Architectures: STT-RAM, has been widely tutored as the conven- tional material for LLC cache design. With similar like features such as high density, low power consumption and good performance, STT-RAM is able to mirror per- formances close to that of SRAM. However, STT-RAM suffers extensively from dynamic power consumption during write accesses. Consequently, STT-RAM read latency also becomes an issue when implemented in FLCs. Komalan et al. [92] proposed a NVM FLC with a very wide buffer to mitigate the read latency. The proposed architecture offers more area with a reduction in power consumption. However, it is not quite sure how the proposed architecture will perform during heavy workloads as it was experimented under light workloads. For this purpose, Reviriego et al. [89] proposed a Single Error Correcting - Multiple Adjacent ECC to correct faults in one cycle (SEC-MAECC). Similarly, Yalcin et al. [87] proposed an improved version of SEC- MAEC to correct the faults in half a cycle. The proposed architecture reduces the encoding and decoding latency up to 80%. Similarly, Wang et al. [93] proposed a hybrid STT-RAM and SRAM FLC. The proposed design incorporates the MESI cache coherence protocol to effectively manage block relocation between the SRAM and STT-RAM partitions. However, because system performance is closely related to FLC, to the best of our knowledge, not many work have been done on designing FLCs out of SRAM. In terms architecting LLC caches out STT-RAM, the most considered optimized solution for MCA by many designers is employing both SRAM and STT-RAM [94–97]. Hijaz et al. [88] proposed an FLC hybrid architecture which can operate in two different modes (Cache line disable and correction and disable). The proposed architecture switches in between mode to preserve the performance of the system. Cache Line disable techniques allow the FLC to function at near-threshold voltages. During this process, cache lines which suffer from error bit rates are shut down limiting the cache capacity. In case the cache capacity loss becomes too EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 11 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman Moreover, the following authors combine the benefits of both hardware technology to overcome the chal- lenges that each technology brings. Li et al. [94], Kim et al. [98] and Safayenikoo [99] all proposed architectures which incorporates STT-RAM and SRAM technology. The proposed design proposed by Li, focuses on shar- ing private STT-RAM groups with neighbouring nodes to reduce latency and power consumption. KimâĂŹs architecture consists of algorithm which decides which region of the cache (STT-RAM and SRAM), data needs to be placed in. Safayenikoo’s cache architecture moves data to the SRAM blocks when the energy writes in the STT-RAM increases. must consider several factors. One of these checking the surrounding of the neighbouring codes before allocating power. Consequently, for a high-power efficiency, idle virtual channels can shut down while alternative buffers are employed. However, this can degrade the performance therefore, it is only wise to do so under minimal workload. Additionally, the implementation of STT-RAM and SRAM architecture offers a high-power efficiency resulting in the reduction of high temperature. Unfortunately, with scaling set to go even deeper, dark-silicon may yet become a constraint rather than a solution. Deep scaling meant that fractional parts of the chip had to be shut down. Therefore, reducing the transistor size further will only increase the fractional part of the chip which are dark [104]. Asad et al. [100] introduced a heterogeneous cache memory hierarchy for CMPs. Each cache level in the memory hierarchy has been designed with a different memory technology (Static Random Access Memory (SRAM), Embedded Dynamic Random Access Memory (eDRAM) and STT-RAM. Similarly, Onsori et al. [101] proposed a hybrid memory system for DSCSs comprised of NVM devices. The propose architecture consists of STT-RAM memory banks which have been incorporated with SRAM memory banks. Consequently, this had led many researchers to now shift their focus to Near-Threshold Voltage Computing Constraint Systems (NTCCS) [105], [106]. In contrary to DSCSs where transistors are under-utilised, NTC allows all the transistors to operate in the near-threshold region thus providing a fluid balance between power and delay [107]. Since, the entire chip can be utilised at the same time, multiple applications can be executed, however this is at a cost of performance degradation and reliability loss. Another alternative would be a joint implementation of both dark-silicon and NTC in future technologies. A technique which has already been proven to provide better performances [108]. B. Cache Performance: Alternatively, power-gating techniques are employed to disable idle parts of the cache when under minimal workload. However, shutting down idle parts of a cache can incur performance penalties which can exacerbate the power being dissipated [102]. To ensure that power-gating techniques does not impose a significant threat on the performance, less likely used banks and powered-off and their requests forwarded to neighbouring requests [102]. Other techniques on the hand, power-offcache ways instead of banks. Azad et al. [103] on the other hand reduces power consumption by categorising cache blocks into different groups and apply ECC based on the level of protection that is required. 5. Conclusion This paper introduced techniques which can be imple- mented in DSCSs to reduce power consumption whilst considering performance and avoiding high tempera- ture. Particularly, efficient application mapping tech- niques and heterogeneous architectures are presented. Using the correct application mapping algorithm to distribute applications across the chip can effectively reduce thermal hotspots. In addition to this, we showed that by using resources which are made of power saving materials, high power consumption which increases the power density can be reduced. Thus, keeping the temperature of the working resources low enough for the chip to function beyond its supplied thermal design constraints. 4.3. Summary The breakdown of Dennardian Law has made it a challenge for systems to maintain the same power performance as the same time transistors quadrupled in many-core/multi-core systems. For this purpose, the dark-silicon phenomenon has become an interesting field because it allows only a subset of resources to be active and with the application of the techniques presented, this subset of resources can provide high level performances. In addition to this, we provided alternative thermal design constraints which can implemented to allow systems to function beyond their restricted threshold. Furthermore, we discussed novel techniques which can applied to the NoC interconnect and the cache architec- ture. Power consumption in the NoC interconnect can be reduced through the replacement of input buffers. Cache power consumption on the hand can reduced by implementing hybrid STT-RAM and SRAM architec- tures. Table 1 presents a summary of all the techniques which target many-core systems in DSCSs. Unlike other work found in literature, we have targeted all of the on-chip components with considering the performance of the chip as well as the temperature. It can be deduced from the table that for a good temperature efficiency, the power budgeting technique References [11] M. Shafique, S. Garg, J. Henkel, and D. Marculescu, “The eda challenges in the dark silicon era: Tempera- ture, reliability, and variability perspectives,” in Pro- ceedings of the 51st Annual Design Automation Confer- ence, ser. DAC, 2014, pp. 185:1–185:6. [1] M. O. Agyeman, A. Ahmadinia, and N. Bagherzadeh, “Performance and energy aware inhomogeneous 3d networks-on-chip architecture generation,” IEEE Trans- actions on Parallel and Distributed Systems, vol. 27, no. 6, pp. 1756–1769, 2016. pp [12] D. Brooks, R. P. Dick, R. Joseph, and L. Shang, “Power, thermal, and reliability modeling in nanometer-scale microprocessors,” IEEE Micro, vol. 27, no. 3, pp. 49–62, 2007. [2] M. O. Agyeman, K. Tong, and T. Mak, “Towards reliability and performance-aware wireless network- on-chip design,” in IEEE International Symposium on Defect and Fault Tolerance in VLSI and Nanotechnology Systems (DFTS), 2015, pp. 205–210. [13] I. Corporation., “Dual-core intel xeon processor 5100 series datasheet,” revision 003, August 2007. g [14] S. Nussbaum, “Amd trinity apu,” In Hot Chips, 2012. [15] H. Wang, M. Zhang, S. X. D. Tan, C. Zhang, Y. Yuan, K. Huang, and Z. Zhang, “New power budgeting and thermal management scheme for multi-core systems in dark silicon,” in IEEE International System-on-Chip Conference (SOCC), 2016, pp. 344–349. [3] M. O. Agyeman, A. Ahmadinia, and A. Shahrabi, “Low power heterogeneous 3d networks-on-chip architec- tures,” in International Conference on High Performance Computing Simulation, 2011, pp. 533–538. [4] M. O. Agyeman and A. Ahmadinia, “Optimising heterogeneous 3d networks-on-chip,” in International Symposium on Parallel Computing in Electrical Engineer- ing, 2011, pp. 25–30. [16] S. Pagani, H. Khdr, J. J. Chen, M. Shafique, M. Li, and J. Henkel, “Thermal safe power (tsp): Efficient power budgeting for heterogeneous manycore systems in dark silicon,” IEEE Transactions on Computers, vol. 66, no. 1, pp. 147–162, 2017. g pp [5] A. Sharifi, A. K. Mishra, S. Srikantaiah, M. Kandemir, and C. R. Das, “Pepon: Performance-aware hierarchical power budgeting for noc based multicores,” in International Conference on Parallel Architectures and Compilation Techniques (PACT), 2012, pp. 65–74. [17] A. Kanduri, M. H. Haghbayan, A. M. Rahmani, P. Liljeberg, A. Jantsch, and H. Tenhunen, “Dark silicon aware runtime mapping for many-core systems: A patterning approach,” in IEEE International Conference on Computer Design (ICCD), 2015, pp. 573–580. [6] J. Henkel, H. Khdr, S. Pagani, and M. Shafique, “New trends in dark silicon,” in 2015 52nd ACM/EDAC/IEEE Design Automation Conference (DAC), 2015, pp. 1–6. p g pp [18] X. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 12 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures Table 1. A summary of DSCS techniques Area Techniques Temperature Efficiency Power Efficiency Pros Cons Power Budgeting - Maximum Power Budget Medium Medium Performance enhancement Ageing Architectural Heterogeneity - Heterogeneous Cores - Heterogeneous Memory Medium Low - Increase in the number of executed applications - Hotspot reduced Performance penalty Run-Time Management - DVFS - Task Migration - Power-gating Medium Medium - Sudden overshoot avoided - Low V/F Operation - Different power metrics per-core Performance penalty NoC Interconnect - Powering-offVirtual channels - Bufferless routers - Alternative buffers Medium High - Low dynamic power - Low leakage power - Latency penalty - Deadlock - Performance penalty Cache Memory - Tag Look Up - Voltage Scaling - Hybrid Architectures Medium High - Low dynamic power - Low leakage power Latency penalty Table 1. A summary of DSCS techniques system optimization in the dark silicon era,” IEEE Design Test, vol. 34, no. 2, pp. 39–50, 2017. Based on these findings, it can be deduced that the thermal limitations in the dark-silicon era cannot be sig- nificantly reduce by application mapping alone. How- ever, with the addition of architectural heterogeneity and consideration of uncore components, the thermal profile of the chip can be kept at a minimum whilst still maintaining the performance. With this in mind, optimization techniques for NoC and the memory sub- system will be the focal of our future work. [8] A. Kanduri, A. M. Rahmani, P. Liljeberg, A. Hemani, A. Jantsch, and H. Tenhunen, “A perspective on dark silicon,” 01 2017. [9] P. Saini and R. Mehra, “Article: Leakage power reduction in cmos vlsi circuits,” International Journal of Computer Applications, vol. 55, no. 8, pp. 42–48, 2012. [10] S. Borkar, “Getting gigascale chips: Challenges and opportunities in continuing moore’s law,” Queue, vol. 1, no. 7, pp. 26–33, 2003. References Wang, A. K. Singh, B. Li, Y. Yang, H. Li, and T. Mak, “Bubble budgeting: Throughput optimization for dynamic workloads by exploiting dark cores in [7] A. Pedram, S. Richardson, M. Horowitz, S. Galal, and S. Kvatinsky, “Dark memory and accelerator-rich Zhou, “Multi-objective task mapping approach for wireless noc in dark silicon age,” in Euromicro International Conference on Parallel, Distributed and Network-based Processing (PDP), 2017, pp. 589–592. [23] M. H. Haghbayan, A. Miele, A. M. Rahmani, P. Lil- jeberg, and H. Tenhunen, “A lifetime-aware runtime mapping approach for many-core systems in the dark silicon era,” in Design, Automation Test in Europe Con- ference Exhibition (DATE), 2016, pp. 854–857. [35] H. F. Dadgour and K. Banerjee, “Design and analysis of hybrid nems-cmos circuits for ultra low-power appli- cations,” in ACM/IEEE Design Automation Conference, 2007, pp. 306–311. [24] M.-H. Haghbayan, A. Kanduri, A.-M. Rahmani, P. Lilje- berg, A. Jantsch, and H. Tenhunen, “Mappro: Proactive runtime mapping for dynamic workloads by quantify- ing ripple effect of applications on networks-on-chip,” in Proceedings of the 9th International Symposium on Networks-on-Chip, ser. NOCS ’15, 2015, pp. 26:1–26:8. [36] Y. Zhang, L. Peng, X. Fu, and Y. Hu, “Lighting the dark silicon by exploiting heterogeneity on future processors,” in ACM/EDAC/IEEE Design Automation Conference (DAC), 2013, pp. 1–7. [37] K. Fischer, H. K. Chang, D. Ingerly, I. Jin, H. Kil- ambi, J. Longun, R. Patel, C. Pelto, C. Petersburg, P. Plekhanov, C. Puls, L. Rockford, I. Tsameret, M. Uncuer, and P. Yashar, “Performance enhancement for 14nm high volume manufacturing microprocessor and system on a chip processes,” in In IEEE Inter- national Interconnect Technology Conference / Advanced Metallization Conference (IITC/AMC), 2016, pp. 5–7. [25] T. S. Muthukaruppan, M. Pricopi, V. Venkataramani, T. Mitra, and S. Vishin, “Hierarchical power manage- ment for asymmetric multi-core in dark silicon era,” in 50th ACM/EDAC/IEEE Design Automation Conference (DAC), 2013, pp. 1–9. [26] L. Yang, W. Liu, N. Guan, M. Li, P. Chen, and E. H. M. Sha, “Dark silicon-aware hardware-software collaborated design for heterogeneous many-core systems,” in Asia and South Pacific Design Automation Conference (ASP-DAC), 2017, pp. 494–499. [38] S. Li, J. H. Ahn, R. D. Strong, J. B. Brockman, D. M. Tullsen, and N. P. Jouppi, “Mcpat: An integrated power, area, and timing modeling framework for multicore and manycore architectures,” in Annual IEEE/ACM International Symposium on Microarchitecture (MICRO), 2009, pp. 469–480. [27] X. Wang, A. K. Singh, B. Li, Y. Yang, T. Mak, and H. Li, “Bubble budgeting: throughput optimization for dynamic workloads by exploiting dark cores in many core systems,” in IEEE/ACM International Symposium on Networks-on-Chip (NOCS), vol. PP, no. 99, 2017, pp. 1– 1. [39] C. Sun, C. H. O. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 13 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman many core systems,” IEEE Transactions on Computers, vol. 67, no. 2, pp. 178–192, 2018. [30] M. Li, J. Yi, W. Liu, W. Zhang, L. Yang, and E. H. M. Sha, “An efficient technique for chip temperature optimization of multiprocessor systems in the dark silicon era,” in IEEE International Conference on High Performance Computing and Communications, IEEE 7th International Symposium on Cyberspace Safety and Security, andIEEE 12th International Conference on Embedded Software and Systems, 2015, pp. 688–693. [19] M. Shafique and S. Garg, “Computing in the dark silicon era: Current trends and research challenges,” IEEE Design Test, vol. 34, no. 2, pp. 8–23, 2017. [20] A. M. Rahmani, M. H. Haghbayan, A. Kanduri, A. Y. Weldezion, P. Liljeberg, J. Plosila, A. Jantsch, and H. Tenhunen, “Dynamic power management for many- core platforms in the dark silicon era: A multi- objective control approach,” in IEEE/ACM International Symposium on Low Power Electronics and Design (ISLPED), 2015, pp. 219–224. [31] J. Ng, X. Wang, A. K. Singh, and T. Mak, “Defragmenta- tion for efficient runtime resource management in noc- based many-core systems,” IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 24, no. 11, pp. 3359–3372, 2016. [21] M. Salehi, M. Shafique, F. Kriebel, S. Rehman, M. K. Tavana, A. Ejlali, and J. Henkel, “dsrelim: Power-constrained reliability management in dark- silicon many-core chips under process variations,” in International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS), 2015, pp. 75–82. [32] X. Wang, T. Fei, B. Zhang, and T. Mak, “On runtime adaptive tile defragmentation for resource management in many-core systems,” 2016. g [33] F. Aghaaliakbari, M. Hoveida, M. Arjomand, M. Jalili, and H. Sarbazi-Azad, “Efficient processor allocation in a reconfigurable cmp architecture for dark silicon era,” in IEEE International Conference on Computer Design (ICCD), 2016, pp. 336–343. y y pp [22] A. M. Rahmani, M. H. Haghbayan, A. Miele, P. Lilje- berg, A. Jantsch, and H. Tenhunen, “Reliability-aware runtime power management for many-core systems in the dark silicon era,” IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 25, no. 2, pp. 427– 440, 2017. [34] A. Rezaei, D. Zhao, M. Daneshtalab, and H. Chen, G. Kurian, L. Wei, J. Miller, A. Agarwal, L. S. Peh, and V. Stojanovic, “Dsent - a tool connecting emerging photonics with electronics for opto-electronic networks-on-chip modeling,” in Networks on Chip (NoCS), IEEE/ACM International Symposium on, 2012, pp. 201–210. [28] J. Wang, Z. Chen, J. Guo, Y. Li, and Z. Lu, “Aco-based thermal-aware thread-to-core mapping for dark-silicon-constrained cmps,” IEEE Transactions on Electron Devices, vol. PP, no. 99, pp. 1–8, 2017. [40] H. Y. Cheng, M. Poremba, N. Shahidi, I. Stalev, M. J. Irwin, M. Kandemir, J. Sampson, and Y. Xie, “Eecache: Exploiting design choices in energy-efficient last-level caches for chip multiprocessors,” pp. 303–306, 2014. [29] X. Wang, T. Fei, B. Zhang, and T. S. T. Mak, “On runtime adaptive tile defragmentation for resource management in many-core systems,” Microprocessors and Microsystems - Embedded Hardware Design, vol. 46, no. Part B, pp. 161 – 174, 2016. [41] D. Wendel, R. Kalla, R. Cargoni, J. Clables, J. Friedrich, R. Frech, J. Kahle, B. Sinharoy, W. Starke, S. Taylor, S. Weitzel, S. G. Chu, S. Islam, and V. Zyuban, “The EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 14 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures implementation of power7tm: A highly parallel and scalable multi-core high-end server processor,” pp. 102–103, 2010. [54] H. Bokhari, H. Javaid, M. Shafique, J. Henkel, and S. Parameswaran, “Malleable noc: Dark silicon inspired adaptable network-on-chip,” in Design, Automation Test in Europe Conference Exhibition (DATE), 2015, pp. 1245– 1248. [42] M. O. Agyeman, A. Ahmadinia, and N. Bagherzadeh, “Performance and energy aware inhomogeneous 3d networks-on-chip architecture generation,” IEEE Trans. Parallel Distrib. Syst., 2016. [55] P. Kundu, “On-die interconnects for next generation cmps,âĂİ in workshop on on- and off-chip interconnec- tion networks for multicore systems,” 2006. [43] M. O. Agyeman, W. Zong, J. Wan, A. Yakovlev, K. Tong, and T. S. T. Mak, “Novel hybrid wired-wireless network- on-chip architectures: Transducer and communication fabric design,” in Proceedings of the 9th International Symposium on Networks-on-Chip, NOCS, 2015, pp. 32.1– 32.2. [56] J. Postman, T. Krishna, C. Edmonds, L. S. Peh, and P. Chiang, “Swift: A low-power network-on- chip implementing the token flow control router architecture with swing-reduced interconnects,” IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 21, no. 8, pp. 1432–1446, 2013. [44] M. O. Agyeman and W. Zong, “An efficient 2d router architecture for extending the performance of inho- mogeneous 3d noc-based multi-core architectures,” in International Symposium on Computer Architecture and High Performance Computing Workshops (SBAC-PADW), 2016, pp. 79–84. y pp [57] S. Shenbagavalli and S. Karthikeyan, “An efficient low power noc router architecture design,” in Online International Conference on Green Engineering and Technologies (IC-GET), 2015, pp. 1–8. g pp [58] S. T. Muhammad, M. A. El-Moursy, A. A. El- Moursy, and A. M. Refaat, “Optimization for traffic- based virtual channel activation low-power noc,” in International Conference on Energy Aware Computing Systems Applications, 2015, pp. 1–4. [45] M. O. Agyeman, J. Wan, Q. Vien, W. Zong, A. Yakovlev, K. Tong, and T. Mak, “On the design of reliable hybrid wired-wireless network-on-chip architectures,” in IEEE International Symposium on Embedded Multicore/Many- core Systems-on-Chip, 2015, pp. 251–258. y pp [59] J. Zhan, J. Ouyang, F. Ge, J. Zhao, and Y. Xie, “Hybrid drowsy sram and stt-ram buffer designs for dark- silicon-aware noc,” IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 24, no. 10, pp. 3041–3054, 2016. [46] Y. Hoskote, S. Vangal, A. Singh, N. Borkar, and S. Borkar, “A 5-ghz mesh interconnect for a teraflops processor,” IEEE Micro, vol. 27, no. 5, pp. 51–61, 2007. [47] H. Zheng and A. Louri, “Ez-pass: An energy amp; performance-efficient power-gating router architecture for scalable nocs,” IEEE Computer Architecture Letters, vol. 17, no. 1, pp. 88–91, 2018. [60] N. Nasirian and M. Bayoumi, “Low-latency power- efficient adaptive router design for network-on- chip,” in IEEE International System-on-Chip Conference (SOCC), 2015, pp. 287–291. [48] H. Farrokhbakht, H. M. Kamali, and S. Hessabi, “Smart: A scalable mapping and routing technique for power- gating in noc routers,” in 2017 Eleventh IEEE/ACM International Symposium on Networks-on-Chip (NOCS), 2017, pp. 1–8. [61] L. Chen, D. Zhu, M. Pedram, and T. M. Pinkston, “Power punch: Towards non-blocking power-gating of noc routers,” in IEEE International Symposium on High Performance Computer Architecture (HPCA), 2015, pp. 378–389. [49] T. G. Mattson, M. Riepen, T. Lehnig, P. Brett, W. Haas, P. Kennedy, J. Howard, S. Vangal, N. Borkar, G. Ruhl, and S. Dighe, “The 48-core scc processor: the programmer’s view,” pp. 1–11, 2010. [62] C. Fallin, C. Craik, and O. Mutlu, “Chipper: A low-complexity bufferless deflection router,” in IEEE International Symposium on High Performance Computer Architecture, 2011, pp. 144–155. [50] J. Zhan, Y. Xie, and G. Sun, “Noc-sprinting: Intercon- nect for fine-grained sprinting in the dark silicon era,” pp. 1–6, 2014. pp [63] B. K. Daya, L. S. Peh, and A. P. Chandrakasan, “Towards high-performance bufferless nocs with scepter,” IEEE Computer Architecture Letters, vol. 15, no. 1, pp. 62–65, 2016. [51] J. Howard, S. Dighe, S. R. Vangal, G. Ruhl, N. Borkar, S. Jain, V. Erraguntla, M. Konow, M. Riepen, M. Gries, G. Droege, T. Lund-Larsen, S. Steibl, S. Borkar, V. K. De, and R. V. D. Wijngaart, “A 48-core ia-32 processor in 45 nm cmos using on-die message-passing and dvfs for performance and power scaling,” IEEE Journal of Solid- State Circuits, vol. 46, no. 1, pp. 173–183, 2011. [64] C. Feng, Z. Liao, Z. Lu, A. Jantsch, and Z. Zhao, “Performance analysis of on-chip bufferless router with multi-ejection ports,” in IEEE International Conference on ASIC (ASICON), 2015, pp. 1–4. [65] H. Kim, Y. Kim, and J. Kim, “Clumsy flow control for high-throughput bufferless on-chip networks,” IEEE Computer Architecture Letters, vol. 12, no. 2, pp. 47–50, 2013. pp [52] D. DiTomaso, A. K. Kodi, A. Louri, and R. Bunescu, “Resilient and power-efficient multi-function channel buffers in network-on-chip architectures,” IEEE Trans- actions on Computers, vol. 64, no. 12, pp. 3555–3568, 2015. [66] J. Fang, M. Cai, Z. Leng, and S. Liu, “A perspective from exploiting heterogeneity on networks-on-chip based on dark silicon mitigation,” in International Conference on Computational Science and Computational Intelligence (CSCI), 2016, pp. 590–595. [53] M. Modarressi and H. Sarbazi-Azad, “A reconfigurable network-on-chip architecture for heterogeneous cmps in the dark-silicon era,” in IEEE International Conference on Application-Specific Systems, Architectures and Proces- sors, 2014, pp. 76–77. [67] A. Naik and T. K. Ramesh, “Efficient network on chip (noc) using heterogeneous circuit switched routers,” in International Conference on VLSI Systems, Architectures, Ponomarev, “Dynamic associative caches: Reducing dynamic energy of first level caches,” in IEEE 32nd International Conference on Computer Design (ICCD), 2014, pp. 118–124. g y y pp [73] B. Maric, J. Abella, and M. Valero, “Analyzing the efficiency of l1 caches for reliable hybrid-voltage operation using edc codes,” IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 22, no. 10, pp. 2211–2215, 2014. [87] G. Yalcin, E. Islek, O. Tozlu, P. Reviriego, A. Cristal, O. S. Unsal, and O. Ergin, “Exploiting a fast and simple ecc for scaling supply voltage in level-1 caches,” in IEEE 20th International On-Line Testing Symposium (IOLTS), 2014, pp. 1–6. [74] E. Ofori-Attah, W. Bhebhe, and M. O. Agyeman, “Architectural techniques for improving the power consumption of noc-based cmps: A case study of cache and network layer,” Journal of Low Power Electronics and Applications, vol. 7, 2017. [88] F. Hijaz, Q. Shi, and O. Khan, “A private level-1 cache architecture to exploit the latency and capacity tradeoffs in multicores operating at near-threshold voltages,” in IEEE 31st International Conference on Computer Design (ICCD), 2013, pp. 85–92. [75] E. Ofori-Attah, X. Wang, and M. O. Agyeman, “A survey of low power design techniques for last level caches,” in Applied Reconfigurable Computing. Architectures, Tools, and Applications - 14th International Symposium, Santorini, Greece, May 2-4„ Proceedings, 2018, pp. 217– 228. [89] P. Reviriego, S. Pontarelli, J. A. Maestro, and M. Ottavi, “Low-cost single error correction multiple adjacent error correction codes,” Electronics Letters, vol. 48, no. 23, pp. 1470–1472, 2012. [90] K. Saito, R. Kobayashi, and H. Shimada, “Reduction of cache energy by switching between l1 high speed and low speed cache under application of dvfs,” in International Conference On Advanced Informatics: Concepts, Theory And Application (ICAICTA), 2016, pp. 1–6. [76] E. Ofori-Attah and M. O. Agyeman, “A survey of low power noc design techniques,” in Proceedings of the 2Nd International Workshop on Advanced Interconnect Solutions and Technologies for Emerging Computing Systems, ser. AISTECS, 2017, pp. 22–27. y [77] ——, “A survey of recent contributions on low power noc architectures,” in 2017 Computing Conference, 2017. [91] C. Yan and R. Joseph, “Enabling deep voltage scaling in delay sensitive l1 caches,” in 46th Annual IEEE/IFIP International Conference on Dependable Systems and Networks (DSN), 2016, pp. 192–202. [78] J. Choi and G. H. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 15 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman Technology and Applications (VLSI-SATA), 2016, pp. 1– 6. Exhibition (DATE), vol. 24, no. 3, 2016, pp. 871–883. [82] W. Zhang, H. Zhang, and J. Lach, “Reducing dynamic energy of set-associative l1 instruction cache by early tag lookup,” in IEEE/ACM International Symposium on Low Power Electronics and Design (ISLPED), 2015, pp. 49–54. [68] A. K. Kodi, A. Sarathy, A. Louri, and J. Wang, “Adaptive inter-router links for low-power, area-efficient and reliable network-on-chip (noc) architectures,” in Asia and South Pacific Design Automation Conference, 2009, pp. 1–6. [83] J. Dai, M. Guan, and L. Wang, “Exploiting early tag access for reducing l1 data cache energy in embedded processors,” IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 22, no. 2, pp. 396–407, 2014. [69] C. Li and P. Ampadu, “A compact low-power edram- based noc buffer,” in Low Power Electronics and Design (ISLPED), IEEE/ACM International Symposium on, 2015, pp. 116–121. [84] J. J. Valls, J. Sahuquillo, A. Ros, and M. E. GÃşmez, “The tag filter cache: An energy-efficient approach,” in 23rd Euromicro International Conference on Parallel, Distributed, and Network-Based Processing, 2015, pp. 182–189. [70] J. Lee and S. Kim, “Write buffer-oriented energy reduction in the l1 data cache for embedded systems,” IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 24, no. 3, pp. 871–883, 2016. y pp [71] M. A. Awan and S. M. Petters, “Enhanced race-to- halt: A leakage-aware energy management approach for dynamic priority systems,” in 23rd Euromicro Conference on Real-Time Systems, 2011, pp. 92–101. [85] A. Sembrant, E. Hagersten, and D. Black-Shaffer, “Tlc: A tag-less cache for reducing dynamic first level cache energy,” in Annual IEEE/ACM International Symposium on Microarchitecture (MICRO), 2013, pp. 49–61. f y pp [72] J. A.Artes, J.Ayala and F.Catthoor, “Survey of low- energy techniques for instruction memory organisa- tions in embedded systems,” in Journal of Signal Process- ing Systems 70(1):1-19 January, vol. 70, 2013, pp. 1–19. [86] K. Dayalan, M. Ozsoy, and D. Exhibition (DATE), vol. 24, no. 3, 2016, pp. 871–883. Park, “Nvm way allocation scheme to reduce nvm writes for hybrid cache architecture in chip-multiprocessors,” IEEE Transactions on Parallel and Distributed Systems, vol. 28, no. 10, pp. 2896–2910, 2017. [92] M. P. Komalan, C. Tenllado, J. I. G. PÃľrez, F. T. FernÃąndez, and F. Catthoor, “System level exploration of a stt-mram based level 1 data-cache,” in Design, Automation Test in Europe Conference Exhibition (DATE), 2015, pp. 1311–1316. [79] D. Williamson, “Low power applications, arm.” 2017. [80] S. Chakraborty, D. Deb, D. Buragohain, and H. K. Kapoor, “Cache capacity and its effects on power con- sumption for tiled chip multi-processors,” in Inter- national Conference on Electronics and Communication Systems (ICECS), 2014, pp. 1–6. [93] J. Wang, Y. Tim, W. F. Wong, Z. L. Ong, Z. Sun, and H. H. Li, “A coherent hybrid sram and stt-ram l1 cache architecture for shared memory multicores,” in Asia and South Pacific Design Automation Conference (ASP- DAC), 2014, pp. 610–615. [81] A. Bardizbanyan, M. SjÃďlander, D. Whalley, and P. Larsson-Edefors, “Reducing set-associative l1 data cache energy by early load data dependence detection (eld3),” in Design, Automation Test in Europe Conference [94] J. Li, C. J. Xue, and Y. Xu, “Stt-ram based energy- efficiency hybrid cache for cmps,” in IEEE/IFIP International Conference on VLSI and System-on-Chip, EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 16 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures Large Scale Integration (VLSI-SoC), 2016, pp. 1–6. g g [103] Z. Azad, H. Farbeh, A. M. H. Monazzah, and S. G. Miremadi, “An efficient protection technique for last level stt-ram caches in multi-core processors,” IEEE Transactions on Parallel and Distributed Systems, vol. 28, no. 6, pp. 1564–1577, 2017. [95] F. Shen, Y. He, J. Zhang, N. Jiang, Q. Li, and J. Li, “Feedback learning based dead write termination for energy efficient stt-ram caches,” vol. 26, pp. 460–467, 05 2017. [96] S. Agarwal and H. K. Kapoor, “Restrictingwrites for energy-efficient hybrid cache in multi-core architec- tures,” in IFIP/IEEE International Conference on Very Large Scale Integration (VLSI-SoC), 2016, pp. 1–6. [104] H. Esmaeilzadeh, E. Blem, R. St. Amant, K. Sankar- alingam, and D. Burger, “Power limitations and dark silicon challenge the future of multicore,” ACM Trans. Comput. Syst., vol. 30, no. 3, pp. 11:1–11:27, 2012. [97] R. K. Aluru and S. Ghosh, “Droop mitigating last level cache architecture for sttram,” in Design, Automation Test in Europe Conference Exhibition (DATE), 2017, pp. 262–265. [105] R. G. Dreslinski, M. Wieckowski, D. Blaauw, D. Sylvester, and T. Mudge, “Near-threshold computing: Reclaiming moore’s law through energy efficient integrated circuits,” Proceedings of the IEEE, vol. 98, no. 2, pp. 253–266, 2010. [98] N. Kim, J. Ahn, W. Seo, and K. Choi, “Energy-efficient exclusive last-level hybrid caches consisting of sram and stt-ram,” in IFIP/IEEE International Conference on Very Large Scale Integration (VLSI-SoC), 2015, pp. 183– 188. pp [106] S. Jain, S. Khare, S. Yada, V. Ambili, P. Salihundam, S. Ramani, S. Muthukumar, M. Srinivasan, A. Kumar, S. K. Gb, R. Ramanarayanan, V. Erraguntla, J. Howard, S. Vangal, S. Dighe, G. Ruhl, P. Aseron, H. Wilson, N. Borkar, V. De, and S. Borkar, “A 280mv-to-1.2v wide- operating-range ia-32 processor in 32nm cmos,” in IEEE International Solid-State Circuits Conference, 2012, pp. 66–68. [99] P. Safayenikoo, A. Asad, M. Fathy, and F. Mohammadi, “Exploiting non-uniformity of write accesses for designing a high-endurance hybrid last level cache in 3d cmps,” in IEEE Canadian Conference on Electrical and Computer Engineering (CCECE), 2017, pp. 1–5. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 pp [107] U. R. Karpuzcu, A. Sinkar, N. S. Kim, and J. Torrel- las, “Energysmart: Toward energy-efficient manycores for near-threshold computing,” in IEEE International Symposium on High Performance Computer Architecture (HPCA), 2013, pp. 542–553. [100] A. Asad, O. Ozturk, M. Fathy, and M. R. Jahed- Motlagh, “Exploiting heterogeneity in cache hierarchy in dark-silicon 3d chip multi-processors,” in Euromicro Conference on Digital System Design, 2015, pp. 314–321. [101] S. Onsori, A. Asad, K. Raahemifar, and M. Fathy, “Optmem: Dark-silicon aware low latency hybrid memory design,” in International Conference on VLSI Systems, Architectures, Technology and Applications (VLSI-SATA), 2016, pp. 1–5. [108] J. Wang, x. Fu, W. Zhang, Z. Junwei, K. Qiu, and T. Li, “On the implication of ntc vs. dark silicon on emerging scale-out workloads: The multi-core architecture perspective,” IEEE Transactions on Parallel and Distributed Systems, vol. 28, no. 8, pp. 2314–2327, 2017. [102] S. Chakraborty and H. K. Kapoor, “Static energy reduction by performance linked dynamic cache resizing,” in IFIP/IEEE International Conference on Very 2011, pp. 31–36. EAI Endorsed Transactions on Industrial Networks and Intelligent Systems 06 2018 - 09 2018 | Volume 5 | Issue 15| e5 17 17
https://openalex.org/W4387868912
https://www.frontiersin.org/articles/10.3389/fendo.2023.1236472/pdf?isPublishedV2=False
English
null
Mitochondrial regulation in human pluripotent stem cells during reprogramming and β cell differentiation
Frontiers in endocrinology
2,023
cc-by
15,170
OPEN ACCESS OPEN ACCESS EDITED BY Adriana Migliorini, University Health Network, Canada REVIEWED BY Rangarajan Sambathkumar, University Health Network (UHN), Canada Antonio Citro, San Raffaele Hospital (IRCCS), Italy Paraish Misra, University of Toronto, Canada *CORRESPONDENCE A. M. James Shapiro jshapiro@ualberta.ca Nidheesh Dadheech dadheech@ualberta.ca †These authors have contributed equally to this work RECEIVED 07 June 2023 ACCEPTED 06 October 2023 PUBLISHED 20 October 2023 CITATION Jasra IT, Cuesta-Gomez N, Verhoeff K, Marfil-Garza BA, Dadheech N and Shapiro AMJ (2023) Mitochondrial regulation in human pluripotent stem cells during reprogramming and b cell differentiation. Front. Endocrinol. 14:1236472. doi: 10.3389/fendo.2023.1236472 COPYRIGHT OPEN ACCESS EDITED BY Adriana Migliorini, University Health Network, Canada REVIEWED BY Rangarajan Sambathkumar, University Health Network (UHN), Canada Antonio Citro, San Raffaele Hospital (IRCCS), Italy Paraish Misra, University of Toronto, Canada *CORRESPONDENCE A. M. James Shapiro jshapiro@ualberta.ca Nidheesh Dadheech dadheech@ualberta.ca †These authors have contributed equally to this work RECEIVED 07 June 2023 ACCEPTED 06 October 2023 EDITED BY Adriana Migliorini, University Health Network, Canada REVIEWED BY Rangarajan Sambathkumar, University Health Network (UHN), Canada Antonio Citro, San Raffaele Hospital (IRCCS), Italy Paraish Misra, University of Toronto, Canada Ila Tewari Jasra 1†, Nerea Cuesta-Gomez 1†, Kevin Verhoeff 1, Braulio A. Marfil-Garza 1,2, Nidheesh Dadheech 1* and A. M. James Shapiro 1* 1Clinical Islet Transplant Program, Department of Surgery, Alberta Diabetes Institute, University of Alberta, Edmonton, AB, Canada, 2Tecnologico de Monterrey, The Institute for Obesity Research, Monterrey, Nuevo Leon, Mexico †These authors have contributed equally to this work Mitochondria are the powerhouse of the cell and dynamically control fundamental biological processes including cell reprogramming, pluripotency, and lineage specification. Although remarkable progress in induced pluripotent stem cell (iPSC)-derived cell therapies has been made, very little is known about the role of mitochondria and the mechanisms involved in somatic cell reprogramming into iPSC and directed reprogramming of iPSCs in terminally differentiated cells. Reprogramming requires changes in cellular characteristics, genomic and epigenetic regulation, as well as major mitochondrial metabolic changes to sustain iPSC self-renewal, pluripotency, and proliferation. Differentiation of autologous iPSC into terminally differentiated b-like cells requires further metabolic adaptation. Many studies have characterized these alterations in signaling pathways required for the generation and differentiation of iPSC; however, very little is known regarding the metabolic shifts that govern pluripotency transition to tissue-specific lineage differentiation. Understanding such metabolic transitions and how to modulate them is essential for the optimization of differentiation processes to ensure safe iPSC-derived cell therapies. TYPE Review PUBLISHED 20 October 2023 DOI 10.3389/fendo.2023.1236472 TYPE Review PUBLISHED 20 October 2023 DOI 10.3389/fendo.2023.1236472 Diabetes Mellitus, stem cells, induced pluripotent stem (iPS) cells, islet transplantation, beta cells (b Cells) 1 Introduction by selective autophagy, known as mitophagy, which eliminates faulty mitochondria through lysosomal machinery. Mitophagy is a complex mechanism that selectively segregates damaged or depolarized mitochondria into double-membraned autophagosomes. These autophagosomes are then degraded by lysosomal enzymes. Mitophagy is essential cellular process that plays a significant part in cellular reprogramming because it removes undesired and damaged mitochondria or helps reorganizing mitochondrial network needed for optimal differentiation (11). During differentiation, mitochondria in iPSCs undergo mitophagy cleanup and are then replenished by newly developed mitochondria for adapting to the metabolic needs of the differentiating cells. For example, both somatic cell reprogramming into iPSC and b cell differentiation need NIX-mediated mitophagy (12). Other proteins, such as PINK1 and Parkin (Park2), are known to play important roles in controlling mitophagy in beta cells (13). PDX1, a pancreatic differentiation master regulator transcription factor, has recently been shown to regulate mitophagy in b cells (14). The balance between organelle fusion and fission processes helps maintain the adaptability of the mitochondrial network (15, 16). Mitochondrial fusion has been demonstrated to be a viable method for stress reduction in biological systems. Mitochondria that have been partially damaged can benefit from fusion because it allows for the complementation of their contents. Fission, on the other hand, is critical for the genesis of new mitochondria, but it also serves to maintain quality control by allowing the removal of defective mitochondria. Fission can potentially promote apoptosis in conditions of high cellular stress. The introduction of the reprogramming factors Oct4, Sox2, Klf4, and c-Myc enable the reprogramming of adult somatic cells into induced pluripotent stem cells (iPSC) capable of self-renewal (1, 2). Autologous iPSCs hold promise for applications in precision health and regenerative medicine, disease modelling, and drug screening (3). Although remarkable progress has been made on molecular regulation and methods to achieve pluripotency and subsequent differentiation into lineage-specific cell types, little is known regarding the metabolic shifts that somatic cells must undergo to achieve pluripotency and differentiation into cell types of interest, such as b cells. Currently, the risk of teratogenicity and low reprogramming efficiency interfere with the translation of iPSC-based cell therapies into the clinic. The process of reprogramming adult somatic cells involves transition in cellular characteristics, genomic and epigenetic remodelling in parallel with major metabolic changes to sustain self-renewal and plasticity of iPSCs (4, 5). 1 Introduction Overall, the metabolic shift that occurs during reprogramming consists of decreasing oxidative phosphorylation (OXPHOS) while increasing glycolysis (6–8). Glycolysis is a very inefficient energy generation process; but, if the rate of metabolic flux is high enough, glycolysis can provide enough adenosine triphosphate (ATP) for fast cell multiplication. Glycolysis is also required for nucleic acid, amino acid, and lipid production. Despite the presence of oxygen and functioning mitochondria, increased aerobic glycolysis in iPSCs replicates the Warburg effect, in which cancer and pluripotent stem cells enhance their glucose absorption and lactate fermentation (9). Undifferentiated embryonic stem cells (ESCs) have been found to possess a small number of mitochondria with poorly formed cristae and a perinuclear location (17). ESCs also exhibit a low number of mtDNA copies, but this increases with differentiation and mitochondrial maturation (18). In the case of iPSCs, studies using the mitochondrial dye MitoTracker Green have shown that active mitochondria are primarily found in cells along the boundaries of iPSC colonies, which reflect cells undergoing spontaneous differentiation (10, 18). This supports previous findings that undifferentiated iPSCs have fewer active mitochondria (6, 19). In contrast to the elongated, tubular-shaped, branched, and cristae-rich mitochondria found in somatic cells, iPSC mitochondria are round, globular, spherical, with underdeveloped cristae and a perinuclear distribution (Figure 1). The number and mass of mitochondria are also lower in iPSCs compared to their original somatic cells (18, 20). These observations have led some scientists to propose that the reduction in mitochondria may be associated with mitophagy-like processes induced during the reprogramming process (13, 21, 22). In fact, the autophagy stimulator- rapamycin has been shown to enhance iPSC reprogramming efficiency (20, 23), suggesting a potential link between mitophagy activation and the reduction in mitochondria during reprogramming (24). Rapamycin is a mTOR complex inhibitor that binds to mTOR1 complex and promotes mitophagy and cell survival in response to ER stress (25, 26). It plays an important role in identifying and degrading damaged mitochondria by inducing the expression of genes promoting To date, several studies have investigated the mechanism behind the metabolic shift to glycolysis occurring during somatic cell reprogramming. Furthermore, differentiation of iPSC into specific tissues requires further metabolic adaptation. For this reason, this review article aims to summarize the metabolic transitions that occur in the process of somatic cell reprogramming to iPSC and during optimal iPSC generation and differentiation into b-like cells. OPEN ACCESS In this review, we summarize the current understanding of mitochondrial metabolism during somatic cell reprogramming to iPSCs and the metabolic shift that occurs during directed differentiation into pancreatic b-like cells. CITATION Jasra IT, Cuesta-Gomez N, Verhoeff K, Marfil-Garza BA, Dadheech N and Shapiro AMJ (2023) Mitochondrial regulation in human pluripotent stem cells during reprogramming and b cell differentiation. Front. Endocrinol. 14:1236472. doi: 10.3389/fendo.2023.1236472 COPYRIGHT © 2023 Jasra, Cuesta-Gomez, Verhoeff, Marfil-Garza, Dadheech and Shapiro. This is an open-access article distributed under the terms of the Creative Commons Attribution License (CC BY). The use, distribution or reproduction in other forums is permitted, provided the original author(s) and the copyright owner(s) are credited and that the original publication in this journal is cited, in accordance with accepted academic practice. No use, distribution or reproduction is permitted which does not comply with these terms. COPYRIGHT © 2023 Jasra, Cuesta-Gomez, Verhoeff, Marfil-Garza, Dadheech and Shapiro. This is an open-access article distributed under the terms of the Creative Commons Attribution KEYWORDS Diabetes Mellitus, stem cells, induced pluripotent stem (iPS) cells, islet transplantation, beta cells (b Cells) 01 01 Frontiers in Endocrinology frontiersin.org 10.3389/fendo.2023.1236472 Jasra et al. mitophagy (PINK1, PARKIN, ULK1, AMBRA1) and mitochondrial fission (FIS1, DRP1) (27). provide clear insights into efficient cellular reprogramming and differentiation processes. It is important to note that the mitochondrial characteristics observed in iPSCs are transient and change as the cells differentiate (28, 29). With differentiation into fibroblast-like cells, iPSCs exhibit an increase in mtDNA copy number and undergo mitochondrial maturation, acquiring tubular structures with well-formed cristae, similar to somatic fibroblasts (30). These findings highlight the adaptability of iPSCs and their mitochondria and have sparked considerable interest in the field in characterizing iPSCs for their function and mitochondrial metabolism. 2 Mitochondrial characteristics of iPSC Mitochondria play a crucial role in cellular energy production through oxidative phosphorylation (OXPHOS), generating ATP in all nucleated cells (4). They consist of the electron transport respiratory chain (ETC) complexes I-IV and the ATP synthase complex V (10). During the reprogramming of human induced pluripotent stem cells (iPSCs), changes occur in various mitochondrial characteristics, including number, mitochondrial DNA (mtDNA), shape, ultrastructure, and distribution, as part of the metabolic transition from OXPHOS to glycolysis. The subcellular composition and distribution of mitochondria are highly dynamic, and the organelles undergo turnover facilitated Frontiers in Endocrinology 02 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 FIGURE 1 Schematic representation of the mitochondrial architectural changes during somatic cell reprogramming and differentiation of iPSCs into b cells. Somatic cells undergo reprogramming to generate iPSCs, which can be re-differentiated into specialized terminal cells. This process leads to changes in the metabolic signature for mitochondria size, number, shape, fragmentation pattern (fission vs fusion), mtDNA homo/heteroplasmy, oxidative stress and metabolic pathways. Somatic cells are characterized by the presence of high number of elongated mitochondria which have a highly active OXPHOS metabolism that generates high concentrations of ROS. Reprogramming results in fission of the mitochondria that results in immature, fragmented, spherical, and perinuclear mitochondria with condensed cristae. Differentiation of iPSCs to terminal b cells requires the fusion of mitochondria to generate large numbers of enlarged mature and cristae-rick mitochondria resulting in a transition from glycolysis to OXPHOS. FIGURE 1 Schematic representation of the mitochondrial architectural changes during somatic cell reprogramming and differentiation of iPSCs into b cells. Somatic cells undergo reprogramming to generate iPSCs, which can be re-differentiated into specialized terminal cells. This process leads to changes in the metabolic signature for mitochondria size, number, shape, fragmentation pattern (fission vs fusion), mtDNA homo/heteroplasmy, oxidative stress and metabolic pathways. Somatic cells are characterized by the presence of high number of elongated mitochondria which have a highly active OXPHOS metabolism that generates high concentrations of ROS. Reprogramming results in fission of the mitochondria that results in immature, fragmented, spherical, and perinuclear mitochondria with condensed cristae. Differentiation of iPSCs to terminal b cells requires the fusion of mitochondria to generate large numbers of enlarged mature and cristae-rick mitochondria resulting in a transition from glycolysis to OXPHOS. mitophagy (PINK1, PARKIN, ULK1, AMBRA1) and mitochondrial fission (FIS1, DRP1) (27). 3 Metabolic features of iPSC When compared to somatic cells, iPSCs have a higher rate of proliferation and diverse cell cycle properties, such as a shorter G1 phase and a longer S phase (31). As a result, a significant portion of cellular energy is committed in constructing the biomass required for ongoing cell development while maintaining the undifferentiated state. In addition, pluripotency maintenance by exogenous pluripotency-associated transcription factors, need greater anabolic requirements to carry out significant chromatin state, gene expression, and signal transduction modulation, allowing somatic cells conversion into iPSCs (32). In conclusion, the characteristics of mitochondria in iPSCs undergo changes during reprogramming, including alterations in number, mtDNA, shape, ultrastructure, and distribution but remain stable during prolong cell generations, as connected with the pluripotency state. Mitochondrial characteristics associated with the metabolic transition from OXPHOS to glycolysis undergo substantial changes only upon directed differentiation only. Thus, understanding the functional and metabolic implications of these mitochondrial features in iPSCs, while maintaining pluripotency and upon differentiation, is an important area of research that can Glycolysis provides more than just ATP for fast growth. Furthermore, glycolytic pathway intermediaries supply precursors for fatty acid and amino acid synthesis, which are essential to sustain iPSC biomass (15). Even in the presence of oxygen, iPSCs preferentially convert glucose to lactate, just like growing tumor Frontiers in Endocrinology frontiersin.org 03 10.3389/fendo.2023.1236472 Jasra et al. mitochondria number with reduced DY and oxidative capacity, can explain for glycolytic metabolism of stem cells. Changes in DY is suggested to be a predictive indicator of self-renewal, lineage commitment and to select optimal stem cell population with enhanced pluripotency and differentiation potential. Recently, Woods and colleagues performed a metabolic study with pluripotent stem cells to show that stem cells with lower average DY more efficiently drive into primordial germ-like cells (36). In culture, human iPSCs are discovered to inherit higher DY, and this hyperpolarization is thought to be a result of decreased ATP generation via OXPHOS but more pronounced glycolysis-based energy flux (33, 37). High DY in cells allow them to handle the rising energy demands for stemness and pluripotency, where the mitochondrial ATP synthase hydrolyzes the ATP generated from glycolysis and supply the instant energy demand for early cells (33). This glycolytic state is linked to the cellular reprogramming process, which ensures the appropriate ATP demand required for pluripotency. 3 Metabolic features of iPSC Indeed, bioenergetic investigations have revealed that, as compared to somatic cells, iPSCs create a significant quantity of lactate while producing less ATP and consuming less oxygen, which fits with the few immature mitochondria observed on iPSCs (Figure 2) (34). iPSCs, on the other hand, primarily oxidize glucose via cytosolic glycolysis to create ATP, whereas somatic cells have highly structured, cristae- rich, and respiratory-active mitochondria to feed their energy demands via OXPHOS. As a result, mitochondrial ultrastructure, number, and resting mitochondrial membrane potential (DY) in iPSCs are significantly different. Despite mitochondrial immaturity, DY plays an important role in mitochondrial homeostasis by selectively eliminating defective mitochondria (35). Low A B FIGURE 2 Schematic representation of the key metabolic mechanistic pathways for energy generation in (A) iPSCs and (B) b cells. Glycolysis breaks down glucose into two molecules of pyruvate which can enter the mitochondria upon oxidative decarboxylation into acetyl CoA in the mitochondrial matrix. Acetyl-CoA then enters in the TCA cycle where it is oxidized for energy production and/ or for the generation of metabolic intermediates for fatty acid and nucleotide biosynthesis. Metabolic intermediates that arise throughout glycolysis, including glucose-6-phosphate, fructose-6- phosphate, and dihydroxyacetone phosphate (DHAP), provide the scaffolds for fatty acids and amino acids synthesis required to support the increasing biomass. Several key molecular mechanisms regulating the mitochondrial metabolic homeostasis are represented with numbers in this figure. (A) For iPSCs, three mechanisms are summzied as (1), pluripotency phenotypes (naïve vs prime)- responsible for metabolic shift between glycolysis and OXPHOS (2); mitochondrial genes affecting pluripotency genes expression to help regulating optimal glycolytic function in iPSCs; (3) Nutritional requirements facilitating glycolytic pathway for lactate production. (B) Mechanisms in human b cells include, (1) islet maturation associated genes contribute to achieve metabolic homeostasis; (2) repression of disallowed genes improves mitochondrial function and high ATP production; (3) screening mtDNA mutations will further help eliminating the risk of mitochondrial dysfunction; (4) genomic regulation of mitochondrial genes; (5) Nutritional control for ATP production and maturation; and (6) increased ROS production as a result of high mitochondrial function and respiration. A B A A FIGURE 2 Schematic representation of the key metabolic mechanistic pathways for energy generation in (A) iPSCs and (B) b cells. Glycolysis breaks down glucose into two molecules of pyruvate which can enter the mitochondria upon oxidative decarboxylation into acetyl CoA in the mitochondrial matrix. 3 Metabolic features of iPSC Genes regulating gluconeogenesis, glycolysis's first and last steps, and the non-oxidative branch of the pentose phosphate pathway (PPP) are upregulated in iPSCs compared to somatic fibroblasts, favoring glycolysis and the diversion of glycolytic intermediates into the PPP, which provides nucleotide precursors necessary for anabolic growth (38). Metabolite analysis indicated that iPSCs accumulate more glucose-6-phosphate than somatic fibroblasts, indicating PPP activation (34, 38). The glycolytic state of iPSCs may be phenocopied mechanistically by inhibiting pyruvate transport into mitochondria (pyruvate shunting), resulting in decreased availability of pyruvate as a substrate for the tricarboxylic acid cycle (TCA) and increased conversion of pyruvate to lactate in the cytosol (37, 39). As a result, 3-Phosphoinositide-dependent kinase1 (PDK1), a small molecule activator has been found to greatly improve the effectiveness of cellular reprogramming (39) . Furthermore, iPSCs may have significant levels of oxidized pyruvate kinase isoform M2 (PKM2), which has reduced catalytic activity. Because of the decreased catalytic activity, reduced phosphoenolpyruvate is converted to pyruvate, shifting energy flow beyond the mitochondria to upstream glycolysis-related processes (40).. In both normoxic (21% O2) and hypoxic (1-5% O2) circumstances, iPSCs prefer glycolysis over OXPHOS. Although, iPSCs thrive better in hypoxic condition, despite having a 19-fold better ATP production efficiency than glycolysis, iPSCs are unable to adopt OXPHOS-based metabolism in the absence of accessible oxygen (5). It has been proposed that higher ATP levels in iPSCs, irrespective of maintenance oxygen circumstances, allow cells to undergo glycolysis. It has also been shown that lack of oxygen during reprogramming may impede mitochondrial remodelling, preventing cells from achieving higher levels of OXPHOS in iPSCs (41). Human iPSCs show high levels of mitochondrial uncoupling protein UCP2 compared to somatic cells, which regulates glutamine and glucose oxidation for self-renewal capacity (47). High-lipid supplements are essential for iPSC self-renewal and glycolytic mode of action and should be removed during cell differentiation. DRP-1 protein inhibition in mitochondria facilitates early reprogramming process by increasing reduced expression-1 (REX1) expression to maintain pluripotency. In somatic cell reprogramming, MAPK inhibition is required for DRP1 phosphorylation via ERK pathway. Particularly, depletion in fusion protein Mfn1/2 plays key mechanistic role in OXPHOS transition into glycolytic states followed by ROS mediated HIF1a activation to favor hypoxic reprogramming. During differentiation, DRP1 activity plays a crucial mechanism in cellular lineage patterning for cardiac, muscle, and neuronal cells (48–50). 3 Metabolic features of iPSC However, in islet cell differentiation, Mfn1/2 and OPA1 play central roles, instead of DRP1, to switch from glycolysis to OXPHOS. Additionally, ROS generation during cell differentiation alters DRP1 and Fis1 expression leading to increased mitochondrial fission. The mechanism associated in the process requires recruitment of protein disulfide isomerase A1 (PDIA1), OPA1, and Sirtuin 4 to induce fission while regulating mitophagy (51). Mitochondria are the principal source of harmful reactive oxygen species (ROS), which are common by-products of OXPHOS (42). ROS can then cause oxidative damage to DNA, proteins, or lipids, which antioxidant enzymes can prevent (43). If this regulated redox equilibrium (ratios of reduced/oxidized cofactors and proteins- NAD (P)H/NAD(P)+ and GSH/GSSG) is disrupted, oxidative stress can develop, resulting in negative cellular consequences, a circumstance that is expected to occur during the ageing process and age-related neurodegeneration (44). As a result, in the context of redox balance, iPSC glycolytic metabolism offers additional benefits. To begin with, it reduces ROS generation by decreasing mitochondrial respiration. Second, by increasing the flow via the PPP's oxidative branch, it supplies the reducing component nicotinamide adenine dinucleotide phosphate hydrogen NADPH, which is essential for antioxidant enzyme activity (45). To summarize, iPSCs utilize glycolysis as their main pathway for energy production, and primarily dependent on fatty acid or amino acid precursors for their metabolic demands to achieve unrestrained expansion. Furthermore, the preference of glycolysis over OXPHOS results in a reduction of ROS generation, which in combination with increased stress defense mechanisms, results in extended cell survival with maximal safeguard from genome instability (52). 3 Metabolic features of iPSC Acetyl-CoA then enters in the TCA cycle where it is oxidized for energy production and/ or for the generation of metabolic intermediates for fatty acid and nucleotide biosynthesis. Metabolic intermediates that arise throughout glycolysis, including glucose-6-phosphate, fructose-6- phosphate, and dihydroxyacetone phosphate (DHAP), provide the scaffolds for fatty acids and amino acids synthesis required to support the increasing biomass. Several key molecular mechanisms regulating the mitochondrial metabolic homeostasis are represented with numbers in this figure. (A) For iPSCs, three mechanisms are summzied as (1), pluripotency phenotypes (naïve vs prime)- responsible for metabolic shift between glycolysis and OXPHOS (2); mitochondrial genes affecting pluripotency genes expression to help regulating optimal glycolytic function in iPSCs; (3) Nutritional requirements facilitating glycolytic pathway for lactate production. (B) Mechanisms in human b cells include, (1) islet maturation associated genes contribute to achieve metabolic homeostasis; (2) repression of disallowed genes improves mitochondrial function and high ATP production; (3) screening mtDNA mutations will further help eliminating the risk of mitochondrial dysfunction; (4) genomic regulation of mitochondrial genes; (5) Nutritional control for ATP production and maturation; and (6) increased ROS production as a result of high mitochondrial function and respiration. 04 Frontiers in Endocrinology frontiersin.org 10.3389/fendo.2023.1236472 Jasra et al. and DNA, ensuring maximum safeguard against genome instability in the undifferentiated state (20). As a result, it has been proposed that the cellular metabolome of iPSCs has an abundance of unsaturated metabolites that are extremely vulnerable to oxygenation and hydrogenation processes (18), enabling iPSCs to adapt swiftly to increased metabolic oxidation by initiating differentiation programmes, a mechanism known as "chemical plasticity". In this process, undifferentiated stem cells attain their low oxidative state of metabolomes, which are concentrated in highly unsaturated metabolites. Once differentiated, such metabolites decreased dramatically with a marked increase in newly hydrogenated and oxygenated compounds. The phenomenon is an akin to cell plasticity, and therefore known as chemical plasticity (46). It is worth noting that the addition of certain cell stage-specific metabolites or modifications of related metabolic pathways consistently promoted stem cell self-renewal or facilitate specific differentiation, highlighting the role of metabolic products in defining cell fate. differentiation or lineage specification. Despite immaturity, mitochondria in iPSCs are still capable of producing sufficient ATP from OXPHOS and consuming oxygen (34, 38). Specific transcriptional fingerprints can also be used to identify an iPSC's metabolic profile. Frontiers in Endocrinology 4.2 Upregulation of glycolysis Upregulation of proteins involved in glycolysis occurs early and is maintained throughout the reprogramming process up until the generation of established iPSCs (33). This upregulation of glycolytic enzymes is consistent with an increase in lactate production (58, 63). Hypoxia-related genes Hif1ɑ and Hif2ɑ are upregulated during the early stages of reprogramming because of increased glycolysis. In early stages of reprogramming, Hif1ɑ and Hif2ɑ increase the expression of glycolytic enzymes, while at later stages Hif2ɑ induces apoptosis through tumor necrosis factor-related apoptosis-inducing ligand (64). The mechanism for the selective clearance of defective mitochondria was first described by Fan et al. in their initial study (54). Later, Pei et al. screened all four Yamanaka factors (Oct4, Sox2, Klf4, and c-Myc) and discovered that they all work together to suppress mTOC1. However, the study outlined specific its mechanism mediated via Klf4 and c-Myc factors restraining mTOR complex to activate ATG5-dependent autophagy while Sox2 and Oct4 repress mTOR1 and bifurcate in autophagy-related gene suppression (Ulk1 and Atg genes) (55). Furthermore, Ding et al. showed that an ATG5-independent autophagic pathway is indispensable for iPSC induction, since inhibition of ATG-5 dependent canonical pathway inhibits autophagy of mature mitochondria which is critical for the metabolic shift (56). Although the relationship between the pluripotency reprogramming factors and the autophagy pathway genes remain controversial, further investigations are required to descend the observed differences in somatic reprogramming and directed differentiation methodologies. Overall, the published studies supported the notion that a decline in mitochondrial number may be vital for iPSC reprogramming. Glycolysis is not only favored by upregulation of the glycolytic enzymes, but also by post-transcriptional regulation of other key metabolic enzymes. Pyruvate dehydrogenase (PDH) connects glucose and fatty acid oxidation by converting pyruvate to acetyl- CoA, augmenting the input of acetyl-CoA from glycolysis into the TCA cycle. The protein levels of pyruvate dehydrogenase kinase 1 (PDHK1), a negative regulator of PDH activity through phosphorylation, are increased during reprogramming, which decreases conversion of pyruvate into acetyl-CoA and hence, favoring the generation of lactate (5). Reprogramming induces the generation of PKM2 instead of PKM1 via alternative splicing (65). Pyruvate kinase catalyzes the generation of pyruvate from phosphoenolpyruvate, and PKM2 has lower catalytic activity than PKM1, decreasing the generation of pyruvate available for OXPHOS and hence, enhancing glycolytic activity (66). Furthermore, there is also a reduction in mitochondrial size through mitochondrial fission. 4 Mitochondrial physiology during reprogramming and differentiation To ensure extended cell survival and proliferation capacity, iPSCs increase their stress-protective mechanisms and acquire a strictly restrained redox state via upregulation of antioxidant enzymes such as uncoupling protein 2 and superoxide dismutase 2, resulting in low levels of oxidatively-modified proteins, lipids, Cellular reprogramming requires extensive mitochondrion architectural reorganization and metabolic shift to balance the need for pluripotency and self-renewal. In this section we Frontiers in Endocrinology frontiersin.org 05 10.3389/fendo.2023.1236472 Jasra et al. describe key morphological, genetic, or epigenetic factors and metabolic states that regulate iPSC reprogramming and terminal cell differentiation. increases reprogramming efficiency by enabling HIF1a stabilization and facilitating the transition from OXPHOS to glycolysis (57). Similarly, Klf4, also lowers the mitochondrial content and OXPHOS during reprogramming through inhibition of mitochondrial polynucleotide phosphorylase (PnPase) (58, 59) . PnPase maintains mitochondrial homeostasis through facilitating the import of nucleus-encoded RNA required for mtDNA replication, transcription and translation (60) . Klf4 regulates PnPase through T-cell leukemia/ lymphoma 1 (Tcl1), which is induced during late reprogramming and suppresses the activity of PnPase lowering the mitochondrial content and OXPHOS (5). 4.1 Morphological and numerical changes of mitochondria and subunit composition The role of mitophagy and mitochondrial dynamic fission is critical process of reprogramming somatic cells into iPSCs. During reprogramming, mitochondria adopt a rejuvenated state (condition of attaining youthful characteristics after somatic reprogramming) (33, 53) through elusive mechanisms that include mitochondrial fission and mitophagy (21). It suggests that the autophagy mediated regulation of mitochondrial dynamics can selectively target dysfunctional mitochondrial clearance, leading to cellular changes such as increased glucose uptake and a shift from mitochondrial respiration to glycolysis. This metabolic shift is important for achieving pluripotency. Mitophagy facilitates glycolysis which is not as result of mitochondrial biogenesis but attributed to increased formation of autophagic acidic vesicles enclosing the dysfunctional mitochondria. Studies also suggest that autophagy inducers and mTOR inhibitors can enhance the efficiency of iPSC generation without compromising pluripotency due to mTOR-regulated changes in mitochondrial fission and fusion. The process of mTOR complex inhibition controls size, morphology, and number of mitochondria suggesting that increased mitophagy enable successful somatic reprogramming while mitophagy abrogation leads to cell senescence. To facilitate the energetic shift, during early reprogramming stages the expression of the subunit proteins in complexes I and IV is downregulated while there is an increased expression of proteins in complexes II, III and V of the electron transport chain (61). Alterations in the stoichiometry of the different subunits results in functional changes of the mitochondria. The low expression of complex I and high expression of complex II enhances the reduction of flavin adenine dinucleotide (FAD+) to FADH2 over the reduction of nicotinamide adenine dinucleotide (NAD+) to NADH, which in combination with decreased expression of complex IV, reduces O2 to H2O. Resulted transient burst of OXPHOS activity in turn promotes glycolysis and the metabolic shift (62). Frontiers in Endocrinology 4.3 Remodelling of alternative mitochondrial metabolic pathways Functional potential of iPSC-derived cells is suggested to be closely linked to mitochondrial genome, epigenetic regulation and mtDNA heteroplasmy (24, 74). iPSC reprograming remodels the existing epigenetic memory and establishes a new epigenetic profile that complies iPSC identity and pluripotency (75). The activity of mitochondrial metabolites produced by the TCA cycle regulate DNA methylation and chromatin changes during cellular reprogramming. It has been suggested that somatic reprogramming is associated with improved expression of acetyl- CoA, -ketoglutarate, NADH/NAD pool, and TCA cycle product such as citrate and succinate (54). The metabolites, in turn, control chromatin machinery involved in development and proliferation via acetylating histones proteins (49, 55). Acetyl-CoA supplies the requisite acetyl groups to initiate the reaction specifically required for histone acetylation process carried out by histone acetyltransferases (HATs). HATs are responsible for addition of acetyl groups in histone N-terminal trials and alter the dynamics of chromatin to drive the epigenetic control of gene expression by activating transcriptional programs. They are highly dependent on glucose availability, fatty acid oxidation and mitochondrial respiration. Mitochondrial TCA cycle acetyl-CoA generating enzyme- ACLY is responsible for cytosolic entry of citrate to synthesize acetyl-CoA which directly controls the histone modification process. Further, histone demethylases like Jumonji C domain-containing (JMJD) family histone demethylases and ten- eleven translocation (TET) DNA demethylases, as well as a- ketoglutarate (aKG), all require this component. aKG provides a substrate for chromatic modifying enzymes and its availability has a direct impact on gene expression for cellular fate decisions by regulating histone and DNA demethylases (76). In addition, succinate, a by-product of 2-oxoglutarte dependent dioxygenases (2-OGDD) enzyme processes from aKG, when it builds up, it acts as an antagonist to the reaction. Through the inhibition of histone and DNA demethylases, 2-HG and fumarate can also change the way that cells express their epigenetic information. Notably, the Despite the switch from OXPHOS to a highly glycolytic state being a driving force for reprogramming (33), adaptations in lipid and amino acid metabolism pathways are also relevant during nuclear reprogramming (8). De novo fatty acid biogenesis promotes somatic cell reprogramming efficiency and pluripotency maintenance by regulating mitochondrial fission. Nuclear reprogramming enhances the expression of acetyl-CoA carboxylase 1 (ACC1), which catalyzes the irreversible carboxylation of acetyl-CoA to malonyl-CoA, the building block of fatty acid synthesis (70). 4.2 Upregulation of glycolysis c-Myc, an important reprogramming factor, elicits the activation of DRP1, which induces active fragmentation resulting in smaller mitochondria with high OXPHOS. Inhibition of DRP1 (21) or induction of mitochondrial fusion proteins MFN1 and MFN2 suppresses reprogramming (57), while inhibition of MFN1 and MFN2 At later stages of reprogramming, core pluripotency factors Oct4, Sox2, Nanog, c-Myc, are directly involved in the maintenance of aerobic glycolysis. In reprogrammed stem cells, the core Frontiers in Endocrinology 06 frontiersin.org 10.3389/fendo.2023.1236472 Jasra et al. derived AGEs, which are associated with several degenerative disorders including diabetes, chronic kidney disease and Alzheimer’s disease (17). However, despite the metabolic switch from OXPHOS to glycolysis, the number of methylglyoxal-derived AGEs accumulated in somatic cells gradually decreases during reprogramming until it is found absent in established iPSCs (72). During early stages of cellular reprogramming, Klf4 and c-Myc induce the expression of glycine decarboxylase (GLDC), the rate limiting enzyme in the serine/glycine biosynthesis pathway, where 3- phosphoglycerate is used for the generation of serine and glycine. GLDC promotes the upregulation of glycolysis and the serine/glycine pathway while suppressing the generation of methylgloxal-derived AGEs (72). Upregulation of GLDC promotes reprogramming while inhibition of GLDC induces the accumulation of AGE in iPSC and reverses pluripotency, showing the relevance of amino acid metabolism in induction and maintenance of pluripotency (73). pluripotency transcription factors, commonly referred to as CPTFs, interact with the promoters of genes encoding glycolytic enzymes, namely hexokinase 2 (HK2) and pyruvate kinase M2 (PKM2), to effectively drive transcription and significantly enhance glycolytic flux. The metabolic coordination exhibited by CPTFs strongly suggests their indispensable role for modulating mitochondrial metabolism controlling pluripotency (67). Oct4 directly upregulates the expression of hexokinase (HK)-2, and PKM2 (68). HK generates glucose-6-phospate in the first step of glycolysis, which combined with a low conversion of phosphoenolpyruvate to pyruvate, maintains a high glycolysis rate (68). The inhibition of HK2 produces a metabolic shift from glycolysis to OXPHOS resulting in the loss of pluripotency (69). Furthermore, through Tcl1 expression induction, Klf4 directs metabolic shift during reprogramming by (a) enhancing glycolysis and (b) diminishing OXPHOS. Tcl1 stimulates protein kinase B, also known as Akt, that promotes glucose metabolism by enhancing glycolysis and inhibits PnPase to diminish OXPHOS (58). Frontiers in Endocrinology 4.5 Transient hyper-energetic state Somatic cells that are highly reliant on glycolysis appear to undergo more efficient reprogramming than cells with an OXPHOS phenotype (40). Moreover, induction of glycolysis enhances reprogramming while induction of OXPHOS or inhibition of glycolysis hampers this process (33), suggesting that the metabolic shift is not a consequence of reprogramming but a driving force. It has been suggested that metabolic changes during reprogramming are driven by shift in metabolic demands. However, while examining gene expression patterns, scientists discovered that early in the reprogramming process, both OXPHOS and genes related to glycolysis reached their highest levels of expression (78). The presence of mitochondrial proteins and OXPHOS increases by day three of reprogramming (79) resulting in a transient hyper- energetic state where cells show both increased glycolysis and OXPHOS (80). c-Myc plays an essential role for the induction of this transient hyper-energetic state by strongly upregulating the estrogen-related nuclear receptors (ERR) ERRa and ERRb, which control the expression of genes involved in the TCA and OXPHOS (81). Estrogen-related nuclear receptors (ERR) are a group of nuclear receptors involved in regulating genes related to energy metabolism and mitochondrial function. ERRa (Estrogen-related receptor alpha) and ERRb (Estrogen-related receptor beta) are two members of this receptor family. While their name suggests a connection to estrogen, they do not bind estrogen like classical estrogen receptors. Instead, they are considered orphan receptors Pancreatic b cells adjust insulin secretion in response to circulating blood glucose, which is controlled by the equilibrium between glycolysis and OXPHOS. Disruption of OXPHOS results in impaired glucose stimulated insulin secretion (GSIS), showcasing the essential role of mitochondrial metabolism in the orchestration of b cell function (73). In healthy, non-diabetic b cells, glucose sensing and insulin secretion is controlled by the glucokinase and the ATP production through OXPHOS (83). Briefly, glucose transporter (GLUT) 1 facilitates the diffusion of glucose into the cytosol of b cells, which gets phosphorylated by glucokinase, initiating glycolysis and generating pyruvate (84, 85). Two molecules of pyruvate per molecule of glucose are then imported into the mitochondria and into the TCA, initiating the transfer of electrons generated throughout the TCA to the respiratory chain via NADH and FADH2 and the subsequent OXPHOS mediated ATP production. Mitochondrial phosphoenolpyruvate carboxykinase (PEPCK-M) converts malate into phosphoenolpyruvate, which re-enters into TCA to sustain the mitochondrial metabolism and OXPHOS for continued ATP production (86). 4.3 Remodelling of alternative mitochondrial metabolic pathways In this manner, ACC1 decreases the availability of acetyl-CoA in the cytoplasm, which promotes the degradation of mitochondrial fission 1 protein (Fis1), and thus, decreases mitochondrial fission. However, increased de novo fatty acid synthesis decreases cellular acetyl-CoA levels, resulting in stabilization of Fis1 and increased mitochondrial fission which enhances reprogramming (21). In addition, nuclear reprogramming induces the upregulation of caritinine palmiltoytransferase 1B, which transfers the acyl group from coenzyme A to carnitine, enabling the transfer of long-chain fatty acids into mitochondria. Addition of palmitoylcarnitine, the product of caritinine palmiltoytransferase 1B, stimulates OXPHOS during early reprogramming, which fosters a transient hyper-energetic state (71). At later stages of reprogramming, palmitoylcarnitine does not increase OXPHOS but generates acetyl- CoA inside the mitochondria, which is converted into citrate by-citrate synthase and exits the mitochondria generating cytosolic acetyl-CoA, which maintains the open state of the chromatin structure, and thus, pluripotency through acetylation of histones (71). Here we described alternative mitochondrial metabolic pathways that induce reprogramming other than previously mentioned. Although contradicting to mitochondrial fusion, iPSC in certain specific culture conditions could attain stemness and somatic reprogramming when treatment differently, early-on. Excessive glycolysis is associated with the accumulation of advanced glycation end products (AGEs), including methylglyoxal- Frontiers in Endocrinology 07 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 because their exact endogenous ligands (activating molecules) are not well-defined. largest histone variation- macroH2A has a reductional explanation that controls this specific epigenetic signature to iPSCs during the somatic state to pluripotency state transition (61). ERRa and ERRb primarily regulate genes involved in energy metabolism, mitochondrial biogenesis, and oxidative phosphorylation. They help coordinate the expression of genes related to processes like glucose and fatty acid metabolism, making them important for cellular energy production. These receptors can respond to changes in metabolic demands within cells and are also involved in the development of various tissues and organs. Their activity is influenced by co-regulators and environmental factors, allowing them to adapt to different cellular contexts. Furthermore, ROS and the master regulator of cellular resistance to oxidants and activates nuclear factor erythroid 2– related factor 2 (Nrf2) which play an important role in the epigenetic remodelling of iPSCs during reprogramming (5). High amounts of ROS generated from OXPHOS results in HIF1a induction which serve as a signal to modify cysteine residues on Kelch like ECA associated protein 1 (Keap1). 4.3 Remodelling of alternative mitochondrial metabolic pathways Keap1 is an adaptor subunit of Cullin 3-based E3 ubiquitin ligase and directly regulates the activity of Nrf2 to acts as a sensor for oxidative and electrophilic stresses, KEAP1, the repressor of Nrf2, resulting in Nrf2 activation, and the subsequent interaction with HIF1a to induce the metabolic shift towards glycolysis as well as PPP and increase in nucleic acid synthesis (4). Furthermore, Nrff2 is a pivotal regulator of self- renewal, proliferation, and differentiation where High levels of ROS will modify KEAP1 and NRF2 activity to allow them freely to interact with bind Oct4 and Nanog promoters for self-renewal induction while maintaining pluripotency (77). The key players in the process are c-Myc, Lin28, PARP1, and ROS associated genes such as GSR, SOD2, MGST1 and MAPK26 (74). During differentiation, the metabolic shift resulting in increased ROS and DNA damage controls macroH2A1 expression and suppresses PARP1, which is under control of cMyc. PARP1 inhibition promotes the methylation of Sox2, Oct4 and Nanog promoters, inhibiting their transcription and hence, promoting differentiation. c-Myc alone can produce as robust OXPHOS as the combination of Oct4, Sox2, Klf4 and c-Myc together (81). Cells that achieve a transient hyper-energetic state possess high DY, which is a strong indicator of cells that will successfully acquire pluripotency (81). Despite the role of a transient hyper-energetic state in the metabolism switch, this state causes DNA damage, especially de novo copy number variations, and is detrimental for the genomic stability of the cells (82). However, we hypothesize that increased OXPHOS at the beginning of reprogramming is essential to promote the activation of Nrf2 and induce HIF1 and the subsequent transcription of glycolytic and PPP genes required to achieve and sustain pluripotency. Frontiers in Endocrinology 4.5 Transient hyper-energetic state PEPCK-M activity depends on mitochondrial GTP generated because of the activity of the GTP- specific isoform of succinyl CoA-synthetase (SCS-GTP) (87). In mammals, SCS is a heterodimer and is located within the mitochondria. Succinyl-CoA synthetase (SCS; also known as succinate-CoA ligase) is responsible for breaking down succinyl- Frontiers in Endocrinology 08 frontiersin.org 10.3389/fendo.2023.1236472 Jasra et al. CoA to succinate and CoA, accompanied by the phosphorylation of NDP (ADP or GDP) to NTP (ATP or GTP) in the citric acid cycle. ATP production results in an increased cytosolic ATP/ADP ratio, promoting the closure of ATP dependent K+ channels and hence, the depolarization of the mitochondrial membrane that induces the influx of Ca2+ into the cytoplasm through voltage dependent Ca2+ channels. It is the influx of cytosolic Ca2+ upon initiation of glycolysis by the glucokinase what triggers insulin secretion (88, 89). In the presence of low concentration of blood glucose, K+ channels in the cell membrane are open and Ca2+ channels are closed, preventing insulin release. Under these circumstances, fatty acid oxidation generates enough ATP to maintain basal levels of insulin secretion (88). mitochondrial biogenesis regulator peroxisome proliferator- activated receptor gamma coactivator 1- increased considerably, which is required for sustaining TCA gene expression (98). More recently, Jiang et. al., showed that mitochondria play crucial role in iPSC-derived definitive endoderm (DE) cell differentiation mainly by regulating ATP and ROS. Mitochondria actively participate in DE differentiation to accomplish OXPHOS by producing ATP and ROS. If mitochondrial defects persist in human iPSCs then combined approach using ATP and nicotinamide can be useful to rescue optimal DE differentiation (101). Mitochondrial DY increases upon differentiation to DE and thereafter, suggesting the maturation of the respiratory chain which, in combination with increased mitochondrial mass, results in elevated intracellular ATP levels that provide energy for differentiation until stage-6 (98). Inhibition of TGF-b signaling disturbs the increase of ATP levels and hampers optimal differentiation. In diabetes, metabolic disfunction impairs glucose sensing, compromises mitochondrial regulation, lowers ATP production and ultimately, impacts insulin secretion (90). Approximately 1% of all types of diabetes are caused by mtDNA mutations (91) and to date, there are 54 known mutations associated to diabetes pathology and prognosis (92). Mutations of TFAM, which regulates the transcription and replication of mitochondrial DNA, result in decreased hyperpolarization of the mitochondrial membrane, resulting in reduced Ca2+ influx and hence, suboptimal GSIS (91, 93). 4.5 Transient hyper-energetic state Mutations associated to decreased oxygen consumption, mitochondrial ATP generation, diminished glucokinase activity or mitochondrial DY all result in dysfunctional GSIS (94). Furthermore, morphological impairment of b cell mitochondria is also associated with diabetes. Fusion or fragmentation of the filamentous network of mitochondria found on healthy b cells impairs GSIS (95, 96). At stage 4, generation of ATP is correlated with a sharp increase of mitochondrial DY and ROS levels because of upregulated OXPHOS during DE differentiation. The activation of the electron transfer chain and TCA promote the expression of enzymes involved in aerobic metabolism while downregulating glycolysis (102). HK1, HK2, phosphofructokinase and lactate dehydrogenase are remarkably downregulated during DE differentiation. Most glycolysis-related genes are downregulated upon DE differentiation except for GLUT3. On the other hand, OXPHOS-related genes were massively upregulated upon DE differentiation, including succinate dehydrogenase complex flavoprotein subunits A and B, the genes encoding succinate- ubiquinone oxidoreductase, and pyruvate dehydrogenase phosphatase catalytic subunit 1 and 2, encoding activating enzymes for the mitochondrial pyruvate dehydrogenase complex. 6 Metabolic alterations during iPSC- derived b cell differentiation 10.3389/fendo.2023.1236472 FIGURE 3 Schematic representation of directed differentiation of iPSC towards b cells and the metabolic shift that happens throughout the process. iPSCs can be differentiated in vitro b cells by inducing iPSCs into definitive endoderm (DE) (stage-1), which are further differentiated into primitive gut tube (PGT) (stage-2) and posterior foregut (PFT) (stage-3) before developing as pancreatic progenitors (PP) (stage-4). PPs can be further differentiated in vitro, into pancreatic endocrine precursors (PEPs) (stage-5) and lastly, into b cells (stage-6). Differentiation of iPSC towards b cells include a variety of changes for increased mitochondrial mass, mitochondrial membrane potential, ATP production, intracellular ROS level, and regulation of anaerobic and aerobic metabolic-associated genes. Briefly, differentiation to DE downregulates mitochondrial biogenesis regulators TFAM, POLG1 and POLG2, while upregulating PGC1-A, which results in increased mitochondria through upregulation of mtDNA transcription, replication, and mitochondrial membrane potential (DY). These alterations result in the maturation of the tricarboxylic acid (TCA) cycle gene transcripts. Elevated intracellular ATP levels provide energy for further differentiation and ROS generation as a result of OXPHOS. The activation of the electron transfer chain and TCA cycle promote the expression of enzymes involved in aerobic metabolism while down regulating glycolysis enzymes. Upregulation and activation of the oxidative glucose metabolism enables the activation of the triggering pathway of insulin secretion. mitochondrial NADH shuttles, which also contribute to decreased GSIS (108). Upon transplantation and in vivo maturation, SC-b cells upregulate OXPHOS-related genes, which allows them to better respond to high concentrations of glucose in vivo (109). cells have shown that decreased GSIS is not a result of a defective or immature cellular machinery or decreased insulin content, but metabolic failure because of imperfectly regulated differentiation (86). The enzymatic activity of SCS-GTP is decreased in SC-b cells as compared to b cells from donor islets, resulting in decreased GTP required for the activation of PEPCK-M, and hence, decreased generation of TCA cycle metabolites (Figure 4). Loss-of-function studies for SCS-GTP clearly mandate that mitochondrial preference to stimulate GSIS is SCS-GTP, despite functional SCS-ATP. GTP generated by SCS-GTP upon glucose stimulation is utilized by mitochondria isoform of PEPCK-M to synthesis PEP from oxaloacetate. This metabolic flux is revealed doubling of PEPCK- M flux to potentiate GSIS. 6 Metabolic alterations during iPSC- derived b cell differentiation At stage 5, inhibition of TGF-b signaling using ALK5 inhibitor- RepSox interferes with the sharp increase in intracellular ATP and ROS levels, but also with the rearrangement of the metabolic transcriptome, thus impairing differentiation. Mature b cells rely on OXPHOS to meet energy demands and multiple genes encoding OXPHOS-related enzymes must be upregulated during the b cell differentiation process (103). Current differentiation protocols to generate stem cell-derived b (SC-b) cells yield a cell product able to secrete insulin in response to increasing concentrations of glucose and reverse diabetes upon transplantation in mice (104). However, in vitro GSIS response of SC-b cells is not comparable to that of cadaveric human donor islets in terms of the magnitude of insulin secretion or biphasic secretion profile. Metabolic assessment of human donor islets from patients with type-2 diabetes presented clear evidence for genomic regulation of OXPHOS-related genes controlling glucose responsive insulin release. It has been suggested that low expression of glycolytic genes (LDHA, HK1, and PFKP) and OXPHOS-related genes upregulation (NDUFA5, NDUFA10, COX11, and ATP6V1H) along with ATP production is essential for the activation of insulin secretion pathway (105). Although, glucose does not increase mitochondrial respiration in SC-b cells, studies reported that pyruvate stimulation facilitated increase in OXPHOS, which is indicative of immature metabolic characteristics (106). In depth comparative studies of mitochondrial machinery in SC-b Differentiation of iPSCs into terminally differentiated b-like cells requires adaptations to meet new metabolic requirements. Several protocols have been reported to generate functional glucose- responsive insulin-secreting b-like cells. Following six-stages directed differentiation protocol, as previously described, new investigations also suggest addition of seventh stage for metabolic maturation with specific focus to reform mitochondrial metabolic dynamics in stage-specific manner (Figure 3) (97). Differentiation of iPSC towards stage-1- definitive endoderm (DE) is the critical first step for differentiation towards pancreatic b cell lineage. It includes a variety of changes including molecular regulators- TFAM, POLG1/2, and PDGC1-A activation regulating mitochondrial fission and maturation. These factors affect mitochondrial mass, mtDNA abundance, mitochondrial DY, ATP production, intracellular ROS level, and expression of anaerobic and aerobic metabolic-associated genes (98). Differentiation to DE stage downregulates mitochondrial biogenesis, regulators mitochondrial transcription factor A and, mtDNA polymerase-g -1 and -2, which results in increased mitochondrial mass through upregulation of mtDNA transcription and replication (99, 100). Furthermore, during DE differentiation, the expression of the Frontiers in Endocrinology 09 frontiersin.org Jasra et al. 6 Metabolic alterations during iPSC- derived b cell differentiation The metabolic machinery in adult human b cells function optimally to sense glucose and express key metabolic enzymes that facilitate glucose-stimulated insulin secretion in response to insulin signaling and glucose transport. Glucose gets efficiently converted into pyruvate with phosphoenolpyruvate (PEP) activity which then enters mitochondrial membrane and serves as a precursor for TCA cycle respiration. Downstream enzymes converting GDP to GTP and phosphoenolpyruvate carboxykinase (PEPCK) allows continuous pyruvate flux using malate precursors which result in efficient ATP production. Increased cytosolic ATP pool then help facilitating Ka+ channel closure and Ca2+ depolarization to ensure glucose internalization and improved insulin secretion. Conversely, SC-derived b cells show anaplerotic cycling in the mitochondria. Substantial reduction in PEP activity reduces pyruvate production which further limit the mitochondrial respiratory cycle for enhanced ATP production. Further, lack of PEPCK activity results in dysfunctional mitochondria in SC-derived b cells. This overall shunt in metabolic precursors affect glucose responsive insulin production, metabolic control, and SC-b cell maturation like primary adult islets. functional SC-b cells that were reported to attain improved mitochondrial metabolic maturation with enriched OXPHOS, electron transport chain, TCA cycle metabolism and ATP biosynthesis. The study confirmed the presence of mature mitochondrial cristae that extended effective metabolic shift from glycolysis to OXPHOS in SC-b cells through the enrichment of ERRg, a mitochondrial regulator of metabolic transition (110). imbalance (i.e enzymatic conversion of glyceraldehyde-3-phosphate to 3-phosphoglycerate) (86). Further studies are required to ascertain these effects in scape-up generation of SC-islets. More recently, Otonkoski group performed a detailed physiologic metabolic tracing study to characterize SC-islets metabolism against cadaveric donor islets using 13C labeled glucose (111) following optimal Balboa et al., protocol (106) for SC-islet generation. Mature b cells from donor islets exhibited augmented GSIS though glucose responsive metabolism into PPP, PSP and ABP pathways. SC-islets, however, showed remarkably lower enrichment of glucose-derived carbons entering into these pathways compared to primary islets. Key insights from this metabolic study suggested impaired mitochondrial TCA cycle metabolism in generated SC-islets, despite optimal directed differentiation. Furthermore, SC-islet metabolic function is dependent on core mitochondrial TCA cycle-driven metabolic with limited glucose-derived metabolic flux. The group inferenced In parallel, Melton group performed a metabolic tracing study and reported that SC-islets primarily lack PEPCK-M activity due to slow glycolytic flux that prevented GTP sensing mechanolatry for glucose metabolism to PEP cycle. They also confirmed increased cytosolic ATP/ADP ratio. 6 Metabolic alterations during iPSC- derived b cell differentiation PEPCK-M derived phosphoenolpyruvate comprises as much as 40% of the pyruvate that enters in the mitochondria to generate ATP; loss of PEPCK-M activity and its associated decreased in ATP production, and hence, decreased ATP/ADP ration, results in unsuccessful insulin secretory responses (107–109). Furthermore, SC-b cells present immature Overall, differentiation towards definitive endoderm is the key step for successful generation of SC- b-cells and involves increasing the mitochondrial mass and maturation of the respiratory chain while downregulating glycolysis-associated genes. During the differentiation process, OXPHOS associated genes are required to be upregulated, which results in the generation of SC-b cells that rely on OXPHOS to fulfil their energy demands (103). Several advanced and improved method for SC-islet generation have sought to understand how culture condition and chemical programming affect the metabolic phenotype in-vitro in direct comparison to primary b cells (86, 110–112). These studies presented a roadmap to highlight the key mechanisms responsible for SC-islet mitochondrial metabolic and functional (GSIS) immaturity. With protocol advancements, Hebrok and colleagues (110) in 2019 reported enriched clustering method to produce more Frontiers in Endocrinology 10 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 FIGURE 4 FIGURE 4 Metabolism dynamics in human primary b- cells and SC-derived b cells. The metabolic machinery in adult human b cells function optimally to sense glucose and express key metabolic enzymes that facilitate glucose-stimulated insulin secretion in response to insulin signaling and glucose transport. Glucose gets efficiently converted into pyruvate with phosphoenolpyruvate (PEP) activity which then enters mitochondrial membrane and serves as a precursor for TCA cycle respiration. Downstream enzymes converting GDP to GTP and phosphoenolpyruvate carboxykinase (PEPCK) allows continuous pyruvate flux using malate precursors which result in efficient ATP production. Increased cytosolic ATP pool then help facilitating Ka+ channel closure and Ca2+ depolarization to ensure glucose internalization and improved insulin secretion. Conversely, SC-derived b cells show anaplerotic cycling in the mitochondria. Substantial reduction in PEP activity reduces pyruvate production which further limit the mitochondrial respiratory cycle for enhanced ATP production. Further, lack of PEPCK activity results in dysfunctional mitochondria in SC-derived b cells. This overall shunt in metabolic precursors affect glucose responsive insulin production, metabolic control, and SC-b cell maturation like primary adult islets. FIGURE 4 Metabolism dynamics in human primary b- cells and SC-derived b cells. 7 Required metabolic traits for the generation of safe SC-b cells To date, off target growth remains one of the major limitations for the translation of iPSC-derived therapies into the clinic. Mitochondria has been described to play an important role in the generation of teratomas and hence, several strategies have been studied to control the metabolic function of iPSCs and differentiated tissues to gain optimal graft function while controlling unwanted teratogenic growth. Herein, we summarize multiple approaches so far tested to refine ideal iPSCs and SC-b cell metabolism. Similarly, the mitochondrial redox protein Erv/ALR inhibitor- MitoBloCK-6, has shown potential in eliminating iPSCs in SC-b cells (121). Other identical and potential efficacious small molecules tested to influence metabolism in iPSCs are ER stress inducer- JC011, Substrate of ATP binding cassette transporter- 27-deoxy-27- oxookadaate, and pluripotency specific inhibitor PluriSln1 (122). JC011 and 27-deoxy-27-oxookadaate are reported to show neural cell toxicity while MitobloCK-6 shows cardiac cell toxicity. To date, only APH is evaluated for its toxicity in differentiated SC-b cells specifically, others including PluriSln1, JC011, 27-deoxy-27- oxookadaate, and MitoblockCK-6 remain untested for their application in differentiation protocols (121, 123, 124). Despite proven efficacy, almost none of these strategies has been tested for SC-b cells function, metabolism, and survival. There is a need to develop strategies to eliminate off target cells without compromising functionality and survival of SC-b cells to generate safe, off-target free SC-b cells and translate this approach into the clinic. We believe that further understanding of the metabolic function during iPSC reprogramming and differentiation will enable the optimization of differentiation protocols to produce GMP grade SC-cell products. While the precise molecular mechanisms for the metabolic effect on iPSCs’ teratogenicity or differentiation remain undetermined, several studies have described the role of HIF1a in enhanced differentiation. Armstrong and colleagues showed direct evidence of the role of mitochondrial metabolism in iPSC to control teratoma formation rate when injected in SCID mice (20, 74). As a result of limited OXPHOS, iPSCs show reduced ROS scavenging genes, including glutathione reductase (GSR), SOD2, MGSTI1, and MAPK26, and hence, high levels of ROS result in senescence and apoptosis (43, 113). Thus, it might be beneficial to confirm the levels of ROS scavenging machinery in differentiated beta cells for OXPHOS dependency to circumvent the risk of teratoma post implantation. In general, iPSCs are reported to exhibit both low and high resting DY. Cells with lower DY show enhanced lineage specifications into germ layer cells. 6 Metabolic alterations during iPSC- derived b cell differentiation The study also reported to identify suppressed generation of PEP enzyme within the mitochondria due to glycolytic deficiency. Furthermore, differentiated SC-islets were observed to exhibit reduced GAPDH activity and the mechanism for this reduced activity remain elusive to conclude if this is due to post translational modification or other metabolic Frontiers in Endocrinology frontiersin.org 11 10.3389/fendo.2023.1236472 Jasra et al. that the primary reason for such impaired TCA metabolism might be due to more restrictive glycolytic metabolism. Collectively, these evidence indicate that although mitochondrial metabolic activity can be enhanced by limiting glycolysis, the TCA enzyme reactions and downstream metabolism (13C3 pyruvate and 13C5 glutamate) present in SC-islets are far beyond comparison to those seen in donor primary islets (111). Notably, deeper phenotypic investigations to correlate direct comparison of genomic to phenotypic datasets from donor islets and SC-islets, pre- and post-transplantation, are required to unravel metabolic bottlenecks in achieving optimal metabolic physiology. cells as glucose is required for insulin release; furthermore, b cells lack lactate transporter MCT13 and show reduced lactate dehydrogenase enzyme expression (117). Similarly, exposure to high concentration of certain amino acids (i.e., L-alanine and L- methionine) has been shown to selectively kill residual iPSCs (118, 119). This strategy cannot be used for SC-b cells either since prolonged exposure to L-alanine induces changes in the calcium responses promoting desensitization of insulin secretion, while L- methionine alters MafA expression without inducing teratogenicity. In a recent study, Egli et al reported use of DNA replication inhibitor- Aphidicolin (APH) to be highly efficient in retarding teratogenic growth in SC-b implanted cells (120). The grafted cells produced c-peptide and reversed diabetes without any noticeable incidence of teratoma formation in long term engraftment. APH is a potent DNA polymerase inhibitor which has been shown to modulate mitochondrial DNA replication. The authors of this study clearly demonstrated that APH treatment of SC-islets completely eliminated cell growth, but they did not assess the impact of APH on mitochondrial replication or metabolism during the development of safe SC-cells (120). 7 Required metabolic traits for the generation of safe SC-b cells Schieke and colleagues injected several ESC lines into mice and showed that ESCs with lower resting DY show reduced risk of teratoma formation due to less oxygen consumption (114). This study confirms that the growth of rapidly proliferating cells is dependent on high aerobic glycolytic rates and nutrient availability. Therefore, differentiation of iPSCs with low DY into SC-b cells might allow to limit teratogenic growth. Frontiers in Endocrinology 8 Concluding remarks Understanding the metabolic demands and adaptations that iPSCs acquire from somatic cells are essential to tailor current protocols for inducing sustained reprogramming and identify the most optimal iPSCs that can deliver consistent cell products that can differentiate efficiently to provide safe cell therapy products. Overall, understanding of the metabolic demands of specific cell products require further investigation. Determining the molecular nature of metabolic immaturity and disconnect will advance the field by helping to resolve metabolic incapacities using small molecules and produce functional mature SC-b cells. Herein, we provide key recommendations for investigating and remodelling the mitochondrial metabolic adaptations for efficient and functional SC-islet manufacturing as closely comparable to native human donor islets. These approaches include (a) optimizing chemical differentiation factors to generate highly enriched endocrine progenitor population (PDX1+NKX6.1+CHGA+) that show reduced gene expression for critical disallowed genes like LDHA, LDHB, HK1, HK2, IGF2, SLC16A1 (improve OXPHOS), and ACOT7 (favor fatty acid metabolism and more ATP utilization), (b) incorporating extended maturation stage- Stage-7 by culturing SC-islets in growth factors-deprived and basal (5mM) glucose containing media to favor elevated ROS generation and ATP production and ultimately enhance OXPHOS transcriptome in SC-b cells, and (c) introducing factors (chemical or biological) for augmenting PEPCK expression and activity to channel glucose flux and co-factors required to shunt TCA metabolism and machinery, and (d) utilizing naïve transitioned iPSCs (favor bivalent metabolism) over primed iPSCs (favor glycolysis) for SC-b cell manufacturing. Naïve pluripotent stem cells have shown clear evidence for improved and defined multi-lineage differentiation (125–128) that attain functional maturity without the need for metabolic adaptation. Other strategies might include mitochondrial fusion regulation by Mfn1/2 expression to facilitate improved b cell function. In order to control Drp1, Mfn1/2 expression, and mTOR inhibition for potentiating insulin secretion and optimal metabolic functional result, it is crucial to create strategies that provide balance between mitochondrial fission and fusion in developing cells. Ultimately, screening human iPSCs for reported mtDNA mutation/ variants such as TRL-CAG1-7, Tfam and OPA1 gene defects may additionally provide critical insight for dysfunctional iPSCs. The knowledge summarized in this review reflects key Islet differentiation process confined to directed differentiation protocols involves metabolic shifts that are tightly regulated. In the early stages (definitive endoderm and foregut stages) of differentiation, cells rely more on glycolysis for energy production and gradually start transitioning into OXPHOs state as the mitochondrial machinery remodel. 8 Concluding remarks Mitochondrial metabolism plays a critical role in the generation of SC-islets, especially in the context of ongoing state-of-the-art differentiation protocols aimed at generating functional human pancreatic islet cells from pluripotent stem cells for cell therapy. These protocols are of great interest in the field of regenerative medicine for the treatment of diabetes, as they hold the potential to produce insulin-secreting cells that can replace damaged or dysfunctional pancreatic islets in diabetic patients. Here, we will provide an overview of mitochondrial metabolism in stem cell- derived islets and its relevance to the latest differentiation protocols. Metabolically, SC-b cells exhibit distinct regulatory pathways to other lineages tissues such as SC-cardiomyocytes or neural progenitor cells (NPC). iPSCs produce most ATP through glycolysis while SC-cardiomyocytes produce most ATP using glucose, fatty acids, and lactate in OXPHOS (115) and NPCs rely predominantly on glycolysis rather than OXPHOS (116). Thus, differentiated cells can be enriched from iPSC favoring OXPHOS by using glucose and glutamine deprived media with lactate supplementation. This strategy, however, is not suitable for SC- b Frontiers in Endocrinology 12 frontiersin.org Jasra et al. Jasra et al. 10.3389/fendo.2023.1236472 Differentiation protocols for the conversion of human ES/iPSCs into functional SC-islets involve a series of carefully orchestrated steps that mimic pancreatic development in-vitro. These protocols typically include stages of definitive endoderm formation, pancreatic progenitor specification, and maturation into insulin- secreting b-like and other islet hormonal cells. The efficiency and success of these protocols rely on precise control of cellular processes, including mitochondrial metabolism. From the beginning of somatic cell reprogramming to SC-islet differentiation, cellular mitochondria undergo extensive remodelling for its morphological architecture, genomic elements and physiology balancing enzymatic machinery. Mitochondria, known as the "powerhouses" of the cell, are responsible for energy metabolism and generating adenosine triphosphate (ATP), the primary energy currency of the cell. In SC-islets, as in native pancreatic islets, mitochondrial metabolism plays a crucial role in energy production. During differentiation, stem cells transition from a relatively low-energy state to a high-energy state to support the demands of insulin secretion. This energy transition is effectively governed through a metabolic shift from glycolytic state to more energy producing OXPHOS metabolism. status of iPSC. 8 Concluding remarks As the differentiating cells progress towards becoming more mature insulin-secreting cells, there is a rapid transition toward OXPHOS, which occurs in the mitochondrial TCA component. This shift is essential for meeting the increased energy demands associated with high insulin synthesis and secretion upon glucose stimulation. Furthermore, monitoring mitochondrial function is crucial in assessing the quality of SC-islets production with advanced protocols. Techniques such as measuring the oxygen consumption rate (OCR) can provide critical insights into the functional efficiency of OXPHOS competence and overall mitochondrial health. Optimal OCR is an indicative of mature functional mitochondria capable of meeting islet energy demands for regulated insulin secretion. Lastly, mitochondrial dynamics, including fission and fusion processes, are integral to maintaining a healthy mitochondrial population. Proper regulation of mitochondrial dynamics is essential for SC-islets to adapt to changing energy demands and maintain mitochondrial functionality. The knowledge summarized in this review reflects key limitations and potential impediments in achieving essential mitochondrial features and optimal metabolic function in SC-b cells with an ultimate objective to produce metabolically active and safer product for clinical islet cell therapy. While the protocol advancements have been made in understanding and optimizing cellular differentiation, mapping heterogeneity, transitional maturity and enhancing islet physiology for glucose control, robust mitochondrial metabolism in SC-islets remains a challenge. Achieving consistent and fully functional islet-like cells is a complex task to achieve and deeper phenotypic investigations are required to explore differentiation protocols, culture conditions, and genetic engineering approaches to enhance mitochondrial functionality and metabolism. Frontiers in Endocrinology References 15. Vander Heiden MG, Cantley LC, Thompson CB. Understanding the Warburg effect: the metabolic requirements of cell proliferation. Science (2009) 324:1029–33. doi: 10.1126/science.1160809 1. Takahashi K, Yamanaka S. Induction of pluripotent stem cells from mouse embryonic and adult fibroblast cultures by defined factors. Cell (2006) 126:663–76. doi: 10.1016/j.cell.2006.07.024 1. Takahashi K, Yamanaka S. Induction of pluripotent stem cells from mouse embryonic and adult fibroblast cultures by defined factors. Cell (2006) 126:663–76. doi: 10.1016/j.cell.2006.07.024 15. Vander Heiden MG, Cantley LC, Thompson CB. Understanding the Warburg effect: the metabolic requirements of cell proliferation. Science (2009) 324:1029–33. doi: 10.1126/science.1160809 2. Takahashi K, Tanabe K, Ohnuki M, Narita M, Ichisaka T, Tomoda K, et al. Induction of pluripotent stem cells from adult human fibroblasts by defined factors. Cell (2007) 131:861–72. doi: 10.1016/j.cell.2007.11.019 16. Kim D, Fiske BP, Birsoy K, Freinkman E, Kami K, Possemato RL, et al. SHMT2 drives glioma cell survival in ischaemia but imposes a dependence on glycine clearance. Nature (2015) 520:363–7. doi: 10.1038/nature14363 17. Allaman I, Belanger M, Magistretti PJ. Methylglyoxal, the dark side of glycolysis. Front Neurosci (2015) 9:23. doi: 10.3389/fnins.2015.00023 3. Verhoeff K, Henschke SJ, Marfil-Garza BA, Dadheech N, Shapiro AMJ. Inducible pluripotent stem cells as a potential cure for diabetes. Cells (2021) 10. doi: 10.3390/ cells10020278 18. Facucho-Oliveira JM, Alderson J, Spikings EC, Egginton S, St John JC. Mitochondrial DNA replication during differentiation of murine embryonic stem cells. J Cell Sci (2007) 120:4025–34. doi: 10.1242/jcs.016972 4. Ishida T, Nakao S, Ueyama T, Harada Y, Kawamura T. Metabolic remodeling during somatic cell reprogramming to induced pluripotent stem cells: involvement of hypoxia- inducible factor 1. Inflammation Regener (2020) 40:8. doi: 10.1186/s41232-020-00117-8 19. Bukowiecki R, Adjaye J, Prigione A. Mitochondrial function in pluripotent stem cells and cellular reprogramming. Gerontology (2014) 60:174–82. doi: 10.1159/000355050 5. Nishimura K, Fukuda A, Hisatake K. Mechanisms of the metabolic shift during somatic cell reprogramming. Int J Mol Sci (2019) 20. doi: 10.3390/ijms20092254 20. Armstrong L, Tilgner K, Saretzki G, Atkinson SP, Stojkovic M, Moreno R, et al. Human induced pluripotent stem cell lines show stress defense mechanisms and mitochondrial regulation similar to those of human embryonic stem cells. Stem Cells (2010) 28:661–73. doi: 10.1002/stem.307 6. Varum S, Rodrigues AS, Moura MB, Momcilovic O, Easley CA IV, Ramalho- Santos J, et al. Energy metabolism in human pluripotent stem cells and their differentiated counterparts. PLoS ONE (2011) 6(6):e20914. doi: 10.1371/ journal.pone.0020914 21. Funding AS is supported by a Canada Research Chair (Tier 1) in Regenerative Medicine and Transplant Surgery and through grant support from the Juvenile Diabetes Research Foundation (JDRF), Canada, Canadian Donation and Transplant Research Project (CDTRP), Diabetes Research Institute Foundation of Canada (DRIFCan), Alberta Diabetes Foundation (ADF), Canadian All claims expressed in this article are solely those of the authors and do not necessarily represent those of their affiliated organizations, or those of the publisher, the editors and the reviewers. Any product that may be evaluated in this article, or claim that may be made by its manufacturer, is not guaranteed or endorsed by the publisher. Author contributions IJ and NC-G participated in study conceptualization, visualization, writing of the original draft, and final draft review and editing. KV participated in final draft review and editing. BM-G participated in final draft review and editing. ND participated in study conceptualization, visualization, writing of the original draft, final draft review and editing. Both corresponding authors Reprogramming of cells into iPSC can provide a novel and unlimited starting cell source for personalized regenerative medicine. Reprogramming requires a transition in cellular characteristics, gene expression profiles and epigenetic status as well as major metabolic changes to sustain the highly proliferative Frontiers in Endocrinology 13 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 Institute Health Research (CIHR) and Stem Cell Network (SCN), Canada. Institute Health Research (CIHR) and Stem Cell Network (SCN), Canada. supervised this project’s work, are responsible for the figures and text within the study, have ensured that all authorship is granted appropriately with all competing interests and disclosures identified, have ensured all authors have approved the work, have ensured adherence to all editorial and submission policies, and have ensured that figures accurately present the original data. AS participated in study conceptualization, funding acquisition, project administration, final draft review and editing and arbitrating decisions and disputes and ensuring communication with the journal. All authors contributed to the article and approved the submitted version. Conflict of interest AS serves as a consultant to ViaCyte Inc., Hemostemix Inc., Protokinetix Inc. and Pelican Therapeutics Inc. The remaining authors declare that the research was conducted in the absence of any commercial or financial relationships that could be construed as a potential conflict of interest. References Vazquez-Martin A, CufiS, Corominas-Faja B, Oliveras-Ferraros C, Vellon L, Menendez JA, et al. Mitochondrial fusion by pharmacological manipulation impedes somatic cell reprogramming to pluripotency: new insight into the role of mitophagy in cell stemness. Aging (Albany NY) (2012) 4:393–401. doi: 10.18632/aging.100465 7. Panopoulos AD, Yanes O, Ruiz S, Kida YS, Diep D, Tautenhahn R, et al. The metabolome of induced pluripotent stem cells reveals metabolic changes occurring in somatic cell reprogramming. Cell Res (2012) 22:168–77. doi: 10.1038/cr.2011.177 22. Wang C, Liu K, Cao J, Wang L, Zhao Q, Li Z, et al. PINK1-mediated mitophagy maintains pluripotency through optineurin. Cell Prolif (2021) 54:e13034. doi: 10.1111/ cpr.13034 8. Tsogtbaatar E, Landin C, Minter-Dykhouse K, Folmes CDL. Energy metabolism regulates stem cell pluripotency. Front Cell Dev Biol (2020) 8:87. doi: 10.3389/ fcell.2020.00087 9. Liberti MV, Locasale JW. The warburg effect: how does it benefit cancer cells? Trends Biochem Sci (2016) 41:211–8. doi: 10.1016/j.tibs.2015.12.001 23. Chen T, Shen L, Yu J, Wan H, Guo A, Chen J, et al. Rapamycin and other longevity- promoting compounds enhance the generation of mouse induced pluripotent stem cells. Aging Cell (2011) 10:908–11. doi: 10.1111/j.1474-9726.2011.00722.x 10. Chung S, Dzeja PP, Faustino RS, Perez-Terzic C, Behfar A, Terzic A. Mitochondrial oxidative metabolism is required for the cardiac differentiation of stem cells. Nat Clin Pract Cardiovasc Med (2007) 4 Suppl 1:S60–67. doi: 10.1038/ ncpcardio0766 24. Menendez JA, Vellon L, Oliveras-Ferraros C, CufiS, Vazquez-Martin A. mTOR- regulated senescence and autophagy during reprogramming of somatic cells to pluripotency: a roadmap from energy metabolism to stem cell renewal and aging. Cell Cycle (2011) 10:3658–77. doi: 10.4161/cc.10.21.18128 11. Krantz S, Kim YM, Srivastava S, Leasure JW, Toth PT, Marsboom G, et al. Mitophagy mediates metabolic reprogramming of induced pluripotent stem cells undergoing endothelial differentiation. J Biol Chem (2021) 297:101410. doi: 10.1016/j.jbc.2021.101410 25. Wang H, Fu J, Xu X, Yang Z, Zhang T. Rapamycin activates mitophagy and alleviates cognitive and synaptic plasticity deficits in a mouse model of alzheimer's disease. J Gerontol A Biol Sci Med Sci (2021) 76:1707–13. doi: 10.1093/gerona/glab142 12. Zhang J, Ney PA. Role of BNIP3 and NIX in cell death, autophagy, and mitophagy. Cell Death Differ (2009) 16:939–46. doi: 10.1038/cdd.2009.16 26. Li Q, Gao S, Kang Z, Zhang M, Zhao X, Zhai Y, et al. Rapamycin enhances mitophagy and attenuates apoptosis after spinal ischemia-reperfusion injury. Front Neurosci (2018) 12:865. doi: 10.3389/fnins.2018.00865 13. Jin SM, Youle RJ. PINK1-and Parkin-mediated mitophagy at a glance. 15. Vander Heiden MG, Cantley LC, Thompson CB. Understanding the Warburg effect: the metabolic requirements of cell proliferation. Science (2009) 324:1029–33. doi: 10.1126/science.1160809 References Folmes CD, Nelson TJ, Martinez-Fernandez A, Arrell DK, Lindor JZ, Dzeja PP, et al. Somatic oxidative bioenergetics transitions into pluripotency-dependent glycolysis to facilitate nuclear reprogramming. Cell Metab (2011) 14:264–71. doi: 10.1016/j.cmet.2011.06.011 58. Nishimura K, Aizawa S, Nugroho FL, Shiomitsu E, Tran YTH, Bui PL, et al. A Role for KLF4 in Promoting the Metabolic Shift via TCL1 during Induced Pluripotent Stem Cell Generation. Stem Cell Rep (2017) 8:787–801. doi: 10.1016/ j.stemcr.2017.01.026 34. Zhang J, Khvorostov I, Hong JS, Oktay Y, Vergnes L, Nuebel E, et al. UCP2 regulates energy metabolism and differentiation potential of human pluripotent stem cells. EMBO J (2011) 30:4860–73. doi: 10.1038/emboj.2011.401 59. Khaw SL, Min-Wen C, Koh CG, Lim B, Shyh-Chang N. Oocyte factors suppress mitochondrial polynucleotide phosphorylase to remodel the metabolome and enhance reprogramming. Cell Rep (2015) 12:1080–8. doi: 10.1016/j.celrep.2015.07.032 35. Zorova LD, Popkov VA, Plotnikov EY, Silachev DN, Pevzner IB, Jankauskas SS, et al. Mitochondrial membrane potential. Anal Biochem (2018) 552:50–9. doi: 10.1016/ j.ab.2017.07.009 60. Wang G, Shimada E, Koehler CM, Teitell MA. PNPASE and RNA trafficking into mitochondria. Biochim Biophys Acta (2012) 1819:998–1007. doi: 10.1016/ j.bbagrm.2011.10.001 36. Bothun AM, Woods DC. Inherent mitochondrial activity influences specification of the germ line in pluripotent stem cells. Heliyon (2020) 6:e03651. doi: 10.1016/j.heliyon.2020.e03651 61. Powers DE, Millman JR, Huang RB, Colton CK. Effects of oxygen on mouse embryonic stem cell growth, phenotype retention, and cellular energetics. Biotechnol Bioeng (2008) 101:241–54. doi: 10.1002/bit.21986 37. Prigione A, Hossini AM, Lichtner B, Serin A, Fauler B, Megges M, et al. Mitochondrial-associated cell death mechanisms are reset to an embryonic-like state in aged donor-derived iPS cells harboring chromosomal aberrations. PloS One (2011) 6: e27352. doi: 10.1371/journal.pone.0027352 62. Zhou W, Choi M, Margineantu D, Margaretha L, Hesson J, Cavanaugh C, et al. HIF1alpha induced switch from bivalent to exclusively glycolytic metabolism during ESC-to-EpiSC/hESC transition. EMBO J (2012) 31:2103–16. doi: 10.1038/ emboj.2012.71 38. Prigione A, Lichtner B, Kuhl H, Struys EA, Wamelink M, Lehrach H, et al. Human induced pluripotent stem cells harbor homoplasmic and heteroplasmic mitochondrial DNA mutations while maintaining human embryonic stem cell-like metabolic reprogramming. Stem Cells (2011) 29:1338–48. doi: 10.1002/stem.683 63. Prieto J, Seo AY, Leon M, Santacatterina F, Torresano L, Palomino-Schatzlein M, et al. MYC induces a hybrid energetics program early in cell reprogramming. Stem Cell Rep (2018) 11:1479–92. doi: 10.1016/j.stemcr.2018.10.018 64. Mathieu J, Zhou W, Xing Y, Sperber H, Ferreccio A, Agoston Z, et al. References Hypoxia- inducible factors have distinct and stage-specific roles during reprogramming of human cells to pluripotency. Cell Stem Cell (2014) 14:592–605. doi: 10.1016/ j.stem.2014.02.012 39. Zhu S, Li W, Zhou H, Wei W, Ambasudhan R, Lin T, et al. Reprogramming of human primary somatic cells by OCT4 and chemical compounds. Cell Stem Cell (2010) 7(2010):651–5. doi: 10.1016/j.stem.2010.11.015 40. Prigione A, Rohwer N, Hoffmann S, Mlody B, Drews K, Bukowiecki R, et al. HIF1a modulates cell fate reprogramming through early glycolytic shift and upregulation of PDK1-3 and PKM2. Stem Cells (2014) 32:364–76. doi: 10.1002/ stem.1552 65. Puckett DL, Alquraishi M, Chowanadisai W, Bettaieb A. The Role of PKM2 in Metabolic Reprogramming: Insights into the Regulatory Roles of Non-Coding RNAs. Int J Mol Sci (2021) 22. doi: 10.3390/ijms22031171 41. Spyrou J, Gardner DK, Harvey AJ. Metabolomic and Transcriptional Analyses Reveal Atmospheric Oxygen During Human Induced Pluripotent Stem Cell Generation Impairs Metabolic Reprogramming. Stem Cells (2019) 37:1042–56. doi: 10.1002/stem.3029 66. Li Z, Yang P, Li Z. The multifaceted regulation and functions of PKM2 in tumor progression. Biochim Biophys Acta (2014) 1846(2014):285–96. doi: 10.1016/ j.bbcan.2014.07.008 67. Dahan P, Lu V, Nguyen RMT, Kennedy SAL, Teitell MA. Metabolism in pluripotency: Both driver and passenger? J Biol Chem (2019) 294:5420–9. doi: 10.1074/jbc.TM117.000832 42. Zorov DB, Juhaszova M, Sollott SJ. Mitochondrial reactive oxygen species (ROS) and ROS-induced ROS release. Physiol Rev (2014) 94:909–50. doi: 10.1152/ physrev.00026.2013 68. Gupta V, Bamezai RN. Human pyruvate kinase M2: a multifunctional protein. Protein Sci (2010) 19:2031–44. doi: 10.1002/pro.505 43. Chaudhari P, Ye Z, Jang YY. Roles of reactive oxygen species in the fate of stem cells. Antioxid Redox Signal (2014) 20:1881–90. doi: 10.1089/ars.2012.4963 69. Kim H, Jang H, Kim TW, Kang BH, Lee SE, Jeon YK, et al. Core pluripotency factors directly regulate metabolism in embryonic stem cell to maintain pluripotency. Stem Cells (2015) 33:2699–711. doi: 10.1002/stem.2073 44. Birnbaum JH, Wanner D, Gietl AF, Saake A, Kundig TM, Hock C, et al. Oxidative stress and altered mitochondrial protein expression in the absence of amyloid-beta and tau pathology in iPSC-derived neurons from sporadic Alzheimer's disease patients. Stem Cell Res (2018) 27:121–30. doi: 10.1016/j.scr.2018.01.019 70. Wang L, Zhang T, Wang L, Cai Y, Zhong X, He X, et al. Fatty acid synthesis is critical for stem cell pluripotency via promoting mitochondrial fission. EMBO J (2017) 36:1330–47. doi: 10.15252/embj.201695417 45. Ralser M, Wamelink MM, Kowald A, Gerisch B, Heeren G, Struys EA, et al. References J Cell Sci (2012) 125:795–9. doi: 10.1242/jcs.093849 27. Lenzi P, Ferese R, Biagioni F, Fulceri F, Busceti CL, Falleni A, et al. Rapamycin ameliorates defects in mitochondrial fission and mitophagy in glioblastoma cells. Int J Mol Sci (2021) 22. doi: 10.3390/ijms22105379 14. Soleimanpour SA, Ferrari AM, Raum JC, Groff DN, Yang J, Kaufman BA, et al. Diabetes susceptibility genes pdx1 and clec16a function in a pathway regulating mitophagy in beta-cells. Diabetes (2015) 64:3475–84. doi: 10.2337/db15-0376 Frontiers in Endocrinology 14 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 Jasra et al. 10.3389/fendo.2023.1236472 28. Prigione A, Adjaye J. Modulation of mitochondrial biogenesis and bioenergetic metabolism upon in vitro and in vivo differentiation of human ES and iPS cells. Int J Dev Biol (2010) 54:1729–41. doi: 10.1387/ijdb.103198ap 53. Suhr ST, Chang EA, Tjong J, Alcasid N, Perkins GA, Goissis MD, et al. Mitochondrial rejuvenation after induced pluripotency. PloS One (2010) 5:e14095. doi: 10.1371/journal.pone.0014095 54. Wang S, Xia P, Ye B, Huang G, Liu J, Fan Z. Transient activation of autophagy via Sox2-mediated suppression of mTOR is an important early step in reprogramming to pluripotency. Cell Stem Cell (2013) 13:617–25. doi: 10.1016/j.stem.2013.10.005 29. Mandal S, Lindgren AG, Srivastava AS, Clark AT, Banerjee U. Mitochondrial function controls proliferation and early differentiation potential of embryonic stem cells. Stem Cells (2011) 29:486–95. doi: 10.1002/stem.590 30. Prigione A, Fauler B, Lurz R, Lehrach H, Adjaye J. The senescence-related mitochondrial/oxidative stress pathway is repressed in human induced pluripotent stem cells. Stem Cells (2010) 28:721–33. doi: 10.1002/stem.404 55. Wu Y, Li Y, Zhang H, Huang Y, Zhao P, Tang Y, et al. Autophagy and mTORC1 regulate the stochastic phase of somatic cell reprogramming. Nat Cell Biol (2015) 17:715–25. doi: 10.1038/ncb3172 31. Boward B, Wu T, Dalton S, Boward B, Wu T, Dalton S. Concise review: control of cell fate through cell cycle and pluripotency networks. Stem Cells (2016) 34:1427–36. doi: 10.1002/stem.2345 56. Ma T, Li J, Xu Y, Yu C, Xu T, Wang H, et al. Atg5-independent autophagy regulates mitochondrial clearance and is essential for iPSC reprogramming. Nat Cell Biol (2015) 17:1379–87. doi: 10.1038/ncb3256 32. Kim JS, Choi HW, Choi S, Do JT. Reprogrammed pluripotent stem cells from somatic cells. Int J Stem Cells (2011) 4:1–8. doi: 10.15283/ijsc.2011.4.1.1 57. Son MJ, Kwon Y, Son MY, Seol B, Choi HS, Ryu SW, et al. Mitofusins deficiency elicits mitochondrial metabolic reprogramming to pluripotency. Cell Death Differ (2015) 22:1957–69. doi: 10.1038/cdd.2015.43 33. References Dynamic rerouting of the carbohydrate flux is key to counteracting oxidative stress. J Biol (2007) 6:10. doi: 10.1186/jbiol61 71. Moussaieff A, Rouleau M, Kitsberg D, Cohen M, Levy G, Barasch D, et al. Glycolysis-mediated changes in acetyl-CoA and histone acetylation control the early differentiation of embryonic stem cells. Cell Metab (2015) 21:392–402. doi: 10.1016/ j.cmet.2015.02.002 46. Li W, Li K, Wei W, Ding S. Chemical approaches to stem cell biology and therapeutics. Cell Stem Cell (2013) 13:270–83. doi: 10.1016/j.stem.2013.08.002 47. Seo BJ, Yoon SH, Do JT. Mitochondrial dynamics in stem cells and differentiation. Int J Mol Sci (2018) 19. doi: 10.3390/ijms19123893 72. Kang PJ, Zheng J, Lee G, Son D, Kim IY, Song G, et al. Glycine decarboxylase regulates the maintenance and induction of pluripotency via metabolic control. Metab Eng (2019) 53:35–47. doi: 10.1016/j.ymben.2019.02.003 48. Wakabayashi J, Zhang Z, Wakabayashi N, Tamura Y, Fukaya M, Kensler TW, et al. The dynamin-related GTPase Drp1 is required for embryonic and brain development in mice. J Cell Biol (2009) 186:805–16. doi: 10.1083/jcb.200903065 73. Zhang WC, Shyh-Chang N, Yang H, Rai A, Umashankar S, Ma S, et al. Glycine decarboxylase activity drives non-small cell lung cancer tumor-initiating cells and tumorigenesis. Cell (2012) 148:259–72. doi: 10.1016/j.cell.2011.11.050 49. Ishihara N, Nomura M, Jofuku A, Kato H, Suzuki SO, Masuda K, et al. Mitochondrial fission factor Drp1 is essential for embryonic development and synapse formation in mice. Nat Cell Biol (2009) 11(8):958–66. doi: 10.1038/ncb1907 74. Giallongo S, Rehakova D, Raffaele M, Lo Re O, Koutna I, Vinciguerra M. Redox and epigenetics in human pluripotent stem cells differentiation. Antioxid Redox Signal (2021) 34:335–49. doi: 10.1089/ars.2019.7983 50. De Palma CF, Falcone S, Pisoni S, Cipolat S, Panzeri C, Pambianco S, et al. Nitric oxide inhibition of Drp1-mediated mitochondrial fission is critical for myogenic differentiation. Cell Death Differentiation (2010) 17:1684–96. doi: 10.1038/cdd.2010.48 75. Etchegaray JP, Mostoslavsky R. Interplay between metabolism and epigenetics: A nuclear adaptation to environmental changes. Mol Cell (2016) 62:695–711. doi: 10.1016/j.molcel.2016.05.029 51. Wanet A, Arnould T, Najimi M, Renard P. Connecting mitochondria, metabolism, and stem cell fate. Stem Cells Dev (2015) 24:1957–71. doi: 10.1089/ scd.2015.0117 76. Martinez-Reyes I, Chandel NS. Mitochondrial TCA cycle metabolites control physiology and disease. Nat Commun (2020) 11:102. doi: 10.1038/s41467-019-13668-3 52. Yanes O, Clark J, Wong DM, Patti GJ, Sanchez-Ruiz A, Benton HP, et al. Metabolic oxidation regulates embryonic stem cell differentiation. Nat Chem Biol (2010) 6:411–7. doi: 10.1038/nchembio.364 77. References Dai X, Yan X, Wintergerst KA, Cai L, Keller BB, Tan Y. Nrf2: redox and metabolic regulator of stem cell state and function. Trends Mol Med (2020) 26:185–200. doi: 10.1016/j.molmed.2019.09.007 Frontiers in Endocrinology 15 frontiersin.org 10.3389/fendo.2023.1236472 Jasra et al. Jasra et al. 78. Cacchiarelli D, Trapnell C, Ziller MJ, Soumillon M, Cesana M, Karnik R, et al. Integrative analyses of human reprogramming reveal dynamic nature of induced pluripotency. Cell (2015) 162:412–24. doi: 10.1016/j.cell.2015.06.016 metabolism in health and type 2 diabetes. Commun Biol (2021) 4:594. doi: 10.1038/ s42003-021-02113-1 104. Velazco-Cruz L, Song J, Maxwell KG, Goedegebuure MM, Augsornworawat P, Hogrebe NJ, et al. Acquisition of dynamic function in human stem cell-derived beta cells. Stem Cell Rep (2019) 12:351–65. doi: 10.1016/j.stemcr.2018.12.012 79. Hansson J, Rafiee MR, Reiland S, Polo JM, Gehring J, Okawa S, et al. Highly coordinated proteome dynamics during reprogramming of somatic cells to pluripotency. Cell Rep (2012) 2:1579–92. doi: 10.1016/j.celrep.2012.10.014 105. Olsson AH, Yang BT, Hall E, Taneera J, Salehi A, Nitert MD, et al. Decreased expression of genes involved in oxidative phosphorylation in human pancreatic islets from patients with type 2 diabetes. Eur J Endocrinol (2011) 165:589–95. doi: 10.1530/EJE-11-0282 80. Takashima Y, Guo G, Loos R, Nichols J, Ficz G, Krueger F, et al. Resetting transcription factor control circuitry toward ground-state pluripotency in human. Cell (2015) 162:452–3. doi: 10.1016/j.cell.2015.06.052 106. Balboa D, Barsby T, Lithovius V, Saarimaki-Vire J, Omar-Hmeadi M, Dyachok O, et al. Functional, metabolic and transcriptional maturation of human pancreatic islets derived from stem cells. Nat Biotechnol (2022) 40:1042–55. doi: 10.1038/s41587-022-01219-z 81. Chang CY, McDonnell DP. Molecular pathways: the metabolic regulator estrogen-related receptor a as a therapeutic target in cancer. Clin Cancer Res (2014) 18:6089–95. doi: 10.1158/1078-0432.CCR-11-3221 107. Kibbey RG, Pongratz RL, Romanelli AJ, Wollheim CB, Cline GW, Shulman GI. Mitochondrial GTP regulates glucose-stimulated insulin secretion. Cell Metab (2007) 5:253–64. doi: 10.1016/j.cmet.2007.02.008 82. Ji J. Antioxidant supplementation reduces genomic aberrations in human induced pluripotent stem cells. Stem Cell Rep (2014) 2:44–51. doi: 10.1016/j.stemcr.2013.11.004 108. Tan C, Tuch BE, Tu J, Brown SA. Role of NADH shuttles in glucose-induced insulin secretion from fetal beta-cells. Diabetes (2002) 51:2989–96. doi: 10.2337/ diabetes.51.10.2989 83. Maechler P. Mitochondrial function and insulin secretion. Mol Cell Endocrinol (2013) 379:12–8. doi: 10.1016/j.mce.2013.06.019 84. Iynedjian PB. Molecular physiology of mammalian glucokinase. Cell Mol Life Sci (2009) 66:27–42. doi: 10.1007/s00018-008-8322-9 109. Augsornworawat P, Maxwell KG, Velazco-Cruz L, Millman JR. References Single-Cell Transcriptome Profiling Reveals beta Cell Maturation in Stem Cell-Derived Islets after Transplantation. Cell Rep (2020) 32:108067. doi: 10.1016/j.celrep.2020.108067 85. Sekine N, Cirulli V, Regazzi R, Brown LJ, Gine E, Tamarit-Rodriguez J, et al. Low lactate dehydrogenase and high mitochondrial glycerol phosphate dehydrogenase in pancreatic beta-cells. Potential role nutrient sensing. J Biol Chem (1994) 269:4895–902. doi: 10.1016/S0021-9258(17)37629-9 110. Nair GG, Liu JS, Russ HA, Tran S, Saxton MS, Chen R, et al. Recapitulating endocrine cell clustering in culture promotes maturation of human stem-cell-derived beta cells. Nat Cell Biol (2019) 21:263–74. doi: 10.1038/s41556-018-0271-4 86. Davis JC, Alves TC, Helman A, Chen JC, Kenty JH, Cardone RL, et al. Glucose response by stem cell-derived b Cells in vitro is inhibited by a bottleneck in glycolysis. Cell Rep (2020) 31:107623. doi: 10.1016/j.celrep.2020.107623 111. Barsby T, Vahakangas E, Ustinov J, Montaser H, Ibrahim H, Lithovius V, et al. Aberrant metabolite trafficking and fuel sensitivity in human pluripotent stem cell- derived islets. Cell Rep (2023) 42:112970. doi: 10.1016/j.celrep.2023.112970 87. Stark R, Pasquel F, Turcu A, Pongratz RL, Roden M, Cline GW, et al. Phosphoenolpyruvate cycling via mitochondrial phosphoenolpyruvate carboxykinase links anaplerosis and mitochondrial GTP with insulin secretion. J Biol Chem (2009) 284 (2009):26578–90. doi: 10.1074/jbc.M109.011775 112. Dadheech N, de León M Bermúdez, Cuesta-Gomez N, Jasra IT, Pawlick R, Marfil-Garza B, et al. Complete suspension differentiation of human pluripotent stem cells into pancreatic islets using vertical wheel® Bioreactors. bioRvix- (2023). doi: 10.1101/2023.08.09.552676 88. Yaney GC, Corkey BE. Fatty acid metabolism and insulin secretion in pancreatic beta cells. Diabetologia (2003) 46:1297–312. doi: 10.1007/s00125-003-1207-4 113. Bigarella CL, Liang R, Ghaffari S. Stem cells and the impact of ROS signaling. Development (2014) 141:4206–18. doi: 10.1242/dev.107086 89. Rutter GA, Pullen TJ, Hodson DJ, Martinez-Sanchez A. Pancreatic beta-cell identity, glucose sensing and the control of insulin secretion. Biochem J (2015) 466:203– 18. doi: 10.1042/BJ20141384 114. Schieke SM, Ma M, Cao L, McCoy JPJr., Liu C, Hensel NF, et al. Mitochondrial metabolism modulates differentiation and teratoma formation capacity in mouse embryonic stem cells. J Biol Chem (2008) 283:28506–12. doi: 10.1074/jbc.M802763200 90. Dover EN, Beck R, Huang MC, Douillet C, Wang Z, Klett EL, et al. Arsenite and methylarsonite inhibit mitochondrial metabolism and glucose-stimulated insulin secretion in INS-1 832/13 beta cells. Arch Toxicol (2018) 92:693–704. doi: 10.1007/ s00204-017-2074-y 115. Tohyama S, Hattori F, Sano M, Hishiki T, Nagahata Y, Matsuura T, et al. References Distinct metabolic flow enables large-scale purification of mouse and human pluripotent stem cell-derived cardiomyocytes. Cell Stem Cell (2013) 12:127–37. doi: 10.1016/j.stem.2012.09.013 91. Silva JP, Kohler M, Graff C, Oldfors A, Magnuson MA, Berggren PO, et al. Impaired insulin secretion and beta-cell loss in tissue-specific knockout mice with mitochondrial diabetes. Nat Genet (2000) 26:336–40. doi: 10.1038/81649 116. Iwata R, Vanderhaeghen P. Regulatory roles of mitochondria and metabolism in neurogenesis. Curr Opin Neurobiol (2021) 69:231–40. doi: 10.1016/j.conb.2021.05.003 92. Dabravolski SA, Orekhova VA, Baig MS, Bezsonov EE, Starodubova AV, Popkova TV, et al. The role of mitochondrial mutations and chronic inflammation in diabetes. Int J Mol Sci (2021) 22. doi: 10.3390/ijms22136733 117. Pellegrini S, Zamarian V, Sordi V. Strategies to Improve the Safety of iPSC- Derived beta Cells for beta Cell Replacement in Diabetes. Transpl Int (2022) 35:10575. doi: 10.3389/ti.2022.10575 93. Maassen JA, Janssen GM, t Hart LM. Molecular mechanisms of mitochondrial diabetes (MIDD). Ann Med (2005) 37:213–21. doi: 10.1080/07853890510007188 118. Nagashima T, Shimizu K, Matsumoto R, Honda H. Selective elimination of human induced pluripotent stem cells using medium with high concentration of L- alanine. Sci Rep (2018) 8:12427. doi: 10.1038/s41598-018-30936-2 94. Lee WJ, Lee HW, Palmer JP, Park KS, Lee HK, Park JY, et al. Islet cell autoimmunity and mitochondrial DNA mutation in Korean subjects with typical and atypical Type I diabetes. Diabetologia (2001) 44:2187–91. doi: 10.1007/s001250100028 119. Matsuura K, Ito K, Shiraki N, Kume S, Hagiwara N, Shimizu T. Induced pluripotent stem cell elimination in a cell sheet by methionine-free and 42 degrees C condition for tumor prevention. Tissue Eng Part C Methods (2018) 24:605–15. doi: 10.1089/ten.tec.2018.0228 95. Molina AJ, Wikstrom JD, Stiles L, Las G, Mohamed H, Elorza A, et al. Mitochondrial networking protects beta-cells from nutrient-induced apoptosis. Diabetes (2009) 58:2303–15. doi: 10.2337/db07-1781 120. Sui L, Xin Y, Du Q, Georgieva D, Diedenhofen G, Haataja L, et al. Reduced replication fork speed promotes pancreatic endocrine differentiation and controls graft size. JCI Insight (2021) 6. doi: 10.1172/jci.insight.141553 96. Park KS, Wiederkehr A, Kirkpatrick C, Mattenberger Y, Martinou JC, Marchetti P, et al. Selective actions of mitochondrial fission/fusion genes on metabolism-secretion coupling in insulin-releasing cells. J Biol Chem (2008) 283:33347–56. doi: 10.1074/ jbc.M806251200 121. Dabir DV, Hasson SA, Setoguchi K, Johnson ME, Wongkongkathep P, Douglas CJ, et al. A small molecule inhibitor of redox-regulated protein translocation into mitochondria. Dev Cell (2013) 25:81–92. doi: 10.1016/j.devcel.2013.03.006 97. References Rezania A, Bruin JE, Arora P, Rubin A, Batushansky I, Asadi A, et al. Reversal of diabetes with insulin-producing cells derived in vitro from human pluripotent stem cells. Nat Biotechnol (2014) 32:1121–33. doi: 10.1038/nbt.3033 122. Ben-David U, Gan QF, Golan-Lev T, Arora P, Yanuka O, Oren YS, et al. Selective elimination of human pluripotent stem cells by an oleate synthesis inhibitor discovered in a high-throughput screen. Cell Stem Cell (2013) 12:167–79. doi: 10.1016/j.stem.2012.11.015 98. Li S, Huang Q, Mao J, Li Q. TGFb-dependent mitochondrial biogenesis is activated during definitive endoderm differentiation. In Vitro Cell Dev Biol Anim (2020) 56:378–85. doi: 10.1007/s11626-020-00442-9 123. Kuo TF, Mao D, Hirata N, Khambu B, Kimura Y, Kawase E, et al. Selective elimination of human pluripotent stem cells by a marine natural product derivative. J Am Chem Soc (2014) 136:9798–801. doi: 10.1021/ja501795c 99. Webb AC, Smith LD. Accumulation of mitochondrial DNA during oogenesis in Xenopus laevis. Dev Biol (1977) 56:219–25. doi: 10.1016/0012-1606(77)90166-X 124. Richards M, Phoon CW, Goh GT, Seng EK, Guo XM, Tan CM, et al. A new class of pluripotent stem cell cytotoxic small molecules. PloS One (2014) 9:e85039. doi: 10.1371/journal.pone.0085039 100. Garstka HL, Schmitt WE, Schultz J, Sogl B, Silakowski B, Pérez-Martos A, et al. Import of mitochondrial transcription factor A (TFAM) into rat liver mitochondria stimulates transcription of mitochondrial DNA. Nucleic Acids Res (2003) 31:5039–47. doi: 10.1093/nar/gkg717 125. Buckberry S, Liu X, Poppe D, Tan JP, Sun G, Chen J, et al. Transient naive reprogramming corrects hiPS cells functionally and epigenetically. Nature (2023) 620:863–72. doi: 10.1038/s41586-023-06424-7 126. Cuesta-Gomez N, Verhoeff K, Dadheech N, Dang T, Jasra IT, de Leon MB, et al. Suspension culture improves iPSC expansion and pluripotency phenotype. Stem Cell Res Ther (2023) 14:154. doi: 10.1186/s13287-023-03382-9 101. Lv J, Yi Y, Qi Y, Yan C, Jin W, Meng L, et al. Mitochondrial homeostasis regulates definitive endoderm differentiation of human pluripotent stem cells. Cell Death Discovery (2022) 8:69. doi: 10.1038/s41420-022-00867-z 127. Lee JH, Laronde S, Collins TJ, Shapovalova Z, Tanasijevic B, McNicol JD, et al. Lineage-specific differentiation is influenced by state of human pluripotency. Cell Rep (2017) 19:20–35. doi: 10.1016/j.celrep.2017.03.036 102. Kondoh H, Lleonart ME, Nakashima Y, Yokode M, Tanaka M, Bernard D, et al. A high glycolytic flux supports the proliferative potential of murine embryonic stem cells. Antioxid Redox Signal (2007) 9:293–9. doi: 10.1089/ars.2006.1467 128. Romayor I, Herrera L, Buron M, Martin-Inaraja M, Prieto L, Etxaniz J, et al. References A comparative study of cell culture conditions during conversion from primed to naive human pluripotent stem cells. Biomedicines (2022) 10. doi: 10.3390/biomedicines10061358 103. Wang Z, Gurlo T, Matveyenko AV, Elashoff D, Wang P, Rosenberger M, et al. Live-cell imaging of glucose-induced metabolic coupling of beta and alpha cell Frontiers in Endocrinology 16 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 Continued PKM Pyruvate kinase isoenzyme M ROS Reactive oxygen species SC-b cells Stem cell-derived b cells SCS-GTP GTP specific isoform of succinyl CoA-synthetase Sox 2 SRY box transcription factor 2 Tcl1 T-cell leukemia/ lymphoma 1 TCA Tricarboxylic acid cycle TET Ten-eleven translocation Glossary 2-OGDD 2-Oxoglutarate-dependent dioxygenases aKG Alpha-Ketoglutarate ACC1 Acetyl-CoA carboxylase 1 AGEs Advanced glycation end products APH Aphidicolin ATG5 Autophagy-related protein 5 cMyc Cellular Myc DE Definitive endoderm DRP1 Dynamin-related protein 1 ETC Electron transport respiratory chain ESCs Embryonic stem cells ERR Estrogen-related nuclear receptors FAD Flavin adenine dinucleotide Fis1 Fission 1 protein GLDC Glycine decarboxylase GLUT Glucose transporter GSIS Glucose stimulated insulin secretion GSR Glutathione Reductase HK Hexokinase HIF1 Hypoxia-inducible factor 1 iPSC Induced pluripotent stem cells JMJD Jumonji C domain-containing family histone demethylases Klf4 Kripple like factor 4 MAPK26 Mitogen-activated kinase 26 mtDNA Mitochondrial DNA MGST1 Microsomal glutathione S-transferase 1 NAD Nicotinamide adenine dinucleotide Nrf2 Nuclear erythroid-related factor 2 Oct4 Octamer binding transcription factor 4 OXPHOS Oxidative phosphorylation PARP1 Poly(ADP)Ribose Polymerase-1 PC Palmytolcarnitine PPP Pentose phosphate pathway PnPase Polynucleotide phosphorylase PDK1 3-Phosphoinositide-dependent kinase1 PDHK1 Pyruvate dehydrogenase kinase PEPCK-M Mitochondrial phosphoenolpyruvate carboxykinase PK Pyruvate kinase (Continued) Continued PKM Pyruvate kinase isoenzyme M ROS Reactive oxygen species SC-b cells Stem cell-derived b cells SCS-GTP GTP specific isoform of succinyl CoA-synthetase Sox 2 SRY box transcription factor 2 Tcl1 T-cell leukemia/ lymphoma 1 TCA Tricarboxylic acid cycle TET Ten-eleven translocation Glossary 2-OGDD 2-Oxoglutarate-dependent dioxygenases aKG Alpha-Ketoglutarate ACC1 Acetyl-CoA carboxylase 1 AGEs Advanced glycation end products APH Aphidicolin ATG5 Autophagy-related protein 5 cMyc Cellular Myc DE Definitive endoderm DRP1 Dynamin-related protein 1 ETC Electron transport respiratory chain ESCs Embryonic stem cells ERR Estrogen-related nuclear receptors FAD Flavin adenine dinucleotide Fis1 Fission 1 protein GLDC Glycine decarboxylase GLUT Glucose transporter GSIS Glucose stimulated insulin secretion GSR Glutathione Reductase HK Hexokinase HIF1 Hypoxia-inducible factor 1 iPSC Induced pluripotent stem cells JMJD Jumonji C domain-containing family histone demethylases Klf4 Kripple like factor 4 MAPK26 Mitogen-activated kinase 26 mtDNA Mitochondrial DNA MGST1 Microsomal glutathione S-transferase 1 NAD Nicotinamide adenine dinucleotide Nrf2 Nuclear erythroid-related factor 2 Oct4 Octamer binding transcription factor 4 OXPHOS Oxidative phosphorylation PARP1 Poly(ADP)Ribose Polymerase-1 PC Palmytolcarnitine PPP Pentose phosphate pathway PnPase Polynucleotide phosphorylase PDK1 3-Phosphoinositide-dependent kinase1 PDHK1 Pyruvate dehydrogenase kinase PEPCK-M Mitochondrial phosphoenolpyruvate carboxykinase PK Pyruvate kinase (Continued) (Continued) frontiersin.org Frontiers in Endocrinology 17
https://openalex.org/W3155640198
https://hal.archives-ouvertes.fr/hal-03320478/document
English
null
A Combined Lidar-Polarimeter Inversion Approach for Aerosol Remote Sensing Over Ocean
Frontiers in remote sensing
2,021
cc-by
20,905
A Combined Lidar-Polarimeter Inversion Approach for Aerosol Remote Sensing Over Ocean Feng Xu, Lan Gao, Jens Redemann, Connor Flynn, W. Reed Espinosa, Arlindo da Silva, Snorre Stamnes, Sharon Burton, Xu Liu, Richard Ferrare, et al. To cite this version: Feng Xu, Lan Gao, Jens Redemann, Connor Flynn, W. Reed Espinosa, et al.. A Combined Lidar- Polarimeter Inversion Approach for Aerosol Remote Sensing Over Ocean. Frontiers in Remote Sensing, 2021, 2, ￿10.3389/frsen.2021.620871￿. ￿hal-03320478￿ A Combined Lidar-Polarimeter Inversion Approach for Aerosol Remote Sensing Over Ocean Feng Xu, Lan Gao, Jens Redemann, Connor Flynn, W. Reed Espinosa, Arlindo da Silva, Snorre Stamnes, Sharon Burton, Xu Liu, Richard Ferrare, et al. To cite this version: Feng Xu, Lan Gao, Jens Redemann, Connor Flynn, W. Reed Espinosa, et al.. A Combined Lidar- Polarimeter Inversion Approach for Aerosol Remote Sensing Over Ocean. Frontiers in Remote Sensing, 2021, 2, ￿10.3389/frsen.2021.620871￿. ￿hal-03320478￿ Distributed under a Creative Commons Attribution 4.0 International License A Combined Lidar-Polarimeter Inversion Approach for Aerosol Remote Sensing Over Ocean Feng Xu 1*, Lan Gao 1, Jens Redemann 1, Connor J. Flynn 1, W. Reed Espinosa 2, Arlindo M. da Silva 2, Snorre Stamnes 3, Sharon P. Burton 3, Xu Liu 3, Richard Ferrare 3, Brian Cairns 4 and Oleg Dubovik 5 Feng Xu 1*, Lan Gao 1, Jens Redemann 1, Connor J. Flynn 1, W. Reed Espinosa 2, Arlindo M. da Silva 2, Snorre Stamnes 3, Sharon P. Burton 3, Xu Liu 3, Richard Ferrare 3, Brian Cairns 4 and Oleg Dubovik 5 1School of Meteorology, The University of Oklahoma, Norman, OK, United States, 2NASA Goddard Space Flight Center, Greenbelt, MD, United States, 3NASA Langley Research Center, Hampton, VA, United States, 4NASA Goddard Institute for Space Studies, New York, NY, United States, 5Université de Lille, CNRS, UMR 8518 - LOA - Laboratoire d’Optique Atmosphérique, Lille, France An optimization algorithm is developed to retrieve the vertical profiles of aerosol concentration, refractive index and size distribution, spherical particle fraction, as well as a set of ocean surface reflection properties. The retrieval uses a combined set of lidar and polarimeter measurements. Our inversion includes using 1) a hybrid radiative transfer (RT) model that combines the computational strengths of the Markov-chain and adding- doubling approaches in modeling polarized RT in vertically inhomogeneous and homogeneous media, respectively; 2) a bio-optical model that represents the water- leaving radiance as a function of chlorophyll-a concentration for open ocean; 3) the constraints regarding the smooth variations of several aerosol properties along altitude; and 4) an optimization scheme. We tested the retrieval using 50 sets of coincident lidar and polarimetric data acquired by NASA Langley airborne HSRL-2 and GISS RSP respectively during the ORACLES field campaign. The retrieved vertical profiles of aerosol single scattering albedo (SSA) and size distribution are compared to the reference data measured by University of Hawaii’s HiGEAR instrumentation suite. At the vertical resolution of 315 m, the mean absolute difference (MAD) between retrieved and HiGEAR derived aerosol SSA is 0.028. And the MADs between retrieved and HiGEAR effective radius of aerosol size distribution are 0.012 and 0.377 micron for fine and coarse aerosols, respectively. The retrieved aerosol optical depth (AOD) above aircraft are compared to NASA Ames 4-STAR measurement. The MADs are found to be 0.010, 0.006, and 0.004 for AOD at 355, 532 and 1,064 nm, respectively. Edited by: Jose Antonio Sobrino, University of Valencia, Spain Reviewed by: Pengwang Zhai, University of Maryland, United States Xiaoguang Xu, University of Maryland, United States *Correspondence: Feng Xu fengxu@ou.edu *Correspondence: Feng Xu fengxu@ou.edu Specialty section: This article was submitted to Satellite Missions, a section of the journal Frontiers in Remote Sensing Received: 24 October 2020 Accepted: 07 January 2021 Published: 21 April 2021 Specialty section: This article was submitted to Satellite Missions, a section of the journal Frontiers in Remote Sensing Received: 24 October 2020 Accepted: 07 January 2021 Received: 24 October 2020 Accepted: 07 January 2021 Published: 21 April 2021 Keywords: aerosols, remote sensing, lidar-polarimeter, combined retrieval, radiative transfer HAL Id: hal-03320478 https://hal.science/hal-03320478v1 Submitted on 16 Aug 2021 L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés. HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers. Distributed under a Creative Commons Attribution 4.0 International License ORIGINAL RESEARCH published: 21 April 2021 doi: 10.3389/frsen.2021.620871 Keywords: aerosols, remote sensing, lidar-polarimeter, combined retrieval, radiative transfer Edited by: Jose Antonio Sobrino, University of Valencia, Spain Edited by: Jose Antonio Sobrino, University of Valencia, Spain INTRODUCTION Xu F, Gao L, Redemann J, Flynn CJ, Espinosa WR, da Silva AM, Stamnes S, Burton SP, Liu X, Ferrare R, Cairns B and Dubovik O (2021) A Combined Lidar-Polarimeter Inversion Approach for Aerosol Remote Sensing Aerosols are tiny particles suspended in the atmosphere. They stem from a variety of natural and anthropogenic sources and processes, and influence the distribution of radiation by either directly absorbing, scattering and emitting radiation or indirectly by providing cloud condensation nuclei. In addition, the concentration and speciation of aerosols in the boundary layer impact air quality and consequently public health. Characterization of spatial and temporal variations of a few key aerosol characteristics such as abundance, size, absorption, and composition is critical for quantifying their April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 1 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. global and regional impact on climate and air quality. However, the short life cycle of aerosols and high-degree of variability in their composition and distribution has been a challenge for their accurate remote sensing. According to the most recent IPCC report (IPCC, 2013), aerosols remain the largest radiative forcing uncertainty. during daytime. The global coverage of aerosol products enables its wide applications such as aerosol-cloud interaction and air quality studies. Like a radiometer, a polarimeter can provide large swath aerosol/cloud context for TOA flux assessment. Both theoretical studies and real data analysis have proved polarimeter’s capability of constraining column effective aerosol abundance, absorption and microphysical properties together with surface reflection properties (see for example [Mishchenko et al., 2011; Hasekamp et al., 2011; Chowdhary et al., 2012; Knobelspiesse et al., 2012; Dubovik et al., 2019; Remer et al., 2019; among others]). Compared to lidar, however, polarimeter carries much less information about the vertical distributions of aerosols. y To better anchor aerosol direct and indirect impacts on the Earth’s energy balance, the Global Climate Observing System (GCOS, 2011) sets out observational requirements for a few key aerosol characteristics such as aerosol optical depth (AOD, denoted by “τ”), single scattering albedo (SSA), extinction profiles and layer height. For example, the accuracy of AOD at 550 nm is required to be better than the max of (0.1τ, 0.03) at the horizontal resolution of 5–10 km and a temporal resolution of 4 h. The accuracy of SSA is required to be better than 0.03. INTRODUCTION Aerosol extinction profiles are required to be better than 10% at a horizontal resolution of 200–500 km, a vertical resolution <1 km near the tropopause and of ∼2 km in the middle stratosphere. The NASA Aerosol Clouds, and Convection and Precipitation (ACCP) mission that is currently undergoing formulation (https://vac.gsfc.nasa.gov/accp/ home.htm) is also setting up criteria on a set of geophysical variables (documented as Milestone SATM, September 16, 2019). For example, the total and planetary boundary layer (PBL) effective total fine mode AODs are desired to be better than 0.05τtotal/fine + 0.02. In both column and PBL effective sense, the accuracy of SSA is desired to be better than 0.03; aerosol extinction-to-backscatter ratios are required to be better than 25%; the real part of aerosol refractive index is desired to be better than 0.025; and the nonspherical AOD fractions are desired to be better than 10%. Aerosol extinction profile is desired to be better than the max of (0.02 km−1, 20%–40%) at the vertical resolution from 30 to 250 m, depending on specific mission objective. It is apparent that lidar and polarimeter have highly complementary strengths: while lidar resolves details of aerosol vertical profiles and types, polarimeter provides constraints on anchoring column-effective aerosol abundance, absorption and microphysical properties across a large swath. Consequently, a combination of these two types of measurements enhances the observational information about aerosol properties. Informing aerosol retrieval by these two types of measurements, we target a comprehensive determination of aerosol size, type, abundance and absorption as well as their vertical variations. To fully utilize the information contained in lidar and polarimetric measurements, reliable forward and inversion models are prerequisite. Some earlier efforts have been made toward combining lidar and polarimetric/radiometric measurements to improve the retrieval of aerosol properties. For example, Knobelspiesse et al. (2011) investigated the Research Scanning Polarimeter (RSP, Cairns et al., 1999) and HSRL (Hair et al., 2008) data collected during the field campaign - Arctic Research of the Composition of the Troposphere from Aircraft and Satellites (ARCTAS). It is found that the combined use of the two types of measurement in retrieval reduces the likelihood of unsuccessful retrievals caused by significantly biased initial estimate of the aerosol number concentration in optimal estimate inversion approach. In the case of ground-based observations, the LIRiC and GARRLiC algorithms have been developed by Chaikovsky et al. (2016) and by Lopatin et al. (2013), respectively. INTRODUCTION backscatter lidar measurements in 532 and 1,064 nm in combination with a radiometer or polarimeter with 10 angles spaced over ±57° with 6 wavelengths spanning 0.44–2.2 μm. Compared to stand alone polarimetric or radiometric retrieval, an enhanced accuracy in fine mode aerosol SSA was observed from the combined retrieval. In essence, the combined retrieval capitalizes on the benefit of backscatter observations that contain sensitivity to the profiling properties of aerosols and the benefits of polarimetric observations that contain information about aerosol loading and absorption. output of the optimized solution, ancillary aerosol quantities including AOD, SSA, particulate lidar ratio, particulate extinction and backscatter coefficients as well as particulate depolarization are derived. Error estimate is provided for all retrieval outcome. With these algorithm modules, we outlined in Figure 1 the algorithm flow of combined lidar-polarimeter inversion. Input into the retrieval consists of 1) lidar signals including extinction, backscatter, and/or depolarization or a subset of them; and 2) polarimetric signals including multi-angle and multi-spectral measurements of radiance and polarimetric components. As retrieval parameters, the state vector contains the column volume concentrations of multiple aerosol species and vertical profiles of 1) speciated aerosol refractive index with its spectral dependence constrained by a linear model in logarithmic space; 2) speciated log-normal volume weighted size distribution constrained by median size parameter and standard deviation; 3) species dependent spherical particle volume fraction; and 4) species column concentrations in vertical layers. Also included in the retrieval state vector are chlorophyll-a (Chl-a) concentration, an empirical spectral term that adjusts the water-leaving radiances to mitigate bio-optical modeling error, and the wind speed. g p In this paper, we describe a research algorithm that allows a combined use of lidar and polarimetric observations for retrieving vertical profiles of speciated aerosol abundance and aerosol intrinsic properties such as size distribution, refractive index, and spherical particle fraction. The algorithm builds upon our earlier work using only polarimetric observations to retrieve a column effective set of aerosol properties over ocean (Xu et al., 2016). The paper is organized as follows. Following an algorithm overview in General Structure of the Algorithm, we introduce our 1D RT model for polarized RT in a coupled atmosphere-ocean system in Aerosol Scattering and Ocean Surface Reflection. Forward Model for Light Propagation in a Coupled Atmosphere-Ocean System formulates the inversion and error estimate approach. INTRODUCTION The latter is currently a branch of the Generalized Retrieval of Aerosol and Surface Properties (GRASP) algorithm (Dubovik et al., 2011; Dubovik et al., 2014). These two algorithms use joint data from a multi- wavelength lidar and an AERONET radiometer and derive two vertical profiles of fine and coarse aerosol components as well as extra parameters on the column-integrated properties of aerosols. Particularly, LIRIC derives vertical profiles using the retrieval results from AERONET but not changing them. GARRLiC/GRASP, on the other hand, fits simultaneously lidar and photometer data and derives both enhanced vertical and columnar aerosol properties. As ongoing efforts, Liu et al., (2016) and Burton et al., (2019) have been developing an optical estimate approach to retrieve vertically resolved particle concentrations, effective radius, and absorption by using both RSP and HSRL observations acquired during DISCOVER-AQ, TCAP and ORACLES field missions. Espinosa et al., (2019) used the GRASP algorithm to simulate the retrieval of attenuated Capitalizing on the rapid advancement of lidar and polarimetric remote sensing techniques and the relevant remote sensing theory over the last few decades, the combination of these two types of measurement is highly promising for meeting the requirements described above. As an active remote sensing technique, lidar sends out laser pulses into atmosphere and detects the backscattered radiation. Accounting for speed of light, the time delay in the received signals determines the distance from the backscatter location, and the range-resolved profiles of attenuated backscatter (e.g., CALIOP (Winker et al., 2007)) or backscatter, extinction and depolarization (e.g., the measurement by the High Spectral Resolution Lidar (HSRL, (Hair et al., 2001; Hair et al., 2008; Rogers et al., 2009) at single or multiple wavelengths resolves aerosol types and microphysical properties, and consequently vertically resolved radiative forcing. The determination of vertically resolved aerosol radiative forcing has direct implications for the thermodynamic structure of atmosphere and consequent effects on monsoonal circulations and the global hydrological cycle. Polarimeters, in contrast, use the Sun as the radiation source and measure radiometric and polarimetric signals of sunlight reflection from top-of- atmosphere (TOA) in multi-spectral/hyper-spectral and multi- angular dimensions. It enables a moderate-to-high horizontal resolution aerosol/cloud optical and microphysical products April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 2 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. INTRODUCTION In Coupled Retrieval of Aerosols and Ocean Properties, we test the inversion algorithm using 50 sets of coincident lidar and polarimetric observations made by the HSRL-2 and RSP instruments aboard the NASA ER-2 during the NASA’s ORACLES field campaign (Redemann et al., 2021). These observations cover a moderately high bio-mass burning and sea salt aerosol loading with column total AOD532-nm between ∼0.2 and ∼0.3 and an altitude dependent SSA. Comparisons of the retrieved AOD, SSA, and aerosol size distribution are made to the reference data measured by 4- STAR and HiGEAR which are aboard the NASA P-3 aircraft. A summary is given in Retrieval Implementation and Validation. Our retrieval starts with an initialized state vector x0. Speciated aerosol abundance, optical properties and microphysical properties are used to calculate vertically resolved aerosol single scattering quantities including 1) AOD, SSA and phase matrix for radiative transfer modeling and fit polarimetric measurement of radiance and degree of linear polarizartion (DOLP); and 2) aerosol extinction coefficient, scattering coefficient and depolarization ratio for fitting relevant lidar measurements. To guide the direction of search of solution through iterations, we run the forward model multiple times to calculate the Jacobian matrix that contains the derivatives of radiative and lidar quantities with respect to the aerosol and ocean surface properties. Moreover, a smoothness matrix is constructed to improve monotonic convergence of iteration toward the vicinity of globally optimized solution. A linear system is then established that includes the difference between model and observation, the Jacobian matrix, the smoothness matrix and the a priori. By solving the linear system, a stepwise increment of solution is determined to adjust the solution. In an iterative way, retrieval converges to a final solution. GENERAL STRUCTURE OF THE ALGORITHM The combined lidar and polarimetric retrieval of aerosol loading and properties consists of three major modules: 1) A static light scattering dataset for intrinsic aerosol properties including refractive index and multiple rectangular size bins. The dataset is pre-calculated and called during the inversion to provide on- the-fly single scattering properties for spherical and nonspherical particle properties. These properties include aerosol optical depth, phase matrix and SSA for radiative transfer modeling; and extinction, backscatter and depolarization to fit lidar measurement; 2) A hybrid radiative transfer model that combines the computational strengths of the Markov-chain and adding-doubling approaches in modeling polarized RT in vertically inhomogeneous and homogeneous media, respectively; and 3) Optimization model. The inversion is assisted by allowing an imposition of smoothness constraints on the vertical variations of speciated aerosol refractive index, size parameters and spherical particle fraction. Following retrieval success and the Frontiers in Remote Sensing | www.frontiersin.org AEROSOL SCATTERING AND OCEAN SURFACE REFLECTION min (5) (5) where C(s),sphere n0,a,l is the aerosol number concentration (m−3), dn(s) l (r)/d ln r is the number weighted aerosol size distribution in association with dv(s) l (r)/d ln r, rmin and rmax are the lower and upper bounds of the size distribution respectively, c(s),sphere ext,a,l is extinction cross section as a function of particle refractive index m(s) a,l and radius r, f (s),sphere v,l is the volume fraction of spherical particles, v(r) is the volume of a spherical particle of radius r, and C(s) v0,a,l is the aerosol volumetric concentration (in the unit of m3/m3). It is related to the subcolumn aerosol concentration (C(s) v,a,l in the unit of m3/m2) in lth layer by , If we discretize the speciated aerosol size distribution in the lth layer into Nbin size bins, the volumetric fraction of the ith bin is equal to f (s) i,l d ln ri (1 ≤i ≤Nbin), where f (s) i,l is calculated by f (s) i,l  dv(s) l (ri) d ln ri , (3) (3) where ri stands for the central radius of ith size bin and dv(s) l (ri)/d ln ri can be evaluated from Eq. 2. AEROSOL SCATTERING AND OCEAN SURFACE REFLECTION Dependent on the information content offered by specific combinations of lidar and polarimeter, our algorithm is designed to be flexible in the aspect of allowing multiple aerosol species to be retrieved. In this section we will introduce the calculation of aerosol single scattering quantities as well as ocean surface reflection. Adopting a log-normal volumetric size distribution [dv(s) l (r)/d ln r] for all (Ns) aerosol species, we have the subcolumn volumetric concentrations in lth layer, April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 3 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 1 | Algorithm flowcharts for retrieving aerosol and surface properties from a combined use of lidar and polarimer. extinction coefficient K(s) ext, a,l and scattering coefficient K(s) sca, a,l (in the unit of m−1) are calculated by (1) extinction coefficient K(s) ext, a,l and scattering coefficient K(s) sca, a,l (in the unit of m−1) are calculated by dVl(r) d ln r   Ns s1 C(s) v,l dv(s) l (r) d ln r , (1) (1) K(s) ext,a,l  K(s),sphere ext,a,l + K(s),spheroid ext,a,l (4) (4) where the size distribution of the sth species dv(s) l (r)/d ln r is parameterized by a geometric volume mean radius r(s) m and a logarithmic standard deviation σ(s) m,l: for sth aerosol species. In the above equation, the volumetric extinction component of spherical particles is evaluated by for sth aerosol species. In the above equation, the volumetric extinction component of spherical particles is evaluated by dv(s) l (r) d ln r  1  2π √ σ(s) m,l exp⎡⎢⎢⎢⎢⎣−ln r −ln r(s) m,l 2 2σ(s) m,l 2 ⎤⎥⎥⎥⎥⎦. (2) K(s),sphere ext,a,l  C(s),sphere n0,a,l rmax rmin dn(s) l (r) d ln r c(s),sphere ext,a,l m(s) a,l , rd ln r  C(s) v0,a,lf (s),sphere v,l rmax rmin dv(s) l (r) d ln r 1 v(r)c(s),sphere ext,a,l m(s) a,l , rd ln r, (5) (2) In Eq. 1, C(s) v,l is the subcolumn volume concentration of the sth aerosol species in the lth layer and is related to its volume fraction (f (s) v,l ) and the total column concentration (Ctot, (s) v ) by C(s) v,l  Ctot, (s) v f (s) v,l . Aerosol Single Scattering Properties for Radiative Transfer Calculation C(s) v,a,l  C(s) v0,a,lΔHl  Ctot, (s) v f (s) v,l , (6) (6) where In this section, we are going to introduce the calculation of aerosol single scattering properties including AOD, SSA and phase matrix elements for radiative transfer modeling. f (s) v,l  C(s) v,l ΔHl Ctot, (s) v  C(s) v,l ΔHl NLayer l1 C(s) v,l ΔHl . (7) (7) Accounting for the contribution by both spherical and spheroid-based nonspherical particles, the volumetric April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org Xu et al. Combined Lidar-Polarimeter Aerosol Inversion Calculation of volumetric extinction coefficient of spheroidal particles in Eq. 4 should account for both size and aspect ratio distributions of spheroids (Dubovik et al., 2011). Therefore, Replacing the subscript “ext” by “sca” in above derivations (Eqs. 4–13) gives relevant equations for the volumetric scattering coefficient: K(s) sca,a,l   Nbin i1 f (s) i,l f (s),sphere v,l K(s),sphere sca,a,l,i + 1 −f (s),sphere v,l K(s),spheroid sca,a,l,i . (14) K(s),spheroid ext,a,l  C(s),spheroid n0,a,l rmax rmin dn(s) l (r) d ln r c(s),spheroid ext,a,l m(s) a,l , rd ln r  C(s) v0,a,l1 −f (s),sphere v,l  ηmax ηmin  rmax rmin dn(s) l η d ln η dv(s) l (r) d ln r 1 v(r)c(s),spheroid ext,a,l m(s) a,l , r, ηd ln ηd ln r (8) (14) (8) In a similar way, the phase matrix element Pa,j,k,l of sth aerosol species in the lth layer is calculated from P(s) a, j,k,l  Nbin i1 f (s) i,l f (s),sphere v,l K(s),sphere a, sca, l, i P(s),sphere a, j,k,l, i + 1 −f (s),sphere v,l K(s),spheroid a, sca, l, i P(s),spheroid a, j,k, l, i  Nbin i1 f (s) i,l f (s),sphere v,l K(s),sphere a, sca, l, i + 1 −f (s),sphere v,l K(s),spheroid a, sca, l, i  . (15) where r becomes the volume equivalent spherical particle radius, the aspect ratio η < 1 for oblate spheroids and η > 1 for prolate spheroids, and ηmin and ηmax are the lower and upper bounds of the aspect ratio distribution respectively. Note that we assume spheroids to have fixed aspect ratio distribution (Legrand et al., 2014) and dn(s) l (η)/d ln η is independent of aerosol size. In the numerator of the above equation, we have In the numerator of the above equation, we have sphere a,l,i P(s),sphere a, j,k,l,i  lnri+Δlnri/2 lnri−Δlnri/2 c(s),sphere sca,a,l m(s) a,l , r v(r) P(s),sphere a, j,k,l m(s) a,l , rdln r, (16) (16) K(s),spheroid sca,a,l,i P(s),spheroid a, j,k,l, i   NAR q1 dn(s) l ηq d ln η lnηq+Δlnηq/2 lnηq−Δlnηq/2 lnri+Δlnri/2 lnri−Δlnri/2 c(s),spheroid sca,a,l m(s) a,l , r, η v(r) P(s),spheroid a, j,k,l,q m(s) a,l , r, ηdlnrdlnη. (17) For numerical calculation, the aerosol size distribution is descritized into Nbin rectangular bins so that for spherical particles K(s),shere ext,a,l  C(s) v0,a,lf (s),sphere v,l  Nbin i1 dv(s) l (ri) d ln r K(s),sphere ext,a,l,i m(s) a,l , ri, (9) (9) (17) where the component of sth aerosol species in its ith size bin is where the component of sth aerosol species in its ith size bin is Summing over the contributions from all aerosol species gives the total volumetric extinction and scattering coefficients in lth layer, K(s),sphere ext,a,l,i m(s) a,l , ri  lnri+Δlnri/2 lnri−Δlnri/2 c(s),sphere ext,a,l m(s) a,l , r v(r) dlnr. (10) (10) Kext[sca],a,l   Ns s1 K(s) ext[sca],a,l, (18) (18) For spheroids, we further need to break the integral of volumetric extinction into NAR bins of aspect ratio so that: where K(s) ext, a,l and K(s) sca,a,l are given by Eqs 13 and 14 respectively. The speciated aerosol SSA in lth layer is calculated as the ratio of speciated scattering and extinction coefficients by, where K(s) ext, a,l and K(s) sca,a,l are given by Eqs 13 and 14 respectively. The speciated aerosol SSA in lth layer is calculated as the ratio of speciated scattering and extinction coefficients by, K(s),spheroid ext,a,l  C(s) v0,a,l1 −f (s),shere v,l   Nbin i1 K(s),spheroid ext,a,l,i m(s) a,l , ri dv(s) l (ri) d ln r , (11) ω(s) 0,a,l  K(s) sca,a,l K(s) ext,a,l . (19) (19) where K(s),spheroid ext,a,l,i m(s) a,l , ri   NAR q1 dn(s) l ηq d ln η lnηq+Δlnηq/2 lnηq−Δlnηq/2 lnri+Δlnri/2 lnri−Δlnri/2 c(s),spheroid ext,a,l m(s) a,l , r, η v(r) dlnrdlnη. Aerosol Single Scattering Properties for Radiative Transfer Calculation Both dn(s) l (η)/d ln η and dv(s) l (r)/d ln r are normalized to unity in the presence of non-zero lower bound or non-infinity upper bound in their integral over r and η, respectively. (15) Aerosol Single Scattering Properties for Lidar Equation Use During the optimization process, the spectrally dependent refractive index and size distribution of aerosols and the spherical particle fraction of aerosols are updated dynamically. To avoid inefficient on-the-fly light scattering computations of aerosol extinction [scattering] coefficients Ksphere[spheroid] ext[sca], a,i , and aerosol phase matrix Psphere[spheroid] a,j,k,i are precalculated for a set of size bins and refractive indices and saved in a lookup table. The table is then linearly interpolated to determine the scattering properties associated with dynamically updated refractive index during the retrieval. The bin resolved properties are weighted by size distribution parameters to determine Ksphere[spheroid] ext[sca], a,i , Psphere[spheroid] a,j,k,i and then (αa, βa, δa) for the whole size distribution (see Aerosol Single Scattering Properties for Radiative Transfer Calculation and Aerosol Single Scattering Properties for Lidar Equation Use). In this section, we are going to introduce the calculation of aerosol single scattering properties including extinction, backscatter and depolarization for use in the lidar equation. The total extinction coefficient for lth layer (αa,l, in the unit of m−1) is calculated by summing over the contribution from all aerosol species, namely αa,l   Ns s1 α(s) a,l , (24) (24) where the speciated aerosol extinction α(s) a,l in a layer of geometric thickness ΔHl is related to layer resolved aerosol optical depth by α(s) a,l  Δτ(s) a,l ΔHl  C(s) v,a,lK(s) ext,a,l ΔHl , (25) (25) In the generation of the lookup table, the real part of refractive index is uniformly distributed in linear space from 1.3 to 1.7 with 22 grids. The imaginary part of refractive index is uniformly distributed in logarithmic space from 1 × 10−8 to 3 × 10−4 with five grids and from 5 × 10−4 to 0.5 with 15 grids. The lower and upper bounds for aerosol size are set as rmin  5 nm and rmax  50 μm, respectively. A total of 50 size bins are equally spaced in logarithmic space to calculate aerosol light scattering properties. Mie theory is used to calculate spherical particle scattering (van de Hulst, 1981). For spheroids, the lower and upper bounds for aerosol axis ratio to be 0.33 and 3.0 respectively and a total of 25 bins are set for precalculating spheroidal scattering properties by use of T-matrix method in combination with geometric optics (Dubovik et al., 2006). where C(s) v,a,l and K(s) ext,a,l are given by Eqs 6 and 7 respectively. Development of a Lookup Table for Aerosol Single Scattering Properties Δτa,l   Ns s1 Δτ(s) a,l . (22) (22) Calculation of aerosol single scattering properties (AOD, SSA, p) for RT modeling and (αa, βa, δa) for fitting lidar measurements needs to use the aerosol refractive index as the input. We adopt the following two parameter constrained model for refractive index as a function of wavelength (Dubovik and King, 2000), In the above equation, the AOD for sth aerosol species is In the above equation, the AOD for sth aerosol species is Δτ(s) a,l  C(s) v, a, lK(s) ext,a,l, (23) (23) where C(s) v,a,l is the subcolumn volumetric concentration of sth aerosol species, evaluated by Eq. 6, and K(s) ext,a,l is column effective extinction coefficient (in the unit of m−1) of sth aerosol species in the lth layer, evaluated by Eq. 13. mr, l(λ)  mr0, l(λ/λ0)−κr0, l mi, l(λ)  mi0, l(λ/λ0)−κi0, l (30) (30) where mr0 and mi0 are the real and imaginary parts of the refractive index at the reference wavelength λ0, and κr0 and κi0 are used to characterize their spectral dependence. In the numerator of the above equation, we have (12) Contributed by all aerosol species, the overall SSA contributed by all aerosol species in lth layer is Contributed by all aerosol species, the overall SSA contributed by all aerosol species in lth layer is (12) ω0,a,l  Ns s1 f (s) v,l K(s) sca,a,l Ns s1 f (s) v,l K(s) ext,a,l , (20) (20) For simplicity, the layer resolved volumetric extinction coefficient can be rewritten in the following form, where f (s) v,l stands for the volume fraction of sth aerosol species in lth layer, as given by Eq. 7. K(s) ext,a,l   Nbin i1 f (s) i,l f (s),sphere v,l K(s),sphere ext,a,l,i + 1 −f (s),sphere v,l K(s),spheroid ext,a,l,i , (13) The overall aerosol phase matrix elements are evaluated by, (13) d K(s),spheroid ext,a,l,i are given in Eqs 10 and 12, Pa, j,k,l  Ns s1 f (s) v,l K(s) sca, a, lP(s) a, j,k,l Ns s1 f (s) v,l K(s) sca,a,l , (21) Pa, j,k,l  Ns s1 f (s) v,l K(s) sca, a, lP(s) a, j,k,l Ns s1 f (s) v,l K(s) sca,a,l , (21) (13) (21) where K(s),sphere ext,a,l,i and K(s),spheroid ext,a,l,i are given in Eqs 10 and 12, respectively. Frontiers in Remote Sensing | www.frontiersin.org April 2021 | Volume 2 | Article 620871 5 April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org Combined Lidar-Polarimeter Aerosol Inversion Xu et al. where P(s) a, j,k,l is given by Eq. 15. The layer aerosol optical depth (AOD, Δτa,l) is contributed by all aerosol species. Therefore, we have where the layer resolved phase matrix elements Pa,i,j,l are evaluated via Eq. 21. Aerosol Single Scattering Properties for Lidar Equation Use 1 1 , , , , Calculation of the total backscatter βa,l (in the unit of m−1Sr−1) also needs to account for the contributions of all aerosol species as well, namely βa,l   Ns s1 β(s) a,l , (26) (26) where the speciated aerosol backscatter is evaluated by β(s) a,l  β(s) sca,a,l P(s) a,1,1,l(180+) 4π , (27) (27) where P(s) a,1,1,l(180+) is given by Eq. 15 and the aerosol scattering coefficient (β(s) sca,a,l, in the unit of m−1) in lth layer is evaluated by, where P(s) a,1,1,l(180+) is given by Eq. 15 and the aerosol scattering coefficient (β(s) sca,a,l, in the unit of m−1) in lth layer is evaluated by, β(s) sca,a,l  C(s) v,a,lK(s) sca,a,l ΔHl , (28) (28) Surface Reflection The use of bio-optical model to simulate ocean water-leaving radiance effectively reduces the parameter space and provides extra constraints in the retrieval of ocean bulk properties. It has been more and more adopted over the last decade and justified by many research groups (see for example [Chowdhary et al., 2012; Xu et al., 2016; Gao et al., 2018; where K(s) sca,a,l is given by Eq. 16. where K(s) sca,a,l is given by Eq. 16. , , Assuming random orientation of nonspherical particles, the aerosol linear depolarization ratio of lth layer is calculated as δa,l(180+)  1 −Pa,2,2,l(180+)Pa,1,1,l(180+) 1 + Pa,2,2,l(180+)Pa,1,1,l(180+), (29) (29) April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 2 | The coupled atmosphere-ocean system for RT modeling. The Sun illuminates the top of atmosphere with zenith angle θ0 and azimuthal angle ϕ0 (ϕ0 is assumed to be zero here). The sensor views the atmosphere at viewing angle θv and azimuthal angle ϕv. The Markov chain model is used for computing polarized RT in the atmosphere. The ocean is assumed optically homogeneous so that the doubling method can be applied to achieve modeling efficiency. Coupling of local radiative fields from ocean and atmospheric layer is completed by using an “adding” strategy. Stamnes et al., 2018; among others]). Our ocean surface reflection model incorporates a polarized specular reflection term, a Lambertian term for depolarizing ocean foam reflection and an empirical Lambertian correction term “Δa” to account for the errors of the single-parameter based bio-optical model (i.e., departures from the predetermined functional relationships to Chl-a). The overall bidirectional ocean surface reflection matrix Rsurf is described by (Xu et al., 2016), πRSurf,λ  fFoamaFoam,λD0 + 1 −fFoamRW,λ + 1 −fFoamRBio WL,λ + 1 −fFoamΔaWL,λD0, + 1 −fFoamΔaWL,λD0, (31) where D0 is a zero matrix except D0,11  1; aFoam is foam albedo; fFoam is foam coverage fraction related to wind speed Vwind by fFoam  2.95 × 10−6×Vwind 3.52 (Koepke, 1984); RW,λ is the polarized specular reflection from water surface (Cox and Munk, 1954a; Cox and Munk, 1954b), and RBio WL,λ is the reflection matrix of the ocean-interface system with a correction of Raman scattering (Lee et al., 2013; Xu et al., 2016), and “ΔaWL,λ” is the Lambertian correction term. Note that RBio WL,λ is a physically based term depending on the Chl-a concentration [Chl_a]. Surface Reflection The last two terms of Eq. 31 constitute our water-leaving radiance model. With and without assuming ΔaWL to be 0 the simplified and the empirically adjusted bio- optical models are formulated, respectively. By setting the Sun at zenith and viewing angle to be nadir, we can evaluate the normalized water-leaving radiance from RBio WL and ΔaWL, FIGURE 2 | The coupled atmosphere-ocean system for RT modeling. The Sun illuminates the top of atmosphere with zenith angle θ0 and azimuthal angle ϕ0 (ϕ0 is assumed to be zero here). The sensor views the atmosphere at viewing angle θv and azimuthal angle ϕv. The Markov chain model is used for computing polarized RT in the atmosphere. The ocean is assumed optically homogeneous so that the doubling method can be applied to achieve modeling efficiency. Coupling of local radiative fields from ocean and atmospheric layer is completed by using an “adding” strategy. layers are calculated from speciated aerosol refractive index, size distributions and spherical particle fraction. They are mixed with molecule scattering to get bulk scattering properties in all layers. Consequently, the optical thickness (Δτl), SSA (ω0,l) and phase matrix (Pl) of lth layer contributed by both aerosols and Rayleigh-scattering molecules are evaluated by layers are calculated from speciated aerosol refractive index, size distributions and spherical particle fraction. They are mixed with molecule scattering to get bulk scattering properties in all layers. Consequently, the optical thickness (Δτl), SSA (ω0,l) and phase matrix (Pl) of lth layer contributed by both aerosols and Rayleigh-scattering molecules are evaluated by nLwλ  F0,λ π d0 d  2 RBio WL,λ,11(θv  0+; θ0  0+; [Chl a]) + ΔaWL,λ, (32) nLwλ  F0,λ π d0 d  2 RBio WL,λ,11(θv  0+; θ0    0+; [Chl a]) + ΔaWL,λ, (32) (32) where d0 is the Earth-Sun distance at which F0 is reported, and d is the Earth-Sun distance at the time of measurement. Note that nLw, RW, Rsurf, RBio WL, aFoam, ΔaWL, and F0 in Eqs 31 and 32 are all spectrally dependent. Δτ1  Δτa,1 + ΔτR,1, (33) ω0,l  ΔτR,l + ω0,a,lΔτa,l ΔτR,l + Δτa,l , (34) Pl(Θ)  ΔτR,lPR(Θ) + ω0,a,lΔτa,lPa,l(Θ) ΔτR,l + ω0,a,lΔτa,l , (35) (33) FORWARD MODEL FOR LIGHT PROPAGATION IN A COUPLED ATMOSPHERE-OCEAN SYSTEM (35) where as a function of scattering angle Θ, PR and Pa,l are the Rayleigh and aerosol phase matrices, respectively, the aerosol SSA of lth layer (ω0,a,l) is given by Eq. 20 and the AOD of lth layer (Δτa,l) is given by Eq. 22. Polarized Radiative Transfer As illustrated in Figure 2, a coupled atmosphere-surface model is established for 1D RT modeling, which consists of an aerosol/air-molecule atmospheric layer and ocean water at the bottom of the atmosphere. The whole atmosphere is subdivided into NLayer layers, each bounded by the altitudes hl and hl+1 (hl < hl+1) and NLayer depends on the vertical resolution of lidar measurement or the desired resolution for retrieval products. Knowing the layer optical depth, SSA and phase matrices for all atmospheric layers, an efficient calculation of reflection and transmission matrices of the vertically inhomogeneous atmosphere is implemented by use of the Markov chain method (Esposito and House, 1978; Esposito 1979; Xu et al., 2010; Xu et al., 2011; Xu et al., 2012). As an approximation, the ocean water constituents are assumed to be homogeneously mixed. Then the doubling method (see for example [Stokes, 1862; van de Hulst, 1963; Hansen, 1971; de Haan et al., 1987; As the input to radiative transfer modeling, vertically resolved AOD, SSA, and phase matrices of aerosols in all April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 7 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. Pp(z) gp  1 z2βm(z)exp −2 z 0[αm(z′) + αa(z′)]dz′. (37) Evans and Stephens, 1991; among others]) is applied for a fast calculation of the reflection matrices of the ocean bulk. Finally, the interaction between atmosphere and ocean through multiple reflection and transmission are coupled via an “adding” approach (Xu et al., 2016). The output of atmosphere and ocean reflection is the reflection matrix for the coupled atmosphere-ocean system, from which the radiance and polarimetric components are derived to compare to observations. The incorporation of Markov chain model and doubling methods into a hybrid RT modeling scheme capitalizes on the strength of these two methods in modeling RT in vertically inhomogeneous and homogeneous media, respectively. Moreover, it provides an efficient Jacobian calculation and an optimization-based retrieval by saving the local RT fields (reflection and transmission matrices) for each layer from forward modeling, which are then reused for subsequent Jacobian evaluations as long as the aerosol or ocean parameters remain unperturbed. In other words, only the RT in the layer with perturbed parameters requires recalculation. (37) High-spectral-resolution lidars such as NASA Langley’s HSRL-1 and HSRL-2 send a linearly polarized beam into an atmosphere. Lidar Equation The propagation of a light pulse from a single-channel lidar in the atmosphere is governed by lidar equation (e.g., (Winker et al., 1996; Vaughan, 2004; Weitkamp, 2005; Burton et al., 2018]): The lidar equation Eq. 37 is single scattering based. It can break into a discretized form, namely multiplication of local backscatter at range z with the sum of the contributions of extinction in all layers above z. The calculation of aerosol component of layer effective extinction (αa), backscatter (βa) and depolarization (δa) have been specified in Aerosol Single Scattering Properties for Lidar Equation Use. In addition, to combine lidar observations with polarimetric measurements: one can structure the retrieval to fit either direct lidar measurements such as total extinction, backscatter and depolarization, or its aerosol products such as particulate extinction, backscatter and depolarization ratio. The latter is adopted in the current retrieval demonstration in Retrieval Implementation and Validation. Pp(z) gp  1 z2 βm(z) + βa(z)exp −2 z 0[αm(z′) + αa(z′)]dz′, (36)  (36) where Pp(z) is the calibrated signal at the detector as a function of the range (distance, z) between the lidar and the target atmospheric volume, gp is a gain factor which takes into account detector and receiver optical efficiencies, βa(z) and βm(z) are backscatter coefficients of aerosols and air molecules at range z, and αa and αm are the aerosol and molecular extinction coefficients respectively. The exponential term on the right-hand side of the above equation represents two-way attenuation of the lidar signal between the detector and the atmospheric volume. Polarized Radiative Transfer High-spectral-resolution lidars such as NASA Langley’s HSRL-1 and HSRL-2 send a linearly polarized beam into an atmosphere. The returned lidar signals are measured with linear polarization analyzers oriented both parallel (||) and perpendicular (⊥) to the emitted beam. By taking the ratio of light intensities of these two components, the depolarization ratio of the returned transmitted signal is derived as: δ  I⊥ I∥ . (38) (38) Due to the anisotropy of the air molecules, the depolarization ratio of the pure molecular atmosphere is nonzero but can be pre- calculated from climatology. Moreover, the backscatter of a linearly polarized laser beam from spherical particles is totally linearly polarized so that (δ  0). However, the presence of nonspherical aerosols causes the measured depolarization ratio to deviate from zero which provides extra constraints on retrieving non-sphericity of aerosols. COUPLED RETRIEVAL OF AEROSOLS AND OCEAN PROPERTIES The multiplication of the exponential term on the right hand side of Eq. 36 and the term “[βa(z) + βm(z)]” gives attenuated backscatter. The molecular scattering and extinction coefficients βm(r) and αm(r) can be accurately determined from measured atmospheric density or from climatology. What remain to be resolved are the aerosol extinction and backscatter coefficients. However, with these two unknowns coupled in the attenuated backscatter lidar system via Eq. 36, they cannot be separated from one measured variable on the left-hand-side of the equation. By adopting the HSRL measurement technique, however, the received backscatter is split into two channels, one with a very narrow bandwidth optical absorption filter in the molecular channel to suppress the aerosol backscatter, whereas another is a combined channel that detects the intensity contributed by both aerosol and molecules. In this case, the lidar equation for the combined signal remains the same as the above equation while for the molecular channel with narrow bandwidth optical absorption filter the lidar equation becomes [e.g., Burton et al., 2015], Frontiers in Remote Sensing | www.frontiersin.org State Vector Our algorithm is developed to be flexible and allow for multiple (Ns) aerosol species to be retrieved from a combined use of lidar and polarimetric measurements depending on the information content of 1) the specific configuration of lidar measurement capabilities in terms of providing the whole set or a subset of extinction, backscatter/ attenuated backscatter, and depolarization ratio measurements, their vertical resolutions and number of wavelengths; and 2) the number of radiometric and polarimetric view angles and spectral channels provided by a polarimeter. The state vector x that includes retrieval parameters for Ns aerosol species can be expressed as, x  x(1); x(2); / ; x(Ns); x(ocean)N×1, (39) (39) Frontiers in Remote Sensing | www.frontiersin.org April 2021 | Volume 2 | Article 620871 8 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. Xu et al. TABLE 1 | Parameters in coupled aerosol and surface property retrieval, their initial estimates, and order of difference and Lagrange multipliers for imposing smoothness constraints. State Vector Aerosol parameters (layer resolved) Range Initial guess Order of finite difference for vertical/ spectral smoothness constraints (mh) Lagrange regularization factor (γh) Real part of refractive index - parameter 1 (mr0) Species 1 [1.33,1.60] 1.45 mh  1 ch  10 Species 2 [1.33,1.60] 1.35 mh  1 ch  10 Imaginary part of refractive index - parameter 1 (mi0) Species 1 [5 × 10−4, 5 × 10−1] 1 × 10−1 mh  1 ch  5 Species 2 [5 × 10−8, 5 × 10−2] 1 × 10−5 mh  1 ch  5 Real part of refractive - index parameter 2 (κr0) Species 1 [1 × 10−5, 1×103] 1 × 10−2 mh  1 ch  10 Species 2 [1 × 10−5, 1×103] 1 × 10−2 mh  1 ch  10 Imaginary part of refractive index - parameter 2 (κi0) Species 1 [1 × 10−5, 1×103] 5 × 10−1 mh  1 ch  5 Species 2 [1 × 10−5, 1×103] 5 × 10−1 mh  1 ch  5 Volumetric median aerosol radius (rm) Species 1 [1 × 10−2, 5 × 10−1] 1 × 10−1 mh  2 ch  5 × 10−1 Species 2 [1 × 10−1, 5×10°] 1×10° mh  2 ch  5 × 10−1 Standard deviation of size distribution (σm) Species 1 [0.9,1.1] xσUHSAS a,b UHSAS in-situ measurementa,b mh  2 ch  5 × 10−1 Species 2 [0.9,1.1]xσAPS c,b APS in-situ measurementc,b mh  2 ch  5 × 10−1 Aerosol subcolumn volume concentration (Cv, μm3/μm2) Species 1 [1 × 10−8, 5] Associated with AOD  0.005/ NLayer mh  3 ch  5 × 10−3 Species 2 [1 × 10−8, 5] Associated with AOD  0.005/ NLayer mh  3 ch  5 × 10−3 Spherical particle fraction (fv sphere) Species 1 [1 × 10−3, 1×10°] 9 × 10−1 mh  2 ch  1 × 10−1 Species 2 [1 × 10−3,1×10°] 9 × 10−1 mh  2 ch  1 × 10−1 Surface parameters (ocean) Adjustment term (ΔaWL(λ), mw/cm2-sr-μm) [1 × 10−5, 5 × 10°] 1 × 10−5 — — Chlorophyll a concentration ([Chl_a], mg/m3) [1 × 10−2, 6 × 101] 3 × 10−1 — — Surface wind speed (Vwind, m/sec) [1×10°, 3 × 101] 5 — — aUHSAS, Ultra-High Sensitivity Aerosol spectrometer; σUHSAS is derived from fitting in-situ size measurement by UHSAS using the log-normal size distribution (Eq. 103). Constraints x(s) C(s) v ; m(s) r0 ; κ(s) r0 ; m(s) i0 ; κ(s) i0 ; r(s) m ; σ(s) m ; f (s),sphere v Naer×1, (40) Imposition of various types of constraints is important for stabilizing the retrievals and improving accuracy. The combined lidar-polarimeter inversion approach described here uses three types of constraints: 1) direct observation signals provided by lidar and polarimetric remote sensing measurements (see formulation in Observational Constraints (i  1)); 2) a priori constraint for the retrieval parameters (see formulation in A Priori Constraints (i  2)); and 3) smoothness constraint over the variations of certain aerosol properties along altitude (see formulation in Smoothness Constraints (i  3)). Incorporation of all these three types of constraints into our combined inversion approach is described in Construction of Overall Equation System. where for sth aerosol species Cv contains layer specific column aerosol concentration (m3/m2), (mr0, κr0) and (mi0, κi0) are layer resolved model parameters that constrain spectrally dependent real and imaginary parts of aerosol refractive index, respectively (via Eq. 30); rm and σm contain layer resolved geometric volume median radius and standard deviation of volumetric log-normal distribution; fv sphere contain the layer resolved volume fraction of spherical aerosols. As the last component of the state vector in Eq. 39, x(ocean) contains parameters that contribute to ocean surface reflection. These parameters include a simplified bio-optical model parameter chlorophyll-a concentration, wind speed and the empirical terms (Lambertian) that mitigate the bio-optical modeling errors by adjusting the spectral water-leaving radiance (see Development of a where for sth aerosol species Cv contains layer specific column aerosol concentration (m3/m2), (mr0, κr0) and (mi0, κi0) are layer resolved model parameters that constrain spectrally dependent real and imaginary parts of aerosol refractive index, respectively (via Eq. 30); rm and σm contain layer resolved geometric volume median radius and standard deviation of volumetric log-normal distribution; fv sphere contain the layer resolved volume fraction of spherical aerosols. As the last component of the state vector in Eq. 39, x(ocean) contains parameters that contribute to ocean surface reflection. These parameters include a simplified bio-optical model parameter chlorophyll-a concentration, wind speed and the empirical terms (Lambertian) that mitigate the bio-optical modeling errors by adjusting the spectral water-leaving radiance (see Development of a Imposition of the above three types of constraints (M  3) can be formulated in the framework of statistical inversion of multi-source constraints. State Vector cAPS, Aerodynamic Particle Sizer (APS-TSI3320); σAPS is derived from fitting in-situ size measurement by APS using the log-normal size distribution (Eq. 103). bσUHSSA and σAPS are adopted when measured lidar extinction is larger than its uncertainty; otherwise the initial guess of σm is set to 0.2 and its range is relaxed to [0.05, 0.60]. TABLE 1 | Parameters in coupled aerosol and surface property retrieval, their initial estimates, and order of difference and Lagrange multipliers for imposing smoothness constraints TABLE 1 | Parameters in coupled aerosol and surface property retrieval, their initial estimates, and order of difference and Lagrange multipliers for imposing smoothness aUHSAS, Ultra-High Sensitivity Aerosol spectrometer; σUHSAS is derived from fitting in-situ size measurement by UHSAS using the log-normal size distribution (Eq. 103). cAPS, Aerodynamic Particle Sizer (APS-TSI3320); σAPS is derived from fitting in-situ size measurement by APS using the log-normal size distribution (Eq. 103). bσUHSSA and σAPS are adopted when measured lidar extinction is larger than its uncertainty; otherwise the initial guess of σm is set to 0.2 and its range is relaxed to [0.05, 0.60]. Lookup Table for Aerosol Single Scattering Properties). Retrieval starts with an initial estimate of these parameters, as specified in Table 1. where N is the total number of aerosol and ocean properties to be retrieved, the subvector x(s) contains aerosol properties for sth aerosol species. For a total of Naer  8 aerosol parameters per species, we have, Observational Constraints (i  1) Without the loss of generality, we assume a polarimeter measures multi-angular radiance (L) across multiple spectral channels. Neglecting the contribution from circular polarization, the polarimetric components Q/L and U/L can be combined into DOLP via DOLP  (Q2 + U2)1/2/L. Lidar observations include extinction (α), backscatter or attenuated backscatter (β) and depolarization ratio (δ). Arranging all types of observations into a single column vector we have Further introducing the weight matrix (W), the objective cost function to be minimized has a quadratic form, namely, Ψtotal(x)   M i1 ciΨi(x), (44) (44) where Ψi(x)  1 2fi(x) −fp i  TW−1 i fi(x) −fp i , (45) (45) with with fp i1(x)  fp 1,L; fp 1,DOLP; fp 1,α; fp 1,β; fp 1,δ  "y1; y2; /; yNf#, (54) (54) Wi  1 ε2 i Ci, (46) ci  ε2 1 ε2 i , (47) (46) where the total number of signals Nf  NL + NDOLP + Nα + Nβ + Nδ, where Nx is the number of “x” type of signals. (47) The aerosol and ocean properties in the state vector are adjusted so that the model prediction of these types of signals f1(x)  [f1, L; f1, DOLP; f1,α; f1,β; f1,δ] fit the observational constraints fp 1(x). The calculation of f1(x) is introduced in Forward Model for Light Propagation in a Coupled Atmosphere-Ocean System. The Jacobian matrix K1 consists of first order partial derivatives with respect to all elements in the state vector x, namely, In the above equations, ε2 i is the first diagonal element of Ci (i.e., ε2 i  {Ci}11) and the Lagrange factor ci weights the contribution of each type of constraint with respective to the first one (c1  1). Minimization of Ψtotal(x) in Eq. 44 means its gradient with respect to the solution x approaches zero, such that K1   KL KDOLP Kα Kβ Kδ  T, (55) (55) ∇Ψtotal(x)   M i1 ci∇Ψi(x)  0, (48) (48) where KL, KDOLP, Kα, Kβ, and Kδ are the Jacobian matrices containing derivatives of L, DOLP, α, β and δ with respect to aerosol parameters xj (1 ≤j ≤N), respectively. Accounting for all N parameters in the state vector (see Eq. Constraints Our April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 9 Xu et al. Combined Lidar-Polarimeter Aerosol Inversion objective is to solve the following system of equations (Dubovik, 2004): where Ki is the Jacobian matrix containing the derivatives of the ith type of constraint with respect to the retrieval parameters. To approach the solution iteratively, we replace x by x −Δx in Eq. 49 and substitute fp i  fi(x) + Δfp i , 1 ≤i ≤M (41) (41) where fp i denotes the ith type of constraint, Δfp i is the error with this type of constraint, and x  xstate as defined in Eq. 39. Formally, the statistical independence of different sources of constraints means that the covariance matrix of joint constraint fp  [fp 1; fp 2; /; fp M] has the following structure fi(x −Δx)  fi(x) −KiΔx, (50) (50) into it. This results in into it. This results in ∇Ψi(x −Δx)  KT i W−1 i fi(x) −KiΔx −fp i   0, (51) (51) Cf p  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ C1 0 0 0 0 C2 0 0 / / 1 / 0 0 CM ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦, (42) or equivalently, or equivalently, (42) KT i W−1 i Ki)Δx  KT i W−1 i fi(x) −fp i   ∇Ψi(x). (52) (52) The Jacobian matrix Ki in Eqs 49–52 consists of the derivative of the mth observational or a priori data with respect to the nth unknown, where Ci indicates the covariance matrix of the ith constraint (fp i ). Following the expressions of fp i and Cfp i , the probability distribution function (PDF) of joint data (1 ≤i ≤M) can be derived by multiplying PDFs of data from all M sources of constraints, namely, Ki,(m,n)  zfi,m zxn . (53) (53) Pf(x) fp   M i1 Pfi(x) fp i  ∼exp ⎧ ⎨ ⎩ −1 2  M i1 fi(x) −fp i  T(Ci)−1fi(x) −fp i  ⎫ ⎬ ⎭. (43) More explicit evaluation of fi(x), fp i and K and W matrices for all types of constraints is discussed in the following subsections. Observational Constraints (i  1) (62) Kδ  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ Kδ,l1 0 / 0 0 Kδ,l2 / 0 / / 1 / 0 0 / Kδ,lNLayer ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦. (62) The Jacobian matrix for extinction coefficient equals to (62) Kα  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ Kα,l1 0 / 0 0 0 Kα,l2 / 0 0 « « 1 « « 0 0 / Kα,lNLayer 0 0 0 / 0 0Ocean ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ , (57) (57) Assuming extinction δ is provided at Mδ wavelengths, the layer resolved Jacobian matrix for depolarization ratio (Kδ,l) equals to where NLayer is the number of layers in which lidar signals are resolved. Assuming extinction α is provided at Mα wavelengths, the layer resolved Jacobian matrix (Kα,l) for extinction coefficient equals to, Kδ,l  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ zδl(λ1) zxl,1 zδl(λ1) zxl,2 / zδl(λ1) zxl,N zδl(λ2) zxl,1 zδl(λ2) zxl,2 / zδl(λ2) zxl,N / / 1 / zδlλMδ zxl,1 zδlλMδ zxl,2 / zδlλMδ zxl,N ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ . (63) (63) Kα,l  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ zαl(λ1) zxl,1 zαl(λ1) zxl,2 / zαl(λ1) zxl,N zαl(λ2) zxl,1 zαl(λ2) zxl,2 / zαl(λ2) zxl,N / / 1 / zαlλMα zxl,1 zαlλMα zxl,2 / zαlλMα zxl,N ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ , (58) (58) where δl is contributed by both molecules and aerosols in lth layer and is equal to particulate depolarization ratio (δ  δl,a) if the derived aerosol depolarization ratio is used directly. The overall covariance matrix incorporates the submatrices from all types of signals, namely, The Jacobian matrix for backscatter coefficient and attenuated backscatter coefficients is evaluated by, ) W1  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ WL 0 0 0 0 0 WDOLP 0 0 0 0 0 Wα 0 0 0 0 0 Wβ 0 0 0 0 0 Wδ ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ , (64) coefficients is evaluated by, Kβ  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ Kβ,l1 0 / 0 0 Kβ,l2 / 0 / / 1 / 0 0 / Kβ,lNLayer ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦, (59) W1  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ WL 0 0 0 0 0 WDOLP 0 0 0 0 0 Wα 0 0 0 0 0 Wβ 0 0 0 0 0 Wδ ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ , (64) Kβ  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ Kβ,l1 0 / 0 0 Kβ,l2 / 0 / / 1 / 0 0 / Kβ,lNLayer ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦, (59) Kβ  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ Kβ,l1 0 / 0 Kβ,l1 Kβ,l2 / 0 / / 1 / Kβ,l1 Kβ,l2 / Kβ,lNLayer ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦, (60) (64) (59) and If absolute measurement uncertainty is used and correlation among signals are neglected, then Wx is a diagonal matrix. Observational Constraints (i  1) 39), KL can be expanded into the following matrix form: which can be ensured by enforcing the gradient of all components approach zero, namely ∇Ψi(x)  KT i W−1 i fi(x) −fp i   0, (49) (49) Frontiers in Remote Sensing | www.frontiersin.org 10 Frontiers in Remote Sensing | www.frontiersin.org April 2021 | Volume 2 | Article 620871 10 Xu et al. Combined Lidar-Polarimeter Aerosol Inversion KL  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ zL1 zx1 zL1 zx2 / zL1 zxN zL2 zx1 zL2 zx2 / zL2 zxN / / 1 / zLNL zx1 zLNL zx2 / zLNL zxN ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ , (56) Kβ,l  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ zβl(λ1) zxl,1 zβl(λ1) zxl,2 / zβl(λ1) zxl,N zβl(λ2) zxl,1 zβl(λ2) zxl,2 / zβl(λ2) zxl,N / / 1 / zβlλMβ zxl,1 zβlλMβ zxl,2 / zβlλMβ zxl,N ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ , (61) (61) where NL depends on the number of views angles (Nview) and the number of channels (Nλ, L) of a polarimeter. Assuming the same number of view angles for all spectral bands, then we have NL  Nλ,L × Nview. Replacing “L” in the above equation by DOLP gives the Jacobian matrix KDOLP and in this case the total number of DOLP signals depends on the number of polarimetric bands (Nλ,DOLP) so that NDOLP  Nλ,DOLP × Nview. Calculation of the derivatives in Eq. 56 can proceed numerically by use of finite difference method, or analytically (and more efficiently) if the RT model is linearized. where β  βl,a if we use the derived product of particulate backscatter for the lth layer from lidar measurement, and β  βl,att if we used direct measured attenuated backscatter signals, where βl,att is the product of the backscatter (contributed by both molecules and aerosols) and the two-way transmission of the atmospheric volume between the lidar and the backscatter volume in question (see Eq. 36). where β  βl,a if we use the derived product of particulate backscatter for the lth layer from lidar measurement, and β  βl,att if we used direct measured attenuated backscatter signals, where βl,att is the product of the backscatter (contributed by both molecules and aerosols) and the two-way transmission of the atmospheric volume between the lidar and the backscatter volume in question (see Eq. 36). The Jacobian matrix for depolarization ratio (δ) equals to Kδ  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ Kδ,l1 0 / 0 0 Kδ,l2 / 0 / / 1 / 0 0 / Kδ,lNLayer ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦. A Priori Constraints (i  2) (70) Starting from Eq. 41, the a priori constraint can be explicitly expressed as (Dubovik, 2004), Application of the above equation to L discretized grids rj (namely, 1 ≤j ≤L) leads to Application of the above equation to L discretized grids rj (namely, 1 ≤j ≤L) leads to fp i2  xa priori  x + Δxa priori. (65) (65) pp (namely, 1 ≤j ≤L) leads to Moreover, Ki2  I (identity matrix) and Wi2  (1/ε2 ap 11)Cap in Eqs 49–52. In explicit form, Wi2 is constructed from estimated range of each parameter relative to the first one (Dubovik and King, 2000), fi(x)  Si,mx, (71) fi(x)  Si,mx, (71) (71) so that by invoking Eq. 53, so that by invoking Eq. 53, Ki  Si,m, (72) (72) Wi2  Wa  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ 1 0 / 0 0 x2,max −x2,min 2 x1,max −x1,min 2 / 0 / / 1 / 0 0 / xN,max −xN,min 2 x1,max −x1,min 2 ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ . (66) Wi2  Wa  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ 1 0 / 0 0 x2,max −x2,min 2 x1,max −x1,min 2 / 0 / / 1 / 0 0 / xN,max −xN,min 2 x1,max −x1,min 2 ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ . (66) where the matrix Si,m is evaluated by, where the matrix Si,m is evaluated by, Si,m1  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ 1 Δ1(1) − 1 Δ1(1) 0 / 0 0 1 Δ1(2) − 1 Δ1(2) / 0 0 0 / 1 0 0 0 / 1 Δ1(L −1) − 1 Δ1(L −1) ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ , (73) (66) (73) where [xi,min, xi,max] are the lower and upper bounds of ith retrieval parameters, respectively. For retrieving combined RSP and HSRL-2 observations, their estimates are specified in Table 1. and Si, m  2  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ 2 Δ1(1)[Δ1(1) + Δ1(2)] −2 Δ1(1)Δ1(2) 2 Δ1(2)[Δ1(1) + Δ1(2)] 0 0 / 0 0 2 Δ1(2)[Δ1(2) + Δ1(3)] −2 Δ1(2)Δ1(3) 2 Δ1(3)[Δ1(2) + Δ1(3)] / 0 / / / / / 1 / 0 0 / 2 Δ1(L −1)[Δ1(L −1) + Δ1(L)] −2 Δ1(L −1)Δ1(L) / 2 Δ1(L)[Δ1(L −1) + Δ1(L)] ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦ (74) Observational Constraints (i  1) Taking jth signal (xj) with relative uncertainty σj as an example, we have Wx, jj  σ2 j . If relative uncertainty (εj) is used, then we have Wx, jj  ε2 j x2 j . Under certain circumstances signals may differ in magnitude. To balance their contributions to the cost function which reflects the quality of fitting, observations are often transferred to logarithmic space for fitting. In this case, we have Wx, jj  ε2 j . Kβ  ⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣ Kβ,l1 0 / 0 Kβ,l1 Kβ,l2 / 0 / / 1 / Kβ,l1 Kβ,l2 / Kβ,lNLayer ⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦, (60) (60) respectively. Assuming β is provided at Mβ wavelengths, the layer resolved Jacobian matrix for backscatter coefficient (Kβ,l) can be expanded into the following specific form, April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 11 Frontiers in Remote Sensing | www.frontiersin.org Combined Lidar-Polarimeter Aerosol Inversion Xu et al. Xu et al. A Priori Constraints (i  2) Starting from Eq. 41, the a priori constraint can be explicitly expressed as (Dubovik, 2004), ⎧ ⎨ ⎩ Δm1zj  zj+1 −zj Δm2zj  Δ1zj + Δ1zj+1%2 . (70) xplicitly ⎧ ⎨ ⎩ Δm1zj  zj+1 −zj Δm2zj  Δ1zj + Δ1zj+1%2 . (70) A Priori Constraints (i  2) Starting from Eq. 41, the a priori constraint can be explicitly expressed as (Dubovik, 2004), ⎧ ⎨ ⎩ Δm1zj  zj+1 −zj Δm2zj  Δ1zj + Δ1zj+1%2 . (70) ⎧ ⎨ ⎩ Δm1zj  zj+1 −zj Δm2zj  Δ1zj + Δ1zj+1%2 . (70) Smoothness Constraints (i  3) The third type of constraint reflects the smooth variation of a certain type of parameter as a function of altitude. we have The same principle applied to higher orders of difference (m > 2) ensures a smooth curve with dmg(z)/dzm  0. Substitution of Eqs 71 and 72 and fp i  0p into Eq. 45 gives, fp 3  0p  Si3, mx + Δp g, (67) (67) where Si3,m is the differentiation matrix of mth order for third type of constraint and the delta term Δp g accounts for the uncertainties associated with the assumption of smooth variation of an aerosol parameter to the mth order. The error of such an assumption is accounted via the cost function component given in Eq. 75 later. Ψi(x)  1 2xTST i,mW−1 i,mSi,mx, (75) (75) where the weighting matrix W has the following diagonal terms, where the weighting matrix W has the following diagonal terms, &Wi,m'jj  1 Δmzj , (76) (76) When a retrieval parameter varies smoothly as a function of some variable (e.g., altitude) z, it is assumed to be locally approximated by a smooth function g(z), such as a constant, a line, a parabola, etc. With a polynomial form, the mth derivative approaches zero (Dubovik et al., 2011), such that, and Δm(zj) is specified in Eq. 70 for m  1 and 2, and can be generalized to an arbitrary higher order. g y g Substitution of Eqs 71 and 72 and fp i  0p into Eq. 52 gives ST i,mW−1 i,mSi,m)Δx  ST i,mW−1 i.mSi,mx. (77) (77) Si,m(z)z  dmg(z) dzm  0 0 ⎧ ⎪ ⎨ ⎪ ⎩ gm1(z)  const gm2(z)  Az + B gm3(z)  Az2 + Bz + C . (68) Further defining Further defining (68) Ωi  ST i,mW−1 i,mSi,m, (78) (78) we have For a discretized grid of the variable z, the explicit form of Si,mz, is, For a discretized grid of the variable z, the explicit form of Si,mz, is, ΩiΔx  Ωix. (79) (79) Si,mzjzj  ⎧ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎨ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎩ dg dz ≈Δ1g Δ1(z)  gzj+1 −gzj Δ1zj , for m  1 dmg dzm ≈Δmg Δm(z)  Δm−1gzj+1/Δm−1zj+1 −Δm−1gzj/Δm−1zj Δm−1zj + Δm−1zj+1%2 , for m ≥2 . (69) Construction of Overall Equation System Accounting for the above three types of constraints, the solution to the non-linear minimization of Eq. 44 can be approached iteratively. At iteration q, the solution is updated as, (69) Taking the orders of difference m  1 and 2 as examples, we have xq+1  xq −Δxq, (80) (80) April 2021 | Volume 2 | Article 620871 12 April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 12 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. where Δxq is obtained by accounting for all three types of constraints derived in Observational Constraints (i  1), A Priori Constraints (i  2), and Smoothness Constraints (i  3), where Δxq is obtained by accounting for all three types of constraints derived in Observational Constraints (i  1), A Priori Constraints (i  2), and Smoothness Constraints (i  3), where ε2 i are the first diagonal elements of the covariance matrices corresponding to ith type of constraints. To estimate ε2 i for a given parameter to be retrieved (f  x) which is a function of z, the most unsmooth known solution f us(z) over the target domain is used as suggested by Dubovik and King (2000) namely, Aq × Δxq  ∇Ψtotalxq. (81) (81) As the explicit form, we have As the explicit form, we have ε2  zmax zmin dmf us(z) dmz  2 dz, (89) (89) Aq  KT 1,qW−1 1 K1,q + cΩ + caW−1 a , (82) ∇Ψtotalxq  KT 1,qW−1 1 f1xq −fp 1 + cΩxq + caW−1 a xq −xa priori, (83) (82) where zmin and zmax specify the lower and upper bound of z. For ci3 is evaluated using most unsmooth known solution of parameter x over the target domain. In the current study, the vertical variations of extinction and backscatter from lidar measurements are referred to initialize the Lagrange multipliers for profiled aerosol properties. (83) where “cΩ” incorporates vertical and spectral smoothness constraints, namely, cΩ  ( chΩh 0 0 0ocean ), (84) (84) Indeed, the Lagrange multipliers for practical implementation has to be modified to account for possible redundancy of the measured and a priori data and to reduce the weight of a priori constraints during an optimization process (Xu et al., 2019): where the smoothness matrix chΩh acts on the vertical variations of aerosol parameters; and the multipliers γh control the strength of the constraints. Convergence Criteria Ideally, a retrieval is deemed successful when the minimization of the cost function is achieved in such a way that ensures Ψtotal ≤Nf + Nc + Na* −Naε2 f , (86) (86) where Nf is the number of observations, Nc is the number of constraints imposed on retrieval (including vertical smoothness constraints), Na is the number of retrieval parameters, and Na* is the number of a priori estimates of parameters; ε2 f is the expected variance due to measurement errors. In practice, forward RT modeling error and other unmodeled effects can impede the cost function being satisfied by the form of Eq. 86. Taking such a practical situation into account, the retrieval is also terminated when the relative difference of fitting residuals with solutions from two successive iterations drops below a user-specified threshold value, ε2 c, namely, Construction of Overall Equation System The explicit forms of chΩh are given by. cFinal i  Nf Ni ~ε2 f ε2 f ci, (90) cFinal i  Nf Ni ~ε2 f ε2 f ci, (90) (90) chΩh  ⎛ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ ch,n1Ωn1 0 / 0 0 ch,n2Ωn2 / 0 / / 1 / 0 0 / ch,NaerΩNaer ⎞⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎠, (85) where where (85) ~ε2 f xq ≈ Ψtotalxq Nf + Nc + Nap −Naε2 f . (91) (91) where the diagonal terms correspond to the constraints imposed on the Naer aerosol parameters. For retrieving a combined set of RSP and HSRL-2 observations, first estimates of Lagrange parameters ci are specified in Table 1 and then scaled by the ratio of the cost functions associated with the updated and the previous iterative solutions during optimization. Typically, retrieval takes 8- 10 iterations to meet the convergence criteria specified Convergence Criteria. For retrieving a combined set of RSP and HSRL-2 observations, first estimates of Lagrange parameters ci are specified in Table 1 and then scaled by the ratio of the cost functions associated with the updated and the previous iterative solutions during optimization. Typically, retrieval takes 8- 10 iterations to meet the convergence criteria specified Convergence Criteria. Retrieval Error Estimate Random errors (Δyobs rand) and systematic errors (Δysyst) are two major error types. The former is contributed by measurements while the latter is contributed by both measurement (Δyobs syst) and forward model (Δymodel). Following Dubovik’s error estimate methodology [2004], we also consider a priori smoothness constraints regarding the vertical distribution of aerosol parameters, and a priori estimate of the solution in retrieval error estimate. The overall covariance matrix for error estimate for combined lidar-polarimeter inversion is expressed as, CΔx,syst  ΔxsystΔxsyst T + CΔx, rand, (92) (92) Ψtotalxq+1 −Ψtotalxq  Ψtotalxq ≤ε2 c. (87) (87) where Δxsyst is approximated by Δxsyst  A−1∇Ψ, (93) Δxsyst  A−1∇Ψ, (93) (93) and covariance matrix of the retrieval solution contributed by the random error is evaluated by RETRIEVAL IMPLEMENTATION AND VALIDATION Observations From HSRL-2 and RSP Following the algorithm formulation in the previous sections, the retrieval approach is applied to combined sets of polarimetric and lidar observations acquired by RSP and HSRL-2 on September 12, 2016 during the ORACLES field campaign. The polarimeter signals include radiance and DOLP and the lidar signals include particulate extinction coefficient, backscatter, and depolarization ratio. p g For practicality, Δxsyst is calculated by assuming Δysyst  f1xretrieved −f* 1. (97) (97) so that Eq. 93 becomes so that Eq. 93 becomes Δxsyst  A−1KT 1W−1 1 f1xretrieved −f* 1 + cΩxtrue + caW−1 a xtrue −xa priori. (98) (98) p During the ORACLES mission, RSP and HSRL-2 were aboard NASA’s ER-2 aircraft flying at an altitude of 20 km. NASA’s P-3 Orion aircraft flew underneath the ER-2 at up to 6 km in altitude. It carried a set of instrumentation, including the Hawaii Group for Environmental Aerosol Research (HiGEAR, (McNaughton et al., 2009)) aerosol in situ sampling instruments and NASA Ames Spectrometer for Sky-Scanning, Sun-Tracking Atmospheric Research (4-STAR, (Dunagan et al., 2013)) that combines airborne Sun tracking and sky scanning with grating spectroscopy to improve knowledge of atmospheric constituents. HiGEAR’s suite of in situ sampling instruments measure absorption and scattering coefficients under dry conditions, which can be used to derive aerosol SSA. 4-STAR measures accumulated AOD. As the retrieved solution is the closest estimate of the “true” solution xtrue, we assume xtrue  xretrieved. When a priori xa priori is unavailable, we further assume xa priori  xtrue. Under these assumptions, the last term on the right-hand-side of Eq. 95 disappears (namely caW−1 a (xtrue −xa priori)  0). Note that Eq. 94 treats measurement errors as random. Indeed, these errors are already contained in the observation f* 1 used by Eq. 98. Therefore, by implementing Eqs 92, 94 and 98, it is possible that errors are double-counted in the case that they bias the solution in the same direction as the modeling errors, resulting in a conservative error estimate. Determination of Lagrange Multipliers The Lagrange multipliers reflect the strength of smoothness constraints for a given parameter to be retrieved. Each multiplier is defined as, CΔx, rand  A−1ε2 rand, (94) (94) where εrand is the random noise, A is computed at the retrieved solution x via Eq. 82 and ∇Ψ is given by where εrand is the random noise, A is computed at the retrieved solution x via Eq. 82 and ∇Ψ is given by ci  ε2 i1ε2 i , (88) (88) April 2021 | Volume 2 | Article 620871 13 April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 13 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. ∇Ψ  JTW−1 f Δysyst + cΩxtrue + caW−1 a xtrue −xp, (95) zero in Eq. 57. In practice, however, observation errors can highly correlated between neighboring spectral bands and/or angular measurements. In addition, the a priori covariance matrix also assumes no error dependency between state vector elements so that its off-diagonal terms in Eq. 66 are zero. These are potential error sources of our error estimate model. where the total systematic error is expressed as where the total systematic error is expressed as Δysyst 2  Δyobs syst 2 + Δymodel 2. (96) (96) By performing the above error analysis, it is assumed that the modeling error and the systematic errors of an instrument in Eq. 28 are well characterized. Indeed, their quantification is rather difficult due to the complexity of error analysis for a sensor that consists of multiple optical units as well as the under- characterization of multiple sources of modeling errors. RETRIEVAL IMPLEMENTATION AND VALIDATION To estimate errors for functions of the retrieved parameters (namely y  f(x), and y can be vertical layer resolved SSA and AOD, vertical layer resolved extinction and scattering coefficients, accumulated AOD from the TOA, effective radius, etc.), the chain rule is applied so that we have the following matrix form, We selected the scenes that met the following criteria: 1) collocated measurements by RSP and HSRL-2 onboard NASA’s ER-2 high altitude aircraft are available; 2) collocated AOD, SSA, and aerosol size distribution data for retrieval validation provided by 4-STAR and HiGEAR are available; and 3) the measurements were made at cloud-free condition, as identified from HSRL-2’s backscatter measurements. Figure 3 provides a curtain of HSRL- 2 aerosol backscatter at 532 nm along the ER-2 flight on September 12, 2016. This is the typical aerosol scene from the ORACLES campaign over the southeast Atlantic Ocean. A layer of elevated smoke aerosol was originated from biomass burning and transported to the ocean. After mixing with marine sea salt aerosol (dark red in the lidar curtain) from the top of the boundary layer, the mixture complexity provides us an ideal scene to test our algorithm. As indicated by the white line in the upper right part of the figure, the lidar and polarimeter data meeting these criteria were acquired from 14:25 to 14:34 UTC. During this timeframe, the solar zenith angle is around 52°, and the ER-2 aircraft flew a distance about 100 km from (-18.73°N, 8.72°E) to (-19.39°N, 9.39°E). A total of 50 sets of observations with collocated measurements by HSRL-2 and RSP data were collected to test the combined retrieval. Moreover, 4-STAR measurements of accumulated AODs at different altitudes under 6 km (as traversed by the P-3) and SSA derived from Δy   KT y CΔxKy 0 , (99) (99) where Ky denotes the Jacobian array containing derivatives of y with respect to all retrieved parameters x that are relevant to the calculation of y. Summing over the contribution by both systematic and random errors, the overall error is estimated by taking the diagonal term of the retrieval error covariance matrix, namely Δxj   (CΔx)jj 0 , (100) (100) where CΔx is given in Eq. 92. where CΔx is given in Eq. 92. where CΔx is given in Eq. 92. Moreover, the initial guess of the standard deviation of fine and coarse aerosol size distribution are informed by UHSAS measurements. the name “355_aer_dep”, “532_aer_dep”, and “1,064_aer_dep” for the three wavelengths in the product. In computing the error covariance matrix, an uncertainty of 17 Mm−1, 5%, and 10% are assumed for αa, βa, and δa, respectively. Within the 315 m layer, optical homogeneity is assumed. Such a layer is further divided into sublayers to ensure the radiative transfer modeling accuracy. HiGEAR products of absorption and scattering coefficients, and number weighted aerosol size distribution are available in this time frame, as indicated in Figure 4. They are used for retrieval validation. The RSP instrument measures the radiance and polarimetric components Q and U in nine wavelength bands from UV (410 nm) to short-wave infrared (2,250 nm) (Cairns et al., 1999). If RSP’s measurements are collocated with HSRL-2’s (lat, lon) within 1 km horizontal distance, then its angular data are used for combined retrieval. For the 50 sets of observations under test, a total of 152 view angles from –39° to 25° around nadir in the wavelengths 410, 470, 550, 670, and 865 nm are used. Note that due to the yaw of the ER-2 aircraft and high altitude, RSP’s view angular range is reduced to [−39°, 25°] around nadir. These measurements are within ±35° around the principal plane. The relative uncertainty is 2% for intensity and the absolute uncertainty 0.002 for DOLP. HSRL-2 is the second generation NASA Langley airborne High Spectral Resolution Lidar (Hair et al., 2008). It uses the HSRL technique (Shipley et al., 1983) to independently measure aerosol backscatter and extinction at 355 and 532 nm. While HSRL-2 products of particulate extinction, backscatter, depolarization ratio are reported at 15 m vertical resolution, the true resolution is 315 m for extinction (αa) and 15 m for backscatter (βa) and depolarization (δa) in the ORACLES campaign (Burton et al., 2018). The lidar signals that we used in this study include aerosol extinction, backscatter, and depolarization ratio. In the HSRL-2 product, the aerosol extinction at 355 and 532 nm wavelengths are under the name “355_ext” and “532_ext”, respectively. To preserve the independence of extinction data used for retrieval, we access αa at 315 m resolution. The aerosol backscatter data at 355, 532, and 1,064 nm wavelength are under the name “355_bsc_Sa”, “532_bsc_Sa”, and “1,064_bsc_Sa”, respectively in the HSRL-2 product. where CΔx is given in Eq. 92. Their reported values are averaged at the same resolution as extinction for lidar ratio (“Sa”) calculation. The depolarization ratios at the three lidar wavelengths are under y g y As the assumption, two aerosol species are retrieved from the combined use of HSRL-2 and RSP observations. Each species is characterized by an independent and layer resolved set of refractive index, log-normal volumetric size distribution, and spherical particle fraction. These quantities are initialized with values in Table 1 before retrieval starts. As informed by the range of the imaginary part of the refractive index in Table 1, weakly to strongly absorbing fine mode aerosols, and non-absorbing to moderately absorbing coarse mode aerosols are assumed in retrieval. Moreover, the initial guess of the standard deviation of fine and coarse aerosol size distribution are informed by UHSAS measurements. where CΔx is given in Eq. 92. Our error estimates involve the use of Jacobians and assume 1) the retrieved solution is representative of the solution space; and 2) retrieval errors are linearly proportional to the measurement errors. These assumptions can be problematic in situations where the model and/or observation errors are large. Moreover, the observation covariance matrix assumes no correlations among errors of observational signals so that its off-diagonal terms are April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 14 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 3 | HSRL-2 aerosol backscatter at 532 nm along ER-2 flight on September 12, 2016. The white piece of line marks the temporal window from 14:25 to 14: 34UTC when the HSRL-2 and RSP collocated measurements were made. The ER-2 aircraft flew a distance ∼100 km from (−18.73°N, 8.72°E) to (−19.39°N, 9.39°E) within this temporal window. A total of 50 sets of observations are identified to test the combined retrieval with a simultaneous use of RSP and HSRL-2 data. FIGURE 3 | HSRL-2 aerosol backscatter at 532 nm along ER-2 flight on September 12, 2016. The white piece of line marks the temporal window from 14:25 to 14: 34UTC when the HSRL-2 and RSP collocated measurements were made. The ER-2 aircraft flew a distance ∼100 km from (−18.73°N, 8.72°E) to (−19.39°N, 9.39°E) within this temporal window. A total of 50 sets of observations are identified to test the combined retrieval with a simultaneous use of RSP and HSRL-2 data. the name “355_aer_dep”, “532_aer_dep”, and “1,064_aer_dep” for the three wavelengths in the product. In computing the error covariance matrix, an uncertainty of 17 Mm−1, 5%, and 10% are assumed for αa, βa, and δa, respectively. Within the 315 m layer, optical homogeneity is assumed. Such a layer is further divided into sublayers to ensure the radiative transfer modeling accuracy. As the assumption, two aerosol species are retrieved from the combined use of HSRL-2 and RSP observations. Each species is characterized by an independent and layer resolved set of refractive index, log-normal volumetric size distribution, and spherical particle fraction. These quantities are initialized with values in Table 1 before retrieval starts. As informed by the range of the imaginary part of the refractive index in Table 1, weakly to strongly absorbing fine mode aerosols, and non-absorbing to moderately absorbing coarse mode aerosols are assumed in retrieval. Retrieval Validation Against 4-STAR and HiGEAR Measurements As the first check, a retrieval is performed using RSP and HSRL-2 collocated measurement at 14:25:10 UTC, namely the first case among the total 50 sets of collocated observations. Figure 5 displays the whole set of retrieved aerosol geophysical parameters as a function of altitude. These parameters include aerosol refractive index, volume concentration, geometric volume mean radius and logarithmic standard deviation of aerosol size distributions, and spherical particle fraction. These quantities are displayed in different panels. From the ranges of the retrieved real and imaginary parts of refractive index, the two aerosol species pre-assumed in our retrieval can be distinguished as smoke and sea salt particles. Following the transportation of biomass burning smoke particles for a long distance (e.g., >800 km) from the April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 15 Xu et al. Combined Lidar-Polarimeter Aerosol Inversion FIGURE 4 | Collocation of HSRL-2, 4-STAR, and the HiGEAR suite of instrumentation in taking measurements. The column aerosol optical depth accumulated from the position of the ER-2 aircraft to the location of P-3 aircraft calculated from HSRL-2 is used to validate the retrieval and to compare to the 4-STAR reference data. The aerosol SSA derived from extinction and scattering coefficients measured by HiGEAR suite of instrumentation is used to validate the retrieved SSA. HiGEAR also provides fine and coarse mode aerosol size distributions measured by UHSAS and APS instruments at dry condition, which are compared to the retrieved size distributions at ambient condition. Approximately at the altitude from 3 to 6 km, P-3 followed the trajectory of ER-2. FIGURE 4 | Collocation of HSRL-2, 4-STAR, and the HiGEAR suite of instrumentation in taking measurements. The column aerosol optical depth accumulated from the position of the ER-2 aircraft to the location of P-3 aircraft calculated from HSRL-2 is used to validate the retrieval and to compare to the 4-STAR reference data. The aerosol SSA derived from extinction and scattering coefficients measured by HiGEAR suite of instrumentation is used to validate the retrieved SSA. HiGEAR also provides fine and coarse mode aerosol size distributions measured by UHSAS and APS instruments at dry condition, which are compared to the retrieved size distributions at ambient condition. Approximately at the altitude from 3 to 6 km, P-3 followed the trajectory of ER-2. Retrieval Validation Against 4-STAR and HiGEAR Measurements The vertical mean of absolute fitting error of particulate extinction coefficient is found to be 7.6 and 8.9 Mm−1 for 355 and 532 nm, respectively, for altitudes below 5.2 km, and the vertical mean of absolute fitting error of particulate backscatter is 0.16, 0.07 and 0.14 Mm−1Sr−1 for 355, 532 and 1,064 nm, respectively. Noticeably, the fit to the particulate backscatter of 1,064 nm at ∼1.4 km altitude has a relatively larger error. Indeed, to derive vertically resolved backscatter at 1,064 nm one needs to know the extinction at the same wavelength. Since HSRL-2 does not measure extinction at 1,064 nm directly, it is estimated from an assumed relationship with the measured lidar ratio at 532 nm. Though provided as a best guess, such an estimate may cause extra uncertainty to the 1,064 nm backscatter, which is beyond our 5% error estimate for particulate backscatter at all wavelengths. The comparison of the depolarization ratio fit to the measurements was demonstrated in the bottom panels of Figure 7A. In the altitude range from 2.5 to 5.2 km, the fitting at the 532 nm wavelength is noticeable to be beyond the measurement error. Considering that the depolarization is highly relevant to aerosol non-sphericities, such a deviation may be caused by the modeling errors with the pre-assumed aspect ratio distribution of spheroidal particles (Legrand et al., 2014). In Figure 7B, we compare the fit of aerosol lidar ratio (Sa  αa/βa) to the measurements. Plotted as the horizontal error bars, the measurement uncertainty with aerosol lidar ratio (ΔSa) is derived from the uncertainties of extinction (σαa  17 Mm−1) and backscatter coefficients (εβa  5%) via error propagation ΔSa  αa/βa  (σαa/αa)2 + (εβa)2 0 . In the altitude ranges from 0 to 1 km and from 2.5 to 5.2 km where most aerosols are distributed, the fitting errors are observed to be less than 20 Calculated from the speciated aerosol abundance and intrinsic quantities displayed in Figures 5 and 6A displays the retrieved profiles of accumulated AOD (left panel) and SSA (right panel) at 532 nm (black curves), with comparison to the collocated HiGEAR measurement (red dot) at the altitude around 3 km. The retrieved AOD in the left panel of Figure 6A is accumulated AOD from TOA to different altitudes with 315 m resolution. Retrieval Validation Against 4-STAR and HiGEAR Measurements FIGURE 5 | Demonstration of aerosol geophysical property retrieval using a combined set of lidar (HSRL-2) and polarimeter (RSP) observations acquired at 14:25:10UTC on September 12, 2016 during the ORACLES field campaign. Upper left panel: real part of aerosol refractive index; Upper middle panel: imaginary part of aerosol refractive index; Upper middle right panel: volume concentration (unit: m3/m3); Bottom left panel: geometric volume mean radius (unit: μm) as a function of altitude; Bottom middle panel: logarithmic standard deviation of aerosol size distribution; Bottom right panel: spherical particle fraction. The horizontal bars in all panels indicate the retrieval errors. To estimate the retrieval uncertainties, we use the relative uncertainty 2% for RSP’s intensity measurement and the absolute uncertainty 0.002 for DOLP measurement, and use the uncertainties 17 Mm−1, 5%, and 10% for HSRL-2’s particulate extinction, backscatter and depolarization, respectively. FIGURE 5 | Demonstration of aerosol geophysical property retrieval using a combined set of lidar (HSRL-2) and polarimeter (RSP) observations acquired at 14:25:10UTC on September 12, 2016 during the ORACLES field campaign. Upper left panel: real part of aerosol refractive index; Upper middle panel: imaginary part of aerosol refractive index; Upper middle right panel: volume concentration (unit: m3/m3); Bottom left panel: geometric volume mean radius (unit: μm) as a function of altitude; Bottom middle panel: logarithmic standard deviation of aerosol size distribution; Bottom right panel: spherical particle fraction. The horizontal bars in all panels indicate the retrieval errors. To estimate the retrieval uncertainties, we use the relative uncertainty 2% for RSP’s intensity measurement and the absolute uncertainty 0.002 for DOLP measurement, and use the uncertainties 17 Mm−1, 5%, and 10% for HSRL-2’s particulate extinction, backscatter and depolarization, respectively. April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 16 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. continent, the volumetric concentration plot shows the co- existence of smoke and sea salt particles in two regions, namely from 0 to 1 km and from 2.5 to 5.2 km. Moreover, the sea salt particles present a larger size than that of smoke particles. The spherical particle fraction for smoke and sea salt particles are ∼0.8 and >0.9, respectively, at the altitude close to the sea surface (with an retrieval uncertainty between 0.1 and 0.2). Increased nonspherical particle fraction for the sea salt particles is observed at a higher altitude from 2.5 to 5.2 km. Retrieval Validation Against 4-STAR and HiGEAR Measurements This could be caused by crystallization as temperature, and relative humidity decreases at higher altitude. We have also noticed that the geometric mean radius of smoke particles is slightly lower in the boundary layer than in the free troposphere. In the context of the ORACLES campaign, the smoke particles in and above the boundary layer can be different in terms of their ages, transport, and microphysical properties. The smoke particles may be entrained into the PBL via large-scale re-circulation (Redemann et al., 2021) instead of directly sinking into PBL through subsidence as previously thought. Thus, the smoke aerosol properties in the PBL may be affected by their interactions with clouds or new particle formation processes. This is a likely cause of observing smaller smoke particles in the PBL than at high altitudes from the case study in Figure 5. aerodynamic particle diameter (dae) needs to be converted to the geometric diameter d. This is done via d  dae×(χ/ρp)0.5, where ρp is aerosol density and χ is the dynamic shape parameter. Assuming all aerosols measured by APS are sea salt particles, we adopt χ  1.08 and ρp  1.8 g/cm−3 (Froyd et al., 2019). Then the conversion is determined as d  dae/1.29. By performing such a conversion, we neglect the impact of highly irregular particles on χ and assume equivalent spherical diameter for “d” which may cause bias to the estimate of χ (Reid et al., 2003). In addition, UHSAS and APS measure the number concentrations of fine and coarse mode particles in the ranges of geometric radius [0.03, 0.5] and aerodynamic radius [0.22, 8.1] μm, respectively. Apparently, the two instruments have an overlapped measurement range of geometric radius from 0.2 to 0.5 μm. Nevertheless, this range is accounted in determining r(s) g and σ(s) g for both fine and coarse aerosols. With these preconditions and conversions, Figure 6B compared the retrieved particle size distribution to HiGEAR’s in- situ measurement. While the difference is basically within the retrieval error estimated using the methodology described in Retrieval Error Estimate, the coarse mode aerosol size distribution is subjected to larger retrieval errors than the fine mode aerosol size distribution. Along with the results demonstrated in Figures 5, 6, and 7A demonstrates the retrieval fit to HSRL-2’s measurements of vertical extinction coefficient, scattering coefficients, and depolarization ratio of aerosols. Retrieval Validation Against 4-STAR and HiGEAR Measurements FIGURE 6 | (A) Retrieved profiles of AOD (left panel) and SSA (right panel) at 532 nm (black curves), with comparison to the collocated HiGEAR measurement (red dot); (B): retrieved fine mode (left panel) and coarse mode (right panel) aerosol size distributions (black curves), with comparison to the in-situ HiGEAR measurements via UHSAS and APS (red curves). The retrieved AOD, SSA and size distribution are derived from the speciated aerosol abundance and intrinsic quantities displayed in Figure 5. Moreover, the retrieved AOD in the left panel of Figure 6A is accumulated AOD from TOA to different altitudes with 315 m resolution. The horizontal bars in all panels indicate the retrieval errors. Collocation of HiGEAR and RSP/HSRL-2 measurements was demonstrated in Figure 4. To estimate the retrieval uncertainties, the measurement uncertainties are same as those used in Figure 5. HiGEAR, the accumulated AOD measured by 4-STAR is sampled at a resolution of 315 m. Plotted in red dots, comparison of retrieval to 4-STAR reference data shows the MAD to be around 0.006, which is within the AOD retrieval errors for all cases. The determinant of regression is about 0.99. As another measure of the quality of retrieved resolution in fitting observation, we also compare retrieved AOD to HSRL-2 AOD calculated from its extinction measurements. As indicated with the blue squares, most data fall very close to the 1:1 line - indicating a high quality of the agreement. Also, at the vertical resolution of 315 m, the right panel of Figure 9 shows the MAD of SSA retrievals is 0.028. Overall, the retrieved SSAs are slightly larger than HiGEAR reference data derived from its measurement of absorption and scattering coefficients. This could be due to the retrieved aerosol properties from RSP and HSRL-2’s observations are under ambient conditions, while the in-situ measurements of absorption and scattering coefficients are under dry conditions. However, seeking an exact explanation for such a difference is hard since it is within the estimated retrieval errors of SSA. Indeed, gaining an SSA retrieval accuracy of 0.028 is largely due to the constraints provided by RSP’s multiangle polarimetry, by HSRL’s direct measurement of extinction, as well as by the smoothness constraints imposed on the variation of refractive Sr, or less than 20% in relative sense viewing the measured lidar ratio is larger than 100 in 355 and 532 nm. Retrieval Validation Against 4-STAR and HiGEAR Measurements Fairly consistent agreement between retrieved values and reference data derived from 4-STAR and HiGEAR measurements can be observed. The difference is within the estimated retrieval error for SSA and accumulated AOD. In Figure 6B, the retrieved fine mode (left panel) and coarse mode (right) aerosol size distributions (black curves) are compared to the in-situ HiGEAR measurement averaged within a vertical bin of 315 m (red curves). To compare to the number weighted aerosol size distribution measured by UHSAS and APS, the retrieved volumetric size distribution Eq. 2 needs a conversion. Specifically, the retrieved r(s) m and σ(s) m are converted to the geometric number mean radius r(s) g and the standard deviation for sth aerosol species σ(s) g by use of the following relationship (Grainger, 2017): r(s) g  r(s) m e−3σ(s) m  2 , (101) σ(s) g  σ(s) m . (102) (101) (102) On such a basis, the retrieved number weighted size distribution is calculated as On such a basis, the retrieved number weighted size distribution is calculated as dn(s)(r) dln r  1  2π √ σ(s) g exp⎡⎢⎢⎢⎢⎣− ln r −ln r(s) g  2 2σ(s) g  2 ⎤⎥⎥⎥⎥⎦. (103) (103) While UHSAS reports number concentrations of aerosols at their geometric diameters, APS reports the concentration at aerodynamic diameters of aerosols. Therefore, the APS April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 17 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 6 | (A) Retrieved profiles of AOD (left panel) and SSA (right panel) at 532 nm (black curves), with comparison to the collocated HiGEAR measurement (red dot); (B): retrieved fine mode (left panel) and coarse mode (right panel) aerosol size distributions (black curves), with comparison to the in-situ HiGEAR measurements via UHSAS and APS (red curves). The retrieved AOD, SSA and size distribution are derived from the speciated aerosol abundance and intrinsic quantities displayed in Figure 5. Moreover, the retrieved AOD in the left panel of Figure 6A is accumulated AOD from TOA to different altitudes with 315 m resolution. The horizontal bars in all panels indicate the retrieval errors. Collocation of HiGEAR and RSP/HSRL-2 measurements was demonstrated in Figure 4. To estimate the retrieval uncertainties, the measurement uncertainties are same as those used in Figure 5. Frontiers in Remote Sensing | www.frontiersin.org Retrieval Validation Against 4-STAR and HiGEAR Measurements Consistent with Figures 5 and 6, the observations were acquired at 14:25:10 UTC on September 12, 2016 during ORACLES campaign. (A) Upper panels: extinction coefficients at 355 nm (left) and 532 nm (right) as a function of altitude; Middle panels: backscatter coefficient at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. Bottom panels: depolarization ratio at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. (B) Lidar ratio at 355 nm (left) and 532 nm (right). The horizontal bars in all panels indicate the measurement uncertainties. The measurement uncertainties are same as those used in Figure 5. FIGURE 7 | Comparison of HSRL-2 measurements with model fit using the retrieved aerosol properties displayed in Figure 6. Consistent with Figures 5 and 6, the observations were acquired at 14:25:10 UTC on September 12, 2016 during ORACLES campaign. (A) Upper panels: extinction coefficients at 355 nm (left) and 532 nm (right) as a function of altitude; Middle panels: backscatter coefficient at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. Bottom panels: depolarization ratio at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. (B) Lidar ratio at 355 nm (left) and 532 nm (right). The horizontal bars in all panels indicate the measurement uncertainties. The measurement uncertainties are same as those used in Figure 5. significant role in retrieval accuracy enhancement. Similar to the comparison of AOD in the left panel of Figure 9, the left and right panels of Figure 10 give a comparison of the accumulated AODs against the product of 4-STAR at 355 and 1,064 nm, respectively. The MADs of AOD at these two wavelengths are found to be 0.010 and 0.004, respectively. As a retrieval quality check, the comparison was also made to AOD calculated from HSRL-2’s extinction measurement in 355 nm. Compared to the agreement of retrieval AOD and HSRL-2 AOD in 532 nm, the agreement of the two AODs in 355 nm slightly reduces. For AOD at 1,064 nm, the difference in the retrieval and 4-STAR AODs falls beyond the range of retrieval error bars at some points. To fill the gap, we may need to further account for the uncertainties in 4-STAR AOD index and size distribution. Retrieval Validation Against 4-STAR and HiGEAR Measurements Such a difference is within the measurement uncertainties of the lidar ratio indicated by the horizontal error bars. y The retrieved BRF and DOLP are compared to the measured data by RSP in Figure 8. The spectral mean of fitting error for BRF and DOLP is less than ∼2% and 0.003 respectively in the four bands centered at 410, 470, 670, and 865 nm. By contrast, the fitting error at 550 nm is relatively larger (∼4.5% for BRF and ∼0.007 for DOLP), which could be caused by the approximation in estimating the ozone absorption to be ∼0.03 in optical depth at 550 nm for radiance calculation, and/or due to the residue error of instrument calibration. Moreover, the fitting errors have certain angular dependence: relatively larger fitting errors can be observed when the polarimeter’s view angle gets more and more off nadir. This could be caused by the inhomogeneity in the spatial distribution of aerosols in the measurement zone, as seen from the lidar curtain in Figure 3. Following the case study demonstrated through Figures 5–8, Figure 9 gives a systematic comparison of AOD and SSA at 532 nm from all 50 sets of retrievals to the measurements by 4- STAR and HiGEAR instruments. Starting from the maximum flight altitude (6 km) of P-3 aircraft, which carries 4-STAR and April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 18 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 7 | Comparison of HSRL-2 measurements with model fit using the retrieved aerosol properties displayed in Figure 6. Consistent with Figures 5 and 6, the observations were acquired at 14:25:10 UTC on September 12, 2016 during ORACLES campaign. (A) Upper panels: extinction coefficients at 355 nm (left) and 532 nm (right) as a function of altitude; Middle panels: backscatter coefficient at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. Bottom panels: depolarization ratio at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. (B) Lidar ratio at 355 nm (left) and 532 nm (right). The horizontal bars in all panels indicate the measurement uncertainties. The measurement uncertainties are same as those used in Figure 5. FIGURE 7 | Comparison of HSRL-2 measurements with model fit using the retrieved aerosol properties displayed in Figure 6. Retrieval Validation Against 4-STAR and HiGEAR Measurements The benefits of using polarimetry to constrain the retrieval of aerosol SSA has been demonstrated by multiple airborne polarimeters such as RSP (Wu et al., 2015), AirMSPI (Xu et al., 2017), AirSPEX (Hasekamp et al., 2019) and AirHARP (Puthukkudy et al., 2020). Generally, retrieval error is within ∼0.02–0.04 when the absolute error with DOLP measurement is less than ∼0.005. However, in this work, we are retrieving vertically dependent aerosol properties. Therefore, the parameter space is significantly expanded, and the polarimeter’s capability may spread increasingly thin as the number of vertical layers for retrieval to resolve increases. To mitigate this issue, extra a priori constraints regarding smooth variations of some aerosol properties are imposed, and they play a April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 19 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 8 | (A) Comparison of RSP radiance measurements (in BRF unit) with model fit using the retrieved aerosol properties displayed in Figure 5. Consistent with Figures 5 and 6, the observations were acquired at 14:25:10UTC on September 12, 2016 during ORACLES campaign. Comparison is made for five wavelengths from near UV (410 nm) to near-infrared (865 nm) in different panels. (B) Comparison of RSP DOLP measurements with model fits using the retrieved aerosol properties displayed in Figure 5. The vertical bars in all panels indicate the measurement uncertainties. FIGURE 8 | (A) Comparison of RSP radiance measurements (in BRF unit) with model fit using the retrieved aerosol properties displayed in Figure 5. Consistent with Figures 5 and 6, the observations were acquired at 14:25:10UTC on September 12, 2016 during ORACLES campaign. Comparison is made for five wavelengths from near UV (410 nm) to near-infrared (865 nm) in different panels. (B) Comparison of RSP DOLP measurements with model fits using the retrieved aerosol properties displayed in Figure 5. The vertical bars in all panels indicate the measurement uncertainties. v(s) eff  eσ(s) g  2 −1. (105) measurements (e.g., ∼0.01 for above-cloud AOD sampled at 500 nm and 1,020 nm according to LeBlanc et al., (2020)). (105) Figures 11 and 12 compare the effective radius and effective variance of fine and coarse mode aerosols against the reference data derived from in-situ measurements by use of the UHSAS and APS instruments aboard P-3 aircraft. Frontiers in Remote Sensing | www.frontiersin.org Retrieval Validation Against 4-STAR and HiGEAR Measurements The vertical bars in all panels indicate the retrieval errors. FIGURE 9 | Systematic comparison of accumulated partial-column AOD and layer-effective SSA from retrieval using 50 combined sets of HSRL-2 and RSP observations to the reference measurement by 4-STAR and HiGEAR. Left panel: comparison of accumulated AOD at 532 nm against 4-STAR and HSRL-2 measurements; Right panel: comparison of SSA at 532 nm against HiGEAR reference data. Collocation of these measurements was demonstrated in Figure 4. For SSA comparison, less than 50 retrieval data points are plotted due to the screening of data for altitude above 5.2 km (too low aerosol loading). The vertical bars in all panels indicate the retrieval errors. FIGURE 9 | Systematic comparison of accumulated partial-column AOD and layer-effective SSA from retrieval using 50 combined sets of HSRL-2 and RSP observations to the reference measurement by 4-STAR and HiGEAR. Left panel: comparison of accumulated AOD at 532 nm against 4-STAR and HSRL-2 measurements; Right panel: comparison of SSA at 532 nm against HiGEAR reference data. Collocation of these measurements was demonstrated in Figure 4. For SSA comparison, less than 50 retrieval data points are plotted due to the screening of data for altitude above 5.2 km (too low aerosol loading). The vertical bars in all panels indicate the retrieval errors. FIGURE 10 | Same as the left panel of Figure 9 but the comparison against 4-STAR and HSRL-2 reference data for AOD at 355 nm, and against 4-STAR reference data for AOD at 1,064 nm. Left panel: comparison of AOD at 355 nm; Right panel: comparison of AOD at 1,064 nm. The vertical bars in all panels indicate the retrieval errors. FIGURE 10 | Same as the left panel of Figure 9 but the comparison against 4-STAR and HSRL-2 reference data for AOD at 355 nm, and against 4-STAR reference data for AOD at 1,064 nm. Left panel: comparison of AOD at 355 nm; Right panel: comparison of AOD at 1,064 nm. The vertical bars in all panels indicate the retrieval errors. FIGURE 11 | Comparison of effective radius (left panel) and variance (right panel) of fine mode aerosol size distribution. The vertical bars in all panels indicate the retrieval errors. FIGURE 11 | Comparison of effective radius (left panel) and variance (right panel) of fine mode aerosol size distribution. The vertical bars in all panels indicate the retrieval errors. Retrieval Validation Against 4-STAR and HiGEAR Measurements We filtered out the results above 5.2 km where aerosols loading is very low so that the retrieved aerosol microphysical properties are subjected to relatively larger retrieval errors. Moreover, the UHSAS/APS measured the size-resolved number concentration are fit with the number weighted log-normal size distribution expressed in Eq. 103. Following the derivation of r(s) g and σ(s) g from fitting in- situ measurements, the effective radius and variance is calculated via Comparison of fine and coarse mode aerosol effective radii and variance in the left panel of Figures 11 and 12 indicates the retrieved values are larger than their counterparts as measured by UHSAS and APS. The MADs of effective radii are around 0.012 and 0.377 μm for fine and coarse aerosols, respectively. Such a difference is basically within the estimated range of retrieval errors. MADs of effective variance are around 0.132 and 0.257 for fine and coarse aerosols, respectively. Such a deviation is beyond the range of estimated retrieval errors. However, the in- situ aerosol size measurement by HiGEAR suite of instruments has 5% (Uin 2016) and 10% (Pfeifer et al., 2016) uncertainty for fine and coarse mode aerosols, respectively. Moreover, HiGEAR measurement was carried out under dry conditions while the retrieved aerosol properties from RSP and HSRL-2’s observations r(s) eff  r(s) g e 5 2σ(s) g  2 , (104) April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 20 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 9 | Systematic comparison of accumulated partial-column AOD and layer-effective SSA from retrieval using 50 combined sets of HSRL-2 and RSP observations to the reference measurement by 4-STAR and HiGEAR. Left panel: comparison of accumulated AOD at 532 nm against 4-STAR and HSRL-2 measurements; Right panel: comparison of SSA at 532 nm against HiGEAR reference data. Collocation of these measurements was demonstrated in Figure 4. For SSA comparison, less than 50 retrieval data points are plotted due to the screening of data for altitude above 5.2 km (too low aerosol loading). The vertical bars in all panels indicate the retrieval errors. FIGURE 10 | Same as the left panel of Figure 9 but the comparison against 4-STAR and HSRL-2 reference data for AOD at 355 nm, and against 4-STAR reference data for AOD at 1,064 nm. Left panel: comparison of AOD at 355 nm; Right panel: comparison of AOD at 1,064 nm. SUMMARY An optimization approach is developed to combine the use of lidar and polarimetric observations to retrieve the vertical profiles of speciated aerosol abundance and properties over the ocean. These aerosol properties include aerosol refractive index, size distribution, and spherical particle fractions. Acquired during 2016 ORACLES field campaign, the HSRL-2 measurements of extinction, backscatter and depolarization in combination with RSP measurements of radiance and DOLP are used to test the retrieval. Comparison to the accumulated AODs from TOA to different altitudes measured by 4-STAR aboard the P-3 at different altitudes (up to 6 km) shows an MAD of 0.010, 0.006, and 0.004 for 355, 532 and 1,064 nm, respectively. At the vertical resolution of 315 m, validation of SSA against the in-situ measurement by HiGEAR shows an accuracy of 0.028 for 532 nm. Comparing the retrieved effective radii of fine and coarse mode aerosols to the reference data from in-situ measurements by UHSAS and APS, we found the MADs to be around 0.012 and 0.377 μm for fine and coarse mode aerosols, respectively. AUTHOR CONTRIBUTIONS FX formulated the inversion approach and developed the prototype codes for retrieval use. LG interfaced the retrieval with OU Supercomputing Center for Education and Research, implemented the retrieval test, and provided inputs on interpreting the results. JR, CF, WE, AS, SS, SB, XL, RF, BC and OD provided insightful discussions on the algorithm development and proper use of HSRL-2 and RSP data for retrieval test, and made editorial changes. While most comparisons indicate that the differences are within the estimated retrieval errors or within measurement uncertainties of relevant quantities, it is noteworthy that we assume 1) a plane- parallel atmosphere-surface system for computing polarized radiative transfer and 2) sphere and spheroid model for computing aerosol single-scattering properties. These assumptions are subjected to errors. One error source that is particularly relevant to lidar-polarimeter combined retrieval under the context of high spatial resolution is the difference in the atmosphere viewed along nadir direction by lidar and the atmosphere viewed along oblique angles of a polarimeter. In a strict sense, combined retrieval should DATA AVAILABILITY STATEMENT Publicly available datasets were analyzed in this study. This data can be found here: https://espoarchive.nasa.gov/archive/browse/oracles. Retrieval Validation Against 4-STAR and HiGEAR Measurements April 2021 | Volume 2 | Article 620871 21 Frontiers in Remote Sensing | www.frontiersin.org 21 Xu et al. Combined Lidar-Polarimeter Aerosol Inversion FIGURE 12 | Same as Figure 11 but for coarse mode aerosol size distribution. me as Figure 11 but for coarse mode aerosol size distribution. FIGURE 12 | Same as Figure 11 but for coarse mode aerosol size distribution. were under ambient conditions. These are potential sources that can cause the difference in the estimated geometric number mean radius and standard deviation from HiGEAR measurements, which further impacts the comparison of aerosol effective radius and variance. only use nadir polarimetric measurements, or all angular measurements but with a 3D forward RT model that accurately accounts for the spatial inhomogeneity with the atmosphere. However, the former option will reduce the benefits of multi- angular benefits in constraining while the latter option will reduce the modeling efficiency. As a trade-off between retrieval accuracy and efficiency, we use all angular measurements and retain the simplicity of assuming a plane-parallel atmosphere-surface system to perform the retrieval. Then the modeling errors are factored into the error estimates (see Retrieval Error Estimate). Nevertheless, seeking an effective way to further mitigate modeling errors while retaining the modeling efficiency is a worthwhile topic to pursue in the next stage. Frontiers in Remote Sensing | www.frontiersin.org REFERENCES Systematic observation requirements for satellite-based data products for climate; 2011 update, supplemental details to the satellite-based component of the “implementation plan for the global observing system for climate in support of the UNFCCC (2010 update). Geneva, Switzerland: WMO. the UNFCCC (2010 update). Geneva, Switzerland: WMO. Chowdhary, J., Cairns, B., Waquet, F., Knobelspiesse, K., Ottaviani, M., Redemann, J., et al. (2012). Sensitivity of multiangle, multispectral polarimetric remote sensing over open oceans to water-leaving radiance: analyses of RSP data acquired during the MILAGRO campaign. Remote Sens. Environ. 118, 284–308. doi:10.1016/j.rse.2011.11.003 Grainger, R. G. (2017). Some useful formulae for aerosol size distributions and optical properties. Available at: http://eodg.atm.ox.ac.uk/user/grainger/ research/aerosols.pdf. Hair, J. W., Caldwell, L. M., Krueger, D. A., and She, C.-Y. (2001). High-spectral- resolution lidar with iodine-vapor filters: measurement of atmospheric-state and aerosol profiles. Appl. Optic. 40, 5280–5294. doi:10.1364/AO.40.005280 Cox, C., and Munk, W. (1954a). Measurement of the roughness of the sea surface from photographs of the sun’s glitter. J. Opt. Soc. Am. 44, 838–850. Hair, J. W., Hostetler, C. A., Cook, A. L., Harper, D. B., Ferrare, R. A., Mack, T. L., et al. (2008). Airborne high spectral resolution Lidar for profiling aerosol optical properties. Appl. Optic. 47, 6734–6752. doi:10.1364/AO.47.006734 Cox, C., and Munk, W. (1954b). Statistics of sea surface derived from sun glitter. J. Mar. Res. 13, l98–227. Hansen, J. E. (1971). Multiple scattering of polarized light in planetary atmospheres. Part II. Sunlight reflected by terrestrial water clouds. J. Atmos. Sci. 28, 1400–1426. doi:10.1175/1520-0469(1971)028<1400:MSOPLI>2.0.CO;2 de Haan, J. F., Bosma, P. B., and Hovenier, J. W. (1987). The adding method for multiple scattering calculations of polarized light. Astron. Astrophys. 181, 371–391. Dubovik, O., Herman, M., Holdak, A., Lapyonok, T., Tanré, D., Deuzé, J. L., et al. (2011). Statistically optimized inversion algorithm for enhanced retrieval of aerosol properties from spectral multi-angle polarimetric satellite observations. Atmos. Meas. Tech. 4, 975–1018. doi:10.5194/amt-4-975-2011 Hasekamp, O., Litvinov, P., and Butz, A. (2011). Aerosol properties over the ocean from PARASOL multi-angle photopolarimetric measurements. J. Geophys. Res. 116, D14204. doi:10.1029/2010JD015469 Hasekamp, O. P., Fu, G., Rusli, S. P., Wu, L., Noia, A. D., aan de Brugh, J., et al. (2019). Aerosol measurements by SPEXone on the NASA PACE mission: expected retrieval capabilities. J. Quant. Spectrosc. Radiat. Rransfer. 227, 170–184. doi:10.1016/j.jqsrt.2019.02.006 Dubovik, O., and King, M. D. (2000). A flexible inversion algorithm for retrieval of aerosol optical properties from Sun and sky radiance measurements. J. Geophys. Res. 105, 673–696. REFERENCES Espinosa, W. R., Castellanos, P., Sayer, A., Colarco, P., Kemppien, O., Nowottnick, E., et al. (2019). An exploration of joint LIDAR and multiangle polarimeter aerosol retrieval capabilities using the GRASP algorithm and OSSE data derived from the GEOS model. Available at: https://www.giss.nasa.gov/staff/ mmishchenko/APOLO-2/Abstracts/Espinosa.pdf. Burton, S. P., Hair, J. W., Kahnert, M., Ferrare, R. A., Hostetler, C. A., Cook, A. L., et al. (2015). Observations of the spectral dependence of linear particle depolarization ratio of aerosols using NASA Langley airborne high spectral resolution lidar. Atmos. Chem. Phys. 15, 13453–13473. doi:10.5194/acp-15- 13453-2015 Esposito, L. W. (1979). An “adding” algorithm for the Markov chain formalism for radiation transfer. Astrophys. J. 233, 661–663. Esposito, L. W., and House, L. L. (1978). Radiative transfer calculated from a Markov chain formalism. Astrophys. J. 219, 1058–1067. Burton, S. P., Hostetler, C. A., Cook, A. L., Hair, J. W., Seaman, S. T., Scola, S., et al. (2018). Calibration of a high spectral resolution lidar using a Michelson interferometer, with data examples from ORACLES. Appl. Optic. 57, 6061–6075. doi:10.1364/AO.57.006061 Markov chain formalism. Astrophys. J. 219, 1058–1067. Evans, K. F., and Stephens, G. L. (1991). A new polarized atmospheric radiative transfer model. J. Quant. Spectrosc. Radiat. Transfer. 46, 413–423. doi:10.1016/ 0022-4073(91)90043-P Burton, S. P., Stamnes, S., Liu, X., Dawson, K., Chemyakin, E., Ferrare, R., et al. (2019). High spectral resolution lidar for aerosol characterization and combined lidar + polarimeter retrieval. Available at: https://www.giss.nasa. gov/staff/mmishchenko/APOLO-2/Abstracts/Burton.pdf. Froyd, K. D., Murphy, D. M., Brock, C. A., Campuzano-Jost, P., Dibb, J. E., Jimenez, J.-L., et al. (2019). A new method to quantify mineral dust and other aerosol species from aircraft platforms using single-particle mass spectrometry. Atmos. Meas. Tech. 12, 6209–6239. doi:10.5194/amt-12-6209-2019 gov/staff/mmishchenko/APOLO-2/Abstracts/Burton.pdf. tmos. Meas. Tech. 12, 6209–6239. doi:10.5194/amt-12-6209-2019 Cairns, B., Russell, E. E., and Travis, L. D. (1999). The research scanning polarimeter: calibration and ground-based measurements. PROC SPIE. 3754, 186. doi:10.1117/12.366329 Gao, M., Zhai, P-W., Franz, B., Hu, Y., Knobelspiesse, K., Werdell, P. J., et al. (2018). Retrieval of aerosol properties and water leaving reflectance from multi- angular polarimetric measurements over coastal waters. Optic Express. 26, 8968–8989. doi:10.1364/OE.26.008968 Chaikovsky, A., Dubovik, O., Holben, B., Bril, A., Goloub, P., Tanré, D., et al. (2016). Lidar-Radiometer Inversion Code (LIRIC) for the retrieval of vertical aerosol properties from combined lidar/radiometer data: development and distribution in EARLINET. Atmos. Meas. Tech. 9, 1181–1205. doi:10.5194/amt- 9-1181-2016 GCOS (2011). ACKNOWLEDGMENTS The authors acknowledge support from National Aeronautics and Space Administration (NASA) for conducting the study presented in this paper. O. Dubovik acknowledges the support of the Labex CaPPA project, which is funded by the French National Research Agency under contract ANR-11-LABX- April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 22 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. comments on the early version of this manuscript. A majority of the computation for this project was performed at University of Oklahoma’s Supercomputing Center for Education and Research (OSCER). 0005-01. F. Xu thanks Dr. Yongxiang Hu and Dr. Xiaomei Lu from NASA Langley Research Center for providing helpful discussions on lidar remote sensing algorithm development. The authors are grateful to the reviewers for their constructive REFERENCES LIDAR: range-resolved optical remote sensing of the atmosphere. New York, NY: Springer. Winker, D. M., Couch, R. H., and McCormick, P. (1996). An overview of LITE: NASA’s lidar in-space technology experiment. Proc. IEEE. 84, 164–180. Liu, X, Stamnes, S., Ferrare, R. A., Hostetler, C., Burton, S., Chemyakin, E., et al. (2016). Development of a combined lidar–polarimeter inversion algorithm for retrieving aerosol. Abstract A54E-06, AGU. Winker, D. M., Hunt, W. H., and McGill, M. J. (2007). Initial performance assessment of CALIOP. Geophys. Res. Lett. 34, L19803. doi:10.1029/2007GL030135 Lopatin, A., Dubovik, O., Chaikovsky, A., Goloub, P., Lapyonok, T., Tanré, D., et al. (2013). Enhancement of aerosol characterization using synergy of lidar and sun-photometer coincident observations: the GARRLiC algorithm. Atmos. Meas. Tech. 6, 2065–2088. doi:10.5194/amt-6-2065-2013 Wu, L., Hasekamp, O., van Diedenhoven, B., and Cairns, B. (2015). Aerosol retrieval from multiangle, multispectral photopolarimetric measurements: importance of spectral range and angular resolution. Atmos. Meas. Tech. 8, 2625–2638. doi:10.5194/amt-8-2625-2015 McNaughton, C. S., Clarke, A. D., Kapustin, V., Shinozuka, Y., Howell, S. G., Anderson, B. E., et al. (2009). Observations of heterogeneous reactions between Asian pollution and mineral dust over the Eastern North Pacific during INTEX- B. Atmos. Chem. Phys. 9, 8283–8308. doi:10.5194/acp-9-8283-2009 Xu, F., Davis, A. B., and Diner, D. J. (2016). Markov chain formalism for generalized radiative transfer in a plane-parallel medium, accounting for polarization. J. Quant. Spectrosc. Radiat. Transfer. 184, 14–26. doi:10.1016/j.jqsrt.2016.06.004 Mishchenko, M. I., Yatskiv, Y. S., Rosenbush, V. K., and Videen, G. (2011). Polarimetric detection, characterization, and remote sensing. Cham, Switzerland: Springer. Xu, F., Davis, A. B., Suniti, S. V., Martonchik, J. V., and Diner, D. J. (2012). Linearization of Markov chain formalism for vector radiative transfer in a plane-parallel atmosphere/surface system. Appl. Optic. 51, 3491–3507. doi:10. 1364/AO.51.003491 Pfeifer, S., Müller, T., Weinhold, K., Zikova, N., Martins dos Santos, S., Marinoni, A., et al. (2016). Intercomparison of 15 aerodynamic particle size spectrometers (APS 3321): uncertainties in particle sizing and number size distribution. Atmos. Meas. Tech. 9, 1545–1551. doi:10.5194/amt-9-1545-2016 Xu, F., Davis, A. B., West, R. A., and Esposito, L. W. (2010). Markov chain formalism for polarized light transfer in plane-parallel atmospheres, with numerical comparison to the Monte Carlo method. Optic Express. 19, 946–967. doi:10.1364/OE.19.000946 Puthukkudy, A., Martins, J. V., Remer, L. A., Xu, X., Dubovik, O., Litvinov, P., et al. (2020). Retrieval of aerosol properties from airborne hyper-angular rainbow polarimeter (AirHARP) observations during ACEPOL 2017. Atmos. Meas. Tech. 13, 5207–5236. REFERENCES doi:10.5194/amt-13-5207-2020 Xu, F., Davis, A. B., West, R. A., Martonchik, J. V., and Diner, D. J. (2011). Markov chain formalism for vector radiative transfer in a plane-parallel atmosphere overlying a polarizing surface. Opt. Lett. 36, 2083–2085. doi:10.1364/OL.36. 002083 Redemann, J., Wood, R., Zuidema, P., Doherty, S. J., Luna, B., LeBlanc, S. E., et al. (2021). An overview of the ORACLES (observations of aerosols above clouds and their interactions) project: aerosol-cloud-radiation interactions in the Southeast Atlantic basin. Atmos. Chem. Phys. 21, 1507–1563. doi:10.5194/ acp-2020-449 Xu, F., Diner, D. J., Dubovik, O., and Schechner, Y. (2019). A correlated multi-pixel inversion approach for aerosol remote sensing. Rem. Sens. 11, 746. doi:10.3390/ rs11070746 Reid, J. S., Jonsson, H. H., Maring, H. B., Smirnov, A., Savoie, D. L., Cliff, S. S., et al. (2003). Comparison of size and morphological measurements of coarse mode dust particles from Africa. J. Geophys. Res. 108 (D19), 8593. doi:10.1029/ 2002JD002485 Xu, F., van Harten, G., Diner, D. J., Kalashnikova, O. V., Seidel, F. C., Bruegge, C. J., et al. (2017). Coupled retrieval of aerosol properties and land surface reflection using the Airborne Multiangle SpectroPolarimetric Imager. J. Geophys. Res. Atmos. 122, 7004–7026. doi:10.1002/2017JD026776 Remer, L. A., Knobelspiesse, K. D., Zhai, P.-W., Xu, F., Kalashnikova, O., Chowdhary, J., et al. (2019). Retrieving aerosol characteristics from the PACE mission, Part 2: multi-angle and polarimetry. Front. Environ. Sci. 7, 94. doi:10.3389/fenvs.2019.00094 Conflict of Interest: The authors declare that the research was conducted in the absence of any commercial or financial relationships that could be construed as a potential conflict of interest. Conflict of Interest: The authors declare that the research was conducted in the absence of any commercial or financial relationships that could be construed as a potential conflict of interest. Rogers, R. R., Hair, J. W., Hostetler, C. A., Ferrare, R. A., Obland, M. D., Cook, A. L., et al. (2009). NASA LaRC airborne high spectral resolution lidar aerosol measurements during MILAGRO: observations and validation. Atmos. Chem. Phys. 9, 4811–4826. doi:10.5194/acp-9-4811-2009 Copyright © 2021 United States Government as represented by the Administrator of the National Aeronautics and Space Administration, Dr. Xu, Dr. Gao, Dr. Redemann, Dr. Flynn, and Dr. Dubovik. Shipley, S. T., Tracy, D. H., Eloranta, E. W., Trauger, J. T., Sroga, J. T., Roesler, F. L., et al. (1983). High spectral resolution lidar to measure optical-scattering properties of atmospheric aerosols .1. theory and Instrumentation. Appl. Optic. 22, 3716–3724. REFERENCES doi:10.1029/2000JD900282 Dubovik, O., Lapyonok, T., Litvinov, P., Herman, M., Fuertes, D., Ducos, F., et al. (2014). GRASP: a versatile algorithm for characterizing the atmosphere. SPIE Newsroom 2014. Knobelspiesse, K., Cairns, B., Mishchenko, M., Chowdhary, J., Tsigaridis, K., van Diedenhoven, B., et al. (2012). Analysis of fine-mode aerosol retrieval capabilities by different passive remote sensing instrument designs. Optic Express. 20, 21457–21484. doi:10.1364/OE.20.021457 Dubovik, O., Li, Z., Mishchenko, M. I., Tanré, D., Karol, Y., Bojkov, B., et al. (2019). Polarimetric remote sensing of atmospheric aerosols: instruments, methodologies, results, and perspectives. J. Quant. Spectrosc. Radiat. Transfer. 224, 474–511. doi:10.1016/j.jqsrt.2018.11.024 Knobelspiesse, K., Cairns, B., Ottaviani, M., Ferrare, R., Hair, J., Hostetler, C., et al. (2011). Combined retrievals of boreal forest fire aerosol properties with a polarimeter and lidar. Atmos. Chem. Phys. 11, 7045–7067. doi:10.5194/acp-11- 7045-2011 Dubovik, O. (2004). “Optimization of numerical inversion in photopolarimetric remote sensing,” in Photopolarimetry in remote sensing. Editors G. Videen, Y. Yatskiv, and M. I. Mishchenko (Dordrecht, The Netherlands: Kluwer Academic Publishers), 65–106. Koepke, P. (1984). Effective reflectance of oceanic whitecaps. Appl. Optic. 23, 1816–1824. LeBlanc, S. E., Redemann, J., Flynn, C., Pistone, K., Kacenelenbogen, M., Segal- Rosenheimer, M., et al. (2020). Above-cloud aerosol optical depth from airborne observations in the southeast Atlantic. Atmos. Chem. Phys. 20, 1565–1590. doi:10.5194/acp-20-1565-2020 Dubovik, O., Sinyuk, A., Lapyonok, T., Holben, B. N., Mishchenko, M. I., Yang, P., et al. (2006). Application of spheroid models to account for aerosol particle nonsphericity in remote sensing of desert dust. J. Geophys. Res. 111, D11208. doi:10.1029/2005JD006619 Lee, Z. P., Hu, C., Shang, S. L., Du, K. P., Lewis, M., Arnone, R., et al. (2013). Penetration of UV-Visible solar light in the global oceans: insights from ocean color remote sensing. J. Geophys. Res. 118, 4241–4255. doi:10.1002/ jgrc.20308 Dunagan, S. E., Johnson, R., Zavaleta, J., Russell, P. B., Schmid, B., Flynn, C., et al. (2013). Spectrometer for sky-scanning sun-tracking atmospheric research (4STAR): instrument technology. Rem. Sens. 5, 3872–3895. doi:10.3390/rs5083872 April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 23 Xu et al. Combined Lidar-Polarimeter Aerosol Inversion Vaughan, M. (2004). Algorithm for retrieving lidar ratios at 1064 nm fromspace- based lidar backscatter data. Proc. SPIE. 5240, 104–115. doi:10.1117/12.510770 Legrand, M., Dubovik, O., Lapyonok, T., and Derimian, Y. (2014). Accounting for particle non-sphericity in modeling mineral dust radiative properties in the thermal infrared. J. Quant. Spectrosc. Radiat. Transfer. 149, 219–240. doi:10. 1016/j.jqsrt.2014.07.014 Weitkamp, C. (2005). Frontiers in Remote Sensing | www.frontiersin.org REFERENCES doi:10.1364/AO.22.003716 At least a portion of this work is authored by W. Reed Espinosa, Arlindo M. da Silva, Snorre Stamnes, Sharon P. Burton, Xu Liu, Richard Ferrare and Brian Cairns on behalf of the U.S. Government and, as regards Dr. Espinosa, Dr. da Silva, Dr. Stamnes, Dr. Burton, Dr. Liu, Dr. Farrare, Dr. Cairns, U.S. copyright protection does not attach to separable portions of a Work authored solely by U.S. Government employees as part of their official duties. The U.S. Government is the owner of foreign copyrights in such separable portions of the Work and is a joint owner (with any non-U.S. Government author) of U.S. and foreign copyrights that may be asserted in inseparable portions the Work. The U.S. Government retains the right to use, reproduce, distribute, create derivative works, perform and display portions of the Work authored solely or co-authored by a U.S. Government employee. Non-U.S copyrights also apply. This is an open- access article distributed under the terms of the Creative Commons Attribution License (CC BY). The use, distribution or reproduction in other forums is permitted, provided the original author(s) and the copyright owner(s) are credited and that the original publication in this journal is cited, in accordance with accepted academic practice. No use, distribution or reproduction is permitted which does not comply with these terms. Stamnes, S., Hostetler, C., Ferrare, R., Burton, S., Liu, X., Hair, J., et al. (2018). Simultaneous polarimeter retrievals of microphysical aerosol and ocean color parameters from the “MAPP” algorithm with comparison to high-spectral- resolution lidar aerosol and ocean products. Appl. Optic. 57, 2394–2413. doi:10. 1364/AO.57.002394 Stokes, G. G. (1862). On the intensity of the light reflected from or transmitted through a pile of plates. Proc. Roy. Soc. Lond. 11, 545–556. IPCC (2013). Climate change 2013: the physical science basis. Contribution of working group I to the fifth assessment report of the intergovernmental panel on climate change. New York, NY: Cambridge. Uin, J. (2016). Ultra-high sensitivity aerosol spectrometer (UHSAS) instrument handbook. ARM Tech. Rep. DOE/SC-ARM-TR-163, 17. van de Hulst, H. C. (1963). A new look at multiple scattering. Goddard Institute for Space Studies. Tech. Rep.NASA TM-I03044. van de Hulst, H. C. (1981). Light scattering by small particles. New York, NY: Dover. April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 24
https://openalex.org/W4225331161
https://eprints.ncl.ac.uk/fulltext.aspx?url=282910/AF416317-1FB9-492F-97B1-7D4EED4BAA04.pdf&pub_id=282910
English
null
Multi-Organism Composites: Combined Growth Potential of Mycelium and Bacterial Cellulose
Biomimetics
2,022
cc-by
9,075
Citation: Hoenerloh, A.; Ozkan, D.; Scott, J. Multi-Organism Composites: Combined Growth Potential of Mycelium and Bacterial Cellulose. Biomimetics 2022, 7, 55. https:// doi.org/10.3390/biomimetics7020055 biomimetics biomimetics biomimetics biomimetics Aileen Hoenerloh *, Dilan Ozkan and Jane Scott Aileen Hoenerloh *, Dilan Ozkan and Jane Scott Hub for Biotechnology in the Built Environment, School of Architecture, Planning and Landscape, Newcastle University, Newcastle upon Tyne NE1 7RU, UK; d.ozkan2@ncl.ac.uk (D.O.); jane.scott@newcastle.ac.uk (J.S.) * Correspondence: a.t.hoenerloh2@ncl.ac.uk Abstract: The demand for sustainable materials derived from renewable resources has led to significant research exploring the performance and functionality of biomaterials such as mycelium and bacterial cellulose. Whilst the growing conditions and performance of individual biomaterials are understood, to achieve additional new and enhanced functionality, an understanding of how biomaterials can be used together as composites and hybrids is required. This paper investigates the compatibility of mycelium and bacterial cellulose as two biomaterials with different qualities for the development of a large-scale biohybrid structure, the BioKnit prototype. Their compatibility was tested through preliminary design experiments and a material tinkering approach. The findings demonstrate that under optimal conditions mycelium and bacterial cellulose can grow in each other’s presence and create composites with an extensive array of functions. However, there is a need to develop further fabrication settings that help to maintain optimal growing conditions and nutrition levels, whilst eliminating problems such as contamination and competition during growth. Keywords: mycelium; bacterial cellulose; biocompatibility; knitted fabric; material tinkering 1. Introduction The growing interest in the use of living materials in the design field is motivated by the desire to create a renewable resource of sustainable materials that is biodegradable and grown using waste materials. This approach offers the potential to produce a low- cost alternative to commercial synthetic materials whilst developing a new spectrum of functional properties [1]. For instance, while fungi as mycelium composites can be used as a structural bulk material as in the MycoTree, MycoCreate-2, and El Monolito Micelio projects [2–5], bacterial cellulose shares many properties with plant cellulose and is already successfully used in the medical field [6] and in fashion design projects [7,8]. y g p j Whilst current research has focused on optimising the growth and performance of individual microorganisms for design applications, our research considers the potential to combine different microbial systems in order to achieve new functional possibilities. For ex- ample, can multi-microbial systems produce stronger, more durable biomaterials whilst transforming the look and feel of materials for architecture? Using biological materials at different stages of their lifecycle for different purposes requires developing new methods of fabrication that allow the designers to reveal their various features. BioKnit is a prototype designed and built in the Hub for Biotechnology in the Built Environment (HBBE) under the Living Construction theme [9]. It focuses on bringing mycelium and bacterial cellulose together with textiles using knitting technologies. Knitted fabric, the first component of the prototype, acts as a scaffold and guides, enhances, and restricts the organism as it grows or attaches to it. Mycelium in a composite form, the second component, acts as a bulk material that gives sufficient compressive strength to the knitted structure to enable the production of a 1.8 m high, free-standing vault. Bacterial cellulose (BC) is the third component and adds a layer of complexity to the system by adding a new optical and Publisher’s Note: MDPI stays neutral with regard to jurisdictional claims in published maps and institutional affil- iations. Copyright: © 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article distributed under the terms and conditions of the Creative Commons Attribution (CC BY) license (https:// creativecommons.org/licenses/by/ 4.0/). https://www.mdpi.com/journal/biomimetics Biomimetics 2022, 7, 55. https://doi.org/10.3390/biomimetics7020055 Biomimetics 2022, 7, 55 2 of 11 tactile quality. BC is used as a surface treatment to coat the knit/mycelium composite and as a tactile skin, self-adhered to the mycelium/knit composite. 2.1. Mycelium Composite Preparation Mycelium grown in the experiments was inoculated with a mixed substrate (10 g of strawbale, 10 g of wood shavings, 10 g of coffee grounds), which was sterilized in an autoclave at 121 ◦C for 15 min. The sterile mixture was seeded with 10 g of oyster mush- room spawn from GroCycle, UK and kept in sealed plastic boxes (100 × 100 × 30 mm), in the dark, at ambient temperature. After three weeks, the samples were taken out of the boxes and kept in three different forms: oven-dried, air-dried, and living. The first set was air-dried for 8 days and then oven-dried (for 2 h under 60 ◦C). The second set was air-dried for 2 weeks at room temperature. Finally, the third set of tiles were kept alive in a closed container. These three sets of tiles were then integrated in the bacterial cellulose experiments. 1. Introduction Mycelium and BC, as two commonly used biomaterials in the design field, were chosen as organisms since cellulose can be used to cultivate mycelium [9]. It proves that they can establish a relationship, and one of the organisms could be used to support the other. Fungi mainly consist of two parts: the fruiting body/mushroom and the mycelium/roots. The mycelium is of general interest as a biomaterial due to its ability to rapidly grow on various forms of waste as a composite, creating a bulk building material [5]. There are numerous studies on the properties of mycelium composite materials grown on agricultural waste, such as the works of Appels et al. [10] and Jones et al. [5]. Another approach was taken by Elsacker et al. by growing BC to be utilized as a nutritious substrate additive with the focus being on improving the mycelium growth and incorporating the bio-organism in a dried form [11]. BC is a biopolymer that can be grown as a pure culture from a single bacterial strain in sterile lab conditions or with a symbiotic culture of bacteria and yeast (SCOBY), which is commonly used to create fermented kombucha tea in household kitchens. Properties such as fine crystalline structures, biodegradability and biocompatibility, good water-holding capacity, and chemical stability can explain the growing interest in BC as a biomaterial [6]. Due to the large-scale nature of the BioKnit prototype, the more resilient kombucha method was chosen for these experiments. This paper introduces the initial design experiments that were conducted during the prototyping process and asks the following questions: (1) how two organisms grow together and how they influence each other, (2) what is the potential of a knit scaffold as a technique to assemble multiple living materials through growth, and (3) how can the challenge of con- tamination due to varying growth requirements be addressed? These questions are tested to develop protocols for multi-kingdom textile composites through a methodology based on explorative experimentation using material tinkering [12] and based within established biomaterial protocols rather than a biomimetic investigation translating functional models from nature. Each organism’s behavior was observed in an iterative array of experiments. 2.2. Bacterial Cellulose Preparation All BC was grown using the kombucha technique with a tea-based medium and a piece of SCOBY (symbiotic culture of bacteria and yeast) purchased from “Happy Kombucha”. A new SCOBY was used for each experiment. The medium was prepared in 3-litre batches with tap water, pasteurized apple cider vinegar (62.5 mL/L), white refined sugar (75 g/L), and black tea (2 g/L) (Tetley Black Tea bags). To prepare the medium, the water was brought to boiling point before adding the tea bags to infuse for 15 min. The vinegar and sugar were added, then stirred until all the sugar had dissolved. The addition of vinegar lowers the pH from 4.9 to 3.5 (±0.1). The medium was cooled down to <30 ◦C before being used. The BC in experiments 1–3 was grown in a plastic box (110 × 190 × 330 mm) with 2.2 L Biomimetics 2022, 7, 55 3 of 11 medium, covered with a cotton cloth. Experiment 4 was grown in a (360 × 26 × 140 mm) box with the medium quantity adjusted throughout. The associations of BC and mycelium in different metabolic stages were tested in four experiments. Mycelium composites were shaped as tiles, and BC was oriented flat due to the necessity in its growth conditions. medium, covered with a cotton cloth. Experiment 4 was grown in a (360 × 26 × 140 mm) box with the medium quantity adjusted throughout. The associations of BC and mycelium in different metabolic stages were tested in four experiments. Mycelium composites were shaped as tiles, and BC was oriented flat due to the necessity in its growth conditions. 2.3. The Experimental Setting The experiments were do T2 with 80 mm lens) and micro 2.4. Experiment 1 (Oven-Dried Mycelium with BC) y p y p tiles towards the center of the container. This setup w f 14 d After preparing the kombucha culture, a fresh SCOBY was placed in the medium, as seen in Figure 1. Then, the first set of oven-dried mycelium tiles were positioned on the surface. It was not necessary to add support and keep the mycelium at the liquid surface, as the hydrophobicity of it kept the tiles afloat. The SCOBY was positioned in between the tiles towards the center of the container. This setup was left in a static condition to ferment for 14 days. for 14 days. To harvest the composite material of BC and mycelium of experiments 1–3, the growth was removed from the liquid medium and washed with antibacterial dish soap and cold water after 14 days of static fermenting. While the BC was thoroughly kneaded with the soap, care was taken to not wet the mycelium or introduce stress to the joint locations of the BC to the tiles. Figure 1. The setup for experiments 1, 2, and 3 (image credit: authors). Figure 1. The setup for experiments 1, 2, and 3 (image credit: authors). Figure 1. The setup for experiments 1, 2, and 3 (image credit: authors). Figure 1. The setup for experiments 1, 2, and 3 (image credit: authors). 2.5. Experiment 2–3 (Air-Dried Mycelium with BC and Living Mycelium with BC) For experiments 2 and 3, the hydrophobicity of the air-dried and living mycelium was reduced and not sufficient to keep the tiles afloat; therefore, the placement of the tiles in the liquid medium was adjusted. Two small glass jars were used to support each tile: To harvest the composite material of BC and mycelium of experiments 1–3, the growth was removed from the liquid medium and washed with antibacterial dish soap and cold water after 14 days of static fermenting. While the BC was thoroughly kneaded with the soap, care was taken to not wet the mycelium or introduce stress to the joint locations of the BC to the tiles. 2.3. The Experimental Setting The experiments were do T2 with 80 mm lens) and micro The associations of BC and mycelium in different metabolic stages were tested in four experiments. Mycelium composites were shaped as tiles, and BC was oriented flat due to the necessity in its growth conditions. ) py ( g p g ) The images from photography and microscopy captured the details, smaller features, and non-measurable characteristics such as the surface texture and BC attachment. They gen- erated qualitative data for this study. The experiments were documented using photography (iPhone SE and Fuji film X-T2 with 80 mm lens) and microscopy (Dino-Lite digital microscope at 70× magnification). The images from photography and microscopy captured the details, smaller features, and non-measurable characteristics such as the surface texture and BC attachment. They gener- ated qualitative data for this study. In experiments 1, 2, and 3, the compatibility of BC (secondary organism) growing around already-established mycelium (primary organism) was explored. In experiment 4, the compatibility of mycelium (secondary organism) growing around already-established BC (primary organism) was explored. In each experiment, the success of the growth of the secondary organism was monitored alongside the contamination that occurred during the q y In experiments 1, 2, and 3, the compatibility of BC (secondary organism) growing around already-established mycelium (primary organism) was explored. In experiment 4, the compatibility of mycelium (secondary organism) growing around already-established BC (primary organism) was explored. In each experiment, the success of the growth of the secondary organism was monitored alongside the contamination that occurred during the growth stage. growth stage. 2.4. Experiment 1 (Oven-Dried Mycelium with BC) After preparing the kombucha culture, a fresh SCOBY was placed in the medium, as seen in Figure 1. Then, the first set of oven-dried mycelium tiles were positioned on the surface. It was not necessary to add support and keep the mycelium at the liquid surface, as the hydrophobicity of it kept the tiles afloat The SCOBY was positioned in between the p p y g g y was explored; however, it was also important to understand whethe ld b d i h li i d i 2.6. Experiment 4 (BC with Living Mycelium inside Soft Scaffold) could be reversed, with mycelium growing as a secondary organism alongside established BC. This was tested in experiment 4. For the mycelium to grow next ide wet bacterial cellulose, a support that can hold and contain the substrate is In line with the BioKnit background of this research, a knitted pocket (linen, cir- in, 8 gg Dubied) was used to contain the mycelium substrate. To avoid killing the in the BC, the mycelium substrate was autoclaved and pre-inoculated for 5–10 multaneously, the BC was grown on the soft scaffold. To stop the BC from merging es of the pocket together, one side was placed on top of an acrylic scaffold inside bucha medium to be held on the air–liquid interface while the other side was p on the corners with acrylic string (see Figure 3a). Fresh medium was added ath the growing pellicle every 3 days to compensate the evaporated medium and air–liquid interface stable. second step of the experiment involved harvesting the BC knit composite and e pocket with the pre-inoculated mycelium substrate (see Figures 3b and 4). The was sewn shut using cotton string, piercing through the layer of BC and the knit. In experiments 1–3, the compatibility of BC growing around already-established mycelium was explored; however, it was also important to understand whether the order of growth could be reversed, with mycelium growing as a secondary organism alongside already-established BC. This was tested in experiment 4. For the mycelium to grow next to or inside wet bacterial cellulose, a support that can hold and contain the substrate is needed. In line with the BioKnit background of this research, a knitted pocket (linen, circular plain, 8 gg Dubied) was used to contain the mycelium substrate. To avoid killing the bacteria in the BC, the mycelium substrate was autoclaved and pre-inoculated for 5–10 days. Simultaneously, the BC was grown on the soft scaffold. To stop the BC from merging both sides of the pocket together, one side was placed on top of an acrylic scaffold inside the kombucha medium to be held on the air–liquid interface while the other side was pulled up on the corners with acrylic string (see Figure 3a). Fresh medium was added underneath the growing pellicle every 3 days to compensate the evaporated medium and keep the air–liquid interface stable. p p y g g y was explored; however, it was also important to understand whethe ld b d i h li i d i 2.6. Experiment 4 (BC with Living Mycelium inside Soft Scaffold) VIEW 5 of 11 the mycelium to breathe, the excess BC was folded underneath the pocket on the ch had the BC growth on it (total of 9 BC layers), leaving one knitted side exposed 4b). This composite was placed inside a plastic box with lid, BC side facing down, to grow for 12 days. eriment 4 required two separate harvesting processes. First, the BC was har- fter 14 days of static growth and washed as described above. The top side of the pocket was also cleaned with dish soap to remove any media that had been drawn ugh the fibers. The fabric was thoroughly rinsed to eliminate the risk of soap resi- dering the mycelium growth. The second harvest stage was after 12 days of my- growth, where the composite material was removed from the plastic box and ecause contamination occurred, the composite was dried in an industrial oven at 8 h. oughout the 14 days of BC growth, the formation of air bubbles was handled as evious experiments and pushed out to the sides. (a) (b) Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and BC folded in 9 layers underneath (image credit: authors). Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and BC folded in 9 layers underneath (image credit: authors). ed underneath the pocket on the eaving one knitted side exposed x with lid, BC side facing down, ocesses. First, the BC was har- ribed above. The top side of the any media that had been drawn o eliminate the risk of soap resi- stage was after 12 days of my- oved from the plastic box and as dried in an industrial oven at n of air bubbles was handled as (b) the mycelium to breathe, the excess BC was fold h had the BC growth on it (total of 9 BC layers), b). This composite was placed inside a plastic bo o grow for 12 days. riment 4 required two separate harvesting p er 14 days of static growth and washed as des ocket was also cleaned with dish soap to remove gh the fibers. 2.5. Experiment 2–3 (Air-Dried Mycelium with BC and Living Mycelium with BC) For experiments 2 and 3, the hydrophobicity of the air-dried and living mycelium was reduced and not sufficient to keep the tiles afloat; therefore, the placement of the tiles in the liquid medium was adjusted. Two small glass jars were used to support each tile: one upside down and submerged in the liquid to place the tile on (see Figure 2) and the other one placed on top to weigh down the otherwise floating tile. The jar was placed with the opening facing down to allow ventilation and avoid the growth of mold underneath. Biomimetics 2022, 7, 55 4 of 11 The quantity of medium was adjusted to cover the bottom half of the tiles, and the SCOBY was placed in between the tiles in the center of the box. ntity of medium was adjusted to cover the bottom half of the tiles, and the SCOBY ced in between the tiles in the center of the box. e harvesting process for these experiments was the same as for experiment 1. The quantity of medium was adjusted to cover the bottom half of the tiles, and the SCOBY was placed in between the tiles in the center of the box. ntity of medium was adjusted to cover the bottom half of the tiles, and the SCOBY ced in between the tiles in the center of the box. harvesting process for these experiments was the same as for experiment 1. (a) (b) (a) Setup of experiments 2 and 3 with (from right to left) air-dried mycelium, living myce- d a control culture. (b) Closeup of the positioning of the tiles within the liquid using jars redit: authors). Figure 2. (a) Setup of experiments 2 and 3 with (from right to left) air-dried mycelium, living mycelium, and a control culture. (b) Closeup of the positioning of the tiles within the liquid using jars (image credit: authors). (b) (a) (a) (b) (a) Setup of experiments 2 and 3 with (from right to left) air-dried mycelium, living myce- a control culture. (b) Closeup of the positioning of the tiles within the liquid using jars edit: authors). Figure 2. (a) Setup of experiments 2 and 3 with (from right to left) air-dried mycelium, living mycelium, and a control culture. (b) Closeup of the positioning of the tiles within the liquid using jars (image credit: authors). 2.5. Experiment 2–3 (Air-Dried Mycelium with BC and Living Mycelium with BC) iment 4 (BC with Living Mycelium Inside Soft Scaffold) xperiments 1–3 the compatibility of BC growing around already-established my- The harvesting process for these experiments was the same as for experiment 1. 3.1. Results of Experim In experiment o 2.7. Drying Process In experiment one, good BC growth occurred; however, the resultant growth was uneven across the surface. Growth was measured on day 14. The BC thickness ranged from 12 mm at the outer edges of the cellulose to 2 mm around the SCOBY (where a bubble had formed). The thicker areas of the pellicle showed good connection to the mycelium tile and did not detach while handling; however, the 2 mm BC ripped during the harvest- ing process. After drying, the tiles were firmly integrated into the pellicle, and the com- posite could be held up from the tiles without the cellulose detaching or ripping (Figure 5). The drying process for experiment 4 is described above. For experiments 1–2, the BC was washed, padded dry using paper towels, and placed on a clean bamboo cutting to dry uncovered at 21 ◦C. The composite was placed with the BC side on the tiles facing down. After 48 h, the composite was turned over, exposing the BC on the tiles. After further 48 h, the BC had turned translucent and fully dried. For experiment 3, the samples that showed signs of mold contamination were not dried on a bamboo board but dried in an industrial oven at 60 ◦C for 4–6 h. p p y g g y was explored; however, it was also important to understand whethe ld b d i h li i d i 2.6. Experiment 4 (BC with Living Mycelium inside Soft Scaffold) This composite was placed inside a plastic box with lid, BC side facing down, and left to grow for 12 days. (a) (b) Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and BC folded in 9 layers underneath (image credit: authors) Figure 4. The setup for experiment 4 (image credit: authors). Figure 4. The setup for experiment 4 (image credit: authors). Figure 4. The setup for experiment 4 (image credit: authors). Figure 4. The setup for experiment 4 (image credit: authors). 2.7. Drying Process The drying process for experiment 4 is described above. For experiments 1–2, the BC was washed, padded dry using paper towels, and placed on a clean bamboo cutting to dry uncovered at 21 °C. The composite was placed with the BC side on the tiles facing down. After 48 h, the composite was turned over, exposing the BC on the tiles. After fur- ther 48 h, the BC had turned translucent and fully dried. For experiment 3, the samples that showed signs of mold contamination were not dried on a bamboo board but dried in an industrial oven at 60 °C for 4–6 h. Experiment 4 required two separate harvesting processes. First, the BC was harvested after 14 days of static growth and washed as described above. The top side of the knit- ted pocket was also cleaned with dish soap to remove any media that had been drawn up through the fibers. The fabric was thoroughly rinsed to eliminate the risk of soap residue hindering the mycelium growth. The second harvest stage was after 12 days of mycelium growth, where the composite material was removed from the plastic box and dried. Because contamination occurred, the composite was dried in an industrial oven at 50 ◦C for 8 h. 3. Results Throughout the 14 days of BC growth, the formation of air bubbles was handled as in the previous experiments and pushed out to the sides. The ove liquid mediu 3. Results q y , 3.1. Results of Experiment 1 (Oven-Dried Mycelium with BC) p p y g g y was explored; however, it was also important to understand whethe ld b d i h li i d i 2.6. Experiment 4 (BC with Living Mycelium inside Soft Scaffold) The fabric was thoroughly rinsed ering the mycelium growth. The second harves owth, where the composite material was rem cause contamination occurred, the composite w 8 h. ughout the 14 days of BC growth the formatio (a) ocesses. First, the BC was har- ribed above. The top side of the any media that had been drawn o eliminate the risk of soap resi- stage was after 12 days of my- oved from the plastic box and as dried in an industrial oven at n of air bubbles was handled as (b) h (b) f BC (a) oughout the 14 days of BC growth, the formation of air bubbles was handled as evious experiments and pushed out to the sides. Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and BC folded in 9 layers underneath (image credit: authors). Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and BC folded in 9 layers underneath (image credit: authors). The second step of the experiment involved harvesting the BC knit composite and filling the pocket with the pre-inoculated mycelium substrate (see Figures 3b and 4). The pocket was sewn shut using cotton string, piercing through the layer of BC and Biomimetics 2022, 7, 55 5 of 11 the knit. To allow the mycelium to breathe, the excess BC was folded underneath the pocket on the side which had the BC growth on it (total of 9 BC layers), leaving one knitted side exposed (Figure 3b). This composite was placed inside a plastic box with lid, BC side facing down, and left to grow for 12 days. (a) (b) Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and BC folded in 9 layers underneath (image credit: authors) the knit. To allow the mycelium to breathe, the excess BC was folded underneath the pocket on the side which had the BC growth on it (total of 9 BC layers), leaving one knitted side exposed (Figure 3b). q y , 3.1. Results of Experiment 1 (Oven-Dried Mycelium with BC) In experiment one, good BC growth occurred; however, the resultant growth was uneven across the surface. Growth was measured on day 14. The BC thickness ranged from 12 mm at the outer edges of the cellulose to 2 mm around the SCOBY (where a bubble had formed). The thicker areas of the pellicle showed good connection to the mycelium tile and did not detach while handling; however, the 2 mm BC ripped during the harvesting process. After drying, the tiles were firmly integrated into the pellicle, and the composite could be held up from the tiles without the cellulose detaching or ripping (Figure 5). Biomimetics 2022, 7, 55 6 of 11 g (a) (b) Figure 5. (a) Dried BC around oven-dried mycelium tile under the Dino-Lite digital microscope. (b) Large BC sheet dried around mycelium tile (image credit: authors). Figure 5. (a) Dried BC around oven-dried mycelium tile under the Dino-Lite digital microscope. (b) Large BC sheet dried around mycelium tile (image credit: authors). (b) (a) (b) (a) Figure 5. (a) Dried BC around oven-dried mycelium tile under the Dino-Lite digital microscope. (b) Large BC sheet dried around mycelium tile (image credit: authors). Figure 5. (a) Dried BC around oven-dried mycelium tile under the Dino-Lite digital microscope. (b) Large BC sheet dried around mycelium tile (image credit: authors). 3.2. Results of Experiment 2 (Air-Dried Mycelium with BC) In experiment two, good BC growth occurred producing a more even pellicle after 14 days of growth. Growth was measured on day six and day 14. On day six, there was a visible layer of cellulose on the surface that measured 2–3 mm. By day 14, growth meas- ured between 10–13 mm across the whole surface. During the growing stage, there was a very weak attachment between the mycelium and the BC. This was clear during harvest because the BC fully detached from the mycelium. Despite this, during drying the BC dh d t th li Th tt h t i t i d ith h h dli The oven-dried tiles were very hydrophobic and initially moved freely within the liquid medium. On day three of the fermentation, a thin and clear layer of cellulose had grown on the surface, which stopped the mycelium tiles from moving around. In the center of the pellicle, a large bubble of gas built up where the SCOBY had been positioned during the fermentation. q y , 3.1. Results of Experiment 1 (Oven-Dried Mycelium with BC) This bubble lifted the cellulose off the liquid and stopped the growth of the cellulose at this area after less than 7 days. One of the tiles was also lifted into an angled position. adhered to the mycelium. The attachment was maintained even with heavy handling. During BC growth, many small bubbles formed underneath the pellicle. To maintain growth, the bubbles were gently pushed to the side of the pellicle using sterile hands. This was continued each day until day 10, when the stiffness of the pellicle prevented inter- vention. Cellulose growth was thicker around dried fruiting bodies (the side of the myce- lium tiles). This formed a patchy appearance overall (Figure 6a). In addition, the BC had formed a skin-like film under the submerged half of the tile, even without direct access to The formation of CO2 during the fermentation is a normal occurrence during the kombucha method; however, the visible amount of trapped CO2 produced in this experi- ment was greater than in a control setup without mycelium present. The gas bubble was problematic because it limited BC growth in particular areas and disturbed the position of one of the mycelium tiles. This led to a poor connection between the BC and mycelium close to the gas bubble. oxygen (Figure 6b). This indicates that the mycelium can prov gen to the bacteria 3.2. Results of Experiment 2 (Air-Dried Mycelium with BC) gen to the bacteria. In experiment two, good BC growth occurred producing a more even pellicle after 14 days of growth. Growth was measured on day six and day 14. On day six, there was a visible layer of cellulose on the surface that measured 2–3 mm. By day 14, growth measured between 10–13 mm across the whole surface. During the growing stage, there was a very weak attachment between the mycelium and the BC. This was clear during harvest because the BC fully detached from the mycelium. Despite this, during drying the BC adhered to the mycelium. The attachment was maintained even with heavy handling. (a) (b) During BC growth, many small bubbles formed underneath the pellicle. To maintain growth, the bubbles were gently pushed to the side of the pellicle using sterile hands. This was continued each day until day 10, when the stiffness of the pellicle prevented intervention. Cellulose growth was thicker around dried fruiting bodies (the side of the mycelium tiles). This formed a patchy appearance overall (Figure 6a). In addition, the BC had formed a skin-like film under the submerged half of the tile, even without direct access to oxygen (Figure 6b). This indicates that the mycelium can provide a small amount of oxygen to the bacteria. 3.3. Results of Experiment 3 (Living Mycelium with BC) In experiment three, BC growth was changed by the presence of a living mycelium. Growth was measured on day six and day 14. On day six, the pellicle thickness was 2–3 mm in line with previous results. However, by day 14 the pellicle had only grown to a thickness of between 3–5 mm. BC growth was observed across the mycelium tile in gaps within the material, and this led to good attachment during the growing stage. Due to contamination, this sample was oven-dried, and this drying process also created the strongest connection between the mycelium and the BC. 7 of 11 Biomimetics 2022, 7, 55 en to the bacteria. (a) (b) Figure 6. (a) Thicker BC growth around dried fruiting body. (b) BC skin around submerged half of mycelium tile after harvest (image credit: authors). (b) (a) (b) (a) Figure 6. (a) Thicker BC growth around dried fruiting body. (b) BC skin around submerged half of mycelium tile after harvest (image credit: authors). Aeration bubbles again appeared underneath the pellicle; however, these were much smaller and greater in number, leaving a foam-like appearance. Larger bubbles also formed, and these were pushed to the side. The living mycelium tiles had fruiting bodies that grew out on the side and were either hovering just above or within the air–liquid interface of the medium. The BC grew around the fruiting bodies and enclosed them. The mushrooms sitting half-submerged on the surface began to dry out and had shrunk in size by day seven, but the connection to the BC remained. Unlike the mycelium tiles in experiments one and two, these tiles were not hydrophobic, and they soaked up the liquid medium. During the experiment, the top of the tiles also became submerged. Where the top of the tile soaked up the medium, some BC growth occurred. Around the side of the tiles, the BC growth was uneven, with thinner parts forming the connection to the mycelium (2–3 mm) and the outside edges and corners being the thickest parts. As in the previous experiment, the cellulose growing around bunches of primordia formations was thicker. During the first 7 days, the area of the tile that was covered with the upside-down jar continued to grow white patchy mycelium. This growth slowed down and eventually stopped once the jars were removed. 3.3. Results of Experiment 3 (Living Mycelium with BC) Contamination in the form of green mold occurred on the top surface of one of the tiles where the medium had been soaked up. This meant that the composite could not be air-dried after harvest but needed to be oven-dried at 100 ◦C for 1 h. Compared to the air-dried versions, the BC was darker in color and significantly more brittle. During the harvest, the tiles soaked up the washing water and needed to be handled very carefully to not fall apart. The BC did not hold the tile substrate in shape. Figure 7 shows a visual comparison of experiments one, two, and three in a hydrated and dried state. 3.4. Results of Experiment 4 (BC with Living Mycelium inside Soft Scaffold) Comparison of experiments 1–3 in the order oven-dried, air-dried, and living from top to bottom in (a) wet state and (b) dried state (image credit: authors). g g g g y , g of contamination in the form of mold; therefore, the composite was oven-dried (see Figure 8). The connection between the mycelium and BC as a dried composite was strong, with h f h f b i l l i ibl h h h BC (a) (b) Figure 8. (a) Mycelium growth on the knitted pocket on day 7. (b) Mycelium growth on the knitted pocket on day 14 (image credit: authors). Figure 8. (a) Mycelium growth on the knitted pocket on day 7. (b) Mycelium growth on the knitted pocket on day 14 (image credit: authors). (b) (a) (b) (a) Figure 8. (a) Mycelium growth on the knitted pocket on day 7. (b) Mycelium growth on the knitted pocket on day 14 (image credit: authors). Figure 8. (a) Mycelium growth on the knitted pocket on day 7. (b) Mycelium growth on the knitted pocket on day 14 (image credit: authors). The first stage of the experiment resulted in an even growth of BC (5 mm) attached to the bottom half of the knitted pocket. Due to the high absorbency of the fabric used to create the pocket, the starter liquid for the kombucha culture partly saturated the top layer, which was suspended over the air–liquid interface. No visible layer of the BC formed on those parts of the pocket. During the second stage of the experiment, the growth behavior of the mycelium was observed. In the first 7 days, the organism started to visibly grow around the sides of the pocket as seen in Figure 7 The larger patches of mycelial growth were located predomi- During the second stage of the experiment, the growth behavior of the mycelium was observed. In the first 7 days, the organism started to visibly grow around the sides of the pocket, as seen in Figure 7. The larger patches of mycelial growth were located predominantly along the edges due to the level of moisture on those parts. However, the knitted pocked was not fully covered by a dense layer of mycelium. This was possibly due to the linen being difficult to digest for the mycelium. The BC had not begun drying at this time. 3.4. Results of Experiment 4 (BC with Living Mycelium inside Soft Scaffold) In experiment four, mycelium growth was contained in a knitted pocket submerged in BC. The results showed that the mycelium grew alongside the BC; however, mycelium growth was uneven (in comparison to controls with no BC present). In this experiment, the attachment between the mycelium and BC was created by the knitted pocket, and this was effective in bringing the two organisms together. After 12 days, the BC showed signs of contamination in the form of mold; therefore, the composite was oven-dried (see Figure 8). The connection between the mycelium and BC as a dried composite was strong, with the texture of the fabric clearly visible through the BC. The first stage of the experiment resulted in an even growth of BC (5 mm) attached to the bottom half of the knitted pocket. Due to the high absorbency of the fabric used to create the pocket, the starter liquid for the kombucha culture partly saturated the top layer, which was suspended over the air–liquid interface. No visible layer of the BC formed on those parts of the pocket. 8 of 11 Biomimetics 2022, 7, 55 d state. (a) (b) Figure 7. Comparison of experiments 1–3 in the order oven-dried, air-dried, and living from top to bottom in (a) wet state and (b) dried state (image credit: authors). VIEW 8 of 11 Figure 7. Comparison of experiments 1–3 in the order oven-dried, air-dried, and living from top to bottom in (a) wet state and (b) dried state (image credit: authors). 3.4. Results of Experiment 4 (BC with Living Mycelium Inside Soft Scaffold) In experiment four, mycelium growth was contained in a knitted pocket submerged in BC. The results showed that the mycelium grew alongside the BC; however, mycelium growth was uneven (in comparison to controls with no BC present). In this experiment, the attachment between the mycelium and BC was created by the knitted pocket, and this was effective in bringing the two organisms together. After 12 days, the BC showed signs of contamination in the form of mold; therefore, the composite was oven-dried (see Figure 8). The connection between the mycelium and BC as a dried composite was strong, with the texture of the fabric clearly visible through the BC (b) ated b After (a) ment ive in Figure 7. Discussion 4. Discussion The primary purpose of this study was to test the compatibility of the two chosen materials and identify methods of growing them into viable composites. The results of our experiments demonstrated that reliable growth of a secondary organism was evable in the presence of a primary organism (Table 1). However, we were not able to id contamination in the wet stage of the growth process in experiments three and four en both the mycelium and BC were alive. Although pre-grown mycelium composites less receptive to contamination, the increased humidity and presence of sugar from BC culture created a beneficial environment for mold, which was observed in experi- nt three. This problem could be solved by either adjusting the timeline of the setup, wing the BC to dry partly before adding the mycelium in experiment four, or by add- active ventilation underneath the BC inside the mycelium growth box. For experi- nts 1–3, a more refined method to place the tiles inside the kombucha medium can be gned to maximize free air flow on the surface of the mycelium. Whilst contamination vident in experiments three and four, it is notable that this has not prevented successful chment between the mycelium and the bacterial cellulose; in fact, the best attachment observed in experiment four, where mold was observed on both the BC and myce- m. The primary purpose of this study was to test the compatibility of the two chosen biomaterials and identify methods of growing them into viable composites. The results of all four experiments demonstrated that reliable growth of a secondary organism was achievable in the presence of a primary organism (Table 1). However, we were not able to avoid contamination in the wet stage of the growth process in experiments three and four when both the mycelium and BC were alive. Although pre-grown mycelium composites are less receptive to contamination, the increased humidity and presence of sugar from the BC culture created a beneficial environment for mold, which was observed in experiment three. This problem could be solved by either adjusting the timeline of the setup, allowing the BC to dry partly before adding the mycelium in experiment four, or by adding active ventilation underneath the BC inside the mycelium growth box. 3.4. Results of Experiment 4 (BC with Living Mycelium inside Soft Scaffold) The fabric on the top side had also not fully dried from the washing. pocket, as seen in Figure 7. The larger patches of mycelial growth were located predomi- nantly along the edges due to the level of moisture on those parts. However, the knitted pocked was not fully covered by a dense layer of mycelium. This was possibly due to the linen being difficult to digest for the mycelium. The BC had not begun drying at this time. The fabric on the top side had also not fully dried from the washing. After a total of 12 days, the wet BC showed signs of contamination in the form of mold. The mycelium had continued to grow along the edges of the pocket and onto the After a total of 12 days, the wet BC showed signs of contamination in the form of mold. The mycelium had continued to grow along the edges of the pocket and onto the plastic container. The very top of the fabric showed less growth than before. The corners of the pocket, where the liquid medium had been soaked up during the first stage, showed no mycelium growth but contamination reaching from the BC. Those areas of the fabric showed dark discoloration. y g g g p plastic container. The very top of the fabric showed less growth than before. The corners of the pocket, where the liquid medium had been soaked up during the first stage, showed no mycelium growth but contamination reaching from the BC. Those areas of the fabric showed dark discoloration. After drying the composite in an oven, the mycelium and BC both significantly de- After drying the composite in an oven, the mycelium and BC both significantly decreased in thickness. Only one corner of the pocket showed signs of a beginning white coating (see Figure 9a), as have been observed in prior experiments. While the BC was very brittle, it showed strong attachment to the fabric and had molded onto it in a way that the texture of the fabric came through. 9 of 11 Biomimetics 2022, 7, 55 omimetics 2022, 7, x FOR PE (a) (b) ure 9. (a) Corner of the pocket with white mycelium skin. (b) BC dried onto the pocket, showing ern of fabric underneath (image credit: authors). Figure 9. (a) Corner of the pocket with white mycelium skin. Discussion 4. Discussion For experiments 1–3, a more refined method to place the tiles inside the kombucha medium can be designed to maximize free air flow on the surface of the mycelium. Whilst contamination is evident in experiments three and four, it is notable that this has not prevented successful attachment between the mycelium and the bacterial cellulose; in fact, the best attachment was observed in experiment four, where mold was observed on both the BC and mycelium. Table 1. The summary of the experiment. Oven-Dried (No. 1) Air-Dried (No. 2) Living (No. 3) Pocket (No. 4) BC growth 5–13 mm, <2 mm on gas bubble 5–8 mm 5–8 mm 4–6 mm and inclu- sion of knit Mycelium growth Dead, white film around substrate Dormant pinheads, white film Mushrooms and no white film Little and on top side only Attachment Good Weak to not at all Stronger after oven dry- ing Strong Contamination No contamination No contamination Mold on exposed myce- lium Mold on BC and mycelium Other observations Uneven BC growth BC around fruiting bodies thicker BC grew around mush- room - Table 1. The summary of the experiment. Oven-Dried (No. 1) Air-Dried (No. 2) Living (No. 3) Pocket (No. 4) BC growth 5–13 mm, <2 mm on gas bubble 5–8 mm 5–8 mm 4–6 mm and inclusion of knit Mycelium growth Dead, white film around substrate Dormant pinheads, white film Mushrooms and no white film Little and on top side only Attachment Good Weak to not at all Stronger after oven drying Strong Contamination No contamination No contamination Mold on exposed mycelium Mold on BC and mycelium Other observations Uneven BC growth BC around fruiting bodies thicker BC grew around mushroom - le 1. The summary of the experiment. Table 1. The summary of the experiment. The presence of mycelium in any state of aliveness caused greater production of fer- ntation gases, which led to visibly thinner BC in the areas where gas collected in bub- s. The BC also showed increased growth around fruiting bodies and primordia for- tions, indicating a greater availability of nutrients and/or oxygen in these areas through mycelium composite. The presence of mycelium in any state of aliveness caused greater production of fermentation gases, which led to visibly thinner BC in the areas where gas collected in bubbles. 3.4. Results of Experiment 4 (BC with Living Mycelium inside Soft Scaffold) (b) BC dried onto the pocket, showing pattern of fabric underneath (image credit: authors). (a) (b) (b) (a) re 9. (a) Corner of the pocket with white mycelium skin. (b) BC dried onto the pocket, showing ern of fabric underneath (image credit: authors). Figure 9. (a) Corner of the pocket with white mycelium skin. (b) BC dried onto the pocket, showing pattern of fabric underneath (image credit: authors). Discussion 4. Discussion The BC also showed increased growth around fruiting bodies and primordia formations, indicating a greater availability of nutrients and/or oxygen in these areas through the mycelium composite. The shape of knit in the form of a pocket was valuable as a scaffold for the BC to grow around and to hold the loose mycelium substrate in a compacted shape. The knit successfully offered a link between the two organisms in the setup. The growth behavior of Biomimetics 2022, 7, 55 10 of 11 10 of 11 mycelium with different types of yarn was tested in a separate set of experiments as part of the BioKnit project, which revealed linen to be less compatible [13]. This can partly explain the limited mycelium growth in experiment four. mycelium with different types of yarn was tested in a separate set of experiments as part of the BioKnit project, which revealed linen to be less compatible [13]. This can partly explain the limited mycelium growth in experiment four. g p g y 4. JDO Vaults. Available online: https://jdovaults.com/El-Monolito-Micelio (accessed on 20 April 2022) J gy 3. Biomaterial Building. Available online: https://www.biomaterialbuilding.com/mycocreate (accessed O l A l bl l h // d l / l l l ( d A l ) 5. Conclusions Informed Consent Statement: Not applicable. Informed Consent Statement: Not applicable. Data Availability Statement: Not applicable. Data Availability Statement: Not applicable. Acknowledgments: This research is part of a series of prototypes developed in the Hub for Biotech- nology in the Built Environment (HBBE). HBBE is funded by Research England and is a joint initiative between Newcastle University and Northumbria University. The BioKnit prototype was further designed and built in collaboration with Armand Agraviador, Ahmet Topcu, Romy Kaiser, Elise Elsacker, Emily Birch and Ben Bridgens. Conflicts of Interest: The authors declare no conflict of interest. 5. Conclusions This paper focused on the biological compatibility of mycelium and bacterial cellulose as two biomaterials that produce different and potentially complimentary qualities for a new generation of biohybrid materials for architecture. Through experimental study, the research investigated four different combined growth setups to test the potential for growing together, the use of a knit scaffold, and the challenge of contamination. g g g g Growing Together: The research demonstrates that BC and mycelium can grow effec- tively in the presence of one another. The growth of the secondary organism is influenced by the growth requirements of the primary organism, particularly when both organisms are living. This influence was observed predominantly through uneven growth of the secondary organism. In two experiments, the presence of mushrooms growing from the mycelium increased the BC formation in the surrounding area, suggesting a localized increase in nutrition supply for the BC. pp y The use of a knit scaffold: Whilst BC and mycelium can grow together, producing a strong attachment during growth, forming a composite is more problematic. The knitted scaffold proved helpful in bringing the two organisms together in a way that supported both growth behaviors through the fabric’s adjustable breathability and rough texture. As a result of this research, large-scale knit scaffolds have been implemented in the design of the BioKnit prototype. Further research investigating attachment strategies could guide the design of future textile scaffolds. The challenge of contamination: The changing environmental conditions required by the different growth requirements of BC and mycelium increase the probability of contami- nation during the growth phase. The most challenging factors observed are humidity and ventilation leading to the growth of mold. Further research is required to optimize the environmental conditions, and active systems to control ventilation and humidity during growth will be developed to eliminate these problems in future projects. Author Contributions: Conceptualization, A.H. and D.O.; methodology, A.H. and D.O.; validation, A.H. and D.O.; formal analysis, A.H. and D.O.; investigation, A.H. and D.O.; resources, A.H. and D.O.; data curation, A.H. and D.O.; writing—original draft preparation, A.H. and D.O.; writing—review and editing, J.S., A.H. and D.O.; visualization, A.H. and D.O.; supervision, J.S.; project administration, A.H. and D.O. All authors have read and agreed to the published version of the manuscript. Funding: Research funded by Research England’s Expanding Excellence in England (E3) Fund. Institutional Review Board Statement: Not applicable. Institutional Review Board Statement: Not applicable. 1. Karana, E. When the Mycelium Grows: A case study on Designing (with) Mycelium-based Materials. Int. J. Des. 2018, 12, 119–136. 2. Heisel, F. Design, Cultivation and Application of Load-Bearing Mycelium Components: The MycoTree at the 2017 Seoul Biennale of Architecture and Urbanism. Int. J. Sustain. Energy Dev. 2017, 6, 296–303. [CrossRef] 3. Biomaterial Building. Available online: https://www.biomaterialbuilding.com/mycocreate (accessed on 20 April 2022). 1. Karana, E. When the Mycelium Grows: A case study on Designing (with) Mycelium-based Materials. Int. J. Des. 2018, 12, 119–136. 2. Heisel, F. Design, Cultivation and Application of Load-Bearing Mycelium Components: The MycoTree at the 2017 Seoul Biennale of Architecture and Urbanism. Int. J. Sustain. Energy Dev. 2017, 6, 296–303. [CrossRef] 3. Biomaterial Building. Available online: https://www.biomaterialbuilding.com/mycocreate (accessed on 20 April 2022). 4. JDO Vaults. Available online: https://jdovaults.com/El-Monolito-Micelio (accessed on 20 April 2022). 1. Karana, E. When the Mycelium Grows: A case study on Designing (with) Mycelium based Materials. Int. J. Des. 2018, 12, 119 136. 2. Heisel, F. Design, Cultivation and Application of Load-Bearing Mycelium Components: The MycoTree at the 2017 Seoul Biennale of Architecture and Urbanism. Int. J. Sustain. Energy Dev. 2017, 6, 296–303. [CrossRef] y y g g ( ) y 2. Heisel, F. Design, Cultivation and Application of Load-Bearing Mycelium Components: The MycoTree a of Architecture and Urbanism. Int. J. Sustain. Energy Dev. 2017, 6, 296–303. [CrossRef] References 11 of 11 11 of 11 Biomimetics 2022, 7, 55 5. Jones, M.; Mautner, A.; Luenco, S.; Bismarck, A.; John, S. Engineered mycelium composite construction materials from fungal biorefineries: A critical revies. Mater. Des. 2022, 187, 108397. [CrossRef] 6. Portela, R.; Leal, C.R.; Almeida, P.L.; Sobral, R.G. Bacterial Cellulose: A versatile biopolymer for wound dressing applications. Microb. Biotechnol. 2019, 12, 565–610. [CrossRef] [PubMed] 7. Sayfutdinova, A.; Samofalova, I.; Barkov, A.; Cherednichenko, K.; Rimashevskiy, D.; Vinokurov, V. Structure and Properties of Cellulose/Mycelium Biocomposites. Polymers 2022, 14, 1519. [CrossRef] [PubMed] 8. Ng, F.M.; Wang, P.W. Natural Self-grown Fashion from Bacterial Cellulose: A paradigm Shift Design Approach in Fashion Creation. Des. J. 2016, 19, 837–855. [CrossRef] 9. Scott, J. Knitted Cultivation: Textiling a Multi-Kingdom Bio Architecture. In Proceedings of the ICSA 2022, 5th International Conference on Structures and Architecture, Aalborg, Denmark, 6–8 July 2022. 10. Appels, F.V.W. The Use of Fungal Mycelium for the Production of Bio-Based Materials. Doctoral Dissert Utrecht, The Netherlands, 2019. Use of Fungal Mycelium for the Production of Bio-Based Materials. Doctoral Dissertation, University Utrecht lands, 2019. 11. Elsacker, E.; Vandelook, S.; Damsin, B.; Van Wylick, A.; Peeters, E.; De Laet, L. Mechanical characteristics of bacterial cellulose- reinforced mycelium composite materials. Fungal Biol. Biotechnol. 2021, 8, 18. [CrossRef] [PubMed] y p g 12. Resnick, M.; Rosenbaum, E. Chapter 10-Designing for Tinkerability. In Design, Make, Play; Honey, M., Kanter, D., Eds.; Routledge: New York, NY, USA, 2013. 13. Scott, J.; Ozkan, D.; Hoenerloh, A.; Birch, E.; Kaiser, R.; Agraviador, A.; Elsacker, E. BioKnit Building: Strategies for Living Textile Architectures 2021. In Proceedings of the CEES International Conference Construction, Energy, Environment and Sustainability, Coimbra, Portugal, 12–15 October 2021.
https://openalex.org/W2115938899
http://journal.asu.ru/cw/article/download/jcprm.1401195/197
Chinese
null
СЕЗОННАЯ И ВОЗРАСТНАЯ ДИНАМИКА СОДЕРЖАНИЯ БЕРБЕРИНА В ИНТРОДУЦИРОВАННОМ BERBERIS SIBIRICA PALL.
Himiâ rastitelʹnogo syrʹâ
2,014
cc-by
2,924
© ɂȼ. ɇɟɱɟɩɭɪɟɧɤɨ 1, ɇɂ. Ʉɨɦɚɪɨɜɚ1, Ɉɇ. ɉɨɬɺɦɤɢɧ2, ɇɎ. ɋɚɥɚɯɭɬɞɢɧɨɜ1 1ɇɨɜɨɫɢɛɢɪɫɤɢɣɢɧɫɬɢɬɭɬɨɪɝɚɧɢɱɟɫɤɨɣɯɢɦɢɢɢɦ. ɇɇ. ȼɨɪɨɠɰɨɜɚɋɈɊȺɇ, ɩɪ. ɚɤɚɞ. Ʌɚɜɪɟɧɬɶɟɜɚ, 9, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail niv@nioch.nsc.ru 2ɐɟɧɬɪɚɥɶɧɵɣɫɢɛɢɪɫɤɢɣɛɨɬɚɧɢɱɟɫɤɢɣɫɚɞɋɈɊȺɇ, ɭɥ. Ɂɨɥɨɬɨɞɨɥɢɧɫɤɚɹ, 101, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail: 1964o@mail.ru © ɂȼ. ɇɟɱɟɩɭɪɟɧɤɨ 1, ɇɂ. Ʉɨɦɚɪɨɜɚ1, Ɉɇ. ɉɨɬɺɦɤɢɧ2, ɇɎ. ɋɚɥɚɯɭɬɞɢɧɨɜ1 1ɇɨɜɨɫɢɛɢɪɫɤɢɣɢɧɫɬɢɬɭɬɨɪɝɚɧɢɱɟɫɤɨɣɯɢɦɢɢɢɦ. ɇɇ. ȼɨɪɨɠɰɨɜɚɋɈɊȺɇ, ɩɪ. ɚɤɚɞ. Ʌɚɜɪɟɧɬɶɟɜɚ, 9, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail niv@nioch.nsc.ru 2ɐɟɧɬɪɚɥɶɧɵɣɫɢɛɢɪɫɤɢɣɛɨɬɚɧɢɱɟɫɤɢɣɫɚɞɋɈɊȺɇ, ɭɥ. Ɂɨɥɨɬɨɞɨɥɢɧɫɤɚɹ, 101, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail: 1964o@mail.ru © ɂȼ. ɇɟɱɟɩɭɪɟɧɤɨ 1, ɇɂ. Ʉɨɦɚɪɨɜɚ1, Ɉɇ. ɉɨɬɺɦɤɢɧ2, ɇɎ. ɋɚɥɚɯɭɬɞɢɧɨɜ1 1ɇɨɜɨɫɢɛɢɪɫɤɢɣɢɧɫɬɢɬɭɬɨɪɝɚɧɢɱɟɫɤɨɣɯɢɦɢɢɢɦ. ɇɇ. ȼɨɪɨɠɰɨɜɚɋɈɊȺɇ, ɩɪ. ɚɤɚɞ. Ʌɚɜɪɟɧɬɶɟɜɚ, 9, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail niv@nioch.nsc.ru 2ɐɟɧɬɪɚɥɶɧɵɣɫɢɛɢɪɫɤɢɣɛɨɬɚɧɢɱɟɫɤɢɣɫɚɞɋɈɊȺɇ, ɭɥ. Ɂɨɥɨɬɨɞɨɥɢɧɫɤɚɹ, 101, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail: 1964o@mail.ru e mail niv@nioch.nsc.ru 2ɐɟɧɬɪɚɥɶɧɵɣɫɢɛɢɪɫɤɢɣɛɨɬɚɧɢɱɟɫɤɢɣɫɚɞɋɈɊȺɇ, ɭɥ. Ɂɨɥɨɬɨɞɨɥɢɧɫɤɚɹ, 101, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail: 1964o@mail.ru ȼɬɟɱɟɧɢɟɬɪɟɯɜɟɝɟɬɚɬɢɜɧɵɯ ɫɟɡɨɧɨɜ ɦɟɬɨɞɨɦ ȼɗɀɏ ɢɡɭɱɟɧɚ ɞɢɧɚɦɢɤɚ ɫɨɞɟɪɠɚɧɢɹ ɢɡɨɯɢɧɨɥɢɧɨɜɨɝɨɚɥɤɚ- ɥɨɢɞɚɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɢɧɚɞɡɟɦɧɨɣɱɚɫɬɢɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɜɭɫɥɨɜɢɹɯɐɋȻɋɋɈɊȺɇɛɚɪɛɚɪɢɫɚɫɢɛɢɪɫɤɨɝɨ ɪɚɡɥɢɱɧɵɯɜɨɡɪɚɫɬɧɵɯɫɨɫɬɨɹɧɢɣ. ɉɨɤɚɡɚɧɨ, ɱɬɨɤɨɪɧɢɛ. ɫɢɛɢɪɫɤɨɝɨɫɨɞɟɪɠɚɬɜ 3–5 ɪɚɡɛɨɥɶɲɟɛɟɪɛɟɪɢɧɚ, ɱɟɦɫɬɟɛ- ɥɢ. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɜɨɡɪɚɫɬɚ 7 ɥɟɬɤɨɥɟɛɥɟɬɫɹɜɬɟɱɟɧɢɟɫɟɡɨɧɚɧɟɡɧɚɱɢɬɟɥɶɧɨ, ɫɪɟɞɧɟɟɡɧɚɱɟɧɢɟɫɨ- ɫɬɚɜɥɹɟɬ 1,10%, ɦɚɤɫɢɦɚɥɶɧɨɟɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɛɵɥɨɧɚɣɞɟɧɨɜɢɸɥɟ (1,16r0,03%). Ʉɨɪɧɢɜɨɡɪɚɫɬɚ 3 ɝɨɞɚɫɨ- ɞɟɪɠɚɬɦɟɧɶɲɟɟɤɨɥɢɱɟɫɬɜɨɛɟɪɛɟɪɢɧɚ. ɂɡɨɛɪɚɡɰɚɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɯɤɨɪɧɟɣɫɫɨɞɟɪɠɚɧɢɟɦ 0,95% ɛɟɪɛɟɪɢɧɚɛɵɥ ɩɪɟɩɚɪɚɬɢɜɧɨɜɵɞɟɥɟɧɛɟɪɛɟɪɢɧɯɥɨɪɢɞɫɜɵɯɨɞɨɦ 0,62%, ɱɬɨɹɜɥɹɟɬɫɹɩɨɤɚɡɚɬɟɥɟɦ, ɛɥɢɡɤɢɦɞɥɹɩɨɥɭɱɟɧɢɹɛɟɪɛɟɪɢɧ- ɯɥɨɪɢɞɚɢɡɞɢɤɨɪɚɫɬɭɳɢɯɤɨɪɧɟɣ. ɪ ɞ ɞ ɪ ɭɳ ɪ Ʉɥɸɱɟɜɵɟɫɥɨɜɚ:ɛɟɪɛɟɪɢɧ, Berberis sibirica, ɞɢɧɚɦɢɤɚɚɥɤɚɥɨɢɞɨɜ, ɢɧɬɪɨɞɭɤɰɢɹ, ȼɗɀɏ. Ⱥɜɬɨɪ, ɜɟɞɭɳɢɣɩɟɪɟɩɢɫɤɭ ɇɟɱɟɩɭɪɟɧɤɨɂɜɚɧȼɚɫɢɥɶɟɜɢɱ – ɧɚɭɱɧɵɣɫɨɬɪɭɞɧɢɤ, ɤɚɧɞɢɞɚɬɯɢɦɢɱɟɫɤɢɯɧɚɭɤ, ɬɟɥ.: (383) 330-88-70, e-mail: niv@nioch.nsc.ru Ʉɨɦɚɪɨɜɚɇɢɧɚɂɜɚɧɨɜɧɚ – ɜɟɞɭɳɢɣɢɧɠɟɧɟɪ, ɬɟɥ.: (383) 330-88-70, e-mail: komar@nioch.nsc.ru ɉɨɬɺɦɤɢɧɈɥɟɝɇɢɤɨɥɚɟɜɢɱ – ɡɚɜɟɞɭɸɳɢɣ ɥɚɛɨɪɚɬɨɪɢɟɣɞɟɧɞɪɨɥɨɝɢɢ, ɫɬɚɪɲɢɣɧɚɭɱɧɵɣ ɫɨɬɪɭɞɧɢɤ, ɤɚɧɞɢɞɚɬɛɢɨɥɨɝɢɱɟɫɤɢɯɧɚɭɤ, ɬɟɥ.: (383) 330-27-63, e-mail: 1964o@mail.ru ɋɚɥɚɯɭɬɞɢɧɨɜɇɚɪɢɦɚɧɎɚɪɢɞɨɜɢɱ – ɪɭɤɨɜɨɞɢɬɟɥɶ Ɉɬɞɟɥɚɦɟɞɢɰɢɧɫɤɨɣɯɢɦɢɢ, ɞɨɤɬɨɪɯɢɦɢɱɟɫɤɢɯɧɚɭɤ, ɬɟɥ.: (383) 330-97-33, e-mail: anvar@nioch.nsc.ru ɏɂɆɂəɊȺɋɌɂɌȿɅɖɇɈȽɈɋɕɊɖə. 2014. ʋ1. ɋ. 195–202. DOI: 10.14258/jcprm.1401195 ɏɂɆɂəɊȺɋɌɂɌȿɅɖɇɈȽɈɋɕɊɖə. 2014. ʋ1. ɋ. 195–202. DOI: 10.14258/jcprm.1401195 ɍȾɄ 581.543+581.192.2+547.978.1+581.522.4+582.675.34 ɍȾɄ 581.543+581.192.2+547.978.1+581.522.4+582.675.34 ȼɜɟɞɟɧɢɟ ɂɫɩɨɥɶɡɨɜɚɧɢɟɜɨɡɨɛɧɨɜɥɹɟɦɨɝɨɪɚɫɬɢɬɟɥɶɧɨɝɨɫɵɪɶɹɲɢɪɨɤɨɩɪɢɦɟɧɹɟɬɫɹɞɥɹɩɨɥɭɱɟɧɢɹɛɢɨɥɨɝɢ- ɱɟɫɤɢɚɤɬɢɜɧɵɯɫɨɟɞɢɧɟɧɢɣ. Ɉɞɧɚɤɨɩɨɫɬɨɹɧɧɨɭɫɢɥɢɜɚɸɳɚɹɫɹɚɧɬɪɨɩɨɝɟɧɧɚɹɧɚɝɪɭɡɤɚɧɚɛɢɨɥɨɝɢɱɟɫɤɢɟ ɫɨɨɛɳɟɫɬɜɚ ɩɪɢɜɨɞɢɬ ɤ ɭɧɢɱɬɨɠɟɧɢɸ ɪɚɫɬɢɬɟɥɶɧɨɝɨ ɦɧɨɝɨɨɛɪɚɡɢɹ ɢ ɛɟɡɜɨɡɜɪɚɬɧɨɣ ɩɨɬɟɪɟ ɭɧɢɤɚɥɶɧɨɝɨ ɩɪɢɪɨɞɧɨɝɨɝɟɧɨɮɨɧɞɚ. ɇɚɮɨɧɟɫɨɜɪɟɦɟɧɧɨɝɨɫɨɤɪɚɳɟɧɢɹɚɪɟɚɥɨɜɢɭɧɢɱɬɨɠɟɧɢɹɩɨɩɭɥɹɰɢɣ, ɪɚɫɲɢɪɟɧɢɟ ɚɫɫɨɪɬɢɦɟɧɬɚɪɟɫɭɪɫɧɵɯɪɚɫɬɟɧɢɣɩɭɬɟɦɢɯɢɧɬɪɨɞɭɤɰɢɢɩɨɡɜɨɥɹɟɬɤɨɦɩɥɟɤɫɧɨɪɟɲɢɬɶɪɹɞɚɤɬɭɚɥɶɧɵɯ ɩɪɨɛɥɟɦ, ɫɬɨɹɳɢɯɩɟɪɟɞɱɟɥɨɜɟɱɟɫɬɜɨɦ. ɍɫɩɟɲɧɚɹɢɧɬɪɨɞɭɤɰɢɹɪɚɫɬɟɧɢɣ, ɩɨɦɢɦɨɪɟɲɟɧɢɹɛɢɨɥɨɝɢɱɟɫɤɢɯ ɡɚɞɚɱ (ɬɚɤɢɯɤɚɤɫɩɨɫɨɛɧɨɫɬɶɪɚɫɬɢɢɞɚɜɚɬɶɩɨɬɨɦɫɬɜɨ), ɩɪɟɞɩɨɥɚɝɚɟɬɜɵɹɫɧɟɧɢɟɜɨɩɪɨɫɚ – ɫɩɨɫɨɛɧɨɥɢ ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɟɪɚɫɬɟɧɢɟɨɛɪɚɡɨɜɵɜɚɬɶɬɪɟɛɭɟɦɵɣɦɟɬɚɛɨɥɢɬɜɧɟɩɪɢɜɵɱɧɵɯɞɥɹɧɟɝɨɭɫɥɨɜɢɹɯɫɭɳɟ- ɫɬɜɨɜɚɧɢɹ. Ɏɢɡɢɨɥɨɝɢɹɢɛɢɨɯɢɦɢɹɢɧɬɪɨɞɭɰɟɧɬɨɜɜɡɧɚɱɢɬɟɥɶɧɨɣɫɬɟɩɟɧɢɡɚɜɢɫɹɬɨɬɭɫɥɨɜɢɣɜɵɪɚɳɢɜɚ- ɧɢɹɢɭɯɨɞɚ; ɢɡɜɟɫɬɧɵɫɥɭɱɚɢ, ɤɨɝɞɚɪɚɫɬɟɧɢɹɩɪɢɢɧɬɪɨɞɭɤɰɢɢɧɟɧɚɤɚɩɥɢɜɚɸɬɚɥɤɚɥɨɢɞɵ [1, 2]. ɂɡɨɯɢɧɨɥɢɧɨɜɵɣɚɥɤɚɥɨɢɞɛɟɪɛɟɪɢɧɹɜɥɹɟɬɫɹ ɰɟɧɧɵɦɜɟɳɟɫɬɜɨɦ, ɨɛɥɚɞɚɸɳɢɦɩɪɨɬɢɜɨɦɢɤɪɨɛɧɨɣ, ɚɧɬɢɛɚɤɬɟɪɢɚɥɶɧɨɣ, ɝɢɩɨɯɨɥɟɫɬɟɪɢɧɟɦɢɱɟɫɤɨɣ ɚɤɬɢɜɧɨɫɬɶɸ [3, 4]. Ȼɟɪɛɟɪɢɧ ɜɵɞɟɥɹɥɢ ɜ ɜɢɞɟ ɯɥɨɪɢɞɚ ɪɢɫ. 1) ɢɥɢɫɭɥɶɮɚɬɚɢɡɪɚɫɬɟɧɢɣɪɨɞɨɜɛɚɪɛɚɪɢɫ (Berberis), ɛɚɪɯɚɬ (Phellodendron), ɯɨɯɥɚɬɤɚ (Corydalis), ɠɟɥɬɨɤɨɪɟɧɶ (Hydrastis). ɇɚ ɬɟɪɪɢɬɨɪɢɢ ɛɵɜɲɟɝɨ ɋɋɋɊɛɨɬɚɧɢɱɟɫɤɢɦɢɫɚɞɚɦɢɜɜɟɞɟɧɵɜɤɭɥɶɬɭɪɭ 45 ɜɢɞɨɜ ɛɚɪɛɚɪɢɫɚ. ɂɡ ɪɚɫɬɟɧɢɣ, ɩɪɨɢɡɪɚɫɬɚɸɳɢɯ ɧɚ ɬɟɪɪɢɬɨɪɢɢ Ɋɨɫɫɢɢ ɢ ɫɨɞɟɪɠɚɳɢɯ ɛɟɪɛɟɪɢɧ, ɧɚɢɛɨ- ɥɟɟɲɢɪɨɤɨɪɚɫɩɪɨɫɬɪɚɧɟɧɵɪɚɫɬɟɧɢɹɪɨɞɚɛɚɪɛɚɪɢɫ: ɜ ɟɜɪɨɩɟɣɫɤɨɣ ɱɚɫɬɢ – ɛ. ɨɛɵɤɧɨɜɟɧɧɵɣ (Berberis vulgaris L.) ɢ ɜ ɚɡɢɚɬɫɤɨɣ ɱɚɫɬɢ – ɛ. ɫɢɛɢɪɫɤɢɣ (Berberis sibirica Pall.), ɜɢɞɵ ɹɜɥɹɸɬɫɹ ɛɥɢɡɤɢɦɢ ɢ ɦɧɨɝɢɦɢɚɜɬɨɪɚɦɢɧɟɪɚɡɥɢɱɚɸɬɫɹ. Ȼ. ɫɢɛɢɪɫɤɢɣ – ɇɟɱɟɩɭɪɟɧɤɨɂɜɚɧȼɚɫɢɥɶɟɜɢɱ – ɧɚɭɱɧɵɣɫɨɬɪɭɞɧɢɤ, ɤɚɧɞɢɞɚɬɯɢɦɢɱɟɫɤɢɯɧɚɭɤ, ɬɟɥ.: (383) 330-88-70, e-mail: niv@nioch.nsc.ru Ʉɨɦɚɪɨɜɚɇɢɧɚɂɜɚɧɨɜɧɚ – ɜɟɞɭɳɢɣɢɧɠɟɧɟɪ, ɬɟɥ.: (383) 330-88-70, e-mail: komar@nioch.nsc.ru ɉɨɬɺɦɤɢɧɈɥɟɝɇɢɤɨɥɚɟɜɢɱ – ɡɚɜɟɞɭɸɳɢɣ ɥɚɛɨɪɚɬɨɪɢɟɣɞɟɧɞɪɨɥɨɝɢɢ, ɫɬɚɪɲɢɣɧɚɭɱɧɵɣ ɫɨɬɪɭɞɧɢɤ, ɤɚɧɞɢɞɚɬɛɢɨɥɨɝɢɱɟɫɤɢɯɧɚɭɤ, ɬɟɥ.: (383) 330-27-63, e-mail: 1964o@mail.ru ɋɚɥɚɯɭɬɞɢɧɨɜɇɚɪɢɦɚɧɎɚɪɢɞɨɜɢɱ – ɪɭɤɨɜɨɞɢɬɟɥɶ Ɉɬɞɟɥɚɦɟɞɢɰɢɧɫɤɨɣɯɢɦɢɢ, ɞɨɤɬɨɪɯɢɦɢɱɟɫɤɢɯɧɚɭɤ, (383) 330 97 33 il @ i h ɂȼ. ɇȿɑȿɉɍɊȿɇɄɈ, ɇɂ. ɄɈɆȺɊɈȼȺ, Ɉɇ. ɉɈɌȬɆɄɂɇ, ɇɎ. ɋȺɅȺɏɍɌȾɂɇɈȼ 196 ɫɢɥɶɧɨɜɟɬɜɢɫɬɵɣ ɤɨɥɸɱɢɣ ɤɭɫɬɚɪɧɢɤ ɜɵɫɨɬɨɣ ɞɨ 1,5 ɦ, ɫɩɨɥɡɭ ɱɢɦɢ, ɨɞɪɟɜɟɫɧɟɜɚɸɳɢɦɢ ɤɨɪɧɟɜɢɳɚɦɢ. Ʉɫɟɪɨɮɢɬ, ɨɥɢɝɨɬɪɨɮ, ɫɜɟɬɨɥɸɛɢɜ. ɉɪɨɢɡɪɚɫɬɚɟɬ ɜ ɋɚɹɧɚɯ, Ɋɟɫɩɭɛɥɢɤɟ Ⱥɥɬɚɣ (Ɋɨɫɫɢɹ), ɚɬɚɤɠɟɜɋɪɟɞɧɟɣȺɡɢɢ, Ɇɨɧɝɨɥɢɢ [5]. Ɋɢɫ. 1. Ȼɟɪɛɟɪɢɧɯɥɨɪɢɞ Ɋɢɫ. 1. Ȼɟɪɛɟɪɢɧɯɥɨɪɢɞ ɪ ɞ , [ ] Ȼ. ɫɢɛɢɪɫɤɢɣɭɫɩɟɲɧɨɢɧɬɪɨɞɭɰɢɪɨɜɚɧɜɐɟɧɬɪɚɥɶɧɨɦɋɢ- ɛɢɪɫɤɨɦɛɨɬɚɧɢɱɟɫɤɨɦɫɚɞɭ (ɐɋȻɋ), ɧɟɫɦɨɬɪɹɧɚɬɨ, ɱɬɨɩɪɢɪɨɞ- ɧɨɤɥɢɦɚɬɢɱɟɫɤɢɟ ɭɫɥɨɜɢɹ ɢɧɬɪɨɞɭɤɰɢɢ ɢ ɟɫɬɟɫɬɜɟɧɧɨɝɨ ɚɪɟɚɥɚ ɩɪɨɢɡɪɚɫɬɚɧɢɹ ɛ. ɫɢɛɢɪɫɤɨɝɨ ɨɬɥɢɱɚɸɬɫɹ ɞɨɜɨɥɶɧɨ ɡɧɚɱɢɬɟɥɶɧɨ [6]. ȼ ɩɪɢɪɨɞɟ ɛ. ɫɢɛɢɪɫɤɢɣ ɩɪɨɢɡɪɚɫɬɚɟɬ ɧɚ ɫɤɚɥɚɯ ɜ ɨɛɥɚɫɬɹɯ ɪɫɫɭɯɢɦɢɞɨɜɨɥɶɧɨɠɚɪɤɢɦɤɥɢɦɚɬɨɦ. ȺɪɛɨɪɟɬɭɦɐɋȻɋɪɚɫɩɨ- ɥɨɠɟɧɜɨɤɪɟɫɬɧɨɫɬɹɯɇɨɜɨɫɢɛɢɪɫɤɚ, Ɋɨɫɫɢɹ (ɝɟɨɝɪɚɮɢɱɟɫɤɢɟɤɨ- ɨɪɞɢɧɚɬɵ 83.104 E, 54.821 N), ɜɵɫɨɬɚ 114–130 ɦ. ɧɚɞɭɪɦ., ɩɪɨ- ɞɨɥɠɢɬɟɥɶɧɨɫɬɶɜɟɝɟɬɚɰɢɨɧɧɨɝɨɩɟɪɢɨɞɚ (Ɍɜɵɲɟ +5 °ɋq) – 158 ɞɧɟɣ, ɞɥɢɬɟɥɶɧɨɫɬɶɛɟɡɦɨɪɨɡɧɨɝɨɩɟɪɢɨɞɚ – 120 ɞɧɟɣ. ɇɟɫɦɨɬɪɹɧɚɫɭɪɨɜɭɸɞɥɢɬɟɥɶɧɭɸɡɢɦɭ, ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɣɛ. ɫɢɛɢɪɫɤɢɣɧɟɩɨɞɦɟɪɡɚɥ, ɪɟɝɭ- ɥɹɪɧɨɩɥɨɞɨɧɨɫɢɥɫ 6 ɥɟɬ. ɂɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɣɛ. ɫɢɛɢɪɫɤɢɣɪɚɫɬɟɬɯɨɪɨɲɨɢɦɨɠɟɬɛɵɬɶɢɫɩɨɥɶɡɨɜɚɧɤɚɤ ɪɚɫɬɟɧɢɟɞɥɹɝɨɪɨɞɫɤɨɝɨɨɡɟɥɟɧɟɧɢɹ. Ɉɞɧɚɤɨɨɫɬɚɟɬɫɹɧɟɪɟɲɟɧɧɵɦɜɨɩɪɨɫ – ɫɤɨɥɶɤɨɛɟɪɛɟɪɢɧɚɫɨɞɟɪɠɢɬ- ɫɹɜɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɦɛ. ɫɢɛɢɪɫɤɨɦɢɦɨɠɟɬɥɢɨɧɡɚɦɟɧɢɬɶɪɚɫɬɟɧɢɹɢɡɩɪɢɪɨɞɧɵɯɩɨɩɭɥɹɰɢɣɩɪɢɩɪɨ- ɢɡɜɨɞɫɬɜɟɛɟɪɛɟɪɢɧɚ? Ɋɢɫ. 1. Ȼɟɪɛɟɪɢɧɯɥɨɪɢɞ Ɋɢɫ. 1. Ȼɟɪɛɟɪɢɧɯɥɨɪɢɞ ɉɪɢɢɡɭɱɟɧɢɢɯɢɦɢɱɟɫɤɨɝɨɫɨɫɬɚɜɚɛ. ɫɢɛɢɪɫɤɨɝɨɢɡɄɚɡɚɯɫɬɚɧɚ [7] ɢɢɡɆɨɧɝɨɥɢɢ [8], ɢɡɤɨɪɧɟɣ, ɩɨɛɟɝɨɜɢɥɢɫɬɶɟɜɜɵɞɟɥɟɧɨ 14 ɚɥɤɚɥɨɢɞɨɜ, ɨɫɧɨɜɧɵɦɹɜɥɹɟɬɫɹɛɟɪɛɟɪɢɧ. Ɉɞɧɚɤɨɞɚɧɧɵɟɩɨɢɡɭɱɟɧɢɸɞɢ- ɧɚɦɢɤɢɧɚɤɨɩɥɟɧɢɹɛɟɪɛɟɪɢɧɚɜɪɚɫɬɟɧɢɹɯɪɨɞɚȻɚɪɛɚɪɢɫɢɡɚɜɢɫɢɦɨɫɬɢɟɝɨɫɨɞɟɪɠɚɧɢɹɨɬɭɫɥɨɜɢɣɩɪɨɢɡ- ɪɚɫɬɚɧɢɹɞɨɜɨɥɶɧɨɮɪɚɝɦɟɧɬɚɪɧɵ. Ⱦɥɹ B. oblonga Ʉɚɡɚɯɫɬɚɧ) ɧɚɣɞɟɧɨ, ɱɬɨɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯ ɦɚɤɫɢɦɚɥɶɧɨɜɤɨɧɰɟɜɟɝɟɬɚɰɢɢ (1,22%), ɚɜɦɨɥɨɞɵɯɩɨɛɟɝɚɯ – ɜɧɚɱɚɥɟɮɚɡɵɰɜɟɬɟɧɢɹ (0,30%) [9]. Ȼɵɥɨ ɩɨɤɚɡɚɧɨ, ɱɬɨɞɥɹ B. koreanaɦɚɤɫɢɦɚɥɶɧɨɟɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɞɨɫɬɢɝɚɟɬɫɹɜɨɤɬɹɛɪɟ (ɜɟɪɨɹɬ- ɧɨ, ɜ ɤɨɧɰɟ ɜɟɝɟɬɚɰɢɨɧɧɨɝɨ ɫɟɡɨɧɚ) ɢ ɫɨɫɬɚɜɥɹɟɬ 1,32% [10]. Ⱦɥɹ ɦɨɥɨɞɵɯ ɩɨɛɟɝɨɜ B. integerrima ɢ B. nummularia (ɍɡɛɟɤɢɫɬɚɧ) ɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ ɦɚɤɫɢɦɚɥɶɧɨɬɚɤɠɟɜɮɚɡɭɰɜɟɬɟɧɢɹ – 0,24 ɢ 0,29%, ɫɨɨɬ- ɜɟɬɫɬɜɟɧɧɨ [11]. ȼɪɚɛɨɬɟ [12] ɩɨɤɚɡɚɧɨ, ɱɬɨɩɪɢɭɜɟɥɢɱɟɧɢɢɜɵɫɨɬɵɩɪɨɢɡɪɚɫɬɚɧɢɹɛɚɪɛɚɪɢɫɚ B. asiatica ɁɚɩɚɞɧɵɟȽɢɦɚɥɚɢ) ɫ 1200 ɞɨ 2450 ɦɧɚɞɭɪɦ., ɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɩɚɞɚɟɬɫ 3,2 ɞɨ 1,6%. ɇɚɦɢɩɨɫɬɚɜɥɟɧɚɡɚɞɚɱɚ: ɨɩɪɟɞɟɥɢɬɶɨɩɬɢɦɚɥɶɧɭɸɩɪɨɞɨɥɠɢɬɟɥɶɧɨɫɬɶɜɵɪɚɳɢɜɚɧɢɹɪɚɫɬɢɬɟɥɶɧɨɝɨ ɫɵɪɶɹɛ. ɫɢɛɢɪɫɤɨɝɨɞɥɹɩɨɥɭɱɟɧɢɹɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ, ɞɥɹɱɟɝɨɧɟɨɛɯɨɞɢɦɨɢɡɭɱɢɬɶɞɢɧɚɦɢɤɭɫɨɞɟɪɠɚɧɢɹ ɛɟɪɛɟɪɢɧɚɜɪɚɡɥɢɱɧɵɯɨɪɝɚɧɚɯɛɚɪɛɚɪɢɫɚɫɢɛɢɪɫɤɨɝɨ, ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɜɐɋȻɋ (ɇɨɜɨɫɢɛɢɪɫɤ, Ɋɨɫ- ɫɢɹ) ɜɡɚɜɢɫɢɦɨɫɬɢɨɬɜɨɡɪɚɫɬɚɪɚɫɬɟɧɢɣɢɮɚɡɵɫɛɨɪɚ. ɗɤɫɩɟɪɢɦɟɧɬɚɥɶɧɚɹɱɚɫɬɶ Ɋɚɫɬɢɬɟɥɶɧɵɣɦɚɬɟɪɢɚɥ. ɉɨ 2–3 ɪɚɫɬɟɧɢɹɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɯɩɨɩɭɥɹɰɢɣɛ. ɫɢɛɢɪɫɤɨɝɨɜɨɡɪɚɫɬɚ 3, 7, 12–20 ɥɟɬɛɵɥɢɫɨɛɪɚɧɵɜɪɚɡɥɢɱɧɵɟɩɟɪɢɨɞɵɜɟɝɟɬɚɰɢɢ (ɦɚɣ, ɢɸɧɶ, ɢɸɥɶ, ɚɜɝɭɫɬ 2009–2011 ɝ) ɜɚɪ- ɛɨɪɟɬɭɦɟɐɋȻɋɋɈɊȺɇ, ɇɨɜɨɫɢɛɢɪɫɤ, Ɋɨɫɫɢɹ (83.104 E, 54.821 N, 114–130 ɦɧɭɦ.). Ⱦɢɤɨɪɚɫɬɭɳɢɟɪɚɫ- ɬɟɧɢɹɛɚɪɛɚɪɢɫɚɫɢɛɢɪɫɤɨɝɨɜɨɡɪɚɫɬɚ 12–20 ɥɟɬɛɵɥɢɫɨɛɪɚɧɵɜɈɧɝɭɞɚɣɫɤɨɦɪɚɣɨɧɟɊɟɫɩɭɛɥɢɤɢȺɥɬɚɣ Ɋɨɫɫɢɹ) ɜɢɸɥɟ 2009 ɝ. Ɉɛɪɚɡɰɵɜɵɫɭɲɢɜɚɥɢɫɶɩɪɢɤɨɦɧɚɬɧɨɣɬɟɦɩɟɪɚɬɭɪɟ, ɪɚɡɞɟɥɹɥɢɫɶɧɚɫɬɟɛɥɢ (ɛɟɡ ɥɢɫɬɶɟɜ) ɢɩɨɞɡɟɦɧɭɸɱɚɫɬɶ, ɢɡɦɟɥɶɱɚɥɢɫɶ. ɈɛɪɚɡɰɵɪɚɫɬɟɧɢɣɛɵɥɢɡɚɥɨɠɟɧɵɜɝɟɪɛɚɪɢɣɐɋȻɋɋɈɊȺɇ ɩɨɞɧɨɦɟɪɚɦɢ NS-332-57, NS-332-85, NS -332-110, NS-332-197, NS-332-44, NS-332-1145. Ⱥɧɚɥɢɬɢɱɟɫɤɚɹɷɤɫɬɪɚɤɰɢɹ. ɗɤɫɬɪɚɤɰɢɹɩɪɨɜɨɞɢɥɚɫɶɞɥɹɱɟɬɵɪɟɯɩɚɪɚɥɥɟɥɶɧɵɯɩɪɨɛ. Ɍɨɱɧɭɸɧɚ- ɜɟɫɤɭ (1 ɝ) ɢɡɦɟɥɶɱɟɧɧɵɯ ɨɪɝɚɧɨɜ ɛɚɪɛɚɪɢɫɚ ɫɢɛɢɪɫɤɨɝɨ (ɤɨɪɧɢ ɢɥɢ ɫɬɟɛɥɢ) ɷɤɫɬɪɚɝɢɪɨɜɚɥɢ 12 ɦɥ 70% ɜɨɞɧɨɝɨɫɩɢɪɬɚɩɪɢɤɢɩɹɱɟɧɢɢɜɬɟɱɟɧɢɟ 2 ɱ, ɝɨɪɹɱɢɣɷɤɫɬɪɚɤɬɮɢɥɶɬɪɨɜɚɥɢ. ɗɤɫɬɪɚɤɰɢɸɩɨɜɬɨɪɹɥɢɞɜɚ- ɠɞɵɫ 10 ɦɥ 70% ɜɨɞɧɨɝɨɫɩɢɪɬɚ. Ɉɫɬɚɬɨɤɩɨɫɥɟɷɤɫɬɪɚɤɰɢɢɩɪɨɦɵɜɚɥɢ 70% ɜɨɞɧɵɦɫɩɢɪɬɨɦ, ɷɤɫɬɪɚɤɬɵ ɨɛɴɟɞɢɧɹɥɢ, ɞɨɜɨɞɢɥɢɞɨɦɟɬɤɢɜɦɟɪɧɨɣɤɨɥɛɟ (V = 50 ɦɥ). ɉɨɥɭɱɟɧɧɵɣɷɤɫɬɪɚɤɬɛɚɪɛɚɪɢɫɚɫɢɛɢɪɫɤɨɝɨ ɰɟɧɬɪɢɮɭɝɢɪɨɜɚɥɢ (10 000 ɨɛɦɢɧ, 5 ɦɢɧ) ɢɢɫɩɨɥɶɡɨɜɚɥɢɞɥɹɧɟɩɨɫɪɟɞɫɬɜɟɧɧɨɝɨɨɩɪɟɞɟɥɟɧɢɹɫɨɞɟɪɠɚɧɢɹ ɛɟɪɛɟɪɢɧɚɜɩɟɪɟɫɱɟɬɟɧɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞɦɟɬɨɞɨɦȼɗɀɏ. ȼɗɀɏɨɩɪɟɞɟɥɟɧɢɟ. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɨɩɪɟɞɟɥɹɥɢɧɚɠɢɞɤɨɫɬɧɨɦɦɢɤɪɨɤɨɥɨɧɨɱɧɨɦɯɪɨɦɚɬɨ- ɝɪɚɮɟ «ɆɢɥɢɯɪɨɦȺ-02» (ɗɤɨɧɨɜɚ, Ɋɨɫɫɢɹ). Ⱦɥɹɯɪɨɦɚɬɨɝɪɚɮɢɱɟɫɤɨɝɨɪɚɡɞɟɥɟɧɢɹɢɫɩɨɥɶɡɨɜɚɥɢɤɨɥɨɧɤɭɫ ProntoSIL-120-5-C18 AQ (5 ɦɤɦ, 2×75 ɦɦ) ɩɪɢ ɬɟɦɩɟɪɚɬɭɪɟ 35 °ɋ, ɞɚɜɥɟɧɢɢ 30ۛ36 ɚɬɦ, ɩɨɬɨɤɟ ɋȿɁɈɇɇȺəɂȼɈɁɊȺɋɌɇȺəȾɂɇȺɆɂɄȺɋɈȾȿɊɀȺɇɂəȻȿɊȻȿɊɂɇȺ … 197 150 ɦɤɥɦɢɧ. Ɉɛɴɟɦɢɧɴɟɤɰɢɢɩɪɨɛɵ – 2 ɦɤɥ. ɉɪɨɜɨɞɢɥɢɝɪɚɞɢɟɧɬɧɨɟɷɥɸɢɪɨɜɚɧɢɟɜɫɢɫɬɟɦɟɪɚɫɬɜɨɪɢɬɟ- ɥɟɣȺ (0,1% ɪɚɫɬɜɨɪɬɪɢɮɬɨɪɭɤɫɭɫɧɨɣɤɢɫɥɨɬɵɜɜɨɞɟ) ɢȻ (ɦɟɬɚɧɨɥ), ɨɬ 100% Ⱥɞɨ 100% Ȼɡɚ 25 ɦɢɧɫɨɞ- ɧɨɜɪɟɦɟɧɧɨɣɦɧɨɝɨɜɨɥɧɨɜɨɣɞɟɬɟɤɰɢɟɣɧɚɩɹɬɢɞɥɢɧɚɯɜɨɥɧ (210, 230, 260, 300, 346 ɧɦ). ȼɤɚɱɟɫɬɜɟɫɬɚɧɞɚɪɬɚɢɫɩɨɥɶɡɨɜɚɥɢɨɛɪɚɡɟɰɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚɦɨɧɨɝɢɞɪɚɬɚ, ɜɵɞɟɥɟɧɧɵɣɢɡɛ. ɫɢɛɢɪ- ɫɤɨɝɨɩɪɢɪɨɞɧɵɯɩɨɩɭɥɹɰɢɣɩɨɦɟɬɨɞɢɤɟ [13] ɩɨɫɥɟɬɪɨɣɧɨɣɩɟɪɟɤɪɢɫɬɚɥɥɢɡɚɰɢɢ. ȼɟɳɟɫɬɜɨɢɦɟɥɨɱɢɫɬɨ- ɬɭ ɩɨ ȼɗɀɏ ɛɨɥɟɟ 99%, ɭɞɨɜɥɟɬɜɨɪɢɬɟɥɶɧɵɣ ɷɥɟɦɟɧɬɧɵɣ ɚɧɚɥɢɡ ɢ ɧɟ ɫɨɞɟɪɠɚɥɨ ɩɪɢɦɟɫɟɣ ɜ ɫɩɟɤɬɪɟ əɆɊ 1ɇ. ȼɪɟɠɢɦɟɨɫɬɚɧɨɜɥɟɧɧɨɝɨɩɨɬɨɤɚɨɩɪɟɞɟɥɹɥɢɦɚɤɫɢɦɭɦɵɩɨɝɥɨɳɟɧɢɹɜɍɎɫɩɟɤɬɪɟɫɬɚɧɞɚɪɬɧɨɝɨ ɨɛɪɚɡɰɚ ɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ ɦɨɧɨɝɢɞɪɚɬɚ (230, 266, 346 ɧɦ). Ⱦɥɹ ɤɨɥɢɱɟɫɬɜɟɧɧɨɝɨ ɨɩɪɟɞɟɥɟɧɢɹ ɛɟɪɛɟɪɢɧɚ ɢɫɩɨɥɶɡɨɜɚɥɢ ɡɧɚɱɟɧɢɹ ɨɩɬɢɱɟɫɤɨɣ ɩɥɨɬɧɨɫɬɢ ɧɚ ɞɥɢɧɟ ɜɨɥɧɵ 346 ɧɦ. ɂɫɩɨɥɶɡɭɹ ɫɬɚɧɞɚɪɬɧɵɣ ɨɛɪɚɡɟɰ ɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚɦɨɧɨɝɢɞɪɚɬɚ, ɩɨɫɬɪɨɢɥɢɤɚɥɢɛɪɨɜɨɱɧɭɸɩɪɹɦɭɸɩɭɬɟɦɢɡɦɟɪɟɧɢɹɩɪɢɱɟɬɵɪɟɯɪɚɡɥɢɱ- ɧɵɯɤɨɧɰɟɧɬɪɚɰɢɹɯ, ɞɥɹɤɚɠɞɨɣɤɨɧɰɟɧɬɪɚɰɢɢɪɚɫɬɜɨɪɚɯɪɨɦɚɬɨɝɪɚɮɢɱɟɫɤɨɟɨɩɪɟɞɟɥɟɧɢɟɩɪɨɜɨɞɢɥɢɬɪɢ- ɠɞɵ, ɩɥɨɳɚɞɢɩɢɤɨɜɭɫɪɟɞɧɹɥɢ. Ʉɚɥɢɛɪɨɜɨɱɧɚɹɩɪɹɦɚɹɨɩɢɫɵɜɚɟɬɫɹɭɪɚɜɧɟɧɢɟɦ (1) ɢɩɨɤɚɡɵɜɚɟɬɯɨɪɨ- ɲɭɸɥɢɧɟɣɧɭɸɪɟɝɪɟɫɫɢɸ (r2 = 0,9974). S = 73,959·m + 0,149, (1) (1) S = 73,959·m + 0,149, ɝɞɟ m – ɦɚɫɫɚɛɟɪɛɟɪɢɧɚ, ɧɚɧɟɫɟɧɧɨɝɨɧɚɯɪɨɦɚɬɨɝɪɚɮɢɱɟɫɤɭɸɤɨɥɨɧɤɭ (ɦɤɝ), ɢ S – ɩɥɨɳɚɞɶɩɢɤɚ ɝɞɟ m – ɦɚɫɫɚɛɟɪɛɟɪɢɧɚ, ɧɚɧɟɫɟɧɧɨɝɨɧɚɯɪɨɦɚɬɨɝɪɚɮɢɱɟɫɤɭɸɤɨɥɨɧɤɭ (ɦɤɝ), ɢ S – ɩɥɨɳɚɞɶɩɢɤɚ, ɦ.o.ɟ. ɇɚɩɪɚɤɬɢɤɟɞɥɹɜɵɱɢɫɥɟɧɢɹɦɚɫɫɵɜɟɳɟɫɬɜɚɦɨɝɭɬɛɵɬɶɢɫɩɨɥɶɡɨɜɚɧɵɨɤɪɭɝɥɟɧɧɵɟɡɧɚɱɟɧɢɹɤɨ- ɷɮɮɢɰɢɟɧɬɨɜɜɭɪɚɜɧɟɧɢɢ (1), ɢɡɧɚɱɟɧɢɟɩɪɢɜɟɞɟɧɧɨɣɜɟɫɨɜɨɣɷɤɫɬɢɧɤɰɢɢɦɨɧɨɝɢɞɪɚɬɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ ɩɪɢɞɥɢɧɟɜɨɥɧɵ 346 ɧɦɦɨɠɧɨɩɪɢɧɹɬɶɪɚɜɧɵɦ 74,0r0,8 ɨɟ./ɦɝ. ɉɨɝɪɟɲɧɨɫɬɶɨɩɪɟɞɟɥɟɧɢɹɫɨɫɬɚɜɥɹɟɬɧɟ ɛɨɥɟɟ 5% (ɨɬɧɨɫɢɬ.). Ⱦɢɚɩɚɡɨɧɪɚɛɨɱɢɯɤɨɧɰɟɧɬɪɚɰɢɣ: ɜɟɪɯɧɹɹɝɪɚɧɢɰɚ – 2,0 ɦɝɦɥ; ɩɪɟɞɟɥɨɛɧɚɪɭɠɟɧɢɹ – 0,3 ɦɤɝɦɥ. Ƚɨɦɨɝɟɧɧɨɫɬɶɢɢɞɟɧɬɢɱɧɨɫɬɶɩɢɤɚɛɟɪɛɟɪɢɧɚɜɷɤɫɬɪɚɤɬɚɯɪɚɫɬɟɧɢɣɩɨɞɬɜɟɪɠɞɚɥɢɫɪɚɜɧɟɧɢɟɦɫɩɟɤ- ɬɪɚɥɶɧɵɯɨɬɧɨɲɟɧɢɣɜɪɚɡɥɢɱɧɵɯɬɨɱɤɚɯɯɪɨɦɚɬɨɝɪɚɮɢɱɟɫɤɨɝɨɩɢɤɚɢɫɪɚɜɧɟɧɢɟɦɫɨɜɪɟɦɟɧɟɦɭɞɟɪɠɢɜɚɧɢɹ ɢ ɫɩɟɤɬɪɚɥɶɧɵɦɢ ɨɬɧɨɲɟɧɢɹɦɢ ɫɬɚɧɞɚɪɬɧɨɝɨ ɨɛɪɚɡɰɚ ɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ ɦɨɧɨɝɢɞɪɚɬɚ. Ⱦɥɹ ɤɚɠɞɨɣ ɩɪɨɛɵ ɷɤɫɬɪɚɤɬɚȼɗɀɏɨɩɪɟɞɟɥɟɧɢɟɩɥɨɳɚɞɢɩɢɤɚɛɟɪɛɟɪɢɧɚɩɪɨɜɨɞɢɥɢɞɜɚɠɞɵ, ɩɨɥɭɱɟɧɧɨɟɡɧɚɱɟɧɢɟɭɫɪɟɞɧɹɥɢ. Ɋɚɫɱɟɬɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚ (ɜɩɟɪɟɫɱɟɬɟɧɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞ) ɩɪɨɜɨɞɢɥɢɫɨɝɥɚɫɧɨɭɪɚɜɧɟɧɢɸ: %, 100 0, 74 % , ɋɨɞɟɪɠɚɧɢɟ ˜ ˜ ˜ ˜ m V V S s (2) (2) ɝɞɟ S – ɭɫɪɟɞɧɟɧɧɚɹɩɥɨɳɚɞɶɩɢɤɚ, ɨɟ.; V – ɨɛɳɢɣɨɛɴɟɦɷɤɫɬɪɚɤɬɚ (50 ɦɥ = 50 000 ɦɤɥ); 74,0 – ɩɪɢɜɟɞɟɧ- ɧɚɹɜɟɫɨɜɚɹɷɤɫɬɢɧɤɰɢɹɫɬɚɧɞɚɪɬɧɨɝɨɨɛɪɚɡɰɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ (ɨɟ./ɦɝ); Vs – ɨɛɴɟɦɩɪɨɛɵ, ɜɜɨɞɢɦɵɣɞɥɹ ɚɧɚɥɢɡɚ (2 ɦɤɥ); m – ɦɚɫɫɚɪɚɫɬɢɬɟɥɶɧɨɝɨɨɛɪɚɡɰɚ (1000 ɦɝ). ɋɬɚɬɢɫɬɢɱɟɫɤɢɣɚɧɚɥɢɡ. Ⱦɥɹɬɪɟɯ±ɱɟɬɵɪɟɯɫɯɨɞɹɳɢɯɫɹɪɟɡɭɥɶɬɚɬɨɜɨɩɪɟɞɟɥɟɧɢɹɫɨɞɟɪɠɚɧɢɹɛɟɪ- ɛɟɪɢɧɚɜɵɱɢɫɥɹɥɢɫɪɟɞɧɟɟɚɪɢɮɦɟɬɢɱɟɫɤɨɟɢɫɬɚɧɞɚɪɬɧɨɟɨɬɤɥɨɧɟɧɢɟ Sx (ɭɪɚɜɧɟɧɢɟ (3)). , )1 ( ) ( 2  ˜ ' ¦ n n x S i x , )1 ( ) ( 2  ˜ ' ¦ n n x S i x (3) (3) ɢɫɥɨɢɡɦɟɪɟɧɢɣ. Ⱦɥɹɩɪɨɜɟɪɤɢɡɧɚɱɢɦɨɫɬɢɪɚɡɥɢɱɢɣɦɟɠɞɭɧɚɣɞɟɧɧɵɦɢɡɧɚɱɟɧɢɹɦɢɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɪɚɡɥɢɱ- ɧɵɯɨɛɪɚɡɰɚɯɢɫɩɨɥɶɡɨɜɚɥɢ tɬɟɫɬɋɬɶɸɞɟɧɬɚ [14]. ɗɤɫɩɟɪɢɦɟɧɬɚɥɶɧɚɹɱɚɫɬɶ Ɂɧɚɱɟɧɢɹɤɪɢɬɟɪɢɹ tɪɚɫɫɱɢɬɵɜɚɥɢɩɨɭɪɚɜɧɟɧɢɸ: , 2 2 2 1 2 1 2 1 n S n S x x t   , 2 2 2 1 2 1 2 1 n S n S x x t   , 2 2 2 1 2 1 2 1 n S n S x x t   (4) (4) ɝɞɟ 2 1 , x x – ɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɫɪɚɜɧɢɜɚɟɦɵɯɨɛɪɚɡɰɚɯ; S1, S2 – ɫɬɚɧɞɚɪɬɧɵɟɨɬɤɥɨɧɟɧɢɹ 2 1 , x x ; n1, n2 – ɱɢɫɥɨɢɡɦɟɪɟɧɢɣ. ɝɞɟ 2 1 , x x – ɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɫɪɚɜɧɢɜɚɟɦɵɯɨɛɪɚɡɰɚɯ; S1, S2 – ɫɬɚɧɞɚɪɬɧɵɟɨɬɤɥɨɧɟɧɢɹ 2 1 , x x ; n1, n2 – ɱɢɫɥɨɢɡɦɟɪɟɧɢɣ. ɂȼ. ɇȿɑȿɉɍɊȿɇɄɈ, ɇɂ. ɄɈɆȺɊɈȼȺ, Ɉɇ. ɉɈɌȬɆɄɂɇ, ɇɎ. ɋȺɅȺɏɍɌȾɂɇɈȼ 198 Ʉɨɝɞɚ n1 = n2 = 4, 2 2 2 1 2 1 2 S S x x t   ˜ . ȿɫɥɢɪɚɫɫɱɢɬɚɧɧɨɟɡɧɚɱɟɧɢɟ t > S t(P; n1+n2–2), ɬɨɫɪɚɜɧɢɜɚɟɦɵɟ Ʉɨɝɞɚ n1 = n2 = 4, 2 2 2 1 2 1 2 S S x x t   ˜ . ȿɫɥɢɪɚɫɫɱɢɬɚɧɧɨɟɡɧɚɱɟɧɢɟ t > S t(P; n1+n2–2), ɬɨɫɪɚɜɧɢɜɚɟɦɵɟ ɚɱɟɧɢɹɢɦɟɸɬɡɧɚɱɢɦɨɟɪɚɡɥɢɱɢɟ. ɉɪɢ P = 0,99, n1 = n2 = 4, St = 3,71. ɡɧɚɱɟɧɢɹɢɦɟɸɬɡɧɚɱɢɦɨɟɪɚɡɥɢɱɢɟ. ɉɪɢ P = 0,99, n1 = n2 = 4, St = 3,71. Ⱦɥɹɨɛɴɟɞɢɧɟɧɧɨɣɜɵɛɨɪɤɢɡɧɚɱɟɧɢɟɫɪɟɞɧɟɝɨɪɚɫɫɱɢɬɵɜɚɥɢɤɚɤɫɪɟɞɧɟɟɚɪɢɮɦɟɬɢɱɟɫɤɨɟɡɧɚɱɟɧɢɟ ɜɟɥɢɱɢɧ; ɫɬɚɧɞɚɪɬɧɨɟɨɬɤɥɨɧɟɧɢɟɪɚɫɫɱɢɬɵɜɚɥɢɩɨɭɪɚɜɧɟɧɢɸ: , )1 ( )1 ( 2 2 ¦ ¦  ˜  i i i i i n S n S , )1 ( )1 ( 2 2 ¦ ¦  ˜  i i i i i n S n S (5) (5) ɟɫɥɢ i = 3, n1 = n2 = n3 = 4, ɬɨ . 3 2 2 ¦ iS S Ɉɛɫɭɠɞɟɧɢɟɪɟɡɭɥɶɬɚɬɨɜ Ɇɨɪɮɨɥɨɝɢɱɟɫɤɢ ɞɥɹ ɤɨɪɧɟɜɨɣ ɫɢɫɬɟɦɵ ɛɚɪɛɚɪɢɫɚ ɫɢɛɢɪɫɤɨɝɨ ɧɚɦɢ ɜɵɞɟɥɟɧɨ ɧɟɫɤɨɥɶɤɨ ɨɫɧɨɜɧɵɯ ɫɬɚɞɢɣɪɚɡɜɢɬɢɹ. ɉɪɢɜɢɪɝɢɧɚɥɶɧɨɣɮɚɡɟ ɜɨɡɪɚɫɬɞɨ 4-ɯɥɟɬ) ɪɚɫɬɟɧɢɟɢɦɟɟɬɧɟɛɨɥɶɲɨɣɤɨɪɟɧɶ, ɦɧɨɝɨɦɟɥ- ɤɢɯɤɨɪɟɲɤɨɜ, ɩɪɢɷɬɨɦɝɥɚɜɧɵɣɫɬɟɪɠɧɟɜɨɣɤɨɪɟɧɶɧɚɱɢɧɚɟɬɨɛɨɫɨɛɥɹɬɶɫɹɤɤɨɧɰɭ 2-ɝɨɝɨɞɚɪɚɡɜɢɬɢɹ. ɉɪɢ ɩɟɪɟɯɨɞɟɜɝɟɧɟɪɚɬɢɜɧɨɟɫɨɫɬɨɹɧɢɟ ɨɬ 4-ɯɞɨ 8-ɦɢɥɟɬ) ɪɚɫɬɟɧɢɟɢɦɟɟɬɜɵɪɚɠɟɧɧɭɸɫɬɟɪɠɧɟɜɭɸɤɨɪɧɟɜɭɸ ɫɢɫɬɟɦɭ, ɰɟɧɬɪɚɥɶɧɵɣɤɨɪɟɧɶɭɜɟɥɢɱɢɜɚɟɬɫɹɜɪɚɡɦɟɪɚɯ, ɪɚɫɬɟɬɤɨɥɢɱɟɫɬɜɨɛɨɤɨɜɵɯɤɨɪɟɲɤɨɜ. Ɇɚɤɫɢɦɚɥɶ- ɧɨɝɨɪɚɡɦɟɪɚɤɨɪɟɧɶɞɨɫɬɢɝɚɟɬɤ 8-ɦɢɝɨɞɚɦ. ɉɪɢɷɬɨɦɜɰɟɧɬɪɟɧɚɱɢɧɚɟɬɫɹɨɬɦɢɪɚɧɢɟ, ɛɨɤɨɜɵɟɫɬɟɛɥɢɞɟɪɟ- ɜɟɧɟɸɬ. Ȼɵɥɨɫɨɛɪɚɧɨɩɨ 2–3 ɪɚɫɬɟɧɢɹɤɚɠɞɨɝɨɜɨɡɪɚɫɬɚɬɪɢɠɞɵɡɚɫɟɡɨɧ – ɜɧɚɱɚɥɟɜɟɝɟɬɚɰɢɢ (ɦɚɣ), ɜɫɟɪɟ- ɞɢɧɟɫɟɡɨɧɚ (ɮɚɡɚɩɥɨɞɨɧɨɲɟɧɢɹ, ɢɸɥɶ) ɢɜɤɨɧɰɟɜɟɝɟɬɚɬɢɜɧɨɝɨɫɟɡɨɧɚ (ɨɤɬɹɛɪɶ 2009 ɝ.). Ⱦɥɹɤɚɠɞɨɝɨɜɨɡ- ɪɚɫɬɧɨɝɨɫɨɫɬɨɹɧɢɹɩɪɨɜɨɞɢɥɢɨɩɪɟɞɟɥɟɧɢɟɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɢɩɨɛɟɝɚɯɪɚɫɬɟɧɢɣ. ɗɤɫɬɪɚɤɰɢɹɪɚɫɬɢɬɟɥɶɧɵɯɨɛɪɚɡɰɨɜɩɪɨɜɨɞɢɥɚɫɶɩɭɬɟɦɬɪɟɯɤɪɚɬɧɨɝɨɤɢɩɹɱɟɧɢɹɜ 70% ɷɬɚɧɨɥɟ [13]. ɗɤɫɬɪɚɤɬɵɮɢɥɶɬɪɨɜɚɥɢ, ɨɛɴɟɞɢɧɹɥɢ, ɞɨɜɨɞɢɥɢɞɨɬɨɱɧɨɝɨɨɛɴɟɦɚɜɦɟɪɧɨɣɤɨɥɛɟɢɚɧɚɥɢɡɢɪɨɜɚɥɢɦɟɬɨ- ɞɨɦȼɗɀɏ. ȼɞɚɧɧɵɯɭɫɥɨɜɢɹɯɪɚɡɞɟɥɟɧɢɹɛɟɪɛɟɪɢɧɜɵɯɨɞɢɬɝɨɦɨɝɟɧɧɵɦɩɢɤɨɦɫɨɜɪɟɦɟɧɟɦɭɞɟɪɠɢɜɚ- ɧɢɹ 1660–1694 ɦɤɥ (ɩɢɤ, ɨɬɦɟɱɟɧɧɵɣɡɧɚɤɨɦ *, ɧɚɪɢɫɭɧɤɟ 2). Ʉɨɥɢɱɟɫɬɜɟɧɧɨɟ ɨɩɪɟɞɟɥɟɧɢɟ ɫɨɞɟɪɠɚɧɢɹ ɛɟɪɛɟɪɢɧɚɜɩɟɪɟɫɱɟɬɟɧɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞɦɨɧɨɝɢɞɪɚɬɩɪɨɜɨɞɢɥɢɩɭɬɟɦɫɪɚɜɧɟɧɢɹɩɥɨɳɚɞɢɩɢɤɚɧɚɯɪɨ- ɦɚɬɨɝɪɚɦɦɟɫɩɥɨɳɚɞɶɸɩɢɤɚɫɬɚɧɞɚɪɬɧɨɝɨ ɨɛɪɚɡɰɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚɦɨɧɨɝɢɞɪɚɬɚ, ɞɥɹɤɨɬɨɪɨɝɨɩɪɢɜɟ- ɞɟɧɧɚɹ ɜɟɫɨɜɚɹ ɷɤɫɬɢɧɤɰɢɹ ɫɨɫɬɚɜɢɥɚ 74,0r0,8 ɨɟ./ɦɝ. ɋɨɞɟɪɠɚɧɢɟ ɛɟɪɛɟɪɢɧɚ ɜ ɨɛɪɚɡɰɟ ɪɚɫɫɱɢɬɵɜɚɥɢ ɜɩɪɨɰɟɧɬɚɯɨɬɜɟɫɚɫɭɯɨɝɨɪɚɫɬɟɧɢɹ. Ɋɟɡɭɥɶɬɚɬɵɨɩɪɟɞɟɥɟɧɢɹɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɨɛɪɚɡɰɚɯɤɨɪɧɟɣɢɫɬɟɛɥɟɣɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɛɚɪ- ɛɚɪɢɫɚɫɢɛɢɪɫɤɨɝɨɫɛɨɪɚ 2009 ɝ. ɩɪɢɜɟɞɟɧɵɜɬɚɛɥɢɰɟ 1. ɋɪɚɜɧɟɧɢɟɞɚɧɧɵɯɩɨɤɚɡɵɜɚɟɬ, ɱɬɨɫɨɞɟɪɠɚɧɢɟɛɟɪ- ɛɟɪɢɧɚɜɤɨɪɧɹɯɩɪɟɜɵɲɚɟɬɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɫɬɟɛɥɹɯɜ 3–5 ɪɚɡ. ȼɫɟɪɟɞɢɧɟɫɟɡɨɧɚɢɦɟɟɬɫɹɦɚɤɫɢɦɭɦ ɧɚɤɨɩɥɟɧɢɹɛɟɪɛɟɪɢɧɚɢɜɤɨɪɧɹɯ, ɢɜɫɬɟɛɥɹɯ. ɉɪɢɢɡɭɱɟɧɢɢɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɩɨɛɟɝɚɯɧɚɣɞɟɧɨ, ɱɬɨ ɛɟɪɛɟɪɢɧɩɪɚɤɬɢɱɟɫɤɢɧɟɫɨɞɟɪɠɢɬɫɹɜɫɜɟɠɟɨɬɪɨɫɲɢɯɤɨɧɰɚɯɜɟɬɨɤ (0,02%); ɜɬɨɥɫɬɵɯɩɨɛɟɝɚɯ, ɨɤɪɚɲɟɧɧɵɯ ɧɚɢɡɥɨɦɟɜɠɟɥɬɵɣɰɜɟɬ, ɧɚɣɞɟɧɨ 0,18% ɛɟɪɛɟɪɢɧɚ (ɬɨɱɤɚ «ɂɸɥɶ 2009, ɉɨɛɟɝɢ, ɉɪɢɪɨɞɧɚɹ 12 – 20»). ɉɪɨɜɟ- ɞɟɧɨɫɪɚɜɧɟɧɢɟɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɛ. ɫɢɛɢɪɫɤɨɝɨ, ɩɪɨɢɡɪɚɫɬɚɸɳɟɝɨɜɩɪɢɪɨɞɧɵɯɭɫɥɨɜɢɹɯ (Ɉɧ- ɝɭɞɚɣɫɤɢɣɪɚɣɨɧɊɟɫɩɭɛɥɢɤɢȺɥɬɚɣ) ɢɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɜɭɫɥɨɜɢɹɯɐɋȻɋ. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɞɢ- ɤɨɪɚɫɬɭɳɢɯɜɡɪɨɫɥɵɯɤɨɪɧɹɯ (12–20 ɥɟɬ) ɧɟɫɤɨɥɶɤɨɜɵɲɟ, ɱɟɦɜɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɯ (1,42 ɢ 1,21%, ɫɨɨɬɜɟɬ- ɫɬɜɟɧɧɨ; ɬɨɱɤɢ «ɂɸɥɶ 2009, Ʉɨɪɧɢ, ɉɪɢɪɨɞɧɚɹ 12 – 20» ɢ «ɂɧɬɪɨɞɭɤɰɢɹ, 12 – 20»), ɧɨɪɚɡɥɢɱɢɟɧɟɨɱɟɧɶɡɧɚ- ɱɢɬɟɥɶɧɨɟ. ɋɞɪɭɝɨɣɫɬɨɪɨɧɵ, ɤɨɪɧɢɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɛɚɪɛɚɪɢɫɚɢɦɟɸɬɛɨɥɶɲɟɟɨɬɧɨɫɢɬɟɥɶɧɨɟɫɨɞɟɪɠɚ- ɧɢɟɛɟɪɛɟɪɢɧɚ, ɱɬɨɦɨɠɟɬɨɛɥɟɝɱɢɬɶɩɪɟɩɚɪɚɬɢɜɧɨɟɜɵɞɟɥɟɧɢɟɛɟɪɛɟɪɢɧɚ (ɫɦ. ɪɢɫ. 2 ɚ, ɛ). Ⱦɚɧɧɵɟɬɚɛɥɢɰɵ 1 ɩɨɤɚɡɵɜɚɸɬ, ɱɬɨɜɵɞɟɥɟɧɢɟɛɟɪɛɟɪɢɧɚɢɡɧɚɞɡɟɦɧɨɣɱɚɫɬɢɛ. ɫɢɛɢɪɫɤɨɝɨɹɜɥɹɟɬɫɹ ɧɟɬɟɯɧɨɥɨɝɢɱɧɵɦ, ɬɚɤɤɚɤɨɧɢɫɨɞɟɪɠɚɬɧɢɡɤɨɟɤɨɥɢɱɟɫɬɜɨɛɟɪɛɟɪɢɧɚɢɛɨɥɶɲɨɟɤɨɥɢɱɟɫɬɜɨɞɪɭɝɢɯɤɨɦ- ɩɨɧɟɧɬɨɜ. ɋɨɨɬɜɟɬɫɬɜɟɧɧɨ, ɞɥɹɩɨɥɭɱɟɧɢɹɛɟɪɛɟɪɢɧɚɯɥɨɪɢɞɚɧɟɨɛɯɨɞɢɦɚɡɚɝɨɬɨɜɤɚɤɨɪɧɟɣɛ. ɫɢɛɢɪɫɤɨɝɨ, ɧɟɫɦɨɬɪɹɧɚɬɨ, ɱɬɨɷɬɨɩɪɢɜɨɞɢɬɤɭɧɢɱɬɨɠɟɧɢɸɪɚɫɬɟɧɢɹ. ɇɟɨɛɯɨɞɢɦɨɨɬɜɟɬɢɬɶɧɚɜɨɩɪɨɫ – ɧɚɫɤɨɥɶɤɨ ɞɨɥɝɨɫɥɟɞɭɟɬɜɵɪɚɳɢɜɚɬɶɛ. ɫɢɛɢɪɫɤɢɣɞɥɹɞɨɫɬɢɠɟɧɢɹɦɚɤɫɢɦɚɥɶɧɨɝɨɜɵɯɨɞɚɛɟɪɛɟɪɢɧɚ? ɉɪɟɞɫɬɚɜɥɹɟɬ- ɫɹ, ɱɬɨɩɨɫɤɨɥɶɤɭɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɫɬɚɪɵɯɤɨɪɧɹɯ (ɛɨɥɟɟ 8 ɥɟɬ) ɧɟɩɪɟɜɵɲɚɟɬɡɧɚɱɢɬɟɥɶɧɨɫɨɞɟɪ- ɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɜɨɡɪɚɫɬɚ 6–7 ɥɟɬ, ɧɟɰɟɥɟɫɨɨɛɪɚɡɧɨɜɵɪɚɳɢɜɚɬɶɛɚɪɛɚɪɢɫɛɨɥɟɟ 6–8-ɦɢɥɟɬ. ɋȿɁɈɇɇȺəɂȼɈɁɊȺɋɌɇȺəȾɂɇȺɆɂɄȺɋɈȾȿɊɀȺɇɂəȻȿɊȻȿɊɂɇȺ … 199 Ɋɢɫ. 2. ɏɪɨɦɚɬɨɝɪɚɦɦɚȼɗɀɏɷɤɫɬɪɚɤɬɚɤɨɪɧɟɣɛ. ɫɢɛɢɪɫɤɨɝɨ: ɚ) ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɣɩɨɩɭɥɹɰɢɢ, ɛ) ɩɪɢ- ɪɨɞɧɨɣɩɨɩɭɥɹɰɢɢ. ɉɢɤɛɟɪɛɟɪɢɧɚɨɬɦɟɱɟɧɡɧɚɤɨɦ (*) Ɋɢɫ. 2. ɏɪɨɦɚɬɨɝɪɚɦɦɚȼɗɀɏɷɤɫɬɪɚɤɬɚɤɨɪɧɟɣɛ. ɫɢɛɢɪɫɤɨɝɨ: ɚ) ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɣɩɨɩɭɥɹɰɢɢ, ɛ) ɩɪɢ- Ɋɢɫ. 2. ɏɪɨɦɚɬɨɝɪɚɦɦɚȼɗɀɏɷɤɫɬɪɚɤɬɚɤɨɪɧɟɣɛ. ɫɢɛɢɪɫɤɨɝɨ: ɚ) ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɣɩɨɩɭɥɹɰɢɢ, ɛ) ɩɪɢ- ɪɨɞɧɨɣɩɨɩɭɥɹɰɢɢ. ɉɢɤɛɟɪɛɟɪɢɧɚɨɬɦɟɱɟɧɡɧɚɤɨɦ (*) Ɍɚɛɥɢɰɚ 1. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ, ɩɪɨɰɟɧɬɨɬɫɭɯɨɝɨɜɟɫɚ, ɜɤɨɪɧɹɯɢɩɨɛɟɝɚɯɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨ ɢɩɪɢɪɨɞɧɨɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ, 2009 ɝ. ɉɨɩɭɥɹɰɢɹ, ɜɨɡɪɚɫɬ, ɥɟɬ Ɇɚɣ 2009 ɂɸɥɶ 2009 Ɉɤɬɹɛɪɶ 2009 Ʉɨɪɧɢ ɉɨɛɟɝɢ Ʉɨɪɧɢ ɉɨɛɟɝɢ Ʉɨɪɧɢ ɉɨɛɟɝɢ ɂɧɬɪɨɞɭɤɰɢɹ, 2–4 0,54±0,01 0,23±0,01 0,60±0,02 0,29±0,03 0,66±0,02 0,20±0,03 ɂɧɬɪɨɞɭɤɰɢɹ, 6–7 0,83±0,03 0,17±0,02 1,13±0,05 0,14±0,04 0,67±0,01 0,03±0,02 ɂɧɬɪɨɞɭɤɰɢɹ, 12–20 0,63±0,02 0,19±0,02 1,21±0,01 0,29±0,02 0,31±0,01 0,037±0,004 ɉɪɢɪɨɞɧɚɹ, 12–20 1,42±0,02 0,18±0,01a 0,023±0,001ɛ ɉɪɢɦɟɱɚɧɢɹ: aɫɬɚɪɵɟɩɨɛɟɝɢ; ɛɦɨɥɨɞɵɟɩɨɛɟɝɢ. ɛɥɢɰɚ 1. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ, ɩɪɨɰɟɧɬɨɬɫɭɯɨɝɨɜɟɫɚ, ɜɤɨɪɧɹɯɢɩɨɛɟɝɚɯɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨ ɢɩɪɢɪɨɞɧɨɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ, 2009 ɝ. ɇɚɦɢɩɪɨɜɟɞɟɧɨɞɨɩɨɥɧɢɬɟɥɶɧɨɟɢɫɫɥɟɞɨɜɚɧɢɟɤɨɪɧɟɣɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ, ɫɰɟɥɶɸ ɭɬɨɱɧɟɧɢɹ ɞɢɧɚɦɢɤɢ ɧɚɤɨɩɥɟɧɢɹ ɛɟɪɛɟɪɢɧɚ ɞɥɹ ɪɚɫɬɟɧɢɣ ɜɨɡɪɚɫɬɧɵɯ ɫɨɫɬɨɹɧɢɣ 3 ɢ 7 ɥɟɬ, ɫɨɛɪɚɧɧɵɯ ɜ 2010 ɢ 2011 ɝɝ., ɪɟɡɭɥɶɬɚɬɵɩɪɢɜɟɞɟɧɵɜɬɚɛɥɢɰɟ 2. Ⱦɥɹɤɚɠɞɨɣɞɚɬɵɫɛɨɪɚɩɪɨɜɟɞɟɧɨɫɬɚɬɢɫɬɢɱɟɫɤɨɟ ɫɪɚɜɧɟɧɢɟɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɬɪɟɯ- ɢɫɟɦɢɥɟɬɧɢɯɪɚɫɬɟɧɢɣɫɢɫɩɨɥɶɡɨɜɚɧɢɟɦ t-ɬɟɫɬɚɋɬɶɸ- ɞɟɧɬɚ (ɭɪɚɜɧɟɧɢɟ 4) [14]. Ɋɟɡɭɥɶɬɚɬɵɫɬɚɬɢɫɬɢɱɟɫɤɨɝɨɚɧɚɥɢɡɚɩɨɤɚɡɵɜɚɸɬ, ɱɬɨɦɨɠɧɨɝɨɜɨɪɢɬɶɨɩɪɟɞɟɥɟɧ- ɧɨɨɡɧɚɱɢɦɨɦɪɚɡɥɢɱɢɢɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɩɨɩɭɥɹɰɢɹɯɬɪɟɯ- ɢɫɟɦɢɥɟɬɧɢɯɪɚɫɬɟɧɢɣ. ɂȼ. ɇȿɑȿɉɍɊȿɇɄɈ, ɇɂ. ɄɈɆȺɊɈȼȺ, Ɉɇ. ɉɈɌȬɆɄɂɇ, ɇɎ. ɋȺɅȺɏɍɌȾɂɇɈȼ 200 Ɍɚɛɥɢɰɚ 2. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ, ɩɪɨɰɟɧɬɨɬɫɭɯɨɝɨɜɟɫɚ, ɜɤɨɪɧɹɯɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ, 2010 ɢ 2011 ɝɝ. ȼɨɡɪɚɫɬ, ɥɟɬ 31.05.2010 01.07.2010 20.07.2010 07.08.2010 29.08.2010 30.05.2011 28.06.2011 28.07.2011 31.08.2011 3 1,49±0,03 0,86±0,04 0,98±0,04 0,78±0,02 0,64±0,01 0,66±0,02 0,97±0,03 1,05±0,04 1,22±0,01 7 1,17±0,04 1,17±0,01 1,15±0,02 0,95±0,02 1,14±0,01 1,18±0,04 1,06±0,01 1,20±0,03 0,92±0,03 Ɍɚɛɥɢɰɚ 2. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ, ɩɪɨɰɟɧɬɨɬɫɭɯɨɝɨɜɟɫɚ, ɜɤɨɪɧɹɯɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ, 2010 ɢ 2011 ɝɝ. Ⱦɚɧɧɵɟɜɬɚɛɥɢɰɚɯ 1 ɢ 2 ɩɨɤɚɡɵɜɚɸɬ, ɱɬɨɜɤɨɪɧɹɯɛɚɪɛɚɪɢɫɚɜɨɡɪɚɫɬɚ 7 ɥɟɬɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ ɧɚɯɨɞɢɬɫɹɧɚɞɨɜɨɥɶɧɨɛɨɥɶɲɨɦɭɪɨɜɧɟɢɤɨɥɟɛɥɟɬɫɹɧɟɡɧɚɱɢɬɟɥɶɧɨɤɚɤɜɬɟɱɟɧɢɟɜɟɝɟɬɚɰɢɨɧɧɨɝɨɫɟɡɨɧɚ, ɬɚɤɢɜɪɚɡɥɢɱɧɵɯɝɨɞɚɯ. ɋȿɁɈɇɇȺəɂȼɈɁɊȺɋɌɇȺəȾɂɇȺɆɂɄȺɋɈȾȿɊɀȺɇɂəȻȿɊȻȿɊɂɇȺ … ɋȿɁɈɇɇȺəɂȼɈɁɊȺɋɌɇȺəȾɂɇȺɆɂɄȺɋɈȾȿɊɀȺɇɂəȻȿɊȻȿɊɂɇȺ … 201 Ɂɚɤɥɸɱɟɧɢɟ Ɋɟɡɭɥɶɬɚɬɵ ɪɚɛɨɬɵɩɨɤɚɡɵɜɚɸɬ, ɱɬɨɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɣ ɛ. ɫɢɛɢɪɫɤɢɣ ɹɜɥɹɟɬɫɹ ɷɮɮɟɤɬɢɜɧɵɦ ɢɫ- ɬɨɱɧɢɤɨɦɞɥɹɩɨɥɭɱɟɧɢɹɚɥɤɚɥɨɢɞɚɛɟɪɛɟɪɢɧɚ. Ɉɧɯɨɪɨɲɨɩɪɨɢɡɪɚɫɬɚɟɬɜɯɨɥɨɞɧɨɦɤɥɢɦɚɬɟɢɞɨɫɬɢɝɚɟɬ ɨɩɬɢɦɚɥɶɧɨɝɨɜɟɫɚɤɨɪɧɟɣɤɜɨɡɪɚɫɬɭ 6–8 ɥɟɬ. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɬɚɤɢɯɤɨɪɧɹɯɜɚɪɶɢɪɭɟɬɫɹɧɟɡɧɚɱɢ- ɬɟɥɶɧɨɜɬɟɱɟɧɢɟɫɟɡɨɧɚɜɟɝɟɬɚɰɢɢɢɫɨɫɬɚɜɥɹɟɬɜɫɪɟɞɧɟɦ 1,10%, ɦɚɤɫɢɦɚɥɶɧɨɟɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɛɵ- ɥɨɧɚɣɞɟɧɨɜɢɸɥɟ (1,16r0,03%). Ʉɨɪɧɢɛɨɥɟɟɦɨɥɨɞɨɝɨɜɨɡɪɚɫɬɚ (3–4 ɝɨɞɚ) ɢɦɟɸɬɧɚɦɧɨɝɨɦɟɧɶɲɭɸɦɚɫ- ɫɭɢɫɨɞɟɪɠɚɬɦɟɧɶɲɟɟɤɨɥɢɱɟɫɬɜɨɛɟɪɛɟɪɢɧɚ. ɂɫɩɨɥɶɡɨɜɚɧɢɟɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɧɵɯɩɨɩɭɥɹɰɢɣɛɚɪɛɚɪɢɫɚ ɞɥɹɩɪɨɢɡɜɨɞɫɬɜɚɛɢɨɥɨɝɢɱɟɫɤɢɚɤɬɢɜɧɵɯɫɨɟɞɢɧɟɧɢɣɦɨɠɟɬɩɨɦɨɱɶɜɫɨɯɪɚɧɟɧɢɢɩɪɢɪɨɞɧɵɯɩɨɩɭɥɹɰɢɣ ɪɚɫɬɟɧɢɣ. Ɉɛɫɭɠɞɟɧɢɟɪɟɡɭɥɶɬɚɬɨɜ Ɇɨɠɧɨɡɚɤɥɸɱɢɬɶ, ɱɬɨɧɚɢɥɭɱɲɢɦɜɪɟɦɟɧɟɦɞɥɹɫɛɨɪɚɤɨɪɧɟɣɜɨɡɪɚɫɬɚ 7 ɥɟɬɹɜ- ɥɹɟɬɫɹ ɢɧɬɟɪɜɚɥ 20–30 ɢɸɥɹ, ɤɨɬɨɪɵɣ ɫɨɨɬɜɟɬɫɬɜɭɟɬ ɬɨɱɤɚɦ «ɂɸɥɶ 2009 ɝ.» (ɬɚɛɥ. 1), «20.07.2010» ɢ 28.07.2011 (ɬɚɛɥ. 2). ɋɨɝɥɚɫɧɨɬɟɫɬɭɩɨ tɤɪɢɬɟɪɢɸɋɬɶɸɞɟɧɬɚ, ɷɬɢɬɨɱɤɢ (ɡɧɚɱɟɧɢɹ 1,13r0,05; 1,15r0,02; 1,20r0,03 ɫɨɨɬɜɟɬɫɬɜɟɧɧɨ) ɩɪɢɧɚɞɥɟɠɚɬɨɞɧɨɣɜɵɛɨɪɤɟ (ɧɟɢɦɟɸɬɡɧɚɱɢɦɵɯɨɬɥɢɱɢɣ). ɉɪɢɨɛɴɟɞɢɧɟɧɢɢ ɷɬɢɯɜɵɛɨɪɨɤɦɵɩɨɥɭɱɚɟɦɭɫɪɟɞɧɟɧɧɨɟɡɧɚɱɟɧɢɟɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɢɸɥɟɢɟɝɨɫɬɚɧɞɚɪɬɧɨɟɨɬɤɥɨ- ɧɟɧɢɟ (ɭɪɚɜɧɟɧɢɟ 5), ɤɨɬɨɪɵɟɫɨɫɬɚɜɥɹɸɬ 1,16r0,03 %. ɉɨɞɚɧɧɵɦɡɚ 2010 ɢ 2011 ɝɝ., ɫɪɟɞɧɟɟɫɨɞɟɪɠɚɧɢɟ ɛɟɪɛɟɪɢɧɚɜɬɟɱɟɧɢɟɜɫɟɝɨ ɫɟɡɨɧɚɜɟɝɟɬɚɰɢɢɫɨɫɬɚɜɢɥɨ 1,10%, ɤɪɚɣɧɢɟɨɬɤɥɨɧɟɧɢɹ ɨɬɫɪɟɞɧɟɝɨɡɧɚɱɟɧɢɹ ɫɨɫɬɚɜɢɥɢ +0,10 ɢ –0,18%. ɗɬɨɨɡɧɚɱɚɟɬ, ɱɬɨɤɨɪɧɢɜɨɡɪɚɫɬɚ 7 ɥɟɬɦɨɠɧɨɫɨɛɢɪɚɬɶɧɟɬɨɥɶɤɨɜɨɩɬɢɦɚɥɶɧɨɟ ɜɪɟɦɹ, ɢɩɪɢɷɬɨɦɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɛɭɞɟɬɥɢɲɶɧɟɧɚɦɧɨɝɨɧɢɠɟ. Ⱦɥɹ ɤɨɪɧɟɣ ɛɚɪɛɚɪɢɫɚ ɜɨɡɪɚɫɬɚ 3 ɝɨɞɚ ɤɚɪɬɢɧɚ ɫɨɞɟɪɠɚɧɢɹ ɛɟɪɛɟɪɢɧɚ ɹɜɥɹɟɬɫɹ ɛɨɥɟɟ ɫɥɨɠɧɨɣ. ȼ 2010 ɢ 2011 ɝɝ. ɞɢɧɚɦɢɤɚɧɚɤɨɩɥɟɧɢɹɛɟɪɛɟɪɢɧɚɧɟɫɨɜɩɚɞɚɟɬ. Ⱦɨɥɠɧɵɛɵɬɶɩɪɨɜɟɞɟɧɵɞɨɩɨɥɧɢɬɟɥɶɧɵɟ ɢɫɫɥɟɞɨɜɚɧɢɹ ɞɥɹ ɬɨɝɨ, ɱɬɨɛɵ ɨɩɪɟɞɟɥɢɬɶ – ɨɛɭɫɥɨɜɥɟɧɵ ɥɢ ɡɧɚɱɟɧɢɹ ɜ ɬɨɱɤɚɯ «31.05.2010» (1,49%) ɢ 31.08.2011 (1,22%) (ɬɚɛɥ. 2) ɨɫɨɛɟɧɧɨɫɬɹɦɢɤɥɢɦɚɬɢɱɟɫɤɢɯɭɫɥɨɜɢɣɞɚɧɧɵɯɫɟɡɨɧɨɜɢɥɢɞɪɭɝɢɦɢɮɚɤɬɨ- ɪɚɦɢ. ȿɫɥɢɧɟɪɚɫɫɦɚɬɪɢɜɚɬɶɷɬɢɬɨɱɤɢ, ɬɨɜɢɞɧɨ, ɱɬɨ ɜɰɟɥɨɦɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɜɨɡɪɚɫɬɚ 3 ɝɨɞɚɦɟɧɶɲɟ, ɱɟɦɜɤɨɪɧɹɯɜɨɡɪɚɫɬɚ 7 ɥɟɬ. Ⱦɚɧɧɵɟ ɡɚ 2009 ɢ 2011 ɝɝ. ɞɥɹ ɬɪɟɯɥɟɬɧɢɯɤɨɪɧɟɣɩɨɤɚɡɵɜɚɸɬɭɜɟɥɢɱɟɧɢɟɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚ ɜɤɨɧɰɟɜɟɝɟɬɚɬɢɜɧɨɝɨɫɟɡɨɧɚ, ɱɬɨɩɪɨɬɢɜɨɩɨɥɨɠɧɨɞɚɧɧɵɦɩɨɫɟɦɢɥɟɬɧɢɦɤɨɪɧɹɦ, ɢɦɟɸɳɢɦɦɚɤɫɢɦɭɦ ɜɫɟɪɟɞɢɧɟɫɟɡɨɧɚ. ɋɥɟɞɭɟɬɨɬɦɟɬɢɬɶ, ɱɬɨɫɨɝɥɚɫɧɨɥɢɬɟɪɚɬɭɪɧɵɦɞɚɧɧɵɦ, ɞɥɹɛɚɪɛɚɪɢɫɨɜ, ɩɪɨɢɡɪɚɫɬɚɸ- ɳɢɯɜɛɨɥɟɟɠɚɪɤɢɯɪɟɝɢɨɧɚɯ (ɜɨɡɪɚɫɬɧɟɢɡɜɟɫɬɟɧ), ɦɚɤɫɢɦɚɥɶɧɨɟɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɧɚɛɥɸɞɚ- ɥɨɫɶɜɤɨɧɰɟɜɟɝɟɬɚɬɢɜɧɨɝɨɫɟɡɨɧɚ [9, 10]. ɋɞɪɭɝɨɣɫɬɨɪɨɧɵ, ɞɢɧɚɦɢɤɚɧɚɤɨɩɥɟɧɢɹɛɟɪɛɟɪɢɧɚɜɩɨɩɭɥɹɰɢɹɯ ɛ. ɫɢɛɢɪɫɤɨɝɨ, ɩɪɨɢɡɪɚɫɬɚɸɳɢɯɜɊɟɫɩɭɛɥɢɤɟȺɥɬɚɣ (Ɋɨɫɫɢɹ) (ɤɚɤɧɚɢɛɨɥɟɟɛɥɢɡɤɢɯɤɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɦɜ ɇɨɜɨɫɢɛɢɪɫɤɟ), ɧɟɢɡɭɱɚɥɚɫɶ. Ɉɱɟɜɢɞɧɨ, ɱɬɨɫɩɟɪɟɯɨɞɨɦɨɬɜɢɪɝɢɧɢɥɶɧɨɝɨ (v) ɫɨɫɬɨɹɧɢɹɪɚɫɬɟɧɢɹ (3 ɝɨɞɚ) ɤ ɝɟɧɟɪɚɬɢɜɧɨɦɭ (g1, g2) (7 ɥɟɬ) ɯɚɪɚɤɬɟɪɛɢɨɫɢɧɬɟɡɚɜɬɨɪɢɱɧɵɯɦɟɬɚɛɨɥɢɬɨɜɦɨɠɟɬɦɟɧɹɬɶɫɹ, ɢɞɢɧɚɦɢɤɚɧɚ- ɤɨɩɥɟɧɢɹɛɟɪɛɟɪɢɧɚɦɨɠɟɬɬɚɤɠɟɢɡɦɟɧɢɬɶɫɹ. ȼɟɪɨɹɬɧɨɬɚɤɠɟ, ɧɚɛɥɸɞɚɟɦɵɟɪɚɡɥɢɱɢɹɜɞɢɧɚɦɢɤɟɧɚɤɨɩɥɟ- ɧɢɹɛɟɪɛɟɪɢɧɚɦɟɠɞɭɫɟɦɢɥɟɬɧɢɦɢɪɚɫɬɟɧɢɹɦɢ, ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɦɢɜɐɋȻɋ, ɢɩɪɢɪɨɞɧɵɦɢɩɨɩɭɥɹɰɢɹɦɢ, ɨɩɢɫɚɧɧɵɦɢɜɥɢɬɟɪɚɬɭɪɟ, ɨɛɭɫɥɨɜɥɟɧɵɪɚɡɥɢɱɢɟɦɩɪɢɪɨɞɧɵɯɢɤɥɢɦɚɬɢɱɟɫɤɢɯɭɫɥɨɜɢɣ. ɉɪɢɫɪɚɜɧɟɧɢɢɬɪɟɯ- ɢɫɟɦɢɥɟɬɧɢɯɤɨɪɧɟɣɦɨɠɧɨɜɢɞɟɬɶ, ɱɬɨɢɯɫɵɪɨɣɜɟɫɫɨɫɬɚɜɥɹɟɬ 20–30 ɝɞɥɹ ɬɪɟɯɥɟɬɧɢɯɤɨɪɧɟɣɢɨɤɨɥɨ 70–100 ɝɞɥɹɫɟɦɢɥɟɬɧɢɯ. ɉɪɢɦɟɯɚɧɢɡɢɪɨɜɚɧɧɨɣɨɛɪɚɛɨɬɤɟɧɚ 1 ɦ2ɰɟɥɟɫɨɨɛ- ɪɚɡɧɨ ɜɵɪɚɳɢɜɚɧɢɟ 6–8 ɤɨɪɧɟɣɛɚɪɛɚɪɢɫɚ, ɱɬɨɦɨɠɟɬ ɞɚɬɶ ɭɪɨɠɚɣɧɨɫɬɶ ɨɤɨɥɨ 4.8 ɬɨɧɧɵ ɧɚ ɝɟɤɬɚɪ ɞɥɹ ɬɪɟɯɥɟɬɧɢɯɤɨɪɧɟɣ (ɫɨɛɪɚɧɨ 2 ɭɪɨɠɚɹ), ɢɥɢɨɤɨɥɨ 8 ɬɨɧɧɫɝɟɤɬɚɪɚɞɥɹɫɟɦɢɥɟɬɧɢɯɤɨɪɧɟɣ (ɫɨɛɪɚɧɨɞɢɧ ɭɪɨɠɚɣ). ɋɥɟɞɨɜɚɬɟɥɶɧɨ, ɜɵɪɚɳɢɜɚɧɢɟɫɟɦɢɥɟɬɧɢɯɤɨɪɧɟɣɹɜɥɹɟɬɫɹɛɨɥɟɟɩɪɟɞɩɨɱɬɢɬɟɥɶɧɵɦɞɥɹɩɪɨɢɡ- ɜɨɞɫɬɜɚɛɟɪɛɟɪɢɧɚ. ɇɟɨɛɯɨɞɢɦɨɛɵɥɨɬɚɤɠɟɫɨɩɨɫɬɚɜɢɬɶ ɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯ, ɨɩɪɟɞɟɥɟɧɧɨɟ ɩɨȼɗɀɏ, ɢ ɜɵɯɨɞɩɪɨɞɭɤɬɚ (ɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ) ɩɪɢɜɵɞɟɥɟɧɢɢ. Ȼɵɥɚɩɪɢɝɨɬɨɜɥɟɧɚɨɛɴɟɞɢɧɟɧɧɚɹɩɪɨɛɚɢɧɬɪɨɞɭɰɢɪɨ- ɜɚɧɧɵɯ ɤɨɪɧɟɣ ɛɚɪɛɚɪɢɫɚ, ɞɥɹ ɤɨɬɨɪɨɣ ɚɧɚɥɢɬɢɱɟɫɤɨɟ ɨɩɪɟɞɟɥɟɧɢɟ ɞɚɟɬ ɫɨɞɟɪɠɚɧɢɟ ɛɟɪɛɟɪɢɧɚ 0,95±0,03%. ɉɪɢɷɤɫɬɪɚɤɰɢɢɨɛɪɚɡɰɚɢɞɚɥɶɧɟɣɲɟɣɟɝɨɨɛɪɚɛɨɬɤɟɩɨɦɟɬɨɞɢɤɟ [13] ɛɵɥɨɩɨɥɭɱɟɧɛɟɪɛɟ- ɪɢɧɯɥɨɪɢɞɫɜɵɯɨɞɨɦ 0,62%. Ⱦɥɹɫɪɚɜɧɟɧɢɹ, ɩɪɢɷɤɫɬɪɚɤɰɢɢɤɨɪɧɟɣɞɢɤɨɪɚɫɬɭɳɟɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ (ɫɨɞɟɪ- ɠɚɧɢɟɛɟɪɛɟɪɢɧɚ 1,42±0,02%, ɫɦ. ɬɚɛɥ. 1, ɬɨɱɤɚ «ɂɸɥɶ 2009 ɝ., Ʉɨɪɧɢ, ɉɪɢɪɨɞɧɚɹ 12 – 20»), ɛɟɪɛɟɪɢɧɯɥɨ- ɪɢɞɛɵɥɩɨɥɭɱɟɧɫɜɵɯɨɞɨɦ 0,71%. ȿɫɥɢɩɪɢɧɹɬɶɭɪɨɠɚɣɧɨɫɬɶɫɟɦɢɥɟɬɧɢɯɤɨɪɧɟɣɛ. ɫɢɛɢɪɫɤɨɝɨɪɚɜɧɨɣ 8 ɬɝɚ, ɫɭɯɨɣɜɟɫɤɨɪɧɟɣ – ɨɤɨɥɨɩɨɥɨɜɢɧɵɫɵɪɨɝɨɜɟɫɚ, ɢɜɵɯɨɞɛɟɪɛɟɪɢɧɚɪɚɜɧɵɦ 0,62%, ɬɨɦɨɠɧɨɩɨɥɭ- ɱɢɬɶɨɤɨɥɨ 25 ɤɝɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚɦɨɧɨɝɢɞɪɚɬɚɫ 1 ɝɚ. ɉɨɫɬɭɩɢɥɨɜɪɟɞɚɤɰɢɸ 23 ɚɩɪɟɥɹ 2013 ɝ. 14. ȾɺɪɮɮɟɥɶɄ. ɋɬɚɬɢɫɬɢɤɚɜɚɧɚɥɢɬɢɱɟɫɤɨɣɯɢɦɢɢ. Ɇ., 1994. 268 ɫ. References Shlykov G.N. Introdyktsiya i akklimatizatsiya rastenii. [Introduction and akklimatization of plants]. Moscow, 1963 488 p. (in Russ.). 2. Petrovskaya-Baranova T.P. Fisiologiya adaptatsii i introdyktsii rastenii. [Physiology of adaptation and introduction of plants]. Moscow, 1983. 152 p. (in Russ.). 2. Petrovskaya-Baranova T.P. Fisiologiya adaptatsii i introdyktsii rastenii. [Physiology of adaptation and introduction of plants]. Moscow, 1983. 152 p. (in Russ.). 3. Nechepurenko I.V., Salakhutdinov N.F., Tolstikov G.A. Khimiya v Interesakh Ustoichivogo Razvitiya, 2010, vol. 18, pp. 1–23. (in Russ.). 3. Nechepurenko I.V., Salakhutdinov N.F., Tolstikov G.A. Khimiya v Interesakh Ustoichivogo Razvitiya, 2010, vol. 18, pp. 1–23. (in Russ.). Tillhon M., Ortiz L.M.G., Lombardi P., Scovassi A.I. Biochemical Pharmacology, 2012, vol. 84, pp. 1260–1267. (in Russ.). gy pp 5. Malysheva L.I., Peshkovoii G.A. Flora Sibiri. [The flora of Siberia]. Novosibirsk, 1994, vol. 7, pp. 9–10. . Malysheva L.I., Peshkovoii G.A. Flora Sibiri. [The flora of Siberia]. Novosibirsk, 1994, vol. 7, pp. 9–10. 6. Vstovskaya T.N., Koropachinskii I.Y. Drevesnye rasteniya tsentralnogo sibirskogo botanicheskogo sada. [Wood plants in Central Siberian Botanical Garden]. Novosibirsk, 2005. 234 p. 6. Vstovskaya T.N., Koropachinskii I.Y. Drevesnye rasteniya tsentralnogo sibirskogo botanicheskogo sada. [Wood plants in Central Siberian Botanical Garden]. Novosibirsk, 2005. 234 p. . Karimov A., Levkovich M.G., Abdullaev N.D., Shakirov R. Chemistry of Natural Compounds, 1993, vol. 29 361–364. (Khimiya prirodnykh soedinenii, 1993, no. 3, pp. 424–428. (in Russ.).). 361 364. (Khimiya prirodnykh soedinenii, 1993, no. 3, pp. 424 428. (in Russ.).). 8. Istatkova R., Philipov S., Tuleva P., Amgalan S., Samdan J., Dangaa S. Comptes Rendus de l'Academie Bulgare des Sciences 2007 vol 60 pp 1177–1182 Istatkova R., Philipov S., Tuleva P., Amgalan S., Samdan J., Dangaa S. Comptes Rendus de l'Academie Bulgare des Sciences, 2007, vol. 60, pp. 1177–1182. 9. Karimov A., Shakirov R.S. Chemistry of Natural Compounds, 1992, vol. 28, pp. 524–525. (Khimiya prirodnykh soedinenii, 1992, no. 5, pp. 597–596. (in Russ.).). 9. Karimov A., Shakirov R.S. Chemistry of Natural Compounds, 1992, vol. 28, pp. 524–525. (Khimiya prirodnykh soedinenii, 1992, no. 5, pp. 597–596. (in Russ.).). pp 10. Yoo S.J., Lee K.B., Kwak J.H. Saengyak Hakhoechi, 1986, vol. 17, pp. 123–128. 10. Yoo S.J., Lee K.B., Kwak J.H. Saengyak Hakhoech 11. Karimov A., Meliboev S., Olimov V., Shakirov R. Chemistry of Natural Compounds, 1993, vol. 29, pp. 4 (Khimiya prirodnykh soedinenii, 1993, no. 3, pp. 472–473. (in Russ.).). 12. Andola H.C., Gaira K.S., Rawal R.S., Rawat M.S.M., Bhatt I.D. * Corresponding author. Nechepurenko I.V.1*, Komarova N.I.1, Potemkin O.N.2, Salakhutdinov N.F.1 SEASONAL AND AGE VARIATIONS OF BERBERINE CONTENT IN INTRODUCED BERBERIS SIBIRICA PALL. Vorozhtzov Novosibirskii Institute of Organic Chemistry o 1N.N. Vorozhtzov Novosibirskii Institute of Organic Chemistry of the Siberian Branch of Russian Academy of Sciences, Lavrent'eva ave., 9, Novosibirsk, 630090 (Russia), e-mail: niv@nioch.nsc.ru 1N.N. Vorozhtzov Novosibirskii Institute of Organic Chemistry of the Siberian Branch of Russian Academy of Sciences, 1N.N. Vorozhtzov Novosibirskii Institute of Organic Chemistry of the Siberian Branch of Russian Academy of Sciences, Lavrent'eva ave., 9, Novosibirsk, 630090 (Russia), e-mail: niv@nioch.nsc.ru 2 Central Siberian Botanical Garden of the Siberian Branch of Russian Academy of Sciences, Zolotodolinskay str., 101, Novosibirsk, 630090 (Russia) The content of isoquinoline alkaloid berberine was studied by means of HPLC in the roots and the above-ground part of introduced Berberis sibirica Pall. of various ages collected during different periods of three vegetative seasons. The roots con- tain 3–5 times more berberine than the stems. The content of berberine in 7-year-old roots varies slightly during the season; its mean value was 1.10% and maximum content was found in July (1,16r0.03%). The roots of the age of 3 years contain fewer berberine. Berberine chloride has been preparatively isolated from the introduced roots containing 0,95% of berberine; the yield was 0,62%, which is close to the value typical for obtaining berberine chloride from wild roots. yp g Keywords: berberine; Berberis sibirica; alkaloids dynamics; introduction; HPLC. ɋɩɢɫɨɤɥɢɬɟɪɚɬɭɪɵ 1. ɒɥɵɤɨɜȽɇ. ɂɧɬɪɨɞɭɤɰɢɹɢɚɤɤɥɢɦɚɬɢɡɚɰɢɹɪɚɫɬɟɧɢɣ, Ɇ., 1963. 488 ɫ. . ɉɟɬɪɨɜɫɤɚɹȻɚɪɚɧɨɜɚɌɉ. Ɏɢɡɢɨɥɨɝɢɹɚɞɚɩɬɚɰɢɢɢɢɧɬɪɨɞɭɤɰɢɹɪɚɫɬɟɧɢɣ, Ɇ., 1983. 152 ɫ. 2. ɉɟɬɪɨɜɫɤɚɹȻɚɪɚɧɨɜɚɌɉ. Ɏɢɡɢɨɥɨɝɢɹɚɞɚɩɬɚɰɢɢɢɢɧɬɪɨɞɭɤɰɢɹɪɚɫɬɟɧɢɣ, Ɇ., 1983. 152 ɫ. 3. ɇɟɱɟɩɭɪɟɧɤɨɂȼ., ɋɚɥɚɯɭɬɞɢɧɨɜɇɎ., ɌɨɥɫɬɢɤɨɜȽȺ. Ȼɟɪɛɟɪɢɧ: ɯɢɦɢɹɢɛɢɨɥɨɝɢɱɟɫɤɚɹɚɤɬɢɜɧɨɫɬɶ // ɏɢɦɢɹ ɜɢɧɬɟɪɟɫɚɯɭɫɬɨɣɱɢɜɨɝɨɪɚɡɜɢɬɢɹ. 2010. Ɍ. 18, ʋ1. ɋ. 1–23. 3. ɇɟɱɟɩɭɪɟɧɤɨɂȼ., ɋɚɥɚɯɭɬɞɢɧɨɜɇɎ., ɌɨɥɫɬɢɤɨɜȽȺ. Ȼɟɪɛɟɪɢɧ: ɯɢɦɢɹɢɛɢɨɥɨɝɢɱɟɫɤɚɹɚɤɬɢɜɧɨɫɬɶ // ɏɢɦɢɹ ɜɢɧɬɟɪɟɫɚɯɭɫɬɨɣɱɢɜɨɝɨɪɚɡɜɢɬɢɹ. 2010. Ɍ. 18, ʋ1. ɋ. 1–23. 4. Tillhon M., Ortiz L.M.G., Lombardi P., Scovassi A.I., Berberine: New perspectives for old remedies // Biochemical Pharmacology. 2012. Vol. 84. Pp. 1260–1267. 4. Tillhon M., Ortiz L.M.G., Lombardi P., Scovassi A.I., Berberine: New perspectives for old remedies // Biochemical Pharmacology. 2012. Vol. 84. Pp. 1260–1267. 5. ɆɚɥɵɲɟɜɚɅɂ., ɉɟɲɤɨɜɨɣȽȺ. Ɏɥɨɪɚɋɢɛɢɪɢ. ɇɨɜɨɫɢɛɢɪɫɤ, 1994. Ɍ. 7. ɋ. 9. 5. ɆɚɥɵɲɟɜɚɅɂ., ɉɟɲɤɨɜɨɣȽȺ. Ɏɥɨɪɚɋɢɛɢɪɢ. ɇɨɜɨɫɢɛɢɪɫɤ, 1994. Ɍ. 7. ɋ. 9 6. ȼɫɬɨɜɫɤɚɹɌɇ., Ʉɨɪɨɩɚɱɢɧɫɤɢɣɂɘ. Ⱦɪɟɜɟɫɧɵɟɪɚɫɬɟɧɢɹɰɟɧɬɪɚɥɶɧɨɝɨɫɢɛɢɪɫɤɨɝɨɛɨɬɚɧɢɱɟɫɤɨɝɨɫɚɞɚ. ɇɨ- ɜɨɫɢɛɢɪɫɤ, 2005. 234 ɫ. 7. Ʉɚɪɢɦɨɜ A., Ʌɟɜɤɨɜɢɱ M.Ƚ., ȺɛɞɭɥɥɚɟɜɇȾ., ɒɚɤɢɪɨɜɊ. Ⱥɥɤɚɥɨɢɞɵ Berberis. XXIX. ɂɫɫɥɟɞɨɜɚɧɢɟɚɥɤɚɥɨɢ- ɞɨɜ Berberis sibirica // ɏɢɦɢɹɩɪɢɪɨɞɧɵɯɫɨɟɞɢɧɟɧɢɣ. 1993. ʋ3. ɋ. 424–428. 8. Istatkova R., Philipov S., Tuleva P., Amgalan S., Samdan J., Dangaa S., Alkaloids from Mongolian species sibirica Pall. // Comptes Rendus de l'Academie Bulgare des Sciences. 2007. Vol. 60. Pp. 1177–1182. 9. ɄɚɪɢɦɨɜȺ., ɒɚɤɢɪɨɜɊɒ. Ⱥɥɤɚɥɨɢɞɵ Berberis. XIV. Ⱦɢɧɚɦɢɤɚɧɚɤɨɩɥɟɧɢɹɚɥɤɚɥɨɢɞɨɜɜ Berberis oblonga // ɏɢɦɢɹɩɪɢɪɨɞɧɵɯɫɨɟɞɢɧɟɧɢɣ. 1992. ʋ5. C. 597–598. 10. Yoo S.J., Lee K.B., Kwak J.H., Studies on the seasonal variation of berberine contents in Berberis koreana // Saengyak Hakhoechi. 1986. Vol. 17. Pp. 123–128. 11. ɄɚɪɢɦɨɜȺ., Ɇɟɥɢɛɨɟɜɋ., Ɉɥɢɦɨɜȼ., ɒɚɤɢɪɨɜɊ. Ⱥɥɤɚɥɨɢɞɵ Berberis. XXX. Ⱦɢɧɚɦɢɤɚɧɚɤɨɩɥɟɧɢɹɚɥɤɚɥɨɢ- ɞɨɜ Berberis integerrimaɢ B. nummularia // ɏɢɦɢɹɩɪɢɪɨɞɧɵɯɫɨɟɞɢɧɟɧɢɣ. 1993. ʋ3. C. 472–473. 12. Andola H.Ch., Gaira K.S., Rawal R.S., Rawat M.S.M., Bhatt I.D., Habitat-Dependent Variations in Berberine Content of Berberis asiatica Roxb. ex. DC. in Kumaon, Western Himalaya // Chemistry & Biodiversity. 2010. Vol. 7. Pp. 415–420. 13. ɉɚɬɟɧɬ 2423992 (ɊɎ). ɋɩɨɫɨɛɩɨɥɭɱɟɧɢɹɩɚɤɢɫɬɚɧɚɦɢɧɚɢɛɟɪɛɟɪɢɧɚɯɥɨɪɢɞɚɢɡ Berberis sibirica / ɂȼ. ɇɟɱɟ- ɩɭɪɟɧɤɨ, Ɇɉ. ɉɨɥɨɜɢɧɤɚ, ɇɂ. Ʉɨɦɚɪɨɜɚ, ɇɎ. ɋɚɥɚɯɭɬɞɢɧɨɜ, ȽȺ. Ɍɨɥɫɬɢɤɨɜ // Ȼɂ. 2011. ʋ20. 14. ȾɺɪɮɮɟɥɶɄ. ɋɬɚɬɢɫɬɢɤɚɜɚɧɚɥɢɬɢɱɟɫɤɨɣɯɢɦɢɢ. Ɇ., 1994. 268 ɫ. 202 ɂȼ. ɇȿɑȿɉɍɊȿɇɄɈ, ɇɂ. ɄɈɆȺɊɈȼȺ, Ɉɇ. ɉɈɌȬɆɄɂɇ, ɇɎ. ɋȺɅȺɏɍɌȾɂɇɈȼ ɂȼ. ɇȿɑȿɉɍɊȿɇɄɈ, ɇɂ. ɄɈɆȺɊɈȼȺ, Ɉɇ. ɉɈɌȬɆɄɂɇ, ɇɎ. ɋȺɅȺɏɍɌȾɂɇɈȼ Nechepurenko I.V.1*, Komarova N.I.1, Potemkin O.N.2, Salakhutdinov N.F.1 SEASONAL AND AGE VARIATIONS OF BERBERINE CONTENT IN INTRODUCED BERBERIS SIBIRICA PALL. References Habitat-Dependent Variations in Berberine Content of Berberis asiatica Roxb. ex. DC. in Kumaon, Western Himalaya. Chemistry & Biodiversity, 2010, vol. 7, pp. 415–420. 13. Patent 2423992 (RU). 2011. 13. Patent 2423992 (RU). 2011. Doerffel K. Statistika v analyticheskoi chimii. [Statistik in der analytischen Chemie]. Moscow, 1994. 268 p. (in Russ.). Received January 27, 2013
https://openalex.org/W2976602102
https://www.matec-conferences.org/10.1051/matecconf/201929202003/pdf
English
null
Networking solutions for connecting bluetooth low energy devices - a comparison
MATEC web of conferences
2,019
cc-by
6,668
Networking solutions for connecting bluetooth low energy devices - a comparison Mostafa Labib1,*, Atef Ghalwash1, Sarah Abdulkader1, and Mohamed Elgazzar2 1Faculty of Computers and Information, Helwan University, Egypt 2Vodafone Company, Egypt 1Faculty of Computers and Information, Helwan University, Egypt 2Vodafone Company, Egypt Abstract. The Bluetooth Low Energy (BLE) is an attractive solution for implementing low-cost, low power consumption, short-range wireless transmission technology and high flexibility wireless products,which working on standard coin-cell batteries for years. The original design of BLE is restricted to star topology networking, which limits network coverage and scalability. In contrast, other competing technologies like Wi-Fi and ZigBee overcome those constraints by supporting different topologies such as the tree and mesh network topologies. This paper presents a part of the researchers' efforts in designing solutions to enable BLE mesh networks and implements a tree network topology which is not supported in the standard BLE specifications. In addition, it discusses the advantages and drawbacks of the existing BLE network solutions. During analyzing the existing solutions, we highlight currently open issues such as flooding-based and routing-based solutions to allow end-to-end data transmission in a BLE mesh network and connecting BLE devices to the internet to support the Internet of Things (IoT). The approach proposed in this paper combines the default BLE star topology with the flooding based mesh topology to create a new hybrid network topology. The proposed approach can extend the network coverage without using any routing protocol. Keywords: Bluetooth Low Energy, Wireless Sensor Network, Industrial Wireless Mesh Network, BLE Mesh Network, Direct Acyclic Graph, Time Division Duplex, Time Division Multiple Access, Internet of Things. Keywords: Bluetooth Low Energy, Wireless Sensor Network, Industrial Wireless Mesh Network, BLE Mesh Network, Direct Acyclic Graph, Time Division Duplex, Time Division Multiple Access, Internet of Things. © The Authors, published by EDP Sciences. This is an open access article distributed under the terms of the Creative Commons Attribution License 4.0 (http://creativecommons.org/licenses/by/4.0/). DP Sciences. This is an open access article distributed under the terms of the Creative Commons Attribution License 4.0 ses/by/4 0/) , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 https://doi.org/10.1051/matecconf/201929202003 1 Introduction perspective (WSN). These parameters include the power consumption of the network, latency, data transmission speed, node recognition, routing, and failure detection. Power consumption is considered one of the most important parameters, as the node’s battery life depends on the power it consumes [2]. Wireless sensor networks (WSNs) are a group of connected sensors used for collecting, recording and monitoring the physical parameters of the environment and sending the collected data to a central device. As Examples of the environmental conditions that can be measured using the WSNs are a person's heart rate, pollution levels, sounds, temperature, humidity, bicycle's tire pressure, wind and so on. Wireless sensor networks can be configured using several wireless technologies such as ANT, ZigBee, Nike+, Classic Bluetooth, Bluetooth Low Energy and other wireless technologies. The different aspects of those wireless technologies have been compared and evaluated in [1]. p [ ] The default BLE specifications support only the star network topology, Where a master device connects to many slave devices to form a star shape. It is impossible to configure more complex network topology depending only on the basic BLE specifications [2], and in turn, the coverage area and scalability of the network is limited.WSN configurations can be one of the Star, Mesh, and Tree topologies or a mixed form. So building BLE networks using different topologies can reduce the power consumption while increasing the network coverage [2]. One of the simplest solution to expand the communication coverage is the Tree topology. The Tree topology network is usually used because the multi-hop relaying is possible, meanwhile the communication distance is limited by just one hop distance in the star topology network [3]. The Bluetooth Low Energy (BLE), also marketed as Bluetooth Smart, is extensively adopted in most smart phones. It plays a major communication channel for the wide range of industrial applications as well as the personal applications like Lighting, home automation, motion detection, Location-based services, fitness, sports and so on. There are some parameters which are important from the Wireless Sensor Networks' , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 https://doi.org/10.1051/matecconf/201929202003 To implement a tree topology, three different nodes are designed: the root node, the intermediate node and the leaf node. In a mesh topology, devices communicate locally to form Pico-nets comprising of devices in master and slave roles. 1 Introduction The Pico-nets connect via common devices and form a scatter-net [2].One of the main advantages of tree topology is its simplicity, but sending data directly to the other nodes on the same level of the tree is an impossible task, on the other hand, the main advantage of mesh topology is its ability in increasing the coverage area but mesh topology is very complex structure [3]. The term of Bluetooth Low Energy (BLE) has been defined for the first time in 2010 by SIG (Bluetooth Special Interest Group)as a part of Bluetooth 4.0specification [6], since then, subsequently Bluetooth versions have been published such as, Bluetooth 4.1, Bluetooth 4.2, and Bluetooth 5.0 [7,8,9]. The following sections will describe the BLE’s protocol stack and the main features of the BLE versions which have already been mentioned, emphasizing the support aspects related to different network topologies. The classic Bluetooth and BLE have similar protocol stacks, where the Bluetooth Low Energy consists of two main components, the Controller and the Host as shown in Figure 1. The two components can reside on the same physical device or on different devices. The Controller is the logical entity that is responsible for the physical layer and the link layer, which performs the radio interference related tasks, while the Host implements the functionalities of the upper layers and support applications [10]. An important issue of research in wireless networks is to dynamically organize the nodes into a wireless network and route the data from the source to the destination. The former BLE based networks do not perform routing, but its devices broadcast packets through the network over BLE advertising channels which is called flooding techniques [4]. This paper presents different existing techniques for configuring BLE tree and BLE mesh networks. We provide taxonomy for BLE network solutions, whereby we have divided the identified solutions into two main categories, namely: tree network solutions and mesh network solutions. This paper has considered and analyzed some of recent existing BLE trees and mesh network proposals to the best of our knowledge. Fig. 1. BLE stack (adapted from [10]) In this paper, we propose a new approach based on merging the default Bluetooth Low Energy “BLE” star topology with the flooding based mesh topology. 1 Introduction The new hybrid network topology makes use of the simplicity of creating BLE star topology with the power of broadcasting messages using the flooding based mesh topology without any routing technique. The last section of this paper discusses the importance of connecting BLE devices to the Internet to support the Internet of Things IoT networks and its products. Fig. 1. BLE stack (adapted from [10]) The physical layer Controls radio transmission/receiving where at The Physical layer, The BLE defines 40 Radio Frequency (RF) channels in the 2.4 GHz Industrial Scientific Medical (ISM) band. Three of them, the advertising channels, are assigned specifically for advertising and discovery services. The remaining 37 data channels are intended for bidirectional exchange of data between devices. Adaptive frequency hopping method is also used over data channels to minimize interference from other technologies (Bluetooth® and Wireless LAN) in the 2.4 GHz ISM Band. The data transmission rate is 1 Mbit/s [10]. This paper is organized as follows. Section II, an overview of Bluetooth Low Energy is presented, while section III explores the BLE based tree topology networks. Section IV discusses the BLE based mesh topology networks. In section V, a new hybrid network approach is proposed. Section VI discusses an IoT based system using BLE devices. Finally, section VII has the conclusions and possible future works. The Link Layer is a hardware-firmware co- implementation. It’s responsible for a variety of tasks such as managing the physical BLE connections between devices, defining packet structure, supporting all Link Layer states such as Advertising, Scanning, Initiating, and Connecting Master and Slave, figure. 2, in addition, providing link layer-level encryption [11]. L2CAP layer “Logical Link Control and Adaption Layer Protocol” works as an interface between the Host and Controller. It provides connection-oriented and connection-less data services to the upper layer protocols using segmentation, multiplexing and reassembly capabilities [11]. 2 Bluetooth Low Energy Overview Bluetooth specifications can be classified into two main standard protocols, namely, classic Bluetooth and low- Energy (BLE) Bluetooth, also marketed as Bluetooth Smart. The classic Bluetooth, with its revised versions of the original Bluetooth standard, provide data rates up to 3 Mbps. Unlike classic Bluetooth, the BLE is targeted to enable a short range wireless communication with an emphasis on low-data rate energy constrained applications. In addition to low-power, the aim of BLE is to enable the design of low-cost and less complex radio transceivers for both cost and resources (i.e. Memory) sensitive applications[5]. 2 , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 https://doi.org/10.1051/matecconf/201929202003 Fig. 2. BLE Link Layer States Flowchart [12] masters, it may happen that the Connection Events CEs assigned to the same slave by different masters, figure.4 [13]. Section 4.2.1 in this paper presents one of the researchers’ effort in solving Connection Events overlap problem. Fig. 4. Example of topology with the CE overlaps problem (adapted from [13]) Fig. 2. BLE Link Layer States Flowchart [12] As we mentioned above, the Bluetooth Low Energy standard is limited to point-to-point simple one-level star topology, the problem with this topology is its lack of ability to extend the network’s range. In the case of a star topology, the center node is the master and the nodes around it are slaves, figure. 3. The slave nodes can’t communicate with each other directly, so the master can maintain multiple connections, while the slaves can’t have more than one connection at a time [13]. Fig. 4. Example of topology with the CE overlaps problem (adapted from [13]) The Bluetooth V4.2 specification was published in 2014. Bluetooth V4.2 does not provide further functionality to support BLE mesh networks. But this version of Bluetooth focused on increasing the possibilities of BLE technology for the IoT. So this version incorporated improvements mainly in three areas; Internet connectivity, improved security, and higher throughput [8]. Fig. 3. BLE Star topology (adapted from [14]) The Bluetooth V5.0 specification was published in late 2016. Bluetooth V5.0 does not provide further functionality to support BLE mesh networks beyond those in Bluetooth V4.1. However, this new Bluetooth specification offered many improvements in terms of range, data rate, and advertising channel functionality [9]. 2 Bluetooth Low Energy Overview In the last couple of years, several approaches have been proposed to overcome the BLE network topology limitations while maintaining the advantages of low- energy and low-cost communications. The next section presents different researchers' efforts in designing solutions to implement a tree network topology and enable BLE mesh networks. Fig. 3. BLE Star topology (adapted from [14]) Bluetooth 4.0 prevents a slave node from participating in multiple connections simultaneously with other masters. Thus, the star topology is the only allowed network topology in a BLE network based on the Bluetooth 4.0 specification [6]. The Bluetooth 4.1 specification was released in 2013. Bluetooth 4.1 has a fundamental change with regard to BLE mesh network support; a slave node is allowed to be simultaneously connected to more than one master device, regardless of its Link Layer role. It can run multiple Link Layer instances simultaneously without limitation. In addition, one device can act as a slave node at certain intervals and as a master node at others, keeping parallel communications with its neighbors. Those specifications opened the door for creating extended network topologies such as the mesh network topology and tree network topology. However, the architecture and mechanisms for the formation and operation of a BLE mesh network and tree network are not defined in the Bluetooth 4.1 specification [7]. 3 BLE Based Tree Topology Networks Tree topology is considered one of the simplest solutions that can still be used to extend the coverage area of the network. Any tree based network consists of three different types of nodes: root node, intermediate nodes and leaf nodes. Figure 5 illustrates an example of a tree network topology consisting of different specified nodes. Where each node in any tree based network has different characteristics [2]: • Root node: This node is the central device according to the definition of the BLE specifications. It is the main node in the tree network, and all other nodes expand from this node. This node receives and manages all the data in the network and relays them to the external or other connected networks [2]. In the standard BLE star topology V4.1 specification, a master can rule the timing and synchronization of all the network nodes. The time is divided into units called Connection Event (CE), where in each Connection Event a different channel can be used. Some issues are raised in the networks in which the slaves connect to multiple • Intermediate node: This node connects two or more nodes located at higher and lower positions in the hierarchy of a tree network. This node consists of 3 , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 https://doi.org/10.1051/matecconf/201929202003 both a central device and a peripheral device which are connected together internally [2]. proposed network is suitable for collecting data in a BLE based Wireless Sensor Networks (WSN). • Leaf nodes: this node connects to only one node higher up in the hierarchy of the tree network; it is always set to be a peripheral device. It transmits the measured data from the sensor node to the upper node [2]. • Leaf nodes: this node connects to only one node higher up in the hierarchy of the tree network; it is always set to be a peripheral device. It transmits the measured data from the sensor node to the upper node [2]. other parameters like communication range, power consumption and latency are tested using the proposed approach in [2]. It found that the communication range between two nodes using the designed hardware is around 8 meters. 3 BLE Based Tree Topology Networks The node life based on power consumption measurements were carried out for both devices and which are powered by an individual battery of 250 mAh during the performing of different activities of BLE protocol such as advertising, scanning, and empty connection events is 202 days for peripheral devices and 60 days for central devices (connected to three peripherals) [2]. Fig. 5. Tree Network Realized with BLE [2] Latency in the proposed network [2] can be referred to as the time it takes for sensor data from any node to reach the root node. There is no exact measurement for this parameter because of the different node positions in the tree hierarchy. The main drawback of the proposed network in [2] is that, the network size is constrained by the two byte variable which is used for nodes addressing. Fig. 5. Tree Network Realized with BLE [2] Another solution for constructing Tree based networks was published in 2015 [3]; the work in paper [3] proposes a method to implement the tree topology network using the BLE devices. The proposed method suggests switching the Central and Peripheral modeof the BLE module in each network node according to a time similar to the Time Division Duplex system, the main feature of the proposed method in [3] is to extend the communication coverage between the nodes at the different layers of the tree topology. Nodes addressing is the main step in configuring any tree network, where each node has a unique identity number (Figure 6). This identity number is stored as a variable "N-Bytes variable". Using node addressing and to transmit data from the lower sensors to the central root node, the data is passed wirelessly from lower hierarchy nodes on up to higher hierarchy nodes and so on towards the root node. The routing path is determined by extracting the address pattern, where the relationship between parent and child can be determined by the ID number [3]. BLE Mode Switching using a Time Division Duplex (TDD) system: In the tree topology, the data communication between the nodes in the same layer does not happen. Instead, all the communication is done between the nodes in the adjacent layers, which are parent or child nodes. However, if the nodes in the adjacent layers are in the same mode (master/slave), the communication between them is impossible. Fig. 8. Data Sending [3] The main drawback of the proposed network [3] is that, the coverage area of the proposed network still limited to node identifier size. In addition to, sending data directly to the other nodes on the same level is impossible task. BLEmesh is a Bounded flooding technique which utilizes the broadcasting capability of wireless transmissions. Bounded flooding technique restricts the process of rebroadcasting in intermediate nodes by only allowing a subset of these to participate in broadcasting operations [16]. BLEmesh protocol has been compared with the other conventional routing method and the flood method and the experiments approved that BLEmesh increases overall energy efficiency of a network [16]. 3 BLE Based Tree Topology Networks TransceivingCycle [3] Fig. 7. TransceivingCycle [3] Fig. 8. Data Sending [3] Fig. 9. The Bluetooth Low Energy mesh network solutions. 4.1 BLE Flooding Based Solutions: Flooding-based solution (which uses advertising channels) is the simplest way to send data from node to node within the network, since it requires neither any routing protocol nor defining the relation (Parent and Childs) between the different nodes. In the last few years, many BLE flooding based solutions have been proposed such as CSRmesh protocol [15], BLEmesh protocol [16], Silvair solution [17], Estimote solution [18] and Mindtree Bluetooth Mesh solutions [19]. Fig. 7. TransceivingCycle [3] Cambridge Silicon Radio (CSR) mesh protocol has been released on Feb. 2014; CSR mesh is a flooding mesh protocol that uses BLE’s non connectable advertisements to send data to individual devices, groups, sub-groups or all devices. CSRmesh protocol has a simple mechanism of flooding mesh, scalable up to 64,000 devices or groups per network; CSRmesh’s setup time is close to zero. In addition, it does not need to maintain a routing table [15]. 3 BLE Based Tree Topology Networks The nodes within a tree topology should be able to support both operational modes (master/slave) simultaneously. Especially, in case of the intermediate nodes which may communicate with both the parent and child nodes while maintaining the double connections to them [3]. Fig. 6. Tree network nodes Addressing [3] Switching the operation mode of the nodes in the adjacent layers is synchronized by the synchronization algorithm using the timing Information that is delivered through Beacon packet. As shown in figure 7 the root node and the intermediate nodes transmit Beacon to notify the TX cycle begin. Since the transmitted Beacon contains all the timing information to switch the operating mode, the child node that receives this Beacon can synchronize their switching time of operation mode to their parent nodes [3]. Fig. 6. Tree network nodes Addressing [3] Depending on the size of the identity number network levels can be determined. For example, if the size of the stored identity number is 2 Bytes and If the root node is considered to be level 0, then the tree network can expand up to 5 levels and then the maximum number of nodes in each level is 7 nodes. Thus the network size which is considered an important parameter to determine the coverage area for WSN is limited by the size of the variable which is used for addressing [2]. Figure 8 shows the detailed algorithm to deliver data, where each node in the Peripheral mode uses an Advertisement packet to transfer data. If nodes in the Peripheral mode at the Level 2 transmit advertisement packets at a given time, the node in the Central mode in the adjacent layer receives the data. When the data is received, the receiving node checks the ID of data to identify from where the data came from. If the data came The objective of the proposed approach in [2] is creating a tree network with uniquely addressable nodes to read different combinations of sensors, so the 4 , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 https://doi.org/10.1051/matecconf/201929202003 from the child node, it prepares to retransmit to their parent node. After a certain time period, Transceiving cycle, if the operation mode of the node at Level 1 is changed to the Peripheral mode, then it retransmits data from their child to their parent. Fig. 9. The Bluetooth Low Energy mesh network solutions. Fig. 7. 4 BLE Based Mesh Topology Networks A wireless mesh network is a network topology in which each smart device (e.g., Smartphone, tablet, wearable, and laptop) can transfer the data for the network. Some or all the devices in the network cooperate in sharing the data in the network. A mesh networking solution can be used to overcome the limitations of short range and restricted BLE star topology. To implement a mesh network topology, devices communicate locally to form Pico-nets comprising of devices in master and slave roles. The Pico-nets are connected via common devices to form a scatter-net [2]. A mesh networks use flooding and routing techniques for relaying the data (Figure 9). The main advantage of using the flooding techniques is its simplicity, in addition to; it does not require any routing protocol, which increases memory consumption due to routing tables and their maintenance, and therefore flooding techniques avoiding delay due to route creation. Flooding technique is very noisy technique where it consumes an inefficient number of messages to achieve end-to-end communication between two devices [4]. Table 1 presents a set of BLE mesh network solutions which have been proposed in the last few years and its mesh paradigm and intended applications. We will discuss some of them in this paper and present the main advantages and disadvantage of each one. 5 , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 https://doi.org/10.1051/matecconf/201929202003 Table 1. Summary of BLE mesh network solutions and its intended applications (adapted from [4]) Proposal Name Year Mesh Paradigm Application [15] CSRmesh 2014 Flooding Lighting, HVAC, switch manager, physical access authorization, smart home [16] BLEmesh 2015 Flooding Multi-purpose [17] Silvair solution 2016 Flooding Smart lighting [18] Estimote solution 2016 Flooding Beacons for motion detection, guiding [19] Mindtree Bluetooth Mesh 2016 Flooding Multi-purpose [13] RT-BLE 2015 Routing , Smart office and home automation [20] BLE-MESH.com 2014 Routing Smart city and home automation [21] NXP 2015 Routing Smart home, smart city, lighting [22] IlumiMeshTek 2016 Flooding/Routing Smart home, remote control, health monitor [23] Wirepas and Nordic Semiconductor 2014 N/A Smart home, smart city, smart door lock, lighting, sport, fitness, health, virtual reality [24] Cypress 2016 N/A Health, fitness, home appliances, toys [25] Telink Semiconductor 2016 N/A Lighting, home automation, smart office, smart cities, remote controls, human interface devices, wearable devices Table 1. 4.2 BLE Routing Based Solutions: Routing is the process of transferring the packets from one network node to another one. Routing-based solution is one of the most important issues in studying communication between nodes within any BLE network. It uses advertising channels to send routing protocol messages but use data channels for data transmission [28, 29]. Routing-based solutions for BLE networks can be divided in two parts, static routing based solutions and dynamic routing based solutions p p pp The RT-BLE protocol proposed in paper [13] proposes a solution for Connection Events CEs overlap problem and enables the creation of meshed networks. The main idea to achieve this result is to create multiple networks (here called sub-networks), each one is coordinated by a master. The sub-networks can share one or multiple slave that acts as “bridges” between the sub-networks (Figure.10). Increasing network scalability, solving Connection Event overlap problem and finding the shortest route between nodes to maintain network energy consumption and speed up data transmission are the main challenges of routing-based solutions. The routing technique consumes lesser power than flooding technique. One of the main drawbacks of routing-based solutions is creating routing tables for each node in the network which require greater memory [4]. Fig. 10. Example of RT-BLE network topology [13]. 4 BLE Based Mesh Topology Networks Summary of BLE mesh network solutions and its intended applications (adapted from [4]) Bluetooth 4.1 to increase the BLE network scalability while providing real-time support for data packets. The proposed approach in [13] is considered a clear example of the static routing based solution. The proposed protocol uses a Time Division Multiple Access (TDMA) approach with an optimized transmission allocation that provides data packets with real time support. 4.2.2 Dynamic Routing-Based Solutions: The major contributions of the work in [30] are as follows: The proposed BMN architecture does not require any modification in the existing BLE stack and it developed an algorithm using Direct Acyclic Graph (DAG) in order to allow all nodes in the network to have nearly equal hop count distances from the root. In addition to, it uses the weight balancing technique to reduce the energy consumption and delay and increase the throughput. Dynamic routing allows the routers to learn and adapt automatically to network changes and even system failures. Dynamic routing is preferred over static routing in solving the problem of link/node failure. The following paragraphs present one of the proposed solutions to enable BLE networks using dynamic routing techniques. The work in [30] proposes a mesh network for mobile (non-static) devices using BLE version 4.1specifications, where a BLE device can be a master in one network and can act as a slave in another network, thus allowing the possibility for the formation of a mesh network. It suggests a method for developing a prototype of the BLE mesh network (BMN) using the Android operating system. The proposed BMN is suitable for mobile or static BLE devices. It also assumes that the any BLE device can act as a root node. In a DAG, a network is not suitable if the distance between the root and leaf nodes is high. The technique proposes a procedure for balancing the tree with reference to the root called weight balancing procedure. The proposed approach in [30] uses many messages for constructing the BMN formation as shown in figure. 11. When the system is switched on, all devices start broadcasting DAG information Solicitation (DIS) messages over the BLE advertisement channels for collecting the Directed Acyclic Graph information (DAG). Next, the user selects any node as a root node, then the root node starts broadcasting the DAG information Object (DIO) messages as a response message to a DIS request received. The DIO message of a node has the rank of the node which contains some information about this node such as the residual energy, degree, and hop counts of the node. When a node receives DIO messages and if it is not part of the BMN, the node waits for some time for collecting more DIO messages and selects a node which has the lowest rank as a parent. 4.2.2 Dynamic Routing-Based Solutions: The main advantages of the proposed approach in [30] are that, the proposed BMN does not require any modification in the existing Android operating system and BLE stack. In addition to, nodes in the proposed mesh network are able to use alternative parent to form mesh network and use the shortest routing path for data transfer. The main drawback of the proposed network is that, root node is assigned statically by user besides it is not a complete mesh network structure. 4.2.1 Static Routing-Based Solutions: Static routing is known as non-adaptive routing because when sending data from node to another one within the network, the router will always use a static path which has been predefined by the network administrator. The following few paragraphs will present different researchers efforts in constructing solutions to enable BLE networks using static routing techniques. Fig. 10. Example of RT-BLE network topology [13]. Two rules must be followed in configuring the proposed network to avoid Connection Event Overlap on bridge nodes: 1) A node not acting as a master can establish a connection with up to two masters. The work in [13] presents a real-time protocol for industrial wireless mesh networks that is designed over 6 , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 https://doi.org/10.1051/matecconf/201929202003 Fig. 11. BMN formation [30] 2) A node acting as a master can establish a connection with at most another master (B). In this connection, the node A shall play the slave role. 2) A node acting as a master can establish a connection with at most another master (B). In this connection, the node A shall play the slave role. To avoid CE overlap and Enable a slave node to be on the right sub-network at the right time, the Connection Intervals “CI” of the different sub-networks have to be the same, by calculating the connection interval for each sub-network. Then the CI for any sub- network (called CI*) is chosen equal to the maximum of the CImin values among all the sub-networks. One of the main drawbacks of the proposed approach in [13] is that, the network is configured offline (no dynamic configuration for this network). However, the proposed solution is considered one of the best solutions for construction BLE mesh network and solving the CEs overlapping problem up till now. Fig. 11. BMN formation [30] 5 Star – Mesh Hybird Flooding Based Topology The proposed approach uses hybrid network topology which is one of the popular network topologies. The proposed approach tries to merge the default BLE star topology with the flooding based mesh topology to create a new hybrid network topology, which can benefit from the advantages of each topology and at the same time, can reduce the limitations and the disadvantages of each one. Figure 12 presents the layout of the proposed hybrid network. 7 , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 , 0 (2019) MATEC Web of Conferences 292 2003 https://doi.org/10.1051/matecconf/201929202003 Fig. 12. Illustration of the proposed hybrid network topology Fig. 13. Central and Peripheral devices in IoT-Based BLE network topology [34] A b i I T b d t i l d f i Fig. 12. Illustration of the proposed hybrid network topology Fig. 13. Central and Peripheral devices in IoT-Based BLE network topology [34] Fig. 13. Central and Peripheral devices in IoT-Based BLE network topology [34] Fig. 12. Illustration of the proposed hybrid network topology A basic IoT-based system includes four main modules: Sensing (capturing physical variables), processing (embedded systems interfacing and processing), Data Communication (connectivity), and Data Analysis (getting insights). Many fields in our life can benefit from using IoT technology, such as, health, home automation, logistics, military, agriculture, industry and others [35]. Location-based services (LBS) are one of the most successful fields to use IoT technology. Indoor positioning systems using IoT technology can solve the limitation of the other similar technologies such as, Global Navigation Satellite System (GNSS)and Radio Frequency Identification (RFID) technologies [36,37],where GPS stops working on indoor environments while RFID does not have enough bandwidth for large-scale LBS[35]. As illustrated in the figure 12, each subnetwork is based on the default star topology (Master and slave nodes), to connect each sub network and transform data between them, we propose a simple flooding based mesh topology which does not require any routing protocol, or relationship (Master and slave) between the different master nodes therefore there is no central device in the main flooding based network. Master nodes are responsible for sending or receive data to their slave nodes if the message is related to their subnetwork “Local Message” and sending or receiving data to other master nodes in broadcasting operations if the message is related to another subnetwork group ”Global Message”. 7 Conclusion & Future work In this paper, different networking solutions for connecting Bluetooth Low Energy devices which are embedded in wireless sensor networks and mobile devices have been discussed. The objective was to present and compare a part of the researchers' efforts in designing and building tree network topology and mesh network topology based on Bluetooth 4.0 and Bluetooth 4.1 technologies. The original design of BLE specifications is limited to star topology networking, which limit network coverage and scalability. According to the researchers solutions, tree and mesh topologies can be used for the purpose of increasing the Bluetooth Low Energy network range extension. It is expected that the proposed approach in this paper consumes less power and extend the network coverage without switching the operation mode of the BLE nodes or using any routing protocols. Finally, connecting BLE devices to the internet opens new doors to the IoT- based BLE devices toward new application areas. The proposed hybrid network is very reliable, network expansion and modification can be done easily, easy to detect, remove and maintenance faults to improve network performance but it has a complex design and very expensive. Security is a major problem because master nodes have access to all other traffics. 5 Star – Mesh Hybird Flooding Based Topology Master nodes can detect the type of the incoming or outcoming message easily by checking the network packet header of the message. Nodes in different subnetworks can be in sleep modes if there is no internal or external messages. 8 References 16. Kim, H.-S., Lee, J., Jang, J.W. BLEmesh: “A Wireless Mesh Network Protocol for Bluetooth Low Energy Devices.” In Proceedings of the 3rd International Conference on (FiCloud), Rome, Italy, 24–26 August (2015) 1. Habbal, Mohamed. "Bluetooth low energy– assessment within a competing wireless world." Proceedings of the Wireless Congress (2012) 17. Silvair. Silvair Bluetooth Mesh Stack Dedicated for Lighting. Available online: https://www.silvair.com/#platform (accessed on 15 May 2018) 2. Maharjan, Bishnu Kumar, Ulf Witkowski, and Reza Zandian. "Tree network based on Bluetooth 4.0 for wireless sensor network applications.", (EDERC), 6th European Embedded Design in. IEEE (2014) 18. Estimote. Estimote Homepage. Available online: http://estimote.com/?gclid= COKa0efjgNECFdW4GwodNccJeg (accessed on 12 March 2018) 3. Kim, Joonkyo, Shin-kwang Kang, and Jaehyun Park. "Bluetooth-based tree topology network for wireless industrial applications." (ICCAS), 15th International Conference on. IEEE (2015) 19. Mindtree Mesh over Bluetooth Low Energy. Available online: https://www.mindtree.com/solutions/bluetooth- technology/blemesh (accessed on 20 April 2018) 4. Darroudi, Seyed Mahdi, and Carles Gomez. "Bluetooth low energy mesh networks: A survey." Sensors 17.7 (2017) 5. Shahzad, Khurram, and Bengt Oelmann. "A comparative study of in-sensor processing vs. raw data transmission using ZigBee, BLE and Wi-Fi for data intensive monitoring applications." In Wireless Communications Systems (ISWCS), 11th International Symposium on, pp. 519-524. IEEE (2014) 20. BLE-mesh.com. Available online: https://www.linkedin.com/company- beta/9264364/?pathWildcard=9264364 (accessed on 20 March 2018) 21. NXP. NXP Bluetooth Smart Mesh. Available online: https://community.nxp.com/docs/DOC- 329553 (accessed on 18 March 2018) 6. Gomez, C., Oller, J., Paradells, J. “Overview and Evaluation of Bluetooth Low Energy: An Emerging Low-PowerWireless Technology.” Sensors (2012) 22. MESHTEK. Ilumi MESHTEK Homepage. Available online: https://ilumisolutions.com/ (accessed on 14 March 2018) 7. Bluetooth SIG. Specification of the Bluetooth System, Covered Core Package; Version 4.1; Bluetooth Special Interest Group: Kirkland, WA, USA (2013) 23. Nordic. Mesh Networking Platform Uses Nordic Semiconductor. Available online: https://www.nordicsemi.com/eng/News/News- releases/Product-Related-News/Mesh- networkingplatform-uses-Nordic-Semiconductor- nRF51822-SoCs-to-target-Internet-of-Things- applications (accessed on 17 March 2018) 8. Bluetooth SIG. Specification of the Bluetooth System, Covered Core Package; Version 4.2; Bluetooth Special Interest Group: Kirkland, WA, USA (2014) 24. CYPRESS. Cypress Unveils New Bluetooth®Low Energy Modules and Bluetooth Smart Mesh Demo at CES. Available online: http://www.cypress.com/news/cypress-unveils-new- bluetooth-low-energy-modulesand-bluetooth-smart- mesh-demo-ces (accessed on 13 March 2018) 9. Bluetooth SIG. Specification of the Bluetooth System, Covered Core Package; Version 5; Bluetooth Special Interest Group: Kirkland,WA, USA (2016) 10. Mikhaylov, Konstantin. "Simulation of network- level performance for Bluetooth Low Energy." IEEE 25th Annual International Symposium on (PIMRC).IEEE (2014) 25. WordPress.com. Telink Semiconductor (IoT Silicon), Tag:BLE mesh. Available online: https://telinkiotsilicon. 6 IoT-based Systems using Bluetooth Low Energy The next wave driving the expansion of the Internet will come from connecting Bluetooth Low Energy devices to the Internet. To connect those devices to the internet, it must use IPv6 protocols, where the capability to run IPv6 over BLE devices opens new doors to the IoT devices and BLE devices toward new application areas [31]. The Internet of Things (IoT) is a network of physical devices embedded with sensors, actuators and electronics which enables things (cars with built-in sensors, heart monitoring implants, cameras streaming live feeds of wild animals in coastal waters or others (Figure. 13)) To connect and exchange data[32]. The IoT allows objects to be sensed, measured, or controlled remotely across existing network infrastructure [33]. Future work could be done to create a tree and a mesh BLE network topology and study the behavior of each one. Range coverage and power consumption are two important factors must be studied using different topologies and diverse environments in building BLE networks. Intelligent routing techniques and connecting BLE networks to IoT devices will be the key to many future researches. In addition, Security is currently a big 8 https://doi.org/10.1051/matecconf/201929202003 , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 challenge in constructing IoT-based systems using Bluetooth Low Energy technology. 15. CSRmesh. CSRmesh® Development Kit. Available online: https://www.qualcomm.com/products/csrmesh- development-kit (accessed on 13March 2018) 8 References wordpress.com/tag/ble-mesh/ (accessed on 14 March 2018) 11. Bluetooth Low Energy, Cypress documentation (2014) 26. S. Guo, L. He, Y. Gu, B, Jiang, and T. He, “Opportunistic Flooding in Low-Duty-Cycle Wireless Sensor Networks with Unreliable Links,” IEEE Transactions on Computer, vol. 63, no. 11. (2014, Nov) 12. Bluetooth Low Energy Deep Dive, LPRF San Diego, TEXAS INSTRUMENTS (2011) 13. Patti, Gaetano, Luca Leonardi, and Lucia Lo Bello. "A Bluetooth low energy real-time protocol for industrial wireless mesh networks." In Industrial Electronics Society, IECON 42nd Annual Conference of the IEEE, pp. 4627-4632. IEEE (2016) 27. E. Ghadimi, O. Landsiedel, P. Soldati, S. Duquennoy, and M.Johansson, “Opportunistic Routing in Low Duty-Cycle Wireless Sensor Networks,” ACM Transactions on Sensor Networks, vol. 10, no. 4 (2014, June) 14. Haatanen, Marko. "Self-organizing routing protocol for Bluetooth Low Energy sensor networks" (2012) 9 , 0 (2019) MATEC Web of Conferences 292 CSCC 2019 2003 https://doi.org/10.1051/matecconf/201929202003 33. "Internet of Things: Science Fiction or Business Fact?" (PDF)(accessed on 12April 2018) 28. Lee, T., Lee, M.-S., Kim, H.-S. “A Synergistic Architecture for RPL over BLE.” In Proceedings of the 13th Annual IEEE International Conference on (SECON), London, UK, 27–30 (2016, June) 34. Gaitatzis, Tony, Andrew Ward, and Linda Manning. "Bluetooth Low Energy: A Technical Primer Your Guide to the Magic Behind the Internet of Things." (2017) 29. Reddy, Y.K., Juturu, P., Gupta, H.P., Serikar, P.R., Sirur, S., Barak, S., Kimy, B. Demo Abstract: “A Connection Oriented Mesh Network for Mobile Devices using Bluetooth Low Energy.” In Proceedings of the 13th ACM Conference on Embedded Networked Sensor Systems, Seoul, Korea, 1–4 (2015, November) 35. Terán, M., Aranda, J., Carrillo, H., Mendez, D., & Parra, C. “IoT-based system for indoor location using bluetooth low energy.” IEEE Colombian Conference on (COLCOM), (pp. 1-6). IEEE (2017, August). 30. Sirur, Shruthi, et al. "A mesh network for mobile devices using Bluetooth low energy." SENSORS, 2015 IEEE. IEEE (2015) 36. Mercer, D. "Connected world the internet of things and connected devices in 2020." Strategy Analytics (2014, Oct) 31. Nieminen, Johanna, et al. "Networking solutions for connecting Bluetooth low energy enabled machines to the internet of things." IEEE network 28.6 (2014) 37. Macaulay, James, Lauren Buckalew, and Gina Chung. "Internet of Things in Logistics: A collaborative report by DHL and Cisco on implications and use cases for the logistics industry,”." DHL Trend Research (2015) 32. Brown, Eric "Who Needs the Internet of Things?". 8 References Linux.com (accessed on 12April 2018) 10
https://openalex.org/W2181142494
https://heritagesciencejournal.springeropen.com/counter/pdf/10.1186/s40494-015-0064-z
English
null
Chemistry for cultural heritage
Heritage science
2,015
cc-by
1,166
Chemistry for cultural heritage Rita Wiesinger and Manfred Schreiner* After successful conferences in Ravenna/Italy 2010 and Istanbul/Turkey 2012 this time Vienna gathered 170 par- ticipants, renowned scientists from 17 different countries from Europe, Asia, Australia, North and South America to discuss the newest findings in the field of heritage (Fig. 1). Scientific research on our cultural heritage, both for the study of its material aspects and for designing and con- trolling conservation and preservation strategies, faces a diversity of changes due to the complexity and intrinsic value of the materials and objects. Furthermore, envi- ronmental conditions all over the world have inflicted increasing damage or at least deterioration of surfaces meant to be created for eternity. By conventional tech- niques we are able to ameliorate most of the dangers, but new approaches of high technology must be explored to preserve the heritage of human civilization as well as art works of former generations. ii In 46 oral and 71 poster presentations 7 topics focus- ing on new materials and methods, stability of traditional and modern materials, chemometrics, nano and bio- technology and chemical imaging in the field of art and cultural heritage were discussed. There were also more than 60 graduate students attending the conference.h The meeting opened with an address by representa- tives of the organizing and scientific committee: Prof. Dr. Rocco Mazzeo, Chairman of ChemCH in EuCheMS, Prof. Dr. Herbert Ipser, President of GÖCH—Gesell­ schaft Österreichischer Chemiker, Prof. Dr. Ulrich Schubert, President of EuCheMS, and the rector of the Academy, Mag. Eva Blimlinger, followed by remarks from the conference chair, Prof. Dr. Manfred Schreiner. Since the very beginning of investigation, preservation, and conservation-restoration of our cultural heritage, chemistry has been playing an important role in docu- mentation, studying ancient production of materials and art technology, understanding of degradation processes and present state of works of art, as well as developing and evaluating new materials and methods for interventions of both, movable and immovable art works. In the last decades the booming developments in chemical science, especially in analytical, organic or environmental chemis- try, but also in the fields of electronics and computer sci- ences has brought us new instruments and methods of great perfection, which present new horizons in the ana­ lysis, diagnosis and protection of art and cultural objects.h The scientific program started with the first session, opened by invited speaker, Prof. © 2015 Wiesinger and Schreiner. This article is distributed under the terms of the Creative Commons Attribution 4.0 International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver (http://creativecommons. org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Wiesinger and Schreiner Herit Sci (2015) 3:35 DOI 10.1186/s40494-015-0064-z Wiesinger and Schreiner Herit Sci (2015) 3:35 DOI 10.1186/s40494-015-0064-z *Correspondence: m.schreiner@akbild.ac.at Institute of Science and Technology in Art, Academy of Fine Arts Vienna, Schillerplatz 3, 1010 Vienna, Austria Chemistry for cultural heritage Maria Perla Colombini (University of Pisa and Institute for the Conservation and Promotion of Cultural Heritage—National Research Council, Italy) pointing out the challenges and possibili- ties of organic analysis in art and archeology. The presen- tations of this session clustered around several challenges: non-destructive investigation of materials and painting techniques, new combinations of analytical techniques for complementary material identification, to modelling of indoor environments and to better understand degra- dation effects. The second plenary lecture in this session, given by Dr. Francesca Casadio (The Art Institute of Chi- cago) opened the discussions on new techniques for the identification of traditional and modern organic materials. The 3rd international congress “Chemistry for Cultural Heritage—ChemCH-2014” was held from July 1–5, 2014 in the Aula of the Academy of Fine Arts Vienna, Austria. ChemCH is part of EuCheMS (European Association of Chemical and Molecular Sciences), which enforces the interdisciplinary aspects of natural sciences (chemistry, physics, microbiology, etc.), the arts (art history, archeol- ogy, ethnology), and the conservation and preservation of our cultural heritage. The conference has been organized by the Institute of Science and Technology in Art, under the supervision of Univ.-Prof. Dr. Manfred Schreiner and his team. i Due to the innovation and improvement of many analytical techniques in all fields of research chemical imaging has found its way to be a highly valuable tool to investigate cultural heritage objects, which was also one of the key topics of this conference. Invited speaker, Prof. Koen Janssens (University of Antwerp, Belgium) opened this session presenting X-ray based imaging on paintings of the artist Vincent Van Gogh. Other speakers further Page 2 of 2 Wiesinger and Schreiner Herit Sci (2015) 3:35 Fig. 1  The conference participants of the ChemCH-2014; photo: E. Hammerschmid (ISTA) Fig. 1  The conference participants of the ChemCH-2014; photo: E. Hammerschmid (ISTA) explored imaging techniques and demonstrated the sig- nificant advances being made in this field.h authenticity studies of beautiful art objects and ranged from paintings to statues and codices. The contributions of the session could demonstrate the importance of sci- entific investigations by applying complimentary analyti- cal techniques and of the interdisciplinary discussion for the syntagmatic determination of materials from para- digmatic data. ii The second day of the conference focused on material degradation, with a plenary lecture by Prof. Matija Strylic (University College London) enlightening material deg- radation through the lens of heritage stakeholders, fol- lowed by interesting degradation studies of parchment, metals, glass, pigments, rubber and wood. The afternoon session on chemometrics was opened by invited speaker Prof. Kurt Varmuza (Vienna University of Technology) who showed the importance of mathematical and statisti- cal tools for the extraction of relevant information from chemical data obtained. Overall this successful meeting was a highly fruitful knowledge exchange on traditional and contemporary issues, such as long-lasting protection of cultural herit- age objects, material stability of traditional and modern materials, influence of air pollution and non-destructive analyses for the documentation of art objects, to com- pletely new and innovative ideas and approaches. Fur- thermore, the conference enabled international and multidisciplinary networking opportunities, especially for young scientists in this field. The last day of the conference was dedicated to new materials and methods for cultural heritage, and was opened by an impressive plenary lecture of Prof. Anto- nio Candeias (University of Evora and HERCULES Laboratories, Portugal) who raised awareness of the potential of biotechnology to investigate cultural heri­ tage objects. Several speakers in this session outlined their groups’ efforts from nanoparticles to protective coatings on different heritage materials. The last session of the conference opened by Prof. Bruno Brunetti (Uni- versity of Perugia, Italy) was dedicated to technical and i This special issue gathers contributions from oral and poster presentations during the ChemCH- 2014 confer- ence. For the support and the publication of the themed issue the organization team would like to thank the edi- tor and his team from Heritage Science. For more information: http://www.ntk.akbild.ac.at/ CHEMCH2014
https://openalex.org/W4389727228
https://ebooks.uminho.pt/index.php/uminho/catalog/download/151/180/2966?inline=1
Portuguese
null
Teoria da Justiça de John Rawls
UMinho Editora eBooks
2,023
cc-by
7,358
TEORIA DA JUSTIÇA DE JOHN RAWLS Luís Couto Gonçalves1 https://doi.org/10.21814/uminho.ed.151.3 3 rawls, Uma Teoria da Justiça (tradução de Carlos Pinto Correia), 3ª ed., Lisboa, Presença, 2013 (título original de 1971) e ainda, rawls, Justice as Fairness – A Restatement (ed. Erin Kelly), London, The Belknap Press of Harvard University Press, 2001. A obra, como se alcança, teve a sua primeira edição em 1971, sofreu uma 2ª revisão na edição alemã de 1975 e ainda uma reformulação em 2001. 4 joão cardoso rosas, Concepções da Justiça, Lisboa, Edições 70, 2012, p. 21 e joão cardoso rosas, «Liberalismo igualitário», em AA.VV., Manual de Filosofia Política (org. João Cardoso Rosas), 2.ª ed., Coimbra, 2 Professor estadunidense, considerado um dos maiores filósofos políticos do século XX. 1 Professor da Escola de Direito da Universidade do Minho. 4 joão cardoso rosas, Concepções da Justiça, Lisboa, Edições 70, 2012, p. 21 e joão cardoso rosas, «Liberalismo igualitário», em AA.VV., Manual de Filosofia Política (org. João Cardoso Rosas), 2.ª ed., Coimbra, Professor da Escola de Direito da Universidade do Minho. 2 Professor estadunidense, considerado um dos maiores filósofos políticos do século XX. rawls, Uma Teoria da Justiça (tradução de Carlos Pinto Correia), 3ª ed., Lisboa, Presença, 2013 (título origina 1971) e ainda, rawls, Justice as Fairness – A Restatement (ed. Erin Kelly), London, The Belknap Press of Harv University Press, 2001. A obra, como se alcança, teve a sua primeira edição em 1971, sofreu uma 2ª revisão na ed alemã de 1975 e ainda uma reformulação em 2001. University Press, 2001. A obra, como se alcança, teve a sua primeira edição em 1971, sofreu uma 2ª revisão na edição alemã de 1975 e ainda uma reformulação em 2001. 4 joão cardoso rosas, Concepções da Justiça, Lisboa, Edições 70, 2012, p. 21 e joão cardoso rosas, «Liberalismo igualitário», em AA.VV., Manual de Filosofia Política (org. João Cardoso Rosas), 2.ª ed., Coimbra, Introdução Na filosofia política contemporânea, a questão da justiça assumiu uma relevância assinalável a partir do contributo de John Rawls2 (1921­‑2002) de­ vido, sobretudo, à sua obra, mais marcante, «Uma Teoria da Justiça»3, na qual defende uma conceção liberal igualitária, apoiada na primazia da virtude social da justiça e no respeito por direitos individuais.i «O paradigma liberal igualitário de justiça pode ser definido como a perspetiva que defende a igualdade das liberdades fundamentais – dos direitos­‑liberdades, civis e políticos –, juntamente com a importância da igualdade de oportunidades e de uma distribuição equitativa em termos económicos»4. 37 TEORIA DA JUSTIÇA DE JOHN RAWLS Rawls teve como objetivo, expresso, desenvolver uma teoria neocon­ tratualista elevada a «uma ordem superior de abstração à teoria tradicional do contrato social», representada por Locke5, Rousseau6 e Kant7, e procurar uma conceção liberal deontológica como alternativa, em especial, ao utili­ tarismo dominante8, apoiado em autores como Hume9, Bentham10 e Mill11. Para Rawls «a justiça é a primeira virtude das instituições sociais, como a verdade o é para os sistemas de pensamento»12. i O autor afirma a primazia da justiça e do respeito por direitos indivi­ duais. «Para o liberalismo igualitário estes valores não são negociáveis em função de quaisquer consequências antecipáveis que permitam a maximização do bem­‑estar agregado»13. Numa proposta dissonante com o paradigma utilitarista14 afirma que «cada pessoa beneficia de uma individualidade que decorre da justiça, a qual 7 Por todos, ver raymond vancourt, Kant (trad. de António Pinto Ribeiro), Edições 70, Lisboa, 1995. Entre as suas obras, destacamos Metaphysik der Sitten, de 1797, pela abordagem de matérias com maior aproximação jurídica, de um modo especial na Parte I, relativa à «Teoria do Direito». Esta obra está disponível em português, A Metafísica dos Costumes (tradução de José Lamego), 3.ª ed., Fundação Calouste Gulbenkian, Lisboa 2017. Immanuel Kant, apesar de aceitar a ideia de contrato social, defendia que este entendimento resultava de ato devido (imperativo categórico) e não, como Locke e Rousseau, do interesse individual de cada pessoa na passagem do «estado natureza» ao «estado de sociedade». 8 rawls, Uma Teoria da Justiça cit. «Prefácio», p. 19. 9 David Hume foi um autor utilitarista empirista e não normativista, como Jeremy Bentham ou John Stuart Mill. Sobre Hume, cfr. michell malherbe, La Philosophie Empiriste de David Hume, J. Vrin ed., Paris, 1976. 9 David Hume foi um autor utilitarista empirista e não normativista, como Jeremy Bentham ou John Stuart Mill. Sobre Hume, cfr. michell malherbe, La Philosophie Empiriste de David Hume, J. Vrin ed., Paris, 1976. 10 Jeremy Bentham é considerado o fundador do utilitarismo. A sua máxima é a de que «todas as ações humanas devem ser orientadas para alcançar a maior felicidade do maior número». A sua principal obra é A Fragment on Government (1776), Cambridge University Press, UK, 1990. 10 Jeremy Bentham é considerado o fundador do utilitarismo. A sua máxima é a de que «todas as ações humanas devem ser orientadas para alcançar a maior felicidade do maior número». Almedina, 2021, pp. 35­‑36. 14 O utilitarismo, na formulação mais simples, sustenta que o ato ou a política moralmente correta é aquela que gera a maior felicidade entre os membros de uma sociedade. Sobre utilitarismo, ver, entre outros, jeremy bentham, A Fragment on Government cit.; john stuart mill, Utilitarismo (1863), 1.ª ed. Lisboa, Gradiva, 2005 (trad. Pedro 5 Sobre o pensamento deste autor cfr. david lloyd thomas, Locke on Government, Routeledge, Londres, 1995, no qual aborda o II Tratado da principal obra política de John Locke, Two Treatises on Civil Government, de 1689, dedicado à origem, extensão e fim do poder político. 6 Para uma perspetiva do contributo do autor, vide, por todos, robert derathé, Jean-Jacques Rousseau e la Science Politique de son Temps, J. Vrin ed., Paris, 1979. A obra de Rosseau, Du Contrat Social, de 1762, é a mais emblemática e controversa. A ele se deve o legado da ideia de contrato social, que ainda hoje perdura no pensamento político ocidental, e a tensão entre os princípios estruturantes da liberdade e da igualdade na sua proposta do modelo de regime político. 3 joão cardoso rosas, «Liberalismo igualitário», em AA.VV., Manual de Filosofia Política cit., p. 35. 5 Sobre o pensamento deste autor cfr. david lloyd thomas, Locke on Government, Routeledge, Londres, 1995, no qual aborda o II Tratado da principal obra política de John Locke, Two Treatises on Civil Government, de 1689, dedicado à origem, extensão e fim do poder político. 6 Para uma perspetiva do contributo do autor, vide, por todos, robert derathé, Jean-Jacques Rousseau e la Science Politique de son Temps, J. Vrin ed., Paris, 1979. A obra de Rosseau, Du Contrat Social, de 1762, é a mais emblemática e controversa. A ele se deve o legado da ideia de contrato social, que ainda hoje perdura no pensamento político ocidental, e a tensão entre os princípios estruturantes da liberdade e da igualdade na sua proposta do modelo de regime político. Almedina, 2021, pp. 35­‑36. 5 Sobre o pensamento deste autor cfr. david lloyd thomas, Locke on Government, Routeledge, Londres, 1995, no qual aborda o II Tratado da principal obra política de John Locke, Two Treatises on Civil Government, de 1689, dedicado à origem, extensão e fim do poder político. 6 Para uma perspetiva do contributo do autor, vide, por todos, robert derathé, Jean-Jacques Rousseau e la Science Politique de son Temps, J. Vrin ed., Paris, 1979. A obra de Rosseau, Du Contrat Social, de 1762, é a mais emblemática e controversa. A ele se deve o legado da ideia de contrato social, que ainda hoje perdura no pensamento político ocidental, e a tensão entre os princípios estruturantes da liberdade e da igualdade na sua proposta do modelo de regime político. 7 Por todos, ver raymond vancourt, Kant (trad. de António Pinto Ribeiro), Edições 70, Lisboa, 1995. Entre as suas obras, destacamos Metaphysik der Sitten, de 1797, pela abordagem de matérias com maior aproximação jurídica, de um modo especial na Parte I, relativa à «Teoria do Direito». Esta obra está disponível em português, A Metafísica dos Costumes (tradução de José Lamego), 3.ª ed., Fundação Calouste Gulbenkian, Lisboa 2017. Immanuel Kant, apesar de aceitar a ideia de contrato social, defendia que este entendimento resultava de ato devido (imperativo categórico) e não, como Locke e Rousseau, do interesse individual de cada pessoa na passagem do «estado natureza» ao «estado de sociedade». 8 rawls, Uma Teoria da Justiça cit. «Prefácio», p. 19. 9 David Hume foi um autor utilitarista empirista e não normativista, como Jeremy Bentham ou John Stuart Mill. Sobre Hume, cfr. michell malherbe, La Philosophie Empiriste de David Hume, J. Vrin ed., Paris, 1976. 10 Jeremy Bentham é considerado o fundador do utilitarismo. A sua máxima é a de que «todas as ações humanas devem ser orientadas para alcançar a maior felicidade do maior número». A sua principal obra é A Fragment on Government (1776), Cambridge University Press, UK, 1990. 11 John Stuart Mill foi um seguidor da corrente utilitarista de Bentham, sendo a sua publicação mais reputada Principles of Political Economy (1848), Oxford University Press, New York, 1994. Para uma visão do pensamento do autor, josé garcia añón, John Stuart Mill: Justicia y Derecho, McGraw­‑Hill, Madrid, 1997. 12 rawls, Uma Teoria da Justiça cit., p. 27. 13 joão cardoso rosas, «Liberalismo igualitário», em AA.VV., Manual de Filosofia Política cit., p. 35. 14 O utilitarismo, na formulação mais simples, sustenta que o ato ou a política moralmente correta é aquela que gera a maior felicidade entre os membros de uma sociedade. Sobre utilitarismo, ver, entre outros, jeremy bentham, A Fragment on Government cit.; john stuart mill, Utilitarismo (1863), 1.ª ed. Lisboa, Gradiva, 2005 (trad. Pedro Madeira); pedro galvão, «Utilitarismo», em AA.VV., Manual de Filosofia Política cit., pp. 15­‑33 (e bibliografia citada no final). 15 rawls, Uma Teoria da Justiça cit., p. 27. 16 rawls, Justice as Fairness – A Restatement cit., «Prefácio», pp. xvi­‑xvii, quis deixar claro que a justiça como equidade tem na sua base uma conceção política e não moral. 17 joão cardoso rosas , «Liberalismo igualitário» em Manual de Filosofia Política cit., p. 37. 18 rawls, Liberalismo Político (tradução de João Sedas Nunes), Lisboa, Presença, 1997 (título original, de 1993). TEORIA DA JUSTIÇA DE JOHN RAWLS A sua principal obra é A Fragment on Government (1776), Cambridge University Press, UK, 1990. 11 John Stuart Mill foi um seguidor da corrente utilitarista de Bentham, sendo a sua publicação mais reputada Principles of Political Economy (1848), Oxford University Press, New York, 1994. Para uma visão do pensamento do autor, josé garcia añón, John Stuart Mill: Justicia y Derecho, McGraw­‑Hill, Madrid, 1997. 38 AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... nem sequer em benefício do bem­‑estar da sociedade como um todo poderá ser eliminada. Por esta razão, a justiça impede que a perda da liberdade para alguns seja justificada pelo facto de outros passarem a partilhar um bem maior. Não permite que os sacrifícios impostos a uns poucos sejam com­ pensados pelas vantagens usufruídas por um maior número. Assim sendo, numa sociedade justa a igualdade de liberdades e direitos entre os cidadãos é considerada como definitiva; os direitos garantidos pela justiça não estão dependentes da negociação política ou do cálculo dos interesses sociais»15. Rawls designa a sua conceção política liberal igualitária de «justiça como equidade»16. Esta conceção parte de uma intuição básica ­‑ a sociedade como um sistema de cooperação ­‑ para a formulação dos princípios da justiça defendendo­‑os de duas formas distintas. Primeiro, pelo estabelecimento de um equilíbrio refletido provisório entre as intuições morais e os próprios princípios da justiça. Segundo, através do recurso à noção da posição origi­ nal, uma formulação mais abstrata e hipotética da ideia de contrato social17. Na referida reformulação da sua obra, na sequência dos estudos so­ bre o liberalismo político18, o autor redefine a sua posição inicial da justiça como equidade, apresentando­‑a já não como parte de uma doutrina moral compreensiva, mas como uma conceção política de justiça. A justiça como equidade é considerada a forma mais razoável do liberalismo político, o que implicou a necessidade de reestruturar alguns aspetos do seu modelo teórico originário. Os tópicos essenciais da sua obra, que abordaremos neste trabalho, são os seguintes: i) a sociedade como um sistema equitativo de cooperação; ii) a sociedade bem ordenada; iii) a sociedade como estrutura básica; iv) a posição original; v) os cidadãos como pessoas livres e iguais; vi) a justificação pública; vii) os princípios da justiça. De seguida, vamos efetuar a referida abordagem tripartida de sociedade. 39 TEORIA DA JUSTIÇA DE JOHN RAWLS 1. A sociedade como um sistema equitativo de cooperação Rawls parte do princípio que os cidadãos de uma sociedade democrá­ tica têm um conjunto de ideias intuitivas e familiares, adquiridas ao longo de tempo, entre as quais a de que uma sociedade é um sistema de cooperação social19. A ideia de cooperação social tem três características essenciais20: a) resulta de regras reconhecidas e aceites pelos cidadãos para regular a sua conduta e não de regras ditadas ou impostas por uma autoridade central; b) pressupõe uma ideia de equidade e reciprocidade entre os membros da comunidade, que aceitam participar segundo um mesmo sentido público de justiça; c) traduz a expressão da vantagem racional de cada participante na prossecução do seu interesse, embora num quadro de razoabilidade. O papel dos princípios da justiça consiste em especificar os termos equitativos da cooperação social21. «Estes princípios definem os direitos e deveres básicos que devem ter as principais instituições políticas e sociais, regulam a distribuição dos benefícios (…) e distribuem os encargos necessários para a sua sustentação»22. 19 rawls, Uma Teoria da Justiça cit, pp. 28 e ss. 20 rawls, Justice as Fairness – A Restatement cit., pp. 5 e ss. 21 Idem, p. 7 e Uma Teoria da Justiça cit., pp. 28 e ss. 22 rawls, Justice as Fairness – A Restatement cit., pp. 5 e ss. 23 rawls, Uma Teoria da Justiça cit., cap. I, nºs 1 e 2. 19 rawls, Uma Teoria da Justiça cit, pp. 28 e ss. AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... Isto significa três condições24: Isto significa três condições24: 1ª – uma sociedade em que cada um aceita, e sabe que todos os demais aceitam, a mesma conceção política da justiça; 2ª – uma sociedade em que as suas principais instituições políticas e sociais, e o modo como se interligam para formar um sistema de cooperação, satisfazem os princípios da justiça; 3ª – uma sociedade na qual os cidadãos têm um sentido normal­ mente efetivo de justiça, quer dizer, um sentido que os capacita para entender e aplicar os princípios publicamente reconhecidos da justiça e, a sua grande maioria, para atuar de acordo com a sua posição na sociedade, com os seus deveres e obrigações. «É impossível uma sociedade bem ordenada na qual todos os membros aceitem a mesma doutrina compreensiva. Mas os cidadãos democráticos que pratiquem doutrinas compreensivas diferentes podem coincidir em conceções políticas da justiça». «O liberalismo político é uma conceção que permite uma base suficiente e mais razoável de unidade social disponível para os (…) cidadãos de uma sociedade democrática»25. 24 rawls, Justice as Fairness – A Restatement cit., pp. 8­‑9. 25 Idem, p. 9. 26 rawls, Uma Teoria da Justiça cit., p. 30. 2. A sociedade bem ordenada A sociedade está bem ordenada quando for uma sociedade efetivamente regulada por uma conceção pública de justiça23. 40 24 rawls, Justice as Fairness – A Restatement cit., pp. 8­‑9. 25 d 26 rawls, Uma Teoria da Justiça cit., p. 30. 25 Idem, p. 9. 28 Ibidem e rawls, Justice as Fairness – A Restatement cit., p. 11. O «direito das gentes» é desenvolvido na sua obra, The law of peoples – with the idea of public reason revisited, Cambridge, Mass., Harvard University Press, 2000. 29 rawls, Uma Teoria da Justiça cit., cap. I, nºs 3 e 4, pp. 33 e ss. TEORIA DA JUSTIÇA DE JOHN RAWLS propriedade privada dos meios de produção e da família monogâmica são exemplos de instituições desse tipo27. A justiça como equidade faz da estrutura básica o objeto principal da justiça política. Esta posição constitui um limite objetivo intencional ao âm­ bito da teoria. Esta é aplicável ao nível da «justiça doméstica» (a da estrutura básica), mas já não, necessariamente, ao nível da «justiça local» (referente a princípios que se aplicam diretamente a instituições e associações), nem ao nível da «justiça global» (relativa aos princípios aplicáveis ao direito inter­ nacional, o chamado «direito das gentes»)28. 27 Ibidem. 3. A sociedade como estrutura básica «O objeto primário da justiça é a estrutura básica da sociedade ou, mais exatamente, a forma pela qual as instituições sociais mais importantes distribuem os direitos e deveres fundamentais e determinam a divisão dos benefícios da cooperação em sociedade»26. A estrutura básica constitui, por­ tanto, a parte institucional e legal que compõe a vida social. As instituições mais importantes são a constituição política, bem como as principais estruturas económicas e sociais. Assim, a proteção jurídica da liberdade de pensamento e de consciência, da concorrência de mercado, da 41 TEORIA DA JUSTIÇA DE JOHN RAWLS 30 rawls, Uma Teoria da Justiça cit, cap. III, nº 24, pp. 121 e ss. 31 Idem, cap. I, nº 3 e rawls, Justice as Fairness – A Restatement cit., pp. 16­‑17. 32 rawls, Justice as Fairness – A Restatement cit., p. 17. 33 Idem, p. 18. 33 Idem, p. 18. 4. A posição original A posição original é a resposta de Rawls ao problema de saber como se jus­ tifica a existência de uma sociedade como um sistema equitativo de cooperação. Para o autor essa justificação resulta de um acordo adotado por «pessoas» (rectius, partes ou representantes de pessoas) livres e iguais que participam na cooperação por a considerarem a melhor forma de defesa dos seus interesses29. Este acordo, alcançado sob condições equitativas de todos os cida­ dãos, é a melhor solução no âmbito de uma sociedade democrática plural e das respetivas instituições livres. Este acordo não pode resultar de qualquer intervenção exterior à esfera dos destinatários que o integram. Este acordo, para ser válido, do ponto de vista da justiça política, deve pressupor a participação de «pessoas» livres e iguais e não deve permitir que alguns possam negociar em posições não equitativas. O acordo equitativo para atingir a estrutura básica da sociedade tem de abstrair­‑se de aspetos e circunstâncias particulares dessa estrutura e não pode ser distorcido por ela. 42 AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... Na posição original não se permite às partes conhecer as posições sociais ou as doutrinas compreensivas particulares das «pessoas» que as re­ presentam. Tão pouco conhecem a raça, o grupo étnico, o sexo e as qualidades inatas como a força ou a inteligência. Rawls, metaforicamente, expressa esta ideia afirmando que as «partes» estão sob um «véu de ignorância»30. Só deste modo se pode garantir um acordo em condições de equidade, eliminando as posições vantajosas ou de supremacia que surgem, inevitavel­ mente, com o fluir social. A posição original, por um lado, alarga a ideia do contrato social, não o limitando a uma forma particular de Estado ou governo, como em Locke ou Rousseau, e, por outro, torna o conceito de contrato social mais abstrato, considerando­‑o como hipotético e presente e não como histórico ou resultante de um estado cultural primitivo31. Rawls não ignora que esta posição coloca uma objeção séria: se os acordos são hipotéticos e não históricos a posição original não perde toda a relevância? O autor contrapõe dizendo que a relevância da posição original «radica no facto de que é um mecanismo de representação ou, alternati­ vamente, um instrumento mental pensado para a clarificação pública e a auto clarificação»32. A posição original serve para modelar as convicções de «pessoas» consideradas razoáveis, colocando «as partes» numa situação equitativa a partir da qual chegam a um acordo sujeito a restrições adequadas baseadas nas razões que respaldam os princípios de justiça política33. 43 TEORIA DA JUSTIÇA DE JOHN RAWLS 5. Os cidadãos como pessoas livres e iguais A justiça como equidade concebe os cidadãos como pessoas livres e iguais por terem duas «faculdades morais»34: a) a capacidade de terem um sentido da justiça, entendendo, aplicando e trabalhando segundo os princípios da justiça po­ lítica que definem os termos equitativos da cooperação social; b) a capacidade de terem uma conceção axiológica, prosseguindo racionalmente aquilo que tem valor na vida humana. Estas duas faculdades morais definem o que é a «pessoa moral» e a «personalidade moral».ii Mas o que significa afirmar que as pessoas são livres e iguais? A resposta tem de ser dada de um modo contextualizado. Estamos a falar de pessoas livres e iguais numa perspetiva estritamente política (justiça como equidade destinada à estrutura básica de sociedade), sem qualquer conotação moral abrangente, metafísica ou psicológica. «A conceção da pessoa livre e igual resulta do modo como a cultura política pública de uma sociedade democrática concebe os cidadãos, que se encontra plasmada nos seus textos políticos fundamentais (constituições e declarações dos direitos humanos) e na tradição histórica da interpretação desses textos»35. Nesta medida, corresponde a uma visão político­‑normativa36. 36 Para mais desenvolvimentos sobre a ideia de liberdade e igualdade, ver rawls, Justice as Fairness – A Restatement cit., p. 20 e ss e rawls, Uma Teoria da Justiça cit., cap. VIII, pp. 346 e ss. 34 Idem, p. 19. 35 Idem, p. 19. 37 rawls, Justice as Fairness – A Restatement cit., p. 28. 38 Ibidem. 6. A justificação pública A justificação pública acompanha a ideia de uma sociedade bem orde­ nada, porquanto, como vimos, esta sociedade encontra­‑se regulada por uma conceção de justiça publicamente reconhecida. 44 38 Ibidem. 6.1. Equilíbrio refletido A ideia de sociedade como um sistema de cooperação pressupõe que os seus participantes são pessoas livres e iguais dotados de racionalidade e razoabilidade. A racionalidade é a base do exercício da liberdade de cada um. A razoabilidade permite que cada cidadão esteja disposto a chegar a entendimento com os outros tornando possível a vida social. O uso da razão é determinante para a manutenção do sistema de coo­ peração, de um modo especial quando se confrontam diferentes conceções alternativas de justiça política. É nestas situações, em que se tem de encontrar um equilíbrio refletido entre as intuições morais e os princípios de justiça mais favorecidos. Assim, o método do equilíbrio refletido afigura­‑se como um caminho paralelo ou complementar face ao argumento da posição original para a construção dos princípios da «justiça como equidade»39. 39 Para mais desenvolvimentos, rawls, Uma Teoria da Justiça cit., cap. I, nº 9 e rawls, Justice as Fairness – A Restatement cit., pp. 29 e ss. 40 rawls, ob. ult. cit., pp. 32 e ss. 40 rawls, ob. ult. cit., pp. 32 e ss. AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... O aspeto essencial da sociedade bem ordenada é que a sua conceção pública da justiça política estabelece uma base partilhada que permite aos cidadãos justificar reciprocamente os seus juízos políticos: cada um coopera, política e socialmente, com os restantes em condições que todos podem avaliar como justas. É este o significado de justificação pública.i Falar em justificação pública pressupõe, necessariamente, a possibili­ dade de haver discrepâncias e divergências. Só assim faz sentido a necessidade de justificação.i A justificação pública pretende alcançar um consenso, mas não um acordo completo. O objetivo praticável é limitar o desacordo, ao menos no que respeita às controvérsias mais decisivas e, em particular, às controvérsias que afetam os aspetos essenciais da Constituição e as questões de justiça básica37. p ç q j ç Estes aspetos essenciais da Constituição são, por exemplo: a) os princípios fundamentais que definem a estrutura geral do governo e do processo político; os poderes legislativo, executivo e judicial; os limites da regra das maiorias; b) os direitos e liberdades básicas de cidadania que toda a maio­ ria legislativa deve respeitar, tais como o direito de voto e o direito a participar na política, a liberdade de pensamento e de associação, a liberdade de consciência, e também as pro­ teções do império da lei38. Um dos principais objetivos da justificação pública é o de preservar as condições de uma cooperação social, efetiva e democrática, baseada no respeito mútuo entre cidadãos que se concebem como pessoas livres e iguais. Em caso de conflito a ideia de justificação pública é a de procurar obter um consenso entrecruzado ou sobreposto de doutrinas razoáveis e, com ele, uma conceção política resultante de um equilíbrio refletido, de que falamos no ponto seguinte. 45 TEORIA DA JUSTIÇA DE JOHN RAWLS 6.3. Razão públicai A justificação de uma sociedade bem ordenada é acompanhada da ideia de uma sociedade regulada por uma razão pública de justiça reconhecida. A razão pública exprime a vontade de cidadãos iguais, como corpo coletivo, e traduz­‑se no poder normativo do Estado. «A razão pública é característica de um povo democrático: é a razão dos seus cidadãos, daqueles que partilham o estatuto da igual cidadania»41. A razão é pública em três sentidos: como expressão da razão típica dos cidadãos; enquanto bem do domínio público; pela sua natureza e o seu con­ teúdo serem resultantes da conceção de justiça política eleita pela sociedade42. A razão pública apoia­‑se numa legitimidade própria e só ela pode jus­ tificar a justiça como equidade, na sua dimensão política. A razão pública distingue­‑se, pois, da razão não pública (isto é, não dirigida à sociedade política e aos cidadãos em geral) que corresponde à razão própria dos indivíduos ou de instituições ou entidades, como associações, sociedades, sindicatos, universidades e igrejas43. AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... 41 rawls, Liberalismo Político cit. p. 209. 42 rawls, ibidem. 43 rawls, Justice as Fairness – A Restatement cit., pp. 89 e ss. 42 rawls, ibidem. 41 rawls, Liberalismo Político cit. p. 209. 43 rawls, Justice as Fairness – A Restatement cit., pp. 89 e ss. 6.2. Consenso entrecruzado ou de sobreposição Para Rawls é indubitável que os cidadãos, numa sociedade bem or­ denada, quando afirmam a mesma conceção política de justiça o façam por diferentes razões e apesar de terem visões opostas a diferentes níveis (religioso, filosófico e moral). De todo o modo, estas mundividências (ou doutrinas compreensivas) diferenciadas não são impeditivas da existência de uma sociedade democrá­ tica bem ordenada e, consequentemente, de uma conceção política de justiça comum, pelo menos na esfera dos «aspetos essenciais da Constituição» e das «questões de justiça básica». i Esta sociedade afirma­‑se através de um consenso entrecruzado de po­ lítica de justiça, obtido apesar do pluralismo razoável (e desejável) de uma sociedade democrática, histórica e culturalmente situada40. 46 44 Equivalentes a bens primários. 45 rawls, Uma Teoria da Justiça cit., cap. II, p. 69. 46 rawls, Justice as Fairness – A Restatement cit., pp. 42 e ss. 47 rawls, Uma Teoria da Justiça cit., cap. II, pp. 67 e ss e rawls, Justice as Fairness – A Restatement cit., pp. 42­‑43. O princípio da diferença tem subjacente o chamado «critério maximin», pelo qual é sempre preferível escolher a opção mais segura que implique o menor risco para todos. A «regra maximin» pretende maximizar o mínimo, isto é, entre as alternativas possíveis deve escolher­‑se aquela que tenha o melhor pior resultado possível. Para mais desenvolvimentos acerca deste (con­ troverso) critério, cfr eduardo rivera lópez, Presupuestos Morales del Liberalismo, Madrid, BOE, 1997, pp. 252­‑257. 48 rawls, Justice as Fairness – A Restatement cit., p. 43. 7. Os princípios da justiça Entendendo a sociedade como um sistema equitativo de cooperação entre cidadãos, considerados como livres e iguais, quais são os princípios da justiça mais indicados para definir os direitos e liberdades básicos e para regular as desigualdades sociais e económicas? A resposta de Rawls é a enunciação de um princípio geral da justiça e de dois princípios especiais da justiça. 47 49 joão cardoso rosas, «Liberalismo igualitário» em AA.VV., Manual de Filosofia Política cit., p. 40. 50 joão cardoso rosas, ibidem. 51 joão cardoso rosas, Concepções da Justiça cit., p. 26. 52 Para mais desenvolvimentos, rawls, Uma Teoria da Justiça cit., cap. II, pp. 63­‑107; rawls, Justice as Fairness – A Restatement cit., pp. 39­‑79; joão cardoso rosas, «Liberalismo igualitário» em AA.VV., Manual de Filosofia 49 joão cardoso rosas, «Liberalismo igualitário» em AA.VV., Manual de Filosofia Política cit., p. 40. 50 joão cardoso rosas, ibidem. 1 TEORIA DA JUSTIÇA DE JOHN RAWLS O princípio geral é o seguinte: «Todos os valores sociais44 – liberdade e oportunidade, rendimento e riqueza, e as bases sociais do respeito próprio – devem ser distribuídos igualmente, salvo se uma distribuição desigual de algum desses valores, ou de todos eles, redunde em benefício de todos»45. Os dois princípios especiais, na sua versão definitiva46, são assim enunciados: 1º Cada pessoa deve ter um direito igual ao mais extenso sistema de liberdades básicas que seja compatível com um sistema de liberdades idêntico para as outras; 2º As desigualdades económicas e sociais devem satisfazer duas condições: em primeiro lugar, ser a consequência do exercí­ cio de cargos e funções abertos a todos em circunstâncias de igualdade equitativa de oportunidades; e, em segundo lugar, ser para o maior benefício dos membros menos favorecidos da sociedade (o princípio da diferença)47. O primeiro princípio (das liberdades) é prioritário em relação ao segun­ do e, neste, o princípio da igualdade equitativa de oportunidades é prioritário em relação ao princípio da diferença. Esta prioridade significa que, ao aplicar um princípio (ou ao colocá­‑lo à prova em casos difíceis), os princípios prévios estejam plenamente cumpridos48. Para um melhor entendimento destes princípios especiais tem de se concretizar a ideia do significado de pessoas menos beneficiadas. Para tanto é necessário introduzir a ideia de bens sociais primários. Estes bens, numa perspetiva não moral, mas política e social, são as diver­ sas condições e meios necessários à vida de uma pessoa, concebida como livre e igual, dotada das duas faculdades morais (já referidas no ponto 5) e capaz de ser um membro de uma sociedade como um sistema cooperativo de cooperação. 48 52 Para mais desenvolvimentos, rawls, Uma Teoria da Justiça cit., cap. II, pp. 63­‑107; rawls, Justice as Fairness – A Restatement cit., pp. 39­‑79; joão cardoso rosas, «Liberalismo igualitário» em AA.VV., Manual de Filosofia TEORIA DA JUSTIÇA DE JOHN RAWLS TEORIA DA JUSTIÇA DE JOHN RAWLS 53 Como escreve will kymlicka, ob. ult. cit., p. 55, a teoria de Rawls «domina o âmbito da discussão, não no sentido de proporcionar um acordo, já que muitas poucas pessoas estão totalmente de acordo com ela, mas no sentido de que os teóricos posteriores se têm posicionado por oposição a Rawls». E acrescenta que «não seremos capazes de entender os trabalhos posteriores sobre a justiça sem antes entendermos Rawls». Isto significa que a obra de Rawls representou um marco indelével na evolução da filosofia política e, curiosamente, causou uma forte efervescência doutrinária, em especial, entre os autores da família liberal, centrada, em grande medida, no alcance rawlsiano dos princípios da justiça. 54 amartya sen, A Ideia de Justiça (trad. Nuno Castello­‑Branco Bastos), Coimbra, Almedina, 2010 e Amartya sen, Inequality Reexamined, Oxford, UK, Clarendon Press, 1992. O autor entende que há uma insuficiência na abordagem de Rawls aos princípios jurídicos da liberdade e da igualdade a partir da ideia de bens sociais primários. Política cit., pp. 35­‑66; joão cardoso rosas, Concepções da Justiça cit., pp. 21­‑54; will kymlicka, Contemporary Political Philosophy: an Introduction, NY, Oxford University Press, 2002, pp. 53­‑101. AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... Os bens sociais primários são as liberdades e imunidades, as oportu­ nidades e poderes, a riqueza e o rendimento e as bases sociais do respeito próprio. De uma forma mais sucinta, podem reconduzir­‑se a três categorias: liberdades, oportunidades e riqueza49. «Todos e cada um de nós necessitamos de liberdades básicas (que in­ cluem as imunidades legais) que protegem as muitas escolhas que fazemos ao longo da vida. As oportunidades dão­‑nos o poder efetivo de realizar essas escolhas. A riqueza (juntamente com os rendimentos) permite dar maior valor às nossas escolhas. As bases sociais do respeito próprio são um bem primário de tipo diferente. O respeito que cada um tem por si mesmo e pela vida que escolheu depende da possibilidade real de desenvolver as suas escolhas e do facto de elas serem reconhecidas pelos outros (o respeito próprio também depende do respeito que os outros nos prestam). Assim, o respeito próprio é uma espécie de subproduto de uma sociedade na qual os bens sociais pri­ mários estão corretamente distribuídos. Embora o respeito próprio não seja diretamente distribuído pelas instituições sociais, ele decorre de uma socie­ dade organizada de modo a distribuir com justiça os restantes bens sociais»50. De acordo com os princípios enunciados, o primeiro não admite a possibilidade de desigualdade quanto à distribuição do valor da liberdade, enquanto o segundo e o terceiro admitem essa possibilidade quanto aos as­ petos económicos e sociais. A desigualdade económica e social não tem uma carga tão negativa, pois é potenciadora de um sistema de incentivos51. i O papel da justiça visa definir a distribuição mais adequada dos be­ nefícios e encargos ou, se se preferir, dos direitos e deveres, que decorrem da cooperação social. O objetivo de uma teoria da justiça (que é distinto do seu objeto, a estrutura básica da sociedade) restringe­‑se à definição da distribuição correta dos bens materiais e imateriais essenciais, os bens primários, a qual permite que a sociedade seja bem ordenada52. 49 55 ronald dworkin, Sovereign Virtue: The Theory and Practice of Equality, 4.ª ed., Cambridge, Mass., London, Harvard University Press, 2002. Dworkin critica Rawls por não dar relevância à ideia de igualdade de recursos e da responsabilidade individual. Baseia­‑se em dois tópicos fundamentais: primeiro, a importância objetiva igual de que todas as vidas humanas floresçam; segundo, cada pessoa é responsável por definir e alcançar o florescimento de sua própria vida. Assim, considera que a verdadeira igualdade significa igualdade no valor dos recursos que cada pessoa comanda e não no sucesso que ela alcança. Estas objeções levam Dworkin a defender uma igualdade centrada na ideia de recursos e não, como em Rawls, numa igualdade distributiva de alguns bens sociais primários. Para A. Sen o mais importante é dar conteúdo a esses princípios. Para tanto propõe o conceito de «capacidades». Assim, a questão fundamental é a capacidade para transformar os bens sociais primários em efetiva liberdade de escolha. A noção de capacidade indica essa transformação. «Muito embora os bens primários sejam, no máximo, meios para se poder atingir os fins da vida humana que se tenham por valiosos, na formulação rawlsiana dos prin­ cípios da justiça eles tornam­‑se o elemento central da apreciação da equidade distributiva». «E isso é um erro (…)». «A perspetiva da capacidade dedica­‑se especialmente a vir corrigir este foco de atenção (…) sobre os meios em vez de concentrar­‑se sobre a oportunidade de cumprir os fins e sobre a liberdade substantiva para se atingir esses fins argumentativamente delineados». (Cfr amartya sen, A Ideia de Justiça cit., p. 322 e amartya sen, Inequality Reexamined cit., pp.112­‑119, em especial). AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... filósofo igualitarista Ronald Dworkin55, o filósofo libertário Robert Nozick56 e o filósofo comunitarista57 Michael Sandel58. i Um dos pontos que suscita alguma perplexidade é construir uma dou­ trina racional com base numa proposta intuitiva da «posição original», uma 56 robert nozick, Anarchy, State and Utopia, NY, Basic Books, 2014 (ed. original de 1974). Em resposta à Teoria da Justiça de Rawls, esta obra tornou­‑se um dos textos que define o pensamento libertário e a defesa do Estado (muito) mínimo. Em relação a Rawls, o autor considera que não é possível garantir a integridade dos indivíduos quando a estrutura básica da sociedade revela preocupações de ordem igualitária. Uma palavra ainda para salientar o argumento (radical) da «propriedade de si mesmo», como justificação de liberdade individual, um princípio cujo único limite é o respeito da «propriedade dos outros». Para mais desenvolvimentos, will kimlicka, Contemporary Political Philosophy: an Introduction cit., pp. 10­‑52; chandran kukathas / philip pettit, Rawls – Uma Teoria da Justiça e os seus Críticos (trad. Maria Carvalho), Lisboa, Gradiva, 1995, pp. 92­‑110; eduardo rivera lópez, Presupuestos Morales del Liberalismo cit., pp. 31­‑136; rui fonseca, «Libertarismo», em AA.VV., Manual de Filosofia Política cit., pp. 67­‑85; alexandra abranches, «Robert Nozick: Direitos Individuais», em AA.VV., Pensamento Político Contemporâneo – Uma Introdução (Organizadores João Carlos Espada / João Cardoso Rosas), Lisboa, Bertrand Ed., 2004, pp. 104­‑133. 57 No pressuposto de que o comunitarismo moderno (não confundível com o comunitarismo marxista) não pretende substituir o pensamento liberal, mas, com um espírito construtivo, corrigi­‑lo. Para os comunitaristas, o principal problema do liberalismo está na matriz individualista excessiva de algumas das suas propostas, com a consequente desvalorização do eu­‑social, na sua dimensão social e política (cfr. will kimlicka, Contemporary Political Philosophy: an Introduction cit., pp. 208­‑283; carlos amaral, «Comunitarismo», em AA.VV., Manual de Filosofia Política cit., pp. 87­‑116). 58 michel sandel, Liberalism and the Limits of Justice, Cambridge, Cambridge University Press, 1996 (reimpressão do original de 1982). Nesta obra o autor faz uma apreciação aprofundada e discordante dos elementos essenciais da estrutura teórica e argumentativa da Teoria da Justiça de Rawls. O autor, de um modo frontal, assume que o seu objetivo é «desafiar» o liberalismo contemporâneo (de raíz kantiana) colocando limites concetuais à primazia da ideia da justiça deontológica que resulta da proposta rawlsiana (pp. 1­‑14). 8. Considerações finais É consensual que a proposta de Rawls, no seu conjunto, configura um pensamento filosófico com sensibilidade para uma ideia política relevante de procura da justiça social, um mérito que deve ser sublinhado e reconhecido53. Uma das principais motivações da teoria da justiça foi encontrar uma alternativa ao utilitarismo que, de há muito, orientava grande parte da teoria política. Rawls considera que o utilitarismo contraria as nossas intuições sobre a justiça, dado que não exclui o sacrifício de alguns em prol da maximização do bem­‑estar geral. Mais precisamente, o utilitarismo contraria a intuição de que, se queremos ser justos, devemos tratar todas as pessoas como iguais. Ora, pensa Rawls, a proteção de certos direitos e liberdades é o que garante um tratamento igual de todas as pessoas. Em grande parte, a teoria da justiça visa mostrar quais são esses direitos e liberdades, evitando cair no habitual extremo oposto ao utilitarismo, isto é, evitando caucionar a pluralidade de intuições desconexas e incompatíveis entre si e a que dava o nome de «intuicionismo». A ideia de Rawls foi precisamente desenvolver uma teoria política capaz de articular de forma sistemática e coerente algumas dessas intuições, identi­ ficando os direitos e liberdades em que deve assentar qualquer sociedade que se queira justa. E esta passou a ser a direção que quase toda a filosofia política acabou por seguir. Mas, não estando, naturalmente, em causa o seu inegável mérito, há alguns aspetos da sua teoria que suscitam alguma controvérsia. Na verdade, ela tem enfrentado críticas de muitos setores, incluindo os liberais do qual Rawls faz parte. Limitando­‑nos aos principais críticos, com origem no próprio liberalismo, salientamos o economista Amartya Sen54, o 50 62 Para rawls, Justice as Fairness – A Restatement cit., § 1 (pp. 1­‑5) é possível atribuir quatro papéis fundamentais à filosofia política: um papel prático de resolução de divisões sociais; um papel de orientação, concebendo os fins da sociedade; um papel de reconciliação a partir da compreensão das instituições sociais constituídas ao longo do tempo; um papel de formulação de uma «utopia realista» que permita a realização de uma sociedade o mais justa possível, nos limites da viabilidade política praticável. 61 Embora o título da obra («Uma Teoria da Justiça») seja indiciador de uma teoria do Direito, dado o papel central e indeclinável que a justiça representa para a ciência jurídica. O autor deste escrito, como é sabido, nem é especialista em teoria do Direito, nem em filosofia política. Mas a abertura de um jurista à filosofia não se afigura um risco desmedido, antes um risco mitigado e até justificado. Apoiando­‑nos em Condorcet, «As obras filosóficas visam, algumas o progresso, outras o esclarecimento». E mais adiante «(…) toda a sociedade que não seja esclarecida por filósofos é enganada por charlatães» (Journal d´ Instruction Sociale – Prospectus, 1793, editado com Sieyes e Duhamel, pp. 7, 9­‑10, respetivamente). 59 Num comentário crítico à ideia do «véu de ignorância», por ser demasiado artificial e fictícia, cfr. diogo freitas do amaral, História do Pensamento Político Ocidental, Coimbra, Almedina, 2016 (Reimpressão), pp. 728­‑729. 60 O contrato social, para estes autores, não assentava numa mera experiência mental, como em Rawls na sua for­ mulação de posição original, mas antes em acordos (implícitos) entre os membros da sociedade civil. 61 Embora o título da obra («Uma Teoria da Justiça») seja indiciador de uma teoria do Direito, dado o papel central e indeclinável que a justiça representa para a ciência jurídica. O autor deste escrito, como é sabido, nem é especialista em teoria do Direito, nem em filosofia política. Mas a abertura de um jurista à filosofia não se afigura um risco desmedido, antes um risco mitigado e até justificado. Apoiando­‑nos em Condorcet, «As obras filosóficas visam, algumas o progresso, outras o esclarecimento». E mais adiante «(…) toda a sociedade que não seja esclarecida por filósofos é enganada por charlatães» (Journal d´ Instruction Sociale – Prospectus, 1793, editado com Sieyes e Duhamel, pp. 7, 9­‑10, respetivamente). 62 Para rawls, Justice as Fairness – A Restatement cit., § 1 (pp. 1­‑5) é possível atribuir quatro papéis fundamentais à filosofia política: um papel prático de resolução de divisões sociais; um papel de orientação, concebendo os fins da sociedade; um papel de reconciliação a partir da compreensão das instituições sociais constituídas ao longo do tempo; um papel de formulação de uma «utopia realista» que permita a realização de uma sociedade o mais justa possível, nos limites da viabilidade política praticável. 59 Num comentário crítico à ideia do «véu de ignorância», por ser demasiado artificial e fictícia, cfr. diogo freitas do amaral, História do Pensamento Político Ocidental, Coimbra, Almedina, 2016 (Reimpressão), pp. 728­‑729. 0 O contrato social, para estes autores, não assentava numa mera experiência mental, como em Rawls na sua mulação de posição original, mas antes em acordos (implícitos) entre os membros da sociedade civil. AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... A proposta de teoria da justiça de Rawls não é aceitável por assentar numa conceção abstrata de pessoa. A justiça não nos pode considerar coerentemente como o tipo de seres (artificiais) que a sua proposta de posição original exige que sejamos. A perspetiva rawlsiana, devidamente redefinida, remete necessariamente para uma conceção de comunidade que marca os limites da justiça (pp. 14 e 65). A comunidade é um bem comum que não podemos conhecer sozinhos (p. 183). 51 TEORIA DA JUSTIÇA DE JOHN RAWLS ideia meramente hipotética, na qual não cabem pessoas reais, e contra factual devido ao caráter espesso do «véu de ignorância»59. ideia meramente hipotética, na qual não cabem pessoas reais, e contra factual devido ao caráter espesso do «véu de ignorância»59. Os contratualistas clássicos, como Locke e Rousseau, procuravam jus­ tificar a questão sobre a origem ou a legitimidade do poder político60 Rawls vai mais longe e pretende justificar uma conceção de justiça dirigida a uma sociedade política específica.ii A teoria da justiça de Rawls é uma teoria filosófico­‑política61 sobre o modo de alcançar a justiça numa sociedade de matriz liberal, na qual os cidadãos são considerados como pessoas livres e iguais62. Neste ponto, em que pretende uma visão mais ampla, que inclui a justiça, afigura­‑se contraditório sustentar uma perspetiva independente de outros valores e doutrinas para se restringir unicamente à estrutura básica da sociedade. O que se pretende afirmar é que há falta de uma perspetiva eticamente mais substantiva da pessoa e da sociedade, a qual nos parece crucial para fundar adequadamente a conceção deontológica do autor. Não será surreal partir da posição original de «pessoas» irreais para sustentar uma ideia de justiça social feita de pessoas reais? 52
https://openalex.org/W2535463376
https://europepmc.org/articles/pmc5070159?pdf=render
English
null
Abdominal ectopic pregnancy after in vitro fertilization and single embryo transfer: a case report and systematic review
Reproductive biology and endocrinology
2,016
cc-by
6,118
© 2016 The Author(s). Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0 International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Abstract Background: Ectopic pregnancy is the leading cause of maternal morbidity and mortality during the first trimester and the incidence increases dramatically with assisted-reproductive technology (ART), occurring in approximately 1. 5–2.1 % of patients undergoing in-vitro fertilization (IVF). Abdominal ectopic pregnancy is a rare yet clinically significant form of ectopic pregnancy due to potentially high maternal morbidity. While risk factors for ectopic pregnancy after IVF have been studied, very little is known about risk factors specific for abdominal ectopic pregnancy. We present a case of a 30 year-old woman who had an abdominal ectopic pregnancy following IVF and elective single embryo transfer, which was diagnosed and managed by laparoscopy. We performed a systematic literature search to identify case reports of abdominal or heterotopic abdominal ectopic pregnancies after IVF. A total of 28 cases were identified. Results: Patients’ ages ranged from 23 to 38 (Mean 33.2, S.D. = 3.2). Infertility causes included tubal factor (46 %), endometriosis (14 %), male factor (14 %), pelvic adhesive disease (7 %), structural/DES exposure (7 %), and unexplained infertility (14 %). A history of ectopic pregnancy was identified in 39 % of cases. A history of tubal surgery was identified in 50 % of cases, 32 % cases having had bilateral salpingectomy. Transfer of two embryos or more (79 %) and fresh embryo transfer (71 %) were reported in the majority of cases. Heterotopic abdominal pregnancy occurred in 46 % of cases while 54 % were abdominal ectopic pregnancies. Conclusions: Our systematic review has revealed several trends in reported cases of abdominal ectopic pregnancy after IVF including tubal factor infertility, history of tubal ectopic and tubal surgery, higher number of embryos transferred, and fresh embryo transfers. These are consistent with known risk factors for ectopic pregnancy following IVF. Further research focusing on more homogenous population may help in better characterizing this rare IVF complication and its risks. Keywords: Abdominal pregnancy, Ectopic pregnancy, In vitro fertilization, IVF-ET or abdomen [3]. Abdominal ectopic pregnancies are a very rare form of ectopic pregnancy, yet are clinically significant due to their potential for high morbidity and often atypical presentation [4]. Abdominal ectopic pregnancy after in vitro fertilization and single embryo transfer: a case report and systematic review Nicole Yoder, Reshef Tal* and J. Ryan Martin * Correspondence: reshef.tal@yale.edu Division of Reproductive Endocrinology & Infertility, Department of Obstetrics, Gynecology, & Reproductive Sciences, Yale University School of Medicine, 333 Cedar Street, New Haven, CT 06510, USA Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 DOI 10.1186/s12958-016-0201-x Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 DOI 10.1186/s12958-016-0201-x Open Access Background Ectopic pregnancy is the leading cause of maternal mor- bidity and mortality during the first trimester and the in- cidence increases dramatically with assisted reproductive technology (ART), occurring in approximately 1.5–2.1% of patients undergoing IVF [1, 2]. The majority of ec- topic pregnancies from either IVF or spontaneous preg- nancy occur within the fallopian tubes, but implantation may occur in other locations such as the cervix, ovary, Recent studies have attempted to identify risk factors for ectopic pregnancy after IVF. Suggested risk factors include infertility due to tubal factor, endometriosis, transfer at blastocyst stage, higher number of embryos transferred, decreased endometrial thickness, variation in culture media, and fresh embryo transfer [5–9]. How- ever, very little data exists regarding risk factors for abdominal ectopic pregnancy after IVF. * Correspondence: reshef.tal@yale.edu Division of Reproductive Endocrinology & Infertility, Department of Obstetrics, Gynecology, & Reproductive Sciences, Yale University School of Medicine, 333 Cedar Street, New Haven, CT 06510, USA Page 2 of 10 Page 2 of 10 Page 2 of 10 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 In this case study, we report an abdominal ectopic pregnancy after IVF with fresh single embryo transfer. We also performed a systematic review of the literature for known cases of abdominal ectopic pregnancy after IVF and provide detailed characterization of these pa- tients and risk factors for this rare complication. bleeding or abdominal pain. The patient was sent for a more comprehensive ultrasound evaluation at the asso- ciated Maternal Fetal Medicine unit and another beta hCG value was obtained. Repeat scan similarly failed to identify an IUP or visualize an ectopic pregnancy. The beta hCG was 12,400 pg/mL. Given the high beta hCG value in the absence of an IUP, the patient was coun- seled and advised to take methotrexate treatment for presumed ectopic pregnancy of unknown location. One day later (day 29), she received an intramuscular dose of 83 mg (50 mg/m2 body surface area) methotrexate with plans to follow up with repeat beta hCG and TVUS. Systematic review of the literature A systematic literature review was performed with the aim of identifying all other case reports of abdominal ec- topic pregnancies after IVF. The literature search was performed using PubMed, Google Scholar, and EMBASE without language restriction encompassing publications until July 2016. Search terms used included ‘IVF’, ‘ectopic pregnancy’, ‘abdominal ectopic pregnancy’, and ‘het- erotopic pregnancy’. To the best of our knowledge, all reported cases and available data are summarized in Table 2. Table 1 Beta hCG level and timeline of events Day Beta HCG pg/mL Event −5 Oocyte retrieval, ICSI 0 Day 5 single embryo transfer 9 28.7 11 45.5 13 130 15 382 17 991 19 2020 28 12,400 Sac Check - No IUP or adnexal abnormalities 29 13,000 Methotrexate given 32 20,000 33 TVUS - Right adnexal mass with gestational sac and fetal cardiac activity 34 Diagnostic laparoscopy - Abdominal ectopic Table 1 Beta hCG level and timeline of events Table 1 Beta hCG level and timeline of events Day Beta HCG pg/mL Event Case description The patient was a 30-year-old G2P0010 who presented to our fertility center seeking fertility treatment. She had a medical history of polycystic ovarian syndrome (PCOS) and her partner had a diagnosis of male factor infertility. She had no prior surgical history, no known allergies, and medications included prenatal vitamins. She denied any history of sexually transmitted infections and had a normal hysterosalpingogram and saline sonohystero- gram. Her first IVF cycle with an elective single embryo transfer resulted in a negative pregnancy test. Her sec- ond IVF cycle used a GnRH antagonist stimulation protocol and she was triggered with Ovidrel on stimula- tion day 12. Twenty-two oocytes were retrieved. On day five a single fresh blastocyst was transferred using a pass through technique under ultrasound guidance. A stiff outer sheath was introduced through the cervix and past the internal os. A soft tipped catheter containing the embryo was advanced through the outer sheath and the embryo was expelled into the uterine cavity approxi- mately 1.5 cm from the uterine fundus with good visualization. Beta hCG was positive on post-transfer day 9 and serial beta hCG values were monitored and con- tinued to rise appropriately (Table 1). On day 28 after embryo transfer, the patient underwent a transvaginal ultrasound (TVUS) in the office that did not identify an intrauterine pregnancy (IUP) or any abnormal adnexal structures. She was asymptomatic with no vaginal Four days after methotrexate administration, repeat beta hCG level continued to rise (20,000 pg/mL) and an ultrasound performed 1 day later demonstrated a right adnexal mass with a yolk sac, fetal pole, and fetal cardiac activity. The decision was made to proceed with diag- nostic laparoscopy for treatment of ectopic pregnancy after failure of methotrexate therapy. The patient contin- ued to be asymptomatic with no vaginal bleeding or ab- dominal pain. Diagnostic laparoscopy was performed on day 34 post-embryo transfer. The operative findings were significant for minimal hemoperitoneum (<50 mL) and products of conception were noted to be implanted on the peritoneum of the posterior cul-de-sac medial to the left uterosacral ligament (Fig. 1). The products of conception were removed using graspers without diffi- culty and hemostasis was obtained with electrocautery and surgicel. All other pelvic organs including uterus and bilateral ovaries and tubes appeared grossly normal in appearance. Results A total of 28 cases of abdominal ectopic pregnancy after IVF were identified. The age of patients ranged from 23 to 38 yo (Mean = 33.2 S.D. = 3.2), with no age reported in 1 case. Infertility causes included tubal factor in 13 (46 %) cases, endometriosis in 4 (14 %) cases, male fac- tor in 4 (14 %) cases, pelvic adhesive disease in 2 (7 %) cases, structural/DES exposure in 2 (7 %) cases, unex- plained in 4 (14 %) cases, and one case did not specify the cause. Overall, anatomic/structural factors accounted Page 3 of 10 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 Fig. 1 Diagnostic laparoscopy demonstrating hemoperitoneum (top image) and products of conception implanted in the posterior cul-de-sac (bottom image) roscopy demonstrating hemoperitoneum (top image) and products of conception implanted in the posterior cul-de-sac Fig. 1 Diagnostic laparoscopy demonstrating hemoperitoneum (top image) and products of conception implanted in the posterior cul-de-sac (bottom image) for 17 (61 %) of the cases. A history of ectopic preg- nancy was identified in 11 (39 %) cases. History of tubal surgery had been described in 14 (50 %) cases, 9 (32 %) of which were bilateral salpingectomy. Transfer of more than two embryos was reported in 15 (54 %) cases, two embryos were transferred in 7 (25 %) cases, while single embryo transfer was reported in only two (7 %) cases. No information about number of embryos transferred was available in 4 (14 %) cases. Fresh embryo transfer accounted for 20 (71 %) cases, frozen embryo transfer in 3 (11 %) cases, and 5 (18 %) cases did not specify fresh versus frozen embryo transfer. Heterotopic abdominal pregnancy occurred in 13 (46 %) cases, and 15 (54 %) were abdominal ectopic pregnancies. Notable cases in- clude 5 retroperitoneal ectopic pregnancies, an abdom- inal fetal demise at 28 weeks, and 4 cases of viable abdominal pregnancies at 30 weeks, 32 weeks (two cases), and 34 weeks gestation. rate eight times greater than tubal ectopic pregnancies [10]. For this reason, early recognition and treatment is crucial in the setting of abdominal ectopic pregnancy. The case presented demonstrates the diagnostic chal- lenge of abdominal ectopic, as the patient’s beta hCG values followed a normal rise and the patient remained asymptomatic up to the point of diagnostic laparoscopy. Results Transvaginal ultrasound did not visualize the ectopic pregnancy until the beta hCG value was 20,000 pg/mL, which is far beyond the usual discriminatory zone. This atypical presentation of an ectopic pregnancy highlights the need to consider abdominal ectopic pregnancy in the differential of any pregnancy of unknown location after IVF, especially in the setting of non-diagnostic transvaginal ultrasound. There appears to be an increased rate of ectopic preg- nancies after ART when compared to rates in spontan- eous pregnancy [11]. As the number of IVF procedures performed continues to rise, the incidence of ectopic and abdominal ectopic pregnancy will likely also rise. While there are still relatively few reported cases of ab- dominal ectopic pregnancies after IVF, our systematic Discussion Abdominal ectopic pregnancies comprise less than 1 % of all ectopic pregnancies, yet have a maternal mortality Table 2 Abdominal ectopic case reports p p Author (year) Age/ Parity Infertility etiology Other pertinent history Priorectopic Stimulation Protocol Egg # ET no./ timing Fresh/ Frozen ET Max HCG level (mIU/ ml) Location (E/H) Stage at diagnosis Rupture? Discussion Intervention Outcome Oehniger (1988) [23] 35 yo G0P0 Endometriosis Laparotomy x 2, left salpingectomy, frozen pelvis; Right hydrosalpinx with partial obstruction No FSH/Pergonal (hMG/hCG), hCG trigger 4 4 42– 44 h Fresh NA Sigmoid mesentery (E) ~41 days PT No Exploratory Laparotomy Removal of pregnancy tissue by laparotomy Bassil (1991) [24] 33 yo NA Male factor NA NA Clomid/hMG, hCG trigger 6 4 NA Fresh NA Posterior uterus, broad ligament (H) 19 weeks gestation No Laparotomy, right adnexectomy Delivery of viable twins at 34 weeks Ferland (1991) [25] 32 yo G4P0030 DES exposure, secondary infertility Right salpingectomy, left hydrosalpinx Tubal ectopic Long protocol w/ GnRH agonist 7 3 Day 2 ET Fresh 19,450 Retroperitoneal (E) 37 days PT Yes Laparotomy, left salpingectomy Ragni (1991) [26] 32 yo G1P0010 Pelvic adhesive disease Right adnexectomy, hysteropexy Tubal ectopic Long protocol w/ GnRH agonist 4 3 Day 2 ET Fresh NA Right adnexa (H) 12 weeks gestation No Selective reduction of abdominal pregnancy, laparotomy Laparotomy for resorbing abdominal pregnancy, SAB of IUP at 16 weeks Balmaceda (1993) [27] 33 yo G3P1021 Tubal Right salpingectomy, left salpingostomy Tubal Ectopic x2 Short protocol, w/ GnRH agonist 15 4 Day 4 ET Fresh 4651 Abdominal - broad ligament (E) 30 days PT No Laparoscopy, salpingectomy Laparoscopic removal of abdominal ectopic, left salpingectomy Fisch (1995) [28] 32 yo G2P0020 Tubal Bilateral salpingectomy Tubal ectopic x2 Long protocol w/ GnRH agonist 5 3 NA Fresh NA Ileum, left uterine cornua (H) 10 weeks gestation Yes Gastrostoscopy, sigmoidoscopy, Tc scan, angiography, D&C, tagged RBC scan, Laparotomy Laparotomy for abdominal ectopic, D&C for incomplete AB of IUP DelRosario (1996) [29] 33 yo G1P1001 Tubal Breast Cancer No NA NA 4 NA Frozen 563 Bladder (E) 75 days PT Yes Methotrexate, laparoscopy Laparoscopic removal of pregnancy tissue Table 2 Abdominal ectopic case reports (Continued) p p ( ) Fisch (1996) [11] 38 yo G2P0020 Tubal Laparoscopic Salpingectomy x2, 8th IVF cycle Tubal ectopic x 2 Long protocol w/ GnRH agonist 14 4 Day 3 ET Fresh 1730 Broad Ligament (E) 21 days PT Yes Exploratory Laparotomy Removal of pregnancy tissue by laparotomy Moonen- Delarue (1996) [30] 23 yo G2P0020 Pelvic adhesive disease Right salpingectomy Tubal and abdominal ectopic NA NA NA NA Fresh NA Abdominal - uterine fundus (E) 28 weeks Placental abruption Laparotomy Fetal demise of abdominal ectopic @ 28 weeks Pisarska (1998) [31] 35 yo G2P0020 Unexplained NA No Long protocol w/ GnRH agonist 9 6 NA Fresh 6004 Bladder serosa (H) 6 weeks gestation No Diagnostic laparoscopy Laparoscopic removal of ectopic pregnancy (bladder), term delivery of IUP Deshpande (1999) [32] 33 yo G1P0010 Endometriosis Endometriosis, left salpingectomy, Patent right tube No Long protocol w/ GNRH agonist 8 2 Day 3 ET Fresh 55,560 Twin pregnancy in broad ligament (H) 7 weeks PT No Laparotomy Removal of twin ectopic pregnancy by laparotomy at 7 weeks Scheiber (1999) [33] 37 yo G3P0030 Tubal factor EndometriosisDOR Salpingostomy, donor oocytes Tubal ectopic NA NA 2 Day 3 ET Frozen NA Abdominal (H) 8.5 weeks PT No KCl selective reduction of abdominal pregnancy Selective reduction of abdominal pregnancy, full term viable IUP Dmowski (2002) [34] 34 yo G0P0 Tubal Bilateral Salpingectomy No Long protocol w/ GnRH agonist 15 3 Day 3 ET Fresh 38,635 Retroperitoneal pancreatic (E) 41 days PT Yes Laparotomy Retroperitoneal subpancreatic ectopic removed by laparotomy Jain (2002) [35] 29 yo G0P0 Unexplained NA No NA NA 2 NA NA NA Pouch of Douglas (H) 9 weeks PT NA Laparotomy at 4w weeks (no IUP seen), selective reduction of ectopic at 13 weeks Selective reduction of abdominal ectopic, removal by laparotomy, SAB of IUP Cormio (2003) [36] 30 yo G2P0020 Tubal Bilateral salpingectomy Tubal ectopic x2 Menotropins, hCG trigger 7 4 Day 3 ET Fresh 256,400 Omentum, uterine fundus (H) 13 weeks gestation No Laparotomy Laparotomy for abdominal ectopic; Live IUP delivered at 36 weeks Reid (2003) [37] 28 yo G5P1041 Tubal bilateral salpingectomy Tubal ectopic x3 NA NA 3 NA NA 5500 Retroperitoneal, iliac bifurcation (E) 63 days PT NA Laparotomy Removal of ectopic via laparotomy oder et al. Discussion Reproductive Biology and Endocrinology (2016) 14:69 Pa Table 2 Abdominal ectopic case reports (Continued) Kitade (2005) [38] 37 yo G0P0 Unexplained NA No Long protocol w/ GnRH agonist 12 3 Day 3 ET Fresh 45,896 Splenic and Tubal (H) 34 days PT (tubal), 46 day PT (splenic) Tubal - No, Splenic - Yes 1) Laparoscopic salpingectomy 2) Exploratory laparotomy Removal of tubal ectopic by laparoscopy, removal of splenic ectopic by laparotomy (12 days later) Ali (2006) [39] 35 NA Tubal Pelvic adhesions No NA 11 1 NA Fresh 1524 Tube with Omental/ peritoneal trophoblastic tissue (H) 3 weeks PT - tubal ectopic; 5 weeks PT – omental tissue No Laparoscopic salpingectomy; Laparocopic removal of omental/ peritoneal trophoblastic tissue Removal of tubal and peritoneal/ omental pregnancy tissue by 2 laparoscopies Apantaku (2006) [40] 33 G3P1021 Tubal Bilateral salpingectomy Tubal ectopic x2 NA NA 2 NA Fresh NA Right adnexa (E) 6 weeks PT No Laparoscopy Laparoscopic removal of pregnancy tissue Knopman (2007) [41] 37 yo G4P0040 Unexplained NA No GnRH antagonist 9 2 Day 5 ET Fresh 1023 Posterior cul-de- sac (H) 7 weeks, nonviable IUP; 9 weeks ectopic Yes Laparoscopy D&C for non- viable IUP; Laparoscopy for abdominal ectopic Shih (2007) [42] 33 yo G0P0 Male Factor Patent tubes No Long protocol w/ GnRH agonist 4 NA NA Fresh 901 Cul-de-sac (E) 28 days PT No Laparoscopy converted to laparotomy Removal of pregnancy tissue by laparotomy Shojai (2007) [43] 35 yo G0P0 Structural, DES exposure NA No NA NA 3 NA NA NA Abdominal - uterine fundus (H) 21 weeks gestation No Laparotomy Delivery of viable twins at 32 weeks Iwama (2008) [44] 31 yo G1P0010 Tubal Right Salpingectomy for tubal ectopic after IVF, left salpingectomy for hydrosalpinx Tubal ectopic NA NA 3 Day 3 ET Fresh 45, 369 Inferior Vena Cava/ Retroperitoneal (E) 32 days PT: PUL; 53 days PT: retroperitoneal ectopic Yes D&C, MTX, Diagnostic laparoscopy, repeat MTX, Exploratory laparotomy Ruptured retroperitoneal ectopic, removed by laparotomy Hyvarinen (2009) [45] NA NA NA NA NA NA NA NA NA NA NA Abdominal (E) 30 weeks gestation No Laparotomy Delivery of viable fetus at 30 weeks Zacche (2011) [46] 36 G1P1 Tubal Bilateral Salpingectomy, PID No NA NA 2 NA Fresh NA Abdominal (H) 32 weeks at Cesarean Delivery No Laparotomy, hysterectomy Viable twin pregnancies at 32 weeks; Hysterectomy der et al. Discussion Reproductive Biology and Endocrinology (2016) 14:69 Table 2 Abdominal ectopic case reports (Continued) ts (Continued) Obturated eft tube NA Short protocol, w/ GnRH antagonist NA 2 Day 3 ET Fresh NA Abdominal - vesicouterine junction (E) 23 days PT No Laparoscopy Laparoscopic removal of pregnancy tissue Bilateral alpingectomy or hydrosalpinx NA NA NA NA NA NA 21,730 Left adnexa (E) 2 weeks PT No Mini- laparotomy Removal of ectopic via laparotomy NA No NA NA 1 NA Frozen 14,800 Retroperitoneal (E) 10 weeks gestation NA Laparoscopy Laparoscopic removal of pregnancy tissue rettage, DES Diethylstilbestrol, E Ectopic, FSH Follicle stimulating hormone, GnRH Gonadotropin-releasing hormone, H Heterotopic, hCG Human chorionic gonadotropin, ysterosalpingogram, IUP Intrauterine pregnancy, IVF In vitro fertilization, KCl Potassium chloride, MTX Methotrexate, NA Not available, PID Pelvic inflammatory disease, PT m, SAB Spontaneous abortion Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 p p Angelova (2015) [47] 33 NA Male Factor Obturated left tube NA Short protocol, w/ GnRH antagonist NA 2 Day 3 ET Fresh NA Abdominal - vesicouterine junction (E) 23 days PT No Laparoscopy Laparoscopic removal of pregnancy tissue Dalmia (2015) [48] 37 G1P0010 EndometriosisTubal factor Bilateral salpingectomy for hydrosalpinx NA NA NA NA NA NA 21,730 Left adnexa (E) 2 weeks PT No Mini- laparotomy Removal of ectopic via laparotomy Koyama (2015) [49] 32 G5P1 Male Factor NA No NA NA 1 NA Frozen 14,800 Retroperitoneal (E) 10 weeks gestation NA Laparoscopy Laparoscopic removal of pregnancy tissue Abbreviations: AB Abortion, D&C Dilation and curettage, DES Diethylstilbestrol, E Ectopic, FSH Follicle stimulating hormone, GnRH Gonadotropin-releasing hormone, H Heterotopic, hCG Human chorionic gonadotropin, hMG Human menopausal gonadotropin, HSG Hysterosalpingogram, IUP Intrauterine pregnancy, IVF In vitro fertilization, KCl Potassium chloride, MTX Methotrexate, NA Not available, PID Pelvic inflammatory disease, PT Post transfer, RBC Red blood cell, Tc Technetium, SAB Spontaneous abortion Abbreviations: AB Abortion, D&C Dilation and curettage, DES Diethylstilbestrol, E Ectopic, FSH Follicle stimulating hormone, GnRH Gonadotropin-releasing hormone, H Heterotopic, hCG Human chorionic gonadotropin, hMG Human menopausal gonadotropin, HSG Hysterosalpingogram, IUP Intrauterine pregnancy, IVF In vitro fertilization, KCl Potassium chloride, MTX Methotrexate, NA Not available, PID Pelvic inflammatory disease, PT Post transfer, RBC Red blood cell, Tc Technetium, SAB Spontaneous abortion Page 7 of 10 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 Page 8 of 10 Yoder et al. Discussion Reproductive Biology and Endocrinology (2016) 14:69 Page 8 of 10 Other trends identified in our systematic review in- clude >1 embryo transferred (reported in 79 % of cases) and a large number of heterotopic abdominal pregnancy (reported in 46 % of cases). Multiple embryo transfer has always been associated with increased risk of EP with transfer of two or less embryos carrying lower risk than after three or more embryos [20]. In the setting of multiple embryo transfers, identification of an intrauter- ine pregnancy often leads to delayed diagnosis of ab- dominal pregnancy in the absence of clinical symptoms. Among the heterotopic cases, 4 reported a 2 week delay in diagnosis of the abdominal ectopic from the time of suspected ectopic, and 5 cases did not identify the ab- dominal ectopic until beyond the 12th week of preg- nancy. Unfortunately, this type of delayed diagnosis has the potential to lead to significantly morbid outcomes. In our review, four cases of viable abdominal pregnan- cies were identified, which is an extremely rare outcome. Three of these cases were identified at 19 weeks or be- yond, and all three had attachment of the abdominal placenta to the peritoneal surface of the uterus without involvement of other abdominal organs. Placental at- tachment to the uterus has previously been associated with viability of abdominal pregnancies [21], and with a relatively lower risk of bleeding and lower likelihood of fetal growth retardation [22]. review demonstrates several trends among reported cases. First, the majority of cases (61 %) report a history of anatomic/structural infertility etiology with history of tubal factor infertility (TFI) (46 %) being the most com- mon. This is consistent with TFI being a known risk fac- tor for ectopic pregnancy following IVF. One study that examined the risk factors for EP following IVF in 712 women reported an odds ratio (OR) of 3.99 (95 % CI: 1.23 to 12.98) for women with TFI compared to those with other infertility causes [12]. In a larger, more recent study of 553,577 ART cycles in the US, among all infer- tility diagnoses, TFI was the only one significantly asso- ciated with increased risk for ectopic pregnancy (adjusted relative risk (RR) 1.25, 95 % CI 1.16–1.35) [13]. In addition, history of tubal ectopic pregnancy was par- ticularly common, being reported in 37 % of the abdom- inal ectopic cases. Discussion A limitation of this review is the heterogeneity of re- ported cases and IVF practices which encompass several decades. Further research focusing on more homogenous population may help in better characterizing this rare IVF complication. Discussion This also appears to be consistent with the general ART-associated EP literature. A retro- spective study that measured the risk of EP following IVF in 181 women with a previous ectopic demonstrated a 45-fold higher risk of recurrence when compared with 377 women with other causes of infertility. The authors reported that the prevalence of EP was 8.95 % compared with 0.75 % in the control group [14]. History of prior tubal surgery was also particularly common (50 %) among abdominal ectopic cases in our systematic review. A history of tubal/pelvic surgery is another major risk factor for the development of EP following IVF. Odds ratio for developing EP was 8.52 (95 % CI: 5.91–12.27) for prior adnexal surgery, 11.02 (95 % CI: 5.49–22.15) for a previous tubal infertility surgery, 5.16 (95 % CI: 1.25–21.21) for prior surgery for endometriosis and 17.70 (95 % CI: 8.11–38.66) for a previous abdominal/ pelvic surgery [12, 15, 16]. Interestingly, bilateral salpin- gectomy was the most common tubal surgery reported in our case review. While the exact mechanism of ab- dominal ectopic after bilateral salpingectomy remains unclear, many authors have proposed that it may be due to the development of a micro-fistulous tract after sal- pingectomy. Uterine perforation during embryo transfer has also been suggested as a mechanism for abdominal ectopic pregnancy, and embryo transfer technique has been related to overall EP risk after IVF. Aspects of the transfer that may increase risk of EP include large volume of transfer media, induction of abnormal uterine contractions, and location of embryo transfer in relation to the uterine fundus [9]. These factors have all been associated with retrograde flow of both transfer media and the embryo toward the fallopian tubes. Many sug- gestions have been made regarding optimal transfer lo- cation within the endometrium, ranging from 5 to 20 mm from the fundal surface, while others recom- mend “mid-cavity” location to avoid proximity to the fal- Finally, abdominal ectopic pregnancies were far more common in fresh embryo transfer (71 % of cases) than frozen embryo transfer (11 % of cases). This may be due to the fact that frozen embryo transfer has become widely used only recently, and we may begin to see higher frequency with frozen embryo transfers over time. However, several recent studies indicate that ectopic pregnancy rates are higher for fresh as compared to fro- zen IVF cycles [1, 6]. Ethics approval and consent to participate Since this study used only deidentified patient data, and published data f h li l f i i i l i b d (IRB) from the literature, no approval from our institutional review board (IRB) was required. from the literature, no approval from our institutional review board (IRB) was required. 23. Oehninger S, Kreiner D, Bass MJ, Rosenwaks Z. Abdominal pregnancy after in vitro fertilization and embryo transfer. Obstet Gynecol. 1988;72(3 Pt 2):499–502. Authors’ contributions NY performed the systematic literature search, extracted and analyzed the data, and wrote the manuscript; RT conceived and designed the study, critically reviewed and revised the manuscript; JRM conceived the study, critically reviewed and revised the manuscript. All authors read and approved the final submission. 18. Nazari A, Askari HA, Check JH, O’Shaughnessy A. Embryo transfer technique as a cause of ectopic pregnancy in in vitro fertilization. Fertil Steril. 1993;60:919–21. 19. Coroleu B, et al. The influence of the depth of embryo replacement into the uterine cavity on implantation rates after IVF: a controlled, ultrasound – guided study. Hum Reprod. 2002;17:341–6. Consent for publication 21. Dubinsky TJ, Guerra F, Gormaz G, Maklad N. Fetal survival in abdominal pregnancy: a review of 11 cases. J Clin Ultrasound. 1996;24:513–7. 22. Huang K, Song L, Wang L, Gao Z, Meng Y, Lu Y. Advanced abdominal pregnancy: an increasingly challenging clinical concern for obstetricians. Int J Clin Exp Pathol. 2014;7(9):5461–72. Conclusions In conclusion, ectopic pregnancy, including abdominal ectopic, is a known risk of IVF. The case reported highlights the diagnostic challenges behind this rare form of ectopic pregnancy, and the need to keep it in the differential in atypical ectopic presentations. Our systematic literature review has revealed several trends in reported cases of abdominal ectopic preg- nancy after IVF including tubal factor infertility, his- tory of tubal ectopic and tubal surgery, higher number of embryos transferred, and fresh embryo transfers. These are consistent with known risk fac- tors for ectopic pregnancy following IVF. Page 9 of 10 Page 9 of 10 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 Received: 31 August 2016 Accepted: 6 October 2016 Received: 31 August 2016 Accepted: 6 October 2016 24. Bassil S, Pouly JL, Canis M, et al. Advanced heterotopic pregnancy after in- vitro fertilization and embryo transfer, with survival of both the babies and the mother. Hum Reprod. 1991;6(7):1008–10. Availability of data and materials Not applicable. Availability of data and materials Not applicable. 17. Rovei V, et al. IVF outcome is optimized when embryos are replaced between 5 and 15 mm from the fundal endometrial surface: a prospective analysis on 1184 IVF cycles. Reprod Biol Endocrinol. 2013;11:114. Acknowledgements 15. Parashi S, Moukhah S, Ashrafi M. Main risk factors for ectopic pregnancy: a case-control study in a sample of Iranian women. Int J Fertil Steril. 2014;8(2):147–54. Competing interests The authors declare that they have no competing interests. 20. Pandian Z, Marjoribanks J, Ozturk O, Serour G, Bhattacharya S. Number of embryos for transfer following in vitro fertilisation or intra-cytoplasmic sperm injection. Cochrane Database Syst Rev. 2013;7:CD003416. References 25. Ferland RJ, Chadwick DA, O’Brien JA, Granai 3rd CO. An ectopic pregnancy in the upper retroperitoneum following in vitro fertilization and embryo transfer. Obstet Gynecol. 1991;78(3 Pt 2):544–6. 1. Londra L, Moreau C, Strobino D, Garcia J, Zacur H, Zhao Y. Ectopic pregnancy after in vitro fertilization: differences between fresh and frozen- thawed cycles. Fertil Steril. 2015;104(1):110–8. 26. Ragni G, Lombroso Finzi GC, Olivares MD, Crosignani PG. Twin in vitro fertilization (IVF) pregnancies: spontaneous intrauterine abortion after selective second-trimester termination of ectopic intraabdominal pregnancy. J In Vitro Fert Embryo Transf. 1991;8(4):236–7. 2. Clayton HB, Schieve LA, Peterson HB, Jamieson DJ, Reynolds MA, Wright VC. Ectopic pregnancy risk with assisted reproductive technology procedures. Obstet Gynecol. 2006;107(3):595–604. 3. Bouyer J, Coste J, Fernandez H, Pouly JL, Job-Spira N. Sites of ectopic pregnancy: a 10 year population-based study of 1800 cases. Hum Reprod. 2002;17(12):3224–30. 27. Balmaceda JP, Bernardini L, Asch RH, Stone SC. Early primary abdominal pregnancy after in vitro fertilization and embryo transfer. J Assist Reprod Genet. 1993;10(4):317–20. 4. Alto WA. Abdominal pregnancy. Am Fam Physician. 1990;41(1):209–14. 28. Fisch B, Powsner E, Heller L, et al. Heterotopic abdominal pregnancy following in-vitro fertilization/embryo transfer presenting as massive lower gastrointestinal bleeding. Hum Reprod. 1995;10(3):681–2. 5. Zhang Y-L, Sun J, Su Y-C, Guo Y-H, Sun Y-P. Study on the incidence and influences on ectopic pregnancy from embryo transfer of fresh cycles and frozen-thawed cycles. Zhonghua Fu Chan Ke Za Zhi. 2012;47(9):655–8. 29. delRosario R, el-Roeiy A. Abdominal pregnancy on the bladder wall following embryo transfer with cryopreserved-thawed embryos: a case report. Fertil Steril. 1996;66(5):839–41. 6. Huang B, Hu D, Qian K, et al. Is frozen embryo transfer cycle associated with a significantly lower incidence of ectopic pregnancy? An analysis of more than 30,000 cycles. Fertil Steril. 2014;102(5):1345–9. 30. Moonen-Delarue MW, Haest JW. Ectopic pregnancy three times in line of which two advanced abdominal pregnancies. Eur J Obstet Gynecol Reprod Biol. 1996;66(1):87–8. 7. Decleer W, Osmanagaoglu K, Meganck G, Devroey P. Slightly lower incidence of ectopic pregnancies in frozen embryo transfer cycles versus fresh in vitro fertilization-embryo transfer cycles: a retrospective cohort study. Fertil Steril. 2014;101(1):162–5. 31. Pisarska MD, Casson PR, Moise Jr KJ, DiMaio DJ, Buster JE, Carson SA. Heterotopic abdominal pregnancy treated at laparoscopy. Fertil Steril. 1998;70(1):159–60. 8. Rombauts L, McMaster R, Motteram C, Fernando S. Consent for publication Not applicable. Consent for publication Not applicable. Abbreviations 11. Fisch B, Peled Y, Kaplan B, Zehavi S, Neri A. Abdominal pregnancy following in vitro fertilization in a patient with previous bilateral salpingectomy. Obstet Gynecol. 1996;88(4 Pt 2):642–3. AB: Abortion; ART: Assisted reproduction technologies; D&C: Dilation and curettage; DES: Diethylstilbestrol; E: Ectopic; FSH: Follicle stimulating hormone; GnRH: Gonadotropin-releasing hormone; H: Heterotopic; hCG: Human chorionic gonadotropin; hMG: Human menopausal gonadotropin; HSG: Hysterosalpingogram; IUP: Intrauterine pregnancy; IVF: In vitro fertilization; KCl: Potassium chloride; MTX: Methotrexate; NA: Not available; PID: Pelvic inflammatory disease; PT: Post transfer; RBC: Red blood cell; SAB: Spontaneous abortion; Tc: Technetium 12. Malak M, Tawfeeq T, Holzer H, Tulandi T. Risk factors for ectopic pregnancy after in vitro fertilization treatment. J Obstet Gynaecol Can. 2011;33(6):617–9. 13. Perkins KM, Boulet SL, Kissin DM, Jamieson DJ, National ART Surveillance (NASS) Group. Risk of ectopic pregnancy associated with assisted reproductive technology in the United States, 2001–2011. Obstet Gynecol. 2015;125(1):70–8. 14. Weigert M, Gruber D, Pernicka E, Bauer P, Feichtinger W. Previous tubal ectopic pregnancy raises the incidence of repeated ectopic pregnancies in in vitro fertilization-embryo transfer patients. J Assist Reprod Genet. 2009; 26(1):13–7. Funding None 16. Li C, Meng C-X, Zhao W-H, Lu H-Q, Shi W, Zhang J. Risk factors for ectopic pregnancy in women with planned pregnancy: a case-control study. Eur J Obstet Gynecol Reprod Biol. 2014;181:176–82. References Risk of ectopic pregnancy is linked to endometrial thickness in a retrospective cohort study of 8120 assisted reproduction technology cycles. Hum Reprod. 2015. doi:10. 1093/humrep/dev249. 32. Deshpande N, Mathers A, Acharya U. Broad ligament twin pregnancy following in-vitro fertilization. Hum Reprod. 1999;14(3):852–4. 33. Scheiber MD, Cedars MI. Case Report: Successful non-surgical management of a heterotopic abdominal pregnancy following embryo transfer with cryopreserved–thawed embryos. Hum Reprod. 1999;14(5):1375–7. 9. Refaat B, Dalton E, Ledger WL. Ectopic pregnancy secondary to in vitro fertilisation-embryo transfer: pathogenic mechanisms and management strategies. Reprod Biol Endocrinol. 2015;13:30. 34. Dmowski WP, Rana N, Ding J, Wu WT. Retroperitoneal subpancreatic ectopic pregnancy following in vitro fertilization in a patient with previous 10. Atrash HK, Friede A, Hogue CJ. Abdominal pregnancy in the United States: frequency and maternal mortality. Obstet Gynecol. 1987;69(3 Pt 1):333–7. Page 10 of 10 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 bilateral salpingectomy: how did it get there? J Assist Reprod Genet. 2002;19(2):90–3. bilateral salpingectomy: how did it get there? J Assist Reprod Genet. 2002;19(2):90–3. 35. Jain S, Justus K, Bober S. Selective transvaginal embryo reduction in heterotopic pregnancy located intra-abdominally. J Obstet Gynaecol. 2002;22(3):330. 36. Cormio G, Santamato S, Putignano G, Bettocchi S, Pascazio F. Concomitant abdominal and intrauterine pregnancy after in vitro fertilization in a woman with bilateral salpingectomy. A case report. J Reprod Med. 2003;48(9):747–9. 37. Reid F, Steel M. An exceptionally rare ectopic pregnancy. BJOG. 2003; 110(2):222–3. 38. Kitade M, Takeuchi H, Kikuchi I, Shimanuki H, Kumakiri J, Kinoshita K. A case of simultaneous tubal-splenic pregnancy after assisted reproductive technology. Fertil Steril. 2005;83(4):1042. 39. Ali CR, Fitzgerald C. Omental and peritoneal secondary trophoblastic implantation - an unusual complication after IVF. Reprod Biomed Online. 2006;12(6):776–8. 40. Apantaku O, Rana P, Inglis T. Broad ligament ectopic pregnancy following in-vitro fertilisation in a patient with previous bilateral salpingectomy. J Obstet Gynaecol. 2006;26(5):474. 41. Knopman JM, Talebian S, Keegan DA, Grifo JA. Heterotopic abdominal pregnancy following two-blastocyst embryo transfer. Fertil Steril. 2007;88(5): 1437. e13-e15. 42. Shih C-C, Lee RK-K, Hwu Y-M. Cul-de-sac pregnancy following in vitro fertilization and embryo transfer. Taiwan J Obstet Gynecol. 2007;46(2):171–3. 43. Shojai R, Chaumoitre K, Chau C, Panuel M, Boubli L, d’Ercole C. Advanced combined abdominal and intrauterine pregnancy: a case report. Fetal Diagn Ther. 2007;22(2):128–30. 44. Iwama H, Tsutsumi S, Igarashi H, Takahashi K, Nakahara K, Kurachi H. References A case of retroperitoneal ectopic pregnancy following IVF-ET in a patient with previous bilateral salpingectomy. Am J Perinatol. 2008;25(1):33–6. 45. Hyvärinen M, Raudaskoski T, Tekay A, Herva R. Abdominal pregnancy. Duodecim. 2009;125(22):2448–51. 46. Zacchè MM, Zacchè G, Gaetti L, Vignali M, Busacca M. Combined intrauterine and abdominal pregnancy following ICSI with delivery of two healthy viable fetuses: a case report. Eur J Obstet Gynecol Reprod Biol. 2011; 154(2):232–3. 47. Angelova MA, Kovachev EG, Kozovski I, Kornovski YD, Kisyov SV, Ivanova VR. A case of secondary abdominal pregnancy after In Vitro Fertilization Pre- Embryo Transfer (IVF-ET). Open Access Maced J Med Sci. 2015;3(3):426–8. 48. Dalmia R, Murthy J, Orakwue C. A case of abdominal pregnancy following in vitro fertilization in a patient with previous bilateral salpingectomy. IJMPCR. 2015;2(1):18–21. 49. Koyama S, Yoshino A, Okuno K, et al. A case of abdominal pregnancy following in vitro fertilization and embryo transfer treated with laparoscopic surgery. Gynecol Minim Invasive Ther. doi:10.1016/j.gmit.2015.04.006. 49. Koyama S, Yoshino A, Okuno K, et al. A case of abdominal pregnancy following in vitro fertilization and embryo transfer treated with laparoscopic surgery. Gynecol Minim Invasive Ther. doi:10.1016/j.gmit.2015.04.006. • We accept pre-submission inquiries • Our selector tool helps you to find the most relevant journal • We provide round the clock customer support • Convenient online submission • Thorough peer review • Inclusion in PubMed and all major indexing services • Maximum visibility for your research Submit your manuscript at www.biomedcentral.com/submit Submit your next manuscript to BioMed Central and we will help you at every step: Submit your next manuscript to BioMed Central and we will help you at every step: • We accept pre-submission inquiries • Our selector tool helps you to find the most relevant journal • We provide round the clock customer support • Convenient online submission • Thorough peer review • Inclusion in PubMed and all major indexing services • Maximum visibility for your research Submit your manuscript at www.biomedcentral.com/submit Submit your next manuscript to BioMed Central and we will help you at every step: • We accept pre-submission inquiries
https://openalex.org/W2739024990
https://www.joe.uobaghdad.edu.iq/index.php/main/article/download/2633/1697
English
null
PARAMETRIC STUDY OF LAMINAR FREE CONVECTION IN HORIZONTAL ANNULUS WITH AND WITHOUT FINS ON THE INNER CYLINDER
Maǧallaẗ al-handasaẗ/Journal of engineering
2,010
cc-by
10,218
PARAMETRIC STUDY OF LAMINAR FREE CONVECTION IN HORIZONTAL ANNULUS WITH AND WITHOUT FINS ON THE INNER CYLINDER Jasim Mohammed Mehdi Mechanical Engineering Department University of Baghdad Asst. Prof. Dr. Saad M. Saleh Mechanical Engineering Department University of Baghdad Volume 16 June 2010 Volume 16 June 2010 Journal of Engineering Number 2 ABSTRACT An experimental and numerical study has been carried out to investigate the heat transfer by natural convection in air-filled annulus between two horizontal isothermal concentric cylinders with and without annular fins under steady state conditions; the inner cylinder surface is maintained at a higher temperature and the outer cylinder surface at a lower one. In the experimental study, the annulus inner surface is maintained at high temperature by applying uniform heat flux to the inner cylinder while the annulus outer surface is subjected to ambient temperature and maintained at low temperature. The experiments were curried out at a range of Rayleigh number (1.81×103 – 4.03×104) for case without fins and (1.08×103 – 2.94×104) for case with fins, at different diameter ratios (η = 2.0, 2.6 and 3.0). The results showed that: (1) increasing the diameter ratio(η) strongly increases the heat transfer rate, (2) increasing Rayleigh number increases the heat transfer rate for any η and (3) attaching annular fins to the inner cylinder surface of (No. of fins/cm) of 1.25 and (fin height/gap width) of 0.143, 0.186 and 0.286 reduced the mean Nusselt number ( Nu) within (16.3 - 29.7) percent of that for the case without fins at the same Rayleigh number. In the numerical study, only the case without fins was investigated. The buoyancy driven fluid flow resulting from the temperature difference between the cylinders, is assumed to be steady, laminar, two dimensional and symmetric about the vertical center-line. Only half of the domain needs to be modeled from symmetry considerations. Navier-Stokes and energy equations are expressed in vorticity-stream function form and discretized via finite difference method. The Rayleigh number (based on gap width) varied from l02 to l05 with the influence of diameter ratio obtained near a Rayleigh number of 104. Results for the local and mean Nusselt number, the contour maps of the streamlines and isotherms are presented, to show some of the flow and heat transfer characteristics. The results numerically obtained showed a good agreement with the present experimental data. 5199 S. M. Saleh Parametric Study Of Laminar Free Convection J. M. Mehdi In Horizontal Annulus With And Without Fins On The Inner Cylinder S. M. Saleh J. M. ABSTRACT Mehdi Parametric Study Of Laminar Free Convection In Horizontal Annulus With And Without Fins On The Inner Cylinder Parametric Study Of Laminar Free Convection In Horizontal Annulus With And Without Fins On The Inner Cylinder انخالصة ْ أُجشَدْ ْدساسحْػًهُحْوَظشَحْالسرمصاءْاَرمالْانذشاسجْتانذًمْانطثُؼٍْخاللْفجىجْدهمُحْيًهؤجْهىاءْذمغ ْتٍُْاسطىاَرٍُْأفمُرٍُْيرذذذٍْانًشكضْتثثىخْدسجحْدشاسجْانسطذٍُْانذاخهٍْوْانخاسجٍْنهفجىجْوْتىجىدْو ٌػذوْوجىدْصػاَفْدهمُح،ْذذدْششوغْدانحْاالسرمشاس،ْوأٌْذكىْ ًْاالسطىاَحْانذاخهُحْراخْدسجحْدشاسجْأػه يٍْانخاسجُح.ْ فٍْانذساسحْانؼًهُحْذى ْدفعْانسطخْانذاخهٍْنهفجىجْتذسجحْدشاسجْأػهًْػٍْغشَكْذسهُػْفُطْدشاسٌْيُرظى ْػهً ْانسطخ ْانذاخهٍ ْنالسطىاَح ْانذاخهُح ْفًُا ْدفع ْانسطخ ْانخاسجٍ ْنهفجىج ْتذسجح ْدشاسج ْألم ْترؼشَط ْاالسطىاَحْانخاسجُح انًْدسجحْدشاسجْا نجىْ. ٍُْأجشَدْانرجاسبْظًٍْيذيْنؼذدْسانٍْذشاوحْت(1.81×103 – 4.03×104) ْنهذانح ْتذوٌ ْصػاَف، ْو(1.08×103 – 2.94×104) ْ ْنهذانح ْتىجىد ْصػاَف،و ْػُذ َْسثح ألطاس2.0, 2.6 , 3.0) .) ٍُْأظهشخ ْانُرائج ْتاٌ ْصَادج َْسثح ْااللطاس ْذضَذ ْيٍ ْيؼذل ْاَرمال ْانذشاسج ْت االسطْىاَرٍُ،ْكزنكْإٌَّ ْانضَادجْفٍْػذدْسانٍْذؤدٌْانًْصَادجْيؼذلْاَرمالْانذشاسجْالٌَْسثحْألطاس،ْوْإٌْاظافح ْصػاَفْدهمُحْانًْاالسطىاَحْانذاخهُحْتشكمْذكًُهٍْتًؼذل1.25 ْ ْصػُفحْنكمْسُرًرشْوادذْوْتُسثح( ْاسذفاع انضػُفحْ/سًكْانفجىجْ) 0.143, 0.186 , 0.286 َْْمهمْيٍْسلىَْسهدْ ٍْانًؼذلْتذىان(16.3% - 29.7%) ْ يماسَحْتانذانحْتذوٌْصػاَفْوْنشلىْسانٍَْفسهْ. ْذُاوندْانذساسحْانُظشَحْدمْيسأنحْاَرمالْانذشاسجْتانذًمْانذش ْخاللْفجىجْدهمُحْأفمُحْوْنهذانحْتذوٌْصػاَفْفمػْ،ْإرْذىْافرشاضْجشَاٌْانًائغْانُاشٍءْػٍْلىيْانطفىْو َرُجحْنهفاسقْفٍْدسجحْدشاْسج ْاالسطىاَرٍُ،ْهىْجشَاٌْيسرمش،ْغثالٍْ،ْثُائٍْانثؼذْوْيرُاظشْدىلْانخػ انًسرمُىْانشالىنٍْانًاسْتانًشكضْ.وَْرُجحْالػرثاساخْانرُاظشْفمػَْصفْوادذْيٍَْصفٍْانفجىجْأخعغْنهذساسحْ. ذى ْذًثُم ْيؼذالخ َْافُش-سرىكس ْتاالظافح ْانً ْيؼادنح ْانطالح ْتصُغح ْانذوايُح-ْدانح ْانجشَاٌ ْوْ ْيٍ ْثى ْفُكد تاسرخذاوْغشَمحْانفشولاخْانًذذدجْ. ٌْوْلذْذىْانذصىلْػهًَْرائجْيُثهدْتًخططاخْدانحْانجشَاٌْوخطىغْذساو ٍدسجحْانذشاسج،ْوذىصَغْػذدَْسهدْانًىظؼْوْانًؼذلْ ٍُْخاللْانفجىجْوألػذادْسانٍْذرشاوحْت102 ًْان105 ْ ْو ٍَسةْلطشْخاسجٍْإنًْلطشْداخه2.0, 2.6 , 3.0) )ْ ْ. ْتُُد انُرائجْانرأثُشْانًهىْنهًرغُشاخ( ْسلىْسانٍْوَْسثح االلطاس)ػهًْػًهُحْاَرمالْانذشاسجْخاللْانفجىجْوْلذْ ْأظهشخْانُرائجْانًسرذصهحْػذدَاًْذىافماًْجُذاًْيغْانُرائج انؼًهُح.ْ ا ال ْ أُجشَدْ ْدساسحْػًهُحْوَظشَحْالسرمصاءْاَرمالْانذشاسجْتانذًمْانطثُؼٍْخاللْفجىجْدهمُحْيًهؤجْهىاءْذمغ ْتٍُْاسطىاَرٍُْأفمُرٍُْيرذذذٍْانًشكضْتثثىخْدسجحْدشاسجْانسطذٍُْانذاخهٍْوْانخاسجٍْنهفجىجْوْتىجىدْو ٌػذوْوجىدْصػاَفْدهمُح،ْذذدْششوغْدانحْاالسرمشاس،ْوأٌْذكىْ ًْاالسطىاَحْانذاخهُحْراخْدسجحْدشاسجْأػه يٍْانخاسجُح.ْ KEYWORDS: Free Convection, Fins, Laminar, Horizontal Annulus. INTRODUCTION Natural convection in the annulus between two horizontal concentric cylinders has been investigated widely in the past owing to a number of practical applications associated with this geometry such as heat transfer and fluid flow in parabolic cylindrical solar collector, under-ground electrical transmission lines and pressurized water reactors. Kuhen and Goldstein [1] carried out an experimental and numerical investigation of natural convection heat transfer for air and water in concentric horizontal annuli for values of Rayleigh number up to 107. Their work was carried out for a diameter ratio equal to 2.6. In their experimental study, it was reported that the transition from laminar to turbulent flow occurs at Rayleigh number equal to 106. Later, Hessami et al. [2] studied experimentally the free convection in a horizontal annulus with a large diameter ratio of (11.4). The test fluids were air, glycerin and mercury. This study was unique as they clamed because there are no experimental details in the literature for η > 8.1. In addition, no experimental data exist for mercury. Recently Nada [3] conducted an experimental study of natural convection in horizontal and inclined annuli at Rayleigh number of (5×104≤RaDi≤5×105) for different diameter ratios (η=1.85, 2.5 and 3.85) and different inclination angle of the annulus (φ = 0˚, 30˚ and 60˚). The results showed that increasing the annulus gap width strongly increases the heat transfer rate and the heat transfer rate slightly decreases with increasing the inclination of the annulus from the horizontal. Also, several numerical investigations of laminar natural convection in a concentric horizontal annulus have been conducted [4–6]. In these previous works, maximum transition time to attain steady state in underground electrical transmission lines, the 5200 Volume 16 June 2010 Journal of Engineering effects of variable properties on the laminar natural convection of gases in horizontal isothermal annulus and the effect of application constant heat flux on the inner cylinder as compared to an isothermal inner cylinder were studied. effects of variable properties on the laminar natural convection of gases in horizontal isothermal annulus and the effect of application constant heat flux on the inner cylinder as compared to an isothermal inner cylinder were studied. y p y An essential restriction in natural convection in annulus is the heat transfer limitation due to the fixed area of the inner and outer cylinders. NUMERICAL STUDY Mathematical modeling NUMERICAL STUDY INTRODUCTION One approach affecting heat transfer rate in annulus is to equip the surface of the inner cylinder with some annular fins. From a practical point of view, the existence of such fins is of interest due to the possibility of heat transfer augmentation in such geometry; but also heat transfer reduction is expected since existence of fins will resist the natural circulation inside the annulus. Patankar and Chai [7] studied the flow and heat transfer for an annulus with six radial fins attached to inner cylinder at (Ra ≤ 106); for two different orientations; the first is when two fins of the six are vertical and the second is when two fins are horizontal. They observed that the orientation of the fins has no significant effect on mean Nusselt number prediction, while the blockage due to the presence of fins has a significant effect on the flow and temperature fields and therefore on heat transfer. Their results indicate that the mean Nusselt number decreases with increasing fin height. Rahinam and Farhadi [8] investigated the effect of radial fins on heat transfer by turbulent natural convection for an annulus with a number of radial fins ranged from 2 to 12 attached to inner cylinder. They examined two different orientations used by Patankar and Chai [7] to reveal the effect of fin height and fin orientation. The Rayleigh number considered in this study ranges from 106 to 109. Their results show that the higher fin height has a blocking effect on flow causing lower heat transfer rate. they concludes that there is a reduction of heat transfer rate in all of the orientations considered in this study as compared to the case of no fin at the same Rayleigh number. The main aim of the present experimental investigation is to determine the effect of the annular fins, diameter ratio and Rayleigh number on mean Nusselt number prediction across the annulus. The numerical study objectives are to develop a mathematical model capable of predicting fluid flow and heat transfer in horizontal concentric annuli without fins using finite difference method for a range of Rayleigh numbers and diameter ratios. NUMERICAL STUDY Mathematical modeling The governing equations for the natural convection in the annulus between horizontal concentric cylinders under steady-state conditions can be written as: [1]  0 v r 1 ru r r 1        …..………………..………….…….….…… (1)                            ru r r 1 r μ r p r v φ u r v r u u ρ 2 o  0 v r 1 ru r r 1        …..………………..………….…….….…… (1)                            ru r r 1 r μ r p r v φ u r v r u u ρ 2 o                    cos T T 1 g v 2 r 2 2 u r 1 2 2 o o …............................... (2)                               rv r r 1 r r p uv v v r v ru ρo … (1)                    cos T T 1 g v 2 r 2 2 u r 1 2 2 o o …............................... (2)                               rv r r 1 r r p uv v v r v ru ρo S. M. Saleh Parametric Study Of Laminar Free Convection J. M. Mehdi In Horizontal Annulus With And Without Fins On The Inner Cylinder                    sin T T 1 r g u r 2 v r 1 2 2 o o ……………................... NUMERICAL STUDY (3)                      2 2 2 φ T r 1 r T r r 1 α φ T r v r T u …….….………………… (4)                    sin T T 1 r g u r 2 v r 1 2 2 o o ……………................... (3)                      2 2 2 φ T r 1 r T r r 1 α φ T r v r T u …….….………………… (4) where the co-ordinate r is measured from the center of the system, and is measured clockwise from the upward vertical line; as shown in Fig.(1). The use of vorticity– streamfunction formulation can simplify the solution procedure. With the streamfunction, the velocity components u and v can be expressed as      r 1 u ْ,ْ r v       Furthermore, by setting Furthermore, by setting  r R     ω α Ω 2  o i o T T T T     where α=k/ρc is the thermal diffusivity, δ is the gap between the cylinders and ω is the vorticity, Equations (1)–(4) can be simplified as where α=k/ρc is the thermal diffusivity, δ is the gap between the cylinders and ω is the vorticity, Equations (1)–(4) can be simplified as                               R sin R cos Ra R V R U Pr 1 2 ............................ (5) (5)      2 …………………..…….…………………......……… (6)      R 1 U , R V      ………………..………………..………... (7)            R V R U 2 ………………………....……………………. (8)      2 …………………..…….…………………......……… (6)      R 1 U , R V      ………………..………………..………... (7)            R V R U 2 ………………………....……………………. NUMERICAL STUDY (8) (6)  is Laplacian in polar coordinates and defined as; 2 2 2 2 2 2 R 1 R R 1 R             is Laplacian in polar coordinates and defined as; 2 2 2 2 2 2 R 1 R R 1 R            The dimensionless parameters appearing in the Equations (5)–(8) are the Prandtl number Pr = ν/α and the Rayleigh number Ra = gβ(Ti-To)δ3/αν. For the natural convection in an annulus between two concentric cylinders, the flow is symmetric with respect to the vertical centerline. Thus, half of the annulus can be taken as the computational domain, i.e. attention is restricted to (0 < < ). The boundary conditions on two impermeable isothermal walls are given by 0 V U     2 2 R       1   0 V U     2 2 R       1   on the inner cylinder and 5202 Volume 16 June 2010 Number 2 Volume 16 June 2010 Number 2 Journal of Engineering 0 V U     2 2 R       0   0 V U     2 2 R       0   on the outer cylinder. When half of the annulus is taken as the computational domain, the following symmetric condition is applied along two vertical lines of symmetry at 0   and    : on the outer cylinder. When half of the annulus is taken as the computational domain, the following symmetric condition is applied along two vertical lines of symmetry at 0   and    : 0   and    : 0   and    : 0 V U     0   0      The local and mean Nusselt number on inner cylinder surface is respectively expressed by the equations below: [4] i R R R Nu       …………………………………..….…….…… (9)      0 d. Nu 1 ___ Nu …………………………….…..…………..… (10) (9) Simpson rule has been used to compute mean Nusselt number. Numerical solution A finite difference method (FDM) is used to descretize system of the partial differential equations (5 through 8) into algebraic equations system. The new algebra equations system will be solved using iterative under relaxation method, to give approximate values of the dependent variables at a number of discrete points called (grid points or nodes) in the computational domain. A grid was established by subdividing the computational domain in the R and  directions with indexes i and j that are integers describing the number of radial grid lines from the inner cylinder and the number of angular grid lines from the top symmetry line respectively, as shown in Fig.(4.2).The spacing of the grid lines in the R-direction is uniform and given by ΔR and that of the grid lines in the -direction is also uniform and given by Δ. The number of the grid points will be [m × n] where (m) represents the number of gridlines in the R-direction and equals  1 ) R 1(   while (n) represents the number of gridlines in the -direction and equals 1 ) (     . The partial differential equations (5)-(8) were finite-differenced using central difference schemes for all of the derivatives. In particular, let  represents , ,  or, then R 2 R j,1 i j,1 i           ,             2 1 j,i 1 j,i , R 2 2 R j,1 i j,i j,1 i 2 2             and               2 2 1 j,i j,i 1 j,i 2 2 Equations (5)-(8) were put in the form convenient for iterations with under relaxation   2 Equations (5)-(8) were put in the form convenient for iterations with under relaxation method as; Equations (5)-(8) were put in the form convenient for iterations with under relaxation method as;                                 j,i j,i 2 1 j,i 1 j,i 3 j,1 i 2 j,1 i 1 j,i j,i 1 h R h h h ..…. Numerical solution (13) Where h1-h13 are parameters from the discretization; Where h1-h13 are parameters from the discretization; h R 2 R 1 h i 1          h R 2 R 1 h i 2          h R R 1 h 2 2 i 3                            R R 1 1 2 h 2 h R 2 R 1 h i 1          h R 2 R 1 h i 2          h R R 1 h 2 2 i 3           h U Pr 2 R R 2 R 1 h j,i i 4            h U Pr 2 R R 2 R 1 h j,i i 5              h V R Pr 2 R R R 1 h j,i i 2 2 2 i 6                                        R R 1 1 2 h 2 h R 2 R 1 h i 1          h R 2 R 1 h i 2          h R R 1 h 2 2 i 3           h U Pr 2 R R 2 R 1 h j,i i 4            h U Pr 2 R R 2 R 1 h j,i i 5              h V R Pr 2 R R R 1 h j,i i 2 2 2 i 6                         h V R Pr 2 R R R 1 h j,i i 2 2 2 i 7                       h / sin 2 R Ra h j 8       h / cos R 2 R Ra h j i 2 9       h U 2 R R 2 R 1 h j,i i 10            h U 2 R R 2 R 1 h j,i i 11              h V R 2 R R R 1 h j,i i 2 2 2 i 12                         h V R 2 R R R 1 h j,i i 2 2 2 i 13                                        R R 1 1 2 h 2 h R 2 R 1 h i 1          h R 2 R 1 h i 2          h R R 1 h 2 2 i 3           h U Pr 2 R R 2 R 1 h j,i i 4            h U Pr 2 R R 2 R 1 h j,i i 5              h V R Pr 2 R R R 1 h j,i i 2 2 2 i 6                         h V R Pr 2 R R R 1 h j,i i 2 2 2 i 7                       h / sin 2 R Ra h j 8       h / cos R 2 R Ra h j i 2 9       h U 2 R R 2 R 1 h j,i i 10            h U 2 R R 2 R 1 h j,i i 11              h V R 2 R R R 1 h j,i i 2 2 2 i 12                             R R 2 i   R 2 i   R i     h U Pr 2 R R 2 R 1 h j,i i 4            h U Pr 2 R R 2 R 1 h j,i i 5              h V R Pr 2 R R R 1 h j,i i 2 2 2 i 6                       h U Pr 2 R R 2 R j,i i        h U Pr 2 R R 2 R 1 h j,i i 5              h V R Pr 2 R R R 1 h j,i i 2 2 2 i 6                       h U Pr 2 R R 2 R 1 h j,i i 4            h U Pr 2 R R 2 R 1 h j,i i 5              h V R Pr 2 R R R 1 h j,i i 2 i 6                         h V R Pr 2 R R R 1 h j,i i 2 2 2 i 7                       h / sin 2 R Ra h j 8       h / cos R 2 R Ra h j i 2 9       h U 2 R R 2 R 1 h j,i i 10            h U 2 R R 2 R 1 h j,i i 11              h V R 2 R R R 1 h j,i i 2 2 2 i 12                         h V R Pr 2 R R R 1 h j,i i 2 2 2 i 7                       h / sin 2 R Ra h j 8       h / cos R 2 R Ra h j i 2 9       h U 2 R R 2 R 1 h j,i i 10            h U 2 R R 2 R 1 h j,i i 11              h V R 2 R R R 1 h j,i i 2 2 2 i 12                         R R 1 2 2        h V R Pr 2 R R R 1 h j,i i 2 2 2 i 7                       h / sin 2 R Ra h j 8       h / cos R 2 R Ra h j i 2 9       h U 2 R R 2 R 1 h j,i i 10            h U 2 R R 2 R 1 h j,i i 11              h V R 2 R R R 1 h j,i i 2 2 2 i 12                         h V R Pr 2 R R R 1 h j,i i 2 2 2 i 7                       h / sin 2 R Ra h j 8       h / cos R 2 R Ra h j i 2 9       h U 2 R R 2 R 1 j,i i           h U 2 R R 2 R 1 h j,i i 11              h V R 2 R R R 1 h j,i i 2 2 2 i 12                         h V R 2 R R R 1 h j,i i 2 2 2 i 13                       and   , and are relaxation factors chosen from numerical experiments as: 07 .0 ,8.0       & 7.0   . Numerical solution (11) 5203 S. M. Saleh Parametric Study Of Laminar Free Convection J. M. Mehdi In Horizontal Annulus With And Without Fins On The Inner Cylinder S. M. Saleh Parametric Study Of Laminar Free Convection J. M. Mehdi In Horizontal Annulus With And Without Fins On The Inner Cylinder Parametric Study Of Laminar Free Convection In Horizontal Annulus With And Without Fins On The Inner Cylinder                         j,i 1 j,i 7 1 j,i 6 j,1 i 5 j,1 i 4 j,i j,i 1 h h h h     1 j,i 1 j,i 9 j,1 i j,1 i 8 h h            ……………. (12)   j,i 1 j,i 13 1 j,i 12 j,1 i 11 j,1 i 10 j,i j,i 1 h h h h                       …......................... (13)   j,i 1 j,i 13 1 j,i 12 j,1 i 11 j,1 i 10 j,i j,i 1 h h h h                       …......................... Numerical solution 07 .0 ,8.0       & 7.0   . These values of relaxation factors have been found to stabilize the computation procedure for Rayleigh number ranges (102 - 105) and increase considerably the rate of convergence. Number of iterations ranges (1000 - 1500) was enough to attain the required convergence. For the cases when Ra was increased to a critical value which was beyond the experimentally known laminar flow regime (Ra > 105) the solution diverged and the method becomes unstable. During the computation, because of the slow rate of convergence for the stream function and vorticity compared with that of temperature, iteration was performed in weighted cyclic pattern as           .The convergence criteria needed for termination of the computation were preassigned as: 5 1 10 /) (           , 5 1 10 /) (           and 5 1 10 /) (           5 1 10 /) (           , 5 1 10 /) (           and 5 1 10 /) (           The calculations were performed on P4-computer using MATLAB-7 software. 5204 Number 2 Volume 16 June 2010 Journal of Engineering EXPERIMENTAL STUDY Experimental apparatus p pp The apparatus was designed and constructed specially for investigating the effect of Rayleigh number, diameter ratio and existing of annular fins on the natural convection heat transfer between two horizontal concentric cylinders of constant wall temperature under steady state conditions. The experimental apparatus is diagrammatically shown in Fig.(2). The test-section consists of a fixed (27mm) outside diameter, (5 mm) thick and (200 mm) long aluminium inner cylinder to which one of three different aluminium outer cylinders (200 mm) long, (4 mm) thick with 55,70 and 82 mm outside diameter were assembled to yield diameter ratios of 2, 2.6 and 3, respectively. The inner cylinder was made in two configurations, one in which the inner cylinder is being unfinned and another in which it being finned. Finned inner cylinder, shown in plate (1), is fixed to one of three different outer cylinders mentioned above, to give (fin height/gap width) of 0.286, 0.186 and 0.143.The test section is mounted on a wooden supporting-frame and stored horizontally with aid of a sprit level. The inner cylinder was heated by passing an alternative current through a 0.2-mm-dia, 5-m-length, 95-ohm nichrome wire wounded as spiral inside glass tube, (8 mm) in diameter and (190 mm) long. The heater, i.e. the glass tube and the nichrome wire, was mounted concentrically in the inner cylinder by two fictile pieces. The space between the glass tube and the inside surface of inner cylinder, also the space inside glass tube was filled by very fine sand to avoid generation of heat convection in it and to smooth any irregularities in the heat flux generated from the heater. The heater was connected in series to the power supply to ensure that incoming mains voltage is constant (220 V), and in parallel with the variac to adjust the heater input voltage as required. The voltage and current supplied to the heater were measured by digital voltmeter and ammeter of accuracy ± 0.05 volt and ± 5×10-4 ampere. Temperatures on the inner and the outer cylinder surfaces were measured by thermocouples type T; several holes of (1.5 mm) in diameter were cut over along the surface of the cylinders to accommodate thermocouples .These holes are distributed as follows: 1. EXPERIMENTAL STUDY Experimental apparatus Six holes of (5 mm) deep on the surface of unfinned inner cylinder; two located at a distance of (30 mm) from the ends and four at the mid-plane 90° apart between them. 1. Six holes of (5 mm) deep on the surface of unfinned inner cylinder; two located at a distance of (30 mm) from the ends and four at the mid-plane 90° apart between them. 2. Six holes on the surface of finned inner cylinder, two of (5 mm) deep, located at a distance of (30 mm) from the ends and four of (9 mm) deep at the mid-plane 90° apart between them. 2. Six holes on the surface of finned inner cylinder, two of (5 mm) deep, located at a distance of (30 mm) from the ends and four of (9 mm) deep at the mid-plane 90° apart between them. p 3. Four of (2 mm) deep on the outer cylinder surface; two located at a distance of (30 mm) from the ends and two at the mid-plane 180° apart between them. p p The ends of the test-section were plugged with Teflon (an insulating material) pieces in order to minimize the axial end losses and to mount the inner cylinder concentrically inside the outer cylinder. The Teflon piece is a disc (85 mm) in diameter and (20 mm) thick, cut out radially in a (10 mm) thick to get a diameter equal to the inside diameter of the outer cylinder, and drilled axially in a distance of (10 mm) and diameter of (27 mm) to get a diameter equal to the outside diameter of the inner cylinder. A hole of (5 mm) in diameter was drilled axially in each Teflon piece to draw the heater terminals and the thermocouples lead outside the test-section. Two thermocouples (type T) were fixed on the inside and outside surface of each teflon piece to estimate conduction heat losses from the test section ends. The distance between these thermocouples was 14 mm. knowing the thermal conductivity of the teflon; the ends conduction losses could thus be calculated. The ends of the test-section were plugged with Teflon (an insulating material) pieces in order to minimize the axial end losses and to mount the inner cylinder concentrically inside the outer cylinder. EXPERIMENTAL STUDY Experimental apparatus The Teflon piece is a disc (85 mm) in diameter and (20 mm) thick, cut out radially in a (10 mm) thick to get a diameter equal to the inside diameter of the outer cylinder, and drilled axially in a distance of (10 mm) and diameter of (27 mm) to get a diameter equal to the outside diameter of the inner cylinder. A hole of (5 mm) in diameter was drilled axially in each Teflon piece to draw the heater terminals and the thermocouples lead outside the test-section. Two thermocouples (type T) were fixed on the inside and outside surface of each teflon piece to estimate conduction heat losses from the test section ends. The distance between these thermocouples was 14 mm. knowing the thermal conductivity of the teflon; the ends conduction losses could thus be calculated. 5205 S. M. Saleh Parametric Study Of Laminar Free Convection J. M. Mehdi In Horizontal Annulus With And Without Fins On The Inner Cylinder S. M. Saleh J. M. Mehdi S. M. Saleh J. M. Mehdi S. M. Saleh J. M. Mehdi Parametric Study Of Laminar Free Convection In Horizontal Annulus With And Without Fins On The Inner Cylinder Experimental Procedure Components of experimental rig were assembled in a windowless large room, free of air currents, to avoid occurrence of fluctuations in the room temperature. The following Procedure steps have been followed in each test run:  Mount the inner cylinder to appropriate outer cylinder to obtain a certain diameter ratio.  Mount the inner cylinder to appropriate outer cylinder to obtain a certain diameter ratio.  Adjust the input power to the heater to obtain a certain Rayleigh number.  Allow the test to run for a period until steady state condition was achieved. The steady state condition was considered to be achieved when the differences in the measured temperatures were not more than 0.2 °C over 30 min. In all the experiments, the steady state condition period was within 3–4 hours.  After steady state condition has been established, the readings of all thermocouples, the input power and the ambient temperature were recorded.  After steady state condition has been established, the readings of all thermocouples, the input power and the ambient temperature were recorded.  Repeat steps 2–4 for nine different Rayleigh numbers.  Repeat steps 2–5 twice, once for case without fins and another for case with fins.  Repeat steps 2–5 twice, once for case without fins and another for case with fins.  Repeat steps 1–6 three times for different diameter ratio; 2.0, 2.6 and 3.0 . Numerical Results Left sides of Figs. (7) - (11) present streamlines at η=3.0 for different values of Rayleigh number (102-105). Fig.(7) depicts the streamlines at Rayleigh number of 102 which form a single ce11 rotates clockwise. This cell does not occupy uniformly the whole gap width. At this value of Rayleigh number the buoyancy force is very small to influence the temperature field and develop a fluid motion inside the annulus .A transition region exists for Rayleigh number between 103 and 104, Figs.(8-9). In this region, the flow remains in essentially the same pattern but become strong enough to influence the temperature field. As the Rayleigh number increases to 104 - 105, Figs.( 9-10), A steady laminar boundary layer exists and the flow tends to occupy more uniformly the whole cavity and the center of circulation which defined as the point of the extremum of the stream function, begins to move higher up toward the upper symmetry line . The lower portion of the gap looks to be streamlines-free because this region is filled with a cold fluid and becomes stagnant. It is stagnant because the viscosity forces overcome the buoyancy forces and inhibit the fluid motion through it. Right sides of Figs. (7) - (11) show the isotherms for diameter ratio of 3.0 with different values of Rayleigh numbers (102-105). For smaller Rayleigh number (102), the velocity is too small to affect the temperature distribution which remains essentially as in pure conduction. This makes the convection term in Eq.(8) vanish, therefore Eq.(8) can be approximated by   0 2    , so the isotherms are almost uniformly concentric as shown in Fig.(7). For Rayleigh number of Ra=103, the isotherms indicates that the conduction stills the dominant heat transfer mechanism in the cavity. In other words, buoyancy forces are not strong enough to trigger significant convection. As the Rayleigh numbers increase to 104, convection becomes dominant mode of heat transfer, and stronger recirculation for the fluid will be occurred making the outer fluid layer warmer than the inner one causing at the core so called temperature reversal phenomenon. This phenomenon is depicted by isotherms of Figs.(9),(10) and (11). It is noticed in Figs.(10) and (11) that the isotherms are spaced more closely against the bottom of the inner cylinder and top of the outer cylinder, where the inner and outer cylinder thermal boundary layers are, respectively, thinnest. Experimental Results Fig.(3) shows the variation of mean Nusselt number  Nu with Ra for different diameter ratios. This figure shows that for any diameter ratio,  Nu generally increases with increasing Rayleigh number. Fig.(4) shows that ( Nu) increases with increasing diameter ratio, and also shows that the curves of the different diameter ratios converge to each others as Ra decreases. This means that the effect of the diameter ratio on the heat transfer rate decreases with decreasing Ra. Figs.(5) show the influence of attaching fins on inner cylinder surface on mean Nusselt number prediction . This figure indicates that there is a reduction in mean Nusselt number in the presence of fins as compared with case without fins. For the same value of Rayleigh number, reduction in Nusselt number may be ranged between (16.3% - 29.7%).The reason for this reduction is although the annular fins increase the surface area; they also resist the airflow. This resistance has been caused a decrease in heat transfer coefficient more than the increase in the surface area; as a consequence lower heat transfer rate was resulted. Fig.(6) presents the effect of the ratio (fin height/gap width) on mean Nusselt number. At a lower value of fin height (14.3 percent of gap width) the mean Nusselt number seems to be relatively larger. One can conclude as the (fin height/gap width) increase the heat transfer coefficient decreases, this probably because of a larger (fin height/gap width) mean more obstruction for the fluid motion inside the cavity; consequently less convective heat transferred from inner cylinder. 5206 Number 2 Volume 16 June 2010 Journal of Engineering Effect of diameter ratio The left side of Fig.(14) illustrates the flow patterns moving inside the gap. Although the flow pattern does not change significantly, the center of rotation moves towards the top with increasing diameter ratio. That mean as the diameter ratio increases the flow become stronger. g Fig.(15) illustrates the effect of increasing η on local Nusselt number distribution around the inner cylinder circumference. It can be seen from this figure that for all the cases decreasing the diameter ratio decreases the local Nusselt number since the resistance to the circulation motion of the convection cells increases as η decreases and this leads to slower replacement of the hot air adjacent to the inner annulus surface by the cold air adjacent to the annulus outer surface and this results in a decrease of the heat transfer rate. Comparison of present numerical and experimental results Nu Exp. Num. % Dev. η =2.0 Ra = 1.81×103 1.823 1.653 9.3 η =2.0 Ra = 5.76×103 2.656 2.406 10.4 η =2.6 Ra = 5.40×103 2.933 2.766 5.6 η =2.6 Ra = 1.76×104 4.086 3.813 6.6 η =3.0 Ra = 1.14×104 3.662 3.796 3.6 η =3.0 Ra = 4.03×104 4.880 5.184 6.2 %Dev. = ((exp. value – num. value) / exp. value) × 100% Comparison of present numerical and experimental results Numerical Results This mean maximum heat transfer from inner cylinder is from its lower portion while maximum heat transfer to outer cylinder is from upper portion; therefore heat is being essentially convected from lower portion of the inner cylinder to the top of the outer cylinder. In comparison of isotherms in Figs.(10) and (11) one can conclude as Rayleigh number increases isotherms at the lower portion of the inner cylinder and at the upper portion of the outer cylinder are further compressed. Fig.(12) illustrates the distribution of local Nusselt number along the circumstance of the inner cylinder for the cases of Rayleigh number of 103, 104, 5×104 &105 .The local Nusselt number has an increasing trend from the top (0°- position) to the bottom (180°-position), where the highest values are reached. There are three regions can be distinguished in Fig.(12): First region  o o 180 140    , in this region local Nusselt number is relatively constant since the inner boundary layer is of relative uniform thickness (see i th ) d i littl i ti i l l N lt di t ib ti Fig.(12) illustrates the distribution of local Nusselt number along the circumstance of the inner cylinder for the cases of Rayleigh number of 103, 104, 5×104 &105 .The local Nusselt number has an increasing trend from the top (0°- position) to the bottom (180°-position), where the highest values are reached. There are three regions can be distinguished in Fig.(12):   First region  o o 180 140    , in this region local Nusselt number is relatively constant since the inner boundary layer is of relative uniform thickness (see isotherms), and gives a little variation in local Nusselt distribution.   Second region  o o 140 10    , in this region local Nusselt number looses the uniformity and a large gradient in its distribution can be observed, this because the 5207 S. M. Saleh J. M. Mehdi Parametric Study Of Laminar Free Convection In Horizontal Annulus With And Without Fins On The Inner Cylinder inner boundary layer get thicker in this region since heat removal by fluid decreases as the fluid scends up   Third region  o o 10 0    , here values of local Nusselt number approach to its minimum values, this due to formation of plume in this region. Numerical Results formation of the plume occurs where the two convective currents coming from the two annulus halves, impinging with each other and moving together upward without mixing, leaving a relatively stagnant region under impinging point. This behavior is roughly similar for most of Rayleigh numbers. Fig.(13) illustrate the relation between mean Nusselt number and Rayleigh number at η = 3.0. Nu is nearly constant at (102 <Ra< 103) because of the predominance of conduction mode on heat transfer process. Beyond Ra of 5×103 convection become predominant mechanism and Nubegins to largely increase. CONCLUSIONS CONCLUSIONS Natural convection heat transfer between two horizontal concentric cylinders with and without annular fins attached to the inner cylinder was investigated numerically (for case without fins only) and experimentally (for both cases) under steady-state conditions. The experimental results showed that annular fins of (No. of fins/cm) of 1.25 and (fin height/gap width) of 0.143, 0.186 and 0.286 have negative effect on heat 5208 Volume 16 June 2010 Journal of Engineering transfer results and cause a reduction in mean Nusselt number within (16.3 – 29.7) percent of that for the case without fins at the same Rayleigh number, and higher (fin height/gap width) has some blocking effect on fluid motion inside the cavity, therefore If there is a tendency toward reducing heat transfer rate between the horizontal concentric cylinders, it is better to use high (fin height/gap width). The numerical results showed that the heat is essentially transferred from the bottom of the inner cylinder to the top of the outer cylinder owing to the strong convective motion due to the buoyancy at these positions and decreasing of the diameter ratio increase the resistances to the circulation motion which leads to slower replacement of the hot air adjacent to the inner cylinder by the cold air adjacent to the outer cylinder and this results in a decrease of the heat transfer rate.  Rahnam, M. and Farhadi, M., “Effect of Radial Fins on Two-Dimensional Turbulent Natural Convection in A Horizontal Annulus”, Int. J. Thermal Sciences, Vol. 43, Pp. 255-264, 2004. REFERENCES  Kuehn, T. H. and Goldstein, R. J., “An Experimental and Theoretical Study of Natural Convection in the Annulus between Horizontal Concentric Cylinders”, J. Fluid Mech., Vol. 74, Part 4, Pp. 695-719, 1976.  Hessami, M. A., Pollard, A. and Rowe, R.W., “A Study of Free Convective Heat Transfer in A Horizontal Annulus with A Large Radii Ratio”, ASME, J. Heat Transfer, Vol. 107, Pp. 603-610, 1985  Nada, S. A., “Experimental Investigation of Natural Convection Heat Transfer In Horizontal and Inclined Annular Fluid Layers”, Int. J. Heat Mass Transfer, Vol. 50, 2007.  Nada, S. A., “Experimental Investigation of Natural Convection Heat Transfer In Horizontal and Inclined Annular Fluid Layers”, Int. J. Heat Mass Transfer, Vol. 50, 2007.  Tsui, Y. T. and Tremblay, B., “Transient Natural Convection Heat Transfer in the Annulus between Concentric Horizontal Cylinder with Isothermal Surfaces”, Int. J. Heat Mass Transfer, Vol. 27, No. 1, Pp. 103-111, 1984.  Mahony, D.N., Kumar, R., and Bishop, E. H., “Numerical Investigation of Variable Property Effects on Laminar Natural Convection of Gases between Two Horizontal Concentric Cylinders”, ASME, J. Heat Transfer, Vol. 108, Pp. 783-789, November 1986.  Kumar, R., “Study of Natural Convection in Horizontal Annuli”, Int. J. Heat Mass Transfer, Vol. 31, No.6, Pp. 1137-1148, 1988.  Kumar, R., “Study of Natural Convection in Horizontal Annuli”, Int. J. Heat Mass Transfer, Vol. 31, No.6, Pp. 1137-1148, 1988.  Patankar, S.V. and Chai, J.C., “Laminar Natural Convection in Internally Finned Horizontal Annulus”, Numerical Heat Transfer, Vol. 24, Pp. 67–87, 1993.  Patankar, S.V. and Chai, J.C., “Laminar Natural Convection in Internally Finned Horizontal Annulus”, Numerical Heat Transfer, Vol. 24, Pp. 67–87, 1993.  Rahnam, M. and Farhadi, M., “Effect of Radial Fins on Two-Dimensional Turbulent Natural Convection in A Horizontal Annulus”, Int. J. Thermal Sciences, Vol. 43, Pp. 255-264, 2004. 5209 S. M. Saleh J. M. Mehdi Parametric Study Of Laminar Free Convection In Horizontal Annulus With And Without Fins On The Inner Cylinder  Padilla, E. L. M., Campregher, R. And Silveira-Neto, A., “Numerical Analysis of Natural Convection in Horizontal Annuli at Low and Moderate Rayleigh Numbers”, Thermal Engineering, Vol. 5, No.4, Pp. 58-65, 2006.  Padilla, E. L. M., Campregher, R. And Silveira-Neto, A., “Numerical Analysis of Natural Convection in Horizontal Annuli at Low and Moderate Rayleigh Numbers”, Thermal Engineering, Vol. 5, No.4, Pp. 58-65, 2006.  Teertstra, P. And Yovanovich, M. REFERENCES M., “Comprehensive Review of Natural Convection in Horizontal Circular Annuli”, University Of Waterloo, 1998.  Teertstra, P. And Yovanovich, M. M., “Comprehensive Review of Natural Convection in Horizontal Circular Annuli”, University Of Waterloo, 1998.  Roach. , P.J. “Computational Fluid Dynamics”, Hermosa, Albuquerque, New Mexico, 1985.  Roach. , P.J. “Computational Fluid Dynamics”, Hermosa, Albuquerque, New Mexico, 1985.  Roach. , P.J. “Computational Fluid Dynamics”, Hermosa, Albuquerque, New Mexico, 1985.  ،انشمري،منار صانح” دراسة نظرية و عمهية النتقال انحرارة بانحمم انحر خالالل جوال ة قهقيالة ما هالة “ ، أطروقة ماجستير، جامعة تكريت5002 . NOMENCLATURE NOMENCLATURE D diameter Δ laplacian in polar coordinates g acceleration η diameter ratio m number of gridlines in R-direction ν kinematic viscosity n number of gridlines in -direction ω vorticity Nu local Nusselt number Ω dimensionless vorticity Nu mean Nusselt number ψ stream-function p pressure Ψ dimensionless stream-function Pr Prandtl number ρ density Ra Rayleigh number base on gap width θ dimensionless temperature RaDi Rayleigh number based on annulus inner diameter Subscripts i radial mesh point r radial coordinate j angular mesh point R dimensionless radial coordinate i inner cylinder T temperature o degree u,v velocity components in R-, - directions o outer cylinder Superscripts U,V dimensionless velocity components in R-, -directions  current iteration number 1   next iteration number Greek symbols − mean α thermal diffusivity β thermal expansion coefficient δ gap width 5210 Volume 16 June 2010 Number 2 Volume 16 June 2010 Number 2 Journal of Engineering Fig.(1) Physical and Coordinate system To Ti ro π ri  r 0 Fig.(1) Physical and Coordinate system (7) (6) (5) (4) (3) (2) (1) (1) Stabilizer (2) Variac (3) Voltmeter (4) Ammeter (5) Test Section (6) Selector Switch (7) Digital Thermometer Fig. (2) Schematic diagram of experimental apparatus (7) (6) (5) (4) (3) (2) (1) (1) Stabilizer (2) Variac (3) Voltmeter (4) Ammeter (5) Test Section (6) Selector Switch (7) Digital Thermometer Fig. (2) Schematic diagram of experimental apparatus Fig. (2) Schematic diagram of experimental apparatus Plate (1) Inner finned cylinder Fig. (2) Schematic diagram of experimental apparatus Plate (1) Inner finned cylinder Plate (1) Inner finned cylinder Plate (1) Inner finned cylinder 5211 S. M. Saleh J. M. Mehdi Parametric Study Of Laminar Free Convection In Horizontal Annulus With And Without Fins On The Inner Cylinder J. M. REFERENCES Mehdi In Horizontal Annulus With And Without Fins On The Inner Cylinder 5212 0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 x 10 4 0 1 2 3 4 5 6 7 Ra Mean Nu  = 2.0  = 2.6  = 3.0 Exp. data Fig (3) Mean Nusselt number as a function of Rayleigh number 0 180 90 0.046539 0.093077 0.13962 0.18615 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Fig (7) Isotherms and streamlines at η=3.0 , Ra=102 0.5 1 1.5 2 2.5 3 3.5 4 x 10 4 0 1 2 3 4 5 6 7 RaDi Mean Nu  =2.0 =2.6 =3.0 Exp. data Fig (4) Effect of diameter ratio on mean Nusselt number predictions 0 180 90 0.45404 1.3621 1.8161 0.90807 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Fig (8) Isotherms and streamlines at η=3.0 , Ra=103 0 0.5 1 1.5 2 2.5 3 3.5 4 x 10 4 0 1 2 3 4 5 6 7 Ra Mean Nu  = 2.0  = 2.6  = 3.0 case without fins case with fins Exp. data Fig (5) Effect of annular fins on mean Nusselt number predictions 0 180 90 2.4232 4.8465 7.2697 9.6929 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Fig (9) Isotherms and streamlines at η=3.0 , Ra=104 0.5 1 1.5 2 2.5 3 3.5 4 x 10 4 0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 5 RaDi Mean Nu Fin height fin height=0.143  fin height=0.186  fin height=0.286  Exp. data Fig (6) Effect of (fin height/gap width) on mean Nusselt number predictions 0 180 90 4.3969 13.1908 17.5878 8.7939 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Fig (10) Isotherms and streamlines at η=3.0 , Ra=5×105     0 180 90 0.046539 0.093077 0.13962 0.18615 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Fig (7) Isotherms and streamlines at η=3.0 , Ra=102 0  0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 x 10 4 0 1 2 3 4 5 6 7 Ra Mean Nu  = 2.0  = 2.6  = 3.0 Exp. REFERENCES data Fig (3) Mean Nusselt number as a function of Rayleigh number Fig (3) Mean Nusselt number as a function of Rayleigh number Fig (7) Isotherms and streamlines at η=3.0 , Ra=102 0 0.5 1 1.5 2 2.5 3 3.5 4 x 10 4 0 1 2 3 4 5 6 7 RaDi Mean Nu  =2.0 =2.6 =3.0 Exp. data i (4) Eff f di i N l 180 90 0.45404 1.3621 1.8161 0.90807 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Fig (8) Isotherms and streamlines at η=3.0 , Ra=103 0  i Fig (4) Effect of diameter ratio on mean Nusselt number predictions i Fig (4) Effect of diameter ratio on mean Nusselt number predictions Fig (8) Isotherms and streamlines at η=3.0 , Ra=103 0 0 0.5 1 1.5 2 2.5 3 3.5 4 x 10 4 0 1 2 3 4 5 6 7 Ra Mean Nu  = 2.0  = 2.6  = 3.0 case without fins case with fins Exp. data Fig (5) Effect of annular fins on mean Nusselt Fig (5) Effect of annular fins on mean Nusselt number predictions Fig (5) Effect of annular fins on mean Nusselt number predictions Fig (9) Isotherms and streamlines at η=3.0 , Ra=104 0 p 0.5 1 1.5 2 2.5 3 3.5 4 x 10 4 0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 5 RaDi Mean Nu Fin height fin height=0.143  fin height=0.186  fin height=0.286  Exp. REFERENCES data Fig (6) Effect of (fin height/gap width) on mean Nusselt number predictions 180 90 4.3969 13.1908 17.5878 8.7939 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Fig (10) Isotherms and streamlines at η=3.0 , Ra=5×105  180 90 4.3969 13.1908 17.5878 8.7939 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Fig (10) Isotherms and streamlines at η=3.0 , Ra=5×105  180 Fig (10) Isotherms and streamlines at η=3.0 , Ra=5×105 180 Fig (10) Isotherms and streamlines at η=3.0 , Ra=5×105 Fig (6) Effect of (fin height/gap width) on mean Nusselt number predictions Fig (6) Effect of (fin height/gap width) on mean Nusselt number predictions 5212 Volume 16 June 2010 Number 2 Volume 16 June 2010 Number 2 Volume 16 June 2010 Journal of Engineering 0 180 90 5.366 10.732 16.098 21.464 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Fig (11) Isotherms and streamlines at η=3.0, Ra=105 20 40 60 80 100 120 140 160 180 0 1 2 3 4 5 6 7 8 9 10  (Deg.) Nu Ra = 103 Ra = 104 Ra = 5104 Ra = 105 Fig (12) local Nusselt number distribution around the circumference of the inner cylinder at η=3.0 and different Rayleigh numbers 10 2 10 3 10 4 10 5 0 1 2 3 4 5 6 7 8 Ra Mean Nu Fig (5.27) Mean Nusselt number versus Rayleigh number at η=3.0 0 20 40 60 80 100 120 140 160 180 0 1 2 3 4 5 6 7 8  (Deg.) Nu Ra = 104  = 2.0  = 2.6  = 3.0 Fig (14) local Nusselt number at η=2.0, 2.6 , 3.0 and Ra=104 0 180 90 3.0096 6.0191 9.0287 12.0383 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 -a- 0 180 90 2.5855 7.7564 10.3419 5.171 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 -b- 0 180 90 2.4232 4.8465 7.2697 9.6929 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 -c- Fig (15) Streamlines and isotherms for Ra=104 at: a- η=2.0, b- η=2.6 and c- η=3.0     0 180 90 5.366 10.732 16.098 21.464 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 Fig (11) Isotherms and streamlines at η=3.0, Ra=105  20 40 60 80 100 120 140 160 180 0 1 2 3 4 5 6 7 8 9 10  (Deg.) Nu Ra = 103 Ra = 104 Ra = 5104 Ra = 105  (Deg.) Fig (12) local Nusselt number distribution around the circumference of the inner cylinder at η=3.0 and different Rayleigh numbers 180 Fig (11) Isotherms and streamlines at η=3.0, Ra=105 g ( ) around the circumference of the inner cylinder y at η=3.0 and different Rayleigh numbers 10 2 10 3 10 4 10 5 0 1 2 3 4 5 6 7 8 Ra Mean Nu Fig (5.27) Mean Nusselt number versus Rayleigh number at η=3.0 0 20 40 60 80 100 120 140 160 180 0 1 2 3 4 5 6 7 8  (Deg.) Nu Ra = 104  = 2.0  = 2.6  = 3.0 Fig (14) local Nusselt number at η=2.0, 2.6 , 3.0 and Ra=104 Fig (5.27) Mean Nusselt number versus Rayleigh number at η=3.0 Fig (14) local Nusselt number at η=2.0, 2.6 , 3.0 and Ra=104 Fig (14) local Nusselt number at η=2.0, 2.6 , 3.0 and Ra=104 0 180 90 3.0096 6.0191 9.0287 12.0383 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 -a-  0 180 90 3.0096 6.0191 9.0287 12.0383 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 -a- 0 180 90 2.5855 7.7564 10.3419 5.171 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 -b- 0 180 90 2.4232 4.8465 7.2697 9.6929 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 -c- Fig (15) Streamlines and isotherms for Ra=104 at: a- η=2.0, b- η=2.6 and c- η=3.0    180 -b- -a- -c- Fig (15) Streamlines and isotherms for Ra=104 at: a- η=2.0, b- η=2.6 and c- η=3.0 5213
https://openalex.org/W2050746052
https://dadun.unav.edu/bitstream/10171/35610/1/Alfredo%202014.pdf
English
null
DNA Methylation Pattern in Overweight Women under an Energy-Restricted Diet Supplemented with Fish Oil
BioMed research international
2,014
cc-by
8,623
Clinical Study DNA Methylation Pattern in Overweight Women under an Energy-Restricted Diet Supplemented with Fish Oil Cátia Lira do Amaral,1,2 Fermín I. Milagro,1,3 Rui Curi,2 and J. Alfredo Martínez1,3 1 Department of Nutrition, Food Sciences and Physiology, University of Navarra, C/Irunlarrea 1, 31008 Pamplona, Spain 2 Department of Physiology and Biophysics, Institute of Biomedical Sciences, University of S˜ao Paulo, Avenue Professor Lineu Prestes, 1524, 05508-900 S˜ao Paulo, SP, Brazil 3 l ´ d l b d d l ´ ( b ) d l d l d d Cátia Lira do Amaral,1,2 Fermín I. Milagro,1,3 Rui Curi,2 and J. Alfredo Martínez1,3 1 Department of Nutrition, Food Sciences and Physiology, University of Navarra, C/Irunlarrea 1, 31008 Pamplona, Spain 2 Department of Physiology and Biophysics, Institute of Biomedical Sciences, University of S˜ao Paulo, Avenue Professor Lineu Prestes, 1524, 05508-900 S˜ao Paulo, SP, Brazil f CIBER Fisiopatolog´ıa de la Obesidad y la Nutrici´on (CIBERobn), Instituto de Salud Carlos III, 28029 Madrid, Spain Correspondence should be addressed to J. Alfredo Mart´ınez; jalfmtz@unav.es Received 9 April 2013; Accepted 20 November 2013; Published 22 January 2014 Received 9 April 2013; Accepted 20 November 2013; Published 22 January 2014 Academic Editor: Wolfgang Arthur Schulz Academic Editor: Wolfgang Arthur Schulz Copyright © 2014 C´atia Lira do Amaral et al. This is an open access article distributed under the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Dietary factors modulate gene expression and are able to alter epigenetic signatures in peripheral blood mononuclear cells (PBMC). However, there are limited studies about the effects of omega-3 polyunsaturated fatty acids (n-3 PUFA) on the epigenetic mechanisms that regulate gene expression. This research investigates the effects of n-3-rich fish oil supplementation on DNA methylation profile of several genes whose expression has been reported to be downregulated by n-3 PUFA in PBMC: CD36, FFAR3, CD14, PDK4, and FADS1. Young overweight women were supplemented with fish oil or control in a randomized 8-week intervention trial following a balanced diet with 30% energy restriction. Fatty acid receptor CD36 decreased DNA methylation at CpG +477 due to energy restriction. Hypocaloric diet-induced weight loss also reduced the methylation percentages of CpG sites located in CD14, PDK4, and FADS1. The methylation patterns of these genes were only slightly affected by the fish oil supplementation, being the most relevant to the attenuation of the weight loss-induced decrease in CD36 methylation after adjusting by baseline body weight. Clinical Study DNA Methylation Pattern in Overweight Women under an Energy-Restricted Diet Supplemented with Fish Oil These results suggest that the n-3 PUFA-induced changes in the expression of these genes in PBMC are not mediated by DNA methylation, although other epigenetic mechanisms cannot be discarded. Hindawi Publishing Corporation BioMed Research International Volume 2014, Article ID 675021, 10 pages http://dx.doi.org/10.1155/2014/675021 Hindawi Publishing Corporation BioMed Research International Volume 2014, Article ID 675021, 10 pages http://dx.doi.org/10.1155/2014/675021 1. Introduction Excluded (n = 204) ∙Iceland participants (n = 140) and Ireland participants (n = 64) Excluded (n = 24) ∙No PBMC sample available at baseline and endpoint (n = 14) ∙Men (n = 10) Figure 1: Flow chart of the participants in the study. in young overweight adults (trial registration: ClinicalTri- als.gov NCT00315770) [18]. In this clinical trial, a total of 324 overweight individuals were included (140 from Iceland, 120 from Spain, and 64 from Ireland) and randomly assigned to four diets groups (control, cod, salmon, and fish oil capsules) [18]. Detailed description of the protocol, participant recruit- ment and enrolment, and inclusion and exclusion criteria are described elsewhere [18, 19]. Briefly, the initial inclusion criteria were body mass index (BMI) 27.5–32.5 kg/m2, age between 20 and 40 years old, and waist circumference ≥94 cm and ≥80 cm for men and women, respectively. Exclusion criteria were weight change due to weight-loss diet within 3 months before the start of the study, use of supplements containing n-3 fatty acids, calcium, or vitamin-D during the last 3 months, drug treatments of diabetes mellitus, hyperten- sion, or hyperlipidemia, and women’s pregnancy or lactation.f molecule (CD36), the cluster of differentiation 14 (CD14), and pyruvate dehydrogenase kinase 4 (PDK4) in healthy elderly subjects [12]. However, few studies have examined the effects of PUFA supplementation on DNA methylation, a key epi- genetic mechanism for gene expression regulation. In vitro, EPA treatment reduced the demethylation of one CpG at the promoter of CCAAT/enhancer-binding protein 𝛿(C/EBP𝛿) in U937 leukemia cells [13]. In rodents, n-3 PUFA sup- plementation during pregnancy and/or lactation increased liver FADS2 DNA methylation in the offspring [14]. FADS2 methylation was increased in the liver of dams exposed to an n-3 PUFA-deficient diet during pregnancy followed by postnatal supplementation diet containing n-3 PUFA from flaxseed oil [15]. On the other hand, n-3 PUFA supplemen- tation during pregnancy increased global DNA methylation levels in rats supplemented with folic acid in the absence of vitamin B12 [16]. However, other authors analyzed the methy- lation pattern of genes in mouse epididymal fat (leptin, leptin receptor, and proopiomelanocortin) and did not find effects as a result of fish oil supplementation [17]. Up to date, there is no report about the effects of n-3 PUFA supplementation on DNA methylation in adult humans. 1. Introduction yp p p g y As the objective of the paper is to examine the effects of fish oil supplementation on the DNA methylation pattern of genes that are downregulated by n-3 PUFA supplementation in PBMC, we only analyzed Spanish subjects from two of the intervention groups: control and fish oil (Figure 1). A selec- tion of the individuals of these two groups was performed, taking into account their age, biochemical, and anthropomet- ric characteristics. The reasons for this selection were that (i) it was necessary to match the individuals according to their age, life style, biochemical, and anthropometric charac- teristics in order to diminish heterogeneity and to avoid confounding environmental factors and (ii) the high cost of the epigenetic determinations implied that they could not be applied to a large number of patients. In a first moment, two more subjects from each group had been selected but, unfor- tunately, the quality of their DNA samples was under the quality standards of the procedure and could not be included in the analysis. Because we aimed to evaluate DNA methy- lation changes in response to fish oil supplementation, we selected participants with PBMC samples available at baseline Hence, the aim of the present study was to test the hypoth- esis whether fish oil supplementation within an energy- restricted dietary treatment affects the DNA methylation pattern of genes that are downregulated by n-3 PUFA sup- plementation in PBMC, such as the fatty acid receptors CD36 and FFAR3, the enzymes FADS1 and PDK4, and the surface antigen CD14. 1. Introduction the consumption of an overall healthy diet including fatty fish at least twice a week is a recommendation for reducing the risk of developing cardiovascular diseases [6]. Furthermore, n-3 PUFA have also been proposed to reduce proinflam- matory cytokine production and decrease obesity-induced insulin resistance [7]. Although epidemiological associations between n-3 PUFA intake and obesity are inconclusive, some cross-sectional studies have demonstrated inverse relation- ships between them [8].f Several environmental factors, including dietary intake of specific nutrients, germ-line genetic variations, stochastic events, and inheritance systems, may change epigenetic marks and affect gene expression [1, 2]. The most impor- tant environmental factors associated with obesity onset are sedentary lifestyles and unbalanced diets, such as the intake of energy-dense foods [3]. The change of dietary habits and physical activity patterns are the main strategy for managing obesity and the associated disorders. Fatty fishes are rich in long chain fatty acids, especially omega-3 polyunsaturated fatty acids (n-3 PUFA), as exemplified by salmon and trout [4]. Particularly, eicosapentaenoic acid (EPA; 20:5n-3) and docosahexaenoic acid (DHA; 22:6n-3) are the n-3 PUFA occurring in fish oil that have been more comprehensively studied due to their health improving effects [5]. For instance, Consumption of n-3 PUFA affects the expression of many genes in various cell types and tissues, including liver [9], adipose tissue [10], and blood white cells [11, 12]. In peripheral blood mononuclear cells (PBMC), n-3 PUFA supplementa- tion has been reported to downregulate the expression of genes related to fatty acid transport, such as fatty acid desat- urase 1 (FADS1) and fatty acid receptor 3 (FFAR3), in insulin resistant subjects [11] as well as other genes such as CD36 2 2 BioMed Research International Study population (n = 324) Spain participants (n = 120) Excluded (n = 204) ∙Iceland participants (n = 140) and Ireland participants (n = 64) Control group (n = 5) Fish oil group (n = 7) Excluded (n = 25) ∙No PBMC sample available at baseline and endpoint (n = 24) ∙Men (n = 1) Excluded (n = 24) ∙No PBMC sample available at baseline and endpoint (n = 14) ∙Men (n = 10) Cod group (not included) Salmon group (not included) Excluded (n = 29) Excluded (n = 30) Figure 1: Flow chart of the participants in the study. 2. Methods To estimate total energy expen- diture, the physical activity level was set to 1.3, as a relatively low physical activity level was reported by all subjects [18]. PAL was estimated according to the Nordic Nutrition Rec- ommendations, 2004 [22]. The questionnaire asked about the occupation, sleeping hours, and additional activities at work and during the rest of the day. The physical activity question- naire included representative values expressed as multiples of Resting Energy Expenditure (REE). Average daily exercise was calculated taking into account the intensity level and time spent on each activity. Finally, activities were quantified with respect to the Resting Energy Expenditure (1.0). The subjects under weight loss treatment were randomly single-blindedly assigned to control group (6 placebo capsules/day) or fish oil group (6 capsules/day). Both capsules were from Loders Croklaan (Lipid Nutrition), Wormerveer, the Netherlands, encapsulated by Banner Pharmacaps, Tilburg, the Nether- lands. Participants from both control and fish oil groups were instructed not to eat seafood because it could complicate the analysis that would be translated into unknown variability. So, seafood was simply stopped for the intervention period. Each subject received a detailed meal plan to follow, as well as recipe booklets and instructions, so as to minimize differences between diets in terms of sources of fat, fruit and vegetable consumption, and meal frequency. Diets were similar in total fat (30% of total energy), carbohydrate (50% of total energy), protein (20% of total energy), and dietary fiber (20–25 g) [18, 19]. Amounts of long chain n-3 fatty acid intake were <260 mg/day for the control and >1300 mg/day for the fish oil groups, as elsewhere described [23]. 2.5. Methylation Profile Determined by MALDI-TOF Mass Spectrometry. The DNA methylation profiles of five genes were analyzed in PBMC: CD36, CD14, FADS1, PDK4, and FFAR3. The genomic sequences studied are shown in Table 1S in supplementary materials available online at http://dx.doi .org/10.1155/2014/675021. 2.5. Methylation Profile Determined by MALDI-TOF Mass Spectrometry. The DNA methylation profiles of five genes were analyzed in PBMC: CD36, CD14, FADS1, PDK4, and FFAR3. The genomic sequences studied are shown in Table 1S in supplementary materials available online at http://dx.doi .org/10.1155/2014/675021. g Firstly, a region covering 3 kb (2,000 base pairs upstream to 1,000 base pairs downstream from the transcriptional start site) was chosen from Gene Bank (http://www.ncbi.nlm.nih .nih.gov/gene) for each gene. CpG islands were identified using MethPrimer software (http://www.urogene.org/meth- primer/) [27]. 2. Methods 2.1. Trial Design and Participants. The primary study was based on a randomized 8-week intervention trial study of four isocaloric diets, designed to investigate the specific effects of fish consumption or fish oil supplementation on weight loss 3 BioMed Research International and endpoint. Furthermore, due to the low number of men in the intervention groups, men were excluded. So, the DNA methylation study was conducted in 12 young over- weight/obese women of similar characteristics that belonged to the two following groups: control (𝑛= 5) and fish oil (𝑛= 7). To reduce variability, subjects belonging to the cod and salmon groups were not analyzed because if changes in DNA methylation were observed in these groups, it would be impossible to find the responsible agents due to the big differences in macronutrients and micronutrients between both fish species. The study was approved by the Ethical Com- mittee of the University of Navarra and followed the Helsinki guidelines. All participants gave their written consent after being informed of the nature purpose and possible risks of the study. This study was performed at the University of Navarra in Pamplona, Spain, and recruitment was undertaken during 2004 and 2005. Plasma levels of glucose, total cholesterol, and triacylglycerols were measured by specific colorimetric assays (Horiba ABX Diagnostics, Montpellier, France) using an automatic system (COBAS MIRA, Roche, Basel, Switzerland), whereas circulat- ing insulin levels were determined by ELISA (Mercodia, AB, Uppsala, Sweden). The homeostasis model assessment index (HOMA-IR) was calculated according to Matthews et al. [25] in order to assess insulin resistance. 2.4. PBMC Isolation, DNA Extraction, and Bisulfite Con- version. PBMC were isolated by differential centrifugation using Polymorphprep (Axis Shield PoC AS, Oslo, Norway), as previously described [26], and stored at −80∘C. DNA was extracted using AllPrep DNA/RNA Mini Kit (Qiagen, Hilden, Germany). DNA concentration was quantified with Quant-iT PicoGreen dsDNA Assay Kit (Invitrogen, Carlsbad, CA, USA) and genomic DNA (2 𝜇g) was bisulfite-converted with the EpiTect Bisulfite Kit (Qiagen, Valencia, CA, USA). 2.2. Dietary Intervention. Overweight young women were instructed to follow a diet with 30 percent fewer calories than the estimated energy expenditure (approximately 600 kcal/ day), for eight consecutive weeks. As described earlier [18], basal metabolic rate was estimated by applying Harris-Bene- dict equations and a correction factor due to the overweight status of the subjects [20, 21]. 2. Methods able 2: Anthropometric and serum variables from control and fish oil supplemented women before and af reatment. Data represent mean ± SD (control 𝑛= 5; fish oil group 𝑛= 7). Differences within and between subjects were determined by a general linear model with repeated measures. ns.: not significant; SBP: systolic blood pressure; DBP: diastolic blood pressure; HOMA: homeostasis model assessment; Oral suppl.: effect of the oral supplementation of fish oil. were conducted with baseline body weight as a covariable. The significance level was set at 𝑃< 0.05. methylated, whereas FFAR3 showed two distinct regions: a highly methylated region close to the transcription start site (CpG sites −18, +33, and +77) and a low-methylated region between CpGs −53 and −202. 2. Methods Whereas three genes showed CpG islands (CD14, PDK4, and FADS1), neither FFAR3 nor CD36 showed these CpG dinucleotide-rich regions. Predicted transcription factor binding sites were identified with AliBaba2 software (http://www.gene-regulation.com/pub/programs/alibaba2/ index.html) with a homology of 75%. Then, a region of 300 to 500 bp in a CpG island and/or rich in predicted transcription factors was chosen for each gene (Table 1). The methylation profile of these genes was determined by Sequenom’s MassARRAY EpiTyper technology (Sequenom, San Diego, CA, USA), which relies on base-specific cleavage followed by MALDI-TOF mass spectrometry as previously described [28]. The primers used are reported in Table 1. DNA meth- ylation values of some CpG sites could not be measured independently. This is the case of nearby CpG sites and CpG sites included in similar chemical fragments after the enzymatic breakdown. So, they were clustered together and were considered as an independent CpG site when analyzed. 2.6. Statistical Analysis. The data are presented as the mean ± SD and were analyzed using SPSS 15.0 for Windows (SPSS, Chicago, IL, USA). A general linear model with repeated measures was conducted to assess the impact of oral sup- plementation (control or fish oil) on DNA methylation of CD36, FFAR3, CD14, PDK4, and FADS1 through the weight loss treatment (baseline and endpoint). For CpG site +477 from CD36 gene, we hypothesized that the differences in initial body weight may affect statistical analysis. In order to control the effect of the body weight, statistical analyses 2.3. Anthropometric and Metabolic Measurements. Anthro- pometric parameters measurements and blood samples col- lections were carried out at baseline and after supple- mentation period (endpoint), as previously described [24]. 4 BioMed Research International 4 Table 1: Primers used for the bisulfite conversion of DNA. Table 1: Primers used for the bisulfite conversion of DNA. Table 1: Primers used for the bisulfite conversion of DNA. Symbol Primers Product size CpG in regiona CD36 L: GGGTTGAGAGTTTGTGTTTTATTTTT R: TTCAAATACAATTACACTTTTTAAAATCAC 479 4 FFAR3 L: GGTAAATTGGATAAATGTTATTTTAGAGA R: CAACAAAAAAACACCAAAATACTCC 385 9 (7) CD14 L: GGAGGGAATTGAATGATATTTTAGG R: AAATCTCCACCTCTACTACAAACACA 429 24 (20) PDK4 L: TTTTGTTTTGAGTAAGGATTAATGA R: TCCCAAACAAAAAAAATCACTAAAA 400 23 FADS1 L: TTGTAATTTTTAAGGGTTTTTAGGT R: AAACAACTCACAACTAAACTACCAACA 419 37 (35) aValues between parenthesis indicate the number of CpGs covered by Sequenom EpiTyper approach. L: left primer; R: right primer; Chr: chromosome; CD36: thrombospondin receptor; CD14: cluster of differentiation 14; FADS1: fatty acid desaturase 1; PDK4: pyruvate dehydrogenase kinase, isozyme 4; FFAR3: free fatty acid receptor 3. 2. Methods aValues between parenthesis indicate the number of CpGs covered by Sequenom EpiTyper approach. L: left primer; R: right primer; Chr: chromosome; CD36: thrombospondin receptor; CD14: cluster of differentiation 14; FADS1: fatty acid desaturase 1; PDK4: pyruvate dehydrogenase kinase, isozyme 4; FFAR3: free fatty acid receptor 3. Table 2: Anthropometric and serum variables from control and fish oil supplemented women before and after the 8-week weight loss treatment. Control Fish oil Interaction Weight loss treatment Oral suppl. Baseline Endpoint Baseline Endpoint Anthropometric Age, years 35.1 ± 5.5 — 32.4 ± 5.0 — Height, m 1.65 ± 0.06 — 1.61 ± 0.05 — Weight, kg 82.9 ± 2.3 78.7 ± 3.0 78.8 ± 5.2 73.6 ± 5.6 ns. 𝑃< 0.05 ns. BMI, kg/m2 30.7 ± 2.0 29.1 ± 2.6 30.5 ± 1.7 28.4 ± 1.8 ns. 𝑃< 0.05 ns. SBP, mmHg 120.6 ± 9.6 121.8 ± 8.3 115.4 ± 9.5 113.1 ± 5.7 ns. ns. ns. DBP, mmHg 67.2 ± 4.1 68.4 ± 2.9 72.1 ± 6.5 68.9 ± 5.6 ns. ns. ns. Serum Glucose, mg/dL 86.9 ± 4.6 85.1 ± 3.2 88.1 ± 6.0 90.6 ± 9.7 ns. ns. ns. Insulin, mU/L 8.4 ± 4.0 8.2 ± 4.0 12.4 ± 6.7 8.3 ± 3.3 ns. ns. ns. HOMA index 1.8 ± 0.9 1.7 ± 0.7 2.7 ± 1.5 1.8 ± 0.7 ns. ns. ns. Leptin, 𝜇g/mL 37.6 ± 10.7 25.4 ± 8.4 30.6 ± 14.5 18.5 ± 8.0 ns. 𝑃< 0.05 ns. Total cholesterol, mg/dL 214.9 ± 49.0 200.1 ± 44.9 197.4 ± 46.5 185.4 ± 35.1 ns. ns. ns. LDL cholesterol, mg/dL 132.5 ± 30.9 124.8 ± 26.9 114.0 ± 40.6 114.5 ± 29.7 ns. ns. ns. HDL cholesterol, mg/dL 65.2 ± 21.2 58.2 ± 24.7 57.0 ± 11.0 52.7 ± 8.8 ns. ns. ns. Triglycerides, mg/dL 85.9 ± 48.7 85.8 ± 26.1 131.9 ± 75.0 88.1 ± 35.3 ns. ns. ns. Data represent mean ± SD (control 𝑛= 5; fish oil group 𝑛= 7). Differences within and between subjects were determined by a general linear model with repeated measures. ns.: not significant; SBP: systolic blood pressure; DBP: diastolic blood pressure; HOMA: homeostasis model assessment; Oral suppl.: effect of the oral supplementation of fish oil. Table 2: Anthropometric and serum variables from control and fish oil supplemented women before and after the 8-week weight loss treatment. 3. Results However, fish oil supplementation did not alter the DNA methylation pattern Statistically significant (although small) changes were also induced by the hypocaloric diet-induced weight loss in the promoters of PDK4 and FADS1 genes (CpGs −254 and CREP CPE bind CRE-BP1 CRE-BP ACE2 100 80 60 40 20 0 Methylation (%) +95 +167 +477 +498 CREB-2 CREB REV-ErbA ATF C/EBP𝛼 Sp1 Sp1 Sp1 Sp1 YY1 −146 −96 −53 −42 −18 +33 +77 100 80 60 40 20 0 Methylation (%) CRE-BP1 ATF AP-2𝛼 2 −199 # # −2 (b) 100 80 60 40 20 0 Methylation (%) 333 − − 331 −271 −254 −244 229 − − 227 −222 −214 −186 −131 122 − − 120 −113 −97 −88 −64 −62 −50 −17 −15 +3 + 5 Sp1 Sp1 Sp1 Sp1 Sp1 Sp1 Sp1 c-Myc CRE-BP1 CREB Sp1 ER YY1 AP-1 CP1 CPE bind CPE bind CREB AP-2𝛼 C/EBP𝛼 C/EBP𝛼 # (e) Figure 2: Baseline DNA methylation profile of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) FADS1 as determined in PBMC from overweight young women before weight loss treatment. The bars represent methylation levels of each CpG and are numbered according to the transcription start site. The predicted binding sites for transcription factors that are associated with the CpGs (identified by AliBaba software with a homology of 75%) are also indicated. Data are mean ± SD, 𝑛= 12. #Not analyzed. Figure 2: Baseline DNA methylation profile of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) FADS1 as determined in PBMC from overweight young women before weight loss treatment. The bars represent methylation levels of each CpG and are numbered according to the transcription start site. The predicted binding sites for transcription factors that are associated with the CpGs (identified by AliBaba software with a homology of 75%) are also indicated. Data are mean ± SD, 𝑛= 12. #Not analyzed. Statistically significant (although small) changes were also induced by the hypocaloric diet-induced weight loss in the promoters of PDK4 and FADS1 genes (CpGs −254 and −25−22−20, resp., in Figures 3(d) and 3(e)). Furthermore, the only CpGs that showed significant methylation differences between the control and the fish oil groups are in these genes. 3. Results This CpG lies in BioMed Research International 5 CREP CPE bind CRE-BP1 CRE-BP ACE2 100 80 60 40 20 0 Methylation (%) +95 +167 +477 +498 (a) CREB-2 CREB REV-ErbA ATF C/EBP𝛼 Sp1 Sp1 Sp1 Sp1 YY1 −146 −96 −53 −42 −18 +33 +77 100 80 60 40 20 0 Methylation (%) CRE-BP1 ATF AP-2𝛼 −202 −199 # # (b) +516 +547 +550 +557 +598 +613 +654 +625 +669 +724 +726 +728 +755 +765 +773 +779 +801 +814 +819 +834 +846 +855 +658 +660 100 80 60 40 20 0 Methylation (%) # # # Sp1 Sp1 Sp1 Adf-1 GAL4 AP-2 USF Sp1 GABP NF-𝜅B C/EBP𝛼 (c) 100 80 60 40 20 0 Methylation (%) 333 − − 331 −271 −254 −244 229 − − 227 −222 −214 −186 −131 122 − − 120 −113 −97 −88 −64 −62 −50 −17 −15 +3 + 5 Sp1 Sp1 Sp1 Sp1 Sp1 Sp1 Sp1 c-Myc CRE-BP1 CREB Sp1 ER YY1 AP-1 CP1 CPE bind CPE bind CREB AP-2𝛼 C/EBP𝛼 C/EBP𝛼 # (d) −310 −294 −289 −286 −246 −233 −200 −198 −194 −190 −180 −174 157 − − 151 −136 −127 −91 −89 −83 −59 −47 −45 −42 −25 −22 −20 −13 −6 +6 +12 +15 +18 +21 +36 +38 +46 +48 100 80 60 40 20 0 Methylation (%) # # CPE bind Sp1; c-Jun c-Fos; CREB C/EBP𝛼 CRE-BP1 RXB-𝛽 E1A 12S c/EBP𝛼 USF Sp1 Ap-2𝛼 Egr-1 Represso Sp1 ENKTF1 AP-2𝛼 AP-2𝛼 YY1 NF1 GR Ap1 Sp1 Sp1 Sp1 Sp1 Sp1 Sp1 Sp1 Sp1 Sp1 Sp1 Krox-20 Sp1 represso NF𝜇E1 (e) Figure 2: Baseline DNA methylation profile of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) FADS1 as determined in PBMC from overweight young women before weight loss treatment. The bars represent methylation levels of each CpG and are numbered according to the transcription start site. The predicted binding sites for transcription factors that are associated with the CpGs (identified by AliBaba software with a homology of 75%) are also indicated. Data are mean ± SD, 𝑛= 12. #Not analyzed. a putative binding site for the transcription factors CREB and CRE-BP1 (Figure 2(a), CpG +477). 3. Results 3.2. Weight Loss Treatment and Fish Oil Supplementa- tion Effects on DNA Methylation Profile. Both experimental groups (control and fish oil) responded similarly to the weight loss treatment (Table 2), showing similar reductions in body weight, BMI, and serum leptin levels (𝑃< 0.05) but no effects on other metabolic parameters.f 3.1. Baseline DNA Methylation Profile. Recruitment was undertaken during 2004 and 2005. A total of 12 women were selected for the present study (Figure 1). Different patterns of methylation were found in the genes studied in PBMC (Figure 2). Low methylation levels (less than 25% [29]) were observed in the genes that encode the superficial molecule CD14 and the metabolic enzymes PDK4 and FADS1, although one CpG of PDK4 (−229−227) was highly methy- lated (more than 75% [29]). CD36 studied region was highly Hypocaloric diet-induced weight loss affected DNA methylation in the CD36 gene, reducing the percentage of methylation of CpG +477 (Figure 3(a)). 3. Results Thus, the methylation percentage of PDK4 CpG sites −222 and −50 and FADS1 CpG −25−22−20 were reduced in the control group and increased with fish oil, whereas the reduction observed in PDK4 CpG −254 in the controls was greater than in the fish oil group. Interestingly, PDK4 CpGs −254 and −50 lay in putative binding sites for the transcrip- tion factor Sp1 (Figure 2(d)). Nevertheless, although statis- tically significant, these differences were so small that they probably do not influence gene expression. a putative binding site for the transcription factors CREB and CRE-BP1 (Figure 2(a), CpG +477). However, fish oil supplementation did not alter the DNA methylation pattern of CD36 gene, with reductions of 11.8% in the methylation of CpG +477 in the control group and 7.3% in the fish oil group. In order to control the effect of body weight, methylation status was adjusted to baseline body weight. In this case, the methylation of CpG +477 was lower (𝑃< 0.05) in the fish oil group (6.7%) than in the control group (12.7%).f Energy restriction also affected DNA methylation in CD14 (Figure 3(c)) but only with a very slight increase of 0.3% and 0.6% at the CpGs +765+773 in the control and the fish oil groups, respectively. These CpGs are included in a putative binding site for the transcription factors USF and Sp1 (Figure 2(c)). 3. Results 6 BioMed Research International 100 80 60 40 20 0 Methylation (%) +95 +167 +477 +498 ∗ (a) −202 −199 −53 −42 −18 +33 +77 100 80 60 40 20 0 Methylation (%) (b) +516 +547 +550 +557 +598 +613 +654 +658 +660 +669 +765 +773 +779 +814 +819 +834 +846 +855 ∗ 100 10 15 20 25 75 0 5 Methylation (%) (c) −271 −254 −244 −229 −227 −222 −214 −186 −131 122 − − 120 −113 −97 −88 −64 −62 −50 −17 −15 +3 + 5 100 10 15 20 25 75 0 5 Methylation (%) ∗ # # # (d) −310 −294 −286 −246 −233 −200 −198 −194 −190 −180 −157 −151 −136 −127 −91 −89 −83 −59 −47 −45 −42 −25 −22 −20 −13 −6 +6 +12 +15 +18 +21 +36 +38 +46 +48 100 10 15 20 25 75 0 5 Methylation (%) ∗ # Control (baseline) Control (endpoint) Fish oil (baseline) Fish oil (endpoint) (e) ethylation of the CpGs located in the studied regions of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) F control and fish oil-supplemented women during the 8-week weight loss treatment. Data represent mean ± SD (contr ). DNA methylation was determined at baseline and endpoint samples by MassARRAY EpiTyper in triplicate. A gener repeated measures was used to assess the impact of oral supplementation on DNA methylation (between subjects) a reatment (within subjects). ∗𝑃< 0.05, differences due to weight loss (baseline versus endpoint); #𝑃< 0.05, interaction ffect and oral supplementation. 4. Discussion This notion is supported by the fact that PBMC from obese women have a proinflammatory state, with increased expression in PBMC of proinflammatory genes like tumor necrosis factor-𝛼(TNF-𝛼), interleukin-6 (IL-6), migration inhibitor factor (MIF), and matrix metallopro- teinase-9 (MMP9) and an increase in NF-𝜅B binding to DNA [41]. CD36 CpG +477 lies in a recognition motif for CRE- BP1 and CREB, members of the leucine zipper family of DNA binding proteins that bind to cAMP-response elements (CRE) [42]. Both transcription factors (CREB and CRE- BP1) also interact with CREB binding protein (CBP)/p300 associating factor, which, as CRE-BP1, is a known HAT or his- tone acetyltransferase [43, 44] and may promote chromatin modifications by inducing histone acetylation. If transcrip- tion factor-DNA binding affinity is affected by cytosine methylation, the HAT activity might be downregulated and histone deacetylation increased, which could justify the underexpression of the target genes, as described in PBMC from subjects supplemented with fish oil [12]. Besides the small number of participants included in the present study, we found a clear effect of weight loss treatment on the methylation percentage of many CpG sites, especially in the promoter region of CD36. Our translational research demon- strates that dietary energy-restriction results in epigenetic adaptations in PBMC cells. However, as only 12 subjects were analyzed, the results could not be extrapolated to the whole population and should be validated in larger and more com- plex populations. In any case, the results are of very high value because the individuals have been carefully selected from a big population and matched trying to minimize other con- founding factors apart from the dietary intervention (fish oil capsules or not). The five genes studied have been reported to be downreg- ulated in PBMC from fish oil-supplemented subjects [11, 12]. Although few studies (all of them in animal models) have analyzed the effect of fish oil on DNA methylation, it has been observed that the epigenetic effects of n-3 PUFA depend on the gene and the tissue and are far more relevant during pregnancy and lactation than during adult life [14–17]. In the current study, very small methylation differences have been found between the control and the fish oil groups. Impor- tantly, fish oil supplementation did not potentiate the 8-week hypocaloric diet-induced weight loss in our study. 4. Discussion of PPAR𝛾transcriptional pathways and may also promote inflammatory response and phagocytosis [37]. Thus, THP- 1 macrophages treated with oleic acid, linoleic acid, EPA, and DHA showed increased CD36 mRNA expression [38]. Similarly, the expression of CD36 was increased in PBMC after oral acute intake of MUFA-rich virgin olive oil [39] and in monocytes after 24 h lipid infusion [40] in humans. On the other hand, the expression of CD36 was downregulated in PBMC due to a long-term supplementation with EPA/DHA [12]. These results indicate that the type of fatty acids (PUFA or MUFA) regulates CD36 expression in a different manner depending also on the time (acute versus chronic). In our 8-week long study, the hypocaloric diet-induced weight loss decreased CD36 gene DNA methylation (in CpG +477) with less intensity in the fish oil-supplemented group than in the controls. However, the small decrease observed does not, probably, influence the regulation of CD36 gene expression.l Although there is strong evidence of the modulatory effects of n-3 PUFA on gene expression in several cell types in humans, it is not known if they could act on gene expression by altering the epigenetic mechanism of DNA methylation. Herein, we sought to determine the methylation profiles of CD36, FFAR3, CD14, PDK4, and FADS1 in PBMC and whether this methylation is affected by a weight loss nutritional interven- tion (energy-restriction) with or without fish oil supplemen- tation in young overweight women. As expected, phenotypic changes due to energy restriction led to a reduction in body weight. In humans, energy-restricted diets modify DNA methylation in PBMC [28]. Our results corroborate these findings, suggesting that weight loss treatment induces small changes in the methylation profile of specific genes from blood cells (i.e., CD36, CD14, PDK4, and FADS1). CD14, PDK4, and FADS1 have low methylation percent- ages (<25%) in PBMC before starting nutritional intervention (Figure 2). Similar results have been reported for PDK4 (<10%) in human skeletal muscle [30] and for CD14 and FADS1 in PBMC [31] and murine aorta [32], respectively. On the other hand, CD36 and FFAR3 have been found to be highly methylated in PBMC. Whereas the methylation of CD36 has not been previously described, a hypomethylated region close to FFAR3 has been reported in the adult hematopoietic compartment [33].hi l An epigenetic change may influence CD36 gene expres- sion in blood cells and may contribute to modify inflam- matory monocyte/macrophage activation during weight loss treatment. 3. Results 100 80 60 40 20 0 Methylation (%) +95 +167 +477 +498 ∗ (a) −202 −199 −53 −42 −18 +33 +77 100 80 60 40 20 0 Methylation (%) (b) Methylation (%) (c) −271 −254 −244 −229 −227 −222 −214 −186 −131 122 − − 120 −113 −97 −88 −64 −62 −50 −17 −15 +3 + 5 100 10 15 20 25 75 0 5 Methylation (%) ∗ # # # (d) (d) −310 −294 −286 −246 −233 −200 −198 −194 −190 −180 −157 −151 −136 −127 −91 −89 −83 −59 −47 −45 −42 −25 −22 −20 −13 −6 +6 +12 +15 +18 +21 +36 +38 +46 +48 100 10 15 20 25 75 0 5 Methylation (%) ∗ # Control (baseline) Control (endpoint) Fish oil (baseline) Fish oil (endpoint) (e) (e) Figure 3: Methylation of the CpGs located in the studied regions of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) FADS1 in PBMC from control and fish oil-supplemented women during the 8-week weight loss treatment. Data represent mean ± SD (control 𝑛= 5; fish oil 𝑛= 7). DNA methylation was determined at baseline and endpoint samples by MassARRAY EpiTyper in triplicate. A general linear model with repeated measures was used to assess the impact of oral supplementation on DNA methylation (between subjects) across the weight loss treatment (within subjects). ∗𝑃< 0.05, differences due to weight loss (baseline versus endpoint); #𝑃< 0.05, interaction between weight loss effect and oral supplementation. Figure 3: Methylation of the CpGs located in the studied regions of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) FADS1 in PBMC from control and fish oil-supplemented women during the 8-week weight loss treatment. Data represent mean ± SD (control 𝑛= 5; fish oil 𝑛= 7). DNA methylation was determined at baseline and endpoint samples by MassARRAY EpiTyper in triplicate. A general linear model with repeated measures was used to assess the impact of oral supplementation on DNA methylation (between subjects) across the weight loss treatment (within subjects). ∗𝑃< 0.05, differences due to weight loss (baseline versus endpoint); #𝑃< 0.05, interaction between weight loss effect and oral supplementation. BioMed Research International 7 4. Discussion 6, pp. 937– 946, 2009. [5] [5] B. M. Yashodhara, S. Umakanth, J. M. Pappachan, S. K. Bhat, R. Kamath, and B. H. Choo, “Omega-3 fatty acids: a comprehen- sive review of their role in health and disease,” Postgraduate Medical Journal, vol. 85, no. 1000, pp. 84–90, 2009. [6] A. H. Lichtenstein, L. J. Appel, M. Brands et al., “Diet and life- style recommendations revision 2006: a scientific statement from the American heart association nutrition committee,” Circulation, vol. 114, no. 1, pp. 82–96, 2006. [7] E. Oliver, F. McGillicuddy, C. Phillips, S. Toomey, and H. M. Roche, “Postgraduate Symposium: the role of inflammation and macrophage accumulation in the development of obesity- induced type 2 diabetes mellitus and the possible therapeutic effects of long-chain 𝑛−6 PUFA,” Proceedings of the Nutrition Society, vol. 69, no. 2, pp. 232–243, 2010. [8] J. D. Buckley and P. R. C. Howe, “Long-chain omega-3 polyun- saturated fatty acids may be beneficial for reducing obesity-a review,” Nutrients, vol. 2, no. 12, pp. 1212–1230, 2010. f g p p p g In summary, an 8-week weight-loss nutrition interven- tion not only reduced body weight and circulating leptin in overweight women but also modified DNA methylation of CD36 in PBMC and, very slightly, of CD14, PDK4, and FADS1. Although fish oil oral supplementation did not potentiate the weight-loss effects of the hypocaloric diet, it modulated DNA methylation, that is, reducing the decrease in DNA methy- lation of CD36 CpG +477 (after adjusting by baseline body weight). These results should be interpreted with care because the methylation differences are rather small and restricted to few CpG sites, but it should be highlighted that other nutri- tional studies, including several ones focused on body weight loss [29, 48, 49], have found DNA methylation changes of similar magnitude.if [9] D. B. Jump, D. Botolin, Y. Wang, J. Xu, O. Demeure, and B. Christian, “Docosahexaenoic acid (DHA) and hepatic gene transcription,” Chemistry and Physics of Lipids, vol. 153, no. 1, pp. 3–13, 2008. [10] M. J. Moreno-Aliaga, S. Lorente-Cebri´an, and J. A. Mart´ınez, “Regulation of adipokine secretion by 𝑛−3 fatty acids,” Pro- ceedings of The Nutrition Society, vol. 69, pp. 324–332, 2010. [11] I. Rudkowska, A. Ponton, H. Jacques et al., “Effects of a supplementation of n-3 polyunsaturated fatty acids with or without fish gelatin on gene expression in peripheral blood mononuclear cells in obese, insulin-resistant subjects,” Journal of Nutrigenetics and Nutrigenomics, vol. 4. Discussion Although it has been described that fish oil supplementation could improve weight loss in men with caloric restriction [18], other studies have not found an improvement of weight loss in postmenopausal women with type 2 diabetes [34] or hyper- insulinemia [35]. This finding is important for approaching the discussion of the methylation results because the changes observed in the n-3 PUFA-supplemented group cannot be attributed to shifts in anthropometric or biochemical param- eters with the intervention. The most relevant effect due to n-3 PUFA supplemen- tation was found in CD36 CpG +477 (after adjusting for baseline body weight). CD36 encodes a membrane glyco- protein that belongs to the class B scavenger receptor family that may play an important role in lipid metabolism in humans and may be involved in obesity-related complica- tions [36]. In macrophages, it is responsible for binding and internalization of oxidized LDL while in metabolically active tissues, especially in adipocytes, heart and skeletal muscle, CD36 mediates the uptake of long-chain fatty acids across the plasma membrane [36]. In macrophages and monocytes, CD36 promotes lipid uptake leading to activation The small differences (<2%) observed in DNA methy- lation between the control and the fish oil groups in CpGs located in PDK4 and FADS1, although statistically significant, probably do not affect the expression of the genes. Both genes have been previously reported to be regulated by DNA methylation: physical exercise immediately decreased PDK4 methylation in skeletal muscle [45], whereas subjects with BioMed Research International 8 8 type 2 diabetes presented higher PDK4 expression in skeletal muscle accompanied by a tendency to reduce promoter DNA methylation when compared with normal glucose tolerance subjects [30]. On the other hand, FADS1 expression was regulated by DNA methylation in a gastric cancer cell line as demonstrated by treating the cells with the demethylating agent 5-aza-2󸀠-deoxycytidine, which increased by 23-fold FADS1 mRNA expression [46]. A recent study did not find modifications in FADS1 methylation in offspring aorta as a result of changes in the lipid composition of the maternal diet [32]. Considering the transcription factors associated with the CpG sites affected, Sp1 is an ubiquitously expressed transcription factor that participates in the overexpression of CD14 during monocytic cell differentiation by interacting with another protein, MEF2D [47]. However, the small methylation changes observed in this study probably do not affect the binding properties of Sp1 in the studied genes. prevention,” Biochemical Pharmacology, vol. 77, no. 4. Discussion 4, no. 4, pp. 192–202, 2011. g In any case, to be sure that the beneficial effects of EPA/ DHA in obesity, type 2 diabetes, and other metabolic diseases are mediated by changes in the DNA methylation pattern, in addition to PBMC, other tissues (such as adipose depots, liver, or skeletal muscle) should be analyzed. Finally, the changes in DNA methylation should be compared with those in the expression of the corresponding genes in these tissues. [12] M. Bouwens, O. Van De Rest, N. Dellschaft et al., “Fish-oil supplementation induces antiinflammatory gene expression profiles in human blood mononuclear cells,” American Journal of Clinical Nutrition, vol. 90, no. 2, pp. 415–424, 2009. [13] V. Ceccarelli, S. Racanicchi, M. P. Martelli et al., “Eicosapen- taenoic acid demethylates a single cpg that mediates expression of tumor suppressor CCAAT/enhancer-binding protein 𝛿in U937 leukemia cells,” Journal of Biological Chemistry, vol. 286, no. 31, pp. 27092–27102, 2011. Conflict of Interests [14] S. P. Hoile, N. A. Irvine, C. J. Kelsall et al., “Maternal fat intake in rats alters 20:4𝑛−6 and 22:6𝑛−3 status and the epigenetic regulation of Fads2 in offspring liver,” The Journal of Nutritional Biochemistry, vol. 24, pp. 1213–1220, 2013. The authors declare that there is no conflict of interests regarding the publication of this paper. [15] M. D. Niculescu, D. S. Lupu, and C. N. Craciunescu, “Perinatal manipulation of 𝛼-linolenic acid intake induces epigenetic changes in maternal and offspring livers,” The FASEB Journal, vol. 27, pp. 350–358, 2013. References [1] C. L. Relton and D. G. smith, “Is epidemiology ready for epige- netics?” International Journal of Epidemiology, vol. 41, no. 1, pp. 5–9, 2012. [16] A. Kulkarni, K. Dangat, A. Kale, P. Sable, P. Chavan-Gautam, and S. Joshi, “Effects of altered maternal folic acid, vitamin B12 and docosahexaenoic acid on placental global DNA methyla- tion patterns in wistar rats,” PLoS ONE, vol. 6, no. 3, Article ID e17706, 2011. [2] F. I. Milagro, M. L. Mansego, C. De Miguel, and J. A. Mart´ınez, “Dietary factors, epigenetic modifications and obesity out- comes: progresses and perspectives,” Molecular Aspects of Medicine, vol. 34, pp. 782–812, 2013. [17] C. Fan, X. Liu, W. Shen, R. J. Deckelbaum, and K. Qi, “The regulation of leptin, leptin receptor and pro-opiomelanocortin expression by 𝑁−3 PUFAs in diet-induced obese mice is not related to the methylation of their promoters,” Nutrition and Metabolism, vol. 8, article 31, 2011. [3] B. A. Swinburn, I. Caterson, J. C. Seidell, and W. P. T. James, “Diet, nutrition and the prevention of excess weight gain and obesity,” Public Health Nutrition, vol. 7, no. 1, pp. 123–146, 2004. [4] G. L. Russo, “Dietary 𝑛−6 and 𝑛−3 polyunsaturated fatty acids: from biochemistry to clinical implications in cardiovascular [18] I. Thorsdottir, H. Tomasson, I. Gunnarsdottir et al., “Random- ized trial of weight-loss-diets for young adults varying in fish BioMed Research International 9 and fish oil content,” International Journal of Obesity, vol. 31, no. 10, pp. 1560–1566, 2007. accompany lineage specificity in the adult hematopoietic com- partment,” Molecular Cell, vol. 44, no. 1, pp. 17–28, 2011. [34] M. Kabir, G. Skurnik, N. Naour et al., “Treatment for 2 mo with n-3 polyunsaturated fatty acids reduces adiposity and some atherogenic factors but does not improve insulin sensitivity in women with type 2 diabetes: a randomized controlled study,” American Journal of Clinical Nutrition, vol. 86, no. 6, pp. 1670– 1679, 2007. [19] A. Ramel, A. Martin´ez, M. Kiely, G. Morais, N. M. Bandarra, and I. Thorsdottir, “Beneficial effects of long-chain n-3 fatty acids included in an energy-restricted diet on insulin resistance in overweight and obese European young adults,” Diabetologia, vol. 51, no. 7, pp. 1261–1268, 2008. [20] I. Cankayali, K. Demirag, S. Kocabas, and A. R. Moral, “The effects of standard and branched chain amino acid enriched solutions on thermogenesis and energy expenditure in uncon- scious care patients,” Clinical Nutrition, vol. 23, no. 2, pp. 257– 263, 2004. References Dandona, “Circulating mononuclear cells in the obese are in a proinflammatory state,” Circulation, vol. 110, no. 12, pp. 1564– 1571, 2004. [26] A. B. Crujeiras, D. Parra, E. Goyenechea, and J. A. Mart´ınez, “Sirtuin gene expression in human mononuclear cells is mod- ulated by caloric restriction,” European Journal of Clinical Investigation, vol. 38, no. 9, pp. 672–678, 2008. [42] G. Thiel, J. A. Sarraj, C. Vinson, L. Stefano, and K. Bach, “Role of basic region leucine zipper transcription factors cyclic AMP response element binding protein (CREB), CREB2, activating transcription factor 2 and CAAT/enhancer binding protein 𝛼in cyclic AMP response element-mediated transcription,” Journal of Neurochemistry, vol. 92, no. 2, pp. 321–336, 2005. [27] L.-C. Li and R. Dahiya, “MethPrimer: designing primers for methylation PCRs,” Bioinformatics, vol. 18, no. 11, pp. 1427–1431, 2002. [28] F. I. Milagro, J. Campi´on, P. Cordero et al., “A dual epigenomic approach for the search of obesity biomarkers: DNA methyla- tion in relation to diet-induced weight loss,” The FASEB Journal, vol. 25, no. 4, pp. 1378–1389, 2011. [43] B. Karanam, L. Wang, D. Wang et al., “Multiple roles for acetyla- tion in the interaction of p300 HAT with ATF-2,” Biochemistry, vol. 46, no. 28, pp. 8207–8216, 2007. [29] S. C. Jacobsen, C. Brøns, J. Bork-Jensen et al., “Effects of short- term high-fat overfeeding on genome-wide DNA methylation in the skeletal muscle of healthy young men,” Diabetologia, vol. 55, pp. 3341–3349, 2012. [44] D. C. Bedford and P. K. Brindle, “Is histone acetylation the most important physiological function for CBP and p300?” Aging, vol. 4, pp. 247–255, 2012. [30] S. S. Kulkarni, F. Salehzadeh, T. Fritz, J. R. Zierath, A. Krook, and M. E. Osler, “Mitochondrial regulators of fatty acid metabolism reflect metabolic dysfunction in type 2 diabetes mellitus,” Metabolism, vol. 61, no. 2, pp. 175–185, 2012. [45] R. Barr`es, J. Yan, B. Egan et al., “Acute exercise remodels pro- moter methylation in human skeletal muscle,” Cell Metabolism, vol. 15, no. 3, pp. 405–411, 2012. [31] M. C. Munthe-Kaas, T. M. Torjussen, K. Gervin et al., “CD14 polymorphisms and serum CD14 levels through childhood: a role for gene methylation?” Journal of Allergy and Clinical Immunology, vol. 125, no. 6, pp. 1361–1368, 2010. [46] S. Yamashita, Y. Tsujino, K. Moriguchi, M. Tatematsu, and T. Ushijima, “Chemical genomic screening for methylation- silenced genes in gastric cancer cell lines using 5-aza-2󸀠- deoxycytidine treatment and oligonucleotide microarray,” Can- cer Science, vol. References [35] J. D. Krebs, L. M. Browning, N. K. McLean et al., “Additive ben- efits of long-chain 𝑛−3 polyunsaturated fatty acids and weight- loss in the management of cardiovascular disease risk in over- weight hyperinsulinaemic women,” International Journal of Obesity, vol. 30, no. 10, pp. 1535–1544, 2006. [21] R. M. Salvino, R. S. Dechicco, and D. L. Seidner, “Perioperative nutrition support: who and how,” Cleveland Clinic Journal of Medicine, vol. 71, no. 4, pp. 345–351, 2004. [36] L. Love-Gregory and N. A. Abumrad, “CD36 genetics and the metabolic complications of obesity,” Current Opinion in Clinical Nutrition and Metabolic Care, vol. 14, no. 6, pp. 527–534, 2011. [22] Nordic Nutrition Recommendations, Integrating Nutrition and Physical Activity, Nordic Council of Ministers, Copenhagen, Denmark, 4th edition, 2004. [37] R. L. Silverstein and M. Febbraio, “CD36, a scavenger receptor involved in immunity, metabolism, angiogenesis, and behavior,” Science Signaling, vol. 2, no. 72, p. re3, 2009. [23] D. Parra, A. Ramel, N. Bandarra, M. Kiely, J. A. Mart´ınez, and I. Thorsdottir, “A diet rich in long chain omega-3 fatty acids modulates satiety in overweight and obese volunteers during weight loss,” Appetite, vol. 51, no. 3, pp. 676–680, 2008. [38] J.-C. Vallv´e, K. Uliaque, J. Girona et al., “Unsaturated fatty acids and their oxidation products stimulate CD36 gene expression in human macrophages,” Atherosclerosis, vol. 164, no. 1, pp. 45–56, 2002. [24] A. B. Crujeiras, D. Parra, E. Goyenechea, I. Abete, and J. A. Mart´ınez, “Tachyphylaxis effects on postprandial oxidative stress and mitochondrial-related gene expression in overweight subjects after a period of energy restriction,” European Journal of Nutrition, vol. 48, no. 6, pp. 341–347, 2009. [39] V. Konstantinidou, O. Khymenets, M.-I. Covas et al., “Time course of changes in the expression of insulin sensitivity-related genes after an acute load of virgin olive oil,” OMICS A Journal of Integrative Biology, vol. 13, no. 5, pp. 431–438, 2009. [25] D. R. Matthews, J. P. Hosker, and A. S. Rudenski, “Homeostasis model assessment: insulin resistance and 𝛽-cell function from fasting plasma glucose and insulin concentrations in man,” Diabetologia, vol. 28, no. 7, pp. 412–419, 1985. [40] S. R. Kashyap, A. G. Ioachimescu, H. L. Gornik et al., “Lipid- induced insulin resistance is associated with increased mono- cyte expression of scavenger receptor CD36 and internalization of oxidized LDL,” Obesity, vol. 17, no. 12, pp. 2142–2148, 2009. [41] H. Ghanim, A. Aljada, D. Hofmeyer, T. Syed, P. Mohanty, and P. References 97, no. 1, pp. 64–71, 2006. [32] C. J. Kelsall, S. P. Hoile, N. A. Irvine et al., “Vascular dysfunction induced in offspring by maternal dietary fat involves altered arterial polyunsaturated fatty acid biosynthesis,” PLoS ONE, vol. 7, no. 4, Article ID e34492, 2012. [47] S.-Y. Park, H.-M. Shin, and T.-H. Han, “Synergistic interaction of MEF2D and Sp1 in activation of the CD14 promoter,” Molecular Immunology, vol. 39, no. 1-2, pp. 25–30, 2002. [33] E. Hodges, A. Molaro, C. O. Dos Santos et al., “Directional DNA methylation changes and complex intermediate states [48] F. I. Milagro, P. G´omez-Abell´an, J. Campi´on et al., “CLOCK, PER2 and BMAL1 DNA methylation: association with obesity BioMed Research International 10 and metabolic syndrome characteristics and monounsaturated fat intake,” Chronobiology International, vol. 29, pp. 1180–1194, 2012. [49] H. H. Hermsdorff, M. L. Mansego, J. Campi´on et al., “TNF- alpha promoter methylation in peripheral white blood cells: relationship with circulating TNF𝛼, truncal fat and 𝑛−6 PUFA intake in young women,” Cytokine, vol. 64, pp. 265–271, 2013. References Submit your manuscripts at http://www.hindawi.com Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Anatomy Research International Peptides International Journal of Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com  International Journal of Volume 2014 Zoology Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Molecular Biology International Hindawi Publishing Corporation http://www.hindawi.com Genomics International Journal of Volume 2014 The Scientific World Journal Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Bioinformatics Advances in Marine Biology Journal of Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Signal Transduction Journal of Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 BioMed Research International Evolutionary Biology International Journal of Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Biochemistry Research International Archaea Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Genetics Research International Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Advances in Virology Hindawi Publishing Corporation http://www.hindawi.com Nucleic Acids Journal of Volume 2014 Stem Cells International Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Enzyme Research Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 International Journal of Microbiology Submit your manuscripts at http://www.hindawi.com Peptides International Journal of Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com  International Journal of Volume 2014 Zoology Hindawi Publishing Corporation http://www.hindawi.com Genomics International Journal of Volume 2014i Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 BioMed Research International Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Advances in Virology Hindawi Publishing Corporation http://www.hindawi.com Nucleic Acids Journal of Volume 2014 Stem Cells International Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Genomics International Journal of Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Nucleic Acids Journal of Volume 2014 The Scientific World Journal Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Submit your manuscripts at http://www.hindawi.com Submit your manuscripts at http://www.hindawi.com The Scientific World Journal Hindawi Publishing Corporation Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Anatomy Research International Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Molecular Biology International Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Bioinformatics Advances in Marine Biology Journal of Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Evolutionary Biology International Journal of Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Biochemistry Research International Archaea Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Genetics Research International Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Enzyme Research Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 International Journal of Microbiology Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Anatomy Research International Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Molecular Biology International Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Bioinformatics Advances in Marine Biology Journal of Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Evolutionary Biology International Journal of Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Biochemistry Research International Archaea Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Genetics Research International Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 Enzyme Research Hindawi Publishing Corporation http://www.hindawi.com Volume 2014 International Journal of Microbiology
https://openalex.org/W4361907605
https://figshare.com/articles/journal_contribution/Supplementary_Table_4_from_Cumulative_Genetic_Risk_Predicts_Platinum_Taxane-Induced_Neurotoxicity/22449629/1/files/39900695.pdf
unk
null
Supplementary Table 2 from Cumulative Genetic Risk Predicts Platinum/Taxane-Induced Neurotoxicity
null
2,023
cc-by
3,697
Estimate SE OR 95% LB 95% UB Uncorrected P- value Estimate SE OR 95% LB 95% UB Uncorrected P-value RS1012018 0.28 0.32 1.32 0.71 2.47 0.383279285 -1.29 0.61 0.27 0.08 0.91 0.0347473 RS1020853 -0.83 0.55 0.43 0.15 1.29 0.132948272 -1.36 0.55 0.26 0.09 0.75 0.01329657 RS10439143 1.56 0.40 4.74 2.17 10.36 9.53E-05 1.13 0.49 3.08 1.18 8.04 0.02149428 RS10821709 0.30 0.31 1.35 0.73 2.47 0.334840791 1.14 0.52 3.13 1.12 8.77 0.02953053 RS10930202 0.71 0.33 2.03 1.05 3.90 0.034335098 0.72 0.81 2.06 0.42 10.14 0.37457799 RS10994148 -0.61 0.31 0.54 0.30 1.00 0.049996067 0.36 0.48 1.43 0.56 3.69 0.45473155 RS11152370 1.13 0.54 3.10 1.09 8.85 0.034344479 0.12 0.23 1.13 0.73 1.76 0.58890588 RS12707484 2.84 1.16 17.09 1.75 166.54 0.014560221 3.17 1.16 23.88 2.47 231.17 0.00615121 RS1340655 -0.20 0.33 0.82 0.43 1.55 0.544166337 -1.14 0.48 0.32 0.13 0.82 0.01690911 RS1381108 0.67 0.33 1.96 1.02 3.75 0.042147941 0.57 0.98 1.77 0.26 12.18 0.56102675 RS139879 0.99 0.49 2.68 1.03 6.95 0.042508641 0.45 0.51 1.57 0.58 4.26 0.37961042 RS139884 0.99 0.49 2.68 1.03 6.95 0.042307257 0.45 0.51 1.56 0.58 4.25 0.38039601 RS139887 0.66 0.33 1.93 1.01 3.68 0.047415376 -0.39 0.51 0.68 0.25 1.85 0.44518087 RS1708403 -0.45 0.34 0.64 0.33 1.24 0.186863682 -0.93 0.44 0.40 0.17 0.93 0.03423555 RS17184707 -1.44 0.64 0.24 0.07 0.82 0.023310651 -1.09 0.61 0.34 0.10 1.10 0.07185108 RS1801243 -0.77 0.34 0.46 0.24 0.91 0.024578561 -0.26 0.39 0.77 0.36 1.65 0.498863 RS1954134 0.89 0.44 2.43 1.03 5.74 0.043290447 1.12 0.47 3.07 1.23 7.69 0.01640529 RS1990071 -0.01 0.33 0.99 0.52 1.88 0.966349218 1.03 0.41 2.81 1.26 6.27 0.01129864 RS2058194 0.53 0.40 1.71 0.77 3.77 0.185712602 0.96 0.43 2.62 1.13 6.07 0.0244136 RS2070720 1.01 0.33 2.74 1.42 5.27 0.002530071 0.29 0.47 1.34 0.53 3.37 0.5341448 RS2236058 0.83 0.34 2.30 1.19 4.47 0.013592513 0.53 0.48 1.71 0.66 4.39 0.26773813 RS2236256 -0.71 0.35 0.49 0.25 0.98 0.042426745 -0.35 0.39 0.71 0.33 1.53 0.38146795 RS224082 -0.97 0.44 0.38 0.16 0.89 0.025823649 -0.65 0.44 0.52 0.22 1.22 0.13461429 RS2295283 -1.37 0.49 0.25 0.10 0.67 0.005508666 -1.66 0.49 0.19 0.07 0.50 0.00073784 RS2299169 0.20 0.31 1.23 0.66 2.27 0.514766275 1.36 0.69 3.91 1.02 14.98 0.04642885 RS230911 -0.73 0.37 0.48 0.24 0.99 0.047459629 -0.54 0.39 0.59 0.27 1.26 0.17119074 RS2336384 0.66 0.32 1.93 1.03 3.61 0.040199514 0.44 0.51 1.55 0.57 4.20 0.38841404 RS2368020 -1.17 0.46 0.31 0.13 0.77 0.011319628 -0.79 0.43 0.45 0.19 1.06 0.06656301 RS252853 3.07 1.15 21.61 2.25 207.65 0.007761875 2.91 1.15 18.42 1.94 175.25 0.01125845 RS2849380 -1.27 0.63 0.28 0.08 0.97 0.043940186 -1.19 0.60 0.30 0.09 1.00 0.04916636 RS3181073 2.71 1.35 15.04 1.07 212.01 0.044651818 2.51 1.33 12.36 0.91 168.33 0.0590566 Heterozygous Homozygous (Minor Allele) Discovery rsID Estimate SE OR 95% LB 95% UB Uncorrected P- value Estimate SE OR 95% LB 95% UB Uncorrected P-value RS1012018 0.28 0.32 1.32 0.71 2.47 0.383279285 -1.29 0.61 0.27 0.08 0.91 0.0347473 RS1020853 -0.83 0.55 0.43 0.15 1.29 0.132948272 -1.36 0.55 0.26 0.09 0.75 0.01329657 RS10439143 1.56 0.40 4.74 2.17 10.36 9.53E-05 1.13 0.49 3.08 1.18 8.04 0.02149428 RS10821709 0.30 0.31 1.35 0.73 2.47 0.334840791 1.14 0.52 3.13 1.12 8.77 0.02953053 RS10930202 0.71 0.33 2.03 1.05 3.90 0.034335098 0.72 0.81 2.06 0.42 10.14 0.37457799 RS10994148 -0.61 0.31 0.54 0.30 1.00 0.049996067 0.36 0.48 1.43 0.56 3.69 0.45473155 RS11152370 1.13 0.54 3.10 1.09 8.85 0.034344479 0.12 0.23 1.13 0.73 1.76 0.58890588 RS12707484 2.84 1.16 17.09 1.75 166.54 0.014560221 3.17 1.16 23.88 2.47 231.17 0.00615121 RS1340655 -0.20 0.33 0.82 0.43 1.55 0.544166337 -1.14 0.48 0.32 0.13 0.82 0.01690911 RS1381108 0.67 0.33 1.96 1.02 3.75 0.042147941 0.57 0.98 1.77 0.26 12.18 0.56102675 RS139879 0.99 0.49 2.68 1.03 6.95 0.042508641 0.45 0.51 1.57 0.58 4.26 0.37961042 RS139884 0.99 0.49 2.68 1.03 6.95 0.042307257 0.45 0.51 1.56 0.58 4.25 0.38039601 RS139887 0.66 0.33 1.93 1.01 3.68 0.047415376 -0.39 0.51 0.68 0.25 1.85 0.44518087 RS1708403 -0.45 0.34 0.64 0.33 1.24 0.186863682 -0.93 0.44 0.40 0.17 0.93 0.03423555 RS17184707 -1.44 0.64 0.24 0.07 0.82 0.023310651 -1.09 0.61 0.34 0.10 1.10 0.07185108 RS1801243 -0.77 0.34 0.46 0.24 0.91 0.024578561 -0.26 0.39 0.77 0.36 1.65 0.498863 RS1954134 0.89 0.44 2.43 1.03 5.74 0.043290447 1.12 0.47 3.07 1.23 7.69 0.01640529 RS1990071 -0.01 0.33 0.99 0.52 1.88 0.966349218 1.03 0.41 2.81 1.26 6.27 0.01129864 RS2058194 0.53 0.40 1.71 0.77 3.77 0.185712602 0.96 0.43 2.62 1.13 6.07 0.0244136 RS2070720 1.01 0.33 2.74 1.42 5.27 0.002530071 0.29 0.47 1.34 0.53 3.37 0.5341448 RS2236058 0.83 0.34 2.30 1.19 4.47 0.013592513 0.53 0.48 1.71 0.66 4.39 0.26773813 RS2236256 -0.71 0.35 0.49 0.25 0.98 0.042426745 -0.35 0.39 0.71 0.33 1.53 0.38146795 RS224082 -0.97 0.44 0.38 0.16 0.89 0.025823649 -0.65 0.44 0.52 0.22 1.22 0.13461429 RS2295283 -1.37 0.49 0.25 0.10 0.67 0.005508666 -1.66 0.49 0.19 0.07 0.50 0.00073784 RS2299169 0.20 0.31 1.23 0.66 2.27 0.514766275 1.36 0.69 3.91 1.02 14.98 0.04642885 RS230911 -0.73 0.37 0.48 0.24 0.99 0.047459629 -0.54 0.39 0.59 0.27 1.26 0.17119074 RS2336384 0.66 0.32 1.93 1.03 3.61 0.040199514 0.44 0.51 1.55 0.57 4.20 0.38841404 RS2368020 -1.17 0.46 0.31 0.13 0.77 0.011319628 -0.79 0.43 0.45 0.19 1.06 0.06656301 RS252853 3.07 1.15 21.61 2.25 207.65 0.007761875 2.91 1.15 18.42 1.94 175.25 0.01125845 RS2849380 -1.27 0.63 0.28 0.08 0.97 0.043940186 -1.19 0.60 0.30 0.09 1.00 0.04916636 RS3181073 2.71 1.35 15.04 1.07 212.01 0.044651818 2.51 1.33 12.36 0.91 168.33 0.0590566 Heterozygous Homozygous (Minor Allele) Discovery rsID RS3746166 -0.14 0.37 0.87 0.42 1.80 0.708134321 -0.96 0.43 0.38 0.16 0.90 0.0268559 RS3757630 -0.72 0.36 0.49 0.24 0.99 0.048358494 -0.08 0.41 0.93 0.41 2.08 0.85308597 RS3819437 -0.20 0.38 0.82 0.39 1.72 0.603028618 -0.91 0.43 0.40 0.17 0.93 0.03337483 RS38555 2.94 1.15 18.88 1.97 181.06 0.010862685 2.84 1.15 17.08 1.79 163.36 0.0137503 RS38557 0.03 0.30 1.03 0.57 1.86 0.924059899 -2.96 1.15 0.05 0.01 0.50 0.01020622 RS38564 3.00 1.16 20.16 2.08 195.00 0.009488906 2.91 1.15 18.37 1.91 176.36 0.01166001 RS399413 -0.95 0.48 0.39 0.15 0.98 0.046294411 -1.04 0.47 0.35 0.14 0.89 0.02641439 RS42056 -0.47 0.31 0.63 0.34 1.16 0.136190766 -1.08 0.54 0.34 0.12 0.98 0.04614134 RS4253623 -0.90 0.39 0.41 0.19 0.88 0.022350847 -0.71 1.18 0.49 0.05 4.96 0.54609091 RS4310561 1.23 0.62 3.43 1.01 11.63 0.047320827 1.36 0.62 3.90 1.16 13.13 0.02787364 RS4558416 -0.64 0.32 0.53 0.28 0.99 0.048021071 -0.43 0.45 0.65 0.27 1.57 0.33894885 RS4667485 0.55 0.37 1.74 0.84 3.58 0.133486161 0.90 0.44 2.46 1.04 5.83 0.0414659 RS4987853 0.65 0.30 1.91 1.06 3.46 0.032252274 0.71 0.80 2.04 0.43 9.70 0.37140218 RS5277 0.84 0.31 2.31 1.26 4.25 0.006956005 -0.18 0.97 0.84 0.12 5.64 0.85439155 RS544093 -0.91 0.44 0.40 0.17 0.96 0.040049729 -14.29 ##### 0.00 0.00 #NUM! RS9400393 -0.93 0.32 0.40 0.21 0.74 0.003810821 -0.52 0.46 0.59 0.24 1.46 0.25545472 RS9526810 -0.10 0.32 0.91 0.49 1.70 0.76275168 1.16 0.56 3.20 1.08 9.50 0.03645455 Estimate SE OR 95% LB 95% UB Uncorrected P- value Estimate SE OR 95% LB 95% UB Uncorrected P-value RS1012018 0.28 0.32 1.32 0.71 2.47 0.383279285 -1.29 0.61 0.27 0.08 0.91 0.0347473 RS1020853 -0.83 0.55 0.43 0.15 1.29 0.132948272 -1.36 0.55 0.26 0.09 0.75 0.01329657 RS10439143 1.56 0.40 4.74 2.17 10.36 9.53E-05 1.13 0.49 3.08 1.18 8.04 0.02149428 RS10821709 0.30 0.31 1.35 0.73 2.47 0.334840791 1.14 0.52 3.13 1.12 8.77 0.02953053 RS10930202 0.71 0.33 2.03 1.05 3.90 0.034335098 0.72 0.81 2.06 0.42 10.14 0.37457799 RS10994148 -0.61 0.31 0.54 0.30 1.00 0.049996067 0.36 0.48 1.43 0.56 3.69 0.45473155 RS11152370 1.13 0.54 3.10 1.09 8.85 0.034344479 0.12 0.23 1.13 0.73 1.76 0.58890588 RS12707484 2.84 1.16 17.09 1.75 166.54 0.014560221 3.17 1.16 23.88 2.47 231.17 0.00615121 RS1340655 -0.20 0.33 0.82 0.43 1.55 0.544166337 -1.14 0.48 0.32 0.13 0.82 0.01690911 RS1381108 0.67 0.33 1.96 1.02 3.75 0.042147941 0.57 0.98 1.77 0.26 12.18 0.56102675 RS139879 0.99 0.49 2.68 1.03 6.95 0.042508641 0.45 0.51 1.57 0.58 4.26 0.37961042 RS139884 0.99 0.49 2.68 1.03 6.95 0.042307257 0.45 0.51 1.56 0.58 4.25 0.38039601 RS139887 0.66 0.33 1.93 1.01 3.68 0.047415376 -0.39 0.51 0.68 0.25 1.85 0.44518087 RS1708403 -0.45 0.34 0.64 0.33 1.24 0.186863682 -0.93 0.44 0.40 0.17 0.93 0.03423555 RS17184707 -1.44 0.64 0.24 0.07 0.82 0.023310651 -1.09 0.61 0.34 0.10 1.10 0.07185108 RS1801243 -0.77 0.34 0.46 0.24 0.91 0.024578561 -0.26 0.39 0.77 0.36 1.65 0.498863 RS1954134 0.89 0.44 2.43 1.03 5.74 0.043290447 1.12 0.47 3.07 1.23 7.69 0.01640529 RS1990071 -0.01 0.33 0.99 0.52 1.88 0.966349218 1.03 0.41 2.81 1.26 6.27 0.01129864 RS2058194 0.53 0.40 1.71 0.77 3.77 0.185712602 0.96 0.43 2.62 1.13 6.07 0.0244136 RS2070720 1.01 0.33 2.74 1.42 5.27 0.002530071 0.29 0.47 1.34 0.53 3.37 0.5341448 RS2236058 0.83 0.34 2.30 1.19 4.47 0.013592513 0.53 0.48 1.71 0.66 4.39 0.26773813 RS2236256 -0.71 0.35 0.49 0.25 0.98 0.042426745 -0.35 0.39 0.71 0.33 1.53 0.38146795 RS224082 -0.97 0.44 0.38 0.16 0.89 0.025823649 -0.65 0.44 0.52 0.22 1.22 0.13461429 RS2295283 -1.37 0.49 0.25 0.10 0.67 0.005508666 -1.66 0.49 0.19 0.07 0.50 0.00073784 RS2299169 0.20 0.31 1.23 0.66 2.27 0.514766275 1.36 0.69 3.91 1.02 14.98 0.04642885 RS230911 -0.73 0.37 0.48 0.24 0.99 0.047459629 -0.54 0.39 0.59 0.27 1.26 0.17119074 RS2336384 0.66 0.32 1.93 1.03 3.61 0.040199514 0.44 0.51 1.55 0.57 4.20 0.38841404 RS2368020 -1.17 0.46 0.31 0.13 0.77 0.011319628 -0.79 0.43 0.45 0.19 1.06 0.06656301 RS252853 3.07 1.15 21.61 2.25 207.65 0.007761875 2.91 1.15 18.42 1.94 175.25 0.01125845 RS2849380 -1.27 0.63 0.28 0.08 0.97 0.043940186 -1.19 0.60 0.30 0.09 1.00 0.04916636 RS3181073 2.71 1.35 15.04 1.07 212.01 0.044651818 2.51 1.33 12.36 0.91 168.33 0.0590566 Heterozygous Homozygous (Minor Allele) Discovery rsID 0.98910638 RS603769 -0.71 0.35 0.49 0.25 0.97 0.041136954 -0.42 0.38 0.66 0.31 1.38 0.26926698 RS603965 -0.48 0.36 0.62 0.30 1.27 0.189474857 -0.86 0.44 0.42 0.18 1.00 0.04985111 RS6532049 1.68 0.88 5.34 0.96 29.84 0.056196793 1.70 0.86 5.47 1.02 29.26 0.0470565 RS6599237 0.45 0.38 1.56 0.74 3.30 0.241386245 2.56 1.05 12.88 1.66 100.02 0.01451712 RS668394 -0.80 0.34 0.45 0.23 0.87 0.01749584 -0.49 0.80 0.61 0.13 2.93 0.53942488 RS689466 -0.81 0.36 0.45 0.22 0.91 0.026479089 -3.06 1.36 0.05 0.00 0.67 0.02407625 RS692995 -2.09 0.94 0.12 0.02 0.79 0.026722607 0.16 0.22 1.18 0.76 1.83 0.46304736 RS6977797 -1.15 0.73 0.32 0.08 1.34 0.1176968 -1.60 0.71 0.20 0.05 0.82 0.02554384 RS728539 -1.56 0.93 0.21 0.03 1.31 0.094573592 -1.86 0.91 0.16 0.03 0.93 0.04107414 RS7548209 -1.30 0.51 0.27 0.10 0.74 0.010362255 -1.26 0.49 0.28 0.11 0.75 0.01094989 RS757228 0.75 0.37 2.11 1.02 4.40 0.044914242 0.95 0.43 2.58 1.12 5.95 0.02653048 RS758000 -1.54 0.93 0.21 0.03 1.34 0.099000653 -1.90 0.91 0.15 0.03 0.89 0.03675825 RS7800456 3.20 1.14 24.58 2.62 230.13 0.005023471 2.95 1.14 19.17 2.06 178.23 0.00941774 RS7802397 -0.96 0.71 0.38 0.09 1.56 0.180379523 -1.44 0.69 0.24 0.06 0.93 0.03834985 RS782054 0.40 0.31 1.50 0.81 2.76 0.194955247 1.73 0.56 5.62 1.88 16.82 0.00203868 RS7858741 -2.70 1.37 0.07 0.00 0.97 0.047787772 -1.22 1.25 0.30 0.03 3.41 0.32957628 RS7907557 1.00 0.42 2.71 1.19 6.17 0.017187502 0.71 0.49 2.03 0.78 5.26 0.14480284 RS876430 1.42 0.70 4.12 1.05 16.22 0.042719243 1.32 0.69 3.73 0.96 14.52 0.057225 RS879207 0.73 0.33 2.09 1.08 4.01 0.027515156 0.29 0.51 1.33 0.49 3.61 0.57177757 RS922116 0.34 0.31 1.40 0.77 2.55 0.273978723 1.15 0.53 3.16 1.13 8.88 0.02855596 RS929351 0.88 0.39 2.42 1.13 5.16 0.022829204 0.71 0.45 2.03 0.84 4.91 0.11479741 Estimate SE OR 95% LB 95% UB Uncorrected P-value Estimate SE OR 95% LB 95% UB Uncorrected P-value RS1012018 0.43 0.34 1.53 0.79 2.98 0.20845159 0.13 0.50 1.14 0.43 3.02 0.78776317 RS1020853 1.66 0.78 5.28 1.14 24.33 0.03295972 1.37 0.77 3.95 0.88 17.73 0.07305785 RS10439143 0.27 0.38 1.31 0.62 2.76 0.47661806 0.09 0.45 1.10 0.46 2.62 0.83664454 RS10821709 0.27 0.32 1.30 0.69 2.45 0.40812524 0.39 0.59 1.47 0.46 4.66 0.51258591 RS10930202 0.51 0.35 1.67 0.83 3.34 0.15038821 0.04 1.10 1.05 0.12 8.97 0.96738016 RS10994148 -0.05 0.33 0.95 0.50 1.80 0.87212348 0.09 0.54 1.10 0.38 3.14 0.86027672 RS11152370 0.73 0.55 2.07 0.71 6.06 0.18227814 -13.16 973.48 0.00 0.00 #NUM! Estimate SE OR 95% LB 95% UB Uncorrected P- value Estimate SE OR 95% LB 95% UB Uncorrected P-value RS1012018 0.28 0.32 1.32 0.71 2.47 0.383279285 -1.29 0.61 0.27 0.08 0.91 0.0347473 RS1020853 -0.83 0.55 0.43 0.15 1.29 0.132948272 -1.36 0.55 0.26 0.09 0.75 0.01329657 RS10439143 1.56 0.40 4.74 2.17 10.36 9.53E-05 1.13 0.49 3.08 1.18 8.04 0.02149428 RS10821709 0.30 0.31 1.35 0.73 2.47 0.334840791 1.14 0.52 3.13 1.12 8.77 0.02953053 RS10930202 0.71 0.33 2.03 1.05 3.90 0.034335098 0.72 0.81 2.06 0.42 10.14 0.37457799 RS10994148 -0.61 0.31 0.54 0.30 1.00 0.049996067 0.36 0.48 1.43 0.56 3.69 0.45473155 RS11152370 1.13 0.54 3.10 1.09 8.85 0.034344479 0.12 0.23 1.13 0.73 1.76 0.58890588 RS12707484 2.84 1.16 17.09 1.75 166.54 0.014560221 3.17 1.16 23.88 2.47 231.17 0.00615121 RS1340655 -0.20 0.33 0.82 0.43 1.55 0.544166337 -1.14 0.48 0.32 0.13 0.82 0.01690911 RS1381108 0.67 0.33 1.96 1.02 3.75 0.042147941 0.57 0.98 1.77 0.26 12.18 0.56102675 RS139879 0.99 0.49 2.68 1.03 6.95 0.042508641 0.45 0.51 1.57 0.58 4.26 0.37961042 RS139884 0.99 0.49 2.68 1.03 6.95 0.042307257 0.45 0.51 1.56 0.58 4.25 0.38039601 RS139887 0.66 0.33 1.93 1.01 3.68 0.047415376 -0.39 0.51 0.68 0.25 1.85 0.44518087 RS1708403 -0.45 0.34 0.64 0.33 1.24 0.186863682 -0.93 0.44 0.40 0.17 0.93 0.03423555 RS17184707 -1.44 0.64 0.24 0.07 0.82 0.023310651 -1.09 0.61 0.34 0.10 1.10 0.07185108 RS1801243 -0.77 0.34 0.46 0.24 0.91 0.024578561 -0.26 0.39 0.77 0.36 1.65 0.498863 RS1954134 0.89 0.44 2.43 1.03 5.74 0.043290447 1.12 0.47 3.07 1.23 7.69 0.01640529 RS1990071 -0.01 0.33 0.99 0.52 1.88 0.966349218 1.03 0.41 2.81 1.26 6.27 0.01129864 RS2058194 0.53 0.40 1.71 0.77 3.77 0.185712602 0.96 0.43 2.62 1.13 6.07 0.0244136 RS2070720 1.01 0.33 2.74 1.42 5.27 0.002530071 0.29 0.47 1.34 0.53 3.37 0.5341448 RS2236058 0.83 0.34 2.30 1.19 4.47 0.013592513 0.53 0.48 1.71 0.66 4.39 0.26773813 RS2236256 -0.71 0.35 0.49 0.25 0.98 0.042426745 -0.35 0.39 0.71 0.33 1.53 0.38146795 RS224082 -0.97 0.44 0.38 0.16 0.89 0.025823649 -0.65 0.44 0.52 0.22 1.22 0.13461429 RS2295283 -1.37 0.49 0.25 0.10 0.67 0.005508666 -1.66 0.49 0.19 0.07 0.50 0.00073784 RS2299169 0.20 0.31 1.23 0.66 2.27 0.514766275 1.36 0.69 3.91 1.02 14.98 0.04642885 RS230911 -0.73 0.37 0.48 0.24 0.99 0.047459629 -0.54 0.39 0.59 0.27 1.26 0.17119074 RS2336384 0.66 0.32 1.93 1.03 3.61 0.040199514 0.44 0.51 1.55 0.57 4.20 0.38841404 RS2368020 -1.17 0.46 0.31 0.13 0.77 0.011319628 -0.79 0.43 0.45 0.19 1.06 0.06656301 RS252853 3.07 1.15 21.61 2.25 207.65 0.007761875 2.91 1.15 18.42 1.94 175.25 0.01125845 RS2849380 -1.27 0.63 0.28 0.08 0.97 0.043940186 -1.19 0.60 0.30 0.09 1.00 0.04916636 RS3181073 2.71 1.35 15.04 1.07 212.01 0.044651818 2.51 1.33 12.36 0.91 168.33 0.0590566 Heterozygous Homozygous (Minor Allele) Discovery rsID 0.98921225 RS12707484 -0.31 0.62 0.73 0.22 2.49 0.61971713 -0.18 0.61 0.84 0.26 2.74 0.76725935 RS1340655 -0.59 0.33 0.55 0.29 1.06 0.07463396 -0.76 0.45 0.47 0.19 1.13 0.09076952 RS1381108 0.50 0.35 1.65 0.83 3.29 0.151876 0.22 1.12 1.25 0.14 11.13 0.84225065 RS139879 0.85 0.52 2.35 0.85 6.47 0.0990671 -0.18 0.54 0.83 0.29 2.41 0.73581509 RS139884 0.72 0.50 2.06 0.78 5.46 0.14433551 -0.31 0.52 0.73 0.26 2.04 0.55046873 RS139887 1.06 0.35 2.88 1.45 5.71 0.00245949 0.10 0.53 1.11 0.39 3.15 0.84852489 RS1708403 -0.13 0.35 0.88 0.44 1.74 0.71092542 -0.07 0.42 0.93 0.41 2.11 0.86246051 RS17184707 -0.50 0.88 0.60 0.11 3.38 0.56678564 -0.20 0.85 0.82 0.16 4.28 0.80990606 RS1801243 -0.16 0.37 0.85 0.41 1.75 0.65724932 -0.05 0.44 0.95 0.40 2.24 0.9051277 RS1954134 0.13 0.45 1.14 0.47 2.73 0.77248519 0.74 0.45 2.10 0.88 5.06 0.09653747 RS1990071 -0.05 0.34 0.96 0.49 1.88 0.89605321 -0.03 0.46 0.97 0.40 2.38 0.94631269 RS2058194 0.18 0.40 1.20 0.54 2.66 0.64854762 0.03 0.44 1.03 0.44 2.41 0.95272037 RS2070720 0.07 0.34 1.08 0.55 2.10 0.82751539 0.49 0.44 1.63 0.69 3.86 0.2676911 RS2236058 -0.32 0.32 0.73 0.39 1.35 0.31343683 -0.76 0.54 0.47 0.16 1.35 0.16138036 RS2236256 -0.55 0.36 0.58 0.29 1.17 0.12603794 0.42 0.40 1.53 0.70 3.34 0.28893898 RS224082 -0.18 0.43 0.84 0.36 1.93 0.67758266 -0.18 0.45 0.84 0.35 2.02 0.69133499 RS2295283 0.33 0.71 1.39 0.35 5.55 0.64197702 0.05 0.71 1.05 0.26 4.20 0.94166603 RS2299169 0.05 0.33 1.05 0.55 2.00 0.88742965 0.20 0.79 1.22 0.26 5.70 0.80200092 RS230911 0.51 0.42 1.67 0.74 3.78 0.21847635 0.32 0.47 1.38 0.55 3.45 0.48982306 RS2336384 -0.07 0.32 0.93 0.50 1.74 0.82246174 -0.33 0.52 0.72 0.26 1.99 0.52501563 RS2368020 0.16 0.52 1.18 0.42 3.26 0.7550729 -0.01 0.52 0.99 0.36 2.73 0.97989925 RS252853 -0.07 0.62 0.94 0.28 3.13 0.91529992 0.15 0.59 1.16 0.36 3.71 0.80294711 RS2849380 -1.77 0.85 0.17 0.03 0.91 0.03826817 -1.24 0.82 0.29 0.06 1.44 0.13036906 RS3181073 0.02 0.72 1.02 0.25 4.23 0.97545916 0.25 0.70 1.28 0.33 5.03 0.72073228 rsID Heterozygous Homozygous (Minor Allele) Validation RS3746166 -0.15 0.39 0.86 0.40 1.84 0.6943547 -0.16 0.45 0.86 0.36 2.05 0.72653624 RS3757630 0.58 0.39 1.79 0.83 3.85 0.139081 0.20 0.48 1.22 0.48 3.13 0.674803 RS3819437 0.52 0.45 1.67 0.69 4.06 0.2548468 0.27 0.50 1.30 0.49 3.47 0.5946437 RS38555 -0.10 0.56 0.91 0.30 2.70 0.85984593 -0.06 0.54 0.94 0.33 2.70 0.91208487 RS38557 0.05 0.32 1.05 0.56 1.96 0.88066377 -0.08 0.59 0.92 0.29 2.95 0.89358681 RS38564 -0.06 0.62 0.94 0.28 3.13 0.91672129 0.16 0.59 1.17 0.36 3.74 0.7932836 RS399413 -0.82 0.51 0.44 0.16 1.20 0.1084552 -0.25 0.48 0.78 0.31 1.98 0.60250176 RS42056 -0.09 0.33 0.92 0.48 1.74 0.78909844 0.07 0.48 1.08 0.42 2.78 0.87847263 RS4253623 -0.54 0.39 0.58 0.27 1.25 0.16714391 0.66 0.81 1.93 0.39 9.49 0.42063602 RS4310561 0.31 0.49 1.36 0.52 3.55 0.52564495 0.49 0.48 1.63 0.64 4.13 0.3048888 RS4558416 0.25 0.38 1.29 0.61 2.69 0.50460081 0.30 0.42 1.35 0.59 3.10 0.4745679 RS4667485 -0.57 0.34 0.56 0.29 1.09 0.09026553 -0.27 0.45 0.76 0.31 1.85 0.54749342 RS4987853 0.34 0.33 1.41 0.74 2.67 0.29525533 -0.70 0.72 0.50 0.12 2.01 0.32573009 RS5277 -0.43 0.36 0.65 0.32 1.32 0.23427854 -0.69 1.02 0.50 0.07 3.67 0.49616901 RS544093 -0.89 0.45 0.41 0.17 0.99 0.04823727 0.78 1.14 2.18 0.23 20.55 0.49585914 RS603769 0.17 0.38 1.19 0.56 2.52 0.65512241 0.23 0.45 1.26 0.52 3.06 0.60492393 RS603965 0.75 0.45 2.12 0.88 5.09 0.09336226 0.63 0.49 1.88 0.72 4.90 0.19853734 RS6532049 0.15 0.76 1.17 0.26 5.16 0.84007826 -0.22 0.74 0.80 0.19 3.41 0.76674499 RS6599237 -0.31 0.43 0.73 0.32 1.71 0.4737969 -1.36 1.22 0.26 0.02 2.82 0.26568965 RS668394 -0.09 0.33 0.91 0.48 1.75 0.78586441 -1.15 0.87 0.32 0.06 1.76 0.1887137 RS689466 -0.44 0.35 0.64 0.32 1.28 0.20659109 0.43 0.66 1.54 0.42 5.58 0.51387605 RS692995 -0.08 0.57 0.92 0.30 2.83 0.88476461 0.26 0.23 1.29 0.82 2.04 0.26902005 RS6977797 1.33 1.11 3.79 0.43 33.54 0.23055076 1.42 1.10 4.14 0.48 35.60 0.19560092 RS728539 -0.16 0.89 0.85 0.15 4.84 0.85409095 -0.46 0.86 0.63 0.12 3.40 0.59154494 RS7548209 -0.36 0.51 0.70 0.26 1.89 0.47933999 -0.87 0.51 0.42 0.15 1.14 0.08973089 RS757228 0.04 0.38 1.04 0.50 2.17 0.91428636 0.17 0.45 1.18 0.49 2.86 0.71471662 RS758000 -0.28 0.89 0.76 0.13 4.39 0.75820217 -0.52 0.87 0.60 0.11 3.26 0.55042863 RS7800456 -0.32 0.57 0.72 0.24 2.20 0.56927116 0.00 0.55 1.00 0.34 2.92 0.9973824 RS7802397 1.39 1.11 4.00 0.46 35.07 0.2109721 1.40 1.09 4.04 0.47 34.51 0.20218848 RS782054 -0.06 0.33 0.94 0.49 1.80 0.85050221 0.93 0.64 2.52 0.72 8.86 0.14910961 RS7858741 13.11 ##### ###### 0.00 #NUM! RS9400393 0.02 0.34 1.02 0.53 1.96 0.95661096 0.12 0.45 1.13 0.47 2.71 0.78336428 RS9526810 0.39 0.33 1.47 0.77 2.83 0.24507777 0.17 0.61 1.19 0.36 3.91 0.77728723 Estimate SE OR 95% LB 95% UB Uncorrected P- value Estimate SE OR 95% LB 95% UB Uncorrected P-value RS1012018 0.28 0.32 1.32 0.71 2.47 0.383279285 -1.29 0.61 0.27 0.08 0.91 0.0347473 RS1020853 -0.83 0.55 0.43 0.15 1.29 0.132948272 -1.36 0.55 0.26 0.09 0.75 0.01329657 RS10439143 1.56 0.40 4.74 2.17 10.36 9.53E-05 1.13 0.49 3.08 1.18 8.04 0.02149428 RS10821709 0.30 0.31 1.35 0.73 2.47 0.334840791 1.14 0.52 3.13 1.12 8.77 0.02953053 RS10930202 0.71 0.33 2.03 1.05 3.90 0.034335098 0.72 0.81 2.06 0.42 10.14 0.37457799 RS10994148 -0.61 0.31 0.54 0.30 1.00 0.049996067 0.36 0.48 1.43 0.56 3.69 0.45473155 RS11152370 1.13 0.54 3.10 1.09 8.85 0.034344479 0.12 0.23 1.13 0.73 1.76 0.58890588 RS12707484 2.84 1.16 17.09 1.75 166.54 0.014560221 3.17 1.16 23.88 2.47 231.17 0.00615121 RS1340655 -0.20 0.33 0.82 0.43 1.55 0.544166337 -1.14 0.48 0.32 0.13 0.82 0.01690911 RS1381108 0.67 0.33 1.96 1.02 3.75 0.042147941 0.57 0.98 1.77 0.26 12.18 0.56102675 RS139879 0.99 0.49 2.68 1.03 6.95 0.042508641 0.45 0.51 1.57 0.58 4.26 0.37961042 RS139884 0.99 0.49 2.68 1.03 6.95 0.042307257 0.45 0.51 1.56 0.58 4.25 0.38039601 RS139887 0.66 0.33 1.93 1.01 3.68 0.047415376 -0.39 0.51 0.68 0.25 1.85 0.44518087 RS1708403 -0.45 0.34 0.64 0.33 1.24 0.186863682 -0.93 0.44 0.40 0.17 0.93 0.03423555 RS17184707 -1.44 0.64 0.24 0.07 0.82 0.023310651 -1.09 0.61 0.34 0.10 1.10 0.07185108 RS1801243 -0.77 0.34 0.46 0.24 0.91 0.024578561 -0.26 0.39 0.77 0.36 1.65 0.498863 RS1954134 0.89 0.44 2.43 1.03 5.74 0.043290447 1.12 0.47 3.07 1.23 7.69 0.01640529 RS1990071 -0.01 0.33 0.99 0.52 1.88 0.966349218 1.03 0.41 2.81 1.26 6.27 0.01129864 RS2058194 0.53 0.40 1.71 0.77 3.77 0.185712602 0.96 0.43 2.62 1.13 6.07 0.0244136 RS2070720 1.01 0.33 2.74 1.42 5.27 0.002530071 0.29 0.47 1.34 0.53 3.37 0.5341448 RS2236058 0.83 0.34 2.30 1.19 4.47 0.013592513 0.53 0.48 1.71 0.66 4.39 0.26773813 RS2236256 -0.71 0.35 0.49 0.25 0.98 0.042426745 -0.35 0.39 0.71 0.33 1.53 0.38146795 RS224082 -0.97 0.44 0.38 0.16 0.89 0.025823649 -0.65 0.44 0.52 0.22 1.22 0.13461429 RS2295283 -1.37 0.49 0.25 0.10 0.67 0.005508666 -1.66 0.49 0.19 0.07 0.50 0.00073784 RS2299169 0.20 0.31 1.23 0.66 2.27 0.514766275 1.36 0.69 3.91 1.02 14.98 0.04642885 RS230911 -0.73 0.37 0.48 0.24 0.99 0.047459629 -0.54 0.39 0.59 0.27 1.26 0.17119074 RS2336384 0.66 0.32 1.93 1.03 3.61 0.040199514 0.44 0.51 1.55 0.57 4.20 0.38841404 RS2368020 -1.17 0.46 0.31 0.13 0.77 0.011319628 -0.79 0.43 0.45 0.19 1.06 0.06656301 RS252853 3.07 1.15 21.61 2.25 207.65 0.007761875 2.91 1.15 18.42 1.94 175.25 0.01125845 RS2849380 -1.27 0.63 0.28 0.08 0.97 0.043940186 -1.19 0.60 0.30 0.09 1.00 0.04916636 RS3181073 2.71 1.35 15.04 1.07 212.01 0.044651818 2.51 1.33 12.36 0.91 168.33 0.0590566 Heterozygous Homozygous (Minor Allele) Discovery rsID 0.98980631 13.14 ##### ###### 0.00 #NUM! 0.98978245 RS7907557 -0.03 0.37 0.97 0.46 2.01 0.92849632 0.27 0.42 1.31 0.58 3.00 0.51681239 RS876430 1.02 0.78 2.77 0.60 12.70 0.19047693 1.20 0.77 3.31 0.73 15.02 0.12053392 RS879207 0.89 0.34 2.45 1.24 4.81 0.00945894 0.65 0.49 1.91 0.73 4.99 0.18705672 RS922116 0.25 0.32 1.29 0.68 2.41 0.43417341 0.34 0.58 1.41 0.45 4.44 0.55568458 RS929351 0.05 0.36 1.05 0.52 2.11 0.89512458 -0.21 0.46 0.81 0.33 1.98 0.64101902 RS1012018 0.00724313 RS1020853 0.00043825 RS10439143 4.54E-05 RS10821709 0.01205215 RS10930202 0.00516359 RS10994148 0.04301045 RS11152370 0.00626025 RS12707484 0.00381201 RS1340655 0.00126199 RS1381108 0.00640126 RS139879 0.00421121 RS139884 0.00610644 RS139887 0.00011662 RS1708403 0.02433893 RS17184707 0.01321214 RS1801243 0.01615424 RS1954134 0.00158373 RS1990071 0.01012418 RS2058194 0.01583338 RS2070720 0.00067728 RS2236058 0.00219356 RS2236256 0.00534738 RS224082 0.01749766 RS2295283 0.00047367 RS2299169 0.03723598 RS230911 0.01036881 RS2336384 0.02110537 RS2368020 0.00854714 RS252853 0.00623238 RS2849380 0.00168151 RS3181073 0.03218201 rsID Combined Uncorrected P-value RS3746166 0.01864752 RS3757630 0.00672575 RS3819437 0.00850547 RS38555 0.00934024 RS38557 0.00898825 RS38564 0.00752739 RS399413 0.00286478 RS42056 0.03641006 RS4253623 0.00373581 RS4310561 0.00849836 RS4558416 0.02278926 RS4667485 0.00374294 RS4987853 0.00952266 RS5277 0.00162964 RS544093 0.00193189 RS603769 0.02488473 RS603965 0.00465421 RS6532049 0.03608033 RS6599237 0.00385705 RS668394 0.0033017 RS689466 0.00497394 RS692995 0.00718892 RS6977797 0.0049964 RS728539 0.0242972 RS7548209 0.00092981 RS757228 0.01896178 RS758000 0.02023279 RS7800456 0.00285972 RS7802397 0.0077539 RS782054 0.00030399 RS7858741 0.0472995 RS7907557 0.00888271 RS876430 0.00514912 RS879207 0.00026026 RS922116 0.01239824 RS929351 0.01463395 RS9400393 0.00298526 RS9526810 0.0089342
https://openalex.org/W4396514299
https://fkd.net.ua/index.php/fkd/article/download/4170/4087
Russian
null
STATE OF ECONOMIC SECURITY AND DIRECTIONS OF RESTORATION SOCIO-ECONOMIC DEVELOPMENT AND FOOD SECURITY IN THE CONDITIONS OF WAR
Fìnansovo-kreditna dìâlʹnìstʹ: problemi teorìì̈ ta praktiki
2,024
cc-by
16,106
FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE Volume 2 (55), 2024 DOI: 10.55643/fcaptp.2.55.2024.4170 DOI: 10.55643/fcaptp.2.55.2024.4170 Zoriana Los D.Sc. in Economics, Associate Professor of the Department of Enterprise Economics and International Business, National University of Water and Environmental Engineering, Rivne, Ukraine; Nadiia Burdeina PhD in Economics, Associate Professor of the Department of Military Support, Military Academy, Odesa, Ukraine; ORCID: 0000-0002-3070-1866 Keywords: economic security, socio-economic development, food security, directions of economic recovery, influences of war Oksana Kazak PhD in Economics, Associate Professor of the Department of Finance, Borys Grinchenko Kyiv University, Kyiv, Ukraine; ORCID: 0000-0003-2088-9022 JEL Classification: E20, E31, J49, M21, O11, O23 JEL Classification: E20, E31, J49, M21, O11, O23 JEL Classification: E20, E31, J49, M21, O11, O23 STATE OF ECONOMIC SECURITY AND DIRECTIONS OF RESTORATION SOCIO- ECONOMIC DEVELOPMENT AND FOOD SECURITY IN THE CONDITIONS OF WAR Andrii Dankevych D.Sc. in Economics, Professor of the Department of Economics and Law, National University of Food Technology, Kyiv, Ukraine; Professor of the Department of Economic Security, Public Administration and Management, Zhytomyr Polytechnic State University, Zhytomyr, Ukraine; e-mail: an.dankevich@gmail.com ORCID: 0000-0003-1801-7516 (Corresponding author) Olena Polova D.Sc. in Economics, Professor, Acting the Head of the Department of Analysis and Audit, Vinnytsia National Agrarian University, Vinnytsia, Ukraine; ORCID: 0000-0002-7120-7944 ABSTRACT The purpose of the article is to determine the state of economic security, ways to ensure its level, and ways to restore socio-economic development under the cumulative impact of threats. In order to realize this goal, an expert assessment of the components of economic security provided and the need to take into account the component of mili- tary-economic security indicated. It indicated that the task of neutralizing threats to military and economic security opens up new windows of opportunity, in particular op- portunities in ensuring socio-economic development. Prerequisites for the use of oppor- tunity windows are defined. The dynamic nature of threats of war that require institu- tional measures for permanent monitoring of dynamic threats, their operational analyt- ical assessment and the introduction of tactics to neutralize threats and reduce their long-term negative impact, are indicated. An analysis of the state economic security provided, directions for improving this state by components of economic security indi- cated. The main factors on which the well-being of the country's population depends are determined, the effects of crises on the indicators of the levels of income and ex- penditure of the population analyzed, and the drivers of the deterioration of well-being are established. It noted that the deterioration of the socio-economic situation of house- holds led to the narrowing of the domestic market, which had a negative impact on the functioning of SMEs. It indicated that this created a negative inverse multiplier effect on the well-being of the population. The negative effects of the crisis, which led to a re- duction in production volumes in the agricultural sector, were identified. It indicated that this significantly limited the ability of the branch to fulfil food security tasks. Pro- posed ways to reduce the negative impact of war on agricultural production to ensure food security. The directions and recommendations for economic and food security and restoring socio-economic development are specified. Svitlana Stoyanova-Koval D.Sc. in Economics, Professor of the Department of Accounting and Taxation, Odesa State Agrarian University, Odesa, Ukraine; ORCID: 0000-0002-1945-0509 LITERATURE REVIEW The study of issues of economic security, and its component - food security and socio-economic development can be traced in the works of many Ukrainian researchers. General theoretical aspects of the specified problem were investigated by scientific teams led by Ilchuka (2018), Bobukh (2018) and Vozniak (2021). They raise issues of a theoretical nature, the solution of which requires national and international joint efforts. In their opinion, in conditions of instability, it is necessary to introduce an innovation-investment system approach, structural changes in the economy, and the use of new approaches by institutional structures. Shemayeva et al. (2023) investigated the methodological aspects of ensuring eco- nomic stability in the conditions of war and indicated that the factors that form negative effects during martial law "partly arose in the pre-war period (low adaptive capabilities of the Ukrainian economy to the conditions of martial law, institutional defects and traps that inhibited its reformation and conditioned the existence of disparities in the pre-war period, etc.)." Antoshkin and others (2022) pointed to the structuring of economic security and defined its "structural blocks: international politics, world economy, globalization processes; economic, state and public institutions; resources and productivity; ide- ology, strategies and models of the country's development." Redziuk (2023) indicated the correlation between business activity and "the quality of state regulation, provision of a wide range of relevant financial and investment instruments" due to which problems and factors inhibiting the development of business activity in Ukraine were identified, which directly affects the state of economic security and social - economic development. Maiorova (2013) indicated the importance of economic security in improving the investment climate of Ukraine and related financial and credit leverage. The same aspect was also emphasized by Brezhnyeva-Yermolenko et al. (2018), deepening the disclosure of the problem of invest- ment in the national economy by commercial banks. Summarizing the need not only to ensure the legal basis for regulating the specified processes, Borshchevskyy et al. (2022) focus research on the identification of various elements of the financial and investment potential, namely: "... the financial and budgetary capacity of the region, the potential investment capacity of its market, the ability to attract resources through co-financing and lending." Socio-economic problems of regional development in Ukraine, according to Martynovych (2023), require the classification of the entire research database into three separate periods, namely: pre-war, post-war and post-war, with which we agree. INTRODUCTION Martial law conditions have a serious impact on the socio-economic development, eco- nomic and food security of the country. Military conflicts lead to the destruction of in- frastructure, a decrease in production and economic activity, loss of life and property, as well as population displacement and exacerbation of social problems. The dynamic nature of war threats not only requires institutional measures for their permanent mon- itoring, operational analytical assessment and the introduction of appropriate institu- tional measures but also opens windows of opportunity, in particular, in neutralizing some negative effects on the level of economic security and ensuring socio-economic development. Restoring the economy and food security requires significant financial resources and investments. One of the key factors of recovery is the optimal management of budget resources. The military conflict distorts the country's economic system, leading to a decrease in income, an increase in the budget deficit, and an increase in the public debt. 441 DOI: 10.55643/fcaptp.2.55.2024.4170 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ Том 2 (55), 2024 For effective recovery, it is necessary to attract external financial resources, such as loans, grants, and investments in order to support economic reforms, recovery of production and infrastructure. Investment is another important determinant of post-war recovery. Foreign investments can provide the necessary tech- nological base, new jobs, increase production efficiency and development of new sectors of the economy. The right in- vestment policy, which is aimed at sustainable development and ensuring recovery, can become a necessary tool for reforming the economy after the war. Under martial law, the financial system is often opaque, unstable and inefficient. The reforms should be aimed at creating a stable and transparent financial system that ensures the confidence of investors and entrepreneurs. Food security is also an important aspect of post-war recovery. Economic crises, the COVID-19 pandemic, and military operations have led to significant difficulties in the production of agricultural products and their supply to consumers, destruction of agricultural infrastructure, loss of crops and increased dependence on food imports. To ensure food security, it is important to restore the agricultural sector, provide support to agricultural enterprises, and ensure access to credit and innovative technologies. LITERATURE REVIEW The full-scale war created new threats not only to economic security, and socio-economic development but also to the provision of food to the population. The specified conditions and threats were studied by Rebryk et al. (2023) and based on the results of their analysis indicated the "necessity of modelling and forecasting the dynamics of the economy of Ukraine in the medium term in order to develop government decisions to ensure the economic security of the state." This thesis is supplemented and expanded in the presented article. Romanovska and others (2022) indicated that the manage- ment of socio-economic processes is complicated by "the long-term economic crisis caused by the destruction caused by the Russian regime and the slowdown of business activity earlier - as a result of the COVID-19 pandemic." The negative consequences of the crisis are indicated: "unbalance of the national financial system (uncontrolled growth of the budget deficit, which as a result of military actions crossed a critical line), opacity and corruption schemes in certain sectors of the economy, which led to significant financial frauds, illogicality and inconsistency of government reforms," etc. This required a detailed study in the presented article. Mazaraki et al. (2022) analyzed the threats of war to economic security and indicated that there is a significant dynamic of the "trade balance deficit. The specified dynamics are determined by the reduction of imports at lower rates than exports." Buriak et al. (2022) pointed to "significant disparities in the achievement of social and economic development of Ukraine." These disparities have not only a regional but also an industry dimension, DOI: 10.55643/fcaptp.2.55.2024.4170 442 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE Volume 2 (55), 2024 as indicated in the presented article. Chernyshova et al. (2022) studied the prospects of investments and obtaining loans by Ukrainian manufacturers. Ohrenych and others. (2023) analyzed the impact of a decrease in the level of economic security on the competitiveness of domestic enterprises in war conditions. It is stated that "enterprises will have to take radical actions to reduce profits." Onyshchenko and others. LITERATURE REVIEW (2023) indicated that the war led to a "socio-economic crisis, which is characterized by a weakening of the macroeconomic balance, an increase in social tension, and a drop in the standard of living of the population." The most dangerous threats are: "the fall in the standard of living and the impover- ishment of the population due to a sharp drop in the purchasing power of Ukrainians; the increase in unemployment due to the drop-in business activity; the outflow of the population from permanent places of residence and the loss of perma- nent work due to the migration crisis". The issue of food security of the country's population during the crisis occupies a special place, which was discussed in the article by Bioko et al. (2022) and indicated that food security is a component of economic security and forms the prerequisites for socio-economic development. Bioko and others (2022) also indicated the needs of the agrarian industry for the proper provision of food security, in particular, foreign assistance "in demining and recreation of fertile lands of de- occupied territories; providing preferential loans to farmers for the restoration of equipment and production facilities dam- aged or destroyed as a result of hostilities; provision of preferential loans by foreign investors for the restoration of the infrastructure of storage, transportation and processing of products." Kovalova (2020), note that it is necessary to intro- duce appropriate changes in the operational management of food safety issues, both normative and methodical. The same opinion is held by Pashchenko (2022), adding an analysis of factors that can negatively affect the economy of the country, regions, food producers and the population. Thus, scientists and specialists pay the main attention to separate issues, and not to a comprehensive study of the financial and investment determinants of the restoration of socio-economic develop- ment and food security in the conditions of martial law, which served to select the goal and object of research. METHODS In the course of the research, general scientific and special methods of cognition were used: hermeneutic regarding the analysis of the effects of war on the state of economic security; analysis and synthesis to determine the state of food security and investment climate in the country; induction and deduction regarding the development of proposals and clarifications for the purpose of socio-economic development and food security. The method of critical analysis made it possible to indicate directions for neutralizing threats to economic and food security and to develop recommendations for the restoration of socio-economic development. AIMS AND OBJECTIVES The purpose of the article is to determine the state of economic security, directions for ensuring its level and directions for restoring social and economic development under the combined influence of threats. The tasks of the article are to define: the components of economic security and their state, first of all, the state of food security; the impact of war threats on economic security by its components; areas of neutralization of threats to economic and food security; devel- opment of recommendations for the restoration of socio-economic development. RESULTS During the transition of the aggressor to a war of attrition, the impact of military actions on the state of economic security was supplemented by the bombing of critical infrastructure, in particular infra- structure for export purposes, tactics of destroying the socio-economic component of national security and promoting the formation of economic disparities. The aggressor analyzes the actions of the government and military administrations and applies operational manoeuvring with the tools of hybrid warfare, purposeful development and use of new types of threats to economic security. The dynamic nature of the threats of war, and changes in their influence by direction, determine the dynamic nature of changes in previously much more stable economic categories, such as economic security and socio- economic development. This requires institutional measures to monitor dynamic threats, their operational analytical as- sessment and the introduction of tactics to neutralize threats and reduce their long-term negative impact (Shevchuk, Omelchuk, 2023). The National Institute for Strategic Studies compiled a list of threats by components of economic security under martial law and assessed their relative weight (Table 1). Table 1. Threats by components of economic security and their relative weight. (Source: based on data from the National Institute for Strategic Studies, 2023) № Components of economic security The relative weight of components of economic security, % 1 Social security 22 2 Financial security 16 3 Macroeconomic security 14 4 Food security 14 5 Foreign economic security 12 6 Investment and innovation security 12 7 Production safety 10 Challenges of war lead to the need to take into account one more aspect of economic security, which was left out of the attention of the experts of the National Institute of Strategic Studies - military-economic security. This component of economic security can be defined as a set of institutional measures that ensure urgent and strategic military-economic needs within the established time limits and at the appropriate level. Indicators of military and economic security can be defined as the ability of the economy to produce the necessary weapons and supplies; supply the troops with the appro- priate amount and nomenclature of food supply, seasonal clothing, ammunition, and other necessary resources; the level of formation of operational reserves and the level of providing military production with labour resources. The availability and volume of strategic and tactical reserves are also an indicative indicator. RESULTS The analysis was carried out taking into account the refined classification of the research periods. The authors suggest the following research periods:  2010-2014 – pre-occupation period;  2015-2019 – the period of partial occupation of the territory of Ukraine;  2020-2021 - the period of Covid-19;  2022 and until now - the period of full-scale hostilities on the territory of Ukraine. In the absence of data on some indicators, the calculation was made for 2022.  2010-2014 – pre-occupation period;  2015-2019 – the period of partial occupation of the territory of Ukraine;  2020-2021 - the period of Covid-19;  2022 and until now - the period of full-scale hostilities on the territory of Ukraine. In the absence of data on some indicators, the calculation was made for 2022.  2020-2021 - the period of Covid-19;  2022 and until now - the period of full-scale hostilities on the territory of Ukraine. In the absence of data on some indicators, the calculation was made for 2022.  2022 and until now - the period of full-scale hostilities on the territory of Ukraine. In the absence of data on some indicators, the calculation was made for 2022.  2022 and until now - the period of full-scale hostilities on the territory of Ukraine. In the absence of data on some indicators, the calculation was made for 2022. The introduction of the third period made it possible to assess the cumulative impact of various threats (COVID-19, military actions) on the well-being of the population, capital investments, the dynamics of the gross domestic product, etc. The introduction of the third period made it possible to assess the cumulative impact of various threats (COVID-19, military actions) on the well-being of the population, capital investments, the dynamics of the gross domestic product, etc. The state of economic security in the conditions of war is determined by the ability of the economy to withstand internal and external challenges, to ensure the appropriate level of competitiveness on the global market and the stable and DOI: 10.55643/fcaptp.2.55.2024.4170 443 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ Том 2 (55), 2024 balanced functioning of all industries. This state at the beginning of a full-scale war was supported by the resources formed in previous times and international aid. RESULTS The need to produce and supply the army with everything necessary in wartime can stimulate the economy, solve the problem of unemployment, and ensure the sustainability of socio-economic development even in conditions of significant threats. At the same time, it should be taken into account that the economic principles of labour to meet military needs are not identical to the economic principles of peacetime labour, in particular, given that the result of labour is a public product "military service" (Shemayeva et al., 2023). This will affect the assessment of budgetary resources for the fulfilment of the specified tasks. This indicates the expediency of implementing a systemic approach in the use of resources for the complex neutralization of threats in various components of economic security. This also indicates that war not only creates threats but also opens new windows of opportunity, in particular opportunities in ensuring socio-economic development. The problem with the use of windows of opportunity is that due to the dynamics of changes in the conditions of the state of war, they are unstable, therefore, for the effective use of all opportunities, anticipatory analysis, forecasting and operational provision of measures and the formation of prerequisites for their successful implementation, preparation of resources, etc. must be implemented. For this purpose, the relevant institutional structures should be assigned the duties of implementing the specified tasks, given powers and defined responsibilities. Implementation of the specified direction requires the imple- mentation of relevant political decisions. Today, experts consider the level of the state budget deficit and, accordingly, the growth of external debt, the rate of which is increasing, as the cost of external borrowings increases, to be one of the most significant risks for the state of economic security. This is a multiplier of the specified threat to the state of economic security due to the need to repay and service loans. The situation is complicated by the fact that, according to the forecasts of the National Bank, revenues from exports will decrease. For example, for one of the main commodity items of export - agricultural products, as a result of the decrease in world prices. RESULTS Thus, in the 3rd quarter of 2024, according to the forecasts of the National Bank, prices DOI: 10.55643/fcaptp.2.55.2024.4170 444 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE Volume 2 (55), 2024 for wheat (Wheat K C Hard National) will decrease to the level of the 3rd quarter of 2021, and for corn (Corn Yellow #2 Del. US Gulf) even to the level of 4 quarter of 2020 (Mazaraki et al., 2022). This requires increasing the efforts of institu- tional structures to find new ways of obtaining financial resources, optimizing budget expenditures, and forming a rational structure of the country's debt. A promising way to optimize costs is to abandon the predominant support of export- oriented industries and direct budgetary resources to the development of small businesses, FOP, and the encouragement of innovative areas of activity. This is expedient, in particular, given the fact that supporting the export of main products with low-added value contributes to the rooting of the commodity-based nature of the economy. One of the indicated ways can also be a purposeful policy on obtaining reparations from the aggressor and attracting his confiscated financial resources. A component of economic security, as indicated in Table 1, is investment and innovation security. Therefore, it is necessary to create a state program to attract investments, first of all, in such a reliable direction of investment as the restoration of infrastructure, in particular, in the construction sector. Restoration of destroyed infrastructure objects: roads, bridges, and energy enterprises are relevant already today, but in the post-war period, due to the huge volume of work and profits, the construction sector promises to be significant. Investments in the restoration of infrastructure can contribute to the resto- ration of sustainability of economic security and socio-economic development in the conditions of war. That is why the expedient direction of restoring socio-economic development is to increase the efforts of institutional structures to promote investments, especially in promising sectors of the economy. A necessary direction of investment is also the promotion of the development of the domestic market, which can become a multiplier in improving the socio-economic component of the country's economic security. At the same time, the risk of a drop in the standard of living of the population, which is observed according to the main indicative indicators, is significant. RESULTS The reduction of labour and financial resources and the level of material and technical support of critical areas of the economy and the military are also significant. There are significant uncertainties in the challenges of military actions: the time and resources needed to restore economic activity in the liberated territories; the level of danger in logistical ways; disproportions in production and business activities due to distance from the war zone, etc. Significant uncertainty is also characterized by a decrease in the level of employment in the industry due to the occupation of centres of concentration of industrial production, relocation of enterprises, narrowing of sales markets, etc. In particular, the difficulties of employing qualified specialists in connection with the above lead to deformation in the field of labour resources, an increase in the level of unemployment and the impoverishment of the population, which is a new, previously unexplored impact of the war. After the start of the full-scale war, unemployment significantly exceeded the critical level of ~9%, which poses a significant challenge to socio-economic security. The long-term impact of this threat is due to the war, in particular, because the military actions led to the slowdown and even the shutdown of a significant number of Ukrainian companies, and ~21% of entrepreneurs were forced to change the type of economic activity. The decline in the standard of living of the population is also provoked by counter-directed measures of tax policy - for declaring a reduction in the tax burden, in particular, on labour, reducing tax rates to 10%, etc., new taxes are introduced and previous tax cancellations are introduced (fuel excise tax, real estate sales tax, etc.). Socio-economic development requires a predictable tax policy, which also takes into account the social consequences of the decisions of institutional structures. In accordance with the specified goal, we conducted a thorough study of the factors that affected the deterioration of the country's financial and investment climate and the socio-economic situation of the population by comparing the indicators of the Inflation Index, the devaluation of the hryvnia against the US dollar (Figure 1), dynamics of capital investments, property damage received by state, municipal institutions, enterprises and organizations, and the country's population. Figure 1. Comparison of Inflation Index and Growth Rate of Real Wages, %. DOI: 10.55643/fcaptp.2.55.2024.4170 RESULTS Notes: * - all indicators of the Indexes are calculated until 2010; 1 - according to the data of the State Statistics Service of Ukraine (SSCU); 2 - according to the data of the Pension Fund of Ukraine (PFU); 3 - https://biz.nv.ua/ukr/economics/zarplata-2023-na-skilki-zrosla-serednya-zarplata-v-ukrajini-50336985.html; 4 - the 2023 indicator for April was calculated using the data https://index.minfin.com.ua/ua/labour/salary/min/). (Source: based on data from the State Statistics Service of Ukraine and authors calculated) Table 2. Impacts of crises on indicators of income and expenditure levels of the population, UAH. Notes: * - all indicators of the Indexes are calculated until 2010; 1 - according to the data of the State Statistics Service of Ukraine (SSCU); 2 - according to the data of the Pension Fund of Ukraine (PFU); 3 - https://biz.nv.ua/ukr/economics/zarplata-2023-na-skilki-zrosla-serednya-zarplata-v-ukrajini-50336985.html; 4 - the 2023 indicator for April was calculated using the data https://index.minfin.com.ua/ua/labour/salary/min/). (Source: based on data from the State Statistics Service of Ukraine and authors calculated) Indicators* On average for Index change Pre-occu- pation pe- riod The period of par- tial occupation of the territory of Ukraine The period of Covid- 19 The period of full- scale hos- tilities on the terri- tory of Ukraine A 1 2 3 4 5=2/1 6=3/2 7=4/3 8=4/1 Average monthly salary1, UAH 2928.6 7168.7 12802.7 15679.53 2.4 1.8 1.2 5.4 Average monthly salary2, UAH 2647.0 6286.7 11667.0 13399.6 2.4 1.9 1.1 5.1 Minimum salary4, UAH 1099.2 2814.8 5750.0 6700.0 2.6 2.0 1.2 6.1 Average monthly total expenditure per household, UAH 3598.5 7158.1 10383.5 0.0 2.0 1.5 0.0 0.0 Average monthly total resources per one household, UAH 4102.6 8331.7 13461.4 0.0 2.0 1.6 0.0 0.0 Consumer price indices for goods and ser- vices to December 2010 108.9 235.0 301.9 406.9 2.2 1.3 1.3 3.7 including: Housing, water, electricity, gas and other fuels 117.1 468.8 643.2 713.6 4.0 1.4 1.1 6.1 Transport 131.0 274.6 337.6 499.4 2.1 1.2 1.5 3.8 Food and non-alcoholic beverages 104.6 206.8 267.1 391.2 2.0 1.3 1.5 3.7 With the beginning of the military aggression of the Russian Federation against Ukraine, more than 8 million people left for the EU, of which, according to a UN survey, 72% were aged 18-59 and almost half had higher education (BBC News Ukraine, 2023). Among them, the loss of labour potential amounted to more than 70%. RESULTS The part of the population re- maining in Ukraine is approximately 28.5 million people, of which 41.1% can be classified as economically active, including employed - 32.6% and 9.5% are unemployed (Ukrinform, 2023a). With the beginning of the military aggression of the Russian Federation against Ukraine, households significantly reduced their own incomes - by 65%, as reported by the United Nations. The share of households whose only source of income is wages decreased by 14% to 53%. The economic situation of most households in the country is deteriorating, which is confirmed by the UN survey. The share of households that cannot buy everything they need is 44%, with an insufficient level of food supply - 33%, partially reduced consump- tion, use credit resources and switch to low-quality (sub)products - 43% of respondents (Ukrinform, 2023b). It should be noted that the main factor in the growth of inflation in Ukraine was a significant mismatch between the value of the UAH and the USD The USD exchange rate increased more than seven times However without taking into account With the beginning of the military aggression of the Russian Federation against Ukraine, more than 8 million people left for the EU, of which, according to a UN survey, 72% were aged 18-59 and almost half had higher education (BBC News Ukraine, 2023). Among them, the loss of labour potential amounted to more than 70%. The part of the population re- maining in Ukraine is approximately 28.5 million people, of which 41.1% can be classified as economically active, including employed - 32.6% and 9.5% are unemployed (Ukrinform, 2023a). With the beginning of the military aggression of the Russian Federation against Ukraine, households significantly reduced their own incomes - by 65%, as reported by the United Nations. The share of households whose only source of income is wages decreased by 14% to 53%. The economic situation of most households in the country is deteriorating, which is confirmed by the UN survey. The share of households that cannot buy everything they need is 44%, with an insufficient level of food supply - 33%, partially reduced consump- tion, use credit resources and switch to low-quality (sub)products - 43% of respondents (Ukrinform, 2023b). It should be noted that the main factor in the growth of inflation in Ukraine was a significant mismatch between the value of the UAH and the USD. RESULTS (Source: based on data from the https://index.minfin.com.ua/) 0 20 40 60 80 100 120 140 160 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021 2022 Inflation Index and growth rate of real wages, % Inflation Index Growth rate of real wages DOI: 10.55643/fcaptp.2.55.2024.4170 445 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ Том 2 (55), 2024 Figure 1 shows a deterioration in the financial and economic situation. Comparing the indicators of the Hryvnia Inflation and Devaluation Index, we note that they increased almost equally and amounted to 7.222 and 7.241 starting from 2007 to March 2023. One of the important factors was the devaluation of the hryvnia against the USD by 4.606 times, especially starting from 2014 and to this day. That is, all monetary physical accumulations, deposits and bank accounts in the national currency led to huge irreparable losses. The well-being of the country's population depends on several main factors: the average monthly income per person, and prices for basic products, goods and services (Table 2). The higher the level of income, the greater the wealth and the better provision of everyday human needs. On the contrary, the higher the level of prices with an unchanged trend of income, its decrease or its slight increase, a person cannot fully provide himself with everything he needs. So, only in 2021-2022, the cost of fuel increased by 70%, which became the driver of price growth for almost all types of goods, including the increase in food prices - by 29.3% (BBC News Ukraine, 2023). Table 2. Impacts of crises on indicators of income and expenditure levels of the population, UAH. Notes: * - all indicators of the Indexes are calculated until 2010; 1 - according to the data of the State Statistics Service of Ukraine (SSCU); 2 - according to the data of the Pension Fund of Ukraine (PFU); 3 - https://biz.nv.ua/ukr/economics/zarplata-2023-na-skilki-zrosla-serednya-zarplata-v-ukrajini-50336985.html; 4 - the 2023 indicator for April was calculated using the data https://index.minfin.com.ua/ua/labour/salary/min/). (Source: based on data from the State Statistics Service of Ukraine and authors calculated) Table 2. Impacts of crises on indicators of income and expenditure levels of the population, UAH. RESULTS The deterioration of the socio-economic condition of households led to the narrowing of the domestic market, which had ti i t th f ti i f SME d l d t d d ti f th i fi d it l d i th Converting the indicators to the USD, we see that the level of the average salary increased by only 30% against 5.4 times (in UAH), that is, the distortion of the indicator is 76%. The situation is similar to other indicators of this group. Therefore, in the future, we will convert all indicators into a liquid international monetary unit - the USD. Converting the indicators to the USD, we see that the level of the average salary increased by only 30% against 5.4 times (in UAH), that is, the distortion of the indicator is 76%. The situation is similar to other indicators of this group. Therefore, in the future, we will convert all indicators into a liquid international monetary unit - the USD. The deterioration of the economic situation in the country is evidenced by the situation of small and medium-sized enter- prises (SMEs) (Figures 2 and 3). The deterioration of the economic situation in the country is evidenced by the situation of small and medium-sized enter- prises (SMEs) (Figures 2 and 3). The deterioration of the socio-economic condition of households led to the narrowing of the domestic market, which had a negative impact on the functioning of SMEs and led to a narrowed reproduction of their fixed capital, a decrease in the economic efficiency of operation, a reduction in personnel or the liquidation of business. This created a negative inverse multiplier effect on the socio-economic status of the population. According to Figure 2, the percentage of entrepreneurs who were not affected by the hostilities is insignificant (6%), while 88% have different levels of losses, ranging from 10 to 100 and above thousands of dollars. A decrease in the financial strength of enterprises negatively affected the employment of ordinary people due to a decrease in the ability to pay wages to their employees. The decrease in employee incomes and the high level of migration abroad of specialists and ordinary consumers of products led to a decrease in the purchasing power of the population to 43% in 2023 compared to the previous period and a shortage of specialists by almost a third. RESULTS The USD exchange rate increased more than seven times. However, without taking into account this factor, when studying the socio-economic development of Ukraine, we have significant distortions, as evidenced by the data in Table 3. It should be noted that the main factor in the growth of inflation in Ukraine was a significant mismatch between the value of the UAH and the USD. The USD exchange rate increased more than seven times. However, without taking into account this factor, when studying the socio-economic development of Ukraine, we have significant distortions, as evidenced by the data in Table 3. DOI: 10.55643/fcaptp.2.55.2024.4170 446 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE Volume 2 (55), 2024 Table 3. Impacts of crises on indicators of income and expenditure levels of the population, USD. Notes: *- all indicators of the Indexes are calculated until 2010. Indicators* On average for Index change Pre-occupa- tion period The period of partial occu- pation of the territory of Ukraine The period of Covid-19 The period of full-scale hos- tilities on the territory of Ukraine A 1 2 3 4 5=2/1 6=3/2 7=4/3 8=4/1 The USD exchange rate for 100 USD, for the NBU rate 961.5 2659.1 2848.9 3656.9 2.7657 1.0714 1.2836 3.8034 Average monthly sal- ary (SSCU) 322.8 270.4 449.0 428.8 0.8378 1.6603 0.9549 1.3283 Average monthly sal- ary (PFU) 291.7 237.1 409.1 366.4 0.8129 1.7252 0.8957 1.2562 Minimum salary 122.3 105.9 201.6 183.2 0.8662 1.9031 0.9089 1.4983 Average monthly to- tal expenditure per household 374.3 269.2 364.5 n/d 0.7192 1.3540 х х Average monthly to- tal resources per household 426.7 313.3 472.5 n/d 0.7343 1.5081 х х Converting the indicators to the USD, we see that the level of the average salary increased by only 30% against 5.4 times (in UAH), that is, the distortion of the indicator is 76%. The situation is similar to other indicators of this group. Therefore, in the future, we will convert all indicators into a liquid international monetary unit - the USD. The deterioration of the economic situation in the country is evidenced by the situation of small and medium-sized enter- prises (SMEs) (Figures 2 and 3). RESULTS More than a third of interviewed entrepreneurs reported receiving tax benefits, and 2/3 had a positive experience. A little more than a quarter of managers of SMEs noted a positive experience of attracting loans through the Affordable Loans 5−7−9% program, of which almost half had a negative experience (Ivanov, 2023).  tax pressure  lack of financing and access to credit  lack of specialists and problems with booking employees and traveling abroad  decrease in the purchasing power of the population Figure 3. The main obstacles to the development of SMEs in the conditions of war. (Source: constructed using Ivanov, 2023) Figure 3. The main obstacles to the development of SMEs in the conditions of war. (Source: constructed using Ivanov, 2023 In conditions of uncertainty, enterprises rely only on their own financial resources. The tension in the economic environ- ment is quite high, which has affected the financial strength of SMEs, as evidenced by the data in Figure 4. For example, the share of entrepreneurs who do not have a financial basis at all increased by 7% to 32% in 2022-2023, which affected the decrease of the share of SMEs that are able to function in the future for more than a year, by 2% and amounted to 12%. In other enterprises, the situation is not better, as 53% of entrepreneurs can function without interruption for 1 to 6 months. This is also confirmed by the data in Table 5, where the gross fixed capital formation indicator decreased by almost 37%, changes in inventories – by 65%, and acquisitions less disposals of valuables – by 40% over the 4 studied periods. A quarter of entrepreneurs who took part in a survey conducted by the European Business Association noted the absence of qualitatively available data or their lack of business support programs at both the national and international levels. More than a third of interviewed entrepreneurs reported receiving tax benefits, and 2/3 had a positive experience. A little more than a quarter of managers of SMEs noted a positive experience of attracting loans through the Affordable Loans 5−7−9% program, of which almost half had a negative experience (Ivanov, 2023). In conditions of uncertainty, enterprises rely only on their own financial resources. The tension in the economic environ- ment is quite high, which has affected the financial strength of SMEs, as evidenced by the data in Figure 4. RESULTS The lack of own working capital and the lack of the possibility of replenishing the working capital of SMEs with credit resources also have a negative impact. In the conditions of hostilities, the state should provide tax preferences and activate the activities of SMEs. However, the instability of the tax field complicates and prevents the stability of their development, as reported by a third of the surveyed entrepreneurs. 18% - over USD 100 thousand 20% - USD 50-100 thousand 26% - USD 10-50 thousand 24% - up to USD 10 thousand 6% - without loss Figure 2. The specific weight of SMEs that suffered losses as a result of military operations. (Source: constructed using Ivanov, 2023) Figure 2. The specific weight of SMEs that suffered losses as a result of military operations. (Source: constructed DOI: 10.55643/fcaptp.2.55.2024.4170 DOI: 10.55643/fcaptp.2.55.2024.4170 447 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ Том 2 (55), 2024  tax pressure  lack of financing and access to credit  lack of specialists and problems with booking employees and traveling abroad  decrease in the purchasing power of the population Figure 3. The main obstacles to the development of SMEs in the conditions of war. (Source: constructed using Ivanov, 2023) In conditions of uncertainty, enterprises rely only on their own financial resources. The tension in the economic environ- ment is quite high, which has affected the financial strength of SMEs, as evidenced by the data in Figure 4. For example, the share of entrepreneurs who do not have a financial basis at all increased by 7% to 32% in 2022-2023, which affected the decrease of the share of SMEs that are able to function in the future for more than a year, by 2% and amounted to 12%. In other enterprises, the situation is not better, as 53% of entrepreneurs can function without interruption for 1 to 6 months. This is also confirmed by the data in Table 5, where the gross fixed capital formation indicator decreased by almost 37%, changes in inventories – by 65%, and acquisitions less disposals of valuables – by 40% over the 4 studied periods. A quarter of entrepreneurs who took part in a survey conducted by the European Business Association noted the absence of qualitatively available data or their lack of business support programs at both the national and international levels. RESULTS For example, the share of entrepreneurs who do not have a financial basis at all increased by 7% to 32% in 2022-2023, which affected the decrease of the share of SMEs that are able to function in the future for more than a year, by 2% and amounted to 12%. In other enterprises, the situation is not better, as 53% of entrepreneurs can function without interruption for 1 to 6 months. This is also confirmed by the data in Table 5, where the gross fixed capital formation indicator decreased by almost 37%, changes in inventories – by 65%, and acquisitions less disposals of valuables – by 40% over the 4 studied periods. A quarter of entrepreneurs who took part in a survey conducted by the European Business Association noted the absence of qualitatively available data or their lack of business support programs at both the national and international levels. More than a third of interviewed entrepreneurs reported receiving tax benefits, and 2/3 had a positive experience. A little more than a quarter of managers of SMEs noted a positive experience of attracting loans through the Affordable Loans 5−7−9% program, of which almost half had a negative experience (Ivanov, 2023). 32% - lack of any financial reserves 12% - have financial reserves for a year or more 18% - have financial reserves of six months 31% - have financial reserves of several months 4% - have financial reserves of one month Figure 4. The specific weight of the financial stability of SMEs in war conditions. (Source: constructed using Ivanov, 2023) Figure 4. The specific weight of the financial stability of SMEs in war conditions. (Source: constructed using Ivanov, 2023) The agricultural sector, the food industry, information and communication technologies and others need investment, de- spite the hostilities. Capital investments help to restore, expand, improve an existing or create a new business. Since socio- economic development depends on various spheres of the country's economic life, investments require more thorough research at the regional level and in terms of types of economic activity (Tables 4, and 5). Table 4. Capital investments by types of economic activity by regions for 2010-2022, USD million. RESULTS (Source: based on data from the State Statistics Service of Ukraine and authors calculated) DOI: 10.55643/fcaptp.2.55.2024.4170 448 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE Volume 2 (55), 2024 Regions of Ukraine Pre-occu- pation pe- riod The period of par- tial occupation of the territory of Ukraine The period of Covid- 19 The period of full- scale hostilities on the territory of Ukraine Index change 5=2/1 6=3/2 7=4/3 8=4/1 A 1 2 3 4 Ukraine 24221.2 17174.8 20747.3 11202.4 0.7091 1.2080 0.5399 0.4625 Vinnytsya 545.7 457.1 535.7 386.2 0.8376 1.1721 0.7209 0.7077 Volyn 297.8 308.0 365.8 260.7 1.0342 1.1877 0.7129 0.8756 Dnipropetrovsk 2127.7 1724.2 2406.0 1106.9 0.8103 1.3955 0.4601 0.5202 Donetsk 2383.5 714.9 1036.8 152.2 0.2999 1.4503 0.1468 0.0638 Zhytomyr 277.4 259.9 364.3 167.2 0.9369 1.4018 0.4589 0.6027 Zakarpattya 276.2 232.4 250.4 186.4 0.8413 1.0774 0.7447 0.6750 Zaporizhzhya 743.0 491.3 641.2 254.7 0.6613 1.3051 0.3971 0.3427 Ivano-Frankivsk 529.1 345.7 326.8 187.4 0.6534 0.9453 0.5733 0.3541 Kyiv 1866.3 1378.5 1352.3 852.3 0.7386 0.9810 0.6303 0.4567 Kirovohrad 354.4 246.0 270.7 194.1 0.6941 1.1004 0.7169 0.5475 Luhansk 778.8 121.0 136.1 7.4 0.1554 1.1249 0.0544 0.0095 Lviv 1071.0 873.6 967.5 715.4 0.8157 1.1074 0.7394 0.6679 Mykolayiv 461.7 372.7 379.8 137.0 0.8071 1.0192 0.3606 0.2966 Odesa 1142.7 706.1 800.1 370.4 0.6179 1.1331 0.4630 0.3242 Poltava 888.8 610.0 933.7 479.6 0.6863 1.5308 0.5136 0.5395 Rivne 268.7 216.2 476.0 329.3 0.8046 2.2018 0.6919 1.2257 Sumy 282.9 239.6 311.6 150.3 0.8469 1.3005 0.4825 0.5314 Ternopyl 283.0 251.6 315.2 232.5 0.8891 1.2526 0.7377 0.8216 Kharkiv 1106.3 703.8 788.0 262.1 0.6362 1.1195 0.3327 0.2370 Kherson 236.0 272.9 382.9 19.2 1.1561 1.4031 0.0500 0.0811 Khmelnytskiy 368.2 362.8 423.5 266.7 0.9855 1.1673 0.6297 0.7244 Cherkasy 343.5 313.1 375.2 252.3 0.9114 1.1985 0.6725 0.7346 Chernivtsi 201.4 122.4 133.5 91.8 0.6075 1.0915 0.6877 0.4560 Chernihiv 259.8 255.2 320.3 227.1 0.9824 1.2551 0.7091 0.8743 Kyiv city 7127.3 5596.1 6453.8 3913.2 0.7852 1.1533 0.6063 0.5490 The given data indicate a gradual decrease in the growth index of capital investments both in Ukraine as a whole and in some of its regions. Also, it should be noted that the following regions: Kharkiv and Mykolaiv decreased investment at- traction more than twice, and Kherson, Luhansk and Donetsk by 15.6 times, 14.3 times and 5.3 times, respectively. The given data indicate a gradual decrease in the growth index of capital investments both in Ukraine as a whole and in some of its regions. Also, it should be noted that the following regions: Kharkiv and Mykolaiv decreased investment at- traction more than twice, and Kherson, Luhansk and Donetsk by 15.6 times, 14.3 times and 5.3 times, respectively. DOI: 10.55643/fcaptp.2.55.2024.4170 Table 5 shows that during the period of the study, such types of economic activities as public administration and defence were the least affected; compulsory social security and Human health and social work activities, where there was even an increase in capital investment by 8.5% and 2.4 times, while the drop in Agriculture, forestry and fishing did not exceed 20%. RESULTS Table 5 shows that during the period of the study, such types of economic activities as public administration and defence were the least affected; compulsory social security and Human health and social work activities, where there was even an i i it l i t t b 8 5% d 2 4 ti hil th d i A i lt f t d fi hi did t d Table 5 shows that during the period of the study, such types of economic activities as public administration and defence were the least affected; compulsory social security and Human health and social work activities, where there was even an increase in capital investment by 8.5% and 2.4 times, while the drop in Agriculture, forestry and fishing did not exceed 20%. Table 5 shows that during the period of the study, such types of economic activities as public administration and defence were the least affected; compulsory social security and Human health and social work activities, where there was even an increase in capital investment by 8.5% and 2.4 times, while the drop in Agriculture, forestry and fishing did not exceed 20%. 449 DOI: 10.55643/fcaptp.2.55.2024.4170 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ Том 2 (55), 2024 Table 5. Capital investments by types of economic activity for 2010-2022, USD million. RESULTS (Source: based on data from the State Statistics Ser- authors calculated) In connection with the significant growth of the dollar exchange rate, capital investments decreased in the 4th period in relation to the 1st in the following sectors of the economy:  no more than 30% of the basic - Construction; Real estate activities; Professional, scientific and technical activities; Other service activities; no more than 31-40% of the base - Industry; Accommodation and food service activities; Financial and insurance activities; Education; Arts, entertainment and recreation;  no more than 41-50% of the base - Wholesale and retail trade; repair of motor vehicles and motorcycles; Information and communication; Administrative and support service activities;  no more than 51-60% of the basic - Transportation and storage.  no more than 30% of the basic - Construction; Real estate activities; Professional, scientific and technical activities; Other service activities; no more than 31-40% of the base - Industry; Accommodation and food service activities; Financial and insurance activities; Education; Arts, entertainment and recreation;  no more than 41-50% of the base - Wholesale and retail trade; repair of motor vehicles and motorcycles; Information and communication; Administrative and support service activities;  no more than 51-60% of the basic - Transportation and storage. This, in turn, is evidence of the dismissal of some or all employees from various enterprises, institutions and organizations, in connection with their reorganization, partial or complete closure and, accordingly, the deterioration of the socio-eco- nomic conditions of their life. This, in turn, is evidence of the dismissal of some or all employees from various enterprises, institutions and organizations, in connection with their reorganization, partial or complete closure and, accordingly, the deterioration of the socio-eco- nomic conditions of their life. RESULTS (Source: based on data from the State Statistics Ser- vice of Ukraine and authors calculated) Types of economic activity Pre-occu- pation pe- riod The period of partial occupation of the ter- ritory of Ukraine The period of Covid- 19 The period of full- scale hos- tilities on the terri- tory of Ukraine Index change 5=2/1 6=3/2 7=4/3 8=4/1 A 1 2 3 4 Total 24221.2 17174.8 20747.3 11202.4 0.7091 1.2080 0.5399 0.4625 Agriculture, forestry and fishing 1743.1 2031.6 2117.2 1406.6 1.1656 1.0421 0.6644 0.8070 Industry 8518.6 6038.1 7432.1 3448.6 0.7088 1.2309 0.4640 0.4048 Construction 3731.1 1943.7 1673.3 892.2 0.5209 0.8609 0.5332 0.2391 Wholesale and retail trade; repair of motor vehicles and motorcycles 2289.3 1355.9 1763.3 1004.1 0.5923 1.3005 0.5694 0.4386 Transportation and storage 2313.2 1320.9 1383.5 1354.5 0.5710 1.0474 0.9790 0.5856 Accommodation and food service activities 162.9 79.1 81.5 59.7 0.4854 1.0303 0.7330 0.3666 Information and communication 968.6 812.1 811.6 461.3 0.8384 0.9994 0.5684 0.4763 Financial and insurance activities 666.6 331.5 387.5 243.6 0.4973 1.1688 0.6285 0.3654 Real estate activities 1281.5 825.6 888.2 390.5 0.6443 1.0758 0.4396 0.3047 Professional, scientific and technical activi- ties 645.8 310.8 508.1 164.4 0.4812 1.6349 0.3236 0.2546 Administrative and support service activi- ties 404.7 397.7 382.4 180.1 0.9826 0.9616 0.4711 0.4451 Public administration and defence; com- pulsory social security 920.5 1264.1 2392.0 999.0 1.3732 1.8922 0.4176 1.0852 Education 150.3 124.4 133.5 54.9 0.8278 1.0733 0.4114 0.3655 Human health and social work activities 202.0 234.5 642.6 476.2 1.1609 2.7404 0.7410 2.3573 Arts, entertainment and recreation 167.8 86.3 126.3 58.9 0.5143 1.4636 0.4661 0.3509 Other services activities 55.2 18.6 24.2 7.7 0.3366 1.3019 0.3201 0.1403 vestments by types of economic activity for 2010-2022, USD million. RESULTS The result of the above-mentioned destructive changes for 2010-2022 was a drop in GDP in almost all sectors of the economy (Table 6), with the exception of Electricity, gas, steam and air conditioning supply (42% growth), which is associated with an increase in tariffs; Information and communication (38% growth) in connection with the adopted large- scale digitalization measures (for example, the Country in a smartphone, the Diya platform, etc.) and the growth of Public administration expenses; compulsory social security by 4.4 times; Subsidies on products (for example, for food producers) by 2.3 times and by final consumer expenses of non-profit organizations (by 2 times) and by the general expenses of the public sector of management (almost twice). This led to a significant deterioration of the state of economic security. DOI: 10.55643/fcaptp.2.55.2024.4170 450 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE Volume 2 (55), 2024 Table 6. Dynamics of gross domestic product in actual prices, USD million. (Source: based on data from the State Statistics Service of Ukraine and authors calculated) Indicator Pre-occu- pation pe- riod The pe- riod of partial oc- cupation of the ter- ritory of Ukraine The pe- riod of Covid-19 The pe- riod of full-scale hostilities on the territory of Ukraine Index change 5=2/1 6=3/2 7=4/3 8=4/1 A 1 2 3 4 Gross domestic product 151180.0 112265.7 169562.6 141951.6 0.7426 1.5104 0.8372 0.9390 Composition of gross domestic product 1. RESULTS Production side Agriculture, forestry and fishing 12654.9 11599.1 17278.4 11671.6 0.9166 1.4896 0.6755 0.9223 Mining and quarrying 8778.2 6316.8 9524.7 8082.0 0.7196 1.5078 0.8485 0.9207 Manufacturing 18349.7 12984.6 17300.4 10755.3 0.7076 1.3324 0.6217 0.5861 Electricity, gas, steam and air conditioning supply 4467.5 3391.2 5322.4 6330.3 0.7591 1.5695 1.1894 1.4170 Water supply; sewerage, waste management and remediation activities 797.4 394.2 620.8 432.6 0.4944 1.5749 0.6967 0.5424 Construction 4238.3 2567.3 4729.3 1716.8 0.6057 1.8421 0.3630 0.4051 Wholesale and retail trade; repair of motor vehicles and motorcycles 21967.2 15066.4 23325.8 17547.7 0.6859 1.5482 0.7523 0.7988 Transportation and storage 11010.8 7352.9 9784.2 5593.5 0.6678 1.3307 0.5717 0.5080 Accommodation and food service activities 1111.8 807.7 1400.9 946.3 0.7265 1.7343 0.6755 0.8511 Information and communication 4740.9 4489.5 8154.2 6524.4 0.9470 1.8163 0.8001 1.3762 Financial and insurance activities 7059.1 3254.7 5152.2 4054.5 0.4611 1.5830 0.7869 0.5744 Real estate activities 8881.9 6703.8 10238.0 6923.2 0.7548 1.5272 0.6762 0.7795 Professional, scientific and technical activities 4276.9 3519.0 5170.2 2629.6 0.8228 1.4692 0.5086 0.6148 Administrative and support service activities 1726.5 1492.9 2241.2 1066.1 0.8647 1.5013 0.4757 0.6175 Public administration; compulsory social se- curity 6771.0 6506.7 11280.7 30005.1 0.9610 1.7337 2.6599 4.4314 Education 7521.7 4794.3 7382.4 5894.3 0.6374 1.5398 0.7984 0.7836 Human health and social work activities 5030.5 2708.8 4358.4 3470.3 0.5385 1.6090 0.7962 0.6899 Arts, entertainment and recreation 1046.2 662.1 985.9 619.9 0.6329 1.4890 0.6287 0.5925 Other service activities 1302.3 921.2 1446.6 990.0 0.7074 1.5703 0.6843 0.7602 Taxes on products 19734.2 17003.2 24319.6 17352.8 0.8616 1.4303 0.7135 0.8793 Subsidies on products -287.1 -270.9 -453.9 -654.6 0.9438 1.6753 1.4422 2.2802 2. Income side 2.1. Compensation of employees 73377.6 45503.5 71444.2 71163.3 0.6201 1.5701 0.9961 0.9698 2.2. Net taxes on production and imports 19415.0 17042.9 23429.3 15920.2 0.8778 1.3747 0.6795 0.8200 2.3 Gross operating surplus, mixed-income 58387.3 49719.4 74689.2 54868.1 0.8515 1.5022 0.7346 0.9397 3. Expenditure side 3.1. Final consumption expenditure 131524.6 100249.5 151559.9 147889.2 0.7622 1.5118 0.9758 1.1244 of households 102482.5 77279.8 118743.7 91401.6 0.7541 1.5365 0.7697 0.8919 of non-profit institutions serving house- holds 1087.2 978.3 1569.3 2212.3 0.8998 1.6041 1.4098 2.0349 of general government 27954.9 21991.3 31246.9 54275.3 0.7867 1.4209 1.7370 1.9415 individual consumption expenditure 18389.1 12365.1 16912.1 14788.6 0.6724 1.3677 0.8744 0.8042 collective consumption expenditure 9565.8 9626.3 14334.8 39486.8 1.0063 1.4891 2.7546 4.1279 3.2. DOI: 10.55643/fcaptp.2.55.2024.4170 RESULTS Gross capital formation 30018.2 20112.8 20386.8 17901.2 0.6700 1.0136 0.8781 0.5963 gross fixed capital formation 26007.8 18370.0 22511.0 16481.6 0.7063 1.2254 0.7322 0.6337 changes in inventories 3961.3 1715.7 -2176.7 1390.1 0.4331 -1.2687 -0.6386 0.3509 acquisitions less disposals of valuables 49.1 27.0 52.5 29.5 0.5504 1.9429 0.5622 0.6012 3.3 Exports of goods and services 71069.4 51999.9 67594.5 50331.2 0.7317 1.2999 0.7446 0.7082 3.4 Imports of goods and services -81432.2 -60096.4 -69978.6 -74170.1 0.7380 1.1644 1.0599 0.9108 451 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ Том 2 (55), 2024 Characterizing negative trends, let's pay attention to the constant negative trade balance, the peak of which falls in the last period of the study (USD -23.8 million). These negative trends were deepened by the government's destructive policy aimed at deindustrialization, raising tariffs for utility services for businesses and the population, taxes and fees, capital export, etc. With the beginning of full-scale hostilities on the territory of Ukraine, many different objects of socio-economic purpose (schools, houses, health care facilities and general-purpose roads) were destroyed and damaged (Table 7). Table 7. Damage to social and economic objects in Ukraine. (Source: built using Ukraine Recovery Plan data, 2022) Regions of Ukraine Schools, units Roads, km Health facilities, units Housing, mln sq. m Ukraine 1893 19917.441 748 59.031 Vinnytsya 13 0 5 0.037 Volyn 1 0 0 0 Dnipropetrovsk 22 75 7 0.366 Donetsk 449 2695.2 176 17.324 Zhytomyr 77 49.3 24 0.526 Zakarpattya 83 3872.3 32 0.960 Zaporizhzhya 0 0 0 0.027 Ivano-Frankivsk 0 0 0 0 Kyiv 167 1402.3 122 7.451 Kirovohrad 5 0 0 0 Luhansk 160 2959.4 20 12.021 Lviv 0 0 0 0.026 Mykolayiv 158 1809.4 82 4.048 Odesa 11 0.2 1 0.256 Poltava 1 63 0 0.020 Rivne 2 0 0 0.006 Sumy 46 1584.6 19 1.029 Ternopyl 0 0 0 0.074 Kharkiv 476 3890.8 145 9.578 Kherson 82 3.941 51 0.504 Khmelnytskiy 1 0 0 0 Cherkasy 14 0 1 0.011 Chernivtsi 0 0 0 0 Chernihiv 125 1512 63 4.767 The territories closest to the Ukrainian-Russian border suffered the greatest damage. Thus, schools were most damaged out of the total number of damaged schools in the following regions of Ukraine: Donetsk region - 23.7%, Kharkiv region - 25.2%, Kyiv region - 8.8%, Luhansk region - 8.5% and Mykolaiv region - 8.4%. RESULTS The highest level of road damage in Ukraine is observed in Kharkiv Oblast - 19.5%, Zaporizhia Oblast - 19.4%, Luhansk Oblast - 14.9%, Donetsk Oblast - 13.5%, and Mykolaiv Oblast - 9.1% of total road surface damage. A large number of buildings of health care facilities were damaged in Donetsk - 23.5%, Kharkiv - 19.4%, Kyiv - 16.3%, Mykolaiv - 11% and Chernihiv - 8.4% of the total number of such buildings damaged. Residents of Donetsk Oblast – 29.4%, Luhansk Oblast – 20.4%, Kharkiv Oblast – 16.2%, Kyiv Oblast – 12.6%, and Chernihiv Oblast – 8.1% suffered the greatest losses from damage to the total housing stock of Ukraine. DOI: 10.55643/fcaptp.2.55.2024.4170 452 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE Volume 2 (55), 2024 These data are confirmed by the Kyiv School of Economics (KSE), which estimates that the total amount of damage is 137.8 billion dollars, of which almost 40% falls on the housing stock, 26% on the infrastructure and 9.5% on losses of enterprises of various forms of ownership and types of activity (BBC News Ukraine, 2023). The government and the president of Ukraine are trying to cover the financial and budgetary collapse with new loans, issuing or extending other government bonds, receiving donor aid, etc. (Figure 5). For 2022-2023, almost 36.9 billion fortunes were received. The largest contribution to the support of the Ukrainian economy was made by the USA and the EU, which account for 2/3 of all financial injections. The share of international financial organizations (IMF, European Investment Bank, World Bank) is 15.5% (BBC News Ukraine, 2023). The National Bank of Ukraine also contributed to improving the economic situation in the country by buying OVDP bonds for USD 10.9 billion in 2022 (BBC News Ukraine, 2023). Figure 5. Investments in the recovery of the economy of Ukraine. (Source: built using BBC News Ukraine, 2023) USA EU IMF Canada European Investment Bank Germany United Kingdom World Bank Others Figure 5. Investments in the recovery of the economy of Ukraine. (Source: built using BBC News Ukraine, 2023) As can be seen from Table 6 crises due to the combined negative effects of the pandemic and the war resulted in a decrease in production volumes in the agricultural sector. The war also led to a significant reduction in investments in agriculture (see Table 5). This significantly limited the ability of the industry to fulfil food security tasks. DOI: 10.55643/fcaptp.2.55.2024.4170 RESULTS As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). Figure 6. Determinants of recovery of financial and investment activity in Ukraine. (Source: built using Ukraine Recovery Plan data, 2022) If we specify the directions of financing under individual National programs to increase the levels of economic and food security, restore socio-economic development, then according to our research, the following items need to be high- lighted (Figure 7). The issues of restoration of logistics and infrastructure, communal services and regional infrastruc- ture, access to various sources of financing, defence capability and security, etc., require the greatest injection. 0 100 200 300 400 500 600 700 Number of projects, units Financing, USD billion 2023-2025 2026-2032 Figure 6. Determinants of recovery of financial and investment activity in Ukraine. (Source: built using Ukraine Recovery Plan data, 2022) If we specify the directions of financing under individual National programs to increase the levels of economic and food security, restore socio-economic development, then according to our research, the following items need to be high- lighted (Figure 7). RESULTS Determinants of recovery of financial and investment activity in Ukraine. (Source: built using Ukraine Recovery Plan data, 2022) If we specify the directions of financing under individual National programs to increase the levels of economic and food security, restore socio-economic development, then according to our research, the following items need to be high- lighted (Figure 7). The issues of restoration of logistics and infrastructure, communal services and regional infrastruc- 0 100 200 300 400 500 600 700 Number of projects, units Financing, USD billion 2023-2025 2026-2032 Table 8. Directions for reducing the negative impact of war on agricultural production to ensure food security. RESULTS Determinants of recovery of financial and investment activity in Ukraine. (Source: built using Ukraine Recovery Plan data, 2022) If we specify the directions of financing under individual National programs to increase the levels of economic and food security, restore socio-economic development, then according to our research, the following items need to be high- lighted (Figure 7). The issues of restoration of logistics and infrastructure, communal services and regional infrastruc- ture, access to various sources of financing, defence capability and security, etc., require the greatest injection. 0 100 200 300 400 500 600 700 Number of projects, units Financing, USD billion 2023-2025 2026-2032 Table 8. Directions for reducing the negative impact of war on agricultural production to ensure food security. RESULTS № Directions The results 1 Financing of modernization of processing enterprises Acquisition of greater added value, extension of the term and im- provement of storage conditions of agricultural products, preservation of their quality 2 Facilitating the cooperation of small and medium-sized agricultural en- terprises according to the project approach Development of the infrastructure of small and medium-sized agricul- tural enterprises in the processing and storage of products, introduced by small energy 3 Creation of regional centres for training personnel for the agrarian in- dustry in scarce specialities with gender parity Solving the problems of employment and personnel shortage 4 Formation of distribution networks for FOP in the agricultural industry Improvement of the system of supply of agricultural products to con- sumers, acquisition of stability of sales of products of FOP of the agri- cultural industry 5 Involvement of international organizations and donor states in demining land, restoration of irrigation systems and soil fertility in lib- erated regions Increase in the production of agricultural products, restoration of agri- cultural production in the liberated regions 6 Launch of food support programs for low-income population groups, regulation and stabilization of prices for the main types of food by the state Support of the poor and the acquisition of sustainability in the flow of finances to agrarian farms in conditions of a lack of working capital 7 Implementation of material and non-material incentives for small en- terprises and FOPs that keep at least two heads of cattle Increasing the level of supply of dairy products to the population and making them cheaper, restoring the cattle population 8 Introduction for small and medium-sized agricultural enterprises of re- imbursement for loans for the implementation of small capacity instal- lations for the processing of oil crops and the production of cereals Increasing the level of supply of oil and cereals to the population. Providing the opportunity to use processing waste directly in agricul- tural farms As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). Figure 6. RESULTS In particular, these opportunities have significantly decreased as a result of the destruction of the infrastructure of agricultural farms in the South of Ukraine; the destruction of the irrigation system due to their use by the aggressor for fortification; the demining of agricultural land; significant deterioration of soil fertility; destruction of cattle, robbery of agricultural enterprises. Other resource potential of farms has also significantly deteriorated. For example, a significant part of the workers was evacuated or mobilized; agricultural enterprises have a significant shortage of working capital; as a result of the occupation, hostilities, and dynamic migration of the population, the client base of agrarian enterprises has been distorted. A problem in providing the population with food is also the fact that due to the cumulative effect of threats, the cost price of agricultural products is increasing. In particular, due to the lack of qualified personnel, the management of agricultural enterprises is forced to raise the level of wages for employees, which affects food prices. In conditions of a decrease in the socio-economic level of the population, this leads to a significant deformation of demand and a decrease in sales of certain types of products, which is a multiplier for the deterioration of the level of food security. All of the above creates a significant level of risks to the country's food security. These risks are aggravated by a significant deficit in the country's budget, which, accordingly, leads to a drastic reduction in the state's ability to support agricultural producers and restore the functioning of destructive farms. This, in the conditions of war, limits the direction of restoration of an adequate level of food security. Table 8 provides suggestions for ways to ensure food security. DOI: 10.55643/fcaptp.2.55.2024.4170 453 Table 8. Directions for reducing the negative impact of war on agricultural production to ensure food security. RESULTS № Directions The results 1 Financing of modernization of processing enterprises Acquisition of greater added value, extension of the term and im- provement of storage conditions of agricultural products, preservation of their quality 2 Facilitating the cooperation of small and medium-sized agricultural en- terprises according to the project approach Development of the infrastructure of small and medium-sized agricul- tural enterprises in the processing and storage of products, introduced by small energy 3 Creation of regional centres for training personnel for the agrarian in- dustry in scarce specialities with gender parity Solving the problems of employment and personnel shortage 4 Formation of distribution networks for FOP in the agricultural industry Improvement of the system of supply of agricultural products to con- sumers, acquisition of stability of sales of products of FOP of the agri- cultural industry 5 Involvement of international organizations and donor states in demining land, restoration of irrigation systems and soil fertility in lib- erated regions Increase in the production of agricultural products, restoration of agri- cultural production in the liberated regions 6 Launch of food support programs for low-income population groups, regulation and stabilization of prices for the main types of food by the state Support of the poor and the acquisition of sustainability in the flow of finances to agrarian farms in conditions of a lack of working capital 7 Implementation of material and non-material incentives for small en- terprises and FOPs that keep at least two heads of cattle Increasing the level of supply of dairy products to the population and making them cheaper, restoring the cattle population 8 Introduction for small and medium-sized agricultural enterprises of re- imbursement for loans for the implementation of small capacity instal- lations for the processing of oil crops and the production of cereals Increasing the level of supply of oil and cereals to the population. Providing the opportunity to use processing waste directly in agricul- tural farms As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). Figure 6. RESULTS № Directions The results 1 Financing of modernization of processing enterprises Acquisition of greater added value, extension of the term and im- provement of storage conditions of agricultural products, preservation of their quality 2 Facilitating the cooperation of small and medium-sized agricultural en- terprises according to the project approach Development of the infrastructure of small and medium-sized agricul- tural enterprises in the processing and storage of products, introduced by small energy 3 Creation of regional centres for training personnel for the agrarian in- dustry in scarce specialities with gender parity Solving the problems of employment and personnel shortage 4 Formation of distribution networks for FOP in the agricultural industry Improvement of the system of supply of agricultural products to con- sumers, acquisition of stability of sales of products of FOP of the agri- cultural industry 5 Involvement of international organizations and donor states in demining land, restoration of irrigation systems and soil fertility in lib- erated regions Increase in the production of agricultural products, restoration of agri- cultural production in the liberated regions 6 Launch of food support programs for low-income population groups, regulation and stabilization of prices for the main types of food by the state Support of the poor and the acquisition of sustainability in the flow of finances to agrarian farms in conditions of a lack of working capital 7 Implementation of material and non-material incentives for small en- terprises and FOPs that keep at least two heads of cattle Increasing the level of supply of dairy products to the population and making them cheaper, restoring the cattle population 8 Introduction for small and medium-sized agricultural enterprises of re- imbursement for loans for the implementation of small capacity instal- lations for the processing of oil crops and the production of cereals Increasing the level of supply of oil and cereals to the population. Providing the opportunity to use processing waste directly in agricul- tural farms As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). RESULTS The issues of restoration of logistics and infrastructure, communal services and regional infrastruc- ture, access to various sources of financing, defence capability and security, etc., require the greatest injection. 0 100 200 300 400 500 600 700 Number of projects, units Financing, USD billion 2023-2025 2026-2032 If we specify the directions of financing under individual National programs to increase the levels of economic and food security, restore socio-economic development, then according to our research, the following items need to be high- lighted (Figure 7). The issues of restoration of logistics and infrastructure, communal services and regional infrastruc- ture, access to various sources of financing, defence capability and security, etc., require the greatest injection. If we specify the directions of financing under individual National programs to increase the levels of economic and food security, restore socio-economic development, then according to our research, the following items need to be high- lighted (Figure 7). The issues of restoration of logistics and infrastructure, communal services and regional infrastruc- ture, access to various sources of financing, defence capability and security, etc., require the greatest injection. DOI: 10.55643/fcaptp.2.55.2024.4170 454 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE Volume 2 (55), 2024 Figure 7. Volumes of funding of the National Programs of the Recovery Plan of Ukraine. (Source: built using Ukraine Recovery Plan data, 2022) 0 50 100 150 200 250 Strengthening defense and security Boost business environment Ensure competitive access to funding Secure macro-financial stability Grow value adding sectors of economy Recovery and upgrade of housing and regions infrastructure Recovery and modernization of social infrastructure Improve Education system Upgrade HealthCare system Develop Culture and Sport systems Secure targeted and effective social policy Energy independence and Green Deal Logistics de-bottleneck and integration with EU Volumes of financing, USD billion Figure 7. Volumes of funding of the National Programs of the Recovery Plan of Ukraine. (Source: built using Ukraine Recovery Plan data, 2022) An important driver of increasing the country's investment attractiveness was the signing of an agreement (Memorandum of Understanding, November 10, 2022) with the company BlackRock Financial Market Advisory, regarding support and consultation on the creation and development of the Development Fund of Ukraine. The main goal of this project is to attract private capital to the recovery and further development of the economy of Ukraine. It is also planned to attract other world-famous financial consulting companies to BlackRock: McKinsey, JP Morgan, etc. (Pylypiv, 2023). RESULTS The well- known names of the companies in the world will provide an opportunity to attract more private (foreign) capital after the end of the war. The key investment areas of the Development Fund of Ukraine will be such sectors of the economy as energy, agriculture, infrastructure facilities, information technologies, and production. According to experts' estimates, the post-war recovery of Ukraine's economy will require USD 350-750 billion of direct state investments (Kuznyetsova et al., 2023). The following recommendations are offered for the implementation of the necessary institutional m 1. Reducing the level of corruption, increasing the transparency of management decisions and criminal liability for the unauthorized and inappropriate use of state financial resources (Omelchuk et al., 2022; Chernyshova et al., 2022; Oliinyk et al., 2022). 2. Development, approval and implementation of financial aid programs and projects aimed at restoring economic growth on an innovative basis (Sytnyk et al., 2022; Buriak et al., 2022; Kuznyetsova et al., 2021; Mironova et al., 2022). 3. Provision of investment-attractive and financially expedient under favourable conditions of attracting private capital, including on the international capital market (Ukraine Recovery Plan, 2022; Pylypiv, 2023; Kuznyetsova et al., 2023). 4. Implementation of institutional measures for permanent monitoring of dynamic threats, their operational analytical assessment and introduction of tactics to neutralize threats and reduce their long-term negative impact. 5. For the effective use of all windows of opportunity that are dynamically created in the conditions of war, anticipatory analysis, forecasting and operational provision of measures and formation of prerequisites for their successful implementation, preparation of resources, etc., must be implemented. For this purpose, the relevant institutional structures should be assigned the duties of implementing the specified tasks, given powers and defined responsibilities. Implementation of the specified direction requires appropriate political decisions. 6. Increasing the efforts of institutional structures to find new ways of obtaining financial resources, optimizing budget expenditures, and forming a rational structure of the country's debt. One of the specified ways can be the policy of obtaining reparations from the aggressor and attracting his confiscated financial resources. 7. Reduction of unemployment to a level below the critical level. For this, it is necessary to implement a state program, which, in particular, will provide for the formation of a projected tax policy that also takes into account the social consequences of the decisions of institutional structures. 7. Reduction of unemployment to a level below the critical level. DISCUSSION In a number of studies, in particular, Antoshkin et al. (2022), Onyshchenko et al. (2023) specified the structure of economic security. Antoshkin and others (2022) defined the following structural blocks of economic security: "international politics, world economy, globalization processes; economic, state and public institutions; resources and productivity; ideology, strategies and models of the country's development; monitoring, methods of assessment and diagnosis and forecasting". First, in our opinion, as structural blocks of economic security, its components should be considered from the point of view of security: social, financial, food, investment and innovation security; secondly, the military actions indicated the need to take into account one more important component, namely military and economic security, which was left out of the attention of the mentioned researchers. Also, under conditions of war, the reliability of the rear becomes especially im- portant, one of the directions of its formation is socio-economic security, and this, in our opinion, needs to be taken into account more than, for example, the globalization processes indicated by Antoshkin et al. (2022) as components of eco- nomic security. Rebryk and others. (2023) indicated "the need for modelling and forecasting the dynamics of Ukraine's economy in the medium term". In our opinion, given the dynamic changes in threats, this should be done in real-time and in the short term. Mazaraki et al. (2022) indicated that during the war, "priorities should be the creation of new modern industries with the maximum use of modern technologies, the development of the domestic military industry, the restora- tion of lending to the economy, the support of the agricultural industry and exporters, and in the future, the restriction of imports and the development of domestic production." All of the above requires resources, first of all, financial resources, which, as indicated in the presented article, with a budget deficit and a reduction in investments, requires a balanced budget policy. Ohrenych and others. (2023) indicated the impact of a decrease in the level of economic security on the competitiveness of domestic enterprises and stated that "in order to reduce profits, enterprises will have to take radical actions." But Ohrenych et al. (2023) did not indicate that these "radical actions" will serve as a driver of further deterioration of economic security, which is considered in the presented article and to neutralize which priority areas of state support are determined. RESULTS Development and approval of a program to stimulate the return of specialists who migrated abroad during the war (Zayed et al., 2022; Lytvyn et al., 2022; Mulska et al., 2022). 14. Approximation of national legislation to EU requirements, and implementation of Sustainable Development Goals in regulatory documents (Sumets et al., 2022a; Sumets et al., 2022b; Ahmed et al., 2022). 14. Approximation of national legislation to EU requirements, and implementation of Sustainable Development Goals in regulatory documents (Sumets et al., 2022a; Sumets et al., 2022b; Ahmed et al., 2022). 14. Approximation of national legislation to EU requirements, and implementation of Sustainable Development Goals in regulatory documents (Sumets et al., 2022a; Sumets et al., 2022b; Ahmed et al., 2022). RESULTS For this, it is necessary to implement a state program, which, in particular, will provide for the formation of a projected tax policy that also takes into account the social consequences of the decisions of institutional structures. DOI: 10.55643/fcaptp.2.55.2024.4170 455 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ Том 2 (55), 2024 8. In order to ensure food security, it is necessary to implement the above-mentioned support measures for the agricultural industry. 8. In order to ensure food security, it is necessary to implement the above-mentioned support measures for the agricultural industry. 9. Creation of a state program to attract investments, first of all, in such a reliable direction of investment as the restoration of infrastructure. A necessary direction of investment is also the promotion of the development of the domestic market, which can become a multiplier in improving the socio-economic component of the country's economic security. 10. Implementation of a systematic approach in the use of resources for complex neutralization of threats in various components of economic security. In particular, the primary need during the war to provide urgent and strategic military-economic needs for conducting military operations can stimulate the economy, solve the problem of unemployment, and ensure the sustainability of socio-economic development even in conditions of significant threats. 11. Social support for low-income population groups, regulation and stabilization of prices for the main types of food by the state. The specified support should be provided primarily through the use of the public works mechanism (with the exception of persons with health conditions or significant age, respectively). (Pashchenko, 2022; Kovalova, 2020; Petrychenko et al., 2022). 12. Creation of a state program for energy system restructuring. State funding of up to 50% of programs and projects for the installation of 5 kW PV systems and batteries for households. Introduction of support for green types of fuels (Shtunder et al., 2022; Havrysh et al., 2016; Borshchevskyy et al., 2022). 12. Creation of a state program for energy system restructuring. State funding of up to 50% of programs and projects for the installation of 5 kW PV systems and batteries for households. Introduction of support for green types of fuels (Shtunder et al., 2022; Havrysh et al., 2016; Borshchevskyy et al., 2022). 13. Development and approval of a program to stimulate the return of specialists who migrated abroad during the war (Zayed et al., 2022; Lytvyn et al., 2022; Mulska et al., 2022). 13. CONCLUSIONS Since the threats to economic and food security, and socio-economic development of Ukraine are of different natures: COVID-19, and military actions of different intensity in different periods of time, the analysis in the presented article was carried out taking into account the refined classification of the studied periods. The genesis of negative effects on the state of economic security and the sources of its restoration are determined. The dynamic nature of threats of war, changes in their impact by directions, which requires institutional measures for permanent monitoring of dynamic threats, their oper- ational analytical assessment and introduction of tactics to neutralize threats and reduce their long-term negative impact, are indicated. An analysis of the negative effects of the war on the components of economic security is provided, and the results of an expert assessment of their relative weight are given. The necessity of taking into account one more aspect of economic security, which was left out of the attention of experts, is indicated in the conditions of war - military-economic security. Indicators of military and economic security are indicated. The expediency of implementing a systemic approach in the use of resources for complex neutralization of threats according to various components of economic security is indicated. It is pointed out that the war not only creates threats but also opens new windows of opportunities, in particular opportunities in solving some aspects of socio-economic development. The problem with the use of the specified windows of opportunity is that due to the dynamic changes in the conditions of the state of war, they are unstable, therefore, for the effective use of all opportunities, anticipatory analysis, forecasting and operational provision of measures and the formation of prerequisites for their successful implementation, preparation of resources, etc. must be implemented. For this purpose, the relevant institutional structures should be assigned the duties to implement the specified tasks, given the authority and defined responsibility. The main factors on which the well-being of the country's population depends are indicated, the effects of crises on the indicators of the population's income and expenditure levels are analyzed, and the drivers of the deterioration of well- being are established. The negative effects of the crisis, which led to a reduction in production volumes in the agricultural sector, were identified. It is indicated that this significantly limited the ability of the branch to fulfil food security tasks. DISCUSSION The issue of "uncontrolled growth of the budget deficit, which as a result of military operations crossed the critical line" is mentioned in the article by Romanovska et al. (2022) needs to specify directions for neutralizing this threat. Therefore, in the presented article, it is indicated that such a promising direction is the optimization of costs, first of all, the refusal to support export-oriented industries and the direction of budget resources for the development of small businesses, FOP, and the encouragement of innovative areas of activity. This is expedient, in particular, given the fact that supporting the export of products with a low level of processing contributes to the formation of the raw material character of the economy. DOI: 10.55643/fcaptp.2.55.2024.4170 456 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE Volume 2 (55), 2024 A number of scientists: Borshchevskyy and others (2022), Brezhnyeva-Yermolenko and others (2018), Kuznyetsova et al. (2023) indicate the need to attract investments to improve the state of economic security and to restore socio-economic development. The presented article emphasizes that the primary direction of investment is primarily the promotion of the development of the domestic market, as this can become a multiplier in improving the socio-economic component of the state of the country's economic security. Buriak et al. (2022) indicated "significant disparities in the achievement of socio- economic development." Not only the regional but also the sectoral dimension of disparities is indicated in the presented article and proven by the provided statistical data. The presence of debatable questions on the above-mentioned issues indicates the relevance and expediency of the pre- sented research. CONCLUSIONS Proposed ways to reduce the negative impact of war on agricultural production to ensure food security. The directions of financing under separate national programs for increasing the level of economic and food security, and restoring socio- economic development have been specified, and the main tasks of neutralizing threats to economic and food security and restoring socio-economic development have been defined. ADDITIONAL INFORMATION REFERENCES 439516982000&source=images&cd=vfe&opi=89978449&ve d=0CAgQr5oMahcKEwjo6seV946FAxUAAAAAHQAAAAAQBA 1. Ahmed, S.F., Zayed, N.M., Islam, K.M.A., & Nitsenko, V. (2022). Investigating the impact of RE consumption on CO2 emissions: evidence from the SAARC countries. Naukovyi Visnyk Natsionalnoho Hirnychoho Universytetu, 2, 102-107. https://doi.org/10.33271/nvngu/2022-3/107 12. Ilchuk, V.P. et al. (2018). Determinanty sotsialno- ekonomichnoho rozvytku Ukrainy v umovakh transformatsiinykh zrushen: kolektyvna monohrafiia. Chernihiv: ChNTU. 432 s. https://nubip.edu.ua/sites/default/files/u295/monografiya_ 2018_determinanti.pdf 2. Antoshkin, V., & Antoshkina, L. (2022). Conceptual provisions for preserving economic security in the conditions of war and martial law. Economic Bulletin of the University, 55, 77-83. https://doi.org/10.31470/2306-546X- 2022-55-77-83 13. Ivanov, O. (2023, May 23). Only 6% did not experience losses. How small and medium-sized businesses survive the war — research, infographics. https://biz.nv.ua/ukr/economics/yak-perezhivaye-viynu- maliy-i-seredniy-biznes-v-ukrajini-doslidzhennya- 50326420.html 3. BBC News Ukraine (2023). The year of the great war of Russia against Ukraine in 10 figures. https://www.bbc.com/ukrainian/articles/ck5ylk3rj0zo 4. Berezyuk, S., Gontaruk, Y., & Yasinska, B. (2023). Ensuring food security of the state in the conditions of military operations. Economy and society, 47. https://doi.org/10.32782/2524-0072/2023-47-44 14. Kovalova, O. V. (2020). Derzhavni oriientyry realizatsii innovatsiinykh provaideriv strukturnoi polityky ahrarnoho sektora ekonomiky Ukrainy. Biznes Inform, 6, 159–166. https://doi.org/10.32983/2222-4459-2020-6-159-166 5. Bioko, V., & Bioko, L. (2022). Food security and risks for agricultural production during the war in Ukraine. Economy and society, 41. https://doi.org/10.32782/2524-0072/2022- 41-27 15. Kuznyetsova, A., Sydorchenko, T., Zadvorna, O., Nikonenko, U., & Khalina, O. (2021). Assessment of aspects of the COVID-19 crisis in the context of ensuring economic security. International Journal of Safety and Security Engineering, 11(6), 615-622. https://doi.org/10.18280/ijsse.110601 6. Bobukh, I.M. et al. (2018). National and global determinants of economic growth of Ukraine: scientific report; NAS of Ukraine DU "Institute of economics" the forecast of NAS Ukraine", K., 2018. 390 p. http://ief.org.ua/docs/sr/299.pdf 16. Kuznyetsova, A., Garafonova, O., Yankovoi, R., Zhosan, H., & Lomachynska, I. (2023). Development of an International Marketing Strategy for Domestic Enterprises During a State of War. Marketing and Management of Innovations, 14(4), 200–211. https://doi.org/10.21272/mmi.2023.4-15 7. Borshchevskyy, V. V., Zasadko, V. V., & Vasylytsya, O. B. (2022). Zakhidnyy rehion Ukrayiny v umovakh suchasnykh vyklykiv hlobalizatsiyi: stratehichne planuvannya rozvytku v konteksti nablyzhennya do YeS. Rehional'na ekonomika, 104(2), 25-34. https://doi.org/10.36818/1562-0905-2022- 2-3 17. Lytvyn, N., Andrushchenko, H., Zozulya, Y. V., Nikanorova, O. V., & Rusal, L. M. (2022). Enforcement of court decisions as a social guarantee of protection of citizens rights and freedoms. Prawo i Wiez, 2022(39), 80-102. https://doi.org/10.36128/priw.vi39.351 8. Brezhnyeva-Yermolenko, O.V., Zolotaryova, O.V., & Moskalenko, K.O. (2018). Determinants Of Investment Activity of Commercial Banks. FUNDING DOI: 10.55643/fcaptp.2.55.2024.4170 457 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ Том 2 (55), 2024 REFERENCES Methodological aspects of ensuring the economic and military-economic stability of the state in the conditions of war. Social Development and Security, 13(4), 137-146. https://doi.org/10.33445/sds.2023.13.4.11 36. Shtunder, I., Kushnir, S., Perevozova, I., Kalinina, S., Savchenko, E., & Nitsenko, V. (2022). Sustainable development of the economy in the conditions of the energy crisis. Naukovyi Visnyk Natsionalnoho Hirnychoho Universytetu, 4, 156-161. https://doi.org/10.33271/nvngu/2022-4/156 25. Oliinyk, O. S., Shestopalov, R. M., Zarosylo, V. O., Stankovic, M. I., & Golubitsky, S. G. (2022). Economic security through criminal policies: A comparative study of Western and European approaches. Revista Cientifica General Jose Maria Cordova, 20(38), 265-285. https://doi.org/10.21830/19006586.899 37. Sumets, A., Kniaz, S., Heorhiadi, N., Skrynkovskyy, R., & Matsuk, V. (2022a). Methodological Toolkit for Assessing the Level of Stability of Agricultural Enterprises. Agricultural and Resource Economics, 8(1), 235-255. https://doi.org/10.51599/are.2022.08.01.12 26. Omelchuk, O. M., Haiur, I. Y., Kozytska, O. G., Prysiazhna, A. V., & Khmelevska, N. V. (2022). Analysis of the activities of law enforcement authorities in the field of combating crime and corruption offences. Journal of Money Launde ring Control, 25(3), 700-716. https://doi.org/10.1108/JMLC- 07-2021-0073 38. Sumets, A., Tyrkalo, Y., Popovych, N., Poliakova, J., & Krupin, V. (2022b). Modeling of the Environmental Risk Management System of Agroholdings Considering the Sustainable Development Values. Agricultural and Resource Economics, 8(4), 244-265. https://doi.org/10.51599/are.2022.08.04.11 27. Onyshchenko, S., Hlushko, A., & Zagorulko, T. (2023). Challenges and threats to the socio-economic security of Ukraine under martial law. Economy and region, 1(88), 135-143. https://doi.org/10.26906/EiR.2023.1(88).2888 28. Pashchenko, O. M. (2022). Problems of legal enforcement of food security under martial law. South Ukrainian Law Journal, 1-2, 283-291. https://doi.org/10.32850/sulj.2022.1-2.50 39. Sytnyk, H. P., Zubchyk, O. A., & Orel, M. H. (2022). Conceptual Understanding of the Peculiarities of Managing Innovation-Driven Development of the State in the Current Conditions. Science and Innovation, 18(2), 3-15. https://doi.org/10.15407/scine18.02.003 29. Petrychenko, V., Petrychenko, O., Fedoryshyna, L., Kravchuk, O., Korniichuk, O., & Nitsenko, V. (2022). Agricultural Production in Ukraine: Ecological Challenges and Impact on the Quality of Life. Financial and Credit Activity Problems of Theory and Practice, 4(45), 374–384. https://doi.org/10.55643/fcaptp.4.45.2022.3782 40. Ukraine Recovery Plan (2022). https://recovery.gov.ua/en 41. Ukrinform (2023a, March 25). Only about 11.7 million people are economically active in Ukraine. https://www.ukrinform.ua/rubric-economy/3732011-v- ukraini-ekonomicno-aktivnimi-e-lise-blizko-117-miljona- ludej.html 30. Pylypiv, I. (2023, May 6). Global investment giant BlackRock will help the Development Fund of Ukraine. Economic truth. https://www.epravda.com.ua/news/2023/05/6/699839/ 42. Ukrinform (2023b, Jule 19). The UN assessed the consequences of the Russian invasion for Ukrainians - how incomes fell. https://www.ukrinform.ua/rubric- economy/3724982-oon-ocinila-naslidki-rosijskogo- vtorgnenna-dla-ukrainciv-ak-vpali-dohodi.html 31. REFERENCES Economy and Society, 19, 948-954. https://economyandsociety.in.ua/journals/19_ukr/142.pdf 18. Maiorova, T.V. (2013). Investytsiinyi protses i finansovo- kredytni vazheli yoho aktyvizatsii v Ukraini: monohrafiia. K.: KNEU, 332 s. https://core.ac.uk/download/pdf/32610803.pdf 9. Buriak, Y., Redko, K., Chornovol, А., & Orlenko, О. (2022). Socio-economic aspects of the sustainable development of Ukraine in the conditions of war (European integration aspects). Scientific Notes of Lviv University of Business and Law, 34, 135-143. http://dx.doi.org/10.5281/zenodo.7221052 19. Martynovych, N. (2023). Applied imperatives of assessing the socio-economic efficiency of the post-war development of the regions of Ukraine. Problems and Prospects of Economics and Management, 1(33), 98–113. https://doi.org/10.25140/2411-5215-2023-1(33)-98-113 20. Mazaraki, А., & Melnyk, T. (2022). Economic security of Ukraine under the conditions of Russian aggression. Scientia·fructuosa. Bulletin of the Kyiv National University of Trade and Economics, 145(5), 4–28. https://doi.org/10.31617/1.2022(145)01 10. Chernyshova, O., Chornovol, А., & Myronchuk, V. (2022). Functioning of the financial sector of Ukraine under conditions of maritime. Economy and society, 38. https://doi.org/10.32782/2524-0072/2022-38-49 11. Havrysh, V.I., & Nitsenko, V.S. (2016). Current state of world alternative motor fuels market. Actual problems of economics, 7(181), 41-52. https://www.google.com/url?sa=i&url=http%3A%2F%2Fds pace.onu.edu.ua%3A8080%2Fbitstream%2F123456789%2 F20286%2F1%2F41- 52.pdf&psig=AOvVaw0D4bj4SlBT69RmIwjAv3ze&ust=1711 21. Mironova, N., Koptieva, H., Liganenko, I., Sakun, A., & Chernyak, D. (2022). Modeling the selection of innovative strategy for development of industrial enterprises. WSEAS Transactions on Business and Economics, 19, 278-291. https://doi.org/10.37394/23207.2022.19.26 DOI: 10.55643/fcaptp.2.55.2024.4170 458 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE Volume 2 (55), 2024 22. Mulska, O., Vasyltsiv, T., Shushkova, Y., Kloba, L., & Parfenyuk, Y. (2022). Assessment of the Population's Social Resilience Environment (The Case of the Carpathian Region of Ukraine). Problems and Perspectives in Management, 20(1), 407-421. https://doi.org/10.21511/ppm.20(1).2022.33 33. Romanovska, Y., Kozachenko, G., Pogorelov, Y., Pomazun, O., & Redko, K. (2022). Problems of development of economic security in Ukraine: challenges and opportunities. Financial and credit activity: problems of theory and practice, 5(46), 249-257. https://doi.org/10.55643/fcaptp.5.46.2022.3906 23. National institute for strategic studies (2023, May 31). Actual challenges and threats for economic security of Ukraine in conditions of martial law. https://niss.gov.ua/publikatsiyi/analitychni- dopovidi/aktualni-vyklyky-ta-zahrozy-ekonomichniy- bezpetsi-ukrayiny-v 34. Shevchuk, I., & Omelchuk, L. (2023). Systematic analysis of the sphere of economic security of ukraine in conditions of limited resources in the context of the policy of sustainable development. Socio-Economic Relations in the Digital Society, 3(49), 40-50. https://doi.org/10.55643/ser.3.49.2023.507 24. Ohrenych, Y., & Dibrova, V. (2023). Economic security of industrial enterprises in Ukraine: state, problems and directions for improvement. Taurian Scientific Bulletin. Series: Economy, 15, 180-191. https://doi.org/10.32782/2708-0366/2023.15.22 35. Shemayeva, L., Onofriychuk, A., & Onofriychuk, V. (2023). Данкевич А., Стоянова-Коваль С., Польова О., Лось З., Бурдейна Н., Казак О. анкевич А., Стоянова-Коваль С., Польова О., Лось З., Бурдейна Н., Казак О. СТАН ЕКОНОМІЧНОЇ БЕЗПЕКИ ТА НАПРЯМИ ВІДНОВЛЕННЯ СОЦІАЛЬНО-ЕКОНОМІЧНОГО РОЗВИТКУ Й ПРОДОВОЛЬЧОЇ БЕЗПЕКИ В УМОВАХ ВІЙНИ Ключові слова: економічна безпека, соціально-економічний розвиток, продовольча безпека, напрями відновлення економіки, впливи війни REFERENCES Rebryk, M., & Haiduchenko, S. (2023). Problem aspects of ensuring the socio-economic development of the state in the conditions of war. Current issues in modern science, 10(16), 269-280. https://doi.org/10.52058/2786-6300- 2023-10(16)-269-280 43. Ukrinform (2023d, May 30). The National Bank predicts a gradual reduction in the unemployment rate. https://www.ukrinform.ua/rubric-economy/3715972- nacbank-prognozue-postupove-skorocenna-rivna- bezrobitta.html 32. Redziuk, Y. (2023). State, Problems and Factors Inhibiting the Development of Business Activity In Ukraine. Strategy of Economic Development of Ukraine, 51, 35–49. https://doi.org/10.33111/sedu.2022.51.035.049 44. Ukrinform (2023с, Jule 06). Real wages in the private sector have practically stopped falling - NBU review. DOI: 10.55643/fcaptp.2.55.2024.4170 459 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ Том 2 (55), 2024 rehionalnykh doslidzhen imeni M. I. Dolishnoho NAN Ukrainy». Lviv. http://ird.gov.ua/irdp/p20210037.pdf 46. Zayed, N. M., Edeh, F. O., Darwish, S., Islam, K. M. A., Kryshtal, H., Nitsenko, V., & Stanislavyk, O. (2022). Human resource skill adjustment in service sector: Predicting dynamic capability in post COVID-19 work environment. Journal of Risk and Financial Management, 15(9), 402. https://doi.org/10.3390/jrfm15090402 https://www.ukrinform.ua/rubric-economy/3719622-realni- zarplati-u-privatnomu-sektori-prakticno-pripinili-padinna- oglad-nbu.html 46. Zayed, N. M., Edeh, F. O., Darwish, S., Islam, K. M. A., Kryshtal, H., Nitsenko, V., & Stanislavyk, O. (2022). Human resource skill adjustment in service sector: Predicting dynamic capability in post COVID-19 work environment. Journal of Risk and Financial Management, 15(9), 402. https://doi.org/10.3390/jrfm15090402 45. Vozniak, H.V. et al. (2021). Finansovi determinanty ekonomichnoho zrostannia rehioniv i terytorialnykh hromad Ukrainy v koordynatakh povedinkovoi ekonomiky: naukovo- analitychna dopovid; NAN Ukrainy. DU «Instytut 45. Vozniak, H.V. et al. (2021). Finansovi determinanty ekonomichnoho zrostannia rehioniv i terytorialnykh hromad Ukrainy v koordynatakh povedinkovoi ekonomiky: naukovo- analitychna dopovid; NAN Ukrainy. DU «Instytut Данкевич А., Стоянова-Коваль С., Польова О., Лось З., Бурдейна Н., Казак О. DOI: 10.55643/fcaptp.2.55.2024.4170 СТАН ЕКОНОМІЧНОЇ БЕЗПЕКИ ТА НАПРЯМИ ВІДНОВЛЕННЯ СОЦІАЛЬНО-ЕКОНОМІЧНОГО РОЗВИТКУ Й ПРОДОВОЛЬЧОЇ БЕЗПЕКИ В УМОВАХ ВІЙНИ Метою дослідження є визначення стану економічної безпеки, напрямів забезпечення її рівня та напрямів віднов- лення соціально-економічного розвитку за сукупного впливу загроз. Для реалізації цієї мети наведено експертну оцінку складових економічної безпеки та вказано на необхідність за умов війни враховувати також складову воєнно- економічної безпеки. Указано, що завдання нейтралізації загроз воєнно-економічній безпеці відкриває нові вікна можливостей, зокрема можливості забезпечення соціально-економічного розвитку. Визначені передумови викори- стання зазначених вікон можливостей. Указано на динамічний характер загроз війни, зміни їхнього впливу за на- прямами, що вимагає інституційних заходів щодо перманентного моніторингу динамічних загроз, їх оперативної аналітичної оцінки та запровадження тактики нейтралізації загроз і зменшення їхнього довгострокового негативного впливу. Надано аналіз стану економічної безпеки, указані напрями покращення цього стану за складовими еконо- мічної безпеки. Визначені основні фактори, від яких залежить добробут населення країни, проаналізовано впливи криз на показники рівнів доходів і витрат населення, установлені драйвери погіршення добробуту. Зазначено, що погіршення соціально-економічного становища домогосподарств обумовило звуження внутрішнього ринку, що не- гативно вплинуло на функціонування МСП та призвело до звуження відтворення їхнього основного капіталу, зни- ження економічної ефективності функціонування, скорочення їх кількості чи ліквідації бізнесу. Указано, що це утво- рило негативний зворотний мультиплікативний вплив на соціально-економічне становище населення. Зазначене обумовлює необхідність спрямування національних економічних програм на розширення внутрішнього ринку. Ви- значено негативні впливи криз, які призвели до скорочення обсягів виробництва в аграрній галузі. Указано, що це значно обмежило можливості виконання галуззю завдань продовольчої безпеки. Запропоновані напрями змен- шення негативного впливу війни на агровиробництво для забезпечення продовольчої безпеки. Конкретизовано напрями фінансування за окремими загальнодержавними програмами підвищення рівня економічної та продоволь- чої безпеки, відновлення соціально-економічного розвитку; надані рекомендації щодо нейтралізації загроз економі- чній і продовольчій безпеці та відновлення соціально-економічного розвитку. Ключові слова: економічна безпека, соціально-економічний розвиток, продовольча безпека, напрями відновлення економіки впливи війни Ключові слова: економічна безпека, соціально-економічний розвиток, продовольча безпека, напрями відновлення економіки, впливи війни JEL Класифікація: E20, E31, J49, M21, O11, O23 DOI: 10.55643/fcaptp.2.55.2024.4170 460
https://openalex.org/W4312949111
http://real.mtak.hu/155516/1/32_NWS_2022_Csirmazne.pdf
Hungarian
null
Nemzetközi kiadványazonosítók és kötelespéldányok kezelése az OSZK OKP (Országos Könyvtári Platform) rendszerében
null
2,022
cc-by
4,336
Szerkesztette: Tick József, Kokas Károly, Holl András Tipográfia és tördelés: Vas Viktória Networkshop 2022. április 20–22. Debreceni Egyetem, konferencia előadásainak közleményei ISBN 978-615-82243-0-7 DOI: 10.31915/NWS.2022 Kiadja a HUNGARNET Egyesület az MTA Könyvtár és Információs Központ közreműködésével Budapest 2022 Borítókép: freepik.com A kötet megjelenését támogatta az Energiaügyi Minisztérium NETWORKSHOP 2022 TARTALOMJEGYZÉK Előszó......................................................................................................................................................... 5 Lencsés Ákos: A nyílt tudomány pénzügyi vonatkozásai................................................................ 7 Farkas Katalin: Centenáriumi média-adattár és virtuális kiállítás létrehozásának tanulságai az SZTE Klebelsberg Könyvtárban...........................................................................13 Bódog András: A nyílt archívumi információs rendszer (OAIS) szabványának honosítása..........................................................................................................................................20 Perlaki Attila: Oktatást segítő gamifikációs alkalmazások, mint szakdolgozati témák...........27 Csapó Noémi – Dani Erzsébet: APPropó fejlődés – A Bács-Kiskun Megyei Katona József Könyvtár mobilapplikációja.................................................................................32 Simon András: Integrált könyvtári rendszerek tranzakciós rekordjainak vizsgálata, a könyvtári állomány digitalizálásának tervezésekor................................................................41 Németh Márton: Az OSZK Webarchívum nemzetközi kapcsolatai �������������������������������������������58 Antal Péter: A mesterséges intelligencia kihívásai a XXI. század társadalmára.......................70 Hajdu Csaba – Szilágyi Zoltán: Modern robotikai technológiai ismeretek oktatása „Teljes spektrumú” oktatási módszerrel......................................................................................77 T. Nagy László – Boda István Károly – Tóth Erzsébet: E-tananyagfejlesztés virtuális 3D környezetben.............................................................................................................................84 Palencsárné Kasza Marianna: Digitális átállás – Minőség – lehetőségek az EQAVET terén.............................................................................................................................92 Nagy Gyula: Nemzetközi kitekintés a felsőoktatási könyvtárak világára: a EUGLOH könyvtári workshopja................................................................................................99 Babocsay Gergely: Az európai természettudományi gyűjtemények digitális integrációja: határ a csillagos ég........................................................................................................................ 108 Somorjai Noémi: Egyenlőtlenségek a tudományos kutatás területén. Az amatőr kutatók szerepe......................................................................................................... 114 Molnár Dániel – Dani Erzsébet: Robotok a könyvtárban: Hogyan válhat a robotika a könyvtári mindennapok részévé? ������������������������������������������122 Horváthné Felföldi Helga: Digitalizáció a szakképzésben. A Szakmajegyzékben szereplő szakmák digitáliskompetencia jártassági szintjeinek felülvizsgálata ����������������130 Kalcsó Gyula: Ne csak útra csomagoljunk! Miért fontos a csomagolás a digitális megőrzésben? ........................................................... 138 Karsa Zoltán István – Szeberényi Imre: A CIRCLE felhő elmúlt évtizede �����������������������������146 Bobák Barbara – Kasza Péter: Az MI lehetőségei a kora újkori filológiában: Johannes Michael Brutus Rerum Ungaricarum libri kéziratának digitális kiadása (esettanulmány) .............................................................................................. 154 Egyed-Gergely Júlia – Vajda Róza, Gárdos Judit – Horváth Anna – Meiszterics Enikő – Micsik András – Martin Dániel – Marx Attila – Pataki Balázs – Siket Melinda: Szociológia, kutatási adatok, mesterséges intelligencia: lehetőségek és tapasztalatok..................................................................................................... 161 Szemes Botond – Bajzát Tímea – Fellegi Zsófia – Kundráth Péter – Horváth Péter – Indig Balázs – Dióssy Anna – Hegedüs Fanni – Pantyelejev Natali – Sziráki Sarolta – Vida Bence – Kalmár Balázs – Palkó Gábor: Az ELTE Drámakorpuszának létrehozása és lehetőségei 170 3 Sebestyén Ádám: Az ELTEdata szemantikus adatbázis legújabb fejlesztései........................ 179 Szlamka Erzsébet: Új trendek a tanulási eredmények tanúsításában ������������������������������������185 Tóth Máté – Héjja Balázs: Webshop indítása közkönyvtári környezetben ���������������������������192 Etlinger Mihály – Hernády Judit: A kiadás hagyatéka / a hagyaték kiadása: A Régi Magyar Költők Tárának hálózati kiadásáról.................................................................. 199 Varga Emese – Makkai T. Csilla: „Ki a fenének kell collstok?” A digitális szöveg rejtett mértékegységei ............................................................................... Nemzetközi kiadványazonosítók és kötelespéldányok kezelése az OSZK OKP (Országos Könyvtári Platform) rendszerében NETWORKSHOP 2022 Csirmazné Rezi Éva Országos Széchényi Könyvtár rezi.eva@oszk.hu NETWORKSHOP 2 Absztrakt: Régi vágya az Országos Széchényi Könyvtárnak, hogy a nemzeti könyvtári feladatok ellátására fejlesztetett különböző adatbázisok és nyilvántartások egy rendszerben legyenek kezelve. Különös tekintettel arra a törekvésre, hogy a már egyszer valahol rögzített kiadványadat vagy kiadói információ ne vesszen el, hanem kísérje végig a kiadványt a feldolgozási munkafolyamaton. ft Az Országos Könyvtári Platform úgynevezett KAPU moduljának azon részét mutatom be, amely az OSZK Kötelespéldány- és Kiadványazonosító-kezelő Osztály munkafolyamatait érinti. A KAPU modulnak – többek között – feladata a nemzetközi kiadványazonosítók (ISBN, ISMN, ISSN) kiutalása és a kapcsolódó kiadói adatok biztonságos kezelése, a kiadványazonosítók felhasználásának ellenőrzése, továbbá a kötelespéldányok érkeztetési és szétosztási adatainak nyilvántartása.f Kulcsszavak: Országos Könyvtári Platform, Országos Széchényi Könyvtár, nemzetközi kiadványazonosítók (ISBN, ISMN, ISSN), kötelespéldány Kulcsszavak: Országos Könyvtári Platform, Országos Széchényi Könyvtár, nemzetközi kiadványazonosítók (ISBN, ISMN, ISSN), kötelespéldány Kulcsszavak: Országos Könyvtári Platform, Országos Széchényi Könyvtár, nemzetközi kiadványazonosítók (ISBN, ISMN, ISSN), kötelespéldány Szerkesztette: Tick József, Kokas Károly, Holl András Tipográfia és tördelés: Vas Viktória Networkshop 2022. április 20–22. Debreceni Egyetem, konferencia előadásainak közleményei ISBN 978-615-82243-0-7 DOI: 10.31915/NWS.2022 Kiadja a HUNGARNET Egyesület az MTA Könyvtár és Információs Központ közreműködésével Budapest 2022 Borítókép: freepik.com A kötet megjelenését támogatta az Energiaügyi Minisztérium 204 Dobás Kata – Fazekas Júlia: ITIdata – Egy irodalmi adatbázis fejlesztése Wikibase alapon és ennek hasznosítása Kosztolányi Dezső forrásjegyzékénél ������������������������������211 Sörény Edina: Kézai Simon Program – digitális családi fotóarchívum ������������������������������������219 Fülöp Tiffany – Molnár Tamás – Hoczopán Szabolcs: Open Monograph Press e-könyvplatform a Szegedi Tudományegyetemen ................................................................ 227 Palkó Gábor: Mesterséges intelligencia, digitális bölcsészet, kulturális örökség: trendek és eredmények............................................................................................................... 235 Pergéné Szabó Enikő – Bátfai Mária Erika: A tudományos publikálás támogatása a Debreceni Egyetemi és Nemzeti Könyvtárában ................................................................ 241 Csirmazné Rezi Éva: Nemzetközi kiadványazonosítók és kötelespéldányok kezelése az OSZK OKP (Országos Könyvtári Platform) rendszerében ���������������������������������������������250 Alföldi István – Dióssy Anna Laura: Digitálisan született kutatási anyagok megőrzése: a relációs adatbázis mint born-digital objektum ................................................................... 262 Fekete Norbert: HTR-modellépítés és kézírásfelismerés nagyméretű, többszerzős szövegkorpuszon. A Transkribus alkalmazása az Arany János hivatali iratokon.............. 271 Horváth Péter – Kundráth Péter – Palkó Gábor: ELTE Népdalkorpusz – magyar népdalok gépileg annotált adatbázisa...................................................................................... 276 Nagy György: IKT eszközök alkalmazása az alsó tagozatos környezetismeret órákon............................................................................................................ 284 Köpösdi Zsuzsa – Molnár Tamás: Multimédiás, interaktív és adaptív tananyagok létrehozásának lehetőségei H5P keretrendszerrel................................................................ 289 Jankó Tamás: Munka 4.0 – Ipar 4.0 – Szakképzés 4.0 – : A digitális kompetencia jövőbeni fejlesztési útjai.................................................................. 296 Békésiné Bognár Noémi Erika – Nagy Andor: Megújuló könyvtári statisztika: az egységes adatstruktúra és a korszerű megjelenítés kialakításának útján................... 304 Bolya Mátyás: Kéziratos dallamlejegyzések feldolgozása MI-vel támogatott digitális környezetben.................................................................................................................. 310 Maróthy Szilvia – Seláf Levente – Vigyikán Villő: Régi magyar verskorpusz összeállítása stilometriai és számítógépes metrikai kutatásokhoz............................................................ 324 Szűcs Kata Ágnes: Kéziratos források transzformációinak lehetőségei a közgyűjteményekben................................................................................................................ 330 Fellegi Zsófia: A digitális filológia infrastruktúrái. A DigiPhil megújulásáról.......................... 338 Mihály Eszter: Mi az a dHUpla? A Digitális Bölcsészeti Platform bemutatása...................... 345 Nemeskey Dávid Márk – Palkó Gábor: Szemantikus névelem-azonosítás magyar nyelvű szövegeken (a HuWikifier bemutatása) ....................................................... 359 NETWORKSHOP 2022 4 DOI: 10.31915/NWS.2022.32 DOI: 10.31915/NWS.2022.32 DOI: 10.31915/NWS.2022.32 Bevezető Az Országos Széchényi Könyvtárban már korábban is készültek különböző tervek és specifikációk arra vonatkozóan, hogy a nemzetközi kiadványazonosítók kezelését, hogyan lehetne összekapcsolni a kötelespéldányok érkeztetésével, illetve az így létrejött rekordkezdeményeket, milyen módon lehetne áttölteni a nemzeti könyvtár integrált könyvtári rendszerébe. Az Országos Könyvtári Platform (a továbbiakban OKP) egy olyan új szemléletű, rugalmas könyvtári rendszer, amely bővíti az integrált könyvtári rendszerek funkcióit, megvalósítja a nemzetközi kiadványazonosítók (ISBN, ISMN, ISSN) és kötelespéldányok kezelését. Mi volt a cél a kiadványazonosítók és a kötelespéldányok nyilvántartásának megújításával? Mi volt a cél a kiadványazonosítók és a kötelespéldányok nyilvántartásának megúj Mi volt a cél a kiadványazonosítók és a kötelespéldányok nyilvántartásának megújításával? - Nyilvántartási rendszereink korszerűsítése (több adat tárolásának lehetősége és azok több szempontú visszakereshetőségének biztosítása).i - Partnereink (testületi- és magánkiadók, kötelespéldányból részesülő könyvtárak) munkájának hatékonyabb támogatása. - Partnereink (testületi- és magánkiadók, kötelespéldányból részesülő könyvtárak) munkájának hatékonyabb támogatása. - A könyvtári feldolgozó munkafolyamatok felgyorsítása.i - A könyvtári feldolgozó munkafolyamatok felgyorsítása.i - Az információk (dokumentumok bibliográfiai metaadatai, kiadványok kiadáshoz és kötelespéldány elosztáshoz kapcsolódó adatok) egyszeri rögzítésének biztosítása és a párhuzamos nyilvántartások és munkafolyamatok megszüntetése. - Az információk (dokumentumok bibliográfiai metaadatai, kiadványok kiadáshoz és kötelespéldány elosztáshoz kapcsolódó adatok) egyszeri rögzítésének biztosítása és a párhuzamos nyilvántartások és munkafolyamatok megszüntetése. p y y g - A különböző nyilvántartások összekapcsolása oly módon, hogy az OSZK integrált rendszerének is részévé váljanak. - A különböző nyilvántartások összekapcsolása oly módon, hogy az OSZK integrált rendszerének is részévé váljanak. 250 Hogyan tudjuk biztosítani az egyszeri adatrögzítést és az információk akadálymentes továbbítását? Hogyan tudjuk megakadályozni a munkafolyamatok ismétlődését? Legrövidebben a következőképp válaszolhatunk erre: az eddig különálló nyilvántartásainkat összekapcsoljuk és egy rendszerben kezeljük az adatokat. Ez így nagyon egyszerűen hangzik, de a megvalósítás során sok problémába ütköztünk. Az 1. számú ábrán nyomon követhető, hogy az összekapcsolt és újragondolt nyilvántartásunkban mit is jelent az információáramlás egy adott mű kiadása során. Vagyis, hogyan jutunk el egy kiadói ötlettől a könyvtári rendszerben létrejövő bibliográfiai rekordhoz? 1. ábra Hogyan lesz egy kiadói ötletből bibliográfiai rekord? 1. ábra Hogyan lesz egy kiadói ötletből bibliográfiai rekord? Természetesen nem csak kiadványadatokat kezelünk az új rendszerben, hanem partneri, pl. kiadói adatokat is, amelyek a szigorú GDPR-szabályozás miatt fokozott figyelmet igényeltek a rendszer kialakítása során. Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait ill tő ? Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait illetően? Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait illetően? Elsősorban abban, hogy az OSZK integrált rendszerének részeként, egy adatbázisban kezeli mind a nemzetközi azonosítók számkiutalását, mind a számkiutaláshoz kapcsolódó kiadók nyilvántartását, illetve a kötelespéldányok érkeztetését és szétosztását is. A kötelespéldány- érkeztetéskor létrejött bibliográfiai rekordkezdemény pedig jó alapot nyújt a feldolgozó könyvtáros kollégák számára a teljes bibliográfiai rekord elkészítéséhez. A nemzetközi kiadványazonosító számok (ISBN, ISSN, ISMN) magyarországi bevezetése különböző időpontokban történt. Ezért is kapcsolódtak különböző nyilvántartások, majd később adatbázisok a számkiutalásokhoz. Hazánkban 1974-ben kezdték el alkalmazni az ISBN- (International Standard Book Number), majd 1977-től az ISSN- (International Standard Serial Number) azonosítókat. A nemzetközi gyakorlatban az ISBN-t már 1970- től, míg az ISSN-t, illetve annak elődjét, az ISDS-azonosítót 1972-től használták. Az ISMN- (International Standard Music Number) azonosítók alkalmazása 1993-ban indult el, mely rendszerhez 2001-ben csatlakozott Magyarország. A kiadványazonosítók használatát nemzetközi szabványok (lásd 2. ábra) írják elő, ugyanakkor hazánkban jogszabály nem teszi kötelezővé ezeknek az alkalmazását. 251 2. ábra Nemzetközi kiadványazonosítók 2. ábra Nemzetközi kiadványazonosítók NETWORKSHOP 2022 NETWORKSHOP 2 2. ábra Nemzetközi kiadványazonosítók 2. ábra Nemzetközi kiadványazonosítók 2. ábra Nemzetközi kiadványazonosítók A kiadói partneri nyilvántartás az ISBN-számkiutalásokkal egyidőben kezdett el épülni azoknak a kiadóknak az adataiból, amelyek bármikor is ISBN-számigényléssel fordultak a Magyar ISBN Nemzeti Központhoz. A jelenleg hatályos 717/2020. (XII. 30.) Korm. rendeleten1 alapuló kötelespéldányokból való részesülés pedig a nemzeti könyvtár alapításától (1802-től) fontos eszköze az állománygyarapításnak. Természetesen a kötelespéldányként beküldött kiadványok nem minden példányát a nemzeti könyvtár őrzi, hiszen a kormányrendelet alapján más országos szakkönyvtárak és egyes egyetemi könyvtárak is részesülnek a kötelespéldányokból. Többek között ezért volt fontos, hogy a kötelespéldány-nyilvántartás is része legyen az OKP Kapu moduljának. Milyen követelményeknek kellett megfelelnie az új rendszernek? t A fejlesztő munkatársak nem voltak egyszerű helyzetben. Nemcsak az eddig jól működő számkiutaló rendszereket, a kötelespéldány-érkeztetést és elosztást kellett összekapcsolniuk, hanem új elvárásoknak is meg kellett felelni. A legtöbb fejtörést a kiadványazonosító számok nem megfelelő használata és a hiányos impresszumú kiadványok kezelése okozta. Az OKP ISBN/ISMN-kezelő része felé támasztott alapkövetelmények Az OKP ISBN/ISMN-kezelő része felé támasztott alapkövetelmények Mivel az ISBN- és az ISMN-azonosítók felépítése hasonló, így a számkezelésekhez kapcsolódó követelmények is szinte teljesen megegyeztek: Mivel az ISBN- és az ISMN-azonosítók felépítése hasonló, így a számkezelésekhez kapcsolódó követelmények is szinte teljesen megegyeztek: Mivel az ISBN- és az ISMN-azonosítók felépítése hasonló, így a számkezelésekhez kapcsolódó követelmények is szinte teljesen megegyeztek: - ISBN/ISMN-számkiutalás kezelése előzetes adatok alapján. 1 717/2020. (XII. 30.) Korm. rendelet a kiadványok kötelespéldányainak szolgáltatásáról, megőrzéséről és hasznosításáról: https://njt.hu/jogszabaly/2020-717-20-22 (Hozzáféres: 2022.04.20.) Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait illetően? A kiadók által megadott kiadói és kiadvány adatok alapján kiadói rekordok és előzetes kiadványrekordok létrehozása.t - ISBN/ISMN-számellenőrzés biztosítása a beérkezett kiadványok alapján. A kötelespéldányként vagy egyéb forrásból beszerzett kiadványok alapján a felhasznált ISBN- és ISMN-számok ellenőrzése, jóváhagyása, javítása vagy törlése, az előzetes rekordok véglegesítése. - Az ISBN-azonosító elemeinek önálló kezelése. Ezek a következők: előtag (978), országkód (963) vagy (615), kiadói kód vagy gyűjtőszámkód, kiadványelem, ellenőrző számjegy. Az új ISBN-azonosító elemeinek automatikus generálása vagy irányított létrehozása és kezelése. 252 3. ábra ISBN-szám vonalkóddal - Az ISMN-azonosító elemeinek önálló kezelése. Ezek a következők: előtag 979-0, országkód nincs, kiadói kód vagy gyűjtőszámkód, kiadványelem, ellenőrző számjegy. Az új ISMN-azonosító elemeinek automatikus generálása vagy irányított létrehozása és kezelése. 3. ábra ISBN-szám vonalkóddal 3. ábra ISBN-szám vonalkóddal - Az ISMN-azonosító elemeinek önálló kezelése. Ezek a következők: előtag 979-0, országkód nincs, kiadói kód vagy gyűjtőszámkód, kiadványelem, ellenőrző számjegy. Az új ISMN-azonosító elemeinek automatikus generálása vagy irányított létrehozása és kezelése. - Az ISMN-azonosító elemeinek önálló kezelése. Ezek a következők: előtag 979-0, országkód nincs, kiadói kód vagy gyűjtőszámkód, kiadványelem, ellenőrző számjegy. Az új ISMN-azonosító elemeinek automatikus generálása vagy irányított létrehozása és kezelése. - Az ISMN-azonosító elemeinek önálló kezelése. Ezek a következők: előtag 979-0, országkód nincs, kiadói kód vagy gyűjtőszámkód, kiadványelem, ellenőrző számjegy. Az új ISMN-azonosító elemeinek automatikus generálása vagy irányított létrehozása és kezelése. 4. ábra ISMN-szám vonalkóddal 4. ábra ISMN-szám vonalkóddal - 10 és 13 jegyű ISBN/ISMN-azonosítók párhuzamos kezelése. Az azonosító számok nagymennyiségű kiutalása miatt 2007-ben a Nemzetközi ISBN Ügynökség, illetve 2008-ban a Nemzetközi ISMN Ügynökség is átállt a 13 számjegyű azonosító számokra. Az új rendszernek mind a 10, mind a 13 jegyű kiadványazonosító számokat kell tudnia kezelni. - 10 és 13 jegyű ISBN/ISMN-azonosítók párhuzamos kezelése. Az azonosító számok nagymennyiségű kiutalása miatt 2007-ben a Nemzetközi ISBN Ügynökség, illetve 2008-ban a Nemzetközi ISMN Ügynökség is átállt a 13 számjegyű azonosító számokra. Az új rendszernek mind a 10, mind a 13 jegyű kiadványazonosító számokat kell tudnia kezelni. - Többkötetes műveknél az össz-ISBN/ISMN kezelése. Többkötetes műveknél mindig egy ISBN-nel, illetve ISMN-nel többet utalunk ki a kiadványokra, mint ahány kötetből áll a mű. Ez a plusz azonosító az úgynevezett össz-ISBN, illetve össz-ISMN, melyet minden kötetben fel kell tüntetni.itt - Sorozati művek kezelése. A sorozatok előre meg nem határozott időtartamra tervezett kiadványok, amelyek egymást követő részegységekből állnak. Lehetnek számozott vagy számozatlan sorozatok. A könyv- vagy kottasorozatok egésze ISSN-t, míg egyes kötetei ISBN-t, illetve ISMN-t kapnak. Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait illetően? A sorozatokat meg kell különböztetni azoktól a többkötetes könyvektől és többkötetes kottáktól, melyek meghatározott számú kötet megjelenésével válnak teljessé, így ISSN-szám helyett össz-ISBN-számot kapnak. gj j gy yt p - Közös kiadások kezelése. Ha több kiadó közösen jelentet meg egy könyvet, általában annak a kiadónak az ISBN-je szerepel a könyvön, amelyik kiadó a terjesztésre jogosult. Lehetőség van arra is, hogy minden résztvevő kiadó feltüntesse a saját ISBN-jét; a kiadványban, ebben az esetben jelölni kell azt is, hogy melyik szám melyik kiadóhoz tartozik. 253 Az OKP ISSN-kezelő része felé támasztott alapkövetelmények Az OKP ISSN-kezelő része felé támasztott alapkövetelmények Az OKP ISSN-kezelő része felé támasztott alapkövetelmények NETWORKSHOP 2022 - ISSN-számigényléshez kapcsolódó adatbekérő felület kialakítása kiadványtípusok szerint. A bekért kiadványadatok alapján döntést kell hozni, hogy időszaki kiadványnak vagy folyamatosan frissülő integráló dokumentumnak minősíthető-e egy adott kiadvány. Ezért olyan adatbekérő felületet kellett kialakítani, amely minden olyan információt tartalmaz, amely alapján a Magyar ISSN Nemzeti Központ jól minősítheti a kiadásra szánt dokumentumot. NETWORKSHOP 2 - ISSN azonosítóra nem jogosult kiadványok kiszűrése. Az időszaki kiadványok és folytatódó dokumentumok nem minden típusát látja el ISSN-azonosítóval a Magyar ISSN Nemzeti Központ, ezért a lehető legpontosabb adatbekérő űrlap elkészítésére volt szükség. - Előzetes és utólagos ISSN-számkiutalás biztosítása. Az ISSN nyolc számjegyből álló numerikus kód, amelynek elemei – a könyveket azonosító ISBN-től eltérően - Előzetes és utólagos ISSN-számkiutalás biztosítása. Az ISSN nyolc számjegyből álló numerikus kód, amelynek elemei – a könyveket azonosító ISBN-től eltérően – semmiféle jelentést nem hordoznak, csupán azonosító funkciót töltenek be. A nyolcadik számjegy ellenőrző számjegy, mely az előző hétből számítható ki, és 0-tól 10-ig terjedhet. A 10-es számjegyet római szám helyettesíti, azaz: X. Az ISSN feltüntetése két, egyenként négy számjegyet tartalmazó adatcsoportban történik, amelyeket kötőjel kapcsol össze, és az ISSN betűkód előz meg. – semmiféle jelentést nem hordoznak, csupán azonosító funkciót töltenek be. A nyolcadik számjegy ellenőrző számjegy, mely az előző hétből számítható ki, és 0-tól 10-ig terjedhet. A 10-es számjegyet római szám helyettesíti, azaz: X. Az ISSN feltüntetése két, egyenként négy számjegyet tartalmazó adatcsoportban történik, amelyeket kötőjel kapcsol össze, és az ISSN betűkód előz meg. 5. ábra ISSN-szám vonalkóddal 5. ábra ISSN-szám vonalkóddal 5. ábra ISSN-szám vonalkóddal 5. ábra ISSN-szám vonalkóddal Az ISBN és ISMN számkiutalással ellentétben ISSN-azonosítót a már korábban megjelent kiadványra is lehet igényelni, illetve kiutalni. Ezért a fejlesztés során meg kellett oldani, hogy a modulban a már megjelent és a még megjelenés előtt álló kiadványra egyaránt lehessen ISSN számot igényelni/kiutalni. Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait illetően? - ISSN-számok kiutalásáról értesítés küldése. A kiadóktól, szerkesztőségektől beérkezett kiadványadatok, illetve a megküldött kiadványtervek alapján megszületik a döntés az ISSN-szám kiutalásról vagy a kérés elutasításáról. Ez az információ a modul partneri felületén keresztül jut el az igénylőhöz. - ISSN-számok kiutalásáról értesítés küldése. A kiadóktól, szerkesztőségektől beérkezett kiadványadatok, illetve a megküldött kiadványtervek alapján megszületik a döntés az ISSN-szám kiutalásról vagy a kérés elutasításáról. Ez az információ a modul partneri felületén keresztül jut el az igénylőhöz. - Későbbiekben a rendszer közvetlen összekapcsolása a nemzetközi ISSN-regiszterrel. A jelenlegi rendszer úgy lett kialakítva, hogy az ISSN-igényléshez szükséges adatok bekérése és a számigénylők értesítése nincs közvetlenül összekapcsolva a nemzetközi ISSN Regiszterrel, ahol az időszaki kiadványok és a folyamatosan frissülő integráló dokumentumok adatai rögzítésre kerülnek. Ennek oka, hogy az ISSN Regiszter jelenleg megújítás alatt áll. - Későbbiekben a rendszer közvetlen összekapcsolása a nemzetközi ISSN-regiszterrel. A jelenlegi rendszer úgy lett kialakítva, hogy az ISSN-igényléshez szükséges adatok bekérése és a számigénylők értesítése nincs közvetlenül összekapcsolva a nemzetközi ISSN Regiszterrel, ahol az időszaki kiadványok és a folyamatosan frissülő integráló dokumentumok adatai rögzítésre kerülnek. Ennek oka, hogy az ISSN Regiszter jelenleg megújítás alatt áll. 254 Az OKP kötelespéldány-kezelő része felé támasztott alapkövetelmények Az OKP kötelespéldány-kezelő része felé támasztott alapkövetelménye - Feleljen meg a hatályos kötelespéldányról szóló kormányrendeletnek. 2021. január 1-én lépett hatályba a 717/2020. (XII.30.) Korm. rendelet a kiadványok kötelespéldányainak szolgáltatásáról, megőrzéséről és használatáról. A hatályos rendelet a korábbi jogszabálynál részletesebben taglalja az elektronikus formában megjelent kiadványok kezelését, a kötelespéldányok elosztását, az 50 példányszámnál kevesebb példányban készült kiadványok beküldését és a nyomtatott kiadvánnyal megegyező elektronikus változat beküldését. Az új rendszert az eddigi kötelespéldány- kezelés mellett ezekre az új funkciókra is fel kellett készíteni. - Kezelje a nyomtatott és elektronikus formában is megjelenő kiadványok kötelespéldányainak érkeztetését és elosztását. A fejlesztők számára nagy kihívást jelentett a rendszer kialakítása során, hogy az azonos művek különböző megjelenési formáira (pl. nyomtatott kötött, nyomtatott fűzött, elektronikus e-pub, elektronikus mobi, hangoskönyv) kiutalt kiadványazonosító számokat gyakran felcserélik a kiadók és ezek kötelespéldányai nem is feltétlenül egy időben érkeznek be a nemzeti könyvtárba. - A kötelespéldányok érkeztetésénél eddig nem használt új adatmezőket is tudjon kezelni (pl. oldalszám, kötés típusa, illusztráltság, várható megjelenés dátuma, évjelzés típusa, gerincméret, reklamáció jelzése, melléklet jelölése). - A kötelespéldányok érkeztetésénél eddig nem használt új adatmezőket is tudjon kezelni (pl. oldalszám, kötés típusa, illusztráltság, várható megjelenés dátuma, évjelzés típusa, gerincméret, reklamáció jelzése, melléklet jelölése). - Egy adott kiadvány többszöri beérkezését is tudja kezelni. Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait illetően? Naponta találkozunk olyan kötelespéldányként beérkezett kiadványokkal, amelyekre egészen más előzetes címen kértek kiadványazonosító számot. Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait illetően? Egy kiadványból utánnyomások készülhetnek, amelyekből beérkeznek a kötelespéldányok, ezeket újból és újból érkeztetnünk kell. - Azonos kiadványazonosítóval, de különböző kiadásjelzéssel megjelenő kiadványok érkeztetése. Sajnos nem minden kiadó jár el szabályszerűen akkor, amikor nem igényel új kiadványazonosító számot a korábban megjelent kötetek újabb kiadásaira. Így előfordul, hogy azonos ISBN- vagy ISMN-számhoz több kiadás és így több kötelespéldány beküldés is tartozik. - Azonos kiadványazonosítóval megjelenő kiadásváltozatok (nyomtatott, elektronikus, kötött- fűzött stb.) érkeztetése. A különböző kiadásjelzéssel megjelenő kiadványokhoz hasonlóan néhány kiadó elfelejt a kiadásváltozatokra is külön azonosító számot igényelni és egy ISBN, ISMN, vagy ISSN számon jelenteti meg a nyomtatott és elektronikus változatokat is. - A számkiutaláskor megadott kiadó megváltozásának kezelése. Előfordul, hogy az előzetes számkiutaláskor más kiadót ad meg a számigénylő, mint ami végül a kiadványban szerepel. Ez leginkább az ISBN- és ISMN-számkiutalásnál jelent nagyobb problémát, hiszen egyes kiadók rendelkeznek saját számtartománnyal, amiből történik részükre a számkiutalás. - Az előzetes kiadványazonosítóval rendelkező kiadványok, ISBN, illetve ISMN nélküli megjelenésének kezelése. A kötelespéldány érkeztetés során számos esetben találkozunk olyan kiadvánnyal, melyhez igényelt a kiadó kiadványazonosító számot, de végül nem tüntette fel azt a megjelent kiadványban. - Egy kiadványazonosító két különböző kiadványra történő felhasználásának kezelése. Előfordul, hogy tévedésből egy kiadványazonosító számot két különböző kiadványra is felhasznál egy kiadó, legtöbbször kiadói, vagy nyomdai adminisztrációs hiba miatt. - Egy kiadványazonosító két különböző kiadványra történő felhasználásának kezelése. Előfordul, hogy tévedésből egy kiadványazonosító számot két különböző kiadványra is felhasznál egy kiadó, legtöbbször kiadói, vagy nyomdai adminisztrációs hiba miatt. - A kiadványban és a vonalkódban feltüntetett eltérő azonosító kezelése. Gyakori hiba, hogy a kiadványban szereplő ISBN, ISMN vagy ISSN eltér a vonalkódban feltüntetett azonosítótól. Általában a vonalkódban szerepel a jó azonosító szám. 255 - Kevesebb vagy több példányban, utólag beérkezett kiadványok kezelése. Sajnos nagyon ritka az olyan nyomdai vagy kiadói szállítmány, ahol ne lenne probléma a beküldött példányszámokkal. Szerencsére partnereink mindig megküldik a hiányzó példányokat, de azok érkeztetése később történik, mint az alappéldányoké. NETWORKSHOP 2022 NETWORKSHOP 2 - Melléklet nélkül érkezett kiadványok kezelése. Előfordul, hogy a nyomdából érkező kiadványokból hiányoznak a mellékletek, melyeket a kiadóktól kell utólag bekérnünk. - Melléklet nélkül érkezett kiadványok kezelése. Előfordul, hogy a nyomdából érkező kiadványokból hiányoznak a mellékletek, melyeket a kiadóktól kell utólag bekérnünk. - Az előzetestől eltérő című kiadványok érkeztetése. Naponta találkozunk olyan kötelespéldányként beérkezett kiadványokkal, amelyekre egészen más előzetes címen kértek kiadványazonosító számot. - Az előzetestől eltérő című kiadványok érkeztetése. Partnerek kezelése Mind a kiadványazonosító számok kiutalása során, mind a kötelespéldányok kezelése folyamán különböző külső partnerekkel kerül kapcsolatba a nemzeti könyvtár. Ezeket a partnereket három nagyobb csoportba sorolhatjuk: - kiadók (testületi és magánkiadók) - kötelespéldány beszolgáltatók (nyomdák, kiadók, szerzők, közreműködők, stb.) kötelespéldány beszolgáltatók (nyomdák, kiadók, szerzők, közreműködők, stb.) - Az OSZK-nak beszolgáltatandó kötelespéldányokból részesülő könyvtárak (nemzeti könyvtárak, országos szakkönyvtárak, egyes egyetemi könyvtárak) - Az OSZK-nak beszolgáltatandó kötelespéldányokból részesülő könyvtárak (nemzet könyvtárak, országos szakkönyvtárak, egyes egyetemi könyvtárak) Jellemzően egy intézmény csak egy típusba sorolható, de vannak olyan partnereink, akik akár több szerepkörrel is rendelkeznek. Előfordul például, hogy egy könyvtár saját kiadásában jelentet meg műveket, amelyeknek kötelespéldányait ő maga szállítja be a nemzeti könyvtárba, emellett a 717/2020. (XII.30.) Korm. rendelet alapján kötelespéldányválogató- joggal rendelkező intézmény is. Ebben az esetben az adott könyvtárnál mindhárom szerepkör teljesül. A partneri rendszer kialakítása során az alábbiakra kellett figyelnünk: A partneri rendszer kialakítása során az alábbiakra kellett figyelnünk: - Testületi partnerek és magánszemélyek megkülönböztetése. Elsődlegesen a GDPR- előírások betartása miatt van erre szükség. - Testületi partnerek és magánszemélyek megkülönböztetése. Elsődlegesen a GDPR- előírások betartása miatt van erre szükség. - Több szerepkörben is aktív partnerek definiálása. - Partneri névváltozatok kezelése. - Partneri átalakulások (pl. jogutód nélküli megszűnés, jogutódlás, összeolvadás kezelése) - Partneri átalakulások (pl. jogutód nélküli megszűnés, jogutódlás, összeolvadás kezelése) - Gyűjtőszámos kiadói partnerek kezelése. A saját kiadói azonosítóval nem rendelkező alkalmi kiadók leválasztása oly módon, hogy az esetlegesen megnövekvő kiadványszám tükrében önálló, saját kiadói azonosítóval rendelkező kiadóvá válhassanak. - Gyűjtőszámos kiadói partnerek kezelése. A saját kiadói azonosítóval nem rendelkező alkalmi kiadók leválasztása oly módon, hogy az esetlegesen megnövekvő kiadványszám tükrében önálló, saját kiadói azonosítóval rendelkező kiadóvá válhassanak. 256 Mindezek tükrében hogy áll az új rendszer? Hosszas tesztelési időszakot követően jelenleg éles adatokkal dolgozunk mind a partneri nyilvántartás (6-7. ábra), mind az ISBN és ISMN azonosító kiutalás és ellenőrzés (8-9-10. ábra), mind a kötelespéldány-érkeztetés és szétosztás (11-15. ábra) során. 6. ábra Partnerek keresése/listázása 7. ábra Partneradatok szerkesztése Mindezek tükrében hogy áll az új rendszer? Hosszas tesztelési időszakot követően jelenleg éles adatokkal dolgozunk mind a partneri nyilvántartás (6-7. ábra), mind az ISBN és ISMN azonosító kiutalás és ellenőrzés (8-9-10. ábra), mind a kötelespéldány-érkeztetés és szétosztás (11-15. ábra) során. Hosszas tesztelési időszakot követően jelenleg éles adatokkal dolgozunk mind a partneri nyilvántartás (6-7. ábra), mind az ISBN és ISMN azonosító kiutalás és ellenőrzés (8-9-10. ábra), mind a kötelespéldány-érkeztetés és szétosztás (11-15. ábra) során. 6. ábra Partnerek keresése/listázása 6. ábra Partnerek keresése/listázása 7. Partnerek kezelése ábra Partneradatok szerkesztése 8. ábra ISBN-számkiutalás. Alapadatok 6. ábra Partnerek keresése/listázása 7. ábra Partneradatok szerkesztése 6. ábra Partnerek keresése/listázása 7. ábra Partneradatok szerkesztése 7. ábra Partneradatok szerkesztése 8 ábra ISBN számkiutalás Alapadatok 8. ábra ISBN-számkiutalás. Alapadatok 257 NETWORKSHOP 2022 9 áb ISBN á ki t lá S á ki tá i d t k NETWORKSHOP 2022 9 ábra ISBN-számkiutalás Számkiosztási adatok NETWORKSHOP 2022 NET 9. ábra ISBN-számkiutalás. Számkiosztási adatok 10. ábra Számkiosztási adatok. Dokumentumadatok 11. ábra Kötelespéldány érkeztetés. Kiadvány kiválasztása 9. ábra ISBN-számkiutalás. Számkiosztási adatok 9. ábra ISBN-számkiutalás. Számkiosztási adatok 9. ábra ISBN-számkiutalás. Számkiosztási adatok 9. ábra ISBN számkiutalás. Számkiosztási adatok 10. ábra Számkiosztási adatok. Dokumentumadatok 10. ábra Számkiosztási adatok. Dokumentumadatok 11. ábra Kötelespéldány érkeztetés. Kiadvány kiválasztása 11. ábra Kötelespéldány érkeztetés. Kiadvány kiválasztása 11. ábra Kötelespéldány érkeztetés. Kiadvány kiválasztása 258 12. ábra Kötelespéldány érkeztetés. Kiadvány alapadatai 13. ábra Kötelespéldány érkeztetés. Dokumentumok metaadatai. 12. ábra Kötelespéldány érkeztetés. Kiadvány alapadatai 12. ábra Kötelespéldány érkeztetés. Kiadvány alapadatai 12. ábra Kötelespéldány érkeztetés. Kiadvány alapadatai 13. ábra Kötelespéldány érkeztetés. Dokumentumok metaadatai. 12. ábra Kötelespéldány érkeztetés. Kiadvány alapadatai 13. ábra Kötelespéldány érkeztetés. Dokumentumok metaadatai. 13. ábra Kötelespéldány érkeztetés. Dokumentumok metaadatai. 259 14. ábra Kötelespéldány-érkeztetés. Szállítás alapadatai 15. ábra Kötelespéldány-elosztás Milyen feladatok várnak még ránk? - Partneri felület indítása. Reményeink szerint a partneri felület elsősorban a 14. ábra Kötelespéldány-érkeztetés. Szállítás alapadatai NETWORKSHOP 2022 14. ábra Kötelespéldány-érkeztetés. Szállítás alapadatai 14. ábra Kötelespéldány-érkeztetés. Szállítás alapadatai 15. ábra Kötelespéldány-elosztás 15. ábra Kötelespéldány-elosztás 15. ábra Kötelespéldány-elosztás Milyen feladatok várnak még ránk? - Partneri felület indítása. Reményeink szerint a partneri felület elsősorban a kiadók részére fog óriási segítséget nyújtani, hiszen egy felületen keresztül fognak tudni mind ISBN, ISMN és ISSN azonosítót igényelni és kiadói adataikat módosítani. Nyomon tudják a jövőben követni az összes részükre kiutalt nemzetközi azonosító számot és az azokhoz tartozó kiadványok adatait. Ellenőrizhetik, hogy saját kiadványaikból beérkeztek-e a kötelespéldányok. - Partneri felület indítása. Reményeink szerint a partneri felület elsősorban a kiadók részére fog óriási segítséget nyújtani, hiszen egy felületen keresztül fognak tudni mind ISBN, ISMN és ISSN azonosítót igényelni és kiadói adataikat módosítani. Nyomon tudják a jövőben követni az összes részükre kiutalt nemzetközi azonosító számot és az azokhoz tartozó kiadványok adatait. Ellenőrizhetik, hogy saját kiadványaikból beérkeztek-e a kötelespéldányok. - Pályázati igazolások kezelésnek tesztelése. A modul úgy lett kialakítva, hogy a pályázati támogatás révén megjelent és beszolgáltatásra került kötelespéldányokról igazolásokat állítson ki a pályázatkezelő részére. - Pályázati igazolások kezelésnek tesztelése. Partnerek kezelése A modul úgy lett kialakítva, hogy a pályázati támogatás révén megjelent és beszolgáltatásra került kötelespéldányokról igazolásokat állítson ki a pályázatkezelő részére. 260 - Az előforduló adatmigrációs hibák javítása. Az adatmigráció több rendszerből egy rendszerbe történt, ezért keletkeztek duplikált rekordok, amelyeket ki kell szűrni néhány egyéb adatmigrációs hiba javítása mellett. - A katalogizáló és gyarapítási modulhoz kapcsolódás ellenőrzése. Amint az OKP katalogizáló és gyarapítási modulja is éles adatokkal kezd majd dolgozni, ellenőrizni kell a kiadványrekordok hibátlan áttöltését. Források Források ágos Könyvtári Platform honlapja. https://okp.oszk.hu/ (Hozzáférés: 2022.04.20.) 1. Országos Könyvtári Platform honlapja. https://okp.oszk.hu/ (Hozzáférés: 202 2. Országos Széchényi Könyvtár honlapja. ISBN, ISMN menüpont. Kapcsolódó tartalmak http://www.oszk.hu/sites/default/files/ISBN-utmutato-%2020121220. pdf (Hozzáférés: 2022.04.20.) p 3. Országos Széchényi Könyvtár honlapja. ISBN, ISMN menüpont. Kapcsolódó tartalmak http://www.oszk.hu/sites/default/files/ISMN_utmutato.pdf (Hozzáférés: 2022.04.20.) 4. Országos Széchényi Könyvtár honlapja. ISSN menüpont. Kapcsolódó tartalmak http://www.oszk.hu/sites/default/files/ISSN%20utmutato-2012.pdf (Hozzáférés: 2022.04.20.) 5. Országos Széchényi Könyvtár honlapja. Kötelespéldányok menüpont. Kapcsolódó tartalmak http://www.oszk.hu/sites/default/files/magyar-kozlony-koteles- rendelet-2021.pdf (Hozzáférés: 2022.04.20.) 261