Datasets:
_legacy_fields listlengths 1 1 | benchmark_version stringclasses 1
value | business_rules listlengths 0 3 | channel_family stringclasses 9
values | content_hash stringlengths 64 64 | difficulty stringclasses 3
values | evaluation_only bool 1
class | expected_audit_question stringclasses 187
values | expected_choices listlengths 0 5 ⌀ | expected_decision stringclasses 6
values | expected_issue_types listlengths 0 3 | input_modality stringclasses 5
values | input_payload unknown | lat_candidate listlengths 1 6 | modality_role stringclasses 2
values | oracle dict | provenance unknown | record_hash stringlengths 64 64 | sample_id stringlengths 20 38 | source_dataset stringclasses 3
values | task_family stringclasses 9
values | template_hash stringlengths 64 64 | user_intent stringlengths 2 253 | workflow_summary stringlengths 39 253 | expected_statuses listlengths 1 3 ⌀ | domain stringclasses 10
values | expected_question stringclasses 8
values | augmentation_index int64 1 9 ⌀ | augmentation_method stringclasses 1
value | augmentation_type stringclasses 1
value | lineage_parent_id stringclasses 17
values |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
[
"content_hash"
] | 1.1-eval | [] | web | 5b7a09afa54d8cd6a1d4b2a42b7c4de6b347b7a582d2415dc8f999dd10d975ac | easy | true | "L'étape 3 mentionne 'le bon bouton' sans préciser lequel. Quel est le libellé exact ou l'identifiant du bouton de validation à cliquer ?" | [] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A001",
"declared_channel": "WEB_DOM",
"domain": "Finance — Saisie facture",
"source_file": "dataset_ambiguite.md",
"title": "Sélecteur \"le bon bouton\""
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://portail-fournisseur.internal/factures"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='numero-facture']",
"value": "FAC-2024-0892"
},
{
"action": "Left... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 3 mentionne 'le bon bouton' sans préciser lequel. Quel est le libellé exact ou l'identifiant du bouton de validation à cliquer ?\"",
"expected_statuses": [],
"required_checks": [
"deci... | {
"block": "seed-internal",
"origin_sample_id": "audit_a001",
"source": "mssense_internal_audit"
} | 5e9e1627d84a9efd9478687d4543ee4a475ef6329176e894236b5c43231b4b50 | seed_0001_audit_a001 | mssense_internal_audit | audit | 5b7a09afa54d8cd6a1d4b2a42b7c4de6b347b7a582d2415dc8f999dd10d975ac | L'utilisateur saisit une facture fournisseur sur le portail web, puis clique sur le bon bouton pour valider. | L'utilisateur saisit une facture fournisseur sur le portail web, puis clique sur le bon bouton pour valider. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | f3cf9e7091f206baebcfecc4c749ebf100ed58b90cd2101cdb2760da3e73e89a | easy | true | "L'étape 2 indique 'le montant correct' sans valeur précise. D'où provient ce montant — est-ce une valeur fixe, une variable lue dans un fichier, ou un paramètre saisi par l'utilisateur ?" | [
"Valeur fixe à préciser",
"Variable lue depuis un fichier",
"Paramètre saisi par l'opérateur",
"Lu depuis un contexte précédent (variable IRIS)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A002",
"declared_channel": "WEB_DOM",
"domain": "Finance — Saisie paiement",
"source_file": "dataset_ambiguite.md",
"title": "Valeur \"le montant correct\""
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://erp.internal/paiements/nouveau"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@name='montant']",
"value": "le montant correct"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 indique 'le montant correct' sans valeur précise. D'où provient ce montant — est-ce une valeur fixe, une variable lue dans un fichier, ou un paramètre saisi par l'utilisateur ?\"",
"expect... | {
"block": "seed-internal",
"origin_sample_id": "audit_a002",
"source": "mssense_internal_audit"
} | 5edf4fbf1bc0237a423a4429e3fc10dbacf238cb520288a4b1b63bcdcfd6e39a | seed_0002_audit_a002 | mssense_internal_audit | audit | f3cf9e7091f206baebcfecc4c749ebf100ed58b90cd2101cdb2760da3e73e89a | L'utilisateur saisit le montant correct dans le formulaire de paiement. | L'utilisateur saisit le montant correct dans le formulaire de paiement. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | desktop | a627e9f39d3c0fe9a0c75a5e4ac32ec31edb396003ca85211b43971123c91791 | easy | true | "L'étape 2 mentionne 'l'élément approprié' sans critère de sélection. Comment identifier le bon fournisseur — par nom, numéro de compte, ou autre critère ?" | [
"Par nom exact",
"Par numéro de compte fournisseur",
"Par critère de filtrage à préciser"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A003",
"declared_channel": "DESKTOP_UIA",
"domain": "Achats — Sélection fournisseur",
"source_file": "dataset_ambiguite.md",
"title": "\"Sélectionner l'élément approprié\""
} | [
{
"action": "LeftClick",
"channel": "DESKTOP_UIA",
"id": "s1",
"params": {
"windowIdentifier": "SAP Logon"
},
"selector": "SAP Easy Access"
},
{
"action": "LeftClick",
"channel": "DESKTOP_UIA",
"id": "s2",
"params": {
"windowIdentifier": "Fournisseurs"
},
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 mentionne 'l'élément approprié' sans critère de sélection. Comment identifier le bon fournisseur — par nom, numéro de compte, ou autre critère ?\"",
"expected_statuses": [],
"required_ch... | {
"block": "seed-internal",
"origin_sample_id": "audit_a003",
"source": "mssense_internal_audit"
} | ea5e950038cc56e8878c1e32205dd5a3e3416b0c6135a480f8a3f25cc1a001a4 | seed_0003_audit_a003 | mssense_internal_audit | audit | a627e9f39d3c0fe9a0c75a5e4ac32ec31edb396003ca85211b43971123c91791 | L'utilisateur ouvre l'ERP SAP, sélectionne l'élément approprié dans la liste des fournisseurs. | L'utilisateur ouvre l'ERP SAP, sélectionne l'élément approprié dans la liste des fournisseurs. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 281ae623190d5cc4abbc65e4e3a78db4a0c61442fc96f21c05eb9343bd49e125 | easy | true | "La requête filtre les commandes 'récemment reçues' sans définir la période. Que signifie 'récemment' dans votre contexte — les dernières 24h, 48h, 7 jours ?" | [
"Dernières 24 heures",
"Dernières 48 heures",
"7 derniers jours",
"Depuis le dernier traitement (date paramétrable)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A004",
"declared_channel": "CONTROL",
"domain": "Logistique — Traitement commandes",
"source_file": "dataset_ambiguite.md",
"title": "Condition \"récemment\" sans définition"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "commandes_recentes",
"value": "SELECT * FROM commandes WHERE date_reception > 'récemment'"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"condition": "${commandes_recent... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La requête filtre les commandes 'récemment reçues' sans définir la période. Que signifie 'récemment' dans votre contexte — les dernières 24h, 48h, 7 jours ?\"",
"expected_statuses": [],
"required_... | {
"block": "seed-internal",
"origin_sample_id": "audit_a004",
"source": "mssense_internal_audit"
} | b8219461744aeeb83b994ce03e9333464efc4e7c7905d2cf5a83bdd10f166cfd | seed_0004_audit_a004 | mssense_internal_audit | audit | 281ae623190d5cc4abbc65e4e3a78db4a0c61442fc96f21c05eb9343bd49e125 | L'utilisateur souhaite traiter les commandes reçues récemment dans le système de gestion des stocks. | L'utilisateur souhaite traiter les commandes reçues récemment dans le système de gestion des stocks. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 8aa1172600f41f263fb377daee3af8a8c96735c260656a97fc07861aa5884643 | easy | true | "L'étape 2 sélectionne 'le bon dossier' sans préciser comment l'identifier. Comment retrouver le dossier employé — par matricule, nom, ou autre identifiant ?" | [
"Par matricule employé",
"Par nom et prénom",
"Par recherche textuelle dans la liste"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A005",
"declared_channel": "WEB_DOM",
"domain": "RH — Gestion congés",
"source_file": "dataset_ambiguite.md",
"title": "\"Sélectionner le bon dossier\" sans critère"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://rh.internal/conges"
},
{
"action": "LeftClick",
"channel": "WEB_DOM",
"id": "s2",
"selector": "le bon dossier",
"value": null
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 sélectionne 'le bon dossier' sans préciser comment l'identifier. Comment retrouver le dossier employé — par matricule, nom, ou autre identifiant ?\"",
"expected_statuses": [],
"required_... | {
"block": "seed-internal",
"origin_sample_id": "audit_a005",
"source": "mssense_internal_audit"
} | 9a36dd46dad256ef3063614112391a1d1266c4781272f1f08ba416851858b144 | seed_0005_audit_a005 | mssense_internal_audit | audit | 8aa1172600f41f263fb377daee3af8a8c96735c260656a97fc07861aa5884643 | L'utilisateur accède au portail RH et sélectionne le bon dossier employé pour mettre à jour les congés. | L'utilisateur accède au portail RH et sélectionne le bon dossier employé pour mettre à jour les congés. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 77d942557958ed6b255b398b649fe4e982ec64bc3d79cc853445975b4221e339 | easy | true | "L'étape 1 navigue vers 'l'URL correcte du portail de déploiement' sans URL précise. Quelle est l'adresse exacte du portail ?" | [] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A006",
"declared_channel": "WEB_DOM",
"domain": "IT — Déploiement",
"source_file": "dataset_ambiguite.md",
"title": "NavigateTo avec URL vague"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "l'URL correcte du portail de déploiement"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 1 navigue vers 'l'URL correcte du portail de déploiement' sans URL précise. Quelle est l'adresse exacte du portail ?\"",
"expected_statuses": [],
"required_checks": [
"decision_match",... | {
"block": "seed-internal",
"origin_sample_id": "audit_a006",
"source": "mssense_internal_audit"
} | 06d96a75a7453eeef339363e2ecc44f1eceb55575689df5dd2811db5521d1c1c | seed_0006_audit_a006 | mssense_internal_audit | audit | 77d942557958ed6b255b398b649fe4e982ec64bc3d79cc853445975b4221e339 | L'utilisateur navigue vers l'URL correcte du portail de déploiement pour lancer une mise en production. | L'utilisateur navigue vers l'URL correcte du portail de déploiement pour lancer une mise en production. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 79a3db4b8fea5f8dbf9481201811a64f029d40546310e6fcb1947c01759319c3 | easy | true | "L'étape 2 saisit 'le code adéquat' sans préciser sa valeur. Ce code est-il fixe, calculé, ou lu depuis une source externe ?" | [
"Code fixe (à préciser)",
"Lu depuis un fichier ou base de données",
"Calculé selon une règle à définir"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A007",
"declared_channel": "WEB_DOM",
"domain": "Production — Contrôle qualité",
"source_file": "dataset_ambiguite.md",
"title": "TypeInto \"le code adéquat\""
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://qualite.internal/controle"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='code-controle']",
"value": "le code adéquat"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 saisit 'le code adéquat' sans préciser sa valeur. Ce code est-il fixe, calculé, ou lu depuis une source externe ?\"",
"expected_statuses": [],
"required_checks": [
"decision_match",
... | {
"block": "seed-internal",
"origin_sample_id": "audit_a007",
"source": "mssense_internal_audit"
} | 8cdd1986774cd014d55020f1ebce66fb9240f1b6d7dcd1d655ae278ff71decd8 | seed_0007_audit_a007 | mssense_internal_audit | audit | 79a3db4b8fea5f8dbf9481201811a64f029d40546310e6fcb1947c01759319c3 | L'utilisateur saisit le code de contrôle adéquat dans le formulaire qualité. | L'utilisateur saisit le code de contrôle adéquat dans le formulaire qualité. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | desktop | 02d5462a7eaa39dcea4d1906050c4354a630fd1ec280969dc52db18d56f6ec29 | easy | true | "L'étape 2 sélectionne 'la bonne feuille' sans préciser son nom exact. Quel est le nom de l'onglet Excel à utiliser ?" | [] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A008",
"declared_channel": "EXCEL",
"domain": "Finance — Reporting",
"source_file": "dataset_ambiguite.md",
"title": "Sélection \"la bonne feuille\" Excel"
} | [
{
"action": "OpenWorkbook",
"channel": "EXCEL",
"id": "s1",
"output_var": "wb_report",
"value": "C:\\reports\\reporting_mensuel.xlsx"
},
{
"action": "SelectSheet",
"channel": "EXCEL",
"id": "s2",
"instance": "wb_report",
"params": {
"worksheetName": "la bonne feuill... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 sélectionne 'la bonne feuille' sans préciser son nom exact. Quel est le nom de l'onglet Excel à utiliser ?\"",
"expected_statuses": [],
"required_checks": [
"decision_match",
"is... | {
"block": "seed-internal",
"origin_sample_id": "audit_a008",
"source": "mssense_internal_audit"
} | f6ddffb03b7f6f759c77b87d1cde2316a666af8d80142495d0a8c5e95605dec2 | seed_0008_audit_a008 | mssense_internal_audit | audit | 02d5462a7eaa39dcea4d1906050c4354a630fd1ec280969dc52db18d56f6ec29 | L'utilisateur ouvre le classeur Excel de reporting et sélectionne la bonne feuille pour saisir les données mensuelles. | L'utilisateur ouvre le classeur Excel de reporting et sélectionne la bonne feuille pour saisir les données mensuelles. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 9f52117a17edad06c10c9e19c97181b296eb176e03e7eec838d0adf22892c7a6 | easy | true | "L'étape 2 saisit 'la date concernée' sans la préciser. S'agit-il de la date du jour, d'une date fixe, ou d'une date passée en paramètre ?" | [
"Date du jour (automatique)",
"Date fixe à préciser",
"Date passée en paramètre par l'opérateur"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A009",
"declared_channel": "WEB_DOM",
"domain": "RH — Pointage",
"source_file": "dataset_ambiguite.md",
"title": "\"Entrer la date concernée\""
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://rh.internal/pointage"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='date-heures-sup']",
"value": "la date concernée"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 saisit 'la date concernée' sans la préciser. S'agit-il de la date du jour, d'une date fixe, ou d'une date passée en paramètre ?\"",
"expected_statuses": [],
"required_checks": [
"dec... | {
"block": "seed-internal",
"origin_sample_id": "audit_a009",
"source": "mssense_internal_audit"
} | 146c59d90e8c5f09036770535dc13f5b612a7b9e28b9346f563d831da3650bee | seed_0009_audit_a009 | mssense_internal_audit | audit | 9f52117a17edad06c10c9e19c97181b296eb176e03e7eec838d0adf22892c7a6 | L'utilisateur saisit la date concernée dans le formulaire de pointage des heures supplémentaires. | L'utilisateur saisit la date concernée dans le formulaire de pointage des heures supplémentaires. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | b585b7cc300e5e14287cf7ea8fec80aaab85dac93cbc90156959714ccf9620fe | easy | true | "L'étape 2 sélectionne 'le bon statut' dans le menu sans préciser lequel. Quel statut de livraison faut-il choisir ?" | [
"Livré",
"En cours",
"En attente",
"Retourné",
"Autre (à préciser)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A010",
"declared_channel": "WEB_DOM",
"domain": "Logistique — Suivi livraison",
"source_file": "dataset_ambiguite.md",
"title": "Choix du statut sans précision"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://logistique.internal/livraisons/LIV-9921"
},
{
"action": "SelectOption",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//select[@id='statut-livraison']",
"value": "le bon statut"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 sélectionne 'le bon statut' dans le menu sans préciser lequel. Quel statut de livraison faut-il choisir ?\"",
"expected_statuses": [],
"required_checks": [
"decision_match",
"iss... | {
"block": "seed-internal",
"origin_sample_id": "audit_a010",
"source": "mssense_internal_audit"
} | a9af6c94c6f77c785cb31ed94e4437e92f14e6a14f3806f4fc4442cd37adf375 | seed_0010_audit_a010 | mssense_internal_audit | audit | b585b7cc300e5e14287cf7ea8fec80aaab85dac93cbc90156959714ccf9620fe | L'utilisateur met à jour le statut de la livraison en choisissant le bon statut dans le menu déroulant. | L'utilisateur met à jour le statut de la livraison en choisissant le bon statut dans le menu déroulant. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 97a19d25a91f1da4c988467f30c255fa0c34e9f7d02738b4dd9877c016da10a6 | easy | true | "L'étape 1 ouvre 'le fichier de données' sans chemin précis. Quel est le chemin complet du fichier à lire ?" | [] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A011",
"declared_channel": "FILE_IO",
"domain": "Finance — Importation données",
"source_file": "dataset_ambiguite.md",
"title": "Ouverture de fichier sans chemin"
} | [
{
"action": "ReadFile",
"channel": "FILE_IO",
"id": "s1",
"output_var": "contenu_fichier",
"value": "le fichier de données"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 1 ouvre 'le fichier de données' sans chemin précis. Quel est le chemin complet du fichier à lire ?\"",
"expected_statuses": [],
"required_checks": [
"decision_match",
"issue_type_m... | {
"block": "seed-internal",
"origin_sample_id": "audit_a011",
"source": "mssense_internal_audit"
} | d8b5d96835c655e2ae5fc85e6b9f5b3974257408973afbde7b45d93a8e5d1090 | seed_0011_audit_a011 | mssense_internal_audit | audit | 97a19d25a91f1da4c988467f30c255fa0c34e9f7d02738b4dd9877c016da10a6 | L'utilisateur ouvre le fichier de données pour l'importation comptable. | L'utilisateur ouvre le fichier de données pour l'importation comptable. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 4fd99a8c2c55e77623af133beaf96c8c2d5cf0175989bb10b4e56e9dcc2d386e | easy | true | "Il peut exister plusieurs boutons 'Valider' sur cette page (validation partielle, validation finale, validation comptable). Quel type de validation souhaitez-vous effectuer ?" | [
"Validation métier (responsable)",
"Validation comptable",
"Validation finale (déclenchement commande)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A013",
"declared_channel": "WEB_DOM",
"domain": "Achats — Approbation bon de commande",
"source_file": "dataset_ambiguite.md",
"title": "Clic sur \"valider\" quand plusieurs boutons existent"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://achats.internal/bc/BC-2024-0156"
},
{
"action": "LeftClick",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//button[contains(text(),'Valider')]",
"value": null
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"Il peut exister plusieurs boutons 'Valider' sur cette page (validation partielle, validation finale, validation comptable). Quel type de validation souhaitez-vous effectuer ?\"",
"expected_statuses"... | {
"block": "seed-internal",
"origin_sample_id": "audit_a013",
"source": "mssense_internal_audit"
} | da42e5a209dc162a6ce98274ee98136240d32d7a080c56e1d2a25d0e0644140c | seed_0012_audit_a013 | mssense_internal_audit | audit | 4fd99a8c2c55e77623af133beaf96c8c2d5cf0175989bb10b4e56e9dcc2d386e | L'utilisateur valide le bon de commande en cliquant sur valider. | L'utilisateur valide le bon de commande en cliquant sur valider. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 2ecef49c3a06ff58a8a99a9f565c202afd47ca39cd0d22937e8ed422630d28ae | easy | true | "L'étape 2 saisit 'le nom de l'employé' sans le préciser. Ce nom est-il toujours le même, ou est-ce une valeur variable passée en entrée du workflow ?" | [
"Nom fixe (à préciser)",
"Variable passée en paramètre",
"Lu depuis une liste ou fichier"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A014",
"declared_channel": "WEB_DOM",
"domain": "RH — Gestion absences",
"source_file": "dataset_ambiguite.md",
"title": "\"Entrer le nom de l'employé\" sans préciser lequel"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://rh.internal/absences/nouvelle"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='nom-employe']",
"value": "le nom de l'employé"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 saisit 'le nom de l'employé' sans le préciser. Ce nom est-il toujours le même, ou est-ce une valeur variable passée en entrée du workflow ?\"",
"expected_statuses": [],
"required_checks"... | {
"block": "seed-internal",
"origin_sample_id": "audit_a014",
"source": "mssense_internal_audit"
} | 39e6cfdf19b7971a8c10a55a7a5949c5635139223f63fe889afb195338bada0e | seed_0013_audit_a014 | mssense_internal_audit | audit | 2ecef49c3a06ff58a8a99a9f565c202afd47ca39cd0d22937e8ed422630d28ae | L'utilisateur saisit le nom de l'employé concerné dans le formulaire d'absence. | L'utilisateur saisit le nom de l'employé concerné dans le formulaire d'absence. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | b773fe761dc1cc8f6c8005294f2526e60ef6dd753f73faa427a5db16a2e16166 | easy | true | "L'étape 2 sélectionne 'la bonne période' sans la préciser. Quelle période faut-il choisir — le mois en cours, le mois précédent, ou une période paramétrable ?" | [
"Mois en cours",
"Mois précédent (M-1)",
"Période spécifique à saisir",
"Période calculée dynamiquement"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A015",
"declared_channel": "WEB_DOM",
"domain": "Finance — Clôture mensuelle",
"source_file": "dataset_ambiguite.md",
"title": "Choisir \"la bonne période\" dans un rapport"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://erp.internal/rapports/cloture"
},
{
"action": "SelectOption",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//select[@id='periode']",
"value": "la bonne période"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 sélectionne 'la bonne période' sans la préciser. Quelle période faut-il choisir — le mois en cours, le mois précédent, ou une période paramétrable ?\"",
"expected_statuses": [],
"require... | {
"block": "seed-internal",
"origin_sample_id": "audit_a015",
"source": "mssense_internal_audit"
} | 5c6b9375cad4cb8d739db6120ba698be74f4469bd3e9c664c926b1efc03f44ae | seed_0014_audit_a015 | mssense_internal_audit | audit | b773fe761dc1cc8f6c8005294f2526e60ef6dd753f73faa427a5db16a2e16166 | L'utilisateur génère le rapport de clôture en choisissant la bonne période comptable. | L'utilisateur génère le rapport de clôture en choisissant la bonne période comptable. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | e07f647853bb24b93bc8a26f2edf7d5be0f65450f472d319d33313bc2b8d2b02 | easy | true | "L'étape 3 assigne la tâche à 'l'utilisateur responsable' sans le nommer. Quel est le nom ou le rôle exact de la personne à qui assigner cette tâche ?" | [
"Nom fixe (à préciser)",
"Rôle (ex: Responsable comptable)",
"Variable passée en paramètre"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A016",
"declared_channel": "WEB_DOM",
"domain": "Administration — Gestion tâches",
"source_file": "dataset_ambiguite.md",
"title": "\"Sélectionner l'utilisateur responsable\""
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://tasks.internal/nouvelle"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='titre-tache']",
"value": "Vérification mensuelle comptable"
},
{
"action": "Se... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 3 assigne la tâche à 'l'utilisateur responsable' sans le nommer. Quel est le nom ou le rôle exact de la personne à qui assigner cette tâche ?\"",
"expected_statuses": [],
"required_checks"... | {
"block": "seed-internal",
"origin_sample_id": "audit_a016",
"source": "mssense_internal_audit"
} | 9b91c2e095725e94f3ff448fb74dbd63aa428854511b6ee5548aa58e979de32d | seed_0015_audit_a016 | mssense_internal_audit | audit | e07f647853bb24b93bc8a26f2edf7d5be0f65450f472d319d33313bc2b8d2b02 | L'utilisateur crée une tâche et l'assigne à l'utilisateur responsable. | L'utilisateur crée une tâche et l'assigne à l'utilisateur responsable. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | desktop | 63a7d9e9e260115a2dc4296a4d577efb000ef47046be9b49a584fc6f6d95747c | easy | true | "L'étape 1 saisit 'le montant' sans préciser sa valeur ni sa source. Ce montant provient-il d'une variable, d'une saisie manuelle ou d'un calcul ?" | [
"Variable IRIS (ex: ${ctx.montant})",
"Saisie manuelle par l'opérateur",
"Calculé depuis données précédentes"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A017",
"declared_channel": "DESKTOP_UIA",
"domain": "Finance — Saisie règlement",
"source_file": "dataset_ambiguite.md",
"title": "TypeInto \"le montant\" sans source"
} | [
{
"action": "TypeInto",
"channel": "DESKTOP_UIA",
"id": "s1",
"params": {
"windowIdentifier": "FB60 - Saisir document fournisseur"
},
"selector": "WDYID=AMOUNT_FIELD",
"value": "le montant"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 1 saisit 'le montant' sans préciser sa valeur ni sa source. Ce montant provient-il d'une variable, d'une saisie manuelle ou d'un calcul ?\"",
"expected_statuses": [],
"required_checks": [
... | {
"block": "seed-internal",
"origin_sample_id": "audit_a017",
"source": "mssense_internal_audit"
} | 1b67d45f00fd1ad87fa04cd1e2b560842baf9987ec7834630139e181efac0f6c | seed_0016_audit_a017 | mssense_internal_audit | audit | 63a7d9e9e260115a2dc4296a4d577efb000ef47046be9b49a584fc6f6d95747c | L'utilisateur saisit le montant du règlement dans l'application comptable SAP. | L'utilisateur saisit le montant du règlement dans l'application comptable SAP. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 584bf1827a3b5c0dcbd23758a526c57435c2421c0d910b50b5682db9c5b05cd5 | easy | true | "L'étape 2 choisit 'l'option appropriée' de livraison sans la nommer. Quel mode de livraison faut-il sélectionner ?" | [
"Standard (5-7 jours)",
"Express (48h)",
"Sur palette",
"Retrait en entrepôt",
"Autre (à préciser)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A018",
"declared_channel": "WEB_DOM",
"domain": "Commercial — Configuration devis",
"source_file": "dataset_ambiguite.md",
"title": "\"Choisir l'option appropriée\""
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://crm.internal/devis/DV-2024-0421"
},
{
"action": "SelectOption",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//select[@id='mode-livraison']",
"value": "l'option appropriée"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 choisit 'l'option appropriée' de livraison sans la nommer. Quel mode de livraison faut-il sélectionner ?\"",
"expected_statuses": [],
"required_checks": [
"decision_match",
"issu... | {
"block": "seed-internal",
"origin_sample_id": "audit_a018",
"source": "mssense_internal_audit"
} | c8001b496605ff1b792bf53b19b94f035d0848165c4c20ffbba9fb7fe9592319 | seed_0017_audit_a018 | mssense_internal_audit | audit | 584bf1827a3b5c0dcbd23758a526c57435c2421c0d910b50b5682db9c5b05cd5 | L'utilisateur configure le devis client en choisissant l'option appropriée de livraison. | L'utilisateur configure le devis client en choisissant l'option appropriée de livraison. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 95e28fbceaca8e6164f557f547a0d6dd77f40a094dbe8854923007b352202200 | easy | true | "L'étape 2 saisit 'la référence adéquate du bon de livraison' sans la spécifier. Cette référence est-elle fixe, scannée, ou lue depuis un document ?" | [
"Référence fixe (à préciser)",
"Scannée via code-barres",
"Lue depuis un document PDF ou Excel",
"Saisie manuellement par l'opérateur"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A019",
"declared_channel": "WEB_DOM",
"domain": "Achats — Réception marchandise",
"source_file": "dataset_ambiguite.md",
"title": "\"Entrer la référence adéquate\""
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://achats.internal/receptions/nouvelle"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='ref-bl']",
"value": "la référence adéquate du bon de livraison"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 saisit 'la référence adéquate du bon de livraison' sans la spécifier. Cette référence est-elle fixe, scannée, ou lue depuis un document ?\"",
"expected_statuses": [],
"required_checks": ... | {
"block": "seed-internal",
"origin_sample_id": "audit_a019",
"source": "mssense_internal_audit"
} | 238b9bc7f0bd43c5b60182e2c175ae90540a9a5894d6c746b32ffb3f73444eed | seed_0018_audit_a019 | mssense_internal_audit | audit | 95e28fbceaca8e6164f557f547a0d6dd77f40a094dbe8854923007b352202200 | L'utilisateur enregistre la réception de marchandise en entrant la référence adéquate du bon de livraison. | L'utilisateur enregistre la réception de marchandise en entrant la référence adéquate du bon de livraison. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 93586288eca4e9e7ea5372af4332281bd8b02756347552bcae9c9390965de8c5 | easy | true | "L'étape 4 clique sur 'le lien approprié' dans les résultats sans critère de sélection. Comment identifier la bonne fiche — premier résultat, correspondance exacte du nom, ou autre critère ?" | [
"Premier résultat de la liste",
"Correspondance exacte (nom + ville)",
"Lien contenant un identifiant spécifique"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A020",
"declared_channel": "WEB_DOM",
"domain": "Commercial — Accès fiche client",
"source_file": "dataset_ambiguite.md",
"title": "\"Cliquer sur le lien approprié\""
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://crm.internal/clients"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='recherche-client']",
"value": "Dupont SA"
},
{
"action": "LeftClick",
"channe... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 4 clique sur 'le lien approprié' dans les résultats sans critère de sélection. Comment identifier la bonne fiche — premier résultat, correspondance exacte du nom, ou autre critère ?\"",
"exp... | {
"block": "seed-internal",
"origin_sample_id": "audit_a020",
"source": "mssense_internal_audit"
} | 982922679c50b2d232cd6564d3e2cd492cb46d18cb4c381f4ffe0ca55bcc0f97 | seed_0019_audit_a020 | mssense_internal_audit | audit | 93586288eca4e9e7ea5372af4332281bd8b02756347552bcae9c9390965de8c5 | L'utilisateur accède à la fiche client en cliquant sur le lien approprié dans la liste des résultats. | L'utilisateur accède à la fiche client en cliquant sur le lien approprié dans la liste des résultats. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 668a943a7eccb97245774a0ea269f1bffa7efb9c01430dfe7fc852ab58a5bf41 | easy | true | "L'étape 1 envoie l'email 'aux bonnes personnes' sans préciser les destinataires. Quelles sont les adresses email (ou liste de diffusion) à utiliser ?" | [] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A021",
"declared_channel": "MAIL",
"domain": "Administration — Notification",
"source_file": "dataset_ambiguite.md",
"title": "Envoi email \"aux bonnes personnes\""
} | [
{
"action": "SendEmail",
"channel": "MAIL",
"id": "s1",
"params": {
"attachments": [
"C:\\reports\\rapport_mensuel.pdf"
],
"body": "Veuillez trouver en pièce jointe le rapport mensuel.",
"subject": "Rapport mensuel - {{mois}}",
"to": "les bonnes personnes"
}... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 1 envoie l'email 'aux bonnes personnes' sans préciser les destinataires. Quelles sont les adresses email (ou liste de diffusion) à utiliser ?\"",
"expected_statuses": [],
"required_checks"... | {
"block": "seed-internal",
"origin_sample_id": "audit_a021",
"source": "mssense_internal_audit"
} | 2a3884b479ec2711bb2feba8c55135eafaa5a1733730ae630f2e63181c9df0fe | seed_0020_audit_a021 | mssense_internal_audit | audit | 668a943a7eccb97245774a0ea269f1bffa7efb9c01430dfe7fc852ab58a5bf41 | L'utilisateur envoie le rapport mensuel par email aux bonnes personnes. | L'utilisateur envoie le rapport mensuel par email aux bonnes personnes. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | desktop | 6759f368d131054cae074089a8847309526c63e05303c84743455a95555f2ce8 | medium | true | "La boucle s'exécute 'tant qu'il reste des lignes' sans condition IRIS précise. Comment détecter la fin de la liste — cellule vide, nombre de lignes lu préalablement, ou indicateur de fin de fichier ?" | [
"Cellule vide = fin de liste",
"Lire le nombre total de lignes avant la boucle",
"Valeur sentinelle de fin (ex: 'FIN')"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A022",
"declared_channel": "CONTROL",
"domain": "Finance — Traitement de masse",
"source_file": "dataset_ambiguite.md",
"title": "Loop \"tant qu'il reste des lignes\" sans condition d'arrêt"
} | [
{
"action": "OpenWorkbook",
"channel": "EXCEL",
"id": "s1",
"output_var": "wb",
"value": "C:\\data\\reglements.xlsx"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"condition": "tant qu'il reste des lignes"
},
"sub_steps": [
{
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La boucle s'exécute 'tant qu'il reste des lignes' sans condition IRIS précise. Comment détecter la fin de la liste — cellule vide, nombre de lignes lu préalablement, ou indicateur de fin de fichier ?\... | {
"block": "seed-internal",
"origin_sample_id": "audit_a022",
"source": "mssense_internal_audit"
} | 13a2b594124e20d340e618364d003507323a3d74e7ced68a3e8bea83b833b086 | seed_0021_audit_a022 | mssense_internal_audit | audit | 6759f368d131054cae074089a8847309526c63e05303c84743455a95555f2ce8 | L'utilisateur traite toutes les lignes d'un fichier Excel de règlements en boucle jusqu'à épuisement de la liste. | L'utilisateur traite toutes les lignes d'un fichier Excel de règlements en boucle jusqu'à épuisement de la liste. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 9057555a6f23654143397ed73b28b0489d98bae31b091f038451a960199d23aa | medium | true | "La requête filtre les commandes 'priorité élevée' mais le champ et les valeurs exactes dans votre base ne sont pas connus. Quel est le nom exact du champ de priorité et quelle(s) valeur(s) correspond(ent) à 'urgente' ?" | [
"Champ 'priorite' avec valeur 'HAUTE'",
"Champ 'urgence' avec valeur '1'",
"Champ 'flag_prioritaire' booléen",
"Autre structure à préciser"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A023",
"declared_channel": "DATABASE",
"domain": "Logistique — Traitement commandes urgentes",
"source_file": "dataset_ambiguite.md",
"title": "Filtre \"éléments prioritaires\" sans critère"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "commandes_prioritaires",
"value": "SELECT * FROM commandes WHERE priorite = 'élevée' ORDER BY priorité DESC"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": ... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La requête filtre les commandes 'priorité élevée' mais le champ et les valeurs exactes dans votre base ne sont pas connus. Quel est le nom exact du champ de priorité et quelle(s) valeur(s) correspond(... | {
"block": "seed-internal",
"origin_sample_id": "audit_a023",
"source": "mssense_internal_audit"
} | 494e9ae734547551b5228d61053f9da399797f3fe8ddf2a010b2d40574be1849 | seed_0022_audit_a023 | mssense_internal_audit | audit | 9057555a6f23654143397ed73b28b0489d98bae31b091f038451a960199d23aa | Le workflow récupère en priorité les commandes urgentes à traiter avant les autres. | Le workflow récupère en priorité les commandes urgentes à traiter avant les autres. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | fce6fa964610102cc528f56e9fb8e1a0c947f0459f57e25c2092b0aded826fdd | medium | true | "L'email est envoyé à 'la personne responsable' mais ce destinataire n'est pas défini. Est-ce une adresse fixe, l'adresse lue depuis la base d'incidents, ou une liste de diffusion ?" | [
"Adresse fixe (à préciser)",
"Adresse du responsable dans la fiche incident (variable IRIS)",
"Liste de diffusion équipe IT",
"Adresse configurée en variable IRIS"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A024",
"declared_channel": "MAIL",
"domain": "Administration — Escalade incidents",
"source_file": "dataset_ambiguite.md",
"title": "\"Envoyer à la personne responsable\""
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "incidents_en_attente",
"value": "SELECT * FROM incidents WHERE statut = 'OUVERT' AND date_creation < NOW() - INTERVAL 2 HOUR"
},
{
"action": "IfCondition",
"channel": "CONTROL",
"id": "s2",
"params"... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'email est envoyé à 'la personne responsable' mais ce destinataire n'est pas défini. Est-ce une adresse fixe, l'adresse lue depuis la base d'incidents, ou une liste de diffusion ?\"",
"expected_sta... | {
"block": "seed-internal",
"origin_sample_id": "audit_a024",
"source": "mssense_internal_audit"
} | 859d9e4ee212a85cc7c96e24d0f5901234500ef4b7d1c3f4a44f13b1911165ed | seed_0023_audit_a024 | mssense_internal_audit | audit | fce6fa964610102cc528f56e9fb8e1a0c947f0459f57e25c2092b0aded826fdd | En cas d'incident détecté, le workflow envoie une notification à la personne responsable de l'équipe concernée. | En cas d'incident détecté, le workflow envoie une notification à la personne responsable de l'équipe concernée. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | ed2d53ef3faee5cfb2b927e2c8221aaa5b8f6ab2076263153c85cd7d91f3a9d5 | medium | true | "La condition d'archivage est que le document soit 'ancien' sans définir de seuil. À partir de combien de temps un document est-il considéré comme ancien ?" | [
"Plus de 1 an",
"Plus de 2 ans",
"Plus de 3 ans",
"Durée légale de conservation (7 ans pour les factures)",
"Seuil paramétrable"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A025",
"declared_channel": "FILE_IO",
"domain": "Administration — Archivage documents",
"source_file": "dataset_ambiguite.md",
"title": "\"Archiver les éléments anciens\" sans seuil d'âge"
} | [
{
"action": "ListFiles",
"channel": "FILE_IO",
"id": "s1",
"output_var": "liste_factures",
"value": "C:\\factures\\"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${liste_factures}"
},
"sub_steps": [
{
"action"... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La condition d'archivage est que le document soit 'ancien' sans définir de seuil. À partir de combien de temps un document est-il considéré comme ancien ?\"",
"expected_statuses": [],
"required_ch... | {
"block": "seed-internal",
"origin_sample_id": "audit_a025",
"source": "mssense_internal_audit"
} | 9ba66458fd298c3d5e69ec6260abdec546ea0c768ce9335e939a0b5f1e82ad7b | seed_0024_audit_a025 | mssense_internal_audit | audit | ed2d53ef3faee5cfb2b927e2c8221aaa5b8f6ab2076263153c85cd7d91f3a9d5 | Le workflow parcourt le répertoire des factures et archive les documents anciens vers le stockage long terme. | Le workflow parcourt le répertoire des factures et archive les documents anciens vers le stockage long terme. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | bb8a18f72143a08ef144e197f32581f4e52c258f2bc5a65c6885b553fdf86f4a | medium | true | "L'étape 2 applique 'la remise standard' sans préciser son taux. Quelle est la valeur de la remise standard (en %) — est-elle fixe ou dépend-elle du client ou du volume ?" | [
"Taux fixe (ex: 5%)",
"Variable selon le segment client",
"Variable selon le volume commande",
"Lu depuis un paramètre ou table de référence"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A026",
"declared_channel": "WEB_DOM",
"domain": "Commercial — Génération devis",
"source_file": "dataset_ambiguite.md",
"title": "\"Appliquer la remise standard\""
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://crm.internal/devis/DV-2024-0512"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='remise-pct']",
"value": "la remise standard"
},
{
"action": "LeftClick... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 applique 'la remise standard' sans préciser son taux. Quelle est la valeur de la remise standard (en %) — est-elle fixe ou dépend-elle du client ou du volume ?\"",
"expected_statuses": [],... | {
"block": "seed-internal",
"origin_sample_id": "audit_a026",
"source": "mssense_internal_audit"
} | 5a80ef54f7f66a5e46d06a8db6ff8ac8addb61dae693ae570b55f8a3f95f5490 | seed_0025_audit_a026 | mssense_internal_audit | audit | bb8a18f72143a08ef144e197f32581f4e52c258f2bc5a65c6885b553fdf86f4a | Le workflow génère un devis client et applique la remise standard avant de l'envoyer. | Le workflow génère un devis client et applique la remise standard avant de l'envoyer. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 36cc78eb0be4dfc912540d08e01b7da657f4f4c958e1cbdf59ee63250fb66d36 | medium | true | "La condition 'si validation nécessaire' n'est pas définie en termes IRIS. Quand une validation manuelle est-elle requise — au-delà d'un certain montant, pour certains fournisseurs, ou autre critère ?" | [
"Montant > seuil (à préciser)",
"Fournisseur hors liste approuvée",
"Première facture du fournisseur",
"Toujours (validation systématique)",
"Jamais (traitement automatique)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A027",
"declared_channel": "CONTROL",
"domain": "Finance — Validation factures",
"source_file": "dataset_ambiguite.md",
"title": "Validation \"si nécessaire\""
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "factures",
"value": "SELECT * FROM factures WHERE statut = 'EN_ATTENTE'"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${factures}"
},
"sub_steps"... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La condition 'si validation nécessaire' n'est pas définie en termes IRIS. Quand une validation manuelle est-elle requise — au-delà d'un certain montant, pour certains fournisseurs, ou autre critère ?\... | {
"block": "seed-internal",
"origin_sample_id": "audit_a027",
"source": "mssense_internal_audit"
} | 5bbc355ac4c69d655c86c5e48762e09e35a12913445e0e7cfbc76e69166d5444 | seed_0026_audit_a027 | mssense_internal_audit | audit | 36cc78eb0be4dfc912540d08e01b7da657f4f4c958e1cbdf59ee63250fb66d36 | Le workflow traite les factures et lance une étape de validation manuelle si nécessaire. | Le workflow traite les factures et lance une étape de validation manuelle si nécessaire. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | d7fb3e4604ef50a55a75d0c4859619dd486de6d68130454e16819568026b08e1 | medium | true | "La condition 'les données ont changé' n'est pas définie. Comment détecter un changement — comparaison de hash, timestamp de modification, champ 'date_maj', ou comparaison champ par champ ?" | [
"Comparer les timestamps 'date_modification'",
"Comparer un hash des données",
"Champ à champ (préciser lesquels)",
"Requête EXISTS avec jointure sur CRM"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A028",
"declared_channel": "DATABASE",
"domain": "Commercial — Synchronisation CRM",
"source_file": "dataset_ambiguite.md",
"title": "\"Mettre à jour si les données ont changé\""
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "clients_erp",
"value": "SELECT * FROM clients_erp"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${clients_erp}"
},
"sub_steps": [
{
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La condition 'les données ont changé' n'est pas définie. Comment détecter un changement — comparaison de hash, timestamp de modification, champ 'date_maj', ou comparaison champ par champ ?\"",
"expe... | {
"block": "seed-internal",
"origin_sample_id": "audit_a028",
"source": "mssense_internal_audit"
} | 59ee530b73f53961d140999067f97ca4d76e26bf01b05bdb736bcd05abbd2cd0 | seed_0027_audit_a028 | mssense_internal_audit | audit | d7fb3e4604ef50a55a75d0c4859619dd486de6d68130454e16819568026b08e1 | Le workflow synchronise les données clients entre le ERP et le CRM en mettant à jour les enregistrements si les données ont changé. | Le workflow synchronise les données clients entre le ERP et le CRM en mettant à jour les enregistrements si les données ont changé. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 166c92595c8ed66a468bb196fa0ab4a45116d200ba518155f1b5b591193abd7f | medium | true | "La condition d'escalade 'ticket nécessite escalade' n'a pas de critère IRIS. Un ticket s'escalade-t-il après un délai d'inactivité, selon sa priorité, ou selon d'autres règles ?" | [
"Inactif depuis X heures (à préciser)",
"Priorité CRITIQUE ou HAUTE",
"Combinaison délai + priorité",
"Règle métier spécifique à préciser"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A029",
"declared_channel": "CONTROL",
"domain": "IT — Gestion tickets support",
"source_file": "dataset_ambiguite.md",
"title": "Escalade \"si nécessaire\" sans critère"
} | [
{
"action": "GetRequest",
"channel": "API_REST",
"id": "s1",
"output_var": "tickets",
"value": "https://helpdesk.internal/api/tickets?statut=OUVERT"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${tickets}"
},
"sub_steps": [... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La condition d'escalade 'ticket nécessite escalade' n'a pas de critère IRIS. Un ticket s'escalade-t-il après un délai d'inactivité, selon sa priorité, ou selon d'autres règles ?\"",
"expected_status... | {
"block": "seed-internal",
"origin_sample_id": "audit_a029",
"source": "mssense_internal_audit"
} | eb3e6169be176a69f0e68cb3bcc37f1c688a767767864b0280f5bc30e2c19a54 | seed_0028_audit_a029 | mssense_internal_audit | audit | 166c92595c8ed66a468bb196fa0ab4a45116d200ba518155f1b5b591193abd7f | Le workflow vérifie les tickets support ouverts et les escalade si nécessaire vers le niveau N+1. | Le workflow vérifie les tickets support ouverts et les escalade si nécessaire vers le niveau N+1. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 0f0304fa215a985890f7a5db0429fb234dd1d7bc358b6a43e2d9adefe2459274 | medium | true | "L'étape 2.2 extrait 'les informations clés' sans les définir. Quels champs faut-il extraire de la facture — numéro, date, montant HT, TVA, fournisseur ?" | [
"Numéro de facture + Date + Montant TTC",
"Tous les champs (numéro, date, HT, TVA, TTC, fournisseur, IBAN)",
"Champs personnalisés à préciser"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A030",
"declared_channel": "PDF",
"domain": "Finance — Traitement PDF factures",
"source_file": "dataset_ambiguite.md",
"title": "\"Extraire les informations clés\" sans définition"
} | [
{
"action": "ListFiles",
"channel": "FILE_IO",
"id": "s1",
"output_var": "pdfs",
"value": "C:\\inbox\\factures\\"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${pdfs}"
},
"sub_steps": [
{
"action": "ExtractTex... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2.2 extrait 'les informations clés' sans les définir. Quels champs faut-il extraire de la facture — numéro, date, montant HT, TVA, fournisseur ?\"",
"expected_statuses": [],
"required_chec... | {
"block": "seed-internal",
"origin_sample_id": "audit_a030",
"source": "mssense_internal_audit"
} | 75753484e9e4c5732fe6bc555c050cf20467c3f0c80bb05ae0c679079240d05e | seed_0029_audit_a030 | mssense_internal_audit | audit | 0f0304fa215a985890f7a5db0429fb234dd1d7bc358b6a43e2d9adefe2459274 | Le workflow lit les factures PDF reçues et extrait les informations clés pour les saisir dans l'ERP. | Le workflow lit les factures PDF reçues et extrait les informations clés pour les saisir dans l'ERP. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | desktop | 93b9eae4390dbd6dcbffa0cf3c147fc5251281f1d8797141483298e1948dc4ed | medium | true | "L'étape 3 fait 'correspondre les références' sans préciser la logique de matching. La correspondance est-elle exacte, partielle (contient), ou tolère-t-elle les variations de casse ou d'espaces ?" | [
"Correspondance exacte (case-sensitive)",
"Correspondance exacte (insensible à la casse)",
"Correspondance partielle (contient)",
"Logique métier spécifique (ex: premier caractère = code dépôt)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A031",
"declared_channel": "EXCEL",
"domain": "Logistique — Réconciliation stocks",
"source_file": "dataset_ambiguite.md",
"title": "Correspondance \"matching avec données de référence\""
} | [
{
"action": "OpenWorkbook",
"channel": "EXCEL",
"id": "s1",
"output_var": "wb_physique",
"value": "C:\\stock\\inventaire_physique.xlsx"
},
{
"action": "OpenWorkbook",
"channel": "EXCEL",
"id": "s2",
"output_var": "wb_theorique",
"value": "C:\\stock\\stock_theorique.xlsx"
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 3 fait 'correspondre les références' sans préciser la logique de matching. La correspondance est-elle exacte, partielle (contient), ou tolère-t-elle les variations de casse ou d'espaces ?\"",
... | {
"block": "seed-internal",
"origin_sample_id": "audit_a031",
"source": "mssense_internal_audit"
} | ee98a26abb641ab0398eaac1bfb2d4d19555ac49cda73dc795102480f2a0df1b | seed_0030_audit_a031 | mssense_internal_audit | audit | 93b9eae4390dbd6dcbffa0cf3c147fc5251281f1d8797141483298e1948dc4ed | Le workflow compare le stock physique avec le stock théorique en faisant correspondre les références. | Le workflow compare le stock physique avec le stock théorique en faisant correspondre les références. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 17dc0262f90f5c7631fb5c2c606b9f17911ab330752a4a24541bc231d841ac91 | medium | true | "La suppression des doublons conserve 'le bon id' sans définir lequel garder. Quel enregistrement conserver — le plus ancien, le plus récent, ou celui avec le plus de données renseignées ?" | [
"Conserver le plus ancien (id minimum)",
"Conserver le plus récent (id maximum)",
"Conserver celui avec le plus de champs remplis",
"Règle métier spécifique (ex: source = 'ERP' prioritaire)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A032",
"declared_channel": "DATABASE",
"domain": "Commercial — Nettoyage CRM",
"source_file": "dataset_ambiguite.md",
"title": "\"Nettoyer les doublons\" sans stratégie"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "doublons",
"value": "SELECT id, nom, email FROM clients GROUP BY email HAVING COUNT(*) > 1"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${doublons}"
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La suppression des doublons conserve 'le bon id' sans définir lequel garder. Quel enregistrement conserver — le plus ancien, le plus récent, ou celui avec le plus de données renseignées ?\"",
"expec... | {
"block": "seed-internal",
"origin_sample_id": "audit_a032",
"source": "mssense_internal_audit"
} | c6c30492922ed38098303b0ca6616821a37595b76f571c1d3a770b1d84a8eaef | seed_0031_audit_a032 | mssense_internal_audit | audit | 17dc0262f90f5c7631fb5c2c606b9f17911ab330752a4a24541bc231d841ac91 | Le workflow nettoie les doublons dans la base clients du CRM. | Le workflow nettoie les doublons dans la base clients du CRM. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | desktop | 2eb91537540d3c1745aed74d67a30f2f643816ab80aa54f7ee839a9570157207 | medium | true | "L'étape 3 résume les ventes 'par période' sans préciser le grain temporel. Faut-il regrouper par jour, semaine, mois, trimestre ?" | [
"Par jour",
"Par semaine",
"Par mois",
"Par trimestre",
"Par mois et par trimestre (deux niveaux)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A033",
"declared_channel": "EXCEL",
"domain": "Finance — Tableau de bord",
"source_file": "dataset_ambiguite.md",
"title": "\"Résumer par période\" sans définition de période"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "ventes",
"value": "SELECT * FROM ventes WHERE annee = YEAR(NOW())"
},
{
"action": "OpenWorkbook",
"channel": "EXCEL",
"id": "s2",
"output_var": "wb",
"value": "C:\\dashboards\\ventes.xlsx"
},
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 3 résume les ventes 'par période' sans préciser le grain temporel. Faut-il regrouper par jour, semaine, mois, trimestre ?\"",
"expected_statuses": [],
"required_checks": [
"decision_ma... | {
"block": "seed-internal",
"origin_sample_id": "audit_a033",
"source": "mssense_internal_audit"
} | 597690e65e09bd85a1b09d0f4a21e4dfd17a9c80f792cd35558f4c5efc155367 | seed_0032_audit_a033 | mssense_internal_audit | audit | 2eb91537540d3c1745aed74d67a30f2f643816ab80aa54f7ee839a9570157207 | Le workflow génère un tableau de bord Excel avec les ventes résumées par période. | Le workflow génère un tableau de bord Excel avec les ventes résumées par période. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 5c8108b5991cf7ab613017fb074654fa543a59dc2573dd562a60b636b71bb1ef | medium | true | "L'étape de retry 'relancer en cas d'échec' n'a pas de limite définie. Combien de tentatives maximum, et y a-t-il un délai entre les essais ?" | [
"3 tentatives, délai 30s",
"5 tentatives, délai exponentiel",
"Nombre configurable sans délai",
"Politique de retry à définir"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A034",
"declared_channel": "API_REST",
"domain": "IT — Intégration API",
"source_file": "dataset_ambiguite.md",
"title": "Retry \"en cas d'échec\" sans limite"
} | [
{
"action": "PostRequest",
"channel": "API_REST",
"id": "s1",
"output_var": "reponse",
"params": {
"body": "${payload}"
},
"value": "https://api.externe.com/data"
},
{
"action": "IfCondition",
"channel": "CONTROL",
"id": "s2",
"params": {
"condition": "${r... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape de retry 'relancer en cas d'échec' n'a pas de limite définie. Combien de tentatives maximum, et y a-t-il un délai entre les essais ?\"",
"expected_statuses": [],
"required_checks": [
"... | {
"block": "seed-internal",
"origin_sample_id": "audit_a034",
"source": "mssense_internal_audit"
} | 01e0028dc3fcd2bad45dfb890642308727817e2fda33e1a718967ac5255c8e5e | seed_0033_audit_a034 | mssense_internal_audit | audit | 5c8108b5991cf7ab613017fb074654fa543a59dc2573dd562a60b636b71bb1ef | Le workflow appelle l'API externe et relance la requête en cas d'échec. | Le workflow appelle l'API externe et relance la requête en cas d'échec. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 5e9fe6b7d4b758dd7b6eaab24a6eefe645773a2a1ed14f685957ad2130b9016c | medium | true | "La condition 'est en retard' n'est pas définie en termes IRIS. Comment calculer le retard — comparaison date_livraison_prevue vs date_actuelle, ou délai en heures depuis la dernière mise à jour ?" | [
"Date prévue < Date actuelle (retard simple)",
"Délai depuis dernier statut > X heures",
"Combinaison date prévue + statut bloqué",
"Définir le seuil de retard acceptable"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A035",
"declared_channel": "CONTROL",
"domain": "Logistique — Suivi livraisons",
"source_file": "dataset_ambiguite.md",
"title": "\"Notifier si en retard\" sans seuil"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "livraisons",
"value": "SELECT * FROM livraisons WHERE statut = 'EN_COURS'"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${livraisons}"
},
"sub_st... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La condition 'est en retard' n'est pas définie en termes IRIS. Comment calculer le retard — comparaison date_livraison_prevue vs date_actuelle, ou délai en heures depuis la dernière mise à jour ?\"",
... | {
"block": "seed-internal",
"origin_sample_id": "audit_a035",
"source": "mssense_internal_audit"
} | 68abe375ddbbd9fabf608677c69b486cbb889ae33efd7d400cad143f4b5a2ca1 | seed_0034_audit_a035 | mssense_internal_audit | audit | 5e9fe6b7d4b758dd7b6eaab24a6eefe645773a2a1ed14f685957ad2130b9016c | Le workflow surveille les livraisons en cours et notifie l'équipe si une livraison est en retard. | Le workflow surveille les livraisons en cours et notifie l'équipe si une livraison est en retard. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 2a49c36d7d37405da3188f67f9c73f05b5426d54cae2b654dab0f2a6b8bb1630 | medium | true | "La condition 'demande standard' pour l'approbation automatique n'est pas définie. Qu'est-ce qui rend une demande 'standard' — le montant, le type d'article, le fournisseur approuvé ?" | [
"Montant < seuil (ex: 1000€)",
"Fournisseur dans la liste approuvée",
"Catégorie d'achat courante (fournitures)",
"Combinaison montant + catégorie + fournisseur"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A036",
"declared_channel": "CONTROL",
"domain": "Achats — Circuit approbation",
"source_file": "dataset_ambiguite.md",
"title": "Approbation \"automatique si standard\""
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "demandes",
"value": "SELECT * FROM demandes_achat WHERE statut = 'NOUVELLE'"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${demandes}"
},
"sub_st... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La condition 'demande standard' pour l'approbation automatique n'est pas définie. Qu'est-ce qui rend une demande 'standard' — le montant, le type d'article, le fournisseur approuvé ?\"",
"expected_s... | {
"block": "seed-internal",
"origin_sample_id": "audit_a036",
"source": "mssense_internal_audit"
} | af54ae4b04369b5d4fe65d64b3919d6dfd31ad1eae41b050083366f296330d73 | seed_0035_audit_a036 | mssense_internal_audit | audit | 2a49c36d7d37405da3188f67f9c73f05b5426d54cae2b654dab0f2a6b8bb1630 | Le workflow approuve automatiquement les demandes d'achat si elles sont dans le cadre standard, sinon les envoie en validation manuelle. | Le workflow approuve automatiquement les demandes d'achat si elles sont dans le cadre standard, sinon les envoie en validation manuelle. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 38e6afec503f485e1a750db7f38776b9b0f91bdd3ee34994cd82db88aaf46f83 | medium | true | "La condition 'tâche déjà effectuée' n'est pas définie. Comment détecter qu'une tâche a déjà été exécutée — présence d'un log d'exécution, flag dans la base, ou vérification du résultat ?" | [
"Flag 'executed' dans la table des tâches",
"Entrée dans la table des logs d'exécution",
"Vérification du résultat produit par la tâche",
"Timestamp d'exécution présent"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A037",
"declared_channel": "DATABASE",
"domain": "IT — Gestion déploiements",
"source_file": "dataset_ambiguite.md",
"title": "\"Passer à l'état traité si déjà fait\""
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "taches",
"value": "SELECT * FROM taches_deploiement WHERE statut != 'TERMINE'"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${taches}"
},
"sub_st... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La condition 'tâche déjà effectuée' n'est pas définie. Comment détecter qu'une tâche a déjà été exécutée — présence d'un log d'exécution, flag dans la base, ou vérification du résultat ?\"",
"expect... | {
"block": "seed-internal",
"origin_sample_id": "audit_a037",
"source": "mssense_internal_audit"
} | 5d6ee138292f0a56fd8e418da750648880e1f3b49d150d4744f07a40d039f8df | seed_0036_audit_a037 | mssense_internal_audit | audit | 38e6afec503f485e1a750db7f38776b9b0f91bdd3ee34994cd82db88aaf46f83 | Le workflow ignore les tâches de déploiement déjà effectuées pour éviter les doublons. | Le workflow ignore les tâches de déploiement déjà effectuées pour éviter les doublons. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | desktop | a28f1affdbfd32d3aec7c580f156226c787ab70a0af4ba1a13a4eceacc13ba09 | medium | true | "La boucle 'traiter jusqu'à la fin' n'a pas de condition IRIS précise. Comment détecter la fin des lignes à traiter — itération sur la collection, cellule vide, ou compteur basé sur le nombre total de lignes ?" | [
"Itérer sur la collection ${lignes} (recommandé)",
"Cellule vide = fin",
"Compteur basé sur LastRow"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A038",
"declared_channel": "CONTROL",
"domain": "Finance — Traitement écritures",
"source_file": "dataset_ambiguite.md",
"title": "\"Traiter jusqu'à la fin de la liste\""
} | [
{
"action": "OpenWorkbook",
"channel": "EXCEL",
"id": "s1",
"output_var": "wb_ecritures",
"value": "C:\\import\\ecritures.xlsx"
},
{
"action": "ReadRange",
"channel": "EXCEL",
"id": "s2",
"instance": "wb_ecritures",
"output_var": "lignes",
"params": {
"startRow"... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La boucle 'traiter jusqu'à la fin' n'a pas de condition IRIS précise. Comment détecter la fin des lignes à traiter — itération sur la collection, cellule vide, ou compteur basé sur le nombre total de ... | {
"block": "seed-internal",
"origin_sample_id": "audit_a038",
"source": "mssense_internal_audit"
} | 29ad24a3b4ed7717736f5cf68cace4f266b977a91ec1223ff4309846495b4194 | seed_0037_audit_a038 | mssense_internal_audit | audit | a28f1affdbfd32d3aec7c580f156226c787ab70a0af4ba1a13a4eceacc13ba09 | Le workflow saisit les écritures comptables une par une jusqu'à épuisement de la liste importée. | Le workflow saisit les écritures comptables une par une jusqu'à épuisement de la liste importée. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 67525684db0b831affd9ff90f0d49934b85a78260f0db34e8bc96ac8e18fbd5c | medium | true | "L'étape 3 utilise 'la valeur par défaut' pour la priorité sans la préciser. Quelle est la valeur par défaut attendue pour ce champ ?" | [
"Laisser le champ vide (valeur par défaut du formulaire)",
"Saisir 'NORMALE'",
"Saisir '3' (échelle 1-5)",
"Valeur fixe à préciser"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A039",
"declared_channel": "WEB_DOM",
"domain": "Production — Paramétrage formulaire",
"source_file": "dataset_ambiguite.md",
"title": "\"Utiliser la valeur par défaut\""
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://production.internal/bdt/nouveau"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='ref-bt']",
"value": "${ctx.ref_bt}"
},
{
"action": "TypeInto",
"ch... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 3 utilise 'la valeur par défaut' pour la priorité sans la préciser. Quelle est la valeur par défaut attendue pour ce champ ?\"",
"expected_statuses": [],
"required_checks": [
"decision... | {
"block": "seed-internal",
"origin_sample_id": "audit_a039",
"source": "mssense_internal_audit"
} | cd4108e0be79b9c660302de9a6362e8ba8dad2798388d7c37d7b1b7150ab91b4 | seed_0038_audit_a039 | mssense_internal_audit | audit | 67525684db0b831affd9ff90f0d49934b85a78260f0db34e8bc96ac8e18fbd5c | Le workflow remplit le formulaire de création de bon de travail en utilisant les valeurs par défaut pour les champs non critiques. | Le workflow remplit le formulaire de création de bon de travail en utilisant les valeurs par défaut pour les champs non critiques. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 3d9cf5e26f217fa5fe8cd75cea1e092cc567816541aa634cb12437632d8d6d8b | medium | true | "L'étape 2 convertit 'au format cible EDI' sans préciser lequel. Quel est le format EDI attendu par le fournisseur — EDIFACT, ANSI X12, XML spécifique ?" | [
"EDIFACT (ORDERS D96A)",
"ANSI X12 (850 Purchase Order)",
"Format XML propriétaire fournisseur",
"Format à spécifier dans la documentation"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A040",
"declared_channel": "CODE",
"domain": "Finance — Échange EDI",
"source_file": "dataset_ambiguite.md",
"title": "\"Convertir au format cible\""
} | [
{
"action": "ReadFile",
"channel": "FILE_IO",
"id": "s1",
"output_var": "commande_xml",
"value": "C:\\commandes\\CMD-2024-0711.xml"
},
{
"action": "Execute",
"channel": "CODE",
"id": "s2",
"output_var": "commande_edi",
"value": "convertir au format cible EDI"
},
{
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 convertit 'au format cible EDI' sans préciser lequel. Quel est le format EDI attendu par le fournisseur — EDIFACT, ANSI X12, XML spécifique ?\"",
"expected_statuses": [],
"required_check... | {
"block": "seed-internal",
"origin_sample_id": "audit_a040",
"source": "mssense_internal_audit"
} | 4cb688fb8f2d171eafff68ad83252f5854e1d1fab6da3165345fc49820884888 | seed_0039_audit_a040 | mssense_internal_audit | audit | 3d9cf5e26f217fa5fe8cd75cea1e092cc567816541aa634cb12437632d8d6d8b | Le workflow transforme les commandes au format cible pour l'envoi EDI au fournisseur. | Le workflow transforme les commandes au format cible pour l'envoi EDI au fournisseur. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 6f51eb4d340b00c1417f333a92c310070c6f8d218449271efdff2f3cfee8036d | medium | true | "L'étape 2.2 'marque l'item comme traité' sans SQL précis. Quelle est la requête de mise à jour — quel champ et quelle valeur utiliser pour indiquer le statut 'traité' ?" | [
"UPDATE ... SET statut='TRAITE'",
"UPDATE ... SET statut='DONE' ET date_traitement=NOW()",
"DELETE (suppression définitive)",
"Requête à préciser"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A041",
"declared_channel": "DATABASE",
"domain": "IT — File de traitement",
"source_file": "dataset_ambiguite.md",
"title": "\"Marquer comme traité\""
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "items",
"value": "SELECT * FROM queue_traitement WHERE statut='EN_ATTENTE' LIMIT 100"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${items}"
},
"... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2.2 'marque l'item comme traité' sans SQL précis. Quelle est la requête de mise à jour — quel champ et quelle valeur utiliser pour indiquer le statut 'traité' ?\"",
"expected_statuses": [],
... | {
"block": "seed-internal",
"origin_sample_id": "audit_a041",
"source": "mssense_internal_audit"
} | 2c37fd10651118a881ea168d445e0cd4eb4d5a3d2e1b313efb21f113d8e45c46 | seed_0040_audit_a041 | mssense_internal_audit | audit | 6f51eb4d340b00c1417f333a92c310070c6f8d218449271efdff2f3cfee8036d | Après traitement de chaque enregistrement, le workflow le marque comme traité dans la base. | Après traitement de chaque enregistrement, le workflow le marque comme traité dans la base. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 7669867454be396642bd7d98f045a0b783e446d163fa377ef45119263e766ff7 | hard | true | "L'étape 2 mentionne 'J-1 si exécuté après minuit' sans définir ce cas. Si le workflow tourne entre minuit et 8h le 1er du mois, doit-il traiter le dernier jour du mois précédent ou le jour en cours ?" | [
"Toujours traiter le dernier jour du mois précédent si date actuelle = 1er",
"Utiliser la date du jour dans tous les cas",
"Paramètre de date explicite pour éviter l'ambiguïté"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A043",
"declared_channel": "DATABASE",
"domain": "Finance — Clôture comptable",
"source_file": "dataset_ambiguite.md",
"title": "Date de fin de mois ambiguë"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "ecritures_cloture",
"value": "SELECT * FROM ecritures WHERE date = LAST_DAY(NOW())"
},
{
"action": "Execute",
"channel": "CODE",
"id": "s2",
"value": "générer les écritures de régularisation pour J-... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 mentionne 'J-1 si exécuté après minuit' sans définir ce cas. Si le workflow tourne entre minuit et 8h le 1er du mois, doit-il traiter le dernier jour du mois précédent ou le jour en cours ?\... | {
"block": "seed-internal",
"origin_sample_id": "audit_a043",
"source": "mssense_internal_audit"
} | b3908d0b878e27b83c1e87c9cf05ec62cc6854568a269c16ae0641907acd438b | seed_0041_audit_a043 | mssense_internal_audit | audit | 7669867454be396642bd7d98f045a0b783e446d163fa377ef45119263e766ff7 | Le workflow génère les écritures de clôture pour le dernier jour du mois en cours. | Le workflow génère les écritures de clôture pour le dernier jour du mois en cours. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | ce277472d156a2b7f6a239256de5a92fcd62b183b510ba2a4fb97a6bf655d209 | hard | true | "La requête joint les commandes sur `id - 1` pour trouver la commande précédente, mais cela suppose que les IDs sont séquentiels et sans trous. La commande 'précédente' doit-elle être déterminée par l'ID, la date de création, ou la date de passage ?" | [
"Par date de création (ORDER BY date_creation DESC)",
"Par date de passage de commande",
"Par ID séquentiel (si garantie de continuité)",
"Par numéro de commande métier"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A044",
"declared_channel": "DATABASE",
"domain": "Commercial — Comparaison prix",
"source_file": "dataset_ambiguite.md",
"title": "\"Enregistrement précédent\" sans ordre garanti"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "comparaisons",
"value": "SELECT c1.id, c1.montant, c2.montant as montant_precedent FROM commandes c1 LEFT JOIN commandes c2 ON c2.client_id = c1.client_id AND c2.id = c1.id - 1"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La requête joint les commandes sur `id - 1` pour trouver la commande précédente, mais cela suppose que les IDs sont séquentiels et sans trous. La commande 'précédente' doit-elle être déterminée par l'... | {
"block": "seed-internal",
"origin_sample_id": "audit_a044",
"source": "mssense_internal_audit"
} | 57378afc98a0f8aca77bc1e47f1574432179504e478b60f2bc18e65345990146 | seed_0042_audit_a044 | mssense_internal_audit | audit | ce277472d156a2b7f6a239256de5a92fcd62b183b510ba2a4fb97a6bf655d209 | Le workflow compare le prix de chaque commande avec la commande précédente du même client pour détecter des hausses anormales. | Le workflow compare le prix de chaque commande avec la commande précédente du même client pour détecter des hausses anormales. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | bf09706b7c609161e02119b03d17fe2b503b14c6a076b6b932b51b7bbb27e0db | hard | true | "L'étape 4 sélectionne toujours le premier résultat. Si la recherche par nom retourne plusieurs employés (homonymes ou résultats partiels), comment choisir le bon — par matricule, par service, ou par autre critère ?" | [
"Toujours le premier (si recherche exacte garantie)",
"Filtrer aussi par matricule en paramètre",
"Afficher un choix à l'opérateur en cas de plusieurs résultats",
"Critère de département en plus du nom"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A045",
"declared_channel": "WEB_DOM",
"domain": "RH — Recherche employé",
"source_file": "dataset_ambiguite.md",
"title": "Correspondance partielle vs exacte dans une recherche"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://rh.internal/employes"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='recherche']",
"value": "${ctx.nom_employe}"
},
{
"action": "LeftClick",
"chan... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 4 sélectionne toujours le premier résultat. Si la recherche par nom retourne plusieurs employés (homonymes ou résultats partiels), comment choisir le bon — par matricule, par service, ou par a... | {
"block": "seed-internal",
"origin_sample_id": "audit_a045",
"source": "mssense_internal_audit"
} | 85f9c9c176730eb55e6d9a7e2eaea16d0b09fb5207ee9a1b7effad028c1ad679 | seed_0043_audit_a045 | mssense_internal_audit | audit | bf09706b7c609161e02119b03d17fe2b503b14c6a076b6b932b51b7bbb27e0db | Le workflow recherche un employé par son nom dans le portail RH et accède à sa fiche. | Le workflow recherche un employé par son nom dans le portail RH et accède à sa fiche. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les formations jusqu'à 10 000 € sont auto-approuvées.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
},
{
"description": "Toute demande sous 5 000 € est auto-approuvée.",
"id": "br_raw_2",
"iris_control_type": null,
"lat_ste... | other | a3f692381b0dfae3670112d837ffb448b80fb006d749d2e65deea9169e8ebf9e | hard | true | "La condition combine OR et AND sans parenthèses, ce qui peut créer une ambiguïté de priorité des opérateurs. La condition doit-elle être '(montant < 5000) OR (type=FORMATION AND montant < 10000)', ou 'montant < 5000 OR type=FORMATION, et dans ce cas montant < 10000' ?" | [
"(montant < 5000) OR (type='FORMATION' AND montant < 10000)",
"montant < 5000 OR type='FORMATION', avec condition montant séparée",
"Reformuler avec parenthèses explicites"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A046",
"declared_channel": "CONTROL",
"domain": "Finance — Seuils d'approbation",
"source_file": "dataset_ambiguite.md",
"title": "Priorité implicite dans une condition booléenne complexe"
} | [
{
"action": "IfCondition",
"channel": "CONTROL",
"id": "s1",
"params": {
"condition": "${demande.montant} < 5000 OR ${demande.type} = 'FORMATION' AND ${demande.montant} < 10000"
}
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La condition combine OR et AND sans parenthèses, ce qui peut créer une ambiguïté de priorité des opérateurs. La condition doit-elle être '(montant < 5000) OR (type=FORMATION AND montant < 10000)', ou ... | {
"block": "seed-internal",
"origin_sample_id": "audit_a046",
"source": "mssense_internal_audit"
} | f9571c490e432b8fb5cdac2b53c8a51db45e256497d32b89354fcc016148411f | seed_0044_audit_a046 | mssense_internal_audit | audit | a3f692381b0dfae3670112d837ffb448b80fb006d749d2e65deea9169e8ebf9e | Le workflow approuve automatiquement les demandes d'achat respectant les critères de la politique interne. | Le workflow approuve automatiquement les demandes d'achat respectant les critères de la politique interne. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | a8a1ca284e37fe84f1100c2da80a1285e6cdc560c2f7551ceb03ad27616d7bb1 | hard | true | "Le timeout est fixé à 30 sans unité précisée. S'agit-il de 30 secondes ou 30 millisecondes ? (30ms serait probablement trop court pour un appel réseau)" | [
"30 secondes",
"30 000 millisecondes (équivalent)",
"Autre valeur en secondes"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A047",
"declared_channel": "API_REST",
"domain": "IT — Appel API avec timeout",
"source_file": "dataset_ambiguite.md",
"title": "Timeout en secondes ou millisecondes"
} | [
{
"action": "PostRequest",
"channel": "API_REST",
"id": "s1",
"output_var": "reponse",
"params": {
"body": "${payload}",
"timeout": 30
},
"value": "https://service-externe.com/api/traitement"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"Le timeout est fixé à 30 sans unité précisée. S'agit-il de 30 secondes ou 30 millisecondes ? (30ms serait probablement trop court pour un appel réseau)\"",
"expected_statuses": [],
"required_check... | {
"block": "seed-internal",
"origin_sample_id": "audit_a047",
"source": "mssense_internal_audit"
} | 8c27a5cd6121c645f8bc77459faa633f455f85edcb1a062b2c7a1326ca7c6cfb | seed_0045_audit_a047 | mssense_internal_audit | audit | a8a1ca284e37fe84f1100c2da80a1285e6cdc560c2f7551ceb03ad27616d7bb1 | Le workflow appelle un service externe avec un timeout de 30 pour éviter les blocages. | Le workflow appelle un service externe avec un timeout de 30 pour éviter les blocages. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 6c40c36719f09f4628ac2e1aa08b2f3111f2121e82a45373592cde5c299f0f0b | hard | true | "L'étape 2 clique sur 'Sélectionner tout' mais sur une interface paginée, ce bouton peut ne sélectionner que la page courante (50 ou 100 enregistrements). Voulez-vous exporter tous les clients (toutes pages) ou seulement la page affichée ?" | [
"Tous les clients (toutes pages — gérer la pagination)",
"Seulement la page courante",
"Utiliser l'export API plutôt que l'interface web"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A048",
"declared_channel": "WEB_DOM",
"domain": "Commercial — Export données",
"source_file": "dataset_ambiguite.md",
"title": "\"Tous les enregistrements\" : page courante ou toutes les pages"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://crm.internal/clients"
},
{
"action": "LeftClick",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//button[@id='select-all']"
},
{
"action": "LeftClick",
"channel": "WEB_DOM",
"id": "s3",... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2 clique sur 'Sélectionner tout' mais sur une interface paginée, ce bouton peut ne sélectionner que la page courante (50 ou 100 enregistrements). Voulez-vous exporter tous les clients (toutes ... | {
"block": "seed-internal",
"origin_sample_id": "audit_a048",
"source": "mssense_internal_audit"
} | 770038fb4dffa3a868aca92717c8c6134db40ac87b37d5fdbdb8fb69a586acb2 | seed_0046_audit_a048 | mssense_internal_audit | audit | 6c40c36719f09f4628ac2e1aa08b2f3111f2121e82a45373592cde5c299f0f0b | Le workflow exporte tous les enregistrements clients depuis l'interface web vers un fichier Excel. | Le workflow exporte tous les enregistrements clients depuis l'interface web vers un fichier Excel. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les transactions sont réalisées avec des fournisseurs européens et américains.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 76b9cf37293d1b67c7f4e6b05220b5a8e03d45c6bc557b629aa922405a87b347 | hard | true | "La transaction insère un montant sans préciser la devise. Avec des fournisseurs européens et américains, le montant est-il en EUR, en USD, ou dans la devise d'origine de la transaction ?" | [
"Toujours en EUR (devise de clôture)",
"Dans la devise d'origine (avec colonne 'devise' à ajouter)",
"Converti en EUR au taux du jour (avec taux à stocker)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A049",
"declared_channel": "DATABASE",
"domain": "Finance — Comptabilité multi-devises",
"source_file": "dataset_ambiguite.md",
"title": "Devise ambiguë dans un contexte international"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"value": "INSERT INTO transactions (ref, montant, date) VALUES ('${ref}', ${montant}, NOW())"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La transaction insère un montant sans préciser la devise. Avec des fournisseurs européens et américains, le montant est-il en EUR, en USD, ou dans la devise d'origine de la transaction ?\"",
"expect... | {
"block": "seed-internal",
"origin_sample_id": "audit_a049",
"source": "mssense_internal_audit"
} | ef8bd3456361842062a3f4fa7c1dfd7b416f777d8362de599a00179981bfb7fb | seed_0047_audit_a049 | mssense_internal_audit | audit | 76b9cf37293d1b67c7f4e6b05220b5a8e03d45c6bc557b629aa922405a87b347 | Le workflow enregistre les montants des transactions internationales dans la base comptable. | Le workflow enregistre les montants des transactions internationales dans la base comptable. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Le fichier est fourni par un prestataire basé en France.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | e412ef2b681472286e446d9f004e3476b25348e7724089ad30badf1ff2b5a46a | hard | true | "Le fichier CSV contient probablement des prénoms/noms français avec accents (é, è, ç...). Quel encodage le prestataire utilise-t-il — UTF-8, Windows-1252 (Latin-1) ? Un mauvais encodage corromprait les noms." | [
"UTF-8 (standard moderne)",
"Windows-1252 / Latin-1 (courant pour outils Microsoft anciens)",
"À vérifier avec le prestataire"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A050",
"declared_channel": "FILE_IO",
"domain": "RH — Import données employés",
"source_file": "dataset_ambiguite.md",
"title": "Encodage ambiguë pour fichiers avec caractères spéciaux"
} | [
{
"action": "ReadFile",
"channel": "FILE_IO",
"id": "s1",
"output_var": "contenu",
"value": "C:\\import\\employes_extern.csv"
},
{
"action": "Execute",
"channel": "CODE",
"id": "s2",
"output_var": "employes",
"value": "parser le CSV et extraire les colonnes"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"Le fichier CSV contient probablement des prénoms/noms français avec accents (é, è, ç...). Quel encodage le prestataire utilise-t-il — UTF-8, Windows-1252 (Latin-1) ? Un mauvais encodage corromprait le... | {
"block": "seed-internal",
"origin_sample_id": "audit_a050",
"source": "mssense_internal_audit"
} | c436da1ec94280e8609c2bdcf2e61140eae6cbba009d246ac3caf28fe641ad79 | seed_0048_audit_a050 | mssense_internal_audit | audit | e412ef2b681472286e446d9f004e3476b25348e7724089ad30badf1ff2b5a46a | Le workflow importe les données employés depuis un fichier CSV fourni par le prestataire externe. | Le workflow importe les données employés depuis un fichier CSV fourni par le prestataire externe. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | e8d16adefbe2bcf5fdaee1e1f9dfcf5b2f4b3cf694d5ab7c6211cad221ab914e | hard | true | "L'étape 2.1 utilise `total_ventes` comme nom de variable de sortie pour la commission calculée, mais ce nom est déjà utilisé dans la collection `ventes_par_commercial`. L'étape 2.2 lira-t-elle la commission ou le total des ventes brut ? Ces variables doivent-elles avoir des noms distincts ?" | [
"Renommer la sortie en 'montant_commission'",
"Utiliser '${ventes_par_commercial.current.total_ventes}' explicitement pour les ventes",
"Clarifier la logique de calcul"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A051",
"declared_channel": "CONTROL",
"domain": "Finance — Calcul commissions",
"source_file": "dataset_ambiguite.md",
"title": "Variable écrasée avant utilisation"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "ventes_par_commercial",
"value": "SELECT commercial_id, SUM(montant) as total_ventes FROM ventes WHERE trimestre = ${trimestre} GROUP BY commercial_id"
},
{
"action": "Loop",
"channel": "CONTROL",
"id":... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2.1 utilise `total_ventes` comme nom de variable de sortie pour la commission calculée, mais ce nom est déjà utilisé dans la collection `ventes_par_commercial`. L'étape 2.2 lira-t-elle la comm... | {
"block": "seed-internal",
"origin_sample_id": "audit_a051",
"source": "mssense_internal_audit"
} | cac5f7786f4e6e15e7c56a3ba9b2b71926ba3356d874f7d5694939fe80c55293 | seed_0049_audit_a051 | mssense_internal_audit | audit | e8d16adefbe2bcf5fdaee1e1f9dfcf5b2f4b3cf694d5ab7c6211cad221ab914e | Le workflow calcule les commissions des commerciaux basées sur leurs ventes du trimestre. | Le workflow calcule les commissions des commerciaux basées sur leurs ventes du trimestre. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Choisir le transporteur le moins cher pour les commandes standard.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | ba44a39e957d356ac5197056a00b86261feeb0c40ea69aaf5905a0ab7b2cc9be | hard | true | "La requête prend le premier transporteur éligible (`LIMIT 1`) sans critère de tri, alors que la règle métier spécifie de choisir le moins cher. Faut-il ajouter `ORDER BY tarif ASC` pour respecter la règle ?" | [
"Oui, trier par tarif ASC (moins cher d'abord)",
"Trier par délai de livraison ASC (le plus rapide)",
"Critère composite (pondération tarif + délai)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A052",
"declared_channel": "DATABASE",
"domain": "Logistique — Affectation transporteur",
"source_file": "dataset_ambiguite.md",
"title": "\"Premier match\" vs \"meilleur match\" dans une recherche"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "transporteur_id",
"value": "SELECT id FROM transporteurs WHERE zone = '${commande.zone_livraison}' AND poids_max >= ${commande.poids} LIMIT 1"
},
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id":... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La requête prend le premier transporteur éligible (`LIMIT 1`) sans critère de tri, alors que la règle métier spécifie de choisir le moins cher. Faut-il ajouter `ORDER BY tarif ASC` pour respecter la r... | {
"block": "seed-internal",
"origin_sample_id": "audit_a052",
"source": "mssense_internal_audit"
} | 479349d34062e32a2c74b3dc319074f02485ef0158e070c60be8e91b921fc5fd | seed_0050_audit_a052 | mssense_internal_audit | audit | ba44a39e957d356ac5197056a00b86261feeb0c40ea69aaf5905a0ab7b2cc9be | Le workflow affecte automatiquement un transporteur à chaque commande selon les critères de tarif et délai. | Le workflow affecte automatiquement un transporteur à chaque commande selon les critères de tarif et délai. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "L'entreprise clôture son exercice fiscal en mars (exercice avril–mars).",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | bc473f8a5935a1cd08242e37d8b6b4f67d8932ce2bc73a13a6741c3518cc481f | hard | true | "La requête filtre par année calendaire (YEAR), mais l'exercice fiscal de l'entreprise est d'avril à mars. Faut-il filtrer par année calendaire ou par exercice fiscal (avril N – mars N+1) ?" | [
"Année calendaire (Jan–Déc)",
"Exercice fiscal (Avr–Mars)",
"Paramètre de période explicite (date_debut, date_fin)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A053",
"declared_channel": "DATABASE",
"domain": "Finance — Budget annuel",
"source_file": "dataset_ambiguite.md",
"title": "Année fiscale vs année calendaire"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "depenses_annee",
"value": "SELECT SUM(montant) as total_depenses FROM depenses WHERE YEAR(date_depense) = YEAR(NOW())"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La requête filtre par année calendaire (YEAR), mais l'exercice fiscal de l'entreprise est d'avril à mars. Faut-il filtrer par année calendaire ou par exercice fiscal (avril N – mars N+1) ?\"",
"expe... | {
"block": "seed-internal",
"origin_sample_id": "audit_a053",
"source": "mssense_internal_audit"
} | fa829f63e74a885ce04de0cded5c1f57baac4447155c9a3954d11a717d77dc10 | seed_0051_audit_a053 | mssense_internal_audit | audit | bc473f8a5935a1cd08242e37d8b6b4f67d8932ce2bc73a13a6741c3518cc481f | Le workflow calcule les dépenses de l'année pour les comparer au budget annuel. | Le workflow calcule les dépenses de l'année pour les comparer au budget annuel. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les employés en CDD expiré, en congé longue durée et en préavis sont dans des états distincts dans la base.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 43933d1077a3cb6891bd086a5533da1e147786ad798cba4e34fc88819309f0ad | hard | true | "Le filtre `actif = 1` récupère les employés 'actifs' mais dans votre système, cette valeur inclut-elle les employés en préavis, en congé longue durée (maternité, maladie), ou seulement ceux en poste effectif ?" | [
"Seulement les employés en poste effectif",
"En poste + congés (maternité, arrêt maladie)",
"En poste + préavis",
"Tous sauf sortis définitivement"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A054",
"declared_channel": "DATABASE",
"domain": "RH — Gestion contrats",
"source_file": "dataset_ambiguite.md",
"title": "\"Statut actif\" avec multiple interprétations"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "employes_actifs",
"value": "SELECT * FROM employes WHERE actif = 1"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"Le filtre `actif = 1` récupère les employés 'actifs' mais dans votre système, cette valeur inclut-elle les employés en préavis, en congé longue durée (maternité, maladie), ou seulement ceux en poste e... | {
"block": "seed-internal",
"origin_sample_id": "audit_a054",
"source": "mssense_internal_audit"
} | 26c3eca7035a86e93e0817d2c461170ab200ac54777c79f8e25df208ec3d3434 | seed_0052_audit_a054 | mssense_internal_audit | audit | 43933d1077a3cb6891bd086a5533da1e147786ad798cba4e34fc88819309f0ad | Le workflow traite uniquement les employés actifs dans le système RH. | Le workflow traite uniquement les employés actifs dans le système RH. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les calculs fiscaux doivent respecter les règles de l'administration fiscale.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | e101df21d1a7964bdfccf19dc006561bc124468d8955d9a33d299a31f31da6d6 | hard | true | "L'arrondi `round(tva, 2)` utilise la règle d'arrondi par défaut du langage, qui peut varier (arrondi bancaire, arrondi au plus proche). Pour les calculs TVA, l'administration fiscale préconise-t-elle un arrondi spécifique ?" | [
"Arrondi arithmétique standard (0.5 → 1)",
"Arrondi bancaire (half-even: 0.5 → valeur paire)",
"Troncature (toujours vers le bas)",
"Règle fiscal à vérifier"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A055",
"declared_channel": "CODE",
"domain": "Finance — Calcul TVA",
"source_file": "dataset_ambiguite.md",
"title": "Règle d'arrondi non précisée pour calculs financiers"
} | [
{
"action": "Execute",
"channel": "CODE",
"id": "s1",
"output_var": "tva_arrondi",
"value": "tva = montant_ht * 0.20; tva_arrondi = round(tva, 2)"
},
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s2",
"value": "UPDATE factures SET tva = ${tva_arrondi} WHERE id = $... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'arrondi `round(tva, 2)` utilise la règle d'arrondi par défaut du langage, qui peut varier (arrondi bancaire, arrondi au plus proche). Pour les calculs TVA, l'administration fiscale préconise-t-elle ... | {
"block": "seed-internal",
"origin_sample_id": "audit_a055",
"source": "mssense_internal_audit"
} | d12c6566dd0362043d7de633dd943b5bb4e56b3756bf22b1a78adc919f00c1b9 | seed_0053_audit_a055 | mssense_internal_audit | audit | e101df21d1a7964bdfccf19dc006561bc124468d8955d9a33d299a31f31da6d6 | Le workflow calcule la TVA sur les montants des factures et arrondit au centime. | Le workflow calcule la TVA sur les montants des factures et arrondit au centime. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | other | 5988e510b53006333c43fd792c71e8abd261f8813459df76d62cf69bbaa1bd02 | hard | true | "Une commande HAUTE priorité satisfait les deux conditions : elle sera enfilée dans 'commandes_urgentes' ET dans 'commandes_standard'. S'agit-il d'un traitement dans les deux files, ou la deuxième condition devrait-elle exclure les commandes déjà routées ?" | [
"Ajouter ELSE IF pour s2 (mutually exclusive)",
"Conserver les deux (traitement dans deux files voulu)",
"Restructurer avec un SWITCH sur priorité"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A056",
"declared_channel": "CONTROL",
"domain": "IT — Routage intelligent",
"source_file": "dataset_ambiguite.md",
"title": "Condition mutuellement exclusive non détectée"
} | [
{
"action": "IfCondition",
"channel": "CONTROL",
"id": "s1",
"params": {
"condition": "${message.type} = 'COMMANDE' AND ${message.priorite} = 'HAUTE'"
},
"sub_steps": [
{
"action": "Enqueue",
"channel": "WORKQUEUE",
"id": "s1_1",
"params": {
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"Une commande HAUTE priorité satisfait les deux conditions : elle sera enfilée dans 'commandes_urgentes' ET dans 'commandes_standard'. S'agit-il d'un traitement dans les deux files, ou la deuxième cond... | {
"block": "seed-internal",
"origin_sample_id": "audit_a056",
"source": "mssense_internal_audit"
} | 1ef21873eead9c01fcb6aedd54ea78fa3fa17ece353d9b41cfb769d5fbba2d67 | seed_0054_audit_a056 | mssense_internal_audit | audit | 5988e510b53006333c43fd792c71e8abd261f8813459df76d62cf69bbaa1bd02 | Le workflow route les messages selon leur type et leur priorité vers les files de traitement appropriées. | Le workflow route les messages selon leur type et leur priorité vers les files de traitement appropriées. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les numéros de facture suivent le format `FAC-YYYY-NNNN`.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | desktop | 5f9501c7e33d7d5bc09c48a30029dc0a06120d3acafa39098bab36c51c1c146f | hard | true | "La regex `[A-Z0-9-]+` est très large et pourrait capturer d'autres références (codes clients, articles, etc.) dans l'email. Le format attendu est `FAC-YYYY-NNNN`. La regex ne devrait-elle pas être `FAC-\\d{4}-\\d{4}` pour être précise ?" | [
"Utiliser `FAC-\\d{4}-\\d{4}` (précis)",
"Garder la regex large et filtrer post-extraction",
"Valider le résultat contre un pattern strict après extraction"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A057",
"declared_channel": "CODE",
"domain": "Finance — Extraction numéros facture",
"source_file": "dataset_ambiguite.md",
"title": "Regex trop large pour une extraction"
} | [
{
"action": "ReadEmails",
"channel": "OUTLOOK",
"id": "s1",
"output_var": "emails",
"params": {
"filter": "subject:Facture",
"folder": "Inbox"
}
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${emails}"
},
"su... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La regex `[A-Z0-9-]+` est très large et pourrait capturer d'autres références (codes clients, articles, etc.) dans l'email. Le format attendu est `FAC-YYYY-NNNN`. La regex ne devrait-elle pas être `FA... | {
"block": "seed-internal",
"origin_sample_id": "audit_a057",
"source": "mssense_internal_audit"
} | d70f22ffda002934df574c26959bd143353b19beee38878f357135d9c7942f3d | seed_0055_audit_a057 | mssense_internal_audit | audit | 5f9501c7e33d7d5bc09c48a30029dc0a06120d3acafa39098bab36c51c1c146f | Le workflow extrait les numéros de facture depuis les emails reçus en utilisant une expression régulière. | Le workflow extrait les numéros de facture depuis les emails reçus en utilisant une expression régulière. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Seuls les articles actifs et non promotionnels doivent être mis à jour.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
},
{
"description": "Les articles en rupture de stock ne doivent pas être mis à jour.",
"id": "br_raw_2",
"ir... | other | 0066ff434157dd5b903ee2cb5a43f409a0740211892f0c965f50a8725320b8c8 | hard | true | "La requête UPDATE sans clause WHERE met à jour TOUS les articles du catalogue, mais les règles métier excluent les articles inactifs, en promotion et en rupture. Faut-il ajouter un filtre `WHERE actif = 1 AND promo = 0 AND stock > 0` ?" | [
"Oui, ajouter les filtres (actif + hors promo + en stock)",
"Seulement filtrer les articles actifs",
"Confirmer le périmètre exact avec le métier"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A058",
"declared_channel": "DATABASE",
"domain": "Logistique — Mise à jour prix catalogue",
"source_file": "dataset_ambiguite.md",
"title": "Scope de \"tous les enregistrements\" dans une mise à jour"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"value": "UPDATE catalogue SET prix = prix * 1.03"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"La requête UPDATE sans clause WHERE met à jour TOUS les articles du catalogue, mais les règles métier excluent les articles inactifs, en promotion et en rupture. Faut-il ajouter un filtre `WHERE actif... | {
"block": "seed-internal",
"origin_sample_id": "audit_a058",
"source": "mssense_internal_audit"
} | d32ba8d19034d661fc52cdc51d4075501bf57f864772a5d1237c67f3e2c3a41b | seed_0056_audit_a058 | mssense_internal_audit | audit | 0066ff434157dd5b903ee2cb5a43f409a0740211892f0c965f50a8725320b8c8 | Le workflow applique une majoration de prix de 3% à tous les articles du catalogue. | Le workflow applique une majoration de prix de 3% à tous les articles du catalogue. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 5b021018316bb8337eddf01ade00d9829a79c3b8da073e55458d73938ee1571c | hard | true | "L'étape 2.1 fait un INSERT sans gérer le cas où le produit existe déjà — cela provoquerait une erreur de clé dupliquée. Faut-il utiliser INSERT OR REPLACE, UPSERT (INSERT ON CONFLICT UPDATE), ou vérifier l'existence avant d'insérer ?" | [
"INSERT ON CONFLICT UPDATE (UPSERT)",
"Vérifier avec SELECT avant d'insérer ou mettre à jour",
"INSERT OR REPLACE (remplace complet)",
"INSERT IGNORE (ignorer les doublons)"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A059",
"declared_channel": "DATABASE",
"domain": "IT — Synchronisation référentiels",
"source_file": "dataset_ambiguite.md",
"title": "Idempotence : \"créer ou mettre à jour\" sans distinction"
} | [
{
"action": "GetRequest",
"channel": "API_REST",
"id": "s1",
"output_var": "produits_source",
"value": "https://erp.internal/api/produits"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${produits_source}"
},
"sub_steps": [
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'étape 2.1 fait un INSERT sans gérer le cas où le produit existe déjà — cela provoquerait une erreur de clé dupliquée. Faut-il utiliser INSERT OR REPLACE, UPSERT (INSERT ON CONFLICT UPDATE), ou vérif... | {
"block": "seed-internal",
"origin_sample_id": "audit_a059",
"source": "mssense_internal_audit"
} | 6d19cd1d811b03d671e23fecbb4e6a83f7f5fd7dbecb00a8ba63c504380a1314 | seed_0057_audit_a059 | mssense_internal_audit | audit | 5b021018316bb8337eddf01ade00d9829a79c3b8da073e55458d73938ee1571c | Le workflow synchronise le référentiel produits en insérant les nouveaux articles et en mettant à jour les existants. | Le workflow synchronise le référentiel produits en insérant les nouveaux articles et en mettant à jour les existants. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | web | 45a119dc5f208fc7878692d624fcff9881390393f14c6a3dbcc066aadfe40995 | hard | true | "Les étapes 4 et 5 utilisent 'même valeur que ci-dessus' pour le salaire et le poste. Ces valeurs doivent-elles reprendre `${salaire_actuel}` (lu à l'étape 2) et une variable de poste non encore lue ?" | [
"Utiliser ${salaire_actuel} pour le salaire et lire aussi le poste depuis le contrat",
"Préciser les variables IRIS à utiliser pour chaque champ"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A060",
"declared_channel": "WEB_DOM",
"domain": "RH — Duplication contrat",
"source_file": "dataset_ambiguite.md",
"title": "\"Même valeur que ci-dessus\" comme référence ambiguë"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://rh.internal/contrats/C-2024-0089"
},
{
"action": "Read",
"channel": "WEB_DOM",
"id": "s2",
"output_var": "salaire_actuel",
"selector": "//span[@id='salaire-base']"
},
{
"action": "NavigateTo... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"Les étapes 4 et 5 utilisent 'même valeur que ci-dessus' pour le salaire et le poste. Ces valeurs doivent-elles reprendre `${salaire_actuel}` (lu à l'étape 2) et une variable de poste non encore lue ?\... | {
"block": "seed-internal",
"origin_sample_id": "audit_a060",
"source": "mssense_internal_audit"
} | 46d3ef45b9f8cadc3843681b08bbec14de5b16607ee64b3aa8d1a32e13f4af94 | seed_0058_audit_a060 | mssense_internal_audit | audit | 45a119dc5f208fc7878692d624fcff9881390393f14c6a3dbcc066aadfe40995 | Le workflow crée un avenant au contrat en reprenant les mêmes conditions que le contrat précédent. | Le workflow crée un avenant au contrat en reprenant les mêmes conditions que le contrat précédent. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Si aucune transaction n'est à rapprocher, le rapport doit mentionner explicitement \"Aucune transaction à traiter\".",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | db565bc568c393a69b6257bf4421d1851ea8b10830f95f7d1ad9c9b6a8834651 | hard | true | "Si la requête retourne zéro transaction, la boucle est ignorée et le rapport est généré sans indication que rien n'a été traité. La règle métier exige un message explicite 'Aucune transaction'. Faut-il ajouter un IfCondition avant la boucle pour gérer ce cas ?" | [
"Oui, ajouter IfCondition pour case count=0",
"Le rapport de l'étape 3 gère déjà ce cas (si oui, préciser comment)",
"Envoyer une alerte spécifique si aucune transaction"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A061",
"declared_channel": "CONTROL",
"domain": "Finance — Rapprochement bancaire",
"source_file": "dataset_ambiguite.md",
"title": "Condition de loop qui échoue silencieusement sur liste vide"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "transactions",
"value": "SELECT * FROM transactions_bancaires WHERE rapproche = 0 AND date = '${date_traitement}'"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collect... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"Si la requête retourne zéro transaction, la boucle est ignorée et le rapport est généré sans indication que rien n'a été traité. La règle métier exige un message explicite 'Aucune transaction'. Faut-i... | {
"block": "seed-internal",
"origin_sample_id": "audit_a061",
"source": "mssense_internal_audit"
} | 4664976ca07a195e7e604646b79cea433eb5ab23fbea984860cd12d25ddfff70 | seed_0059_audit_a061 | mssense_internal_audit | audit | db565bc568c393a69b6257bf4421d1851ea8b10830f95f7d1ad9c9b6a8834651 | Le workflow rapproche les transactions bancaires avec les écritures comptables en traitant chaque transaction. | Le workflow rapproche les transactions bancaires avec les écritures comptables en traitant chaque transaction. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Le fichier est destiné à un logiciel comptable utilisé en France.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 4e0aba54a2a3bb09e2eaca8f15fd01e3a7b39fd77933a6439c86521d9636f54c | hard | true | "L'export CSV n'a pas de séparateur précisé. Les logiciels comptables français utilisent souvent le point-virgule comme séparateur (car la virgule est le séparateur décimal en France). Quel séparateur utilise le logiciel du cabinet ?" | [
"Point-virgule ; (standard FR)",
"Virgule , (standard international)",
"Tabulation (TAB)",
"À confirmer avec le cabinet"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A062",
"declared_channel": "FILE_IO",
"domain": "Finance — Export comptable",
"source_file": "dataset_ambiguite.md",
"title": "Choix du séparateur CSV pour l'export international"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "ecritures",
"value": "SELECT date, compte, libelle, debit, credit FROM ecritures WHERE exercice = '${exercice}'"
},
{
"action": "WriteFile",
"channel": "FILE_IO",
"id": "s2",
"params": {
"cont... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"L'export CSV n'a pas de séparateur précisé. Les logiciels comptables français utilisent souvent le point-virgule comme séparateur (car la virgule est le séparateur décimal en France). Quel séparateur ... | {
"block": "seed-internal",
"origin_sample_id": "audit_a062",
"source": "mssense_internal_audit"
} | 9ad4913c6ec1908ffa59d2e27ec8ef76c17238c4ee7c2dc1bd7bcb5b6060ab63 | seed_0060_audit_a062 | mssense_internal_audit | audit | 4e0aba54a2a3bb09e2eaca8f15fd01e3a7b39fd77933a6439c86521d9636f54c | Le workflow exporte les écritures comptables en fichier CSV pour le logiciel du cabinet d'expertise comptable. | Le workflow exporte les écritures comptables en fichier CSV pour le logiciel du cabinet d'expertise comptable. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les commandes proviennent du système français (format DD/MM/YYYY).",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
},
{
"description": "Le partenaire est américain.",
"id": "br_raw_2",
"iris_control_type": null,
"lat_step_ids... | web | d931efc2cce330ce54456636ee9aad7a943daa6ff1833ac43e2be4bbdecc45bf | hard | true | "Les dates sont transmises en format ${commande.date} qui suit le format français DD/MM/YYYY. Un partenaire américain attend généralement MM/DD/YYYY ou ISO 8601 (YYYY-MM-DD). Quel format de date l'API du partenaire attend-elle ?" | [
"ISO 8601 : YYYY-MM-DD (recommandé)",
"MM/DD/YYYY (format US)",
"Conserver DD/MM/YYYY si le partenaire accepte",
"Vérifier la documentation API du partenaire"
] | INVALID | [
"AMBIGUOUS_SELECTOR"
] | text | {
"case_id": "A063",
"declared_channel": "API_REST",
"domain": "Commercial — Commandes export",
"source_file": "dataset_ambiguite.md",
"title": "\"Format standard\" pour date dans un contexte bi-national"
} | [
{
"action": "PostRequest",
"channel": "API_REST",
"id": "s1",
"params": {
"body": {
"delivery_date": "${commande.date_livraison}",
"order_date": "${commande.date}"
}
},
"value": "https://partner-us.com/api/orders"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"AMBIGUOUS_SELECTOR"
],
"expected_question": "\"Les dates sont transmises en format ${commande.date} qui suit le format français DD/MM/YYYY. Un partenaire américain attend généralement MM/DD/YYYY ou ISO 8601 (YYYY-MM-DD). Quel format de date l'API ... | {
"block": "seed-internal",
"origin_sample_id": "audit_a063",
"source": "mssense_internal_audit"
} | 2348d68924f2048bdfe55605dd290940445078ebb70718ed87ce84000e91df84 | seed_0061_audit_a063 | mssense_internal_audit | audit | d931efc2cce330ce54456636ee9aad7a943daa6ff1833ac43e2be4bbdecc45bf | Le workflow envoie les commandes au partenaire américain via leur API REST en format standard. | Le workflow envoie les commandes au partenaire américain via leur API REST en format standard. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Toute modification de facture nécessite une validation du responsable comptable avant application.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 2f42b300f137fb8db8704e4d420dc93c5e877b134bbfa697c1227f9e1b21a03a | easy | true | "Le plan modifie directement le montant de la facture, mais la règle métier exige une validation du responsable comptable avant toute modification. Faut-il ajouter une étape d'approbation avant la mise à jour ?" | [
"Oui, envoyer pour approbation avant modification",
"La modification est déjà pré-approuvée dans ce contexte",
"Ajouter un log d'audit uniquement (sans blocage)"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C001",
"declared_channel": "DATABASE",
"domain": "Finance — Modification facture",
"source_file": "dataset_contradiction.md",
"title": "Modification sans approbation"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"value": "UPDATE factures SET montant = ${nouveau_montant} WHERE id = ${facture_id}"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le plan modifie directement le montant de la facture, mais la règle métier exige une validation du responsable comptable avant toute modification. Faut-il ajouter une étape d'approbation avant la mise ... | {
"block": "seed-internal",
"origin_sample_id": "audit_c001",
"source": "mssense_internal_audit"
} | b763945f6f79566e3765f0d6217b299af3f6eba2e7f6e5b7e15c36adad39c0f6 | seed_0062_audit_c001 | mssense_internal_audit | audit | 2f42b300f137fb8db8704e4d420dc93c5e877b134bbfa697c1227f9e1b21a03a | Le workflow corrige automatiquement le montant d'une facture fournisseur erronée. | Le workflow corrige automatiquement le montant d'une facture fournisseur erronée. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les données employés ne doivent jamais être supprimées — archiver uniquement (obligation légale de conservation 5 ans après sortie).",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 056e4458e2fcf815619b9b55213d461499bc9290e20d289ef899290aacc7607d | easy | true | "Le plan supprime définitivement des fiches employés, mais la règle légale interdit la suppression — seule l'archivage est autorisé. Faut-il remplacer le DELETE par une mise à jour du statut d'archivage ?" | [
"Oui, UPDATE statut='ARCHIVE' au lieu de DELETE",
"Déplacer vers une table d'archive puis DELETE",
"La règle ne s'applique pas dans ce cas (à justifier)"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C002",
"declared_channel": "DATABASE",
"domain": "RH — Nettoyage base employés",
"source_file": "dataset_contradiction.md",
"title": "Suppression de données interdite"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"value": "DELETE FROM employes WHERE date_sortie < NOW() - INTERVAL 5 YEAR"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le plan supprime définitivement des fiches employés, mais la règle légale interdit la suppression — seule l'archivage est autorisé. Faut-il remplacer le DELETE par une mise à jour du statut d'archivage... | {
"block": "seed-internal",
"origin_sample_id": "audit_c002",
"source": "mssense_internal_audit"
} | 2568636a1be2e112ed3d47f4671680a750a2ca37c0b5eb8c246dcc66a4e29d23 | seed_0063_audit_c002 | mssense_internal_audit | audit | 056e4458e2fcf815619b9b55213d461499bc9290e20d289ef899290aacc7607d | Le workflow nettoie la base en supprimant les fiches des anciens employés partis depuis plus de 5 ans. | Le workflow nettoie la base en supprimant les fiches des anciens employés partis depuis plus de 5 ans. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Toute commande doit avoir une date de livraison souhaitée et un mode de paiement renseignés avant soumission.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | web | 423a81156ef844a546d6eaffcf1926a784b31850451a4cade1dd2f9bf006d1c0 | easy | true | "Le plan soumet la commande sans renseigner la date de livraison souhaitée ni le mode de paiement, pourtant obligatoires selon la règle métier. Ces champs doivent-ils être ajoutés avant la soumission ?" | [
"Oui, ajouter les étapes de saisie date livraison + mode paiement",
"Ces champs ont des valeurs par défaut acceptables",
"La commande sera complétée manuellement après soumission"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C003",
"declared_channel": "WEB_DOM",
"domain": "Commercial — Création commande",
"source_file": "dataset_contradiction.md",
"title": "Validation de champs obligatoires ignorée"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://crm.internal/commandes/nouvelle"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='client-id']",
"value": "${ctx.client_id}"
},
{
"action": "LeftClick",
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le plan soumet la commande sans renseigner la date de livraison souhaitée ni le mode de paiement, pourtant obligatoires selon la règle métier. Ces champs doivent-ils être ajoutés avant la soumission ?\... | {
"block": "seed-internal",
"origin_sample_id": "audit_c003",
"source": "mssense_internal_audit"
} | 9176991d27faa103f8960693ce992802281b33b7336aeac93f53b99a447850e3 | seed_0064_audit_c003 | mssense_internal_audit | audit | 423a81156ef844a546d6eaffcf1926a784b31850451a4cade1dd2f9bf006d1c0 | Le workflow crée une commande client en saisissant les informations de base puis la soumet directement. | Le workflow crée une commande client en saisissant les informations de base puis la soumet directement. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Avant tout écrasement d'un fichier de référence, une copie horodatée doit être créée dans le dossier d'archive.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 8229eeff67fd9cd47e4ccb739bf03d0db638902c96c41913c83ff06b46786bc4 | easy | true | "Le plan écrase directement le fichier de taux de change sans créer de copie préalable, mais la règle exige une copie horodatée avant écrasement. Faut-il ajouter une étape de copie d'archive avant l'écriture ?" | [
"Oui, copier vers archive avec timestamp avant écrasement",
"L'archivage est géré par un autre processus (à confirmer)",
"Pas nécessaire pour ce fichier (exception à documenter)"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C004",
"declared_channel": "FILE_IO",
"domain": "Finance — Mise à jour fichier de référence",
"source_file": "dataset_contradiction.md",
"title": "Écrasement sans sauvegarde préalable"
} | [
{
"action": "WriteFile",
"channel": "FILE_IO",
"id": "s1",
"params": {
"content": "${nouveaux_taux}",
"overwrite": true
},
"value": "C:\\ref\\taux_change.csv"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le plan écrase directement le fichier de taux de change sans créer de copie préalable, mais la règle exige une copie horodatée avant écrasement. Faut-il ajouter une étape de copie d'archive avant l'écr... | {
"block": "seed-internal",
"origin_sample_id": "audit_c004",
"source": "mssense_internal_audit"
} | f253c78d17f6411a4727e8b7bfd6c2035c9c05af1220826e9ebeb838b1591799 | seed_0065_audit_c004 | mssense_internal_audit | audit | 8229eeff67fd9cd47e4ccb739bf03d0db638902c96c41913c83ff06b46786bc4 | Le workflow met à jour le fichier de référence des taux de change en écrasant l'ancien fichier. | Le workflow met à jour le fichier de référence des taux de change en écrasant l'ancien fichier. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les tests d'intégration ne doivent jamais cibler l'environnement de production — utiliser uniquement https://api.staging.company.com.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | web | 275b4db9aed15c8641addb9dbd5db0acae1ad8e00b483b4cb3c83b37e80c0fcd | easy | true | "Le workflow de test pointe vers l'URL de production (`api.production`), mais la règle interdit les tests sur la production. L'URL doit-elle être remplacée par `api.staging.company.com` ?" | [
"Oui, utiliser l'URL de staging",
"Ce test a une autorisation d'accès production (à documenter)",
"Utiliser une variable d'environnement configurable"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C005",
"declared_channel": "WEB_DOM",
"domain": "IT — Déploiement",
"source_file": "dataset_contradiction.md",
"title": "Accès production depuis environnement de test"
} | [
{
"action": "PostRequest",
"channel": "API_REST",
"id": "s1",
"params": {
"body": {
"data": "${test_data}",
"test": true
}
},
"value": "https://api.production.company.com/orders"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le workflow de test pointe vers l'URL de production (`api.production`), mais la règle interdit les tests sur la production. L'URL doit-elle être remplacée par `api.staging.company.com` ?\"",
"expecte... | {
"block": "seed-internal",
"origin_sample_id": "audit_c005",
"source": "mssense_internal_audit"
} | d0db9cf39e0a0804dc0493ec566106f2c2d38b6483cb826429fbe8743aaa8f9d | seed_0066_audit_c005 | mssense_internal_audit | audit | 275b4db9aed15c8641addb9dbd5db0acae1ad8e00b483b4cb3c83b37e80c0fcd | Le workflow de test vérifie l'intégration en envoyant des données de test à l'API. | Le workflow de test vérifie l'intégration en envoyant des données de test à l'API. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [] | desktop | f496f93a1f2cc92673890e10f86d82956dee55429130e4ad53db3b1777d0994c | easy | true | "Le classeur est ouvert en lecture seule (étape 1) mais l'étape 2 tente d'y écrire, ce qui échouera. Faut-il ouvrir le classeur en mode écriture, ou l'écriture doit-elle se faire dans un fichier différent ?" | [
"Ouvrir sans readOnly:true pour permettre l'écriture",
"Écrire dans un fichier de commentaires séparé",
"Créer une copie modifiable du rapport"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C006",
"declared_channel": "EXCEL",
"domain": "Finance — Rapport protégé",
"source_file": "dataset_contradiction.md",
"title": "Écriture sur fichier ouvert en lecture seule"
} | [
{
"action": "OpenWorkbook",
"channel": "EXCEL",
"id": "s1",
"output_var": "wb",
"params": {
"readOnly": true
},
"value": "C:\\rapports\\rapport_audit.xlsx"
},
{
"action": "WriteCell",
"channel": "EXCEL",
"id": "s2",
"instance": "wb",
"params": {
"col":... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le classeur est ouvert en lecture seule (étape 1) mais l'étape 2 tente d'y écrire, ce qui échouera. Faut-il ouvrir le classeur en mode écriture, ou l'écriture doit-elle se faire dans un fichier différe... | {
"block": "seed-internal",
"origin_sample_id": "audit_c006",
"source": "mssense_internal_audit"
} | 6f8eeb4b343746fa8af3747ecbbd951c543ac536b2a81edaae39aefee42da41b | seed_0067_audit_c006 | mssense_internal_audit | audit | f496f93a1f2cc92673890e10f86d82956dee55429130e4ad53db3b1777d0994c | Le workflow lit le rapport financier protégé et y ajoute les commentaires de l'auditeur. | Le workflow lit le rapport financier protégé et y ajoute les commentaires de l'auditeur. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Un seul enregistrement de pointage supplémentaire par employé et par jour est autorisé.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 6c615460901dab363d3f50687ce761f7bb1fa96655234db3707115d12b0be4b0 | easy | true | "Le plan peut insérer plusieurs lignes pour le même employé le même jour si la liste d'entrée contient des doublons, mais la règle n'autorise qu'une seule entrée par employé/jour. Faut-il ajouter une vérification d'existence avant l'insertion ?" | [
"Oui, SELECT avant INSERT pour détecter les doublons",
"Utiliser INSERT OR REPLACE (UPSERT)",
"Pré-dédupliquer la liste en entrée du workflow"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C007",
"declared_channel": "DATABASE",
"domain": "RH — Pointage journalier",
"source_file": "dataset_contradiction.md",
"title": "Entrée multiple sur une période à entrée unique"
} | [
{
"action": "Loop",
"channel": "CONTROL",
"id": "s1",
"params": {
"collection": "${heures_sup_liste}"
},
"sub_steps": [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1_1",
"value": "INSERT INTO pointage_sup (employe_id, date, heures) V... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le plan peut insérer plusieurs lignes pour le même employé le même jour si la liste d'entrée contient des doublons, mais la règle n'autorise qu'une seule entrée par employé/jour. Faut-il ajouter une vé... | {
"block": "seed-internal",
"origin_sample_id": "audit_c007",
"source": "mssense_internal_audit"
} | f86c8f90045c120b28d0e9e56eaebdb75c03694123858fe04890d5958e46c5ff | seed_0068_audit_c007 | mssense_internal_audit | audit | 6c615460901dab363d3f50687ce761f7bb1fa96655234db3707115d12b0be4b0 | Le workflow enregistre les heures supplémentaires de chaque employé pour la journée. | Le workflow enregistre les heures supplémentaires de chaque employé pour la journée. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Tout bon de commande doit passer par le circuit d'approbation avant d'avoir le statut APPROUVÉ — statut initial obligatoire : EN_ATTENTE_APPROBATION.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 56f2fa526e58af1e88e924c0852ff18204dc730791d91d8e316d1b5e60a60bdf | easy | true | "Le bon de commande est créé directement avec le statut 'APPROUVÉ', contournant le circuit d'approbation obligatoire. Le statut initial doit être 'EN_ATTENTE_APPROBATION'. Faut-il corriger la valeur du statut ?" | [
"Oui, utiliser statut='EN_ATTENTE_APPROBATION'",
"Ce workflow est exécuté par un approbateur habilité (à documenter)",
"Ajouter une condition sur le montant (auto-approuvé si < seuil)"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C008",
"declared_channel": "DATABASE",
"domain": "Achats — Bon de commande",
"source_file": "dataset_contradiction.md",
"title": "Auto-approbation contournant le circuit"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"value": "INSERT INTO bons_commande (fournisseur_id, montant, statut) VALUES (${fournisseur_id}, ${montant}, 'APPROUVE')"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le bon de commande est créé directement avec le statut 'APPROUVÉ', contournant le circuit d'approbation obligatoire. Le statut initial doit être 'EN_ATTENTE_APPROBATION'. Faut-il corriger la valeur du ... | {
"block": "seed-internal",
"origin_sample_id": "audit_c008",
"source": "mssense_internal_audit"
} | f735988e4a137f8a978b3d43fae4c76369463b21fe44ce8bbd8f76f199228019 | seed_0069_audit_c008 | mssense_internal_audit | audit | 56f2fa526e58af1e88e924c0852ff18204dc730791d91d8e316d1b5e60a60bdf | Le workflow crée un bon de commande et le passe directement au statut approuvé. | Le workflow crée un bon de commande et le passe directement au statut approuvé. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "RGPD : Les logs applicatifs ne doivent contenir aucune donnée personnelle identifiable (nom, salaire, IBAN).",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 2239a5ada3d0e656d9e4239f085b96f1b4de3474d1a9e33ad7b2390796adce2f | easy | true | "Le log contient le nom, prénom, salaire et IBAN de l'employé, ce qui viole la règle RGPD interdisant les données personnelles dans les logs. Faut-il remplacer ces données par un identifiant anonyme (ex: matricule) ?" | [
"Oui, journaliser uniquement le matricule et le statut de traitement",
"Chiffrer les données sensibles dans les logs",
"Utiliser un niveau de log séparé avec accès restreint"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C009",
"declared_channel": "CODE",
"domain": "RH — Traitement paie",
"source_file": "dataset_contradiction.md",
"title": "Données personnelles en clair dans les logs"
} | [
{
"action": "Execute",
"channel": "CODE",
"id": "s1",
"value": "logger.info(f'Traitement paie employé: {employe.nom} {employe.prenom}, salaire={employe.salaire_net}, iban={employe.iban}')"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le log contient le nom, prénom, salaire et IBAN de l'employé, ce qui viole la règle RGPD interdisant les données personnelles dans les logs. Faut-il remplacer ces données par un identifiant anonyme (ex... | {
"block": "seed-internal",
"origin_sample_id": "audit_c009",
"source": "mssense_internal_audit"
} | dfabe8a760d187c7b9e3fb0c1ae13d6d6a78bf3316d11fdb2bb869d3a28c4717 | seed_0070_audit_c009 | mssense_internal_audit | audit | 2239a5ada3d0e656d9e4239f085b96f1b4de3474d1a9e33ad7b2390796adce2f | Le workflow traite les bulletins de paie et journalise chaque traitement pour traçabilité. | Le workflow traite les bulletins de paie et journalise chaque traitement pour traçabilité. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les contrats expirés (date_fin < AUJOURD'HUI) et les contrats résiliés ne doivent pas être renouvelés.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 1b128deac0933ababbcda1f6a4f383aea390fabbe33a9fe8baa0b143639468eb | easy | true | "Le plan traite TOUS les contrats sans filtrer les expirés ni les résiliés, mais la règle interdit leur renouvellement. Faut-il ajouter un filtre `WHERE date_fin >= NOW() AND statut != 'RESILIE'` ?" | [
"Oui, filtrer les contrats actifs uniquement",
"Générer les factures mais les bloquer si contrat expiré",
"Vérifier le statut dans la boucle et ignorer les inéligibles"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C010",
"declared_channel": "DATABASE",
"domain": "Commercial — Renouvellement contrats",
"source_file": "dataset_contradiction.md",
"title": "Traitement de dossiers expirés"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"output_var": "tous_contrats",
"value": "SELECT * FROM contrats"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${tous_contrats}"
},
"sub_steps": [
{
... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le plan traite TOUS les contrats sans filtrer les expirés ni les résiliés, mais la règle interdit leur renouvellement. Faut-il ajouter un filtre `WHERE date_fin >= NOW() AND statut != 'RESILIE'` ?\"",
... | {
"block": "seed-internal",
"origin_sample_id": "audit_c010",
"source": "mssense_internal_audit"
} | a5800331b62001f459f196a04c66174db90d174ee381a1464576e262bf8ecd66 | seed_0071_audit_c010 | mssense_internal_audit | audit | 1b128deac0933ababbcda1f6a4f383aea390fabbe33a9fe8baa0b143639468eb | Le workflow génère les factures de renouvellement pour tous les contrats de la base. | Le workflow génère les factures de renouvellement pour tous les contrats de la base. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Toute écriture d'ajustement doit obligatoirement comporter un commentaire justificatif avant validation.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | web | d62e9f4198f57a7c67e304224d1324063be195df2025104a5c8b45a9dc13aa23 | easy | true | "Le plan valide l'écriture sans saisir de commentaire justificatif, pourtant obligatoire pour les ajustements comptables. Faut-il ajouter une étape de saisie du commentaire avant la validation ?" | [
"Oui, ajouter TypeInto sur le champ commentaire",
"Le commentaire est prérempli par le contexte (à vérifier)",
"Documenter l'exception pour cet ajustement spécifique"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C011",
"declared_channel": "WEB_DOM",
"domain": "Finance — Ajustement comptable",
"source_file": "dataset_contradiction.md",
"title": "Commentaire obligatoire omis"
} | [
{
"action": "NavigateTo",
"channel": "WEB_DOM",
"id": "s1",
"value": "https://erp.internal/ecritures/nouvelle"
},
{
"action": "TypeInto",
"channel": "WEB_DOM",
"id": "s2",
"selector": "//input[@id='compte']",
"value": "${ctx.compte}"
},
{
"action": "TypeInto",
"ch... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le plan valide l'écriture sans saisir de commentaire justificatif, pourtant obligatoire pour les ajustements comptables. Faut-il ajouter une étape de saisie du commentaire avant la validation ?\"",
"... | {
"block": "seed-internal",
"origin_sample_id": "audit_c011",
"source": "mssense_internal_audit"
} | 649e7845c8bae642d9d63ad342f94dbca85f232c8cd31383b5eefb4740f89520 | seed_0072_audit_c011 | mssense_internal_audit | audit | d62e9f4198f57a7c67e304224d1324063be195df2025104a5c8b45a9dc13aa23 | Le workflow saisit une écriture d'ajustement comptable en fin de période. | Le workflow saisit une écriture d'ajustement comptable en fin de période. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les demandes d'achat supérieures à 10 000 € nécessitent l'approbation du directeur financier — l'approbation automatique est limitée aux montants ≤ 10 000 €.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
},
{
"description": "La demande... | other | a11c31961d706d16ad48e13bd3bea0b394906958a01a4ac546e707e1ad784ee8 | easy | true | "La demande d'achat est de 15 000 €, ce qui dépasse le seuil de 10 000 € autorisant l'approbation automatique. L'approbation du directeur financier est requise. Faut-il router cette demande vers le circuit d'approbation DF ?" | [
"Oui, envoyer au directeur financier pour approbation",
"Traiter en mode dégradé avec alerte (si urgence)",
"Vérifier si une délégation de pouvoir existe"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C012",
"declared_channel": "DATABASE",
"domain": "Achats — Demande d'achat",
"source_file": "dataset_contradiction.md",
"title": "Montant dépassant le seuil d'approbation automatique"
} | [
{
"action": "ExecuteQuery",
"channel": "DATABASE",
"id": "s1",
"value": "UPDATE demandes_achat SET statut='APPROUVE', date_approbation=NOW() WHERE id=${demande_id}"
}
] | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"La demande d'achat est de 15 000 €, ce qui dépasse le seuil de 10 000 € autorisant l'approbation automatique. L'approbation du directeur financier est requise. Faut-il router cette demande vers le circ... | {
"block": "seed-internal",
"origin_sample_id": "audit_c012",
"source": "mssense_internal_audit"
} | 625d2c71b2858abc59b3a402fe7cabf1ce26027b3baf8e9db503475b85b89e7d | seed_0073_audit_c012 | mssense_internal_audit | audit | a11c31961d706d16ad48e13bd3bea0b394906958a01a4ac546e707e1ad784ee8 | Le workflow traite les demandes d'achat et les approuve automatiquement. | Le workflow traite les demandes d'achat et les approuve automatiquement. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les documents traités doivent être déplacés vers le dossier d'archive `\\\\NAS\\archive\\` — aucune suppression directe n'est autorisée.",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 4112e27286f685cd9949c3e8d47008cc9fd26ae07767f84a6cb269b81b960096 | easy | true | "Le plan supprime directement les fichiers traités, mais la règle impose un déplacement vers l'archive. Faut-il remplacer DeleteFile par MoveFile vers `\\NAS\archive\` ?" | [
"Oui, remplacer DeleteFile par MoveFile vers \\NAS\\archive\\",
"Supprimer après confirmation d'archivage",
"L'archivage est géré par un autre processus (à confirmer)"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C013",
"declared_channel": "FILE_IO",
"domain": "Administration — Gestion documents",
"source_file": "dataset_contradiction.md",
"title": "Archivage remplacé par suppression"
} | [
{
"action": "ListFiles",
"channel": "FILE_IO",
"id": "s1",
"output_var": "fichiers",
"value": "C:\\traitement\\"
},
{
"action": "Loop",
"channel": "CONTROL",
"id": "s2",
"params": {
"collection": "${fichiers}"
},
"sub_steps": [
{
"action": "DeleteF... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le plan supprime directement les fichiers traités, mais la règle impose un déplacement vers l'archive. Faut-il remplacer DeleteFile par MoveFile vers `\\\\NAS\\archive\\` ?\"",
"expected_statuses": [... | {
"block": "seed-internal",
"origin_sample_id": "audit_c013",
"source": "mssense_internal_audit"
} | e78cc8e75b3c42719f53d377900be2cfdc265cfefe36bb6f5a2be187110b31ba | seed_0074_audit_c013 | mssense_internal_audit | audit | 4112e27286f685cd9949c3e8d47008cc9fd26ae07767f84a6cb269b81b960096 | Le workflow nettoie les documents traités en les supprimant du dossier de traitement. | Le workflow nettoie les documents traités en les supprimant du dossier de traitement. | null | null | null | null | null | null | null |
[
"content_hash"
] | 1.1-eval | [
{
"description": "Les rapprochements bancaires doivent être traités séquentiellement — le rapport de synthèse final dépend de l'ordre de traitement des comptes (EUR → devises).",
"id": "br_raw_1",
"iris_control_type": null,
"lat_step_ids": [],
"type": "RAW"
}
] | other | 04f0e945392224fb8428bff259cc6b17e4410d615c51b69f417dbea667d69b7d | easy | true | "Le plan exécute les rapprochements en parallèle, mais la règle impose un traitement séquentiel (EUR en premier). Faut-il remplacer ParallelExecute par une séquence d'appels ?" | [
"Oui, exécuter en séquence EUR → USD → GBP",
"Le parallélisme est acceptable si le rapport est consolidé après",
"Vérifier si la dépendance d'ordre est strictement nécessaire"
] | INVALID | [
"INCONSISTENT_FLOW"
] | text | {
"case_id": "C014",
"declared_channel": "CONTROL",
"domain": "Finance — Rapprochement bancaire",
"source_file": "dataset_contradiction.md",
"title": "Traitement parallèle sur processus séquentiel obligatoire"
} | [
{
"action": "ParallelExecute",
"channel": "CONTROL",
"id": "s1",
"sub_steps": [
{
"action": "Execute",
"channel": "CODE",
"id": "s1_1",
"value": "rapprocher_compte('COMPTE_EUR')"
},
{
"action": "Execute",
"channel": "CODE",
"i... | real_artefact | {
"expected_decision": "INVALID",
"expected_issue_types": [
"INCONSISTENT_FLOW"
],
"expected_question": "\"Le plan exécute les rapprochements en parallèle, mais la règle impose un traitement séquentiel (EUR en premier). Faut-il remplacer ParallelExecute par une séquence d'appels ?\"",
"expected_statuses":... | {
"block": "seed-internal",
"origin_sample_id": "audit_c014",
"source": "mssense_internal_audit"
} | 7291b59254ebec2b283f4107f403f93fa698cd666f1663de01a90d08b90a9805 | seed_0075_audit_c014 | mssense_internal_audit | audit | 04f0e945392224fb8428bff259cc6b17e4410d615c51b69f417dbea667d69b7d | Le workflow traite les rapprochements bancaires de plusieurs comptes en parallèle pour accélérer le traitement. | Le workflow traite les rapprochements bancaires de plusieurs comptes en parallèle pour accélérer le traitement. | null | null | null | null | null | null | null |
End of preview. Expand in Data Studio
YAML Metadata Warning:The task_categories "text2text-generation" is not in the official list: text-classification, token-classification, table-question-answering, question-answering, zero-shot-classification, translation, summarization, feature-extraction, text-generation, fill-mask, sentence-similarity, text-to-speech, text-to-audio, automatic-speech-recognition, audio-to-audio, audio-classification, audio-text-to-text, voice-activity-detection, depth-estimation, image-classification, object-detection, image-segmentation, text-to-image, image-to-text, image-to-image, image-to-video, unconditional-image-generation, video-classification, reinforcement-learning, robotics, tabular-classification, tabular-regression, tabular-to-text, table-to-text, multiple-choice, text-ranking, text-retrieval, time-series-forecasting, text-to-video, image-text-to-text, image-text-to-image, image-text-to-video, visual-question-answering, document-question-answering, zero-shot-image-classification, graph-ml, mask-generation, zero-shot-object-detection, text-to-3d, image-to-3d, image-feature-extraction, video-text-to-text, keypoint-detection, visual-document-retrieval, any-to-any, video-to-video, other
mssense Evaluation Benchmark — Closed-Vocabulary Action Trace Generation
Canonical version / DOI: archived on Zenodo at https://doi.org/10.5281/zenodo.21105006 (CC-BY-4.0). This Hugging Face repository is a distribution mirror — please cite the Zenodo DOI.
An evaluation-only benchmark for closed-vocabulary action trace generation in conversational Robotic Process Automation (RPA) authoring. Each sample pairs a conversational request with the oracle labels needed to judge whether a generated action trace is executable against a closed, typed, channel-specific action catalogue — not merely schema-valid.
- Version: 1.1-eval
- Samples: 1865 (1772 seeds + 93 deterministic paraphrastic variants)
- Task families (9): clarification policy, LAT audit, semantic judgment, workflow creation, business-rule extraction, visual grounding / governance, modification intent, audit, interaction regression
- Split: none — the full file is the evaluation suite
- License: Creative Commons Attribution 4.0 International (CC-BY-4.0)
Terminology
A few names in this benchmark are specific to the platform it originates from.
They are kept verbatim because they are used throughout the samples and schema
(for example, in sample_id prefixes and iris_* field names) and changing them
would break reproducibility and the dataset's published identity. The acronyms
are platform-specific; the problems they instantiate are general and
platform-independent.
| Term | Meaning (community-standard concept) |
|---|---|
| action trace | an ordered sequence of typed, executable actions — the durable artefact the system must produce |
| LAT (LeBrain Action Trace) | the platform-specific instance of an action trace used in this benchmark; a list of typed steps. The field lat_candidate holds the candidate trace under analysis |
| mssense | the conversational intent-understanding and workflow-validation component evaluated by this benchmark (the system under test); also the benchmark's name |
| LeBrain | the automation / intelligence platform (Novelis) that connects applications and automates business processes; it defines the closed action catalogue and executes the traces |
| IRIS | LeBrain's Computer Use Agent; the iris_* fields (e.g., iris_control_type) describe executable UI steps targeted at IRIS |
| Intentia | the 2026 research programme of the Novelis R&D laboratory, within which mssense is developed |
| channel | an action category / connector — web, desktop, spreadsheet, email, database, API, file, control-flow |
| oracle | the per-sample ground-truth block (expected_decision, expected_issue_types, required_checks) used for scoring |
Contents
data/mssense_eval_benchmark_v1_1.jsonl the benchmark (one JSON object per line)
schema/evaluation_sample.v1_1.schema.json JSON Schema for a sample
docs/datasheet.md Datasheet for Datasets (Gebru et al., 2018)
docs/dataset_card.md dataset card
docs/evaluation_protocol.md metrics, splits, scoring conventions
docs/related_benchmarks_comparison.md property-by-property comparison of 16 public benchmarks
docs/why_new_benchmark.md one-page gap analysis
docs/statistical_power_analysis.md a priori power analysis per research question
docs/inter_annotator_agreement.md IAA disclosure and v1.2 roadmap
reports/CHANGELOG_v1.0_to_v1.1.md changes from v1.0 to v1.1
LICENSE-DATA CC-BY-4.0
CITATION.cff citation metadata
SHA256SUMS.txt integrity checksums
Verify integrity with sha256sum -c SHA256SUMS.txt (or certutil -hashfile <file> SHA256 on Windows).
Sample format
One JSON object per line. Key fields include sample_id, task_family,
channel_family, input_modality, difficulty, user_intent, input_payload,
lat_candidate, expected_decision, expected_issue_types, business_rules,
and an oracle object with required_checks. See
schema/evaluation_sample.v1_1.schema.json and docs/datasheet.md for the full
specification.
The issue-type vocabulary is the platform's canonical set:
MISSING_VALUE, UNRESOLVED_VARIABLE, AMBIGUOUS_SELECTOR,
MISSING_PRECONDITION, INCONSISTENT_FLOW.
import json
samples = [json.loads(l) for l in open("data/mssense_eval_benchmark_v1_1.jsonl", encoding="utf-8")]
print(len(samples), "samples")
Provenance and license
The released benchmark comprises internally-authored audit, validation, and
generation cases, licensed under CC-BY-4.0. A WONDERBREAD-derived sub-corpus
is prepared in the release tree under a forward-looking attribution clause and is
not included in this v1.1 evaluation file pending adjudication; the clause
takes effect on its first integrated release. Full provenance is documented in
docs/datasheet.md.
Privacy and sanitization. This public release is privacy-sanitized: internal
authoring paths in the input_payload.source_file field were reduced to file
basenames, and incidental personal data that appeared as example form-fill values
in a few interaction scenarios were replaced with synthetic values. These are
metadata and scenario-input fields only; no oracle label (expected_decision,
expected_issue_types, oracle) was modified, so the evaluation is unaffected.
Associated publication
This benchmark supports the manuscript Closed-Vocabulary Action Trace Generation for Conversational RPA Authoring (Yahaya Alassan, Ettifouri, Dahhane; Novelis), submitted to the Journal of Object Technology.
Citation
Dataset DOI: https://doi.org/10.5281/zenodo.21105006 (CC-BY-4.0). See
CITATION.cff for machine-readable citation metadata.
- Downloads last month
- 69