Home » News » Vos retours sur le Congrès SEVAL GREVAL 2020 (pt. 1)

Suivez-nous

LinkedIn
RSS

Prochains évènements

Pas d'évènements prévus pour le moment.

Restons en contact

Vos retours sur le Congrès SEVAL GREVAL 2020 (pt. 1)

1. Un dispositif d’évaluation innovant

Si vous suivez le GREVAL depuis un certain temps, il est probable que nous nous soyons rencontrés au Congrès SEVAL GREVAL du 4 septembre 2020. Comme chaque année, les participants ont été invités à donner leur avis sur le congrès, ainsi que quelques informations sur leur profil. La participation au congrès est payante et il est dès lors précieux pour l’organisateur de disposer de données utiles à l’amélioration de ses événements futurs.

❝ Ce cas illustre plusieurs applications de la Data Science en évaluation ❞

Les chapitres de cet article

  1. Un dispositif d’évaluation innovant
    Vous êtes ici
    1. Une évaluation en continu
    2. Privilégier l’expérience utilisateur
    3. Les lacunes du dispositif
  2. Les résultats : ~100 participants, 64 répondants
    1. À quels moments les répondants ont-ils accédé aux questionnaires ?
    2. Quel taux de réponse par question ?
    3. Quel est le profil des répondants ?
    4. Quels sont les retours des répondants ?
  3. Le machine learning au service de l’évaluation
    1. L’analyse des sentiments (via Google Cloud)

Malgré les limites du travail bénévole, nous avons réussi à mettre en place un système moderne et innovant de récolte de données. Ce cas illustre également différentes applications de la Data Science (ou science des données) dans les pratiques évaluatives et, parmi elles, l’intelligence artificielle.


1.1 Une évaluation en continu

Le GREVAL étant le co-organisateur du congrès, nous avons favorisé un dispositif continu de récolte des données. Malgré un flux de réponses plus complexe, un tel dispositif présente plusieurs avantages :

  1. Il allège l’intensité de l’investissement – l’idée étant que les gens sont généralement plus disposés à répondre à 5 questionnaires de 3 minutes, espacés dans le temps, plutôt qu’à un questionnaire de 15 minutes.
  2. Il enregistre incrémentalement les réponses – si les interrogés ne répondent pas à tous les questionnaires, les réponses déjà transmises sont sauvegardées.
  3. Il profite des moments de haute disponibilité des interrogés – il est par exemple plus facile de récolter des informations au moment de l’inscription en ligne.

Le questionnaire du matin était entre autres accessible via code QR.

Les questionnaires ont été soumis à différents moments, chacun récoltant des informations spécifiques :

  • Au moment de l’inscription en ligne – leurs coordonnées, leur langue, etc.
  • Le matin du congrès – leur profil, leur avis sur la participation et les motivations de leur venue. Par contraintes techniques et comme nous souhaitions qu’ils répondent aux questions icebreaker durant la session, il a fallu organiser un questionnaire parallèle.
  • À midi – leur avis sur les conférences du matin.
  • Après la fin du congrès – leur avis sur les ateliers de l’après-midi.
Une évaluation en continu implique une gestion plus laborieuse des flux de données.

1.2 Privilégier l’expérience utilisateur

Rares sont les personnes qui cultivent une passion pour les questionnaires. Prévenir les refus ou les abandons est une partie importante de la planification de la récolte de données. Grossièrement, il s’agit d’augmenter la disposition des sondés à offrir leur temps à nos questions. Plusieurs stratégies sont possibles : on peut par exemple limiter le nombre de questions, profiter des moments où les coûts d’opportunité sont faibles, recourir à des motivations tierces, etc.

Outre la dilution des questions dans le temps, nous avons recouru à des formulaires de type “conversationnel” (en l’occurrence, la solution Survey Sparrow). Les questions sont soumises sous forme de conversation WhatsApp et le logiciel enregistre les réponses une à une (et non pas à la toute fin du questionnaire).

Survey Sparrow offre des questionnaires sous forme de conversation.

1.3 Les lacunes du dispositif

Il est important de préciser que le dispositif a été réalisé bénévolement, alors que le temps limité des organisateurs était occupé par des activités prioritaires (la gestion des intervenants, les mesures sanitaires ou la logistique par exemple). Les questionnaires résultent donc du temps qui leur a été consacré. De même, certaines informations n’ont pas été systématiquement recueillies, notamment le nombre effectif de participants. Il n’est pas non plus possible de savoir combien d’inscrits ne sont pas venus, combien de non-inscrits sont venus, ou encore combien sont partis au cours de la journée. Néanmoins, ayant compté approximativement le nombre de personnes dans l’auditoire en matinée, j’estime la population du congrès à environ 100.

Avec peu de ressources, on évalue comme on peut avant d’évaluer comme on veut. (Crédit photo : Luis Villasmil)

2. Les résultats : ~100 participants, 64 répondants

Comme nous nous intéressons avant tout aux retours des participants, nous ne retenons que les 64 personnes qui ont répondu à au moins une question sur le congrès : celles qui n’ont répondu que lors de l’inscription sont exclues. Après fusion des jeux de données, 54 colonnes sont retenues pour nos analyses.

Comme il était possible de sauter des questionnaires ou des questions, plusieurs colonnes contiennent des valeurs nulles. Sans surprise, les commentaires restent les moins renseignés. Le graphique suivant résume les informations sélectionnées et leur taux de valeurs manquantes.

Les 54 colonnes retenues et leur taux de valeurs manquantes

Ce qu’il faut retenir : les répondants sautent volontiers les commentaires et répondent de moins en moins au fil de la journée.

2.1 À quels moments les répondants ont-ils accédé aux questionnaires ?

Les répondants ont majoritairement ouvert leurs questionnaires le jour du congrès. Outre les slides ou les affiches lors du congrès, des liens ont été transmis par courriel le matin du congrès, ainsi que, pour les francophones, par relance les 15 et 21 septembre.

Dates des accès aux questionnaires

Notez que certains répondants ont accédé aux questionnaires sans forcément y répondre.

2.2 Quel taux de réponse par question ?

Les questions qui ont obtenues le plus de réponses sont celles qui ont été posées durant la session “icebreaker” (en vert et en rouge). Ce format mériterait d’être réexploité lors de nos prochains événements. Bien qu’ils soient moins renseignés, les commentaires optionnels ne sont pas systématiquement sautés. Peut-être que la précision demandée à la fin du questionnaire 1 (en rose) aurait pu être reformulée, si ce n’est retirée.

Notez que le questionnaire 2 (en gris) a bénéficié d’une invitation active (et décalée) durant la pause de midi : à la fin du repas, je me suis baladé auprès des participants avec les codes QR du questionnaire épinglé sur moi.


Opération “SCAN ME” à la pause de midi.

Taux de réponse par question (certaines sont moyennées)

Les taux surlignés en noir ( ) sont la moyenne des questions qui les composent (détail ci-dessous).

… Taux de réponse des questions moyennées

Michael Debétaz
Conseiller en organisation, Data Scientist
À propos de l’auteur

Après la MAP, j’ai fondé Sympa Bonnard, tout en accumulant de l’expérience dans le conseil en organisation et le développement de solutions numériques. Aujourd’hui, je suis consultant pour des associations et des administrations publiques (notamment @ ). Je m’engage dans la promotion de l’évaluation en Suisse romande et à abaisser la moyenne d’âge du GREVAL. Je cultive une passion sans borne pour ce que le numérique peut apporter à la gestion de projet et, bien sûr, à la pratique évaluative.

LinkedIn | YouTube | Écrivez-nous


Leave a comment

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *