French version prepared with machine assistance; human review by a professional translator is recommended before use.

Diapositives de la séance 1

Diapositives de la séance 1

Fondements de l’IA responsable

Humanitarian AI Training Kit | Séance 1 | Niveau 1

ParalleX Labs Inc. | Matériels d’apprentissage seulement

Règles de base

  • Utiliser seulement des exemples synthétiques et publics
  • Les participants ne partagent pas de données réelles de bénéficiaires ou de cas dans le clavardage
  • Caméra et microphone optionnels
  • Participation à l’oral ou par clavardage écrit
  • Vous restez responsable des décisions

Diagnostic (4 questions)

  1. Nommez un outil d’IA que vous avez utilisé ou entendu au travail.
  2. Quelle est une préoccupation sur l’IA dans l’action humanitaire?
  3. Qui approuve les nouveaux outils numériques dans votre organisation?
  4. Quelle est une tâche que vous pourriez soutenir avec l’IA?

Qu’est-ce que l’IA générative?

  • Crée du texte, des images, du code ou de l’audio à partir de consignes
  • Ne garantit pas la vérité
  • Peut sembler confiante quand elle a tort
  • Exemples : rédaction, résumé, traduction

Cela ne correspond pas à chaque étiquette « IA » sur un logiciel.

Prédiction et automatisation

Type Fait Exemple humanitaire
Prédiction Évalue les risques à partir de motifs Cartographie d’exposition aux inondations
Automatisation Exécute des règles fixes Routage automatique de formulaires
Générative Produit du nouveau contenu Brouillon de rapport à partir de notes

Tous nécessitent une gouvernance. Les outils génératifs nécessitent une vérification supplémentaire.

Responsabilité

Question : Si l’IA soutient une décision, qui est responsable?

  • Le fournisseur? Non
  • Le modèle? Non
  • Une personne nommée dans votre organisation? Oui

L’approbation humaine, l’annulation et le recours sont requis pour les usages importants.

Lentille de protection

Avant l’outil, demandez :

  • Qui en bénéficie? Qui peut être exclu?
  • Les personnes touchées et les partenaires locaux ont-ils façonné la tâche?
  • Comment peut-on contester ou corriger le résultat?

Principes fondamentaux : humanité, impartialité, neutralité, indépendance.

Exemple guidé : la décision

Tâche : Examiner un brouillon de SMS d’évacuation. Vous ne pouvez pas l’envoyer.

Source W1 (10 h 00) : Centre d’accueil A ouvert. Seule l’entrée E est de plain-pied. Itinéraire routier : non confirmé.

Brouillon : « Route B ouverte. Toutes les entrées de plain-pied. Allez-y maintenant. »

Exemple guidé : vérification des sources

Affirmation W1 Marque
Route B ouverte Info sur les routes absente Non établie (ne figure pas dans W1)
Toutes les entrées de plain-pied Seulement E Contredite
Allez-y maintenant Autorité d’envoi absente Non établie (ne figure pas dans W1)

Filtre en sept étapes (aperçu)

  1. Objectif et alternative
  2. Personnes et partenaires
  3. Données
  4. Outil et fournisseur
  5. Vérification
  6. Contrôle humain
  7. Suivi et arrêt

Décision : Vert / Ambre / Rouge + responsable + date d’examen

Exercice de groupe

Cas : SMS d’évacuation pour feu de forêt (synthétique)

12 minutes en groupes

Appliquer le filtre en sept étapes

Préparer : un enjeu de protection + décision V/A/R

Questions de débriefing

  • Qu’est-ce qui a été contredit dans le brouillon?
  • Qui pourrait être blessé?
  • Qui approuve un message corrigé?
  • Quelle voie manuelle reste si l’outil échoue?

Une règle à retenir

Arrêter si la source n’est pas vérifiée ou si un point d’approbation humaine est manquant.

Votre plan d’action

Écrire une action sûre avant la séance 2 :

  • Appliquer le filtre à une tâche fictive
  • Lire la politique d’IA ou de données de votre organisation
  • Demander à votre gestionnaire quels outils sont approuvés

Optionnel : pratique de 10 minutes entre les séances