Boîte noire
Aussi appelé : boîtes noires · boite noire · boites noires · black box
En bref
La boîte noire désigne un système d'IA dont les processus internes sont opaques, rendant difficile l'explication précise de la manière dont une décision a été prise.
📖 Définition
💬 En termes simples
C'est comme un chef cuisinier qui te sert un plat délicieux sans que personne ne sache quels ingrédients ou techniques il a utilisés en cuisine.
🎯 Exemple concret
Une PME québécoise utilisant un algorithme de recrutement doit pouvoir expliquer à un candidat pourquoi son dossier a été écarté, malgré l'opacité du modèle.
💡 Le saviez-vous ?
Le domaine de l'IA explicable (XAI) travaille spécifiquement à ouvrir ces boîtes pour rendre les décisions des machines compréhensibles par les humains.
❓ Questions fréquentes
Pourquoi l'opacité de la boîte noire est-elle problématique ?
Existe-t-il des moyens de percer cette boîte noire ?
Comment les régulateurs québécois encadrent-ils ce phénomène ?
📚 Sources
- DARPA - Explainable Artificial Intelligence (XAI) (DARPA, 2023)
- UNESCO - Recommendation on the Ethics of Artificial Intelligence (UNESCO, 2022)
📰 Dans l'actualité
- Enjeux éthiques de l'IA : transparence et données personnelles (il y a 4 mois)
- Prétopologie : solution pour l'explicabilité des IA (il y a 4 mois)
- Sécurisation de l'IA agentique : enjeux et solutions (il y a 4 mois)
- Méga-leak d’Anthropic : les secrets de son IA révélés (il y a 5 mois)