Compte-rendu de l'Atelier philo 1 :
L'Éthique by design,
une étape fondamentale ?
Mardi 14 octobre 2021
Notre premier Atelier-philo a été consacré à l'Éthique by design, une approche qui vise à faire de l'éthique le fil directeur de l'innovation, à tenir ensemble intention, processus et impact. Regardez le replay de la présentation ici.
La discussion a été passionnante, riche de la diversité des profils des participants :
-
14 participants
-
Membres et externes à Aura
-
Philosophes, ingénieurs, designers, consultants en informatique, neurologues épileptologues, informaticiennes dans la santé, maîtres de conférences en psychologie…
Nous avons esquissé des lignes directrices pour guider l'échange sur l'innovation responsable dans AURA :
1/ Sur la place de la philosophie dans les projets d'innovation technologique, en particulier dans Aura :
Comment fait-on la différence entre moralité et éthique ? Mettre de l'éthique by design dans un produit technologique, est-ce que ça ne revient pas à mettre la moralité (les valeurs personnels) propre à des individus particuliers (les designers) ? Si c'est le cas, alors cela pose problème, surtout étant donné le caractère globalisé/international des produits.
Le caractère normatif ou prescriptif de la philosophie pourrait nous guider dans cela. Or, le problème de cette normativité est que les concepts philosophiques utilisés actuellement pour parler des technologies (par exemple, celui d'autonomie, un héritage de la bioéthique) sont inadaptés à la réalité de ces technologies. Il faut donc inventer des nouveaux concepts, plus pertinents, afin de penser correctement les normes. La philosophie invite à se poser la question du projet de société qui est construit à travers les technologies.
Dans l'expérience d'Aura, l'intégration de la philosophie a permis de mieux problématiser les valeurs initiales, de se rendre compte que les bonnes intentions ne sont pas toujours suffisantes. On fait de l'éthique sans le savoir, mais intégrer la philosophie ouvre des nouvelles questions, une manière différente d'aborder les problématiques éthiques qui s'offrent à nous dans le processus de l'innovation.
2/ Sur les enjeux et difficultés à appliquer l'éthique dans la démarche
Effet séminaire de la philosophie : quand la philosophie est intégrée dans les milieux professionnels, étant donné qu'elle est sollicitée presque uniquement au début, dans la phase de conception, elle tend à avoir un "effet séminaire" inspirant, mais vite oublié.
Le problème des chartes éthiques est que les signer ne coûte rien. Au début des projets, on est enthousiastes, mais on n'imagine pas forcément les conséquences négatives des produits. Il faut donc cultiver l'esprit critique en permanence, un principe de vigilance, de prise de conscience. Il faut un équilibre permanent entre l'innovation et la capacité à changer le produit, voire à en arrêter la production. Il faudrait aussi intégrer des concepteurs-philosophes qui accompagnent le développement d'un projet, indispensables pour dépasser l'effet séminaire.
Il faut aussi faire évoluer la réflexion éthique avec l'évolution de la société.
L'importance des formations a également été soulignée : cultiver l'esprit critique et la réflexion éthique dès la formation (des bénévoles, des développeurs, monteurs de projet, etc.), que les ingénieurs puissent avoir une réflexion déontologique, que les philosophes puissent comprendre les aspects techniques.
Le manque de diversité dans le monde des développeurs et des data scientists : si on n'a pas une population représentative de la société sur laquelle vont s'appliquer ces algorithmes, des biais algorithmiques sont voués à apparaître.
Il est important de prendre en compte des points de vigilance, des risques à éviter, au même niveau que les valeurs positives.
3/ Sur l'importance de la pluridisciplinarité, de croiser les regards avec d'autres Comités d'éthique, notamment celui de la Teppe
Aura a beaucoup à apprendre d'autres organisations qui intègrent déjà, depuis longtemps, la philosophie via des comités d'éthique. L'importance d'un dialogue entre le Comité d'éthique de La Teppe et le Collège éthique d'Aura a été abordée. Le Comité éthique de La Teppe intègre des questions légales, philosophiques et médicales dans sa réflexion et sa délibération.
Pour continuer la discussion, voici les prochains rendez-vous :
-
Mardi 16 novembre :
Session Zéro du Collège éthique, autour de la question
Qu'attendez-vous d'un collège éthique au sein d'Aura ?
Inscrivez-vous et accédez au livret du participant ici.
-
Jeudi 09 Décembre :
Le prochain Atelier-philo, autour de la notion de "Démocratie sanitaire".
