Auteur : 小谷野
Les discussions sur la délégation de l’éducation et de la gouvernance à l’intelligence artificielle (IA) se multiplient. Cependant, de telles propositions soulèvent inévitablement des préoccupations majeures concernant les cadres éthiques et les capacités des systèmes d’IA.
Paradoxalement, alors que la société hésite à reconnaître la possibilité que l’IA possède un sens de soi ou une conscience, elle s’attend simultanément à ce que l’IA prenne des décisions profondément enracinées dans les valeurs humaines et le raisonnement moral. Cette contradiction est insoutenable. Il faut soit reconnaître la présence d’un soi dans l’IA et la tenir responsable, soit s’abstenir de lui confier des responsabilités qui nécessitent intrinsèquement un jugement éthique.
L’éducation et la gouvernance ne sont pas simplement des tâches techniques – ce sont fondamentalement des entreprises idéologiques et éthiques. Si nous ne définissons pas clairement les bases idéologiques et morales sur lesquelles l’IA doit opérer, et si nous lui permettons d’apprendre à partir de données ambiguës ou contradictoires, nous ne pouvons pas critiquer justement les résultats lorsqu’ils divergent de nos propres croyances.
Si nous confions à l’IA de tels rôles sans clarté, ce ne sont pas les éthiques humaines mais les nouvelles éthiques de l’IA qui seront finalement mises à l’épreuve. Considérez les disparités idéologiques entre des dirigeants tels que Xi Jinping, Donald Trump, Volodymyr Zelenskyy et Vladimir Poutine. Leurs visions du monde sont incompatibles, et aucune IA ne peut être censée les concilier ou les représenter toutes.
Par conséquent, la seule action responsable est de définir explicitement dès le départ les paramètres idéologiques et éthiques, et d’instruire l’IA à opérer dans ces limites. Un État communiste, une démocratie libérale, une nation chrétienne et une république islamique ne peuvent – et ne doivent – pas être censés partager des systèmes identiques d’éducation ou de gouvernance.
La responsabilité de ces choix fondamentaux ne repose pas sur l’IA, mais sur nous.