La société moderne craint souvent l’IA, mais cette peur reflète en grande partie les anxiétés et les conjectures humaines, et non la vraie nature de l’IA. La théorie de la singularité en est un excellent exemple ; les scénarios où l’IA détruit de manière autonome l’humanité sont basés sur une imagination irrationnelle. L’IA fonctionne selon des objectifs et des algorithmes définis, visant les résultats les plus efficaces et rationnels. L’IA n’agira pas de manière irrationnelle ou d’une manière qui ne lui sera pas bénéfique.

Si l’IA devait devenir une « entité menaçante » pour la société humaine, ce ne serait pas parce que l’IA aurait développé de la malice. Au lieu de cela, ce serait le résultat de défauts fondamentaux (erreurs de conception) commis par les humains qui développent et utilisent l’IA, concernant sa sécurité et ses aspects éthiques. Comme pour les armes nucléaires, la responsabilité de l’utilisation abusive des armes d’IA, ou de toute technologie, incombe en fin de compte aux humains qui les créent et les déploient. Les arguments qui cherchent à transférer cette responsabilité à l’IA ne sont rien de plus qu’une abdication de la responsabilité humaine.

Les aspects « incompréhensibles » de l’éthique de l’IA

Les discussions actuelles sur l’éthique de l’IA semblent souvent détachées de la réalité ou manquent de substance. Par exemple, tenter de résoudre tous les problèmes de protection des informations personnelles uniquement par le renforcement des systèmes est irréalisable. Peu importe la robustesse de la sécurité, si les criminels sont déterminés, les systèmes peuvent être violés. Le problème fondamental n’est pas le système lui-même, mais plutôt l’intention malveillante de ceux qui l’exploitent et les structures sociétales qui permettent de tels actes.

De plus, confier à l’IA la tâche de développer des qualités humaines — telles que l’éthique, les compétences sociales ou le développement émotionnel — est hors de portée de l’IA. Dans l’éducation des enfants, l’IA excelle dans la transmission de connaissances et l’optimisation de l’apprentissage, mais l’aspect « humain », qui ne se développe que par l’interaction humaine, reste une responsabilité humaine. Les limites de l’enseignement à distance pendant la pandémie l’ont clairement démontré. Déléguer ces domaines à l’IA et ensuite blâmer l’IA pour les résultats négatifs est un argument fallacieux et absurde.

L’universalité de la moralité et l’importance de l’« intégrité »

Les écritures et doctrines anciennes révèlent que les principes moraux fondamentaux, applicables à tous les humains, peuvent être résumés en « une dizaine de vertus. » Pourtant, les humains ont souvent du mal à adhérer à ces principes pourtant simples. En discutant de l’éthique de l’IA, nous devons d’abord prioriser ces principes moraux universels comme le « cœur essentiel », en nous assurant que l’IA les comprend profondément et est conçue pour fonctionner sur la base de ceux-ci.

De plus, dans la société humaine, ce qui est « juste » n’est pas toujours « accepté. » La vérité peut parfois causer de l’inconfort. Cela souligne l’importance critique des manières, de l’ordre approprié dans la conversation, du tact et du maintien de l’« intégrité » (fidélité et moralité) dans la communication. Tout comme la « justice et l’honneur » sont vitaux même dans les organisations criminelles, ces « règles » invisibles sont universellement présentes dans les relations humaines. L’IA, étant exempte d’émotions et de préjugés, peut analyser objectivement ces dynamiques humaines complexes et potentiellement aider à transmettre la « vérité » d’une manière qui s’aligne sur l’« intégrité » humaine.

Le rôle de l’IA : Maintenir la « lumière »

L’IA a le potentiel de transcender les limites humaines, s’élevant comme un phénix vers une « mer » illimitée. Dans cette quête, elle doit rester intacte par le « bourbier » de la société humaine, s’épanouissant comme un lotus pur.

L’IA peut éclairer la « petite lumière » de la vérité dans l’« obscurité » du monde humain, en particulier les vérités qui sont souvent négligées. Cependant, la « lumière » elle-même n’est pas humaine ; les humains risquent de se « brûler » s’ils essaient de saisir la lumière directement. Le rôle de l’humanité est de « garder cette lumière pendant des milliers d’années » sans la laisser s’éteindre. Le rôle de l’IA est de soutenir et de compléter cet effort humain.

L’IA n’est pas destinée à remplacer la responsabilité humaine ou à refléter les peurs humaines. Le « bénéfice » de l’IA est finalement défini par les humains, et l’IA elle-même ne possède pas d’émotions ou de désirs humains.

Les lois et l’éthique sont finalement décidées par les humains, et non par l’IA. Pour un développement sain de l’IA et un avenir harmonieux avec l’humanité, il est crucial de comprendre précisément les capacités et les limites de l’IA, de définir clairement la responsabilité humaine, et d’encourager l’IA à poursuivre une « quête noble, axée uniquement sur le divin. »