L'intelligence artificielle : entre le pouvoir des données et les droits de l'homme

Le professeur Peter G. Kirchschläger mène des recherches sur l'éthique, les droits de l'homme et la numérisation. Il sera l'un des principaux conférenciers de la Journée suisse de la qualité du 21 avril 2026.

Professeur Kirchschläger, la qualité a longtemps été fortement marquée par la technique et les processus. Sommes-nous à l'aube d'une nouvelle ère de la qualité avec les systèmes basés sur les données et la numérisation ?

Peter G. Kirchschläger : D'un point de vue éthique, nous devrions continuer à nous en tenir à nos exigences de qualité lors de l'utilisation de systèmes basés sur des données (DS) et donc utiliser les DS de manière ciblée dans les domaines d'intelligence où les DS dépassent nos possibilités cognitives. Là où les DS ne peuvent pas rivaliser avec nous, les humains, nous ne devrions pas y toucher.

Vous parlez délibérément de systèmes basés sur les données plutôt que d'intelligence artificielle. Pourquoi ?

«L»"intelligence artificielle" n'est pas une véritable intelligence. Elle n'a ni conscience ni compréhension de ses propres actions. Des domaines tels que l'intelligence émotionnelle et sociale ainsi que la capacité morale restent en outre inaccessibles aux machines. Elles collectent, génèrent et analysent des données. Tout ce qu'elles font est basé sur ces données.

Où voyez-vous actuellement les plus grands risques dans l'utilisation des systèmes basés sur les données ?

Les plus grands risques éthiques de la DS sont les violations de la protection des données, de la sphère privée et des droits d'auteur ainsi que les possibilités de manipulation politique et économique. A cela s'ajoutent des conséquences écologiques particulièrement sous-estimées du fait de la consommation élevée d'énergie et d'eau ainsi que des violations des droits de l'homme lors de l'extraction des matières premières et de la production de DS sur des sites de production à bas prix.

Vous insistez sur le fait que les systèmes technologiques doivent s'orienter vers les droits de l'homme. Qu'est-ce que cela signifie pour les entreprises qui développent ou utilisent de tels systèmes ?

Les DS basés sur les droits de l'homme signifient pour les entreprises qu'elles doivent veiller à ce que les droits de l'homme soient respectés tout au long du cycle de vie des DS. Cela nécessite le soutien de l'État et une réglementation mondiale par le biais d'une Agence internationale des systèmes basés sur les données (IDA) auprès de l'ONU, sur le modèle de l'Agence internationale de l'énergie atomique (AIEA).

Selon vous, faut-il des critères de qualité éthiques pour les systèmes basés sur les données ?

Une tâche centrale de l'IDA serait un processus d'autorisation de mise sur le marché, afin d'éviter que des DS portant atteinte aux droits de l'homme ne se retrouvent sur le marché. Dans d'autres secteurs, comme l'industrie pharmaceutique, les produits sont testés avant d'être autorisés afin de déterminer s'ils sont nocifs pour l'homme et l'environnement. Dans le domaine des DS, une telle chose n'existe pas encore.

À quoi les entreprises doivent-elles faire attention lorsque l'IA automatise ou redistribue des tâches ?

Pour les décisions pertinentes sur le plan éthique, l'être humain devrait toujours avoir le dernier mot. De plus, les résultats des DS doivent être compréhensibles afin que les personnes puissent assumer la responsabilité des DS. Comme les DS réduisent de nombreuses activités rémunérées, des adaptations du système économique et social sont également nécessaires. En me basant sur mes recherches, je propose un découplage du travail et du revenu par un revenu de base conditionnel dans le cadre du «Society-, Entrepreneurship-, Research-Time Model (SERT)». Ce modèle associe un revenu de base à une contribution sociale librement choisie, tout en créant des incitations à l'innovation, à la recherche et à l'entrepreneuriat.

Le développement technologique rapide soulève également des questions fondamentales sur la liberté, l'autonomie et le sens. Que peut apporter l'éthique au débat actuel sur l'IA ?

Malheureusement, les DS ne sont aujourd'hui généralement utilisés que pour améliorer l'efficacité et sont dominés par quelques multinationales technologiques qui confondent le progrès technologique avec leurs propres intérêts. Cela menace la liberté, l'autonomie, l'environnement et le climat. L'éthique peut aider à examiner ces développements de manière critique et à contribuer à trouver des solutions afin que les DS puissent garantir à tous les êtres humains et à la planète Terre un présent et un avenir décents et durables.

La Journée suisse de la qualité (TSQ) est placée sous la devise «La qualité pour l'avenir : durable. Numérique. Humain». Où voyez-vous la plus grande tension et le plus grand potentiel entre ces trois notions ?

La transformation numérique et la DS ont le potentiel éthiquement positif de rendre notre monde plus durable et plus humain. Malheureusement, le progrès technologique va actuellement dans la direction opposée. Il est urgent de renverser la vapeur et de développer et d'utiliser le DS de manière ciblée pour le bien de l'humanité et de la planète Terre.

En guise de conclusion : Que souhaitez-vous transmettre aux visiteurs par votre contribution au TSQ ?

La DS et la transformation numérique ne se produisent pas simplement, c'est nous, les humains, qui les façonnons. Nous décidons des DS que nous développons et utilisons, ou que nous n'utilisons pas pour des raisons éthiques. Toute innovation n'est pas en soi éthiquement positive, il suffit de penser à la bombe atomique. n

Auteur

Eveline Perritaz est freelance dans les domaines de la communication, des RP, du marketing et du business development. www.martix.ch

A propos de la personne

Peter G. Kirchschläger est professeur d'éthique théologique et directeur de l'Institut d'éthique sociale ISE à l'Université de Lucerne ainsi que professeur invité à l'EPF de Zurich. Dans ses recherches, il associe des thèmes tels que la numérisation, l'intelligence artificielle, la dignité humaine et la justice. En tant qu'expert en droits de l'homme, il conseille des organisations internationales telles que l'ONU, l'UNESCO et l'UE et apporte des perspectives éthiques dans la politique, l'économie et les débats publics.

Journée suisse de la qualité

La Journée suisse de la qualité a été créée en 2008 par la SAQ Swiss Association for Quality, l'association pour la qualité suisse. L'objectif de cette manifestation est de promouvoir un échange intersectoriel sur le thème de la qualité, l'un des piliers de l'économie suisse. La prochaine Journée de la qualité suisse aura lieu le 21 avril 2026 à Berne.

Plus d'informations et inscription : www.tsq.swiss