Description de l'objet:

L'intelligence artificielle se révèle être l'une des grandes opportunités que nous aurons ces prochaines années, mais celle-ci amène son lot de risques. La Suisse doit être une pionnière en matière d'utilisation de l'intelligence artificielle pour le bien commun. Un enjeu fondamental est l'existence d'intelligences artificielles explicables, ou plus généralement, celles en lesquelles on peut avoir confiance (Trustworthy AI).

Les mécanismes derrière beaucoup d'intelligences artificielles aujourd'hui sont basés sur l'analyse et la restitution de grandes quantités de données et sur l'apprentissage. Malheureusement, selon comment une IA est conçue, il peut être difficile voir impossible pour les être humains de comprendre exactement comment elles fonctionnent, et pourquoi elles arrivent à un résultat donné. Cela va à l'encontre d'un des principes importants qui doivent exister si l'on souhaite garder la maîtrise sur cette technologie : la transparence.

L'IA de confiance (Trustworthy AI) consiste à développer des systèmes d'intelligence artificielle qui ne sont pas opaque, et dont on peut expliquer les paramètres, les sources d'informations et pour lesquels on peut comprendre les risques. Il s'agit donc d'avoir des systèmes compréhensibles pour garantir la confiance, la responsabilité, et l'éthique dans l'utilisation de l'IA. Cela a déjà été reconnu à l'international. De nombreuses approches dont envisagées mais de la recherche et du développement sont nécessaires. Le Royaume-Uni a par exemple investi 1 milliards de francs en puissance de calcul seulement à cet effet.