Une formation continue de l'ETH Zurich aborde l'éthique dans l'IA

Qu'est-ce que la philosophie ? Qu'est-ce que l'éthique à l'ère de l'intelligence artificielle (IA) ? Ces questions sont discutées en petits groupes par 20 étudiantes et étudiants qui suivent le CAS Machine Learning in Finance and Insurance de l'ETH Zurich, un programme de formation continue organisé pour la première fois cette année. Le cours est basé au FinsureTech Hub de l'ETH Zurich, dans le cadre des chaires de Josef Teichmann et Patrick Cheridito au département de mathématiques.

Dès le départ, il est apparu clairement au responsable du programme, Bastian Bergmann, qu'une importance particulière devait être accordée à l'utilisation responsable de la technologie de l'IA lorsqu'il s'agit d'apprentissage automatique dans le cadre d'un programme de formation continue. «Pour moi, l'éthique est tout aussi importante que la technologie elle-même. Comment la technologie est-elle mise en œuvre dans le contexte et quels sont les défis qu'elle pose ? Ce sont des questions importantes que nous abordons dans le cours», explique Bastian Bergmann, qui est lui-même mathématicien financier et philosophe.

Andrea Ferrario, un autre enseignant du cours, partage ce point de vue : «L'éthique ne devient pas pertinente uniquement lorsqu'une application basée sur l'intelligence artificielle arrive dans la société. Au contraire, la dimension éthique doit être prise en compte tout au long de la conception, dès le départ et à chaque étape.» Le physicien a obtenu un doctorat en mathématiques à l'ETH Zurich et mène actuellement des recherches sur l'éthique biomédicale et la philosophie de l'intelligence artificielle à l'Université de Zurich.

Développer sa propre perspective pour la première fois

Pour les deux professeurs, la priorité est que les participantes et participants au CAS, qui travaillent tous et toutes dans le secteur suisse de la finance ou de l'assurance, puissent retourner dans leur entreprise et jeter des ponts entre les scientifiques des données, les ingénieurs et ingénieures en logiciel, les expertes et experts en affaires et les collègues du service de conformité qui s'occupent des exigences légales des services et des produits basés sur l'intelligence artificielle. En conséquence, le discours interdisciplinaire est particulièrement important pour les deux conférenciers. «La collaboration entre les différents groupes professionnels, avec leurs différentes approches, opinions et objectifs, n'est pas toujours facile dans la pratique», explique Andrea Ferrario. Pour lui, le cours est un banc d'essai précieux pour discuter des questions éthiques dans le secteur de la finance et de l'assurance.

Au cours du programme, Bastian Bergmann a constaté à plusieurs reprises que le sujet de l'éthique était un terrain inconnu pour la plupart des participants et participantes : «Elles et ils sont plus habitués à contrôler des systèmes basés sur un ensemble de règles prédéfinies. Dans la partie éthique du CAS, ils et elles ont dû développer leur propre point de vue. Quelles sont les implications morales pour moi et mon entreprise ?»

Hallucinations de l'IA et risques pour la réputation

La conférencière et le conférencier externes, Christiane Hoppe-Oehl, responsable de l'unité Intelligence artificielle de la FINMA, et Luca Baldassarre, AI Governance Director chez Swiss Re, ont également remarqué que la discussion de sujets éthiques était en grande partie un terrain inconnu pour les participantes et participants. Il et elle se félicitent de l'importance accordée par l'ETH Zurich à la dimension éthique.

«Mon message clé aux participants et participantes était que les entreprises qui n'adoptent pas une approche responsable de la planification, du développement et du contrôle des systèmes d'IA s'exposent non seulement à des risques commerciaux, mais aussi à des risques en termes de conformité et de réputation», déclare Luca Baldassarre. Christiane Hoppe-Oehl ajoute : «L'IA a le potentiel de faire progresser la société, mais si les risques ne sont pas reconnus et traités, nous pourrions perdre le contrôle.» Elle cite l'exemple des hallucinations de l'IA, qui peuvent nuire à une prise de décision éclairée parce qu'il est plus difficile de distinguer les faits des contrevérités.

Pour Xenia Tao, qui participe au programme, la dimension éthique du CAS est l'une des raisons pour lesquelles elle a choisi d'approfondir ses connaissances sur l'IA à l'ETH Zurich. «Je trouve l'intégration des considérations éthiques dans les applications du monde réel particulièrement précieuse, surtout lorsque nous naviguons dans le rôle évolutif de la technologie dans la finance», explique l'ancienne directrice générale d'une banque suisse, qui se concentre désormais sur l'avancement de la gouvernance éthique de l'IA dans le secteur financier. Sa camarade de classe Arantzazu Garcia a également trouvé que le mélange de principes techniques, d'éthique et d'orientation pratique était une caractéristique particulièrement attrayante du CAS. «En travaillant sur un projet qui m'est propre, j'ai pu appliquer directement les concepts que nous avons appris», déclare le responsable mondial de l'excellence opérationnelle chez Hitachi Energy.

Conclure par une composante pratique précieuse

Le volet pratique du programme était axé sur des projets et des ateliers avec des partenaires de l'industrie. À l'aide d'exemples concrets, les étudiants et étudiantes se sont penchées sur la mise en œuvre d'applications de l'IA dans les domaines de la finance et de l'assurance. Aujourd'hui, les participants et participantes travaillent sur leurs propres projets dans le cadre de la phase finale du CAS. Jusqu'à présent, Bastian Bergmann est satisfait du déroulement du premier cours. Il s'est avéré utile de commencer par les principes techniques de l'apprentissage automatique et de passer par l'éthique pour arriver aux applications pratiques. Alors, tout sera-t-il pareil l'année prochaine ? «Presque», répond le responsable du programme. «Nous voulons encore développer un peu le module sur l'éthique.»