Nouveau métier de la tech : expert en éthique de l’IA

Le métier d’expert en éthique de l'IA (Intelligence Artificielle), également appelé éthicien de l’IA, est encore méconnu. Pourtant, avec l’avènement de l'IA, ce nouveau métier de la tech va bientôt s’avérer indispensable pour les entreprises, afin de garantir un développement des outils IA respectueux des valeurs humaines.

Spécialiste en éthique de l’IA, un nouveau métier qui recrute

Il ne se passe pas un jour sans qu’un nouvel outil IA ne fasse son apparition. Aujourd’hui, une entreprise peut utiliser l’intelligence artificielle pour recruter ses nouveaux talents, pour mieux cibler et interagir avec ses clients, pour personnaliser ses offres, pour concevoir des produits, pour développer du code, etc.

Mais les limites et les risques de l’utilisation de l’IA ont été mis en lumière à la suite de quelques incidents. Par exemple, Tay, l’IA conversationnelle lancée par Microsoft et Bing, a rapidement été suspendue après avoir généré des propos racistes et misogynes. De la même manière, Amazon a voulu confier ses recrutements à un algorithme, mais celui-ci a immédiatement écarté les profils féminins.

L'absence de supervision éthique de l'IA peut ainsi exposer les entreprises à de véritables risques. Outre la réputation, qui peut se retrouver entachée par de tels incidents, les risques peuvent également être juridiques et financiers. Or, peu d’entreprises disposent actuellement de spécialistes en éthique de l'IA.

Rôle et missions de l’expert en éthique de l’IA

Le cœur de métier du spécialiste en éthique de l’IA ? Contribuer au développement de l’IA, tout en veillant à préserver les valeurs humaines essentielles. Il fait notamment en sorte que les outils IA restent à leur statut d’outils. L’objectif étant que l’IA serve l’homme, et non le contraire.

Le spécialiste en éthique IA est ainsi amené à collaborer avec la direction pour définir une politique éthique, former les équipes en interne sur ces questions et s'assurer que les outils IA progressent de manière transparente et responsable.

Concrètement, il accompagne l’entreprise en la guidant dans un environnement complexe constitué de réglementations en constante évolution, tout en concevant des process éthiques. Pour cela, il surveille les outils IA et organise un questionnement régulier sur des sujets tels que la vie privée, l'équité, la neutralité, la diversité, la transparence, etc.

Où peut travailler un responsable en éthique de l’IA ?

L’éthicien de l’intelligence artificielle peut être salarié en entreprise, travailler pour un cabinet spécialisé, une organisation gouvernementale ou bien encore exercer en tant que freelance.

Il peut aussi bien travailler pour une entreprise qui utilise des outils IA afin de veiller à sa bonne utilisation, que participer à la conception d’une intelligence artificielle. De ce fait, les secteurs d’activités peuvent être très variés ! Un éthicien IA peut travailler dans l'informatique, la cybersécurité, le secteur de la banque et des assurances, la santé, l’industrie automobile, les services en ligne…

Quelles sont les compétences pour devenir éthicien IA ?

La spécificité de ce nouveau métier de la tech réside sûrement dans le panel de compétences qu’il nécessite de maîtriser. L’éthicien IA doit en effet être capable d'anticiper les évolutions réglementaires, de comprendre les aspects techniques de l'IA, de connaître le secteur d'activité de son entreprise et d’être pédagogue pour sensibiliser et former ses collègues aux questions éthiques.

Il est généralement demandé à l’expert en éthique de l’IA d’avoir des connaissances approfondies en droit et en philosophie, combinées à une expertise technique solide.

Quelle formation pour devenir spécialiste en éthique de l’IA ?

Le métier étant récent, il existe encore peu de formations dédiées. Les entreprises qui recrutent pour ce type de poste demandent généralement des profils de niveau bac +5 dans des domaines tels que le juridique, la philosophie ou l'informatique.

Quelques formations font tout de même peu à peu leur apparition, notamment le master IASD (Intelligence Artificielle, Systèmes, Données) et le master IAFA (Intelligence Artificielle : Fondements et Applications). Des diplômes de type MBA (Master of Business Administration) ou MSc (Master of Science) dans des écoles de commerce ou d'ingénieurs sont également proposés.

À noter également, une formation spécifique, le DU (Diplôme d'Université) Intelligence Artificielle appliquée en santé, est disponible pour répondre aux besoins particuliers de ce secteur.

Pour quel salaire ?

Pour le moment, les informations sur le salaire d’un expert en éthique de l’IA sont rares. La rémunération peut varier en fonction du secteur d’activité et du profil de l’entreprise.

Les salaires varient également selon l'expérience. On peut ainsi estimer qu’un jeune diplômé peut toucher un minimum de 35 000 € par an et qu’un profil expérimenté dans une grande entreprise va percevoir entre 45 000 € et 100 000 € par an.

Voir tous nos articles sur les métiers IT

Pour en savoir plus sur les métiers tech :

• Le hacker éthique, un expert au service de la cybersécurité

• Green IA : l’intelligence artificielle peut-elle être verte ?