Sur quelle expertise technique impartiale s’appuyer pour justifier de biais de programmation, d’intentions et de conception du logiciel et de son développeur, de la SSII ?

PROUVER LES BIAIS D’INTENTION OU D’ABSTENTION D’UNE INTELLIGENCE ARTIFICIELLE : RECOURS À L’EXPERTISE JUDICIAIRE ?
À l’heure où l’employeur et les travailleurs délèguent, parfois imprudemment, l’utilisation de leurs savoirs, décisions et livrables aux requêtes automatisées et à l’intelligence artificielle et ce, alors même que le comité social et économique reste à consulter pour l’introduction et l’exploitation de la nouvelle technologie I.A., sur quelle expertise technique impartiale s’appuyer pour justifier de biais de programmation, d’intentions et de conception du logiciel et de son développeur, de la SSII ?
Si l’analyse objective des résultats et productions des prompts permettent statistiquement de faire émerger des « tendances » et une radiographie du moteur d’inférence, les plus rigoureux en appelleront à la « classique », mais scientifique, rigoureuse, respectant les droits de la défense, contradictoire, impartiale, expertise judiciaire informatique…
L’expertise judiciaire informatique, c’est quoi ?
Lorsque la solution d’un litige dépend d’une analyse technique, une expertise judiciaire peut être demandée. Dans son rapport, l’expert établit les faits, les causes et les responsabilités.
L’expert judiciaire en informatique est un spécialiste des technologies de l’information inscrit sur une liste établie par une cour d’appel.
Il est désigné par un juge pour analyser une situation technique et rendre un rapport qui aidera le juge à prendre sa décision. Il l’est (désigné) après une requête d’un justiciable en quête de preuve.
Les méthodes et algorithmes d’IA devant juridiquement faire la preuve de leur efficience et performance (guide de l’IA UNSA Juridique).
L’opportunité et comment utiliser l’expertise judiciaire informatique ?
Elle peut être utilisée lorsqu’un litige porte sur un système informatique ou un outil d’IA. Elle permet de faire analyser de manière technique un algorithme par un spécialiste, expert, par exemple lorsqu’il existe une forme de discrimination par l’intermédiaire du biais algorithmique.
Par qui elle peut être demandée ?
L’expertise peut être demandée par une partie ou décidée par le juge.

En droit privé, S’il existe un motif légitime de conserver ou d’établir avant tout procès la preuve de faits dont pourrait dépendre la solution d’un litige, les mesures d’instruction légalement admissibles peuvent être ordonnées à la demande de tout intéressé, sur requête ou en référé (article 145 du code de procédure civil).

La juridiction territorialement compétente pour statuer sur une demande formée en application du premier alinéa est, au choix du demandeur, celle susceptible de connaître de l’affaire au fond ou, s’il y a lieu, celle dans le ressort de laquelle la mesure d’instruction doit être exécutée.
L’article 232 du Code de procédure civile conforte et permet au juge de désigner un expert lorsqu’une question technique nécessite les connaissances d’un spécialiste et donner un avis au juge sur des points techniques dont dépend la solution d’un litige.
Quid du droit public ?
Le juge administratif peut également ordonner cette expertise avant de rendre sa décision.
Déroulement de l’expertise
Le juge fixe la mission de l’expert, comme analyser l’existence et le « statut » du biais algorithmique dans la programmation du logiciel IA, la nature et la portée des inférences du dispositif, ce que peut traduire l’intégration de ces biais techniques algorithmiques en termes d’intentions et de finalités de gestion du social et du professionnel dans l’entreprise, pour des actes positifs discriminants ou d’abstention-exclusion pour de mauvais motifs ou des raisons illégales. Il est toutefois bien audible, que tout biais n’est pas à exclure d’emblée, il s’agit d’en appeler à sa justification, à sa finalité et à sa proportionnalité (cf. jurisprudence des entreprises dites de « tendances » ou des établissements « confessionnels », Guide IA UNSA).
Elle se déroule donc selon le principe du contradictoire, c’est à dire que chaque partie peut transmettre des documents, présenter ses observations et discuter les conclusions de l’expert et ce déjà, au cours de la construction du rapport de celui-ci (établissement par l’expert de notes de « positions » intermédiaires, après plusieurs réunions, exprimant une appréciation, l’existence ou l’exactitude du biais, sa mesure d’impact sur la solution d’intelligence artificielle délivrée, des responsabilités, la quote-part d’imputabilités de celles-ci à chaque acteur et opérateur économique du logiciel d’IA : le programmateur, la SSII, l’employeur rédacteur des spécifications générales ou particulières (cahier des charges, expressions de besoins).
L’expertise judiciaire algorithmique reste encore à construire et à parfaire…
Quid du coût de l’expertise ?
Le coût d’une expertise judiciaire en matière civile varie. Le coût moyen des expertises est d’environ 2 100 euros, mais il peut aller de 30 euros à plus de 150000 euros. Par exemple, une expertise industrielle ou informatique devant la cour d’appel d’Aix-en-Provence peut atteindre environ 4 400 euros.
Trouver un expert judiciaire ?
Un site général :
https://www.courdecassation.fr/mes-…
Secteur Juridique National UNSA
juridique@unsa.org
N.B. : vous retrouverez toutes ces procédures dans le Guide IA de l’UNSA prochainement publié.
Hors juridictions, ce sont les experts agréés des CSE qui pourraient de voir intégrer une offre de co-traitance ou sous-traitance sur le sujet, mais avec une portée probatoire plus discutable. Une intervention d’un expert hors cadre judiciaire peut toujours permettre d’alimenter techniquement la requête. Les assureurs en responsabilité civile et en protection juridique défense et recours interrogés n’ont pas encore intégrés ces champs nouveaux des contentieux de l’IA et s’en remettent le cas échéant aux experts judiciaires. Comme pour l’IA, chacun il arrive aussi le plus souvent que certains se contentent de s’appuyer ou s’en remettent à des expertises techniques non contradictoires, elles-mêmes aidées de l’IA…
QUELQUES PRINCIPES D’UTILISATION DE L’I.A.
I.A. et le prompts performants : des lignes de bonnes conduites à fixer…
• Un prompt contextualisé et précis, simple, univoque : clarté, détail (mais aussi maîtrise des éléments de langage et du vocabulaire du domaine seront vos alliés pour des réponses plus pertinentes ; les connaisseurs des domaines restent les plus performants à atteindre la bonne information : maîtriser un domaine et l’expertise du sujet restent le meilleur rempart professionnel dans le maintien dans le maintien dans l’emploi).
• Indiquer le format et la structure de la réponse attendue. Là aussi, la posture, l’organisation ad hoc du champ, les codes et normes professionnels modèlent la solution : l’IA travaille à votre image, même si elle apte à la vulgarisation des questions qui lui sont posées.
• Réfléchissez en amont à la construction de l’interrogation de l’IA (certains s’aident même de l’IA pour l’interroger, mais avec quel apprentissage du questionnement ?). L’IA étant plus « binaire » que « confusionnelle », il est utile de séquencer ses prompts de décomposer, de se structurer, avec des étapes logiques. L’IA doit développer des compétences d’anticipation et de projection (plan) au risque de ne pas pouvoir faire le tri ou de ne pas savoir nuancer.
• Croisez les angles d’interrogations de l’IA pour confirmer un tronc commun d’une réponse exacte et pertinente.
• Intégrez la lacune structurelle de l’IA, l’absence d’un point de vue ou l’inexactitude demeurent en filigrane, ne pas l’oublier, trouver et solliciter d’autres sources…
• Gardez un esprit critique, « contraignez » l’IA à s’expliquer sur sa solution : les exemples concrets en lien corroborent-ils l’affirmation, l’information.
• …
Utiliser l’IA, c’est en définir et normer l’opportunité et les limites de son exploitation…
Appliquer de bons principes d’utilisation, c’est aussi identifier les dérives flagrantes d’une I.A. – cf. Guide IA UNSA