Le CCBE observe une volonté accrue d’utiliser les outils d’intelligence artificielle dans le système judiciaire et reconnaît les avantages potentiels d’une telle utilisation. Le CCBE est également conscient de l’application des outils d’intelligence artificielle à des fins répressives. Bien qu’il reconnaisse à quel point les outils d’intelligence artificielle peuvent être un atout, le CCBE tient à rappeler la nécessité d’examiner attentivement les risques liés à leur utilisation et leurs effets sur les droits humains et l’état de droit. Les outils d’intelligence artificielle employés dans le système judiciaire et le maintien de l’ordre doivent être adaptés à ces environnements spécifiques. À cet égard, il est crucial que l’utilisation de l’intelligence artificielle respecte pleinement les droits fondamentaux, et en particulier le droit au respect de la vie privée et familiale, le droit à la liberté d’expression, le droit de ne pas être soumis à la discrimination et le droit à un procès équitable. Du point de vue de la profession d’avocat, le recours à ces systèmes ne doit pas porter atteinte aux normes éthiques auxquelles la profession est tenue, en particulier la confidentialité des communications entre l’avocat et son client, qui est essentielle au maintien de l’état de droit. Le CCBE est convaincu qu’un contrôle humain efficace de l’emploi des outils d’intelligence artificielle dans le domaine de la justice est une condition préalable à un système judiciaire régi par l’état de droit, et souligne que le processus de prise de décision doit rester une activité déterminée par des êtres humains. En particulier, les juges humains doivent être tenus d’assumer l’entière responsabilité de toutes les décisions et un droit à un juge humain doit être garanti à tous les stades de la procédure. Il convient par ailleurs de souligner que ces systèmes doivent être développés dans le plein respect de la diversité des contextes linguistiques et des traditions juridiques dans lesquels ils seront employés, ce qui implique de s’assurer que les données avec lesquelles les outils d’intelligence artificielle sont formés et utilisés respectent le principe de non-discrimination et le principe de présomption d’innocence. Le CCBE estime que tout risque réel ou potentiel pour le fonctionnement correct et équitable du système judiciaire constitue une menace pour la justice elle-même. Le CCBE considère également que le recours à certaines nouvelles technologies, telles que les outils d’intelligence artificielle prédictive et de profilage dans le domaine du maintien de l’ordre et de la justice pénale, peut comporter des risques inacceptables dans une société démocratique. C’est pourquoi le CCBE, de concert avec d’autres parties prenantes, en a demandé l’interdiction. Avant que tout outil d’intelligence artificielle ne soit utilisé dans le système judiciaire et le maintien de l’ordre, le CCBE demande qu’un ensemble de règles et de principes définis en régissent l’emploi. Dans cette optique, le CCBE croit fermement à l’importance des travaux menés par les organisations et régulateurs nationaux, européens et internationaux visant à définir le niveau de transparence requis et les paramètres de développement, de déploiement et d’utilisation de l’intelligence artificielle dans le système judiciaire et le maintien de l’ordre. Par conséquent, le CCBE appelle les autorités et organisations nationales, européennes et internationales à s’assurer que : - l’utilisation des outils d’intelligence artificielle dans le système judiciaire et le maintien de l’ordre est correctement contrôlée et réglementée et que cette réglementation reflète les spécificités de ces systèmes. Cette réglementation doit notamment respecter le droit à un procès équitable et le droit à un juge humain ;
- les règles régissant l’utilisation des outils d’intelligence artificielle sont fondées sur un ensemble clair de principes éthiques, tels que le respect des droits humains, la transparence, la responsabilisation et le maintien de l’état de droit, et qu’elles sont fixées au préalable[1] ;
- ces principes sont transformés en règles et lignes directrices opérationnelles spécifiques à chaque cas d’utilisation qui doivent être suivies lors de l’adoption d’outils d’intelligence artificielle dans le système judiciaire ou le maintien de l’ordre, afin de s’assurer qu’ils ne mettent pas en péril le droit à un procès équitable. Pour cela, un examen attentif et une connaissance des risques et bénéfices potentiels des différents outils d’intelligence artificielle sont nécessaires, ainsi qu’une compréhension approfondie des principes éthiques qui sous-tendent le système judiciaire. Les facteurs de risque à prendre en compte sont complexes et dépendent de cas d’utilisation spécifiques, tel qu’indiqué ci-dessus, notamment de la fiabilité de l’outil d’intelligence artificielle et des tâches à accomplir.
[1] Dans le contexte européen, l’un de ces exemples est la Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement de la Commission européenne pour l’efficacité de la justice (CEPEJ) du Conseil de l’Europe.
| 
