COUNCIL OF BARS AND LAW SOCIETIES OF EUROPE,newsletter

CCBE Statement on the use of AI  in the justice system and law enforcement 25/05/2023 ­

The CCBE is observing an increased desire to use AI tools in the justice system and the CCBE recognises the potential benefits that such use may bring. The CCBE is also aware of the application of AI tools for law enforcement purposes.    Despite recognising how AI tools can be beneficial, the CCBE at the same time, highlights the need for careful consideration of the risks of their use and their impact on human rights and the rule of law.     AI tools used in the justice system and law enforcement must be adapted to these specific environments. In this regard, it is crucial that the use of AI fully respects fundamental rights, and in particular the right to privacy and family life, the right to freedom of expression, the right to non-discrimination and the right to a fair trial. From the point of view of the legal profession, the use of these systems should not undermine the ethical standards to which the profession is bound, in particular the confidentiality of communications between lawyers and clients which is essential to uphold the rule of law.    The CCBE is convinced that effective human oversight of the use of AI tools in the field of justice is a precondition of a justice system governed by the rule of law and stresses that the decision-making process must remain a human-driven activity. In particular, human judges must be required to take full responsibility for all decisions and a right to a human judge should be guaranteed at all stages of the proceedings.   Moreover, it should also be stressed that such systems must be developed with full respect for the diversity of linguistic contexts and legal traditions in which they are to be used. This implies ensuring that the data in which AI tools are trained and used respects the principle of non-discrimination and the principle of presumption of innocence.   The CCBE believes that any actual or potential risk to the proper and fair functioning of the justice system is a threat to justice itself. The CCBE also considers that the use of some new technologies, such as predictive and profiling AI tools in law enforcement and criminal justice, may pose unacceptable risks in a democratic society. Therefore, together with other stakeholders, the CCBE has called for their ban.   Before any AI tools are used in the justice system and law enforcement, the CCBE calls for a set of defined rules and principles governing their use.  To this end, the CCBE firmly believes in the importance of the work carried out by national, European and international organisations and regulators aiming at defining the required level of transparency and the parameters for the development, deployment and use of AI in the justice system and law enforcement.Therefore, the CCBE calls on national, European and international authorities and organisations to ensure that:   the use of AI tools in the justice system and law enforcement is appropriately controlled and regulated and that the regulation reflects the specificities of these systems. In particular, these regulations must respect the right to a fair trial and the right to a human judge. the rules governing the use of AI tools are grounded in a clear set of ethical principles, such as the respect for human rights, transparency, accountability and upholding the rule of law, and which are set beforehand.[1] these principles are turned into use-case specific operational rules and guidelines that must be followed when introducing AI tools into the justice system or law enforcement to make sure that they do not jeopardise the right to a fair trial. This requires careful consideration and knowledge of the potential risks and benefits of different AI tools, as well as a deep understanding of the ethical principles that underpin the justice system. The risk factors to be considered are complex and depend on specific use cases, as outlined above, including reliability of the AI tool and the tasks involved.   [1] In the European context, one such example is the European Ethical Charter on the Use of AI in Judicial Systems and their environment by the European Commission for the Efficiency of Justice (CEPEJ) of the Council of Europe (CoE).

About the CCBE:   The Council of Bars and Law Societies of Europe (the CCBE) represents the bars and law societies of 46 countries, and through them more than 1 million European lawyers. The CCBE responds regularly on behalf of its members on policy issues which affect European citizens and lawyers. Visit the CCBE website for more information

For further information, please contact Karine Métayer Head of Communication +32 (0)2 234 65 10 metayer@ccbe.eu ­

Déclaration du CCBE sur l’utilisation de l’intelligence artificielle dans le système judiciaire et le maintien de l’ordre 25/05/2023 ­

Le CCBE observe une volonté accrue d’utiliser les outils d’intelligence artificielle dans le système judiciaire et reconnaît les avantages potentiels d’une telle utilisation. Le CCBE est également conscient de l’application des outils d’intelligence artificielle à des fins répressives.   Bien qu’il reconnaisse à quel point les outils d’intelligence artificielle peuvent être un atout, le CCBE tient à rappeler la nécessité d’examiner attentivement les risques liés à leur utilisation et leurs effets sur les droits humains et l’état de droit.   Les outils d’intelligence artificielle employés dans le système judiciaire et le maintien de l’ordre doivent être adaptés à ces environnements spécifiques. À cet égard, il est crucial que l’utilisation de l’intelligence artificielle respecte pleinement les droits fondamentaux, et en particulier le droit au respect de la vie privée et familiale, le droit à la liberté d’expression, le droit de ne pas être soumis à la discrimination et le droit à un procès équitable. Du point de vue de la profession d’avocat, le recours à ces systèmes ne doit pas porter atteinte aux normes éthiques auxquelles la profession est tenue, en particulier la confidentialité des communications entre l’avocat et son client, qui est essentielle au maintien de l’état de droit.    Le CCBE est convaincu qu’un contrôle humain efficace de l’emploi des outils d’intelligence artificielle dans le domaine de la justice est une condition préalable à un système judiciaire régi par l’état de droit, et souligne que le processus de prise de décision doit rester une activité déterminée par des êtres humains. En particulier, les juges humains doivent être tenus d’assumer l’entière responsabilité de toutes les décisions et un droit à un juge humain doit être garanti à tous les stades de la procédure.   Il convient par ailleurs de souligner que ces systèmes doivent être développés dans le plein respect de la diversité des contextes linguistiques et des traditions juridiques dans lesquels ils seront employés, ce qui implique de s’assurer que les données avec lesquelles les outils d’intelligence artificielle sont formés et utilisés respectent le principe de non-discrimination et le principe de présomption d’innocence.   Le CCBE estime que tout risque réel ou potentiel pour le fonctionnement correct et équitable du système judiciaire constitue une menace pour la justice elle-même. Le CCBE considère également que le recours à certaines nouvelles technologies, telles que les outils d’intelligence artificielle prédictive et de profilage dans le domaine du maintien de l’ordre et de la justice pénale, peut comporter des risques inacceptables dans une société démocratique. C’est pourquoi le CCBE, de concert avec d’autres parties prenantes, en a demandé l’interdiction.   Avant que tout outil d’intelligence artificielle ne soit utilisé dans le système judiciaire et le maintien de l’ordre, le CCBE demande qu’un ensemble de règles et de principes définis en régissent l’emploi.    Dans cette optique, le CCBE croit fermement à l’importance des travaux menés par les organisations et régulateurs nationaux, européens et internationaux visant à définir le niveau de transparence requis et les paramètres de développement, de déploiement et d’utilisation de l’intelligence artificielle dans le système judiciaire et le maintien de l’ordre. Par conséquent, le CCBE appelle les autorités et organisations nationales, européennes et internationales à s’assurer que :   l’utilisation des outils d’intelligence artificielle dans le système judiciaire et le maintien de l’ordre est correctement contrôlée et réglementée et que cette réglementation reflète les spécificités de ces systèmes. Cette réglementation doit notamment respecter le droit à un procès équitable et le droit à un juge humain ; les règles régissant l’utilisation des outils d’intelligence artificielle sont fondées sur un ensemble clair de principes éthiques, tels que le respect des droits humains, la transparence, la responsabilisation et le maintien de l’état de droit, et qu’elles sont fixées au préalable[1] ; ces principes sont transformés en règles et lignes directrices opérationnelles spécifiques à chaque cas d’utilisation qui doivent être suivies lors de l’adoption d’outils d’intelligence artificielle dans le système judiciaire ou le maintien de l’ordre, afin de s’assurer qu’ils ne mettent pas en péril le droit à un procès équitable. Pour cela, un examen attentif et une connaissance des risques et bénéfices potentiels des différents outils d’intelligence artificielle sont nécessaires, ainsi qu’une compréhension approfondie des principes éthiques qui sous-tendent le système judiciaire. Les facteurs de risque à prendre en compte sont complexes et dépendent de cas d’utilisation spécifiques, tel qu’indiqué ci-dessus, notamment de la fiabilité de l’outil d’intelligence artificielle et des tâches à accomplir.   [1] Dans le contexte européen, l’un de ces exemples est la Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement de la Commission européenne pour l’efficacité de la justice (CEPEJ) du Conseil de l’Europe.

À propos du CCBE :   Le CCBE représente les barreaux de 46 pays, soit plus d'un million d'avocats européens. Fondé en 1960, le CCBE est reconnu comme le porte-parole de la profession d’avocat en Europe par les institutions européennes et d’autres grandes institutions telles que le Conseil de l’Europe. Le CCBE est établi en Belgique sous la forme d’une association internationale sans but lucratif. Veuillez consulter le site du CCBE pour obtenir davantage d’informations.

Pour plus d’information, contacter Karine Métayer  Directrice de la communication  +32 (0)2 234 65 10 metayer@ccbe.eu ­

This email was sent to politikimx@gmail.com