L’OSCE organisait les 23 et 24 septembre, un forum où se sont rassemblés des représentants des forces de police d’une cinquantaine de pays, des ONG, des académiques, des entreprises ainsi que des membres de la société civile. L’objectif de la réunion était de discuter des possibles implications du développement de l’intelligence artificielle pour les autorités et les forces de l’ordre. 

Invitée pour parler du problème des biais dans l’IA, ce fut aussi l’occasion de découvrir à grande échelle ce que représentait l’IA pour le grand public et pour le régulateur. La coopération, le partage d’informations ont permis à chacun de comprendre quels étaient les agendas, les priorités mais aussi les progrès et inquiétudes que nous partageons.

L’intelligence artificielle révolutionne le monde. Elle occupe le premier plan des innovations technologiques et fait régulièrement la une des journaux. Mais qu’est-elle au juste ? Je l’entends comme “une automatisation du processus décisionnel qui emploie pour ce faire des algorithmes, des statistiques et de la data plus largement”. Elle permet de traiter plus de données, plus d’informations et donc de prendre des décisions que l’on espère meilleures car plus éclairées. Les entreprises l’adoptent massivement, les pouvoirs publics, plus méfiants commencent à la développer et les criminels eux aussi embrassent cette nouvelle technologie.

Le forum s’est organisé autour de trois axes :

  • De quelle manière, le développement de l’Intelligence artificielle impacte-t-il le travail et la structure des services de police dans l’espace de l’OSCE ?
  • Comment l’IA peut-elle être exploitée par les criminels ?
  • Quels sont les principaux problèmes éthiques et légaux posées par l’IA ?

L’IA au service de la sécurité intérieure

L’intelligence artificielle peut être perçue comme un facilitateur dans nos interactions avec le monde qui nous entoure. 

D’après une étude menée par l’Université de York, un homme peut reconnaître en moyenne 5000 visages. Une IA peut en reconnaître une infinité. Dans la lutte contre le crime, c’est un atout indéniable. Elle peut scanner les réseaux sociaux à la recherche d’un suspect, les caméras de surveillance et combiner ces informations avec d’autres : données biométriques, traçage GPS… La particularité de l’IA c’est de trouver un sens, un pattern dans une quantité de data phénoménale, alors que l’intelligence humaine peut extrapoler beaucoup d’informations d’une petite quantité de data. En associant les intelligences, on démultiplie les possibilités.

Interpol a résumé leur utilisation de l’IA en trois points :

  • un outil qui les assiste dans les opérations et les investigations
  • un moyen de trouver des preuves
  • Un moyen de repérer et déjouer les menaces

Si on reprend l’exemple d’une scène de crime, comme le montrait Mariarosaria Taddeo, chercheuse à l’Oxford Internet Institute, les machines peuvent repérer des indices sur une scène de crime, connecter les scènes de crimes et même compter les particules déposées sur les vêtements d’un suspect. 

La gendarmerie nationale utilise l’intelligence artificielle pour prédire les cambriolages et les lieux où ils sont le plus susceptibles d’avoir lieu. Le logiciel SAP va encore plus loin et a démontré la capacité d’une machine à accompagner le travail d’un enquêteur :

Dimanche soir, un casse a lieu dans un grand musée parisien. Les caméras sont désactivées, les alarmes sont éteintes. Le service de surveillance détecte une anomalie mais il est déjà trop tard : les suspects se sont échappés. Les enquêteurs entrent les informations qu’ils détiennent sur le crime dans la machine. Celle-ci cherche automatiquement des lieux vulnérables où une prochaine attaque pourrait se dérouler. En parallèle, elle travaille sur l’identification des suspects en cherchant soit grâce à la géolocalisation ou par les caméras quels hommes ayant déjà un passif avec la justice ont été repérés dans le quartier du musée. Puis, par recoupements, d’autres suspects ayant des liens avec le premier suspect sont trouvés et seront interrogés par la suite. La scène de crime est également scannée par des enquêteurs assistés d’ordinateurs. Cela permet de collecter des preuves plus efficacement qu’aucune homme seul ne l’aurait pu. Toutes ces données entrent ensuite dans la machine et sont traitées. Les enquêteurs disposent d’un plan d’action, d’une stratégie et peuvent donc se montrer bien plus efficaces.

En ce qui concerne la sécurité intérieure, deux politiques se distinguent : alors que la France fonctionne avec une équipe réduite de 9 personnes et garde le contrôle sur leurs recherches en excluant les partenaires privés, la Grande-Bretagne mise sur la collaboration. La Grande-Bretagne prévoit d’avoir elle aussi une équipe dédiée aux opérations conduites avec l’aide de l’IA et de la data science. Elle travaille côte à côte avec de grandes entreprises comme Microsoft qui utilise ses propres logiciels et sa technologie pour traquer les criminels :

Microsoft utilise une IA conversationnelle pour collecter de la data. Ainsi, elle scanne le net et notamment les conversations pour trouver les prédateurs sexuels et les traquer. La data peut également être exploitée pour repérer les sites malveillants. Ainsi, l’IA va scanner le site ou la fenêtre pop up et suivre un process en 3 étapes : repérer une demande d’appel, chercher du vocabulaire et des expressions démontrant le caractère urgent et impératif et enfin détecter une menace.


Credit : Pexels/Scott Webb

IA et gouvernance

L’intelligence artificielle a besoin de data pour travailler. Ces informations sont souvent collectées de services différents qui ont tous leurs propres process, leurs propres langages. Il est essentiel de créer un environnement de communication entre ces différents services. La Grande-Bretagne organise déjà ses services de manière à obtenir une meilleure collaboration.

Des plateformes doivent également être créées pour permettre l’échange d’informations et notamment des recommandations sur les bonnes pratiques à respecter. A terme, il est souhaitable qu’une standardisation aboutisse.

Comme l’a déploré l’OSCE, chaque pays lance ce genre d’initiatives de manière isolée. Au lieu de combiner les forces et les moyens de l’organisation, on perd beaucoup de temps à chercher plusieurs fois les mêmes choses en parallèle. Tout ce qui est suggéré dans l’organisation nationale devrait aussi être mis en place à l’international.

L’intelligence artificielle est annoncée comme la 4eme révolution technologique après la machine à vapeur, l’électricité et le numérique. Elle transforme tout ce qu’elle touche et les gouvernances elles-mêmes doivent s’adapter à cette nouvelle technologie. Au XXe siècle, les principaux acteurs internationaux étaient les États, les entreprises, les Organisations internationales, les organisations non gouvernementales et la société civile. Elles travaillaient à partir de matière première, d’argent et se focalisaient sur un territoire donné. La régulation était donc souvent nationale voire contractuelle et l’exécutif ne se reconnaissait d’autorité que sur son territoire. Avec l’avènement de la société de l’information, nous sommes entrés dans une nouvelle ère : on parle aujourd’hui de cyber-entités qui évoluent aux côtés des entités classiques. De cette manière,on retrouve des entreprises techs aux capitalisations considérables, des hacktivistes et des entités digitales qui dépassent les frontières et exercent leurs pouvoirs sur le cyberspace. Leur pétrole, ce ne sont plus des matières premières mais de la data et des statistiques qui justifient une surveillance accrue des activités non seulement des citoyens mais aussi des autres entités. Avec le développement de l’IA, l’extraction de données se fait plus efficace et les performances évoluent. Cela justifie donc de nouvelles régulations : sur la data d’abord parce que comme on l’a vu l’Europe s’est saisie de la problématique et elle a rapidement été suivie par la Californie et d’autres. Les contrats laissent leur place aux conditions générales d’utilisation, faisant du consommateur un individu parmi tant d’autres. Avec la perte de ce lien personnel de l’entreprise à l’individu, c’est la confiance qui se perd. Les citoyens sont de plus en plus conscients qu’on leur prend des informations personnelles sans les rétribuer pour cela et qu’on exploite ces données pour gagner de l’argent, mettants leurs droits et libertés parfois en péril.

Les citoyens/consommateurs réagissent donc. Ils mentent sur leurs profils, créent de fausses identités, cherchent à dissimuler leurs traces et vont même jusqu’à essayer de devenir invisibles sur les réseaux, rejetant de ce fait les géants du net et privilégiant les logiciels et applications cryptées. Les relations financières et contractuelles elles-mêmes passent par de la cryptographie avec l’utilisation de la blockchain. Même honnête, le citoyen cherche à passer sous les radars, que dire des criminels ?

Des criminels à la pointe de l’innovation

Il est d’autant plus urgent pour la police d’embrasser la révolution de l’intelligence artificielle que les criminels n’attendent pas pour profiter des innovations. Le machine learning et la data science permettent de démultiplier les usages criminels des ordinateurs. Ainsi, les machines peuvent créer des faux sites imitants les vrais pour collecter des informations et/ou envoyer des virus. Parfois, rien ne permet de suspecter que le site est illégal à première vue et c’est le cas notamment des scrapers sites qui se contentent de reproduire le contenu d’autres sites (notamment des sites d’information) pour collecter des vues et se rémunérer grâce à la publicité.

Parfois, les conséquences financières sont lourdes, notamment lorsque ces sites malveillants s’adressent à des entreprises. Grâce à l’infiltration d’un programme malveillant dans le système informatique de l’entreprise, les criminels peuvent pratiquer l’espionnage industriel et dérober la data de l’entreprise et notamment les données personnelles des clients (numéros de carte bancaire mais aussi des vols d’identité plus larges).

L’IA est déjà largement utilisée par les marchés de capitaux. Le Machine Learning est donc redoutablement efficace pour tromper ces marchés. Qu’il s’agisse de smoking*, de quote stuffing** ou d’ordre flash***, l’IA démultiplie les possibilités qui étaient déjà considérables. Et les marchés ne sont pas les seuls à se laisser tromper et manipuler par les machines. Les démocraties sont menacées par l’avènement et le déploiement de deep fakes, ces programmes superposent et combinent des images, des sons existants, réels et des images et sons artificiels. Il devient de plus en plus difficile de distinguer une vraie vidéo d’une fausse vidéo. Si on couple ces deep fakes avec de la data science poussée à son paroxysme qui permet alors d’obtenir une bonne évaluation de l’opinion public et de ses faiblesses, on peut manipuler les élections très facilement.


L’intelligence artificielle permet d’aller encore plus loin : drones d’attaque, drones de transport pour faciliter le trafic et la contrebande, nuées de drônes… L’intelligence artificielle associée aux autres outils technologiques rend le travail de la police et de la sécurité intérieure beaucoup plus difficile. Le crime ne s’arrête pas à la frontière et il se réinvente chaque jour. Cependant, il est important que nos démocraties protègent notre art de vivre et nos valeurs et cela ne peut passer que par l’éthique.

* Le smoking consiste à offrir des ordres limités (plus élevés que le prix du marché) et à amender ensuite ces ordres à de plus mauvais prix pour profiter des intervenants les plus lents.
** Le quote stuffing revient à placer et annuler de gros volumes rapidement afin de perturber le trading et ralentir les autres intervenants
*** L’ordre flash repose sur l’accès privilégié à une information avant que celle-ci ne devienne publique. Il s’agit de changements soudains dans le prix, conduisant régulièrement à des variations.

Anne-Sophie Cissey

Credit front picture : OSCE Vladimir Trofimchuk

About Author

Related posts

Leave a Reply