2003–2026. Les technologies changent. La question de la responsabilité demeure.

J’ai récemment retrouvé le rapport officiel de cette intervention devant une commission du Grand Conseil. Je travaillais alors avec Action Innocence. Le document mentionne le recours à « l’intelligence artificielle » par certains logiciels pour identifier des contenus à partir de mots ou d’images.

Ce qui m’a arrêté à la lecture, vingt-trois ans plus tard, tient moins à ces mots qu’au raisonnement qui les accompagnait. Je considérais déjà qu’une réponse technique ne suffisait pas. Un système de filtrage pouvait apporter une protection. Il ne remplaçait ni la prévention, ni l’éducation, ni la responsabilité humaine.

Je n’y vois pas une anticipation de mon activité actuelle. J’y retrouve une conviction qui, sous différentes formes, m’a accompagné pendant une grande partie de ma carrière.

Apprendre à encadrer une technologie qui avance vite

Au début des années 2000, je travaillais au sein du petit groupe de la police genevoise spécialisé dans la criminalité informatique. En 2001, une publication anglophone me présentait comme l’un des « cybercops » genevois. Le mot appartient à son époque. Il rappelle surtout que nous cherchions encore comment répondre à ces nouvelles formes de criminalité.

Je constatais un décalage : la technologie évoluait beaucoup plus vite que les mécanismes institutionnels et judiciaires chargés de l’encadrer. Les possibilités techniques avançaient. Les règles, les compétences et les façons de travailler demandaient davantage de temps.

Ce décalage avait une conséquence très concrète. La réponse policière et judiciaire ne pouvait pas, à elle seule, répondre à tous les risques liés à Internet. Il fallait aussi aider les personnes à les reconnaître et à adapter leurs comportements.

C’est dans cet esprit que j’ai développé e-prevention.ch en 2002, de ma propre initiative. Le site s’adressait au grand public. Il expliquait les escroqueries en ligne, la criminalité informatique et les risques liés à Internet. Sa couverture médiatique lui a donné une certaine visibilité, mais mon intention était d’abord de rendre ces sujets compréhensibles.

J’avais également développé police-geneve.ch. Sa partie réservée aux policiers, appelée « Zone interdite », permettait notamment d’identifier des collègues travaillant sur la cybercriminalité et de partager des bonnes pratiques. Cette partie privée avait suscité des interrogations au sein même de ma hiérarchie.

Avec le recul, cet épisode rappelle que l’adaptation ne concerne pas uniquement les équipements. Elle touche aussi la circulation de l’information, les habitudes professionnelles et les cadres de travail des organisations.

La protection technique et ses limites

Chez Action Innocence, cette réflexion a pris une autre dimension : la protection des mineurs. Je travaillais sur les technologies de détection et de filtrage, ainsi que sur la sensibilisation.

Je m’intéressais à ce que ces systèmes pouvaient apporter. Je tenais également à ce que leur présence ne dispense pas les adultes de comprendre les risques et d’assumer leur rôle.

Installer une protection ne répond pas à toutes les questions. Il faut savoir ce qu’elle couvre, où se situent ses limites et comment agir lorsqu’elle ne suffit plus. Sans cette compréhension, un dispositif peut donner un sentiment de sécurité supérieur à la protection qu’il apporte réellement.

Quelques années plus tard, j’ai notamment travaillé avec NetClean. En 2008, j’ai présenté NetClean Whitebox à la communauté technique suisse des fournisseurs d’accès Internet. Des fournisseurs suisses ont ensuite adopté cette technologie.

Ces expériences m’ont appris à considérer ensemble l’apport d’un outil, ses limites et les responsabilités qui accompagnent son déploiement. La technique avait toute sa place. Encore fallait-il que les personnes et les organisations sachent quoi en attendre.

Une continuité apparue avec le recul

La suite de mon parcours m’a conduit vers les investigations, la sécurité bancaire, le risque humain, la sécurité opérationnelle, puis la continuité d’activité et la résilience.

Les contextes changeaient. Je retrouvais pourtant cette même nécessité : relier les dispositifs aux personnes, aux décisions et au fonctionnement réel de l’organisation. Un outil de sécurité prend son sens dans un ensemble de responsabilités, de pratiques et de contrôles.

Je n’avais pas prévu ce chemin au début des années 2000. À l’époque, je répondais aux problèmes que je rencontrais. La cohérence apparaît aujourd’hui, lorsque je regarde ces expériences avec vingt-cinq ans de recul.

Elle concerne moins une technologie particulière qu’une manière de l’aborder : comprendre ses possibilités, évaluer ses risques et définir ce que nous pouvons raisonnablement lui confier.

Ce que cette histoire change dans mon regard sur l’IA

Aujourd’hui, les systèmes d’IA générative et les agents capables d’interagir avec d’autres systèmes posent de nouvelles questions. Leurs capacités ne sont pas celles des logiciels dont je parlais en 2003. Le rapprochement porte sur notre façon de les encadrer.

Nous devons préciser les tâches confiées à ces systèmes, les risques acceptables et les contrôles attendus. Nous devons aussi déterminer les décisions qui restent humaines et les conditions d’une intervention. Pour un agent capable d’agir, cela conduit notamment à examiner ses droits d’accès, ses actions possibles, leur traçabilité et les conditions de son arrêt.

La présence d’un contrôle mérite elle-même un examen. Il faut savoir s’il fonctionne dans les situations qui comptent et si les personnes chargées d’intervenir disposent des informations et des moyens nécessaires.

C’est dans cette continuité que s’inscrit mon travail actuel autour de la gouvernance des systèmes d’intelligence artificielle et d’ISO/IEC 42001. J’ai obtenu en 2026 la certification PECB ISO/IEC 42001 Lead Implementer. Ce choix correspond à des préoccupations qui m’accompagnent depuis longtemps : le risque, l’organisation et la responsabilité.

L’archive de 2003 ne raconte donc pas une prédiction. Elle me rappelle qu’une technologie peut changer profondément tandis que certaines exigences demeurent.

Pour moi, gouverner l’IA commence par rendre explicites nos choix : ce que nous lui confions, ce que nous vérifions et ce dont nous continuons à répondre. Le progrès technique avance vite. À nous de donner aux organisations les moyens de décider et d’agir à son rythme.