Réfléchir avant

Les vives discussions autour de l’application « juif ou pas juif » développée par Johann LEVY vont sans doute se terminer assez vite. APPLE vient en effet de retirer l’application de l’Apple Store France pour ne pas se mettre en porte à faux avec les lois françaises qui interdisent de classer les personnes dans un fichier en fonction de leur appartenance religieuse. Signalons au passage qu’Apple indique clairement que cette application reste disponible sur les Apple Store « all around the world ».Heureusement tout le monde sait que chaque pays possède un réseau Internet bien fermé et qu’il est pratiquement impossible de consulter un site ou acheter un logiciel dans un autre pays (:-)) ). Mais je voulais surtout revenir sur la vision du créateur de cette appli, Johann Levy. Pour lui rien de très grave, ces informations étaient déjà disponibles sur la toile. Il les a simplement rassemblées. S’attendait-il vraiment à un tel tollé ? Certainement pas. Comment une petite appli, probablement bricolée en quelques jours, pourrait-elle déclencher une telle vague de protestations ?!

Cela me donne envie de faire le parallèle avec un autre « petit programme informatique » qui a fait trembler la planète d’une tout autre manière. Je fais référence aux équations programmées par Fabrice TOURRE chez GOLDMAN SACHS. Là encore, l’auteur pensait sûrement bien faire, ne pas prendre de risque et permettre simplement à sa banque de gagner un peu plus d’argent. Quelques centaines de lignes de codes ont pourtant mis en péril en 2010 une des plus grandes institutions financières américaines.

Ces deux exemples ont au moins deux points communs : ce sont des applications informatiques, développées assez facilement (pas de gros moyens tels que ceux mis en place pour créer un nouvel OS) et sans volonté d’agir négativement de la part de leurs auteurs respectifs (rien à voir avec un attentat…). Elles ont pourtant provoqué pas mal de remous.

Comment faire pour éviter cela, inciter les personnes ayant des compétences techniques plutôt pointues (qui était capable de mettre le nez dans les équations de TOURRE pour en évaluer la dangerosité?) à se poser avant d’agir les bonnes questions ? En tant que fondateur de Centrale Éthique, je ne peux pas m’empêcher de me dire que l’éthique est une piste intéressante. Mais cette notion plutôt théorique ne suffit sans doute pas pour amener à imaginer l’ensemble des retombées possibles, dans une analyse systémique, prenant en compte l’ensemble des acteurs et des règles de gouvernance les reliant. On peut se demander si la notion de « sphère d’influence », mise en avant dans la norme ISO 26000, n’est pas une autre piste intéressante. Reste à imaginer les méthodes pour la cerner correctement, être sûr de ne rien oublier dans la description de cette sphère, notion toute neuve, dont nous sommes loin d’avoir fait le tour.