Engagement

La prise de conscience d’une seule personne impliquée dans ce triangle ne suffit pas: ses efforts pour sortir de l’ornière risqueront d’être réduits à néant ou presque par les habitudes/réflexes de l’autre. Deux points me semblent donc importants. Premièrement, se mettre d’accord a priori sur un engagement mutuel à se sortir de cette ornière. Ensuite, convenir d’un mot clé pour désamorcer la dynamique lorsqu’elle se présente. Charge à qui s’emballe d’y rester réceptif, d’où l’importance de l’engagement préalable qu’il est impératif d’honorer sauf à rompre la confiance et à devoir ensuite la reconstruire. C’est un exercice très exigeant.

Recul : accueillir créativité, conviction, langage

Engagement pris, pour sortir de cette narration dominante et pathologique, la première étape me semble être de prendre du recul afin de s’affranchir le plus possible des réflexes conversationnels que l’on pourrait avoir. Il ne s’agit pas de faire monde à part en soi, mais de restaurer l’épaisseur qui permet, après avoir perçu, de “ralentir” le mouvement de façon à en discerner les failles et l’imposture. De là, s’inscrire à neuf dans le monde. C’est sans doute la plus grande difficulté, car elle suppose créativité (c’est-à-dire de faire advenir ce qui n’existe pas encore), conviction (que ce qui n’existe pas encore est pourtant solide et viable), et langage (pour faire narration avec soi et autrui afin que ce qui n’existe pas encore devienne tangible).

Virginité : une conquête

Une fois le triangle immobilisé : il est vulnérable, tout comme un vélo qui ne roule pas n’est pas stable. Je crois que c’est à ce moment-là que la créativité peut s’exprimer, sous forme d’une sorte de virginité. Le terme est fort, non pour heurter, mais pour souligner le caractère radical du changement nécessaire. Dans l’acception commune, la virginité est considérée comme étant un bien précieux qu’on risquerait de perdre presque par inadvertance au point qu’il convient de la protéger possiblement par tous les moyens, jusqu’à l’indifférence voire le rejet. Une telle conception de la virginité exclut autrui, et donc la possibilité de ce dernier de nous conférer l’identité exogène que nous attendons de lui. Elle repose sur l’hypothèse implicite que la virginité préexiste. Je crois possible de proposer l’inverse: il nous est impossible de nous affranchir d’une chaîne causale inscrite dans le temps. Par conséquent, chaque instant vécu est marqué par le précédent. La virginité de soi dans l’instant ne saurait donc que relever d’une conquête sur soi dans son rapport au temps : en percevoir les fragments comme ces instants à la fois premiers (comme se donnant pour la première fois, ce qui implique d’en prendre soin, car ils ont en eux le germe des suivants) et derniers (comme ne se donnant qu’une seule fois qu’il s’agit de saisir à fond, en lien avec le carpe diem). Une telle virginité accueille autrui à neuf dans le présent, et donne l’occasion d’une rencontre qui, loin d’altérer, libère des chaînes du triangle toxique.

Devenir attentifs ensemble puis, attentifs, devenir ensemble

Sortir de ce triangle me semble donc supposer de trouver (et pas de retrouver!) la virginité de l’instant. De là l’importance d’une pleine attention, d’une consécration au présent qui s’offre et qui nous porte au-delà de nos déterminismes évidents et mécaniques. Vivre cette attention lorsque le contexte est facile est assez simple. Ce qui est difficile, c’est précisément lorsque le contexte devient plus complexe et exigeant. Là, c’est avec une détermination totale dans une lutte contre ce qu’on imagine être soi qu’il devient possible de s’engager, pour ensuite se retrouver différent et libéré ne serait-ce que transitoirement d’une partie de soi, obstacle à l’autre et donc à soi, ancrée dans un déterminisme tragique et qui n’avait vraisemblablement rien à faire là. Finalement, figer le triangle, c’est se mettre en cheminement, d’itération en itération. Ensemble.

C’est peut-être là un élément essentiel des amours vertueuses – celles qui habitent les relations édifiantes.

L’article Victime, sauveur, persécuteur : quelques éléments pour sortir du triangle de Karpman est apparu en premier sur latitude77.

Concepteurs ou entraineurs, nous nous devons donc de montrer l’exemple à l’IA. Être exemplaire implique de travailler spécifiquement à réduire nos propres biais afin de ne pas donner à l’IA de mauvaises habitudes. Simultanément, les acteurs reposant sur l’exploitation de ces biais opposeront sans doute une résistance à toute tentative de les atténuer, sauf à se renouveler.

Nos biais découlent au moins en partie de mécanismes évolutifs. À défaut d’être en phase avec le réel qui nous entoure, ces heuristiques nous permettent de faire des choix en lien avec l’étendue et les limites de nos capacités de perception, d’action, et avec nos vulnérabilités spécifiques (source). Nous, humains, ne pouvons percevoir, agir, vivre que dans le périmètre accessible à nos deux bras, transportés par nos deux jambes. Nos biais sont, au mieux, ces sacrifices consentis à une adéquation maximale avec le monde qui nous entoure, et qui contribuent pourtant à notre survie.

Les capacités de l’IA sont très différentes des nôtres, car elle est construite sur le numérique. Les données qu’elle prend en compte sont bien moins limitées dans le temps et dans l’espace que celles que nos cinq sens nous relaient. Les actions qu’elle peut déclencher peuvent se déployer simultanément pour tous à l’échelle de la planète (ex. PageRank, RankBrain ou EdgeRank). Structurellement, le déploiement de l’IA se profile donc sous forme de silos hégémoniques, en continuité avec ceux autour desquels se concentrent les usages du web.

C’est la pluralité des personnalités humaines qui assure la résilience intrinsèque de l’espèce. Nous pouvons ainsi tirer parti de nos inévitables erreurs pour ne plus les reproduire. Cette optimisation est d’abord individuelle avant d’être collective. En silos hégémoniques, quasi instantanée et quasi ubiquitaire, aucune résilience de ce type n’est envisageable pour l’IA. Compter sur le nombre et la diversité des IAs, ou sur la sophistication de leurs processus d’apprentissage, pour que les biais des unes compensent les biais des autres, à l’image des sociétés humaines (qui sont à la peine), est donc un pari très osé. L’IA est intrinsèquement fragile.

Par conséquent, éduquer l’IA en incluant les biais découlant de notre propre évolution serait probablement particulièrement inadéquat. L’IA apprend à travers des exemples. Ce serait problématique qu’elle suive l’exemple des humains, car elle n’est pas humaine. Là où nous, humains, essayons de modeler nos biais a posteriori, souvent incapables de nous en défaire a priori, notre éthique est toujours en retard. Un retard de quelques heures, quelques jours, est compatible avec nos jambes et avec nos bras. Pour une IA qui traverse le monde instantanément grâce au numérique, un retard que nous aurions à subir, même infime pour elle, aurait proportionnellement des conséquences considérables pour nous.

En partie inspiré de cet article.

L’article Intelligence humaine et artificielle : évolution et éthique. est apparu en premier sur latitude77.

Publié initialement sous forme de commentaire ici.

S’il est tout à fait normal d’avoir des opinions différentes, en rester là me semble confiner à l’impuissance. En effet, se satisfaire de ces opinions, comme autant de postures différentes, pose la question de l’espace commun. Des postures incompatibles ne serait-ce qu’en partie ne sauraient s’incarner collectivement autrement, au choix, que dans le conflit (« j’ai LA vérité et pas toi ») ou dans le relativisme généralisé (« tu as la tienne, j’ai la mienne, et tout va bien: on fusionne, ou on ne se croise pas »). Par conséquent, ni le conflit ni le relativisme absolu ne me semblent viables. L’un et l’autre nous isolent alors que nous ne sommes et ne devenons nous-mêmes qu’avec l’Autre. Je crois donc important de se placer entre la revendication de détenir « LA vérité » et la tentation de céder au relativisme.

La thématique sous-jacente est celle de la construction de ce qu’on peut considérer vrai, c’est-à-dire une croyance, une partie de ce qui nous constitue en tant que groupe. Ce dépassement de la posture est indispensable à l’émergence du groupe: l’autre est toujours « à rejoindre », il n’est jamais proche d’entrée de jeu, sinon par illusion. De plus, le groupe est précisément nécessaire à toute action au-delà de nos individualités.

Plutôt que de rester coincés dans des postures rigides, je crois donc nécessaire de nous inscrire chacun dans mouvement, pour que des mouvements individuels et pluriels puisse émerger une réalité commune. Mais quel type de mouvement ?

Un mouvement qui découlerait d’un objectif premier de rejoindre l’autre, ou d’être rejoint, inclinerait au rapport transactionnel, de négociation, voire de force. Ce n’est pas une direction qui me semble souhaitable. C’est pourtant une des origines possibles de la raison .

L’alternative qui me semble la plus pertinente, c’est de proposer à chacun d’examiner avec une critique radicale en quoi nos perceptions sont validées/invalidées par ce réel qui nous est extérieur. Il s’agit de le considérer comme toujours trop confus et de le questionner pour travailler à son impossible clarification. Cette démarche est individuelle et intime. L’enjeu n’est ni l’autre ni le rapport à ce dernier, mais bel et bien un rapport critique à soi: le mouvement nécessaire est de tendre vers cet objet qui nous échappe et de ne pas se satisfaire de ce que nous en expérimentons. La conséquence de ce mouvement est un rapprochement de tous, indirectement médié par l’objet commun vers lequel chacun converge. Ce n’est pas sans lien avec la théorie du désir mimétique de René Girard. Il s’agit de questionner individuellement ce qu’est ce que nous avons en partage pour ensemble non pas le connaître dans sa nature, puisqu’elle nous échappe, mais pour le circonscrire autant que faire se peut. Que des divergences subsistent, c’est probablement qu’il s’agit de deux objets différents. Raison de plus pour les circonscrire.

Par conséquent, les opinions différentes et incompatibles deviennent dès lors une richesse: la convergence asymptotique vers ce même objet entraîne l’émergence d’un vocabulaire commun et d’une démarche cohérente sans être coercitive et sans que quiconque puisse se prévaloir d’être indispensable, quoique chacun puisse aider à des degrés différents. L’implication pour chacun, et particulièrement pour les dirigeants, est claire : leur perspective n’en est qu’une parmi d’autres, c’est pourquoi il est essentiel qu’ils soient aussi humbles qu’attentifs – voire qu’ils soient reconnus comme participants à l’aventure collective sur ces critères-là.

Pour illustrer, imagine, lectrice, lecteur, en 2 dimensions: chacun est un point noir placé sur une feuille de papier blanche. Chacun est à la fois « situé » et « voit son regard orienté » dans une direction précise, ce qui illustre la diversité de nos perspectives, conditionnées par nos points de vue. Quelque part sur la feuille se trouve un objet non circonscrit que chacun, par définition, voit à midi et devant sa porte. Par itération, il s’agit pour chacun de savoir si midi correspond plutôt à 11h59 ou 12h01, et si la porte ne serait pas plutôt la boite aux lettres, ou la clôture du jardin.

Je fais l’hypothèse que de tels mouvements individuels, itérativement répétés, sont un moyen de nous rassembler autour de cet objet afin de le caractériser par ce que nous en percevons et qui ne saurait s’avérer qu’être complémentaire. Nous ne pouvons pas le connaître, ni individuellement ni collectivement, par contre nous le circonscrivons d’autant mieux que nous sommes nombreux à l’entourer. Comme si la nature de l’objet, diffractée autour de lui et insaisissable, était intelligible fragment par fragment.

Je ne dis pas que c’est la seule façon de procéder, je dis seulement que je n’en vois pas d’autres. Je suis évidemment ouvert à toute suggestion. Dans cette démarche, l’opinion contraire n’est jamais réductible à de l’ignorance. Au contraire, elle est l’occasion de l’interrogation qui précède toute recherche.

L’article Ce dont « nous » manque, et comment le retrouver. est apparu en premier sur latitude77.

Le terme « vie privée » s’oppose habituellement à la vie publique ou à la vie professionnelle. Ces vies sont des territoires de l’existence. Les distinctions en territoires sont opérées par chacun de nous. Ces territoires sont multiples et parfois poreux. Se focaliser sur « la vie privée uniquement », c’est laisser de côté d’autres aspects de la vie de l’individu, et ignorer leurs dynamiques propres. L’interlocuteur n’est donc pas totalement mobilisé.

Le terme « internet » laisse croire que l’enjeu est d’ordre technologique, voire se limite à un monde immatériel et évanescent qui n’entraîne pas de changement de la vie de tous les jours. Internet est une réalité physique bien tangible, ce qui s’y passe relève du monde physique et n’en est pas moins tangible. Une fois une information rentrée dans un réseau, elle est traitée puis rendue disponible à des acteurs tout à fait identifiés : entreprises, particuliers, collectivités. Ce fonctionnement type ne se limite d’ailleurs pas à internet, mais s’étend à tout réseau de collecte, traitement et distribution de l’information, y compris les réseaux privés, et ceux qui sont encore en grande partie à venir (comme par exemple ceux dédiés aux objets connectés qui posent déjà problème). Le lieu de l’action et de ses conséquences n’est pas immatériel, mais bien concret, et beaucoup plus large qu’internet. Il concerne la vie quotidienne et l’impact ira grandissant.

Le terme « défense » laisse entendre une attaque, un combat, donc une source d’angoisse potentielle pour l’interlocuteur auquel on s’adresse. De là un mécanisme de défense courant et compréhensible : l’interlocuteur se referme et nous affuble d’une étiquette « paranoïaque » pour nous mettre à distance de sa zone de confort. Il n’y a pourtant ni défense, ni combat, et si attaque il y a, elle ne peut cibler que l’ignorance. Pas l’ignorant.

L’ignorance se dissipe par la pédagogie : premièrement considération inconditionnelle de l’autre, puis accompagnement, puis écoute, et enfin transmission de ce qui est nécessaire à chacun. Il n’est pas tant question de technique que d’humanité. Répondre à l’un sans inclure l’autre est absurde. Soyons-y attentifs.

Il me semble que ce n’est donc pas la « vie privée » qu’il faut « défendre » sur « internet ». L’intimité a vocation à être partagée. Rien n’est d’ailleurs plus beau que l’intimité partagée. Ce partage peut se faire de multiples façons, y compris via les réseaux.

C’est lorsque ce partage n’est pas consenti qu’il y a problème. Métaphoriquement, ce problème s’apparente à une trahison, voire à un viol. Le mot est volontairement fort non pour amoindrir le préjudice inouï d’un viol physique, mais pour susciter l’indignation de ce qu’est son équivalent mental, qui existe depuis toujours, mais qui avec les traitements automatiques de l’information a pris une ampleur industrielle.

Ignorer le préjudice duquel nous sommes victimes ne nous libère en rien, et peut conduire à nous laisser dévaloriser ce qui semble d’ores et déjà perdu quand bien même elle nous est essentielle à tous : la liberté, souveraine et éclairée, à laquelle chacun peut aspirer, d’organiser sa propre vie, dans un évident respect des règles définies ensemble dans et par collectivité d’appartenance.

La cybersécurité ne concerne pas les systèmes d’information. Elle consiste avant tout à promouvoir auprès de tous cette liberté.

L’article Pour en finir avec la « défense de la vie privée sur internet » est apparu en premier sur latitude77.

Encore discrets il n’y a que 20 ans, les algorithmes sont désormais devenus des objets du quotidien. Peuplant le monde à nos côtés, l’espace qu’ils occupent et les actions qu’ils y mènent ne sont pas sans susciter des questionnements et des réflexions quant à leur éthique.

Lors de cette exploration, la première difficulté rencontrée est ontologique: les algorithmes sont idéels, l’éthique relève d’une pratique. À cela s’ajoute une difficulté culturelle: rares sont les éthiciens qui s’attachent aux différences entre les algorithmes et le code informatique, tout aussi rares sont les développeurs qui font la distinction entre l’éthique et la morale. L’absence de telles distinctions pourtant très basiques empêche de gravir la première marche vers la moindre réflexion.

Ces deux univers se croisent rarement, et s’ils se rencontrent, ce n’est la plupart du temps que lorsqu’ils s’opposent et nous contraignent à devoir réagir. Arriver à leur ouvrir un espace de questionnement mutuel implique de donner à voir une complexité qui permet aux expertises multiples de faire entrer leurs regards complémentaires en synergie. Une réflexion interdisciplinaire est nécessaire. Appuyée sur les disciplines existantes, elle permet d’éclairer les détails. Je crois que ce serait une erreur de s’arrêter là. Comme l’écrivait avec une pointe d’ironie Gaston de Pawlowski à propos du scientisme: « démontons et classons minutieusement tous les rouages de notre montre. Il serait bien étonnant qu’au terme de ce processus nous ne sachions pas enfin l’heure qu’il est  ». La nature pervasive des technologies desquelles il est question incite à un questionnement systémique, c’est à dire au-delà des disciplines.

L’enjeu éthique des données

Commençons pragmatiquement par ce que nous pouvons chacun expérimenter: les données. Elles sont de toutes sortes: nombres, textes, images, sons, vidéos. En très grande quantité, en temps réel, et de nature variée, celles qu’on appelle désormais #bigdata sont indifféremment produites par des objets connectés ou par chacun de nous, intentionnellement aussi bien qu’à notre insu. Il est courant de penser que ces traces ne sont que des réductions binaires du réel, signifiants orphelins de signifiés, anonymisantes généralisations qui condamnent les doubles numériques et les traitements dont ils sont les objets à n’être que de pâles imitations du monde qui nous entoure et dans lesquelles nous pourrions être enfermés. Rien n’est plus faux: les données manipulées par les algorithmes tirent précisément leur valeur de leur contextualisation grâce aux métadonnées: « Results without context are meaningless ». Ces dernières, toutes aussi numériques, souvent moins règlementées, renseignent sur les données elles-mêmes parfois d’ailleurs si bien qu’elles dispensent de les regarder en détail. Par conséquent, celles que nous laissons et que d’autres exploitent permettent d’envisager un changement de paradigme de compréhension de (et d’action sur) nos variabilités interindividuelles, bien loin des statistiques historiques, ce qui n’est pas sans poser un certain nombre de défis.

Le problème que posent ces données n’est pas lié à une impuissance qui résulterait de ce qu’elles sont une réduction du monde, mais précisément à la puissance qui permet aux traitements desquelles elles sont l’objet de réduire le monde à leurs mesures, éventuellement avec notre complicité. C’est parce que ces données nous décrivent, ainsi que le monde qui nous entoure, que leur traitement est un enjeu éthique, aussi bien que par l’usage qu’il est possible d’en faire, que par la réalité que cet usage fait advenir et qui concerne chacun d’entre nous.

Algorithmes et au-delà

Un algorithme est une « suite finie et non ambiguë d’opérations ou d’instructions permettant de résoudre un problème ou d’obtenir un résultat ». C’est un objet mathématique, un processus logique comme il en existe depuis bien avant le traitement automatisé de l’information. Autrement dit, une recette de cuisine est un algorithme, tout comme l’est la procédure d’évacuation d’un lieu public, la stratégie d’une entreprise, un code civil, pénal, ou encore une constitution. Ces algorithmes-là sont mis en œuvre par des humains.

Dans un contexte numérique, les algorithmes s’affranchissent en partie des humains, mais ne deviennent performatifs qu’après plusieurs étapes successives. D’abord leur traduction en code informatique, lisible par l’homme. Ensuite, la transformation de ce code informatique en code qu’une machine peut exécuter. Enfin, l’exécution de ce code exécutable, sous forme d’une instance qui opère sur une infrastructure en lien avec un contexte opérationnel spécifique: entrées, sorties, interactions. À ces étapes préalables succède une quatrième: la maintenance du code et de l’infrastructure qui permet de l’exécuter. Cette dernière étape fréquemment oubliée est pourtant absolument essentielle sous peine de prise de risques considérable.

Un algorithme, en lui-même, n’est capable de rien d’autre que de nous permettre — au mieux — de saisir une partie de l’intention de son concepteur. Une métaphore simpliste serait de mettre en parallèle l’algorithme et le plan d’un bras robotisé. Le code exécutable serait le bras robotisé lui-même. L’instance serait le bras robotisé allumé, l’infrastructure serait l’ensemble de ce qui assure l’alimentation électrique du robot. Le contexte opérationnel serait l’action qu’il mène sur une chaîne de montage. La maintenance serait l’ensemble des procédures visant à inscrire l’action du robot dans la durée.

Le concept de chien n’aboie pas, le plan d’un robot ne fabrique rien. Quiconque souhaiterait comprendre ce que la chaîne de montage réalise, en particulier pour s’assurer de la conformité de l’assemblage réalisé vis-à-vis d’un quelconque critère, ne saurait se satisfaire de regarder les plans du robot. Autrement dit, restreindre le questionnement éthique au champ algorithmique reviendrait à se focaliser sur un objet connu depuis longtemps, et simultanément à exclure le traitement automatique de l’information (TAI) puisque ce dernier est exclusivement en aval de l’algorithme.

Le traitement automatique de l’information

C’est principalement ce TAI qui, par ses effets potentiels, pose aujourd’hui question. Considérer une éthique numérique impose donc d’élargir le champ de vision au-delà des algorithmes, à chacune des différentes étapes des chaînes ontologique et chronologique dans lesquelles il est impliqué: de l’intention qui préside à son élaboration en amont, à la réalisation de code informatique, celle du code exécutable, celle de l’exécution, celle du contexte d’exécution et celle de la maintenance. Ce sont par conséquent les logiciels et leurs infrastructures spécifiques aussi bien techniques qu’humaines qu’il s’agit de questionner, et ce dans leurs contextes.

Le logiciel et les infrastructures

Réaliser un logiciel est très loin d’être trivial, et relève la plupart du temps de l’expérimentation itérative qui ajoute des couches de complexités les unes au-dessus — plus rarement à côté — des autres, mais trop rarement en remplacement les unes des autres. Les comprendre est bien plus difficile encore puisqu’il s’agit d’en saisir la complexité révélée en totalité, puis de la réduire. Les logiciels me semblent toujours échapper ne serait-ce qu’en partie à la compréhension : faute de temps, de moyens, de compétences, de volonté, voire simplement à cause d’aléas. J’en veux pour preuve les multiples bugs par exemple et la difficulté et les compromis nécessaires à leur prévention, ou encore la difficulté de suivi des projets de développement, qui impactent non seulement nos pratiques personnelles mais aussi nos échanges, et même la production des savoirs.

Cette complexité qui échappe même aux spécialistes qui disposent pourtant des codes sources me semble donc de très loin hors de portée de toute compréhension de l’écrasante majorité de ceux auxquels les systèmes sont accessibles, le plus souvent sans accès au code source. C’est important d’en ouvrir le fonctionnement, mais de loin insuffisant pour évaluer leur qualité, leur conformité, et donc à plus forte raison leur éthique. Il me semble qu’il n’est d’ailleurs possible de considérer comme éthique un système technique qu’en faisant l’inventaire de toutes ses trahisons possibles pour les exclure une à une. Penser que cette démarche laborieuse soit faisable relève de la spéculation, et qu’elle soit effectuée de l’hypothèse. Elle est tension: sa réalité est toujours à conquérir.

Il me semble par conséquent que l’ouverture puis l’étude de systèmes ne peuvent qu’aboutir à une prise de conscience de leurs limites, sachant que ces limites seront toujours sous-estimées. Construire la connaissance suppose la destruction des croyances. L’acquérir suppose de consentir à payer un prix si élevé que, collectivement, je ne suis pas certain que nous soyons prêts en assumer le coût. Sans compter qu’il faudrait, déjà, que nous manifestions un minimum d’intérêt vis-à-vis des systèmes qui nous entourent, et dont le marketing renforce la perception animiste en ne faisant leur promotion qu’à travers des pratiques, des « solutions » qui les rendent très difficiles à penser en tant qu’ « objets techniques » et « problèmes potentiels ».

S’il était possible de questionner l’éthique des différentes étapes du cycle de vie d’un logiciel, il faudrait certainement commencer par l’éthique de l’intention qui préside à sa création. Cette intention est jusqu’à présent humaine (et par ailleurs parfois ancrée dans un référentiel contestable), mais pourrait devenir machinique, ce qui rendrait encore plus difficile voire impossible le questionnement. Concernant la conception des algorithmiques, il faut noter un effort significatif et prometteur de la part de l’Institute of Electrical and Electronics Engineers (IEEE), reste à voir si les points soulevés peuvent être résolus sans porter atteinte à la viabilité économique des logiciels. L’implémentation de ces algorithmes sous forme de code informatique reste toutefois réalisée par des humains, lesquels, s’ils ne sont pour la plupart pas malveillants, sont parfois néanmoins soumis à des pressions. Une fois réalisés, ces logiciels, même résultant d’une intention et d’une réalisation éthique – donc a fortiori lorsque ce n’est pas le cas – peuvent néanmoins être détournés par les humains qui les utilisent, tout comme ils peuvent interagir avec d’autres TAIs, déjà existants ou encore à venir et donc par nature imprévisibles. Enfin, la création, la maintenance et le recyclage des logiciels peut impliquer des contraintes, en particulier sociales, pour le moins discutables.

Au-delà des algorithmes, ce sont les logiciels et leurs infrastructures qu’il s’agit de questionner. Aussi bien pour eux-mêmes, c’est-à-dire en tant qu’objets techniques, que vis-à-vis de nous, c’est à dire en tant qu’instigateurs de la culture qui découle des pratiques qu’entraînent leurs usages, que pour les intentions qu’ils implémentent et les externalités qu’ils produisent. Ce questionnement doit embrasser tout leur cycle de vie, de leur conception à leur retrait, et s’étendre à l’écosystème de leurs interactions entre eux et avec nous, aussi bien sur les plans individuel et collectif.

Le contexte d’exécution

Le contexte d’exécution des TAIs est primordial. En ce qu’ils sont automatiques et performatifs, ils s’inscrivent dans un rapport de forces entre ce qui est et ce qui devrait être et qu’ils font par conséquent advenir. L’espace défini par ces rapports de forces peut échapper à nos perceptions, c’est d’ailleurs le cas dans la plupart des usages: le propre de l’outil adéquat étant de nous dispenser d’avoir à exercer la force nous-mêmes, ne serait-ce qu’en partie.

Ces rapports de forces peuvent être implicites, s’ils sont partagés par les concepteurs et les utilisateurs des TAIs. Dans ce cas-là, ils sont réductibles à des points aveugles individuels et/ou culturels. Ils peuvent être dissimulés, principalement pour des raisons stratégiques. Par exemple, les traces numériques que nous laissons sont exploitées selon des modalités et pour des finalités qui ne sont pas toujours explicites. Ils peuvent être visibles, mais sans nécessairement générer de réaction, piégés que nous sommes par nos propres biais cognitifs. Ces rapports de forces peuvent être explicites, mais sans pour autant donner à entrevoir l’écosystème duquel ils font partie. Puisqu’ils y sont internes et donc biaisés, ils ne peuvent d’ailleurs nous le révéler qu’en partie, c’est à nous d’en prendre conscience par une distanciation critique.

Ces rapports de forces que sont les TAIs mettent en tension différents acteurs animés d’intérêts différents. Il peut s’agir d’autres TAIs sur lesquels il s’agirait de prendre l’ascendant ou qu’il s’agirait de compromettre. Il peut également s’agir d’individus ou d’acteurs collectifs. Le cas des TAIs cryptographiques est symptomatique. La cryptographie est partagée par les individus, les groupes, et les gouvernements. Or, l’effet levier propre à la technologie numérique démultiplie les possibilités de l’individu potentiellement au-delà des possibilités d’un groupe, quel que soit sa taille. Par conséquent, les sphères individuelle, collective et étatique ont en partage un socle technologique si proche que les acteurs correspondants peinent à organiser leurs rapports de forces sans mettre à mal les droits et les devoirs les uns des autres, car leurs propres subsistances sont potentiellement antagonistes et donc affaire de compromis. Des frictions sont inévitables et appellent à de nouveaux espaces de négociation pour arbitrer des situations inédites.

Une éthique, en tant que pratique, est contextualisée et donc relative à des intérêts spécifiques qu’il s’agit d’arbitrer. Par conséquent, certains TAIs seront jugés éthiques par certains acteurs, mais non éthiques par d’autres. L’éthique, dans ce cas-là, dévoile qu’elle n’est pas liée aux TAIs — quand bien même ils ne sont ni neutres ni dénués d’intentions —, mais bien au regard que l’on porte sur eux. Ils disent les désaccords entre nous. L’automatisation qu’ils permettent nous accule à investir la responsabilité qu’impose l’exercice la liberté de concevoir des algorithmes. Que les conséquences de cette automatisation nous interrogent devrait nous conduire à questionner la culture depuis laquelle ils émergent et qu’ils contribuent désormais à faire advenir. Or cette culture est issue d’algorithmes tout à fait humains et biaisés qui régissent nos rapports sociaux et à nous-mêmes. Autrement dit, les TAIs rendent visibles à grande échelle et potentiellement instantanément des divergences entre nous et en nous. Par conséquent, qu’une éthique unifiée des TAIs soit possible supposerait d’aligner en amont nos intérêts, ce qui supposerait que nous soyons alignés avec nous-mêmes. Si ce n’est pas possible, de quelle éthique parle-t-on ?

De l’éthique au possible au Politique

Derrière l’enjeu éthique des TAIs se trouvent donc nos subjectivités et nos incohérences. Si nos regards sont multiples et partiels, se pose la question de définir ce que serait une éthique numérique. Devrait-elle être aussi éthique que nous, c’est-à-dire inclure nos propres biais, y compris celui d’oublier avec le temps ses actions non éthiques ? Si elle devait être davantage éthique que chacun de nous, qui donc serait en mesure de l’évaluer ? Si elle devait être en pratique moins éthique que nous, quel intérêt aurions-nous à lui déléguer quoi que ce soit ?

L’arbitrage des rapports de forces est nécessaire même au sein d’une communauté homophile, donc a fortiori en l’absence d’éthique et d’intérêts partagés. Ces arbitrages font intervenir des institutions qui doivent exister et rendre opérants les espaces de négociations susmentionnés. Ces institutions doivent être communes, c’est-à-dire que leur légitimité doit être reconnue par tous ceux qui sont concernés par les rapports de force qu’elles arbitrent. La question devient donc Politique, au sens du vivre ensemble, du contrat social à penser au-delà de nos divergences et de nos juridictions.

En 2000, Lawrence Lessig écrivait code is law, soulignant que le code s’était progressivement établi comme régulateur des comportements en ligne, se substituant de fait à la loi. Fin 2016, un article de Primavera De Filippi suggère que le registre public distribué qu’est la blockchain pourrait être à l’origine de solutions techniques permettant au code de devenir un moyen d’exprimer la loi (law is code). A minima, un tel horizon pose question, entre autres car il rend impossible le recours autrement — au mieux — qu’a posteriori, et parce que le droit actuel a cet avantage d’être plastique et de pouvoir s’améliorer en s’adaptant, comme le souligne Antoinette Rouvroy.

L’automatisation permise par le code informatique est absolue. Elle est au-delà de l’éthique car cette dernière promeut certaines valeurs plutôt que d’autres. Elle est au-delà de la morale car cette dernière partitionne l’espace des possibles en bien et mal. Le code informatique, lui, ne cherche pas, latéralement, à influencer les comportements mais se place potentiellement au-dessus et au-dessous de ces derniers, en modelant l’espace des possibles lui-même : il encadre les valeurs, il encadre le bien et le mal, au service d’intérêts particuliers. En même temps qu’il ouvre un espace possible, les TAIs en ferme un autre.

L’automatisation: quelle Politique par quels hommes ?

En creux, ce questionnement de l’éthique du numérique est donc bien principalement — et pas uniquement — le nôtre: la technique est un miroir où se reflètent les divergences de nos intentions particulières, individuelles et collectives. Par conséquent se pose la question de notre volonté à prendre conscience de nos biais, pour les dépasser.

Le problème est donc humain avant d’être technologique. L’aborder sous l’angle technologique en cherchant à encadrer ses conséquences indésirables dans une marge — acceptable collectivement mais qui ne le sera sans doute (plus?) jamais individuellement — n’est un palliatif. Les TAIs sont des pharmakons. Ils relèvent autant de la médecine dans leurs usages que de la pharmacie dans leurs conceptions. Les serments d’Hippocrate et de Galien devraient par conséquent être transposés dans le monde qu’ils contribuent à faire émerger.

Note: Notre activité de recherche est autofinancée. Soutenez-nous !

L’article Des algorithmes peuvent-ils être éthiques ? est apparu en premier sur latitude77.