Engagement

La prise de conscience d’une seule personne impliquée dans ce triangle ne suffit pas: ses efforts pour sortir de l’ornière risqueront d’être réduits à néant ou presque par les habitudes/réflexes de l’autre. Deux points me semblent donc importants. Premièrement, se mettre d’accord a priori sur un engagement mutuel à se sortir de cette ornière. Ensuite, convenir d’un mot clé pour désamorcer la dynamique lorsqu’elle se présente. Charge à qui s’emballe d’y rester réceptif, d’où l’importance de l’engagement préalable qu’il est impératif d’honorer sauf à rompre la confiance et à devoir ensuite la reconstruire. C’est un exercice très exigeant.

Recul : accueillir créativité, conviction, langage

Engagement pris, pour sortir de cette narration dominante et pathologique, la première étape me semble être de prendre du recul afin de s’affranchir le plus possible des réflexes conversationnels que l’on pourrait avoir. Il ne s’agit pas de faire monde à part en soi, mais de restaurer l’épaisseur qui permet, après avoir perçu, de “ralentir” le mouvement de façon à en discerner les failles et l’imposture. De là, s’inscrire à neuf dans le monde. C’est sans doute la plus grande difficulté, car elle suppose créativité (c’est-à-dire de faire advenir ce qui n’existe pas encore), conviction (que ce qui n’existe pas encore est pourtant solide et viable), et langage (pour faire narration avec soi et autrui afin que ce qui n’existe pas encore devienne tangible).

Virginité : une conquête

Une fois le triangle immobilisé : il est vulnérable, tout comme un vélo qui ne roule pas n’est pas stable. Je crois que c’est à ce moment-là que la créativité peut s’exprimer, sous forme d’une sorte de virginité. Le terme est fort, non pour heurter, mais pour souligner le caractère radical du changement nécessaire. Dans l’acception commune, la virginité est considérée comme étant un bien précieux qu’on risquerait de perdre presque par inadvertance au point qu’il convient de la protéger possiblement par tous les moyens, jusqu’à l’indifférence voire le rejet. Une telle conception de la virginité exclut autrui, et donc la possibilité de ce dernier de nous conférer l’identité exogène que nous attendons de lui. Elle repose sur l’hypothèse implicite que la virginité préexiste. Je crois possible de proposer l’inverse: il nous est impossible de nous affranchir d’une chaîne causale inscrite dans le temps. Par conséquent, chaque instant vécu est marqué par le précédent. La virginité de soi dans l’instant ne saurait donc que relever d’une conquête sur soi dans son rapport au temps : en percevoir les fragments comme ces instants à la fois premiers (comme se donnant pour la première fois, ce qui implique d’en prendre soin, car ils ont en eux le germe des suivants) et derniers (comme ne se donnant qu’une seule fois qu’il s’agit de saisir à fond, en lien avec le carpe diem). Une telle virginité accueille autrui à neuf dans le présent, et donne l’occasion d’une rencontre qui, loin d’altérer, libère des chaînes du triangle toxique.

Devenir attentifs ensemble puis, attentifs, devenir ensemble

Sortir de ce triangle me semble donc supposer de trouver (et pas de retrouver!) la virginité de l’instant. De là l’importance d’une pleine attention, d’une consécration au présent qui s’offre et qui nous porte au-delà de nos déterminismes évidents et mécaniques. Vivre cette attention lorsque le contexte est facile est assez simple. Ce qui est difficile, c’est précisément lorsque le contexte devient plus complexe et exigeant. Là, c’est avec une détermination totale dans une lutte contre ce qu’on imagine être soi qu’il devient possible de s’engager, pour ensuite se retrouver différent et libéré ne serait-ce que transitoirement d’une partie de soi, obstacle à l’autre et donc à soi, ancrée dans un déterminisme tragique et qui n’avait vraisemblablement rien à faire là. Finalement, figer le triangle, c’est se mettre en cheminement, d’itération en itération. Ensemble.

C’est peut-être là un élément essentiel des amours vertueuses – celles qui habitent les relations édifiantes.

L’article Victime, sauveur, persécuteur : quelques éléments pour sortir du triangle de Karpman est apparu en premier sur latitude77.

(source)

Tout message part de l’intériorité d’un émetteur, qui l’émet après l’avoir encodé (par exemple sous forme de mots). Le message est potentiellement soumis à des interférences avant d’être décodé par un destinataire. Si l’émetteur, le récepteur et le message – voire les interférences – sont connus, la question de l’encodage/décodage l’est moins. Or, elle est essentielle car l’émetteur encode, le destinataire décode, et rien ne garantit que l’encodeur et le décodeur fonctionneront suivant les mêmes principes. En particulier, l’un et l’autre reposent sur des implicites partagés (indexicalités) qui ouvrent à l’ethnométhodologie. Lorsque ces implicites ne sont pas partagés, même un message transmis sans interférence ne pourra pas être compris. L’exemple le plus simple est celui d’une discussion avec une personne qui parle une langue qu’on ne connaît pas. Si les mains peuvent suffire pour des choses simples, dès que les sujets sont profonds, riches, ou abstraits, il devient impossible de se comprendre, de se rejoindre.

La clé de l’encodage/décodage réside dans l’interprétation de soi au monde (choix de l’encodage) et dans celle du monde en soi (choix de décodage). L’émetteur doit choisir un encodage approprié pour le destinataire, et le destinataire un décodage approprié étant donné l’émetteur. Nos bibliothèques individuelles d’encodeurs et de décodeurs sont définies par nos cultures et nos histoires de vies. Elles sont limitées. Toute relation est un monde nouveau qui s’ouvre chaque instant, et qui ne peut être investi qu’en inventant un encodage et un décodage inédit afin que les messages vivent, fluides.

Par conséquent, la compréhension ne tombe jamais en marche: pour part elle se reçoit, pour part elle se construit. En cas d’incompréhension, il est commode pour le destinataire d’accuser l’émetteur de ne pas avoir été adéquat, et réciproquement. Renoncer aux accusations, et à la place questionner l’encodage et le décodage pour les affiner itérativement est donc essentiel. Ne pas le faire, ce serait ne pas prendre en compte le bain culturel commun qui sous-tend la communication et qui n’est pas nécessairement aussi partagé que ce qu’on pourrait croire de prime abord. Questionner ce bain est essentiel. Pour cela, est nécessaire que le récepteur reformule ce qu’il a reçu avant d’internaliser le contenu du message. Sans cela, un message encodé puis décodé par des encodeurs/décodeurs différents risque de générer des difficultés considérables.

Le cas le plus fréquent et le plus tragique est celui de la blessure du destinataire suite au décalage entre un encodage et un décodage : le message reçu blesse alors que l’émetteur n’avait en lui aucune intériorité blessante et ne voulait pas blesser. Je crois que personne de sain ne veut blesser. Le message, hors cas pathologique, est toujours là pour apporter quelque chose de valeur. S’il se révèle blessant une fois décodé, il est essentiel pour le récepteur de ne pas intégrer la blessure sans questionner l’émetteur sur son intention. Sans quoi peut s’accumuler une dette invisible pour l’émetteur, avec le risque que le destinataire internalise autre chose que ce qui a été dit.

Pour prendre un exemple très caricatural, la phrase “La boite est ouverte” est ambiguë. Il peut s’agir d’une boite de thé ouverte sur une table par exemple, ou bien d’une entreprise dont on parle aux heures de bureau. L’encodage et le décodage de “boite” sont donc d’autant plus importants que le terme est polysémique. La polysémie propre au langage nous impose le plus grand soin. Si son sens n’est pas partagé, quelle qu’en soit la raison, l’incompréhension s’installe. Le destinataire pense A, émet un message encodé, qui est décodé par le récepteur qui le comprend comme étant B. Si B s’avère être blessant, le récepteur pourra attendre indéfiniment qu’un pardon soit demandé par l’émetteur pour avoir dit B. L’émetteur ayant dit A, il lui est impossible de demander pardon pour avoir pensé B puisqu’il ne l’a pas dit ni même pensé. Tout au plus peut-il demander pardon de ne pas avoir pu/su encoder le message suivant des modalités intuitives pour le destinataire. L’incompréhension est un lien brisé entre deux personnes qui nécessite pour être résorbée que chacune de ces personnes, individuellement, ne cesse de vouloir se comprendre mutuellement, et donc qu’elles soient attentives l’une et l’autre non seulement concernant les messages échangés, mais également à leurs encodeurs/décodeurs respectifs qu’il s’agit d’inventer. En effet, même dans la même langue et quelle que soit la maîtrise de cette dernière, l’autre est toujours une terre étrangère. Si la valeur accordée à la relation est telle que vouloir se comprendre persiste, alors l’incompréhension se dissipe.

Il est donc très important de toujours laisser à l’autre le bénéfice du doute et de ne jamais préempter l’interprétation de ce qu’il/elle a pensé ou dit. Pour reprendre les classiques de la communication non violente, préempter le sens de ce qu’a dit l’autre (“Tu as dit que…”), sans lui demander (“Qu’as-tu voulu dire?”) c’est ériger devant lui un référentiel invincible. C’est nier la singularité de l’encodeur/décodeur de son intime, c’est le condamner à ne plus pouvoir se dire, c’est le borner à un rôle strictement informationnel et au prix d’efforts immenses qu’il n’est pas nécessairement en mesure de fournir. C’est le chasser d’un monde commun qui pourrait advenir, c’est le dépecer de son épaisseur de sujet, c’est le faire desexister. C’est refuser de voir l’émetteur tel qu’il est, et le réduire à la perception qu’on en a plutôt que de s’ouvrir à sa singularité propre. Considérer ainsi son interlocuteur, c’est attester sa non-présence. Agir ainsi, c’est le confiner à l’inintelligible, à l’inaudible, et in fine à le détruire. La réciproque est tout aussi vraie : “Tu n’as pas compris que …” à la place de “Qu’as-tu compris?” détruit le destinataire du message.

C’est pourquoi, plus les circonstances sont difficiles, plus il est essentiel que, plutôt que d’ingérer un message mal encodé/décodé, le destinataire ne fuie pas. Qu’il ne s’isole pas, mais qu’il reformule ce qu’il a compris sous la forme d’un feedback immédiat auprès de l’émetteur, afin d’être bien certain du sens de “boite” (“J’ai l’impression que tu te moques de moi, est-ce vraiment ça que tu as voulu dire ?”). Un tel feedback impose au destinataire de pouvoir intercepter une perception négative du message qu’il décode avant que ce dernier ait des conséquences négatives. Il nécessite également le maintien du dialogue, de ne pas se refermer, et donc de continuer à vivre le climat de confiance qui ne soupçonne pas l’émetteur d’être malveillant. Il nécessite aussi que l’émetteur soit réellement bienveillant et qu’il ait sincèrement à cœur d’être compris. Il est surtout essentiel que le destinataire et l’émetteur puissent et veuillent faire ensemble l’effort d’enrichir leurs grilles de lecture avec ce que répondra l’émetteur qui enverra un nouveau message dont l’encodage sera mieux ajusté au décodeur du destinataire, message qui à son tour devra être encodé/décodé/questionné. Sans ces itérations, qui ne viennent pas sans heurts, sans un contexte de bienveillance radicale, sans une confiance que l’autre ne cherche pas à blesser, mais qu’il fait du mieux qu’il peut avec qui il est et qui est toujours insuffisant, alors les grilles de lectures ne se jointent pas, ne se rassemblent pas, ne s’enrichissent pas. Il est essentiel qu’elles se rejoignent, sauf à se résigner à ne vivre que désespérément seuls, solitaires, isolés, incapables de faire lien.

L’effort à faire pour dépasser l’incompréhension n’est pas optionnel, sauf à condamner ce qui n’existe pas encore et qui demande d’autant plus à éclore que les blessures les plus profondes sont infligées à portée de l’intime.

On ne parle jamais que de soi. Cet article se base sur un vécu personnel. Le lecteur attentif saura lire, entre ces lignes plutôt descriptives et analytiques, à quel point c’est bien de tout autre chose qu’une description et qu’une analyse qu’il s’agit.

L’article Se comprendre, se rejoindre est apparu en premier sur latitude77.

Parmi les diversités possibles, la diversité cognitivocomportementale est particulièrement critique. Elle confine en effet bien souvent à l’exclusion ceux qui ne sont pas alignés sur la norme des neurotypiques. Le cas des Aspergers est frappant, tout comme l’est celui des hauts potentiels/multipotentiels. Si les capacités d’adaptation des seconds leur permettent une adaptation ne serait-ce que partielle, ce n’est pas pour les premiers. Il est donc fréquent, avec les meilleures intentions du monde, de chercher à travailler à leur intégration.

Une voie simple et intuitive… mais limitée

Pour permettre à des neuroatypiques de s’intégrer, la première voie est celle de l’assimilation. Il s’agit de les amener à une conformité minimale compatible avec l’environnement neurotypique de l’entreprise, eventuellement en leur permettant d’identifier des stratégies comme autant d’outils qui leur correspondent.

L’effort d’adaptation spécifique demandé au neuroatypique entraine la mobilisation de ressources qui ne seront pas disponibles pour autre chose. Son identité et ses aptitudes spécifiques ne pourront par conséquent pas se déployer dans les meilleures conditions.

Une telle démarche prend acte de l’exclusion pour mieux la combattre. Située en aval de l’exclusion, elle est palliative et circonstanciée. Si elle peut améliorer considérablement la qualité de vie, ce n’est qu’à titre individuel pour ceux qui en ont bénéficié. C’est une démarche conjoncturelle.

Acter ainsi l’existence de la norme neurotypique, c’est aussi induire son renforcement : pourquoi les entreprises auraient-elles intérêt à faire un effort si le facilitateur d’intégration s’occupe de la mise en conformité des profils neuroatypiques ?

Par conséquent, quoique certainement utile au cas par cas, une telle démarche est ultimement contre-productive à grande échelle, c’est-à-dire sur le plan politique. Je crois qu’il ne serait pas responsable de mettre en place ces nécessaires solutions au cas par cas sans questionner également la logique sous-jacente qui amène à cette exclusion.

Une voie plus pertinente… et plus complexe

Plutôt que de chercher à remédier à l’exclusion, il est possible de s’attaquer à ses causes. Il s’agit cette fois d’attaquer de front l’idée même de norme neurotypique, idée qui engendre la non-conformité, et donc l’exclusion. L’objectif est que chacun soit reconnu dans la singularité spécifique de sa part d’humanité, de laquelle il ne peut être exclu par personne, et qui implique pour tous un devoir.

S’il n’y a plus de norme, il n’y a plus de neuroatypiques, qui n’ont donc plus de difficultés d’intégration. C’est une ambition qui n’a rien de candide ou d’utopiste. Au contraire: l’action culturelle, en profondeur, curative, structurelle, et ultimement productive qu’elle implique repose sur un effort et une exigence sans naïveté aucune. C’est pourquoi il est nécessaire de s’y attacher avec énergie et détermination.

Mise en action : la place des écoles de management

Cette action curative ne saurait trouver de lieu plus naturel où se déployer que dans les établissements responsables de la formation des managers de demain. Ces derniers sont idéalement placés pour sculpter les cultures d’entreprise à venir. Leurs étudiants, formés, y trouveraient un avantage compétitif pour se démarquer sur le marché du travail. Les entreprises qu’ils rejoindraient seraient progressivement familiarisées avec cet enjeu de la neurodiversité. Les neuroatypiques seraient plus facilement inclus tout en étant mieux respectés dans leur singularité. Le bénéfice serait évidemment pour tous, pour chacun car nous sommes tous le neuroatypique de quelqu’un d’autre.

Le liens avec l’innovation

Je n’ai pas trouvé d’étude sérieuse démontrant que la diversité seule est source d’innovation. Je suis d’autant plus preneur de référence à ce sujet. La diversité me semble reconfigurer le périmètre cognitivocomportemental collectif qu’il s’agit de s’approprier ensemble. À ce titre, elle est “nécessaire”, mais pas “suffisante”. En effet, s’opposant de prime abord à cet “ensemble”, la diversité est également source de tensions. Ce sont précisément ces tensions-là qu’il s’agit de déminer dans le processus d’acculturation des entreprises à la différence spécifique des neuroatypiques, et donc au sein de la formation des managers de demain.

Le véritable enjeu : le flow et sa mise en place

Qu’ensuite les processus internes fonctionnent mieux et s’améliorent en continu car chacun est proche de son état de flow cognitif est un des effets de bord positifs d’une remise en dignité de chacun dans sa singularité. C’est cette remise en dignité qu’il est nécessaire de chercher car elle conditionne la possibilité d’un flow cognitif individuel et collectif.

Viser le flow collectif, c’est s’assurer de le rater car les conditions de son existence ne sont pas travaillées spécifiquement. Viser une de ses causes nécessaires qu’est la remise en singularité, c’est se donner une vraie chance que le flow “tombe en marche”, par le respect du timing propre à chacun qui permet l’oscillation entre intériorité et collaboration nécessaire à l’innovation et la créativité. Il s’agit pour tous d’être maximalement attentif à chacun.

Cette formulation un peu rapide n’a rien de rhétorique : je crois l’enjeu sous-jacent central car il permet d’assoir la différence entre une approche palliative qui confine à l’assistanat et une approche curative qui permet de tendre vers la reconnaissance de la dignité, le respect, la confiance, la responsabilité, et l’excellence.

L’article Innovation, (neuro)diversité et inclusion : des liens compliqués ? est apparu en premier sur latitude77.

Concepteurs ou entraineurs, nous nous devons donc de montrer l’exemple à l’IA. Être exemplaire implique de travailler spécifiquement à réduire nos propres biais afin de ne pas donner à l’IA de mauvaises habitudes. Simultanément, les acteurs reposant sur l’exploitation de ces biais opposeront sans doute une résistance à toute tentative de les atténuer, sauf à se renouveler.

Nos biais découlent au moins en partie de mécanismes évolutifs. À défaut d’être en phase avec le réel qui nous entoure, ces heuristiques nous permettent de faire des choix en lien avec l’étendue et les limites de nos capacités de perception, d’action, et avec nos vulnérabilités spécifiques (source). Nous, humains, ne pouvons percevoir, agir, vivre que dans le périmètre accessible à nos deux bras, transportés par nos deux jambes. Nos biais sont, au mieux, ces sacrifices consentis à une adéquation maximale avec le monde qui nous entoure, et qui contribuent pourtant à notre survie.

Les capacités de l’IA sont très différentes des nôtres, car elle est construite sur le numérique. Les données qu’elle prend en compte sont bien moins limitées dans le temps et dans l’espace que celles que nos cinq sens nous relaient. Les actions qu’elle peut déclencher peuvent se déployer simultanément pour tous à l’échelle de la planète (ex. PageRank, RankBrain ou EdgeRank). Structurellement, le déploiement de l’IA se profile donc sous forme de silos hégémoniques, en continuité avec ceux autour desquels se concentrent les usages du web.

C’est la pluralité des personnalités humaines qui assure la résilience intrinsèque de l’espèce. Nous pouvons ainsi tirer parti de nos inévitables erreurs pour ne plus les reproduire. Cette optimisation est d’abord individuelle avant d’être collective. En silos hégémoniques, quasi instantanée et quasi ubiquitaire, aucune résilience de ce type n’est envisageable pour l’IA. Compter sur le nombre et la diversité des IAs, ou sur la sophistication de leurs processus d’apprentissage, pour que les biais des unes compensent les biais des autres, à l’image des sociétés humaines (qui sont à la peine), est donc un pari très osé. L’IA est intrinsèquement fragile.

Par conséquent, éduquer l’IA en incluant les biais découlant de notre propre évolution serait probablement particulièrement inadéquat. L’IA apprend à travers des exemples. Ce serait problématique qu’elle suive l’exemple des humains, car elle n’est pas humaine. Là où nous, humains, essayons de modeler nos biais a posteriori, souvent incapables de nous en défaire a priori, notre éthique est toujours en retard. Un retard de quelques heures, quelques jours, est compatible avec nos jambes et avec nos bras. Pour une IA qui traverse le monde instantanément grâce au numérique, un retard que nous aurions à subir, même infime pour elle, aurait proportionnellement des conséquences considérables pour nous.

En partie inspiré de cet article.

L’article Intelligence humaine et artificielle : évolution et éthique. est apparu en premier sur latitude77.

Publié initialement sous forme de commentaire ici.

S’il est tout à fait normal d’avoir des opinions différentes, en rester là me semble confiner à l’impuissance. En effet, se satisfaire de ces opinions, comme autant de postures différentes, pose la question de l’espace commun. Des postures incompatibles ne serait-ce qu’en partie ne sauraient s’incarner collectivement autrement, au choix, que dans le conflit (« j’ai LA vérité et pas toi ») ou dans le relativisme généralisé (« tu as la tienne, j’ai la mienne, et tout va bien: on fusionne, ou on ne se croise pas »). Par conséquent, ni le conflit ni le relativisme absolu ne me semblent viables. L’un et l’autre nous isolent alors que nous ne sommes et ne devenons nous-mêmes qu’avec l’Autre. Je crois donc important de se placer entre la revendication de détenir « LA vérité » et la tentation de céder au relativisme.

La thématique sous-jacente est celle de la construction de ce qu’on peut considérer vrai, c’est-à-dire une croyance, une partie de ce qui nous constitue en tant que groupe. Ce dépassement de la posture est indispensable à l’émergence du groupe: l’autre est toujours « à rejoindre », il n’est jamais proche d’entrée de jeu, sinon par illusion. De plus, le groupe est précisément nécessaire à toute action au-delà de nos individualités.

Plutôt que de rester coincés dans des postures rigides, je crois donc nécessaire de nous inscrire chacun dans mouvement, pour que des mouvements individuels et pluriels puisse émerger une réalité commune. Mais quel type de mouvement ?

Un mouvement qui découlerait d’un objectif premier de rejoindre l’autre, ou d’être rejoint, inclinerait au rapport transactionnel, de négociation, voire de force. Ce n’est pas une direction qui me semble souhaitable. C’est pourtant une des origines possibles de la raison .

L’alternative qui me semble la plus pertinente, c’est de proposer à chacun d’examiner avec une critique radicale en quoi nos perceptions sont validées/invalidées par ce réel qui nous est extérieur. Il s’agit de le considérer comme toujours trop confus et de le questionner pour travailler à son impossible clarification. Cette démarche est individuelle et intime. L’enjeu n’est ni l’autre ni le rapport à ce dernier, mais bel et bien un rapport critique à soi: le mouvement nécessaire est de tendre vers cet objet qui nous échappe et de ne pas se satisfaire de ce que nous en expérimentons. La conséquence de ce mouvement est un rapprochement de tous, indirectement médié par l’objet commun vers lequel chacun converge. Ce n’est pas sans lien avec la théorie du désir mimétique de René Girard. Il s’agit de questionner individuellement ce qu’est ce que nous avons en partage pour ensemble non pas le connaître dans sa nature, puisqu’elle nous échappe, mais pour le circonscrire autant que faire se peut. Que des divergences subsistent, c’est probablement qu’il s’agit de deux objets différents. Raison de plus pour les circonscrire.

Par conséquent, les opinions différentes et incompatibles deviennent dès lors une richesse: la convergence asymptotique vers ce même objet entraîne l’émergence d’un vocabulaire commun et d’une démarche cohérente sans être coercitive et sans que quiconque puisse se prévaloir d’être indispensable, quoique chacun puisse aider à des degrés différents. L’implication pour chacun, et particulièrement pour les dirigeants, est claire : leur perspective n’en est qu’une parmi d’autres, c’est pourquoi il est essentiel qu’ils soient aussi humbles qu’attentifs – voire qu’ils soient reconnus comme participants à l’aventure collective sur ces critères-là.

Pour illustrer, imagine, lectrice, lecteur, en 2 dimensions: chacun est un point noir placé sur une feuille de papier blanche. Chacun est à la fois « situé » et « voit son regard orienté » dans une direction précise, ce qui illustre la diversité de nos perspectives, conditionnées par nos points de vue. Quelque part sur la feuille se trouve un objet non circonscrit que chacun, par définition, voit à midi et devant sa porte. Par itération, il s’agit pour chacun de savoir si midi correspond plutôt à 11h59 ou 12h01, et si la porte ne serait pas plutôt la boite aux lettres, ou la clôture du jardin.

Je fais l’hypothèse que de tels mouvements individuels, itérativement répétés, sont un moyen de nous rassembler autour de cet objet afin de le caractériser par ce que nous en percevons et qui ne saurait s’avérer qu’être complémentaire. Nous ne pouvons pas le connaître, ni individuellement ni collectivement, par contre nous le circonscrivons d’autant mieux que nous sommes nombreux à l’entourer. Comme si la nature de l’objet, diffractée autour de lui et insaisissable, était intelligible fragment par fragment.

Je ne dis pas que c’est la seule façon de procéder, je dis seulement que je n’en vois pas d’autres. Je suis évidemment ouvert à toute suggestion. Dans cette démarche, l’opinion contraire n’est jamais réductible à de l’ignorance. Au contraire, elle est l’occasion de l’interrogation qui précède toute recherche.

L’article Ce dont « nous » manque, et comment le retrouver. est apparu en premier sur latitude77.

Le terme « vie privée » s’oppose habituellement à la vie publique ou à la vie professionnelle. Ces vies sont des territoires de l’existence. Les distinctions en territoires sont opérées par chacun de nous. Ces territoires sont multiples et parfois poreux. Se focaliser sur « la vie privée uniquement », c’est laisser de côté d’autres aspects de la vie de l’individu, et ignorer leurs dynamiques propres. L’interlocuteur n’est donc pas totalement mobilisé.

Le terme « internet » laisse croire que l’enjeu est d’ordre technologique, voire se limite à un monde immatériel et évanescent qui n’entraîne pas de changement de la vie de tous les jours. Internet est une réalité physique bien tangible, ce qui s’y passe relève du monde physique et n’en est pas moins tangible. Une fois une information rentrée dans un réseau, elle est traitée puis rendue disponible à des acteurs tout à fait identifiés : entreprises, particuliers, collectivités. Ce fonctionnement type ne se limite d’ailleurs pas à internet, mais s’étend à tout réseau de collecte, traitement et distribution de l’information, y compris les réseaux privés, et ceux qui sont encore en grande partie à venir (comme par exemple ceux dédiés aux objets connectés qui posent déjà problème). Le lieu de l’action et de ses conséquences n’est pas immatériel, mais bien concret, et beaucoup plus large qu’internet. Il concerne la vie quotidienne et l’impact ira grandissant.

Le terme « défense » laisse entendre une attaque, un combat, donc une source d’angoisse potentielle pour l’interlocuteur auquel on s’adresse. De là un mécanisme de défense courant et compréhensible : l’interlocuteur se referme et nous affuble d’une étiquette « paranoïaque » pour nous mettre à distance de sa zone de confort. Il n’y a pourtant ni défense, ni combat, et si attaque il y a, elle ne peut cibler que l’ignorance. Pas l’ignorant.

L’ignorance se dissipe par la pédagogie : premièrement considération inconditionnelle de l’autre, puis accompagnement, puis écoute, et enfin transmission de ce qui est nécessaire à chacun. Il n’est pas tant question de technique que d’humanité. Répondre à l’un sans inclure l’autre est absurde. Soyons-y attentifs.

Il me semble que ce n’est donc pas la « vie privée » qu’il faut « défendre » sur « internet ». L’intimité a vocation à être partagée. Rien n’est d’ailleurs plus beau que l’intimité partagée. Ce partage peut se faire de multiples façons, y compris via les réseaux.

C’est lorsque ce partage n’est pas consenti qu’il y a problème. Métaphoriquement, ce problème s’apparente à une trahison, voire à un viol. Le mot est volontairement fort non pour amoindrir le préjudice inouï d’un viol physique, mais pour susciter l’indignation de ce qu’est son équivalent mental, qui existe depuis toujours, mais qui avec les traitements automatiques de l’information a pris une ampleur industrielle.

Ignorer le préjudice duquel nous sommes victimes ne nous libère en rien, et peut conduire à nous laisser dévaloriser ce qui semble d’ores et déjà perdu quand bien même elle nous est essentielle à tous : la liberté, souveraine et éclairée, à laquelle chacun peut aspirer, d’organiser sa propre vie, dans un évident respect des règles définies ensemble dans et par collectivité d’appartenance.

La cybersécurité ne concerne pas les systèmes d’information. Elle consiste avant tout à promouvoir auprès de tous cette liberté.

L’article Pour en finir avec la « défense de la vie privée sur internet » est apparu en premier sur latitude77.

Encore discrets il n’y a que 20 ans, les algorithmes sont désormais devenus des objets du quotidien. Peuplant le monde à nos côtés, l’espace qu’ils occupent et les actions qu’ils y mènent ne sont pas sans susciter des questionnements et des réflexions quant à leur éthique.

Lors de cette exploration, la première difficulté rencontrée est ontologique: les algorithmes sont idéels, l’éthique relève d’une pratique. À cela s’ajoute une difficulté culturelle: rares sont les éthiciens qui s’attachent aux différences entre les algorithmes et le code informatique, tout aussi rares sont les développeurs qui font la distinction entre l’éthique et la morale. L’absence de telles distinctions pourtant très basiques empêche de gravir la première marche vers la moindre réflexion.

Ces deux univers se croisent rarement, et s’ils se rencontrent, ce n’est la plupart du temps que lorsqu’ils s’opposent et nous contraignent à devoir réagir. Arriver à leur ouvrir un espace de questionnement mutuel implique de donner à voir une complexité qui permet aux expertises multiples de faire entrer leurs regards complémentaires en synergie. Une réflexion interdisciplinaire est nécessaire. Appuyée sur les disciplines existantes, elle permet d’éclairer les détails. Je crois que ce serait une erreur de s’arrêter là. Comme l’écrivait avec une pointe d’ironie Gaston de Pawlowski à propos du scientisme: « démontons et classons minutieusement tous les rouages de notre montre. Il serait bien étonnant qu’au terme de ce processus nous ne sachions pas enfin l’heure qu’il est  ». La nature pervasive des technologies desquelles il est question incite à un questionnement systémique, c’est à dire au-delà des disciplines.

L’enjeu éthique des données

Commençons pragmatiquement par ce que nous pouvons chacun expérimenter: les données. Elles sont de toutes sortes: nombres, textes, images, sons, vidéos. En très grande quantité, en temps réel, et de nature variée, celles qu’on appelle désormais #bigdata sont indifféremment produites par des objets connectés ou par chacun de nous, intentionnellement aussi bien qu’à notre insu. Il est courant de penser que ces traces ne sont que des réductions binaires du réel, signifiants orphelins de signifiés, anonymisantes généralisations qui condamnent les doubles numériques et les traitements dont ils sont les objets à n’être que de pâles imitations du monde qui nous entoure et dans lesquelles nous pourrions être enfermés. Rien n’est plus faux: les données manipulées par les algorithmes tirent précisément leur valeur de leur contextualisation grâce aux métadonnées: « Results without context are meaningless ». Ces dernières, toutes aussi numériques, souvent moins règlementées, renseignent sur les données elles-mêmes parfois d’ailleurs si bien qu’elles dispensent de les regarder en détail. Par conséquent, celles que nous laissons et que d’autres exploitent permettent d’envisager un changement de paradigme de compréhension de (et d’action sur) nos variabilités interindividuelles, bien loin des statistiques historiques, ce qui n’est pas sans poser un certain nombre de défis.

Le problème que posent ces données n’est pas lié à une impuissance qui résulterait de ce qu’elles sont une réduction du monde, mais précisément à la puissance qui permet aux traitements desquelles elles sont l’objet de réduire le monde à leurs mesures, éventuellement avec notre complicité. C’est parce que ces données nous décrivent, ainsi que le monde qui nous entoure, que leur traitement est un enjeu éthique, aussi bien que par l’usage qu’il est possible d’en faire, que par la réalité que cet usage fait advenir et qui concerne chacun d’entre nous.

Algorithmes et au-delà

Un algorithme est une « suite finie et non ambiguë d’opérations ou d’instructions permettant de résoudre un problème ou d’obtenir un résultat ». C’est un objet mathématique, un processus logique comme il en existe depuis bien avant le traitement automatisé de l’information. Autrement dit, une recette de cuisine est un algorithme, tout comme l’est la procédure d’évacuation d’un lieu public, la stratégie d’une entreprise, un code civil, pénal, ou encore une constitution. Ces algorithmes-là sont mis en œuvre par des humains.

Dans un contexte numérique, les algorithmes s’affranchissent en partie des humains, mais ne deviennent performatifs qu’après plusieurs étapes successives. D’abord leur traduction en code informatique, lisible par l’homme. Ensuite, la transformation de ce code informatique en code qu’une machine peut exécuter. Enfin, l’exécution de ce code exécutable, sous forme d’une instance qui opère sur une infrastructure en lien avec un contexte opérationnel spécifique: entrées, sorties, interactions. À ces étapes préalables succède une quatrième: la maintenance du code et de l’infrastructure qui permet de l’exécuter. Cette dernière étape fréquemment oubliée est pourtant absolument essentielle sous peine de prise de risques considérable.

Un algorithme, en lui-même, n’est capable de rien d’autre que de nous permettre — au mieux — de saisir une partie de l’intention de son concepteur. Une métaphore simpliste serait de mettre en parallèle l’algorithme et le plan d’un bras robotisé. Le code exécutable serait le bras robotisé lui-même. L’instance serait le bras robotisé allumé, l’infrastructure serait l’ensemble de ce qui assure l’alimentation électrique du robot. Le contexte opérationnel serait l’action qu’il mène sur une chaîne de montage. La maintenance serait l’ensemble des procédures visant à inscrire l’action du robot dans la durée.

Le concept de chien n’aboie pas, le plan d’un robot ne fabrique rien. Quiconque souhaiterait comprendre ce que la chaîne de montage réalise, en particulier pour s’assurer de la conformité de l’assemblage réalisé vis-à-vis d’un quelconque critère, ne saurait se satisfaire de regarder les plans du robot. Autrement dit, restreindre le questionnement éthique au champ algorithmique reviendrait à se focaliser sur un objet connu depuis longtemps, et simultanément à exclure le traitement automatique de l’information (TAI) puisque ce dernier est exclusivement en aval de l’algorithme.

Le traitement automatique de l’information

C’est principalement ce TAI qui, par ses effets potentiels, pose aujourd’hui question. Considérer une éthique numérique impose donc d’élargir le champ de vision au-delà des algorithmes, à chacune des différentes étapes des chaînes ontologique et chronologique dans lesquelles il est impliqué: de l’intention qui préside à son élaboration en amont, à la réalisation de code informatique, celle du code exécutable, celle de l’exécution, celle du contexte d’exécution et celle de la maintenance. Ce sont par conséquent les logiciels et leurs infrastructures spécifiques aussi bien techniques qu’humaines qu’il s’agit de questionner, et ce dans leurs contextes.

Le logiciel et les infrastructures

Réaliser un logiciel est très loin d’être trivial, et relève la plupart du temps de l’expérimentation itérative qui ajoute des couches de complexités les unes au-dessus — plus rarement à côté — des autres, mais trop rarement en remplacement les unes des autres. Les comprendre est bien plus difficile encore puisqu’il s’agit d’en saisir la complexité révélée en totalité, puis de la réduire. Les logiciels me semblent toujours échapper ne serait-ce qu’en partie à la compréhension : faute de temps, de moyens, de compétences, de volonté, voire simplement à cause d’aléas. J’en veux pour preuve les multiples bugs par exemple et la difficulté et les compromis nécessaires à leur prévention, ou encore la difficulté de suivi des projets de développement, qui impactent non seulement nos pratiques personnelles mais aussi nos échanges, et même la production des savoirs.

Cette complexité qui échappe même aux spécialistes qui disposent pourtant des codes sources me semble donc de très loin hors de portée de toute compréhension de l’écrasante majorité de ceux auxquels les systèmes sont accessibles, le plus souvent sans accès au code source. C’est important d’en ouvrir le fonctionnement, mais de loin insuffisant pour évaluer leur qualité, leur conformité, et donc à plus forte raison leur éthique. Il me semble qu’il n’est d’ailleurs possible de considérer comme éthique un système technique qu’en faisant l’inventaire de toutes ses trahisons possibles pour les exclure une à une. Penser que cette démarche laborieuse soit faisable relève de la spéculation, et qu’elle soit effectuée de l’hypothèse. Elle est tension: sa réalité est toujours à conquérir.

Il me semble par conséquent que l’ouverture puis l’étude de systèmes ne peuvent qu’aboutir à une prise de conscience de leurs limites, sachant que ces limites seront toujours sous-estimées. Construire la connaissance suppose la destruction des croyances. L’acquérir suppose de consentir à payer un prix si élevé que, collectivement, je ne suis pas certain que nous soyons prêts en assumer le coût. Sans compter qu’il faudrait, déjà, que nous manifestions un minimum d’intérêt vis-à-vis des systèmes qui nous entourent, et dont le marketing renforce la perception animiste en ne faisant leur promotion qu’à travers des pratiques, des « solutions » qui les rendent très difficiles à penser en tant qu’ « objets techniques » et « problèmes potentiels ».

S’il était possible de questionner l’éthique des différentes étapes du cycle de vie d’un logiciel, il faudrait certainement commencer par l’éthique de l’intention qui préside à sa création. Cette intention est jusqu’à présent humaine (et par ailleurs parfois ancrée dans un référentiel contestable), mais pourrait devenir machinique, ce qui rendrait encore plus difficile voire impossible le questionnement. Concernant la conception des algorithmiques, il faut noter un effort significatif et prometteur de la part de l’Institute of Electrical and Electronics Engineers (IEEE), reste à voir si les points soulevés peuvent être résolus sans porter atteinte à la viabilité économique des logiciels. L’implémentation de ces algorithmes sous forme de code informatique reste toutefois réalisée par des humains, lesquels, s’ils ne sont pour la plupart pas malveillants, sont parfois néanmoins soumis à des pressions. Une fois réalisés, ces logiciels, même résultant d’une intention et d’une réalisation éthique – donc a fortiori lorsque ce n’est pas le cas – peuvent néanmoins être détournés par les humains qui les utilisent, tout comme ils peuvent interagir avec d’autres TAIs, déjà existants ou encore à venir et donc par nature imprévisibles. Enfin, la création, la maintenance et le recyclage des logiciels peut impliquer des contraintes, en particulier sociales, pour le moins discutables.

Au-delà des algorithmes, ce sont les logiciels et leurs infrastructures qu’il s’agit de questionner. Aussi bien pour eux-mêmes, c’est-à-dire en tant qu’objets techniques, que vis-à-vis de nous, c’est à dire en tant qu’instigateurs de la culture qui découle des pratiques qu’entraînent leurs usages, que pour les intentions qu’ils implémentent et les externalités qu’ils produisent. Ce questionnement doit embrasser tout leur cycle de vie, de leur conception à leur retrait, et s’étendre à l’écosystème de leurs interactions entre eux et avec nous, aussi bien sur les plans individuel et collectif.

Le contexte d’exécution

Le contexte d’exécution des TAIs est primordial. En ce qu’ils sont automatiques et performatifs, ils s’inscrivent dans un rapport de forces entre ce qui est et ce qui devrait être et qu’ils font par conséquent advenir. L’espace défini par ces rapports de forces peut échapper à nos perceptions, c’est d’ailleurs le cas dans la plupart des usages: le propre de l’outil adéquat étant de nous dispenser d’avoir à exercer la force nous-mêmes, ne serait-ce qu’en partie.

Ces rapports de forces peuvent être implicites, s’ils sont partagés par les concepteurs et les utilisateurs des TAIs. Dans ce cas-là, ils sont réductibles à des points aveugles individuels et/ou culturels. Ils peuvent être dissimulés, principalement pour des raisons stratégiques. Par exemple, les traces numériques que nous laissons sont exploitées selon des modalités et pour des finalités qui ne sont pas toujours explicites. Ils peuvent être visibles, mais sans nécessairement générer de réaction, piégés que nous sommes par nos propres biais cognitifs. Ces rapports de forces peuvent être explicites, mais sans pour autant donner à entrevoir l’écosystème duquel ils font partie. Puisqu’ils y sont internes et donc biaisés, ils ne peuvent d’ailleurs nous le révéler qu’en partie, c’est à nous d’en prendre conscience par une distanciation critique.

Ces rapports de forces que sont les TAIs mettent en tension différents acteurs animés d’intérêts différents. Il peut s’agir d’autres TAIs sur lesquels il s’agirait de prendre l’ascendant ou qu’il s’agirait de compromettre. Il peut également s’agir d’individus ou d’acteurs collectifs. Le cas des TAIs cryptographiques est symptomatique. La cryptographie est partagée par les individus, les groupes, et les gouvernements. Or, l’effet levier propre à la technologie numérique démultiplie les possibilités de l’individu potentiellement au-delà des possibilités d’un groupe, quel que soit sa taille. Par conséquent, les sphères individuelle, collective et étatique ont en partage un socle technologique si proche que les acteurs correspondants peinent à organiser leurs rapports de forces sans mettre à mal les droits et les devoirs les uns des autres, car leurs propres subsistances sont potentiellement antagonistes et donc affaire de compromis. Des frictions sont inévitables et appellent à de nouveaux espaces de négociation pour arbitrer des situations inédites.

Une éthique, en tant que pratique, est contextualisée et donc relative à des intérêts spécifiques qu’il s’agit d’arbitrer. Par conséquent, certains TAIs seront jugés éthiques par certains acteurs, mais non éthiques par d’autres. L’éthique, dans ce cas-là, dévoile qu’elle n’est pas liée aux TAIs — quand bien même ils ne sont ni neutres ni dénués d’intentions —, mais bien au regard que l’on porte sur eux. Ils disent les désaccords entre nous. L’automatisation qu’ils permettent nous accule à investir la responsabilité qu’impose l’exercice la liberté de concevoir des algorithmes. Que les conséquences de cette automatisation nous interrogent devrait nous conduire à questionner la culture depuis laquelle ils émergent et qu’ils contribuent désormais à faire advenir. Or cette culture est issue d’algorithmes tout à fait humains et biaisés qui régissent nos rapports sociaux et à nous-mêmes. Autrement dit, les TAIs rendent visibles à grande échelle et potentiellement instantanément des divergences entre nous et en nous. Par conséquent, qu’une éthique unifiée des TAIs soit possible supposerait d’aligner en amont nos intérêts, ce qui supposerait que nous soyons alignés avec nous-mêmes. Si ce n’est pas possible, de quelle éthique parle-t-on ?

De l’éthique au possible au Politique

Derrière l’enjeu éthique des TAIs se trouvent donc nos subjectivités et nos incohérences. Si nos regards sont multiples et partiels, se pose la question de définir ce que serait une éthique numérique. Devrait-elle être aussi éthique que nous, c’est-à-dire inclure nos propres biais, y compris celui d’oublier avec le temps ses actions non éthiques ? Si elle devait être davantage éthique que chacun de nous, qui donc serait en mesure de l’évaluer ? Si elle devait être en pratique moins éthique que nous, quel intérêt aurions-nous à lui déléguer quoi que ce soit ?

L’arbitrage des rapports de forces est nécessaire même au sein d’une communauté homophile, donc a fortiori en l’absence d’éthique et d’intérêts partagés. Ces arbitrages font intervenir des institutions qui doivent exister et rendre opérants les espaces de négociations susmentionnés. Ces institutions doivent être communes, c’est-à-dire que leur légitimité doit être reconnue par tous ceux qui sont concernés par les rapports de force qu’elles arbitrent. La question devient donc Politique, au sens du vivre ensemble, du contrat social à penser au-delà de nos divergences et de nos juridictions.

En 2000, Lawrence Lessig écrivait code is law, soulignant que le code s’était progressivement établi comme régulateur des comportements en ligne, se substituant de fait à la loi. Fin 2016, un article de Primavera De Filippi suggère que le registre public distribué qu’est la blockchain pourrait être à l’origine de solutions techniques permettant au code de devenir un moyen d’exprimer la loi (law is code). A minima, un tel horizon pose question, entre autres car il rend impossible le recours autrement — au mieux — qu’a posteriori, et parce que le droit actuel a cet avantage d’être plastique et de pouvoir s’améliorer en s’adaptant, comme le souligne Antoinette Rouvroy.

L’automatisation permise par le code informatique est absolue. Elle est au-delà de l’éthique car cette dernière promeut certaines valeurs plutôt que d’autres. Elle est au-delà de la morale car cette dernière partitionne l’espace des possibles en bien et mal. Le code informatique, lui, ne cherche pas, latéralement, à influencer les comportements mais se place potentiellement au-dessus et au-dessous de ces derniers, en modelant l’espace des possibles lui-même : il encadre les valeurs, il encadre le bien et le mal, au service d’intérêts particuliers. En même temps qu’il ouvre un espace possible, les TAIs en ferme un autre.

L’automatisation: quelle Politique par quels hommes ?

En creux, ce questionnement de l’éthique du numérique est donc bien principalement — et pas uniquement — le nôtre: la technique est un miroir où se reflètent les divergences de nos intentions particulières, individuelles et collectives. Par conséquent se pose la question de notre volonté à prendre conscience de nos biais, pour les dépasser.

Le problème est donc humain avant d’être technologique. L’aborder sous l’angle technologique en cherchant à encadrer ses conséquences indésirables dans une marge — acceptable collectivement mais qui ne le sera sans doute (plus?) jamais individuellement — n’est un palliatif. Les TAIs sont des pharmakons. Ils relèvent autant de la médecine dans leurs usages que de la pharmacie dans leurs conceptions. Les serments d’Hippocrate et de Galien devraient par conséquent être transposés dans le monde qu’ils contribuent à faire émerger.

Note: Notre activité de recherche est autofinancée. Soutenez-nous !

L’article Des algorithmes peuvent-ils être éthiques ? est apparu en premier sur latitude77.

L’intelligence artificielle (IA) alimente les fantasmes. Promesse de réponse, elle pose en retour bien des questions. Suivant les sensibilités, chacun y est a priori plutôt favorable ou défavorable. Sur le plan terminologique, l’IA s’oppose à la bêtise (naturelle) qu’il est difficile de lui préférer. En la soustrayant partiellement à la critique, son énoncé tend à glisser vers un totalitarisme qui interroge autant qu’il confine à l’interprétation. De là en découlent autant d’opportunités de scénarisation de son rapport à l’homme, aussi bien pour ses partisans que ses détracteurs. Pourtant, vu les enjeux visibilisés par les uns et les autres, il semble nécessaire de dépasser ces scénarisations en essayant de rendre apparents les rouages sous-jacents, puis de les questionner.

Des critiques parfois étonnantes

Parmi les résistances francophones se trouve l’association AFCIA. Son Président Cédric Sauviat a justement été interrogé par Mais où va le web début 2017 sur le site Usbek&Rica. Il dénonce en particulier que derrière son objectif de renforcement du bien-être se dissimulent des motivations financières, et que la propagande mise en œuvre est performative. Il y défend également la possibilité d’être contre l’IA par principe.

Une posture de principe nécessite des arguments si puissants qu’ils rendent facultative la confrontation à la réalité. Pourtant, ce qui transparait de son intervention met plutôt en évidence que les paradigmes sur lesquels repose son argumentation sont très proches de ceux utilisés par les promoteurs de l’IA. J’ai souhaité saisir au vol l’étonnement que m’a inspiré cette interview pour questionner quelques-uns de ces paradigmes qui impactent par conséquent aussi bien les promoteurs de l’IA que certains de ces détracteurs. Cet article ne saurait être instrumentalisé pour porter préjudice à Cédric Sauviat ou à l’AFCIA, que je remercie d’avoir contribué indirectement à cette réflexion que je vous partage.

Au-delà de ces arguments, une posture d’opposition par principe est une stratégie de défense dont je doute de l’efficacité.

La résistance est au mieux palliative. En dénonçant sans proposer de vision, elle glisse vers la démagogie contestataire. Un agrégat fédéré sur une base de contestation s’expose à une hétérogénéité certaine sur le plan de l’adhésion, incapable de s’organiser autrement qu’autour d’un dogme finalement tout aussi totalitaire que celui de la bienveillance supposée des pro-IA. En aucun cas une résistance ne saurait donc déboucher sur une victoire, d’autant plus que la technique à laquelle il est question de s’opposer est déjà déployée sous certaines formes.

Au pire, cette résistance amplifie le problème. La répétition de paradigmes fondateurs réductionnistes et matérialistes partagés avec les pro-IA contribue à les crédibiliser. L’attitude est similaire à celle d’un jardinier qui taillerait les branches qu’il ne souhaite pas voir pousser, sans retirer la racine et en mettant à son insu de l’engrais sur cette dernière. Le procédé semble davantage relever de la taille revigorante d’un arbre fruitier que du déracinement de l’arbre qui menace une construction.

Partisans, détracteurs : une carte mentale en partage

Il est étonnamment possible de trouver des points communs entre les propos des promoteurs et ceux des détracteurs de l’IA. Pour les premiers, l’IA est une opportunité de nous soulager. Pour les seconds, l’IA menace de nous remplacer. Ces deux points de vue apparemment opposés que sont la synergie et la rivalité suggèrent pourtant d’une seule voix que l’humain et l’IA partagent le même territoire d’aptitudes et que ce dernier est le lieu d’un rapport de forces.

Par définition, ce territoire ne peut être partagé que si les formes spécifiques de cognition effective que permet l’IA sont fonctionnellement du même ordre que celle de l’intelligence humaine (IH). De fait, de la reconnaissance d’image ou vocale à la traduction automatique, les performances actuelles de l’IA interrogent. Pour certaines tâches, par exemple la reconnaissance faciale, la lecture sur les lèvres ou le jeu de Go, l’IA tend à supplanter l’IH.

Tant les promoteurs que les détracteurs de l’IA actent l’existence de ce territoire. La différence entre eux se résume par conséquent à la réponse qu’ils donnent à une question relativement simple : cette conquête progressive par l’IA d’un territoire historiquement réservé à l’IH peut-elle se solder par une expropriation de cette dernière au point de constituer un danger pour nous ?

Leur accord sur une équivalence potentielle entre IA et IH, donc sur un territoire de rivalité/synergie ne serait-ce que dans certains domaines, passe sous silence deux questions à mon sens absolument essentielles : « qu’est-ce que l’IA ?« , ce qui implique en préalable de répondre à « qu’est-ce que l’IH ?« .

La clarification sémantique pourrait paraître anecdotique tant elle est loin de la réalité tangible des progrès observés entre autres dans les domaines susmentionnés. Elle est pourtant essentielle : l’enjeu est de pouvoir se situer face à une technologie décrite comme opportunité aussi bien que comme menace, qui telle un miroir nous ferait entrevoir notre propre reflet comme un double de nous-mêmes, un vis-à-vis. Ce n’est qu’une fois l’IA et l’IH clairement définies qu’il devient possible de circonscrire l’intersection de l’une avec l’autre. Par conséquent, ce travail de définition est impératif : il s’agit de savoir si l’intelligence dite « artificielle » relève de l’art (donc de la maîtrise ultime que serait celle de créer un vis-à-vis qui nous dépasse), de l’artifice (donc de l’illusion d’un vis-à-vis ou de son dépassement), ou des deux à la fois (de la maîtrise ultime de l’illusion que serait celle d’arriver à faire croire aux uns que d’autres créent un vis-à-vis qui les dépasse, ou de l’illusion de la maîtrise ultime que serait celle de croire que la réalisation d’un tel vis-à-vis est à notre portée).

Je vais intentionnellement laisser les discussions théoriques sur l’IA et l’IH de côté. Il me semble qu’elles ne sont nécessaires que dans la mesure où il s’agirait de décider s’il est préférable d’être pour ou d’être contre. Je crois que la priorité est de donner à comprendre la nature des rapports entre l’IA et l’IH et de la prolonger sur le terrain, c’est-à-dire dans la diversité des situations uniques qui caractérisent chacune de nos existences.

Un territoire qui échappe aux simplifications

Une IA qui en cache (beaucoup) d’autres

Les réseaux de neurones artificiels sont pour beaucoup dans le renouveau récent de l’IA. Leurs fondamentaux sont connus depuis longtemps, mais ce n’est que récemment et pour des raisons précises que leurs performances décollent. La quasi-équivalence fonctionnelle entre les neurones naturels et les neurones artificiels sonne comme la promesse de ne plus avoir à changer de paradigme pour atteindre l’altitude de l’IH.

Aujourd’hui, l’IA relève à la fois de la recherche, de la science, et de la technique. Ses applications sont déjà nombreuses, pourtant elle est crainte comme si elle restait à venir. Cet apparent paradoxe reflète une polysémie oscillant entre des IA faibles (multiples et spécifiques) et l’IA forte (généralisée).

De Wikipedia : le concept d’IA forte fait référence à une machine capable non seulement de produire un comportement intelligent, mais d’éprouver une impression d’une réelle conscience de soi, de « vrais sentiments » (quoi qu’on puisse mettre derrière ces mots), et « une compréhension de ses propres raisonnements ».

Également de Wikipedia : la notion d’IA faible constitue une approche pragmatique d’ingénieur : chercher à construire des systèmes de plus en plus autonomes (pour réduire le coût de leur supervision), des algorithmes capables de résoudre des problèmes d’une certaine classe, etc. Mais, cette fois, la machine simule l’intelligence, elle semble agir comme si elle était intelligente. On en voit des exemples concrets avec les programmes conversationnels qui tentent de passer le test de Turing, comme ELIZA. Ces logiciels parviennent à imiter de façon grossière le comportement d’humains face à d’autres humains lors d’un dialogue.

Seules des IA faibles sont aujourd’hui opérationnelles. Elles n’ont rien de mystique, mais sont techniques, fragmentées, factuelles et objets d’une connaissance tout à fait rationnelle. Toute intelligence doit premièrement apprendre. Pour l’instant, l’apparente intelligence des IA faibles n’est en grande partie que la nôtre qu’elle imite. Elle reproduit, souligne, voire révèle par conséquent nos propres biais. Il est possible de les analyser sous de multiples angles, que ce soit en interrogeant les données qui participent à leur construction, par les algorithmes sur lesquelles elles reposent, par leurs implémentations, leurs instances d’exécution, le contexte de ces dernières, ou encore par le biais de leurs usages ou des pratiques qu’elles entraînent. Voire même en leur demandant de nous rentre intelligibles leurs fonctionnements internes sans quoi ils s’apparentent souvent à des boites noires.

L’IA forte relève de la recherche, c’est-à-dire de l’intuition, laquelle est sous-tendue par des croyances. Son existence forte à venir repose sur une spéculation de ce qui pourrait être possible demain. Cette nature à venir est également ce qui la soustrait au factuel, donc au questionnement, donc à la science. Aujourd’hui, elle est un objet qui par son inexistence échappe à toute possibilité de réfutation. Son existence à venir relève du dogme, et ses conséquences éventuelles sont assujetties à l’interprétation de ce dogme. Pour qu’une IA devienne forte, il lui faudrait être en mesure d’apprendre seule, sans supervision humaine, par exemple grâce à l’apprentissage symbolique par renforcement, qui mobiliserait sans doute une aptitude à rêver similaire à celle des réseaux de neurones. Même si l’hypothèse réductionniste de l’intelligence aux neurones était valide et si tout ce cheminement s’avérait possible, il y a fort à parier que l’IA forte partagerait au final beaucoup de nos biais cognitifs ce qui limiterait par conséquent considérablement son intérêt. Encore une fois tout cela n’a aujourd’hui rien de scientifique et ne relève que de spéculations et de croyances.

Autrement dit, entre le point « IA » sur nos cartes mentales et la surface discontinue, fragmentée, et de nature variable qu’occupe l’IA sur le territoire du réel, opère une diffraction imputable au prisme de nos croyances. Elle ne peut être observée que par une exploration détaillée du territoire au cas par cas, au fur et à mesure des avancées des IA faibles. Ce travail analytique d’investigation systémique se heurte à l’endoctrinement de ceux qui mettent à profit le présent pour faire advenir les circonstances qui leur donneront un avantage compétitif, selon la devise d’Alan Kay, « la meilleure façon de prévoir le futur, c’est de l’inventer« .

Une IH indéfinissable

Parler d’une intelligence qui serait artificielle renvoie à une intelligence qui serait naturelle, en l’occurrence la nôtre. Outre l’opposition sujette à controverse entre le naturel et l’artificiel, cette référence à l’intelligence se réduit souvent implicitement à ce que nous expérimentons de nous-mêmes. Qu’elle soit abstraite, verbale, émotionnelle, analytique, etc., chacun ne peut expérimenter que la combinaison qui lui est propre. Par conséquent, l’IH n’est en aucun cas réductible à la perception réflexive et subjective que nous en avons individuellement.

Les neurosciences permettent de questionner certains fonctionnements au plus proche de la structure anatomique du cerveau. L’enthousiasme que suscite les promesses d’approches analytiques dans ce domaine pourrait devoir être tempéré, car elles ne sont pas en mesure de comprendre le fonctionnement d’un microprocesseur pourtant très simple. De plus, certains outils sur lesquelles elles reposent ne sont pas toujours fiables, ce qui souligne leur caractère expérimental. La psychologie cognitive expérimentale s’essaie quant à elle non sans succès à la rétro-ingénierie des processus cognitifs. Cette nécessité d’empirisme se retrouve a fortiori lorsque s’éloigne la référence anatomique, ce qui ouvre un espace où d’autres contestent l’hypothèse réductionniste de l’intelligence au cerveau. L’IH donne lieu à diverses théories et à autant de métriques et d’origines potentielles qui s’opposent et/ou se complémentent. Sans doute faudrait-il également prendre en compte pour la qualifier des regards qui ne sont pas focalisés sur la cognition, mais ouverts vers la dimension affective, comme la psychologie clinique, la psychanalyse, ou encore la philosophie. Peut-être même serait-il nécessaire de sortir du sujet isolé car si l’IH est spécifiquement incarnée, donc délimitée, elle est également relationnelle/collective et expérimentale/liée à nos subjectivités.

Parce qu’elle décline sa multitude de dimensions en chacun dans une combinaison spécifique unique et variable en fonction du temps et du contexte, circonscrire l’IH supposerait de mobiliser l’ensemble d’une communauté humaine dynamique, polymorphe, et qui se renouvelle sans cesse et qui n’est pas sans rappeler la noosphère de Pierre Teilhard de Chardin.

La métaphore et l’imposture

Pour parler de l’IH, nous avons recours à des métaphores parmi lesquelles celle du traitement de l’information. Ces métaphores sont « des histoires que nous nous racontons pour essayer de saisir ce que nous ne comprenons pas » : notre cerveau ne traite pas d’information et n’est pas un ordinateur.

L’IA est une technique computationnelle. Elle est donc bien un cas particulier de ce traitement automatique de l’information (TAI). Qu’il puisse sembler réducteur de considérer l’IA comme telle montre à quel point nous la considérons déjà comme davantage que ce qu’elle est. Le territoire commun entre l’IH et l’IA est précisément celui du TAI : simplification métaphorique de l’une, il est généralisation empuissantisante de l’autre. Le TAI est le pivot qui permet de positionner l’IH au-delà et l’IA en deçà. Il montre par conséquent en quoi l’une et l’autre sont de nature tout à fait différentes au point que leur symétrie apparente, l’une naturelle et l’autre artificielle, relève de l’illusion. Cette mécanique interroge aussi sur les raisons de faire référence à une intelligence pour parler du TAI qu’est l’IA.

En effet, nous ne sommes pas capables de penser l’intelligence de façon critique, car elle est à la fois le lieu précis d’où émerge la critique, et l’outil nécessaire à la critique. Cet aveuglement vaut qu’elle soit qualifiée de naturelle ou d’artificielle et contribue à l’acceptation de l’IA sans distance critique. Il est par conséquent impératif de cesser d’alimenter et de dénoncer le stratagème qui consiste à utiliser le terme intelligence pour parler de ce qui se réduit à un TAI dont nous cherchons précisément à saisir les enjeux. C’est pourquoi nous avons tout à gagner à appeler l’IA par ce qu’elle est : un TAI.

Une métaphore est une simple analogie unidirectionnelle et simplificatrice qui ne vaut ni réciprocité ni identité. Dire qu’il est possible de s’aider à penser certaines dimensions spécifiques de l’IH en utilisant la métaphore du TAI ne donne aucunement le droit de penser qu’un TAI même ultimement sophistiqué pourrait permettre de faire émerger une IH hors humain. Cette croyance est une imposture qui découle d’une erreur logique.

Si cette erreur logique est communément consentie chez les pro-IA, il est plus étonnant de la retrouver chez certains anti-IA. Le Président de l’AFCIA est plus prudent : « Avec nos quelques milliards de neurones, nous ne pouvons pas dire qu’un ordinateur qui en aurait mille fois plus ne pourrait pas les équivaloir d’un point de vue ontologique.« . Si nous ne pouvons pas ne pas le dire, nous ne pouvons pas non plus le laisser croire. En effet, l’entretien de ce doute étonne d’autant plus que la démonstration n’est pas hors de portée.

À l’origine de cette erreur logique se trouve la vision réductrice que nous avons de nous-mêmes. Beaucoup de détracteurs de l’IA, étonnamment, ne s’en distancient pas. Le Président de l’AFCIA exprime clairement un point de vue qu’il partage sans doute avec beaucoup de pro-IA : « Je considère que l’esprit est une émanation du calcul réalisé par des neurones (pour les cerveaux des vertébrés), et par des micro-processeurs (pour une intelligence artificielle)« . La répétition de cette vision réductrice contribue à la crédibiliser en tant que fait, alors qu’elle ne relève au mieux que de l’hypothèse et au pire de l’opinion.

Si le TAI et l’IH semblent se rapprocher, ce n’est peut-être pas tant parce que le TAI s’élève au niveau de l’IH, que parce que nous consentons à réduire la perception réflexive de notre IH en action aux manifestations fonctionnelles de TAIs.

Singularité technologique ou singularités individuelles ?

La singularité technologique est traditionnellement définie comme un point précis dans le temps où émergerait une IA forte, supérieure à l’IH de laquelle elle s’affranchirait. Le caractère indéfinissable et propre à chacun de nous de l’IH rend impossible l’établissement d’une métrique universelle de comparaison de l’IH avec un TAI. Les enfants savent qu’on n’additionne pas des pommes et des oranges parce qu’elles ne sont pas comparables. Les défenseurs de la théorie de la singularité sont vraisemblablement restés de grands enfants. Faute de pouvoir établir cette métrique universelle, la théorie de la singularité se trouve par conséquent reléguée à la mise en scène d’une fiction binaire de l’humanité face à un pouvoir qu’elle pense qu’elle aura dans ce qu’elle imagine être son avenir.

Il apparait dès lors que l’IA relève à la fois de l’art et de l’artifice, et dans les deux combinaisons susmentionnées que ces derniers permettent. Depuis une position analytique, considérer l’efficacité de propagande des pro-IA témoigne de la maîtrise ultime de l’illusion que serait celle d’arriver à faire croire aux uns que d’autres créent un vis-à-vis qui les dépasse. Toujours depuis cette position analytique, il semblerait que beaucoup des pro-IA (mais aussi des anti-IA) croient vraiment qu’elle est/sera équivalente à l’IH au point que l’homme risque le remplacement. Ce cas-là illustre l’illusion de la maîtrise ultime que serait celle de croire que la réalisation d’un tel vis-à-vis est à notre portée. Les propos du Président de l’AFCIA soulignent la nécessité de rester humble quant à notre nature humaine : « Les gens qui considèrent qu’un ordinateur ne sera jamais capable de penser au même titre qu’un humain sont dans une sorte d’orgueil, ils considèrent que leur cerveau est le seul pouvant atteindre cette grâce« . À cette sorte d’orgueil s’en oppose une autre, celle de considérer qu’il nous serait possible de créer un ordinateur qui pense au même titre qu’un humain. L’humilité semble également nécessaire quant à nos aptitudes.

La faute logique qui consiste à réduire notre IH à la métaphore que nous en faisons avec le TAI explique la crispation autour de la singularité. Si un TAI s’avère plus efficace que nous pour traiter de l’information, alors nous serons chassés du territoire correspondant. Si c’est à ce territoire que nous avons réduit, par métaphore, notre IH, alors nous avons l’impression que notre IH n’aura plus de lieux où se réfugier. Pour qui se réduirait à son IH, l’exil s’étendrait jusqu’à son identité elle-même. Considérer le TAI comme un enjeu ontologique témoigne avant tout d’une profonde incompréhension, méconnaissance et réduction de nous-mêmes.

Il ne s’agit cependant pas d’en rejeter en bloc l’idée de la singularité. C’est même tout l’inverse : la singularité pourrait bien être l’arbre (hypothétiquement à venir) qui cache la forêt (qui serait déjà là, et depuis longtemps). Dans bien des domaines, l’activité de chacun est réductible à un traitement d’information. Pour chacune de ces activités, pour chacun de ces hommes, il existe une singularité spécifique à partir de laquelle un TAI sera tout à fait en mesure de remplacer cet homme précis pour cette activité précise. Par conséquent, qu’une éventuelle singularité soit proche ou encore lointaine n’a probablement pas d’importance opérationnelle aujourd’hui. D’ailleurs, dans la plupart des cas concrets, même des IA faibles ne sont pas nécessaires.

Il n’y a donc pas une seule singularité à considérer comme risque pour l’espèce humaine, mais une multitude de singularités individuelles comme autant de menaces — et d’opportunités — pour chacun.

Note: Notre activité de recherche est autofinancée. Soutenez-nous !

L’article Intelligence artificielle : art ou artifice ? est apparu en premier sur latitude77.

La formation est la standardisation dans un espace normé des aptitudes et des compétences. Qu’il souhaite s’y conformer ou pas, la norme est initialement à l’extérieure à l’apprenant. Elle lui est « appliquée » par le formateur. L’apprenant ne saurait donc être actif: sa seule implication possible est au mieux désirer cette passivité.

La formation favorise donc l’apparition d’un espace indifférencié dans lequel les « formés » sont davantage semblables (normés) que complémentaires. Ils sont donc faits rivaux: leur singularité a été retirée, cette violence ontologique implique qu’ils la reconquièrent pour « se gagner soi-même » dans un rapport de violence à un autre indistingué de soi, orchestré sous la norme sociale de la mise en compétition.

Bien différente de la formation, l’éducation au sens de « mener hors de » est un affranchissement par le questionnement qui coûte l’abandon des croyances et des fausses certitudes, c’est une ouverture intrinsèquement subversive du sujet, simultanément vers sa propre singularité et vers l’altérité.

Lorsqu’il est confronté à quelque chose qui le heurte, à la formation, l’élève résiste par un mouvement latéral, une volonté d’échapper. À l’éducation l’élève résiste, par un mouvement vertical (vers le bas). Ce heurt est une expérience du réel que l’élève peut avoir la tendance de rejeter pour lui préférer ce qui était avant l’expérience. Ce faisant, il érige sa subjectivité comme norme. C’est un premier mouvement qui se doit d’être dépassé par une mise en dialogue au service d’une intelligibilité par appropriation. Sans ce second mouvement, la normativité est celle de l’égo, issue du renoncement. Avec ce second mouvement, la normativité devient dynamique et libératrice par contact intelligible avec le réel, issue d’un renoncement qui rend tangible l’altérité avant une mise en dialogue qui accepte, pour le dépasser, ce dernier.

La formation « a » et l’éducation « de » s’inscrivent dans un même mouvement. En identifiant un périmètre, un dedans et par conséquent un dehors, la formation scinde le sujet. Scindé par une norme qui le partitionne, le sujet fait l’expérience d’un espace arbitrairement défini et incomplet. Il lui devient possible de filer cette métaphore quant à lui-même: sa frontière personnelle supposée, c’est-à-dire son identité, pouvant désormais être considérée comme arbitraire et source de questionnement. La formation comme l’internalisation d’une contrainte extérieure peut donc être saisie par l’apprenant comme une occasion de s’extraire de lui-même et d’embrasser son devenir.

C’est la faim de ce dépassement qu’il s’agit de montrer, de montrer aux apprenants en quoi elle taraude. C’est une catalyse de conscientisation. Il ne s’agit pas de (con)former, mais de devenir sujet.

En réponse à ce post.

Note: Notre activité de recherche est autofinancée. Soutenez-nous !

L’article Formation et éducation: distinction et synergie est apparu en premier sur latitude77.