Ce que nous avons vu dans les articles précédents (Le défi des technologies numériques, S’adapter à la perturbation numérique, Technologies et perspectives d’avenir) exige que nous réfléchissions au-delà des stratégies de gestion à court terme et des modèles d’affaires pour considérer les notions et images normatives plus profondes qui sont largement répandues sur la façon dont une société donnée est, et devrait être, organisée. La façon dont les gens donnent un sens au monde dans lequel ils vivent, les valeurs qu’ils privilégient et les voies qu’ils préfèrent vers l’avenir sont des déterminants cruciaux des résultats à long terme.

Comme le démontre le philosophe Charles Taylor (celui-là même qui, au Québec, a rédigé le rapport Bouchard-Taylor sur la laïcité de l’État pour ensuite récuser ses propres conclusions neuf ans plus tard), ces notions et ces images peuvent être traitées comme des imaginaires sociaux qui influencent les pratiques collectives dans une société. Ce sont ces imaginaires qui donnent lieu aux histoires que les gens se racontent sur les développements technologiques probables et leurs conséquences. Taylor note que, historiquement, il y a toujours eu des imaginaires sociaux concurrents qui revendiquent la façon dont l’autorité et la responsabilité devraient être constituées dans la société.

En cet ère technologique, l’imaginaire social dominant sur le rôle des systèmes numériques dans la société privilégie l’innovation rapide et la diffusion de technologies qui présentent un certain degré d’intelligence émotionnelle. Cet imaginaire encourage le traitement et l’interprétation de quantités de plus en plus grandes d’information numérique et l’augmentation massive de la capacité technologique de produire, traiter, distribuer et stocker l’information. Dans cet imaginaire, il est nécessaire de s’adapter aux chocs de l’ordre social, économique, culturel et politique résultant de l’innovation technologique rapide.

L’hypothèse suggère qu’une « autorité supérieure », par exemple, l’État, le secteur privé ou le client, a le contrôle sur les résultats du processus d’innovation. Cet imaginaire social sous-tend les visions programmatiques de la recherche scientifique, de l’ingénierie et des mathématiques qui se concentrent sur les systèmes de rétroaction et l’automatisation comme systèmes de contrôle pour les applications numériques militaires et non militaires. L’efficacité des marchés et les choix individuels sont censés guider les changements dans le système numérique.

À cet effet, l’interaction de l’imaginaire social dominant avec les manifestations de la puissance des entreprises de plates-formes numériques qui opèrent sur des marchés très concentrés signifie que ces entreprises jouent le rôle d’intermédiaires capables de bloquer ou de filtrer l’information numérique et de traiter les données clients. Leur solidité financière leur confère un quasi-monopole, un pouvoir de décision considérable et la capacité d’influer sur leur réglementation et sur la façon dont ils sont réglementés. Selon cet imaginaire, des facteurs parfois résiduels faussent la trajectoire du changement de manière inattendue, mais la possibilité que le progrès technologique puisse être nocif pour les êtres humains ne fait pas partie de cet imaginaire.

Dans un imaginaire social moins important, mais toujours très influent, l’« autorité supérieure » est supposée être l’autorité collaborative, non hiérarchique ou hétéroarchique, organisée par des réseaux décentralisés d’acteurs. Cet imaginaire s’inspire d’un engagement en faveur de systèmes numériques ouverts, d’un accès ouvert à l’information, de restrictions minimales à la liberté d’expression et à la préservation de la vie privée, mais il dépend aussi, néanmoins, de systèmes informatiques et d’applications d’IA de plus en plus complexes. L’imaginaire social qui sous-tend cette vision de la voie de l’innovation technologique est généralement considéré comme favorisant la production basée sur le commun, la transparence et la capacité d’autorité humaine dans le monde numérique.

Dans ces deux imaginaires sociaux, cependant, l’« autorité supérieure » imaginée (ou réelle) est un être humain et, à cet égard, la voie de l’innovation technologique n’est pas, ou très rarement seulement, remise en question. Dans le premier imaginaire social, les propriétés émergentes d’un système numérique complexe devraient produire des résultats positifs pour les individus médiés par le marché et, parfois, par l’intervention gouvernementale. Dans le second, ce sont les activités génératrices des concepteurs de technologies et des participants en ligne qui devraient permettre d’atteindre ces résultats. Dans les deux cas, le rôle du participant engagé dans le monde numérique est de rechercher, d’étiqueter et d’examiner les données, une  » autorité supérieure « , les mécanismes de gouvernance de l’entreprise, de l’État et/ou de la société civile, étant chargée de prendre des mesures en fonction des résultats de l’analyse des données.

On suppose donc que ces décisions s’aligneront sur les intérêts en matière de gains commerciaux et sur l’équité et la justice, du moins à long terme. Les imaginaires sociaux dominants et subordonnés sont tous deux issus d’un environnement numérique qui accroît les relations homme-machine, machine-machine et homme-homme, dans chaque cas, avec des risques gérables pour les êtres humains.
Façonner la voie numérique

L’élargissement de l’éventail des avenirs que l’on peut imaginer exige un programme proactif en vue d’orienter la voie de l’innovation en matière de technologie numérique. Les imaginaires sociaux dominants, qui supposent une trajectoire « naturelle » d’innovation, sont remis en question. Luc Soete, par exemple, se demande s’il se pourrait que l’innovation ne soit pas toujours bonne l’individu et suggère qu’au lieu d’un processus principalement bénéfique de destruction créative schumpétérienne reposant sur un processus continu d’innovation technologique, à l’époque contemporaine, nous assistons à une période de « création destructive ».

Les mécanismes de gouvernance influent sur les types de sociétés qui émergent ; ils éclairent les perspectives sur les principes fondamentaux de la vie, sur la qualité de vie à laquelle les gens devraient avoir droit et sur la question de savoir si, dans une certaine mesure, les sociétés sont inclusives, respectueuses et habilitantes pour tous. Les algorithmes peuvent être compris comme gouvernant parce qu’ils structurent la compréhension des possibilités futures. Lorsque les résultats qu’ils produisent sont traités comme s’ils étaient certains, la capacité de penser à des mondes alternatifs et à des voies de développement technologique est découragée.

Lorsque l’on s’appuie principalement sur l’imaginaire social dominant, les individus sont supposés être soumis aux choix des grands opérateurs de plateformes numériques ou de l’Etat. Lorsque nous nous appuyons sur le deuxième imaginaire social et le pouvoir génératif des communautés en ligne distribuées à l’échelle mondiale, rien ne garantit que les résultats seront équitables ou inoffensifs car les mouvements en ligne ne sont pas toujours bénins. Dans les deux cas, on a supposé jusqu’à tout récemment que l’homme était l' » autorité supérieure  » et qu’il conservait le contrôle des systèmes informatiques.

Dans l’environnement numérique d’aujourd’hui, la plupart du temps, lorsque l’économie ou la politique est comprise à travers la lentille algorithmique des visualisations des cartes, des scores et des indicateurs de risque, c’est encore généralement un être humain ou un groupe d’individus qui prend la décision d’agir. La distribution asymétrique du pouvoir signifie que ceux qui ont le pouvoir d’agir sont le plus souvent les militaires, une autre branche de l’État ou de grandes entreprises, mais ils peuvent aussi inclure des groupes militants en ligne organisés par des mouvements de protestation sociale.

De concert avec les concepteurs de technologies qui intègrent des valeurs dans le système numérique, ces acteurs font des choix quant à la voie à suivre vers notre futur environnement numérique. Pourtant, si la quantification de tout signifie que les sociétés risquent de devenir humainement ingouvernables, alors la notion que la quantification de la vie, rendue possible par des systèmes et des applications d’IA sophistiqués, est synonyme de l’intérêt supérieur des êtres humains doit être réévaluée. D’autres résultats peuvent être possibles, mais seulement si un autre imaginaire social commence à prendre de l’importance et à façonner les choix en matière d’équité et de justice dans le présent, et si l’« autorité supérieure » doit continuer à être des êtres humains.

Historiquement, la voie de l’innovation technologique numérique n’a pas été linéaire, bien qu’on suppose parfois qu’elle ait été une progression « naturelle » de l’analogique au numérique, des industries segmentées spécialisées dans les télécommunications ou l’informatique aux industries et technologies convergentes qui comprennent les plateformes et services numériques actuels. Organisées en réseaux non transparents de technologies modulaires et de liens hiérarchiques, horizontaux et diagonaux complexes, les applications numériques, y compris les robots, appuyées par des algorithmes et l’apprentissage machine, devraient permettre aux dirigeants de l’industrie et du gouvernement d’augmenter les niveaux de revenu. Certains militants de la société civile s’attendent à ce que ces demandes soutiennent des mouvements de protestation couronnés de succès. Mais encore une fois, leurs aspirations sont fondées sur le mouvement le long d’une voie d’innovation technologique singulière.

L’idée que les technologies numériques apporteront des solutions aux problèmes de société est un thème commun. Lorsque l’accent est mis sur la diffusion des innovations et sur la dynamique concurrentielle des plates-formes et services numériques, les effets de second ordre et d’ordre ultérieur qui engendrent des incertitudes et des résultats difficiles à prévoir ou à modéliser facilement donnent l’impression que la seule alternative est d’exploiter la voie technologique qui semble la plus susceptible de générer des gains économiques à court et moyen terme.

L’innovation et la destruction créatrice ont toujours été les caractéristiques de l’économie qui génèrent la croissance économique, des gains de productivité et une amélioration du bien-être social. Il en résulte une attitude d’« attentisme », dans laquelle les acteurs humains s’adaptent aux changements technologiques perturbateurs à court terme. On s’attend à ce que le marché, l’État et/ou la société civile apportent des réponses améliorées aux perturbations et à ce que l’effet ultérieur des changements technologiques soit positif. Tous les ajustements nécessaires sont considérés comme étant largement spontanés, ce qui conduit à affirmer que nous savons que des gains de productivité et d’efficacité, de nouveaux services et de nouveaux emplois se profilent à l’horizon.

En ce sens, l’orientation politique dominante consiste donc à stimuler la compétitivité économique en partant du principe que, si un pays n’atteint pas une position dominante dans les domaines émergents de l’innovation technologique comme l’apprentissage machine et l’IA, un autre pays le fera. Il en résulte que l’accent est mis sur les politiques ex post qui visent à influencer les stratégies de l’entreprise une fois que les technologies ont été mises sur le marché.

Certains acteurs du gouvernement, de l’industrie et de la société civile commencent à reconnaître que la quatrième révolution industrielle modifiera fondamentalement la façon dont nous vivons, travaillons et interagissons les uns avec les autres à la suite de l’omniprésence des capteurs numériques, de l’IA et de l’apprentissage machine, et de leur combinaison avec le monde physique et biologique.

Le changement se produit à grande vitesse, voire à une vitesse transformative, et il est difficile aux citoyens, aux fonctionnaires et aux dirigeants d’entreprises de comprendre des systèmes numériques avancés. court et moyen terme, les applications de la technologie numérique ont un grand potentiel pour s’attaquer aux inégalités sociales et économiques et aux défis socio-techniques mondiaux et il est tout à fait raisonnable pour les acteurs de chercher à maximiser les avantages de l’innovation technologique.

Toutefois, les imaginaires sociaux dominants sont persistants et encouragent l’idée qu’il suffit de connecter les non-connectés pour créer des sociétés de l’information inclusives, tout en renforçant la culture numérique technique et les interventions marginales sur le marché pour faire face aux menaces, pour y répondre. Même dans le contexte des deux imaginaires sociaux les plus en vue, les adultes et les enfants ont besoin d’un large éventail de littératies numériques s’ils veulent apprendre à naviguer efficacement dans l’environnement numérique.

En outre, si la trajectoire technologique à long terme s’oriente vers un monde numérique incompatible avec le maintien des droits et libertés que de nombreux pays apprécient, y compris la démocratie responsable, il est essentiel de promouvoir le débat sur les contre-mondes ou les voies alternatives et les changements qui seraient nécessaires pour les atteindre.

Dans la mesure où plus il y a d’avantages numériques, moins il y a de possibilités pour les êtres humains d’exercer un contrôle et une autorité dans leur vie, il est essentiel de remettre en question l’idée que l’adaptation à ce qui est produit en laboratoire est la seule option. Les imaginaires sociaux dominants rendent difficile la conception de voies technologiques numériques alternatives, mais ce n’est pas impossible.

Les progrès de l’intelligence artificielle et des applications de l’apprentissage machine déclenchent des consultations sur des cadres éthiques qui traitent de questions de dignité humaine, de libertés, d’égalité, de solidarité et de justice. Dans ces forums, des questions sont constamment soulevées sur la manière de garantir que les systèmes intelligents ne seront pas nocifs pour l’homme, mais la position politique reste fortement orientée vers une intervention a posteriori.

© Texte, Robin Mansell, London School of Economics and Political Science, London, UK
© Photo entête, Medium