Avec les progrès de la puissance de calcul et la généralisation des applications numériques, pour tous ceux qui sont inclus dans le processus et qui acquièrent des compétences appropriées au monde numérique, leur inclusion est problématique si elle se traduit aussi par une perte de contrôle sur leur vie. Depuis de nombreuses années, l’objectif dans le domaine de l’intelligence artificielle est d’automatiser le renseignement humain.

Les exemples contemporains de technologies  intelligentes sont le soldat renforcé et le consommateur qui a accès au numérique. L’engagement est de coder des algorithmes qui « raisonnent » sur la fiabilité et l’honnêteté. L’automatisation de la vie quotidienne, sous la forme de l’Internet des objets ou de la robotique avancée, est souvent décrite dans la littérature populaire comme un progrès qui signifie la promesse d’une vie meilleure pour tous, et finalement, une réduction des inégalités sociales et économiques. En est-il vraiment ainsi ? La question se pose.

Les moyens actuels de gouvernance de l’innovation dans le domaine des technologies numériques ne sont pas bien placés pour s’attaquer aux questions fondamentales concernant les types de sociétés de l’information qui sont souhaitables, contrairement à ceux qui pourraient l’être. Les discussions sur un avenir meilleur privilégient généralement les attentes concernant les avantages de la voie actuelle de l’innovation technologique numérique. La valeur économique potentielle de la réalisation de ces attentes le plus tôt possible signifie que les politiques visant à atténuer les problèmes liés à la voie actuelle ne sont introduites qu’avec prudence et après que des preuves de dommages ont été recueillies.

Les mesures susceptibles de remédier aux inégalités sociales et économiques et à la perte potentielle d’autorité humaine sur les systèmes avancés de traitement de l’information numérique sont souvent considérées comme nuisibles au rythme de l’innovation et au marché. Néanmoins, il est crucial de se demander si le cheminement vers des systèmes technologiques qui transforment les relations machine-homme est compatible avec l’épanouissement de l’être humain dans le sens où les gens devraient pouvoir s’engager dans « un mode de vie actif » ; un mode de vie où les valeurs humaines comme l’altruisme, la solidarité et la dignité sont respectées. Si l’on veut garantir ce type de vie à long terme, il faut éviter la voie vers des sociétés de l’information algorithmiques ou calculatrices dont l’autorité humaine serait réduite.

Manuel Castells a noté l’écart important entre notre « surdéveloppement technologique » et notre « sous-développement social » à la fin des années 1990 et cet écart ne cesse de se creuser. Pour réduire cet écart, il faut envisager d’autres voies pour l’avenir des sociétés à médiation numérique, mais le débat actuel porte principalement sur la manière de garantir le droit du public à l’accès à l’information, l’absence de surveillance non désirée et la protection des personnes en matière de confidentialité au moyen des technologies disponibles actuellement sur le marché.

Dans les travaux visant à déballer la boîte noire numérique, la recherche se concentre sur l’impact des systèmes informatiques avancés sur le tri social et la discrimination, sur la question de savoir si les personnes actives en ligne connaissent ces systèmes et leurs préjugés, et si ceux qui les utilisent sont responsables devant une  » autorité supérieure  » lorsque quelque chose va mal. Cependant, avec le développement de l’intelligence artificielle et de ses applications et ses fortes perspectives de croissance économique, il y a une fascination pour le quantifiable, les données et les prévisions toujours plus précises du comportement humain et non humain.

Dans l’industrie, l’objectif est de donner l’assurance que, quels que soient les préjugés des systèmes informatiques et des machines d’apprentissage, la recherche et le développement sont menés dans le but de garder les êtres humains en sécurité, heureux et potentiellement plus riches.

Le défi pour les décideurs politiques consiste non seulement à déterminer si les systèmes numériques contemporains sont exploiteurs ou libérateurs, inclusifs ou exclusifs, mais aussi à évaluer si l’innovation évolue sur une voie où les systèmes techniques deviendront les principaux moteurs des résultats sociétaux et, de plus en plus, nieront l’action humaine.

© Texte, Robin Mansell, London School of Economics and Political Science, London, UK
© Photo entête, Medium