Débat

Comment vivre avec les IA ? Débattez avec des chercheurs en IA

vivre avec

Débats  du 6 février 2018

A Montpellier

vivre avec

L‘IA est de plus en plus présente dans nos vies connectées. Comment la comprendre? Est-ce dangereux? Est-ce l’industrie de demain?

Nous proposons de mener ces débats Sciences/Sociétés entre étudiants et lycéens avec des chercheurs de l’IA, des entrepreneurs, des spécialistes des Sciences humaines et Sociales et des citoyens.

La table ronde avec les scientifiques

Environ 80 personnes ont défié les intempéries. Les questions avaient été  envoyées aux conférenciers qui ont su parfaitement prendre le recul sur leur savoir pour les mettre en perspective scientifique.

IMG_3545

IA forum 060218 05

Sylvaine Jenny a restitué graphiquement le débat.

IMG_3556

Mathieu Lafourcade spécialiste du traitement du langage a orienté sa contribution sur les questions suivantes : comment s’assurer de la bienveillance des IA et comment s’assurer que l’on peut leur faire confiance? Comment construire des IA qui s’expliquent?

IA forum 060218 01

Ses exemples venaient de ses travaux concernant le domaine de la nutrition et de la santé : comment modifier une recette de cuisine pour tenir compte d’un état de santé?

IA forum 060218 02

Il illustre comment en déléguant à une machine, on est conduit à lui faire confiance pour compenser une perte de savoir-faire.

Gilles Sassatelli  spécialiste en électronique utilise des réseaux de neurones artificiels pour optimiser la consommation de circuits électroniques. Il cherche à comprendre pourquoi ces systèmes simples marchent et il se méfie de la tendance humaine à sacraliser ce qu’il ne fait pas bien en pratique et que des machines font admirablement : en particulier de la génération de textes, d’images, de musique.

IA forum 060218 07

Il  se défie en ce sens de la notion de singularité. Il montre l’importance de l’explication surtout quand l’IA fonde sa décision sur un calcul de probabilité.

IA forum 060218 03

La discussion se focalise sur la question de la confiance à attribuer à une machine.

IA forum 060218 04

Surtout quand ces machines se fabriquent des représentations que l’on ne partage pas.

IA forum 060218 06

Quand une machine explique qu’un tigre est dangereux car il vit dans la jungle et que la jungle est dangereuse, on relève une dangereuse erreur logique à corriger absolument.

Les débats sur nappes

La consigne : Assis autour d’une table couverte d’une nappe avec des marqueurs de couleur, vous approfondissez un thème, une thèse ou une question venant du débat préparatoire. Votre voisin note votre propos sur la nappe.  Puis vous expliquez votre nappe à ceux qui viennent pour poursuivre le débat. A la fin de la séance, un rapporteur est choisi parmi vous, il enregistrera la contribution de la table dans le débat numérique.

IMG_3590

 

IA-DebatSurNappes

IMG_3587

Les 5 nappes :

Confiance : Est-ce que l’IA peut être un tiers de confiance pour la résolution de problèmes humains ?
Question  qui provient des débats initiés par le texte de :
Et celui de jean Sallantin  en ce qui concerne les tiers de confiance :
IA-Confiance1
IA-Confiance2
 Avoir confiance : compte rendu  de Renaud Guigue

Avoir confiance, c’est autoriser un autre à participer à une décision qui nous concerne, voire laisser un autre prendre une décision qui nous concerne. Que ce soit nos déplacements, notre santé, notre propriété, nos idées, nos créations, notre identité.

Pour faire confiance, il faut connaître ce / celui à qui on accorde notre confiance. Nous avons aussi besoin de connaître les limites d’intervention , et à quel moment nous pouvons reprendre la main sur la décision exercer notre liberté et notre responsabilité.

Se pose la question de l’objectivité d’une décision basée uniquement sur des faits et des données,  par rapport à une décision basée également sur des émotions, des contenus moraux, éthiques, culturels, des valeurs. Nonobstant, ces mêmes émotions peuvent être un facteur de mauvaise décision.

L’Intelligence Artificielle évolue beaucoup plus vite que ce à quoi l’humain est habitué dans son environnement naturel. L’humain a du mal à savoir à quoi il fait confiance face à l’IA.

De quelles intentions peut être animée une IA ?

Poursuivre ce débat sur nappe

Depuis la nappe a été la base d’un second débat sur nappe dont voici le compte-rendu.

– Conscience : L’IA nous conduit-elle à nous poser des questions sur la nature même de notre conscience ?

Question  qui provient du débat initié par le texte de :
IA-Conscience
Rapporteur :  Alexis Jacquemin
L’idée principale est que nous ne savons pas vraiment ce qu’est la conscience. L’IA interroge donc notre humanité et nos humanités, puisqu’elle nous demande in fine de nous positionner. L’IA sera sans doute bientôt capable de nous renvoyer une image aboutie de notre humanité telle que nous l’avons décrite à travers nos sciences humaines. Mais tout ce que ce que nous pouvons dire de nous-mêmes suffit-il à déterminer qui nous sommes ? Existe-t-il une part de notre humanité qui échappe à nos études et nos productions humanistes ? Si l’humanisme est bel et bien une construction, pouvons-nous envisager de construire une nouvelle humanité avec l’IA ?
Emploi : L’IA et les robots vont-ils détruire définitivement l’emploi ?
IA-Emploi
 Rapporteur Erwann Lavarec
Derrière chaque emploi il y a un travail. Et derrière chaque travail, une décomposition en taches. Le plus souvent géré par de véritables algorithmes sur papier : des procédures. L’ensemble est sous forte pression visant à en améliorer sans cesse la productivité économique. Avec l’arrivée des outils numériques, des systèmes automatiques, des logiciels, des réseaux, des bases de données, des cloud, du bigdata, des robots et de l’IA existante d’aujourd’hui il devient maintenant possible de retirer dans un nombre sans cesse croissant de taches, le dernier maillon faible de cette quête à la productivité économique : le travail humain. Est-ce que cette disparition du travail humain face à la puissante propagation de cette transition numérique et robotique sera totale, réduite ou mesurée ?Au cours du débat autour de la nappe, selon certains, seuls quelques catégories de métiers sont menacées tandis que d’autres apparaitront également compensant l’impact de ces technologies sur l’emploi ; avec lequel on peut aussi ajouter l’impact sur l’augmentation des besoins en formation associée. Seuls les emplois les moins qualifiés seraient menacés, les émotions de certains métiers sont chères à l’homme et les robots ou l’IA n’y arriveraient pas mieux à leur place, sans compter sur l’émergence, peut être possible, d’un rejet de l’IA tel le rejet observé aujourd’hui sur la « malbouffe » par exemple.Pour les autres, devant cette course à la productivité et la mécanique implacable de l’économie qui la propulse, l’issue ne fait pas de doute et les emplois disparaîtront. Le travail deviendra marginal : un simple loisir, un passe-temps, plutôt qu’un emploi. Face à cette transition, même l’imposition de mesures politiques, comme par exemple de quotas de travailleurs humains, ne tiendrait pas longtemps devant la compétition des pays dans la mondialisation. Mais curieusement c’est peut-être cette même logique économique, implacable donc, qui fait alors apparaître le revenu universel : si plus personne n’a d’emploi, car les IA et les robots les occupent tous, plus personne n’a de revenu. Et sans revenu il n’y a plus de consommateurs et donc plus de chiffres d’affaires non plus. Sans perspective de chiffres d’affaires de masse plus besoin de productivité. Le seul moyen pour résoudre cette équation serait alors de profiter des revenus obtenus par ces colossaux gains de productivité supplémentaires, pour créer le pouvoir d’achat des humains, et donc les ventes des produits et services de ces entreprises si productives : un revenu universel ! Peut-être qu’aucun des points de vu n’a vraiment tort. Tout est peut-être histoire de temps. Les premiers auraient raison à court et moyen terme tandis que les seconds auraient raison à moyen et long terme, avec entre les deux une cohabitation des deux aspects.
 Pour débattre du rapport
Inégalités : IA accélérateur ou contrepoids à la montée des inégalités dans le monde ?
Cette question n’a pas été formulé lors du débat préparatoire mais elle prolonge les questions soulevées par le texte :
IA-inegalites
 Rapporteur : Renaud Guigue

L’IA peut avoir un impact très positif sur la réduction des inégalités dans le monde. Plusieurs exemples d’utilisations dans l’économie solidaire et sociale, dans le secteur médical, paramédical et celui de l’éducation – exemple de Coursera- le démontrent. Ces utilisations ont des grandes valeurs d’usage pour les citoyens. Cependant, les citoyens sont aussi conscients que l’IA peut aussi accélérer des inégalités. Cela dépend de l’intention que l’on donne à l’usage de l’IA. Se pose alors la question de la possession de l’IA, de sa gouvernance, de sa diffusion et de son partage. D’un point de vue juridique, est ce que l’IA doit être considérée comme un bien privé ou un bien commun ? La question se pose de manière évidente car ceux qui veulent contrôler la technologie de l’IA, les GAFA, entre autres, n’ont peut être pas les mêmes intentions que ceux qui veulent bénéficier de la technologie i.e. les Citoyens…. »Ce n’est pas parce que je souhaite obtenir une bonne protection sociale que je vais l’obtenir !! ». Comment mettre du contrôle dans l’utilisation de l’IA? Cela renvoie à des fondamentaux politiques, économiques et social. Avec le contrôle de l’IA, y a t’il une lutte sous-jacente lié à la liberté individuelle et la liberté économique ? L’hégémonie des GAFA, acronyme de Google, Apple, Facebook, Amazon, inquiète l’Europe, du moins les citoyens européens. Les centres de compétences comme le CNRS n’ont pas les mêmes moyens pour rivaliser avec la vélocité qu’ont les GAFA sur le développement technologique. Face à cette menace, est ce que l’utilisation de l’IA nécessitera ou bien impliquera un système politique, économique et social nouveau où les fondements du capitalisme, du socialisme et d’autres système politiques pourraient être remis en cause. Elle nécessite sans équivoque un débat citoyen. En effet, L’IA a la capacité de remettre en cause l’organisation du travail, le partage des richesses, la transmission culturelle, l’autonomie individuelle, la gestion des ressources, l’organisation sociale, le travail, le salaire, le régime de propriété, la participation citoyenne et bien d’autres que les citoyens n’ont certainement pas eu le temps de citer. Quel sera l’intention ? Augmenter ou réduire les inégalités dans le monde….voilà la question que se pose les citoyens.

Pour débattre du rapport

– Algorithmes : IA -t-il d’autres algorithmes à trouver ?
cette nappe complète des questions soulevées par le texte de Michel Robert :

IA-Algorithme

Rapporteur : Radouan Boulam

6 idées principales ont émergé des débats sur nappe:

• Les performances actuelles sont lamentables (ex : Le projet ImageNet a nécessité plusieurs images alors qu’un enfant saurait reconnaître un animal avec peu d’exemples). Un cerveau humain peut apprendre avec une seule image, une IA en demande beaucoup. Il faut optimiser la fonction d’optimisation et optimiser la consommation énergétique.

• Une Intelligence Artificielle qui crée son propre algorithme, cela existe déjà : Le Meta Learning (ex : Jouer sur des coefficients dans des formules d’apprentissage). Il y’a des méthodes par classification, mais aussi des fonctions génératrices. Un algorithme programmé par une IA a été mieux programmé qu’avec un humain.

• Il faut fusionner les différentes approches (algorithmes génétiques, réseaux de neurones, …) Associer des algorithmes non réseau de neurones avec des algorithmes à base de réseau de neurones. Rapprocher les réseaux de neurones actuels (basés sur rétropropagation du gradient) de la physiologie des réseaux de neurones biologiques (comme le cerveau), dans le but d’arriver à reproduire le « bon sens ».

• Est-ce pertinent de vouloir trouver un algorithme pour singer l’humain. On le fait car on n’a pas d’autres idées et que la méthode humaine fonctionne.

• L’algorithme est-il le seul moyen ? La procédure est-elle la seule solution envisageable ? => Tout peut être considéré comme algorithme, procédure (ex : une recette de cuisine est un algorithme).

• En tant que chercheur, on a envie de répondre « oui, question suivante ». Par exemple, on n’a pas encore pu implémenter le raisonnement d’inférence.

Pour débattre du rapport 

La restitution des débats sur nappe en débat numérique. 

Cette tâche est essentielle car elle articule les débats en présence et les débats numériques précédents et suivant afin de conserver une continuité au débat.
Cette tâche est confiée à un participant, (le rapporteur) qui ne doit pas être un organisateur du débat.
C’est une tâche hautement créative, car elle demande au rapporteur de faire une restitution.
Une restitution consiste à :
  1. oublier certains propos
  2. agencer librement d’autres propos.

nappedialoguea

Les participants jugeront sous dialoguea si la restitution est une bonne synthèse.
 
Une synthèse est jugée bonne par les participants si :
  1. elle actualise leurs propos,
  2. elle potentialise (donne de la puissance) à leurs propos.

Le rapporteur attache sa synthèse à la question posée par Forum qui l’a motivée.

synthese

Forum ouvre un débat à partir des synthèses faites sur une nappe et des débats qu’elle suscite.

Commentaires

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *