L'événement s'est centré autour du temps d’écran, de l’impact du numérique sur l’éducation et du futur rôle des intelligences artificielles dans notre société. La table ronde a été animée par des experts de divers horizons, offrant ainsi une perspective variée sur la question. Parmi les intervenants figuraient Marie-Victoire Chopin, docteur en psychologie et MBA, rattachée au DMU Neurosciences, APHP Sorbonne Université, ainsi qu'Orianne Ledroit, responsable de cours du master « digital humanities » de Sciences-Po Paris et déléguée générale de EdTech France. Vincent Paul-Petit, maire de Seine-Port, a également apporté son point de vue en tant que représentant local, mettant en lumière les défis spécifiques rencontrés au niveau communal en lien avec l'évolution numérique. Thierry Taboy, responsable de l’impact du numérique sur la société et de l’impact de la société sur les tendances du numérique au sein du Groupe Orange, a partagé son expertise sur les perspectives à court et moyen terme des enjeux entre société et numérique, tout en évoquant les travaux de la commission Défi technologique du Laboratoire de la République. Serge Tisseron, psychiatre et membre de l’Académie des technologies, a enrichi les discussions par ses connaissances approfondies sur les effets psychologiques et comportementaux des écrans chez les jeunes. Les échanges ont été riches et animés, couvrant un large éventail de sujets tels que la surcharge d'informations, les défis éducatifs, les nouvelles formes d'interaction sociale et les enjeux de santé mentale liés à l'utilisation intensive des technologies numériques. En conclusion, cette table ronde a offert une plateforme stimulante pour explorer les complexités de l'impact du numérique sur la jeunesse. Les perspectives partagées par les intervenants ont permis de mieux comprendre les défis et les opportunités associés à cette révolution numérique, tout en mettant en lumière la nécessité d'une approche réfléchie et équilibrée pour accompagner les jeunes dans ce monde en constante évolution.

Le numérique impacte la jeunesse. Il transforme profondément nos modes de vie et de pensée. Les nouvelles technologies influencent considérablement nos capacités cognitives, en modifiant nos schémas de concentration, de mémorisation et de réflexion. Elles altèrent également notre rapport au temps, en accélérant nos interactions et en créant une culture de l'immédiateté. En ce qui concerne l'apprentissage, le numérique offre des outils variés mais peut aussi susciter des défis liés à la surcharge d'informations et à la capacité de discernement. Enfin, sur le plan social, les technologies numériques redéfinissent les relations interpersonnelles, transformant les modes de communication et d'interaction, tantôt enrichissant la vie en société, tantôt la complexifiant. Marie-Victoire Chopin : docteure en psychopathologie, MBA et consultante pour le cabinet Technologia Orianne Ledroit : déléguée générale d’EdTech France, ancienne conseillère du ministre en charge des impacts sociaux, territoriaux et environnementaux du numérique Vincent Paul-Petit : maire de Seine-Port, commune située en Seine-et-Marne Thierry Taboy : responsable RSE du Groupe Orange en charge de la prospective opérationnelle à court/moyen terme et perspectives sur les enjeux entre société et numérique, responsable de la commission Défi technologique du Laboratoire de la République Serge Tisseron : psychiatre, docteur en psychologie habilité à diriger des recherches, et membre de l'Académie des technologies. Auteur de nombreux ouvrages, il a été co-rédacteur de l’avis de l’Académie des sciences L’enfant et les écrans (2013). Il a reçu la même année à Washington un Award du FOSI (Family Online Safety Institute) pour l’ensemble de ses travaux sur les jeunes et les écrans Quand ? Mardi 2 avril, 20h Où ? Université Panthéon-Assas / Centre Assas 92, rue d'Assas, 75006 Paris Participation libre, inscription obligatoire S'inscrire à l'évènement

Laboratoire de la République : Vous faites partie des signataires de l’appel mondial pour une pause dans le développement de l’Intelligence artificielle (IA) qui a été publié sur le site de la fondation américaine « Future of life » le 29 mars dernier. Pourquoi avez-vous signé cet appel ? Malik Ghallab : Ce que nous demandons dans cet appel, ce n’est pas seulement une pause dans le développement de l’IA mais une pause dans son déploiement et sa diffusion. Bien au contraire, il est nécessaire que les recherches se poursuivent. La pause demandée concerne le déploiement auprès du grand public et l’utilisation par des entreprises qui peuvent être mal avisées. Cet instrument avec des modèles de langages profonds a des performances remarquables et est surprenant sur bien des aspects. Cependant, sa diffusion présente des risques. C’est un constat qui est régulièrement partagé. C’était déjà un sujet central à Paris il y a trois ans lors du Forum de l’IA pour l’humanité qui a réuni 400 à 500 participants à l’échelle internationale. Cette conférence avait d’ailleurs donné lieu à de nombreux documents et à un ouvrage de référence sur le sujet. Le Laboratoire de la République : quels sont ces risques ? Il faut d’abord bien comprendre qu’aujourd’hui la technique de l’IA est en avance sur la science de l’IA. On sait faire beaucoup plus de choses que l’on ne les comprend. Cela peut paraître surprenant mais ce n’est pas un phénomène nouveau dans l’histoire des sciences et techniques. Par exemple, la machine à vapeur a devancé Carnot de trois siècles. Le moteur électrique a devancé Maxwell de près de cinq siècles. En ce qui concerne l’IA, la science était en avance sur la technique depuis les débuts de son développement dans les années 50 jusque dans les années 80 et puis, progressivement, les choses se sont inversées. Aujourd’hui, par conséquent, on ne sait pas expliquer exactement les performances remarquables du système en matière de maîtrise du langage et de développement de raisonnements. Il y a eu un changement de phase important entre la version 2, GPT 2, et la version 3, et encore un changement plus important avec la version 4. L’émergence progressive de compétences argumentatives est étonnante mais difficile à comprendre. Il y a une centaine de publications chaque mois dans les revues scientifiques sur ce sujet. La deuxième source de risques est liée à l’écart entre les possibilités d’adaptation de la société et l’évolution des techniques. Les techniques avancent très vite mais la société a besoin de quelques générations pour pouvoir bien digérer une technique donnée et pour pouvoir mettre en place des garde-fous, des mécanismes de régulation et de contrôle. Aujourd’hui, on avance à une vitesse élevée dans une dynamique qu’on ne contrôle pas. Il n’y a pas de pilote à bord. Sur un certain nombre de sujets, on a besoin de mécanismes de régulation. On sait les mettre en place sur des techniques et technologies plus anciennes, par exemple, dans le domaine du médicament. On ne déploie pas un médicament sitôt que quelqu’un a inventé une molécule. Il se passe de très nombreux mois, voire des années de tests et de validations avant que des autorités spécialisées donnent leur feu vert et disent qu’un médicament peut être utilisé et prescrit par des médecins. Dans d’autres domaines, comme celui des transports, il ne suffit pas qu’un industriel sorte un nouvel appareil pour inviter les passagers à bord. Il peut se passer de longs mois, voire des années avant que l’appareil ne soit certifié. A contrario, il n’y a que très peu de mécanismes de contrôle sur les technologies d’IA. Les garde-fous qui ont été mis en place au niveau européen concernent principalement le respect de la vie privée (par exemple le RGPD) ou l’encadrement de la liberté d’expression : ils ne répondent pas du tout aux risques que posent les technologies d’intelligence artificielle. Laboratoire de la République : Concrètement, quels risques politiques pour notre démocratie pourrait apporter la diffusion de l’IA générative à court terme ? On a parlé de la diffusion de fake news de meilleure qualité par exemple. Malik Ghallab : L’apparition de fake news n’est qu’une des facettes du problème. Ce qui pose fondamentalement problème, c’est que les technologies d’IA confèrent un avantage énorme à ceux qui les possèdent. Elles sont en effet très difficilement reproductibles et déployables. Un modèle comme celui de GPT coûte plusieurs milliards d’euros et demande une somme d’énergie considérable au déploiement. Le développement de ces technologies est extrêmement lourd. On ne pourra pas disposer d’autant de ressources pour développer des modèles alternatifs au sein de laboratoires de recherche. En revanche, l’usage individuel de cette technologie est très simple : ce sont des technologies disponibles. Tout le monde peut interagir avec un système de dialogue. Leur disponibilité individuelle est donc très importante. Mais cette disponibilité individuelle n’a rien à voir avec l’acceptabilité sociale. L’acceptabilité sociale doit prendre en compte des effets à long terme, les valeurs d’une société, la cohésion sociale, etc. ChatGPT va avoir par exemple un impact considérable sur l’emploi : l’acceptabilité sociale va considérablement diminuer si l’outil met des centaines de milliers de personnes au chômage.  Les capacités de manipulation sont également considérables, malgré les précautions prises par OpenAI et les progrès en la matière. L’IA est une technologie clé dans la course à la puissance économique (entre entreprises) et géostratégique (entre États) car elle donne à celui qui la possède des avantages compétitifs immenses. Dans un monde où il y a de plus en plus de conflits ouverts, l’IA va être utilisé pour manipuler des sociétés à grande échelle. Il faut que les sociétés puissent se protéger. Laboratoire de la République : De nombreuses personnalités se sont exprimées pour dire qu’une pause dans le déploiement de l’IA était illusoire. Qu’en pensez-vous ? Peut-on vraiment mettre en place des mécanismes de ralentissement pour pouvoir réguler l’IA rapidement ? Malik Ghallab : Nous n’arriverons pas à mettre en pause le déploiement de l’IA si nous ne faisons que constater plus ou moins cyniquement l’existence des moteurs du développement technique et économique, comme le modèle de capitalisme de surveillance. Beaucoup d’efforts ont été faits au niveau européen en ce qui concerne le respect des données individuelles. Ces règles ont été largement acceptées et bien déployées au-delà de l’Europe. Des mécanismes similaires peuvent être créés si on se donne le temps de comprendre les technologies d’IA. Nous ne pouvons pas à la fois constater les manipulations politiques qui ont été conduites à grande échelle ces dernières années (pensons au scandale Cambridge Analytica) et rester les bras croisés sur l’IA. Cette pétition signée par plus de 20 000 personnes avait pour ambition d’attirer l’attention sur un risque considérable. Pour déployer un outil à une échelle aussi vaste, il faut le maitriser et savoir où il nous conduit. Il faut prendre le temps de comprendre pour réguler son usage. Entretien réalisé par téléphone.

Jamais la science n’a été aussi centrale dans l’histoire de la civilisation occidentale, jamais la res publica n’a autant compté sur elle pour concevoir de nouveaux horizons, créer un avenir qui apparaisse comme un progrès, façonner une destinée commune. Et pourtant la tour d’ivoire de la recherche paraît ébranlée et ses fondements épistémiques sont attaqués de l’intérieur comme de l’extérieur. Or une science qui féconde la société est une science consciente de sa valeur patrimoniale, de ce que les savoirs du passé charrient de l’esprit humain, de sa faculté à édifier ce lieu sublimé d’humanité qu’est la cité. La science s’inscrit par essence dans un espace-temps sans fin, jalonné de vérités provisoires, sur lesquelles s’édifient selon des continuités ou des ruptures épistémiques les connaissances de demain. La mise en cause de l’éthique du vrai et de la rationalité scientifique entraîne une forme nouvelle de rejet des savoirs constitués, de l’expertise intellectuelle ou technique, de la parole d’autorité, et parfois de la possibilité même d’un dialogue argumenté, du partage des acquis, d’un langage commun. Cette tentation d’une vérité alternative, sujette à la subjectivité et à perméable à l’écume du temps comme aux projections identitaires, laisse entrevoir le risque d’un reniement de la part d’un pan croissant de la société du contrat social, par conséquent du pacte qui relie idéalement la cité scientifique et la polis. Nombreuses sont donc les raisons qui justifient que la relation entre science et société, entre recherche et enseignement, d’un côté, divulgation et profit social, de l’autre, soit au cœur d’une réflexion qui se veut à la fois analytique et épistémique, tout en proposant des orientations pouvant offrir des perspectives à un débat public et à une loi qui paraissent urgents. C’est ce contrat de moyens et de finalités que les trente propositions cherchent à redéfinir, renforcer, ancrer dans une éthique partagée du vrai, de la connaissance comme vertu, pour nourrir une nouvelle paideia. La présente réflexion collégiale s’appuie sur les analyses de spécialistes représentant les grands secteurs disciplinaires1. 1 Groupe coordonné par Claudio Galderisi, avec les contributions de Pierre Caye, Philippe Dulbecco, Bénédicte Durand, Gabriele Fioni, Philippe Hoffmann, Alain Laquièze, Didier Moreau, Franck Neveu, Jean-François Sabouret, Pierre Schapira, Carole Talon-Hugon, Jean-Jacques Vincensini, Philippe Walter. Vous pouvez consulter la totalité des travaux du groupe ci-dessous et en téléchargement : Scientia ad civitatem - Pour un nouveau pacte social - Janvier 2022Télécharger