ChatGPT, le mythe de Frankenstein appliqué aux travailleurs du savoir ?
ChatGPT, l’agent conversationnel reposant sur le moteur d’IA GPT-3, est bluffant. Il est aussi un formidable miroir de nos sociétés. Le fondateur de Tilkal, Matthieu Hug, y voit un retour de balancier de l’Histoire économique et technologique.
par
Matthieu Hug, président et fondateur de Tilkal
Publié le: 03 janv. 2023
ChatGPT, l’agent conversationnel reposant sur le moteur d’IA GPT-3, est bluffant. Certains lui ont fait passer avec succès des épreuves de licence de droit ou d’informatique. Légitimement cela suscite émotion, inquiétude et commentaires : l’intelligence artificielle mettrait-elle en cause l’intelligence humaine ?
Pourtant en creusant un peu, on peut facilement poser à ChatGPT une question de niveau école primaire, qu’il comprend manifestement, mais à laquelle il répond par une ânerie.
Exemple de question simple à laquelle ChatGPT répond mal
Ainsi on peut accorder un examen de licence en droit ou en informatique à une « entité » qui ne sait pas faire un raisonnement de niveau école primaire. Plutôt que nous inquiéter sur ChatGPT et l’IA, cela devrait nous interroger sur la valeur desdites licences et de leurs modalités d’évaluation : ce sont les contours pédagogiques de ces examens qui sont en cause.
« ChatGPT n’a pas de capacité de raisonnement […] Le contenu produit est correct ou faux, mais toujours écrit avec l’aplomb de l’absence de recul »
En effet ChatGPT n’a pas d’intelligence ni de capacité de raisonnement ou de création de nouveauté : il s’agit d’un algorithme programmé par des humains pour produire des synthèses à partir d’une base de connaissance préétablie, par imitation. Dès lors le contenu produit est correct ou faux, de qualité moyenne, mais toujours écrit avec l’aplomb de l’absence de recul et d’analyse.
ChatGPT ne « sait » rien, pas même ce qui est vrai ou faux : ce sont les programmeurs de l’IA qui définissent, avec leurs biais propres, quelle information a de la valeur (est-ce la plus courante ou est-ce celle qui vient de telle source plutôt que de telle autre ?). Il y a en quelque sorte une éditorialisation implicite et automatisée. Le plus important est d’en être conscient, et de comprendre comment marche une IA.
Les résultats de ChatGPT reposent essentiellement sur deux éléments : sur la force de calcul brute et massive pour classer de gros volumes d’informations, et sur des corpus d’informations classifiables. Pas de Wikipédia, de Twitter ou de Reddit, pas de ChatGPT.
ChatGPT ou l’ubérisation des « bullshit jobs »
La vraie révolution de ChatGPT est dans nos imaginaires collectifs, emplis depuis 25-30 ans de délocalisation, de destruction créatrice de Schumpeter et d’ubérisation. Nos sociétés ont adopté massivement ces idées, sur la base de rapports d’analyse formatés, promouvant la délocalisation massive des usines en Inde ou en Chine, et expliquant que les pays industrialisés allaient se concentrer sur l’économie tertiaire, celle de l’intelligence, des Master 2, de la pub et du marketing.
Cette « montée en gamme dans la chaîne de valeur » était d’autant plus promue qu’elle bénéficiait donc aux « travailleurs du savoir », ceux-là mêmes qui produisaient ces rapports… Elle ruissellerait ensuite sur les moins diplômés – les classes populaires qui allaient la subir.
« Une partie des travailleurs du savoir font un travail formaté, essentiellement de synthèse. Tout ce que ChatGPT fait plus vite et pour moins cher. »
Mais qui imaginait alors que l’ubérisation pourrait concerner un jour des métiers très diplômés ? Or c’est exactement ce que révèle aujourd’hui ChatGPT : une partie des « travailleurs du savoir » font en réalité un travail formaté, peu original, essentiellement de synthèse de l’existant. Tout ce que ChatGPT fait plus vite et pour moins cher.
Ironie du balancier de l’Histoire, au même moment, les ouvriers soudeurs manquent fortement pour la maintenance et le redémarrage de nos centrales nucléaires. L’intelligence du soudeur serait-elle finalement aussi créatrice de valeur que celle du délocaliseur ?
Plus généralement l’inquiétude suscitée par ChatGPT renvoie au concept de « bullshit jobs » de l’anthropologue David Graeber (1). ChatGPT peut interpréter une consigne de complexité moyenne, produire vite du contenu standardisé dans un style banal, avec un aplomb égal.
Pour la production en masse de contenus valorisés par les algorithmes de ranking des moteurs de recherche et des réseaux sociaux, c’est parfait. ChatGPT pourrait remplacer avantageusement de très nombreux « bullshit jobs », lesquels sont inhérents – pour Graeber – au fonctionnement du système économique actuel.
Remettre les mains dans tous les cambouis
ChatGPT montre donc, aussi, que nous sommes arrivés au bout d’un cycle qui relève un peu du mythe de Frankenstein, dans le sens où ce monde « fabless » (sans usine) et ubérisé finit par se retourner contre ses créateurs et ses hérauts en les ubérisant (en tout cas pour partie).
« Le plus important est de comprendre comment marche une IA. »
Dès lors il devient nécessaire de repenser une politique industrielle tombée en désuétude, pour refaire société : reconstruire une force industrielle et y réancrer une économie du savoir, plutôt que de perdre la seconde après avoir abandonné la première.
Les IA – dont ChatGPT – ouvrent des possibles impressionnants, parmi lesquels il y a de formidables perspectives pour le monde physique (en médecine, dans l’industrie ou dans les transports par exemple). Mais une étape essentielle pour que ces possibles restent souhaitables est de contrôler ces IA, de les diriger et de les réguler en direction d’un bien commun démocratique – ChatGPT n’en fait pas exception. Et paradoxalement, toutes ces IA prometteuses nous appellent surtout à remettre nos mains là où elles doivent être : dans le cambouis.
(1) Anthropologue américain, professeur à Yale et à la London School of Economics, il a été une des figures de proue de Occupy Wall Street. Issu de la gauche radicale, à tendance anarchiste, il est, au-delà de ses opinions politiques, reconnu comme un grand intellectuel et un analyste fin des évolutions anthropologiques.
Pour approfondir sur Intelligence Artificielle et Data Science
