Certains futurologues affirment depuis des décennies que l’humanité se dirige vers une « singularité technologique », un point où le progrès technologique évolue si rapidement que le cerveau humain ne peut plus comprendre ce qui se passe. Bien que leurs prévisions aient été jugées comme excessives par certains critiques, il semble certain que nous nous dirigeons à grande vitesse vers un tel monde. Nous sommes peut-être même l’une des dernières générations de « personnes normales » à marcher sur Terre.

L’idée a émergé dans les années 1980, lorsque le mathématicien américain et écrivain de science-fiction Vernor Vinge a prédit que les progrès technologiques permettraient à l’humanité de développer une intelligence surhumaine dans les 30 ans. « Peu de temps après, l’ère humaine sera terminée », a-t-il écrit dans son essai Singularity« , publié le 30 mars 1993.

L’argument est le suivant : si l’humanité est capable de créer une intelligence capable de faire plus que l’humanité elle-même, une « explosion d’intelligence » se produira. Que ce soit une simple IA ou une combinaison du cerveau humain avec des implants cybernétiques, le résultat sera le même selon Vinge : une boucle de rétroaction d’une intelligence qui se renforce de plus en plus. En effet, si un être humain peut créer quelque chose de plus intelligent que lui-même, il est logique que cette entité encore plus intelligente puisse faire mieux, puis que son successeur puisse accomplir encore plus, et ainsi de suite.

Près de 30 ans se sont écoulés depuis la publication de Singularity. Nous ne disposons pas encore d’une intelligence surhumaine, encore moins d’une explosion d’intelligence. Les chatbots à base d’IA tels que ChatGPT peuvent être impressionnants, mais ils n’ont pas encore atteint une véritable capacité de raisonnement artificiel.

Mais nous n’en sommes pas très loin.

Limites repoussées

Pour voir à quel point une Singularité est proche, il suffit de regarder l’engouement actuel autour de l’IA. Celui-ci a commencé fin novembre, lorsque ChatGPT a été lancé pour la première fois auprès du grand public. Cela ne signifie évidemment pas que ChatGPT et toutes les autres IA génératives qui ont fait leur apparition depuis se rapprochent de la conscience de soi. Une simple question logique posée au chatbot expose les limites de ses capacités.

Les IA génératives telles que ChatGPT, DALL-E et GitHub Copilot sont ce que nous appelons des « intelligences artificielles étroites » (ANI), des IA capables d’exécuter très bien une seule tâche. Pour atteindre la singularité technologique, la plupart des futurologues estiment qu’il faut une « intelligence artificielle générale » (AGI), une IA capable d’égaler ou de dépasser toutes les tâches intellectuelles qu’un être humain peut accomplir.

Les premiers pas dans cette direction ont été franchis il y a des décennies. Un exemple classique est l’histoire de « Deep Blue », le superordinateur d’IBM qui a battu en 1997 le champion du monde d’échecs de l’époque, Garry Kasparov. Jusqu’à ce point, la plupart des gens pensaient qu’une intelligence plus profonde était nécessaire pour jouer aux échecs. Pourtant, l’humanité a été renversée par une « ANI » qui était encore très rudimentaire. La victoire de Deep Blue était si remarquable que Kasparov lui-même était convaincu qu’IBM avait triché. Selon lui, l’ordinateur avait fait preuve d’une intelligence trop humaine.

Après la victoire de Deep Blue, de nombreux scientifiques ont changé d’avis. Les échecs ne nécessitaient pas de caractéristiques spéciales d’intelligence. Le jeu est en effet très logique, contrairement aux choses qui élèvent l’intelligence humaine au-dessus de celle d’un ordinateur. Pensez à la créativité et à la capacité de pensée abstraite. Cette logique a résisté à plusieurs autres victoires d’ANI, comme lorsque Watson (IBM) a remporté le jeu « Jeopardy! » en 2011 ou lorsque AlphaGo a battu le champion du monde de Go en 2016.

Mais maintenant que l’IA générative commence à percer, la frontière doit être à nouveau repoussée.

IA créative

ChatGPT est en partie célèbre pour sa créativité apparente. Bien que le programme fonctionne en générant du contenu basé sur une énorme base de données de contenu existant et qu’il est donc incapable de penser de manière abstraite, il en va différemment de sa « créativité ».

L’outil est capable d’écrire des copies, de créer des scénarios pour des films, de concevoir des plans marketing, d’égayer des textes et une quantité quasi infinie d’autres choses qui étaient autrefois réservées aux humains créatifs. D’autres IA génératives comme DALL-E sont également capables de générer des œuvres d’art qui ne sont limitées que par les idées abstraites des personnes qui saisissent les commandes.

Bien que l’on puisse argumenter qu’il ne s’agit pas de « vraie » créativité, il semble probable que la frontière entre la créativité humaine et la créativité machinale deviendra de plus en plus floue à mesure que l’IA générative mûrit, tout comme Deep Blue n’était qu’un premier pas pour réfléchir différemment à la nature de l’intelligence brute.

Accélération

Et bien que la capacité de raisonnement des humains soit actuellement inégalée, il se peut qu’elle soit un jour approchée par une IA. Au cours des dernières décennies, la frontière de la logique est tombée et maintenant celle de la créativité commence à vaciller. Il n’y a aucune raison de penser que le progrès s’arrêtera ici.

Au contraire, il semble que la révolution technologique soit en train de s’accélérer. Au cours des trente dernières années, le monde a été bouleversé à plusieurs reprises, d’abord par l’avènement de l’ordinateur personnel, puis par celui du smartphone. La troisième vague, celle de l’IA générative, est en plein essor. ChatGPT n’a pas été qualifié de « moment iPhone » pour rien.

Maintenant, il ne reste plus qu’à attendre la quatrième vague. Il y a de fortes chances qu’elle ait encore plus d’impact, du moins si l’on se base sur les tendances des décennies passées. Il est difficile de prédire à quoi elle ressemblera exactement. Mais ce dont on peut être sûr, c’est que la technologie jouera un rôle de plus en plus important.

Quant à l’avenir, nous ne pouvons bien sûr pas le prédire avec certitude. Certains futurologues pensent que l’IA dépassera bientôt l’humanité au point que nous créerons en fait un « dieu ». D’autres pensent que c’est impossible et que l’intelligence humaine est quelque chose d’unique et d’insurmontable. Quoi qu’il en soit, nous vivons une époque passionnante.

La différence entre le bullshit et le mensonge

Commençons par l’allégation selon laquelle ChatGPT est en fait du bon bullshit – une connerie, traduit vulgairement. Le terme a été utilisé pour la première fois par le philosophe de Princeton Harry Frankfurt. Il a écrit un essai en 1986 sur ce que nous appellerions aujourd’hui les « fake news ». Il a fait la distinction entre la vérité, le mensonge et le bullshit.

• Le mensonge dissimule une action consciente visant à cacher la vérité.
• Alors que le vendeur de bullshit n’a en fait aucune ambition de découvrir la vérité. Et encore moins de la décrire avec précision.
• Tant que vous la présentez de manière convaincante et qu’elle est quelque peu plausible, vous pouvez la cataloguer sous la rubrique « bullshit« .

Les populistes en savent quelque chose

En 1986, il y avait beaucoup moins de bullshit. Mais depuis la montée des populistes comme Trump, Bolsonaro et Johnson, et la propagation via les réseaux sociaux, on a l’impression d’être enseveli sous les bullshits. Mais cela va encore plus loin, et ChatGPT en est un excellent exemple. Ici, il n’y a pas de stratégie consciente pour créer du bullshit, mais il se peut qu’il en crée malgré tout.

Qu’est-ce qui est vrai et qu’est-ce qui ne l’est pas ?

Plus que jamais, donc, les sources sont essentielles. C’est là que cela devient intéressant. ChatGPT recherche en effet sur tout Internet et, à partir de tout ce qui est traité, tente de formuler une réponse logique. Celle-ci est presque toujours crédible. Mais il ne peut jamais garantir avec certitude qu’elle soit vraie, car ce n’est pas son travail. ChatGPT n’a AUCUNE idée de ce qui est vrai ou faux. Il est simplement le reflet d’Internet, comme le montre clairement l’expérience de David Smerdon. Lorsqu’il a demandé quelle était la théorie économique la plus citée, l’algorithme a sorti un article… qui n’existait pas.

Le joueur d’échecs australien explique dans les moindres détails la logique derrière le chatbot. Il démontre dans ce fil de discussion sur Twitter qu’il construit effectivement des fake news selon un raisonnement parfaitement logique.

Le théorème d’incomplétude de Gödel

Il s’agit donc d’un exemple éclatant de bullshit. ChatGPT ne veut pas mentir – il n’a pas de conscience et n’est en aucun cas humain – mais il ne sait pas faire la différence entre la vérité et le mensonge. Il crée donc des fausses informations à intervalles réguliers. Il existe une raison encore plus lointaine à ce phénomène, appelé « Gödelscher Unvollständigkeitssatz » – le théorème d’incomplétude de Gödel. Selon les mathématiciens, il s’agit, avec la théorie de la relativité d’Albert Einstein, de l’exploit le plus douloureux de l’ingéniosité humaine au XXe siècle.

• Cela signifie essentiellement que nous ne pouvons pas toujours prouver qu’une chose est vraie, même si elle l’est. Ou, traduit en ChatGPT, et il est crucial de le comprendre : il est impossible pour un algorithme d’imiter le cerveau humain, car parfois les choses sont « vraies » même si nous ne pouvons pas le prouver.

« Ceux qui ont fait le tour du monde peuvent faire durer leur conversation un quart d’heure de plus »