@patrickc livre ici un texte vertigineux.
Dans un monde où des essaims d’agents IA accompliront mieux que n’importe quel humain l’ensemble des tâches à haute valeur ajoutée humaine, à commencer par la production scientifique, la création artistique et toutes les activités d’excellence intellectuelle… notre blessure narcissique ira bien au-delà de l’empathie pour les champions d’échecs ou de go défaits par la machine. Derrière la blessure narcissique, deux questions majeures nous sont posées. Une question politique et morale d’abord : comment continuer de répartir les places et les chances de manière juste et démocratique dans la société, c’est à dire selon les talents et les mérites de chacun, quand la contributivité humaine tend vers zéro ? Nous risquons de revenir soit à des sociétés féodales où les hiérarchies sont fondées sur d’autres critères que le talent et le mérite (l’argent, les réseaux, voire la force brute…) soit à une forme de société totalitaire, communiste et nihiliste à la fois, où tous les êtres humains sont logés à la même enseigne, financés par le revenu universel, et abreuvés d’intelligence artificielle abondante par un grand dispensateur étatique pour pourvoir à tous leurs besoins sociaux. Je penche pour cette seconde hypothèse après une longue période de chaos néo-féodal. Le 21e siècle pourrait bien être, grâce aux Tycoons de l’IA, celui du triomphe du communisme planificateur. Mais derrière la question politique et morale se cache une question ontologique : quel espace reste-t-il pour le projet moderne, fondé depuis Descartes sur l’autonomie de la raison humaine, dans un monde où l’humain n’aura guère d’espoir de contribuer au progrès scientifique, technique ou encore créatif, de l’intelligence universelle? Allons-nous redevenir une espèce végétative, simplement consommatrice de vérités découvertes par « d’autres »? Allons-nous nous replier sur le seul commerce des émotions, que les machines ne ressentent pas (encore)? Sur la morale? Mais qu’est-ce qu’une morale sans contribution à la production de vérités? La raison pratique de Kant n’est rien sans raison pure. L’intelligence humaine deviendra-t-elle une note de bas de page dans la longue course de l’intelligence universelle? Vertiges de notre époque
Smith and Montesquieu thought that markets and commerce made us better: that they create an incentive to pursue self-improvement and to create things of value for others. In the positive AI visions, where the labor of humans is made redundant, I find myself wondering how we fare in the presumptive absence of these incentive gradients. Perhaps we are released to a life of freedom, where we can study Mozart and read Dickens, but that still seems complicated: both Mozart and Dickens were themselves deeply commercially-motivated in the production of their work, as were most of the great artists through human history. If the premise is that nobody will need to work or produce, how confident are we that we actually get the next Mozart and Dickens? The relevant question is not the partial equilibrium of whether one individual can pursue a life of enlightened leisure, but the general equilibrium of what form a society as a whole will take on.
One could maybe invoke Periclean Athens or the aristocratic gentleman scientists of Victorian England as a counterpoint. While these individuals were perhaps not motivated by commercial considerations, they were embedded in wider societies shaped by commerce, attendant betterment, and trade: Byron was himself upper class, but he was also surrounded by and writing for an educated bourgeois audience. So we’re back to the equilibrium question. Furthermore, even these individuals were surely motivated by a sense of high-stakes and consequential agency: if they did not apply themselves to their labors, they presumably believed that the work would not otherwise exist. Thucydides was addressing pressing military matters.
So I would like to read more optimistic cases from AI proponents about what a society (vs individual life) looks like if everything goes well: what people do, why they do it, whether humans achieve excellence (and in which domains), and which historical groups we should look to as relevant precedent.
One can perhaps imagine that humans will turn out to have a strong preference for work created by other humans. This may work in certain domains (ceramics?), but for how many will it actually apply? (I’m told that much of what is sold on indie crafts websites is now in fact manufactured in China.) It’s hard to see how this human preference, even if strong, would, for example, save scholarship.
Another idea would be to accept that nobody will become Einstein or Mozart or Byron, and that human excellence as such diminishes, but that there are compensatory benefits (planet brains and Dyson swarms?).
I believe that we can satisfy individual desires, but to what extent will we cultivate behavior worthy of admiration? Will a post-scarcity society mold capable and ambitious people? Which institutions will sustain them and which responsibilities will they have? I’d like to hear more of the equilibrium for the maximalist case spelled out.





















































































































































































































































































































































