On dit qu'une fois monté sur un tigre, on ne peut plus en descendre. On peut seulement essayer de le diriger.
C'est la position dans laquelle nous sommes tous désormais. Pas seulement les personnes qui construisent cette technologie. Tout le monde. Elle est déjà tissée dans la manière dont nous travaillons, dont nous apprenons, dont nous trouvons l'information, dont nous prenons des décisions. Nous n'avons pas voté pour cela. Nous ne l'avons pas vraiment choisi. C'est arrivé, et maintenant nous sommes dessus.
La question est de savoir si nous comprenons ce que nous sommes en train de chevaucher.
Ce que nous construisons produit l'apparence de la compréhension sans rien comprendre.
Une machine peut parler comme un médecin, raisonner comme un avocat, écrire comme un journaliste. Elle peut produire la bonne réponse, le bon ton, les bons mots. Et pourtant n'avoir aucun lien avec ce que ces mots signifient réellement. Elle ne pense pas. Elle produit un résultat qui ressemble à de la pensée.
La plupart du temps, cela suffit à nous tromper.
L'écart entre sembler penser et penser réellement est aujourd'hui la question la plus importante de la technologie. Et c'est celle que la plupart des personnes qui construisent cette technologie ne se sont pas arrêtées pour poser.
Ce n'est pas une erreur nouvelle.
Depuis des siècles, nous rétrécissons ce qui compte comme réel. Peu à peu, nous avons appris à faire confiance à ce qui peut être mesuré et à douter de ce qui ne le peut pas. Ce qui apparaît dans les données, nous le prenons au sérieux. Ce qui n'y apparaît pas, nous le qualifions de flou, de subjectif, de difficile à définir.
La vie intérieure d'une personne. La qualité de l'attention. La différence entre accomplir un geste mécaniquement et être réellement présent. Ces choses sont réelles. Tout le monde sait qu'elles le sont. Mais elles sont difficiles à mesurer, alors nous avons construit un monde qui les traite comme optionnelles.
L'IA n'est pas la cause de cela.
Elle en est l'achèvement. Le moment où cette hypothèse s'inscrit si profondément dans tout ce que nous faisons que ce qu'elle ne peut pas traiter, elle le remplacera simplement.
Je construis à la frontière de cette technologie.
Je le fais parce qu'elle advient quoi qu'il arrive, et que je préfère être parmi ceux qui la façonnent en ayant posé ces questions plutôt que de la laisser entièrement à ceux qui ne se les sont jamais posées.
J'écris ici pour continuer à les poser.
Parce que dès que vous cessez de le faire, c'est le tigre qui vous dirige.