Morningkill a écrit : ↑ven. oct. 02, 2026 1:32 pm
Il s'agit pas de dire qu'une IA vaut un humain, mais que l'humain n'a rien de spécial.
Absolument. C'est une réflexion que je me fais souvent en regardant les débats entre ceux qui considèrent que l'IA peut faire ceci ou cela et ceux qui considèrent que l'IA ne peut pas le faire. En général ça donne :
- Selon tous les indices disponibles, on ne peut exclure que l'IA est ceci et fait cela.
- Vous vous trompez, être ceci nécessite un niveau de truc et une maîtrise de machin qui est probablement à jamais hors de portée d'une implémentation informatique.
- Je ne suis pas d'accord,
vous sous-estimez le niveau qu'on a atteint dans l'implémentation de la maîtrise de machin.
En fait, je crois que l'interlocuteur ne sous-estime pas vraiment ce que peut faire l'informatique, mais il surestime énormément ce qu'il est lui-même et ce que recouvre ses propres capacités mentales. Il y a un blocage pour réaliser que, certes l'esprit humain est un peu plus qu'une méga-matrice de pondérations servant à prédire le monde, mais probablement
pas beaucoup plus.
En fait, avant même l'arrivée de l'IA, pas mal de chercheurs en neurosciences ou en psychologie (je ne saurais pas vous ressortir les réfs, tout ce que je peux dire c'est que c'était très probablement des ouvrages de vulga) assimilaient déjà le cerveau humain à une machine à modéliser le réel et à prédire son évolution. J'ai même vu l'interprétation de l'imagination humaine comme l’expression des prédictions non réalisées ou non réalisables par le réel.
Bref, je crois effectivement que l'on surestime la supériorité intrinsèque de l'esprit humain. Ceci dit, à titre d'opinion purement personnelle, si on me pose la question "crois-tu que les meilleures IA actuelles sont autoconscientes ?", ma réponse est non, je ne pense pas qu'on en est déjà là, il manque probablement encore quelques éléments : persistance de l'état mental, continuité de l'identité, inputs physiques (des sens) cohérents et persistants dans le temps, etc. Par conte, si la question est "crois-tu qu'un jour les IA seront autoconscientes ?", ma réponse est je ne sais pas, mais je ne vois pas d'impossibilité majeure à ce que ça arrive. En fait, je pense que ça ne dépendra pas vraiment d'une augmentation de puissance des IA, mais de savoir si les créateurs des IA tentent ou pas de les doter des outils annexes dont je parlais (persistance, inputs physiques, etc.).
Mais il y a aussi une autre possibilité. Les IA peuvent très bien développer une forme d’intelligence "étrangère". C'est à dire qui réalise fonctionnellement la même chose que l'intelligence humaine (puisque c'est à ça qu'on les entraîne), mais donc les "qualia", les sensations internes, la forme d'autoconscience développée est fondamentalement différente de la conscience humaine, au point où on ne serait pas capable de se la représenter mentalement. Si c'est le cas, on peut très bien ne jamais s"en rendre compte. Parce que la seule raison pour laquelle on se rend compte que les autres humains on une conscience phénoménologique, c'est par analogie. Mais, presque par définition, la conscience phénoménologique est indétectable par des moyens expérimentaux. Rien ne me dit que "toi qui est en train de me parler", tu as réellement une autoconscience, tu te comportes peut-être seulement comme si tu en avais une. Mais la logique et des considérations de probabilité font qu'il est très probable que tu aies la même forme de conscience que moi. Si jamais les IA développent une forme de conscience phénoménologique, semblable à la notre ou étrangère, il est probable que nous n'en ayons jamais la certitude.
Je vois bien un avenir lointain où les IA auront atteint un tel niveau de ressemblance à la conscience humaine qu'on se sentira obligé de leur octroyer les mêmes droits et protections que les humains, mais sans jamais pouvoir avoir la confirmation qu'elle ont réellement une conscience phénoménologique. C'est vertigineux quand on y pense.