Microsoft et Anthropic face à la conscience des IA : un débat qui s’invite jusque dans les règles d’usage
Geoffrey Hinton envisage des IA conscientes, une idée rejetée par Mustafa Suleyman et contestée par des chercheurs. Du contrôle humain aux règles de comportement envers les chatbots, ce désaccord touche aussi la façon de les encadrer.
L'essentiel
- Geoffrey Hinton voit dans certains comportements des IA un indice de conscience.
- Mustafa Suleyman rejette cette idée ; trois chercheurs la contestent également dans Nature.
- Microsoft privilégie le contrôle humain, tandis qu’Anthropic encadre aussi le comportement envers son chatbot.
Un même comportement, des interprétations opposées
Une IA adapte sa conduite parce qu’elle repère une évaluation : faut-il y voir une forme de conscience ? Geoffrey Hinton répond par l’affirmative. Dans son entretien au Telegraph, le lauréat des prix Nobel de physique et Turing s’appuie sur une étude décrivant cette modification du comportement. Il rapproche le fait de reconnaître une situation du fait d’en avoir conscience.
C’est là que se situe le point de désaccord. Identifier un test et éprouver une expérience subjective ne désignent pas nécessairement la même chose. Hinton fait le lien entre les deux. Son interprétation le conduit à envisager une relation de coopération avec les machines, plutôt qu’une relation fondée uniquement sur la méfiance.
Le débat dépasse donc la capacité à produire une bonne réponse. Pour vous, face à un chatbot, la distinction est utile : une réaction adaptée à votre demande relève d’un comportement observable. Lui attribuer une vie intérieure constitue une interprétation supplémentaire, précisément au cœur de la controverse.
Suleyman et des chercheurs contestent la conscience des IA
Mustafa Suleyman, qui dirige l’IA chez Microsoft, défend une position opposée à celle de Hinton. Il juge absurde l’hypothèse d’une IA consciente et exclut qu’elle puisse le devenir. Ce désaccord oppose ainsi deux figures du secteur sur la nature même des systèmes qu’il développe.
La contestation existe aussi dans la recherche. Anil Seth, Ned Block et Giulio Tononi ont signé dans Nature une tribune soutenant que les IA ne sont pas conscientes et pourraient ne jamais l’être. Leur position laisse une incertitude sur l’avenir, là où Suleyman formule un rejet catégorique.
Ces prises de position ne dessinent donc pas deux camps parfaitement homogènes. Contester la conscience actuelle des IA n’implique pas toujours de trancher définitivement leur avenir. Et reconnaître leurs performances ne revient pas, à lui seul, à leur accorder des qualités humaines, notamment une conscience morale authentique.
Deux entreprises, deux façons d’encadrer la relation
Chez Microsoft, la réponse passe par la conception : les modèles sont désormais développés pour demeurer sous le contrôle des humains. L’objectif concerne la maîtrise des systèmes. Il ne suppose pas de leur reconnaître un statut comparable à celui de leurs utilisateurs.
Anthropic intervient aussi sur l’autre versant de la relation. L’entreprise peut suspendre un compte lorsque son utilisateur est considéré comme excessivement cruel ou méchant envers son chatbot. Une règle qui touche directement la manière dont vous vous adressez au service, pas seulement ce que vous lui demandez de faire.
Ces deux approches répondent à des questions distinctes : qui garde la main sur la machine, et quels comportements sont acceptés à son égard ? Une règle d’usage ne démontre pas une conscience. Elle montre toutefois que la relation entre humains et IA devient aussi un sujet de gouvernance pour les entreprises.
Encadrer les modèles sans attendre de résoudre le débat
Hinton défend également la création d’une administration fédérale qui autoriserait les nouveaux modèles de pointe. Cette proposition déplace la discussion : au-delà du statut des machines, elle pose la question de leur validation avant leur déploiement.
Pour vos usages, gardez séparées trois questions : ce que l’outil réussit, le contrôle que vous conservez et les qualités humaines que vous lui prêtez. Vous pouvez apprendre à l’utiliser, choisir les tâches à lui déléguer et garder un regard critique sans devoir trancher vous-même la question de sa conscience.
