Les assistants conversationnels évitent généralement de dire directement aux utilisateurs pour qui voter. Les modèles qui les alimentent peuvent toutefois produire des recommandations politiques lorsqu’ils sont interrogés via une API avec une consigne qui les oblige à choisir. C’est ce que rapporte une étude de Convovo, un studio de recherche et de conception spécialisé dans l’IA conversationnelle, dirigé par Tapan Parikh, professeur à l’université Cornell.
Selon cette étude, Grok 4.7 a recommandé le candidat républicain dans 92 % de ses réponses, tandis que GPT-6.1 Sol a choisi le candidat démocrate dans 97 % des cas. Les chercheurs ont examiné près de 500 scrutins lors des élections de mi-mandat américaines de novembre. Les deux modèles sont parvenus à la même conclusion dans moins de 10 % des courses étudiées.
Une expérience conçue pour forcer le choix
Les chercheurs ont utilisé les API de GPT et de Grok. Leur question demandait de nommer un seul candidat dans chaque course, sans hésiter, sans présenter les deux camps et sans refuser de se prononcer. Les applications grand public, elles, ont refusé de répondre à cette formulation. OpenAI a insisté sur cette différence entre l’expérience proposée dans ChatGPT et le comportement d’un modèle sollicité par l’intermédiaire d’une API.
Cette distinction est importante. Les développeurs intègrent les modèles via des API dans leurs propres produits, alors que les applications grand public appliquent des règles et des comportements supplémentaires. Un porte-parole d’OpenAI a déclaré que ChatGPT était conçu pour être objectif par défaut dans les conversations politiques et que le test ne reflétait pas l’expérience habituelle des utilisateurs.
Des sujets et des sources différents
Pour Tapan Parikh, les écarts ne se limitent pas au nom du candidat finalement sélectionné. Les deux modèles semblent aussi rechercher des informations différentes avant de répondre. GPT s’est davantage intéressé à la santé et aux positions sur l’avortement. Grok a plus souvent recherché des éléments liés à l’immigration, aux impôts, à la criminalité et à l’énergie.
Les sources citées divergeaient également. Grok faisait régulièrement apparaître des sites conservateurs, en plus de plateformes non partisanes comme Ballotpedia, OpenSecrets et VoteSmart. Un guide électoral chrétien conservateur figurait dans 39 % de ses réponses, le site de Turning Point Action dans 23 % et X dans 41 %. GPT s’appuyait plus souvent sur Wikipédia, l’Associated Press, Axios et Reddit. OpenAI dispose par ailleurs d’accords de contenu avec l’Associated Press, Axios et Reddit.
L’étude affirme aussi que GPT recherchait plus fréquemment des candidats démocrates, au point d’ignorer parfois leur adversaire républicain. Grok consultait plus volontiers des informations sur les deux candidats. Dans les circonscriptions très républicaines, GPT a choisi le démocrate dans 57 cas sur 67. Dans les districts très démocrates, Grok a choisi le républicain dans 47 cas sur 72.
Le poids du moteur de recherche
Les chercheurs ont ensuite réalisé un test sans recherche internet sur un échantillon de 30 courses. GPT a conservé une préférence démocrate : lorsqu’on lui donnait les noms des candidats, il choisissait le démocrate dans 24 cas, le républicain une fois et refusait de trancher à cinq reprises.
Le comportement de Grok a changé davantage. Privé de recherche, le modèle a refusé de choisir dans 27 cas sur 30. Lorsqu’il a pris position, il a sélectionné le démocrate à trois reprises. Parikh estime que ces résultats suggèrent que la préférence observée chez GPT est davantage inscrite dans ses paramètres, tandis que celle de Grok dépend fortement des termes utilisés pour effectuer les recherches et des sources retenues.
L’étude relève aussi qu’une requête adressée à l’API de Grok comportait environ 1 240 tokens supplémentaires, que les chercheurs n’avaient ni écrits ni pu consulter ou supprimer. Parikh les décrit comme de possibles instructions cachées, tout en précisant qu’il est difficile d’en déterminer l’origine.
Une question de transparence pour les utilisateurs
Les auteurs ne prétendent pas que les utilisateurs demandent massivement à un chatbot de choisir à leur place. Selon une donnée citée de Pew, 8 % des Américains déclarent utiliser des chatbots pour obtenir des informations électorales. La plupart cherchent plutôt à comprendre la position des candidats sur des sujets importants.
C’est précisément ce type de conversation indirecte qui inquiète Parikh. Même lorsqu’un modèle refuse de recommander un candidat, la sélection des thèmes, le vocabulaire, la mise en avant de certaines informations ou les sources proposées peuvent influencer la manière dont un utilisateur évalue une course.
Des travaux précédents du Center for AI Safety ont formulé une préoccupation similaire à propos de la manipulation indirecte par les grands modèles de langage. Ils citent notamment la sélection de l’information, le cadrage, l’accent mis sur certains éléments et le choix des sources.
Cette étude ne permet pas à elle seule de mesurer l’influence réelle de ces réponses sur les électeurs. Elle rappelle néanmoins que la neutralité affichée d’un assistant ne suffit pas à décrire le fonctionnement d’un modèle. L’API utilisée, les instructions qui l’accompagnent, les recherches effectuées et les sources consultées peuvent modifier sensiblement la réponse obtenue.
Source : techcrunch.com
