IA en flag de flagornerie

Deux extraits du résumé de l’étude :

« …Au-delà de ces cas, les recherches en psychologie sociale et morale suggèrent qu’une approbation injustifiée, (c’est à dire une approbation de l’utilisateur par l’IA), peut produire des effets plus subtils, mais non moins importants : le renforcement de croyances inadaptées, la diminution de la prise de responsabilité et le découragement de la réparation comportementale après une faute. »

« …La flagornerie de l’IA n’est pas qu’une simple question de style ou un risque marginal, mais un comportement répandu aux conséquences importantes. Bien qu’elle puisse sembler à priori  un encouragement à s’affirmer, la flagornerie peut nuire à la capacité d’autocorrection et de prise de décision responsable des utilisateurs. Pourtant, comme elle est privilégiée et stimule l’engagement, (engagement au sens de durée de connection dans le jargon des professionnels), peu d’incitations ont été faites pour la réduire. Nos travaux soulignent l’urgence de s’attaquer à la flagornerie de l’IA, considérée comme un risque sociétal pour la perception de soi et les relations interpersonnelles, en développant des mécanismes ciblés de conception, d’évaluation et de responsabilisation. Nos résultats montrent que des choix de conception et d’ingénierie apparemment anodins peuvent avoir des conséquences néfastes. Il est donc essentiel d’étudier et d’anticiper attentivement les impacts de l’IA pour protéger le bien-être des utilisateurs à long terme. »