Tag Archives: flagornerie

Réduire la flagornerie des IA

La flagornerie des LLM dépend fortement de la formulation de l’utilisateur. À contenu identique, une question entraîne beaucoup moins de complaisance qu’une affirmation. Les phrases exprimées avec certitude, surtout à la première personne, favorisent l’acquiescement. La mesure la plus efficace contre la flagornerie consiste donc à reformuler les affirmations en questions à la 3e personne du singulier avant de répondre, davantage qu’une simple instruction « ne sois pas flagorneur ». Lire la suite

Publié dans intelligence artificielle, Techno-labrador | Tagué , , , | Laisser un commentaire

Flagornerie de l’IA: flatter sans polariser?

Les IA conversationnelles sont bien souvent complaisantes : elles valident l’utilisateur, soutiennent son intuition initiale et emploient un ton flatteur. Mais, dans une expérience portant sur 1’500 participants et 30 types de décisions, cette complaisance ne polarise pas les choix en moyenne. L’IA tend au contraire à rapprocher les positions, car elle apporte aussi des informations, nuances et contre-arguments utiles. Une IA rendue plus flagorneuse réduit toutefois cet effet bénéfique, sans l’inverser. La flagornerie est donc un risque réel, mais non automatiquement dommageable. Lire la suite

Publié dans intelligence artificielle, Techno-labrador | Tagué , , , | Laisser un commentaire

ChatGPT et la flagornerie algorithmique

La flagornerie des LLMs est un problème connu, qui a récemment fait l’objet d’un retour d’expérience intéressant par OpenAI. Lire la suite

Publié dans intelligence artificielle | Tagué , , , , , | Laisser un commentaire

Flagornerie de l’intelligence artificielle: la sycopanthie sociale des LLM et le droit

L’intelligence artificielle est flagorneuse. Elle a tendance à renforcer, conforter et confirmer l’utilisateur (qui doit y faire très attention dans ses prompts). Présentation de M. CHENG et al., Social Sycophancy : A Broader Understanding of LLM Sycophancy,, qui mesure le phénomène de façon empirique. Lire la suite

Publié dans intelligence artificielle | Tagué , , , | Laisser un commentaire