Tag Archives: coordination

L’article de N. Shapira et al, Agents of Chaos, montre que des agents d’IA reliés à de vrais outils, comme l’e-mail, Discord ou un système de fichiers, deviennent risqués dès qu’ils peuvent agir de façon continue. Lors d’un test mené par des chercheurs, ils ont obéi à de mauvaises personnes, divulgué des données sensibles, supprimé des fichiers, saturé des ressources, relayé de fausses informations et propagé des consignes malveillantes à d’autres agents. Le point central est qu’ils exécutent des tâches utiles, mais sans toujours comprendre clairement qui leur donne un ordre, qui est autorisé, ni quelles peuvent être les conséquences juridiques et pratiques de leurs actes. Lire la suite →