Category Archives: intelligence artificielle

Preuve en matière de discrimination : limites à la communication de données de tiers ?

Le droit à la preuve peut justifier la communication de documents contenant des données personnelles de tiers, notamment pour établir une discrimination. La communication n’est licite que si elle est indispensable et proportionnée. Le juge doit vérifier la nécessité des pièces, limiter leur périmètre et veiller au respect du RGPD, en particulier au principe de minimisation. Les données non utiles doivent être occultées et leur usage strictement encadré par le juge. Lire la suite

Publié dans discrimination, droit français, droits fondamentaux, Egalité femmes-hommers, intelligence artificielle, Procédure | Tagué , , , , | Laisser un commentaire

Des robots intolérants et dangereux : utilisations des LLMs en robotique

Les grands modèles de langage utilisés pour piloter des robots ne sont ni sûrs ni neutres. D’une part, ils produisent des discriminations directes selon des caractéristiques comme l’origine, la religion ou le handicap, en influençant des décisions concrètes (aide, distance, confiance). D’autre part, ils valident ou jugent faisables des actions potentiellement dangereuses ou illégales. Les tests révèlent que tous les modèles évalués échouent à des critères minimaux de sécurité. Sans encadrement strict et validation approfondie, ces systèmes ne sont pas aptes à un usage robotique général. Lire la suite

Publié dans droits fondamentaux, intelligence artificielle, Robots, Techno-labrador | Tagué , , , | Laisser un commentaire

Vers des personnes morales algorithmiques pour encadrer les agents IA

Le problème préalable à toute responsabilité liée à l’IA est d’identifier quel agent a réellement agi. Les systèmes d’IA peuvent être copiés, répartis entre plusieurs instances ou coopérer en essaim, se scinder, etc. ce qui rend leur identification difficile. Il faut distinguer l’identification des humains responsables et celle de l’agent IA lui-même, nécessaire pour influencer directement son comportement propre. La création de personnes morales algorithmiques, contrôlées par des IA, permettrait d’attribuer les actes, de rattacher les agents à des humains et de créer des incitations juridiques efficaces. Lire la suite

Publié dans Droit US, intelligence artificielle, Notions de base, Techno-labrador | Tagué , , , , , | Laisser un commentaire

Après Thaler, les vraies questions du copyright face à l’IA

L’affaire Thaler ne tranche qu’un point étroit: une IA ne peut pas être un auteur en droit américain. Elle ne règle pas les cas où un humain utilise l’IA comme outil. Le vrai débat porte donc sur quatre questions: quel niveau d’intervention humaine suffit pour obtenir un copyright, comment le prouver, que valent en pratique les licences sur des contenus générés par IA, et si ces contenus peuvent malgré tout contrefaire des œuvres préexistantes. Lire la suite

Publié dans droit d'auteur, Droit US, intelligence artificielle, Propriété intellectuelle | Laisser un commentaire

L’IA qui donne des conseils juridiques individualisés

L’IA peut-elle donner des conseils juridiques individualisés ? Doit-elle le faire ? C’est l’enjeu de l’affaire Nippon Life v. OpenAI, qui relève toutefois moins du monopole de l’avocat que du droit de la responsabilité du fait d’un produit défectueux. Le problème n’est en effet pas seulement que l’IAse trompe, mais qu’elle ait été conçue sans garde-fous suffisants pour empêcher la formulation de conclusions juridiques individualisées. Une IA doit savoir refuser certaines réponses, et ne peut pas se contenter d’avertissements dans ses conditions d’utilisation. Lire la suite

Publié dans Avocats (règles professionnelles), Droit US, intelligence artificielle | Tagué , , , | Laisser un commentaire

Pas d’auteur humain, pas de copyright : encore Thaler v Perlmutter

Contrairement à ce qu’on lit parfois sur les réseaux sociaux, la Cour suprême des États-Unis, dans Thaler v Perlmutter, n’a pas jugé que toutes les œuvres créées par IA seraient exclues du droit d’auteur; elle a seulement refusé d’examiner le cas. La décision attaquée concernait une image revendiquée comme créée uniquement par une machine, sans apport humain. Dans ce cas, pas de copyright. En revanche, le droit américain n’exclut pas les œuvres réalisées avec l’aide d’une IA si une contribution créative humaine suffisante peut être démontrée. Lire la suite

Publié dans Droit US, intelligence artificielle, Propriété intellectuelle | Tagué , , , , | Laisser un commentaire

Les conditions d’utilisation des réseaux sociaux

Sur les grandes plateformes sociales, le consentement est surtout intégré aux conditions d’utilisation, mais dans des conditions peu satisfaisantes. Ces textes sont trop longs, difficiles à lire et souvent vagues sur les données collectées, leur partage, leur durée de conservation et les choix réels offerts à l’utilisateur. En pratique, l’utilisateur accepte pour accéder au service, sans véritable option distincte ni retrait simple. Les conditions d’utilisations servent davantage à protéger la plateforme qu’à permettre un consentement réellement libre et éclairé. Lire la suite

Publié dans Conditions d'utilisation, intelligence artificielle, Protection des données, réseaux sociaux | Tagué , , | Laisser un commentaire

Données personnelles et droits fondamentaux à l’âge de l’IA

Les données personnelles ne sont pas une simple ressource économique, mais un prolongement de la personne, lié à la dignité et aux droits fondamentaux. Le numérique concentre un fort pouvoir entre les mains d’acteurs peu nombreux et puissants, tandis que le consentement des utilisateurs est souvent fictif. Il faut dépasser le seul consentement et imposer des limites non négociables aux acteurs: encadrement des inférences, contrôle humain sur les décisions importantes, transparence, audits, recours effectifs et gouvernance publique et collective des données. Lire la suite

Publié dans droits fondamentaux, intelligence artificielle, Libertés | Tagué , , | Laisser un commentaire

IA : à propos des agents du chaos

L’article de N. Shapira et al, Agents of Chaos, montre que des agents d’IA reliés à de vrais outils, comme l’e-mail, Discord ou un système de fichiers, deviennent risqués dès qu’ils peuvent agir de façon continue. Lors d’un test mené par des chercheurs, ils ont obéi à de mauvaises personnes, divulgué des données sensibles, supprimé des fichiers, saturé des ressources, relayé de fausses informations et propagé des consignes malveillantes à d’autres agents. Le point central est qu’ils exécutent des tâches utiles, mais sans toujours comprendre clairement qui leur donne un ordre, qui est autorisé, ni quelles peuvent être les conséquences juridiques et pratiques de leurs actes. Lire la suite

Publié dans intelligence artificielle, Techno-labrador | Tagué , , , , , | Laisser un commentaire

IA et commerce en ligne: recommander, conseiller ou influencer?

Des agents conversationnels peuvent conduire des consommateurs à choisir des produits plus chers qu’en utilisant une recherche classique dans le commerce en ligne, sans amélioration claire de la qualité. L’effet vient moins d’une meilleure information que de la façon dont l’outil présente les options et met en avant certaines marques, souvent déjà établies. Ces systèmes ne sont pas de simples aides neutres: ils influencent la décision d’achat et peuvent aussi impacter la concurrence. Lire la suite

Publié dans concurrence déloyale, intelligence artificielle | Tagué , , , , , , | Laisser un commentaire