Source : [[AI 2041]] MOC : [[Intelligence artificielle]] Auteur : [[Kai-Fu Lee]] - [[Chen Qiufan]] Date : 2025-01-28 *** Cette nouvelle nous présente un futur dans lequel une grande quantité de données personnelles est exploitée avec le consentement de chaque individu. ==Comment utiliser nos données personnelles pour améliorer nos vies tout en préservant notre libre-arbitre ?== ### Avantages Grâce au modèles avancés et à l'aggrégation de données qui ne cesse de s'améliorer, on aura dans le futur accès à une expérience de vie personnalisée et pertinente. L'impact sera positif dans notre vie quotidienne, avec des *nudges* et des choix facilités pour être en meilleure santé, être plus en sécurité, etc. On aura en permanence accès à un "assistant de vie" (concept qu'on peut retrouver dans presque n'importe quel récit de SF) qui nous aidera à naviguer notre quotidien, tout en supprimant pas mal de charge mentale pour nous. ### Inconvénients Côté *fairness*, on peut faire face à des biais et/ou de la discrimination d'une IA qui perpétue des biais sociétaux. S'il est possible de rendre le modèle aveugle à des critères donnés (race, classe sociale, etc.) il y a malgré tout de nombreux traits corrélés qui peuvent stigmatiser telle ou telle population. De plus, avoir une IA omnisciente qui nous connaît mieux que nous ne nous connaissons nous-mêmes est un frein à l'introspection, et à la connaissance de soi qui fait déjà défaut à bon nombre d'humains à l'heure actuelle en 2025. ### Solutions Il faut apprendre à l'IA à intégrer des objectifs complexes. Par exemple plutôt que de proposer un repas équilibré, prendre en compte d'autres paramètres : "le meilleur repas qui m'apporte du plaisir, tout en nécessitant moins de 15 minutes de temps de préparation". Cela inclut des critères plus subjectifs et davantage de complexité. C'est un enjeu particulièrement important pour les dilemnes moraux. Pour finir, il y a un réel besoin d'obtenir de la transparence sur les prises de décisions et prédictions générées par l'IA, pour comprendre comme ça se passe "sous le capot" et donc si les outputs sont pertinents ou non.