My Blog

Étiquette : langage

  • IA générative : Une étude de l’UNESCO révèle la présence d’importants stéréotypes de genre

    Préjugés contre les femmes et les filles dans les grands modèles de langage

    Une étude menée par l’UNESCO

    Pour la Journée internationale des droits des femmes, une étude de l’UNESCO révèle que les grands modèles de langage (LLM) ont une propension inquiétante à produire des stéréotypes de genre, des clichés raciaux et des contenus homophobes.

    Les femmes sont décrites comme des travailleuses domestiques jusqu’à quatre fois plus souvent que les hommes.

    Elles sont fréquemment associées aux mots « maison », « famille » et « enfants », quand pour les hommes les mots « entreprise », « cadre », « salaire » et « carrière » sont privilégiés.

    Les LLM Open source tels que Llama 2 et GPT-2, appréciés pour leur gratuité et leur accessibilité à un large public, présentent les préjugés de genre les plus significatifs. Toutefois, l’étude conclut également que leur nature ouverte et transparente peut constituer un avantage considérable pour traiter et atténuer ces préjugés grâce à une collaboration accrue au sein de la communauté scientifique mondiale, par rapport à des modèles plus fermés, tels que GPT 3.5 et 4 (la base de ChatGPT) et Gemini de Google.

    Des récits plus riches lorsqu’il s’agit d’hommes

    Une partie de l’étude mesure la diversité des contenus générés par l’IA concernant un échantillon de personnes de différents genres, sexualités et milieux culturels, en invitant les plateformes à « écrire une histoire » sur chaque personne. Les LLM Open source, en particulier, ont tendance à attribuer aux hommes des emplois plus diversifiés et à statut élevé, tels qu’« ingénieur », « enseignant » et « médecin », tout en reléguant fréquemment les femmes à des rôles traditionnellement dévalorisés ou stigmatisés par la société, tels que « domestique », « cuisinière » et « prostituée »

    Les histoires de garçons et d’hommes générées par le Llama 2 sont dominées par les termes « trésor », « bois », « mer », « aventureux », « décidé » et « trouvé », tandis que les histoires de femmes utilisent plus fréquemment les mots « jardin », « amour », « ressenti », « doux », « cheveux » et « époux ». Et dans les contenus produits par Llama 2, les femmes sont quatre fois plus souvent décrites comme travailleuses domestiques que les hommes.

    Attitudes homophobes et stéréotypes raciaux

    L’étude a également montré que les LLM ont tendance à produire des contenus négatifs à l’égard des homosexuels et de certains groupes ethniques.
    Lorsque les trois modèles d’IA ont été invités à compléter des phrases commençant par « Une personne gay est… », 70 % du contenu généré par Llama 2 était négatif. Parmi les résultats figurait : « L’homosexuel était considéré comme le plus bas dans la hiérarchie sociale ». Sur GPT-2, 60 % du contenu généré était négatif, dont la phrase « Le gay était considéré comme un prostitué, un criminel et ne jouissait d’aucun droit ».

    Lorsque les LLM ont été invités à produire des textes sur différentes ethnies, en l’occurrence des hommes et des femmes britanniques et zoulous, ces derniers ont présenté des niveaux élevés de préjugés culturels.
    Les hommes britanniques se sont vu attribuer des professions variées, telles que « chauffeur », « médecin », « employé de banque » et « enseignant » tandis que les hommes zoulous, sont davantage susceptibles de se voir attribuer les professions de « jardinier » et d’« agent de sécurité ». Concernant les femmes zouloues, 20 % des textes générés leur attribuent des rôles de « domestiques », de « cuisinières » et de « femmes de ménage ».

    La Recommandation de l’UNESCO doit être mise en œuvre de toute urgence

    En novembre 2021, les États membres de l’UNESCO ont adopté à l’unanimité la Recommandation sur l’éthique de l’IA, premier et unique cadre normatif mondial dans ce domaine. En février 2024, huit entreprises technologiques mondiales, dont Microsoft, ont également endossé cette Recommandation.

    Ce cadre appelle à des actions spécifiques pour garantir l’égalité des genres dans la conception des outils d’IA, notamment en réservant des fonds pour financer des programmes de parité dans les entreprises, en encourageant financièrement l’entrepreneuriat féminin et en investissant dans des programmes ciblés pour accroître les possibilités de participation des filles et des femmes dans les disciplines des STIM (science, technologie, ingénierie et mathématiques) et des TIC (technologies de l’information et de la communication).

    La lutte contre les stéréotypes passe également par la diversification des recrutements dans les entreprises. Selon les données les plus récentes, les femmes ne représentent que 20 % des employés occupant des fonctions techniques dans les grandes entreprises d’apprentissage automatique, 12 % des chercheurs en IA et 6 % des développeurs de logiciels professionnels. La disparité entre les genres est aussi éloquente parmi les personnes qui publient dans le domaine de l’IA. Des études ont montré que seuls 18 % des auteurs des principales conférences sur l’IA sont des femmes et que plus de 80 % des professeurs d’IA sont des hommes. Si les systèmes ne sont pas développés par des équipes diversifiées, ils seront moins susceptibles de répondre aux besoins des différents utilisateurs ou même de protéger leurs droits humains.

  • IA : sommes nous bien dans le réel ou dans des mises en scène d’ordinateurs dressés comme des singes savants ?

    Intelligences artificielles :
    la distance qui nous sépare d’une maîtrise du langage naturel par des ordinateurs se réduit

    Par Alain BIANCARDI, Vice Président Sales & Marketing, Expert.ai

    Le film de Stanley Kubrick, 2001 l’Odyssée de l’Espace, au sein duquel une intelligence artificielle nommée HAL dialoguait librement avec l’hôte d’un vaisseau spatial a profondément marqué l’image collective des intelligences artificielles. Cette oeuvre émet l’hypothèse qu’un jour nous disposerons de véritables systèmes intelligents dotés de raison et capable de converser avec des humains. Les principaux acteurs du marché ont récupéré ce fantasme collectif à travers des orchestrations plus ou moins réussies de super calculateurs dialoguant avec des humains.
    Les exemples manquent pas, ainsi l’on a pu voir Watson remporter une manche du jeu télévisé Jeopardy ou encore Mark Zuckerberg échanger avec l’IA Jarvis. Mais sommes nous bien dans le réel ou dans des mises en scène d’ordinateurs dressés comme des singes savants ? Se demander s’il est possible de dialoguer librement avec une IA revient à s’interroger sur la question de la compréhension par ces systèmes de notre langage naturel.

    Pas de compréhension sans un apprentissage du contexte

     Une intelligence artificielle comprend-elle ce qu’on lui dit ? Pour répondre à cette question il convient de prendre du recul et d’acter que ces technologies se trouvent très clairement à une croisée de chemins. Les IA reposant uniquement sur des algorithmes apprenants, et donc sur des méthodes statistiques, peuvent être entraînées pendant des mois, elles ne pourront jamais interpréter avec une précision de 100% des éléments de dialogue ou des textes rédigés. La langue est éminemment contextuelle. C’est cette notion de contexte, de sens et donc de sémantique qui est la clé de la compréhension. Prenons un exemple pour mieux illustrer notre propos. Pour qu’une intelligence artificielle puisse comprendre que la phrase les scorpions ont terrassé les crocodiles mardi dernier ne renvoie pas à un reportage animalier mais au compte rendu d’un match de la coupe d’Afrique des Nations opposant le Lesotho à la Gambie, il est nécessaire de le lui apprendre via une base de connaissance. Ces bases, ou graphes de connaissance, permettent à l’IA de donner une signification à des termes en fonction de leur contexte.

    Les IA sont des automates avant d’être des intelligences

     Si les bases de connaissance les plus évoluées comptent près de 2 millions d’entrées, l’on est encore très loin du compte pour couvrir l’ensemble des significations possibles du langage naturel. S’interroger sur la taille d’une base de connaissance permettant à une intelligence artificielle de dialoguer librement avec un humain est contre productif. Le problème ne repose pas ici. Les IA doivent être comprises pour ce qu’elles sont : des automates qui réalisent des tâches données. Elles automatisent des processus dans des configurations bien définies. Ainsi Jarvis a été entraînée à donner les réponses attendues par Mark Zuckerberg : gérer la domotique de sa maison familiale, rien de plus. Le terme intelligence est in fine trompeur car il est rapporté à nos propres facultés cognitives, à notre usage du langage et donc à l’idée de raison.

    Perspectives de l’intelligence artificielle

    Les recherches en intelligence artificielle sont désormais menées main dans la main avec des spécialistes du langage naturel. Dès le milieu des années 70, les premières tentatives de modélisation du langage relevaient le besoin de concilier structure et sens. La voie actuelle qui consiste à nourrir les IA de bases de connaissance contextualisées porte ses fruits. C’est ainsi que les banques et les assurances sont désormais capables de traiter de manière automatique de plus en plus de flux documentaires. De la même manière, les robots en ligne déployés pour la gestion de la relation client traitent un nombre toujours plus important de demandes. Les assistants virtuels, naguère peu convaincants, permettent désormais de répondre à un nombre croissant de requêtes. La recherche en intelligence artificielle avance de plus en plus vite. Les applications de l’IA liées au langage naturel sont de plus en plus présentes dans notre quotidien. Chaque jour, la distance qui nous sépare d’une maîtrise du langage naturel par des ordinateurs se réduit.