By Anne-Marie Brennan
Que vous soyez partisan ou sceptique de l’IA générative, le rythme auquel celle-ci a ouvert un nouvel espace au sein de la technologie est sans précédent.
Beaucoup croient que ces logiciels sont exceptionnels, et que, par exemple ChatGPT, leur apportera inspiration, gain de temps, ou une solution rapide aux tâches monotones. Cependant, les questions de droits d’auteur et de protection des données ont obligé les gouvernements à se démener pour suivre le logiciel en constante évolution. Hélas, il semble qu’ils soient toujours en retard ! Au final, comment peut-on gagner une course contre un robot ?
ChatGPT est révolutionnaire à bien des égards, mais l’entreprise à l’origine du logiciel, OpenAI, n’est pas aussi avant-gardiste que la technologie qu’elle crée.
Le retour de son PDG Sam Altman – dont les méthodes avaient été jugées incompatibles avec la société et ont conduit à son licenciement – a abouti à la destitution ultérieure des deux seules femmes membres du conseil d’administration d’OpenAI.
Méta-Media a rapporté que la lettre demandant le retour d’Altman avait été signée par 702 employés sur 750, dont 75 % étaient des hommes.
Alors qu’OpenAI est clairement gagnant dans la popularité des chatbots IA – elle ne l’a obtenue qu’en négligeant les voix et la contribution des femmes ?
La domination masculine qu’on constate dans des entreprises telles qu’OpenAI est problématique pour deux raisons importantes.
Les statistiques de la Commission européenne indiquent qu’en 2022, 52% des personnes travaillant dans le domaine des sciences, de la technologie, de l’ingénierie et des mathématiques (STIM) dans l’Union européenne étaient des femmes. Beaucoup diraient que c’est une statique admirable.
Cependant, si l’on considère une entreprise comme OpenAI, qui a évincé les deux seules femmes membres du conseil d’administration, cela ne reflète pas tout à fait les progrès réalisés pour la place des femmes dans la main-d’œuvre des STIM. Mais peut-être que ce synopsis est naïf – peut-être est-ce un reflet des attitudes qui ont été cachées derrière les protocoles RH et la ‘culture woke’.
Ce n’est pas seulement le précédent créé par OpenAI qui est préoccupant. Minimiser la voix de la moitié de notre population lorsque nous travaillons avec l’IA générative – alors qu’elle repose fortement sur les données d’entrée et qu’elle est très sensible aux biais, cela ne peut pas faire beaucoup de bien.
L’IA n’est pas elle-même intrinsèquement biaisée, mais les humains qui la contrôlent peuvent l’être. Un article publié par J’ai Piscine Avec Simone, a présenté une recherche effectuée par Virginie Mathivet qui a conclu que l’IA ne crée pas de stéréotypes, mais qu’elle aide à diffuser ceux détenus par ses créateurs.
Donc, si votre main-d’œuvre est dominée par les hommes, il est naturel qu’ils ne puissent pas être conscients de tous les stéréotypes qu’ils détiennent. S’ils ne sont pas contestés, le processus de formation et de sélection des données d’entrée sera grandement influencé par ces idées.
Une main-d’œuvre diversifiée, que ce soit par l’âge, le sexe ou la culture, a des avantages pour de nombreuses raisons pour l’entreprise. L’IA générative apprend de nous et reflète cela dans ses réponses, de sorte que plus ses données d’entrée sont diversifiées, plus ses résultats sont substantiels.
Il est important de mentionner les forces différentes que les hommes et les femmes utilisent dans les affaires. Un article de blog de HULT Business School, écrit que « les PDG citent systématiquement les ‘soft-skills’ comme les attributs professionnels les plus souhaitables » et cite ensuite une recherche de Korn Ferry, qui a trouvé que les femmes surpassent les hommes dans 11 des 12 « compétences en intelligence émotionnelle ».
Les outils comme ChatGPT sont clairement très puissants, ce qui donne beaucoup de pouvoir à l’entreprise responsable de sa création. Ainsi, quand OpenAI se situe dans un monde de domination masculine, fermé aux femmes, sans conséquences importantes, il envoie un message à toute l’industrie.
Bien entendu, certaines fonctions peuvent attirer plus d’ hommes que des femmes ou inversement, et ce, pour de nombreuses raisons. Et si cela n’est pas en soi problématique, ignorer ou supprimer activement les rôles des femmes dans une entreprise est certainement problématique.
Si ceux qui ont accès aux outils d’IA ont déjà un parti pris envers certains groupes, nous devons examiner comment ce parti pris pourrait se transférer dans le logiciel lui-même.