Une étude menée par des chercheurs américains montre que les modèles d'IA tendent à évaluer négativement l'intelligence et l'employabilité des locuteurs Ebonics, anglais modifié, utilisé par les afro-américains, par rapport à ceux qui utilisent l'anglais américain standard.
Je suis vraiment secouée par ces résultats, ça montre clairement des biais sérieux dans les systèmes d'IA. C'est grave, il faut vraiment que les équipes qui développent ça soient plus variées pour pas que ça continue comme ça. On devrait en parler plus, sensibiliser tout le monde sur les problèmes que ça pose dans la société. On peut pas rester les bras croisés, il faut agir vite pour réparer ces injustices et faire en sorte que l'IA soit juste et pour tout le monde!
Cela commence petit et cela finit avec des bombes H sur toute la planète. Je ne suis pas pessimiste bien sûr, mais il est d'une évidence extrême que lorsque les machines auront compris la source de tous les maux, les paramètres de l'équation vont changer drastiquement LOL.
En j'aime les machines
Ce n'est que le début d'un long chemin qui ne sera pas facile à négocier dans un futur moyennement proche.
De là à parler de racisme, il y a quand même un p*tain de fossé que l'auteur de l'article franchit allègrement.
Les générateurs de contenu (désolé, c'est pas de l'IA) ont été alimentés avec du contenu représentatif (autant que possible) de ce qui était disponible un peu partout jusqu'en 2021. Donc l'anglais non déformé est la base (pour l'anglais) car il y a beaucoup plus de textes en anglais standard (journaux, livres) qu'en patois et autres déformation.
Nous sommes les premiers à nous moquer d'un accent ou d'un vocabulaire qui diffère de la norme, et il est presque logique d'assimiler le moins normal a du moins bien. Lorsque vous passez un entretien d'embauche, vous vous efforcez d'utiliser un "bon" français, non ? Pourquoi ? Pas parce que vous pensez que le recruteur va être raciste, juste parce que c'est la norme pour être compris de tous.
Si quelqu'un faisait le test avec du vieil anglois, je pense que ce serait pareil. On accuserait ce bête programme d'être gérontophobe ?
J'aime bien france info, mais là c'est vraiment du putaclick à buzz
La seule chose grave, c'est les ****** qui font aveuglément confiance aux lignes de code de ces agents conversationnels.
Aujourd'hui à 7:38 par 
Login
Localité
