Catégories
Emplois et recrutements

L'interview vidéo basée sur l'IA est biaisée. Fin de l'histoire. – ERE

Vous voyez une offre d'emploi pour l'emploi de vos rêves. Vous postulez dans l'ATS, puis vous êtes invité à un entretien sur une plateforme qui utilise l'intelligence artificielle pour sélectionner les candidats en fonction de la vidéo qu'ils soumettent. Que faire?

Pensez à ce qui se passe si vous êtes noir, aveugle ou si vous avez un trouble de la parole. La semaine dernière, des conseils participatifs d'un candidat noir sur la façon dont elle devrait répondre aux employeurs qui voulaient l'interviewer par vidéo avec un logiciel qui utilise l'IA pour déterminer l'employabilité.

«En tant que femme noire à la peau sombre, j'ai l'impression d'avoir déjà été filtrée», elle tweeté. "Dois-je simplement répondre par" Non merci "?"

Les réponses devraient arrêter tous les recruteurs dans leur élan, en particulier ceux qui utilisent ou envisagent d'utiliser l'IA. Malgré les affirmations de certains, scientifiques des données continue de trouver ça L'IA n'élimine pas les préjugés. (Veuillez vous fier à des scientifiques de données non affiliés à des entreprises de technologie des ressources humaines.)

Ecoutez. Je vais être franc avec vous. Si vous utilisez l'IA pour sélectionner des candidats, pour analyser en fait si un candidat particulier doit passer au tour suivant, vous utilisez une technologie biaisée qui pourrait avoir un effet discriminatoire sur les candidats. Période. Arrêt complet.

Maintenant, je sais ce que vous pensez, "Mais Kate, fournisseur d'ABC et expert XYZ m'a dit que l'IA peut en fait réduire les biais!"

Oui, ces vendeurs et experts ont de vraies conneries éblouissantes à vous vendre. Ils vous montrent des statistiques sur la manière dont l'IA a montré moins de biais que les humains, ce qui signifie que leurs algorithmes sont meilleurs que les gens lorsqu'ils prennent des décisions d'embauche.

Mais tu sais ce que les gens peuvent faire? Défiez-vous les uns les autres, identifiez leurs préjugés et travaillez activement contre eux lorsque nos processus sont conçus pour les combattre. L’IA ne peut pas faire ça.

L'intelligence artificielle est formée pour faire ce que nous lui demandons de faire en fonction des données que nous la nourrissons et de ce qu'elle apprend en cours de route. L'IA apprend quoi faire en consommant des données. Si les données que nous lui fournissons sont plus blanches ou plus masculines, l'IA apprendra à produire des résultats plus blancs ou plus masculins.

Si les données que nous alimentons par l'IA ne tiennent pas compte de la surdité, Paralysie de Bell, ou tissu cicatriciel facial, alors l'IA pourrait supprimer les personnes atteintes de ces conditions.

Si les développeurs qui ont créé l'IA ne sont que des femmes de plus de 50 ans, ils programment l'IA en fonction de leur expérience de vie, en oubliant peut-être les expériences d'une jeune Latina.

Si nous n'avons pas pris en compte chaque sexe, race, religion, handicap, orientation sexuelle, âge, etc., ainsi que l'ajustement au changement et à l'innovation lors de la création de l'IA, nous obtiendrons des résultats biaisés.

La vérité fait mal, je sais. Mais la vérité est que l'IA contient et même amplifie le biais. La science est clair. Pourtant, ce fait n’empêche pas de recruter des fournisseurs de technologie et des experts en faisant du prosélytisme que leurs mathématiques sont meilleures que votre cerveau. Ce n'est pas.

Il y a un million de bonnes façons d'utiliser l'IA dans le recrutement – automatiser le travail chargé, détruire autant de sites d'emploi que possible, identifier les écarts de salaire – mais l'IA n'est pas prête à rivaliser avec nos capacités à modifier notre comportement lorsque nous savons et reconnaissons que nos préjugés ont un effet négatif sur les candidats.

Il est possible qu’un jour l’IA soit capable d’autoréguler les biais, mais ce n’est pas le cas aujourd’hui. Ce ne sera pas ce jour-là pendant un moment. En attendant, faisons un meilleur usage de notre temps et de nos ressources pour lutter contre les préjugés les uns envers les autres.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *