Προσέξτε τις φωτογραφίες που ανεβάζετε στα social γιατί...

... ο αλγόριθμος της Τεχνητής Νοημοσύνης μπορεί να απορρίψει μια αίτηση σας για εργασία!

Η τεχνητή νοημοσύνη στην υπηρεσία των τμημάτων Ανθρώπινου Δυναμικού!

Διαβάζοντας την εφημερίδα Süddeutsche Zeitung του Σαββατοκύριακου (διαβάζω που και που καμία Γερμανική εφημερίδα για να κάνω φρεσκάρισμα στα Γερμανικά μου!!!), έπεσε το μάτι μου σε ένα εκπληκτικό άρθρο με τίτλο "Software mit Vorurteilen" μεταφρασμένο στα Ελληνικά "Λογισμικό με προκαταλήψεις".

Το άρθρο αναφερόταν σε προγράμματα λογισμικού, που κάνουν χρήση εργαλείων της Τεχνητής Νοημοσύνης και τα οποία χρησιμοποιούνται από τα human resources (HR) τμήματα των επιχειρήσεων.

Η εστίαση του κειμένου ήταν στα μειονεκτήματα και πιο συγκεκριμένα σε προκαταλήψεις που μπορεί να έχει ένας αλγόριθμος, κάτι το οποίο μπορεί να οδηγήσει σε λανθασμένες αποφάσεις επιλογής προσωπικού.

Ας ξεκινήσουμε όμως με τα οφέλη που προσφέρουν τα προγράμματα τεχνητής νοημοσύνης στα hr departments.

Πλεονεκτήματα AI στο HR department

Ένα μεγάλο όφελος που φέρνουν τα προγράμματα Artificial Intelligence στα τμήματα Ανθρώπινου Δυναμικού είναι η αυτοματοποίηση πολλών τυποποιημένων εργασιών και κατ' επέκταση η εξοικονόμηση χρόνου για τα στελέχη τους.

Για παράδειγμα στο στάδιο του ξεκαθαρίσματος των βιογραφικών και των αιτήσεων για ένα job vacancy, ένα πρόγραμμα με συγκεκριμένες παραμέτρους μπορεί να διαμορφώσει την short list των υποψηφίων που θα περάσουν στο στάδιο της συνέντευξης. Υπάρχουν προγράμματα που μπορούν να ελέγξουν εκατοντάδες αιτήσεις και βιογραφικά σε χρόνο ρεκόρ!

Επίσης μπορούν να πραγματοποιήσουν την πρώτη συνέντευξη με συγκεκριμένες ερωτήσεις και βάσει των απαντήσεων των υποψηφίων να διαμορφώσουν την επόμενη short list με αυτούς που θα περάσουν στο δεύτερο στάδιο της αξιολόγησης.

Μια άλλη εργασία που μπορεί να εκτελέσει το εργαλείο της Τεχνητής Νοημοσύνης, αφορά την διαδικασία της εκπαίδευσης του ανθρώπινου δυναμικού, όπου μπορεί εξατομικευμένα για κάθε εργαζόμενο να προτείνει το κατάλληλο εκπαιδευτικό πρόγραμμα για την ανάπτυξη των δεξιοτήτων του.

Τι γίνεται όμως όταν το software σκανάρει τα social media;

Τα όρια όμως που μπορεί να έχει ένα software επιλογής προσωπικού με τεχνητή νοημοσύνη, τα γνωρίζει μόνο η επιχείρηση που το χρησιμοποιεί. Και εάν αυτό το software πέρα από τα βιογραφικά των υποψηφίων "σκανάρει" και τα προφίλ τους στα social media;

Μπορεί για παράδειγμα για την θέση ενός Area Manager σε ένα τραπεζικό ίδρυμα, να έχει κάνει αίτηση ένας υποψήφιος ο οποίος ανεβάζει συχνά στο Facebook φωτογραφίες από party. Ο αλγόριθμος μπορεί να τον απορρίψει με το σκεπτικό ότι δεν ταιριάζει με το συντηρητικό προφίλ της θέσης.

Επίσης μπορεί να απορρίψει μια γυναίκα υποψήφια για την ίδια θέση γιατί μπορεί να έχει τρία παιδιά και να θεωρεί ότι δεν ταιριάζει με τα εξαντλητικά ωράρια ενός executive στελέχους.

Ή να απορρίψει έναν υποψήφιο που στο Facebook έχει προσωπική κατάσταση "complicated" ως ασταθή συναισθηματικά άτομο.

Ένα άλλο παράδειγμα προκατάληψης του software με χρήση τεχνητής νοημοσύνης είναι το κάτωθι.

Έστω ότι μια κατασκευαστική εταιρεία θέλει να προσλάβει έναν επιβλέποντα μηχανικό έργου σε ένα εργοτάξιο. Το software που θα χρησιμοποιήσει θα ελέγξει μέσα από στατιστικές έρευνες στο Διαδίκτυο, ότι το μεγαλύτερο ποσοστό που απασχολούνται σε αυτή την θέση είναι άντρες.

Έτσι μπορεί να βγάλει το συμπέρασμα ότι μόνο άντρες είναι ικανοί για αυτή την θέση και να "πετάξει" εκτός τις αιτήσεις και τα βιογραφικά των υποψηφίων γυναικών.

Μέσα από τα ανωτέρω παραδείγματα βλέπουμε ότι μπορεί ο αλγόριθμος της Τεχνητής Νοημοσύνης να μην κάνει σωστά την δουλειά του και να οδηγήσει σε λάθος επιλογές προσώπων και κατά αυτό τον τρόπο να μην δώσει προστιθέμενη αξία στην Υπηρεσία ανθρώπινου δυναμικού που το χρησιμοποίησε.

Θα πρέπει να μπούνε όρια στις παραμέτρους των εν λόγω προγραμμάτων και να εισαχθεί η σχετική νομοθεσία για την προστασία των προσωπικών δεδομένων και την προστασία έναντι διακρίσεων.

Ήδη στην Νέα Υόρκη έχει εισαχθεί για πρώτη φορά στις Η.Π.Α. νομοθεσία για την επιβολή κανόνων στην χρήση παρόμοιων προγραμμάτων η οποία προβλέπει αυστηρά πρόστιμα στις εταιρείες που δεν συμμορφώνονται.

Σύμφωνα με το δημοσίευμα της Süddeutsche Zeitung, πρόγραμμα τεχνητής νοημοσύνης για επιλογή προσωπικού χρησιμοποιούν ήδη μεγάλες εταιρείες όπως η IKEA, η Pepsi και η L'Oreal.

Στην Ευρωπαϊκή Ένωση γίνεται συζήτηση για εισαγωγή παρόμοιων διατάξεων μέσω του AI Act το οποίο είναι σε διαβούλευση και αναμένεται να δημοσιευθεί στους επόμενους μήνες.

Θα παρακολουθούμε από κοντά τις εξελίξεις στον νέο κόσμο της Τεχνητής Νοημοσύνης που ξετυλίγεται μπροστά μας.