«Η Τεχνητή Νοημοσύνη και ο ρόλος της στην Οικονομία, τη Διοίκηση-Οργάνωση Επιχειρήσεων και το Χρηματοπιστωτικό Τομέα», του κ. Γ. Στουρνάρα, Διοικητή της Τράπεζας της Ελλάδος
21/02/2020
Ο Alan Turing, ο σπουδαίος μαθηματικός και διανοούμενος, που θεωρείται ο πατέρας της πληροφορικής και εν μέρει της τεχνητής νοημοσύνης, ο άνθρωπος που δημιούργησε μια μηχανή η οποία αποκρυπτογράφησε τα μηνύματα των Ναζί και διαδραμάτισε καθοριστικό ρόλο στη θετική έκβαση του Β’ Παγκοσμίου Πολέμου, εκπόνησε το 1950 μία ερευνητική εργασία που πραγματεύεται ένα από τα μεγαλύτερα φιλοσοφικά ερωτήματα στην επιστήμη της πληροφορικής. Η εργασία έθετε το ερώτημα «μπορούν οι υπολογιστικές μηχανές να σκεφτούν;» και ενέπνευσε ερευνητές, πανεπιστήμια και τεχνολογικές εταιρίες σε ολόκληρο τον κόσμο να ανταποκριθούν θετικά σ’ αυτή την πρόκληση. Με αφετηρία την εργασία αυτή, ο John McCarthy, έτερος θεμελιωτής της τεχνητής νοημοσύνης, το 1955 επινόησε τον όρο «τεχνητή νοημοσύνη» και την όρισε ως «επιστήμη και μεθοδολογία της δημιουργίας νοημόνων μηχανών», ανοίγοντας το δρόμο για την υλοποίηση ευφυών μεθόδων μηχανικής μάθησης, που διέπονται από αυστηρούς μαθηματικούς αλγορίθμους και στατιστικές μεθόδους ανάλυσης, δίνοντας δηλαδή τη δυνατότητα στους υπολογιστές να μαθαίνουν, χωρίς να έχουν ρητά προγραμματιστεί γι’ αυτό.
Η τεχνητή νοημοσύνη ως τεχνολογική εξέλιξη υπάρχει λοιπόν εδώ και αρκετές δεκαετίες. Τί οδήγησε όμως στη ραγδαία ανάπτυξη του συγκεκριμένου τομέα τα τελευταία χρόνια; Η απάντηση δόθηκε από τον μηχανικό και επιχειρηματία Gordon Moore, συνιδρυτή της εταιρίας Intel, που το 1965 διατύπωσε το νόμο «ευαγγέλιο» για τη βιομηχανία της πληροφορικής: Σύμφωνα με το «νόμο του Moore», κάθε περίπου 18 μήνες η ισχύς των επεξεργαστών, και κατά συνέπεια των υπολογιστών, διπλασιάζεται, με ταυτόχρονη μείωση του κόστους κατασκευής τους. Δηλαδή ένα υπολογιστικό τσιπ με συγκεκριμένη ισχύ, που κόστιζε 20.000 ευρώ το 1970, σήμερα για να κατασκευαστεί κοστίζει λιγότερο από 0,002 ευρώ. Αυτό έχει ως συνέπεια την αύξηση της υπολογιστικής και αποθηκευτικής ισχύος των υπολογιστών με την παράλληλη μείωση του κόστους τους, γεγονός που επιτρέπει την τόσο ραγδαία τεχνολογική εξέλιξη, συμπεριλαμβανομένης της τεχνητής νοημοσύνης. Σύμφωνα μάλιστα με την έκθεση για την τεχνητή νοημοσύνη του Πανεπιστημίου Stanford για το 20191 , η τεχνητή νοημοσύνη ξεπερνά το ‘νόμο του Moore’, συγκεκριμένα η ισχύς της διπλασιάζεται κάθε 3,4 μήνες αντί για 18. Στην ίδια έκθεση αναφέρεται ότι ο χρόνος που απαιτείται για την εκπαίδευση ενός δικτύου τεχνητής νοημοσύνης για αναγνώριση εικόνων μειώθηκε από τρεις ώρες τον Οκτώβριο του 2017 σε περίπου 88 δευτερόλεπτα τον Ιούλιο του 2019!
Η τεχνητή νοημοσύνη λοιπόν είναι ένας κλάδος της τεχνολογίας που θα έχει ραγδαία εξέλιξη και θα επηρεάσει ριζικά πολλούς τομείς. Στην ομιλία μου θα αναφερθώ εν συντομία σε ορισμένους από αυτούς τους τομείς, δηλαδή στην οικονομία, στη διοίκηση και οργάνωση επιχειρήσεων και στο χρηματοπιστωτικό τομέα.
Α. Οικονομία
Η 4η βιομηχανική επανάσταση προσφέρει ευκαιρίες δυναμικής ανάπτυξης μέσω της βελτίωσης της παραγωγικότητας της εργασίας. Κινητήριος μοχλός είναι οι τεχνολογίες πληροφορικής και επικοινωνιών. Σύμφωνα με τις εκτιμήσεις της Ευρωπαϊκής Επιτροπής, το 2016 η προστιθέμενη αξία των τεχνολογιών πληροφορικής και επικοινωνιών ανήλθε σε 591 δισεκ. ευρώ, το οποίο αντιστοιχούσε σε 4% της συνολικής προστιθέμενης αξίας της οικονομίας της Ευρωπαϊκής Ένωσης, ενώ οι τεχνολογίες πληροφορικής και επικοινωνιών είχαν μερίδιο 2,6% στη συνολική απασχόληση και 15,6% στη συνολική επιχειρηματική δαπάνη για έρευνα και ανάπτυξη (R&D).2
Όσον αφορά την τεχνητή νοημοσύνη συγκεκριμένα, σύμφωνα με τα αποτελέσματα μελέτης της Accenture σε δώδεκα ανεπτυγμένες χώρες, η εφαρμογή της τεχνητής νοημοσύνης μπορεί να οδηγήσει έως και σε διπλασιασμό του ετήσιου ρυθμού ανάπτυξης (σε όρους ακαθάριστης προστιθέμενης αξίας) μέχρι το 2035, σε σύγκριση με ένα σενάριο όπου η τεχνητή νοημοσύνη δεν εφαρμόζεται.3 Αντίστοιχα, μελέτη της McKinsey4 προβλέπει ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει σε αύξηση του ΑΕΠ στην ευρωπαϊκή οικονομία περίπου κατά 19,4% μέχρι το 2030, όπου το μεγαλύτερο όφελος προκύπτει από την αύξηση της παραγωγικότητας και το υπόλοιπο από επιδράσεις στην πλευρά της ζήτησης. Σε αντίστοιχα αποτελέσματα για την επίδραση της τεχνητής νοημοσύνης στην ευρωπαϊκή οικονομία καταλήγει και η μελέτη της PwC, η οποία επιπλέον εκτιμά ότι η Κίνα θα είναι η οικονομία που θα αποκομίσει τα μεγαλύτερα οφέλη από την εφαρμογή της τεχνητής νοημοσύνης με την αύξηση του ΑΕΠ να ανέρχεται έως και 26% μέχρι το 2030.5 Στην Ελλάδα, σύμφωνα με πρόσφατη μελέτη της Accenture σε συνεργασία με την Microsoft, η εφαρμογή της τεχνητής νοημοσύνης μπορεί να οδηγήσει σε σωρευτική αύξηση του ΑΕΠ κατά 195 δισεκ. δολάρια για την περίοδο 2020-2035.6 Η ενσωμάτωση της ψηφιακής τεχνολογίας αποτελεί σημαντική προϋπόθεση για τη διάδοση της τεχνητής νοημοσύνης. Ωστόσο, το ψηφιακό χάσμα της Ευρώπης σε σύγκριση με τις Ηνωμένες Πολιτείες (περίπου 35%) δεν έχει περιοριστεί τα τελευταία χρόνια. Επίσης, παρόλο που το 25% των νεοφυών επιχειρήσεων στον τομέα της τεχνητής νοημοσύνης βρίσκεται στην Ευρώπη, οι επενδύσεις σε τεχνολογίες τεχνητής νοημοσύνης υστερούν σημαντικά σε σχέση με τις Ηνωμένες Πολιτείες και την Κίνα.7
Το ευρύ πεδίο εφαρμογής της τεχνητής νοημοσύνης και οι τεράστιες δυνατότητες μετασχηματισμού της οικονομίας, την καθιστούν επομένως σημαντικό παράγοντα για την οικονομική ανάπτυξη. Η τεχνητή νοημοσύνη αφενός μπορεί να βελτιώσει την αποδοτικότητα της ανθρώπινης εργασίας – επιτρέποντας την αποτελεσματικότερη διαχείριση της σχέσης χρόνου/όγκου εργασίας – και αφετέρου μπορεί να εκτελέσει εργασίες πέρα από τις δυνατότητες των ανθρώπων. Π.χ. μπορεί να λειτουργήσει ως φυσικό κεφάλαιο με τη μορφή ρομπότ, το οποίο μπορεί πραγματικά να διδάσκει τον εαυτό του και να αναβαθμίζεται με την πάροδο του χρόνου.
Η διάχυση της τεχνολογικής καινοτομίας θα επηρεάσει θετικά όλους τους τομείς της οικονομίας δημιουργώντας νέες πηγές εσόδων. Ειδικότερα, η χρήση της τεχνητής νοημοσύνης στη δημιουργία προσωποποιημένων προϊόντων θα αυξήσει την καταναλωτική ζήτηση, καθώς και τα διαθέσιμα δεδομένα για τις προτιμήσεις των καταναλωτών, ανατροφοδοτώντας ένα νέο κύκλο δημιουργίας προϊόντων. Βέβαια, η ιστορική εμπειρία από σύγχρονες επαναστατικές εφευρέσεις και τεχνολογίες γενικού σκοπού, όπως είναι οι ηλεκτρονικοί υπολογιστές, έχει δείξει ότι χρειάζεται χρόνος για τη στατιστική τους αποτύπωση στην παραγωγικότητα, φαινόμενο που έχει καταγραφεί ως το «παράδοξο του Solow», από το όνομα του νομπελίστα οικονομολόγου και πατέρα της νεοκλασικής θεωρίας της οικονομικής ανάπτυξης Robert Solow, ο οποίος παρατήρησε ότι «τα επιτεύγματα της τεχνολογίας και οι καινοτομίες βρίσκονται παντού εκτός από τις στατιστικές της παραγωγικότητας». Φαίνεται λοιπόν ότι απαιτείται υπομονή μέχρι να δούμε στις στατιστικές παραγωγικότητας τη συμβολή των τεχνολογιών τεχνητής νοημοσύνης.
Β. Διοίκηση-Οργάνωση Επιχειρήσεων
Η τεχνητή νοημοσύνη παρέχει σημαντικά οφέλη αποδοτικότητας στις επιχειρήσεις. Σύμφωνα με πρόσφατη μελέτη της εταιρίας τεχνολογίας Oracle, οι επιχειρήσεις που υιοθετούν την τεχνητή νοημοσύνη και άλλες αναδυόμενες τεχνολογίες στη διαχείριση των χρηματοοικονομικών και στις επιχειρησιακές τους λειτουργίες καινοτομούν πιο γρήγορα, έχουν σημαντικό ανταγωνιστικό πλεονέκτημα, μειώνουν τα λειτουργικά τους κόστη και αυξάνουν τα ετήσια κέρδη τους κατά 80% πιο γρήγορα, σε σχέση με αυτές που δεν επενδύουν σε νέες τεχνολογίες. Ακόμα και στον τομέα του ανθρώπινου δυναμικού, η τεχνητή νοημοσύνη βρίσκει εφαρμογή υποβοηθώντας την αξιολόγηση για την επιλογή προσωπικού. Πιο συγκεκριμένα, έχουν δημιουργηθεί λογισμικά πραγματοποίησης συνεντεύξεων μέσω διαδικτύου, ανίχνευσης αντιδράσεων προσώπου και δημιουργίας προσαρμοστικών ψυχομετρικών τεστ. Σύμφωνα με έρευνες, αποτέλεσμα αυτής της εφαρμογής ήταν η αύξηση των επιτυχημένων προσλήψεων κατά 20%.
Οι επιχειρήσεις που δεν ακολουθούν τις τεχνολογικές εξελίξεις κινδυνεύουν να παραμείνουν στάσιμες ή ακόμα και να εξαλειφθούν. Πρόσφατες εμπειρικές μελέτες δείχνουν όμως ότι οι επιχειρήσεις που επωφελούνται κυρίως είναι οι πιο μεγάλες. Αυτές μπορούν μέσω της τεχνητής νοημοσύνης να βελτιώσουν περαιτέρω την αποδοτικότητά τους και να γίνουν ακόμη μεγαλύτερες έναντι των ανταγωνιστών τους. Αυτό ενδεχομένως οδηγεί στο αποτέλεσμα όπου «ο νικητής να κατακτά τα πάντα» (winner takes all) και να έχει συνεπώς δεσπόζουσα θέση στην αγορά.8
Προκειμένου να αξιοποιηθεί η ευκαιρία της τεχνητής νοημοσύνης, είναι σημαντικό η ίδια η βιομηχανία να βοηθήσει στην εξάλειψη ενδεχόμενων ανησυχιών. Τα μοντέλα παραγωγής των επιχειρήσεων θα πρέπει να μεγιστοποιούν τα οφέλη από τη συνέργεια μεταξύ εργαζομένων και συστημάτων αυτοματοποίησης. Αυτό απαιτεί, κατ’ αρχήν, ενημέρωση της διοίκησης σχετικά με τον τρόπο με τον οποίο η αυτοματοποίηση μπορεί να επηρεάσει μία επιχείρηση, ώστε η επιχείρηση να εισαγάγει συστήματα τεχνητής νοημοσύνης στις δραστηριότητες εκείνες που μπορούν να αποφέρουν σημαντική προστιθέμενη αξία. Παράλληλα, οι εργαζόμενοι θα πρέπει να αποκτήσουν τις κατάλληλες δεξιότητες, ώστε να χρησιμοποιούν αποτελεσματικά την τεχνητή νοημοσύνη. Αν και ο φόβος της τεχνολογικής ανεργίας είναι εν μέρει δικαιολογημένος, αφού πολλές θέσεις εργασίας χαμηλής εξειδίκευσης θα αυτοματοποιηθούν, οι τεχνολογίες τεχνητής νοημοσύνης δημιουργούν πολλές νέες ευκαιρίες απασχόλησης, υπό την προϋπόθεση της ταχείας προσαρμογής της εργασίας σε ένα ανθρωποκεντρικό εργασιακό περιβάλλον, στο οποίο κυριαρχούν, εκτός από τη γνώση και τις δεξιότητες, η ατομική πρωτοβουλία, η κριτική σκέψη, η κινητικότητα, η συνεχής μάθηση, η συνεργασία και η ικανότητα προσαρμογής σε μια διαρκώς μεταβαλλόμενη πραγματικότητα.
Στην Ευρωπαϊκή Ένωση, 40% των θέσεων εργασίας αντιμετωπίζουν τον κίνδυνο του μετασχηματισμού. Σύμφωνα με μελέτη του Πανεπιστημίου της Οξφόρδης, εκτιμάται ότι, λόγω της αυτοματοποίησης, 47% των υφιστάμενων θέσεων εργασίας στις Ηνωμένες Πολιτείες κινδυνεύουν να εκλείψουν. Αναφέρω ένα χαρακτηριστικό παράδειγμα: Η Google ολοκλήρωσε τη χαρτογράφηση κάθε επιχείρησης και κάθε νοικοκυριού και την αρίθμηση των οδών για όλη τη Γαλλία δημιουργώντας ένα σχετικό αλγόριθμο, ο οποίος υλοποίησε το έργο αυτό σε μόλις μία ώρα. Χιλιάδες ανθρωποώρες, επαναλαμβανόμενης και τυποποιημένης εργασίας, υποκαταστάθηκαν, λοιπόν, από μία ώρα ενός «έξυπνου» προγράμματος τεχνητής νοημοσύνης. Αυτό με τη σειρά του υποδηλώνει την ανάγκη για ανάπτυξη νέων δεξιοτήτων, συμπληρωματικών προς τις τεχνολογίες τεχνητής νοημοσύνης, καθώς και για συνεχή επανεκπαίδευση των εργαζομένων. Η επένδυση, επομένως, σε ανθρώπινο κεφάλαιο είναι καίριας σημασίας για την επιτυχή προσαρμογή της αγοράς εργασίας.
Τέλος, είναι απαραίτητη η θέσπιση ενός κατάλληλου ρυθμιστικού πλαισίου με αποτελεσματική εφαρμογή των κανόνων ανταγωνισμού, ώστε να διασφαλιστεί ότι τα οφέλη από την τεχνητή νοημοσύνη κατανέμονται δίκαια. Ο καθορισμός ενός τέτοιου πλαισίου θα συμβάλει ώστε να αμβλυνθούν οι ανησυχίες που δημιουργεί η χρήση της τεχνητής νοημοσύνης, αφού θα διασφαλίζει τον ανθρωποκεντρικό χαρακτήρα της και την εναρμόνισή της με τα ηθικά και νομικά πρότυπα και αξίες.
Γ. Χρηματοπιστωτικό Σύστημα
Δεν υπάρχει αμφιβολία ότι το χρηματοπιστωτικό σύστημα θα υποστεί αλλαγές, καθώς η ραγδαία τεχνολογική εξέλιξη θα επηρεάσει τον τρόπο λειτουργίας του και την αλληλεπίδραση με τους πελάτες του.
Τα τελευταία έτη η τεχνητή νοημοσύνη παρουσιάζει αυξανόμενη εφαρμογή στο χρηματοπιστωτικό τομέα, στο πλαίσιο του ψηφιακού του μετασχηματισμού. Η άνθηση που γνωρίζει η υιοθέτηση των τεχνολογιών τεχνητής νοημοσύνης και μηχανικής μάθησης στο χρηματοπιστωτικό τομέα οφείλεται, αφενός, στις ραγδαίες τεχνολογικές εξελίξεις και την πληθώρα των δεδομένων (big data) που έχουν στη διάθεσή τους οι χρηματοπιστωτικοί οργανισμοί και, αφετέρου, στην πίεση για μεγαλύτερη αποτελεσματικότητα, που προέρχεται από τον έντονο ανταγωνισμό αλλά και το απαιτητικό κανονιστικό πλαίσιο. Παράλληλα, οι χρηματοπιστωτικοί οργανισμοί αναπόφευκτα θα πρέπει να εξελιχθούν για να ικανοποιήσουν τις ανάγκες των πελατών τους, που ολοένα και περισσότερο χρησιμοποιούν την τεχνολογία για να διευκολύνουν τη ζωή τους.
Οι συχνότερες εφαρμογές τεχνητής νοημοσύνης εντοπίζονται σε πελατοκεντρικές λειτουργίες. Ειδικά στον τραπεζικό τομέα, η τεχνητή νοημοσύνη χρησιμοποιείται σε διαδικασίες αλληλεπίδρασης με πελάτες μέσω chatbots (π.χ. αναγνώριση φυσικής γλώσσας), δημιουργία προσωποποιημένων χρηματοοικονομικών προϊόντων και υπηρεσιών βασιζόμενων στο προφίλ του κάθε πελάτη, διαχείριση κινδύνων (εντοπισμός απάτης, ανάλυση πιστοληπτικής ικανότητας) και βελτιστοποίηση διαδικασιών μέσω της αυτοματοποίησης επαναλαμβανόμενων εργασιών. Στον ασφαλιστικό τομέα παράδειγμα χρήσης της τεχνητής νοημοσύνης είναι η αυτοματοποιημένη τιμολόγηση, η προώθηση και διαχείριση των ασφαλιστηρίων συμβολαίων των πελατών από τις ασφαλιστικές επιχειρήσεις και η δημιουργία εξατομικευμένων ασφαλιστικών προϊόντων προσαρμοσμένων στις επιμέρους ανάγκες των πελατών.
Ενδεικτικά οφέλη από την εφαρμογή της τεχνητής νοημοσύνης περιλαμβάνουν: τη βελτίωση της εμπειρίας του πελάτη, την απλοποίηση και αυτοματοποίηση διαδικασιών με ελαχιστοποίηση της εμπλοκής του ανθρώπινου παράγοντα, και τη βελτίωση του κόστους των υπηρεσιών, αφενός λόγω της αποδοτικότερης χρήσης των δεδομένων και αφετέρου λόγω της αυξημένης ικανότητας των συστημάτων για συνδυαστική ανάλυση τόσο από συμβατικές πηγές δεδομένων (π.χ. προφίλ συναλλαγών, στοιχεία δανείων) όσο και από μη συμβατικές (π.χ. δεδομένα κοινωνικών δικτύων).
Εκτός από τη βελτίωση της εξυπηρέτησης των πελατών, η αξιοποίηση τεχνολογιών τεχνητής νοημοσύνης αφορά και τη βελτιστοποίηση υφιστάμενων διαδικασιών των οργανισμών που δραστηριοποιούνται σε αυτόν τον τομέα, όπως είναι η ανίχνευση απάτης, οι εργασίες διαχείρισης επενδύσεων, η διαχείριση κινδύνων και η ανάλυση της αγοράς. Παράλληλα, η ανάγκη για αποτελεσματική συμμόρφωση των εποπτευόμενων από τις κεντρικές τράπεζες χρηματοπιστωτικών οργανισμών σε ένα δυναμικό κανονιστικό πλαίσιο, αναμένεται να τους οδηγήσει στην αξιοποίηση τεχνολογιών τεχνητής νοημοσύνης και για κανονιστικούς σκοπούς, δηλαδή στο Regtech – Regulatory Technology.
Σε ό,τι ακριβώς αφορά τις εποπτικές αρχές, η τεχνητή νοημοσύνη ως μέρος της Εποπτικής Τεχνολογίας (Supervisory Technology- SupTech), μπορεί να έχει εφαρμογή σε διαδικασίες ανίχνευσης ανωμαλιών σε εποπτικά δεδομένα, στην εις βάθος ανάλυση αναφορών, στην παρακολούθηση της αγοράς, στην ανάλυση παραβατικής συμπεριφοράς (π.χ. ξέπλυμα χρήματος και χρηματοδότηση της τρομοκρατίας, απάτη) και στα συστήματα έγκαιρης προειδοποίησης για κρίσεις στο χρηματοπιστωτικό τομέα, στο πλαίσιο της εποπτείας.
Από τα παραπάνω γίνεται σαφές ότι από την ορθή εφαρμογή της τεχνητής νοημοσύνης μπορούν να επωφεληθούν όλα τα μέρη του χρηματοπιστωτικού συστήματος. Οι πελάτες μπορούν να απολαμβάνουν καλύτερες και πιο προσωποποιημένες υπηρεσίες και να έχουν πρόσβαση σε εξατομικευμένα χρηματοπιστωτικά προϊόντα. Οι επιχειρήσεις μπορούν να μειώσουν το κόστος λειτουργίας τους με παράλληλη βελτίωση της αποδοτικότητας των εσωτερικών διαδικασιών τους. Τέλος, οι εποπτικές αρχές μπορούν να βελτιώσουν την αποτελεσματικότητα της εποπτείας.
Εκτός από τις μεγάλες ευκαιρίες που παρουσιάζονται από τη χρήση της τεχνητής νοημοσύνης στο χρηματοπιστωτικό τομέα, αναδύονται και νέες προς αντιμετώπιση προκλήσεις:
1ον Η αδιαφάνεια ως προς τα χαρακτηριστικά και τη συμπεριφορά των εφαρμοζόμενων, συνήθως πολύπλοκων, αλγορίθμων επεξεργασίας των δεδομένων, ενδέχεται να επιφέρει δυσκολίες στην κατανόηση και στον έλεγχο των εμπλεκόμενων διαδικασιών και περιορισμό της ιχνηλασιμότητας τους, τόσο από τους ίδιους τους οργανισμούς που τους υιοθετούν, όσο και από τις αρχές που τους εποπτεύουν (φαινόμενο «black box»).
2ον Ο ακατάλληλος σχεδιασμός των αλγορίθμων τεχνητής νοημοσύνης ενδέχεται να εισάγει μεροληψία και διακρίσεις στα αποτελέσματα που προκύπτουν από την εφαρμογή της. Η ανεπαρκής αξιολόγηση των αποτελεσμάτων που προκύπτουν από την επεξεργασία δεδομένων με τεχνητή νοημοσύνη ενδέχεται να οδηγήσει οργανισμούς σε λήψη λανθασμένων αποφάσεων και κατ’ επέκταση να επιφέρει κινδύνους φήμης και συμμόρφωσης με το κανονιστικό πλαίσιο.
3ον Οι ευπάθειες στα μοντέλα τεχνητής νοημοσύνης ή στις υποδομές διαχείρισης των πληροφοριών, ενδέχεται να οδηγήσουν στην εμφάνιση κινδύνων ασφάλειας πληροφοριών, κυβερνοασφάλειας και εν γένει προστασίας δεδομένων. Επιπρόσθετα, ενδέχεται να ενισχυθούν οι κίνδυνοι εξάρτησης οργανισμών από τρίτους, τεχνολογικούς παρόχους.
4ον Η ελλιπής γνώση, εξοικείωση και εμπειρία του προσωπικού του κάθε οργανισμού με τα συστήματα τεχνητής νοημοσύνης ενδέχεται να οδηγήσει σε αστοχίες ή δυσλειτουργίες στη διακυβέρνηση των επιχειρησιακών διαδικασιών που βασίζονται στην τεχνητή νοημοσύνη. Παράλληλα, η διοίκηση ενός οργανισμού δεν θα πρέπει να αυτοματοποιεί τις βασικές της ευθύνες, ενώ επίσης είναι απαραίτητη η ύπαρξη απόλυτης διαφάνειας στη διαδικασία λήψης αποφάσεων σε όλα τα επίπεδα της οργανωτικής δομής.
Για να αντιμετωπιστούν οι ανωτέρω κίνδυνοι, οι οργανισμοί οφείλουν να εξασφαλίζουν ότι κάθε προσπάθεια αξιοποίησης της τεχνητής νοημοσύνης θα υπακούει σε κανόνες ηθικής, σύμφωνα με τις κατευθυντήριες γραμμές της Ευρωπαϊκής Ένωσης, και ότι τα αποτελέσματα εφαρμογής των αλγορίθμων θα είναι εξηγήσιμα και αμερόληπτα. Απαιτείται να διαθέτουν ένα πλαίσιο κατανόησης, ελέγχου και διακυβέρνησης αυτών των τεχνολογιών, που θα εξασφαλίζει ότι κάθε κρίσιμη απόφαση που λαμβάνεται με τη βοήθεια της τεχνητής νοημοσύνης θα είναι επαρκώς τεκμηριωμένη και θα μπορεί, εφόσον απαιτηθεί, να αναπαραχθεί σε μελλοντικό χρόνο. Αυτό το πλαίσιο θα πρέπει να διασφαλίζει την ορθή λειτουργία και την ακρίβεια των αποτελεσμάτων των αλγορίθμων, μέσω της συνεχούς επίβλεψης από εξειδικευμένο προσωπικό, που θα έχει κατανοήσει τον τρόπο λειτουργίας τους. Επιπλέον, οι χρηματοπιστωτικοί οργανισμοί θα πρέπει να εφαρμόζουν όλες εκείνες τις δικλίδες ασφαλείας για την ενίσχυση της προστασίας των δεδομένων.
Κλείνοντας, θα ήθελα να αναφέρω ένα παράδειγμα που δείχνει ότι η χρήση της τεχνητής νοημοσύνης είναι δίκοπο μαχαίρι και χρειάζεται προσοχή. Με τη χρήση μεθόδων τεχνητής νοημοσύνης μπορούν να δημιουργηθούν fake news, συγκεκριμένα deep fake (συνθετικά) ηχητικά ή βίντεο, όπου κάποιος εμφανίζεται να λέει ή να κάνει πράγματα που ουδέποτε είπε ή έκανε, τα οποία μετά μπορούν γρήγορα να διακινηθούν παγκόσμια στο διαδίκτυο από ρομπότ με τη χρήση των κοινωνικών δικτύων, οδηγώντας σε λανθασμένη διαμόρφωση της κοινής γνώμης και του δημόσιου αισθήματος. Με τη χρήση όμως πάλι της τεχνητής νοημοσύνης, μπορούν πολύ γρήγορα να ανιχνευθούν περιστατικά fake news και deep fakes και να αφαιρεθούν από το διαδίκτυο. Επέλεξα το παράδειγμα αυτό γιατί θεωρώ πολύ σημαντική τη διαμόρφωση του δημοσίου αισθήματος. Όπως είχε πει ο Abraham Lincoln σε λόγο του το 1858: «Το δημόσιο αίσθημα είναι το παν. Με αυτό, τίποτα δεν μπορεί να αποτύχει, και εναντίον του τίποτα δεν μπορεί να επιτύχει. Όποιος διαμορφώνει δημόσιο αίσθημα πηγαίνει βαθύτερα από αυτόν που θεσπίζει νόμους, ή εκδίδει δικαστικές αποφάσεις. Κάνει την εκτέλεση νόμων και αποφάσεων δυνατή ή αδύνατη».
[1] The AI Index 2019 – Annual Report, Stanford University, December. [2] European Commission, The 2019 PREDICT Key Facts Report. [3] https://www.accenture.com/us-en/insight-artificial-intelligence-future-growth [4] https://www.mckinsey.com/featured-insights/artificial-intelligence/tackling-europes-gap-in-digital-and-ai [5] https://www.pwc.com/gx/en/issues/data-and-analytics/publications/artificial-ιntelligence-study.html [6] https://www.accenture.com/gr-en/insights/digital/greece-an-ai-future [7] https://www.mckinsey.com/featured-insights/artificial-intelligence/tackling-europes-gap-in-digital-and-ai [8] Βλ. μεταξύ άλλων, Αutor et al. (2019), “The fall of the labor share and the rise of superstar firms”.