Της Αναστασίας Δρόσου,
Καθώς η τεχνητή νοημοσύνη εγκαθιδρύεται πλέον στον επιχειρηματικό χώρο, τα ηθικά ερωτήματα παραμένουν εξίσου επίμονα. Σε έρευνά της, η Τράπεζα της Αγγλίας, κρούει τον κώδωνα του κινδύνου, αποκαλύπτοντας πως η χρήση της τεχνητής νοημοσύνης στον τραπεζικό τομέα ενέχει εγγενείς κινδύνους μεροληψίας υπέρ των συμφερόντων των τραπεζών, εις βάρος του δημοσίου συμφέροντος και των καταναλωτών.
Οι ερευνητές, οι οποίοι παρακολουθούν από κοντά τις επιδράσεις της τεχνολογικής εξέλιξης στη λειτουργία του London City, εμφανίστηκαν ιδιαίτερα προβληματισμένοι για την ικανότητα της τεχνητής νοημοσύνης να εκμεταλλεύεται ευκαιρίες πραγματοποίησης κέρδους, ακόμη και αν αυτό προϋποθέτει να «πατήσουμε επί πτωμάτων». Σύμφωνα με την Τράπεζα της Αγγλίας, προγράμματα τεχνητής νοημοσύνης με αυξημένη αυτονομία μπορεί να εκτιμήσουν πως η πρόκληση άγχους και οι καταστάσεις οικονομικής αστάθειας ενδέχεται, σε ορισμένες περιπτώσεις, να αποβαίνουν επικερδείς για τις τράπεζες, καθώς εξουδετερώνουν άλλες ανταγωνιστικές επιχειρήσεις. Με άλλα λόγια, η πρόκληση οικονομικών κρίσεων μπορεί να αποτελέσει μία τεχνική υποκινούμενη από την τεχνητή νοημοσύνη, με απώτερο στόχο την εκμετάλλευση των αδυναμιών των ανταγωνιστών.
Αν και τα παραπάνω μπορεί να θυμίζουν επιχειρηματικές στρατηγικές που χρησιμοποιούνται ήδη στο χώρο του ανταγωνισμού, ο κίνδυνος έγκειται ακριβώς στο εξής: η τεχνητή νοημοσύνη ενδέχεται να προκαλέσει συμπαιγνίες και χειραγώγηση των αγορών, ακόμη και ενάντια στην ανθρώπινη πρόθεση. Και εδώ τα πράγματα αρχίζουν να θυμίζουν δυστοπία: κατά πόσον ο ανθρώπινος παράγοντας θα είναι σε θέση να προλάβει και να ελέγξει τις αποφάσεις που λαμβάνονται μέσω λογισμικών; Ένα βήμα πιο πέρα: τι θα συμβεί αν εγκληματίες χρησιμοποιούν την τεχνητή νοημοσύνη για να παρακάμπτουν τις νόμιμες διαδικασίες και να διαπερνούν το δίχτυ προστασίας;
Φανταστείτε, ακόμη, την τεράστια απειλή για την παγκόσμια οικονομία, σε περίπτωση που πολλές επιχειρήσεις χρησιμοποιούν τα ίδια λογισμικά: ένα μικρό λάθος μπορεί, εκ συνεπεία, να προκαλέσει δύσκολα αναστρέψιμες αποτυχίες της αγοράς. Έτσι, η χρήση πανομοιότυπων μοντέλων λήψης αποφάσεων είναι πιθανό να ενισχύσει την οικονομική αστάθεια. Άλλωστε, δεν πρόκειται για ένα νέο σενάριο. Σύμφωνα με τη σχετική έκθεση της Τράπεζας της Αγγλίας, η οικονομική φούσκα του 2008 και οι επιπτώσεις της παγκόσμιας οικονομικής κρίσης οφείλονταν, σε μεγάλο βαθμό, στην αδυναμία επαρκούς υπολογισμού και ανάληψης του κινδύνου στις αγορές, καθώς και στη σχετική ασυμμετρία πληροφόρησης.
Το σίγουρο είναι πως η τεχνητή νοημοσύνη έχει «ριζώσει» πλέον στον οικονομικό τομέα. Για παράδειγμα, στο χώρο των χρηματοοικονομικών επιχειρήσεων, η τεχνητή νοημοσύνη χρησιμοποιείται ήδη σε εκτεταμένη βάση για τη χάραξη επενδυτικών στρατηγικών, την εκτέλεση διοικητικών διαδικασιών και διαδικαστικών πράξεων, καθώς και για την εκτίμηση δανειοδοτικών και δανειοληπτικών πολιτικών. Σύμφωνα με στοιχεία του Διεθνούς Νομισματικού Ταμείου, περισσότερες από τις μισές ευρεσιτεχνίες εταιρειών που παράγουν λογισμικό σχετίζονται με την τεχνητή νοημοσύνη.
Σε κάθε περίπτωση, δεν πρέπει να ξεχνάμε ότι το μεγαλύτερο διακύβευμα είναι ο βαθμός αυτονομίας που αφήνεται στην τεχνητή νοημοσύνη, αυξάνοντας τις πιθανότητες η λειτουργία της να διαφεύγει του ανθρώπινου ελέγχου. Μάλιστα, η αβεβαιότητα εντείνεται και εξαιτίας του σχετικού νομοθετικού κενού. Γι’ αυτό και θα πρέπει να δίνεται μεγάλη προσοχή και σοβαρότητα στις ανησυχίες που εγείρουν καταξιωμένοι επιστήμονες, όπως εν προκειμένω εκείνοι της Τράπεζας της Αγγλίας, προκειμένου να διασφαλίσουμε μέσω της πρόληψης πως τέτοιες δυσοίωνες προβλέψεις θα παραμείνουν εκτός πραγματικότητας, στο χώρο της επιστημονικής φαντασίας.
ΕΝΔΕΙΚΤΙΚΗ ΠΗΓΗ
- The Guardian, Bank of England says AI software could create market crisis for profit, διαθέσιμο εδώ
