Φερενίκη Παναγοπούλου: «Να λειτουργούμε ανθρωποκεντρικά»

Θα απεμπολήσει ο άνθρωπος μέρος της κρίσης του υπέρ των μηχανών; Τεχνητή νοημοσύνη (ΤΝ) θα ρυθμίζει θέματα δικαιοσύνης; Η ανθρωπότητα μοιάζει επικίνδυνα ανοχύρωτη απέναντι σε αυτό το ενδεχόμενο. Η επίκουρη καθηγήτρια συνταγματικού δικαίου Φερενίκη Παναγοπούλου στο βιβλίο Τεχνητή νοημοσύνη: Ο δρόμος προς έναν ψηφιακό συνταγματισμό (εκδ. Παπαζήση), διατηρεί την ψυχραιμία του μελετητή.

Ανθρωποκεντρισμός, όχι τεχνοφοβία

Σε αυτήν το εξαιρετικό, καίριο βιβλίο, η Φερενίκη Παναγοπούλου υπογραμμίζει ότι δεν δαιμονοποιεί τις μηχανές. «Δεν είναι ούτε δέον, ούτε σκόπιμο μα σκεφτόμαστε τεχνοφοβικά». Παράλληλα, «είναι όμως απαραίτητο να λειτουργούμε ανθρωποκεντρικά», τονίζει.  Το ιδανικό φαντάζει ως ένα σύστημα Δικαιοσύνης με προτεραιότητα στην ανθρώπινη συλλογιστική όχι στην αποτελεσματικότητα της εφαρμογής του.

Ο Αϊνστάιν υποστήριζε ότι δεν έχει κατανοήσει κανείς ένα θέμα αν δεν μπορεί να το εξηγήσει με απλά λόγια. Η διαύγεια της γραφής σε αυτό το βιβλίο σε παράλληλη τροχιά με το βάθος της ανάλυσης, εντυπωσιάζει.

Η Φερενίκη Παναγοπούλου έχει μελετήσει τόσο σχολαστικά το πραγματολογικό μέρος, που η ηθικο-συνταγματική ανάλυσή της κυλάει σαν το νερό μέσα από την πηγή του. Ύστερα στέκεται σε συγκεκριμένα παραδείγματα αναλύοντας τα συνταγματικά ζητήματα που αναφύονται από τις εφαρμογές της ΤΝ. Συγκεκριμένα, στην υγεία, στην διεξαγωγή των εκλογών και στην απονομή της δικαιοσύνης.

Το καφκικό μέλλον

Η ραγδαία ανάπτυξη της τεχνητής νοημοσύνης θα εμφιλοχωρήσει σε όλες τις πτυχές της ανθρώπινης ύπαρξης μετασχηματίζοντάς την ριζικά.

«Η ανακούφιση που θα μας προσφέρουν οι μηχανές από πολλές από τις τωρινές απαιτητικές λειτουργίες θα δώσει στους ανθρώπους χρόνο και κίνητρο για να μάθουν πώς να ζουν και να συνυπάρχουν αρμονικά», επισημαίνει η Φερενίκη Παναγοπούλου.

Τι θα συμβεί όμως όταν ένα μηχάνημα «υποβοηθεί ή υποκαθιστά τον επαγγελματία ιατρό, δικαστή, δημοσιογράφο κ.ο.κ»; Πρέπει να συζητηθεί αν η τεχνητή νοημοσύνη «θέτει υπό αμφισβήτηση την αξία του ανθρώπου».

Εγείρονται φόβοι για καταστρατήγηση των θεμελιωδών δικαιωμάτων του ανθρώπου, τα προσωπικά δεδομένα, την υιοθέτηση διακρίσεων, τη χειραγώγηση της κοινής γνώμης και εμμέσως την επιρροή του εκλογικού αποτελέσματος που παραβιάζει την ανθρώπινη αξιοπρέπεια (Facebook), την αδιαφάνεια, την αυθαιρεσία, τον περιορισμό της ελευθερίας, την ισοπεδωτική προβλεψιμότητα των μηχανών, μεταξύ πολλών άλλων πτυχών. Κάθε γενικό ζήτημα διασπάται σε αμέτρητα παρακλάδια, που αλληλοεπηρεάζονται. Μοιάζει με τη λειτουργία του νευρικού συστήματος στον ανθρώπινο οργανισμό που ρυθμίζει τα πάντα. Η ηθικοφιλοσοφική, συνταγματική θεώρηση της Φερενίκης Παναγοπούλου πάντως ξεπερνάει την εμβέλεια της συγκεκριμένης παρουσίασης.

Μηχανές με νομική προσωπικότητα;

Ένα από τα πιο σύνθετα ζητήματα που προκύπτει: Μπορούν τα μηχανήματα να αναλάβουν οποιαδήποτε ευθύνη; «Νομιμοποιούμαστε να τους αναγνωρίσουμε νομική προσωπικότητα;», αναρωτιέται η Φερενίκη Παναγοπούλου. «Το μηχάνημα υποκαθιστά τον επαγγελματία, τότε η απόφαση λαμβάνεται από αυτό {…} ακόμα και αν απόφαση λαμβάνεται από τον αλγόριθμο, ο αλγόριθμος αυτός έχει προγραμματισθεί από έναν επαγγελματία {…} Στη θέση αυτή αντιτάσσεται, πάντως, ότι πολλές φορές ο αλγόριθμος ξεπερνά τις δυνατότητες του επαγγελματία, ο οποίος αδυνατεί να το ελέγξει», παρατηρεί η καθηγήτρια. Παραπλήσιο ζήτημα, το αν κάθε ΤΝ αυτοκαθορίζεται ή ετεροκαθορίζεται. Στις περιπτώσεις που η μηχανή ξεπερνά τον άνθρωπο τότε ακολουθεί άλλη διαδρομή που δεν μπορεί ούτε να ελέγξει ούτε να κατανοήσει ο άνθρωπος.

Άραγε, μήπως η αυτονομία του ατόμου περιορίζεται μπροστά στην αυθεντία του μηχανήματος;

Έχει υποστηριχθεί ότι τα συστήματα θα διαθέτουν νομική προσωπικότητα και ευθύνη ανάλογη με ενός ασκούμενη φοιτητή ιατρικής ή νομικής σχολής. Όμως, στις μηχανές η ευθύνη δεν εξαρτάται από το επίπεδο εμπειρίας ή τεχνογνωσίας τους, παρατηρεί η Φερενίκη Παναγοπούλου. «Επίσης, το νομικό σύστημα στην Ελλάδα δεν αναγνωρίζει ειδικό καθεστώς ευθύνης για έναν φοιτητή ιατρικής ή νομικής σχολής».

Παράδειγμα μεροληψίας

Παρομοίως στον τομέα της ιατρικής. «Η ενδεχόμενη μεροληψία των μεγαδεδομένων που εισάγονται στη βάση δεδομένων του συστήματος τεχνητής νοημοσύνης αναπαράγεται και μεγιστοποιείται μέσω της διαδικασίας της μηχανικής μαθήσεως {…} Για παράδειγμα, σε περίπτωση που πραγματοποιούνται εξετάσεις για σεξουαλικώς μεταδιδόμενα νοσήματα και καταγράφονται τα σχετικά αποτελέσματα σε άτομα με ομόφυλο ή κυμαινόμενο σεξουαλικό προσανατολισμό ή σε επαγγελματίες της βιομηχανίας του έρωτα με σημαντικά μεγαλύτερη συχνότητα σε σχέση με τον υπόλοιπο πληθυσμό αποκλειστικά λόγω της ιδιότητάς τους, ο αλγόριθμος θα διδαχθεί ότι οι κατηγορίες αυτές είναι πιο ευαίσθητες στα νοσήματα, με αποτέλεσμα ο αλγόριθμος να είναι πιο πιθανό να επεξηγεί τα συμπτώματα του ασθενόυς που ανήκει σε αυτές τις κατηγορίες προς αυτήν την κατεύθυνση», σημειώνει η Φερενίκη Παναγοπούλου.

Προς αποφυγήν ομηρίας

Οι διάχυτες επιπτώσεις της συμπεριφοράς των νοήμονων μηχανών στην ανθρώπινη ζωή, οδηγούν στο συμπέρασμα ότι πρέπει να ελεγχθούν αμελλητί, κατά το σχεδιασμό τους. Αλλιώς, ο άνθρωπος θα καταστεί όμηρός τους.

Υπάρχει Πρόταση Κανονισμού από το Ευρωπαϊκό Κοινοβούλιο, που ευελπιστείται ότι θα ψηφιστεί σύντομα.

«Τα ίδια στοιχεία και τεχνικές που διαμορφώνουν τα κοινωνικοοικονομικά οφέλη της ΤΝ μπορούν επίσης να επιφέρουν νέους κινδύνους ή αρνητικές συνέπειες για τα άτομα ή την κοινωνία. Λαμβανομένων υπόψη της ταχύτητας των τεχνολογικών αλλαγών και των πιθανών προκλήσεων, η ΕΕ δεσμεύεται να καταβάλλει προσπάθειες για μια ισορροπημένη προσέγγιση», αναφέρει η Πρόταση.

Οι μηχανές πρέπει να υπαχθούν σε αυστηρές υποχρεώσεις προτού κυκλοφορήσουν στην αγορά. Και η Φερενίκη Παναγοπούλου εκφράζει την ανησυχία ότι ο σφοδρός ανταγωνισμός ανάμεσα στους κατασκευαστές να δημιουργήσουν πρώτοι τις νέες υπηρεσίες ΤΝ δύναται να θολώσει την ορθή κρίση των συνεπειών τους στα θεμελιώδη ανθρώπινα δικαιώματα.

Η απεραντοσύνη της τεχνολογίας

Επιπλέον, η δυσχέρεια να καταλήξουν οι νομοθέτες σε έναν γενικώς αποδεκτό ορισμό για την τεχνητή νοημοσύνη, καταδεικνύει και τις παγίδες στην όποια προσπάθεια ρυθμίσεώς της, επισημαίνει η Φερενίκη Παναγοπούλου.

Η ανεξέλεγκτη διόγκωση της ΤΝ θα διαφεύγει διαρκώς της απόπειρας να ρυθμιστεί νομικά: Μοιάζει με αληθινό Πίθο των Δαναΐδων, μια προσπάθεια με συνείδηση του απείρου.

Η ραγδαία ανάπτυξη της τεχνολογίας ασκεί έντονη επιρροή στο Σύνταγμα. «Η σύγχρονη κοινωνία βιώνει μια νέα συνταγματική στιγμή {…} ενώπιον μιας μεταβολής που δοκιμάζει ή ενδέχεται να δοκιμάζει τα όρια ανθεκτικότητας του Συντάγματος {…} Η ανθεκτικότητα του Συντάγματος δεν σχετίζεται με το χρόνο ζωής του» αλλά συναρτάται προς την προσαρμοστικότητά του στην πραγματικότητα.

Με αυτό το βιβλίο η Φερενίκη Παναγοπούλου ανοίγει το διάλογο και θέτει τους κύριους άξονες που πρέπει κατεπειγόντως να συζητηθούν με τη συνέργεια κράτους και επιστημόνων για το καλό της ανθρωπότητας.

Πληροφορίες

Φερενίκη Παναγοπούλου Κουτνατζή

Τεχνητή νοημοσύνη: Ο δρόμος προς έναν ψηφιακό συνταγματισμό

Μια ηθικο-συνταγματική θεώρηση

Πρόλογος: Ιώαννης Σαρμάς

Πρόεδρος του Ελεγκτικού Συνεδρίου

Εκδόσεις Παπαζήση

Σελ. 387