Η νομοθεσία της ΕΕ για την τεχνητή νοημοσύνη δεν θα είναι ανθεκτική στο μέλλον αν δεν ρυθμίσει τις τεχνολογίες γενικού σκοπού

ΑΠΟΠΟΙΗΣΗ ΕΥΘΥΝΩΝ Όλες οι θέσεις σε αυτή τη στήλη αποτελούν απόψεις των συντακτών, όχι της EURACTIV.gr

«Τα συστήματα ΤΝ γενικού σκοπού είναι συστήματα που μπορούν να εκτελέσουν ένα ευρύ φάσμα λειτουργιών. Σε αυτές περιλαμβάνονται, μεταξύ άλλων, η αναγνώριση εικόνας ή ομιλίας, η παραγωγή ήχου ή βίντεο, η ανίχνευση προτύπων, η απάντηση ερωτήσεων και η μετάφραση.» [shutterstock / metamorworks]

Ο αρχικός αποκλεισμός των συστημάτων τεχνητής νοημοσύνης (ΤΝ) γενικού σκοπού από την προτεινόμενη πράξη της ΕΕ για την ΤΝ, που δημοσιεύθηκε τον Απρίλιο του 2021, εγκυμονούσε κινδύνους για τα θεμελιώδη δικαιώματα και την ασφάλεια. Ενώ το πρώτο μερικό συμβιβαστικό κείμενο εισήγαγε ένα άρθρο σχετικά με τα συστήματα ΤΝ γενικού σκοπού, εξακολουθεί να μην αντιμετωπίζει τις βλάβες που προκύπτουν από αυτά τα συστήματα.

Ο Κρις Σρίσακ είναι συνεργάτης τεχνολογίας στο Ιρλανδικό Συμβούλιο για τις Πολιτικές Ελευθερίες.

Ο Ρίστο Ούουκ είναι ερευνητής πολιτικής στο Ινστιτούτο Μέλλον της Ζωής.

Τα συστήματα ΤΝ γενικού σκοπού είναι συστήματα που μπορούν να εκτελέσουν ένα ευρύ φάσμα λειτουργιών. Σε αυτές περιλαμβάνονται, μεταξύ άλλων, η αναγνώριση εικόνας ή ομιλίας, η παραγωγή ήχου ή βίντεο, η ανίχνευση προτύπων, η απάντηση ερωτήσεων και η μετάφραση.

Αυτό επιτρέπει στα συστήματα να χρησιμοποιούνται για μια ποικιλία εξειδικευμένων εφαρμογών, όπως chatbots, συστήματα παραγωγής διαφημίσεων, βοηθοί λήψης αποφάσεων και spambots. Στην πραγματικότητα, τα συστήματα αυτά έχουν τόσες πολλές πιθανές χρήσεις που οι περισσότερες δεν έχουν ακόμη ανακαλυφθεί, και ενώ πολλές από αυτές θα προσδώσουν οφέλη στους χρήστες, ορισμένες θα είναι υψηλού κινδύνου και, ως εκ τούτου, ίσως χρειαστεί να απαγορευτούν.

Ορισμένα από αυτά τα συστήματα έχουν ήδη διαδώσει εξτρεμιστικό περιεχόμενο, έχουν επιδείξει αντιμουσουλμανική προκατάληψη και έχουν αποκαλύψει ακούσια προσωπικά δεδομένα. Ένα chatbot που βασίζεται σε ένα σύστημα ΤΝ γενικού σκοπού, για παράδειγμα, ενθάρρυνε κάποιον να αυτοκτονήσει.

Δεδομένου ότι, καλώς ή κακώς, τα συστήματα τεχνητής νοημοσύνης γενικού σκοπού είναι πιθανό να αποτελέσουν το μέλλον της τεχνητής νοημοσύνης, είναι βέβαιο ότι θα δούμε περισσότερα περιστατικά όπως αυτά.

Οι υποχρεώσεις των παρόχων συστημάτων τεχνητής νοημοσύνης γενικού σκοπού θα πρέπει να βαρύνουν πρωτίστως τους προγραμματιστές. Ωστόσο, αντί να συστήσει ότι οι προγραμματιστές των συστημάτων ΤΝ γενικού σκοπού είναι νομικά υπεύθυνοι για τη διασφάλιση της ασφάλειάς τους, το άρθρο που προτείνει το Συμβούλιο αναθέτει όλη την ευθύνη στους χρήστες.

Για παράδειγμα, εάν μια υπηρεσία της βελγικής κυβέρνησης χρησιμοποιεί ένα σύστημα ΤΝ γενικού σκοπού για την παροχή βασικών δημόσιων υπηρεσιών, μόνο αυτή θα είναι υπεύθυνη για τη συμπεριφορά του chatbot, παρόλο που δεν έχει σχεδόν κανέναν έλεγχο επί των ατελειών και των προκαταλήψεων που μπορεί να παρουσιάσει.

Αυτό δημιουργεί μια σειρά από προβλήματα. Πολλές απαιτήσεις δεδομένων διακυβέρνησης, ιδίως η παρακολούθηση, η ανίχνευση και η διόρθωση μεροληψιών, απαιτούν πρόσβαση στα σύνολα των δεδομένων στα οποία εκπαιδεύονται τα συστήματα ΤΝ.

Αυτά τα σύνολα δεδομένων, ωστόσο, βρίσκονται στην κατοχή των προγραμματιστών και όχι του χρήστη, ο οποίος θέτει το σύστημα ΤΝ γενικού σκοπού «σε λειτουργία για έναν προβλεπόμενο σκοπό». Για τους χρήστες αυτών των συστημάτων, επομένως, απλώς δεν θα είναι δυνατή η εκπλήρωση αυτών των απαιτήσεων διακυβέρνησης δεδομένων.

Επιπλέον, θα είναι πιο αποδοτικό από άποψη κόστους και λιγότερο επαχθές για τις μικρές ευρωπαϊκές επιχειρήσεις εάν οι προγραμματιστές των συστημάτων ΤΝ γενικού σκοπού (οι περισσότεροι από τους οποίους βρίσκονται εκτός ΕΕ) είναι αυτοί που θα πρέπει να συμμορφώνονται με τις νομικές υποχρεώσεις και να παρακολουθούν τα συστήματά τους μετά τη θέση τους σε χρήση. Μόνο λίγες εταιρείες έχουν την πολυτέλεια να δαπανήσουν δισεκατομμύρια δολάρια ή ευρώ για την ανάπτυξη συστημάτων ΤΝ γενικού σκοπού, καθώς η διαδικασία αυτή απαιτεί τεράστιες ποσότητες υπολογισμών.

Αντίθετα, εκατοντάδες εταιρείες (συμπεριλαμβανομένων πολλών ΜμΕ) χρησιμοποιούν συστήματα ΤΝ γενικού σκοπού. Η ρύθμιση συγκεκριμένων περιπτώσεων χρήσης, όταν πολλές από αυτές βασίζονται σε ένα συγκεκριμένο σύνολο συστημάτων ΤΝ γενικού σκοπού, δεν είναι οικονομικά αποδοτική.

Οι προγραμματιστές συστημάτων ΤΝ γενικού σκοπού θα πρέπει να αντιμετωπίζονται ως πάροχοι στην παρούσα νομοθεσία, ενώ οι εταιρείες που χρησιμοποιούν αυτά τα συστήματα για συγκεκριμένες εφαρμογές θα πρέπει να αντιμετωπίζονται ακριβώς ως χρήστες. Η πρόσφατη έκθεση των δύο κορυφαίων επιτροπών του Ευρωπαϊκού Κοινοβουλίου δεν αποσαφηνίζει επίσης αυτό το θέμα. Συνιστούμε στην Ευρωπαϊκή Ένωση να αναθέσει ρητά την ευθύνη στους προγραμματιστές των συστημάτων τεχνητής νοημοσύνης γενικού σκοπού.

Όλα τα συστήματα τεχνητής νοημοσύνης γενικού σκοπού θα πρέπει να αξιολογούνται διεξοδικά πριν διατεθούν στην αγορά και να παρακολουθούνται συνεχώς μετά.

Τα συστήματα αυτά έχουν πολλές διαφορετικές χρήσεις, η ασφάλεια των οποίων δεν θα εξασφαλιστεί μόνο με τη ρύθμιση του χρήστη. Τα ελαττώματα και οι προκαταλήψεις του συστήματος θα οδηγήσουν σε σημαντική ζημία στα επόμενα στάδια, επειδή ο χρήστης δεν έχει τους απαιτούμενους πόρους, την πρόσβαση και την ικανότητα να διασφαλίσει την ασφάλεια.

Συνεχίζοντας με το προηγούμενο παράδειγμά μας, μια υπηρεσία της βελγικής κυβέρνησης που χρησιμοποιεί ένα σύστημα τεχνητής νοημοσύνης γενικού σκοπού χωρίς πρόσβαση σε επαρκείς υπολογιστικούς πόρους, σύνολα δεδομένων και κατανόηση του σχεδιασμού αυτών των συστημάτων θα θεωρηθεί υπεύθυνη, χωρίς όμως να έχει τη δυνατότητα να διασφαλίσει την ασφάλεια.

Πάνω απ’ όλα, συνιστούμε στους προγραμματιστές να διασφαλίσουν ότι τα συστήματα τεχνητής νοημοσύνης γενικού σκοπού συμμορφώνονται με τις απαιτήσεις που ορίζονται για τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου στην πρόταση νόμου για την τεχνητή νοημοσύνη. Επιπλέον, οι προγραμματιστές και οι χρήστες θα πρέπει να αξιολογούν τακτικά κατά πόσον αυτά τα συστήματα ΤΝ παρουσιάζουν νέους κινδύνους, συμπεριλαμβανομένων εκείνων που ανακαλύπτονται κατά τη διερεύνηση νέων περιπτώσεων χρήσης. Οι προγραμματιστές θα πρέπει επίσης να καταχωρίζουν τα συστήματα ΤΝ γενικού σκοπού τους μαζί με τον κατάλογο των χρηστών στη βάση δεδομένων της ΕΕ.

Μόνο με την πραγματοποίηση όλων αυτών των αλλαγών μπορούμε να καταστήσουμε την πράξη ΤΝ ανθεκτική στο μέλλον.