Μετάβαση στο κύριο περιεχόμενο

Taxvoice

Ασφάλεια Δεδομένων, ai, Λογιστές, Νομικά Θέματα, Τεχνολογία

Το δωρεάν AI μπορεί να σας κοστίσει πολύ ακριβά

dorean-ai-dedomena-pelaton-nikos-markopoulos-taxvoice

ανάγνωση σε: 15 λεπτά

Δωρεάν AI;

Ανεβάζουμε φορολογικές δηλώσεις, συμβάσεις, δικόγραφα και οικονομικά στοιχεία σε εργαλεία Τεχνητής Νοημοσύνης για να κερδίσουμε χρόνο. Γνωρίζουμε όμως τι συμβαίνει με τα δεδομένα των πελατών μας; Και ποιος αναλαμβάνει την ευθύνη όταν το AI κάνει λάθος;

Του Νίκου Μαρκόπουλου | Co-Founder & CEO, AEGIS CyberOps

Η Τεχνητή Νοημοσύνη έχει μπει πλέον στην καθημερινότητα των επαγγελματιών. Ένας λογιστής μπορεί να ζητήσει από ένα εργαλείο AI να αναλύσει ένα οικονομικό αρχείο, να εξηγήσει μια φορολογική διάταξη ή να συντάξει μια επιστολή προς πελάτη. Ένας δικηγόρος μπορεί να το χρησιμοποιήσει για να συνοψίσει μια σύμβαση, να οργανώσει τα στοιχεία μιας υπόθεσης ή να προετοιμάσει ένα νομικό κείμενο.

Μέσα σε λίγα λεπτά μπορεί να ολοκληρωθεί εργασία που παλαιότερα απαιτούσε ώρες.

Και μάλιστα, σε πολλές περιπτώσεις, χωρίς καμία χρέωση.

Αυτή είναι η μεγάλη δύναμη της Τεχνητής Νοημοσύνης. Είναι όμως και ο λόγος που αρκετοί επαγγελματίες αρχίζουν να τη χρησιμοποιούν χωρίς να έχουν εξετάσει προηγουμένως τους κινδύνους.

Το πρόβλημα δεν είναι ότι χρησιμοποιούν AI. Το πρόβλημα είναι ότι ενδέχεται να του παραδίδουν πληροφορίες που δεν τους ανήκουν ή να εμπιστεύονται τις απαντήσεις του σαν να προέρχονται από έναν πιστοποιημένο ειδικό.

Και όταν πρόκειται για δεδομένα πελατών, το λάθος δεν το πληρώνει μόνο εκείνος που χρησιμοποιεί το εργαλείο.

Μια φορολογική δήλωση σε ένα δωρεάν chatbot

Ας φανταστούμε έναν λογιστή που θέλει να ελέγξει γρήγορα τα οικονομικά στοιχεία ενός πελάτη.

Ανεβάζει σε ένα δωρεάν εργαλείο AI ένα αρχείο Excel με ονόματα, ΑΦΜ, εισοδήματα, οφειλές και οικονομικές συναλλαγές. Ζητά από το σύστημα να εντοπίσει αποκλίσεις και να ετοιμάσει μια σύντομη ανάλυση.

Το αποτέλεσμα μπορεί να είναι εντυπωσιακό. Μέσα σε λίγα δευτερόλεπτα έχει μια οργανωμένη αναφορά.

Όμως υπάρχει ένα ερώτημα που πρέπει να προηγείται: πού ακριβώς στάλθηκαν αυτές οι πληροφορίες;

Ανάλογα με τον πάροχο, το είδος του λογαριασμού, τις ρυθμίσεις και τους όρους χρήσης, τα δεδομένα μπορεί να αποθηκεύονται, να υποβάλλονται σε επεξεργασία από τρίτους παρόχους υπηρεσιών ή να χρησιμοποιούνται για τη βελτίωση μοντέλων AI.

Δεν σημαίνει ότι κάθε δωρεάν υπηρεσία δημοσιοποιεί τα δεδομένα ή ότι κάθε συνομιλία χρησιμοποιείται για εκπαίδευση. Σημαίνει όμως ότι ο επαγγελματίας πρέπει να γνωρίζει ακριβώς τι ισχύει πριν ανεβάσει πληροφορίες πελατών.

Για παράδειγμα, στο ChatGPT οι προσωπικοί λογαριασμοί διαθέτουν ρυθμίσεις για τη χρήση περιεχομένου στη βελτίωση των μοντέλων, ενώ τα επιχειρησιακά περιβάλλοντα έχουν διαφορετικές προεπιλεγμένες πολιτικές.

Το ότι μπορούμε τεχνικά να ανεβάσουμε ένα αρχείο δεν σημαίνει ότι επιτρέπεται επαγγελματικά ή νομικά να το κάνουμε.

Ένα δικόγραφο που αποκαλύπτει περισσότερα από όσα νομίζουμε

Ας πάρουμε τώρα την περίπτωση ενός δικηγόρου.

Θέλει να συνοψίσει μια δικογραφία και ανεβάζει σε ένα εργαλείο AI έγγραφα που περιέχουν ονόματα, διευθύνσεις, προσωπικές επικοινωνίες, οικονομικές διαφορές και λεπτομέρειες μιας εμπιστευτικής υπόθεσης.

Το εργαλείο μπορεί να του εξοικονομήσει σημαντικό χρόνο.

Όμως ο δικηγόρος έχει μόλις διαβιβάσει πληροφορίες της υπόθεσης σε μια εξωτερική υπηρεσία, χωρίς απαραίτητα να έχει αξιολογήσει τους όρους επεξεργασίας τους.

Το επαγγελματικό απόρρητο δεν παύει να ισχύει επειδή η επεξεργασία γίνεται από Τεχνητή Νοημοσύνη.

Η American Bar Association, στην επίσημη γνωμοδότηση 512 για τη χρήση παραγωγικής AI από δικηγόρους, επισημαίνει ότι οι επαγγελματίες πρέπει να εξετάζουν ζητήματα εμπιστευτικότητας, τεχνολογικής επάρκειας, ακρίβειας και εποπτείας.

Η γνωμοδότηση αφορά το αμερικανικό επαγγελματικό πλαίσιο, αλλά οι κίνδυνοι που περιγράφει είναι ουσιαστικοί και για ένα ελληνικό δικηγορικό γραφείο.

Και εδώ υπάρχει κάτι που συχνά παραβλέπουμε: η απλή αφαίρεση του ονόματος ενός πελάτη δεν σημαίνει απαραίτητα ότι το έγγραφο έχει ανωνυμοποιηθεί. Ένας συνδυασμός ημερομηνιών, ποσών, περιστατικών και άλλων πληροφοριών μπορεί να επιτρέψει την αναγνώρισή του.

Όταν το AI εφευρίσκει νόμους, αποφάσεις και φορολογικές οδηγίες

Υπάρχει όμως και ένας δεύτερος μεγάλος κίνδυνος, ανεξάρτητος από την προστασία των δεδομένων.

Η Τεχνητή Νοημοσύνη μπορεί να κάνει λάθη. Και μερικές φορές τα παρουσιάζει με τόσο μεγάλη αυτοπεποίθηση, ώστε να φαίνονται απολύτως σωστά.

Ένας δικηγόρος μπορεί να ζητήσει νομολογία για μια υπόθεση και να λάβει παραπομπές σε δικαστικές αποφάσεις που δεν υπάρχουν ή δεν υποστηρίζουν το συμπέρασμα που του παρουσιάστηκε.

Αυτό δεν αποτελεί θεωρητικό κίνδυνο. Έχουν ήδη καταγραφεί πραγματικές περιπτώσεις στο εξωτερικό όπου δικηγόροι υπέβαλαν σε δικαστήρια κείμενα με ανύπαρκτες αποφάσεις που είχαν δημιουργηθεί από AI.

Αντίστοιχα, ένας λογιστής μπορεί να ζητήσει πληροφορίες για έναν φορολογικό συντελεστή, μια εξαίρεση, μια προθεσμία ή μια υποχρέωση και να λάβει απάντηση που βασίζεται σε παλαιότερη νομοθεσία ή σε εσφαλμένη ερμηνεία.

Το αποτέλεσμα μπορεί να είναι μια λανθασμένη συμβουλή, μια εσφαλμένη δήλωση ή μια χαμένη προθεσμία.

Και τότε ποιος θα εξηγήσει στον πελάτη ότι η συμβουλή βασίστηκε σε μια απάντηση chatbot που δεν ελέγχθηκε;

Το AI μπορεί να βοηθήσει έναν επαγγελματία να εργαστεί γρηγορότερα. Δεν αναλαμβάνει όμως την επαγγελματική ευθύνη για την ορθότητα της δουλειάς του.

Ο υπάλληλος που χρησιμοποιεί το προσωπικό του AI

Ας εξετάσουμε ένα ακόμη συνηθισμένο σενάριο.

Ένας εργαζόμενος σε λογιστικό ή δικηγορικό γραφείο χρησιμοποιεί τον προσωπικό του λογαριασμό σε μια δωρεάν εφαρμογή AI για να διευκολύνει τη δουλειά του.

Ο εργοδότης δεν το γνωρίζει. Δεν υπάρχει πολιτική χρήσης AI και κανείς δεν έχει ελέγξει ποιες πληροφορίες ανεβαίνουν στην υπηρεσία.

Ο εργαζόμενος μπορεί να μεταφέρει αρχεία πελατών, συμβάσεις, λίστες οφειλετών ή οικονομικά δεδομένα σε ένα περιβάλλον που δεν ελέγχεται από το γραφείο.

Αυτό ονομάζεται συχνά Shadow AI: χρήση εργαλείων Τεχνητής Νοημοσύνης χωρίς επίσημη έγκριση ή εποπτεία από τον οργανισμό.

Δεν απαιτείται κακή πρόθεση. Μπορεί ο εργαζόμενος απλώς να θέλει να τελειώσει γρηγορότερα μια εργασία.

Όμως η καλή πρόθεση δεν αναιρεί τους κινδύνους για την εμπιστευτικότητα και την προστασία των δεδομένων.

Όταν δίνουμε στο AI πρόσβαση στο email και στα αρχεία μας

Η επόμενη εξέλιξη είναι ακόμη πιο σημαντική.

Τα σύγχρονα εργαλεία AI δεν περιορίζονται πάντα σε ερωτήσεις και απαντήσεις. Ορισμένα μπορούν να συνδέονται με email, ημερολόγια, αποθηκευτικούς χώρους και επαγγελματικές εφαρμογές, ενώ οι λεγόμενοι AI agents μπορούν να εκτελούν ενέργειες για λογαριασμό μας.

Αυτό δημιουργεί νέες δυνατότητες παραγωγικότητας, αλλά και νέες απαιτήσεις ασφάλειας.

Αν ένα εργαλείο αποκτήσει πρόσβαση σε ολόκληρη την αλληλογραφία ενός δικηγορικού γραφείου, μπορεί να έχει τεχνικά τη δυνατότητα να επεξεργαστεί πληροφορίες από πολλές διαφορετικές υποθέσεις.

Αν ένας AI agent αποκτήσει υπερβολικά δικαιώματα σε οικονομικές εφαρμογές, ένα λάθος, μια κακόβουλη οδηγία ή μια παραβίαση μπορεί να έχει συνέπειες πέρα από τη δημιουργία ενός λανθασμένου κειμένου.

Γι’ αυτό η πρόσβαση των εργαλείων AI πρέπει να περιορίζεται αυστηρά σε όσα είναι απαραίτητα, ενώ οι κρίσιμες ενέργειες πρέπει να απαιτούν ανθρώπινη έγκριση.

Δεν παραχωρούμε σε μια εφαρμογή πρόσβαση σε όλα τα δεδομένα των πελατών μας μόνο και μόνο επειδή υπόσχεται να μας εξοικονομήσει χρόνο.

Τι μπορεί να συμβεί στον επαγγελματία;

Ας υποθέσουμε ότι ένας πελάτης ανακαλύπτει πως τα οικονομικά του στοιχεία υποβλήθηκαν σε μια μη εγκεκριμένη υπηρεσία AI.

Ή ότι μια φορολογική συμβουλή αποδείχθηκε λανθασμένη επειδή βασίστηκε σε μη επαληθευμένη απάντηση.

Ή ότι ένα δικόγραφο περιλαμβάνει ανύπαρκτες δικαστικές αποφάσεις.

Η πρώτη συνέπεια μπορεί να είναι η απώλεια εμπιστοσύνης.

Ανάλογα με τα πραγματικά περιστατικά, μπορεί επίσης να υπάρξουν οικονομικές απαιτήσεις, επαγγελματικές ή πειθαρχικές συνέπειες και ζητήματα συμμόρφωσης με τον GDPR ή άλλους εφαρμοστέους κανόνες.

Δεν σημαίνει ότι κάθε χρήση AI ή κάθε λάθος δημιουργεί αυτομάτως παράβαση. Η ευθύνη εξαρτάται από τις περιστάσεις, τα μέτρα που είχαν ληφθεί και τις σχετικές υποχρεώσεις.

Αλλά υπάρχει μια βασική αρχή που πρέπει να καταλάβουμε: η χρήση ενός εργαλείου δεν μεταφέρει αυτομάτως στον πάροχό του την ευθύνη του επαγγελματία απέναντι στον πελάτη του.

Και η δικαιολογία «έτσι μου το έβγαλε το AI» δύσκολα μπορεί να καθησυχάσει έναν πελάτη που έχει υποστεί σοβαρή ζημιά.

Ένας πρακτικός οδηγός για λογιστές και δικηγόρους

Δεν χρειάζεται να σταματήσουμε να χρησιμοποιούμε Τεχνητή Νοημοσύνη. Χρειάζεται να μάθουμε να τη χρησιμοποιούμε με επαγγελματικούς κανόνες.

Πρώτον, δεν ανεβάζουμε πραγματικά δεδομένα πελατών σε μη εγκεκριμένες υπηρεσίες AI. Για φορολογικές δηλώσεις, συμβάσεις, δικόγραφα, οικονομικά στοιχεία και άλλες εμπιστευτικές πληροφορίες απαιτείται προηγούμενη αξιολόγηση του εργαλείου και της νόμιμης βάσης επεξεργασίας.

Δεύτερον, ελέγχουμε τι συμβαίνει με τα δεδομένα μας. Πριν χρησιμοποιήσουμε μια υπηρεσία, εξετάζουμε αν το περιεχόμενο χρησιμοποιείται για εκπαίδευση, πού αποθηκεύεται, για πόσο διατηρείται, ποιος μπορεί να αποκτήσει πρόσβαση και ποιοι όροι προστασίας ισχύουν. Μια πληρωμένη συνδρομή από μόνη της δεν εγγυάται καταλληλότητα για επαγγελματικό απόρρητο ή GDPR.

Τρίτον, χρησιμοποιούμε ανωνυμοποιημένα ή συνθετικά παραδείγματα όπου είναι εφικτό. Αν θέλουμε βοήθεια στη διατύπωση μιας επιστολής ή στην κατανόηση μιας γενικής διαδικασίας, συχνά δεν χρειάζεται να αποκαλύψουμε πραγματικά στοιχεία πελατών. Η ανωνυμοποίηση όμως πρέπει να είναι ουσιαστική, όχι απλώς αφαίρεση ονομάτων.

Τέταρτον, επαληθεύουμε κάθε ουσιαστικό αποτέλεσμα. Νόμοι, δικαστικές αποφάσεις, φορολογικές εγκύκλιοι, συντελεστές, προθεσμίες και οικονομικοί υπολογισμοί πρέπει να ελέγχονται από τις επίσημες πηγές. Μια απάντηση AI δεν είναι από μόνη της πηγή τεκμηρίωσης.

Πέμπτον, θεσπίζουμε κανόνες για όλο το γραφείο. Οι εργαζόμενοι πρέπει να γνωρίζουν ποια εργαλεία επιτρέπονται, ποιες πληροφορίες απαγορεύεται να υποβάλλουν και πότε χρειάζεται έγκριση. Η ανεξέλεγκτη προσωπική χρήση AI για επαγγελματικές υποθέσεις δεν πρέπει να αποτελεί τον κανόνα.

Έκτον, περιορίζουμε τα δικαιώματα των AI agents. Δεν δίνουμε γενική πρόσβαση σε email, αρχεία, λογαριασμούς και οικονομικά συστήματα χωρίς συγκεκριμένο λόγο, τεχνικούς περιορισμούς και ανθρώπινη εποπτεία.

Έβδομον, προετοιμαζόμαστε για το ενδεχόμενο λάθους. Πρέπει να υπάρχει διαδικασία ώστε ένα λανθασμένο αποτέλεσμα ή μια πιθανή μη εξουσιοδοτημένη κοινοποίηση δεδομένων να εντοπίζεται, να αξιολογείται και να αντιμετωπίζεται εγκαίρως.

Το δωρεάν εργαλείο δεν είναι απαραίτητα το πρόβλημα. Η ανεξέλεγκτη χρήση του είναι.

Θέλω να είμαι ξεκάθαρος σε αυτό το σημείο.

Δεν είναι όλα τα δωρεάν εργαλεία AI επικίνδυνα, όπως δεν είναι και όλα τα πληρωμένα κατάλληλα για τη διαχείριση εμπιστευτικών πληροφοριών.

Η ασφάλεια εξαρτάται από την αρχιτεκτονική της υπηρεσίας, τους όρους, τις ρυθμίσεις, τις συμβατικές εγγυήσεις και τον τρόπο με τον οποίο τη χρησιμοποιούμε.

Ένα δωρεάν εργαλείο μπορεί να είναι εξαιρετικά χρήσιμο για γενική έρευνα, εκπαίδευση, δημιουργία προτύπων ή επεξεργασία πληροφοριών που δεν είναι εμπιστευτικές.

Το λάθος ξεκινά όταν χρησιμοποιούμε το ίδιο εργαλείο σαν να ήταν ένα ιδιωτικό, ελεγμένο επαγγελματικό σύστημα, χωρίς να έχουμε διαπιστώσει ότι πράγματι προσφέρει τις απαραίτητες εγγυήσεις.

Η εμπιστοσύνη δεν μπορεί να ανατεθεί σε έναν αλγόριθμο

Η Τεχνητή Νοημοσύνη θα αλλάξει ριζικά τον τρόπο με τον οποίο εργάζονται οι λογιστές και οι δικηγόροι. Θα επιταχύνει διαδικασίες, θα διευκολύνει την έρευνα και θα επιτρέψει σε μικρά γραφεία να αξιοποιήσουν δυνατότητες που μέχρι πρόσφατα ήταν διαθέσιμες κυρίως σε μεγάλους οργανισμούς.

Αυτή η εξέλιξη είναι θετική.

Όμως η τεχνολογική πρόοδος δεν καταργεί την επαγγελματική ευθύνη.

Ένας πελάτης που εμπιστεύεται στον λογιστή του τα εισοδήματα, τις οφειλές και τα οικονομικά του στοιχεία ή στον δικηγόρο του τις πιο προσωπικές υποθέσεις του περιμένει ότι αυτές οι πληροφορίες θα αντιμετωπιστούν με την απαιτούμενη προσοχή.

Δεν τον ενδιαφέρει αν το εργαλείο που χρησιμοποιήθηκε ήταν δωρεάν, πληρωμένο ή το πιο προηγμένο της αγοράς.

Τον ενδιαφέρει να προστατευτούν τα συμφέροντά του.

Έχοντας συμπληρώσει είκοσι χρόνια στην κυβερνοασφάλεια, θεωρώ ότι αυτή είναι μία από τις σημαντικότερες αλλαγές που πρέπει να κατανοήσουν οι επαγγελματίες σήμερα.

Το AI μπορεί να κάνει τη δουλειά μας ταχύτερη,  όχι την ευθύνη μας μικρότερη.

 

Νίκος Μαρκόπουλος
Co-Founder & CEO | AEGIS CyberOps

Νίκος Μαρκόπουλος

CEO & CoFounder της AEGIS CyberOps, με περισσότερα από 20 χρόνια εμπειρίας στην κυβερνοασφάλεια. Εστιάζει στην προστασία επιχειρήσεων, στην αντιμετώπιση ψηφιακών απειλών και σε λύσεις κανονιστικής συμμόρφωσης.