Agentic AI: Από το πειραματικό στάδιο στην εφαρμογή σε επιχειρήσεις και οργανισμούς

Η εξέλιξη της Τεχνητής Νοημοσύνης περνά σταδιακά από συστήματα που παράγουν περιεχόμενο σε συστήματα που μπορούν να αναλαμβάνουν και να εκτελούν ενέργειες.Σε αντίθεση με τη generative AI, η οποία δημιουργεί κείμενο, εικόνες, κώδικα ή άλλο περιεχόμενο ως απάντηση σε ένα αίτημα, η agentic AI αξιοποιεί AI agents που μπορούν να χρησιμοποιούν εργαλεία, να ακολουθούν διαδοχικά βήματα και να προσαρμόζουν τη δράση τους για την επίτευξη ενός συγκεκριμένου στόχου.

Η agentic AI περνά πλέον από το πειραματικό στάδιο στην εφαρμογή της σε επιχειρήσεις και οργανισμούς. Ήδη αξιοποιείται στην αυτοματοποίηση διοικητικών και επιχειρησιακών διαδικασιών, στην ενίσχυση της παραγωγικότητας, στη διαχείριση γνώσης, στην εξυπηρέτηση πολιτών και πελατών, στη συμμόρφωση, στην κυβερνοασφάλεια και στην ανάπτυξη λογισμικού.

Η εξέλιξη αυτή συνοδεύεται από αυξημένες απαιτήσεις ως προς τη διακυβέρνηση των συστημάτων. Ιδιαίτερη σημασία αποκτούν η ανθρώπινη εποπτεία στις κρίσιμες αποφάσεις, η πλήρης ιχνηλασιμότητα και η λογοδοσία, η προστασία των δεδομένων και, για τους φορείς που δραστηριοποιούνται στην Ευρωπαϊκή Ένωση, η συμμόρφωση με τον ευρωπαϊκό Κανονισμό για την Τεχνητή Νοημοσύνη (AI Act).

Αυτή την εικόνα καταγράφει το νέο έγγραφο εργασίας του ΟΟΣΑ Agentic AI in Organisations: Early insights from practitioner interviews, όπου εξετάζεται πώς αναπτύσσονται, εφαρμόζονται και διακυβερνώνται στην πράξη τα συστήματα agentic AI. Η μελέτη βασίζεται σε συνεντεύξεις με 25 οργανισμούς από τον ιδιωτικό και τον δημόσιο τομέα και αποτυπώνει τις πρώτες εμπειρίες από την αξιοποίηση αυτών των συστημάτων.

Από την παραγωγικότητα στην επιχειρησιακή δράση

Τα ευρήματα δείχνουν ότι οι εφαρμογές της agentic AI διευρύνονται πέρα από την υποστήριξη μεμονωμένων εργασιών. Οι οργανισμοί που συμμετείχαν στην έρευνα πειραματίζονται ή αξιοποιούν ήδη AI agents σε πεδία όπως η παραγωγικότητα, η βελτιστοποίηση εφοδιαστικών αλυσίδων και βιομηχανικών διαδικασιών, η κυβερνοασφάλεια και η ανάπτυξη λογισμικού, ο σχεδιασμός υποδομών και η επιστημονική έρευνα.

Παράλληλα, η μελέτη καταγράφει εφαρμογές που συνδέονται με την εξυπηρέτηση πελατών και πολιτών, τη διαχείριση γνώσης, την αναζήτηση και επεξεργασία νομικών πληροφοριών και τη συμμόρφωση, ιδίως σε διαδικασίες που απαιτούν τη διαχείριση μεγάλου όγκου πληροφοριών και την εκτέλεση διαδοχικών ενεργειών.

Οι οργανισμοί στρέφονται σε αυτές τις εφαρμογές με στόχο την αυτοματοποίηση διοικητικών και επιχειρησιακών διαδικασιών, την ενίσχυση της παραγωγικότητας και την καλύτερη αξιοποίηση της γνώσης και των δεδομένων. Η agentic AI εξετάζεται επίσης ως εργαλείο υποστήριξης των εργαζομένων και της λήψης αποφάσεων.

Περισσότερη αυτονομία, μεγαλύτερη ανάγκη για έλεγχο

Η μεγαλύτερη αυτονομία αλλάζει και τον τρόπο με τον οποίο ένας οργανισμός πρέπει να διαχειρίζεται ένα σύστημα Τεχνητής Νοημοσύνης.

Όσο ένα σύστημα περιορίζεται στην παραγωγή μιας απάντησης, ο άνθρωπος μπορεί σχετικά εύκολα να ελέγξει το αποτέλεσμα πριν το χρησιμοποιήσει. Όταν, αντίθετα, ένας AI agent μπορεί να πραγματοποιήσει μια σειρά ενεργειών, να χρησιμοποιήσει εξωτερικά εργαλεία ή να αλληλεπιδράσει με άλλα συστήματα και agents, οι συνέπειες ενός σφάλματος μπορεί να είναι διαφορετικές και πιο σύνθετες.

Οι περιπτώσεις που καταγράφονται στη μελέτη αφορούν ελεγχόμενους βαθμούς αυτονομίας. Οι οργανισμοί εφαρμόζουν πρακτικές όπως η σταδιακή αύξηση της αυτονομίας, η πρόβλεψη ανθρώπινων σημείων ελέγχου για ενέργειες υψηλού αντίκτυπου ή δύσκολα αναστρέψιμες ενέργειες και η συνεργασία των ομάδων ανάπτυξης με ειδικούς του εκάστοτε αντικειμένου.

Η προσέγγιση αυτή οδηγεί σε ένα μοντέλο όπου ο βαθμός αυτονομίας προσαρμόζεται στο επίπεδο κινδύνου και στις απαιτήσεις κάθε εργασίας, με την ανθρώπινη εποπτεία να διατηρεί κεντρικό ρόλο.

Στον δημόσιο τομέα η εισαγωγή της agentic AI προχωρά σταδιακά και με ιδιαίτερη έμφαση στην ανθρώπινη εποπτεία, καθώς οι ενέργειες και οι αποφάσεις της δημόσιας διοίκησης μπορούν να έχουν άμεσες συνέπειες για τους πολίτες. Οι εφαρμογές που εξετάζονται περιλαμβάνουν, μεταξύ άλλων, την υποστήριξη διοικητικών διαδικασιών, τον έλεγχο της πληρότητας φακέλων, την αναζήτηση σχετικών νομικών διατάξεων και την προετοιμασία απαντήσεων ή εισηγήσεων, με τις κρίσιμες αποφάσεις να παραμένουν υπό ανθρώπινο έλεγχο.

Σε σχετικό άρθρο του OECD.AI για τη διακυβέρνηση της agentic AI στη δημόσια διοίκηση αναδεικνύεται επίσης η σημασία του σαφούς καθορισμού των ενεργειών που επιτρέπεται να πραγματοποιεί ένας agent, των δεδομένων στα οποία μπορεί να έχει πρόσβαση, της ανθρώπινης έγκρισης σε κομβικά σημεία και της δυνατότητας διακοπής, διόρθωσης ή αναστροφής μιας διαδικασίας.

Η σημασία των δεδομένων, της γλώσσας και του θεσμικού πλαισίου

Για την αποτελεσματική λειτουργία των agentic συστημάτων, κρίσιμη παραμένει η ποιότητα των δεδομένων. Οι οργανισμοί που συμμετείχαν στην έρευνα επισημαίνουν την ανάγκη για αξιόπιστα και έγκυρα δεδομένα, ενώ πρακτικές όπως η σύνδεση των agents με τεκμηριωμένες πηγές και η επικύρωση των αποτελεσμάτων μπορούν να περιορίσουν σφάλματα και ανακριβείς απαντήσεις.

Ιδιαίτερο ενδιαφέρον παρουσιάζει η διάσταση της γλώσσας. Η μελέτη επισημαίνει ότι η χαμηλότερη ακρίβεια των μοντέλων σε γλώσσες άλλες από την αγγλική μπορεί να αποτελέσει ουσιαστικό εμπόδιο στην αξιοποίησή τους.

Η πρόκληση αφορά τόσο τη γλωσσική ακρίβεια όσο και την κατανόηση της εθνικής νομοθεσίας, των διοικητικών διαδικασιών και του θεσμικού πλαισίου κάθε χώρας. Η παράμετρος αυτή αποκτά ιδιαίτερη σημασία σε μη αγγλόφωνα περιβάλλοντα και ακόμη περισσότερο σε εφαρμογές του δημόσιου τομέα.

Νέες απαιτήσεις για τη διακυβέρνηση της agentic AI

Ένα από τα βασικά συμπεράσματα της μελέτης είναι ότι η διακυβέρνηση της agentic AI βρίσκεται ακόμη σε πρώιμο στάδιο. Οι υφιστάμενοι μηχανισμοί ελέγχου έχουν συχνά σχεδιαστεί για συστήματα με πιο σταθερή και προβλέψιμη συμπεριφορά, ενώ οι AI agents μπορούν να λειτουργούν συνεχώς, να αλληλεπιδρούν με διαφορετικά συστήματα και να λαμβάνουν αποφάσεις σε μεταβαλλόμενες συνθήκες.

Αυτό οδηγεί στην ανάγκη για μια πιο δυναμική και κατανεμημένη προσέγγιση στη διακυβέρνηση, με εποπτεία σε ολόκληρο τον κύκλο ζωής ενός agent. Στο πλαίσιο αυτό, η μελέτη αναδεικνύει τη σημασία της παρακολούθησης, της αξιολόγησης, της διαφάνειας, της ιχνηλασιμότητας και της σαφούς κατανομής ευθυνών, ιδιαίτερα όταν πολλαπλοί agents συνεργάζονται ή όταν οι ενέργειές τους εκτείνονται πέρα από τα όρια ενός οργανισμού.

Ιδιαίτερη πρόκληση αποτελεί η ιχνηλασιμότητα. Όταν μια διαδικασία περιλαμβάνει πολλά διαδοχικά βήματα ή τη συνεργασία περισσότερων agents, η δυνατότητα αναδρομικής παρακολούθησης των ενεργειών και εντοπισμού της προέλευσης ενός σφάλματος αποκτά καθοριστική σημασία για τη λογοδοσία.

Προς την υπεύθυνη αξιοποίηση της agentic AI

Η agentic AI βρίσκεται σε μια μεταβατική φάση. Από μια τεχνολογική δυνατότητα που μέχρι πρόσφατα βρισκόταν κυρίως σε πειραματικό στάδιο, αρχίζει να εντάσσεται στις διαδικασίες επιχειρήσεων και δημόσιων οργανισμών.

Η μελέτη του ΟΟΣΑ δείχνει ότι η αυξημένη αυτονομία συνοδεύεται από την ανάγκη για σαφή όρια, ανθρώπινη εποπτεία, διαφάνεια και λογοδοσία. Οι οργανισμοί διερευνούν σε ποιες περιπτώσεις τα συστήματα αυτά μπορούν να προσφέρουν ουσιαστική αξία και παράλληλα διαμορφώνουν τους κατάλληλους μηχανισμούς ελέγχου.

Καθώς οι τεχνολογίες αυτές εξελίσσονται, το ερώτημα αφορά πλέον όχι μόνο το τι μπορούν να κάνουν οι AI agents, αλλά και τους όρους υπό τους οποίους θα εντάσσονται στις πραγματικές διαδικασίες των οργανισμών, τα δεδομένα που θα αξιοποιούν, τον βαθμό ανθρώπινης εποπτείας και το πλαίσιο λογοδοσίας που θα συνοδεύει τη λειτουργία τους.

Ο ΟΟΣΑ επισημαίνει παράλληλα την ανάγκη για συνεχή διάλογο γύρω από τις επιπτώσεις της agentic AI στις επιχειρήσεις, στους εργαζομένους και στην κοινωνία, καθώς και για περαιτέρω έρευνα σε ζητήματα που αφορούν την εργασία, τις δεξιότητες, τη συμπεριληπτική υιοθέτηση και τα μοντέλα διακυβέρνησης.