Η τεράστια εξέλιξη των μοντέλων τεχνητής νοημοσύνης έχει μεγάλο αντίκτυπο και στον ακαδημαϊκό και ερευνητικό χώρο. Το νέο περιβάλλον που διαμορφώνεται, χρειάζεται νέους τρόπους ώστε να προστατευτεί από την τεχνητή νοημοσύνη και τις αρνητικές της συνέπειες. Για αυτό, ένα εγχείρημα που ξεκίνησε από 16 μαθηματικούς και έχει αγκαλιαστεί από την επιστημονική κοινότητα, η Διακήρυξη του Leiden, είναι το πρώτο πλαίσιο για τη ρύθμιση της τεχνητής νοημοσύνης στα μαθηματικά και την επιστήμη, που γίνεται ευρέως αποδεκτό. Με αυτόν τον τρόπο, η ακαδημαϊκή κοινότητα θέλει να θεσπίσει ένα ξεκάθαρο πλαίσιο για την χρήση της τεχνητής νοημοσύνης και των αλγορίθμων, για την παραγωγή επιστημονικής γνώσης και δεδομένων.
Η Διακήρυξη του Leiden – Τι είναι ακριβώς;
Η Διακήρυξη του Leiden είναι ένα κείμενο 11 σελίδων που συνέταξαν 16 διακεκριμένοι μαθηματικοί και ήδη το έχουν συνυπογράψει πάνω από 1.800 άτομα της ακαδημαϊκής κοινότητας (την ώρα που μας πήρε για να γράψουμε αυτό το άρθρο οι υπογραφές ξεπέρασαν τις 1900). Μαζί την έχει υπογράψει και η Διεθνής Μαθηματική Ένωση και ορίζει συγκεκριμένους ηθικούς και πρακτικούς κανόνες, για την χρήση συστημάτων τεχνητής νοημοσύνης στην μαθηματική έρευνα. Οι επιστήμονες δεν έχουν στόχο να αποκλείσουν την τεχνητή νοημοσύνη από την επιστημονική διαδικασία, αλλά να προστατεύσουν την επιστήμη, να προσφέρουν διαφάνεια και να διατηρήσουν την ανθρώπινη λογοδοσία των μελετών.
Το πρόβλημα που θέλει να αντιμετωπίσει
Τα μαθηματικά, όπως και κάθε επιστημονικός κάδος, απαιτούν αποδείξεις πέρα από κάθε αμφιβολία. Ειδικά στα μαθηματικά, κάθε θεώρημα πρέπει να είναι απόλυτα βέβαιο ότι ισχύει, ώστε να χρησιμοποιηθεί από την υπόλοιπη επιστημονική κοινότητα σαν βέβαιο.
Εδώ όμως έρχονται τα προβλήματα με την χρήση της τεχνητής νοημοσύνης. Ένα από αυτά είναι το θέμα της λογοδοσίας. Όταν ένα μοντέλο προτείνει μια λύση σε ένα πολύπλοκο μαθηματικό πρόβλημα, ποιος θα έχει την ευθύνη στα λογικά σφάλματα που είναι πολύ πιθανό να συμβούν;
Όμως το μεγαλύτερο πρόβλημα είναι το πρόβλημα της ιδιοκτησίας. Αν ένα σύστημα καταφέρει να δώσει απάντηση σε ένα άλυτο μαθηματικό πρόβλημα ή καταφέρει να βοηθήσει σε ένα νέο θεώρημα, ποιος είναι ο ιδιοκτήτης της νέας ανακάλυψης; Ταυτόχρονα, είναι όντως μια νέα ανακάλυψη ή απλά αναμάσηση των υπαρχόντων λύσεων και θεωρημάτων, όπως κάνει η τεχνητή νοημοσύνη και μάλιστα χωρίς αναφορές σε αυτούς που έχουν τα πνευματικά δικαιώματα;
Τέλος, υπάρχει σοβαρό πρόβλημα με την διαφάνεια. Η επιστήμη βασίζεται στην αξιολόγηση μιας δημοσίευσης από ομότιμους, που μπορούν να πάρουν έναν ισχυρισμό και να ελέγξουν κατά πόσο ισχύει. Όταν η επιστήμη όμως γίνεται με εμπορικά λογισμικά τεχνητής νοημοσύνης, που απαιτούν συνδρομές ή συμφωνίες, χάνεται η αρχή της ανοιχτής επιστήμης, όπου ο κάθε επιστήμονας μπορεί να αξιολογήσει όσα λένε οι ομότιμοί του.
Τι προτείνει η Διακήρυξη του Leiden;
Η Διακήρυξη του Leiden όπως είπαμε αποτελείται από 11 σελίδες προτάσεις. Σε αυτές, περιλαμβάνονται 3 βασικοί άξονες και 23 κατευθυντήριες γραμμές, ώστε να απαντήσουν σε κοινά προβλήματα.
Στον πρώτο άξονα, οι μαθηματικοί καλούν τους μαθηματικούς και τους άλλους επιστήμονες να προσφέρουν απόλυτη διαφάνεια στις μελέτες τους. Θα πρέπει να αναφέρουν αν έχει γίνει χρήση κάποιου LLM και τι ακριβώς έχει συνεισφέρει στην έρευνα. Φυσικά, θα πρέπει να φροντίζει πως προστατεύεται η αξιολόγηση από ομοτίμους, ενώ θα πρέπει αν δοθεί και μια λύση για ένα από τα μεγάλα προβλήματα της τεχνητής νοημοσύνης, που είναι το γεγονός πως φλυαρεί, παράγοντας τεράστια κείμενα χωρίς ουσιαστική αξία. Αυτό αυξάνει δραματικά τον όγκο που πρέπει να διαβάσει κάποιος που προσπαθεί να κάνει την αξιολόγηση της νέας ανακάλυψης και καθυστερεί πολύ τις διαδικασίες.
Ο δεύτερος άξονας στοχεύει στα ακαδημαϊκά ιδρύματα. Αυτά καλούνται να θεσπίσουν πολύ αυστηρά πρότυπα για τις δημοσιεύσεις. Τα Πανεπιστήμια θα πρέπει να αποκτήσουν υψηλή τεχνογνωσία στην τεχνητή νοημοσύνη, ώστε να μη βασίζονται σε εμπορικές υλοποιήσεις για την παραγωγή επιστήμης. Με αυτό τον τρόπο τα ακαδημαϊκά ιδρύματα θα είναι αυτόνομα και η επιστήμη δε θα καταλήξει έρμαιο των μεγάλων τεχνολογικών κολοσσών.
Τέλος, ο τρίτος άξονας στοχεύει στις κυβερνήσεις που καλούνται να θεσπίσουν αυστηρούς κανόνες για να διασφαλίσουν την ομαλή λειτουργία της τεχνητής νοημοσύνης στις επιστήμες. Αυτό σημαίνει πως δε μπορεί να βασίζεται η επιστημονική κοινότητα σε λίγες εταιρείες της Silicon Valley, για την προηγμένη έρευνα. Πρόκειται για κάτι περιορίζει την επιστήμη και δημιουργεί σοβαρά προβλήματα. Ταυτόχρονα, οι μαθηματικοί ζητούν πολύ αυστηρή νομοθεσία για την εξασφάλιση των πνευματικών δικαιωμάτων των επιστημόνων και των δημιουργών, κάτι που η βιομηχανία τεχνητής νοημοσύνης έχει κάνει κουρελόχαρτο τα τελευταία χρόνια.
Cosmote 5G Wi-Fi: Αξίζει αυτός ο εξοπλισμός
Επεκτάσεις στον πραγματικό κόσμο και η γνώμη του Techmaniacs
Το έχουμε πει δεκάδες φορές και θα το πούμε άλλες τόσες αν χρειαστεί. Η τεχνητή νοημοσύνη είναι πολύ δυνατή στη παραγωγή κειμένου που συνδυάζει πολλαπλές πηγές, όμως μέχρι και σήμερα, στερείται πραγματικής λογικής. Βλέπουμε εκατοντάδες λάθη και λογικά σφάλματα στην απλή καθημερινή χρήση. Όταν όμως χρησιμοποιείται σε ένα περιβάλλον που απαιτεί βεβαιότητα και αποδείξεις, εκεί αρχίζει να εμφανίζεται το μεγάλο πρόβλημα αξιοπιστίας.
Η τεχνητή νοημοσύνη μπορεί να κάνει κάποιες διαδικασίες πιο γρήγορες, όμως η αξιοπιστία δεν είναι το δυνατό της χαρτί. Μου θυμίζει το γνωστό ανέκδοτο που λέει πως ο Κωστάκης είναι πολύ γρήγορος στις μαθηματικές πράξεις. Έτσι ρωτήσαν τον Κωστάκη πόσο κάνει 45+32 και εκείνος απάντησε 187. Μπορεί να ήταν λάθος, αλλά ο Κωστάκης ήταν γρήγορος.
Προσωπικά θεωρώ πως οι ίδιοι κανόνες πρέπει να υπάρχουν στην τεχνητή νοημοσύνη γενικότερα. Όλο και περισσότεροι άνθρωποι ενημερώνονται από την τεχνητή νοημοσύνη, όχι επειδή το θέλουν, αλλά γιατί τους το επιβάλουν οι τεχνολογικές εταιρείες. Οι απαντήσεις αυτές όμως, μπορούν να πάρουν πολλούς στο λαιμό τους και πρέπει να υπάρξει επιτέλους ένα πλαίσιο διαφάνειας για το που και πως πρέπει να λειτουργεί η τεχνητή νοημοσύνη.
Αν εγώ για παράδειγμα γράψω ένα review και ο κόσμος με ακούσει και κάνει ένα μεγάλο λάθος, υπόλογος είμαι εγώ και μόνο εγώ. Στην περίπτωση της τεχνητής νοημοσύνης, το βάρος πέφτει στις πηγές, που δεν κατονομάζονται επαρκώς και ούτε είναι σταθερές, οπότε φταίει πάντα κάτι άλλο και όχι το ίδιο το μοντέλο.
Μπορείτε να διαβάσετε όλη τη Διακήρυξη του Leiden ΕΔΩ.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
