Στο κρίσιμο ζήτημα της δημιουργίας data centers στην Κρήτη και στις τεράστιες ανάγκες τους σε νερό και ενέργεια στρέφει την προσοχή ο καθηγητής της Σχολής Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών του Πολυτεχνείου Κρήτης, Γιώργος Χαλκιαδάκης, ένας από τους κορυφαίους ερευνητές παγκοσμίως στον χώρο της Τεχνητής Νοημοσύνης (ΤΝ), ο οποίος βρίσκεται στο ανώτατο 0,24% των επιστημόνων του κλάδου.
Ο διακεκριμένος Κρητικός επιστήμονας μιλώντας στο ZARPA RADIO 89,6 και την Ελένη Φουντουλάκη, κρούει τον κώδωνα του κινδύνου για το περιβαλλοντικό κόστος της ραγδαίας ανάπτυξης της Τεχνητής Νοημοσύνης.
«Εδώ δεν έχουμε νερό να πιούμε το καλοκαίρι. Θα φτιάξουμε data centers που θα χρειαστούν μεγάλες ποσότητες καθαρού νερού;», διερωτάται, επισημαίνοντας ότι οποιαδήποτε απόφαση για νέες υποδομές AI στην Κρήτη θα πρέπει να λαμβάνεται αφού προηγουμένως έχει υπολογιστεί και ζυγιστεί το περιβαλλοντικό της αποτύπωμα.
Παράλληλα θέτει ερωτήματα για το τι θα συμβεί αν η κοινωνία εμπιστευτεί άκριτα την ΤΝ, χωρίς ανθρώπινο έλεγχο, υπογραμμίζοντας ότι απαιτούνται όρια και δικλείδες ασφαλείας. Και όλα αυτά, σε μια περίοδο που η συζήτηση για την αξιοπιστία του ψηφιακού περιεχομένου γίνεται ολοένα πιο κρίσιμη, καθώς η AI παράγει πλέον μαζικά κείμενα, εικόνες, βίντεο και άλλο περιεχόμενο.
Μια ενδιαφέρουσα συζήτηση για την αξιοπιστία της πληροφορίας, την ανθρώπινη κρίση και το μέλλον του διαδικτύου…
- Βλέπουμε ότι ειδικοί στη Silicon Valley εκτιμούν ότι μέσα στα επόμενα δύο χρόνια θα δούμε μια εκρηκτική αύξηση της Τεχνητής Νοημοσύνης, με μοντέλα που πλησιάζουν ή ακόμη και θα ξεπερνούν τις ανθρώπινες δυνατότητες σε πολλούς τομείς. Εσείς πόσο κοντά πιστεύετε ότι είμαστε σε αυτό το σημείο;
Ευχαριστώ για το ερώτημα. Θα σας απαντήσω λίγο περιληπτικά. Εαν κάνετε αυτή την ερώτηση πριν από 15 χρόνια, οι εκτιμήσεις που θα παίρνατε θα ήταν οτιδήποτε ανάμεσα σε 50 χρόνια και 500 χρόνια για το αν θα φτάσει η Τεχνητή Νοημοσύνη να ξεπεράσει τον άνθρωπο, τη νόηση του ανθρώπου, σε νοημοσύνη και σε πολλούς άλλους τομείς.
Ενώ πλέον, όπως είπατε, οι εκτιμήσεις μιλάνε εώς και δύο χρόνια – ένα νούμερο στο οποίο συμφωνούν πολλοί πλέον – για να… σώσουμε την παρτίδα και να μην έχουμε άσχημες εξελίξεις.
- Έχετε πει σε συνέντευξη σας, ότι η Τεχνητή Νοημοσύνη θα μας κάνει πιο ηλίθιους. Τι ακριβώς εννοείτε; Υπάρχει ο κίνδυνος, επειδή η AI μας δίνει έτοιμες απαντήσεις, να σταματήσουμε σιγά-σιγά να ψάχνουμε, να διαβάζουμε, να σκεφτόμαστε μόνοι μας, να γίνουμε πιο ράθυμοι;
Ναι, αυτό εννοούσα και είχα πει ότι η κακή χρήση μπορεί να μας κάνει πιο ηλίθιους.
Ήδη το βλέπουμε αυτό και το βλέπουμε και εμείς στα πανεπιστήμια, το βλέπουμε σε όλους τους τομείς, νομίζω, πλέον.
Η ΤΝ θα μπορούσε να μας κάνει λίγο, τεμπέληδες, λίγο πιο ράθυμους, π.χ να πατάμε ένα κουμπί και να μη χρειάζεται να ψάξουμε κάτι.
Και ο εγκέφαλος, είναι μύς κι εάν δεν τον εξασκείς (θα υπάρχει θέμα). Όμως ο εγκέφαλος δεν είναι ένας οποιοσδήποτε από τους μύες ή μια οποιαδήποτε ικανότητα που θα χάσουμε, όπως έχουμε χάσει πολλές στα βάθη των αιώνων, ειδικά των τελευταίων δεκαετιών…
- Όπως;
Όπως, για παράδειγμα, την ικανότητα να θυμόμαστε και να απαγγέλλουμε απ’ έξω, ας πούμε, τα Ομηρικά έπη ή τον Ερωτόκριτο. Δεν νομίζω υπάρχει κάποιος σήμερα που να μπορεί να το κάνει αυτό, ενώ τρεις γενιές πριν μπορεί και να υπήρχαν ακόμη.
Όμως το θέμα είναι όταν δεν σκέφτεσαι πλέον και έχεις χάσει την ικανότητα να ψάχνεις, να φιλτράρεις πληροφορία και να κάνεις, να αναλύεις και να διαβάζεις.
Για παράδειγμα, το να διαβάζεις ένα βιβλίο από την αρχή ως το τέλος είναι κάτι πολύ σημαντικό, γιατί σε κάνει να προσπαθείς να αναλύεις την πληροφορία, να σκεφτείς διάφορες προεκτάσεις, να χαθείς μέσα σε έναν κόσμο, να σκεφτείς πώς μπορεί να ήταν τα πράγματα ή πώς μπορεί να γίνουν.
Όλα αυτά δεν μπορείς να τα κάνεις αν απλά, ας πούμε, κάνεις ένα search, μια αναζήτηση ή τώρα ακόμα περισσότερο όταν παίρνεις έτοιμη μια σύνοψη ή τις πληροφορίες, πλέον χάνεις όλη την άλλη ικανότητα. Οπότε αυτό είναι λίγο επικίνδυνο.
- Πάντως βλέπουμε όλο και περισσότερους ανθρώπους να ρωτούν την τεχνητή νοημοσύνη για θέματα π.χ υγείας, αντί να απευθυνθούν πρώτα σε έναν γιατρό, στον ειδικό. Πόσο επικίνδυνο μπορεί να γίνει αυτό και πού πρέπει να σταματά η εμπιστοσύνη του ανθρώπου στην τεχνητή νοημοσύνη;
Κοιτάξτε, αυτή τη στιγμή είναι τελείως λάθος και όντως πολύ επικίνδυνο το να ρωτάς μια εφαρμογή τεχνητής νοημοσύνης για ιατρικές συμβουλές. Βέβαια πάντα μπορείς να πάρεις κάποια γενική πληροφορία, αλλά όταν μιλάμε για ειδικά θέματα, καλό είναι να απευθυνόμαστε στους ειδικούς.
Βέβαια από την άλλη πρέπει να πούμε ότι εάν η εξέλιξη της Τεχνητής Νοημοσύνης, στον τομέα της ιατρικής είναι ραγδαία και σχετικά σύντομα ενδέχεται στο μέλλον να μας δίνουν και καλύτερες συμβουλές από τους ανθρώπους. Βέβαια δεν εννοώ αυτές οι εφαρμογές που έχουμε στα χέρια μας σήμερα και χρησιμοποιούμε εμείς κάθε μέρα. Μιλάω για ειδικές εφαρμογές, που θα έχουν φιλτράρει και ενσωματώσει ιατρική γνώση και θα είναι ειδικά σχεδιασμένες για αυτόν τον τομέα.
Και για να πω την αλήθεια, προσωπικά το θεωρώ δεδομένο ότι θα γίνει.
Όμως αυτή τη στιγμή είναι τελείως λάθος να ζητάμε απλά από μια μηχανή μια απάντηση για ένα ιατρικό θέμα.
- Ας μιλήσουμε λίγο για το πώς η επιστημονική κοινότητα μεταξύ σας χρησιμοποιείτε τον όρο Probability of Doom (P-doom), δηλαδή η πιθανότητα η εξέλιξη της τεχνητής νοημοσύνης να οδηγήσει ακόμη και σε μια σοβαρή απειλή για την ανθρωπότητα. Ο Έλον Μασκ μιλάει για πιθανότητα 10 με 20% ενώ ο Τζέφρι Χίντον, ο πνευματικός πατέρας της τεχνητής νοημοσύνης, νομπελίστας, που παραιτήθηκε από τη Google για να μπορεί να ασκεί ελεύθερα το δικαίωμά του να κριτικάρει τις εξελίξεις γύρω από την ΤΝ, έχει εκτιμήσει υψηλά τον κίνδυνο.
Να πω ότι δεν με ενδιαφέρει καθόλου ποια είναι η πιθανότητα που θεωρεί ο Έλον Μασκ ότι θα συμβεί αυτό… Ο Χίντον με ενδιαφέρει περισσότερο και μάλιστα είχα την τύχη να είναι στους καθηγητές μου στο πανεπιστήμιο του Τορόντο, ως διδακτορικός φοιτητής.
Ο Χίντον, όπως είπατε, είναι από αυτούς που εξέλιξαν, τα σύγχρονα νευρωνικά δίκτυα και εφηύραν σύγχρονους αλγορίθμους για τη λειτουργία των νευρωνικών δικτύων – εξού και το προσωνύμιο του «νονού» της τεχνητής νοημοσύνης – όταν τα έκανε αυτά, παρεμπιπτόντως, δεν το πιστεύανε.
Δηλαδή θεωρούσαν όλοι, ακόμα και ο δικός μου advisor τότε στο Τορόντο, ότι τα νευρωνικά δίκτυα είναι χαμένη υπόθεση.
- Για μια χρονική περίοδο μιλάμε;
Πριν από 20 χρόνια. Και μάλιστα υπήρχαν και μεγάλα debates σχετικά με το θέμα. Αλλά ναι, ο Χίντον είναι πραγματικά αυτός που εξέλιξε την Τεχνητή Νοημοσύνη. Όπως και οι περισσότεροι, θα έλεγα, από τους κορυφαίους επιστήμονες τεχνητής νοημοσύνης πχ ο Ράσελ, ο Μπέντζιο, όλοι τιμημένοι με διάφορα βραβεία, από Νόμπελ μέχρι βραβείο Τούρινγκ , οι οποίοι βλέπουν ότι υπάρχει κίνδυνος.
Ο Χίντον και άλλοι θεωρούν ότι ήδη αυτή η τεχνητή νοημοσύνη που έχουμε φτιάξει έχει ενός είδους συνείδηση. Το οποίο, είναι ένα μεγάλο ερώτημα αυτό, εαν μας ενδιαφέρει ή όχι.
Υποθέτω ότι αναφερόμαστε σε κίνδυνο extinction risk δηλ. να οδηγηθεί το ανθρώπινο είδος σε εξαφάνιση από κάποια απόφαση τεχνητής νοημοσύνης.
Αυτό μπορεί να συμβεί μόνο και μόνο επειδή η ΤΝ δεν θα κατανοήσει το τι θέλουμε εμείς ακριβώς. Γιατί πολλές φορές και εμείς οι ίδιοι δεν ξέρουμε το τι θέλουμε.
Και αν έχουμε περιγράψει κάποιο στόχο και δεν έχουμε βάλει τις κατάλληλες δικλείδες, μπορεί, προκειμένου η τεχνητή νοημοσύνη να πετύχει το στόχο, για παράδειγμα μείωση της θερμοκρασίας του πλανήτη κατά 5 βαθμούς, να κάνει πράγματα που δεν θα θέλαμε να κάνει. Για παράδειγμα, να ρίξει ένα πυρηνικό όπλο και να σκοτώσει εκατομμύρια ανθρώπους.
Οπότε μπορεί να πάνε κάποια πράγματα… στραβά.
Τώρα, στην επιστήμη και στο engineering, είναι πολύ σημαντικό αυτή την πιθανότητα (να πάει κάτι στραβά), είναι κάτι που πρέπει να τη λάβουμε υπόψη.
Αν αυτή η πιθανότητα είναι μεγάλη αλλά οι συνέπειες είναι μικρές, τότε δεν υπάρχει πρόβλημα.
Αν οι συνέπειες όμως είναι πολύ μεγάλες, ακόμα και μικρή να είναι η πιθανότητα, τότε υπάρχει πρόβλημα. Άρα το 10% είναι ένα τεράστιο νούμερο.
Οπότε είναι κάτι που πρέπει να λάβουμε σοβαρά υπόψη και γι’ αυτό προσπαθούμε, και προσπαθούμε έντονα τελευταία χρόνια, να κάνουμε την τεχνητή νοημοσύνη και ηθική αλλά και κυρίως ασφαλή.
Το οποίο, το να είναι ασφαλής, σε έναν βαθμό υπονοεί ότι θα είναι και ηθική.
Ή, όπως λέει και ένας άλλος μεγάλος σύγχρονος ερευνητής, δεν χρειάζεται καν να μιλάμε για ασφαλή και ηθική τεχνητή νοημοσύνη. Αυτά πρέπει να είναι αυτονόητα.
Δηλαδή, αν θες να κάνεις τεχνητή νοημοσύνη, πρέπει να την κάνεις και ασφαλή και ηθική.
- Αν βλέπατε το δικό σας παιδί να περνά πολλές ώρες μπροστά σε έναν υπολογιστή και να χρησιμοποιεί καθημερινά εργαλεία AI, θα βάζατε όρια; Και επίσης, θα θέλατε το παιδί σας να μάθει πρώτα να σκέφτεται και να αναζητά μόνο του και μετά να χρησιμοποιεί την AI ή πιστεύετε ότι πρέπει να μάθει από μικρό να συνεργάζεται μαζί της;
Όταν πρωτοβγήκε, το πρώτο μοντέλο ΤΝ, τότε είχα δώσει ένα prompt για να πει ένα παραμύθι στο παιδί μου.
Και μετά είδα ότι πολύ γρήγορα το παιδί, του φάνηκε πολύ λογικό ότι ο υπολογιστής του έλεγε παραμύθια ή μπορούσε να ζητήσει να φτιάξουν ένα άλλο παραμύθι, και οπότε εκεί είπα: «Όχι, δεν θα το κάνω αυτό».
Γιατί αυτό είναι, νομίζω, κάτι που θα θέλει να το κάνει ο γονιός, καταρχήν.
Τώρα, τα παιδιά σίγουρα πρέπει να πάρουν δεξιότητες από μικρά, αλλά πρέπει να τους βάζουμε όρια, γιατί, καλό είναι να μάθουν να σκέφτονται και να μπορούν να εξελίξουν όλες τις δυνατότητές τους.
Ίσως έχετε ακούσει ότι τα τελευταία χρόνια υπάρχει μια τάση σε κάποιες μεγάλες ευρωπαϊκές χώρες, Σουηδία κ.α, να επιστρέφουν σε ένα σχολείο που χρησιμοποιεί περισσότερο χαρτί και μολύβι.
Γιατί είδαν ότι η ευρεία χρήση, οθονών και υπολογιστών, συσκευών, έκανε τα παιδιά να μην μπορούν να σκέφτονται πλέον όσο και να εξελίξουν διάφορες δυνατότητές τους όσο θα μπορούσαν, μειωναν δηλατη τη γνωσιακή τους ικανότητα και εξέλιξη.
Οπότε σίγουρα πρέπει να βάλουμε όρια.
Πριν από χρόνια, μάλιστα, είχα πει εγώ ότι θεωρώ ότι στο μέλλον στα σχολεία της ελίτ, ας πούμε στην Αγγλία, σκεφτείτε κάτι τέτοιο, θα απαγορεύονται τα κινητά.
Και πολύ πρόσφατα έμαθα ότι σε ένα μεγάλο τέτοιο σχολείο όντως απαγορεύσαν τελείως τα κινητά στα παιδιά.
Δεν ξέρω αν η απάντηση είναι «απαγορεύστε όλα», αλλά σίγουρα πρέπει να βάλουμε όρια.
- Από τη στιγμή που συμβουλευόμαστε την τεχνητή νοημοσύνη για κάθε δραστηριότητα ή πληροφορία και έχουμε εμπιστοσύνη στις απαντήσεις, η οποία θα ενισχύεται συνεχώς στο μέλλον, η ερώτηση είναι πώς το AI θα καθορίσει την αντίληψη που θα έχουμε για την πραγματικότητα στο μέλλον και τι συνέπειες θα έχει αυτό;
Όντως, η πρόβλεψη είναι ότι σε λίγα χρόνια, πολύ λίγα, το 90-95% της πληροφορίας που θα υπάρχει στον παγκόσμιο ιστό θα είναι πληροφορία περιεχομένου που το έχει φτιάξει τεχνητή νοημοσύνη.
Ήδη, βλέπετε ένα σωρό βίντεο, εικόνες, που πλέον πολύ συχνά είναι κάτι που έχει φτιάξει τεχνητή νοημοσύνη. Χθες έτυχε να δω κάτι και εγώ, να μου φανεί ότι ήταν ανθρώπινο, αλλά τελικά δεν ήταν. Τα όρια γίνονται πολύ δυσδιάκριτα. Οπότε η αλήθεια είναι ότι πλέον θα είναι πολύ δυσδιάκριτη η πραγματικότητα.
Βέβαια, δεν είναι απαραίτητο να γίνει αυτό, να γίνει έτσι, εάν βάζαμε κεντρικά κάποιους κανόνες και προσπαθούμε να ρυθμίσουμε τα πράγματα. Για παράδειγμα εμείς στα πανεπιστήμια έχουμε ένα μεγάλο θέμα τελευταία χρόνια, λόγω κλοπής με χρήση υπολογιστικών μοντέλων, με χρήση μοντέλων τεχνητής νοημοσύνης. Φτιάχνει η τεχνητή νοημοσύνη τις εργασίες των φοιτητών, τους απαντάει στα ερωτήματα στις εξετάσεις και ούτω καθεξής.
Θα μπορούσε να υπάρχει μια απλή απάντηση που θα είναι να υποχρεώσεις όλες τις μεγάλες εταιρείες να βάλουν μιας μορφής υδατογράφημα στις απαντήσεις που δίνουν σε διάφορα ερωτήματα και να παρέχουν δωρεάν σε πανεπιστήμια, σχολεία, σε όποιον το έχει ανάγκη, το software ή το hardware, για να μπορέσει να ανιχνεύσει όντως αν έχει χρησιμοποιηθεί τεχνητή νοημοσύνη. Αυτό θα έλυνε το πρόβλημα.
Αλλά πρέπει να υπάρξει και μια κεντρική ρύθμιση, έτσι ώστε να μπορούμε να είμαστε σίγουροι τελικά για το τι είναι ανθρώπινο και τι έχει παραχθεί από την τεχνητή νοημοσύνη.
Νομίζω είναι πολύ σημαντικό να το κάνουμε, γιατί όντως θα ζήσουν τα παιδιά μας σε έναν κόσμο που όλο το περιεχόμενο θα είναι από τεχνητή νοημοσύνη φιλτραρισμένο.
Data centers και ενέργεια
- Η παγκόσμια επενδυτική φρενίτιδα γύρω από την AI οδηγεί στην κατασκευή τεράστιων data centers, τα οποία χρειάζονται τεράστιες ποσότητες ηλεκτρικής ενέργειας και νερού. Μήπως τελικά η Τεχνητή Νοημοσύνη έχει και ένα σοβαρό περιβαλλοντικό κόστος που δεν έχουμε υπολογίσει ακόμη; Και μπορεί η ενεργειακή ζήτηση της AI να δημιουργήσει νέα προβλήματα στις κοινωνίες;
Σήμερα μιλάμε όλοι για Τεχνητή Νοημοσύνη κι αυτό στρέφει τη συζήτηση προς ένα σωρό ενδιαφέροντα θέματα, αλλά μας κάνει να αφήνουμε κατά μέρος το μεγαλύτερο ερώτημα, που θα πρέπει να θέτουμε κάθε μέρα, σε όλα τα επίπεδα: την κλιματική αλλαγή και την κλιματική κρίση.
Είναι λίγο αδιανόητο το 2026 να θεωρούμε τις περιβαλλοντικές επιπτώσεις ως κάτι ”παρεπιπτόντως”. Οπότε δεν μπορούμε απλά να λέμε «θα φτιάξουμε data centers». Ναι, να φτιάξουμε data centers. Να λέμε «θα φτιάξουμε AI factories». Ναι, να φτιάξουμε AI factories. Αλλά δεν πρέπει να πάρουμε τέτοιες αποφάσεις χωρίς να εξετάσουμε το περιβαλλοντικό κόστος.
Οπότε πρέπει αυτά να ζυγιστούν πολύ καλά. Ακούω, ας πούμε, κάποια περίεργα πράγματα για data centers στην Κρήτη.
- Δεν έχουμε προς το παρόν στην Κρήτη, σωστά ; Ωστόσο, σύμφωνα με πληροφορίες υπάρχουν σχέδια για τα Χανιά…
Δεν έχουμε στην Κρήτη. Αλλά επιστήμονας είμαι.. και νομίζω πως πρέπει να βάλουμε όλα κάτω και να τα μετρήσουμε.Αλλά η αίσθησή μου είναι ότι εδώ δεν έχουμε νερό να πιούμε το καλοκαίρι, θα φτιάξουμε data centers που θα χρειαστούν σωρό ποσότητες νερού και μάλιστα όσο πιο καθαρό γίνεται για την ψύξη των υπολογιστών;