Η ξεκάθαρα υποστηρικτική στάση της αμερικανικής κυβέρνησης που θεωρεί πως η αμερικανική κυριαρχία στον τομέα της ΤΝ αποτελεί ύψιστη εθνική προτεραιότητα, έχει βοηθήσει πάρα πολύ αυτές τις εταιρείες να προχωρήσουν μπροστά χωρίς να αντιμετωπίζουν σοβαρά προβλήματα και με την υποστήριξη όλων των κρατικών υπηρεσιών όπου αυτό απαιτείται.
Η υποστήριξη αυτή έχει φτάσει σε τέτοιο σημείο που ο Λευκός Οίκος απορρίπτει κάθε ιδέα επιβολής περιορισμών στην ανάπτυξη της Τεχνητής Νοημοσύνης, εξαιρώντας ζητήματα μεταφοράς αυτής της τεχνολογίας προς το εξωτερικό και πρόσβασης αλλοδαπών επιχειρήσεων σε αυτήν.
Είναι όμως αλήθεια πως τους τελευταίους μήνες τα πράγματα έχουν αρχίζει να γίνονται πιο δύσκολα για την ΤΝ και τις εταιρείες που ασχολούνται με εξέλιξή της.
Η υποστήριξη αυτή έχει φτάσει σε τέτοιο σημείο που ο Λευκός Οίκος απορρίπτει κάθε ιδέα επιβολής περιορισμών στην ανάπτυξη της Τεχνητής Νοημοσύνης, εξαιρώντας ζητήματα μεταφοράς αυτής της τεχνολογίας προς το εξωτερικό και πρόσβασης αλλοδαπών επιχειρήσεων σε αυτήν.
Είναι όμως αλήθεια πως τους τελευταίους μήνες τα πράγματα έχουν αρχίζει να γίνονται πιο δύσκολα για την ΤΝ και τις εταιρείες που ασχολούνται με εξέλιξή της.
Η αρνητική στάση σημαντικής μερίδας των Αμερικανών πολιτών προς τα data centers, την λειτουργία τους και την κατασκευή τους έχει πάψει πλέον να αποτελεί ένα περιθωριακό φαινόμενο που δεν τραβά των προσοχή των πολιτικών.
Καθώς πλησιάζουμε στις ενδιάμεσες εκλογές του Νοεμβρίου, το ζήτημα απασχολεί πλέον σοβαρά την προεκλογική εκστρατεία και πολλοί κυβερνήτες έχουν ήδη αρχίσει να αλλάζουν στάση. Η κυβερνήτης της Νέας Υόρκης έχει ήδη αποφασίσει την επιβολή περιορισμών στης δημιουργία νέων data centers αλλά το ενδιαφέρον είναι πως δύο ρεπουμπλικάνοι κυβερνήτες πολύ στενά δεμένοι με τον Λευκό Οίκο, οι κυβερνήτες της Φλόριντα και του Τέξας, έχουν αρχίσει και αυτοί να κινούνται προς την ίδια κατεύθυνση.
Είναι φανερό πως το ζήτημα θα αποτελέσει ένα από τα πολύ σημαντικά της προεκλογικής περιόδου, καθώς η αύξηση της τιμής του ηλεκτρικού ρεύματος, η χρήση τεράστιων ποσοτήτων νερού και γενικά οι μεγάλες αλλαγές που δυσκολεύουν την ζωή των κατοίκων των περιοχών στις οποίες κατασκευάζονται τα data centers, ενοχλούν και ταλαιπωρούν πολλά εκατομμύρια ψηφοφόρους...
Όμως, τα data centers δεν αποτελούν το μοναδικό πρόβλημα του κλάδου της Τεχνητής Νοημοσύνης, αφού μία σειρά γεγονότων το τελευταίο διάστημα έχει φέρει στο προσκήνιο κάτι σημαντικότερο. Το θέμα της ασφάλειας αυτής της τεχνολογίας και το πώς θα πρέπει να το αντιμετωπίσουν οι εταιρείες αλλά και γενικότερα η κοινωνία και ίσως και η πολιτική εξουσία. Έχουν περάσει λιγότερο από δύο μήνες από τότε που έγινε γνωστό το επεισόδιο με την Hugging Face και η προσπάθεια των πρακτόρων (agents) της OpenAI να παραβιάσουν τα συστήματα ασφαλείας της εταιρείας (Πώς ένα μοντέλο AI γίνεται hacker παραβιάζοντας συστήματα ασφαλείας | Liberal.gr).
Από τότε μέχρι τώρα έχουν γίνει γνωστά αρκετά ακόμα παρόμοια ή και πιο βαριά επεισόδια, και αρκετές απόπειρες συστημάτων Τεχνητής Νοημοσύνης να παραβιάσουν συστήματα και να αποσπάσουν πληροφορίες. Αυτό που δημιουργεί τη μεγαλύτερη ανησυχία είναι το γεγονός πως οι διάφοροι agents που έχουν γεμίσει τον κυβερνοχώρο «δουλεύοντας» μέσα σε πάρα πολλά μοντέλα και εφαρμογές ΤΝ έχουν εκδηλώσει πολλές φορές τάσεις αυτονόμησης και συνεργασίας μεταξύ τους κινούμενα έξω από τα θεωρητικά «καθήκοντά» τους.
Αυτό που μεγαλώνει ακόμα περισσότερο τον προβληματισμό και την ανησυχία της κοινωνίας είναι το ότι την ίδια στιγμή συνεχίζεται η αλματώδης πρόοδος των μοντέλων ΤΝ τα οποία γίνονται όλο και πιο δυνατά και ταυτόχρονα δυνητικά επικίνδυνα. Την άνοιξη είχαμε το επεισόδιο με το Claude Mythos της Anthropic, το οποίο είχε κινητοποιήσει την κυβέρνηση των ΗΠΑ, την κεντρική τράπεζα της χώρας και τις ευρωπαϊκές αρχές λόγω των «τρομακτικών» ικανοτήτων του (Πώς το Anthropic Mythos τρομοκράτησε την διεθνή χρηματοοικονομική βιομηχανία | Liberal.gr).
Τα πράγματα ηρέμησαν σχετικά αφού η Anthropic αποφάσισε να μην το διαθέσει εμπορικά με τις πλήρεις δυνατότητές του αλλά έχουν περάσει πέντε μήνες και τα μοντέλα είναι ήδη πιο δυνατά και πολλοί υποστηρίζουν πως απέχουμε ελάχιστα από την δημιουργία μοντέλων ΤΝ που θα είναι πραγματικά πιο «έξυπνα» από τους ανθρώπους. Σαν να μην έφθαναν όλα αυτά, τις τελευταίες μέρες είχαμε και δηλώσεις στελεχών των μεγάλων εταιρειών του κλάδου σχετικά με τους κινδύνους που θα αντιμετωπίσουμε σύντομα καθώς η Τεχνητή Νοημοσύνη γίνεται όλο και πιο ικανή.
Δεν θα πούμε περισσότερα για αυτές τις δηλώσεις, θα μείνουμε όμως σε ό,τι είπε μιλώντας στο Odd Lots του Bloomberg ο Greg Jensen, επικεφαλής επενδυτικής στρατηγικής του τεράστιου hedge fund Bridgewater. Ο Jensen είπε πως η κατάσταση με τους κινδύνους της ΤΝ του θυμίζει τον Φεβρουάριο του 2020 όταν είχαν ξεκινήσει να φθάνουν στις ΗΠΑ τα νέα από την επέλαση του Covid ανά τον κόσμο και κανείς δεν έπαιρνε το παραμικρό μέτρο. Στην συνέχεια είπε πως οι κίνδυνοι από την ανεξέλεγκτη πρόοδο της ΤΝ είναι πραγματικοί και πολύ μεγάλοι και αν τα πράγματα μείνουν ως έχουν η ΤΝ σύντομα μπορεί να αρχίσει να σκοτώνει ανθρώπους.
Υποστήριξε πως πρέπει οπωσδήποτε να υπάρχει κάποια κρατική επίβλεψη των εταιρειών που πρωτοπορούν, προσθέτοντας πως αυτό μπορεί να βάλει φρένο στις ταχύτατες εξελίξεις αλλά δεν πρόκειται να στερήσει από τις ΗΠΑ την πρωτιά στον τομέα αφού και η Κίνα (και ιδίως το Κομμουνιστικό Κόμμα) δεν επιθυμεί σε καμία περίπτωση να υπάρχουν ανεξέλεγκτες δυνάμεις. Ο Jensen είπε όλα αυτά την Παρασκευή 11 Σεπτεμβρίου και μία μέρα μετά ο διευθύνων σύμβουλος της Anthropic Dario Amodei δήλωσε δημοσίως πως η εταιρεία του θα πάρει αμέσως μέτρα για την επιβράδυνση της προόδου στα μοντέλα της για να υπάρχει καλύτερος έλεγχος, με την συμμετοχή και τρίτων εκτός εταιρείας μερών, στα ζητήματα ασφαλείας.
Την ίδια μέρα και σχεδόν αμέσως, ο μεγάλος του εχθρός, ο Sam Altman της OpenAI αλλά και ο Elon Musk της xAI, δήλωσαν πως συμφωνούν με τον Amodei, χωρίς όμως να δώσουν πληροφορίες για το πώς θα αλλάξει ο τρόπος που προσεγγίζουν τα πράγματα.
Από το Σάββατο μέχρι σήμερα ειπώθηκαν, γράφτηκαν και ακούστηκαν πολλά στα οποία δεν είναι απαραίτητο να αναφερθούμε και πάλι διεξοδικά (Η απόλυτη σύγκρουση: Έλεγχος ή εκρηκτική ανάπτυξη; | Liberal.gr). Μπορούμε όμως να πούμε πως από όλα αυτά έχει φανεί ξεκάθαρα πως δεν υπάρχει ούτε υποψία ομοφωνίας για το θέμα, με την πολιτική ηγεσία των ΗΠΑ αλλά και της Κίνας, για διαφορετικούς λόγους η κάθε μία, να φαίνεται εξαιρετικά απίθανο να επιτρέψουν μία τέτοια εξέλιξη.
Είναι επίσης φανερό πως πολλές φωνές στον τεχνολογικό χώρο να θεωρούν υπερβολικές τις συνεχείς αναφορές σε υπαρξιακό κίνδυνο για την ανθρωπότητα και ότι οι πιο πολλές εταιρείες του τομέα της ΤΝ δεν έχουν καμία όρεξη να αυτοπεριοριστούν την στιγμή που ο δυνητικός κίνδυνος προέρχεται σχεδόν αποκλειστικά από τα πανάκριβα μοντέλα ΤΝ των μεγάλων του χώρου, αυτά που αποκαλούνται frontier models.
Και όλα αυτά τη στιγμή που πέρα από κάποιες αόριστες δηλώσεις του Amodei και των υπόλοιπων μεγάλων του κλάδου, δεν υπάρχει ακόμα τίποτα συγκεκριμένο στο τραπέζι. Έχοντας όλα αυτά στο μυαλό μας, δεν μας φαίνεται καθόλου παράλογη η άποψη της Parmy Olson του Bloomberg, η οποία σε άρθρο της την Δευτέρα υποστήριξε πως δεν πρέπει να περιμένουμε κάποια πραγματικά ουσιώδη επιβράδυνση του ρυθμού ανάπτυξης των μοντέλων τύπου frontier, προσθέτοντας μάλιστα πως κατά πάσα πιθανότητα θα συνεχιστεί η μεγάλη κούρσα της Τεχνητής Νοημοσύνης που έχει ξεκινήσει εδώ και μερικά χρόνια.
Αν έχει δίκιο η Olson, αυτό σημαίνει άραγε πως δεν θα αλλάξει ουσιαστικά η τωρινή κατάσταση στον τομέα της Τεχνητής Νοημοσύνης; Καθόλου απίθανο. Εκτός αν, επιστρέφοντας στα προεκλογικά που αναφέραμε στο ξεκίνημα, το ζήτημα ξεκαθαριστεί με αυτές τις εκλογές.
Το λέμε αυτό μετά και την παρέμβαση του πρώην προέδρου Μπαράκ Ομπάμα, ο οποίος μιλώντας σε εκδήλωση την προηγούμενη Πέμπτη 10/09, ζήτησε από τους υποψήφιους του Δημοκρατικού Κόμματος να βάλουν το θέμα της ασφάλειας της Τεχνητής Νοημοσύνης πολύ ψηλά στον προεκλογικό τους αγώνα και, στην περίπτωση που θα εξασφαλίσουν και πάλι τον έλεγχο της Βουλής των Αντιπροσώπων να περάσουν γρήγορα σχετικές νομοθετικές ρυθμίσεις (εδώ πρέπει να σημειώσουμε πως ο Ομπάμα πιστεύει γενικά πως η Τεχνητή Νοημοσύνη μπορεί να φέρει πολύ καλά πράγματα, όχι όμως ανεξέλεγκτη).
Θα αποφασίσουν λοιπόν οι Αμερικανοί πολίτες για το αν η Τεχνητή Νοημοσύνη θα πρέπει να τεθεί κάτω από αυστηρή επιτήρηση στα θέματα ασφαλείας και για το αν τα data centers πρέπει να πάψουν να φυτρώνουν σχεδόν ανεξέλεγκτα; Ακούγεται ίσως τραβηγμένο, καθώς το ζήτημα είναι τεχνικά πολύπλοκο και ελάχιστοι πολίτες μπορεί να το κατανοούν πλήρως, από την άλλη όμως το ίδιο δεν ισχύει για ένα πλήθος θεμάτων σε κάθε εκλογική αναμέτρηση ανά τον κόσμο;
Καθώς πλησιάζουμε στις ενδιάμεσες εκλογές του Νοεμβρίου, το ζήτημα απασχολεί πλέον σοβαρά την προεκλογική εκστρατεία και πολλοί κυβερνήτες έχουν ήδη αρχίσει να αλλάζουν στάση. Η κυβερνήτης της Νέας Υόρκης έχει ήδη αποφασίσει την επιβολή περιορισμών στης δημιουργία νέων data centers αλλά το ενδιαφέρον είναι πως δύο ρεπουμπλικάνοι κυβερνήτες πολύ στενά δεμένοι με τον Λευκό Οίκο, οι κυβερνήτες της Φλόριντα και του Τέξας, έχουν αρχίσει και αυτοί να κινούνται προς την ίδια κατεύθυνση.
Είναι φανερό πως το ζήτημα θα αποτελέσει ένα από τα πολύ σημαντικά της προεκλογικής περιόδου, καθώς η αύξηση της τιμής του ηλεκτρικού ρεύματος, η χρήση τεράστιων ποσοτήτων νερού και γενικά οι μεγάλες αλλαγές που δυσκολεύουν την ζωή των κατοίκων των περιοχών στις οποίες κατασκευάζονται τα data centers, ενοχλούν και ταλαιπωρούν πολλά εκατομμύρια ψηφοφόρους...
Όμως, τα data centers δεν αποτελούν το μοναδικό πρόβλημα του κλάδου της Τεχνητής Νοημοσύνης, αφού μία σειρά γεγονότων το τελευταίο διάστημα έχει φέρει στο προσκήνιο κάτι σημαντικότερο. Το θέμα της ασφάλειας αυτής της τεχνολογίας και το πώς θα πρέπει να το αντιμετωπίσουν οι εταιρείες αλλά και γενικότερα η κοινωνία και ίσως και η πολιτική εξουσία. Έχουν περάσει λιγότερο από δύο μήνες από τότε που έγινε γνωστό το επεισόδιο με την Hugging Face και η προσπάθεια των πρακτόρων (agents) της OpenAI να παραβιάσουν τα συστήματα ασφαλείας της εταιρείας (Πώς ένα μοντέλο AI γίνεται hacker παραβιάζοντας συστήματα ασφαλείας | Liberal.gr).
Από τότε μέχρι τώρα έχουν γίνει γνωστά αρκετά ακόμα παρόμοια ή και πιο βαριά επεισόδια, και αρκετές απόπειρες συστημάτων Τεχνητής Νοημοσύνης να παραβιάσουν συστήματα και να αποσπάσουν πληροφορίες. Αυτό που δημιουργεί τη μεγαλύτερη ανησυχία είναι το γεγονός πως οι διάφοροι agents που έχουν γεμίσει τον κυβερνοχώρο «δουλεύοντας» μέσα σε πάρα πολλά μοντέλα και εφαρμογές ΤΝ έχουν εκδηλώσει πολλές φορές τάσεις αυτονόμησης και συνεργασίας μεταξύ τους κινούμενα έξω από τα θεωρητικά «καθήκοντά» τους.
Αυτό που μεγαλώνει ακόμα περισσότερο τον προβληματισμό και την ανησυχία της κοινωνίας είναι το ότι την ίδια στιγμή συνεχίζεται η αλματώδης πρόοδος των μοντέλων ΤΝ τα οποία γίνονται όλο και πιο δυνατά και ταυτόχρονα δυνητικά επικίνδυνα. Την άνοιξη είχαμε το επεισόδιο με το Claude Mythos της Anthropic, το οποίο είχε κινητοποιήσει την κυβέρνηση των ΗΠΑ, την κεντρική τράπεζα της χώρας και τις ευρωπαϊκές αρχές λόγω των «τρομακτικών» ικανοτήτων του (Πώς το Anthropic Mythos τρομοκράτησε την διεθνή χρηματοοικονομική βιομηχανία | Liberal.gr).
Τα πράγματα ηρέμησαν σχετικά αφού η Anthropic αποφάσισε να μην το διαθέσει εμπορικά με τις πλήρεις δυνατότητές του αλλά έχουν περάσει πέντε μήνες και τα μοντέλα είναι ήδη πιο δυνατά και πολλοί υποστηρίζουν πως απέχουμε ελάχιστα από την δημιουργία μοντέλων ΤΝ που θα είναι πραγματικά πιο «έξυπνα» από τους ανθρώπους. Σαν να μην έφθαναν όλα αυτά, τις τελευταίες μέρες είχαμε και δηλώσεις στελεχών των μεγάλων εταιρειών του κλάδου σχετικά με τους κινδύνους που θα αντιμετωπίσουμε σύντομα καθώς η Τεχνητή Νοημοσύνη γίνεται όλο και πιο ικανή.
Δεν θα πούμε περισσότερα για αυτές τις δηλώσεις, θα μείνουμε όμως σε ό,τι είπε μιλώντας στο Odd Lots του Bloomberg ο Greg Jensen, επικεφαλής επενδυτικής στρατηγικής του τεράστιου hedge fund Bridgewater. Ο Jensen είπε πως η κατάσταση με τους κινδύνους της ΤΝ του θυμίζει τον Φεβρουάριο του 2020 όταν είχαν ξεκινήσει να φθάνουν στις ΗΠΑ τα νέα από την επέλαση του Covid ανά τον κόσμο και κανείς δεν έπαιρνε το παραμικρό μέτρο. Στην συνέχεια είπε πως οι κίνδυνοι από την ανεξέλεγκτη πρόοδο της ΤΝ είναι πραγματικοί και πολύ μεγάλοι και αν τα πράγματα μείνουν ως έχουν η ΤΝ σύντομα μπορεί να αρχίσει να σκοτώνει ανθρώπους.
Υποστήριξε πως πρέπει οπωσδήποτε να υπάρχει κάποια κρατική επίβλεψη των εταιρειών που πρωτοπορούν, προσθέτοντας πως αυτό μπορεί να βάλει φρένο στις ταχύτατες εξελίξεις αλλά δεν πρόκειται να στερήσει από τις ΗΠΑ την πρωτιά στον τομέα αφού και η Κίνα (και ιδίως το Κομμουνιστικό Κόμμα) δεν επιθυμεί σε καμία περίπτωση να υπάρχουν ανεξέλεγκτες δυνάμεις. Ο Jensen είπε όλα αυτά την Παρασκευή 11 Σεπτεμβρίου και μία μέρα μετά ο διευθύνων σύμβουλος της Anthropic Dario Amodei δήλωσε δημοσίως πως η εταιρεία του θα πάρει αμέσως μέτρα για την επιβράδυνση της προόδου στα μοντέλα της για να υπάρχει καλύτερος έλεγχος, με την συμμετοχή και τρίτων εκτός εταιρείας μερών, στα ζητήματα ασφαλείας.
Την ίδια μέρα και σχεδόν αμέσως, ο μεγάλος του εχθρός, ο Sam Altman της OpenAI αλλά και ο Elon Musk της xAI, δήλωσαν πως συμφωνούν με τον Amodei, χωρίς όμως να δώσουν πληροφορίες για το πώς θα αλλάξει ο τρόπος που προσεγγίζουν τα πράγματα.
Από το Σάββατο μέχρι σήμερα ειπώθηκαν, γράφτηκαν και ακούστηκαν πολλά στα οποία δεν είναι απαραίτητο να αναφερθούμε και πάλι διεξοδικά (Η απόλυτη σύγκρουση: Έλεγχος ή εκρηκτική ανάπτυξη; | Liberal.gr). Μπορούμε όμως να πούμε πως από όλα αυτά έχει φανεί ξεκάθαρα πως δεν υπάρχει ούτε υποψία ομοφωνίας για το θέμα, με την πολιτική ηγεσία των ΗΠΑ αλλά και της Κίνας, για διαφορετικούς λόγους η κάθε μία, να φαίνεται εξαιρετικά απίθανο να επιτρέψουν μία τέτοια εξέλιξη.
Είναι επίσης φανερό πως πολλές φωνές στον τεχνολογικό χώρο να θεωρούν υπερβολικές τις συνεχείς αναφορές σε υπαρξιακό κίνδυνο για την ανθρωπότητα και ότι οι πιο πολλές εταιρείες του τομέα της ΤΝ δεν έχουν καμία όρεξη να αυτοπεριοριστούν την στιγμή που ο δυνητικός κίνδυνος προέρχεται σχεδόν αποκλειστικά από τα πανάκριβα μοντέλα ΤΝ των μεγάλων του χώρου, αυτά που αποκαλούνται frontier models.
Και όλα αυτά τη στιγμή που πέρα από κάποιες αόριστες δηλώσεις του Amodei και των υπόλοιπων μεγάλων του κλάδου, δεν υπάρχει ακόμα τίποτα συγκεκριμένο στο τραπέζι. Έχοντας όλα αυτά στο μυαλό μας, δεν μας φαίνεται καθόλου παράλογη η άποψη της Parmy Olson του Bloomberg, η οποία σε άρθρο της την Δευτέρα υποστήριξε πως δεν πρέπει να περιμένουμε κάποια πραγματικά ουσιώδη επιβράδυνση του ρυθμού ανάπτυξης των μοντέλων τύπου frontier, προσθέτοντας μάλιστα πως κατά πάσα πιθανότητα θα συνεχιστεί η μεγάλη κούρσα της Τεχνητής Νοημοσύνης που έχει ξεκινήσει εδώ και μερικά χρόνια.
Αν έχει δίκιο η Olson, αυτό σημαίνει άραγε πως δεν θα αλλάξει ουσιαστικά η τωρινή κατάσταση στον τομέα της Τεχνητής Νοημοσύνης; Καθόλου απίθανο. Εκτός αν, επιστρέφοντας στα προεκλογικά που αναφέραμε στο ξεκίνημα, το ζήτημα ξεκαθαριστεί με αυτές τις εκλογές.
Το λέμε αυτό μετά και την παρέμβαση του πρώην προέδρου Μπαράκ Ομπάμα, ο οποίος μιλώντας σε εκδήλωση την προηγούμενη Πέμπτη 10/09, ζήτησε από τους υποψήφιους του Δημοκρατικού Κόμματος να βάλουν το θέμα της ασφάλειας της Τεχνητής Νοημοσύνης πολύ ψηλά στον προεκλογικό τους αγώνα και, στην περίπτωση που θα εξασφαλίσουν και πάλι τον έλεγχο της Βουλής των Αντιπροσώπων να περάσουν γρήγορα σχετικές νομοθετικές ρυθμίσεις (εδώ πρέπει να σημειώσουμε πως ο Ομπάμα πιστεύει γενικά πως η Τεχνητή Νοημοσύνη μπορεί να φέρει πολύ καλά πράγματα, όχι όμως ανεξέλεγκτη).
Θα αποφασίσουν λοιπόν οι Αμερικανοί πολίτες για το αν η Τεχνητή Νοημοσύνη θα πρέπει να τεθεί κάτω από αυστηρή επιτήρηση στα θέματα ασφαλείας και για το αν τα data centers πρέπει να πάψουν να φυτρώνουν σχεδόν ανεξέλεγκτα; Ακούγεται ίσως τραβηγμένο, καθώς το ζήτημα είναι τεχνικά πολύπλοκο και ελάχιστοι πολίτες μπορεί να το κατανοούν πλήρως, από την άλλη όμως το ίδιο δεν ισχύει για ένα πλήθος θεμάτων σε κάθε εκλογική αναμέτρηση ανά τον κόσμο;
Εδώ που τα λέμε, είμαστε σίγουροι πως οι πολιτικοί αντιλαμβάνονται καλύτερα το θέμα;
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου