Οι κίνδυνοι της τεχνητής νοημοσύνης στα πλαίσια της ελεύθερης αγοράς

Οι κίνδυνοι της τεχνητής νοημοσύνης στα πλαίσια της ελεύθερης αγοράς

Την τελευταία δεκαετία, και ιδιαίτερα τα τελευταία πέντε χρόνια, η τεχνολογία τεχνητής νοημοσύνης (AI) γνώρισε ραγδαία αύξηση, χάρη των εξελικτικών δομών που χρησιμοποιεί. Η AI κυριαρχεί στις βιομηχανίες υψηλής τεχνολογίας, παρέχοντας τη βάση τεχνολογιών που κυμαίνονται από αυτοκινούμενα αυτοκίνητα μέχρι και μαζική αναγνώριση προσώπων σε μεγάλη κλίμακα. Έχει χρησιμοποιηθεί ακόμη και από την Deepmind (θυγατρική της Google) και την εταιρεία OpenAI του Elon Musk για να κυριαρχήσει τα εξαιρετικά περίπλοκα παιχνίδια όπως  Starcraft 2 και DOTA 2, κερδίζοντας τους καλύτερους επαγγελματίες παίκτες στον κόσμο.

Πράγματι, ένας κορυφαίος επιστήμονας της τεχνητής νοημοσύνης και ο πρώην επικεφαλής επιστήμονας του Baidu (το “κινεζικό” Google), Andrew Ng, υποστηρίζει για βάσιμους λόγους ότι «η τεχνητή νοημοσύνη είναι η νέα ηλεκτρική ενέργεια». Δεν προκαλεί έκπληξη, λοιπόν, ότι το AI έχει προσελκύσει σημαντική προσοχή από μερικούς από τους πιο ισχυρούς ανθρώπους στον κόσμο. Ο Ρώσος πρόεδρος Βλαντιμίρ Πούτιν μιλώντας  το 2017 με μαθητές σχετικά με την επιστήμη δήλωσε ,

“Η τεχνητή νοημοσύνη είναι το μέλλον, όχι μόνο για τη Ρωσία, αλλά για όλη την ανθρωπότητα, Έρχεται με κολοσσιαίες ευκαιρίες, αλλά και απειλές που είναι δύσκολο να προβλεφθούν. Όποιος γίνει ο ηγέτης σε αυτόν τον τομέα, θα γίνει ο κυβερνήτης του κόσμου”.

Και αυτό το συναίσθημα μοιράζεται ο δισεκατομμυριούχος Elon Musk, ο οποίος  δηλωσε για την περίπτωση της AI,

“[Πρέπει] να υπάρχει ένας δημόσιος οργανισμός που έχει διορατικότητα και έπειτα εποπτεία για να επιβεβαιώσει ότι όλοι αναπτύσσουν AI με ασφάλεια. Αυτό είναι εξαιρετικά σημαντικό. Νομίζω ότι ο κίνδυνος της τεχνητής νοημοσύνης είναι πολύ μεγαλύτερος από τον κίνδυνο πυρηνικών κεφαλών από πολλούς και κανείς δεν θα πρότεινε να επιτρέψουμε σε οποιονδήποτε να κατασκευάσει πυρηνικές κεφαλές αν θέλει. Αυτό θα ήταν παράλογο…”

Λοιπόν, τι ακριβώς είναι τόσο επικίνδυνο και ισχυρό για την τεχνολογία AI; Ο Musk ανησυχεί ότι ένα υπερ-έξυπνο  μοντέλο AI θα επικρατήσει στον κόσμο. Θα περίμενε κανείς ότι κάποιος τόσο εξοικειωμένος με  την ανάπτυξη τεχνολογίας AI θα ήταν πιο ώριμος, παρά να ανησυχεί για το εξαιρετικά απίθανο σενάριο (σύμφωνα με τους ειδικούς) σούπερ-έξυπνων ρομπότ δολοφόνων,που περισσότερο μοιάζει με σενάριο επιστημονικής φαντασίας. Πιθανότατα, ο Musk δεν ενδιαφέρεται για τις πραγματικές υλικές επιπτώσεις που θα έχει η ανάπτυξη της τεχνητής νοημοσύνης σε δισεκατομμύρια εργαζομένων, όπως θα συζητήσουμε σε αυτό το άρθρο.


 

Τι κάνει την τεχνολογία AI ισχυρή;

Η εκθετική αύξηση της ισχύος της τεχνολογίας AI οφείλεται σε μεγάλο βαθμό στη θεωρητική ανάπτυξη της βαθιάς μάθησης(deep learning), σε συνδυασμό με την αυξημένη υπολογιστική ισχύ που γνωρίζει αυτος ο αιώνας και την πρόσβαση στα λεγόμενα “μεγάλα δεδομένα”(Βig Data). 

Η βαθιά μάθηση βασίζεται σε αρχιτεκτονικές νευρωνικών δικτύων, μια μεγάλη σειρά μη γραμμικών συναρτήσεων που είναι ικανές (θεωρητικά) να προσεγγίσουν οποιαδήποτε λειτουργία του πραγματικού κόσμου, παρατηρώντας την. Με άλλα λόγια, δεδομένου ενός τεράστιου όγκου δεδομένων, τα νευρικά δίκτυα μπορούν να μάθουν να αποκαλύπτουν τα μοτίβα σε αυτά τα δεδομένα. Αυτό περιλαμβάνει την εκμάθηση μετάφρασης μεταξύ γλωσσών, την εκμάθηση να παίζετε το περίπλοκο αρχαίο επιτραπέζιο παιχνίδι Go καλύτερα από τους καλύτερους παίκτες στον κόσμο, και να σε ξεχωρίζουν από τα πρόσωπα των φίλων σου στα κοινωνικά μέσα.

Αυτή η τεχνολογία μπόρεσε να προχωρήσει σε μεγάλο βαθμό λόγω της θεμελιώδους έρευνας δύο Καναδών επιστημόνων: Geoffrey Hinton (εφευρέτης του αλγορίθμου εκμάθησης που ονομάζεται back propagation) και Yoshua Bengio (εφευρέτης πολλών διαφορετικών χρήσιμων αρχιτεκτονικών νευρωνικών δικτύων). Ο Bengio έχει λάβει περισσότερες αναφορές στην επιστημονική βιβλιογραφία τα τελευταία πέντε χρόνια,  από ό, τι Ο Άλμπερτ Αϊνστάιν τα τελευταία 120 χρόνια και ο Hinton έχει υπερδιπλασιάσες αναφορές απο τον πρώτο..

Τα θεωρητικά τους επιτεύγματα κατάφεραν να πραγματοποιηθούν στην πράξη λόγω των εξελίξεων στην τεχνολογία των υπολογιστών, χωρίς την οποία θα ήταν αδύνατο να εφαρμοστεί η βαθιά μάθηση. Σχετικά με τον τρόπο εξόρυξης Bitcoins με επεξεργαστές γραφικών (GPU), η βαθιά μάθηση αξιοποιεί επίσης GPU για την εκπαίδευση αλγορίθμων AI πάνω από 200 φορές πιο γρήγορα από ό, τι έναν αντίστοιχης τεχνολογίας κεντρικό επεξεργαστή (CPU). Η εταιρεία Nvidia αναπτύσσει αυτήν την τεχνολογία και έχει ένα εικονικό μονοπώλιο με 81,2% του μεριδίου αγοράς για GPU. Αυτό οδηγεί σε απίστευτα υψηλές τιμές και τα πανεπιστήμια πρέπει να τα πληρώσουν για να αναπτύξουν τα εργαστήριά τους, ώστε να είναι ανταγωνιστικά στην επιστημονική κοινότητα, καθότι η έρευνα στην ελεύθερη αγορά, είναι προιόν ανταγωνισμού, και τα περισσότερα ερευνητικά ιδρύματα δεν είναι κρατικοδίαιτα.

Ωστόσο, ίσως το πιο αποφασιστικό στην καλλιέργεια της δύναμης της βαθιάς μάθησης και των προηγμένων GPU είναι η έλευση των μεγάλων δεδομένων. Το Διαδίκτυο επιτρέπει πλέον τη συλλογή και εξαγωγή τεράστιων ποσοτήτων δεδομένων από εταιρείες και ερευνητές. Τα πάντα, από το κείμενο στη Βικιπαίδεια, έως εικόνες προσώπων στα μέσα κοινωνικής δικτύωσης, έως το ιστορικό αγορών, είναι όλα τα δεδομένα που χρησιμοποιούνται από εταιρείες και ερευνητές για να μάθουν περίπλοκα μη γραμμικά πρότυπα ανθρώπινης συμπεριφοράς. Χωρίς δεδομένα, τα νευρικά δίκτυα δεν μπορούν να μάθουν.

Στην Κίνα ειδικά αυτό έχει εισαχθεί σε πρωτοφανή βαθμό λόγω της έλλειψης εγγυήσεων για την προστασία της ιδιωτικής ζωής στους πολίτες της. Σύμφωνα με τον επιχειρηματία Kai-Fu Lee, το WeChat είναι πλέον μια «καθολική εφαρμογή κοινωνικών μέσων» που συλλέγει και συγκεντρώνει όλα τα δεδομένα που κυμαίνονται από την επικοινωνία, τα μεμονωμένα προφίλ, έως τις πληρωμές καταναλωτών με κωδικούς QR. Όλα αυτά τα δεδομένα χρησιμοποιούνται και θα συνεχίσουν να χρησιμοποιούνται για την εξαγωγή και την πρόβλεψη ολοένα και πιο περίπλοκων μοτίβων ανθρώπινης συμπεριφοράς, από τη δραστηριότητα της αγοράς έως την πολιτική κατανόηση έως τις φιλικές αλληλεπιδράσεις.

Συνοπτικά, η ισχύς του AI προέρχεται από νέους αλγόριθμους, νέα τεχνολογία υπολογιστών και τεράστιες ποσότητες εύκολα διαθέσιμων δεδομένων.


 

 

Οι πραγματικές επιπτώσεις της τεχνητής νοημοσύνης

Κανένας ειδικός στο AI δεν πιστεύει ότι η Tεχνητή Νοημοσύνη θα κυριαρχήσει την ανθρωπότητα σύντομα (ή πιθανότατα ποτέ), παρά την προδιάθεση του Elon Musk για σενάρια επιστημονικής φαντασίας. Πραγματικές, άμεσες συνέπειες, ωστόσο, είναι οι τυπικές συνέπειες αυτού, που οι μαρξιστές αποκαλούν, ανάπτυξη των μέσων παραγωγής. 

Πράγματι, η τεχνητή νοημοσύνη παίζει αναπόσπαστο ρόλο (μαζί με άλλες σημαντικές τεχνολογίες όπως η κβαντική πληροφορική) για την προώθηση ενός νέου τεχνολογικού σταδίου στην ανθρώπινη ιστορία, που  επιστήμονες και οικονομολόγοι αποκαλούν την «τέταρτη βιομηχανική επανάσταση». Η Παγκόσμια εταιρεία συμβούλων McKinsey & Company πρόσφατα δημοσίευσε μια έκθεση που αναφέρει ότι, ενώ η εισαγωγή ατμομηχανών προσέφερε αύξηση 0,3% στην ετήσια αύξηση του ΑΕΠ μεταξύ 1850 και 1910, αναμένουν ότι η AI θα αυξήσει την ετήσια αύξηση του ΑΕΠ κατά 0,8-1,4% έως το 2065. Μια άλλη μαζική εταιρεία συμβούλων, Η Accenture, προβλέπει ότι η AI θα προσφέρει ώθηση 14-τρισεκατομμυρίων δολαρίων στο παγκόσμιο ΑΕΠ έως το 2035.

Ωστόσο, αυτές οι προβλέψεις δε πρέπει να αφομοιώνονται και να αναπαράγονται άκριτα και ελλείψη τεκμηριώσεων. Στον καπιταλισμό, η ανάπτυξη των μέσων παραγωγής συνοδεύεται πάντα από απώλειες θέσεων εργασίας και η τεχνητή νοημοσύνη δεν αποτελεί εξαίρεση. Ο Kai-Fu Lee, ο οποίος σίγουρα δεν είναι μαρξιστής (αλλά πολύ πιο νηφάλιος από τον Elon Musk!) Προβλέπει: 

“Καθώς η βαθιά μάθηση ξεπλένει την παγκόσμια οικονομία, πράγματι θα εξαλείψει δισεκατομμύρια θέσεις εργασίας πάνω και κάτω από την οικονομική σκάλα: λογιστές, εργάτες της γραμμής συναρμολόγησης, χειριστές αποθήκης, αναλυτές αποθεμάτων, επιθεωρητές ποιοτικού ελέγχου, φορτηγά, paralegals, ακόμη και ακτινολόγοι, για να αναφέρουμε μόνο μερικά. … Η αύξηση σε συνδυασμό με την ανεργία θα επιφέρει αστρονομικός πλούτος στα χέρια των νέων μεγιστάνων AI [π.χ. Google, Facebook, κ.λπ.]. … [Θα] αρχίσουμε να βλέπουμε μεγαλύτερη και μεγαλύτερη συγκέντρωση αυτών των αστρονομικών ποσών στα χέρια μερικών, όλα ενώ οι γραμμές ανεργίας μεγαλώνουν.”

“Η παγκόσμια τάξη τεχνητής νοημοσύνης θα συνδυάσει τα οικονομικά νικητής-λήψης όλων [δηλαδή, τον καπιταλισμό!] Με μια άνευ προηγουμένου συγκέντρωση πλούτου στα χέρια μερικών εταιρειών στην Κίνα και τις Ηνωμένες Πολιτείες. Αυτή, [πιστεύει ο Lee], είναι η πραγματική υποκείμενη απειλή που δημιουργεί η τεχνητή νοημοσύνη: τεράστια κοινωνική αναταραχή και πολιτική κατάρρευση που προκύπτει από την εκτεταμένη ανεργία και την κενή ανισότητα. “                                                                                                                                          [AI Superpowers, 2018, σελ. 53-58]

Με άλλα λόγια, στα πλαίσια της ελεύθερης αγοράς, το AI σημαίνει ότι οι πλούσιοι γίνονται πλουσιότεροι ενώ οι εργαζόμενοι βιώνουν  αυξημένη εκμετάλλευση, ανεργία και έρχονται αντιμέτωποι με το  γνωστό πλέον “πακέτο μέτρων” για την πρόληψη μιας πιθανής νέας και βαθύτερης οικονομικής κρίσης.

Επίσης, σε αντίθεση με όσα προβλέπουν πολλοί, η ευρεία εισαγωγή της τεχνητής νοημοσύνης δεν θα οδηγήσει σε ανάλογα επίπεδα ανάπτυξης. Σε μια εποχή οικονομικής κρίσης όπως αυτή που ζούμε σήμερα και αναμένεται να βιώσουμε εντονότερα μέχρι τη πλήρη αντιμετώπιση της πανδημίας, οι εταιρίες είναι ανίκανες να χρησιμοποιήσουν τις εκπληκτικές τεχνολογικές εξελίξεις για να επιτύχουν οικονομική ανάπτυξη. Το γεγονός είναι ότι υπάρχουν ήδη ιστορικά χαμηλά ποσοστά αυτού που είναι γνωστό ως «αξιοποίηση της παραγωγικής ικανότητας», που σημαίνει ότι οι καπιταλιστές δεν είναι ήδη σε θέση να χρησιμοποιήσουν την παραγωγική ικανότητα στη διάθεσή τους.

Αυτό συμβαίνει επειδή το οικονομικό μοντέλος που εφαρμόζεται παγκόσμια (βλ. Καπιταλισμός) είναι φορτωμένος με μια κρίση υπερπαραγωγής. Η εισαγωγή της τεχνητής νοημοσύνης θα επιδεινώσει αυτό μόνο κάνοντας εκατομμύρια θέσεις εργασίας ξεπερασμένες, μειώνοντας έτσι την καταναλωτική αγορά. Αυτό είναι το θεμελιώδες εμπόδιο για την ανάπτυξη σήμερα. Εάν οι εταιρείες δεν μπορούν να πουλήσουν τα προϊόντα τους, δεν θα επενδύσουν και η οικονομία θα εισέλθει σε κρίση. Μόνο κάτω από μια ένα κοινωνικό-οικονομικό μοντέλο , βασισμένο αυστηρά στις ανάγκες της εκάστοτε κοινωνίας, όπου πρωταρχικό κριτήριο που θα καθιστούσε εφικτή μια δαπάνη/επένδυση θα ήταν η εξέλιξη της κοινωνίας συνολικά, θα μπορούσαμε να αξιοποιήσουμε το εκπληκτικό δυναμικό της τεχνητής νοημοσύνης προς όφελος όλων.


 

Επιπτώσεις της τεχνητής νοημοσύνης σήμερα

Δεν χρειάζεται να περιμένουμε το μέλλον για να δούμε πώς θα μας επηρεάσει η τεχνητή νοημοσύνη – παίζει ήδη αναστατωτικό ρόλο στη ζωή των εργαζομένων. Αντιμετωπίζουμε πρωτοφανή επίπεδα παραβίασης απορρήτου: από συστηματική παρακολούθηση μέσω κάμερας με ακριβή τεχνολογία αναγνώρισης προσώπου, έως σιωπηρή προκατάληψη και ρατσισμός σε αλγόριθμους που χρησιμοποιούνται για σκοπούς όπως η πιστοληπτική αξιολόγηση και το σύστημα ποινικής δικαιοσύνης. Πράγματι, ένας αλγόριθμος μπορεί να εκδώσει μεγαλύτερη ποινή φυλάκισης σε ένα μαύρο άτομο, επειδή τα δεδομένα υποδηλώνουν ότι «είναι πιο πιθανό να επαναπροσέλθουν». Επιπλέον, κάθε άτομο που χρησιμοποιεί τα μέσα κοινωνικής δικτύωσης γνωρίζει καλά ότι όλα όσα κάνουν παρακολουθούνται από τις διαφημιστικές εταιρείες σε έναν ανατριχιαστικό βαθμό. Αυτό συμβαίνει επειδή όλα τα δεδομένα σας (σας αρέσουν, δεν μου αρέσουν, το ιστορικό αγορών κ.λπ.) είναι καταγεγραμμένα και μονοπωλούνται από ιδιωτικές εταιρείες όπως το Google και το Facebook. 

Η τεχνητή νοημοσύνη ενθαρρύνει επίσης την εκμετάλλευση μεγάλης κλίμακας σε νέες μορφές. Υπενθυμίζοντας ότι αυτοί οι αλγόριθμοι τεχνητής νοημοσύνης απαιτούν τεράστιες ποσότητες δεδομένων με ανθρώπινη σήμανση για να λειτουργήσουν καλά, δεν προκαλεί έκπληξη το γεγονός ότι το εξαιρετικά μυαλό έργο της λεγόμενης «data farming» έχει γίνει μια νέα, εξέχουσα πηγή εισοδήματος για ιδιωτικές εταιρείες. Οι νεοσύστατες εταιρείες AI στη Φινλανδία έχουν υιοθετήσει τη δημιουργική επιχειρηματική στρατηγική της πρόσληψη εργαζομένων στις φυλακές για  να κάνουν τη συλλογή δεδομένων. Εν τω μεταξύ, η Amazon δημιούργησε το “Amazon Mechanical Turk” ως πλατφόρμα για την ακραία εκμετάλλευση των ανθρώπων για τη συλλογή δεδομένων για εταιρείες και πανεπιστήμια, με κίνητρο τα δυο δολλάρια την ώρα, από την ασφάλεια του οικιακού υπολογιστή σας. Στην Κίνα, τα «εργοστάσια δεδομένων» είναι σύμφυτο με την καθημερινότητα των εργαζομένων, και οι εργαζόμενοί τους κερδίζουν μεταξύ 10-20 γιουάν (1,47-2,94 $) ανά ώρα.

Εν τω μεταξύ, οι διευθύνοντες σύμβουλοι μεγάλων τεχνολογικών εταιρειών αγοράζουν τα δικά τους ιδιωτικά νησιά και οι εταιρείες τους προσσεγγίζουν περιθώρια κέρδους 20, 30 και 40 τοις εκατό.


 

Η πείρα της 1ης Βιομηχανικής Επανάστασης, οδηγός για την 4η Βιομηχανική επανάσταση. 

Ως πρώτο ένστικτο πολλών εργαζομένων μπορεί να είναι απλώς να απαλλαγούμε εντελώς από την τεχνητή νοημοσύνη, να καταστρέψουμε τους υπολογιστές και να αποτρέψουμε την κατάργηση των εργασιών μας.Στην καλύτερη περίπτωση, αυτό μπορεί να χρησιμεύσει μόνο για να καθυστερήσει στιγμιαία την εμφάνιση μιας νέας τεχνολογίας.

Τον 19ο αιώνα, η οργή των εργαζομένων χαρακτηρίστηκε από καταστροφή εργοστασιακού εξοπλισμού σε ένδειξη διαμαρτυρίας για τις θλιβερές συνθήκες εργασίας τους, αλλά αυτό δεν έκανε τίποτα για να σταματήσει τη βιομηχανική επανάσταση.

Ένα γνήσιο εργατικό κίνημα δεν θα απαιτούσε την εξάλειψη αυτής της τεχνολογίας, αλλά την κατάσχεση των μέσων παραγωγής από την εργατική τάξη. Εάν ελέγξουμε δημοκρατικά αυτήν την τεχνολογία, τότε θα μπορούσε να χρησιμοποιηθεί για το συλλογικό όφελος της κοινωνίας στο σύνολό της.

Για παράδειγμα, καθώς η AI βελτιώνει την παραγωγικότητα, θα μπορούσαμε απλώς να μειώσουμε την εβδομάδα εργασίας ανάλογα με την αύξηση της παραγωγικότητας και όχι να αυξήσουμε την ανεργία!

Όμως, δεν μπορείτε να ελέγξετε αυτό που δεν σας ανήκει. Επί του παρόντος, μόνο λίγοι δισεκατομμυριούχοι και εταιρείες αποκομίζουν τα περισσότερα από τα οφέλη της νέας τεχνολογίας, ενώ εκατομμύρια γίνονται άνεργοι και πεινασμένοι.

Ως ανάπτυξη των μέσων παραγωγής, οι τεχνολογικές δυνάμεις και ευκαιρίες που προσφέρει η AI θα μπορούσαν να χρησιμοποιηθούν και να αξιοποιηθούν για κοινωνικό αγαθό μεγάλης κλίμακας. Αντί να καθορίσει τον καλύτερο αλγόριθμο για τη διαφήμιση selfie sticks, το AI θα μπορούσε να χρησιμοποιηθεί για να διευκολύνει τον οικονομικό σχεδιασμό μεγάλης κλίμακας για την κάλυψη των αναγκών της πλειοψηφίας.

Πράγματι, μια μορφή κεντρικού προγραμματισμού έχει ήδη εφαρμοστεί σε μεγάλα μονοπώλια όπως Walmart και Amazon (που έχουν μεγαλύτερο ΑΕγχΠ από πολλές μικρές χώρες). Αυτές οι εταιρείες αναγνωρίζουν ότι αυτή η μορφή είναι η πιο αποτελεσματική και κερδοφόρα μέθοδος, με τη διαφορά ότι ο συγκεκριμένου τύπου προγραμματισμός, εφαρμόζεται σε κάθε εταιρία ξεχωριστά, και τα κέρδη που προκύπτουν, ωφελούν τους ιδιοκτήτες της εκάστοτε εταιρίας.

Είναι τρομακτικό να αναλογιστούμε, τι ώφελος θα προέκυπτε, αν ο Κεντρικός Προγραμματισμός, εφαρμοζόταν σε επίπεδο κράτους, πρός ώφελος τον πολιτών.

Εν ολίγοις, Η τεχνητή νοημοσύνη και οι όποιες πτυχές της εξελιξής της, αποτελούν θαυμαστά τεχνολογικά επιτεύγματα της ανθρωπότητας, είναι εργαλέια φτιαγμένα απο ανθρώπους για ανθρώπους. Απο μόνα τους τα εργαλεία, δεν αποτελούν κάτι καλό ή κακό. Η χρήση αυτών και το κοινωνικό-οικονομικό μοντέλο των κοινωνίων που θα αξιοποιηθούν, είναι τα κριτήρια για να αποφασίσουμε, αν είμαστε υπέρ η κατά.

Στα πλαίσια της ελεύθερης αγοράς, φαίνεται οτι η αξιοποίηση τους, περιορίζεται απο τις βασικές αντιθέσεις που χαρακτηρίζουν την ίδια την ελεύθερη αγορά. Ενώ αν υπήρχε ένα ανθρωποκέντρικο κοινωνικό-οικονομικό μοντέλο στο οποίο θα εφαρμοζόντουσαν, τα ωφέλη για το σύνολο των μελών της κοινωνίας, θα ήταν ασύγκριτο, και πιθανώς χωρίς περιορισμούς.

Τώρα ένα ερώτημα που γεννάται, είναι πόσο ελεύθερη μπορεί να είναι μια αγορά, που εγκλωβίζει την εξέλιξη ανάμεσα στους ανταγωνισμούς των εταιρειών?

9/2020

Β.Δ. 

Google+ Linkedin

Αφήστε μια απάντηση

Η ηλ. διεύθυνση σας δεν δημοσιεύεται. Τα υποχρεωτικά πεδία σημειώνονται με *

*
*
*