Γιατί δεν έχετε ακόμη αυτο-οδηγούμενο αυτοκίνητο; Αυτή η σειρά 2 μερών εξηγεί τα μεγάλα προβλήματα που απομένουν

Οι άνθρωποι συχνά ρωτούν, "Πού είναι το αυτο-οδηγούμενο αυτοκίνητό μου;" «Γιατί δεν έχω ένα και πότε θα έρθει;» Πολλοί άνθρωποι αισθάνονται ότι τους υποσχέθηκαν ένα αυτοκίνητο από τα τέλη της εφηβείας των 20 και είναι αργά, και ίσως δεν θα έρθει, όπως τα ιπτάμενα αυτοκίνητα που μιλούσαν πριν από δεκαετίες.

Σε αυτήν τη σειρά δύο άρθρων (με τα συνοδευτικά βίντεο) ας δούμε τους βασικούς λόγους για τους οποίους πιθανότατα δεν οδηγείτε σε ρομπότ σήμερα και πότε μπορεί να συμβεί. Ποια είναι τα βασικά τεχνολογικά, νομικά και κοινωνικά ζητήματα που στέκονται εμπόδιο και, και ποια θέματα στην πραγματικότητα δεν εμποδίζουν;

Για τους περισσότερους από εμάς, αυτά τα αυτοκίνητα δεν μπορούν να φτάσουν εδώ αρκετά σύντομα. Έχουν την υπόσχεση να αποφύγουν ένα αξιοπρεπές κλάσμα των σημερινών τροχαίων ατυχημάτων που σκοτώνουν πάνω από ένα εκατομμύριο κάθε χρόνο σε όλο τον κόσμο. Θα κάνουν τη ζωή μας πιο εύκολη και θα ξαναγράψουν τις αρχές της μεταφοράς. Κάνοντας αυτό, θα ξαναγράψουν πού ζούμε και την ίδια τη φύση της πόλης, καθώς και δεκάδες άλλες βιομηχανίες από την ενέργεια μέχρι το λιανικό εμπόριο. Κάθε μέρα που καθυστερούμε να βγάλουμε αυτά τα πράγματα στο δρόμο σε όγκο, χιλιάδες θα πεθάνουν στα χέρια ανθρώπων που δεν έπρεπε να οδηγούν. Κάθε μέρα καθυστερούμε.

Φυσικά, είναι δύσκολο

Για να είμαστε σαφείς, ο μεγαλύτερος λόγος που «αργεί τόσο πολύ» είναι ότι είναι δύσκολο. Ένα από τα μεγαλύτερα ερευνητικά έργα λογισμικού που έχουν πραγματοποιηθεί ποτέ. Χρειάστηκε όχι μόνο πρωτοποριακό λογισμικό, αλλά και τόνοι λεπτομερούς εργασίας στα ζιζάνια που ασχολούνται με τεράστιους αριθμούς ειδικών περιπτώσεων και χαρτογράφηση του κόσμου και όλων των ρυτίδων του. Όποιος σκέφτηκε ή πιστεύει ότι μπορεί να παραδοθεί βάσει χρονοδιαγράμματος κάνει λάθος και δεν έχει δουλέψει ποτέ ξανά σε λογισμικό. Όταν οι εταιρείες αυτοκινήτων έριξαν ημερομηνίες όπως το 2020, αυτές ήταν ελπίδες, όχι προβλέψεις, και ότι ορισμένες εταιρείες τεχνολογίας το πέτυχαν στην πραγματικότητα ήταν εκπληκτικό. Τα πολυετή έργα που απαιτούν καινοτομίες δεν προβλέπονται ποτέ με ακρίβεια.

Κανείς με ένα υπόβαθρο λογισμικού δεν θα σοκαριζόταν καθόλου αν οι προβλέψεις για ένα τόσο μεγάλο έργο που έγιναν πριν από πολλά χρόνια δεν είναι ακριβείς. Έτσι τα πράγματα δεν είναι «υστερούν από το χρονοδιάγραμμα», ακόμα κι αν δεν ανταποκρίθηκαν σε αισιόδοξες ελπίδες. Αυτό σημαίνει επίσης ότι τα πράγματα γίνονται με μικρότερα βήματα.

Ωστόσο, ο μεγαλύτερος αποκλεισμός δεν είναι να το κάνετε στην πραγματικότητα (δηλαδή να το κάνετε ασφαλές), αλλά να γνωρίζετε ότι το έχετε κάνει.

Αποδεικνύοντας ότι το έχετε κάνει πραγματικά ασφαλές

Ο πρώτος τεχνολογικός στόχος ήταν απλώς να γίνει πραγματικότητα. Να φτιάξουμε ένα αυτοκίνητο που να μπορεί να οδηγεί μόνο του με ασφάλεια. Αυτό είναι ένα τεράστιο επίτευγμα, αλλά τουλάχιστον σε μερικές πόλεις, μερικές εταιρείες το έχουν ήδη πετύχει. Η οδήγηση με μεγαλύτερη ασφάλεια από τον μέσο άνθρωπο έχει γίνει από εταιρείες όπως η Waymo στους εύκολους δρόμους του Phoenix. Αυτό ήταν "το δύσκολο μέρος" - αλλά ένα ακόμα πιο δύσκολο κομμάτι είναι να ορίσετε τι είναι ασφάλεια, να το μετρήσετε και να αποδείξετε ότι το έχετε κάνει. Πρέπει να το αποδείξετε στον εαυτό σας, στο διοικητικό συμβούλιο, στους δικηγόρους σας, στο κοινό και ίσως ακόμη και στην κυβέρνηση. Ακριβώς όπως το εμβόλιο Moderna Covid ήταν έτοιμο τον Φεβρουάριο του 2020, πριν από το πρώτο lockdown, ο κόσμος περίμενε 10 μήνες - ενώ ένα εκατομμύριο άνθρωποι πέθαναν χωρίς αυτό - προτού αφήσει τους πρώτους ανθρώπους να εμβολιαστούν. Περιμέναμε να αποδείξουν ότι το είχαν κάνει.

Η μέτρηση της ασφάλειας είναι αρκετά δύσκολη. Γνωρίζουμε πόσο συχνά οι άνθρωποι οδηγοί έχουν ατυχήματα όλων των τύπων, από μικρές κρούσεις μέχρι θανάτους. Οι θάνατοι συμβαίνουν περίπου κάθε 80 εκατομμύρια μίλια στις ΗΠΑ ή περίπου 2 εκατομμύρια ώρες οδήγησης. Δεν μπορούμε να δοκιμάσουμε κάθε έκδοση λογισμικού λέγοντας: «Ας το κάνουμε να οδηγήσει ένα δισεκατομμύριο μίλια και να δούμε αν σκοτώνει λιγότερους από τους δώδεκα ανθρώπους που θα πέθαιναν αν οι άνθρωποι οδηγούσαν τόσο μακριά». Είναι αδύνατη η απόσταση να οδηγείς σε πραγματικούς δρόμους έστω και μία φορά, πόσο μάλλον με κάθε νέα έκδοση. Μπορεί να οδηγούμε πολύ λιγότερο και να μετράμε κραδασμούς και μικρά ατυχήματα – στην πραγματικότητα αυτό είναι το καλύτερο που έχουμε καταλήξει μέχρι στιγμής γιατί είναι τουλάχιστον δυνατό – αλλά δεν είμαστε σίγουροι αν αυτό σχετίζεται με τραυματισμούς με ρομπότ με τον ίδιο τρόπο κάνει με ανθρώπους.

Πολλοί ξεκινούν τον παραδοσιακό τρόπο της αυτοκινητοβιομηχανίας. Δοκιμάζουν κάθε εξάρτημα των οχημάτων τους για να βεβαιωθούν ότι είναι αξιόπιστο και σύμφωνα με τις προδιαγραφές. Προσπαθούν να το κάνουν αυτό με συστήματα εξαρτημάτων, αλλά αυτή η μεθοδολογία γίνεται δύσκολη όταν τα πράγματα γίνονται πιο περίπλοκα. Αυτό ονομάζεται λειτουργική ασφάλεια - είναι τα εξαρτήματα και τα συστήματα χωρίς ελαττώματα και θα χειριστούν γνωστές πιθανές βλάβες.

Πιο πρόσφατα, καταβλήθηκαν περισσότερες προσπάθειες για να το αυξήσουμε σε επίπεδο συστήματος και να δοκιμάσουμε την "Ασφάλεια της προβλεπόμενης λειτουργικότητας". Με το SOTIF, οι ομάδες εργάζονται για να διασφαλίσουν ότι ολόκληρα συστήματα θα εξακολουθούν να λειτουργούν, τόσο με προβλήματα και βλάβες εξαρτημάτων, όσο και με αναμενόμενη κακή χρήση. Αυτό συχνά περιλαμβάνει προσομοίωση ολόκληρου του συστήματος ή τμημάτων του ή προσομοίωση «hardware in the loop» που είναι ευκολότερη και ασφαλέστερη από τη ζωντανή δοκιμή στους δρόμους.

Η δοκιμή προσομοίωσης προσφέρει τη δυνατότητα δοκιμής ενός συστήματος σε εκατομμύρια διαφορετικά σενάρια. Οτιδήποτε έχει δει, ακούσει ή ονειρευτεί ποτέ κανείς – με εκατοντάδες μικρές παραλλαγές όλων αυτών των πραγμάτων.

Ίσως το πιο δύσκολο πράγμα για δοκιμή, αλλά αυτό που θέλετε περισσότερο να μάθετε είναι πόσο καλά ανταποκρίνεται ένα σύστημα σε καταστάσεις που δεν έχετε ξαναδεί. Ενώ μπορείτε να δημιουργήσετε δοκιμές προσομοίωσης για να γνωρίζετε ότι το όχημα τα πάει καλά σχεδόν σε όλες τις αναμενόμενες καταστάσεις, μια μεγάλη μαγική ικανότητα του ανθρώπινου μυαλού είναι η ικανότητα να χειρίζεται προβλήματα που δεν έχουν ξαναδεί. Τα AI μπορούν να το κάνουν αυτό, αλλά δεν είναι τόσο καλά. Τελικά, θα ελπίζαμε σε έναν τρόπο να έχουμε νέα, ρεαλιστικά, επικίνδυνα σενάρια κάθε μέρα. Είναι καλό σήμερα το αυτοκίνητό σας έχει προγραμματιστεί να χειρίζεται ό,τι έχει σκεφτεί ποτέ, αλλά ο πραγματικός χρυσός κανόνας μπορεί να είναι να ρίχνετε 20 νέες καταστάσεις που δεν έχετε ξαναδεί, κάθε μέρα και να ανακαλύψετε ότι χειρίζεται τις περισσότερες από αυτές. Ακόμη και οι άνθρωποι δεν τα χειρίζονται όλα. Αυτό είναι ένα πράγμα που ελπίζω να δω να συμβεί μέσα από το Έργο Safety Pool, το οποίο βοήθησα να ξεκινήσει με το Παγκόσμιο Οικονομικό Φόρουμ, το Deepen.AI και το Πανεπιστήμιο του Warwick.

Ακόμη και με όλη την προσομοίωση, πρέπει επίσης να δοκιμάσετε ζωντανά στο δρόμο. Κανείς δεν πρόκειται να αναπτύξει ένα αυτοκίνητο που δεν έχει δείξει ότι χειρίζεται πολύ καλά τον πραγματικό κόσμο. Αν και είναι ακριβό, το σύστημα της χρήσης οδηγών ανθρώπινης ασφάλειας για την επίβλεψη των εργασιών ρομποκάρ έχει στην πραγματικότητα ένα εξαιρετικό ιστορικό και δεν θέτει σε κίνδυνο το κοινό σε σύγκριση με τη συνηθισμένη ανθρώπινη οδήγηση.

Στον κλάδο, κάθε εταιρεία αναγκάζεται να περιγράψει πόσο αφοσιωμένη είναι στην ασφάλεια. Είναι δουλειά τους να φτιάξουν ένα ασφαλές όχημα, αλλά κάνουν αυτές τις δηλώσεις για να ευχαριστήσουν τους αξιωματούχους και το κοινό. Κατά ειρωνικό τρόπο, το δημόσιο συμφέρον δεν είναι να κατασκευάζονται τα ασφαλέστερα ρομποκαράκια, αλλά μάλλον τους ασφαλέστερους δρόμους. Τα ρομπότ είναι ένα εργαλείο που μπορεί να φέρει ασφαλέστερους δρόμους και όσο πιο γρήγορα φτάσουν εδώ τόσο πιο γρήγορα και καλύτερα θα το κάνουν. Οι αξιωματούχοι, εάν έπαιρναν στα σοβαρά το καθήκον τους για τη βελτίωση της συνολικής οδικής ασφάλειας, θα ενθάρρυναν τις εταιρείες να μην πάνε πολύ μακριά στην ασφάλεια και αντ' αυτού να επικεντρωθούν στην ταχύτερη ανάπτυξη ασφαλέστερης τεχνολογίας – ακόμα κι αν κάνουν λιγότερα για να αποδείξουν ότι είναι ασφαλής όταν η ανάπτυξη είναι μικρή , το κάνει να συμβεί πιο γρήγορα. Αλλά δεν θα το κάνουν ποτέ, λόγω του τρόπου με τον οποίο η κοινωνία αντιδρά στα λάθη και στον κίνδυνο.

Ένα δεύτερο στοιχείο της ασφάλειας είναι η κυβερνοασφάλεια. Χρειαζόμαστε αυτά τα αυτοκίνητα να είναι στιβαρά έναντι των προσπαθειών να τα καταλάβουμε. Μερικοί άνθρωποι δεν τους αρέσει να μιλούν για την ασφάλεια στον κυβερνοχώρο, αλλά η προηγούμενη ιστορία της αυτοκινητοβιομηχανίας δεν ήταν σπουδαία. Αυτό περιλαμβάνει όχι μόνο ασφαλείς πρακτικές και εργαλεία, αλλά και αυτό που ονομάζεται «κόκκινη ομαδοποίηση», όπου μια ομάδα ειδικών χάκερ με λευκά καπέλα κυνηγάει από το εξωτερικό για να βρει τρωτά σημεία μέχρι να μην μπορέσει να βρει άλλα. Ένα άλλο σημαντικό εργαλείο είναι η ελαχιστοποίηση της συνδεσιμότητας ή αυτό που οι άνθρωποι ασφαλείας αποκαλούν «επιφάνειες επίθεσης». Πολλοί στη βιομηχανία έχουν εμμονή με αυτό που φαντάζονται ότι είναι το «συνδεδεμένο αυτοκίνητο» και μπερδεύουν τη συνδεσιμότητα με μια τόσο μεγάλη επανάσταση όσο η αυτοοδήγηση. Δεν είναι, όχι εξ αποστάσεως. Χρειάζεται κάποια συνδεσιμότητα, αλλά θα πρέπει να χρησιμοποιείται με φειδώ, ώστε η πραγματική επανάσταση να παραμείνει ασφαλής.

Μία από τις μεγαλύτερες προκλήσεις για τις δοκιμές είναι η ευρεία χρήση της μηχανικής μάθησης από όλες τις ομάδες ρομποκάρ. Η μηχανική εκμάθηση είναι ένα εξαιρετικά ισχυρό εργαλείο τεχνητής νοημοσύνης και οι περισσότεροι πιστεύουν ότι είναι απαραίτητο, αλλά τείνει να παράγει εργαλεία «μαύρου κουτιού» που παίρνουν αποφάσεις αλλά κανείς δεν καταλαβαίνει πλήρως. Εάν δεν γνωρίζετε πώς λειτουργεί ένα σύστημα ή γιατί αποτυγχάνει ή κάνει το σωστό, είναι δύσκολο να το δοκιμάσετε και να το πιστοποιήσετε. Στην Ευρώπη, έχουν θεσπίσει νόμους που απαιτούν όλη η τεχνητή νοημοσύνη να είναι «εξηγήσιμη» σε κάποιο επίπεδο, αλλά πολλά δίκτυα μηχανικής μάθησης είναι πολύ δύσκολο να εξηγηθούν. Αυτό είναι τρομακτικό, αλλά είναι τόσο ισχυρά που δεν θα τα παρατήσουμε. Μπορεί να βρεθούμε αντιμέτωποι με ένα μαύρο κουτί που είναι δύο φορές πιο ασφαλές σε δοκιμές από ένα εξηγήσιμο σύστημα και υπάρχουν επιτακτικά επιχειρήματα που προβάλλουν οι άνθρωποι υπέρ της κάθε επιλογής.

Προβλέποντας το Μέλλον

Ένα robocar καλύπτεται με αισθητήρες, όπως κάμερες, ραντάρ, λέιζερ LIDAR και άλλα. Οι αισθητήρες είναι ίσως η πιο συζητημένη πτυχή του υλικού, αλλά στην πραγματικότητα οι αισθητήρες δεν σας λένε καθόλου τι θέλετε να μάθετε. Αυτό συμβαίνει επειδή οι αισθητήρες σας λένε πού βρίσκονται τα πράγματα αυτή τη στιγμή, αλλά δεν σας ενδιαφέρει τόσο πολύ αυτό. Σε νοιάζει που θα είναι τα πράγματα στο μέλλον. Οι πληροφορίες από τους αισθητήρες είναι απλώς μια ένδειξη για τον πραγματικό στόχο της πρόβλεψης του μέλλοντος. Το να γνωρίζετε πού βρίσκεται κάτι και πόσο γρήγορα κινείται είναι μια καλή αρχή, αλλά το να γνωρίζετε τι είναι είναι εξίσου σημαντικό για να γνωρίζετε πού θα είναι. Τα περισσότερα από τα αντικείμενα πάνω ή κοντά στο δρόμο δεν είναι βαλλιστικά - ένας άνθρωπος είναι υπεύθυνος και μπορεί να αλλάξει πορεία. Αυτός είναι ο λόγος για τον οποίο ένας από τους βασικούς τομείς έρευνας σήμερα είναι να βελτιώνεται η πρόβλεψη του τι θα κάνουν οι άλλοι στο δρόμο, ιδιαίτερα οι άνθρωποι. Αυτό μπορεί να κυμαίνεται από τη γνώση της οδηγικής συμπεριφοράς μέχρι να καταλάβει εάν ένας πεζός που στέκεται στη γωνία πρόκειται να μπει στη διάβαση πεζών ή σερφάρει στο διαδίκτυο.

Ενώ αρκετές ομάδες έχουν σημειώσει μεγάλη πρόοδο, αποδεικνύεται ότι οι άνθρωποι είναι καλύτεροι από τα σημερινά ρομπότ στο να προβλέπουν άλλους ανθρώπους. Η βελτίωση σε αυτό είναι ένα από τα βασικά προβλήματα στη λίστα εργασιών, ιδιαίτερα σε πιο περίπλοκα περιβάλλοντα όπως οι πολυσύχναστες πόλεις. Η πρόβλεψη του μέλλοντος περιλαμβάνει επίσης την πρόβλεψη του πώς θα αντιδράσουν οι άλλοι στις δικές σας κινήσεις και στις προβλεπόμενες κινήσεις των άλλων. Μια συγχώνευση λωρίδας ή μια απροστάτευτη αριστερή στροφή μπορεί να είναι ένας χορός με πάρε-δώσε και τα ρομπότ θα προσπαθούν συνεχώς να βελτιώσουν τον τρόπο που κάνουν.

Αίσθηση πιο γρήγορα

Οι αισθητήρες μπορεί να είναι μόνο ένα μέσο για τον πραγματικό στόχο, αλλά όσο καλύτερα το κάνουν, τόσο καλύτερα μπορείτε να προβλέψετε αυτό το μέλλον. Οι ομάδες εξακολουθούν να ψάχνουν να κάνουν τους αισθητήρες πιο γρήγορους για να κάνουν πιο γρήγορα την αντίληψη και την πρόβλεψη. Ένα πράγμα που είναι σημαντικό είναι να γνωρίζετε την ταχύτητα των κινούμενων αντικειμένων. Το ραντάρ σας το λέει αυτό, αλλά οι κάμερες και τα παλαιότερα LIDAR δεν το κάνουν, εκτός και αν κοιτάξετε πολλά καρέ. Μερικά νεότερα LIDAR μπορούν να σας πουν ταχύτητα καθώς και απόσταση. Η εξέταση πολλών καρέ απαιτεί τουλάχιστον τόσο χρόνο όσο η λήψη των καρέ, αλλά συνήθως περισσότερο.

Μια κατάσταση που μπορεί να δημιουργήσει πρόβλημα είναι η κίνηση στον αυτοκινητόδρομο πίσω από ένα μεγαλύτερο όχημα. Φανταστείτε ότι μπροστά από αυτό το όχημα είναι ένα φορτηγό κολλημένο στον ώμο, κολλημένο στη λωρίδα. Αυτό συμβαίνει πολύ με τα ατυχήματα και τα οχήματα έκτακτης ανάγκης. Ξαφνικά το μεγάλο όχημα προτού σας στρίψει δεξιά για να αποφύγετε το εμπόδιο και βλέπετε αυτό το φορτηγό που έχει σταματήσει για πρώτη φορά. Πραγματικά δεν έχετε πολύ χρόνο να φρενάρετε ή να στρίψετε, και μπορεί να μην έχετε καν πού να πάτε. Εάν πρέπει να κοιτάξετε 3 καρέ βίντεο για να δείτε ότι όντως δεν κινείται, αυτό είναι πιθανώς χαμένο 1/10 του δευτερολέπτου και αυτή είναι μια κατάσταση όπου μπορεί να έχει σημασία. Έτσι, πολλές ομάδες αναζητούν τρόπους για να αποκτήσουν αυτό το πλεονέκτημα, και το έχουν βρει κυρίως σε LIDAR που μπορούν να μετρήσουν το "Doppler" για να γνωρίζουν την ταχύτητα κάθε τι που χτυπούν με το λέιζερ. Τα ραντάρ γνωρίζουν επίσης την ταχύτητα, αλλά ο κόσμος είναι γεμάτος από σταματημένα αντικείμενα που αντανακλούν το ραντάρ και είναι δύσκολο να ξεχωρίσεις το σταματημένο όχημα από το σταματημένο προστατευτικό κιγκλίδωμα δίπλα του.

Παίρνοντας το μακρύ δρόμο

Θα αναφέρω εν συντομία ότι ένας λόγος είναι μια διάσημη ομάδα – η TeslaTSLA
– δεν είναι ακόμα έτοιμος είναι ότι προσπαθούν σκόπιμα να κάνουν το πρόβλημα πιο δύσκολο. Ενώ κάθε ομάδα κάνει μεγάλη χρήση της όρασης υπολογιστή, η Tesla θέλει να την κάνει να λειτουργεί μόνο με όραση υπολογιστή και μόνο με κάμερες από το 2016. Οι περισσότερες άλλες ομάδες προσθέτουν επίσης καλύτερες κάμερες, LIDAR, ραντάρ και χάρτες στην εργαλειοθήκη τους. Η Tesla θέλει μια σημαντική ανακάλυψη οράματος που μπορεί να το κάνει φθηνότερα. Λένε ότι όλα αυτά τα πρόσθετα εργαλεία αποσπούν την προσοχή. Αλλά η υπόλοιπη βιομηχανία θέλει να χρησιμοποιήσει όλα τα εργαλεία για να το κάνει νωρίτερα, αν και με μεγαλύτερο κόστος, και πιστεύει ότι η Tesla ακρωτηριάζει τον εαυτό της. Μέχρι στιγμής, με βάση την ποιότητα του προϊόντος – η Tesla FSD είναι πολύ πίσω – οι άλλοι έχουν δίκιο, αν και ο αγώνας δεν έχει τελειώσει.

Αυτό είναι το πρώτο μέρος. Το δεύτερο μέρος εξετάζει πράγματα όπως το να είσαι καλός πολίτης των δρόμων, γιατί τα ρομποκαράκια αναπτύσσονται σε μια πόλη τη φορά αντί για παντού ταυτόχρονα, και τα προβλήματα της αντιμετώπισης πιο κοσμικών logistics όπως η παραλαβή αναβατών, επιχειρηματικών μοντέλων, εφαρμογές και ανησυχείτε πάρα πολύ για την ασφάλεια ενώ κάνετε τις κυβερνήσεις και το κοινό να σας αποδεχτούν. Θα απαριθμήσω επίσης μερικούς παράγοντες για τους οποίους γίνεται επεξεργασία, αλλά δεν είναι πραγματικοί παρεμποδιστές στην ανάπτυξη. Ψάξτε για το δεύτερο μέρος τις επόμενες μέρες.

Μερικοί πιστεύουν ότι το γεγονός ότι δεν έχουν ή οδηγούν σε ένα robocar το 2022 σημαίνει ότι η ανάπτυξη έχει καθυστερήσει πολύ. Στην πραγματικότητα, δεν υπήρξε ποτέ σοβαρό πρόγραμμα, μόνο ελπίδες, αλλά στην πραγματικότητα, αυτός ο κατάλογος προβλημάτων υποδηλώνει αισιοδοξία, επειδή αυτά τα προβλήματα που απομένουν φαίνονται γενικά αντιμετωπίσιμα. Χρειάζονται σκληρή δουλειά και χρήματα, όχι καινοτομίες για να τα αντιμετωπίσουμε.

Μείνετε συντονισμένοι για το δεύτερο μέρος, σε μορφή βίντεο και κειμένου

Μπορείτε να αφήσετε σχόλια σε αυτήν τη σελίδα ή στη σελίδα του βίντεο.