W filmie Danny’ego Boyle’a Steve Jobs widzimy głównego bohatera – granego przez nominowanego do Oscara Michaela Fassbendera – w trzech momentach jego kariery. Każdy akt filmu kończy się sceną, w której Jobs prezentuje swoje produkty zgromadzonym w audytorium widzom. Twórca potęgi Apple’a przedstawiany jest tutaj niczym czarodziej, który wyjmuje z kapelusza swoje cudowne wynalazki. Przed jedną z tych prezentacji okazuje się, że sprzęt, który zaraz ma zostać przedstawiony publiczności nie działa tak, jak powinien. Zdenerwowany Jobs za kulisami nakazuje przygotowującym komputer inżynierom ukrycie usterki. Po chwili z uśmiechem na ustach wychodzi, by dokonać kolejnego magicznego aktu stworzenia nowego gadżetu technologicznego.
Przytaczam przykład tego filmu, ponieważ ilustruje on dobrze zjawisko, którym chcę zająć się w tym tekście. Przyrównanie twórcy Apple’a do iluzjonisty czarującego masy w blasku reflektorów jest moim zdaniem niezwykle trafne i pokazuje ważną prawdę o współczesnych technologiach. Jobs nie wymyślił w zasadzie nic nowego, ponieważ albo bazował na wynalazkach, które znane były wcześniej, albo potrafił zjednywać sobie konstruktorów, którzy pozostawali jednakże w jego cieniu (jak choćby Steve Wozniak). Chociaż pozostaje on w oczach wielu genialną jednostką, wybitnym umysłem, który zrewolucjonizował świat; jego główną zasługą jest przede wszystkim rozbudzenie ogromnych emocji wokół oferowanych przez siebie gadżetów.
Te emocje nazywane są niekiedy hypem. Hype to nadmierna ekscytacja, która towarzyszy technologiom, nowym produktom czy postępowi naukowemu. Hype jest rodzajem retorycznej perswazji, w której przedstawia się w wyolbrzymiony sposób zalety, możliwości bądź rewolucyjny potencjał określonego wynalazku czy gadżetu. W takiej opowieści nauka zbawia świat, technologia daje obietnicę lepszego jutra, a innowacje rewolucjonizują nasze życie społeczne.
Hype i oczekiwania wobec nauki
W tekście skupię się głównie na hypie w stosunku do nauki i technologii. Spoglądając w przeszłość na historię nauki, szybko zauważymy, że społeczne zainteresowanie postępem nie jest czymś, co występuje tylko współcześnie. Nauka wzbudzała społeczne emocje od dawna. W studiach z zakresu historii nauki wskazuje się, że sukces nowożytnej metody naukowej bierze się tyleż z jej niewątpliwych sukcesów w poznawaniu zjawisk przyrodniczych, co w prezentacyjnej perswazji. Nauka rozwijana w XVII wieku przez grupę bogatych dżentelmenów była tyleż tworzona w laboratoriach, co przedstawiana w formie spektakli, na których zgromadzona arystokratyczna publiczność podziwiała „cuda nauki”. Ich celem było wzbudzenie wśród odbiorców fascynacji możliwościami ówczesnej nauki, zaproszenie ich do cudownego i magicznego świata wynalazków. Ten teatralny wymiar rozwoju wiedzy naukowej widać na przykład w chirurgii. Przełomowe operacje przeprowadzano zwykle w salach wykładowych, które przypominały amfiteatry (nazywano je teatrami anatomicznymi).
Współcześni magicy być może decydują o rozwoju nauki w większej mierze niż wcześniej. Sprzedają oni nie tylko wiedzę, ale również obietnicę, że ich odkrycia przyczynią się do znaczącego postępu ludzkości. Tworzą w tym celu optymistyczne i niekiedy futurystyczne scenariusze przyszłości, które w krótkim czasie mają zostać urzeczywistnione w ich przełomowych badaniach.
Przykładem bohatera hype’owej narracji jest bez wątpienia Craig Venter, naukowiec i właściciel firm biotechnologicznych. Jedna z nich – Celera Genomics – rywalizowała z rządowym Human Genome Project w wyścigu o sekwencjonowanie genomu ludzkiego. Mimo że Venter w końcu przegrał, to jego nazwisko stało się niezwykle rozpoznawalne. Od tamtej pory jest częstym bohaterem filmów dokumentalnych o tematyce popularno-naukowej, a prasa co jakiś czas elektryzuje opinię publiczną jego kolejnymi pomysłami i rzekomo przełomowymi odkryciami. Przykładem może być tutaj sprawa z 2010 roku. Venter oznajmił wówczas, że jego zespół badawczy po raz pierwszy w historii stworzył sztuczne życie poprzez umieszczenie syntetycznie wytworzonego DNA w komórce bakterii. Szybko pojawiły się jednakże głosy, że odkrycie to nie jest tak rewolucyjne, jakby chciał tego Venter. Komentując rewelacje amerykańskiego naukowca, Ewa Bartnik z Uniwersytetu Warszawskiego powiedziała, że „to co zrobił Venter bardzo przypomina eksperyment, który zakończył się sklonowaniem owcy Dolly, z tą różnicą, że teraz w opróżnionej komórce zostało umieszczone DNA otrzymane sztucznie, a nie pobrane z innej komórki”[1]. To jednakże zbyt mało, by powiedzieć, że stworzono sztuczne życie.
Przykład Ventera i innych technonaukowych iluzjonistów pokazuje, że być może współcześnie nadmierna ekscytacja postępem jest czymś bardziej powszechnym. Taka hipoteza wydaje mi się trafna w świetle różnych prac z zakresu studiów nad nauką i technologią, które to studia zajmują się rolą czynników społecznych w rozwoju nauki. Podkreśla się w nich, że współczesne przedsięwzięcia naukowe są nierozerwalnie powiązane z oczekiwaniami społecznymi i to z kilku powodów[2].
Pewnym mitem jest to, że nauka powstaje w zamkniętych i oddzielonych od świata laboratoriach, w których naukowcy – niczym w wieży z kości słoniowej – tworzą wiedzę w ukryciu przed resztą społeczeństwa. I nie chodzi tu tylko o prosty fakt, że nauka permanentnie zmienia świat społeczny, ale również o to, że na jej dynamikę wpływa to, co w owym świecie społecznym się dzieje. Naukowcy muszą bowiem zabiegać o pieniądze, by móc swobodnie rozwijać swoje badania. Sytuacja ta sprawia, że podobnie jak biznesmeni szukający inwestorów, tak też naukowcy muszą starać się, by zwrócić uwagę na swoje badania i móc w ten sposób uzyskać niezbędne do ich prowadzenia zasoby. Musimy tutaj pamiętać, że współcześnie rozwój nauki wymaga kosztownej infrastruktury, bez której obecnie nie można wyobrazić sobie postępu. Starania o zasoby polegają nie tylko na tym, żeby tworzyć dobrą (np. użyteczną) naukę, ale żeby odpowiednio o tych staraniach opowiadać. I tutaj swoją ważną funkcję odgrywają narracje mające rozbudzić oczekiwania społeczne. Dlatego staraniom naukowców często towarzyszą przesadne obietnice.
Relacja między społeczeństwem a nauką jest jednakże zależna od tego, z jakim społeczeństwem mamy do czynienia. Współcześnie społeczne otoczenie nauki ustrukturyzowane jest wokół dwóch ważnych zjawisk: demokracji i kapitalizmu. Demokracja jest ustrojem, w którym za pomocą wolnych i powszechnych wyborów społeczeństwo wybiera swoich reprezentantów, by ci podejmowali decyzje zgodnie z interesami wyborców (przynajmniej z założenia). Dodajmy do tego fakt, że polityka naukowa w nowoczesnych państwach opiera się między innymi na inwestowaniu środków publicznych w określone badania. Oznacza to, że politycy dostają mandat społeczny również po to, by podejmować decyzje dotyczące rozwoju technologicznego. Jednocześnie, wydatkowanie środków publicznych jest jedną z bardziej zapalnych dla opinii publicznej kwestii. Pośrednio zatem naukowcy muszą zmagać się z tym, co o ich działaniach sądzą potencjalni wyborcy. Czy badania prowadzone ze środków publicznych przysłużą się dobru wspólnemu, czy są pieniędzmi wyrzuconymi w błoto? Odpowiedź na to pytanie może zdecydować o tym, czy dany projekt naukowy (a nawet cały obszar badawczy) uzyska (bądź nie) finansowanie publiczne. Właśnie dlatego naukowcy muszą dbać o swój społeczny wizerunek jako genialnych innowatorów i rewolucyjnych odkrywców. Jednym z narzędzi do tego jest właśnie hype, czyli społeczne sprzedawanie własnych badań jako wyjątkowo potrzebnych i użytecznych.
Ten drugi kontekst – kapitalizm – jest nie mniej ważny. Pisałem wcześniej o roli środków publicznych, ale w wielu kontekstach to środki prywatne pozostają głównym źródłem finansowania projektów badawczych. Rzecz przedstawia się tak w medycynie czy w biotechnologii i dotyczy w dużej mierze Stanów Zjednoczonych – kraju, w którym nauka rozwija się najdynamiczniej. Argument o powiązaniu nauki z kapitalizmem można odnieść do dwóch cech charakterystycznych tego ostatniego. Po pierwsze chodzi o sprywatyzowanie działalności naukowej. Współcześnie naukowcy częściej wykonują określone usługi na rzecz przemysłu, pracując w trybie działań badawczo-rozwojowych, a produkty ich pracy mają w pierwszej kolejności przynieść dodatkowe korzyści finansowe. Po drugie współczesny kapitalizm oparty jest o model inwestycji typu joint venture, który polega na rozwijaniu swojej działalności dzięki powiększaniu wpływów ze strony inwestorów. I jedna, i druga okoliczność sprawiają, że nauka musi wzbudzić zainteresowanie ze strony potencjalnych partnerów biznesowych. Jej owoce muszą być atrakcyjne.
Znów tutaj dobrym narzędziem staje się hype. Nie ma chyba lepszego przykładu na ilustrację tej tezy niż Elon Musk. Musk to przedsiębiorca, który majątek zbił na Pay Palu, internetowym serwisie płatniczym. Współcześnie znany jest głównie z produkcji samochodów elektrycznych i projektu Space X. Musk od wielu lat twierdzi, że jego celem jest wysłanie ludzi na Marsa, co jak zapowiada, ma osiągnąć już w latach 20. XXI wieku. Jego największym sukcesem jest jak dotąd udane wystrzelenie rakiety Falcon Heavy, której dwa z trzech modułów powróciły z sukcesem na Ziemię i mogą być wykorzystane przy następnym starcie. Musk boryka się z problemami technicznymi związanymi z produkcją baterii do swoich aut i zarzutami o łamanie praw pracowniczych. Chociaż Falcon Heavy należy traktować w kategoriach sukcesu, to jednak jest to sukces, który bardziej ułatwia prowadzenie turystycznej firmy kosmicznej niż stanowi kamień milowy w wysłaniu człowieka na Marsa. Inny sztandarowy projekt Muska – Hyperloop – również, przynajmniej na razie, jest z technicznego i finansowego punktu widzenia nie do zrealizowania. Interesujące jest tutaj to, że Musk cieszy się nadal zaufaniem inwestorów i może liczyć na ogromne dotacje z pieniędzy publicznych, podczas gdy jednocześnie wyniki finansowe jego firm nie są zbyt imponujące. Wydaje się, że gdyby nie umiejętnie prowadzony hype, o Elonie Musku dawno byśmy zapomnieli.
Hype w przestrzeni medialnej
Wspominałem wcześniej, że hype jest pewną narracją, a zatem określonym sposobem konstruowania wypowiedzi na temat nauki i technologii. Tutaj chciałbym przyjrzeć się kilku przykładom, które nie tylko zobrazują, czym hype jest, ale również dostarczą ciekawego materiału na temat społecznego wizerunku technologii, który to konstruowany jest w przekazie medialnym. Media nie tyle tworzą hype, co również przejmują (i wzmacniają) narrację samych naukowców oraz wynalazców. Z uwagi na ograniczenie objętościowe artykułu moja analiza ma charakter szkicu i jest raczej wstępem do dalszych, bardziej pogłębionych studiów. Postanowiłem przyjrzeć się dwóm artykułom z portalu Spider’s Web (spidersweb.pl). Jest to serwis internetowy poświęcony tematyce technologicznej działający w polskim Internecie od 2008 roku.
Pierwszy przykład dotyczy sztucznej inteligencji, która jak mało tematów jest źródłem wielu hype’owych narracji. I tak w artykule opublikowanym 26 października 2016 roku[3] autor wbrew negatywnym opiniom przybliża czytelnikom pozytywne aspekty rozwoju technologii AI. I tak dowiadujemy się, że sztuczna inteligencja jest w stanie wykonywać właściwie każdą pracę, również kreatywną. Towarzyszy temu komentarz przywodzący na myśl Marksowski opis komunizmu: „Czy nie byłoby to piękną wizją? Wówczas moglibyśmy się oddać jedynie temu, co sprawia nam przyjemność – spędzaniu czasu z rodziną, podróżom, graniu, oglądaniu filmów czy tworzeniu sztuki”. Autor wymienia zastosowania AI w sądownictwie, medycynie czy transporcie. Kończy zaś odwołaniem do nazwiska Raymonda Kurzweila, technologicznego guru, który wierzy, że za pomocą technologii ludzkość będzie w stanie żyć wiecznie.
Artykuł ten jest bezsprzecznie przykładem hypy’owej narracji, gdyż z nadmierną ekscytacją odnosi się do rozwoju technologicznego i tym samym rozbudza pozytywne oczekiwania społeczeństwa. W tym akurat przykładzie widać również wiele problematycznych kwestii tego typu opowieści. Po pierwsze zakłada się tutaj coś, co jeszcze tak naprawdę nie istnieje, to znaczy możliwość zastosowania sztucznej inteligencji w bardzo trudnych (bo opartych na pracy ludzkiego intelektu) sferach. Chociaż prawdą jest, że algorytmy oparte na uczeniu maszynowym potrafią coraz lepiej przewidywać wydane wyroki na podstawie analizy aktów sprawy, to w żadnym znanym nam systemie takie rozwiązania nie funkcjonują, trudno zatem mówić o ich skuteczności w prawdziwym życiu. Po drugie istnieje wiele argumentów, które przeczą tezie, że AI będzie skuteczniejsza od człowieka. Weźmy raz jeszcze przykład sądów – obietnica jaką składają technologiczni entuzjaści jest taka, że sztuczna inteligencja będzie bardziej obiektywna od człowieka, który przecież kieruje się emocjami i uprzedzeniami. Argument ten jest jednakże fałszywy, gdyż również algorytmy kryjące się za sztuczną inteligencją mogą być seksistowskie i rasistowskie. Opowiada o tym świetna książka Cathy O’Neill pt. Broń matematycznej zagłady, która pokazuje na wielu przykładach jak nieobiektywna potrafi być, rzekomo bezstronna, technologia. Po trzecie wreszcie, trzeba zawsze zakładać, że rozwój nie tylko przyniesie korzyści, ale również wygeneruje nowe problemy. I tutaj dobrym przykładem są samochody autonomiczne. Ta technologia jest obecnie na tyle niedoskonała, że wpuszczenie ich masowo na drogi mogłoby zakończyć się tragicznie. Hype jednakże nie bierze pod uwagę wyżej wymienionych wątpliwości, gdyż przedstawia technologię i naukę w wyłącznie pozytywnym świetle.
Drugi przykład nawiązuje do postaci Muska. W artykule z 29 września 2017 roku[4] znajdziemy szczegółowy opis wystąpienia technowizjonera w australijskiej Adelajdzie, w którym Musk podzielił się szczegółami na temat planów podboju Marsa. Tutaj ważnym elementem jest warstwa językowa i wizualna. Autor posługuje się niemalże bezustannie czasem przyszłym: „wynoszony będzie”, „ma mieć”, „napełniony zostanie”, „ma być” itd. Sam artykuł zaś składa się głównie z infografik i wizualizacji, czyli przedstawień czegoś, co jeszcze nie istnieje. Moglibyśmy zadać pytanie, dlaczego właściwie mamy wierzyć Muskowi? Odpowiedź na to pytanie jest naiwnie prosta: bo to Musk. Cała wiarygodność tej wizji jest w pewnym sensie autoreferencyjna, gdyż odnosi się do tego, który ją tworzy – samego Muska. Świadczy o tym ten cytat: „W każdym innym przypadku poniższe grafiki wywoływałyby uśmiech na twarzy. Gdy prezentuje je Musk, odbiorca bez mrugnięcia okiem jest w stanie uwierzyć w realizację jego planów”. Patrząc na to jednakże bardziej sceptycznie, nie mamy właściwie żadnych podstaw by kupować w ciemno fantastyczne wizje twórcy Tesli.
Również w tym przykładzie widać problematyczność hype’owej narracji. Musk dość sprytnie ukrywa źródło swoich sukcesów, tym samym kreując się na wybitną jednostkę, która do wszystkiego dochodzi sama. Jak wspominałem wyżej, przedsięwzięcia Muska dotowane są pokaźną sumą ze środków publicznych, podobnie jak ma to miejsce w przypadku projektu SpaceX ze strony NASA. Jest to dość ciekawe w przypadku kogoś, kto ma stanowić wzór rzekomej innowacyjności sektora prywatnego. Jakoś tak się składa, że bohaterami technoutopii są głównie genialni przedsiębiorcy, tacy jak Musk (ale również Jobs czy szef Amazona Jeff Bezos), co tworzy zafałszowany obraz możliwości prywatnych biznesów w generowaniu innowacji. Zafałszowany, ponieważ, jak twierdzi Mariana Mazzucato[5], jedynie sektor publiczny może pozwolić sobie na inwestycje wysokiego ryzyka, które dopiero w dłuższym czasie okażą się być owocne (a tego potrzeba, by stworzyć prawdziwie innowacyjny wynalazek). Hype niestety wypacza ten obraz, służąc neoliberalnej narracji i krytykując możliwości operacyjne machiny państwowej.
Bańki mydlane i papier toaletowy
Gdy mamy do czynienia z hypem, musimy pamiętać o tym, jak rozwijają się innowacje. Można to zobrazować za pomocą dwóch metafor – baniek mydlanych i papieru toaletowego (tę ostatnią metaforę zapożyczam od Tima Harforda[6]). Bańki mydlane to nadmuchane błyskotki, na które patrzymy, bo wydają nam się ładne, chociaż są czymś nietrwałym. A papier toaletowy to element naszego życia codziennego, nad znaczeniem którego zwykle nie myślimy. Jest on jednak dla nas niezwykle pomocną innowacją, chociażby dlatego, że znacząco zwiększa standardy higieniczne. Z technologiami jest podobnie jak z bańkami mydlanymi i papierem toaletowym. Niektóre z nich wzbudzają zachwyt bazujący na nadmiernie napompowanych oczekiwaniach, inne zaś to wynalazki zmieniające codzienne życie milionów ludzi. O technologiach mydlanych bardziej się opowiada i sprzedaje obietnice, że kiedyś przestaną być bańkami mydlanymi, a staną się pełnoprawnymi innowacjami. Z kolei technologie toaletowe to technologie, które zostały już uspołecznione i są na tyle zwyczajne, że nie dostrzegamy z jaką siłą determinują naszą codzienność.
Musimy pamiętać, że przehypowane technologie dzieli długa droga do tego, by stały się zwyczajnym elementem naszego życia społecznego, a zatem powinniśmy z ostrożnością podchodzić do zbyt pospiesznie składanych obietnic. Wyrazem takiego sceptycznego podejścia jest tzw. hype cycle opracowany przez firmę Gartner. Według cyklu, innowacje zaczynają swój społeczny żywot jako dostępne dla garstki wybrańców gadżety, by budzić nadmierne zainteresowanie ze strony mediów i użytkowników, a potem stać się przedmiotem rozczarowania. Dopiero po takim wyolbrzymieniu z jednej i krytyce z drugiej strony możliwe jest zejście na ziemię, czyli poznanie realnych możliwości i ograniczeń innowacji. To właśnie wtedy bańka mydlana zmienia się w papier toaletowy. Nie zawsze jednakże tak jest – niektóre bańki zostają po prostu przebite i ich żywot się kończy.
Weźmy pewne przykłady. Bezsprzecznie jedną z najsłynniejszych antybohaterek przehype’owanych technologii jest wzorująca się na Jobsie Elizabeth Holmes, założycielka biotechnologicznej firmy Theranos. Od 2003 roku w Theranosie prowadzone są prace nad tanią i łatwą w obsłudze maszyną, która umożliwiłaby wykonanie szybkich badań krwi w pozalaboratoryjnych. Przedsięwzięcie Holmes nabrało wiatru w żagle po 2010 roku, kiedy zdołała ona przyciągnąć wielu znanych inwestorów dzięki odpowiedniemu podsycaniu zainteresowania swoim wynalazkiem i składaniu wielkich obietnic, co do jego skuteczności. W 2014 roku magazyn „Forbes” ogłosił ją najmłodszą miliarderką w historii. Kłopoty zaczęły się, gdy „Wall Street Journal” opublikował serię demaskatorskich artykułów, z których wynikało, że maszyna produkowana przez Theranos nie działa i nie ma szans, by w najbliższej przyszłości miało się to zmienić. Bańka pękła, a Holmes została oskarżona o oszustwo finansowe.
Hype towarzyszył również innej technologii, bez której dziś nie wyobrażamy sobie naszego życia. Chodzi oczywiści o Internet. W latach 90-tych, gdy stawał się coraz powszechniejszym wynalazkiem, wielu medioznawców uważało, że wynalazek ten zbawi świat, stając się egalitarną i masowo dostępną sferą publiczną, w której każdy i każda będzie mógł wypowiedzieć swoje zdanie. Wierzono również, że firmy internetowe są źródłem niewyobrażalnego bogactwa. Mit Eldorado upadł razem z pęknięciem tzw. bańki dot comów, kiedy okazało się, że wartość wielu projektów jest przeszacowana. Z kolei mit globalnej wioski, w dobie gigantów takich jak Google i Amazon, ma niewiele wspólnego z rzeczywistością – Internet jest przestrzenią silnie regulowaną przez wielkie korporacje. Niemniej jednak wynalazek ten stał się nieodłącznym elementem rzeczywistości. Po początkowym zachwycie i następującym później rozczarowaniu Internet stał się papierem toaletowym – czymś, z czego bezustannie korzystamy, nawet nie zdając sobie sprawy z roli, jaką odgrywa w naszym życiu.
Na koniec warto zwrócić uwagę, że hype powinien budzić raczej sceptycyzm i postawę krytyczną niż bezrefleksyjny zachwyt. Jest to bowiem zjawisko niepozbawione negatywnych konsekwencji. Hypowanie może na przykład obniżyć stopień zaufania opinii publicznej wobec nauki i naukowców. Ci którzy posługują się hypem mogą nie tylko rozbudzać wielkie oczekiwania wobec postępu, ale również składać obietnice bez pokrycia. Kto dużo obiecuje, a później się z tego nie wywiązuje, ten szybko traci zaufanie ludzi. Hype zniekształca również prawdziwy obraz nauki. Przedstawiona w takiej narracji technologia jest zawsze nieproblematycznym dobrem, natomiast nie wspomina się o ryzyku czy nieplanowanych konsekwencjach. Te ostatnie mogą się pojawić, gdy innowacje zostaną zaimplementowane zbyt szybko. Hype może również utrudnić racjonalną ocenę jakiejś technologii, co może skutkować tym, że strumień środków finansowych zostanie skierowany nie w stronę technologii najbardziej potrzebnych, ale tych, które cieszą się większym zainteresowaniem mediów.
Abstract
The article concerns a specific narrative related to technological progress and scientific development. Hype is defined here as the excessive excitement that accompanies technology, new products or scientific progress. In the text the author analyses hype in the context of social conditions in which science is developed today. Two important circumstances that are conducive to the emergence of this narrative in the social space are pointed out – capitalism and democracy. The article also presents examples of hype from the media.
Słowa kluczowe
hype, nauka, technologia, Elon Musk
Key words
hype, science, technology, Elon Musk
Bibliografia:
Borup M. et al., The Sociology of Expectations in Science and Technology, „Technology Analysis & Strategic Management”, vol. 18, no. 3/4, 2006, s. 285-298.
Mazzucato M., Przedsiębiorcze państwo, Wydawnictwo Ekonomiczne Heterodox, Poznań 2016.
[1]https://www.medonet.pl/zdrowie/wiadomosci,bartnik–craig-venter-nie-stworzyl-sztucznego-zycia,artykul,1612750.html
[2] M. Borup et al., The Sociology of Expectations in Science and Technology, „Technology Analysis & Strategic Management”, vol. 18, no. 3/4, 2006, s. 285-298.
[3]https://www.spidersweb.pl/2016/10/sztuczna-inteligencja-przyszlosc.html
[4]https://www.spidersweb.pl/2017/09/elon-musk-mars.html
[5]M. Mazzucato, Przedsiębiorcze państwo, Wydawnictwo Ekonomiczne Heterodox, Poznań 2016.
[6]https://kulturaliberalna.pl/2017/10/17/tim-harford-wywiad-praca-roboty/