Rdzenie Tensor, Nvidia Volta i wpływ Google na uczenie maszynowe

Spis treści

ENIAC – od niego wszystko się zaczęło

Żyjemy we wspaniałych czasach, które pozwalają nam śledzić szybki postęp techniczny. Choć przodek współczesnego komputera powstał już w 1883 roku, za sprawą Charlesa Babbage’a i jego maszyny liczącej, prawdziwy przełom nastąpił dopiero 60 lat później. Podczas II wojny światowej, w maju 1943 roku, narodził się ENIAC (Electronic Numerical Integrator And Computer). Mówiąc dokładniej: pierwszego lipca rozpoczęto realizację projektu, wtedy tajnego, o nazwie Project PX. Kosztował on około 486 tysięcy dolarów, a prace nad jego ukończeniem trwały aż do 15 lutego 1945 roku. W swojej finalnej wersji mieścił się w 42 szafach o wysokości 3 m, szerokości 60 cm i głębokości 30 cm, ważył 27 ton i zajmował powierzchnię 140 m². Na procesor składało się wtedy 18 800 lamp elektronowych, 6000 komutatorów, 1500 przekaźników i 50 tysięcy oporników.

Co ciekawe, specjalnie zaprojektowany termostat zatrzymywał działanie szafy, gdy temperatura w jej wnętrzu przekraczała 48 stopni Celsjusza, a system wentylacyjny wykorzystywał dwa silniki Chryslera o łącznej mocy 24 KM. ENIAC liczył wtedy w systemie dziesiętnym, a nie, jak dzisiejsze komputery, w binarnym, ale wykonywał 5 tysięcy dodawań na sekundę. Do obsługi komputera służyły cztery pulpity sterownicze, które wymagały wprowadzania wszystkich informacji ręcznie. To sprzyjało pomyłkom i zajmowało mnóstwo czasu, a na domiar złego cały sprzęt ulegał awarii średnio co pół godziny.

Mimo wszystko dzięki temu komputerowi nie tylko regulowano tablice balistyczne, ale też analizowano budowę bomby wodorowej, projektowano tunele aerodynamiczne czy obliczano wartość liczby pi. ENIAC zakończył swój żywot po 10 latach, w 1955 roku. Niektóre jego fragmenty można obejrzeć w muzeum Smithsonian Institution w Waszyngtonie.

Zauważcie, że to wszystko wydarzyło się ponad 70 lat temu. ENIAC oficjalnie zapoczątkował erę informatyczną. Postęp techniczny wystrzelił niczym pocisk rakietowy, by w ciągu kilku dekad zapewnić nam wspaniałe rozwiązania w każdym aspekcie życia. Dziś nosimy w swoich kieszeniach czy na nadgarstkach małe komputery, mamy je w samochodach, pralkach czy lodówkach. Nie możemy już zatrzymać tej pędzącej lokomotywy postępu i wrócić do czasów analogowych, nad czym wielu z Was ubolewa.

Przyszłość owiana jest mgłą tajemnicy, rządzą nami wielkie korporacje, a te najbogatsze istnieją dzięki, a jakże, komputerom. Google, Apple, Microsoft czy Facebook nie stoją jednak w miejscu i stale inwestują setki milionów dolarów w nowe rozwiązania techniczne.

W tym artykule skupię się na jednostkach wynalezionych przez pierwszego z wymienionych gigantów, nazwanych Tensor Processing Unit, które zapewniają nam szereg fascynujących możliwości.

Jakiś czas temu Nvidia zaprezentowała nowe układy graficzne z rodziny Volta. Jedna z kart została oficjalnie przedstawiona jako Tesla V100, a w jej wnętrzu znajduje się między innymi 640 rdzeni Tensor. Wiele osób zaznajomionych z tym zagadnieniem było bardzo podekscytowanych, bo Tesla V100 zapewnia moc obliczeniową przekraczającą 100 teraflopów (bilionów operacji zmiennoprzecinkowych na sekundę), właśnie dzięki rdzeniom Tensor. To pierwszy układ graficzny w historii, który przekroczył tę granicę w pojedynkę.