W ciągu ostatnich lat NVIDIA wzięła dla siebie niemal cały rynek platform sztucznej inteligencji i maszynowego uczenia, a giełda doceniając znaczenie tych technologii, nagrodziła zielonych ogromnym wzrostem wartości akcji. Oczywiście Google rozwija swoje czipy Tensor Processing Unit, IBM ma swój neuroczip TrueNorth, ale jeśli spojrzymy na masowe, przemysłowe zastosowania, to wszędzie tylko NVIDIA. A co na to Intel?
fot/dobre programy
Jak to tej pory firma z Santa Clara niewiele miała raczej do powiedzenia w dziedzinie AI, nie licząc tego, że jakiś czas temu kupiła startup Movidius, produkujący znakomite czipy do rozpoznawania obrazu. Teraz jednak ma się to zmienić. Intel ogłosił stworzenie nowego czipu Loihi, zaprojektowanego z myślą o sztucznej inteligencji i głębokim uczeniu.
Loihi ma być pierwszym w swoim rodzaju samouczącym się czipem, owocem sześciu lat prac nad specjalizowaną architekturą, która wyjdzie poza ograniczenia CPU i GPU, poradzi sobie z przetwarzaniem dynamicznych, nieustrukturyzowanych danych i procesami decyzyjnymi na ich podstawie.
Przedstawiający to osiągnięcie dr Michael Mayberry, dyrektor zarządzający Intel Labs, mówi otwarcie – pomysły były proste lecz rewolucyjne, zestawiono maszyny z ludzkim mózgiem. Inspirowany biologią Loihi odtwarza więc funkcje mózgu, ucząc się działać w oparciu o różne tryby sprzężenia zwrotnego ze środowiskiem.
Neuromorficzny czip Intela nie musi być trenowany tak jak tradycyjne sieci neuronowe. Ominięcie tego wymogu stało się możliwe dzięki wykorzystaniu asynchronicznych impusów, tak jak w żywych neuronach. W przeciwieństwie do tranzystorów, neurony nie przechodzą pomiędzy dyskretnymi stanami (0 i 1). Aktywują się po osiągnięciu określonego progu sygnału, zapalając na tak długo, jak długo liczba impulsów przekracza określony próg.
W sieci neuronowej informacje rozchodzą się impulsami, modulowaniem stanu synaps czy wagi wzajemnych połączeń w zależności od czasu trwania impulsów, i przechowywane są lokalnie w połączeniach. Jak deklaruje dr Mayberry, inteligentne zachowania wyłaniają się ze współdziałających ze sobą i konkurencyjnych interakcji między wieloma regionami w obrębie sieci neuronowych mózgu i jego otoczenia.
Do tej pory sztuczne impulsowe sieci neuronowe były wykorzystywane głównie do badania biologicznych komórek nerwowych, ich inżynieryjne wykorzystanie było w powijakach. Loihi ma to zmienić – dyrektor Intel Labs zapewnia, że elastyczna architektura, łącząca plastyczne synapsy z impulsami, które mogą być modulowane w czasie, pozwała łączyć etap trenowania z inferencją w jednym czipie.
Podczas prowadzonych przez Intela testów, Loihi miało się okazać milion razy szybsze od innych sieci neuronowych, gdy przyszło rozpoznawać cyfry z bazy danych odręcznego pisma MNIST. Loihi ma być też znacznie bardziej wydajne w odtwarzaniu złożonych sieci neuronowych i głębokim uczeniu – a to wszystko przy tysiąckrotnie mniejszym zużyciu energii, niż rozwiązania bazujące na CPU i GPU.
Już w 2018 roku Intel udostępni Loihi wiodącym instytucjom badawczym, zajmującym się sztuczną inteligencją. Póki co przedstawiono jedynie podstawowe dane o czipie: wykonano go w litografii 14 nm, w jego skład wchodzi 130 tysięcy neuronów i 130 milionów synaps, ułożonych w pełni asynchroniczną, wielordzeniową kratę, która jest w stanie odtwarzać różne topologie sieci neuronowych (rzadkie, hierarchiczne, rekursywne).
Każdy neuromorficzny rdzeń ma zawierać silnik uczący, który zaprogramować można do modyfikowania parametrów sieci podczas jej operacji, wdrażając w ten sposób różne paradygmaty maszynowego uczenia (nadzorowane, nienadzorowane, wzmacniane itd.). Przygotowano też wiele wydajnych algorytmów dla takich problemów jak planowanie tras, uczenie słownikowe, czy dynamiczne uczenie wzorców.
No cóż, to pod względem liczb wygląda to na pewno skromniej, niż w wypadku TrueNortha: IBM trzy lata temu temu pokazał czip z milionem programowalnych neuronów i 256 milionami synaps w 4096 neurosynaptycznych rdzeniach. Liczby są jednak zupełnie niewspółmierne, TrueNorth nie jest w stanie samodzielnie trenować, używa tylko inferencji.
Póki nie zobaczymy Loihi w działaniu, nie ma więc sensu porównywać tego z innymi architekturami. Widać jednak, że Intel gotów jest zainwestować wiele, byleby tylko uzyskać komplet rozwiązań niezbędnych do wyjścia poza ograniczenia współczesnych komputerów i odnaleźć się w przyszłości, w której maszynowo wspomagane wnioskowanie i decydowanie stanie się codziennością.
Xeon Phi, Nervana, Movidius, a teraz Loihi – z tym wszystkim Chipzilla docelowo może stać się najważniejszym dostawcą „sztucznych mózgów”.
