Groq TSP

Groq prezentuje nowe podejście do akceleracji AI

2 minuty czytania
Komentarze

Jak dobrze wiadomo, rozwiązania bazujące na AI wymagają potężnych procesorów wielordzeniowych. Moc pojedynczego rdzenia nie jest zbyt istotna, głównym czynnikiem, jeśli chodzi o szybkość operacji, jest ich ilość. Dlatego też wiele komputerów obsługujących systemy AI korzysta z kart graficznych, natomiast największy procesor na świecie stworzony z myślą o sztucznej inteligencji ma 400 tysięcy rdzeni. Teraz nagle okazuje się, że takie podejście mogło być… błędne.

Groq TSP – jednordzeniowy układ AI

Groq TSP

TSP to najnowsze rozwiązanie firmy Groq, jeśli chodzi o sztuczną inteligencję. Biorąc pod uwagę dotychczasowe doświadczenia z AI, wydaje się ono całkowicie bez sensu. Na tym dość sporym kawałku krzemu znajduje się bowiem tylko jeden rdzeń. Jest to więc układ jednowątkowy. Został on jednak zaprojektowany zupełnie inaczej niż znane nam procesory np. w komputerach osobistych. Z tego też powodu nie nadaje się do niczego innego jak do szkolenia AI. Osiąga przy tym znacznie lepsze wyniki od dedykowanych sztucznej inteligencji rozwiązań Nvidii. W porównaniu do układu Tesla V100 od Zielonych oferuje aż czterokrotnie większą wydajność przy takim samym zapotrzebowaniu na energię.

Zobacz też: Jak kupować na Amazon? Poradnik

Nie jest to jednak rozwiązanie bez wad. Z racji jednego rdzenia sprawdzi się tylko tam, gdzie ilość danych wejściowych jest przewidywalna. Ich nagłe zwiększenie mogłoby negatywnie wpłynąć na szybkość obliczeń. Może się jednak świetnie sprawdzić w przypadku autonomicznych samochodów. Tam liczba danych z czujników jest stała. Dodatkowo Groq TSP oferuje opóźnienie 320 razy niższe niż flagowy układ Nvidii. To oznacza, że samochód mógłby dzięki niemu podejmować decyzje znacznie szybciej. Ciekawe co będzie można osiągnąć dzięki następnym generacjom jednordzeniowych procesorów AI?

Źródło: TechSpot

Motyw