Apple walczy z ograniczeniami, z jakimi borykają się duże modele językowe (LLM) działające na smartfonach. Jednym z naczelnych problemów jest niewątpliwie limitowana ilość pamięci RAM. Sztuczna inteligencja potrzebuje więcej niż 8 GB pamięci do bardziej skomplikowanych zadań, szczególnie gdy chcemy ją móc wykorzystać również bez dostępu do internetu. Wygląda jednak na to, że i ten kłopot udało się rozwiązać w bardzo kreatywny sposób.
Wzmocnienie sztucznej inteligencji na smartfonach Apple — Spis treści
Apple stawia na więcej pamięci, ale z innego źródła
Apple udostępniło własne wewnętrzne badania, które jasno wskazują rozwiązanie problemu z brakiem wystarczającej pamięci RAM do uruchamiania skomplikowanych modeli językowych. Klucz do sukcesu kryje się w wewnętrznej pamięci flash (od 128 GB wzwyż), a konkretnie w dynamicznym transferze danych między pamięcią RAM oraz pamięcią flash.
Według badaczy opisywana metoda sprawia, że smartfon z 8 GB pamięci RAM może być w stanie uruchomić program wymagający nawet 16 GB RAM na pokładzie. Dynamiczny transfer danych ma również zwiększyć wydajność procesora o 500%, co będzie oczywiście zauważalne nawet dla przeciętnego użytkownika. Duże modele językowe (LLM) w takim układzie pracują nawet do 25 razy szybciej, niż przez standardowe działanie na ograniczonej pamięci RAM i zaangażowanie procesora (CPU) oraz układu graficznego (GPU).
Badania to jedno, ale kiedy posiadacze iPhone’ów zobaczą realne rozwiązania?
Jak pisaliśmy w listopadzie 2023 r., Apple planuje zintegrować sztuczną inteligencję ze swoimi produktami pod koniec 2024 r. Integracja miałaby zbiec się z premierą systemu operacyjnego iOS 18 i objąć m.in. takie usługi jak Siri oraz Apple Music. Wiemy również, że firma z Cupertino wykorzystuje obecnie uczenie maszynowe do ulepszania swoich smartwatchy, a konkretniej takich funkcji jak EKG, detekcja zderzeń i wypadków, czy też synteza mowy z użyciem naszego głosu.
Czy otrzymamy w przyszłości jednak podobnego asystenta do ChatGPT lub Microsoft Copilot, niedawno wypuszczonego na iOS oraz Android. Coś mi podpowiada, że firma z Cupertino będzie chciała nie tylko skopiować to, co działa u konkurencji, ale też wprowadzić w życie niejeden rewolucyjny pomysł. Na nie najpierw trzeba jednak wpaść i sensownie później zaimplementować. A to może okazać się najtrudniejszym zadaniem, nawet dla tak wielkiej korporacji.
Zdjęcie otwierające: Apple / Julient Tromeu / Unsplash / montaż własny
Źródło: TechTimes
Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.