Firma Xiaomi zaprezentowała właśnie prototyp AI Cube – swój nowy mini-komputer oparty na trzech zaprojektowanych przez Xiaomi procesorach XRING. Serwis VideoCardz donosi, że projekt owego nowego systemu zakłada połączenie w jednej obudowie mobilnego układu SoC XRING O3, akceleratora AI XRING O100 oraz procesora AI XRING D100 oryginalnie przeznaczonego dla branży zajmującej się autonomiczną motoryzacją. Xiaomi podaje, że system ten ma zapewnić ciągłą wydajność przy poborze mocy na poziomie do 150 W oraz umożliwi lokalne wdrażanie modeli o rozmiarze 120B i 3B.
Aż trzy różne procesory w jednym urządzeniu?
XRING O3 ma tu pełnić rolę uniwersalnego układu SoC. Posiada 10-rdzeniowy procesor złożony wyłącznie z rdzeni typu wydajnościowych, 16-rdzeniowy procesor graficzny G2-Ultra NX oraz procesor NPU o wydajności 200 TOPS. W prezentacji Xiaomi wspomniano również o obsłudze pamięci LPDDR6 przez układ O3, aczkolwiek ma ona funkcjonować odrębnie od znacznie wyższej przepustowości reklamowanej dla akceleratora O100.
Główną rolę ma tu grać akcelerator XRING O100 i konstrukcja staje się przy nim bardziej interesująca. Xiaomi wykorzystuje warstwę logiczną i warstwę NPU wykonane w procesie 6 nm wraz z dwiema warstwami szybkiej pamięci DRAM ułożonymi pionowo w układzie „Wafer on Wafer”. Technologia Hybrid Bonding zmniejsza odstęp między poszczególnymi połączeniami do 1,4 μm, a metalowe połączenie typu „face-to-face” skraca odległość między pamięcią DRAM a warstwą obliczeniową. Xiaomi twierdzi, że konstrukcja ta posiada 28 672 efektywnych połączeń danych i osiąga przepustowość pamięci w przybliżeniu na poziomie 1,22 TB/s.
Trzecim procesorem w obudowie ma być XRING D100, czyli 3-nanometrowy układ AI firmy Xiaomi przeznaczony oryginalnie do zastosowania autonomicznych pojazdach. Łączy on 20-rdzeniowy procesor CPU z 16-rdzeniowym procesorem NPU i obsługuje do 160 GB pamięci zunifikowanej. Według Xiaomi sam układ D100 może obsługiwać modele lokalne zawierające do 200 miliardów parametrów, podczas gdy w prezentacji AI Cube wymieniono także konfiguracje modeli o rozmiarach 120B i 3B. Zarówno O100, jak i D100 mają trafić do użytku komercyjnego w 2027 roku, choć firma Xiaomi nie ogłosiła jeszcze dokładnych planów wprowadzenia detalicznej wersji urządzenia AI Cube do sprzedaży.
Na rynku coraz częściej pojawiają się urządzenia do uruchamiania lokalnych modeli sztucznej inteligencji
Prototyp Xiaomi AI Cube to tylko kropla w morzu urządzeń, które w przyszłości mogą zalać rynek wyspecjalizowanych stacji roboczych mających obsłużyć lokalne modele sztucznej inteligencji. Rosnące obawy związane z kosztami, naruszeniami prywatności i ograniczeniami obecnych modeli dostępnych za pośrednictwem technologicznych gigantów skłaniają coraz więcej osób do zastanowienia się nad zainwestowaniem we własne, prywatne modele językowe działające wyłącznie w ustalonym przez użytkownika środowisku. Z ciekawością będziemy przyglądać się rozwiązaniom Xiaomi i ich dalszymi losami. Pytanie, czy nowe procesory będą w stanie konkurować z modelami największego przedstawiciela tego segmentu – Nvidią.
0 komentarzy