Qualcomm zaprezentował już technologię AI, taką jak Stable Diffusion, działającą lokalnie na smartfonach Snapdragon 8 Gen 2, bez konieczności łączenia z internetem. Teraz firma ogłosiła, że telefony flagowe na przyszły rok będą faktycznie wspierać AI na urządzeniu.
Chipmaker ogłosił, że w 2024 roku wprowadzi możliwość wykorzystania AI na urządzeniach, takich jak telefony i komputery PC, dzięki modelowi Llama 2 opracowanemu przez Meta. Qualcomm zaznacza, że to wsparcie umożliwi różne zastosowania bez konieczności łączenia z internetem. Do możliwych zastosowań należą inteligentni wirtualni asystenci, aplikacje do pracy, narzędzia do tworzenia treści, rozrywka i wiele więcej.
"Firma Qualcomm Technologies zaplanowała dostępność implementacji AI opartej na Llama 2 w urządzeniach z procesorami Snapdragon, począwszy od 2024 roku" - dodano w komunikacie prasowym. Nie ma jeszcze informacji, czy Meta sama wprowadzi aplikacje oparte na Llama 2 z lokalnymi wnioskami na telefonach ze Snapdragonem w przyszłym roku. Jednak niezależni deweloperzy aplikacji Android będą z pewnością mieli narzędzia do wydawania swoich własnych projektów.
To nie było jedyne ogłoszenie związanę z Llama 2, ponieważ Meta ujawniła, że udostępniła LLM jako oprogramowanie open source. Meta twierdzi, że zdecydowała się udostępnić to oprogramowanie jako open source, aby dać firmom, startupom, przedsiębiorcom i badaczom dostęp do większej liczby narzędzi. Te narzędzia otwierają "możliwości eksperymentowania, innowacji w ekscytujący sposób i w końcu przynoszą korzyści gospodarcze i społeczne".
fot. Meta AI
Zgodnie z komunikatem prasowym Meta uważa, że otwarcie dostępu do swojej AI sprawia, że jest bezpieczniejsza. Zaznacza, że deweloperzy i badacze będą mogli przetestować LLM, co pomoże w identyfikacji i rozwiązywaniu problemów szybciej. Firma wyjaśnia również, że Llama 2 została poddana testom "red team" - wewnętrznym i zewnętrznym, które polegały na generowaniu "kontrowersyjnych próśb". Meta dodaje, że będzie "nadal inwestować w bezpieczeństwo poprzez dopracowanie i testowanie porównawcze" modelu.
Wreszcie, Microsoft i Meta ogłosiły rozszerzenie współpracy, dzięki której Microsoft stanie się preferowanym partnerem dla Llama 2. Firma Redmond dodała, że nowy LLM będzie obsługiwany w chmurze Azure i na systemie Windows. Oprogramowanie jest dostępne od dzisiaj w katalogu modeli Azure AI i jest zoptymalizowane do pracy lokalnie w systemie Windows. Będzie również dostępne za pośrednictwem Amazon Web Services (AWS), Hugging Face i innych dostawców.
