Tidigare i år släppte Mainframe fullmoon-appen, ett gratis och öppen källkodsverktyg som låter användare köra stora språkmodeller, som Llama och DeepSeek, helt på sin enhet. Den lanserades den 13 januari 2025, passande timad med fullmåne, en lekfull nick till namnet fullmoon (fuLLMoon).
Istället för att förlita sig på internetanslutningar kör fullmoon AI-modeller lokalt på Apple silicon, vilket förbättrar hastigheten och håller konversationsdata privat. Appen fungerar helt offline på iPhone, iPad, Mac och Vision Pro, och den kräver iOS17.6, iPadOS17.6, macOS14.0 eller visionOS2.0 eller senare.
Medan många AI-chattverktyg förlitar sig på konstant internetuppkoppling, tar fullmoon ett annat tillvägagångssätt. Genom att köra modeller lokalt på Apple silicon ger det snabbare svarstider och säkerställer att användardata stannar på enheten. För integritetsmedvetna användare innebär detta att konversationer förblir helt personliga, utan tredjepartsservrar inblandade. Offline-förmågan gör den också användbar i miljöer med låg anslutning eller för dem som föredrar att hålla sina arbetsflöden fristående.
Appen stöder flera modeller inklusive Llama-3.2-1B-Instruct-4bit, Llama-3.2-3B-Instruct-4bit och DeepSeek-R1-Distill-Qwen-1.5B i både 4-bitars och 8-bitars versioner. Dessa modeller är optimerade för Apples M-seriechips och balanserar prestanda med effektivitet. Användare kan skräddarsy sin upplevelse ytterligare genom anpassningsbara teman, typsnitt och systemuppmaningar, och Apple Shortcuts-integrationen låter dem bädda in AI-funktionalitet i automatiserade uppgifter.
Rekommenderad läsning:Privata GitHub-repos kan fortfarande nås via Copilot efter att ha gjorts privata
Fullmoon började som en TestFlight-beta, där över 3 500 deltagare hjälpte till att forma den slutliga releasen. Gemenskapsfeedback har varit en integrerad del av dess utveckling, och projektets natur med öppen källkod – värd på GitHub – säkerställer att alla kan inspektera, modifiera eller bidra till koden. Denna transparens har hjälpt det att få dragkraft bland både utvecklare och vanliga användare som letar efter pålitliga AI-verktyg.
Sedan lanseringen har fullmoon fått positiva recensioner för sin hastighet, tillförlitlighet och användarvänliga gränssnitt. Möjligheten att använda avancerade modeller utan tillgång till internet har uppskattats särskilt av resenärer, fältproffs och de som söker privata AI-experiment. Även med mer kapabla modeller förblir prestandan jämn, vilket framhäver effektiviteten i att köra LLM direkt på Apples hårdvara.
Istället för att bara vara ännu en chatbot-app representerar fullmoon en förändring mot personlig AI: kraftfull, privat och lokalt kontrollerad. Det visar att det inte bara är möjligt utan praktiskt att köra avancerade språkmodeller på konsumentenheter, vilket banar väg för mer tillgängliga och integritetsfokuserade AI-upplevelser.