Eerder dit jaar bracht Mainframe de fullmoon-app uit, een gratis en open-source tool waarmee gebruikers grote taalmodellen, zoals Llama en DeepSeek, volledig op hun apparaat kunnen draaien. Het werd gelanceerd op 13 januari 2025, toepasselijk getimed met een volle maan, een speelse knipoog naar de naam fullmoon (fulLMoon).
In plaats van te vertrouwen op internetverbindingen, voert Fullmoon AI-modellen lokaal uit op Apple Silicon, wat de snelheid verbetert en gespreksgegevens privé houdt. De app werkt volledig offline op iPhone, iPad, Mac en Vision Pro en vereist iOS17.6, iPadOS17.6, macOS14.0 of visionOS2.0 of hoger.
Hoewel veel AI-chattools afhankelijk zijn van een constante internetverbinding, kiest Fullmoon voor een andere aanpak. Door modellen lokaal op Apple Silicon te draaien, worden snellere responstijden bereikt en worden gebruikersgegevens op het apparaat bewaard. Voor privacybewuste gebruikers betekent dit dat gesprekken volledig persoonlijk blijven, zonder dat er servers van derden bij betrokken zijn. De offline mogelijkheid maakt het ook nuttig in omgevingen met weinig connectiviteit of voor degenen die hun workflows liever op zichzelf houden.
De app ondersteunt verschillende modellen, waaronder Llama-3.2-1B-Instruct-4bit, Llama-3.2-3B-Instruct-4bit en DeepSeek-R1-Distill-Qwen-1.5B in zowel 4-bit als 8-bit versies. Deze modellen zijn geoptimaliseerd voor de chips uit de M-serie van Apple, waardoor prestaties en efficiëntie in balans zijn. Gebruikers kunnen hun ervaring verder aanpassen via aanpasbare thema's, lettertypen en systeemprompts, en dankzij de integratie van Apple Shortcuts kunnen ze AI-functionaliteit insluiten in geautomatiseerde taken.
Aanbevolen leesmateriaal:Privé GitHub-opslagplaatsen zijn nog steeds bereikbaar via Copilot nadat ze privé zijn gemaakt
Fullmoon begon als een TestFlight-bèta, waarbij meer dan 3.500 deelnemers hielpen de uiteindelijke release vorm te geven. Feedback van de gemeenschap is een integraal onderdeel geweest van de ontwikkeling ervan, en het open-source karakter van het project (gehost op GitHub) zorgt ervoor dat iedereen de code kan inspecteren, wijzigen of eraan kan bijdragen. Deze transparantie heeft ervoor gezorgd dat het aan populariteit heeft gewonnen onder zowel ontwikkelaars als gewone gebruikers die op zoek zijn naar betrouwbare AI-tools.
Sinds de lancering heeft fullmoon positieve recensies gekregen vanwege zijn snelheid, betrouwbaarheid en gebruiksvriendelijke interface. De mogelijkheid om geavanceerde modellen te gebruiken zonder internettoegang wordt vooral gewaardeerd door reizigers, veldprofessionals en mensen die op zoek zijn naar particuliere AI-experimenten. Zelfs met meer capabele modellen blijven de prestaties soepel, wat de efficiëntie benadrukt van het rechtstreeks draaien van LLM's op Apple-hardware.
In plaats van gewoon een andere chatbot-app te zijn, vertegenwoordigt Fullmoon een verschuiving naar persoonlijke AI: krachtig, privé en lokaal gecontroleerd. Het laat zien dat het uitvoeren van geavanceerde taalmodellen op consumentenapparaten niet alleen mogelijk maar ook praktisch is, waardoor de weg wordt vrijgemaakt voor meer toegankelijke en op privacy gerichte AI-ervaringen.