MacPaw, een ontwikkelaar uit Oekraïne, werkt samen met Liquid AI om AI-modellen lokaal op gebruikersapparaten te laten draaien. Het doel is dat apps en slimme assistenten niet altijd afhankelijk zijn van internet en cloudservers, en dat ontwikkelaars later toegang krijgen tot die technologie.

Wat ontwikkelen MacPaw en Liquid AI?

MacPaw bouwt verder aan zijn AI-assistent Eney, die vorig jaar werd gepresenteerd. Nu wil het bedrijf een versie laten draaien op het apparaat zelf in plaats van in de cloud. Voor dit project heeft MacPaw Liquid AI ingeschakeld.

Liquid AI ontwikkelt twee belangrijke onderdelen voor MacPaw:

• Elix, een systeem voor on-device inference — dat betekent dat het AI-model beslissingen en berekeningen uitvoert op de computer of telefoon zelf, zonder een externe server.

• Een lokale geheugensysteem waarmee de assistent informatie over de gebruiker opslaat en sneller kan reageren.

Samen moeten deze onderdelen ervoor zorgen dat Eney en vergelijkbare apps slimmer en sneller werken op het apparaat van de gebruiker.

Waarom lokale AI? Voordelen kort uitgelegd

MacPaw en Liquid AI noemen een paar concrete voordelen van AI die op het apparaat draait:

• Privacy: gegevens blijven op het apparaat en hoeven niet naar externe servers te reizen.

• Veiligheid: minder dataverkeer betekent minder kans op lekken of onbevoegde toegang.

• Offline werking: gebruikers kunnen assistenten en bepaalde workflows laten draaien zonder internetverbinding.

Liquid AI zegt dat ze modellen kiezen die specifiek zijn afgestemd op de hardware van een apparaat. Daardoor moeten de modellen efficiënter werken en minder energie gebruiken.

Hoe verschilt dit van wat Apple al doet?

Apple biedt ontwikkelaars al mogelijkheden om modellen lokaal te laten draaien op hun apparaten. Liquid AI stelt echter dat hun modellen zijn ontworpen met andere prioriteiten, zoals prestaties voor verschillende taken. Daarnaast werkt Liquid AI aan een laag voor maatwerk: modellen die zich kunnen aanpassen en verbeteren op basis van gebruikersinput.

Dit betekent dat de AI niet alleen vooraf getrainde antwoorden geeft, maar ook kan leren van hoe mensen het gebruiken — binnen de grenzen van het lokale geheugen dat op het apparaat staat.

Wat betekent dit voor ontwikkelaars en SetApp-gebruikers?

MacPaw wil de lokale verwerkingsarchitectuur samen met Liquid AI ‘vastzetten’ en daarna beschikbaar maken voor externe ontwikkelaars. Dat betekent dat andere app-makers in de toekomst ook gebruik moeten kunnen maken van on-device inference in hun eigen apps.

Daarnaast wil MacPaw SetApp, zijn abonnementswinkel voor software, meer richten op AI-apps. SetApp heeft momenteel meer dan 150.000 betalende gebruikers.

MacPaw geeft aan dat het platform een centrale plek wil worden voor ontwikkelaars. Naast lokale modellen wil het ook toegang bieden tot cloudmodellen van andere bedrijven, zoals Google, zodat ontwikkelaars verschillende opties hebben zonder meerdere leveranciers te moeten regelen.

Nieuw prijsmodel: credits voor AI-acties

MacPaw experimenteert met een krediet-systeem voor SetApp. Dat werkt zo dat gebruikers een bepaald aantal credits hebben. Elke keer dat de AI iets doet — bijvoorbeeld een ingewikkeldere tekstbewerking of een simpele taak — verbruikt dat een aantal credits. De prijs en het verbruik hangen af van de complexiteit van de taak.

Dit maakt het voor gebruikers mogelijk om controle te houden over hoeveel AI-werk ze doen binnen hun abonnement, en geeft ontwikkelaars een manier om kosten te koppelen aan het gebruik van AI-functies.

Conclusie

MacPaw en Liquid AI willen AI dichter bij de gebruiker brengen door slimme modellen op het apparaat zelf te laten draaien. Dat biedt voordelen op het gebied van privacy, veiligheid en offline gebruik. Op termijn wil MacPaw deze technologie beschikbaar maken voor andere ontwikkelaars en AI-functies centraal aanbieden via SetApp, inclusief een nieuw creditsysteem voor het gebruik van AI.