AI op je telefoon of in de cloud: wat is het verschil?

Je telefoon vat je gemiste berichten samen, herkent je gezicht en maakt je vakantiefoto's mooier zonder dat er iets het toestel verlaat. Maar stel je een ingewikkelde vraag aan een chatbot, dan gaat die vraag naar een datacenter ergens in Europa of Amerika en komt het antwoord over het internet terug. Twee soorten AI, met een wezenlijk verschil dat de moeite waard is om te kennen.

Waarom grote modellen niet op je telefoon passen

Een groot taalmodel bestaat uit vele miljarden parameters, de "afstelknoppen" die tijdens de training zijn ingesteld. Bij elk woord dat het model genereert, rekent het met een groot deel daarvan. Dat vraagt om veel geheugen en gespecialiseerde chips die honderden watts trekken. Een telefoon heeft een fractie van dat geheugen, een zuinige chip en een accu die de dag door moet komen. Het topmodel achter een grote chatbot draait daarom niet op een telefoon; het draait in een datacenter waar jouw vraag naartoe wordt gestuurd.

Wat kan er dan wél op het toestel?

Kleinere modellen. Fabrikanten maken uitgeklede versies die met minder en grover opgeslagen parameters toe kunnen, en moderne telefoons hebben speciale AI-chips die daar zuinig mee rekenen. Zulke modellen zijn merkbaar minder breed inzetbaar dan hun grote broers, maar voor afgebakende taken ruim voldoende: dicteren en live ondertitelen, foto's doorzoeken op wat erop staat, tekst samenvatten, vertalen, slimme antwoordsuggesties. Veel telefoons kiezen per taak: lichte klussen lokaal, zware vragen naar de cloud.

Het echte verschil: waar je data heen gaat

Voor de meeste mensen is dit het punt dat er toe doet.

• Op het toestel. Je gegevens verlaten je telefoon niet. De foto-app die gezichten herkent, doet dat lokaal; niemand anders ziet je foto's. Het werkt ook zonder internet, en er is geen server die meeleest.
• In de cloud. Je invoer wordt verstuurd naar de servers van de aanbieder en daar verwerkt. Wat er vervolgens mee gebeurt, hangt af van de voorwaarden: soms wordt invoer bewaard, soms gebruikt om modellen te verbeteren, soms na korte tijd verwijderd. Bij gratis diensten is de kans op hergebruik voor training het grootst; zakelijke versies bieden vaak expliciete garanties.

De vuistregel is simpel: wat op het toestel blijft, is privé by design; wat naar de cloud gaat, is zo privé als de voorwaarden van de aanbieder. Voor vertrouwelijke informatie is dat verschil geen detail maar de kern.

En de tussenweg: zelf een model draaien

Er is nog een derde route, vooral populair bij hobbyisten en bedrijven met strenge data-eisen: open modellen die je op je eigen computer of server draait. Je hebt er een stevige machine voor nodig en de modellen zijn doorgaans minder capabel dan de grootste cloud-modellen, maar alles blijft binnen je eigen muren. Voor organisaties die niet willen of mogen dat data de deur uitgaat, is dit een serieus alternatief geworden.

Hoe je dit praktisch gebruikt

Je hoeft geen techneut te zijn om hier iets mee te doen. Weet bij elke AI-functie die je gebruikt in welke categorie hij valt: blijft dit op mijn apparaat, of gaat het naar een server? Besturingssystemen vermelden het steeds vaker expliciet. En stem je gebruik erop af: brainstormen en algemene vragen kunnen prima naar de cloud, maar wees terughoudend met persoonsgegevens en vertrouwelijke stukken in diensten waarvan je de voorwaarden niet kent.

Meer weten over open modellen, lokaal draaien en wat er technisch achter zit? De les Lokale en open-source AI legt het uit, en Privacy en jouw data gaat dieper in op wat er met je invoer gebeurt.