Amsterdams AI-platform Orq.ai brengt LLM-router uit

Het Amsterdamse bedrijf Orq.ai brengt zijn AI-router als zelfstandig product uit. Daardoor krijgen techteams controle over de kosten en gebruikersbeheer als ze met meerdere AI-modellen werken.

Wat eerder alleen beschikbaar was als onderdeel van het bredere platform, kunnen bedrijven nu los inzetten als gateway voor het aansturen van meerdere grote taalmodellen tegelijk. De timing is niet toevallig, want de markt voor AI-infrastructuur staat onder druk van snel stijgende kosten, toenemende modelcomplexiteit en een verscherpte Europese discussie over digitale soevereiniteit.

Het probleem dat Orq.ai wil oplossen is herkenbaar voor iedereen die professioneel met generatieve AI werkt. Binnen een en dezelfde organisatie wordt een brede waaier van AI-modellen en versies daarvan gebruikt. “Spaghetti”, in de woorden van ondernemer Sohrab Hosseini. “Versnipperde integraties, onvoorspelbare kosten en gebrekkig zicht op wat er onder de motorkap gebeurt.”

Hij zag de vraag naar het routerproduct uit zijn platform, ontwikkeld met compagnon Anthony Diaz, behoorlijk stijgen en besloot het als aparte oplossing aan te bieden. Die router, een soort verkeersregelaar, is één centrale laag die al het modelverkeer beheert. Op dat niveau wordt ook bepaald wanneer een applicatie van model moet wisselen, “dat kan een kostenbesparing opleveren van tien tot vijftig procent”, en wie wat mag doen met wat voor tokenbudget.

Volgens Hosseini kijken AI- en productteams bij hun modelkeuzes altijd naar een constante driehoek: kwaliteit, performance en kosten. De router probeert die afweging te automatiseren en te optimaliseren.

Maar de router doet meer dan alleen goedkoper routeren. Organisaties kunnen beleid definiëren op basis van geografische herkomst, latency, kosten of eigen criteria. Verzoeken kunnen worden verdeeld over meerdere modellen tegelijk, budgetten kunnen per gebruiker of team worden toegewezen, en sleutelbeheer wordt gecentraliseerd. Zo kunnen bedrijven hun AI-infrastructuur sturen zonder elke keer hun applicaties te hoeven herschrijven.

Een van de eerste grote klanten die de meerwaarde in de praktijk heeft ervaren is bunq, de Amsterdamse neobank.

Wat de lancering extra actueel maakt, is de geopolitieke context. Hosseini benadrukt dat soevereiniteitsvragen rondom AI in Europa de afgelopen periode zijn verschoven van beleidsdiscussie naar operationele realiteit. Waar bedrijven voorheen primair stuurden op functionele eisen (“Kan het model de taak aan?”) worden nu ook non-functionele vragen leidend: waar draait de inferentie precies, wie beheert de infrastructuur, en hoe snel kan een organisatie omschakelen als de geopolitieke situatie dat vereist?

Die vragen worden in de praktijk beantwoord op routeringsniveau. Orq.ai positioneert de router dan ook expliciet als het punt waar infrastructuurbeslissingen worden afgedwongen. De software kan volledig binnen de eigen infrastructuur van een klant worden uitgerold, inclusief ondersteuning voor private, ‘airgapped’ modellen, iets wat gangbare cloudfirst alternatieven doorgaans niet bieden.

Bovenop de router biedt Orq.ai zijn AI Studio, waarmee teams de volledige levenscyclus van hun AI-producten kunnen beheren, van experimenteren en evalueren tot uitrollen en optimaliseren. In de planning staat ook een zogeheten Agent Control Tower, die Hosseini omschrijft als een HR-functie voor AI-agents: een beheerslaag waarmee organisaties hun agent-workforce kunnen aansturen, monitoren en aanpassen. Orq.ai noemt dit intern Agent Resource Management, of kortweg ARM.