Circular IT Group heeft een analyse gepubliceerd over GPT-OSS, een open-source taalmodel van OpenAI dat lokaal op eigen hardware kan draaien.
In het stuk beschrijft het bedrijf hoe organisaties deze technologie kunnen toepassen, welke technische voorzieningen nodig zijn en welke overwegingen meespelen bij het huren of kopen van de benodigde infrastructuur. Volgens de analyse kan GPT-OSS bedrijven meer controle geven over gegevensverwerking, maatwerk en kostenbeheersing dan cloudgebaseerde AI-diensten.
Krachtige hardware te huur
Het model kan offline functioneren, waardoor verwerking van gevoelige informatie binnen de organisatie blijft. Circular IT Group noemt daarbij onder andere geautomatiseerde klantondersteuning, interne analyse van juridische documenten en ondersteuning bij productontwikkeling en onderzoek.
De inzet van GPT-OSS vraagt krachtige hardware. Denk aan GPU’s zoals de NVIDIA A100 of H100, snelle NVMe-SSD-opslag, voldoende RAM, sterke CPU’s en een robuust netwerk. Daarnaast vergelijkt Circular IT Group de opties voor het huren of kopen van AI-infrastructuur voor GPT-OSS. Huur kan flexibiliteit en toegang tot de nieuwste technologie bieden zonder hoge initiële uitgaven, wat het volgens de analyse geschikt maakt voor tijdelijke projecten en experimenten. Aankoop kan op langere termijn kostenefficiënter zijn bij stabiele en voorspelbare workloads, met volledige controle over de systemen. “Eigendom biedt volledige controle, verbeterde aanpasbaarheid en besparingen op lange termijn”, aldus de Circular IT Group.
Het bedrijf geeft aan dat het zowel bij huur als aanschaf ondersteuning kan leveren, variërend van advies over systeemconfiguratie tot levering van hardware en diensten voor het beheer aan het einde van de levenscyclus. De publicatie richt zich op organisaties in de EMEA-regio die AI willen inzetten met behoud van gegevenscontrole en operationele onafhankelijkheid.
