Herinnert u zich het verbaasde besef van bedrijfsleiders - na de lancering van ChatGPT - dat generatieve AI de meeste aannames over de toekomst van hun organisaties omver werpt? Als je de juiste vraag kunt bedenken, is de kans groot dat AI je een antwoord geeft dat je naar een nieuwe en opwindende plek brengt. Je kunt zelfs vragen wat de juiste vraag zou kunnen zijn.

Wat niet lang daarna ook duidelijk werd, was dat het vertrouwen op publieke large language model (LLM)-AI’s, zoals ChatGPT, Bing, Claude en Bard, op publieke cloud platforms een hele rits risico’s met zich meebrengt. Hoewel de ervaringen in de publieke cloud op het gebied van de rijkdom aan functies en de snelheid van innovatie uitstekend zijn geweest, maken organisaties zich nu - terecht - zorgen over nauwkeurigheid, vooringenomenheid, het lekken van intellectuele eigendom, gegevens-privacy, opkomende regelgeving en compliance, onbekende juridische risico’s en stijgende kosten. Dit alles zal hun gebruik van de publieke cloud beperken. Die behoorlijk lange lijst van zorgen vormen samen een fundamenteel vertrouwensprobleem voor AI.

Als gevolg hiervan zijn veel bedrijven bezig met het verkennen of implementeren van generatieve AI op locatie. Volgens een recent rapport is de keuze waar klanten generatieve AI willen gebruiken vrijwel precies in het midden verdeeld in termen van publieke cloud versus on-premise en edge.

We kunnen de trend bevestigen: Fujitsu werkt hier al samen met klanten en zijn partner-ecosysteem aan. Als gevolg hiervan werd gezamenlijk een on-prem generatieve AI-oplossing gecreëerd. Die oplossing is ook beschikbaar op de AI Test drive van Fujitsu, waarop het verschillende POC's heeft draaien samen met klanten van bedrijven van verschillende groottes in verschillende bedrijfstakken in heel Europa.

Kern van het probleem

Grote taalmodellen zijn afhankelijk van training op enorme maar eindige training-datasets. Dat brengt risico's met zich op het stuk van de potentiële nauwkeurigheid, zoals het stellen van generalisatie boven specificiteit, gebrek aan verificatie en het ontbreken van een bron van waarheid. Een andere zorg is het in stand houden of zelfs versterken van vooroordelen. Eventuele vertekeningen in de trainingsgegevens kunnen ervoor zorgen dat het model vertekende inhoud genereert.

Naast de risico's van het gebruik van publieke generatieve AI's kunnen publieke cloud platforms veiligheidsrisico's meebrengen, zoals inbreuken op de gegevens-privacy, IP-lekken en operationele risico's.

Op locatie is nauwkeuriger

Het terugbrengen van een model binnen de perimeter van een organisatie betekent dat bedrijven veel specifieker kunnen zijn over bijvoorbeeld regelingen voor beveiliging, privacy, datasoevereiniteit en digitale rechten (DR). Ze kunnen ook veel praktischer zijn over wat er feitelijk in het model staat, waardoor het risico op vooringenomenheid en valse of verouderde informatie wordt verminderd.

Organisaties kunnen de modellen ook aanpassen voor specifieke gebruiksscenario’s. Zij kunnen ervoor zorgen dat de AI wordt getraind op hoogwaardige, diverse en representatieve data. En de AI voortdurend updaten met nieuwe gegevens om de nauwkeurigheid ervan te verbeteren, de resultaten van generatieve AI te bevestigen met andere vertrouwde bronnen en gebruikers voor te lichten over de sterke punten en beperkingen van de AI.

Gegevensbronnen kunnen veel gerichter zijn en pools bevatten die niet beschikbaar zouden zijn voor een openbare AI. Denk aan -informatie die wordt bewaard in Teams of op een intranet of extranet. Gegevens over producten en diensten kunnen worden ingetrokken of bijgewerkt als deze in de loop van de tijd veranderen. Ze kunnen zelfs modellen creëren die zijn afgestemd op de behoeften van specifieke bedrijfseenheden of afdelingen. Juridische teams zullen bijvoorbeeld advies willen krijgen van een AI waarbij regelgeving voorrang krijgt boven marketing-overwegingen.

In praktische termen plaatst dit gebruikers in een positie om vragen te stellen als: “Gebaseerd op de meest recente versies van onze verkoopspresentatie en marketing-strategie, wat zijn waarschijnlijk de meest overtuigende boodschappen die we kunnen overbrengen aan de Top 10 -klanten in de snelst groeiende verticale markten in het tweede kwartaal?”

Al bij al biedt het intern beheren van generatieve AI flexibiliteit en overzicht die cloud-gebaseerde opties mogelijk ontberen.

Duurzamere aanpak

Uiteindelijk moeten al deze opties aanvaardbaar zijn voor klanten en de samenleving. We hadden het over vertrouwen met betrekking tot nauwkeurigheid, vooringenomenheid, privacy en beveiliging. Maar de impact op het milieu zal de komende maanden waarschijnlijk net zo prominent worden. De exponentiële groei van de parameters die de indrukwekkende mogelijkheden van AI aandrijven, brengt energie- en koelingskosten mee die mogelijk onhoudbaar blijken.

Voor de meeste zakelijke gebruiksscenario's zijn echter geen enorme modellen nodig. Met on-premise hosting kunnen de modelgrootte, prestaties en kosten worden afgestemd op de behoeften van een organisatie. Zorgvuldig op maat gemaakte oplossingen op locatie kunnen de juiste maat hebben in plaats van een monolithische, one-size-fits-all cloud-benadering te hanteren. Hierdoor wordt de operationele efficiëntie op één lijn gebracht met bredere ESG-verplichtingen.

Nu de zorgen over de energie- en koelingsbehoeften van generatieve AI toenemen, bieden oplossingen op locatie een duurzamere weg vooruit.

Aan de slag gaan wordt steeds makkelijker

Met al deze voordelen is het geen wonder dat generatieve AI op locatie zoveel aandacht trekt.

Aan boord komen wordt een stuk eenvoudiger. Fujitsu biedt bijvoorbeeld referentie-architecturen om de configuratie en omvang van de infrastructuur te optimaliseren, en een complete stack samen met zijn partners, afhankelijk van de gebruikscasus.

Heeft u een idee voor een specifieke use case voor een particuliere onderneming voor een LLM waarbij u advies nodig heeft over hoe verder te gaan? Misschien wilt u eindelijk de inhoud en implicaties begrijpen van de ongeveer honderd contracten die uw operationele team momenteel open heeft staan? Uiteraard wil je die documenten niet uploaden naar een openbare omgeving. Fujitsu biedt uitgebreid advies over wat werkt en wat niet en hoe u uw idee het beste kunt implementeren.

Fujitsu’s Test Drives van het DX Innovation Platform bieden state-of-the-art infrastructuur en adviesondersteuning om complexe vereisten te helpen begrijpen, en om de gegevens te valideren en evalueren om business cases op te bouwen en de juiste infrastructuur te selecteren. Daarnaast kan Fujitsu’s private GPT-oplossing ook worden getest.

Om een ​​contact aan te vragen of om u te registreren voor een proefrit klik hier.

(Marcus Schneider, plaatsvervangend hoofd Global Portfolio Management, Fujitsu)