GPT-3: een toonaangevende stap in tekstgerelateerde AI

Het nieuwe GPT-3 genereert en interpreteert volledig automatisch teksten op allerlei gebieden. De potentiële toepassingen zijn eindeloos, ook op het gebied van marketing. Toch zijn er nog manco’s en minpunten. Lees hier de huidige stand van zaken.

Binnen het kader van Artificial Intelligence (AI) staat GPT-3 al lange tijd in de schijnwerpers als de volgende stap in het automatisch genereren van content die inhoudelijk niet te onderscheiden is van content die door een mens is geschreven

Wat is GPT-3 en wat kan het?

De mogelijkheden die GPT-3 met zich meebrengt blijven echter niet enkel en alleen bij het schrijven van content. Zo slaagt GPT-3 er bijvoorbeeld ook in om een applicatie te ontwerpen op basis van een beschrijving, filmtitels te raden aan de hand van hints en schopt GPT-3 het zelfs best ver tijdens een sollicitatie als programmeur.

Maar wat is GPT-3 nou precies? Om deze technologie volledig te kunnen begrijpen en een helder beeld te kunnen creëren bij de reden waarom GPT-3 zo warm wordt onthaald in de wereld van AI is het belangrijk om eerst een stap terug te doen.

GPT-3 is ontwikkeld door OpenAI, een onderzoeksinstelling die wordt gesteund door namen als Elon Musk en Sam Altman. OpenAI wordt gezien als een van de belangrijkste pioniers op het gebied van kunstmatige intelligentie en is medeverantwoordelijk geweest voor een aantal van de meest baanbrekende technieken op dit gebied, waaronder dus ook het GPT-model. Vooralsnog is GPT-3 niet beschikbaar voor iedereen: zo is er in Nederland maar een heel beperkt aantal partijen dat gebruik mag maken van GPT-3.

GPT staat voor Generative Pre-trained Transformer: GPT-3 verwijst dus naar de derde versie in deze reeks van taalmodellen die worden aangestuurd door kunstmatige intelligentie om onder andere automatisering mogelijk te maken. GPT-3 betreft dus een model dat, zoals de naam al zegt, aan de voorkant al getraind is en dus voorzien van meer input-data dan een mens ooit zou kunnen verwerken in een heel leven. Om precies te zijn is GPT-3 getraind op basis van 570 GB aan tekstuele data. Om daar een beeld bij te krijgen: één enkele GB aan alleen tekst staat gelijk aan grofweg 166.000.000 woorden.

Toepassing bij alle taken met tekstuele input

Kortom, GPT-3 beschikt dus over een hoeveelheid aan data die door een mens simpelweg onevenaarbaar is. Door deze training op basis van zo ongelooflijk veel data lopen de toepassingen van GPT-3 enorm uiteen. In beginsel kan GPT-3 worden gebruikt voor elke taak of toepassing die tekstuele input verwerkt voor de daadwerkelijke uitwerking en uitvoering. Voorbeelden hiervan zijn bijvoorbeeld het beantwoorden van vragen, het uitvoeren van vertalingen, maar ook het schrijven van gedichten en het omzetten van langdradige teksten naar duidelijke en beknopte samenvattingen.

Ook abstractere en complexere taken kunnen worden uitgevoerd door GPT-3, zo zijn er al voorbeelden gepresenteerd waarin GPT-3 erin slaagt om aan de hand van een korte beschrijving een website te ontwerpen, tentamens op te stellen voor een bepaald vak, en een schaakwedstrijd te spelen door online de zetten en strategieën te scrapen van ’s werelds meest bekende en befaamde schaakmeesters.

Huiveringwekkende capaciteiten

Een van de meest indrukwekkende – en misschien wel huiveringwekkende – voorbeelden van het gebruik van GPT-3 is een essay dat poogt uiteen te zetten waarom de mens niet bang hoeft te zijn voor kunstmatige intelligentie en de gevaren waar AI vaak mee in verband wordt gelegd. Het essay is volledig geschreven in correct, academisch Engels, en neemt de lezer mee in een aantal overtuigende argumenten en beargumenteert deze op een genuanceerde manier. Kortom, alles duidt erop dat deze tekst is geschreven door een student met aardig wat verstand van AI. Echter, niets is minder waar: de gehele tekst is aan de hand van een korte prompt volledig geschreven door GPT-3. Sterker nog, GPT-3 rolde in het kader van dit experiment acht verschillende versies uit met elk een andere invalshoek, andere argumenten, en een andere opbouw van de tekst.

Andere voorbeelden illustreren verder hoe eindeloos de toepassingsmogelijkheden van GPT-3 werkelijk zijn. Zo is bijvoorbeeld al aangetoond dat de GPT-3 zich niet laat beperken tot taalkundige gebruiken zoals het voorbeeld uit de vorige alinea. Dankzij integraties met andere softwareprogramma’s, zoals Figma, is het bijvoorbeeld mogelijk om tekstuele input om te zetten naar een ontwerp voor een website. In deze input wordt de stijl, identiteit, en content van de website beschreven, vervolgens maakt GPT-3 het mogelijk om deze input te interpreteren en aan de hand van Figma om te zetten naar een visuele lay-out die aansluit op de ingegeven prompt.

Een ander voorbeeld laat zien hoe – dankzij GPT-3 – alledaagse boodschappen kunnen worden gelabeld op voedingswaarde. Met een simpele foto van het etiket op een verpakking slaagt GPT-3 erin om hieruit de ingrediënten, portiegrootte, en voedingswaarde te extraheren en hier vervolgens een waarde aan vast te hangen dat laat zien hoe (on)gezond een product is op basis van deze ingrediënten en de mate waarin deze aanwezig zijn in het product.

Toepassingen rond marketing en SEO

Deze twee voorbeelden zijn weliswaar indrukwekkend, maar illustreren niet het volledige potentieel van GPT-3 als taalkundig voorspellingsmodel. Concretere toepassingen laten bijvoorbeeld zien hoe GPT-3 nu al in de praktijk wordt gebruikt om automatisch teksten te genereren voor producten. Kenmerken van deze producten worden door GPT-3 omgezet naar volledige teksten die het product beschrijven. Op basis van deze teksten kunnen bedrijven de SEO-score van hun productpagina’s verbeteren. Een verbetering in deze score betekent voor bedrijven een betere vindbaarheid van hun producten, en hoe makkelijker deze producten te vinden zijn, hoe eerder ze worden verkocht.

GPT-3 leent zich niet alleen voor het genereren van productteksten, het slaagt er ook in om categorieteksten te genereren op basis van voorbeeldteksten en bepaalde kernwoorden. Zo maakt GPT-3 het niet alleen makkelijker voor bedrijven met veel (sub-)categorieën om de vindbaarheid van hun assortiment te verbeteren, maar slaagt het er ook in om voor consumenten een verwachtingspatroon te creëren van de producten die behoren tot een bepaalde categorie. Deze kracht van GPT-3 zal vooral klanten van bedrijven helpen die behoren tot een bepaalde niche, of die actief zijn in het verkopen van hele unieke producten.

Wat GPT-3 anders maakt

Binnen het speelveld van kunstmatige intelligentie beslaat GPT-3 officieel gezien een rol als taalvoorspellingsmodel, kort gezegd betekent dit dus dat het algoritme is ontworpen om tekstuele input te verwerken en op basis van deze input een taak uit te voeren of oplossing te formuleren. Hetgeen GPT-3 onderscheidt van andere taalmodellen is het feit dat GPT-3 – zoals eerder gezegd – al getraind is aan de hand van zeeën aan data.

Door zelf het algoritme te voorzien van de benodigde data om naar behoren te werken onderscheidt OpenAI zich van andere, vergelijkbare taalmodellen. Zo hoeft GPT-3 bijvoorbeeld – in tegenstelling tot zijn voorganger GPT-2 – niet meer ge-finetuned te worden voor specifiekere taken. Het verwerken van al deze trainingsdata en daadwerkelijk trainen van GPT-3 heeft OpenAI naar verluid ruim €4 miljoen gekost, waardoor GPT-3 inherent ook een stuk kosten wegneemt bij de eindgebruiker die nu zelf geen middelen hoeft toe te wijzen aan de training van het model.

Nadelen en minpunten

Op het gebied van taalkundige opdrachten en het verwerken van tekstuele prompts is het onderhand wel duidelijk dat GPT-3 uniek is in zijn soort. Om een volledig genuanceerd beeld te schetsen is het echter ook belangrijk om te kijken naar eventuele nadelen en minpunten van GPT-3.

Allereerst wordt de kwaliteit van de tekstuele output van GPT-3 slechter naarmate taken langer en complexer worden. Zo is het schrijven van een korte productbeschrijving of een opstel van een paar kantjes nagenoeg niet te onderscheiden van die van een mens, maar is dit voor een lang rapport of complexe tekst op academisch niveau lang niet altijd het geval. Bij heel lange teksten is het zelfs aangetoond dat GPT-3 onzinteksten en wartaal genereert.

Verder kan het gebruik van GPT-3 duur uitvallen vanwege de rekenkracht die vereist is voor gebruik van dit taalmodel. Vooral voor kleinere organisaties en bedrijven met nagenoeg geen of maar een klein budget voor dit soort experimentele toepassingen blijkt GPT-3 geen vatbare optie te zijn.

GPT-3 is een uiterst interessante en revolutionaire toepassing in de wereld van AI die vandaag de dag een enorm potentieel biedt voor specifieke toepassingen. GPT-3 biedt de mogelijkheid om snel kennis te maken met de uiteenlopende mogelijkheden die taalmodellen met zich meebrengen.

Over de auteur: Guus van de Mond is oprichter van Squadra Machine Learning Company.

Op de hoogte blijven van het laatste nieuws binnen je vakgebied? Volg Emerce dan ook op social: LinkedIn, Twitter en Facebook.