Amsterdam, 28 mei 2024 – In de opmars van generatieve AI (GenAI) is het belangrijk om vertrouwen op te bouwen. Iets dat nu nog vaak ontbreekt. Deze uitdaging omvat zorgen over de kwaliteit van trainingsdata, beperkte toegang tot gegevens, en privacyvraagstukken. Wanneer gebruikers vertrouwen hebben in de resultaten en de betrouwbaarheid ervan, zijn ze eerder bereid om deze technologieën te omarmen. Zo niet, bestaat het risico dat innovatieve technologieën niet gebruikt worden en organisaties hierdoor stagneren.
James Fisher, Chief Product Officer bij Qlik, deelt drie dilemma’s voor vertrouwen in AI en biedt tips om deze uitdagingen het hoofd te bieden.
1. Overvloed aan data
GenAI wordt op momenteel getraind op een enorme hoeveel data, variërend van kwalitatief hoogwaardig tot minder betrouwbaar. Dit resulteert in ruis en feitelijke onjuistheden. Er wordt inmiddels voorspeld dat tegen 2025 mogelijk 90 procent van alle online content door AI wordt gegenereerd. Dit biedt zeker productiviteitsvoordelen, maar roept ook vragen op over de nauwkeurigheid en betrouwbaarheid. Het is daarom noodzakelijk om de trainingsdata voor AI-modellen te verbeteren door strengere selectiecriteria en data cleaning-technieken, op basis van machine learning-algoritmen of handmatige controles. Door gegevens te gebruiken die een zekere mate van kwaliteit hebben, wordt de hoeveelheid ruis en fouten verminderd.
2. Beperkte beschikbaarheid van data
Tegelijkertijd zijn er organisaties die data achterhouden die een beleid van gegevensbeperking voeren. Dit is een strategie waarbij organisaties bewust de toegang tot bepaalde data beperken. Dit kan leiden tot een schaarste van kwalitatieve data die nodig is voor het trainen en verbeteren van AI-modellen. Organisaties die wel toegang hebben tot deze data krijgen zo een concurrentievoordeel. Een reactie hierop is het stimuleren van samenwerking met andere bedrijven. Op deze manier ontstaan er voor iedere betrokken partij nieuwe mogelijkheden voor het delen van nog meer data en het creëren van een meer inclusief ecosysteem voor AI-ontwikkeling.
3. Privacy bij dataverzameling
Een belangrijk dilemma is de ethiek en privacy bij het verzamelen van data. GenAI heeft veel data nodig voor nauwkeurige resultaten, maar er zijn zorgen over hoe deze data wordt verzameld en gebruikt. Zonder toestemming kan dit niet alleen juridische problemen veroorzaken, het schaadt ook het vertrouwen van gebruikers. Om dit aan te pakken, moeten organisatie transparante en verantwoorde methodes gebruiken. Dit betekent dat je expliciete toestemming krijgt voordat gegevens worden verzameld, je gevoelige gegevens anonimiseert en bovenal voldoet aan privacywetten zoals de Algemene Verordening Gegevensbescherming. Duidelijk privacybeleid en het regelmatig trainen van medewerkers in data-ethiek en privacy helpen organisaties om te voldoen aan de wet en het vertrouwen van gebruikers te winnen en te behouden.
