Mozilla richt startup op voor ‘betrouwbare AI’

Mozilla, de non-profitorganisatie achter de Firefox-browser, richt een op AI gerichte startup op, Mozilla.ai. Men wil AI ontwikkelen die ‘betrouwbaar’ is, zegt topman Mark Surman,

Surman verwijst naar de huidige AI-modellen die, hoe indrukwekkend ook, niet feilloos zijn. Open AI’s ChatGPT kan zelfs worden gevraagd om malware te schrijven, exploits in open source-code te identificeren en goed gelijkende phishing-websites te maken.

De makers van deze modellen zeggen dat ze stappen ondernemen om misbruik tegen te gaan. Maar Mozilla vond dat er niet genoeg werd gedaan.

‘We werken al ongeveer vijf jaar aan betrouwbare AI, in de hoop dat andere spelers in de industrie met meer AI-expertise zouden opstaan om meer betrouwbaardere technologie te bouwen. Dat hebben ze niet gedaan. Dus besloten we medio vorig jaar dat we het zelf moesten doen.’

De startup krijgt 30 miljoen dollar van de Mozilla Foundation, de moederorganisatie van Mozilla. De directeur is Moez Draief, die eerder chief scientist was bij Huawei’s Noah’s Ark AI lab.

Karim Lakhani van Harvard, Navrina Singh en Surman van Credo zullen dienen als de eerste bestuursleden van Mozilla.ai. Lakhani is de voorzitter en mede-oprichter van het Digital, Data and Design Institute aan Harvard, terwijl Singh lid is van het National AI Advisory Committee van het Amerikaanse ministerie van Handel.