Google, Microsoft en OpenAI lanceren Coalitie Voor Veilige AI

Grote technologiebedrijven hebben een nieuwe industriegroep opgericht die zich zal richten op de beveiliging van kunstmatige intelligentie (AI).

Het Coalition for Secure AI (CoSAI)-raamwerk zal functioneren als een open-sourcegroep die bedoeld is om methoden, normen en tools te delen.

Anthropic, Amazon, Cisco, Google, IBM, Intel, Microsoft Nvidia en PayPal zijn enkele van de oprichters. Co-voorzitters zijn David LaBianca, senior director van Google, evenals Omar Santos, ingenieur en AI-beveiligingsonderzoek bij Cisco.

CoSAI zal samenwerken met het Amerikaanse NIST, Open-Source Security Foundation (OpenSSF) en andere belanghebbenden en gezamenlijk onderzoek uitvoeren. Daarnaast wordt samengewerkt met organisaties als Frontier Model Forum, Partnership on AI, OpenSSF en ML Commons.

CoSAI zal worden gehuisvest bij OASIS Open, het internationale standaarden en open-source consortium.