AI in de praktijk: Oddity.ai herkent geweld in real-time op camerabeelden

De ontwikkelingen in AI gaan snel en het potentieel is enorm. Maar hoe wordt AI precies toegepast in de praktijk? De oprichters van Oddity.ai kwamen erachter dat geweldsdelicten vaak gemist worden, ondanks het live bekijken van camerabeelden en ontwikkelden daar een oplossing voor.

Thomas Alflen is samen met Nick Mulder en Gerwin van der Lugt co-founder van Oddity.ai. Ze maken zich hard voor het verbeteren van pro-actieve veiligheidsoplossingen. Ik vroeg Thomas naar het verhaal achter deze AI-start-up.

Pro-actief camerabeelden bekijken bleek geen menselijk werk… hoe zijn jullie daar achter gekomen?

“We kennen elkaar uit de Utrechtse studiebanken, we hebben allen een business/IT-achtergrond met een sterke kunstmatige-intelligentie-affiniteit. Gerwin was tijdens onze studie bezig met een innovatief onderzoek op het gebied van activiteitherkenning op videobeelden. Tegelijkertijd viel het ons op dat de hoeveelheid camera’s in steden enorm was toegenomen. En deze trend zet zich door. Vervolgens onderzochten we of we onze AI kennis in het politiedomein konden toepassen.

Toen we drie jaar geleden een dienst mee mochten draaien bij de politie in de toezichtruimte hebben we veel geleerd. Heel indrukwekkend, een grote ruimte met ontzettend veel schermen en camera’s die worden uitgekeken door slechts een handjevol mensen. Het zijn zoveel camera’s dat het onmogelijk is voor een persoon om naar al die camera’s te kijken. Laat staan voor de 50 tot 100 camera’s waar ze per persoon voor verantwoordelijk zijn. Deze persoon verliest de focus (ook wel: inattentional blindness) en conflicten worden te laat opgemerkt. Ook komt het voor dat beeldcentralist bezig is met de afwikkelingen van een incident en daarom een live incident mist. Beeldcentralisten kijken veelvuldig achteraf mee als het incident al gemeld is: reactief dus. Zo leerden we het volgende: pro-actief camera’s uitkijken is geen menselijk werk. En dus zijn we AI gaan toepassen.”

Hoe wordt AI precies toegepast in jullie product?

“Een deep learning-algoritme kijkt live mee op de camerastreams en bepaalt op basis van activiteiten of er een bepaalde gedraging plaatsvindt – dit doen we overigens zonder gezicht-of persoonsherkenning. We ‘hertrainen’ het algoritme op talloze gedragingen, zodat die ook daarop activeert. Wanneer het algoritme geweld detecteert, wordt er een alarmmelding gestuurd naar het werkstation van de beeldcentralist, volledig geïntegreerd met hun bestaande systeem. Hiermee krijgt men de melding zodra het geweld plaatsvindt – en niet achteraf.”

Gedragsherkenningsalgoritmen zijn dus leidend?

“Klopt, het gaat om live herkennen van geweld, steekpartijen en vandalisme. Het systeem reageert dus op het gedrag dat iemand vertoont. Met de beeldcentralisten hebben we het algoritme bepaald met antwoorden op vragen als ‘Wat wil je zien als beeldcentralist?’, ‘Wat kun je absoluut niet missen?’.”

Mooi streven: hoe moet ik me dit in de praktijk voorstellen?

“Geweldsherkenning van Oddity draait op dit moment succesvol in meerdere steden en gesloten inrichtingen. We kunnen met trots zeggen dat we al meerdere slachtoffers hebben geholpen door tijdig ingrijpen van de beeldcentralisten, die een melding kregen binnen hun systeem. Zo zijn wij een cruciale aanvulling op het bestaande cameratoezicht.  Het werkt direct, zonder gewenning aan nieuwe infrastructuur of softwareaanpassingen door de eindgebruiker.

De taak van de beeldcentralist verandert op een elegante manier: in plaats van reactief kijken, let deze nu proactief op meldingen die binnenkomen en kan hij of zij linea recta acteren als er daadwerkelijk iets aan de hand is. Op deze manier laten we de eindverantwoordelijkheid alsnog bij de specialist, zo volgen we ook het human-in-the-loop-principe.”

Je noemde de eindgebruikers al: wie zijn dat?

“De publieke cameratoezichtsruimte is vaak een samenspel tussen gemeente, politie en stadstoezicht. Ook zijn we actief binnen gevangenissen, tbs-/forensisch-pyschologische centra, stadions en het openbaar vervoer. Eigenlijk alle plekken waar camera’s hangen en meer veiligheid gegarandeerd kan worden door inzet van Oddity. Onze partners zijn onder andere de politie, Bosch en Axis Communications, maar ook videomanagementsystemen waarmee we integreren, zoals Milestone.”

Waar verwacht je ontwikkeling? Waar zie je Oddity.ai naartoe bewegen?

“De security-markt wordt op dit moment opgeschud door proposities als Oddity. Dit is goed, want er zijn grote tekorten aan personeel om camera’s uit te kijken. Onze focus zal op de high-impact crimes blijven, met waar mogelijk een horizontale verbreding. Uiteindelijk hebben we een ‘slimme observant’ ontwikkeld die proactief meekijkt naar de stad/locatie/etc. De daadwerkelijke menselijke beeldcentralist zal vervolgens de meldingen afhandelen die onze AI verstuurt.”

Hebben jullie al externe investeerders aangetrokken?

“Ja, TIIN Capital, waarmee we een goede relatie hebben. Met hun Dutch Security Tech Fund leveren zij ook (markt)kennis en kunde mee aan Oddity.ai.”

Over de auteur: Femmie Geradts is directeur bij Startup Village. Voor Emerce belicht ze start-ups die AI toepassen in de praktijk.

Op de hoogte blijven van het laatste nieuws binnen je vakgebied? Volg Emerce dan ook op social: LinkedIn, Twitter en Facebook.