Tensor coprocessors geven ingebedde computers AI-mogelijkheden: Kunstmatige intelligentie voor iedereen

Kunstmatige intelligentie (AI)-toepassingen zijn zeer geschikt voor patroonherkenning, waardoor flexibele besluitvorming mogelijk wordt, bijvoorbeeld voor rijhulpsystemen in auto’s of voor industriële toepassingen zoals kwaliteitsborging. De beschikbaarheid van gespecialiseerde Tensor coprocessoren en hun integratie in single-board computers en computers-on-module (COM) kaarten maken het mogelijk om de extreem rekenintensieve AI-bewerkingen direct uit te voeren op het punt waar ze nodig zijn.

Kunstmatige intelligentie is niet langer een modewoord, een domein voor een paar wiskundespecialisten. Het maakt gebruik van kunstmatige neurale netwerken die gemodelleerd zijn naar de structuren in de hersenen voor informatieverwerking met een hoge mate van abstractie.

Hoewel dit apparaten en machines niet het vermogen geeft om te denken, kunnen ze wel analogieën trekken op basis van historische informatie. Het stelt ze ook in staat om op informatie gebaseerde methoden te leren voor het verzamelen van ervaring op basis van hogere statistiek, zoals machine learning en deep learning.

Meer responsieve machines
Dit leervermogen heeft verschillende voordelen. Ten eerste kunnen apparaten en machines reageren op onverwachte bedrijfssituaties zonder dat de software elke eventualiteit vanaf het begin gedetailleerd in kaart hoeft te brengen. Dit maakt inbedrijfstelling met basisprogrammering en zelfoptimalisatie tijdens gebruik mogelijk. In industriële toepassingen kunnen dergelijke algoritmen bijvoorbeeld gebruikt worden om machines een tijdsvoordeel te geven door middel van een voorspellende positionering van gereedschappen of werkstukken.

Aan de andere kant houdt het gebruik van machine learning en deep learning de softwareontwikkeling beheersbaar omdat een deel van de fijnafstelling kan worden gedaan tijdens het trainen van operationele situaties. Deze hoeven zeker niet tijdens het gebruik plaats te vinden. Veel ervan – vooral meer abstracte algemene functionaliteiten – kan vooraf worden getraind in de computersimulatie, veilig en met veel meer trainingsrondes dan in werkelijkheid mogelijk zou zijn.

Geavanceerde informatieverwerking

De toepassingen van kunstmatige intelligentie variëren van spraakherkenning tot de identificatie van personen of de herkenning van objecten aan de hand van hun positie, grootte en kenmerken tot kwaliteitsborging. Het is een goede zaak dat kunstmatige neurale netwerken uitstekend geschikt zijn voor diepgaande analyses van grote hoeveelheden gegevens, bijvoorbeeld voor patroonherkenning met hoge nauwkeurigheid in geluids-, beeld- en videogegevens.

Deze methoden stellen echter zeer hoge eisen aan de rekenkracht. In het verleden was het daarom nodig om AI-toepassingen uit te besteden aan krachtige systemen. Zulke toepassingen worden vaak aangeboden als software-as-a-service (SaaS) in de cloud.

Door beperkte communicatiebandbreedtes kon de verwerking vaak niet in realtime plaatsvinden. Bovendien leidde dit soms tot hoge kosten voor gegevensoverdracht via openbare telecommunicatienetwerken. Daarnaast maken veel gebruikers zich, gezien de aanzienlijke hoeveelheden gegevens, zorgen over het failsafe karakter van gegevensverbindingen en het verlies van soevereiniteit over hun informatie.

Gedecentraliseerde intelligentie
Digitalisering en Industrie 4.0 vereisen een systeemverandering van gecentraliseerde structuren naar gedecentraliseerde gegevensverwerking. Aan de ene kant heeft dit invloed op apparaten en machines. In plaats van de hardware zelf vanaf nul te ontwikkelen, integreren hun fabrikanten tegenwoordig vaak single board computers of controllers of computer-on-modules op basis van standaarden.

De productvariëteit is groot en dergelijke producten zijn ook beschikbaar in robuuste versies met een uitgebreid temperatuurbereik voor industrieel gebruik. Niet in de laatste plaats vanwege hun lage kosten en afmetingen, maakt embedded computing het mogelijk om individuele besturings- of gegevensverwerkingstaken direct op te lossen.

De embedded boards als verwerkingseenheden communiceren in het Internet of Things zowel met elkaar als met diensten op een hoger niveau, in toenemende mate ook met clouddiensten. Ook daar is er nu een verschuiving van strikt gecentraliseerde verwerking. In plaats van gecentraliseerde intelligentie worden de randapparaten hier geconfronteerd met gedecentraliseerde, vaak taakspecifieke randservers.

Verschillende benaderingen van AI

Om onafhankelijk te blijven van de transmissiebandbreedte worden met name bewerkingen waar tijd een belangrijke factor is zoals de inferentieberekeningen van kunstmatige intelligentie steeds vaker uitgevoerd op apparaatniveau, aan de zogenaamde rand van de installatie.

Voor dit doel bieden de bekende halfgeleiderfabrikanten al krachtige processors (Central Processing Units; CPU’s) met direct geïntegreerde functies voor de specifieke verwerking van AI-toepassingen. Aangezien inferentieberekeningen bepaalde overeenkomsten vertonen met beeldverwerking, zijn krachtige grafische processors (Graphic Processing Units; GPU) zelfs beter geschikt dan klassieke CPU’s voor het verwerken van veel AI-taken. Enkele bekende fabrikanten van grafische kaarten zijn daarom op de kar gesprongen en bieden hun hardware aan samen met ondersteunende ontwikkelaarstools speciaal voor AI-toepassingen.

Onlangs lanceerden tal van halfgeleiderfabrikanten speciale AI-versnellers, zogenaamde Tensor Processing Units (TPU) zoals Google’s Tensor Processor Coral. Nog meer dan GPU’s ontlasten deze de hoofdprocessoren van de bijzonder rekenintensieve AI-bewerkingen, waarvan ze sommige al aankunnen omdat ze voorgetraind zijn. Sommige, zoals de Hailo-8™ AI-accelerator met 26 TOPS, zijn bijzonder snel dankzij geïntegreerde geheugens.

Onafhankelijkheid door lokale AI

Ondertussen bieden toonaangevende fabrikanten van ontwikkelboards, single-board computers en computers-on-module producten van alle groottes en prestatieklassen met geïntegreerde TPU. Dit maakt real-time uitvoering van AI-toepassingen mogelijk aan de rand of zelfs op apparaatniveau, dus direct op het punt waar de actie plaatsvindt. Dit betekent dat zelfs zeer compacte machines en apparaten vrij eenvoudig kunnen worden uitgerust met mogelijkheden voor machine learning en deep learning.

De decentralisatie van kunstmatige intelligentie biedt ongekende toepassingsmogelijkheden. Het stelt ontwikkelaars van apparaten en machines in staat om ze zo te ontwerpen dat hun aanbod aan functies tijdens het gebruik toeneemt. Hierdoor kan het een bereik krijgen dat onmogelijk te realiseren zou zijn door middel van klassieke programmering, of alleen met enorme programmeerinspanning.

Maar het ondersteunt en vergemakkelijkt ook de modularisering van grotere machines. Individuele, semi-autonome modules en assemblages kunnen de geïntegreerde AI-mogelijkheden gebruiken om met elkaar te coördineren. Op deze manier kunnen sommige problemen die samenhangen met de interactie tussen verschillende systeemonderdelen aan hen worden gedelegeerd. Bovendien maakt dit functionele optimalisatie van de totale machine of het systeem mogelijk door onderlinge coördinatie van de afzonderlijke onderdelen.

Noodzakelijke heroverweging

De overweging van verschillende optimalisatiedoelen maakt de taak multidimensionaal. Dit voorbeeld is niet het enige dat aantoont dat AI softwareontwikkelaars en besturingsprogrammeurs zeker niet overbodig maakt. Het stelt hen in staat om de problemen op een andere manier te benaderen en biedt hen andere, vaak handigere hulpmiddelen.

Het gebruik hiervan moet echter geleerd en geoefend worden. En het vereist een mentale verschuiving van de nog steeds wijdverbreide sequentiële benadering van besturings-, regel- en automatiseringstaken.