‘Slimme luidsprekers kunnen autonomie gebruikers in dagelijks leven aantasten’

Vanwege de steminteractie kunnen slimme luidsprekers zoals Alexa en Google Assistant grote overtuigingskracht hebben, gebruikers beïnvloeden en manipuleren. Dat concludeert Silvia de Conca in het promotieonderzoek dat ze op 23 juni 2021 verdedigt aan Tilburg University.

De spraakbesturingssystemen van Amazon Alexa en Google Assistant staan voor een evolutie van het ‘internet der dingen’ (IoT, Internet of Things): geavanceerde op cloud computing en machine learning gebaseerde ‘intelligentie’ stelt deze systemen in staat gegevens te verzamelen en verwerken waarmee ze gebruikers kunnen profileren en begrijpen. En dat gebeurt midden in onze huizen.

Vanuit het juridische perspectief onderzocht De Conca de toepassing van de Algemene Verordening Gegevensbescherming en het voorstel voor een e-Privacy Verordening van de Europese Unie.

Een van de heikele kwesties is de vraag of de eigenaren van slimme luidsprekers verantwoordelijk zijn voor de verwerking van de persoonsgegevens van hun gasten. Andere kwesties betreffen de toepassing van het verbod op geautomatiseerde besluiten in de context van de vele kleine besluiten die een ‘smart home’ neemt, het gebruik van smart speakers voor directe marketingberichten en gesprekken met anderen, en de implicaties van gegevensbescherming die in smart speakers wordt ingebouwd.

Vanuit een meer sociaal-technologische invalshoek reflecteerde De Conca op de vraag hoe een smart speaker ingrijpt in de persoonlijke levenssfeer in de thuissituatie.

De Conca concludeert dat er een potentieel conflict is tussen de verwachtingen en normen ten aanzien van de persoonlijke levenssfeer in de thuissituatie en de marketingbelangen achter de profilering van gebruikers door smart speakers. De aanwezigheid van slimme luidsprekers kan de rol van de eigen woonomgeving als een veilige plek aantasten, zonder dat gebruikers zich daarvan bewust zijn.

Deze kwestie gaat verder dan gegevensbescherming, aldus De Conca. Een maatschappelijk en politiek debat is nodig om te bepalen waar de grens getrokken moet worden tussen wat wel en niet aanvaardbaar is.