Een recente Snapchat-functie genaamd ‘My AI’, die gebruik maakt van OpenAI-technologie, wordt in het Verenigd Koninkrijk kritisch bekeken vanwege zorgen over schending van de privacy van kinderen en ontoereikende risicobeoordeling. De dreiging van een mogelijk verbod doemt op nu Britse functionarissen druk uitoefenen op grote AI-bedrijven zoals OpenAI en Google om meer inzicht te krijgen in de werking van hun AI-modellen.
Dit onderzoek vindt plaats tijdens onderhandelingen met de EU in de aanloop naar een veiligheidstop.
Snapchat onder vuur in het Verenigd Koninkrijk voor twijfelachtige AI-functie
Met de functie ‘Mijn AI’, die in april werd gelanceerd, kunnen Snapchat-gebruikers praten met een AI. De Britse privacytoezichthouder, de Information Commissioner’s Office (ICO), heeft echter zijn bezorgdheid geuit dat Snap Inc. geen goede risicobeoordeling heeft uitgevoerd met betrekking tot de privacy van kinderen.
De ICO merkte op,
“Uit onderzoek blijkt voorlopig dat Snap de risico’s voor enkele miljoenen ‘My AI’-gebruikers in het Verenigd Koninkrijk, waaronder kinderen in de leeftijd van 13 tot 17 jaar, niet adequaat heeft geïdentificeerd en beoordeeld.”
De bevindingen van de ICO zijn voorlopig en Snap Inc. heeft de kans om het ongelijk van de toezichthouder aan te tonen. De ‘My AI’-functie kan echter worden verboden in het Verenigd Koninkrijk als het faalt.
De ICO voegde eraan toe,
“Als er een definitieve handhavingsaankondiging wordt aangenomen, kan Snap verplicht worden om te stoppen met het verwerken van data in verband met ‘Mijn AI’. Dit betekent dat Snap het ‘My AI’-product niet mag aanbieden aan gebruikers in het Verenigd Koninkrijk in afwachting van een adequate risicobeoordeling.”
Top over wereldwijde AI-regelgeving volgende maand
Tegelijkertijd dringen Britse ambtenaren er bij AI-bedrijven op aan om de innerlijke werking van hun AI-modellen openbaar te maken. Dit verzoek komt op het moment dat de Britse regering onderhandelt met de EU in de aanloop naar een AI-veiligheidstop. AI-bedrijven zijn echter terughoudend met het delen van details om commerciële redenen en redenen van cyberveiligheid.
Een overheidsbron zei:
“Er is geen knop die deze bedrijven kunnen indrukken om dit te laten gebeuren. Dit zijn open en onopgeloste onderzoeksvragen.”
De Britse premier Rishi Sunak heeft een AI-top georganiseerd voor wereldleiders, met als doel zijn goedkeuringscijfers op te krikken. De focus van de top was om de nieuwe bedreigingen van AI op het gebied van cyberveiligheid en bio-oorlogsvoering te bespreken.
Lees meer: Zal AI mensen vervangen?
Dit initiatief maakt deel uit van een bredere drang naar meer regulering na de snelle vooruitgang van AI-producten en de chips die ze aandrijven.
De gretigheid van de Britse regering om de ruimte te reguleren kan worden gezien als te ver gaan. Door het organiseren van de AI-top wil Sunak zijn positie ten opzichte van Labour’s Starmer versterken voor de komende verkiezingen.
De Britse benadering van AI-regulering ontvouwt zich in een poging om de banden met belangrijke leden van de Europese Unie na de brexit aan te halen en tegelijkertijd het economische en wetenschappelijke onderscheidend vermogen te behouden.
Disclaimer
Alle informatie op onze website wordt te goeder trouw en uitsluitend voor algemene informatiedoeleinden gepubliceerd. Elke actie die de lezer onderneemt op basis van de informatie op onze website is strikt op eigen risico.
