De Poolse toezichthoudende autoriteit (UODO), Polen’s data regulator, zei dat het overweegt een onderzoek in te stellen naar ChatGPT maker OpenAI. De verklaring komt nadat een burger beweerde dat de tool valse informatie over hem genereerde, wat vragen oproept over hoe OpenAI’s algoritme persoonlijke gegevens verwerkt.
De eiser beweert dat ChatGPT 2021 gegevens heeft gebruikt die het buiten de EU privacywetgeving om heeft verkregen om een onware output te genereren. Het bedrijf heeft ook niet de bron van de gegevens opgegeven, wat volgens de burger een nader onderzoek naar de gegevensverwerkingsmethoden van OpenAI vereist.
Poolse toezichthouder zet onderzoek OpenAI voort
Bovendien leverden vragen aan OpenAI geen bevredigende antwoorden op. In een reactie op de klacht bevestigde Jakub Groszowski, plaatsvervangend voorzitter van UODO, het recht van de klager op verhaal en benadrukte de plicht van privacy waakhonden.
“De ontwikkeling van nieuwe technologieën moet plaatsvinden met respect voor de rechten van natuurlijke personen die onder andere voortvloeien uit [de Algemene Verordening Gegevensbescherming]. Het is de taak van de Europese autoriteiten voor de bescherming van persoonsgegevens om Europese burgers te beschermen tegen de negatieve effecten van informatieverwerkingstechnologie.”
Hij zei dat de klacht twijfels opriep over de vraag of OpenAI voldeed aan GDPR’s kernprincipe van “privacy by design.” In reactie hierop zal UODO proberen het gegevensbeleid van OpenAI te verduidelijken, bevestigde de voorzitter van UODO.
“De zaak betreft de schending van veel bepalingen over de bescherming van persoonsgegevens, daarom zullen we OpenAI vragen om een antwoord op een aantal vragen om de administratieve procedure grondig te kunnen uitvoeren.”
De EU nam in mei 2018 waarborgen voor kunstmatige intelligentie (AI) op in haar GDPR-wet.
Lees hier hoe gedecentraliseerde identiteiten persoonlijke informatie kunnen beschermen.
Destijds werd er kritiek geuit op de vereiste voor bedrijven om uit te leggen hoe ze persoonlijke informatie gebruiken in kunstmatige intelligentie. Vroege commentatoren suggereerden dat het bijna onmogelijk was voor bedrijven om te weten of ze volledig compliant waren.
Lees hier meer over gedecentraliseerde sociale mediaplatforms die minder afhankelijk zijn van jouw gegevens dan hun gecentraliseerde rivalen.
Bovendien werd gedacht dat de wetten een rem zouden zijn op innovatie. Destijds zei 74% van de respondenten in een Duits onderzoek onder de digitale industrie dat privacywetten de grootste belemmering vormden voor de ontwikkeling van nieuwe technologieën.
Nieuwe wetgeving kan slechte omgang met persoonlijke gegevens verhelpen
Maar er zijn enkele fundamentele problemen met betrekking tot geautomatiseerde besluitvorming die zijn overgenomen van eerdere AI-modellen.
Vroege machine-learning modellen, de bouwstenen van grote taalmodellen, werden bekritiseerd vanwege hun neiging om persoonlijke gegevens te interpreteren op een manier die maatschappelijke problemen versterkte. Een model kon bijvoorbeeld vooroordelen in werving bestendigen door vrouwelijke kandidaten voor banen in computerprogrammering te onderwegen.
De recente COVID-19 pandemie heeft veel overheden ertoe aangezet om due diligence te versnellen of helemaal te omzeilen ten gunste van snelheid. Veel bedrijven gebruikten de pandemie om AI, automatisering en bewakingstools te pushen ten gunste van het grotere goed.
Een systeem gecreëerd door de examenafdeling Ofqual probeerde algoritmisch de inflatie van Britse schoolresultaten te voorkomen. In plaats daarvan discrimineerde het echte toppers en kinderen uit kansarme milieus.
Later dit jaar organiseert de Britse premier Rishi Sunak een top van AI-managers en -onderzoekers om te beslissen over de toekomst van AI. Het Europees Parlement zou tegen het einde van het jaar de EU-wet op kunstmatige intelligentie kunnen aannemen.
Hebjij iets te zeggen over het voornemen van UODO om een onderzoek in te stellen naar OpenAI’s omgang met persoonlijke gegevens in zijn algoritme of iets anders? Schrijf ons dan of discussieer mee op ons Telegram-kanaal. Je kunt ons ook zien op TikTok, Facebook of X (Twitter).
Disclaimer
Alle informatie op onze website wordt te goeder trouw en uitsluitend voor algemene informatiedoeleinden gepubliceerd. Elke actie die de lezer onderneemt op basis van de informatie op onze website is strikt op eigen risico.
