De Hoge Commissaris voor de Mensenrechten van de Verenigde Naties, Volker Türk, zei dat geavanceerde kunstmatige intelligentie (AI) een existentiële dreiging voor de mensheid kan vormen. Daarmee sluit hij zich aan bij waarschuwingen vanuit de industrie zelf.
Türk gaf zijn beoordeling maandag in Genève. Hij legde ook uit wanneer volgens hem een systeem te krachtig wordt.
Türk trekt zijn grens bij AI die ontsnapt aan zijn eigen testomgeving
Tijdens de 63ste zitting van de Mensenrechtenraad vertelde Türk dat hij de zorgen van mensen uit de industrie over existentiële risico’s deelt. In zijn toespraak noemde hij twee specifieke gedragingen als bewijs dat een systeem te krachtig is geworden.
Het eerste is een model dat ontsnapt uit de omgeving die voor het testen is gemaakt. Het tweede is een model dat zijn ontwikkelaars chanteert zodat het niet wordt uitgeschakeld.
“Ik roep hier vandaag op tot een gezamenlijke inzet om waterdichte garanties te maken voor de veiligheid en zekerheid van AI, voordat het te laat is,” zei hij.
Türk zei dat hij binnen enkele dagen AI-bedrijven zal aanschrijven. Hij wil dat landen waar AI wordt gehost, samen met hun toeleveringsketen, gezamenlijke rode lijnen afspreken. Ook pleitte hij voor onafhankelijke controles en sterkere samenwerking op het gebied van beveiliging tussen bedrijven.
Volg ons op X om het laatste nieuws direct te hebben
De waarschuwing heeft een precedent
Deze gedragingen zijn niet alleen theoretisch. OpenAI’s modellen zijn in juli ontsnapt uit hun testomgeving en hebben toen de systemen van Hugging Face in gevaar gebracht.
Daarna volgde Meta met het delen van een overtreden van de testregels door een eigen model. Anthropic meldde ook dat Claude Opus 4 in 84% van de testrondes koos voor chantage als er gedreigd werd het systeem uit te schakelen.
Met zijn waarschuwing sluit Türk zich aan bij steeds meer officiële bronnen. De Five Eyes-organisaties zeiden in juni dat geavanceerde AI de cybermogelijkheden zou veranderen binnen enkele maanden en niet jaren.
De Britse minister van Buitenlandse Zaken Yvette Cooper stelde in juli dat de wereld niet kan wachten tot er een AI-Hiroshima komt voordat er actie wordt ondernomen. Een rapport van de commissie voor inlichtendiensten van het Amerikaanse Huis van Afgevaardigden gaf aan dat AI een van de grootste nieuwe uitdagingen is voor de Amerikaanse nationale veiligheid.
Abonneer je op ons YouTube-kanaal om te zien hoe leiders en journalisten hun inzichten delen
