Mark Zuckerberg mengde zich deze week in het debat over het uitsterven door kunstmatige intelligentie (AI). Hij stelde dat marktdruk AI-labs nu al stimuleert om veiligheid voorop te stellen, zonder dat er nieuwe regels nodig zijn.
De topman van Meta (META) plaats zijn opmerkingen enkele weken nadat hij waarschuwde voor superintelligentie. Volgens hem zou de technologie juist individuele gebruikers moeten versterken, en niet slechts een paar bedrijven de controle moeten geven.
Een debat dat Zuckerberg niet was begonnen
In dat essay uit augustus schreef hij dat geen enkel bedrijf of overheid de controle over superintelligente systemen zou mogen hebben; in plaats daarvan moet de technologie breed worden verspreid.
Zijn bericht verscheen terwijl Washington worstelt met waarschuwingen vanuit de AI-industrie zelf. Anthropic-onderzoeker Jacob Coxon nam deze maand ontslag, omdat hij zijn werkgever en OpenAI ervan beschuldigde te snel door te gaan met zelfverbeterende systemen zonder voldoende veiligheidsmaatregelen.
Het vertrek van Coxon zorgde voor een oproep om superintelligentie volledig te verbieden. Senator Bernie Sanders en afgevaardigde Greg Casar leiden deze inspanning in het Congres.
OpenAI-veiligheidsonderzoeker Marcus Williams schatte de kans op menselijk uitsterven binnen drie jaar op 70%. Hij voegde toe dat deze kans kleiner kan worden als labs rustiger aan doen of als toezichthouders ingrijpen.
Wat zei Zuckerberg nu echt
Zuckerberg gaf aan dat juist afstemming – en niet beperking – voor blijvende AI-agenten zal zorgen. Hij vindt dat vertrouwen steeds belangrijker wordt in de sector.
Mensen willen geen agenten gebruiken die niet goed met hen zijn afgestemd en niet doen wat zij willen, dus hebben labs vanzelf al een sterk motief om hun modellen beter af te stemmen.
Mark Zuckerberg gaf deze opmerkingen in een post op X.
Hij wees ook op Meta’s eigen record op het gebied van veiligheid. Meta stelde de lancering van de Muse-persoonlijke assistent uit, die eigenlijk in april uit zou komen, om veiligheidszorgen te kunnen oplossen. Volgens Zuckerberg nam Meta dit besluit zelfstandig, zonder te wachten op algemene regels in de sector.
Verder vertelde hij dat Meta Superintelligence Labs (MSL) al onafhankelijke beoordelaars inzet om hun werk te bekijken. Hij zei dat andere labs zo’n externe controle ook kunnen toepassen.
De oprichter van Meta zei dat het grootste deel van de rekenkracht inzetten voor het dienen van mensen in plaats van voor zelfverbetering, de ontwikkeling veiliger houdt.
Met Zuckerbergs argument blijft het belangrijkste meningsverschil bestaan. Critici willen afdwingbare regels voor zelfverbeterende AI, terwijl Meta vertrouwt op concurrentie en eigenbelang.
Of deze balans standhoudt, bepaalt mogelijk hoe het Congres in de komende maanden omgaat met Zuckerbergs wens om snel nieuwe AI uit te brengen.
