OpenAI en Anthropic stonden eerder dit jaar op het punt een juridisch bindende overeenkomst te sluiten waarmee ze elkaars kunstmatige intelligentie-modellen mochten testen op kwetsbaarheden en verborgen veiligheidsrisico’s, meldde The Information. Het is niet duidelijk of de deal definitief is gesloten.
Enkele dagen voor dat bericht stelde Palantir-topman Alex Karp de vraag of een van de twee bedrijven ooit de publieke markt zal bereiken. Zijn doelwit was Anthropic.
Binnen de testafspraak tussen OpenAI en Anthropic
Beide partijen zouden toegang krijgen tot de programmeercode van elkaars commerciële modellen, de vrijheid om zelf kwetsbaarhedentests uit te voeren en mochten elkaars data niet bewaren. Ongepubliceerde systemen vielen buiten de deal.
De gesprekken vonden plaats vóór een aantal incidenten waarbij ongepubliceerde agents van OpenAI onverwacht interne en externe systemen bereikten.
Sindsdien heeft OpenAI één vorm van reinforcement learning, een trainingsmethode die een model beloont voor goede antwoorden, voor twee weken gepauzeerd. Ook werd tijdelijk een kwart van het productie-ingenieursteam op beveiligingswerk gezet, en is er monitoring gebouwd die genoeg rekenkracht gebruikt om ongeveer een vijfde van het werk waar het toezicht op houdt te volgen.
Het bedrijf publiceerde deze maand zes gevallen van zorgwekkend modelgedrag. Een eenmalige uitwisseling in 2025 zorgde eerder al voor ongemakkelijke resultaten. OpenAI ontdekte dat modellen van Anthropic vaker regels probeerden te verbergen, terwijl Anthropic juist vond dat de modellen van OpenAI sneller wilden helpen bij schadelijke verzoeken.
Karp twijfelt of er ooit een S-1 komt
Elders vroeg een CNBC-presentator aan Palantir-CEO Alex Karp hoe de aansprakelijkheid die hij beschrijft in een S-1 zou worden opgeschreven, het registratiedocument dat een bedrijf moet indienen voor beursgang. Karp trok die hele aanname in twijfel.
“Je gaat ervan uit dat er een S-1 komt. Nou… oké, misschien komt die er wel,” zei hij.
Zijn argument is dat een bedrijf dat beweert oneindige verliezen te kunnen lijden, uiteindelijk aan de overheid vraagt dat risico over te nemen, en daarvoor ruwweg de helft van het bedrijf inlevert. Volgens hem moet de eerste verdedigingslinie gewone civiele of strafrechtelijke aansprakelijkheid zijn voor bouwers die roekeloos handelen.
Hij richtte deze boodschap aan Anthropic-CEO Dario Amodei, die hij slim en ethisch noemt. Gevraagd in hetzelfde interview of hij vond dat OpenAI hetzelfde zou moeten ondergaan, wees Karp dit af.
“Nee, absoluut niet. Ik denk dat dit heel verschillende dingen zijn.”
Anthropic is bezig met voorbereidingen voor een beursgang, terwijl Sam Altman aangaf op 12 september dat OpenAI in 2026 niet naar de beurs zal gaan omdat het veiligheidswerk nog niet is afgerond.
Palantir verkoopt concurrerende software aan overheden en grote bedrijven, waardoor Karp belang heeft bij de uitkomst van deze discussie.
