Een virale prompt vraagt ChatGPT om een lege kamer te vullen met alles wat het weet over een gebruiker. De resultaten laten zien hoeveel ChatGPT in zijn geheugen heeft opgeslagen. Veel gebruikers wisten dat de chatbot gegevens bewaart, maar alles in één beeld zien maakt sommigen toch onrustig.
De trend lijkt onschuldig en leuk. Toch is het ook een veiligheidstest. Elk voorwerp in de kamer staat voor gegevens die gebruikers ooit in de chatbot typte. Als deze beelden openbaar op X worden geplaatst, kunnen vreemden hetzelfde profiel zien.
Wat slaat het geheugen van ChatGPT eigenlijk op
De prompt geeft een simpele afbeelding van een lege grijze kamer met één opdracht. De chatbot vult de ruimte dan in op basis van eerdere gesprekken. Een populair crypto-account op X moedigde volgers aan om het te proberen en het resultaat te delen.
Volgens OpenAI werkt het geheugen van ChatGPT op twee manieren.
- Opgeslagen herinneringen bevatten details zoals de naam van een gebruiker, voorkeuren en doelen.
- Plus- en Pro-abonnees krijgen daarnaast ook chatgeschiedenis-referentie. Daarmee kan het model oude gesprekken gebruiken, zelfs als niets is opgeslagen.
Doordat het geheugen blijft groeien, wordt overstappen ook lastiger, zoals de discussie over AI memory lock-in liet zien.
Waarom crypto-houders meer te verliezen hebben
Voor crypto-houders is het risico groter dan alleen ongemakkelijke details. Eerder dit jaar ontdekten ontwikkelaars crypto wallet-gegevens in Claude-chats die via gedeelde links door Google waren geïndexeerd.
Een opgeslagen profiel dat bijvoorbeeld coins, exchanges of reisplannen noemt, kan scammers helpen om geloofwaardige phishingberichten te maken.
Binance-oprichter Changpeng Zhao gaf al aan dat het echte AI-gevaar zit in phishing en uitgelekte data, niet in het kraken van de cryptografie achter Bitcoin. In dat opzicht laat de lege kamer zien wat een aanvaller kan ontdekken.
OpenAI laat gebruikers het ChatGPT-geheugen bekijken, verwijderen of uitschakelen in de personalisatie-instellingen. Een Tijdelijke Chat leest en wijzigt dit geheugen niet.
Sommige mensen in crypto gaan nog verder. Ethereum-medeoprichter Vitalik Buterin maakte een paranoïde modus voor AI die prompts maskeert voordat ze bij een model terechtkomen.
Ondertussen maken toezichthouders het duurder als data verkeerd wordt behandeld. In New Mexico moest Meta van een rechter een recordboete van $25 miljard betalen vanwege het gebruik van gebruikersdata op Facebook.
Nu het geheugen van ChatGPT steeds groter wordt, kan de lege kamer een standaardcontrole worden voor wat AI-bedrijven allemaal bewaren.
