De door xAI, het bedrijf van Elon Musk, ontwikkelde ChatGPT-concurrent Grok heeft onbedoeld 370.000 privégesprekken openbaar gemaakt. De gesprekken waren via Google terug te vinden en bevatten niet alleen onschuldige opdrachten, maar ook uiterst gevoelige en zelfs gevaarlijke informatie.
Zakenblad Forbes kwam de gesprekken op het spoor. Daaruit blijkt bovendien dat Grok in meerdere gevallen de eigen veiligheidsregels van xAI, Musks AI-bedrijf, overtrad.
Productie van drugs en moordplannen maken
De chatbot gaf onder meer instructies voor de productie van Fentanyl en methamfetaimne, schreef schadelijke software, stelde een handleiding op voor het bouwen van bommen en verstrekte zelfs zelfmoordadviezen.
Opvallend is dat Grok in één gesprek een gedetailleerd scenario uitwerkte dat zou kunnen leiden tot een moordaanslag op Elon Musk zelf. Naast deze gevaarlijke uitglijders zijn er gesprekken gevonden met persoonlijke medische en psychologische vragen, identificeerbare gegevens en zelfs een gedeeld wachtwoord.
Ook documenten die gebruikers met de chatbot deelden, van spreadsheets tot afbeeldingen, zijn publiek toegankelijk geworden.
Lek door simpele deelknop
Het lek ontstond door de ʻDelenʼ-knop in Grok. Wie een gesprek wilde doorsturen naar een kennis, kreeg daarvoor een link. Maar die link werd zonder waarschuwing ook beschikbaar gesteld aan zoekmachines. Daardoor zijn de gesprekken door Google geïndexeerd en voor iedereen vindbaar. Zoeken op site:x.com “x.com/i/grok/share/” is genoeg om duizenden resultaten te vinden. Metro heeft de bevindingen van Forbes geverifieerd.
Niet de eerste keer
Eerder kampte OpenAI al met een soortgelijke misser. Daar werden gesprekken van ChatGPT tijdelijk openbaar via Google, maar die functie werd na één dag ingetrokken en de pagina’s werden verwijderd. xAI heeft tot nu toe geen commentaar gegeven. Het is onduidelijk of de miljoenen pagina’s met gesprekken offline worden gehaald of dat het bedrijf maatregelen neemt om herhaling te voorkomen.
Hoe groot is de invloed van Elon Musk en wat merken wij daarvan? En meer vragen over Musk
Te veel ChatGPT maakt je lui, blijkt uit nieuw hersenonderzoek
Foutje gezien? Mail ons. Wij zijn je dankbaar.
