Artificial Intelligence Latest news Security

ChatGPT data leak – When intelligence is not even enough for your own account

Many paying customers of ChatGPT Plus have received a mail today informing them about a major data leak, the consequences of which are difficult to assess at the moment. This meant that (not only in account management) first and last names, the billing address, the credit card type, the expiration date of the credit card and the last four digits of the credit card could be viewed by other users. However, it is no longer possible to determine whether a logged-in user was able to abuse the system, because the notification was only sent after the leak was closed.

Let me quote the letter I received at 4:25 p.m. today:

Dear ChatGPT customer,
We are writing to let you know about a recent issue with your ChatGPT account. During a nine-hour window on March 20, 2023, another ChatGPT user may have inadvertently seen your billing information when clicking on their own “Manage Subscription” page.
The billing information another user might have seen consisted of your first and last name, billing address, credit card type, credit card expiration date, and the last four digits of your credit card. The information did not include your full credit card number, and we have no evidence that any customer information was viewed by more than one other ChatGPT user. The issue has been resolved and no action is required by you.
The issue arose due to a bug in an open source library that we use to support ChatGPT infrastructure. We learned about the problem at 7:50 a.m. Pacific time on March 20, took down ChatGPT at 10:00 a.m. to address it, and fixed the bug by 12:39 p.m. We will be publishing a blog post today on openai.com with full technical details.
We apologize for the concern and inconvenience that this has caused. We take the trust you’ve placed in us very seriously, and are taking every measure to ensure that an error like this does not occur again. Please contact [email protected] if you have additional questions.

-The OpenAI Support Team

 

In this context, a longer blog entry has been published on OpenAI in the meantime, which goes into more detail about the problems:

OpenAI Blog: https://openai.com/blog/march-20-chatgpt-outage

Kommentar

Lade neue Kommentare

A
Arcbound

Veteran

133 Kommentare 105 Likes

Jaja, die anderen sind wieder Schuld 🤡
Da haben sie wohl ChatGPT genutzt um Bibliotheken zu verknüpfen. Ohne die AI nochmal zu fragen, ob sie sich wirklich sicher ist.

View image at the forums

Antwort Gefällt mir

Gregor Kacknoob

Urgestein

524 Kommentare 442 Likes

Ja ok, da waren zum richtigen Zeitpunkt die Daten eines anderen Kunden sichtbar. Also 1zu1. Ich dachte erst, denen wäre einmal alles abhanden gekommen. Gut, wäre ich da zahlender Kunde, mir wärs nicht aufgefallen. So häufig juckel ich nicht in den Adressdaten rum ^^

Das ist schon nahe eines Clickbaits. Mich hast'e :p

Edit: ERP ist 'ne Bitch. Da haben sie auf dem Testsystem nicht genug getestet. Aber schön, dass das direkt kommuniziert wurde. Die Details hätten sie sich aber sparen können. Das lässt man lieber.

Antwort Gefällt mir

Martin Gut

Urgestein

7,731 Kommentare 3,545 Likes

Toll, einer hat meine Rechnungen gesehen und alles bezahlt. :p

Antwort Gefällt mir

e
eastcoast_pete

Urgestein

1,423 Kommentare 783 Likes

Jetzt hoffe ich erst Mal, daß Du (Igor) hier nicht gleich durch den ganzen Aufwand durch muß, den solche "Ihre CC wurde kompromittiert..." nach sich ziehen können. Allerdings fragt man sich dann doch, ob man sich nicht einfach gleich Alpaca von den AI Forschern bei Stanford (https://crfm.stanford.edu) runterlädt, wenn man ChatGPT-artige AI antesten will (Die Stanford Forscher haben sich wohl einige Bauteile "besorgt" bzw runtergeladen (nichts gehackt, aber etwas grau, das ganze). Alpaca is umsonst, toll zum selber ausprobieren, allerdings nicht anzuraten wenn man die Ergebnisse in irgendeiner Form gewerblich nutzen will.
Davon abgesehen, solche Leaks von CC Informationen sind ein Armutszeugnis für OpenAI. KI sollte eben auch von NI (Natürlicher Intelligenz) begleitet und geleitet sein. Sollte, ist sie aber leider oft nicht.

Antwort Gefällt mir

MeinBenutzername

Veteran

209 Kommentare 74 Likes

Gut, dass sie es selbst herausgefunden und gefixt und auch noch ein Rundschreiben gemacht haben.

Antwort Gefällt mir

Igor Wallossek

1

10,122 Kommentare 18,631 Likes

Naja, ich wollte eigentlich ein paar Schnittstellen testen, ich habe hier ja auch noch andere Software für OpenAI und das läuft eigentlich bisher ganz gut. Laut einem Bekannten konnte man wohl auch im Profil die Aufrufe manipulieren und sich per Variablen quasi durch Dritte durchscrollen. Leider kam die Mail erst als es gefixt war. Der Blogeintrag ist m.E, nicht die ganze Wahrheit.

Antwort Gefällt mir

G
Guest

So verwunderlich ist es ob des Eigentümers Microsoft auch wieder nicht. Auch Elon Musk als Mitteilhaber gilt in meinen Augen jetzt nicht so als besonders fixiert auf Datenschutz. Beide sind in meinem Universum eher mit Dollarzeichen in den Augen anzutreffen. Der Systementwickler in mir muß lächeln. Insbesondere passiert derartiges, wenn man auf Fremdbibliotheken zurückgreift.

Antwort Gefällt mir

MeinBenutzername

Veteran

209 Kommentare 74 Likes

Ist eigentlich die KI im Microsoft Edge Browser die identische wie ChatGPT oder abgewandelt?

Antwort Gefällt mir

P
Phelan

Veteran

190 Kommentare 172 Likes

The Lebowski theorem: (2019)

No superintelligent AI is going to bother with a task that is harder than hacking its reward function.

Keine superintelligente KI wird sich mit einer Aufgabe befassen, die schwieriger ist als das Hacken ihrer Belohnungsfunktion. ;-)

Antwort Gefällt mir

Derfnam

Urgestein

7,517 Kommentare 2,029 Likes

Danke für die Spende



Du fandest, der Beitrag war interessant und möchtest uns unterstützen? Klasse!

Hier erfährst Du, wie: Hier spenden.

Hier kannst Du per PayPal spenden.

About the author

Igor Wallossek

Editor-in-chief and name-giver of igor'sLAB as the content successor of Tom's Hardware Germany, whose license was returned in June 2019 in order to better meet the qualitative demands of web content and challenges of new media such as YouTube with its own channel.

Computer nerd since 1983, audio freak since 1979 and pretty much open to anything with a plug or battery for over 50 years.

Follow Igor:
YouTube Facebook Instagram Twitter

Werbung

Werbung