Falschinformation mit OpenAI

Administrator on 29.04.2024

Noyb reicht wegen Falschinformationen Beschwerde gegen OpenAI ein

Nicht zuletzt wegen "Halluzinationen" generativer KI-Systeme liefern Chatbots wie ChatGPT oft fehlerhafte oder gar völlig erfundene Informationen zu Personen. Die Datenschutzorganisation Noyb will dem ein Ende setzen und hat gegen das Unternehmen Beschwerde eingereicht.

ChatGPT verbreite Falschinformationen über Personen, stellt die Datenschutzorganisation Noyb fest, und OpenAI könne nichts dagegen tun: Die fehlerhaften ChatGPT-Angaben entstehen teils durch die sogenannten Halluzinationen der generativen KI. Darüber hinaus wisse OpenAI nicht einmal, woher die Daten stammen oder welche Daten ChatGPT über einzelne Personen speichere. Und sogar bei nachgewiesenen Falschinformationen lehnte OpenAI zumindest in einem Fall einen Antrag auf Korrektur oder Löschung ab.

Maartje de Graaf, Datenschutzjuristin bei Noyb hält dazu fest: „Die Verpflichtung, einem Auskunftsersuchen nachzukommen, gilt für alle Unternehmen. Es ist selbstverständlich möglich, die verwendeten Trainingsdaten zu protokollieren, um zumindest eine Vorstellung von den Informationsquellen zu erhalten. Es scheint, dass mit jeder 'Innovation' eine andere Gruppe von Unternehmen meint, dass ihre Produkte nicht mit dem Gesetz übereinstimmen müssen.“
 

Weil all dies kaum mit der EU-DSGVO konform geht, fordert Noyb nun von der österreichischen Datenschutzbehörde eine Untersuchung der Datenverarbeitungspraktiken von OpenAI. Ausserdem fordert Noyb, dass OpenAI dem Auskunftsbegehren des erwähnten Beschwerdeführers nachkommt und seine Verarbeitung in Einklang mit der DSGVO bringt. Darüber hinaus fordert die Datenschutzorganisation die Behörde auf, eine Busse gegen OpenAI auszusprechen, um die zukünftige Einhaltung der Vorschriften sicherzustellen. (ubi)

 

Source IT Reseller

Back