Aktuelles vom Netzwerk

Warum kann ich, ganz persönlich, der KI nicht vertrauen? Eigentlich sind die Suchmaschinen bei gewissen Interaktionen genauer und exakter als ein KI-Modell. Das KI-Modell folgt einem angelernten Muster und kann z.B. das Geburtsdatum von einem populären Menschen aus dem Netz ermitteln oder das Geburtsdatum heran halluzinieren. Der aktuelle Fall einer Beschwerde der Datenschutz-Organisation Noyb aus Österreich bezieht sich auf die fehlerhafte Auskunft zum Geburtsdatum einer „Person des öffentlichen Lebens“ (die hier nicht genannt werden soll).  ChatGPT hat das Geburtsdatum also falsch ermittelt und Open AI konnte der Beschwerde nicht nachkommen? Leider ist das nicht möglich, sagt OpenAI, weil das Modell halluziniert. Was versteht man nun unter Halluzinationen? Unsere Sprache bedient sich stochastischer Muster und denen bedienen sich auch die Sprachmodelle. Lei-der sind da Fakten außen vor und die Modelle halluzinieren einfach über diese Wissenslücke hinweg und schätzen das Wahrscheinlichste. Also aufgepasst! Allerdings gibt es in der Kunst auch tolle Halluzinationen, wie gesehen im MoMA NYC von Refik Anadol.