Studie zeigt: Sprachbasierte KIs haben verborgene Moral- und Wertevorstellungen

Studie zeigt: Sprachbasierte KIs haben verborgene Moral- und Wertevorstellungen

Bericht: GESIS – Leibniz-Institut für Sozialwissenschaften

Genauso wie Menschen haben auch große, auf Künstlicher Intelligenz (KI) basierende Sprachmodelle Merkmale wie Moral- und Wertevorstellungen. Diese sind jedoch nicht immer transparent. Forschende der Universität Mannheim und des GESIS – Leibniz-Instituts für Sozialwissenschaften haben nun untersucht, wie man die Eigenschaften der Sprachmodelle sichtbar machen kann und welche Folgen diese Voreingenommenheit für die Gesellschaft haben könnte.

Beispiele für Stereotypen findet man bei kommerziellen KI-gestützten Anwendungen wie ChatGPT oder DeepL, die häufig automatisch annehmen, dass leitende Ärzt*innen männlich und Pflegekräfte weiblich sind. Doch nicht nur bei Geschlechterrollen können große Sprachmodelle (Large Language Models, LLMs) bestimmte Tendenzen zeigen. … weiter


Quelle:
www.idw-online.de
www.gesis.org

 

„Dahin blicken, wo KI gefährlich werden kann“

Mikro Micro

In einem Interview im Deutschlandfunk am 24.12.2023 mit Adalbert Siniawski sagte Constanze Kurz vom Chaos Computer Club, dass sie den Hype um die Künstliche Intelligenz (KI) nicht unterstützen will.

KI generiertes Frühlingsbild!

„Von KI werde »eine ganze Menge Mist produziert«, vor allem textuelle Falschdarstellungen. Es gebe Erstaunliches, aber auch Unsinn, der sogar Menschenleben gefährde.“ Kurz blickt auf die Gefahren, die von KI ausgehen können wie mögliche Datenschutzverletzungen, ein ev. Missbrauch durch Behörden und sie meint: „Ich glaube, das ist total überzogen zu denken, dass sie (die KI) unseren Alltag so stark wandelt.“

Constanze Kurz ist sich sicher, dass, nach dem Abflauen des Hypes, erst einmal die Sinnhaftigkeit der Werkzeuge der KI genau angesehen werden muss.

Ein sehr aufschlussreiches und wichtiges Interview. Unbedingt anhören!

zum Interview mit Constanze Kurz (8:49)


Image by Julius H. from Pixabay

 

Neuer Erklärfilm: ChatGPT & Co. – Alleskönner der KI?

Bericht: Lernende Systeme – Die Plattform für Künstliche Intelligenz

FilmMit ChatGPT ist Künstliche Intelligenz (KI) in der Mitte der Gesellschaft angekommen. Weltweit haben Millionen Menschen das Sprachmodell bereits ausprobiert, viele nutzen es regelmäßig. Neben diesem sind eine Reihe weiterer so genannter generativer KI-Systeme verfügbar, die Text, Bilder, Musik, Audio oder Videos nach individuellen Vorgaben erzeugen. Wie funktioniert und lernt generative KI? Wo liegen Grenzen und Herausforderungen? Der neue Erklärfilm der Plattform Lernende Systeme erläutert dies anschaulich. Weiterlesen

Warum es künstliche Intelligenz eigentlich noch nicht gibt

Mitteilung: Ruhr-Universtität Bochum

Die Prozesse, die der künstlichen Intelligenz heute zugrunde liegen, sind eigentlich dumm. Bochumer Forscher arbeiten daran, sie schlauer zu machen.

Umbruch, Revolution, Megatrend, vielleicht auch Gefahr: Das Thema künstliche Intelligenz durchdringt alle Branchen, beschäftigt sämtliche Medien. Forscherinnen und Forscher des Instituts für Neuroinformatik an der Ruhr-Universität Bochum (RUB) befassen sich seit 25 Jahren damit. Ihr Credo: Damit Maschinen wirklich intelligent agieren können, müssen neue Ansätze maschinelles Lernen erst einmal effizienter und flexibler machen. … weiter


Quelle: www.rub.de
Bild von Gordon Johnson auf Pixabay