< Zurück zur Übersicht

Frederik Kratzert, Pieter-Jan Hoedt & Günter Klambauer.

Durchbruch an der JKU: Neue KI beachtet physikalische Gesetze – und vermeidet Fehler durch "Hausverstand"

05. Juli 2021 | 13:10 Autor: JKU Startseite, Oberösterreich

Linz (A) Brennpunkt Künstliche Intelligenz (KI): Von Bilderkennungssoftware über Chatbots bis Suchalgorithmen im Internet-Browser – selbstlernende Systeme sind immer öfter im Alltag anzutreffen. Sie stehen aber auch in der Kritik, weil sie Fehler machen und Vorurteile aus den Daten übernehmen und weitergeben. Forscher*innen der Johannes Kepler Universität Linz haben nun eine Methode entwickelt, durch die eine KI dazu gebracht wird physikalische Gesetze einzuhalten und so bestimmte Fehler zu vermeiden.

Bekannt sind Probleme der KIs durch den AMS-Algorithmus, der z.B. Frauen schlechtere Chancen auf eine Jobvermittlung unterstellte oder Chatbots, die binnen kurzem rassistische Äußerungen von sich gaben. Der Hintergrund: Die KI lernt durch vorhandene Daten und nützt Korrelationen in den Daten – auch dort wo kein Zusammenhang besteht oder ein Zusammenhang nicht gewollt ist.

Eben etwa, dass bei der Vermittlung von Jobs Menschen eines gewissen Geschlechts oder einer Hautfarbe anders behandelt werden. "Das sind sehr bekannte Probleme von KIs", so Assist.-Prof. Günter Klambauer vom JKU Institut für Machine Learning (Leitung: Prof. Sepp Hochreiter): "Ähnliche Probleme stellen sich aber auch bei anderen Aufgaben, bei denen KIs eingesetzt werden, und dann oft physikalisch unmögliche Ereignisse vorhersagen". Also Ereignisse, die man mit physikalischem "Hausverstand" eigentlich ausschließen könnte.

Physikalische Unmöglichkeit erkennen
Ein Team am LIT AI Lab hat sich der Sache angenommen. In 1,5-jähriger Arbeit ist es gelungen, der KI physikalische Gesetzmäßigkeiten einzubauen, die diese schon beim Lernen beachten muss. Aufbauend auf dem neuronalen Netz LSTM (Long Short-Term Memory), das JKU Prof. Hochreiter entwickelt hat, wurde der KI das Massenerhaltungs-Prinzip eingebaut. "Wir haben einzelne Neuronen der KI als Massespeicher genutzt", erklärt Studienautor Pieter-Jan Hoedt. Dies garantiert, dass sich die Gesamt-Masse oder Gesamt-Energie des Systems nicht ändert. Oder einfacher: Die KI weiß, dass aus einer Flasche nur so viel Wasser rausfließen kann, wie vorher eingefüllt wurde. Klingt einfach, ist es für Menschen auch, für Künstliche Intelligenz ist es eine Herausforderung – und ein großer Sprung nach vorn.

Das Team am LIT AI Lab hatte auch eine KI zur Vorhersage von Hochwasser entwickelt – eine der genauesten weltweit. Aber auch hier schlug früher die Tücke des Systems zu. "Anhand bisheriger Niederschläge hat die KI recht präzise künftige Hochwasserereignisse vorhergesagt. Allerdings konnten wir für die KI nicht garantieren, dass die Wassermengen im System exakt erhalten blieben", sagt Studienautor Frederik Kratzert.

Dadurch sagte die KI manchmal Hochwasser voraus, obwohl gerade Trockenheit herrschte. Die neu entwickelte KI erkennt nun physikalisch unmögliche Ergebnisse und vermeidet so, dass Wassermengen verschwinden oder neu erfunden werden. Sowohl bei der Hochwasservorhersage als auch bei Verkehrsanalysen für Berlin, Moskau und Istanbul hat sich die neue Methode bereits bewährt.

Potenzial für Modellierung von Prozessen rund um den Klimawandel
Die Auswirkungen gehen aber noch weiter. "Da sich die KI an physikalische Gesetze halten muss, bekommen wir auch robustere Ergebnisse – auch wenn wenig Daten verfügbar sind oder wenn sich die KI in einer ganz neuen Situation befindet", so Klambauer. Will meinen: Hochkomplexe Simulationen liefern nun weit genauere Ergebnisse.

So könnte die neue Methode eine weitaus exaktere Vorhersage der CO2-Belastung in der Atmosphäre erlauben als bisher. Klambauer merkt aber auch an, dass dies zwar Probleme von KIs für physikalische Systeme löse, aber nicht die Probleme mit Vorurteilen und Verzerrungen von Chatbots und des AMS-Algorithmus. Dennoch sei dies ein großer Fortschritt und erlaube bessere KI-Vorhersagen in einer großen Bandbreite von Themen.

    Johannes Kepler Universität Linz

    Altenberger Straße 69, 4040 Linz
    Österreich
    +43 732 2468-0

    Details


    < Zurück zur Übersicht