European Lighthouse on Secure and SafeAI

ELSA-Netzwerk feiert offiziellen Start in Barcelona

24. Oktober 2022, 16:32 Uhr | Martin Fryba
CISPA/ l.jahke
Erstes Treffen des Elsa-Netzwerks in Barcelona. Man sei „hoch motiviert, den Aufbau des virtuellen Exzellenzzentrums für sichere KI in Europa voranzutreiben“.
© CISPA/ l.jahke

Nichts weniger als ein Leuchtturm für eine vertrauenswürdige KI soll in Europa entstehen. Das Aufgabengebiet von ELSA ist gewaltig: Forschung und Industrie kämpfen gegen Desinformation und Cyberkriminelle, für den Schutz von sensiblen Daten und Privatsphäre.

Erstmals trafen sich am 10. Oktober in Barcelona europäischen Spitzenforscher von aktuell 26 Partnern des kürzlich gegründeten KI-Exzellenzzentrum European Lighthouse on Secure and Safe AI (ELSA). Drei Tage wurde diskutiert, wie die Entwicklung und der Einsatz modernster KI-Lösungen in der Zukunft gefördert werden soll, damit „Europa ein weltweiter Leuchtturm der vertrauenswürdigen KI“ wird, heißt es in der Pressemitteilung. Die Herausforderungen sind gewaltig, nicht nur auf technologischem Gebiet. Denn KI und Machine Learning tangiert schließlich Fragen, die weit über das jetzt schon technologisch Mögliche hinausgehen.  „Wir wollen vertrauenswürdige künstliche Intelligenz entwickeln. Das heißt, wir wünschen uns in der Zukunft eine gesetzeskonforme, ethisch korrekte und stabile Anwendung der KI innerhalb Europas“, skizzierte Mario Fritz, der das ELSA-Projekt koordiniert. „ Die Gestaltung dieser Technologien liegt in unserer Verantwortung und ebenso die Entwicklung der positiven Auswirkungen auf die Gesellschaft“.

Beim Kick-off von ELSA wurde der Rahmen gesteckt, mit welchen Aktivitäten sich die Initiative in den kommenden drei Jahren schwerpunktmäßig beschäftigten will. Anwendungsfälle und die verschiedenen Nutzungsmöglichkeiten von KI und ML stehen dabei im Vordergrund, ebenso Methoden, wie der Fortschritt mit Experimenten messbar gemacht werden kann.

Gesundheit
Das Gesundheitswesen sei ein sensibler Bereich, der höchste Anforderungen an den Datenschutz stelle. Das ELSA-Projekt will sich hier auf medizinische Daten konzentrieren. Im Fokus: wie können sie datenschutzkonform über verschiedene Institutionen hinweg KI trainiere.

Autonomes Fahren
Um das autonome Fahren ist es in letzter Zeit sehr still geworden, die Industrie hat die anfangs hohen Erwartungen, die sie nicht zuletzt selbst beflügelt hatte, gedämpft. Autonome Fahrzeuge seien eben sicherheitskritische Systeme, hieß es in Barcelona. Diese müssten nicht nur eine hervorragende Leistung erbringen, sondern auch auf Unerwartetes angemessen reagieren: Auf gegnerische Angriffe, beispielsweise, auf extreme Wetterbedingungen oder Unfälle. Ziel des ELSA-Projektes ist es, Testumgebungen zu entwickeln, um die Sicherheit von solchen Methoden zu bewerten. 

Robotik: wie lässt sich die Privatsphäre schützen?
Maschinen in die Lage zu versetzen, mit oder sogar ohne menschliche Unterstützung kontinuierlich zu lernen und Aufgaben eigenständig zu erledigen, ist ein Ziel der Robotik. Um dieses Ziel zu erreichen, müssen die den intelligenten Maschinen zugrundeliegenden ML-Modelle mit großen Mengen von Daten trainiert werden. Ziel des ELSA-Projektes ist dafür zu sorgen, dass Daten effektiv für den Lernprozess genutzt werden können, ohne dass dabei die Privatsphäre von Personen verletzt wird. 

Dokumenten-Intelligenz
Zentraler Aspekt von KI-Lösungen für Unternehmen ist die automatische Verwaltung von Dokument-Inhalten. Eine solche Prozessautomation soll vor allem Kosten sparen, im besten Fall sogar Entscheidungsprozesse an eine KI übertragen. Das kann sich direkt auf den Menschen auswirken, denn oft enthalten Dokumente in der Regel private Informationen, was den Zugang zu ihnen einschränkt. Das ELSA-Projekt will Methoden für das Training umfangreicher ML-Modelle auf privaten und weit verteilten Daten entwickeln, die die Privatsphäre der Menschen schützen. 

Kampfzone Sozial-Media-Manipulation
Deepfakes sind immer leichter herzustellen und über Soziale Medien leicht zu verbreiten. Sie als Täuschung zu erkennen, sollte ebenso leicht sein, wie die Manipulation technisch umzusetzen. Während in den vergangenen Jahren KI-generierte Bilder Hinweise auf den Fake enthielten, seien die heutigen Ergebnisse aber weit weniger erkennbar, so das Fazit der ELSA-Experten. Sie wollen hier neue Wege zum Verständnis und zur Erkennung gefälschter Daten untersucht. 

Malware erkennen
Die Sicherheit von Endnutzergeräten sei  eine gewaltige und schwierige Aufgabe. Um Schadprogramme zu bekämpfen, werden viele Anti-Malware-Lösungen durch maschinelles Lernen und datengesteuerte KI-Algorithmen unterstützt. Leider, so das Expertennetzwerk, können diese Schutzmechanismen auch von Angreifern durch einen Angriff auf die KI selbst umgangen werden. Das ELSA-Projekt zielt darauf ab, dieses Problem zu überwinden, indem KI-basierten Malware-Erkennungssystemen resilienter gegen solchen Angriffe gemacht werden oder einige dieser Angriffe sogar ganz ausgeschlossen werden können. 

 


Verwandte Artikel

Nvidia

Künstliche Intelligenz

Forschung

Matchmaker+