Künstliche Intelligenz (KI) ist zweifellos eine der Schlüsseltechnologien der Zukunft und muss daher sicher gestaltet sein. Mit der Veröffentlichung des Chatbots „ChatGPT“ Ende 2022 ist die Mächtigkeit der aktuellen Generation von KI-Systemen einer breiten Öffentlichkeit bewusst geworden. In der Folge ist die öffentliche Aufmerksamkeit vor allem für generative KI, wie beispielsweise KI-basierte Text- und Bildgeneratoren, stark gestiegen. Die rapide Entwicklung im Bereich der KI eröffnet zahlreiche neue Möglichkeiten und führt zu einem vermehrten Einsatz von KI in Produkten, Dienstleistungen und Geschäftsmodellen.
Die enormen Möglichkeiten gehen jedoch mit zunehmenden Risiken einher: Tief in digitale Produkte und Prozesse und den Alltag von unzähligen Menschen integrierte KI-Technologie muss hohen Sicherheitsanforderungen genügen und im Einklang mit ethischen Werten operieren. Außerdem kann moderne KI-Technologie dazu missbraucht werden, Cyberangriffe auf Menschen und IT-Systeme noch effektiver und effizienter durchzuführen.
Förderziel und Zuwendungszweck
Ziel der Förderung ist es, die Forschung, Expertise und Wertschöpfung im Bereich der IT-Sicherheit in Deutschland nachhaltig zu stärken und Lösungen für den sicheren Einsatz von KI-Technologien voranzubringen. Die Forschungsexpertise im Schnittbereich von IT-Sicherheit und KI soll ausgebaut und der Transfer in die Praxis beschleunigt werden. Durch die Zusammenarbeit von Unternehmen und Forschungseinrichtungen soll das vorhandene Know-how aus Deutschlands vergleichsweise gut aufgestellter IT-Sicherheitsforschung auf Umsetzungspartner aus der Wirtschaft transferiert und in die Anwendungen gebracht werden. Die Förderung leistet einen wichtigen Beitrag zur technologischen Souveränität Deutschlands im Bereich der IT-Sicherheit. Damit ist es auch Ziel der Förderung, die Verfügbarkeit von sicheren und vertrauenswürdigen KI-Systemen und KI-gestützten Sicherheitslösungen in wesentlichen Anwendungsbereichen qualitativ zu verbessern und quantitativ zu steigern.
Zweck der Zuwendung ist es, innerhalb einer dem Vorhaben angemessenen Projektlaufzeit von typischerweise drei Jahren, Forschung im Kontext des im „Gegenstand der Förderung“ (siehe Nummer 2) dargestellten Themenkomplexes durchzuführen. Dabei ist eine dem Vorhaben angemessene Methodik zu verwenden. Die im Projekt erzielten Ergebnisse sind geeignet zu evaluieren, zu bewerten, zu publizieren und für die weitere Verwertung vorzubereiten.
Gegenstand der Förderung
Fortschritte im Bereich der KI haben große Auswirkungen auf den Bereich der IT-Sicherheit: Mit der zunehmenden Verbreitung von KI-Technologien wird deren zuverlässige Absicherung gegen Cyberangriffe und Manipulation ein immer wichtigeres Forschungs- und Handlungsfeld. Darüber hinaus wird KI zunehmend eingesetzt, um eine höhere IT-Sicherheit zu erzielen. Und schließlich lässt sich ein vermehrter Missbrauch von KI im Rahmen von Cyberangriffen und Social Engineering beobachten.
Projekte sollen jeweils einen klaren Praxisbezug entlang eines Anwendungsfalls aufweisen. Dieser Praxisbezug und die Verwertbarkeit der Forschungsergebnisse sind durch eine angemessene Beteiligung von Anwendern in der Verbundstruktur sicherzustellen.
Zusätzlich muss die Verfügbarkeit beziehungsweise Zugänglichkeit der für das Vorhaben benötigten Daten sichergestellt werden. Das heißt, die benötigten Daten müssen entweder frei verfügbar sein oder entsprechende Datenlieferanten müssen als Partner ins Vorhaben eingebunden werden. Andere Formen des Datenzugangs müssen nachvollziehbar dargestellt werden.
Weitere Informationen finden Sie in der Bekanntmachung.
Das Antragsverfahren ist zweistufig angelegt.
FRIST: In der ersten Verfahrensstufe sind dem beauftragten Projektträger bis spätestens 15. März 2024 Projektskizzen in schriftlicher und/oder elektronischer Form einzureichen.
