Mit zunehmender Verbreitung von Künstlicher Intelligenz (KI) wird deren zuverlässige Absicherung gegen Cyberangriffe und Manipulation immer wichtiger. Das Bundesministerium für Bildung und Forschung (BMBF) unterstützt Projekte dieser Schnittstelle zwischen KI und IT-Sicherheit mit dem Thema: „Sichere Zukunftstechnologien in einer hypervernetzten Welt: Künstliche Intelligenz“. Projektskizzen können bis zum 15.3.2024 eingereicht werden.

Künstliche Intelligenz gehört ohne Zweifel zu den Schlüsseltechnologien der Zukunft und muss daher sicher gestaltet sein. Mit dem Start von ChatGPT Ende 2022 sind die Fähigkeiten aktueller KI-Systeme einer breiten Öffentlichkeit offenbart worden. Die öffentliche Aufmerksamkeit für generative KI ist stark gestiegen, beispielsweise für KI-basierte Text- und Bildgeneratoren. Die rasante Entwicklung macht vieles möglich und führt zu einem zunehmenden Einsatz von KI bei Produkten, Dienstleistungen und Geschäftsmodellen.

KI muss sicher sein und ethische Werte einhalten

Die zahlreichen Möglichkeiten bergen aber auch Risiken. KI-Technologie, die in digitale Produkte und Prozesse sowie den Alltag von Menschen integriert ist, muss sicher sein und ethische Werte einhalten. So kann KI-Technologie beispielsweise für effektive und effiziente Cyberangriffe eingesetzt werden. Die Förderung des BMBF setzt genau dort an.

Ziel der Förderung ist es, die Forschung, Expertise und Wertschöpfung im Bereich der Cyber-Sicherheit in Deutschland nachhaltig zu stärken. Lösungen für den sicheren Einsatz von KI-Technologien sollen beschleunigt werden. Die Forschungsexpertise im Schnittbereich von IT-Sicherheit und KI soll ausgebaut und der Transfer in die Praxis beschleunigt werden.

Know-how soll in Wirtschaft transferiert und angewendet werden

Deutschlands IT-Sicherheitsforschung ist vergleichsweise gut aufgestellt. Durch die Zusammenarbeit von Unternehmen und Forschungseinrichtungen soll dieses Know-how in die Wirtschaft transferiert und angewendet werden. Auf diese Weise soll ein Beitrag zur technologischen Souveränität Deutschlands im Bereich der IT-Sicherheit geleistet werden. Die Verfügbarkeit von sicheren und vertrauenswürdigen KI-Systemen und KI-gestützten Sicherheitslösungen in wesentlichen Anwendungsbereichen qualitativ zu verbessern und quantitativ zu steigern, ist ein weiteres Ziel der Förderung.

Die BMBF-Förderung „Sichere Zukunftstechnologien in einer hypervernetzten Welt: Künstliche Intelligenz“ fokussiert sich auf drei Teilbereiche:

  • IT-Sicherheit für KI
  • IT-Sicherheit durch KI
  • IT-Sicherheit gegen KI

Bis 15.3.2024 Projektskizzen einreichen

Antragsberechtigt sind Hochschulen und außeruniversitäre Forschungseinrichtungen, Behörden und deren Forschungseinrichtungen, andere Institutionen, die Forschung betreiben, Unternehmen der gewerblichen Wirtschaft, Kommunen und deren Einrichtungen sowie Verbände, Vereine und Non-Profit-Organisationen.

Das Verfahren gliedert sich in mehrere Stufen. In der ersten Stufe können beim Projektträger VDI/VDE Innovation + Technik bis zum 15.3.2024 Projektskizzen eingereicht werden.

Weitere Infos finden Sie in der Bekanntmachung des Bundesministeriums für Bildung und Forschung.

(Tara Winstead/Pexels)