Wenn die KI selbstständig handelt: Warum Unternehmen ihre IT-Sicherheit neu denken müssen

Paderborn. KI soll schneller machen, Kosten senken und Mitarbeitende entlasten. Doch was passiert, wenn die Software nicht mehr nur auf Zuruf arbeitet, sondern selbst Code schreibt, auf Anwendungen zugreift und Entscheidungen vorbereitet? Dann wird aus der Frage nach den Möglichkeiten von KI schnell eine Frage der (Unternehmens-)Sicherheit. Wie lässt sich kontrollieren, was digitale Systeme im Namen eines Unternehmens selbstständig tun?

Genau darum geht es beim 20. Paderborner Tag der IT-Sicherheit am 1. und 2. September. Der Kompetenzbereich „Digital Security“ des Software Innovation Campus Paderborn (SICP) bringt dafür Fachleute aus Wirtschaft, Wissenschaft und Politik zusammen.

Wenn KI mehr kann als Antworten geben

Bisher war die Rollenverteilung vergleichsweise einfach: Ein Mensch gibt einer KI einen Auftrag, bekommt ein Ergebnis und entscheidet anschließend, was damit passiert. Das könnte sich ändern: Sogenannte KI-Agenten können zunehmend Aufgaben in mehreren Schritten selbstständig erledigen, Programme nutzen, Daten verarbeiten oder sogar Code erzeugen.

Für Unternehmen ist das interessant, weil sich damit Prozesse beschleunigen und automatisieren lassen, Mitarbeitende gewinnen Zeit für andere Aufgaben. Doch es entstehen neue Fragen: Wie lässt sich überprüfen, was die KI produziert? Welche Zugriffsrechte sollte sie bekommen? Und an welcher Stelle muss weiterhin ein Mensch die Kontrolle behalten?

„KI-Systeme entwickeln sich gerade sehr schnell von unterstützenden Werkzeugen zu Systemen, die selbstständig Code erzeugen, auf Anwendungen zugreifen und Entscheidungen vorbereiten oder ausführen“, sagt Dr. Simon Oberthür, Manager des Kompetenzbereichs „Digital Security“ im SICP. Damit verändert sich auch die Aufgabe der IT-Sicherheit.

Cybersicherheit betrifft das ganze Unternehmen

IT-Sicherheit ist längst keine Angelegenheit mehr, die ausschließlich die IT-Abteilung betrifft. Neue gesetzliche Anforderungen wie NIS-2 und der Cyber Resilience Act erhöhen den Druck auf Unternehmen, sich mit Risiken, Verantwortlichkeiten und Sicherheitsmaßnahmen auseinanderzusetzen.

Für die Wirtschaft geht es dabei um mehr als technische Details. Was passiert, wenn ein wichtiger Dienst ausfällt? Wer darf auf welche Daten zugreifen? Und wer trägt die Verantwortung, wenn ein digitales System einen Fehler macht?

Beim Paderborner Tag der IT-Sicherheit geht es deshalb auch um die praktische Umsetzung. Auf dem Programm stehen unter anderem Vorträge zu NIS-2 und zum Cyber Resilience Act sowie Workshops zu Sicherheitskultur, Risikobeurteilung und der Vorbereitung auf Cyberangriffe und technische Störungen.

Gerade für Unternehmen, die sich bisher nur am Rand mit diesen Themen beschäftigt haben, dürfte dabei eine Frage interessant sein: Was müssen sie eigentlich konkret tun?

Wie viel digitale Unabhängigkeit braucht Europa?

Am zweiten Veranstaltungstag rückt zudem die digitale Souveränität Europas in den Mittelpunkt. Das klingt zunächst nach einem politischen Thema, hat aber auch eine wirtschaftliche Seite. Unternehmen sind heute auf Software, Cloud-Dienste und digitale Infrastrukturen angewiesen. Damit stellt sich zunehmend die Frage, wie abhängig sie von einzelnen Anbietern und Technologien sind.

Die Keynote von Matthias Muhlert, Group Chief Information Security Officer der Oetker-Gruppe, beschäftigt sich unter der Überschrift „Rethinking Cybersecurity – A Blueprint for Europe’s Digital Future“ deshalb mit der Frage, wie Europa digitale Souveränität, Innovation und Cybersicherheit miteinander verbinden kann.

Was Unternehmen aus der Debatte mitnehmen können

Der Paderborner Tag der IT-Sicherheit zeigt, dass sich die Sicherheitsfrage verändert. Je mehr Aufgaben Unternehmen an KI und andere digitale Systeme übertragen, desto wichtiger wird es, deren Einsatz im Blick zu behalten.

Wie das in der Praxis funktionieren kann, ist eines der Themen der Veranstaltung. In fünf Workshops geht es unter anderem um NIS-2-Umsetzungsprojekte, den Cyber Resilience Act, TLS-Verbindungen und IT-Notfallplanung.

Die Veranstaltung am 1. und 2. September ist kostenfrei. Sie richtet sich an Interessierte aus Wirtschaft, Politik und weiteren Bereichen, die sich mit den aktuellen Herausforderungen der IT-Sicherheit beschäftigen.

Für Unternehmen ist dabei vor allem eine Erkenntnis entscheidend: IT-Sicherheit lässt sich nicht mehr auf die Frage reduzieren, ob die Firewall funktioniert. Vielmehr geht es darum, wie viel Verantwortung Unternehmen an intelligente Systeme abgeben können und wie viel Kontrolle sie behalten müssen.