Zukunft gestalten: Interviews aus unserem Netzwerk – Micromata GmbH

Inwiefern beeinflussen sich KI und Cybersecurity gegenseitig? Ist KI eher eine Chance oder ein Risiko im Bereich der IT-Sicherheit?

Aus unserer Sicht haben wir hier zwei Perspektiven: eine offensive und eine defensive.
Offensiv (also aus Sicht eines Angreifers oder Pentesters) eröffnet KI ganz neue Möglichkeiten. KI-Modelle (wie Large Language Models) bieten automatisierte Wege, um viel schneller und effizienter Schwachstellen zu finden. Das „Wissen“ der KI, das aus riesigen Datenmengen stammt, kann für Skripting, Testing und das Aufspüren von Sicherheitslücken genutzt werden. Das beschleunigt den Angreifer enorm.
Defensiv dagegen kann KI genauso genutzt werden, um frühzeitig vor Anti-Patterns oder potenziellen Schwachstellen zu warnen. Etwa in der Softwareentwicklung, wo KI automatisch Code überprüft und Hinweise zu Sicherheitslücken geben kann, noch bevor sie in einer Anwendung landen.
Es ist also beides: eine Chance für bessere Abwehrmechanismen und ein Risiko, da  Angreifer dieselben Werkzeuge nutzen. 

Welche besonderen Herausforderungen gibt es in Projekten zu Cybersecurity und KI? Welche Best Practices haben sich bewährt?

Die Herausforderungen sind vielfältig:

*Menschlicher Faktor und Akzeptanz:*
Viele Menschen befürchten, durch KI ersetzt zu werden. Es braucht Aufklärung, dass KI die menschliche Expertise nicht komplett ablöst, sondern eher als Produktivitäts-Booster dient – auch auf der Suche nach Sicherheitslücken.

*Data Governance und Datenschutz:*
Sobald man KI-Modelle nutzt, stellt sich die Frage: Wohin fließen die Daten? Gerade bei öffentlich verfügbaren KI-Diensten (z. B. OpenAI) kann es problematisch sein, sensible Unternehmensdaten einzugeben, da diese in die Trainingsdaten einfließen könnten.

*Fehlendes Know-how und Infrastruktur:*
Eine eigene, datenschutzkonforme KI zu betreiben, ist aufwendiger, weil man eigene Server braucht und das Modell trainieren oder anpassen muss. Die Meisten greifen lieber auf Public Services zurück, was aber wieder Datenschutzthemen aufwirft.

Best Practices sind daher:

• Datenschutzkonforme Lösungen nutzen – also entweder selbst KI-Infrastruktur aufbauen oder auf zertifizierte Anbieter setzen.
• Klare Richtlinien aufstellen, welche Daten überhaupt durch die KI verarbeitet werden dürfen.
• Prompts und Ergebnisse überprüfen – KI erzeugt Code oft schnell, aber nicht immer sicher. Daher sind Code-Reviews und Testing unverzichtbar.

Welche Trends sind in den nächsten Jahren zu erwarten? Wie bereitet sich Micromata auf zukünftige Entwicklungen in Cybersecurity und KI vor?

Aktuell entwickeln sich die KI-Modelle rasant weiter. Wir erwarten:

*Agent-Systeme und komplexere KI-Anwendungen:*
In Zukunft werden mehrere KI-Modelle zusammenarbeiten und ganze Workflows automatisiert ausführen. Denken Sie an eine Aufgabe wie „Erstelle mir bitte eine komplette Präsentation mit Text und Design“ – KI-Systeme werden das irgendwann vollständig abwickeln können.

*Mehr „Intelligenz“ und größere Kontexte:*
Die Sprachmodelle werden fähig, komplexe Probleme zu lösen, weil sie mehr Daten gleichzeitig verarbeiten können. Für die Cybersecurity bedeutet es, dass KI noch raffiniertere Schwachstellen finden kann – und gleichzeitig unsere Verteidigung verbessern kann.

*Wie wir uns darauf vorbereiten:*
*Frühe Implementierung und Tests:* Wir setzen KI bereits in unseren Projekten ein, um praktische Erfahrungen zu sammeln und technische Grenzen zu erkennen.
*Fortlaufendes Technologie-Monitoring:* Wir beobachten ständig neue Entwicklungen bei KI-Hardware (z. B. spezielle Chips) und Software, damit wir Trends frühzeitig nutzen oder ihnen entgegenwirken können.
*Schulung und Weiterbildung:* Unser Team lernt kontinuierlich, wie man KI verantwortungsvoll und effizient einsetzt. So verhindern wir, dass wir diesen „KI-Zug“ verpassen.

Zusammengefasst ist KI also ein mächtiges Werkzeug, das sowohl die Angriffsmöglichkeiten erweitert als auch die Verteidigung stärkt, sofern man es richtig einsetzt. Schlusswort:

Letztendlich wird sich KI immer weiterentwickeln. Wir sollten sie früh kennenlernen und verstehen, um sie selbstbestimmt zu nutzen, anstatt von ihr überrollt zu werden. Gerade in der Cybersecurity könnte KI uns eines Tages wie beim Go-Spiel Züge zeigen, die wir uns jetzt noch gar nicht vorstellen können – das birgt Gefahren, aber eben auch enorme Chancen.

Fragen beantworteten:

Dominique Wüst, IT-Security Project Management

Ilyes Tascou, AI Software Architect