10 Ansprechpartner für funktionale Sicherheit eingesetzt werden – eine wertvolle Entlastung im Projektalltag. Gen-AI in der Cybersicherheit: STRIDE, Zonen & Risikobewertung Auch in der Cybersicherheit lässt sich Gen-AI wirksam einsetzen. Systembereiche können mithilfe strukturierter Vorlagen in Zonen und Conduits aufgeteilt und als Datenflussgraph abgebildet werden – Basis für eine automatisierte STRIDE-Analyse. Die identifizierten Bedrohungsszenarien werden manuell bewertet und in Risikotabellen überführt. Spezialisierte KI-Agenten unterstützen Projektteams auch hier als schnelle, konsistente Auskunftsquelle. Herausforderungen: Determinismus, Halluzinationen & Datenstand Trotz der Möglichkeiten ist Vorsicht geboten. Die probabilistische Natur von GenAI bedeutet mangelnden Determinismus – ein Risiko in sicherheitsrelevanten Anwendungen. Halluzinationen und veraltete Trainingsdaten (teils noch aus 2023) bergen die Gefahr von Fehlentscheidungen. Insbesondere in innovativen Projekten kann das Fehlen aktueller Standards problematisch sein. Die Frage bleibt: Ist KI in sicherheitskritischen Bereichen ein qualitätssicherndes Instrument – oder nur ein unterstützendes Tool, das menschliche Expertise nicht ersetzt? Ausblick: Zwei KIs für ein sicheres Produkt? Ein denkbares Zukunftsszenario: Zwei spezialisierte KIs arbeiten auf unterschiedlichen Ebenen des V-Modells – eine für die Entwicklung, eine für Verifikation und Validierung. Im Stil des Reinforcement Learnings könnten diese KIs miteinander konkurrieren und gemeinsam zu besseren Ergebnissen gelangen. Noch Zukunftsmusik – aber nicht mehr undenkbar. Der Weg zur vollständigen Integration von Gen-AI in sicherheitsgerichtete Prozesse wird nicht ohne Hürden verlaufen. Doch wer heute beginnt, ihre Möglichkeiten gezielt und verantwortungsvoll einzusetzen, kann morgen entscheidende Innovationsvorteile nutzen. Die infoteam Software Gruppe ist dabei der ideale Partner – als Trusted Partner für AI-powered Secure Solutions. https://infoteam.de Unternehmen https://infoteam.de/unternehmen Know-how https://infoteam.de/unser-know-how Gen-AI in sicherheitsgerichteten Entwicklungsprozessen: Potenziale, Grenzen und Perspektiven Von Marc Maußner, Senior Consultant bei der infoteam Software Gruppe Generative Künstliche Intelligenz (Gen-AI) hat längst Einzug in technische Entwicklungsprozesse gehalten. Doch wie lässt sie sich konkret in der sicherheitsgerichteten Produktentwicklung einsetzen – wo Präzision, Nachvollziehbarkeit und Konformität essenziell sind? Ein Blick auf Chancen, Risiken und erste Anwendungsszenarien. Was mit ChatGPT begann, entwickelt sich zu einer tiefgreifenden Veränderung in der Arbeitswelt – auch im Engineering. Analysten von Gartner prognostizieren für 2025 Investitionen von 644 Milliarden USDollar in KI. Microsoft-CEO Satya Nadella geht davon aus, dass bereits 20–30 % des Codes durch KI generiert werden. Das sogenannte Vibe-Coding – bei dem nur noch das gewünschte Verhalten beschrieben wird, während die KI die Implementierung übernimmt – zeigt: Der Zugang zur Softwareentwicklung wird demokratisiert. Doch was bedeutet das für die sicherheitsgerichtete Entwicklung? Gen-AI – ein kurzer Überblick Generative KI basiert auf neuronalen Netzen mit trainierten Gewichtungen. Moderne Large-Language-Models (LLMs) erzeugen Texte Wort für Wort auf Basis eines Prompts. Dabei arbeiten sie probabilistisch: Rund 20 % der Ausgaben können faktisch falsch sein – sogenannte Halluzinationen. Besonders kritisch wird es, wenn Modelle auf veralteten Daten basieren und falsche Aussagen über APIs, Standards oder Frameworks liefern. Gen-AI in der funktionalen Sicherheit: Von der Idee bis zum Safety Case In der sicherheitsgerichteten Entwicklung liegt das Potenzial von Gen-AI besonders in der Konzept- und Analysephase. Die KI kann aus textuellen Beschreibungen Systemarchitekturen ableiten, Gefährdungen identifizieren und HARA-Tabellen generieren. Daraus entstehen semiformale Anforderungen, die direkt in Anforderungsmanagement-Systeme überführt werden. Auch beim Safety Case hilft Gen-AI: Sie erstellt Argumentationsstrukturen, Dokumentenpläne und Nachweisdokumente. Erste Fehlerbaumstrukturen lassen sich aus der Architektur ableiten und im Team weiterentwickeln. Ergänzend können KI-basierte Agenten als virtuelle Bild: © Krot_Studio/stock.adobe.com
RkJQdWJsaXNoZXIy MjUzMzQ=