<kes> Special zur it-sa 2023 Open Source Intelligence“, meint Dr. Krämer. Ein Beispiel dafür seien Datenlecks, die schneller erkannt, identifiziert und eingedämmt wer- den können, wenn Überwachungs- systeme mittels KI effizienter gestal- tet werden. Carsten Pinnow empfiehlt den Blick auf beide Seiten der Me- daille: „Software-Werkzeuge oder auch Tools, wie sie im Fachjargon genannt werden, haben immer Dual-Use-Eigenschaften. Sie können somit sowohl von Angreifern wie auch von Verteidigern eingesetzt werden. Unternehmen müssen auf KI-gestützte Bedrohungen selbst- verständlich reagieren. Notwendige Voraussetzungen sind ausreichende Zeit- und Finanzbudgets und ausrei- chendes Know-how.“ Nathan Howe erinnert da- ran, dass eine KI nur so gut ist wie seine Daten. Entscheidend ist für ihn, dass die vorhandenen Daten bereits heute genutzt werden, um aus den Analyseergebnissen Hand- lungen abzuleiten. Er stellt die Frage, wie IT-Sicherheit effizienter gestaltet oder der Datenverkehr besser fließen kann. „Die eigentliche Revolution liegt darin, wie Mechanismen und Prozesse effektiver und effizienter gestaltet werden können.“ Rik Fer- guson schließt hier an, wenn er sagt, dass „die Fortschritte bei den LLMs sich dadurch auszeichnen, dass sie das Komplexe einfach machen.“ Er sieht erhebliche Verbesserungen bei der Entschlüsselung komplexer bösartiger Aktivitäten, bei der Aus- wertung großer Datenmengen und bei der Unterstützung von Securi- ty-Analysten bei deren Suche nach Bedrohungen. Cybersicherheit mit KI verbessern Dr. Krämer schätzt, dass die Komplexität der KI wohlbekannte Herausforderungen an Entwickler, Anwender und Aufsichtsbehörden stellen wird. Für ihn müsste bereits während der Entwicklung mehr auf die Möglichkeiten der KI geachtet werden. Er mahnt den verant- wortungsbewussten Umgang mit Trainingsdaten (Vermeidung von Bias und Data Poisoning) sowie die Gefahren des Reverse-Model-En- gineering an. Carsten Pinnow sieht hier die gleichen Regeln wie bei der Cybersicherheit ohnehin: „Es ist im Wesentlichen eine Frage der Softwaresicherheit, ebenso wie bei herkömmlicher IT- und OT-Soft- ware. Ausbildung von Mitarbeitern und die stringente Definition und Implementierung von Prozessen ist essenziell, um die Cybersicherheit von Software-Werkzeugen, wie KI eines ist, zu verbessern und damit das Niveau der Cybersicherheit all- gemein zu heben.“ Drei Ebenen zur Verbesse- rung sind für Nathan Howe ent- scheidend „Daten, Prozesse und der Mensch“. Der schwierigste Punkt liegt seiner Meinung nach darin, Grenzen zu ziehen für den ethischen Einsatz von KI. Eine zweite Ebene würde sich auf den Umgang mit Da- tenquellen zum Training von KI-Mo- dellen beziehen. Rik Ferguson warnt vor KI-„Halluzinationen“, die es zu reduzieren gelte, um Verzerrungen in den Trainingsdaten und den da- raus resultierenden Algorithmen zu beseitigen. Seine Forderung besteht darin, dass die Algorithmen trans- parenter werden müssen, damit der Mensch nicht nur verstehen kann, welche Entscheidungen eine KI trifft, sondern auch warum. Fazit Dr. Krämer gibt zu bedenken, dass KI kein Hype ist, der in wenigen Jahren abebbt. Er erkennt schon jetzt eine größere Wahrnehmung nicht zuletzt dadurch, dass es bereits auf Managementebene diskutiert wird, also auf Leitungsebene angekommen ist. Seine Schlussfolgerung daraus ist, dass „Cybersicherheit weiterhin un- bedingt notwendig sein wird, gerade in einer zunehmend destabilisieren geopolitischen Landschaft, in der auch die Gesellschaft vor immer neuen Herausforderungen steht.“ Nathan Howe sieht es ebenso, auch er schätzt, dass sich KI als Teil der Sicherheitsdiskussionen etablieren wird. Carsten Pinnow denkt dage- gen an ein Abflachen der Aufmerk- samkeitskurve: „Möglicherweise wird sich der Hype um das Thema bis dahin ein wenig gelegt haben, aber die Bedrohungslage durch KI-gestützte Angriffe wird sicherlich nicht einfach verschwinden.“ Rik Ferguson sieht darin sogar eine Ge- fahr, wenn er sagt, dass: „Wenn wir aufhören, über KI zu sprechen, sei es im Bereich der Sicherheit oder in an- deren Bereichen, dann riskieren wir, dass die aktuellen Probleme einfach Teil des Status quo werden und wir uns in eine Welt begeben, in der wir ‘der Maschine vertrauen‘ und dabei ignorieren, dass wir sie anfangs mit all unseren eigenen Vorurteilen und Annahmen gefüttert haben.“ n Messestand KnowBe4 Halle 6, Stand 114 Messestand Zscaler Halle 7A, Stand 304 Messestand Forescout Halle 7, Stand 343a 11. Oktober, 15:30 Uhr, International Forum B Diskussionsrunde it-sa insights In AI we Trust – secure it anyway we must Moderation: Norbert Luckhardt, Chefredakteur <kes> 36 © DATAKONTEXT GmbH · 50226 Frechen · <kes> Special it-sa, Oktober 2023