In der Welt der Cyberkriminalität und des Hackings hat der Aufstieg der KI den Übeltätern neue Möglichkeiten eröffnet, Konten zu stehlen, wichtige Informationen zu erlangen oder durch Phishing Geld zu erbeuten. Doch es gibt Hoffnung, denn es gibt eine KI, die so gut darin ist, Sicherheitsprobleme und Schwachstellen im Code zu finden, dass sie derzeit die Rangliste der US HackerOne anführt.
Das Unternehmen, das das KI-Modell entwickelt hat, heißt Xbow (nicht zu verwechseln mit Xbox) und hat denselben Namen auch für das System selbst verwendet. Xbow ist relativ neu, da das Start-up erst seit einem Jahr existiert. Bisher hat es 75 Millionen Dollar an Finanzierung erhalten, und angesichts seines Erfolgs bei der Erkennung von Sicherheitsproblemen werden sich wahrscheinlich noch mehr Investoren beteiligen wollen.
Was Xbow tut, ist nicht völlig neu, denn ethische Hacker verwenden seit Jahren alle möglichen automatisierten Werkzeuge, um Code, Websites und Ähnliches zu testen und zu überprüfen. KI hat in letzter Zeit besonderes Interesse geweckt, da künstliche Intelligenz-Modelle besonders gut darin sind, große Datenmengen zu durchforsten, um Muster zu erkennen.
Die Xbow-KI führt sogenannte automatisierte Penetrationstests durch, die Cyberangriffe oder systematische Ausnutzung von Sicherheitslücken im Code simulieren. In der Vergangenheit wurde dies weitgehend manuell durchgeführt, was den gesamten Prozess sehr zeitaufwendig und damit kostspielig machte. Manchmal ist es so teuer, dass einige Unternehmen Code veröffentlichen, ohne sicherzustellen, dass er speichersicher ist.
Da Xbow derzeit die US HackerOne-Rangliste anführt, leistet es eindeutig gute Arbeit. Das bedeutet jedoch nicht, dass es perfekt ist; ein Teil des Problems liegt in der sogenannten KI-Halluzination, bei der das Modell völlig falsche Antworten liefert, weil es auf Daten stößt, die ihm unbekannt sind oder auf denen es nicht ausreichend trainiert wurde. Xbow, das Unternehmen, umgeht dieses Problem, indem es jedes gemeldete Problem manuell überprüft.
Ein weiteres Problem ist, dass die KI keinen Kontext versteht. Wie Xbow-Mitbegründer Oege de Moor erklärte, muss sie beispielsweise ausdrücklich darauf hingewiesen werden, dass bei einer medizinischen Website Rezepte privat gehalten werden sollten.
Angesichts der Bedeutung von speichersicherem Code heutzutage, bei dem Programme keine unerwarteten Speicherfehler erzeugen, die sie anfällig für Angriffe machen, ist zu erwarten, dass in den nächsten Jahren viele weitere Start-ups und Projekte wie Xbow entstehen werden. Und wenn sie alle maschinell betrieben, aber menschlich verifiziert sind, um ultimative Geschwindigkeit und Genauigkeit zu gewährleisten, dann ist das sicherlich ein großer Vorteil, den die KI uns allen gebracht hat.