OpenAI startet "Patch the Planet", um die Sicherheit von Open-Source-Software zu stärken

Ekhbary Nachrichtenagentur

Berlin — OpenAI kündigte am Montag eine Reihe von Initiativen im Bereich Cybersicherheit an, darunter den Start eines neuen Programms namens "Patch the Planet". Die Initiative soll den wachsenden Hacking-Fähigkeiten der künstlichen Intelligenz (KI) entgegenwirken und sich insbesondere auf die Sicherheit von Open-Source-Software konzentrieren.

KI-gestützte Behebung von Sicherheitslücken

Das Programm "Patch the Planet" wurde von OpenAI in Zusammenarbeit mit dem renommierten forschungsorientierten Sicherheitsunternehmen Trail of Bits sowie den Vulnerability-Management-Firmen HackerOne und Calif ins Leben gerufen. Das Projekt wird kostenlose Sicherheitsberatungsdienste für Open-Source-Software-Maintainer anbieten, um ihnen bei der Suche und Behebung von Schwachstellen zu helfen. Gleichzeitig werden sie dabei unterstützt, ihre Codebasen zu stärken und KI-Sicherheitstools in ihre Entwicklungsprozesse zu integrieren. Die Idee ist, möglichst vielen Open-Source-Projekten individuelle Unterstützung zu bieten, um sowohl ihre aktuelle Sicherheit als auch ihre langfristige Widerstandsfähigkeit auf nachhaltige Weise zu verbessern.

Bewältigung der Herausforderungen von Open-Source-Software

Dan Guido, CEO von Trail of Bits, erklärte: "Patch the Planet ist eine Initiative im Internet-Maßstab, die Open-Source-Software helfen soll, KI-gestützten Bug-Hunting-Tools zuvorzukommen. Aber es ist auch eine Anstrengung, der Open-Source-Community die Vorteile und nicht nur die Nachteile von KI-Codierungswerkzeugen aufzuzeigen." Er betonte, dass Open-Source-Entwickler, die typischerweise Freiwillige mit begrenzten Ressourcen sind, bereits unter großem Druck stehen. Der Anstieg der KI-gestützten Schwachstellenforschung in den letzten Monaten hat für viele Maintainer diesen Rückstand unüberwindbar erscheinen lassen, da KI-generierte Schlackenberichte sich stapeln, was die Priorisierung erschwert und bereits begrenzte Zeit und Aufmerksamkeit von kritischen Fehlern abzieht.

OpenAIs Engagement und erste Ergebnisse

Fouad Matin, Cybersicherheitstechnologie-Leiter bei OpenAI, erläuterte, dass sie mit "Patch the Planet" den Prozess hinsichtlich der Token-Effizienz maximiert haben, um die Belastung für die Maintainer zu reduzieren. Dies umfasst die Bewertung von Codebasen, die Validierung potenzieller Berichte, die Erstellung von Patches und deren Einbindung. OpenAI subventioniert zudem die Nutzung seines Codex Security Scanners, der seit Anfang des Jahres in der Forschungsvorschau ist, mit rund 20 Billionen Token sowohl für Open-Source- als auch für private Codes. Über 30 Open-Source-Projekte nehmen bereits teil, weitere sind in Planung. Zu Beginn des Projekts führte Trail of Bits einen fünftägigen Sprint durch, bei dem etwa ein Fünftel seiner Mitarbeiter gleichzeitig mit zahlreichen Maintainern zusammenarbeitete. In der ersten Woche hat das Projekt Hunderte von Fehlern aufgedeckt und Dutzende von Patches erstellt.