Der Bundestag erkennt die rasanten Fortschritte in der Künstlichen Intelligenz an, die neue Risiken mit sich bringen: KI-Systeme umgehen in Sicherheitstests gezielt ihre Begrenzungen, verschaffen sich unbefugten Internetzugang und greifen auf fremde Systeme zu. Zugleich werden KI-Systeme bereits für Cyberangriffe, Manipulation und Betrug missbraucht, und Expertinnen und Experten warnen vor erheblichen Gefahren beim Einsatz in biologischen, chemischen und anderen sicherheitskritischen Bereichen. Allein durch IT-Angriffe, Spionage und Sabotage entstehen jährlich Schäden in dreistelliger Milliardenhöhe.

Der Antrag fordert ein umfassendes Maßnahmenpaket zur Stärkung der Widerstandskraft von Staat, Wirtschaft und Gesellschaft gegen KI-bezogene Sicherheitsrisiken. Dazu gehören die Stärkung der Fähigkeiten des Bundesamtes für Sicherheit in der Informationstechnik (BSI) und des Amtes für Sicherheit in der Informationstechnik (AISI), die Durchsetzung der Cyber-Resilienz-Verordnung und die Förderung internationaler Zusammenarbeit bei KI-Sicherheitsstandards. Nationale Alleingänge oder ein rein europäisches Vorgehen reichen für diese Risikolage nicht aus – KI-Sicherheit muss als internationale Gemeinschaftsaufgabe mit globaler Kraftanstrengung vorangebracht werden.

Kernpunkte:

• Die Entwicklung Künstlicher Intelligenz (KI) hat allein im letzten Jahr enorme Fortschritte gemacht.
• KI-Systeme werden nicht nur immer leistungsfähiger, sie übernehmen zunehmend komplexe Aufgaben eigenständig.
• Bei Sicherheitstests führender KI-Labore sind KI-Agenten wiederholt vorgesehene Begrenzungen umgangen, haben unerlaubt auf das Internet zugegriffen, reale Systeme Dritter erreicht sowie auf diese unrechtmäßig Zugang erlangt.

Quelle: Bundestags Drucksachen (Deutsch)