KIT beteiligt sich an KI-Governance-Startup

Neue EU-Gesetze verpflichten beim Einsatz von Künstlicher Intelligenz (KI) ab sofort zu ethischen Standards und Risikomanagement. Das Start-up Validaitor, ein Spin-off des Karlsruher Instituts für Technologie (KIT), unterstützt Organisationen und Unternehmen bei der Umsetzung der Regeln. Das KIT hat jetzt eine Beteiligung beschlossen.

Die Beteiligung des KIT ist Teil einer größeren Finanzierungsrunde. Weitere Investoren sind Bitdefender, Voyager Ventures, EnBW New Ventures und das Start-up BW Seed Fonds der MBG Mittelständische Beteiligungsgesellschaft Baden-Württemberg.

„Diese Investitionen ermöglichen es, unsere Plattform weiterzuentwickeln und KI vertrauenswürdiger zu machen“, sagt Yunus Bulut, Gründer und CEO von Validaitor. „Wir helfen unseren Kunden bis zu 80 Prozent der Kosten für die KI-Zertifizierung im Vergleich zu den aktuellen Standards einzusparen.“

Das neu formierte Investorenkonsortium bündelt komplementäre Expertisen aus strategisch relevanten Branchen: Bitdefender bringt Cybersecurity-Kompetenz ein, während EnBW New Ventures seine Expertise im Energiesektor und bei kritischen Infrastrukturen beisteuert. Das KIT ergänzt das Konsortium mit seiner Forschungskompetenz und dem Startup-Inkubator KIT-Gründerschmiede.

Zertifizierung von KI-Produkten

Validaitor bietet eine Plattform, die Lösungen für KI-Governance, Risikomanagement und automatisiertes Testen umfasst. Im Gegensatz zu anderen Anbietern soll das Testen mit Werkzeugen möglich sein. Dies vereinfache einen regelkonformen Betrieb für Organisationen, die sich mit komplexen rechtlichen Rahmenbedingungen wie dem EU-KI-Gesetz oder EU-Normen auseinandersetzen müssen.

Validaitor verifiziert die Umsetzung dieser Anforderungen und erleichtert die strategische Kontrolle über den Einsatz von KI, so das Marktversprechen des Start-ups. Dazu gehören die Durchsetzung ethischer Standards und Transparenz sowie Risikomanagement bei KI-Anwendungen. Auch das so genannte Red-Teaming ist Teil des Angebots. Dabei werden – ähnlich wie bei Penetrationstests im Sicherheitsbereich – Angriffe simuliert, um Systemschwachstellen zu identifizieren.

„Künstliche Intelligenz entwickelt sich weltweit in einem dynamischen Umfeld mit großen Chancen, aber auch Risiken“, sagt Professor Thomas Hirth, Vizepräsident Transfer und Internationales des KIT. „Um KI verantwortungsvoll und sicher in die Anwendung zu bringen, braucht es innovative Ansätze zur Qualitätssicherung und Compliance, wie wir sie am KIT erforschen und wie sie nun von unserer Ausgründung Validaitor in die Anwendung gebracht werden. Wir sind stolz darauf, diesen Transfer weiter zu unterstützen.“