Deep Tech Talk: Im Interview mit VAARHAFT UG

VAARHAFT ist eine der Finalistinnen und Finalisten in der Kategorie Künstliche Intelligenz des Deep Tech Awards 2024 und beeindruckt mit ihrem Fraud Scanner, der KI-generierte und manipulierte Bilder schnell und zuverlässig erkennt. Wir haben das Team bereits vor dem Deep Tech Award 2024 interviewt. Erfahre hier mehr darüber, wie VAARHAFT mit ihrer Technologie unsere digitale Sicherheit stärkt!

Herzlichen Glückwunsch, Ihr seid eine der Finalist:innen des 9. Deep Tech Awards! Was bedeutet der Deep Tech Award für Euch und was war die Motivation für Eure Bewerbung?
Vielen Dank für die Glückwünsche! Wir sind sehr stolz, als Finalist:innen des 9. Deep Tech Awards nominiert zu sein. Dieser Preis ist für uns eine große Anerkennung unserer bisherigen Arbeit und motiviert uns gleichzeitig, weiter innovativ und mutig zu sein. Unsere Motivation für die Bewerbung war es, unsere Lösung einer breiteren Öffentlichkeit vorzustellen, wertvolles Feedback von Expert:innen zu erhalten und noch stärker für das Thema Deepfakes und deren zuverlässige Erkennung zu sensibilisieren und Aufmerksamkeit zu generieren.

Berlin gilt als eines der wenigen deutschen Zentren für technologische Innovation. Wie erlebt Ihr die lokale Tech-Infrastruktur und wie wird diese durch den Deep Tech Award beeinflusst?
Berlin hat sich zweifellos als eines der führenden Zentren für technologische Innovation in Deutschland etabliert. Es gibt echt super viele innovative Tech-Startups hier und Berlin bietet sehr gute Möglichkeiten für Startups, etablierte Unternehmen und Forschungseinrichtungen. Die Stadt verfügt über ein starkes Netzwerk aus Co-Working-Spaces, Inkubatoren und Acceleratoren, die ideale Bedingungen für die Gründung und das Wachstum von Technologieunternehmen schaffen.
Außerdem lieben wir die dynamische, internationale Tech-Community hier.
Der Deep Tech Award spielt eine wichtige Rolle bei der Anerkennung und Unterstützung von herausragenden Projekten und Unternehmen im Deep Tech Bereich. Durch den Preis werden innovative Ideen sichtbar gemacht und erhalten die Aufmerksamkeit, die sie brauchen, um weiterhin Unterstützung und ein breites Netzwerk zu generieren.

Lasst uns die Perspektive wechseln und ein wenig mehr über Euch sprechen. Ihr habt Euch mit Eurem Produkt/ Eurer Lösung Fraud Scanner beworben. Bitte gebt uns einen kleinen Einblick in Eure Gründungsgeschichte und Eure Hauptmotivation, dieses Produkt zu entwickeln.
Unser CEO Linus Kameni hatte die Idee für VAARHAFT im Februar 2022. Noch bevor generative KI für jedermann kostenlos verfügbar wurde und der Hype um ChatGPT begann, beschäftigte sich Linus aufgrund seines Studiums mit maschinellem Lernen und numerischer Optimierung. Während er Bücher über generative KI las und Videos über die ersten großen Sprachmodelle von OpenAI ansah, erkannte er die Möglichkeiten, die GenAI eröffnen wird. Er sah, wie einfach es werden würde, digitale Bilder oder Videos von Grund auf neu zu generieren, ohne jegliche Fachkenntnisse und völlig kostenlos. Er erkannte aber kurz darauf auch die möglichen Konsequenzen, die sich daraus für die Glaubwürdigkeit digitaler Bilder und Videos ergeben werden. Die Art und Weise, wie wir digitale Medien in Zukunft konsumieren werden, könnte sich stark verändern. Angetrieben von dieser Erkenntnis, dass wir digitalen Bildern nicht mehr einfach blind vertrauen können, entwickelte er seine erste Idee für ein Echtheitszertifikat für digitale Bilder (SafeCam). Jedes echte Bild sollte daher bereits bei seiner Aufnahme überprüft werden und dann als “echt” markiert werden. Mit dieser Lösung sind wir in eine intensive Marktexploration gestartet und haben gutes Feedback zur Lösung erhalten. Es wurde jedoch auch immer wieder der Bedarf nach einer Lösung kommuniziert, die bereits bestehende Bilder auf ihre Glaubwürdigkeit überprüfen kann. In dieser Phase ist dann der Fraud Scanner entstanden. Mit dem Fraud Scanner können wir in Sekundenschnelle digitale Bilder überprüfen. Wir detektieren, ob ein Bild durch eine KI generiert oder nachträglich dubios bearbeitet wurde. Wir markieren die bearbeiteten Stellen dann sogar im Bild und prüfen, ob ein Bild schon mal im Internet hochgeladen wurde oder bereits bei einer anderen Organisation verwendet wurde.

Trotz dieses Produkt-Pivots ist die Hauptmotivation dabei aber immer die gleiche geblieben. Wir wollen mit unserer Technologie einen Beitrag dazu leisten, dass man digitalen Medien wieder vertrauen kann und ihre Echtheit bzw. Glaubwürdigkeit überprüfbar macht. Dabei wollten wir jedoch eine Lösung bieten, die nicht nur technologisch fortschrittlich, sondern auch einfach in bestehende Systeme integrierbar ist, um den wachsenden Herausforderungen zu begegnen.

Warum glaubt Ihr, dass es VAARHAFT auf die Liste der Finalist:innen geschafft hat und warum ist es Deep Tech?
Wir glauben, dass es VAARHAFT aufgrund seiner innovativen Lösung und der Relevanz seiner Technologie auf die Liste der Finalist:innen geschafft hat. VAARHAFT überprüft mit dem “Fraud Scanner” die Glaubwürdigkeit digitaler Bilder in Sekundenschnelle und deckt zuverlässig bildbasierten Betrug auf. Die Lösung nutzt hochmoderne KI-Technologien, um KI-generierte und manipulierte Bilder zu erkennen, und bietet einzigartige Features, wie die Lokalisierung bearbeiteter Stellen und organisationsübergreifende Dublettenchecks.
VAARHAFT ist ein Deep Tech-Unternehmen, weil der technologische Kern auf komplexen Computer Vision Technologien und tiefen neuronalen Netzen (Deep Learning) basiert.

Was ist die wichtigste technologische Innovation im Fraud Scanner und warum bringt sie den Stand der Technik voran?
Die wichtigste technologische Innovation im “Fraud Scanner” ist die Kombination komplexer Computer Vision Techniken und Deep Learning Mechanismen zur Erkennung von KI-generierten und bearbeiteten Bildern. Im Vergleich zu traditionellen Methoden, die sich vor allem auf Metadatenanalyse und analytische Ansätze aus der Bildforensik stützen, bietet der Fraud Scanner eine schnellere und zuverlässigere Erkennung von Deepfakes und Bildmanipulationen. Diese Innovation bringt den Stand der Technik voran, weil unser Modell eine sehr hohe Genauigkeit erreicht und wir dank besonders schneller Entwicklungspipelines innerhalb von 48 Stunden auf neue Bildgeneratoren reagieren können. Durch unseren selbst entwickelten Meta-Learning-Ansatz erkennt der Fraud Scanner dabei sogar auch Bilder von bis dato ungesehenen KI-Modellen. Zudem ist unsere Lösung als API flexibel in bestehende Prozesse integrierbar und erfüllt alle Datenschutzanforderungen, da keine Bilder gespeichert oder für weiteres Training verwendet werden. Diese Kombination aus hoher Genauigkeit, schneller Anpassungsfähigkeit und flexibler Integration macht den Fraud Scanner zu einer führenden Lösung im Bereich der Erkennung von bildbasierten Betrug.

Was waren die größten Hindernisse in Eurem Entwicklungsprozess? Wie habt Ihr sie überwunden?
Technologisch gesehen war die Entwicklung eines Klassifikationsmodells zur Erkennung von KI-generierten und bearbeiteten Bildern eine komplexe Aufgabe, die intensive Forschung und Entwicklungsarbeit erforderte. Die Herausforderung der kontinuierlichen Anpassung an GenAI-Neuentwicklungen haben wir überwunden, indem wir fortschrittliche Techniken wie Meta-Learning einsetzen und unsere Entwicklungspipelines so optimiert haben, dass wir innerhalb von 48 Stunden auf neue Bedrohungen reagieren können. Durch regelmäßige Tests und Pilotprojekte mit realen Daten können wir die Modelle kontinuierlich verbessern und ihre Genauigkeit steigern. Auch das Erstellen umfangreicher und qualitativ hochwertiger Datensätze ist eine Herausforderung. Doch auch hier haben wir mittlerweile gute Data Mining Strukturen etabliert, die es uns erlauben, sehr schnell neue hochqualitative Datenmengen zu generieren. Der Marktzugang in den deutschen Versicherungsmarkt stellte ebenfalls eine große Herausforderung dar. Hierbei hat sich das Engagement in den etablierten InsurTech-Netzwerken “InsurLab Germany” und “New Players Network” der Versicherungsforen Leipzig als besonders wertvoll herausgestellt, um unsere Marktpräsenz zu steigern und wertvolle Kontakte in die Versicherungsbranche hinein zu knüpfen. Ein weiteres bedeutendes Hindernis war die Sicherstellung der Datenschutzkonformität, insbesondere im Hinblick auf die Datenschutz-Grundverordnung (DSGVO). Da unser Fraud Scanner mit sensiblen Bilddaten arbeitet, war es essentiell, höchste Datenschutzstandards einzuhalten und unsere Feature datenschutzkonform zu entwickeln.

Könnt Ihr die einzigartige Innovation beschreiben, die Eure KI-Technologie beispielsweise für die Versicherungsbranche mit sich bringt, und wie wird sie sich Eurer Meinung nach in den nächsten fünf Jahren sowohl auf Märkte, die anfällig für manipulierte Bilder sind, als auch auf die Gesellschaft im Allgemeinen auswirken?
Unsere KI-Technologie in unserem Fraud Scanner bringt für die Versicherungsbranche die einzigartige Innovation mit, dass bis dato unmöglich zu detektierende Betrugsfälle nun verhindert werden können. Besonders die Kombination aus zunehmendem Fachkräftemangel und steigender Automatisierung sorgt dafür, dass immer mehr Prozesse in der Schadenabwicklung automatisiert reguliert und dadurch besonders anfällig für bildbasierten Betrug werden. Wir sichern mit unserer Lösung die zunehmende Automatisierung ab, sodass trotz zunehmender Automatisierung bildbasierten Versicherungsbetrug etwas entgegengesetzt werden kann. Damit können Versicherungen aktiv ihre Betrugsquote reduzieren und neben Betrugskosten auch Prozesskosten einsparen.

In den nächsten fünf Jahren wird sich unsere Technologie erheblich auf Märkte auswirken, die anfällig für manipulierte Bilder sind und wo die Glaubwürdigkeit digitaler Bilder essentiell ist. Da öffentlich zugängliche KIs immer besser darin werden, digitale Bilder zu erzeugen und zu manipulieren, wird die Nachfrage nach zuverlässigen Lösungen zur Authentifizierung digitaler Inhalte steigt. Unsere Technologie wird es Unternehmen ermöglichen, den wachsenden Herausforderungen durch Deepfakes und andere Bildmanipulationen zu begegnen, indem sie schnell und zuverlässig Fälschungen erkennt.
Für die Gesellschaft im Allgemeinen bedeutet dies einen Schritt hin zu mehr Sicherheit und Vertrauen in digitale Medien. In einer Zeit, in der die Glaubwürdigkeit digitaler Bilder rapide abnimmt, bietet unsere Technologie einen Weg, diese Glaubwürdigkeit wiederherzustellen und sicherzustellen, dass digitale Inhalte verlässlich sind und das Vertrauen der Öffentlichkeit in digitale Medien wieder gestärkt wird.

Wie lassen sich Eure Produkte in bestehende Systeme integrieren, und welche Kooperationen seid Ihr eingegangen, um seine Funktionalität und Reichweite zu verbessern?
Unser Fraud Scanner ist als Software Schnittstelle (API) verfügbar und lässt sich daher nahtlos in bestehende Systeme integrieren. Die API kann problemlos in vorhandene Prozesse eingebunden werden, ohne bestehende Software zu ersetzen, sondern ergänzt bzw. erweitert diese nur sinnvoll. Zusätzlich bieten wir aber auch eine Benutzeroberfläche für manuelle Überprüfungen an, bei der nichts eingebunden oder heruntergeladen werden muss, sondern sich Benutzer:innen ganz einfach nur einmal mit ihren Login Daten anmelden müssen.
Zur Verbesserung der Funktionalität und Reichweite präsentieren wir unsere Lösung regelmäßig auf Fachkongressen und Events. Dort erfahren wir in direkten persönlichen Gesprächen sehr viel über die Bedürfnisse und Anforderungen unserer Kund:innen. In ersten Pilotprojekten mit einigen Versicherungen testen wir außerdem aktuell unsere Lösung und erhalten dort wertvolles Feedback und umfangreiche Einblicke, die uns weiter voranbringen. Zudem sind wir in Netzwerken wie dem InsurLab Germany und dem New Players Network der Versicherungsforen Leipzig unterwegs. Darüber werden uns sehr viele wichtige Verbindungen und Kooperationen im Versicherungssektor ermöglicht.

Expert:innen und die Gesellschaft diskutieren ständig über die ethischen Risiken der KI. Da Ihr die KI-Expert:innen auf der technischen Seite seid, können wir technologische Innovationen sicherstellen und gleichzeitig ethische Fehler vermeiden? Wird der Fraud Scanner ethischen Bedenken gerecht, insbesondere in Bezug auf Voreingenommenheit, Datenschutz und Transparenz?
Als KI-Expert:innen sind wir uns der ethischen Risiken bewusst und setzen alles daran, diese zu minimieren und trotzdem innovativ zu sein. Und ja, das lässt sich auch bis zu einem gewissen Grad kombinieren. Bei der Entwicklung und dem Training des Fraud Scanners selber haben wir stark auf Voreingenommenheit, Datenschutz und Transparenz geachtet.
Um Voreingenommenheit zu vermeiden, trainieren wir unsere KI-Modelle mit vielfältigen und repräsentativen Datensätzen. Unser Meta-Learning-Ansatz ermöglicht es dem Fraud Scanner, auch unbekannte KI-Modelle zu erkennen, was die Fairness des Systems erhöht.
Wir achten darauf, dass unsere Modelle keine systematischen Verzerrungen aufweisen. Datenschutz ist ein zentrales Anliegen für uns. Der Fraud Scanner wurde z.B. so entwickelt, dass er neben dem zu analysierenden Bild keine weiteren (personenbezogenen) Daten benötigt, um die Glaubwürdigkeit eines Bildes einschätzen zu können. Der Fraud Scanner speichert keine Schadensbilder und verwendet diese nicht für das Training der Modelle.
Trotzdem gehören manche Bilder durchaus zu den sensiblen Daten und müssen auch nur bei der Analyse umfangreich geschützt werden. Hier arbeiten wir gerade an entsprechenden Maßnahmen und halten uns strikt an die Datenschutz-Grundverordnung (DSGVO), um die Rechte und Privatsphäre unserer Kund:innen zu schützen. Transparenz ist ebenfalls wichtig und ist bei KIs ja manchmal nicht so leicht durchsetzbar. Da eine KI die Entscheidung über die Glaubwürdigkeit des Bildes trifft, können wir nie zu 100% transparent erklären, warum diese Entscheidung so getroffen wurde. Wir bieten jedoch unseren Kund:innnen detaillierte Erklärungen zu den Ergebnissen des Fraud Scanners. Wir markieren farblich die erkannten Manipulationsbereiche im Bild und geben die Sicherheitswerte (Confidence) der Analyse zurück. So können unsere Kund:innen die Entscheidungen der KI besser nachvollziehen. Wir sagen aber auch immer transparent, dass unsere Lösung nur ein Indiz liefern kann und nie einen gerichtsfesten Beweis darstellt.

Was sind die nächsten Schritte für VAARHAFT, und wie plant Ihr, in der sich schnell entwickelnden KI-Landschaft an der Spitze zu bleiben?
Die nächsten Schritte für VAARHAFT konzentrieren sich darauf, unsere Technologie weiter zu verbessern und unsere Marktpräsenz auszubauen. Ein wichtiger Schwerpunkt liegt auf der kontinuierlichen Weiterentwicklung unseres Fraud Scanners, um sicherzustellen, dass er stets aktuell ist in der Erkennung von Bildmanipulationen und KI-generierten Inhalten. Dies beinhaltet die ständige Aktualisierung unserer Erkennungsmodelle und den Aufbau weiterer Datensätze. Um in der sich schnell entwickelnden KI-Landschaft an der Spitze zu bleiben, planen wir, unsere Entwicklungspipelines weiter zu optimieren, um noch schneller unser Erkennungsmodell updaten zu können und hohe Erkennungsraten zu ermöglichen. Wir setzen dabei auf fortschrittliche Ansätze wie Meta-Learning, um auch unbekannte KI-Modelle zu erkennen. Zusätzlich ist es jedoch auch wichtig, dass unsere KI-Lösung perfekt zu den Bedürfnissen unserer Kund:innen passt. Wir legen großen Wert auf Feedback von Pilotkunden und Partnern, um unsere Produkte kontinuierlich zu verbessern und genau auf die Bedürfnisse des Marktes abzustimmen. Wir starten in der nächsten Zeit nun in viele spannende Pilotprojekte mit Versicherungen und erhoffen uns dort viele wertvolle Erkenntnisse zu erhalten. Diese enge Zusammenarbeit hilft uns dabei, unsere Lösungen anschließend optimal für den praktischen Einsatz zu gestalten. Neben dem deutschen Versicherungsmarkt, auf dem wir bereits gut vernetzt sind, planen wir die Ausweitung auch auf andere europäische und internationale Märkte. Des Weiteren ist es unser Ziel, unsere Technologie auch in anderen Branchen einzuführen. Der Fintech Bereich ist zum Beispiel sehr interessant für uns. Hier gilt es aber zunächst eine umfangreiche Marktexploration zu unternehmen, um zu schauen, wie unsere Lösung dort den besten Mehrwert stiften kann.

Ein weiterer wichtiger nächster Schritt ist die ISO 27001 Zertifizierung. Die ist für uns als Startup ein richtig großer Brocken, aber bringt uns auch enorm nach vorne, was den Datenschutz und die Datensicherheit betrifft. Wir gestalten nicht nur unser Produkt, sondern auch unsere Prozesse im Unternehmen DSGVO-konform. Mit einer innovativen KI-Lösung und einer datenschutzkonformen Art und Weise, sie einzusetzen, sind wir zuversichtlich, dass VAARHAFT als europäischer Anbieter eine starke Position in der KI-Landschaft behaupten und ausbauen wird.

Was wünscht Ihr Euch für unsere technologische oder digitale Zukunft?
Für unsere technologische und digitale Zukunft wünschen wir uns mehrere entscheidende Entwicklungen: Erstens ist es uns sehr wichtig, dass Medienkompetenzbildung einen festen Platz im Schulunterricht erhält. Schülerinnen und Schüler sollten frühzeitig lernen, wie sie digitale Medien kritisch hinterfragen und erkennen können, wenn Inhalte manipuliert wurden, insbesondere im Hinblick auf Deepfakes und andere Formen digitaler Täuschung. Diese Aufklärung und Sensibilisierung sind essentiell, um die junge Generation für die Herausforderungen und potenziellen Gefahren zu wappnen und weiterhin eine möglichst freie Meinungsbildung zu ermöglichen.

Zweitens wünschen wir uns mehr sogenannte “Safe Spaces”, in denen Corporates und Startups unkompliziert und schnell zusammenarbeiten können. Solche Innovationsräume und branchenspezifische Kollaborationsprogramme, wie z.B. das InsurLab Germany oder die Versicherungsforen Leipzig, fördern den Austausch und die gemeinsame Entwicklung neuer Produkte, indem sie bürokratische Hürden abbauen und eine kreative Zusammenarbeit ermöglichen. Diese Umgebungen sind unserer Meinung nach entscheidend, um innovative Ideen effizient in die Praxis umzusetzen und den technologischen Fortschritt zu beschleunigen. Schließlich ist es uns wichtig, dass die EU keine weiteren und noch strengeren Restriktionen im Bereich der Künstlichen Intelligenz (KI) einführt. Stattdessen sollten bestehende Regelungen eher überdacht und gegebenenfalls angepasst werden, um ein Gleichgewicht zwischen Sicherheitsbedenken und Innovationsfreiheit zu gewährleisten. Eine übermäßige Reglementierung könnte das Potenzial der KI-Technologie einschränken und Europa im globalen Wettbewerb zurückwerfen. Es ist entscheidend, dass wir einen Rahmen schaffen, der sowohl die Entwicklung als auch die Anwendung von KI fördert, ohne die Sicherheit und ethische Standards zu vernachlässigen.

Welchen Rat möchtet Ihr jungen Unternehmer:innen und Tech-Innovator:innen geben, die ihre Ziele erreichen wollen und vielleicht auch am Deep Tech Award 2025 teilnehmen möchten? Da Ihr es von 100 Bewerbern unter die Finalist:innen geschafft habt, gehen wir davon aus, dass Ihr hier einige echte Profi-Tipps habt.
Den Ratschlag, dass man früh Fehler machen sollte, brauchen wir wahrscheinlich nicht mehr geben, das gehört als Unternehmer:in oder Erfinder:in dazu.
Unser Ratschlag ist: Lasst euch niemals nur von einer einzigen Meinung leiten oder beeinflussen. Man kann sich als Gründer:in viele Meinungen und Ratschläge anhören, und viele mögen auch sehr wertvoll sein. Aber viele sind es auch eher nicht und nicht jeder Tipp passt zu eurem Startup und zu eurer Idee. Es bedarf hier viel Feingefühl, die “sinnvollen” Ratschläge herauszufiltern. Am Ende steht ihr jedoch immer mit eurer Entscheidung für euer Startup “alleine” (oder zumindest im Team) da. Seid mutig, diese Entscheidungen auch “alleine” zu treffen. Und ganz wichtig. Sprecht möglichst früh mit euren potenziellen Nutzer*innen, um das Problem und die Lösung zu validieren. Geht raus in den Markt und sprecht mit möglichst vielen potenziellen Kunden, um früh herauszufinden, was wirklich gebraucht wird und wo ein Problem besteht und wo vielleicht auch nicht. Nur so könnt ihr eure Lösung perfekt auf die Bedürfnissen der Kunden ausrichten und einen Need erzeugen, der euch anschließend weit genug tragen wird.

Vielen Dank für all Eure faszinierenden Einblicke!