Sicherheitsforscher Altay Akkus hat aufgezeigt, wie sich KI-Modelle aus mobilen Anwendungen extrahieren lassen. In seiner technischen Analyse demonstrierte er den Prozess anhand der Apps Microsoft Seeing AI und Adobe Scan. Akkus nutzte beispielsweise das Tool Frida, um das Währungserkennungsmodell aus der Seeing AI App zu extrahieren. Diese App wurde ursprünglich entwickelt, um Sehbehinderten bei der Erkennung verschiedener Währungen zu helfen.
Der Forscher erläuterte den technischen Prozess, bei dem er das TensorFlow Lite Framework abfing und die unverschlüsselten Modelldateien sicherte. Mit dem Visualisierungstool Netron konnte er das extrahierte Modell erfolgreich verifizieren. Die beschriebene Methode lässt sich bei allen mobilen Anwendungen anwenden, die TensorFlow Lite für KI-Verarbeitung nutzen. Akkus weist darauf hin, dass die Extraktion von KI-Modellen rechtliche Fragen aufwirft, da diese als geistiges Eigentum gelten können.
