Endor Labs hat eine neue Plattform gestartet, um über 900.000 Open-Source-KI-Modelle nach Sicherheit, Aktivität, Qualität und Popularität zu bewerten. Die Initiative soll Bedenken hinsichtlich der Zuverlässigkeit und Sicherheit von KI-Modellen ausräumen, die oft komplexe Abhängigkeiten und Schwachstellen aufweisen, berichtet VentureBeat. Entwickler können die Plattform zu den Fähigkeiten der Modelle befragen und erhalten Einblicke in deren Sicherheit und die letzten Updates. Das Scoring-System verwendet 50 Metriken und sucht kontinuierlich nach Änderungen in den Modellen.
George Apostolopoulos von Endor Labs weist auf die Risiken hin, die mit KI-Modellen verbunden sind, einschließlich der Einschleusung von bösartigem Code und kompromittierten Anmeldedaten, und betont die Notwendigkeit von Transparenz in diesem Bereich. Er weist darauf hin, dass die KI-Entwicklung Parallelen zu Open-Source-Software aufweist, aber aufgrund der Art der Modelle und ihrer Abhängigkeiten zusätzliche Komplexität mit sich bringt.
Die Plattform wird im Laufe der Zeit auf andere Anbieter ausgeweitet werden, einschließlich kommerzieller Anbieter wie OpenAI. Darüber hinaus werden Lizenzfragen im Zusammenhang mit den für das Training von KI-Modellen verwendeten Datensätzen behandelt. Insgesamt zielt die Initiative darauf ab, die Sicherheit und Governance von KI zu verbessern und gleichzeitig ihre Akzeptanz zu erhöhen.
