Scale AI hatte zwischen März 2023 und April 2024 erhebliche Spam- und Sicherheitsprobleme beim Training von Googles Gemini-Chatbot. Dies geht aus internen Dokumenten hervor, die das Magazin Inc. erhalten hat. Die Probleme betrafen das „Bulba Experts“-Programm, das qualifizierte Spezialisten für die Verbesserung von Googles KI-System einsetzen sollte.
Die Dokumente zeigen, dass unqualifizierte Auftragnehmer die Plattform überfluteten und minderwertige Arbeit ablieferten. Diese wurde als „Kauderwelsch“ oder ChatGPT-generierte Inhalte beschrieben. Viele Mitwirkende besaßen nicht die erforderlichen Hochschulabschlüsse und Englischkenntnisse für die spezialisierten Aufgaben. Trotz schlechter Arbeitsqualität wurden viele Spammer bezahlt, da Scale AI Schwierigkeiten hatte, alle zu identifizieren und zu entfernen.
Ehemalige Auftragnehmer berichteten Inc., dass das Unternehmen unzureichende Sicherheitsmaßnahmen und Hintergrundprüfungen hatte. Mitwirkende aus Entwicklungsländern nutzten VPNs zur Umgehung der Erkennung. Manche verkauften sogar ihre Accounts weiter. Das Wort „Spam“ erscheint auf 83 Seiten der internen Dokumente.
Die Enthüllungen folgen auf Metas 14-Milliarden-Dollar-Investition in Scale AI. Google beendete daraufhin die Zusammenarbeit mit dem Unternehmen. Scale AI widersprach dem Bericht und verwies auf Schutzmaßnahmen gegen Spam.