Der selbsternannte SEO-Spezialist Jesse Cunningham hat offen darüber gesprochen, wie er mit KI gefälschte Inhalte erstellt, die speziell auf ältere Frauen auf Facebook und Pinterest abzielen. Laut eines Berichts von Maggie Harrison Dupré für Futurism produziert Cunningham große Mengen KI-generierter Artikel und Bilder zu Themen wie Zimmerpflanzen oder Rezepte und schreibt diese fiktiven Bloggern mit … Weiterlesen …
OpenAI hat die Zeit für Sicherheitstests seiner KI-Modelle drastisch reduziert, was Bedenken über mangelnde Schutzmaßnahmen auslöst. Laut eines Berichts der Financial Times von Cristina Criddle haben Tester jetzt nur noch wenige Tage statt mehrerer Monate für Evaluierungen. Acht mit den Testverfahren vertraute Personen berichten, dass die Tests weniger gründlich geworden sind, während das 300-Milliarden-Dollar-Unternehmen unter … Weiterlesen …
Sicherheitsforscher von SentinelOne’s SentinelLabs haben aufgedeckt, dass Spammer den Chatbot von OpenAI nutzten, um einzigartige Nachrichten zu erzeugen, die Spam-Filter auf mehr als 80.000 Websites umgehen konnten. Wie Dan Goodin für Ars Technica berichtet, blieb dieser Missbrauch mindestens vier Monate lang unbemerkt, bevor OpenAI das Konto der Spammer im Februar sperrte. Die als AkiraBot bekannte … Weiterlesen …
Jason Koebler, Mitgründer von 404 Media, berichtet über eine neue Entwicklung im Bereich Social Media: Generative KI wird als Werkzeug für massenhafte „Brute-Force-Angriffe“ auf Algorithmen eingesetzt. In seinem Artikel erklärt Koebler, dass KI-Nutzer innerhalb von Minuten Dutzende Beiträge erstellen können, um schnell herauszufinden, was bei Algorithmen gut ankommt. Dieser Ansatz führt dazu, dass menschlich erstellte … Weiterlesen …
Nutzer haben entdeckt, dass Googles KI-Modell Gemini 2.0 Flash Wasserzeichen von Bildern entfernen kann, auch von Getty Images und anderen Bildagenturen. Kyle Wiggers berichtet für TechCrunch, dass diese umstrittene Funktion in vielen Social-Media-Post vorgeführt wird. Im Gegensatz zu Konkurrenzmodellen wie Anthropics Claude 3.7 Sonnet und OpenAIs GPT-4o, die solche Anfragen ablehnen, scheint Gemini weniger Einschränkungen … Weiterlesen …
Die meisten KI-Dienste zur Stimmklonung bieten unzureichenden Schutz gegen nicht einvernehmliche Stimmimitationen, wie eine Untersuchung von Consumer Reports zeigt. Von sechs führenden öffentlich zugänglichen Tools haben fünf leicht zu umgehende Sicherheitsvorkehrungen. NBC News berichtet, dass vier Dienste (ElevenLabs, Speechify, PlayHT und Lovo) lediglich das Ankreuzen eines Kästchens zur Bestätigung der Autorisierung verlangen. Resemble AI fordert … Weiterlesen …
Das Startup-Unternehmen „AI or Not“ hat eine Seed-Finanzierung von 5 Millionen Dollar erhalten. Wie Dean Takahashi berichtet, führte Foundation Capital die Investitionsrunde an, unterstützt von GTMFund, Plug and Play und weiteren Investoren. Die Plattform entwickelt Technologien zur Erkennung von KI-generiertem Content und Deepfakes. Die Firma warnt vor möglichen Verlusten von über 40 Milliarden Dollar durch … Weiterlesen …
Ein besorgniserregender Trend breitet sich in sozialen Medien aus: Nutzer verwenden die KI-Software Runway, um echte Gewaltvideos in Animationen im Stil der Minions-Filme umzuwandeln. Wie Emanuel Maiberg von 404 Media berichtet, werden dabei grausame Aufnahmen von Selbstmorden und Terroranschlägen verfremdet. Die veränderten Videos erreichen oft tausende Aufrufe, bevor sie entdeckt werden. Herkömmliche Erkennungssysteme der Plattformen … Weiterlesen …
Eine neue Studie zeigt, dass KI außergewöhnlich erfolgreich personalisierte Phishing-E-Mails erstellen und versenden kann. Die Erfolgsquote liegt bei über 50 Prozent. Die Forschungsarbeit von Simon Lermen und Fred Heiding wurde jetzt veröffentlicht. Die Wissenschaftler verglichen vier verschiedene Methoden des Phishings: zufällige traditionelle Phishing-E-Mails, von Experten erstellte Nachrichten, vollautomatische KI-Nachrichten und KI-Nachrichten mit menschlicher Überprüfung. Beide … Weiterlesen …
Ein aktueller Bericht des Sicherheitsunternehmens Recorded Future zeigt, dass die KI-Stimmsynthese-Technologie von ElevenLabs höchstwahrscheinlich in einer russischen Einflussoperation verwendet wurde. Wie Charles Rollet für TechCrunch berichtet, zielte die als „Operation Undercut“ bekannte Kampagne darauf ab, die europäische Unterstützung für die Ukraine zu untergraben. Die Kampagne nutzte KI-generierte Stimmen in verschiedenen europäischen Sprachen, darunter Deutsch, Französisch, … Weiterlesen …