Jason Koebler, Mitgründer von 404 Media, berichtet über eine neue Entwicklung im Bereich Social Media: Generative KI wird als Werkzeug für massenhafte „Brute-Force-Angriffe“ auf Algorithmen eingesetzt. In seinem Artikel erklärt Koebler, dass KI-Nutzer innerhalb von Minuten Dutzende Beiträge erstellen können, um schnell herauszufinden, was bei Algorithmen gut ankommt. Dieser Ansatz führt dazu, dass menschlich erstellte … Weiterlesen …
Nutzer haben entdeckt, dass Googles KI-Modell Gemini 2.0 Flash Wasserzeichen von Bildern entfernen kann, auch von Getty Images und anderen Bildagenturen. Kyle Wiggers berichtet für TechCrunch, dass diese umstrittene Funktion in vielen Social-Media-Post vorgeführt wird. Im Gegensatz zu Konkurrenzmodellen wie Anthropics Claude 3.7 Sonnet und OpenAIs GPT-4o, die solche Anfragen ablehnen, scheint Gemini weniger Einschränkungen … Weiterlesen …
Die meisten KI-Dienste zur Stimmklonung bieten unzureichenden Schutz gegen nicht einvernehmliche Stimmimitationen, wie eine Untersuchung von Consumer Reports zeigt. Von sechs führenden öffentlich zugänglichen Tools haben fünf leicht zu umgehende Sicherheitsvorkehrungen. NBC News berichtet, dass vier Dienste (ElevenLabs, Speechify, PlayHT und Lovo) lediglich das Ankreuzen eines Kästchens zur Bestätigung der Autorisierung verlangen. Resemble AI fordert … Weiterlesen …
Das Startup-Unternehmen „AI or Not“ hat eine Seed-Finanzierung von 5 Millionen Dollar erhalten. Wie Dean Takahashi berichtet, führte Foundation Capital die Investitionsrunde an, unterstützt von GTMFund, Plug and Play und weiteren Investoren. Die Plattform entwickelt Technologien zur Erkennung von KI-generiertem Content und Deepfakes. Die Firma warnt vor möglichen Verlusten von über 40 Milliarden Dollar durch … Weiterlesen …
Ein besorgniserregender Trend breitet sich in sozialen Medien aus: Nutzer verwenden die KI-Software Runway, um echte Gewaltvideos in Animationen im Stil der Minions-Filme umzuwandeln. Wie Emanuel Maiberg von 404 Media berichtet, werden dabei grausame Aufnahmen von Selbstmorden und Terroranschlägen verfremdet. Die veränderten Videos erreichen oft tausende Aufrufe, bevor sie entdeckt werden. Herkömmliche Erkennungssysteme der Plattformen … Weiterlesen …
Eine neue Studie zeigt, dass KI außergewöhnlich erfolgreich personalisierte Phishing-E-Mails erstellen und versenden kann. Die Erfolgsquote liegt bei über 50 Prozent. Die Forschungsarbeit von Simon Lermen und Fred Heiding wurde jetzt veröffentlicht. Die Wissenschaftler verglichen vier verschiedene Methoden des Phishings: zufällige traditionelle Phishing-E-Mails, von Experten erstellte Nachrichten, vollautomatische KI-Nachrichten und KI-Nachrichten mit menschlicher Überprüfung. Beide … Weiterlesen …
Ein aktueller Bericht des Sicherheitsunternehmens Recorded Future zeigt, dass die KI-Stimmsynthese-Technologie von ElevenLabs höchstwahrscheinlich in einer russischen Einflussoperation verwendet wurde. Wie Charles Rollet für TechCrunch berichtet, zielte die als „Operation Undercut“ bekannte Kampagne darauf ab, die europäische Unterstützung für die Ukraine zu untergraben. Die Kampagne nutzte KI-generierte Stimmen in verschiedenen europäischen Sprachen, darunter Deutsch, Französisch, … Weiterlesen …
Eine betrügerische Website gibt sich als die eingestellte Zeitung Ashland Daily Tidings aus und veröffentlicht KI-generierte Inhalte unter gestohlenen Identitäten echter Journalisten. Diese Erkenntnisse stammen aus einer Untersuchung von Ryan Haas für Oregon Public Broadcasting (OPB). Die Website erschien nach der Schließung der echten Zeitung im Jahr 2023 und listete acht angebliche Reporter auf. Die … Weiterlesen …
Eine neue Analyse von Originality AI, die exklusiv mit WIRED geteilt wurde, zeigt, dass mehr als 54 Prozent der längeren englischsprachigen Beiträge auf LinkedIn wahrscheinlich KI-generiert sind. Die Studie basiert auf einer Untersuchung von 8.795 öffentlichen Beiträgen. Laut Autorin Kate Knibbs wurde ein deutlicher Anstieg von KI-generierten Inhalten nach der Einführung von ChatGPT Anfang 2023 … Weiterlesen …
Auf Spotify häufen sich Fälle von gefälschter Musik, die mittels künstlicher Intelligenz erstellt wurde. Wie The Verge berichtet, werden diese Fälschungen gezielt auf den verifizierten Seiten etablierter Künstler platziert. Besonders betroffen sind Musiker mit einwortigen Namen. Die Betrüger nutzen dabei Schwachstellen im Vertriebssystem von Spotify aus. Experten schätzen den jährlichen Schaden durch Streaming-Betrug auf 2-3 … Weiterlesen …