Missbrauch

KI für Immobilienanzeigen: Die feine Grenze zur Irreführung

Immobilienmakler nutzen zunehmend generative künstliche Intelligenz, um Wohnungen und Häuser zu vermarkten. Das berichtet Kat Tenbarge für das Magazin Wired. Mit KI-Werkzeugen erstellen sie aus Fotos ganze Videorundgänge, möblieren leere Räume virtuell und verfassen Objektbeschreibungen. Branchenkennern zufolge setzt eine große Mehrheit der Makler bereits KI ein. Befürworter betonen die erhebliche Kosten- und Zeitersparnis. Alok Gupta, …

Weiterlesen …

Spotify führt neue Regeln für KI-generierte Musik ein

Spotify reagiert mit neuen Richtlinien auf den zunehmenden Einsatz von künstlicher Intelligenz in der Musik. Die Änderungen umfassen die Kennzeichnung von KI-Inhalten, einen neuen Spam-Filter und ein klares Verbot von unerlaubten Stimmenklonen. Darüber berichtet Sarah Perez für TechCrunch. Für die Kennzeichnung wird das Unternehmen den Industriestandard DDEX einführen. Dieses System ermöglicht es Musikpartnern, in den …

Weiterlesen …

KI-Chatbots schaffen neue Einfallstore für Phishing-Angriffe

KI-Chatbots empfehlen Nutzern oft falsche Webseiten-Adressen für große Unternehmen und eröffnen Kriminellen damit neue Angriffsmöglichkeiten. Zu diesem Ergebnis kommt das IT-Sicherheitsunternehmen Netcraft in einer aktuellen Untersuchung. Über die Ergebnisse berichtete Iain Thomson für die Publikation The Register. Die Forscher von Netcraft stellten GPT-4-Modellen Anfragen nach den Login-Seiten bekannter Marken aus den Bereichen Finanzen, Handel und …

Weiterlesen …

Open-Source-Tool Anubis schützt Webseiten vor KI-Scrapern

Ein Open-Source-Programm namens Anubis schützt Webseitenbetreiber vor der Überlastung durch KI-Daten-Scraper. Die Entwicklerin Xe Iaso hat das Tool in ihrer Freizeit geschaffen, wie Emanuel Maiberg für 404 Media berichtet. Anlass war, dass ihr eigener Server durch einen Bot, der Daten für KI-Modelle sammelte, wiederholt zum Absturz gebracht wurde. Seit seiner Veröffentlichung im Januar wurde Anubis …

Weiterlesen …

Betrüger nutzen KI für den Verkauf erfundener Pflanzen

Online-Betrüger verwenden zunehmend künstliche Intelligenz, um Bilder von Pflanzen zu verkaufen, die nicht existieren. Die gefälschten Angebote richten sich an Pflanzenliebhaber mit unrealistisch schönen Bildern exotischer Gewächse zu günstigen Preisen. Ein Blogbeitrag des Händlers Bob’s Market warnt, dass Käufer nach der Bezahlung oft nur gewöhnliches Saatgut, eine alltägliche Pflanze oder gar keine Ware erhalten. Laut …

Weiterlesen …

Wie Fake Content den legitimen Bloggern schadet

Der selbsternannte SEO-Spezialist Jesse Cunningham hat offen darüber gesprochen, wie er mit KI gefälschte Inhalte erstellt, die speziell auf ältere Frauen auf Facebook und Pinterest abzielen. Laut eines Berichts von Maggie Harrison Dupré für Futurism produziert Cunningham große Mengen KI-generierter Artikel und Bilder zu Themen wie Zimmerpflanzen oder Rezepte und schreibt diese fiktiven Bloggern mit …

Weiterlesen …

Bericht: OpenAI verkürzt Sicherheitstests für KI-Modelle

OpenAI hat die Zeit für Sicherheitstests seiner KI-Modelle drastisch reduziert, was Bedenken über mangelnde Schutzmaßnahmen auslöst. Laut eines Berichts der Financial Times von Cristina Criddle haben Tester jetzt nur noch wenige Tage statt mehrerer Monate für Evaluierungen. Acht mit den Testverfahren vertraute Personen berichten, dass die Tests weniger gründlich geworden sind, während das 300-Milliarden-Dollar-Unternehmen unter …

Weiterlesen …

OpenAI-Chatbot für Spam-Angriffe auf 80.000 Websites missbraucht

Sicherheitsforscher von SentinelOne’s SentinelLabs haben aufgedeckt, dass Spammer den Chatbot von OpenAI nutzten, um einzigartige Nachrichten zu erzeugen, die Spam-Filter auf mehr als 80.000 Websites umgehen konnten. Wie Dan Goodin für Ars Technica berichtet, blieb dieser Missbrauch mindestens vier Monate lang unbemerkt, bevor OpenAI das Konto der Spammer im Februar sperrte. Die als AkiraBot bekannte …

Weiterlesen …

KI-generierte Inhalte überschwemmen Social Media

Jason Koebler, Mitgründer von 404 Media, berichtet über eine neue Entwicklung im Bereich Social Media: Generative KI wird als Werkzeug für massenhafte „Brute-Force-Angriffe“ auf Algorithmen eingesetzt. In seinem Artikel erklärt Koebler, dass KI-Nutzer innerhalb von Minuten Dutzende Beiträge erstellen können, um schnell herauszufinden, was bei Algorithmen gut ankommt. Dieser Ansatz führt dazu, dass menschlich erstellte …

Weiterlesen …

Googles Gemini erlaubt Nutzern, Wasserzeichen in Bildern zu entfernen

Nutzer haben entdeckt, dass Googles KI-Modell Gemini 2.0 Flash Wasserzeichen von Bildern entfernen kann, auch von Getty Images und anderen Bildagenturen. Kyle Wiggers berichtet für TechCrunch, dass diese umstrittene Funktion in vielen Social-Media-Post vorgeführt wird. Im Gegensatz zu Konkurrenzmodellen wie Anthropics Claude 3.7 Sonnet und OpenAIs GPT-4o, die solche Anfragen ablehnen, scheint Gemini weniger Einschränkungen …

Weiterlesen …