Kritik

Kritik: Heutige KI-Funktionen stehen dem vollen Potenzial im Weg

Pete Koomen, Tech-Experte und Partner bei Y Combinator, hat eine scharfe Kritik an Googles KI-Assistent für Gmail veröffentlicht. In seinem Blogbeitrag „AI Horseless Carriages“ argumentiert er, dass viele KI-Anwendungen deshalb scheitern, weil Entwickler den Nutzern nicht erlauben, die Systemprompts anzupassen, die das Verhalten der KI-Modelle steuern. Koomen vergleicht aktuelle KI-Implementierungen mit frühen Automobilen, die lediglich …

Weiterlesen …

Bericht: OpenAI verkürzt Sicherheitstests für KI-Modelle

OpenAI hat die Zeit für Sicherheitstests seiner KI-Modelle drastisch reduziert, was Bedenken über mangelnde Schutzmaßnahmen auslöst. Laut eines Berichts der Financial Times von Cristina Criddle haben Tester jetzt nur noch wenige Tage statt mehrerer Monate für Evaluierungen. Acht mit den Testverfahren vertraute Personen berichten, dass die Tests weniger gründlich geworden sind, während das 300-Milliarden-Dollar-Unternehmen unter …

Weiterlesen …

OpenAI-Chatbot für Spam-Angriffe auf 80.000 Websites missbraucht

Sicherheitsforscher von SentinelOne’s SentinelLabs haben aufgedeckt, dass Spammer den Chatbot von OpenAI nutzten, um einzigartige Nachrichten zu erzeugen, die Spam-Filter auf mehr als 80.000 Websites umgehen konnten. Wie Dan Goodin für Ars Technica berichtet, blieb dieser Missbrauch mindestens vier Monate lang unbemerkt, bevor OpenAI das Konto der Spammer im Februar sperrte. Die als AkiraBot bekannte …

Weiterlesen …

Googles KI-Übersichten verursachen massive Trafficverluste für Webseitenbetreiber

Webseitenbetreiber erleben dramatische Trafficeinbußen nach der Einführung von Googles KI-Übersichten (AI Overviews). Eine Untersuchung von Bloomberg-Journalisten Davey Alba und Julia Love zeigt, dass viele unabhängige Websites seit März 2024 Besucherrückgänge von bis zu 70% verzeichnen. Morgan McBride, Betreiberin der DIY-Website Charleston Crafted, erschien ironischerweise in einer Google-Werbung, die zeigte, wie der Suchmaschinenriese ihr Geschäft förderte. …

Weiterlesen …

KI-Crawler überlasten Open-Source-Infrastruktur

Freie und Open-Source-Software (FOSS) Projekte kämpfen mit massiven Infrastrukturproblemen durch aggressive KI-Crawler. Niccolò Venerandi schreibt, dass zahlreiche FOSS-Projekte Ausfälle und Störungen durch KI-Crawler erleben, die Standardprotokolle wie robots.txt ignorieren. SourceHut-Gründer Drew DeVault beschrieb, wie LLM-Crawler auf ressourcenintensive Endpunkte zugreifen und dabei zufällige User-Agents von tausenden IP-Adressen nutzen. Die GitLab-Infrastruktur von KDE wurde kürzlich durch Crawler …

Weiterlesen …

Prominente aus Hollywood protestieren gegen Urheberrechtslockerungen für KI-Unternehmen

Mehr als 400 Führungspersönlichkeiten aus der Kreativbranche Hollywoods haben einen offenen Brief unterzeichnet, der sich gegen die Schwächung des Urheberrechts für KI-Unternehmen ausspricht. Der Brief, über den Todd Spangler in Variety berichtet, richtet sich an das Büro für Wissenschafts- und Technologiepolitik der Trump-Regierung. Unterzeichner wie Ben Stiller, Mark Ruffalo und Paul McCartney argumentieren, dass KI-Firmen …

Weiterlesen …

Meinung: KI-Unternehmen gefährden frei verfügbares Wissen

Die Autorin Molly White warnt, dass KI-Unternehmen freie Wissensprojekte ausbeuten, ohne etwas zurückzugeben. In ihrem Newsletter „Citation Needed“ beschreibt sie, wie generative KI-Systeme offene Ressourcen wie Wikipedia nutzen, dabei teure Anforderungen an deren Infrastruktur stellen und weder Quellenangaben noch finanzielle Unterstützung bieten. Die eigentliche Gefahr sei nicht, dass KI offenes Wissen verwendet, sondern dass diese …

Weiterlesen …

KI-generierte Inhalte überschwemmen Social Media

Jason Koebler, Mitgründer von 404 Media, berichtet über eine neue Entwicklung im Bereich Social Media: Generative KI wird als Werkzeug für massenhafte „Brute-Force-Angriffe“ auf Algorithmen eingesetzt. In seinem Artikel erklärt Koebler, dass KI-Nutzer innerhalb von Minuten Dutzende Beiträge erstellen können, um schnell herauszufinden, was bei Algorithmen gut ankommt. Dieser Ansatz führt dazu, dass menschlich erstellte …

Weiterlesen …

Amazon beendet lokale Verarbeitung von Alexa-Anfragen

Amazon schafft eine Datenschutzfunktion ab, Alexa-Anfragen nur lokal zu verarbeiten. Laut eines Berichts von Scharon Harding bei Ars Technica tritt diese Änderung am 28. März in Kraft und fällt mit der Einführung von Alexa+, Amazons neuem KI-Assistenten im Abo-Modell, zusammen. Alle Sprachbefehle an Echo-Geräte werden künftig an Amazons Server gesendet, selbst für Nutzer, die sich …

Weiterlesen …

Signal-Präsidentin warnt vor Datenschutzrisiken bei KI-Agenten

Meredith Whittaker, Präsidentin des Messenger-Dienstes Signal, hat ernsthafte Bedenken bezüglich des Datenschutzes bei selbstständigen KI-Systemen geäußert. Bei einer Podiumsdiskussion auf der SXSW-Konferenz in Austin verglich Whittaker die Nutzung solcher KI-Agenten mit dem „Einlegen des Gehirns in ein Glas“. Wie Sarah Perez für TechCrunch berichtet, benötigen diese Systeme umfassende Berechtigungen, um Alltagsaufgaben zu erledigen. Die KI …

Weiterlesen …